TL;DR
AI伦理讨论会开到飞起，哲学家们忙着给算法“立规矩”，但数千亿美元投资已经像脱缰的野马冲向了商业化。嘴上说“要负责任的AI”，身体却很诚实——说到底，还是资本和地缘政治在悄悄掌舵。
最近《卫报》一篇关于Google DeepMind内部哲学家的长文刷了屏——这位名叫Iason Gabriel的学者，专职研究“AI到底该听谁的良心”。1 看起来挺励志对吧？大厂终于知道请个搞伦理的来镇场子了。
但一封读者来信直接泼了盆冷水：我们确实在认真讨论AI伦理，但真正决定方向的力量，根本不是哲学家或工程师，而是那些已经砸进去的几百亿美元。2
哲学家在DeepMind里干啥？不止是“喊停”
先说说这位Iason Gabriel到底何方神圣。牛津大学政治哲学出身，干过联合国开发计划署，2017年被朋友忽悠进了DeepMind。1 他的工作可不是在公司里对着程序员喊“这个功能不道德”，而是研究价值对齐——说白了，就是怎么让AI明白“什么是对的”。
他最近在学术会议上提出一个挺颠覆的观点：别老想着让AI“又听话又诚实”，这不够。应该让AI学会公平对待所有受影响方的诉求，就像开个听证会，听听所有人的意见再决策。3
听起来很美好对吧？但他自己也承认，这事儿比教AI下围棋难一万倍。
问题来了：讨论方向的时候，钱已经“上桌”了
《卫报》读者来信的核心痛点就一个字：钱。现在全球AI投资已经冲进数千亿美元级别，背后是商业回报的诱惑和地缘政治的较量。2 这些压力就像看不见的手，悄悄给技术发展定了调。
你在这边开会讨论“AI要不要有道德观”，那边微软和谷歌已经在砸钱部署数据中心、抢芯片、推应用了。社会还没反应过来，未来已经被资本“内定”了。
Gabriel本人可能也意识到这点，他在演讲里反复强调：我们需要前瞻性评估，不能等技术搞出来再想怎么管。4
一个尴尬的现实：伦理讨论成了“安慰剂”？
仔细想想，这其实是个结构性矛盾。公司花钱雇哲学家搞伦理，确实能提升品牌形象，也能避免踩一些红线。但只要商业模式不变——用户增长、营收、市场份额——那伦理建议就只能是个“建议”。
就像信里说的：“最重大的决定可能已经做出了。”2 你甚至可以开玩笑：AI伦理委员会的真正功能，可能是在技术翻车后帮忙写道歉信。
那我们该怎么办？别急，悲观中还有点希望
Gabriel的研究方向其实给出了一个解：把伦理嵌入技术流程。比如他参与创建的NeurIPS伦理审查流程，就是从论文投稿阶段就开始看研究有没有潜在危害。4
另一个思路是公共讨论。别光让科技巨头和少数专家闭门讨论，应该让普通人也有机会“投票”——不是那种形式上的问卷调查，而是真正影响产品规则的设计。
当然，这些听起来有点理想主义。但至少，当读者写信说“我们在辩论却无法改变方向”时，说明很多人并没有放弃。也许真正的改变，就是从承认“我们还没完全掌握方向”开始的。
毕竟，如果连DeepMind的专职哲学家都感叹“这是个深层的谜”，那我们这些旁观者，至少可以先保持清醒。1
引用
-
‘There’s this deep mystery of what, actually, is this thing?’: the philosopher inside Google DeepMind AI · The Guardian (2026/6/30) · 检索日期2026/7/4 ↩︎ ↩︎ ↩︎
-
We can debate the ethics of AI but can’t seem to change course | Letters · The Guardian (2026/7/3) · 检索日期2026/7/4 ↩︎ ↩︎ ↩︎
-
A Matter of Principle? AI Alignment as the Fair Treatment of Claims – Iason Gabriel · IASEAI 2025 (2025/8/13) · 检索日期2026/7/4 ↩︎
-
Iason Gabriel | The ethics of advanced AI assistants · YouTube (Schwartz Reisman Institute) (2024/4/18) · 检索日期2026/7/4 ↩︎ ↩︎