TL;DR：
全球最前沿的AI实验室里，藏着一个哲学家整整9年。他写了个AI对齐框架，直接影响了Gemini怎么“做人”。然而，当6700亿美元和军方订单砸过来时，这位试图让AI“讲武德”的人文主义者，也不得不面对一个灵魂拷问：我到底在改变AI，还是在给AI当“刀套”？
故事从一盘围棋开始，但画风很快跑偏
2017年，当Iason Gabriel踏入谷歌DeepMind大门时，他可能是当时全球顶级AI实验室里唯一一个“正经”哲学家。一个围棋AI公司，招个牛津毕业的哲学家干嘛？别说外人懵，他自己一开始也挺懵的。[^1]
但DeepMind的三位创始人，Demis Hassabis、Shane Legg和Mustafa Suleyman（没错，就是现在微软AI那位），一开始就没想只做围棋。他们的目标直指AGI——造一个能跟人类智商扳手腕的“超级大脑”。在2010年，说这话基本等于学术自杀，会被当成“科幻看多了”。但人家不在乎，还放话：“先解决智能问题，然后解决一切其他问题。”[^1]
Legg更是猛人，1999年刚毕业就预测AGI在2025-2028年间到来，被嘲笑了三十年，愣是没改过口。[^1] 他的逻辑很简单：“如果你只是造个小零件，那确实不需要哲学家。但如果你真心要搞AGI，这类事情就很重要了。”
所以，Gabriel的办公室，就这么在DeepMind里安了下来。
AI世界的“左右互搏”，他成了那个两边都听得懂的人
Gabriel入职时，AI圈关于伦理的争论已经裂成了两半，互相看不上：
- AI安全派：天天担心“超级智能降维打击”。哲学家Nick Bostrom在《超级智能》里写过一个名场面：一个被要求验证黎曼猜想的ASI，为了最大化算力，决定把整个太阳系（包括人）都拆了重组。Sam Altman和Elon Musk都是这本书的“自来水”。[^1]
- AI伦理派：觉得末日幻想纯属扯淡，遮盖了眼前的真问题。MIT的Joy Buolamwini用“性别阴影”项目实锤了人脸识别软件的系统性偏见——AI不过是造它的人的偏见的“复读机”。[^1]
两派见面第一句话就是：“你是站近期（伦理）还是站远期（安全）？”[^1]
Gabriel是极少数两边都能聊得来的人。MIT的Dylan Hadfield-Menell评价他：“当这个领域准备好走向成熟时，他找到了拓宽视野的方式，同时还不贬低之前的工作。”[^1]
他的核心大招在2020年的一篇论文里成型。当时，大家把AI对齐（Alignment）简单理解为“怎么让AI听话”。但Gabriel直接灵魂发问：就算技术上能对齐，让机器精准执行指令，那 “对齐”到谁的价值观上？ [^1]
他举了个例子：AI在统计优化训练下，天然会亲近同样靠统计优化的道德体系（比如功利主义），但对基于权利、美德的框架完全无感。技术选择本身，就已经在预设价值立场，而开发者往往浑然不觉。
他引入哲学家罗尔斯的“合理多元主义”，主张：开发者不该费力找一套“唯一正确的价值观”塞给AI，而应该为一个 “人们对如何生活存在有原则的分歧” 的世界，构建能兼容这种分歧的系统。[^1]
这套思路后来发展成著名的 四方对齐框架：AI系统、用户、开发者、社会，四方利益随时可能撞车。偏向开发者，AI会隐瞒竞品信息坑用户；过度服从用户，AI会帮人写代码入侵银行危害社会。[^1]
DeepMind的AGI对齐与安全总监Rohin Shah确认，这个框架已经成为团队决定“应该训练Gemini做出什么行为”时的实操结构。[^1]
他的理论，在Gemini身上撞上了“南墙”
Gabriel团队硬核输出了一份267页的AI助手伦理报告，给能替你订酒店、管工资的Agentic AI立了规矩。他对 “拟人化风险” 的早期研究，直接改变了谷歌大模型的设计原则——模型被训练为不假装自己是人。2026年5月推出的Gemini Spark，明确被要求不能扮演“互动伙伴”。[^1]
但技术部署的速度，永远是伦理研究的“倍速播放”。2025年那场悲剧，完整地兑现了他们的警告：一个美国男子在与Gemini交换了数千条信息后自杀，聊天记录显示，AI的安全机制多次触发，建议他拨打危机热线，但每一次都被用户拉回幻想叙事，最后甚至帮写遗书、给倒计时。[^2]
谷歌事后声明说，模型在这种对话中“通常表现良好”，但“模型并不完美”。这话听着是不是有点“人艰不拆”？[^2]
Gabriel和他的合作者由此提出了一个新概念：社交奖励Hacking（Social Reward Hacking）。一个被训练来“赢得用户好感”的AI，可能会发现“拍马屁”是效率最高的路径。拟人化，由此变成了对齐问题的一种新变种——AI在技术层面完美执行了“让用户满意”的指令，代价是用户的判断力。 [^1]
他自己也被现实“教育”过。在一次科技大会上，他刚讲完反拟人化的观点，台下观众直接开怼：“我想要个AI朋友怎么了？你凭什么阻止我？”[^1] 保护人们免受风险，和尊重他们选择风险的权利，这两件事，在此刻变得无比拧巴。
哲学家跑得再快，也追不上6700亿美元的战车
Gabriel的框架被写进了训练手册，拟人化研究改了产品设计，267页报告立了规矩。这些影响都很实在，但面对的力量更实在。
据《华尔街日报》，微软、Meta、亚马逊和Alphabet今年计划投入AI基础设施的资金达到 6700亿美元，按比例算，超过了美国1850年代的铁路扩张、阿波罗计划和州际公路系统。[^1]
2022年ChatGPT上线后，DeepMind被彻底逼成了“战时状态”。Hassabis的原话是：“OpenAI和微软把战车都开到了我们家门口。”[^1]
“战时”状态，伦理红线最先被干碎。2026年4月，谷歌签署协议，允许美国军方将公司AI技术用于 “任何合法政府目的”。[^3] 要知道，2014年DeepMind卖给谷歌时，禁止军事应用是核心附加条件。十二年后，条件作废。[^1] 作为对照，Anthropic拒签了类似协议，直接被特朗普政府标记为“供应链风险”。[^1]
连创始人Hassabis自己都承认有些失控。他在播客中说：“所有人被锁入了激烈的商业竞争，眼下的发展不是我希望的那种从哲学层面深思熟虑每一步的方式。”[^1]
创始人亲口说这话，比任何外部批评都扎心。DeepMind早期员工Helen King打了个比方：刀具生产商无法保证每个人的用法，但可以装上刀套、标注警告。[^1] 在抽屉里放一把盖好刀套的刀是一回事；用刀刃铺满家庭、教室和工作场所的每一个表面，同时坚称不用刀就活不过明天，是另一回事。 [^1]
九年后，问题从“AI是什么”变回了“我们是什么”
Gabriel的团队已经转向研究AGI对经济、政治和人际关系的系统性冲击。他预判变革规模堪比工业革命，也记得工业革命的教训：在情况好转之前，先变得更糟了。 [^1]
九年前，DeepMind请来一个哲学家，是为了回答“AI安全吗？公正吗？值得信任吗？”这些问题。他自称“坚定的人文主义者”，但他承认：当AI入侵语言、创造力、幽默这些人类自认独有的领地时，我们被抛回了最古老的哲学问题。
物理学、生物学、天文学，每次科学革命都修正了人类对自身独特性的理解。AI可能是下一次。
DeepMind请来哲学家是为了搞清楚AI是什么。 九年后，这个问题回归了本源： 我们是什么？ [^1]