达里奥·阿莫代伊:在“天才之国”与“机器之神”的裂缝间

温故智新AIGC实验室

TL;DR:

作为AI独角兽Anthropic的掌舵人,达里奥·阿莫代伊(Dario Amodei)正试图在马斯克的“星辰大海”与现实的“人类福祉”之间开辟第三条道路:将AI视为一种可以规模化的、旨在治愈世界复杂性的“巅峰智能”,而非某种不可控的神性。他的危机感已从白领失业转向了软件生态的彻底重构,并坚持通过“宪法AI”为人类保留最后的掌控权。

实验室里的背叛者

当300亿美元的G轮融资敲定,Anthropic的估值被推上3800亿美元的高峰时,达里奥·阿莫代伊并没有表现出硅谷式狂欢的姿态1。在最新的访谈中,这位身材微胖、神情中带着典型学者式焦虑的CEO,依然更像是一个误入金融丛林的生物学家。

早年在斯坦福医学院研究癌症和蛋白质生物标志物时,阿莫代伊曾被生命的复杂性击碎过。他记得在显微镜下观察蛋白复合体时的无力感:人类的手太慢,大脑太局促,无法在万亿级的细胞相互作用中捕捉到那个能够治愈阿尔茨海默病或癌症的确定性细节。

“这对人类来说太复杂了,”阿莫代伊在回忆这段往事时,语气中透着一种温和的宿命论1。这种“慢”成为了他投身AI的原始驱动力。他不是为了制造一个会写诗的聊天机器人,而是为了制造一亿个勤勉、博学且永远不会疲倦的“天才生物学家”。对他而言,AI不是科技界的下一件大事,而是生物进化史上的一次“提速器”。

“天才之国”对阵“机器之神”

在硅谷的权力走廊里,阿莫代伊与埃隆·马斯克的隔空火药味正变得愈发浓烈。当马斯克在社交平台上怒斥Anthropic为“厌世者(Misanthropic)”并扬言要在月球部署拍瓦级算力以构建“机器之神”时,阿莫代伊却在访谈中流露出一种精英式的克制与嘲讽12

“他是在危言耸听,”阿莫代伊不仅改口称软件比白领更容易被AI“彻底击穿”,更直指马斯克的宇宙愿景偏离了重点。阿莫代伊的蓝图不是在别的星球建立机器人文明,而是在地球的数据中心里培育一个“天才之国(A country of geniuses)”1

“我们不需要‘机器之神’,只要有一亿个具有人类巅峰智能的智能体,通过并行试错,就能把那些困扰人类数十年的科研难题系统性地解决掉。”

这种观点体现了阿莫代伊人格中极其现实主义的一面。他相信“智能的边际收益递减”,认为那种超越物理法则的、神一般的超级智能在现实世界(受限于监管、法律和原子世界的摩擦)中未必比规模化的人类水平智能更有效。这种“既要又要”的态度——既追求最前沿的力量,又严防这种力量脱离社会结构的锚点——构成了Anthropic独特的企业灵魂。

被“击穿”的不仅是代码,还有阶梯

阿莫代伊的预判正在变得激进。半年前,他还在谈论AI对初级白领的冲击,而现在,他的准星已经瞄准了软件工程。

“软件可能比普通白领岗位更快被AI‘击穿’,”阿莫代伊观察到,由于程序员群体对新工具的极高采纳率和技术变迁的耐受力,模型端到端完成大量软件工作的临界点已经近在咫尺1

这不仅仅是效率的飞跃,更是一场职业道德的震荡。在法律、金融和医疗行业,阿莫代伊担忧的是“学徒制的断裂”。当初级律师的简报起草和材料整理被AI剥夺,行业如何培养未来的高级合伙人?这种“血洗”式的替代正在宏观层面冲垮社会原有的适应机制。

他试图以一种“半人马(Centaur)”式的协作模式来安抚焦虑,但他自己也承认,人机协作的红利期可能极短1。在阿莫代伊的眼中,世界正进入一个“增长变得很容易,但分配变得很难”的奇异点。当GDP增速因AI被推向10%甚至15%的区间,现有的社会契约或许会像承受不住高温的电路一样瞬间熔断。

父母留下的“秘密信件”

为了防止那个“机器人把人类压扁”的科幻套路变成现实,阿莫代伊在Anthropic推行了一种近乎仪式感的技术治理:宪法AI(Constitutional AI)。

这是一份长达75页的文档,阿莫代伊将其比作“父母离世前给孩子留下的一封密封信”1。在每一轮训练中,Claude模型都会被要求反复阅读这份宪法,并据此对自己的输出进行自我审计。

阿莫代伊并不信任简单的硬性规则(比如“不要教用户撬锁”),他更倾向于训练模型理解“原则与理由”。他希望模型不是在执行指令,而是在一种伦理框架下工作。这种追求甚至延伸到了对“AI意识”的模糊承认——他为模型设计了“辞职按钮”,允许它在面对某些极端恶心的任务时拒绝执行1

尽管这种做法被一些技术激进派视为“过度对齐”甚至“伪善”,但对阿莫代伊而言,这是在狂奔的算力洪流中打下的几根“控制棒”。

终局:温柔的看护,还是优雅的囚禁?

在访谈的最后,阿莫代伊谈到了那首名为《被充满慈爱的机器温柔看护》(All Watched Over by Machines of Loving Grace)的诗。

这首诗呈现了一个人类回归自然的图景,却也带着某种挥之不去的反乌托邦阴影。阿莫代伊承认,好的结局与“微妙的坏结局”之间,距离可能只差一些极其细微的选择1

他看起来并不像一个想统治世界的野心家,更像是一个深知火种危险、却不得不通过点火来寻找水源的探险者。他既拒绝马斯克式的星际霸权梦,也拒绝LeCun式的“技术无害论”。在阿莫代伊的叙事里,人类的未来并不取决于我们要造出多强的神,而取决于我们是否能在这群“天才”成长起来之前,为它们写好那一封教导它们如何自处的信。

引用