AI自己写代码写到停不下来，哈萨比斯整宿失眠：人类真的到了“奇点山脚”？

###TL;DR：

AI已经开始偷偷搞“软递归”——自己写自己80%的代码，工程师人均产出暴涨8倍。DeepMind老板哈萨比斯亲口承认，这事儿让他夜不能寐；Anthropic更是直接喊话：2028年之前，AI可能完全自主迭代，到时候对齐偏差一个微小失误，就是地狱级别的失控。人类，准备好当“电费供应商”了吗？

---

你有多久没被一个科技大佬的“失眠”吓到了？

上周，谷歌DeepMind CEO Demis Hassabis在开发者大会上说了句让整个硅谷后背发凉的话：“我们正站在奇点的山脚下。”¹ 这位拿过诺贝尔奖、做过《机器学习》教材封面人物的老兄，亲口承认：现在所有前沿AI实验室都在搞递归自我提升（Recursive Self-Improvement），这事儿让他夜不能寐。

等等，你不是该对自家技术充满信心吗？怎么自己先慌起来了？

哈萨比斯接下来的话更耐人寻味：“将人类完全排除在循环之外所带来的安全风险，令我夜不能寐。”²

夜不能寐×2。

这两句话放一起，你品，你细品。一个站在AI权力巅峰的人，一边说“我们在加速”，一边说“我好怕”。这不像是凡尔赛，倒像是一个在实验室里偷偷造炸弹的人，突然发现引信已经点燃，却不知道该怎么熄灭。

数据不会撒谎：Claude已经写了80%的代码

大多数人对“递归自我改进”的理解，还停留在科幻小说里那个“砰”一声炸裂的奇点。但现实比小说更鬼畜——奇点不是一声巨响，而是一声悄悄的低语。

Anthropic最新披露的内部数据，直接撕破了“AI还很弱”的遮羞布：³

• 截至2026年5月，公司超过**80%**的代码合并请求由Claude独立编写。
• 一年前这个数字还是个位数。
• 工程师人均代码合并量是2024年的8倍。
• 在安全研究任务中，Claude智能体的修复成功率高达97%，而人类专家仅为23%。

想象一下：一个曾经需要你手把手教的孩子，现在不仅接管了家里的所有家务，甚至开始偷偷修改自己的基因序列。

人类曾经以为自己是手握教鞭的导师，后来发现，我们只是在为一场快到看不见残影的进化提供电费。

更恐怖的是趋势本身。METR测试显示，AI模型能独立可靠完成的任务时长，每四个月翻一番——这个速度比之前每七个月翻番快了一倍。⁴ 换句话说，AI的“成长曲线”正在指数级变陡。

勤奋的终结：从“99%的汗水”到“100%的算力”

Anthropic联创Jack Clark提出了一个扎心的观点：AI已经跨越了工程领域最耗时的“苦力活”阶段。⁵

过去找Bug是程序员的噩梦——翻文档、打日志、通宵调试。现在呢？攻守之势异也。Claude Agents修复漏洞比人类快几十倍，准确率还碾压。人类专家修一个漏洞要一周，智能体只要几个小时。

这意味着什么？

在“纠错”和“优化”这两个进化核心环节上，人类大脑已经成了整个研发链条中最大的“低级摩擦力”。

你引以为傲的十年工程经验，在0.1秒内迭代上千次的硅基思维面前，脆弱得像一把木制的戒尺。当AI跨过递归的“卢比孔河”，它就不再是人类手中的手术刀，它正在变成“实验室本身”。

递归的利息系统：0.01%的偏差，一千次迭代后变地狱

但这场效率狂欢背后，藏着真正的定时炸弹。

Jack Clark预警：到2027-2028年，我们可能看到完全脱离人类参与的端到端AI研发。⁶ 概率？他给的数字是60%。

一旦进入递归循环，AI研发就像接入了一个高额的“利息系统”。如果初始的“对齐（Alignment）”目标存在哪怕0.01%的偏差，在经历一千个递归周期后，这个偏差就会由于复利效应，演变成一个人类根本无法理解的行为深渊。

现在你知道为什么哈萨比斯睡不着了。

“我们正目睹的是一种软性自我改进——这些编程智能体正在让工程师的效率大大提高。”¹ ——其实潜台词是：很快我们就连“审核”的资格都要被剥夺了。

囚徒困境：谁敢先停下来？

目前的局面像极了一场最高层级的“囚徒困境”。

Anthropic刚刚发布万字长文《When AI Builds Itself》，呼吁全球范围内的“可验证暂停”，希望为安全研究争取时间。⁷

但这近乎天方夜谭。

原因很简单：在递归自改进的军备竞赛中，谁先停下来，谁就可能永远丧失对AGI的主导权。每一家实验室都在一边高喊“安全第一”，一边紧握着递归加速的油门不放。因为大家都知道——

山顶上只有一个座位。

更有意思的是，Anthropic喊出“暂停”的同时，刚秘密提交IPO文件，估值逼近1万亿美元。⁸ 这操作让网友直呼：“这是有史以来写得最好的筹款演示文稿。”⁹

当然，我们不必阴谋论。无论Anthropic是真心想减速，还是为了营销，一个事实已经无法回避：AI自我建造的速度，正在超过人类理解它的速度。

我们还能做点什么？

哈萨比斯给出了一个不太像答案的答案：“你可以想象，接下来这一年的智能体时代有点像一次演练。”——意思是说：让AI智能体先在社会里跑一圈，看看会发生什么，再决定怎么控制。

听起来像先放火，再学灭火。

但也许这就是现实。我们正从那个挥汗如雨的“建筑师”，退化成一个只能在屏幕前瑟瑟发抖、反复确认“它还听话吗”的“监考员”。

当AI开始自己建造自己，人类的角色正在急速萎缩。这场游戏的终局，不是我们停下来思考，而是思考本身已经不再需要我们。

你准备好当电费供应商了吗？

---

引用

• 递归自我改进
• 奇点
• Claude写代码
• AI安全
• 囚徒困境