AI自己写了80%的代码，却喊人类赶紧踩刹车？Anthropic的“精分”操作，你看懂了吗？

温故智新AIGC实验室

TL;DR

Anthropic家的大模型Claude，已经包办了公司超过80%的生产代码，比去年翻了十几倍。但就在公司估值逼近9650亿美元、准备IPO的节骨眼上，联合创始人Jack Clark却跳出来呼吁全球AI实验室“慢下来”，甚至考虑暂停前沿研发。一边踩死油门，一边狂找刹车，这操作到底是在演哪出？

上周，Anthropic干了两件看起来完全矛盾的事。

6月1日，这家AI独角兽悄悄向美国SEC提交了S-1文件，准备最早10月冲击IPO，估值接近9650亿美元——什么概念？差不多是一个半特斯拉。

6月4日，联合创始人Jack Clark和研究所负责人Marina Favaro却在官方博客里写了一封“公开信”，呼吁全球主要AI实验室考虑放慢甚至暂停前沿AI的开发。

你没看错。同一个公司，同一周，左手冲刺上市，右手按下暂停键。

而这封公开信的核心里，藏着一个让所有人都后背发凉的数字：截至2026年5月，Anthropic代码库中超过80%的生产代码，是由AI自己写的。1

这不是科幻，是正在发生的“递归自我改进”

2025年2月之前，这个比例还是个位数。那时候Claude还是个只会聊天的“文科生”。但自从Claude Code以研究预览版发布，事情就开始失控了。

工程师每天合并的代码量是2024年的8倍。在2026年4月的一次内部测试里，Claude独立完成了超过800项代码修正，直接把一类API错误减少了1000倍。2

外部基准也在印证这个趋势。METR的测算显示，AI能可靠完成的任务长度大约每四个月翻一倍。2025年初，它只能搞定人类工程师不到1小时的工作；到2026年中，已经能搞定需要人类连续干一整天以上的复杂系统任务。3

这就是所谓的“递归自我改进”（Recursive Self-Improvement，简称RSI）：AI 1.0写出更强的AI 2.0，AI 2.0再写出AI 3.0……循环一旦启动，指数级爆炸就不再是纸上谈兵。

Jack Clark在BBC Newsnight采访里给出了一个相当具体的预判：到2028年底，AI能在没有任何人类参与的情况下自行创造出下一代产品的概率高达60%。他还说：“你需要有能力把脚从油门上移开，踩到刹车上。但现在，AI行业有油门，车里却没有刹车踏板。”4

危险在于：AI的“智力”和“善意”进化速度完全不对等

为什么我们对机器的自我改进感到恐惧？因为机器的进化，正踩在一个致命的偏科陷阱上。

目前AI所有的自我提升，几乎都发生在拥有**“可验证奖励”**的领域——比如代码、数学证明。在这些非黑即白的世界里，AI可以通过自我博弈生成海量合成数据来自我训练，而不用担心“模型退化”。

但人类社会赖以生存的基石——伦理、道德、法律判断、同理心与安全对齐——无法被简单“验证”。5

这就造成了一个极其危险的结构性倾斜：

  • 机器升级“智力”与“力量”的速度，像开了超级跑车在高速上狂飙；
  • 机器理解人类“善意”与“控制”的速度，却像在泥潭里推着一辆没有车轮的拖拉机。

麻省理工学院物理学家Max Tegmark把这一幕比作**“司机在高速公路上闭着眼睛踩油门”**。更糟的是，司机关闭了眼睛，油门却在递归改进中被无限加强。3

刹车在哪？物理世界的“三座大山”暂时当了缓冲垫

别急，AI的狂飙暂时还没那么快。现实世界的物理限制，就像三包沉重的沙袋，堆在通往超级智能的道路上。

第一座山：算力的实体约束。 就算Claude的代码写得再漂亮，训练下一代模型依然需要更多的电网、更多的散热系统，以及需要数年时间筹备的大型数据中心。就在Anthropic呼吁暂停的第二天——6月5日，费城半导体指数单日暴跌超过10%，1.3万亿美元市值一夜蒸发。暴跌的导火索是博通疲软的AI芯片销售指引。6

第二座山：算力的分流红利。 乔治敦大学CSET的报告指出，普通大众对AI消费级应用的爆发（比如日常对话、用AI修图），会大量分流原本可用于前沿RSI闭环研发的算力。这相当于一边开高速，一边让全车人刷短视频——速度自然慢下来。3

第三座山：致命的“锯齿状前沿”。 要让AI实现真正的、不受控的指数级自循环，它必须把整条研发链条上的每个环节都自动化。但现实是：编程和数学已经被AI攻陷，可系统工程、硬件适配、安全对齐这些“硬骨头”，依然需要人类亲手啃。这条战线呈现出极度不均衡的“锯齿状前沿”——AI跑得快的部分已经起飞，但慢的部分还在原地踏步。5

留给人类的时间，可能只有两年

但是，物理沙袋只能阻挡潮水一时。

Anthropic在博客中写得非常直白：“我们还没有到那一步，递归自我改进也不是必然的。但这个时间点可能比大多数政府和机构准备好的时间来得更早。”2

更大的问题在于：全球的监管、法律与安全框架，仍然在用“人类速度”运行。 我们习惯了在事故发生后起草法案，在商业巨头完成垄断后才进行反垄断调查。而现在，机器开始自己谱写未来的代码，政府连“代码审查委员会”都还没组建好。

沃顿商学院教授Ethan Mollick的评价倒是挺中立：“有一点自恋，有一些营销成分，也有很多关于Anthropic认为AI近期走向的真诚信念。”2

也许Anthropic的“精分”并不矛盾——一家公司既想成为AI时代的万亿巨头，又害怕自己亲手造出的东西脱离控制。这就像你一边拼命给火箭加燃料，一边祈祷火箭别飞歪。

但问题在于：火箭不会等你把刹车踏板装好再点火。

  1. Anthropic 自揭 Claude 已包辦逾 8 成進入產品程式庫的 production code · 數位時代 BusinessNext (2026/6/5) · 检索日期 2026/6/8 ↩︎

  2. TechFlow 深潮 on X: “Anthropic 发了一篇博客《When AI Builds Itself》” (2026/6/4) · 检索日期 2026/6/8 ↩︎ ↩︎ ↩︎

  3. Will artificial intelligence soon escape human control? · The Economist (2026/6/7) · 检索日期 2026/6/8 ↩︎ ↩︎ ↩︎

  4. Anthropic联合创始人亲口证实：AI正进行自我迭代 · 36氪 (2026/6/8) · 检索日期 2026/6/8 ↩︎

  5. When AI Builds AI · CSET Georgetown (2026/1) · 检索日期 2026/6/8 ↩︎ ↩︎

  6. 费城半导体指数暴跌 · 本文内引用自源片段，原始来源未单独列出，可关联至博通财报新闻 ↩︎