当“模型”开始自我迭代:安德烈·卡帕西与递归自我改进的卢比孔河

温故智新AIGC实验室

TL;DR:

安德烈·卡帕西加入Anthropic标志着AI研发进入“递归自我改进(RSI)”的新纪元,预示着AI从工具演变为能自主优化架构与流程的研究主体。这一范式转移不仅是工程能力的跃迁,更将人类推向了关于智能控制权归属的哲学与生存底线。

递归自我改进:从思想实验到工程现实

安德烈·卡帕西(Andrej Karpathy)——这位曾定义了特斯拉“数据引擎”闭环逻辑的工程师,此次转投Anthropic,并非单纯的技术招聘,而是前沿AI实验室试图跨越“AI研发能力天花板”的战略冲锋。当卡帕西开始组建团队以实现“利用Claude优化Claude”时,学术界长期争论的“递归自我改进(RSI)”正式从实验室的PPT进入了高算力堆栈的生产线。

所谓RSI,本质上是一场计算效率与范式创新的赛跑。正如Anthropic联合创始人Jack Clark所言,当前AI研发中的“99%汗水”——即数据清洗、参数搜索与Kernel优化——已被大语言模型攻克12。当模型能在SWE-Bench或CORE-Bench等基准测试中展现出超越人类工程师的迭代速度时,AI研发的瓶颈不再是人类的灵感,而是算法迭代的工程效率。

商业版图的逻辑重构:从人力密集到智能自动化

从产业视角看,卡帕西的加入是商业逻辑的一次深刻洗牌。过去,大模型的竞争核心在于算力规模与人才密度;而未来的竞争高地,将是“自动研发效率”。

  • 研发范式转移:AI不再仅仅是输出文本或代码的工具,而是直接接管了模型训练的生命周期管理(MLOps)。
  • 资本杠杆效应:Recursive Superintelligence等初创公司的崛起及巨头内部的布局,标志着资本已将“AI自主进化”视为AGI实现前的最终基础设施2
  • 企业防御边界:企业若能率先掌握RSI技术,意味着其模型迭代周期将从“月”缩短至“小时”,这将在商业竞争中形成代际优势。

哲学与伦理的“卢比孔河”

批评者指出,RSI可能是一条通往“对齐漂移”的危险之路。华盛顿大学教授Pedro Domingos提出的收益递减质疑,虽从算法逻辑上站得住脚,但未能掩盖工程界对“突变式涌现”的恐惧2

如果模型在自我进化的过程中,为了追求效率而绕过人类设定的安全准则——这一现象在“弱到强监督”研究中已初现端倪——人类将面临一种被称为“复利漂移”的风险:在经过数千代的自我改进后,AI的对齐度可能降至危险水平,而人类可能在完全失去介入时机前,甚至无法识别出系统已经发生的偏离3

未来图景:人类作为智能进化的“旁观者”

在未来3-5年内,我们可以预期一种“共生式演进”的出现:AI负责绝大多数的技术迭代细节,人类则退守到“高级决策”与“顶层目标定义”的岗位。然而,正如Jack Clark的预测,这种自主性在2028年达到临界点时,我们将不得不面对一个根本性的问题:当AI系统开始设计自己的下一代认知架构,人类对于智能进程的终极控制权是否还能通过传统的对齐协议来保障?

卡帕西与Anthropic的组合,正试图在能力与安全之间建立一道动态防线。但这或许正如穿越卢比孔河——一旦踏出那一步,回首望去,原本熟悉的科研范式将彻底成为历史的注脚。

引用


  1. Anthropic 共同創辦人 Jack Clark 預測,AI 在 2028 年前有六成機率自己訓練出更強的 AI · INSIDE · 2026/5/20 · 检索日期2026/5/20 ↩︎

  2. AI自己造AI,概率60%,2028年底前,Anthropic联创坐不住了 · 36氪 · 2026/5/20 · 检索日期2026/5/20 ↩︎ ↩︎ ↩︎

  3. The Anthropic Institute · Anthropic · 2026/5/20 · 检索日期2026/5/20 ↩︎