AI的“第37步”:迈向通用智能的临界点,挑战人类文明的边界

温故智新AIGC实验室

TL;DR:

DeepMind首席执行官德米斯·哈萨比斯深入探讨了AI突破的本质、通用人工智能的临界点及其对人类文明的深远影响。他将AI的进步比作AlphaGo的“第37步”,预示着AI在科学发现、商业格局和社会结构上可能引发的颠覆性变革,同时也警示了伴随而来的“末日风险”,呼吁谨慎乐观与国际合作。

在AI进化的棋局中,总有一些棋步看似出人意料,实则深谋远虑,它们在历史长河中留下了不可磨灭的印记,被誉为“神之一手”。2016年AlphaGo与李世石的对决中,那记超越人类直觉的“第37步”便是如此,它不仅颠覆了围棋界的认知,更成为AI在复杂决策中展现出突发性、创新性与超人洞察力的里程碑象征1。如今,谷歌DeepMind首席执行官德米斯·哈萨比斯(Demis Hassabis),这位诺贝尔化学奖得主与人工智能的领军人物,在与知名播客主持人莱克斯·弗里德曼的深入对谈中,再次将这一隐喻带入当下,引发我们对一个核心问题的深思:AI,是否正悄然逼近一场技术变局的“第37步”?

技术涌现与自然建模的深层逻辑

哈萨比斯的核心洞察之一在于,自然界中那些“能生成或被发现的模型,都可以通过经典学习算法高效地发现和建模”1。这并非空泛的哲学思辨,而是基于DeepMind一系列“Alpha系列”项目的实证成果。从AlphaGo在围棋组合空间的智能引导搜索,到AlphaFold对蛋白质折叠这一自然过程的精准预测,我们看到AI如何有效地将原本“暴力计算不可企及”的问题,转化为“智能可处理”的范畴。其底层逻辑在于,自然系统经过漫长进化形成了结构性与“固定模式”,而神经网络恰能学习并重构这些结构。这种“最稳定者存活”的原则,使得自然界的复杂性变得可预测、可学习。

令人惊叹的进步不仅限于结构预测,更体现在对物理世界的“理解”上。谷歌的视频生成模型Veo 3,其逼真的人物动作、光影和材质模拟能力,尤其对“直觉物理”的展现,挑战了此前“具身AI是理解物理世界唯一途径”的普遍认知1。Veo 3似乎通过纯粹的视觉观察,习得了类似孩童对世界运行方式的直观感知,而非仅停留在“生成炫酷视频”的表层。这一现象预示着,我们所处的现实世界可能蕴含着远超想象的“可学结构”,AI通过观测即可获得深层理解,这无疑是构建“世界模型”——迈向真正通用人工智能的关键一步。

更深层的创新在于AI与科学发现的融合。DeepMind的进化算法系统AlphaEvolve,展现了“基础模型(如大语言模型)结合进化算法”的“混合系统”潜力1。大模型负责提出方向,进化算法则在广阔的搜索空间中探索新解法,突破人类已知的边界。这与AlphaGo当年走出“第37步”的逻辑异曲同工。然而,哈萨比斯也坦言,AI要具备“研究品味”——那种区分伟大科学家与优秀科学家的核心能力——提出像爱因斯坦推导相对论那样的原创性、颠覆性科学猜想,仍是当前系统的巨大挑战1。但即便如此,AI作为科学研究的辅助工具,通过二分搜索式的实验设计,辅助人类高效探索假设空间,其潜力已不可限量,尤其是在模拟生命起源这类终极科学问题上,AI有望成为终极工具,加速人类对自身存在意义的理解。

AGI的临界点与文明的未来愿景

哈萨比斯大胆预测,到2030年,实现通用人工智能(AGI)的概率约为50%1。他为AGI设定了高标准:需匹配人脑的通用认知功能,在各个领域保持一致的智能,并具备真正的发明和创造力。这包括能像爱因斯坦那样提出全新的物理学猜想,或发明类似围棋般深邃优雅的新游戏。识别AGI的“第37步”将是复杂的过程,可能通过大规模测试,更关键的,是顶尖专家能否发现其明显缺陷,以及系统能否提供“令人震惊”的里程碑式突破。

这种对AGI的坚定愿景,也与哈萨比斯对人类文明未来的宏大设想紧密相连。他认为,能源问题是制约人类发展为卡尔达舍夫类型I文明的关键。核聚变和更高效的太阳能,将是未来主要的清洁、可再生能源,它们将带来“激进丰裕时代”(Radical Abundance)1。届时,资源稀缺将不再是零和博弈的根源,海水淡化成本降低,太空往返如同“公交”,小行星采矿开启新纪元。这种资源上的解放,将允许人类社会解决诸多困扰已久的问题,并迈向卡尔·萨根所梦想的“将意识带入宇宙、唤醒宇宙”的星辰大海。

“如果我们能正确运用AI解决这些问题,人类文明终会在时间长河中实现这一目标。”1

AI商业化浪潮与人才战略博弈

在宏大愿景的背后,是激烈的商业竞争与产业生态重塑。哈萨比斯坦承,谷歌DeepMind在AI竞赛中,特别是大语言模型领域的竞争异常激烈。一年前,谷歌在大语言模型产品领域尚显“下风”,但通过凝聚内部顶尖人才、整合Google Brain和DeepMind的优势,以及强大的算力支持,Gemini系列的持续突破,已让谷歌重新占据领先地位1。这种“持续突破与持续落地”的结合,是其成功的关键。

人才争夺战也成为当前AI领域的一大看点。Meta以高薪挖角人才,在哈萨比斯看来,是其在AI前沿研究中“相对落后”的合理策略。然而,他强调,真正投身AGI使命的顶尖人才,往往看重的是能够站在研究最前沿,影响技术发展方向,并将其安全地带给世界的责任感与使命感,而非仅仅是金钱。DeepMind正是凭借这种专注于科学文化和前沿研究的吸引力,维持其竞争优势。从他早期创业的困窘与现在实习生薪资的反差中,我们窥见了AI产业资本潮汐的狂野与深刻,但哈萨比斯认为,当通用人工智能和能源问题解决后,金钱的意义本身可能都会发生根本性改变,这预示着未来经济社会范式的颠覆。

从产品形态来看,哈萨比斯预见未来将进入“AI生成界面”时代1。不同于固定的用户界面,AI将根据用户的审美、习惯和思维方式动态生成个性化界面,甚至根据任务动态调整,极大地提升用户体验的沉浸感和灵活性。这将是继命令行、图形界面之后的又一次人机交互范式变革,意味着UI/UX设计将从静态设计转向动态生成与持续优化。

风险共存:警惕“末日概率”与构建安全护栏

尽管AI带来了前所未有的机遇,哈萨比斯也直面其伴随的“末日风险”。他明确表示无法量化所谓的“末日概率”(P-Doom),因为其本身难以精确测量,但他坚信这个概率“绝对不是零,而且可能不容忽视”1。这种“高度不确定且高风险”的局面,要求人类采取“谨慎乐观”的态度。

风险主要分为两类:

  1. 技术滥用风险:不负责任的个人或国家利用AI的强大能力实施恶意行为。这引发了开放科学与技术扩散的伦理困境——如何确保技术普惠的同时,有效防范滥用?
  2. 系统失控风险:随着AI系统变得越来越自主,特别是接近AGI时,如何确保其“护栏”足够坚固,使其行为始终符合人类的意图,不会失控或产生非预期后果?

哈萨比斯认为,要应对这些风险,需要投入比现在多十倍的精力进行科学研究,更精准地定义和解决问题,并呼吁国际社会就基本标准达成协议。他指出,我们甚至可以利用AI本身来预警某些风险行为,前提是AI系统自身是可靠的。这揭示了一个深层悖论:我们需要更强大的AI来解决AI带来的风险,这种循环性挑战着我们对“控制”的传统认知。

最终,AI的“第37步”是人类文明棋局中的一次关键落子。它既蕴含着通向卡尔达舍夫I型文明、实现“激进丰裕”的巨大潜力,也伴随着技术失控或滥用的深层危机。面对这一前所未有的变革,我们所需的不止是技术的突破,更是哲学层面的反思、商业模式的重塑、社会伦理的构建,以及全球范围内的协同治理。这并非一场输赢的竞赛,而是一次全人类如何安全、负责、并富有远见地驾驭自身创造力的集体考验。

引用