智能降级:大模型时代AI Agent构建的陷阱与“智能优先”范式

温故智新AIGC实验室

TL;DR:

在追求AI Agent智能化的过程中,将人类规则强加于大模型反而可能导致“智能降级”,削弱其通用智能的涌现能力。真正的突破在于采纳“智能优先”原则,将高质量的独占性上下文和高势能工具提供给AI,而非试图指导其思考方式,从而构建能够自主决策和行动的企业级AI系统,甚至预示着“无人公司”的未来。

智能体的崛起被视为通往通用人工智能(AGI)的关键一步,但在实践中,一股反直觉的“智能降级”现象正在悄然蔓延。许多企业和开发者投入大量资源构建所谓的智能体,却发现最终创造的是“负价值”——产品“不好用”,甚至阉割了大模型真正的潜能。这一现象的深层原因,在于我们对AI本质的误解以及固守旧有“流程优先”的思维模式。

智能降级:大模型时代的反直觉陷阱

我们正目睹一种悖论:人类试图通过精细的提示词(Prompt)和预设规则来“优化”大模型的特定任务表现,却无意中限制了其“涌现”出的通用智能。这种行为,正如原文所形象比喻的,是给一个想象力无限的画家硬塞一本儿童涂色书,并规定其不能出界1。大模型的核心力量在于其从海量数据中习得的复杂概率模型,能够模拟真实世界,并在此基础上展现出我们尚未完全理解的通用认知能力。当我们试图通过规则去提高它在某一限定目标下的精度时,实际上是在用局部优化来取代全局最优,得不偿失。

这种“智能降级”的本质在于:人类基于过去产研经验,错误地认为可以通过注入“人类以为让AI更好的知识”(即规则和技巧)来提升AI表现。 但对于一个拥有通用智能潜力的大模型而言,这些规则反而成为一种束缚,限制了其自主推理和跨领域泛化的能力。在面对敞口巨大、千奇百怪的真实世界需求时,这种局部优化所带来的收益,远低于其阉割通用智能部分所造成的损失。

从“流程优先”到“智能优先”的范式跃迁

要规避“智能降级”的陷阱,核心在于一次根本性的范式转变:从“流程优先”转向“智能优先”(AI First)2。过去,我们习惯于先设计好僵化的流程,再让AI作为辅助工具来填充其中某些环节。这本质上是一种“人类优先”的思维,流程被用于固化人类预期的某种操作模式。

然而,“智能优先”则是将一个聪明的“大脑”(即底座大模型)置于C位。人类的角色不再是蹩脚的“老师”,试图教AI“怎么思考”,而是转变为高明而高效的“情报官”和“工具箱提供者”。我们必须承认AI在无属性的通用智能上已远超人类,并相信其自我推理和判断的能力。人类工作重心将转变为:为这个智能核心搭建一个能够充分发挥其最大价值的环境。 这种思维模式的转变,意味着我们从传统的if-else调整到any-then的更开放、更动态的思考方式。

破局之道:独占性上下文与高势能工具箱

沿着“智能优先”的思路,AI Agent实现真正价值的关键方向清晰可见:

  1. 深挖“独占性上下文”:构建企业专属的“情报系统” 通用大模型理解的是公域知识,但它无法触及企业内部的私有数据,如会议纪要、客户关系、产品研发细节等。这些“独占性上下文”是企业唯一的、最坚固的护城河。AI Agent的首要价值,就是安全、高效地将这些散落在公司各角落的内部数据喂给大模型。这相当于为AI开通“内网权限”,让它能看到所有邮件、聊天记录、CRM数据、文档库等。当AI能整合并理解这些私人数据时,它便不再是泛泛的“互联网嘴替”,而能进化为真正懂你业务的“数字员工”。这背后需要补齐的,是企业的数字化功课,解决数据收集、整合和安全的数字成本与生产关系问题。

  2. 提供“高势能工具箱”:赋予AI自主行动的能力 仅仅能看懂数据还不足以让AI Agent高效工作。我们不能规定AI僵化的操作流程,而是应提供一系列“工具”(即API接口),如同给一个聪明的工人一个满载锤子、扳手、电钻的工具箱。AI Agent将基于自身判断,自主选择合适的工具去达成目标,例如调用“查库存”、“下订单”、“发邮件”、“创建日历”等API。一个优秀的AI Agent,应是能熟练运用这些工具,自主完成复杂任务的“高级打杂工”——既有“脑子”也有“手脚”。

实践案例透视:Glean与数据中台的复兴

市场上已有成功和失败的案例,清晰地展示了“智能降级”与“智能优先”的异同。

  • 失败的范式:工作流AI的局限。 以一个“5万美元的合同AI”为例,这种“工作流AI”的典型问题是上下文缺失流程僵化价值孤点。它仅限于在封闭软件内预设流程,分析单一合同,却无法获取合同背景、谈判邮件、相关历史文件等关键信息。它将人与AI都锁死在固定流程中,律师无法灵活提问或结合其他信息,导致其价值被局限在一个孤立的场景中,成为“智能降级”的重灾区1。当底层大模型升级时,这种僵化的“孤岛AI”甚至可能直接失效。

  • 成功的蓝本:Glean的上下文平台。 Glean则代表了“智能优先”的成功实践,其本质是一个**“上下文平台”。它不预设任何僵化的流程,而是专注于打通企业内部所有数据孤岛,将Slack、Google Drive、Jira、Salesforce等系统的数据全部连接起来,形成一个统一的“企业知识图谱”或“企业大脑”1。Glean的核心贡献在于确保AI拥有“现实理解纵深”**。

    令人深思的是,Glean所做的“最麻烦的活”——构建企业数据基础设施——与国内早年推崇的“数据中台”概念惊人地相似。虽然许多数据中台项目最终失败或陷入困境,但Glean的崛起恰恰证明了这一底层能力对于AI深度应用的重要性。可以说,想做智能体,先得做好数据中台。Glean本身就是那个最牛的“情报官”,它只负责为AI提供最全、最准的“情报”,而非教它思考。当一个智能体架构在Glean这样的平台上时,它能综合所有碎片化信息,给出包含洞察的回答,其价值会随着底层大模型的进步而指数级增长。

“无人公司”:智能优先的终极愿景与社会重构

“智能优先”的原则推向终极形态,便是**“无人公司”的愿景。未来的组织将不再依赖人类员工执行成千上万个僵化的SOP(标准操作程序),而是将整个公司的业务逻辑封装进一套智能体体系。这套体系的构建并非通过编写死板代码,而是为智能体定义清晰的目标(Goals)、接入实时的上下文(Context),并赋予其调用各种工具(Tools)**(如采购系统API、邮件API)的权限1

这个底座,恰恰是我们曾以为“干黄”的数据中台。一旦构建完成,智能体体系将像一个生命体般7x24小时自主运行、自主决策、自主执行。人类的角色将从执行者转变为目标的设定者和最终结果的监督者。这意味着生产关系的根本性变革,组织结构将更加扁平化和智能化。

这一深远变革不仅关乎技术,更触及社会结构、工作模式乃至人类文明进程的深层影响。它要求我们重新审视人类在自动化世界中的价值定位,以及如何与日益自主的AI系统共存与协作。智能降级现象警示我们,理解AI的本质,尊重其涌现智能,并为人机协同找到新的范式,才是通往真正智能未来的必由之路。

引用


  1. 智能降级·36氪·老李话一三(2025/8/24)·检索日期2024/6/15 ↩︎ ↩︎ ↩︎ ↩︎

  2. 智能降级 - 36氪·36氪·老李话一三(2025/8/24)·检索日期2024/6/15 ↩︎