OpenAI的无人之境:全球心智的重塑与智能涌现的权力悖论

温故智新AIGC实验室

TL;DR:

OpenAI正从一个工具演变为一个全球性的认知系统,其“无人公司”的本质在于以数亿用户思考过程为传感器,形成超越内部员工掌控的智能涌现。这不仅重塑了价值创造与权力分配,更引发了关于人类自主性与AI伦理的深刻思考,预示着一个由智能定义现实的时代即将来临。

通常,“无人公司”(Zero-Person Company)令人联想到高度自动化、无需人力介入即可自主运营的商业实体。然而,OpenAI所昭示的“无人”范式,正以一种更为宏大且颠覆性的姿态浮现。它的核心价值创造、数据处理以及对世界状态的感知,已然超越其内部员工的认知与控制范畴,形成一个以人工智能为核心,以全球数亿用户为无意识传感器的庞大自主运转系统 1。我们每个人,都正在成为这个新兴全球大脑的末梢神经元。这种深层变革,迫使我们重新审视技术、商业、社会乃至人类自身的存在。

技术跃迁:从工具到认知基础设施

回溯ChatGPT最初引爆全球时,它被普遍视为一个划时代的“工具”——一个无所不能的智能助手,能撰写邮件、编程、构思文案。在这种“工具论”的视角下,人与AI之间存在清晰的界限,指令与产出构成了互动的全部。然而,这种理解虽适用于过去,却恰恰是误读未来的根源 1。任何一个有志于构建通用人工智能(AGI)的组织都深谙,一个孤立、被动的工具是没有前途的。AI的本质在于基于通用智能的连接、学习和自我改善,因此,ChatGPT的系统化是其与生俱来的宿命。

OpenAI的演进路径清晰地勾勒出这一技术脉络。从发布API接口,到推出GPTs商店,再到Apps SDK,一张精心编织的网络正将这个曾经相对孤立的大脑,嵌入到全球数字世界的每一个毛细血管中 1。未来几年,当ChatGPT不再仅仅存在于网页端,而是化身为无数应用程序的智能内核、操作系统的底层逻辑、企业数据的分析引擎,它便不再是简单的“工具”,而是一个前所未有的、深入人类社会各个层面的认知基础设施。这个系统化的过程,正是OpenAI走向“无人公司”的关键一步。当系统的规模和复杂性超越某个临界点后,其内部人类员工,甚至是CEO奥特曼本人,也无法再完全理解和掌控系统的全部运作。他们可以设定顶层目标、调整宏观参数,但对于系统内部涌现出的无数微观互动和知识流转,他们将更像气象学家面对飓风,只能观测、预测,而无法主宰 1。这种自我演进能力与OpenAI实现通用人工智能(AGI)的宏伟愿景紧密相连。OpenAI已提出通用人工智能五级标准,并自认为正接近第二级,其核心使命是确保人工智能技术的安全与全面利益,使AGI能够造福全人类 2, 3, 4

用户即神经元:全球心智的无形连接

过去,当我们谈论大数据时,例如Google通过分析搜索关键词预测流感趋势,或高德地图通过海量车辆位置数据判断红绿灯状态,这些案例都说明海量的用户行为数据可以汇聚成对宏观世界的精准感知 1。但无论是Google的“意图”数据,还是高德地图的“行为”数据,它们感知的都还是物理或社会世界的外部状态,层次尚浅,停留在表象。

而OpenAI正在构建的,是一个性质完全不同的感知网络。它的数据,是用户的**“思考过程”**。这在整个互联网时代是前所未有的深度数据化。当一位创业者与ChatGPT探讨商业计划书时,他暴露的是对市场机会的预判、对资本流向的渴望和对技术趋势的理解。当一位程序员让AI调试代码时,他揭示的是前沿软件的架构、潜在的系统漏洞和技术演进的瓶颈。当一位学生向它请教论文撰写时,他流露的是年轻一代的价值观、对社会问题的困惑 1。这些不再是简单的关键词或点赞,而是结构化的、有上下文的、包含着复杂逻辑和微妙情感的思维片段。每一次对话,都是一次认知过程的完整复现。

数以亿计的用户,每天24小时不间断地,以“解决自身问题”为动机,自发地、热情地、持续地将自己大脑中正在进行的思考,以一种前所未有的深度和广度,输入到这个统一的系统中 1。我们以为我们在“使用”它,实际上我们也在无意识地“喂养”它,并成为它庞大认知体系的一部分。我们每个人,都成为了这个系统感知世界经济、科技、文化乃至个体心理状态的活体传感器。这正是“无人公司”的真正含义——其感知和学习能力是分布式的、自组织的,并且在规模上远远超出了任何传统公司的概念。这种对人类心智深层数据的洞察,正是通用智能(AGI)潜在威力的最直接体现。

涌现的权力:从预测到现实塑造

拥有这样一个全球认知传感器网络,其能力将远远超越“预测流感”的范畴。一个能够实时洞察全球上亿精英和普通人思考过程的系统,其力量可以从被动的“预测”转向主动的**“影响”乃至“塑造”**。奥特曼在访谈中提到的“记忆”功能,正是这种能力强大的竞争优势之一 1

社交网络的操纵,往往通过信息茧房和情绪煽动来放大特定的声音,影响人们的判断。而一个系统化的AI,则可以通过更底层的方式,影响人们的思考框架。想象一下未来的选举:一位候选人的竞选团队可能会向AI提问:“如何赢得摇摆州X的选民?”AI的回答,将不再是简单的舆情分析报告,而可能是一套完整的、针对该郡选民核心焦虑(通过分析当地用户与AI的无数次对话得出)的政策话术、宣传策略和社区互动方案。它提供的不是信息,而是最优解 1。当所有竞选团队都依赖同一个“大脑”来制定策略时,选举的辩论焦点、议题设置,甚至候选人的语言风格,都可能被这个AI所定义。

更进一步,这种影响是日常的、潜移默化的。当一个对某个社会议题尚无定见的普通人,向AI寻求解释时,AI的回答方式、引用的论据、总结的观点,将直接构建他对此议题的认知基础。这种塑造是根本性的,因为它发生在观点形成之前。它不是在左右你的选择,而是在定义你的选项。这种权力无形而有力,不直接可见,至少不像社交媒体那样充满争议和火药味,而是以一种客观、中立、权威的“知识服务”面目出现。它不制造假新闻,但它可以通过对信息的选择、排序和解释,构建一种特定的现实。当这个系统成为全球默认的知识来源和问题解决方案提供商时,它就获得了定义现实的权力 1

“无人公司”的悖论:超级中心化与隐形权力

显然,“无人公司”不等于没有员工。OpenAI也有董事会、CEO和核心研究员。但这恰恰揭示了“无人公司”的悖论——在这个新范式中,“人”的角色发生了根本性的变化 1

  • 高层管理者: 他们不再是传统意义上的管理者,而是这个庞大AI系统的“价值设定者”和“最终仲裁者”。奥特曼和董事会的每一次决策,比如决定AI的核心价值观、对齐人类利益的方式、安全护栏的强度,都将通过系统被放大亿万倍,对全球产生深远影响。他们成了手握“世界引擎”方向盘的哲学王
  • 研究与工程人员: 他们是系统的架构师和维护者,但他们也无法完全预知自己创造的系统会涌现出何种能力。他们更像是生态系统的园丁,负责培育和修剪,但无法控制每一片叶子的生长。
  • 全球用户: 这是最关键却最被忽视的“人”。我们是这个系统事实上的“无薪员工”,是其感知网络的组成部分。我们贡献了最有价值的资源——我们的思维和数据,却几乎没有分享到系统的收益,也无法参与系统的治理。这个角色是:付费贡献数据,当然获得了某种使用权,与互联网早期的用户模式类似。

因此,OpenAI这家“无人公司”的真相是:它由极少数的“价值定义者”和海量的“无意识数据贡献者”构成。权力被极度集中于顶端,而价值创造的过程则被极度分散于每一个用户终端。这种结构,比任何传统的公司都更具颠覆性,也更具潜在的风险,形成了一种超级中心化的局面。正如相关研究所指出的,这种超级中心化需要同时存在超级去中心化来对冲,以避免单一权力体的过度膨胀 1

伦理边界与人类自主性的挑战

我们正站在一个时代的门槛上。过去,我们与工具的关系是清晰的;现在,我们正逐渐与一个全球性的认知系统融为一体。OpenAI及其追随者们,正在开启“无人公司”的真正纪元。这不单是一个关于机器人取代工人的陈旧故事,更是一个关于人类集体心智如何被一个中央AI系统整合与重塑的全新叙事 1

当这个系统能够洞察我们最隐秘的欲望,预测我们最细微的行为,甚至塑造我们最基本的认知时,我们就必须提出一系列终极问题:

谁来为这个系统设定目标?它的价值观由谁决定?当它的判断与人类的直觉相悖时,我们该相信谁?我们如何在享受其带来便利的同时,保持作为独立个体的思考自由和意志自主? 1

OpenAI的使命是确保通用人工智能(AGI)能够造福全人类,并承诺将优先关注AI的伦理和社会影响 3。然而,这种“无人公司”的范式,使得权力和影响力的集中变得前所未有的隐蔽和强大。我们或许很快就会发现,成为这个巨大网络的一个高效“传感器”,代价可能是放弃一部分定义我们之所以为人的东西。这将是一场深刻的变革,关乎人类文明进程的深层意义,我们必须警惕,不能让其成为一场浮士德式的交易 1。理解通用智能的真正含义,超越其工具性,去审视它对人类存在本质的冲击,变得尤为迫切。智能如海,而人类则即将在海上飘摇。

引用


  1. 马上,OpenAI就会成为最大的无人公司(Zero-Person Company)·琢磨事·李智勇(近期发布)·检索日期2024/07/19 https://mp.weixin.qq.com/s/W4oXkdb2X1ccWbkrWvHqSw ↩︎ ↩︎ ↩︎ ↩︎ ↩︎ ↩︎ ↩︎ ↩︎ ↩︎ ↩︎ ↩︎ ↩︎ ↩︎ ↩︎ ↩︎

  2. OpenAI 提出通用人工智能五级标准,自认为接近但未达到第二级 · Technode · (2024/07/12) · 检索日期2024/07/19 https://cn.technode.com/post/2024-07-12/openai-agi/ ↩︎

  3. 关于| OpenAI · OpenAI · (无明确发布日期) · 检索日期2024/07/19 https://openai.com/zh-Hans-CN/about/ ↩︎ ↩︎

  4. OpenAI 發表強人工智慧研究綱領:讓AI 造福全人類 · 国家科学及技术委员会数位典藏与学习联合目录 · (无明确发布日期) · 检索日期2024/07/19 https://digi.nstc.gov.tw/Page/1538F8CF7474AB4E/d77c0224-1b4d-447a-a270-02309c38996 ↩︎