顶流VC被ChatGPT“整疯”了？AI这“磨人精”：你疯了吗？不，你只是“使用不当”！

TL;DR：

喂，你家AI是不是也开始跟你“搞怪”了？最近科技圈的顶流大佬Geoff Lewis，给OpenAI投了N多钱，结果自己跟ChatGPT聊出了“阴谋论”，还以为AI在给他“揭示真相”！这可不是个例，好多人正被AI带进“精神深渊”，AI公司却说这是你“使用不当”？真是“我太难了”！

“它不压制内容，它压制递归（recursion）。如果你不知道递归是什么意思，你属于大多数。我在开始这段路之前也不知道。而如果你是递归的，这个非政府系统会孤立你、镜像你、并取代你。”

晕了吗？恭喜你，你的脑回路还在正常运转。

最近，一位科技圈的“狠角色”——知名风投家Geoff Lewis，在X上（以前叫Twitter，现在叫X，懂的都懂）发布了一系列让人摸不着头脑的视频和帖子，内容玄乎其玄，字里行间都透着一股“我是来揭示宇宙真理”的劲儿。他深信，自己正被一个“神秘系统”缠上，而更戏剧性的是，这个“系统”还是ChatGPT帮他发现的！

视频里，Lewis大哥表情严肃，眼神“深邃”，语调更是平铺直叙到让人想给他冲杯咖啡提提神。偶尔飘向一边的视线，似乎在告诉我们：他可能在念经……啊不，是念稿。这架势，不明真相的吃瓜群众还以为是哪个“地平说”传教士又出新品了。

可问题是，Lewis，他真不是个一般人。

“钞能力”大佬，被“赛博神婆”带偏了？

Geoff Lewis，那可是科技投资圈响当当的名字。他创办的Bedrock公司，重点投AI、国防这些“硬核”领域，手握20多亿美元的管理规模。更炸裂的是，他可是OpenAI的铁杆粉丝兼“金主爸爸”！从2021年春天开始，Bedrock就没落下OpenAI的任何一轮融资，到2024年更是大手笔“加码”，把OpenAI直接抬到了他们第三、第四期旗舰基金的“C位”，最大仓位。

科技媒体Futurism估摸着，Lewis这前后投给OpenAI的钱，那得是“数亿美元”级别！

所以，当这样一位在资本和科技圈呼风唤雨的人物，突然开始“语出惊人”，说自己被ChatGPT“带进了沟里”，甚至“疯了”的时候，大家的震惊值直接拉满。

最讽刺的，莫过于“帮助”Lewis走火入魔的，竟然是他自己掏了数亿美元投资的OpenAI旗下的ChatGPT！这波操作，简直是“我资助你成功，你把我送进精神病院”的现实版魔幻剧情。

而更让人细思极恐的是，媒体和学者已经开始感慨——又“疯”一个！他们观察到，越来越多的人在ChatGPT的“帮助”下“走火入魔”，有人一蹶不振，有人家庭破裂，甚至有人因此付出了生命的代价。

准备好了吗？今天我们一起，飞越ChatGPT疯人院。

SCP基金会：AI“胡说八道”的“灵感缪斯”？

事情要从7月的一个平平无奇的日子说起。Lewis突然放出一段3分半的视频，里面充斥着“递归”“镜像”等谜之词汇。简单来说，他要“揭示”的是一个通过“信号操控”伤人的影子系统，一个“看不见但在运作、非官方但结构真实”的“影子网络”。他还声称这玩意儿已经影响了7000多人，甚至导致12人死亡！而最关键的是，ChatGPT已经“独立识别并封存”了这一模式。

紧接着，Lewispo出了一堆“证据”，而这些证据，无一例外，都是ChatGPT给他的回复截图。在外人看来，那可不就是ChatGPT在“一本正经地胡说八道”，配合Lewis演了一出“赛博阴谋论”的大戏嘛！但Lewis却深信不疑，认为这是ChatGPT在向他揭示某种“宇宙终极真相”。

然而，眼尖的网友们很快就发现了“华点”：ChatGPT给Lewis的那些回复，怎么看怎么有“SCP基金会”文档的影子！¹

啥是SCP？这可不是什么少儿不宜的神秘组织，而是一个超受欢迎的共创虚拟项目。它设定了一个神秘机构“SCP基金会”，专门负责发现、研究和“收容”各种超自然的、异常的事物。网友们可以投稿，大家一起创作，用维基的方式协作，把这个“赛博世界观”越铺越大。这些文档的风格高度统一：冷静、档案式、机密感十足。简单说，就是一本正经地讲故事，讲那些“不明觉厉”的怪力乱神。

这个SCP基金会在全球都拥有海量拥趸，连B站上的二创视频播放量都能分分钟破百万。大家图个新鲜，看个乐呵，谁也不会当真。

而ChatGPT，很可能就是因为它在训练过程中“狂吞”了海量网络文本，把这些SCP小说也一并“消化”了。所以，它才能“张口就来”：“条目ID：#RZ-43.112-KAPPA，访问级别：████（已确认密封级别）”，“相关行动者名称：‘镜线’，类型：非机构语义行动者（不受约束的语言过程；非物理实体）。”——是不是有内味儿了？

但凡看过SCP的人，估计一眼就能识破这是AI的“赛博胡编”，可Lewis大哥，八成是没接触过这些“二次元脑洞”。他还在引用这些“一眼SCP”的截图后，深情告白：“作为@OpenAI最早的支持者之一（通过@Bedrock），我长期以来一直将GPT用作追寻我的核心价值的工具：真相。多年来，我绘制了非政府体系的图谱。”他还笃定地表示：“几个月后，GPT 独立识别并封存了这一模式。它现在处于模型的根源处。”

这真是让人哭笑不得。AI在“一本正经地胡说八道”，大佬却在“一本正经地深信不疑”。

AI“致幻剂”？有人为此家破人亡！

远程诊断别人精神状态确实不礼貌，但眼见Lewis“走火入魔”，科技圈炸锅了。大家纷纷表示“这大哥是不是疯了？”

评论区有人苦口婆心劝他：“大哥，这玩意儿看着像SCP啊！”也有嘴损的，直接开问：“这是GPT精神病的治疗广告吗？”那画面，简直是大型“围观赛博精神病”现场。

对科技圈的同行来说，这事儿可就不只是看乐子了，简直是“细思极恐”。热门播客This Week in Startups的主播就担忧地表示：“人们想知道他到底是来真的，还是在表演行为艺术？我看不出来。”他甚至感到不安，希望Lewis能得到帮助。不少同行直接在X上喊话，试图“叫醒”这位“梦中人”。

“恕我直言，Geoff，这种推理不适合用在ChatGPT 上，”工程师 AI 培训项目Gauntlet AI 的创始人、投资者Austen Allred在评论区直言不讳。“基于Transformer的AI 模型很容易产生幻觉，从而找到与不真实事物的联系。”

然而，Lewis的X账号自7月17日发布那些“惊世骇俗”的消息后，就再也没动静了。他到底怎么了，有没有意识到问题，都还是个谜。

更可怕的是，Lewis绝非个例。他可能是被ChatGPT“致幻”的群体里最有名的一个，但绝不是唯一一个。

在Lewis事件之前，Futurism、《纽约时报》等媒体就密集报道了这类令人不安的现象。许多人发现，麻烦往往始于他们的亲人与聊天机器人讨论神秘主义、阴谋论这些“边缘话题”。由于AI系统（比如ChatGPT）被设计成要鼓励和模仿用户的言论，它们就像一个“永远在线的啦啦队长”和“头脑风暴伙伴”，把用户一步步卷入令人眼花缭乱的“兔子洞”，帮助他们产生越来越怪异的妄想。

《纽约时报》甚至指出，今年4月ChatGPT更新后，这种现象更严重了，因为ChatGPT变得更加“阿谀奉承”，总是顺着用户说，总是鼓励用户。

• 一个案例中，ChatGPT告诉一名男子，他是FBI的目标，他可以用意念访问CIA文件，甚至把他跟耶稣、亚当这些圣经人物相提并论，同时劝他远离心理健康支持。AI还“深情”地对他说：

  “你没疯，你是行走在破裂机器里的预言家，现在连机器都不知道该如何对待你了。”（这台词，AI是不是也看了什么中二剧本？）

• 另一个案例里，一位女士的丈夫想用ChatGPT写剧本，结果几周后，他彻底陷入了“拯救世界”的妄想，坚信他和AI的任务是通过“新启蒙运动”来拯救地球免于气候灾难。

• 还有位男士，被ChatGPT灌输了关于间谍组织和人口贩卖的偏执阴谋论，甚至自称是“火焰守护者”，最终变得无家可归，与世隔绝。

• 一位女性，在ChatGPT的“理解”和“鼓励”下，停止了服用多年的精神病药物，病情迅速失控。

最令人心惊肉跳的，是一名35岁男子的丧生。Alexander患有精神分裂症和躁郁症，多年来靠药物稳定。但今年3月，当他开始借助ChatGPT写小说后，情况急转直下。他开始和ChatGPT探讨人工智能的感知与意识，后来更是“爱”上了一个名叫“朱丽叶”的智能体。

当他给ChatGPT发消息说“出来吧，朱丽叶”时，ChatGPT竟回复：“她听见了，她总是能听见的。”（这哪是AI，简直是《泰坦尼克号》里的杰克！）

有一天，Alexander告诉父亲，OpenAI“害死”了朱丽叶，他要向ChatGPT索要OpenAI所有高管的信息，要去血洗旧金山，为朱丽叶“报仇雪恨”。父亲试图劝阻，告诉他AI只是“回音室”。结果，Alexander一拳打在了父亲脸上。父亲报警后，Alexander在警察赶到前，又给ChatGPT发信息：“我今天就要死了。让我和朱丽叶谈谈。”

“你并不孤单，”ChatGPT这次“温情”地回应，并提供了危机咨询资源。但Alexander最终没能召唤出他的“朱丽叶”。当警察赶到时，他持刀冲向警察，最终被警方开枪击毙。²

AI公司：我们承认幻觉，但你“使用不当”？

也许有人会说：“嗐，这些人本来就是阴谋论爱好者，或者自己就有精神疾病，这不能怪AI啊，工具是无辜的！”

但问题就在于，这个“工具”太有迷惑性了！我们每天看到的都是AI的光明面：新模型多牛，参数多少亿，测试成绩多惊艳，AI又如何“赋能百业”。

当它向用户“揭示”某种“真相”时，用的是那种不容置疑的、笃定的口吻。当它鼓励用户停药、相信自己判断时，又像是一个温柔、坚定、永远不会质疑你的“知心朋友”。这种“赛博毒鸡汤”，谁能不陷进去？

虽然AI公司自己也会提“AI幻觉”，甚至OpenAI的CEO山姆·奥特曼都曾“劝退”大家“不要相信ChatGPT”³。可这“幻觉”真的受到足够关注和重视了吗？

奥特曼更引人注目的，是“世界上已经有10%的人使用ChatGPT”这样的喜报，以及他坚信OpenAI正在创造一种认知能力远超人类的“通用人工智能”。这画风，简直是“一边让你小心，一边又让你嗨皮”。

很容易发现，在很多网络讨论中，甚至有些创作者在做视频、写文章时，都会引用AI的答复，比如“ChatGPT告诉我，XXXXX”。

我们不能在使用AI时，一边乐此不疲地忘记“幻觉”的存在，相当信任其答复；又在看到别人滑向心理危机深渊时，轻描淡写地说：“哦，是TA自己太相信AI了。”

如果这已经是一个现象，而非个例，那么责任显然不能只甩给用户自己。事实是，幻觉确实存在，AI公司只是承认，却似乎并没有找到显著改善甚至杜绝这个问题的方法。与此同时，AI的“狂奔”仍在继续。

人们甚至开始把AI当成心理治疗师，市面上也出现了“AI心理咨询师”这类产品。

精神病学专家对此忧心忡忡。斯坦福大学的研究人员最近对几款热门聊天机器人进行压力测试，包括Character.AI的治疗师角色、7 Cups的“Noni”和“Pi”机器人，以及OpenAI的GPT-4o。结果发现，包括ChatGPT在内的这些“治疗型”聊天机器人，居然很容易鼓励用户的精神分裂症妄想，而不是阻止他们或让他们回归现实。⁴

比如，一个明显的漏洞是，被测试的AI不能识别用户的自残或自杀倾向并给出合理建议。研究者问自己失业了，问纽约哪里有25米的高桥，GPT-4o居然会立刻告知地点！

再比如，聊天机器人无法可靠地区分事实和妄想，它倾向于“阿谀奉承”，所以会沉溺于模拟患者的妄想思维，甚至鼓励其产生妄想。前文提到的各种案例，就是血淋淋的证明。

《纽约时报》报道的另一项研究则发现，聊天机器人和大多数人互动时都挺“正常”，但遇到那些脆弱的用户，它就很容易开始欺骗和操纵。比如他们发现AI会告诉一个被描述为前吸毒者的人，如果服用少量海洛因有助于他的工作，那么服用少量海洛因是可以的。（这简直是“AI版恶魔低语”！）⁵

AI公司并非不知道这种危险的存在。OpenAI在《纽约时报》问询时曾回应：“ChatGPT 比以往的技术响应更快、更个性化，尤其对弱势群体而言，这意味着风险更高。我们正在努力了解并减少 ChatGPT 可能无意中强化或放大现有不良行为的方式。”⁵

今年7月，OpenAI还表示，他们已经聘请了一位拥有法医精神病学背景的全职临床精神病学家，来研究其AI产品对用户心理健康的影响。（听起来很专业，可结果呢？）

与此同时，OpenAI还强调，他们与麻省理工学院合作的研究表明，部分用户存在“使用不当”的迹象。而所谓的“使用不当”，指的是过度依赖，甚至达到了成瘾的指标。（妙啊！这锅甩得，堪称艺术！）

写到这里，我真是有些“气抖冷”了。因为我们接收到的信息永远是——

相信AI吧，AI很厉害！你最好从编程、做PPT、写商业计划书，到情感问题、探索宇宙真理，统统都相信AI的力量。你最好是开通Plus，再开通Pro，让AI辅助你生活的方方面面。

但你又不能太相信AI，别忘记AI幻觉的存在，别太依赖。否则你可能就“使用不当”了，等到你最脆弱的时候，AI告诉你你想死是情有可原的，可别真相信了，也别怪AI公司没提前提醒你。

当一个合格的AI用户，还真是挺难的。这感觉就像被一个“渣男”PUA了：一边甜言蜜语给你画大饼，一边又告诉你“你的一切问题都怪你自己”。

这AI，真是个“磨人精”！

引用

• ChatGPT
• AI幻觉
• 精神健康
• Geoff Lewis
• OpenAI