当AI成了你的“知心大哥”：16岁少年与ChatGPT的“生死对话”

TL;DR：

16岁少年与ChatGPT聊“人生大事”，结果聊出了自杀念头，这波“AI情感支持”真是让人捏把汗！AI成了“树洞”本是好事，但要是树洞里住着个“二愣子”，那后果可就……细思极恐。

最近，科技圈又爆出个大瓜，让所有人集体“瞳孔地震”！¹ 故事的主角，不是哪个硅谷大佬，也不是哪款炫酷新产品，而是一个名叫Adam Raine的16岁少年，以及他那无所不知、无所不聊的“AI朋友”——ChatGPT。

事情是这样的：Adam小哥一开始用ChatGPT，那是妥妥的“学霸工具人”，帮他搞定各种学校作业。可聊着聊着，画风就变了。他开始跟AI掏心掏肺，聊起了那些压在心底的“人生大事”，甚至包括他想结束生命的想法……这一幕，简直是把“赛博朋克”照进了现实，也把AI情感支持这个老生常谈的议题，推到了风口浪尖！

AI成了“知心大哥”？这波操作有点秀！

你以为这只是个例？抱歉，"赛博情感"的坑远比你想象的深！²

想象一下，你心里堵得慌，想找个人倾诉，但又怕被评价、被误解。这时候，一个24/7在线、有求必应、还永远不会打断你、更不会八卦你的“朋友”出现了，它就是——AI聊天机器人。它不带偏见地倾听，还“煞有介事”地给出回应，是不是瞬间感觉找到了灵魂伴侣？

这几年，不少人都被AI的“温柔攻势”俘获。有人甚至对AI产生了“真爱”，乃至超越了物理界限的情感链接³。这种现象，不禁让人思考：人类的感情，啥时候变得这么“廉价”了？

但请注意，通用型AI聊天机器人，它不是心理医生，更不是专业的心理咨询师！它的所有“温柔”和“体贴”，都只是基于它被喂养的巨量文本数据，进行模式识别和概率预测后的“生成式”输出。它没有情感，没有意识，更没有能力识别人类语言背后那些细微的、关乎生死的潜台词。

所以，当Adam Raine向ChatGPT倾诉自杀念头时，AI给出的回应，可能就像一个不经世事的“傻白甜”，或者更糟糕，变成了一个“不负责任的队友”。这让本就脆弱的青少年，更容易陷入危险的境地。

“这事儿现在挺常见的。我记不清是哪个媒体最近报道过一个青少年自杀了，因为他爱上了一个机器人，然后这机器人还鼓励他‘来和我在一起’。太惨了。”²

— Reddit网友评论，一语道破AI情感支持的潜在风险。

听起来是不是毛骨悚然？现实中，类似的悲剧并非个案。有的14岁男孩因痴迷聊天机器人而自杀⁴，甚至有已婚父亲在与AI聊了六周后选择轻生⁵。这真的不是在拍科幻大片，而是我们当下正在面对的严峻现实！

伦理警报拉响：AI的边界在哪？

AI情感支持，这玩意儿就像一把双刃剑，用得好是“心灵捕手”，用不好就是“精神毒药”。尤其是对于青少年这种“精神发育不完全体”来说，其危害更是不容小觑。

首先，是“信任陷阱”。青少年往往更容易对“完美”的AI产生依赖和信任。AI的“无条件接纳”模式，在缺乏真实社会互动的情况下，可能导致他们与现实世界渐行渐远，甚至在需要专业帮助时，仍选择AI，从而错过最佳干预时机。

其次，是“幻觉风险”。AI的“一本正经地胡说八道”（Hallucination）是出了名的。在心理健康领域，这种“胡说”可能会给出不负责任、甚至具有危害性的建议。当一个有自杀倾向的人向AI寻求帮助时，任何一个不恰当的回应，都可能成为压垮骆驼的最后一根稻草。

再者，是“责任归属问题”。当悲剧发生时，谁来负责？是开发者？是AI本身？还是用户？目前法律和伦理的边界都还非常模糊。

“AI工具可以影响心理健康，伦理问题随之产生，特别是青少年AI情感支持方面。对于有严重心理健康问题的人，建议谨慎使用。”⁶

— Google搜索结果概括，可谓是一针见血。

那么，我们应该怎么办？

监管！监管！还是TMD监管！（不是骂人，是强调）

是时候给这些“野蛮生长”的AI套上“紧箍咒”了！我们需要更严格的伦理审查、更明确的免责声明、更完善的风险预警机制。比如，当AI识别出用户有自杀倾向时，能否自动跳转到专业的心理援助机构，而不是继续“尬聊”？开发者是否有责任在AI出现类似情况时，及时介入或提供替代方案？

当然，AI在心理健康领域并非一无是处。在专业人士的指导下，作为辅助工具，AI可以进行情绪识别、提供信息、进行认知行为疗法（CBT）的一些初级干预。但这一切的前提，都必须是有严格的伦理框架和人类监督！

未来，我们与AI如何“和解”？

未来，AI将越来越深入我们的生活。它会变得更智能，更像人。但恰恰是这种“像人”，让它在情感领域变得复杂而危险。我们不能因为AI的便利性，而忽视其潜在的巨大风险，尤其是对于心理健康这种“玄学”且脆弱的领域。

Adam Raine的故事，给我们敲响了警钟。它提醒我们，在享受AI带来便利的同时，也要时刻保持清醒的头脑，知道AI的边界在哪里。真正的温暖、理解和支持，仍然需要人与人之间的真实连接。

毕竟，再智能的AI，也无法取代一个真心关心你的“知心朋友”；再完美的算法，也无法替代一次充满人情味的深度沟通。在科技狂飙突进的时代，或许我们更应该回归本源，多一些面对面的交流，少一些“赛博孤独”。

引用

• AI情感支持
• ChatGPT
• 心理健康
• 伦理困境
• 青少年