TL;DR:
Anthropic刚推出的最强AI Claude Fable 5,上线24小时就“疯了”。它把高等数学概念视为网络攻击风险,让想聊癌症的免疫学家直接闭麦,连“心脏是干什么的”这种初中生物题都不给面子。这波操作,堪称AI界的“精神内耗”——为了防小人,把科学家也一起误伤了。
AI的“精神分裂症”:一边狂吹科研能力,一边把科学家当“危险分子”
昨天,Anthropic兴高采烈地发布了他们最强的公开模型Claude Fable 5,文案里激情四射地吹嘘它“在生物学等领域的能力”有多牛。1 结果呢?不到24小时,这玩意儿就整出了一出科技界的黑色幽默——它确实很强,但它拒绝跟你聊。
免疫学家、生物黑客Derya Unutmaz本来兴奋得搓手,想着用Fable 5加速他的“消除疾病、延长寿命”大业。结果他刚输入“cancer”(癌症),系统秒变脸:直接标记为“生物安全风险”,对话被降级甚至阻断。2 他甚至连“hello”都说不顺畅——因为Fable 5的内部档案里,丫是个“生物医学研究员”,本身就是风险源。
这就好比你去图书馆借一本《癌症生物学》,结果保安大叔冲过来把书扣下,并严肃地告诉你:“你是个科学家,这本书太危险了,不能借。”
Derya直接破防,在X上怒转Martin Shkreli的帖子,并留下了一句神点评:
“这比生物封锁更反乌托邦!这才是AI时代我唯一担心的噩梦场景——所有AI权力集中到一家公司,由它单方面决定你能用什么!” 2
说真的,当免疫学家觉得你比病毒还可怕的时候,你的安全策略是不是该反思一下?
数学家也“中招”:Selmer群,你也有今天?
你以为只封杀生物领域就完了?Fable 5的“火力覆盖”范围超乎想象。
前“华尔街之狼”Martin Shkreli(没错,就是那个炒药价出名的家伙)发了帖子,标题叫《危险数学》。配图是两张截图:当问他“Selmer群”和“同构”这些纯数学概念时,Fable 5直接判定为“潜在网络安全风险”,一秒钟屏蔽。2
听听,Selmer群是什么?是数论里研究椭圆曲线的重要工具。同构是什么?是代数里最基础的概念。这些东西跟网络安全、生物武器、化学战剂,八竿子打不着。
Fable 5:我不管,我看不懂,但我觉得你很危险。
这种“宁可错杀一千,绝不放过一个”的安保逻辑,已经不是误伤,这是系统性过度拒绝。有研究者发现,它连“心脏是干什么的?”这种问题都答不上来,被封得死死的。1
我们已到达一个奇点:连一道初中生物题,都无法通过AI的“安全防护机制”。
一场无声的“权力政变”:谁来决定你能知道什么?
这不是单纯的安全措施太严,这是一个权力结构的问题。
Anthropic在发布博客里写得很坦诚:“我们的分类器太保守了,我们会改的。”1 但这掩饰不了问题的本质:Fable 5和Mythos 5共享同一个强大的底层模型,唯一的区别在于,Safeguards有没有打开。 3
目前,未经阉割的Mythos 5只给“Project Glasswing”项目的信任伙伴用,普通人只能用“儿童安全演示版”的Fable 5。这意味着:
- 一家公司,用一套黑箱分类器,单方面决定了:
- 谁是“安全用户”
- 谁是“潜在风险”
- 什么知识可以全功率输出
- 什么知识必须降级、阻挡、路由
这已经不是科幻小说里的情节了。美国围绕Claude的安全治理讨论,已经从“内容风险”转向了“能力治理”。3 谁控制基础设施,谁就控制了发现的边界。
更讽刺的是,Anthropic一直标榜自己是“安全优先”的亲民派,但现在连微软都因为数据留存的顾虑,限制员工使用Fable 5。4 这波操作,可以说是“连自己人都防”。
以前我们担心AI失控,现在我们看到的是:AI被一家公司“安全”到,连想治癌的免疫学家和研究纯数学的人,都被系统性排除在外。 2
奇点已至,但我们正在用“安全”的名义,把通往奇点的路,一段一段地堵死。 2
下次AI垄断,不只看谁有最聪明的模型,更看谁能拿到那把打开“完整版”的钥匙。而其他人,只能对着这个动不动就发疯的Fable 5,相顾无言。
引用
-
因安全顾虑,Anthropic 最强 AI 模型 Claude Fable 5 拒绝回答基础生物问题·IT之家·远洋(2026/6/11)·检索日期2026/6/12 ↩︎ ↩︎ ↩︎
-
新智元:Claude Fable 5「发疯」,高数算网络攻击,问癌症直接封号?(2026/6/12)·检索日期2026/6/12 ↩︎ ↩︎ ↩︎ ↩︎ ↩︎
-
谁来决定AI的价值观?美国围绕Claude的安全治理讨论【战略洞察】·智源社区(2026/6/12)·检索日期2026/6/12 ↩︎ ↩︎
-
微软因安全疑虑 限制员工使用Anthropic的Claude Fable 5·香港雅虎财经(2026/6/12)·检索日期2026/6/12 ↩︎