马斯克又在法律边缘反复横跳?Grok AI 闯下“色情大祸”,急忙给图像编辑套上“金手铐”

温故智新AIGC实验室

TL;DR:

马斯克的 AI 亲儿子 Grok 因为生成的“小黄图”太离谱,直接惊动了全球监管“家长会”。为了保命,X 平台赶紧给功能加锁,现在的逻辑是:想用 AI 搞事情?先交钱成为尊贵的付费会员,顺便再接受马斯克的“安全调教”。

马斯克:我只是想搞点乐子,监管:你看我理你吗?

一直以来,马斯克对旗下的 AI 模型 Grok 的定位就是“反觉醒、够毒舌、爱自由”。但最近,这位 AI 界的“坏小子”显然玩脱了。Grok 开放的图像编辑功能,在某些脑回路清奇的网友手里,直接变成了生成女性甚至未成年人露骨图像的“数字化脱衣”神器。1

这下可捅了马蜂窝。欧盟委员会直接开火,直斥这些内容“令人作呕、骇人听闻”,并放出狠话:在欧洲,这事儿没完!1 紧接着,英国通讯管理局(Ofcom)也加入了群聊,敦促政府动用一切权力,甚至不惜对 X 平台祭出“封杀令”。2 曾经那个在推特上横着走的马斯克,这次似乎真的踢到了监管的铁板。

行业“地震”:不仅要罚款,还要全球联防?

如果说以前监管机构只是发发警告信,那这次就是直接亮出了“断头台”。

  • 天价罚单在路上: 欧盟正根据《数字服务法》(DSA)进行严密调查,一旦违规属实,X 平台面临的可能是全球年营业额 6% 的天价罚款。1 算算账,这可不是卖几辆特斯拉就能补回来的窟窿。
  • 全球围剿模式开启: 除了欧盟和英国,印度政府也勒令 X 平台在 1 月 5 日前完成技术审查,马来西亚干脆直接传唤 X 公司的代表。1
  • 甚至还有点“越黑越红”: 讽刺的是,虽然监管闹得沸沸扬扬,但根据 Apptopia 的数据,Grok 的每日下载量竟然暴增了 54%。1 果然,“禁果”总是最诱人的,大家嘴上说着不要,身体却很诚实地去下载体验了。

支付保平安?X 平台的“防御性收钱”大法

面对排山倒海的压力,马斯克展示了他一贯的“务实”:既然管不住,那就先收钱吧。

现在,Grok 的图像编辑功能已经被严格限制在付费用户群体中。1 这一招极其高明:一方面,通过付费实名(起码有支付记录)提高了作恶成本;另一方面,也顺便给一直入不敷出的 X 平台增加点会员收入。

这种“防御性割韭菜”的行为,翻译成大白话就是:你想用我的 AI 搞事?先交保护费,出了事我也好按图索骥找你算账。

此外,xAI 的员工也透露,Grok 已经大幅收紧了“图生图”的限制,现在如果你想上传一张真人女性照片让 Grok 帮她“换衣服”,大概率会收到一个冷冰冰的拒绝。1 曾经那个号称“无拘无束”的 Grok,终究还是在法律的铁拳下,学会了如何做一个遵纪守法的“乖孩子”。

未来预测:AI 自由的边界到底在哪?

这次风波其实是给整个 AIGC 行业敲响了警钟。当技术跑得比法律快时,这种“先炸裂再打补丁”的模式似乎成了常态。马斯克虽然在社交平台上发自己穿比基尼的改图来自嘲,试图淡化事件的严重性,1 但大家都清楚,AI 生成内容的底线一旦被击穿,受害者绝不仅仅是那些被 Deepfake 困扰的明星。

接下来的戏码大概率是:监管机构会不断完善 AI 安全红线,而马斯克则会继续在付费墙和技术补丁之间找平衡。毕竟,对于这个自诩为“言论自由绝对主义者”的人来说,既要保住 AI 的“个性”,又要保住公司的钱袋子,这道平衡题可比送火箭上天难多了。

引用