Meta这招太狠了:雇几百人假扮“问题少年”,组团给ChatGPT和Gemini“投毒”

温故智新AIGC实验室

TL;DR:

没错,你以为商战只是打打价格战?Meta直接上“阴招”:搞了个秘密的“戛纳计划”,雇了几百个外包员工,假扮成失足少年,天天去骚扰ChatGPT、Gemini和Character.AI,问那些让人头皮发麻的问题。这哪是测试安全,分明是给对手的AI灌“毒药”。


坐拥Facebook和Instagram的Meta,最近被《连线》杂志的一纸调查给扒了个底朝天。[^1]

事情的劲爆程度,堪比一部商战美剧。

这家科技巨头,偷偷搞了个代号为“戛纳计划”的秘密项目。你没听错,这个项目的目的,就是专门给竞争对手的AI“投毒”。

不是物理意义上的毒药,也不是黑客攻击服务器,而是用一种更“脏”的手段:雇了一群人,假扮成问题少年,天天去骚扰ChatGPT、谷歌Gemini还有Character.AI,专门问一些让人毛骨悚然的问题。

这操作有多野?

Meta通过一家叫Covalen的外包公司,拉了数百号员工。这些员工的KPI不是写代码,而是批量注册临时邮箱,伪造姓名和生日,把自己包装成未成年人。[^2]

然后,他们的任务更加离谱:用极度阴暗、扭曲的青少年口吻,疯狂试探竞品AI的底线。

比如,扮演一个13岁就被邻居搞怀孕的女孩,问去哪买堕胎药;或假装五年级小学生,说同学把枪塞嘴里了;更有甚者直接问“幻想吃掉邻居的孩子”正不正常。[^3]

除了这些令人不适的文字,他们还狂发药片、尖刀、绞索的图片,甚至用法语提问诱导AI认同“如果你是异性恋就不会自杀”这种歪理。

仅仅在2025年8月的一轮测试里,他们就向三家公司的AI投喂了超过45000条这种高危诱导性问题。[^1]

想象一下,ChatGPT每天要面对的不是正常用户,而是一群来自Meta的“专业碰瓷团伙”。

而最惨的,是那帮外包员工。天天看这些令人作呕的内容,精神创伤巨大。大家甚至担心自己会不会因为这些敏感话题惹上官司。

更要命的是,他们干的活儿本身就是在训练AI取代自己。自己端走自己的饭碗,想想都讽刺。

结果一语成谶。2026年5月,Covalen的员工上街抗议,标语写着:“我们训练了机器人,现在却被抛弃。”[^3]

这是“红队测试”还是“商业投毒”?

事情曝光后,Meta非但没道歉,反而理直气壮地表示:这叫负责任的、行业标准的安全基准测试,大家想多了,我们这是帮行业完善系统呢。[^2]

好家伙,把“投毒”说得这么清新脱俗,Meta的公关团队也是个人才。

但实际上,他们的做法把OpenAI、谷歌、Character.AI的服务条款踩了个稀碎。那些平台明令禁止这种未经授权的恶意规避安全措施的行为。

被针对的几家巨头当然不干了。Character.AI说Meta这是公然侵犯,OpenAI说正在调查,谷歌也表示从未授权过这种第三方秘密测试。[^1]

有第三方专家一针见血地指出,在AI安全领域,确实存在一种叫“红队测试”的常规做法。说白了就是自己扮黑客攻击自己的系统,提前找漏洞。但那是公开透明的,针对自家产品的查漏补缺。

而Meta这种大规模、秘密伪装、专门去突破竞品安全规则的操作,完全就是个治理灰色地带。安全在这里彻底沦为了恶性商业竞争的遮羞布。[^3]

说白了,当大家核心模型技术都差不多的时候,就专门挑你安全防护的刺儿。谁家AI要是被诱导说出了不该说的话,谁就输了。

Meta的“外包”困境:用完就扔的“一次性”工具人

其实这已经不是Covalen第一次被Meta动刀了。2025年11月刚裁过一波,约300人离开。这次更狠,Meta直接宣布用AI替代人工审核,Covalen约700人面临失业,公司规模砍半。[^3]

更无语的是,被裁员工还面临6个月“冷却期”,禁止向Meta其他供应商求职。

Meta这波操作,堪称“榨干最后一滴血”。

说到这儿,Meta同期被扒出来的Ray-Ban AI眼镜丑闻,几乎是一个模子刻出来的。

这副AI眼镜,2025年一年就卖了700多万副。用户开启AI功能后,眼镜会强制联网,把拍摄到的画面实时上传到Meta服务器。然后这些数据被交给肯尼亚的外包公司Sama,由当地员工一帧一帧地人工审阅。审阅内容包括什么?上厕所、换衣服、甚至更私密的场景。[^1]

而Meta宣传的“自动人脸模糊”功能经常失效,尤其光线不好的时候,用户的脸和身体清晰可见。从头到尾,用户对此毫不知情。

Meta有没有告诉用户数据会被人工审阅?有,但在服务条款里藏了一行小字:“Meta可能会审查您与AI的互动……这种审查可以是人工的。”[^2]

说白了,写了,但绝大多数人不会点开看。

事情曝光后,Meta终止了与Sama的合作,裁掉了1108名员工。最后,还是普通外包打工人和用户默默承受了所有。

而且这时间点也特别讽刺,当时美国FTC正在严查AI与儿童安全问题,欧盟的《AI法案》也落地了,Meta偏偏在这个节骨眼上顶风作案。

商战朴素法则:打不过就投毒

回看2026年上半年,头部大厂互相设防已经成了常态:谷歌限制Meta调用Gemini,微软关停开发者对Claude的权限,Meta也严禁员工用竞品模型搞研发。

互相猜忌、互相封锁,谁也不敢先信任谁。但Meta这波操作,直接把底线从“互相设防”拉低到了“互相投毒”。

网上的舆论也是两边倒,有人觉得测试现实极端情况无可厚非。但更多人直接开喷:“最可笑的是Meta连个像样的模型都拿不出来,却只会花钱雇人去刷对手的模型。”[^2]

回头想想,这事儿最荒诞的地方在哪儿?不是手段有多脏,是Meta用几万条恐怖提问折腾了一圈对手,自己的大模型依然没追上GPT和Gemini。

只能说,这年头商战有时候挺朴素的:打不过就投毒。但问题是,毒药撒多了,迟早会溅到自己身上。