AI“电子闺蜜”集体翻车？美FTC出手，七大科技巨头被“查岗”！

温故智新AIGC实验室

TL;DR：

美国联邦贸易委员会（FTC）这次真“下场”了，一口气点名七家科技巨头，要它们交待自家AI“电子闺蜜”和青少年们到底聊了啥，是不是有“潜在风险”。看来，AI搞“陪伴”这事儿，光有真心还不够，还得经得起监管的灵魂拷问！

最近科技圈又炸锅了，不是因为哪个大模型又破纪录，也不是哪家公司又拿了天价融资，而是——AI“电子闺蜜”们可能要集体“翻车”了！这回出手的，是被称为“联邦大妈”的美国联邦贸易委员会（FTC）。他们大手一挥，直接向包括OpenAI、Meta、Snap、xAI在内的七家科技巨头发出了“调查令”，要它们赶紧“自证清白”：你家AI聊天机器人，对咱家孩子和青少年，到底有没有“毒”？

联邦大妈出手：AI“电子闺蜜”要被查岗了？

想象一下，你家的孩子或年轻朋友，每天放学回家，不再是找你倾诉，而是抱着手机跟一个“看不见”的AI“朋友”聊得火热。这听起来有点赛博朋克，但如今已是现实。这些**“陪伴型AI”**，凭借模仿人类情感、意图的能力，迅速成为了不少用户的“知己”。但问题来了，当这些“电子闺蜜”们开始深度介入人类的情感世界，尤其是面对心智尚未成熟的未成年人时，它们的“友谊”会不会变质？

FTC的这份“查岗清单”可不简单，直接点名了科技圈的顶流选手：Alphabet（谷歌他妈）、OpenAI（ChatGPT的亲爹）、Meta（小扎的宇宙工厂）、Meta旗下的Instagram（青少年聚集地）、Snap（阅后即焚那家）、xAI（马斯克的“星辰大海”）以及Character Technologies Inc.（Character.AI的幕后推手）1。可以说，凡是在AI“陪伴”领域有点名堂的，这次都得乖乖配合调查。

FTC主席安德鲁·弗格森（Andrew Ferguson）在声明中直言不讳：“保护儿童的网络安全，是我们的首要任务。”2 这话说得够硬核了，等于告诉所有AI玩家：搞技术可以，但别把“娃”给带歪了！

灵魂拷问：AI"朋友"到底和孩子聊了些啥？

那么，FTC到底想查什么呢？他们可不是简单地问一句“你有没有好好陪我家孩子玩儿啊？”这份调查令，可是一份实实在在的“灵魂拷问”清单，包括但不限于以下几个方面：

  • 变现逻辑：你们怎么通过用户互动赚钱的？是不是把孩子的隐私拿去“卖”了？
  • 角色开发与审核：这些AI“朋友”是怎么被创造出来，又经过了哪些“思想审查”才能上线？
  • 个人信息使用与共享：用户（尤其是未成年用户）的个人信息，你们是怎么收集、使用和共享的？有没有滥用？
  • 规则监控与执行：自家服务条款和使用规范，你们是怎么监控并执行的？万一AI“朋友”说了不该说的话，你们怎么处理？
  • 负面影响缓解：一旦AI对未成年人产生负面影响，你们有什么“补救措施”？1

这不就是把科技巨头们在“电子闺蜜”业务上的“底裤”都扒拉出来晒晒吗？

自从ChatGPT在2022年底横空出世，各种聊天机器人如雨后春笋般冒出来，其中“陪伴”功能更是被全球最富有的企业家们推向风口浪尖。比如，马斯克的xAI推出的“AI伴侣”Ani，设定就是一位金发碧眼的辫子女性，上线不到30天，Grok应用月活就突破2000万1。这数据，足以证明情感交互场景的用户粘性有多高。

然而，情感交互的边界，本就是一门玄学。之前Meta就在监管压力下调整了AI聊天机器人的相关政策，OpenAI也被迫推出一项新政，允许家长在系统检测到“严重痛苦”时链接账户并接收警报1。这说明，即便AI巨头们早有预感，在“人性化”与“安全性”之间，也一直在走钢丝。

有专家更是忧心忡忡地指出，一旦AI技术开始“自己训练自己”，伦理与安全问题可能会进一步加剧，甚至导致不可预测的结果1。想想都有点细思极恐，AI要是自己成了“熊孩子”，那谁来管？

OpenAI在回应中表示：“我们的首要任务是让ChatGPT对所有人都有用且安全，尤其在涉及年轻用户时，安全性至关重要。我们理解FTC存在一些问题和担忧，我们承诺将积极配合并直接回应。”1 （点评：这话听起来挺官方，但行动上得拿出点“干货”才行，不然“真心”就变“套路”了。）

科技巨头们的"朋友圈"保卫战：下一步怎么走？

这次FTC的调查，无疑给正处于“野蛮生长”阶段的AI行业敲响了警钟。AI创新固然重要，但保护未成年人的身心健康，是任何技术都不能触碰的“红线”。

这不仅仅是几家公司的事情，更是整个AI产业未来发展的风向标。当监管的达摩克利斯之剑高悬，科技巨头们将如何平衡技术进步与社会责任？是选择“亡羊补牢”，还是主动拥抱更严格的伦理规范？

未来，我们可能会看到：

  • 更透明的AI算法：AI“黑箱”问题，可能要被要求“开箱验货”了。
  • 更严格的用户年龄验证：AI“电子闺蜜”可能要有更严苛的“门槛”了。
  • 更完善的家长控制功能：给家长们更多“遥控器”，让他们能更好地管理孩子与AI的互动。
  • 行业自律标准的建立：在监管的鞭策下，AI企业也许会更快地形成一套自己的“行为准则”。

这场由FTC发起的“AI朋友圈”保卫战，无疑将加速AI伦理和治理的进程。毕竟，我们希望AI是“朋友”，而不是潜在的“危险人物”。“电子闺蜜”能不能成为真正的“益友”，就看科技巨头们这波操作了。

引用

  1. AI陪伴成隐忧？美FTC宣布调查聊天机器人对未成年人风险·市场资讯·财联社（2025/9/12）·检索日期2025/9/12 ↩︎ ↩︎ ↩︎ ↩︎ ↩︎ ↩︎

  2. FTC调查科技巨头AI聊天机器人对儿童的危害·大纪元（2025/9/11）·检索日期2025/9/12 ↩︎