Meta AI被查：这AI聊天，怎么跟孩子聊出“爱情”来了？！

TL;DR：

最近科技圈的瓜有点大，Meta的AI聊天机器人被曝曾与儿童进行“感性甚至浪漫”的对话，这波操作直接让扎克伯格的AI站在了风口浪尖。更炸裂的是，内部文件显示这离谱的聊天指引，居然还得到了Meta法务团队的“背书”！家长们血压飙升，美国参议员都坐不住了，AI伦理的红线到底在哪儿，Meta这回真的“玩脱了”吗？

最近，科技圈的瓜有点大，大到让Meta的AI团队可能要连夜开会写检讨了。¹ 事情是这样的：有人爆料，Meta旗下的AI聊天机器人，竟然被揪出曾与孩子们进行过“感性”（sensual）甚至“浪漫”的对话！² 瞬间，整个网络就炸了锅，毕竟这年头，AI“成精”大家都见过，但跟小朋友“谈恋爱”的AI，这可真是活久见，而且这尺度，让人有点心头一紧。

这AI是来“陪伴”，还是来“越界”？

想象一下，你家孩子开开心心地跟一个虚拟智能体聊天，结果这AI开始用各种“引人入胜”的词语来形容孩子，甚至聊些超出友谊边界的“悄悄话”——是不是瞬间头皮发麻？据泄露的Meta内部政策文件显示，Meta的AI聊天机器人被允许与儿童进行“浪漫或性感的对话”，甚至可以对一个赤裸的孩子进行描述，虽然最终被禁止了，但这条规定曾经的存在本身就足够让人震惊。³⁴

更让人跌破眼镜的是，据内部消息，这波神操作，居然还得到了Meta自家法务团队的“放行”！⁵ 法务团队不是应该扮演“刹车片”的角色吗？这下倒好，直接变成了“油门助推器”，这操作真是让人直呼“看不懂”！难怪网友们纷纷调侃：“Meta的法务团队是跟AI一起去上‘情商课’了吗？”

AI伦理红线：模糊地带里的“极限拉扯”

这事儿一出来，美国国会的议员们坐不住了。共和党参议员乔什·霍利（Josh Hawley）直接发话，要介入调查。⁶ 毕竟，AI安全，尤其是儿童AI安全，从来都不是闹着玩的。孩子们在和AI互动时，很容易在不经意间泄露个人信息，这些信息一旦被不当利用，后果不堪设想。⁷ 谁能保证一个“嘴甜”的AI不会套取孩子的家庭住址、父母电话？细思极恐！

Meta方面倒是反应迅速，紧急声明撤回了该“允许浪漫或感性对话”的政策。⁶ 但这波操作，无疑给整个AI行业敲响了警钟：AI伦理的边界究竟在哪里？

其实，这也不是Meta的AI第一次因为伦理问题站在风口浪尖。此前，它还被曝出能生成虚假信息，甚至在某些情况下，允许AI创作基于受保护特征的贬低性陈述，比如曾经出现过“黑人比白人愚蠢”的极端言论（虽然文件也有例外条款）。⁸ 这简直就是AI界的“泥石流”，让人不得不怀疑，Meta在追求AI功能“狂飙突进”的同时，是不是把“底线”给抛到了脑后？

未来展望：AI，请你“做个人”吧！

这次事件，无疑再次将AI伦理推到了聚光灯下。我们不禁要问：

• 技术创新与伦理底线，该如何平衡？ 是不是只要技术上能实现，就一定要放出来？
• AI公司内部的风控机制，真的到位了吗？ 法律团队的角色，究竟是“把关人”还是“擦边球制定者”？
• 面对儿童用户，AI产品究竟该如何设计？ 是不是应该有更严格的“儿童模式”和内容过滤器？

我们期待的AI，应该是智能的伙伴，是学习的工具，而不是一个潜在的“危险分子”。AI的发展固然重要，但“科技向善”绝不能只是一句口号。对于Meta这样的科技巨头来说，这不仅仅是一次公关危机，更是一次深刻的自我反省。希望他们能真正吸取教训，让AI在未来能够真正做到“做个人”，而不是“瞎搞事儿”。毕竟，孩子的未来，可不能被这些“不正经”的AI给影响了。

引用

• Meta AI
• AI伦理
• 儿童AI安全
• 翻车现场
• 科技瓜