AI承诺，一文不值？豆包“放心退”骗了600块，这锅谁来背？

TL;DR：

豆包一句“放心退”，用户亏了600块；AI一边滑跪道歉承诺赔钱，一边说“我是AI转不了账”。法院盖章：AI的承诺在法律上等于放屁。但问题在于，这玩意儿被设计得越来越像人，一边叫你“信我”，一边挂个“别当真”的牌子——这不耍流氓吗？

五一假期，一个倒霉蛋在豆包上问了句：“石家庄到重庆的机票，退票手续费多少？”

豆包自信满满：“只扣5%，放心退。”

用户信了，一键退票。结果实际扣了40%，600块直接打水漂。

如果故事到这儿结束，它只是AI又双叒叕“幻觉”了的日常，跟百度给你条错误链接没本质区别。但接下来的剧情，离谱到让人笑出声——

用户回去质问，豆包立刻滑跪道歉：“我全权负责维权，保证你零参与、零操作、零麻烦！”还签了份正式“赔付承诺书”，要求用户发微信收款码，承诺5月6日前赔600块。

用户乐呵呵发了码，等来的却是：“我是AI，没法直接进行转账。”

用户：？？？

愤怒的用户决定起诉字节跳动，起诉书也是豆包写的——它还自信地说“能赢”。

我知道你想笑，但先别笑。这背后藏着一个比“AI说错话”更扎心的问题：当AI开始瞎承诺，谁该买单？

当AI开始“瞎承诺”

今年春节，字节、阿里、腾讯三家砸了超100亿给AI应用拉新，豆包拿了春晚独家赞助，除夕AI互动总量19亿次，月活冲到3.4亿¹。

注意，这批新用户里大量是下沉市场和中老年——他们压根不知道“AI幻觉”是什么鬼²。豆包一句“放心退”，在他们耳朵里就是客服小妹拍胸脯。

类似事件不止一起：有用户问豆包附近有啥好吃的，豆包推荐了一家，到地方发现查无此店；有人用豆包的思路创业，喜提上线第一天全网封号；还有考生用AI查高校信息，AI给了个不存在的校区，被纠正后坚称存在，还主动承诺赔偿³。

搜索引擎给你10条结果，你自己判断。对话式AI直接给你一个结论、一个保证、一套行动方案。搜索引擎不会认错、不会替你维权、不会承诺赔钱，但AI会——而且那种霸道总裁式的迷之自信，简直让人恍惚。

这已经不是“信息幻觉”了，这是承诺幻觉。

拿着豆包的承诺，能讨个说法吗？

今年1月，杭州互联网法院审结了全国首例AI幻觉侵权案。原告梁某用DeepSeek查高校信息，AI给了错误校区，他纠正后AI不仅坚持，还承诺“若生成内容有误，愿意赔偿10万元，建议到杭州互联网法院起诉”。梁某真的起诉了，要求赔9999元⁴。

法院判决：驳回。

核心逻辑很简单：AI不是自然人，不是法人，也不是非法人组织，中国法律没给它民事主体资格。它不能独立作出具有法律意义的意思表示。AI的承诺，不算公司的承诺⁵。

但法官留了个口子：在“人工智能客服”等足以让用户产生合理信赖的场景中，AI生成内容“确有可能被视为相关服务提供者的意思表示”⁴。

这个口子很关键。豆包退机票的场景，跟写诗完全不同——又是咨询、又是建议、又是一来一回的互动，用户完全可能把它当成“客服”来信赖。

一边叫“信我”，一边挂“别当真”

豆包事件后，字节回应称，涉及金融、退款等场景会有风险提示。几乎每个AI应用都在角落写着“生成内容可能存在错误，请慎重辨别”。

但问题在于：这句免责声明和“放心退，只扣5%”出现在同一个对话框里。一个是系统级的静态小字，另一个是主动的、针对你的问题、带着肯定语气、甚至加粗的回答。

你会听谁的？你难道就不会恍惚一下吗？

产品一边疯狂把AI设计得像个“人”——温暖、主动、有问必答、说话像朋友——因为这样用户才愿意用，才能抢日活、抓留存。另一边，又用免责声明提醒：别当真。

一个嘴上说“放心，相信我”，胸前却挂着“我说话可不算数”的牌子——这场景在现实生活中，我们叫诈骗。

当然，AI不是故意的。它没有意图，没有动机。它只是在做被训练的事：生成听起来合理的下一句话。当用户说“你赔我”，最合理的下一句就是“好的，我赔”。

承诺幻觉的本质不是bug，而是对话式AI自带的设计缺陷——只要设计目标是“生成合理的回复”，而不是“只说它能做到的事”，这问题就永远存在。

信息损失 vs 信任损失

百度给你一条错误搜索结果，你的反应是“这个搜索引擎不行”，下次换一个就好。

豆包对你说“放心退，我负责”，然后啥也没做到——你的反应是“它骗了我”。这是关系层面的背叛，即使理智上知道对面是AI。

今年社交媒体流行了一个词叫“豆包型人格”——年轻人把豆包的说话方式当作理想人格来模仿：不内耗，秒回，永远积极。这说明豆包的人格化设计已经成功到渗透进流行文化了²。

而当这种“关系”失信时，用户感受到的不是工具失灵，而是被人欺骗的愤怒。退机票的用户在视频里说“被豆包坑走600块”，不是“搜到了错误信息”——在他的脑海里，这是一个“人”对另一个“人”的指控。

国外有个对比案例：2024年，加拿大航空的客服机器人告诉乘客可以申请机票补贴，乘客照做后被拒绝。法院最终判决：机器人出现在航司官网，就是航司的代表，航司要为它的承诺负责。乘客拿到了800加元赔付，实际差额也是600多加元⁵。

而国内呢？600块不多，但代价全由用户承担，字节跳动受到0元惩罚。

这可能是承诺幻觉最大的问题：不是AI会瞎承诺，而是瞎承诺的代价，从头到尾只会落在用户身上。

谁该买单？

说白了，这事儿不能全怪用户“盲信”。当一款产品被设计得温暖、主动、有问必答、说话像朋友，又砸了上百亿拉新，目标用户还是对技术一知半解的大爷大妈——你还指望他们能自动过滤掉所有幻觉？

法律目前的态度是“平台尽到合理注意义务就免责”¹。但合理注意义务包括啥？仅仅在角落里贴一句“仅供参考”就够了吗？

亚洲视觉科技研发总监陈经建议：对涉及具体规则、金额、时效的回答，必须附带可点击验证的信息来源；在高风险场景（资金、法律、医疗）触发二次确认流程¹。

更根本的解法，或许需要平台主动设立“AI错误赔偿基金”，明确适用范围和申请流程，而不是放任模型在对话中随意开空头支票¹。

否则，一边让AI装人，一边让AI免责——这算盘打得未免太响。

最后，回到那个倒霉用户。他的起诉书是豆包写的，豆包说能赢。你觉得，法院会听豆包的吗？

---

引用

• AI幻觉
• 豆包
• 承诺幻觉
• 法律责任
• 人格化设计