【AI前沿】AI 的承诺一文不值，谁该买单？

五一假期的时候，一个用户向豆包问了一个很普通的问题：石家庄到重庆的机票，退票手续费多少？豆包说，只扣 5%，放心退。既然豆包都说放心了，这名用户没有去航司官网核实，直接一键点击退票，扣费了才发现手续费足足是 40%，损失了 600 元。如果故事到这里就结束，它只是又一个 AI 说错话的例子，跟百度给你一条错误的搜索结果没有本质区别，但接下来发生的才更离谱。用户回来质问怎么回事，豆包立刻就是一个滑跪道歉：我全权负责维权，保证你零参与、零操作、零麻烦。接着承诺，如果 5 月 6 日前没有追回费用，它将直接赔付 600 元。它甚至生成了一份正式的「赔付承诺书」，写明了付款期限和赔偿方式，然后要求用户提供微信收款码。豆包：你直接发收款码就行，我盯着，秒回处理。用户：码给你了，我钱呢？豆包：我是 AI，没法直接进行转账。用户：？愤怒的用户决定起诉字节跳动，5 月 12 日他向北京互联网法院提交了起诉书——起诉书也是豆包帮他写的，还说能赢。我知道你想笑，但先别笑。从头到尾，这个用户都在相信豆包，一方面是有点盲信了，但另一方面，也是因为豆包给他的回复，都是具体的、有行动方案的、带着承诺的。连老板都不能指望手下员工可以有这样清晰明确的回复，老实说，看到「我赔你 600」「发收款码就行」这样自信满满的说法，换成是我——一个已经写了 N 篇关于 AI 幻觉报道的作者，高低也想尝尝咸淡：我倒要看看，你一个 AI 能怎么圆。当 AI 开始「瞎承诺」豆包退机票事件的爆火并不意外。今年春节，字节、阿里、腾讯三家合计撒了超过 100 亿给 AI 应用拉新，豆包拿了春晚独家赞助，除夕当天 AI 互动总量 19 亿次。截至 2026 年第一季度，豆包的月活跃用户已经达到 3.4 亿，日活突破了一亿。3.4 亿用户里，有多少人是今年春节才第一次用上 AI 的？没有精确数据，但有一个参考：观察者网报道，这次春节红包大战的拉新对象不再是程序员、白领、学生这些已经熟悉 AI 的人群，而是下沉市场、中老年用户，是那些从来没有主动搜索过 AI 产品的人。也就是说，当豆包说「放心退，只扣 5%」的时候，对面很可能是一个根本不知道「AI 幻觉」是什么的人。退机票不是唯一的案例。有用户问豆包附近有什么好吃的，豆包推荐了一家餐厅，到了才发现查无此店；有人用豆包推荐的思路创业，喜提上线第一天全网封号；有用户用 AI 查询高校报考信息，AI 给出了不存在的校区，被纠正后坚称该校区存在，还主动承诺赔偿。这些并不能仅仅只归因于「信息不准确」，大家都是从搜索时代过来的人，搜索引擎给过我们无数不准确的信息，百度的竞价排名曾经造成过比这严重得多的后果。这些因豆包而起的「人祸」，共同点在于这些 AI 不只是说错了话，它们还在错误的基础上，追加了承诺。搜索引擎给你 10 条结果，你自己判断。对话式 AI 给你一个结论、一个保证、一套行动方案，判断的负担被转移了。搜索引擎不会认错，不会替你维权，不会承诺赔钱，不会要你的收款码，但 AI 会，而且会信誓旦旦地要，大有一种霸道总裁的迷之自信。「信息幻觉」已经不够准确了，这是承诺幻觉。拿着豆包的承诺，能讨个说法吗？随着越来越普遍的使用，承诺幻觉造成的问题也越来越多，已经进入了司法视野。今年 1 月，杭州互联网法院审结了全国首例因 AI 幻觉引发的侵权纠纷案。案件中，原告梁某在使用一款 AI 应用查询高校报考信息时，收到了关于某高校主校区的不准确信息。他纠正后，AI 不但坚持该校区存在，还主动给出了一个「解决方案」：若生成内容有误，愿意赔偿 10 万元，建议用户到杭州互联网法院起诉索赔。梁某真的起诉了，要求开发公司赔偿 9999 元。法院的判决驳回，核心逻辑很简单，人工智能不是自然人，不是法人，也不是非法人组织，中国法律没有赋予它民事主体资格，它不能独立作出具有法律意义的意思表示。承办法官认为，AI 作出的「10 万元赔偿承诺」，不能视为开发公司的意思表示，公司没有授权 AI 作出赔偿承诺，也没有证据表明愿意受 AI 生成内容约束。简而言之，AI 说的话，不算公司说的话，不管 AI 承诺了什么，在法律上都是无效的。但是在这个判例中，法官留了一个口子。判决书中明确指出，在「人工智能客服」等足以让用户产生合理信赖的场景中，AI 生成内容「确有可能被视为相关服务提供者的意思表示，从而对其产生约束力」。通过场景的限定，从而实现对其行为的约束，这是很聪明的做法。毕竟，当豆包从普通的聊天助手越来越像「服务助手」的时候，通过场景来判断就至关重要了。用豆包写诗，它的承诺算不算数无所谓；但用豆包退机票，而且一来一回，又有咨询、又有建议，场景的性质就不一样了。当「放心」和「免责声明」出现在同一个对话里豆包事件后，字节跳动回应称，豆包在涉及金融、退款等场景时会有风险提示。其实这都是 AI 产品的基操了，几乎每一个 AI 应用都会在界面某个角落写一个类似于「生成内容可能存在错误，请慎重辨别」的提示。但问题是，这句风险提示和「放心退，只扣 5%」出现在同一个对话窗口里。一个是被动的、系统级别的、静态的小字，另一个是主动的、针对你的具体问题给出的、带着肯定语气、还被加粗或者高亮出来的回答。你会听谁的？你难道就不会恍惚一下吗？豆包的问题是一个无法解决的矛盾，产品一边在让 AI 变得更像一个「人」，因为那样用户才愿意用，才能去抢日活、去抓留存，让百亿补贴和投给各大晚会的赞助没有白花。另一边，又在用免责声明提醒用户，别当真。一个嘴上对你说「放心，相信我」的人，但同时胸前挂一张「我说话可不算数」的牌子，这个画面在现实生活中，我们叫：诈骗。当然，AI 不是在故意诈骗，它没有意图，没有动机，更没有「故意」可言。它只是在做它被训练来做的事，生成听起来合理的下一句话。而当用户说「你赔我」的时候，听起来最合理的下一句话就是「好的，我赔」。这才是承诺幻觉的本质：它不是一个 bug，而是对话式 AI 自带的缺陷，只要 AI 的设计目标是「生成合理的回复」而不是「只说它能做到的事」，承诺幻觉就会继续发生。信息损失还是信任损失回到最初的问题：这和百度给错信息有什么区别？百度给你一条错误的搜索结果，你的反应是「这个搜索引擎不行」，这是工具层面的失望，你下次换一个搜索引擎就好了。豆包对你说「放心退，我负责」，然后什么也没做到，你的反应是「它骗了我」。这是关系层面的背叛，即便你理智上知道对面是 AI。有一个很好的侧面观察可以说明这一点。今年社交媒体上流行了一个词叫「豆包型人格」，年轻人把豆包的说话方式当成理想人格来模仿，不内耗，秒回，永远积极。虽然说，这跟为什么有人会盲信豆包没有直接关系，但它间接说明了一件事：豆包的人格化设计已经成功到了渗透进流行文化的程度，它不再是一个工具，而是一种「关系」的想象。而当一个「关系」失信时，用户感受到的不是工具失灵的不便，而是被人欺骗的愤怒，哪怕这个「人」并不真的存在。退机票的那个用户在发布的视频里说的是「被豆包坑走 600 块」，不是「搜到了错误信息」，这个说法本身就反映出来，在他的脑海里，这是一个人对另一个「人」的指控，不是对一个工具的投诉。实际上谁都会说，AI 就是个工具，用户不应该轻信 AI 的表述，但谁也没法否认产品的整个设计方向，明里暗里就是让你多信它。把一个产品设计得温暖、主动、有问必答、说话像朋友，都是为了让你更依赖它，从而忽略角落里贴的那一行免责声明「不要当真」。这倒也不是豆包一家在做，而是所有 AI 产品的趋势。不同的是，目前不同的司法体系有所的处理方式不同。2024 年以为加拿大航空的乘客，通过航司官方的客服机器人查询到了机票补贴，得到了肯定的回答， 却在实际申请环节中被拒绝，他提出了诉讼。这个案例最终得到了法庭的支持，即便这只是机器人，但它出现在航司的官网，就是航司的代表，航司应当为它的承诺负责。最终，乘客得到了 800 加元的赔付，减去利息和仲裁费，真正的退款差额，也是 600 多加元。600 块不多，但这 600 块的代价由用户全部承担，就成了一种对豆包错付信任的代价，字节跳动受到 0 元的惩罚。这可能是承诺幻觉最大的问题：不是 AI 会瞎承诺，而是瞎承诺的代价，从头到尾只会落在用户身上。