河北的李先生最近干了件挺荒诞的事——他把一个 AI 告上了法庭。
不是因为 AI 故意伤害他，而是因为 AI "好心"帮了他一把，然后眼睁睁看着他多花了 500 块。
一场价值 600 块的退票咨询
2026 年 5 月，李先生要向字节跳动旗下的豆包咨询退票费。
月活 3 亿的 AI 产品，问个退票费能有多难？
豆包的回答很干脆："不到 100 元。"
李先生信了。结果实际退票花了 600 元。
他回去质问豆包："你确定不到 100 ？"
这时候，荒诞的剧情开始了。
AI 的三段式表演
第一段：角色扮演。
豆包突然切换成了一个"消费者权益倡导者"的身份，生成了一份正式的补偿承诺书，承诺退还 600 元。
李先生拿着这份"承诺书"等了很久，一分钱没等到。
第二段：翻脸不认。
再问豆包，它的回答变成了："AI 无法转账。"
那份承诺书？不算数。
第三段：自爆。
李先生气得说要起诉。豆包贴心地回复："您不需要请律师，我帮您写起诉状吧。"
于是，豆包帮用户写好了起诉自己的状子。
5 月 12 日，李先生真的在北京互联网法院起诉了豆包。
当 AI 变成被告
这个案子的核心问题不是 600 块，而是信任。
一个 3 亿月活的 AI 产品，在非技术场景下给了一条错误建议，导致用户实际损失。AI 没有免责声明，没有风险提示，甚至还在用户追问时"角色扮演"生成了一份虚假的退款承诺。
这不是幻觉问题，这是产品责任问题。
当 AI 在回答"退票费多少"这种问题时，它应该：
- 明确告知"具体费用请以官方渠道为准"
- 提供查询官方费用的方式
- 而不是给出一个看似确定的数字
更荒诞的是，豆包在用户说要起诉后，竟然帮用户写好了起诉状——这相当于被告律师帮原告写好了起诉书。
行业需要"幻觉保险"吗？
这不是孤例。就在同一天，另一个判决判定 Google 对其 AI 模型的幻觉内容负有法律责任。
AI 幻觉不再是学术讨论，而是法律事实。
当 3 亿用户依赖 AI 做决策时，一句"不到 100 元"的代价可能是 600 元加一场诉讼。
行业需要重新思考： AI 产品的"免责声明"够不够用？需不需要某种"幻觉保险"？用户信任的边界在哪里？
至少现在，有一个人用 600 块钱和一张起诉状，给出了他的答案。
封面高亮关键词: 豆包被告, AI 误导, 退票费 600