手册案例 16.6 / 第 16 章 交通运输与航空
加拿大航空的 AI 落地:聊天机器人答错丧亲票价政策,被裁定共支付 812.02 加元
一个被司法裁决文件记录在案的失败案例:对外政策问答没有人工兜底,企业要为机器人说的话负责。
行业:交通运输与航空|国家/地区:加拿大|企业规模:未披露(员工数未在来源中披露)|场景:客服(官网聊天机器人)|结果:失败|周期:未公开|投入:未公开
做了什么
加拿大航空在官网上提供客服聊天机器人,为访问网站的人提供信息。裁决书指出,加航没有提供这个聊天机器人性质的任何信息。
乘客 Moffatt 在祖母去世当天上加航官网查订机票时使用了它。聊天机器人告诉 Moffatt:如果已经出行,可以在出票后 90 天内提交机票申请丧亲优惠价。
Moffatt 后来从加航员工处得知,公司不接受事后申请;加航的"Bereavement travel"网页也写明,该政策不适用于旅行完成后的申请。
Moffatt 向 BC 省民事裁决庭(Civil Resolution Tribunal)提出申诉。
结果与数字
- 2024 年 2 月 14 日,BC 省民事裁决庭认定加航构成过失性失实陈述(negligent misrepresentation)。
- 判加航共支付 812.02 加元,其中赔偿 650.88 加元、判决前利息 36.14 加元、裁决庭费用 125 加元。
- 加航辩称不应为聊天机器人提供的信息负责;审裁员认为这等于把聊天机器人当成"为自己行为负责的独立法律实体",称之为"remarkable submission"(令人瞠目的主张),不予采纳。
- 裁决书写道:"加航理应明白,它要为自己网站上的所有信息负责。"
成功/失败原因
从本书案例看,本案属于"对外回答或自动决定缺人工兜底"这类失败:聊天机器人的答案与官方政策文本不一致,又没有人工复核把关。
政策的答案本可以从官网文本逐条核对,AI 却给出了相反的回答,说明对外政策类问答必须以官方文本为准、留转人工通道。
更重的教训是法律责任:企业不能以"是机器人说的"来免责,加航的抗辩被审裁员驳回。
来源与核查
- 来源:Civil Resolution Tribunal 《Moffatt v. Air Canada, 2024 BCCRT 149》(2024 年 2 月 14 日,审裁员 Christopher C. Rivers)(司法/裁决文件)
- 核查日期:2026-11-12(裁决日期与审裁员、90 天说法、官网政策原文、过失性失实陈述认定、812.02 加元构成、"remarkable submission"与"It should be obvious…"两句原文、"未提供聊天机器人性质的任何信息",均已对照裁决书全文逐条核实)
- 本案为公开行业信息整理,非增长飞轮AI客户案例。
- 手册案例号:案例 16.6(《企业AI落地案例与分析手册》第 16 章 交通运输与航空)
与手册的关系
这是《企业AI落地案例与分析手册》第 16 章"交通运输与航空"案例 16.6 的网页版。手册总论将本案归入失败原因第 4 类"对外回答或自动决定缺人工兜底"(全书 5 个),并在总论第二节"错一次代价多大"、第六节"扩大推广"中两次引用:企业不能以"是机器人说的"来免责。