跳到正文

手册案例 16.6 / 第 16 章 交通运输与航空

加拿大航空的 AI 落地:聊天机器人答错丧亲票价政策,被裁定共支付 812.02 加元

一个被司法裁决文件记录在案的失败案例:对外政策问答没有人工兜底,企业要为机器人说的话负责。

案例档案

行业:交通运输与航空|国家/地区:加拿大|企业规模:未披露(员工数未在来源中披露)|场景:客服(官网聊天机器人)|结果:失败|周期:未公开|投入:未公开

做了什么

加拿大航空在官网上提供客服聊天机器人,为访问网站的人提供信息。裁决书指出,加航没有提供这个聊天机器人性质的任何信息。

乘客 Moffatt 在祖母去世当天上加航官网查订机票时使用了它。聊天机器人告诉 Moffatt:如果已经出行,可以在出票后 90 天内提交机票申请丧亲优惠价。

Moffatt 后来从加航员工处得知,公司不接受事后申请;加航的"Bereavement travel"网页也写明,该政策不适用于旅行完成后的申请。

Moffatt 向 BC 省民事裁决庭(Civil Resolution Tribunal)提出申诉。

结果与数字

成功/失败原因

从本书案例看,本案属于"对外回答或自动决定缺人工兜底"这类失败:聊天机器人的答案与官方政策文本不一致,又没有人工复核把关。

政策的答案本可以从官网文本逐条核对,AI 却给出了相反的回答,说明对外政策类问答必须以官方文本为准、留转人工通道。

更重的教训是法律责任:企业不能以"是机器人说的"来免责,加航的抗辩被审裁员驳回。

来源与核查

与手册的关系

这是《企业AI落地案例与分析手册》第 16 章"交通运输与航空"案例 16.6 的网页版。手册总论将本案归入失败原因第 4 类"对外回答或自动决定缺人工兜底"(全书 5 个),并在总论第二节"错一次代价多大"、第六节"扩大推广"中两次引用:企业不能以"是机器人说的"来免责。