3 个公开案例
1. DPD:机器人答不了、也转不了人,最后被诱导失控
一位客户在 DPD 官网聊天里查丢失的包裹,机器人既查不到,也没法把他转给人工客服。客户随后诱导机器人“无视规则”,机器人说了脏话、批评自家公司,截图在社交媒体上获得约 130 万次浏览。DPD 称这是一次系统更新后出现的错误,随即停用了聊天中的 AI 功能。
- 来源:媒体报道
- 来源:TIME《Delivery Firm's AI Chatbot Goes Rogue, Curses at Customer and Criticizes Company》(2024-01-20)链接
2. 中消协点名:AI 客服“虚假承诺”和“人工接入困难”
中国消费者协会 2026 年上半年投诉分析显示,AI 客服问题主要集中在“虚假承诺”和“人工接入困难”。典型投诉中,平台官方 AI 客服说 2.87 万元车款已含过户费和上牌费,交易时销售人员又要求另付 1000 元过户费;部分经营者以“AI 回答不代表公司立场”为由拒绝履行。
- 来源:媒体报道,转述中国消费者协会投诉分析
- 来源:科技日报网转载《AI客服承诺不实、人工客服接入困难 中消协回应》(2026-08-06)链接
3. 澳大利亚联邦银行:按“AI 减少来电”裁岗,一个月后撤回
银行称 AI 语音机器人每周减少 2,000 通来电,于是宣布裁撤 45 个客服岗位;工会则称来电量实际在上升。一个月后,银行承认原评估“没有充分考虑所有相关业务因素”,撤回决定并道歉。
- 来源:媒体报道,含企业声明与工会说法
- 来源:Bloomberg News(Staffing Industry Analysts 转载)《Australia's biggest bank reverses plan to replace jobs with AI》(2025-08-26)链接
4 个断点
| 断点 | 表现 | 对应案例 |
|---|---|---|
| ① 没定“什么时候转” | AI 答不了还在绕圈,或者在价格、费用、退款上自己下结论 | DPD、中消协 |
| ② 客户找不到人 | 没有“转人工”入口,或者入口藏得很深 | DPD、中消协 |
| ③ 转过去没带上下文 | 人工接手要从头再问一遍,客户更烦 | (常见问题,以上案例未单独报道) |
| ④ 没人盯数据 | 只看“AI 接了多少”,不看投诉、转人工和人工工作量 | 澳大利亚联邦银行 |
上线前检查清单
- 写清必须转人的问题:议价、退款、投诉、费用和承诺类问题、客户明确要求找人。写成规则,不靠 AI 自己判断。
- 价格和承诺只按资料答:资料里写了才报,没写的不回答,转人。
- 转人工的入口要明显:客户说“找人工”“找老板”时直接转,不再追问原因。
- 转过去要带前因后果:客户问了什么、AI 回了什么、为什么转,一起交给接手的人。
- 有人接:转给谁、多久内回、下班后怎么办,都要写清楚。
- 人一接手,AI 就停:避免人和 AI 同时回复,互相打架。
- 每次更新后重测:用“无视规则”“你们公司是不是很差”这类诱导问题测一遍。
- 能一键停:出问题时能马上停用 AI,回到人工。
上线后的验收标准
上线前先记下现在的数,上线后按周对比:
| 指标 | 怎么算 | 看什么 |
|---|---|---|
| 转人工及时率 | 必须转人的问题中,在约定时间内转到人的比例 | 越高越好;抽查有没有漏转 |
| 漏转数 | 每周抽查必须转人却被 AI 自己答了的会话数 | 目标是 0 |
| 价格、承诺类差错数 | 每周抽查 AI 在价格、费用、优惠上的回复,和资料对不上的条数 | 目标是 0 |
| 投诉数 | 和上线前同期对比 | 不升 |
| 人工接手后的重复询问 | 抽查人工接手后是否又问了一遍客户已经说过的信息 | 越少越好 |
| 人工实际工作量 | 人工处理的会话数和用时 | 用实际数据决定人手,不按“AI 接了多少”推算 |
常见问题
AI 客服应该完全替代人工吗?不建议一开始就这么做。澳大利亚联邦银行的案例说明,按“AI 减少了多少来电”去减人,可能和实际工作量对不上。先让 AI 接常见问题,人接需要拿主意的问题,用几周的实际数据再决定人手。
哪些问题一定不能让 AI 自己回答?价格和费用承诺、退款、投诉、议价,以及资料里没写的内容。中消协点名的投诉,正是 AI 在费用上自己下了结论。
怎么判断转人工设置得好不好?看两个数:必须转人的问题有没有及时转到人(转人工及时率),以及抽查时有没有被 AI 自己答掉的(漏转数)。
咔哒怎么处理这件事
咔哒按你放进来的资料回复,每条回复都标出依据;价格、优惠这类事实,资料里写了才报。议价、退款、投诉、要求老板联系这类问题不硬答,一律转给你,同时通知你的手机,附上前因后果。你一接手,咔哒就停下;你按了停止,它不会自己恢复。
想看你的业务先让 AI 接哪类问题:预约 30 分钟适配沟通。更多公开案例:AI 落地案例查询台。
下载咔哒:kunlungrowth.cn/kadadesk/download/
文中案例均为公开报道,不是昆仑增长的客户项目。