比起"答不上来"，AI 客服真正会让企业翻车的是幻觉（Hallucination）：访客问"你们支持上门安装吗"，机器人一本正经答"支持，全国 30 个城市次日达"——其实你们根本没这项服务。

一、幻觉的 3 个来源

  • 大模型天生会"补全"：训练数据里看到过类似问答，模型会自动"接"上一句合理的话
  • RAG 检索失败：没找到对应知识库条目，模型硬着头皮自由发挥
  • 知识库本身有错：模型引用的就是过时或不准确的内容

二、3 类高危场景

  • 价格/促销承诺："今天下单打 5 折"，AI 编出来的折扣，企业要承担
  • 资质/合规承诺："我们有 ISO 27001 认证"，实际没有就构成虚假宣传
  • 物流/库存承诺："明天送达"，实际库存不足就会客诉

三、4 个工程化规避手段

  • 强约束回答模板：价格、物流、政策类问题强制引用知识库原文，禁止模型自由发挥
  • "不知道"也是一种回答：检索不到时直接答"这个问题我需要请人工客服确认"，比硬编好 100 倍
  • 关键场景关闭 AI 全自动：合同、退款、投诉这类高风险场景默认转人工
  • 定期"幻觉巡检"：每周抽 100 条对话人工复核，统计幻觉率

四、可观测性比"答得漂亮"更重要

一个会说"我不知道"的 AI 客服，远比一个"什么都能答"的 AI 客服对企业更安全。把"拒绝回答"作为正面 KPI，往往能反向压低幻觉。

上 AI 客服之前先问一句：它说错一句话，我们兜得住吗？兜不住就先关掉该场景的 AI 自动答。