上一篇文章我们聊过 AI 客服的幻觉问题：机器人一本正经地说出错误答案。对于卖标准化产品的电商，答错参数顶多引发一次投诉；但在金融、法律、医疗、大额 B2B 交易这类场景，一句错误的承诺可能带来真金白银的损失。这一篇讲一个更彻底的解法：让 AI 客服的每条答案都可溯源。

幻觉的根源：没有依据的自由发挥

大模型天然倾向于给出流畅、完整的回答，即使它掌握的信息不足。纯生成模式下，模型会用自己的参数知识补全空白，这正是幻觉的来源。溯源式回答的核心思路是改变游戏规则：模型只允许基于知识库检索到的内容作答，检索不到就说不知道，并引导转人工或留资。

溯源式回答长什么样

一个配置良好的溯源 AI 客服，回答会是这样的结构：先给结论，再附一句依据说明，例如「根据贵司《退货政策》第 3 条，签收后 7 天内可申请退货」，并在对话侧边展示引用的知识条目。这样做有三个直接好处：客户对答案更有信任感；客服管理员可以逐条核对 AI 的依据对不对；出了争议可以追溯到具体知识条目，责任边界清晰。

为什么强合规行业必须这么做

金融行业的收益展示、医疗行业的健康建议、法律行业的条款解读，都属于不允许自由发挥的领域。监管与风控的要求本质上是：任何对外输出都要有依据、可审计。溯源机制正好把 AI 回答纳入了可审计的轨道，这也是近一年银行、保险、律所采购 AI 客服时的标配要求。

落地要点

  • 设置回答边界：把投资建议、诊疗意见、法律结论等类别列为禁区，AI 一律引导至持证人员。
  • 知识条目带编号与版本：引用时能对应到具体文件和更新时间，方便审计。
  • 抽检机制：每周抽查一定比例的对话，核对引用是否准确，错误条目当天修复。

溯源不是限制 AI 的能力，而是把它放到可信的位置上。答得出来的有依据，答不出来的不硬答，这才是专业行业敢用 AI 客服的前提。