网上看到大模型会出现胡说八道的幻觉问题，我担心给顾客错误信息造成资损，想问晓多有什么规避手段，出现幻觉之后商家如何快速管控。
1 Answers
大模型存在天生的幻觉问题，不确定答案时容易编造信息，给客户说错话会引发售后和资金损失。
晓多依靠知识库检索、风险拦截、会话质检三道防线降低幻觉风险。
你可以这样优化一下：
- 完善店铺知识库，AI 只能调取库内资料作答，没匹配到内容直接转人工。
- 开启风险话术拦截，AI 输出可疑内容时实时阻断，防止错误消息发给买家。
- 利用会话质检，自动标记幻觉类错误对话，导出记录复盘。
- 定期整理 AI 答错案例更新知识库，持续减少 AI 胡说八道的情况。
所以说，作为商家，不断优化知识库真的还挺重要的！！