大模型幻觉的原因与缓解方法
哪些公司问过
答案要点
- 定义:生成看似合理但错误或无依据的内容,本质是概率生成
- 原因:训练数据噪声或缺失知识、优化目标是下一个 token 而非真实性、解码随机性、迎合用户
- 缓解:RAG 引入可靠知识并给出引用;降低温度;提示约束(不确定就说不知道)
- 缓解:思维链与自洽性校验、工具或事实核查、针对事实性的微调与对齐
- 输出格式保障:JSON Schema 约束解码,输出后校验,失败重试
易错点
- 说幻觉是模型出了 bug,而不是概率生成的固有特性
- 只说降低温度,忽略 RAG 与校验
- 认为 RAG 能彻底解决
- 输出格式只靠提示词,没有校验和重试
面试官常见追问
- 幻觉有哪几类?
- RAG 能完全消除幻觉吗?
- 怎么保证输出是合法的 JSON?
- 如何评估幻觉率?
完整的口述示范答案、每个追问的参考回答,在启面刷题中心查看;也可以让 AI 面试官用语音按这道题连环追问你。