大模型输出格式错误与幻觉的兜底
哪些公司问过
答案要点
- 结构化校验:JSON Schema 或正则,缺字段、类型错误判为失败
- 重试与修复:把错误回传模型重试,设最大次数;也可做简单的格式修复
- 降级兜底:回退到规则、模板或默认回答;缺失字段填默认值或标记
- 记录原始输入输出,告警并支持人工介入
- 从生成端约束:函数调用、结构化输出、约束解码;用 RAG 与引用校验减少幻觉
易错点
- 直接信任模型输出,不做校验
- 无限重试,没有上限
- 重试仍失败没有降级方案
- 只靠提示词要求格式,不做程序校验
面试官常见追问
- 做实体抽取或分类任务,temperature 怎么调?
- 什么是约束解码?
- 怎么减少幻觉?
- 重试会带来什么问题?
完整的口述示范答案、每个追问的参考回答,在启面刷题中心查看;也可以让 AI 面试官用语音按这道题连环追问你。