Lost in the Middle 问题与解决方案
哪些公司问过
答案要点
- 现象:模型对上下文开头和结尾利用好,对中间位置的信息容易忽略
- 关键信息放在开头或结尾
- RAG 中对召回结果重排序,最相关的放两端
- 缩短输入:检索只放相关片段,或对长文档摘要压缩
- 分段处理再汇总;选用长上下文能力更强的模型;重复关键指令,让模型先引用原文
易错点
- 把关键信息放在中间位置
- 把所有召回的文档不加筛选地塞进上下文
- 认为上下文窗口越大效果一定越好
- 不做效果评估,凭感觉调整位置
面试官常见追问
- Prompt 的常见结构有哪些?
- 为什么会出现 Lost in the Middle?
- RAG 里重排序放置怎么做?
- 长上下文是不是越长越好?
完整的口述示范答案、每个追问的参考回答,在启面刷题中心查看;也可以让 AI 面试官用语音按这道题连环追问你。