长上下文时代,RAG 会被取代吗
哪些公司问过
答案要点
- RAG 不会被完全取代,与长上下文互补
- 实时性:外部知识库随时更新,参数和窗口难以同步
- 可溯源:能给出引用,长上下文难以说明答案来源
- 成本和延迟:全文塞进上下文代价高,按需检索更经济
- 效果与规模:超长上下文有迷失中间问题;企业数据远超窗口,且需权限隔离;趋势是两者结合
易错点
- 说 RAG 已经过时
- 只讲成本,不提实时性和溯源
- 忽略企业数据量和权限问题
面试官常见追问
- 什么是迷失在中间?
- 什么场景长上下文比 RAG 更合适?
- 两者怎么结合?
完整的口述示范答案、每个追问的参考回答,在启面刷题中心查看;也可以让 AI 面试官用语音按这道题连环追问你。