对话上下文超限的处理策略
哪些公司问过
答案要点
- 滑动窗口:保留最近 N 轮,简单低延迟,适合依赖近期内容的场景
- 摘要压缩:保留早期决策与约束,需在指令中要求保留数字、实体、结论
- 长文可分块摘要再逐层合并,保留关键原句或引用以便追溯
- 向量召回:按当前问题检索历史片段,适合超长、话题跳跃的历史
- 组合方案:近期原文加早期摘要加结构化长期记忆,并控制 token 预算
易错点
- 摘要时丢掉数字、约束等关键信息,导致后续回答偏差
- 简单截断丢弃了 system prompt 或关键指令
- 每轮都重新摘要全部历史,成本高且误差累积
面试官常见追问
- 三种策略分别在什么场景下用?
- 除了压缩,多轮对话还有什么优化方法?
完整的口述示范答案、每个追问的参考回答,在启面刷题中心查看;也可以让 AI 面试官用语音按这道题连环追问你。