对话记忆窗口大小的设定与上下文存储方法
哪些公司问过
答案要点
- 窗口按 token 预算设定:上下文上限减去系统提示、工具、检索内容和预留输出
- 上下文过长会增加成本与延迟,中间信息也可能利用不充分
- 滑动窗口简单但会丢早期信息;摘要记忆把远期对话压缩保留
- 向量检索记忆按当前问题召回相关历史片段
- 结构化记忆抽取用户偏好、关键事实长期存储,多种方法常组合使用
易错点
- 按对话轮数设窗口,忽略每轮长度差异和不同语言的 token 密度
- 把上下文塞满,没有给输出预留 token
- 只用滑动窗口,导致用户早期给出的关键约束被丢掉
面试官常见追问
- 摘要记忆有什么问题?
- 怎么判断窗口设得合不合适?
完整的口述示范答案、每个追问的参考回答,在启面刷题中心查看;也可以让 AI 面试官用语音按这道题连环追问你。