Agent 短期记忆和长期记忆的性能如何优化
答案要点
- 短期记忆:最近几轮保留原文,更早内容滚动摘要,工具输出裁剪,控制 token 预算
- 关键状态(目标、约束、未完成事项)结构化单独保存,避免被摘要丢掉
- 长期记忆写入:异步抽取事实偏好,写前检索相似记忆做去重、合并、更新,过期信息衰减或清理
- 长期记忆读取:元数据先过滤,近似向量索引,混合检索加重排,限制 top-k,热点缓存
- 用命中率、回答质量和 P99 延迟评估,避免只优化速度导致召回变差
易错点
- 把全部历史对话直接塞进上下文,成本和延迟随轮数增长,中间内容也容易被忽略
- 长期记忆什么都存、不去重不更新,检索出大量过时和重复内容
- 同步写记忆阻塞主流程,增加用户等待时间
面试官常见追问
- 长期记忆里新旧信息冲突怎么处理?
- 摘要会不会丢关键信息?
- 每轮都要检索长期记忆吗?
完整的口述示范答案、每个追问的参考回答,在启面刷题中心查看;也可以让 AI 面试官用语音按这道题连环追问你。