面试题库 › 算法 / 大模型 › Agent 上下文压缩机制与 token 估算

Agent 上下文压缩机制与 token 估算

难度 ★★☆在 3 场真实面经中被问到 方向:算法 / 大模型考点:长上下文处理

哪些公司问过

美团1拼多多1上海容易链智能科技1

常见岗位:AI 应用 / Agent 开发、大模型算法

答案要点

  1. 目的:历史接近窗口上限时缩减上下文,同时降低成本与延迟
  2. 方法:滑动窗口、摘要压缩、关键信息结构化抽取、外部记忆检索、工具结果裁剪
  3. 通常设触发阈值,压缩较早历史为摘要,最近几轮原文保留
  4. 摘要提示需明确保留需求、约束、关键决策、未完成事项
  5. 系统提示与核心需求单独固定不参与压缩,并接受压缩必然有损的取舍

易错点

面试官常见追问

完整的口述示范答案、每个追问的参考回答,在启面刷题中心查看;也可以让 AI 面试官用语音按这道题连环追问你。

相关面试题