面试题库 › 算法 / 大模型 › 对话与 Agent 上下文过长的工程处理

对话与 Agent 上下文过长的工程处理

难度 ★★☆在 11 场真实面经中被问到 方向:算法 / 大模型考点:长上下文处理

哪些公司问过

淘天集团2经纬恒润1MiniMax1深势科技1齐家网1北京金山数娱1中国联通广西分公司1

常见岗位:AI 应用 / Agent 开发、大模型算法、Java 后端

答案要点

  1. 长文档切块加 RAG 检索,只注入相关片段,块大小与重叠按文档结构调整
  2. 分层记忆:近期原文、早期摘要、关键事实结构化存储并按需检索
  3. 核心指令固定在 system prompt,必要时在近端重复强调
  4. 工具返回只保留关键字段,大结果外置;复杂任务拆给子 Agent 隔离上下文
  5. 做 token 预算管理,关注过长上下文带来的成本和效果衰减

易错点

面试官常见追问

完整的口述示范答案、每个追问的参考回答,在启面刷题中心查看;也可以让 AI 面试官用语音按这道题连环追问你。

相关面试题