面试题库 › 算法 / 大模型 › 如何控制 Agent 的 Token 消耗和调用成本

如何控制 Agent 的 Token 消耗和调用成本

难度 ★★☆在 8 场真实面经中被问到 方向:算法 / 大模型考点:工程化与部署

哪些公司问过

快手1拼多多1阿里云1月之暗面1

常见岗位:AI 应用 / Agent 开发、大模型算法

答案要点

  1. 减少调用:合并请求、并行工具调用、限制最大轮数、检测重复调用
  2. 复用结果:缓存确定性工具结果并设 TTL,语义缓存,提示词缓存
  3. 降低单价:简单子任务用小模型,做模型路由
  4. 压缩上下文:裁剪无关历史,工具输出只留关键字段,限制输出长度
  5. 设置调用预算,监控每步成本,找出开销最大的环节并告警

易错点

面试官常见追问

完整的口述示范答案、每个追问的参考回答,在启面刷题中心查看;也可以让 AI 面试官用语音按这道题连环追问你。

相关面试题