如何控制 Agent 的 Token 消耗和调用成本
哪些公司问过
答案要点
- 减少调用:合并请求、并行工具调用、限制最大轮数、检测重复调用
- 复用结果:缓存确定性工具结果并设 TTL,语义缓存,提示词缓存
- 降低单价:简单子任务用小模型,做模型路由
- 压缩上下文:裁剪无关历史,工具输出只留关键字段,限制输出长度
- 设置调用预算,监控每步成本,找出开销最大的环节并告警
易错点
- 只想着压缩提示词,不看调用次数
- 缓存键不含参数,造成错误复用
- 优化后不验证效果
面试官常见追问
- 工具结果缓存要注意什么?
- 怎么做模型路由?
- 成本优化会影响效果吗?
完整的口述示范答案、每个追问的参考回答,在启面刷题中心查看;也可以让 AI 面试官用语音按这道题连环追问你。