工具调用结果的缓存策略设计
哪些公司问过
答案要点
- 缓存对象:只读、幂等、结果确定的工具调用;有副作用的写操作原则上不缓存
- 缓存键:工具名、版本和规范化参数的哈希,涉及权限时带上用户或租户标识
- TTL 按时效性分级:实时数据短或不缓存,检索类中等,静态数据长
- 失效与淘汰:版本号、数据变更事件主动失效,加 LRU 控制容量
- 监控命中率与陈旧数据导致的错误,按数据调整策略
易错点
- 缓存键不含用户身份,导致不同用户的私有数据串用
- 对写操作或失败结果做缓存,造成重复执行或错误被长期复用
- 所有工具一刀切同一个 TTL,不考虑数据时效差异
面试官常见追问
- 语义缓存有什么风险?
- 多 Agent 并发调同一工具怎么办?
完整的口述示范答案、每个追问的参考回答,在启面刷题中心查看;也可以让 AI 面试官用语音按这道题连环追问你。