Agent 批量并发任务如何限流调度防雪崩
哪些公司问过
答案要点
- 动态限流:按 429 比例、延迟、队列水位自适应调整并发
- 优先级调度:多级队列加权重,给低优任务保留最低份额
- 故障隔离:按任务类型或下游划分独立线程池或信号量
- 熔断、超时、快速失败,重试加退避抖动和重试预算
- 背压:队列满时拒绝或降级,保护下游
易错点
- 用固定并发阈值,无法适应下游容量变化
- 所有任务共用一个线程池,一类故障拖垮全部
- 重试不加抖动和上限,放大故障
面试官常见追问
- 重试风暴是怎么形成的?
- 多个 Agent 实例共享模型配额怎么限流?
完整的口述示范答案、每个追问的参考回答,在启面刷题中心查看;也可以让 AI 面试官用语音按这道题连环追问你。