并发、下游容量与连接池(Little 定律)
哪些公司问过
畅捷通1
答案要点
- 处理能力由下游容量决定,超出部分只会在内存、连接池、队列里排队
- Little 定律:并发数 = 到达率 × 平均响应时间,10000 QPS × 0.1s ≈ 1000 并发
- 100 个连接、每请求独占连接 100ms,最多支撑约 1000 QPS,其余请求排队等连接
- 排队拉长响应时间,在途请求进一步增多,叠加重试可能引发雪崩
- 对策:按下游容量限流与背压、获取连接短超时快速失败、缩短连接持有时间、扩容下游
易错点
- 认为并发越高吞吐越高,忽略下游瓶颈
- 用 Little 定律时单位换算出错,比如毫秒没换成秒
- 无限等待连接而不设超时,请求堆积拖垮服务
面试官常见追问
- 连接池是不是越大越好?
- 如果请求只在部分时间持有连接,怎么估算?
完整的口述示范答案、每个追问的参考回答,在启面刷题中心查看;也可以让 AI 面试官用语音按这道题连环追问你。