服务偶发长尾延迟(部分请求超 10 秒)如何排查
哪些公司问过
答案要点
- 健康检查是存活与依赖连通性的二值信号,不反映单个请求的延迟
- TraceID 只能关联日志,需配合分阶段 span 耗时才能定位慢在哪一步
- 用 P95、P99 等分位数指标观察长尾,平均值会掩盖问题
- AI 请求拆分检索、大模型调用、工具调用等阶段,记录首 token 时间、token 数、重试次数
- 关联 GC、线程池和连接池等待、限流排队等资源指标
易错点
- 只看平均响应时间,长尾被淹没
- 把健康检查正常当成服务性能没问题
- 只记录总耗时,不拆分阶段,无法定位瓶颈
- 无限重试大模型接口,反而放大长尾延迟
面试官常见追问
- 偶发慢请求怎么采样,才不会漏掉?
- 大模型调用慢,能做哪些优化?
完整的口述示范答案、每个追问的参考回答,在启面刷题中心查看;也可以让 AI 面试官用语音按这道题连环追问你。