200ms 内实时推荐系统架构设计
哪些公司问过
答案要点
- 漏斗分层:多路召回、粗排、精排、重排,逐层裁剪候选量
- 延迟预算拆分到每层,精排最贵需重点优化,P99 而非平均值达标
- 实时特征:Kafka 加 Flink 流式更新,写入 Redis 等低延迟存储,批量读取
- 推理优化:模型量化、蒸馏、批处理、GPU 推理、热门结果缓存
- 超时控制与降级兜底:召回并行、单路超时丢弃、失败时返回缓存或热门
易错点
- 只画架构图,不给每层的延迟预算和候选规模
- 只看平均延迟,忽略 P99 和超时降级
- 离线和在线特征计算逻辑不一致,导致线上效果下降
面试官常见追问
- 精排模型太慢怎么办?
- 实时特征和离线训练特征不一致怎么处理?
完整的口述示范答案、每个追问的参考回答,在启面刷题中心查看;也可以让 AI 面试官用语音按这道题连环追问你。