用 Roofline 模型判断带宽瓶颈还是计算瓶颈
哪些公司问过
答案要点
- 算术强度 = 总浮点运算次数 / 访问内存总字节数
- 机器平衡点(脊点)= 计算峰值 / 带宽峰值
- 算术强度小于平衡点是带宽瓶颈,大于是计算瓶颈
- Roofline 图:左边斜线是带宽屋顶,右边水平线是计算屋顶,看算子落在哪段
- 带宽瓶颈:算子融合、量化、提高数据复用;计算瓶颈:张量核心、混合精度、改进算法
易错点
- 只说看 GPU 利用率,不会算算术强度
- 把平衡点算反了
- 带宽瓶颈却去追求更高的算力
面试官常见追问
- GPU 的 SIMT 架构有什么特点?
- 遇到分支发散会发生什么?
- 大模型推理的解码阶段属于哪类瓶颈?
完整的口述示范答案、每个追问的参考回答,在启面刷题中心查看;也可以让 AI 面试官用语音按这道题连环追问你。