算子优化流程与 Roofline 瓶颈判断
哪些公司问过
答案要点
- 流程:profiling 定位热点→分析瓶颈类型→针对性优化→正确性与性能回归→落地
- 计算强度 = FLOPs / 访存字节;可达性能 = min(峰值算力, 强度×带宽)
- 强度低于拐点(峰值算力/带宽)为 memory-bound,高于拐点为 compute-bound
- memory-bound:算子融合、合并访存、共享内存复用、低精度减少字节
- compute-bound:用 Tensor Core、提高并行度与指令效率;同时对比实测与峰值
易错点
- 没有 profiling 就凭直觉优化非热点算子
- 只算理论计算强度,不和实测带宽、算力利用率对照
- 优化后不做数值正确性校验,引入精度问题
面试官常见追问
- 举例说明哪些算子通常是 memory-bound?
- 实测远低于两条屋顶线时说明什么?
完整的口述示范答案、每个追问的参考回答,在启面刷题中心查看;也可以让 AI 面试官用语音按这道题连环追问你。