访存优化的原理、手段与瓶颈定位
哪些公司问过
答案要点
- 原理:减少慢速存储访问、提高高速存储复用、访问模式匹配硬件
- 算子融合让中间结果留在寄存器或共享内存,不写回显存
- 分块复用共享内存,合并访存与对齐,避免 bank 冲突
- 优化数据布局、低精度量化、异步拷贝与双缓冲隐藏访存延迟
- Nsight Compute 看带宽利用率、缓存命中率、warp stall,结合 Roofline 判断
易错点
- 只关注计算优化,忽略访存才是主要瓶颈
- 过度融合导致寄存器溢出,性能反而下降
- 不用 profiler,凭感觉判断瓶颈
面试官常见追问
- 算子融合的实现难点有哪些?
- 共享内存 bank 冲突是什么?
完整的口述示范答案、每个追问的参考回答,在启面刷题中心查看;也可以让 AI 面试官用语音按这道题连环追问你。