CUDA核函数性能优化的常用手段
哪些公司问过
答案要点
- 先profile定位瓶颈:用Nsight Compute看带宽和算力利用率,区分访存受限与计算受限
- 合并访存:同一warp相邻线程访问连续对齐地址,减少全局内存事务次数
- shared memory分块复用数据,通过padding或错位索引消除bank conflict
- 减少warp divergence,循环展开、float4向量化加载提升指令效率
- 合理配置block大小与寄存器/共享内存用量保证occupancy,用stream重叠拷贝与计算
易错点
- 只罗列技巧不讲原理,说不清合并访问为什么能减少内存事务
- 认为occupancy越高越好,忽略寄存器溢出与ILP的取舍
- 不先profile就盲目优化,结果优化的不是瓶颈
面试官常见追问
- 什么是bank conflict,怎么解决?
- occupancy是不是越高越好?
- 怎么判断kernel是访存受限还是计算受限?
完整的口述示范答案、每个追问的参考回答,在启面刷题中心查看;也可以让 AI 面试官用语音按这道题连环追问你。