如何编写一个 CUDA 自定义算子
哪些公司问过
算能科技1
答案要点
- 核函数确定并行粒度,如一行一个线程块
- 配置网格和线程块,线程块大小取 32 的倍数
- 合并访存、共享内存、warp shuffle 归约
- 减少分支发散,算子融合减少访存
- 通过 PyTorch C++ 扩展接入,并做精度和性能对比
易错点
- 只说写过,讲不出线程组织和优化手段
- 忽视合并访存,性能远低于预期
- 自定义算子不做数值精度对比
面试官常见追问
- 什么是合并访存?
- 共享内存 bank 冲突是什么?
完整的口述示范答案、每个追问的参考回答,在启面刷题中心查看;也可以让 AI 面试官用语音按这道题连环追问你。