CUDA 共享内存申请多大、block 线程数过大的问题
哪些公司问过
答案要点
- 共享内存按 tile 大小申请,常见每个 block 几 KB 到几十 KB
- 静态共享内存每 block 上限 48KB,更大需用动态共享内存并通过 cudaFuncSetAttribute 放开
- 每个 block 线程数上限 1024,取 32 的倍数,常用 128 或 256
- 线程太多会受寄存器限制而启动失败或占用率下降,同步开销也变大
- 共享内存和寄存器用量共同决定 SM 上驻留的 block 数,需权衡占用率
易错点
- 认为 block 线程数越大越好,忽略寄存器和占用率限制
- 线程数不是 32 的倍数,造成 warp 内线程浪费
- 超过 48KB 仍用静态声明,导致编译或启动失败
面试官常见追问
- 规约算子怎么设计?折半规约怎么做?
- 共享内存的 bank 冲突是什么?怎么避免?
- 占用率越高性能就越好吗?
完整的口述示范答案、每个追问的参考回答,在启面刷题中心查看;也可以让 AI 面试官用语音按这道题连环追问你。