CUDA 程序结构与 thread/block/grid 层级映射
哪些公司问过
答案要点
- 代码分主机端(CPU 管理与启动)和设备端(__global__ 核函数在 GPU 执行)
- thread 最小执行单元,block 由多个 thread 组成,grid 由多个 block 组成
- 寄存器线程私有,shared memory 按 block 共享,全局内存整个 grid 可见
- block 调度到 SM 上,按 32 线程划分 warp,发射到 CUDA 核心、SFU、LD/ST 单元
- 用 blockIdx、blockDim、threadIdx 计算全局线程下标
易错点
- 以为不同 block 之间可以用 __syncthreads 同步
- 把 block 和 SM 看成一一对应,忽略一个 SM 可驻留多个 block
- block 线程数不是 32 的倍数,造成 warp 中线程浪费
面试官常见追问
- shared memory 是什么粒度共享的?
- block 大小一般怎么选?
- 什么是 warp divergence?
完整的口述示范答案、每个追问的参考回答,在启面刷题中心查看;也可以让 AI 面试官用语音按这道题连环追问你。