GPU 中 Thread、Warp、Block、SM 的关系
哪些公司问过
答案要点
- 软件层级 Grid→Block→Thread;Thread 是最小执行单元,拥有私有寄存器
- Block 内可共享 shared memory 并用 __syncthreads 同步,Block 之间独立、无执行顺序保证
- SM 是硬件计算单元,含 CUDA 核心、Warp 调度器、寄存器堆、共享内存/L1;Block 整体驻留在一个 SM 上
- Warp 是硬件调度单位,NVIDIA 为 32 线程,SIMT 执行同一指令,靠切换 Warp 隐藏访存延迟
- Warp 内分支发散会让不同路径串行执行,降低利用率
易错点
- 以为 Block 是硬件调度单位,实际硬件按 Warp 调度执行
- 以为不同 Block 之间可以用 __syncthreads 同步
- Block 大小不是 32 的倍数,导致 Warp 内有空闲线程
面试官常见追问
- GPU 是怎么调度这些 Block 和 Warp 的?
- 什么是 Occupancy,受什么限制?
- Block 大小一般怎么选?
完整的口述示范答案、每个追问的参考回答,在启面刷题中心查看;也可以让 AI 面试官用语音按这道题连环追问你。