GPU 的底层硬件结构是怎样的
哪些公司问过
答案要点
- SM 是基本计算单元,内含 CUDA Core、Tensor Core、Warp Scheduler、寄存器堆和共享内存/L1
- 执行模型是 SIMT,32 个线程组成一个 warp,同一 warp 同时执行同一条指令
- 存储层次:寄存器 > 共享内存/L1 > L2(全 SM 共享)> HBM/GDDR 显存,越往下越慢
- GPU 用大量计算单元和线程切换掩盖延迟,CPU 则靠大缓存和复杂控制逻辑降低延迟
- CUDA 的 Grid→Block→Thread 层级与硬件对应:Block 调度到 SM,warp 是实际调度单位
易错点
- 把 CUDA Core 当成像 CPU 核心一样有独立取指能力,实际调度单位是 warp
- 忽略共享内存是 SM 内资源,不同 Block 之间不能通过共享内存通信
- 只说显存带宽高而不提延迟高,答不出为什么需要大量线程来掩盖延迟
面试官常见追问
- 为什么要设计 warp?Warp Scheduler 怎么掩盖访存延迟?
- CUDA 里怎么做访存优化?
- warp divergence 是什么,有什么影响?
完整的口述示范答案、每个追问的参考回答,在启面刷题中心查看;也可以让 AI 面试官用语音按这道题连环追问你。