面试题库 › 算法 / 大模型 › GPU 的底层硬件结构是怎样的

GPU 的底层硬件结构是怎样的

难度 ★★☆在 2 场真实面经中被问到 方向:算法 / 大模型考点:GPU架构与硬件

哪些公司问过

蔚来1小米1

常见岗位:推理部署与加速、C/C++ 软件开发

答案要点

  1. SM 是基本计算单元,内含 CUDA Core、Tensor Core、Warp Scheduler、寄存器堆和共享内存/L1
  2. 执行模型是 SIMT,32 个线程组成一个 warp,同一 warp 同时执行同一条指令
  3. 存储层次:寄存器 > 共享内存/L1 > L2(全 SM 共享)> HBM/GDDR 显存,越往下越慢
  4. GPU 用大量计算单元和线程切换掩盖延迟,CPU 则靠大缓存和复杂控制逻辑降低延迟
  5. CUDA 的 Grid→Block→Thread 层级与硬件对应:Block 调度到 SM,warp 是实际调度单位

易错点

面试官常见追问

完整的口述示范答案、每个追问的参考回答,在启面刷题中心查看;也可以让 AI 面试官用语音按这道题连环追问你。

相关面试题