面试题库 › 算法 / 大模型 › 昇腾 NPU 与 NVIDIA GPU 的架构与内存层级差异

昇腾 NPU 与 NVIDIA GPU 的架构与内存层级差异

难度 ★★★在 4 场真实面经中被问到 方向:算法 / 大模型考点:GPU架构与硬件

哪些公司问过

卓驭3百度1

常见岗位:推理部署与加速、大模型算法

答案要点

  1. GPU 采用 SIMT,SM 内有 CUDA Core 与 Tensor Core,以 warp 调度并靠多线程切换掩盖访存延迟
  2. 昇腾 AI Core 基于达芬奇架构,分 Cube(矩阵)、Vector(向量)、Scalar(标量控制)单元
  3. GPU 内存层级:寄存器、shared memory/L1、L2、HBM 显存
  4. 昇腾片上有 L0、L1 缓冲和 Unified Buffer,数据需显式搬运,强调数据复用
  5. 编程模型:CUDA 线程级编程更灵活;昇腾用 CANN/Ascend C 按搬入-计算-搬出流水线开发,更依赖编译器与算子融合

易错点

面试官常见追问

完整的口述示范答案、每个追问的参考回答,在启面刷题中心查看;也可以让 AI 面试官用语音按这道题连环追问你。

相关面试题