昇腾 NPU 与 NVIDIA GPU 的架构与内存层级差异
哪些公司问过
答案要点
- GPU 采用 SIMT,SM 内有 CUDA Core 与 Tensor Core,以 warp 调度并靠多线程切换掩盖访存延迟
- 昇腾 AI Core 基于达芬奇架构,分 Cube(矩阵)、Vector(向量)、Scalar(标量控制)单元
- GPU 内存层级:寄存器、shared memory/L1、L2、HBM 显存
- 昇腾片上有 L0、L1 缓冲和 Unified Buffer,数据需显式搬运,强调数据复用
- 编程模型:CUDA 线程级编程更灵活;昇腾用 CANN/Ascend C 按搬入-计算-搬出流水线开发,更依赖编译器与算子融合
易错点
- 把 NPU 简单说成更快的 GPU,忽略两者设计取向不同
- 只讲硬件差异,不讲编程模型和软件栈差异
- 把 Tensor Core 和 Cube 单元当成同一套体系,两者都做矩阵计算,但所在架构和编程方式不同
面试官常见追问
- NPU 上为什么更强调算子融合?
- 从 CUDA 迁移到昇腾,常见难点有哪些?
完整的口述示范答案、每个追问的参考回答,在启面刷题中心查看;也可以让 AI 面试官用语音按这道题连环追问你。