NPU为什么适合AI计算,与CPU、GPU有何区别
哪些公司问过
答案要点
- AI负载以规则稠密的矩阵乘、卷积为主,适合用专用硬件加速
- 矩阵加速单元(脉动阵列、Cube单元等)一次完成整块乘累加,计算密度高
- Unified Buffer等片上缓存保存权重和激活,提高数据复用、减少外部访存
- CPU重控制流和低延迟,GPU是通用众核并行,NPU为张量计算定制,能效比更高
- 代价是灵活性差,新算子支持和生态依赖厂商工具链
易错点
- 只说NPU核多,没讲清专用矩阵单元和片上数据复用才是关键
- 认为NPU在所有场景都比GPU快,忽略通用性和软件生态差异
- 忽略访存瓶颈,只比较峰值算力
面试官常见追问
- 内存带宽为什么会成为瓶颈?怎么减少数据搬运?
- 脉动阵列是怎么工作的?
- 什么场景下NPU不如GPU?
完整的口述示范答案、每个追问的参考回答,在启面刷题中心查看;也可以让 AI 面试官用语音按这道题连环追问你。