NPU 与 CPU 异构推理的张量布局、对齐与 Cache 一致性
哪些公司问过
答案要点
- 约定布局 NHWC/NCHW 或私有格式,以及 stride 和填充,用 SDK 查询属性
- 首地址和行宽按硬件要求对齐,具体值以芯片手册为准
- 通过驱动或 DMA-BUF 申请物理连续或 IOMMU 映射的共享内存
- CPU 写后 flush,NPU 写后 CPU 读前 invalidate,或使用非缓存内存
- 用 fence 等同步原语保证任务完成和数据可见
易错点
- 忽略 cache 一致性,读到旧数据且问题难复现
- 凭经验假设布局,不查询 SDK 返回的 stride
- 每次推理都重新分配和拷贝缓冲区
面试官常见追问
- flush 和 invalidate 的区别?
- 为什么不直接全部用非缓存内存?
完整的口述示范答案、每个追问的参考回答,在启面刷题中心查看;也可以让 AI 面试官用语音按这道题连环追问你。