模型部署到板端遇到不支持的算子如何处理
哪些公司问过
答案要点
- 优先改图:等价替换、常量折叠、把后处理移出模型
- 拆算子:用支持的基础算子组合,注意中间张量开销和精度
- 回退 CPU:适合少量、位于头尾或实现复杂的算子
- 减少网络中间的设备切换,降低拷贝和同步开销
- 取舍看精度、时延吞吐、实现复杂度和维护成本
易错点
- 中间层大量回退 CPU,导致性能骤降
- 拆算子后没有验证精度
- 只在 PC 模拟器上验证,不在板端实测
面试官常见追问
- 如何确认改图后结果等价?
- 还有其他方案吗?
完整的口述示范答案、每个追问的参考回答,在启面刷题中心查看;也可以让 AI 面试官用语音按这道题连环追问你。