推理框架与 Caffe 中的自定义算子实现
哪些公司问过
答案要点
- 通用步骤:实现计算 kernel、形状与类型推导、序列化或参数定义、注册
- TensorRT:实现 IPluginV2DynamicExt 或 IPluginV3 等接口,配合 PluginCreator 注册
- OpenVINO:继承 ov::op::Op 实现推导与 evaluate,通过 add_extension 加载
- Caffe:继承 Layer,实现 LayerSetUp、Reshape、Forward、Backward,并修改 caffe.proto
- Caffe 用 REGISTER_LAYER_CLASS 宏静态注册到 LayerRegistry 工厂
易错点
- 只实现计算部分,忽略形状推导和序列化,导致 engine 无法构建或加载
- TensorRT 插件没处理好 supportsFormatCombination,精度或数据格式不匹配时出错
- Caffe 新层忘记在 caffe.proto 加参数或写注册宏,运行时报未知层类型
面试官常见追问
- Caffe 的类工厂模式如何实现?为什么类放在对应目录下就能被自动识别?
- 早期 OpenVINO 的扩展怎么写?
- TensorRT 插件写完怎么验证?
完整的口述示范答案、每个追问的参考回答,在启面刷题中心查看;也可以让 AI 面试官用语音按这道题连环追问你。