面试题库 › 算法 / 大模型 › 推理框架与 Caffe 中的自定义算子实现

推理框架与 Caffe 中的自定义算子实现

难度 ★★★在 4 场真实面经中被问到 方向:算法 / 大模型考点:推理框架与部署

哪些公司问过

OPPO1拼多多1PDD1360公司1

常见岗位:机器学习算法(泛)、计算机视觉、推理部署与加速、大模型算法

答案要点

  1. 通用步骤:实现计算 kernel、形状与类型推导、序列化或参数定义、注册
  2. TensorRT:实现 IPluginV2DynamicExt 或 IPluginV3 等接口,配合 PluginCreator 注册
  3. OpenVINO:继承 ov::op::Op 实现推导与 evaluate,通过 add_extension 加载
  4. Caffe:继承 Layer,实现 LayerSetUp、Reshape、Forward、Backward,并修改 caffe.proto
  5. Caffe 用 REGISTER_LAYER_CLASS 宏静态注册到 LayerRegistry 工厂

易错点

面试官常见追问

完整的口述示范答案、每个追问的参考回答,在启面刷题中心查看;也可以让 AI 面试官用语音按这道题连环追问你。

相关面试题