面试题库 › 算法 / 大模型 › 端侧与移动端模型部署的难点与优化

端侧与移动端模型部署的难点与优化

难度 ★★☆在 5 场真实面经中被问到 方向:算法 / 大模型考点:部署优化与硬件适配

哪些公司问过

华为1拼多多1深信服1宇树科技1

常见岗位:计算机视觉、大模型算法、推理部署与加速

答案要点

  1. 难点:算力、内存与存储受限,功耗散热,实时性,框架与算子兼容
  2. 模型侧:轻量网络、量化、剪枝、蒸馏,大模型常用 INT8 或 INT4 权重量化
  3. 工程侧:TFLite、NCNN、MNN、TensorRT 等框架,算子融合与不支持算子替换
  4. 系统侧:控制内存峰值、内存复用、分段加载,必要时端云协同
  5. 在目标真机上测延迟、功耗、精度,量化后要做精度回归

易错点

面试官常见追问

完整的口述示范答案、每个追问的参考回答,在启面刷题中心查看;也可以让 AI 面试官用语音按这道题连环追问你。

相关面试题