面试题库 › 算法 / 大模型 › 训练后量化 PTQ 与量化感知训练 QAT

训练后量化 PTQ 与量化感知训练 QAT

难度 ★★☆在 5 场真实面经中被问到 方向:算法 / 大模型考点:模型量化

哪些公司问过

字节跳动1百度1宇树科技1宇树机器人1

常见岗位:计算机视觉、推理部署与加速、大模型算法、NLP / 语音、嵌入式软件

答案要点

  1. PTQ:训练后用校准数据统计范围、计算 scale 和零点,无需重训
  2. PTQ 快速低成本,但低比特下精度损失可能较大;GPTQ、AWQ、SmoothQuant 属于 PTQ
  3. QAT:训练中插入伪量化节点,前向模拟量化误差
  4. QAT 反向用 STE 近似取整梯度,精度通常更高但需要数据和训练资源
  5. 实践先试 PTQ,精度不达标或极低比特时再用 QAT

易错点

面试官常见追问

完整的口述示范答案、每个追问的参考回答,在启面刷题中心查看;也可以让 AI 面试官用语音按这道题连环追问你。

相关面试题