面试题库 › 算法 / 大模型 › 反向传播、梯度与梯度下降原理

反向传播、梯度与梯度下降原理

难度 ★☆☆在 7 场真实面经中被问到 方向:算法 / 大模型考点:训练优化与正则化

哪些公司问过

华为4美团1阿里巴巴1今日头条1

常见岗位:机器学习算法(泛)、大模型算法、产品经理

答案要点

  1. 梯度是偏导数组成的向量,指向函数增长最快的方向
  2. 方向导数等于梯度与方向的点积,负梯度方向下降最快
  3. 一阶泰勒展开说明小步长沿负梯度更新可使损失下降
  4. 训练流程:前向计算并缓存、反向链式求导、优化器更新参数

易错点

面试官常见追问

完整的口述示范答案、每个追问的参考回答,在启面刷题中心查看;也可以让 AI 面试官用语音按这道题连环追问你。

相关面试题