面试题库 › 算法 / 大模型 › 用 Python 实现梯度下降

用 Python 实现梯度下降

难度 ★★☆在 1 场真实面经中被问到 方向:算法 / 大模型考点:最优化方法

哪些公司问过

字节跳动1

常见岗位:机器学习算法(泛)

答案要点

  1. 更新公式:w = w - lr * grad,偏置 b 同理
  2. 线性回归 MSE 的梯度:dw = 2/n · X^T(Xw + b - y),db = 2/n · sum(Xw + b - y)
  3. 用 numpy 向量化计算,外层只循环迭代轮数,停止条件为最大轮数或损失/梯度变化小于阈值
  4. 学习率过大震荡发散、过小收敛慢;特征标准化可加快收敛
  5. 批量、随机、小批量梯度下降的区别,小批量每轮先打乱数据;每轮复杂度 O(n·d)

易错点

面试官常见追问

完整的口述示范答案、每个追问的参考回答,在启面刷题中心查看;也可以让 AI 面试官用语音按这道题连环追问你。

相关面试题