面试题库 › 算法 / 大模型 › 牛顿法的原理与优缺点

牛顿法的原理与优缺点

难度 ★★☆在 3 场真实面经中被问到 方向:算法 / 大模型考点:最优化方法

哪些公司问过

字节跳动1京东1拼多多1

常见岗位:人工智能、机器学习算法(泛)、Java 后端

答案要点

  1. 在当前点二阶泰勒展开,用二次函数近似并跳到其极小点
  2. 迭代公式:x 新 = x 旧 - 海森矩阵的逆 × 梯度
  3. 优点:在最优点附近二次收敛,迭代次数少,不用手调学习率
  4. 缺点:海森矩阵计算存储和求逆代价大,需要正定,远离最优点可能不收敛
  5. 工程上用拟牛顿法 BFGS 和 L-BFGS 近似海森矩阵

易错点

面试官常见追问

完整的口述示范答案、每个追问的参考回答,在启面刷题中心查看;也可以让 AI 面试官用语音按这道题连环追问你。

相关面试题