面试题库 › 算法 / 大模型 › GBDT 的提出受到了哪些工作的启发

GBDT 的提出受到了哪些工作的启发

难度 ★★☆在 1 场真实面经中被问到 方向:算法 / 大模型考点:树模型与集成学习

哪些公司问过

3601

常见岗位:机器学习算法(泛)

答案要点

  1. 原始论文:Friedman 2001,Greedy Function Approximation: A Gradient Boosting Machine
  2. 核心启发来自 AdaBoost 的统计解释:AdaBoost 等价于指数损失下的前向分步加法模型(Friedman、Hastie、Tibshirani 2000)
  3. Breiman 等人提出把 boosting 看作函数空间优化,GBDT 将其推广为函数空间梯度下降
  4. 每轮用回归树拟合负梯度(伪残差);平方损失下负梯度即残差,可适配任意可微损失
  5. Friedman 2002 年的随机梯度提升借鉴 bagging 思想引入样本子采样

易错点

面试官常见追问

完整的口述示范答案、每个追问的参考回答,在启面刷题中心查看;也可以让 AI 面试官用语音按这道题连环追问你。

相关面试题