GBDT 与随机森林的区别
哪些公司问过
答案要点
- 随机森林是 Bagging,并行训练,有放回采样样本并随机选特征,主要降低方差
- GBDT 是 Boosting,串行训练,每棵树拟合当前累加模型的负梯度(伪残差),主要降低偏差
- 随机森林树较深,对异常值和过拟合鲁棒;GBDT 用浅层回归树,精度高但更敏感
- GBDT 需要调学习率和树的数量,训练难并行
- 随机森林适合快速基线,GBDT 及 XGBoost 适合追求精度
易错点
- 把 GBDT 也说成并行训练
- 说不清一个降方差、一个降偏差
- 认为 GBDT 对异常值很鲁棒
面试官常见追问
- XGBoost 和 GBDT 是什么关系?
- 训练样本上两者有什么不同?
- 怎么防止 GBDT 过拟合?
完整的口述示范答案、每个追问的参考回答,在启面刷题中心查看;也可以让 AI 面试官用语音按这道题连环追问你。