面试题库 › 算法 / 大模型 › GBDT、XGBoost、LightGBM、CatBoost 的区别

GBDT、XGBoost、LightGBM、CatBoost 的区别

难度 ★★★在 16 场真实面经中被问到 方向:算法 / 大模型考点:树模型与集成学习

哪些公司问过

美团3快手2京东2腾讯1OPPO1字节跳动1小红书13601阿里云1追一科技1算法岗1

常见岗位:机器学习算法(泛)、推荐搜索广告、NLP / 语音、推理部署与加速

答案要点

  1. GBDT:每棵树拟合前面模型的负梯度(残差的近似)
  2. XGBoost:二阶泰勒、正则项、缺失值处理,默认按层生长,2.0 起默认直方图算法
  3. LightGBM:直方图算法、leaf-wise 生长、GOSS 和 EFB,速度快、内存省
  4. CatBoost:有序目标编码处理类别特征,使用对称树,减少过拟合
  5. leaf-wise 容易过拟合,需限制深度和叶子数

易错点

面试官常见追问

完整的口述示范答案、每个追问的参考回答,在启面刷题中心查看;也可以让 AI 面试官用语音按这道题连环追问你。

相关面试题