面试题库 › 算法 / 大模型 › XGBoost 能否用于特征选择或特征构造

XGBoost 能否用于特征选择或特征构造

难度 ★★☆在 1 场真实面经中被问到 方向:算法 / 大模型考点:树模型与集成学习

哪些公司问过

阿里巴巴1

常见岗位:推荐搜索广告

答案要点

  1. XGBoost 每棵树拟合损失的负梯度并用二阶信息,残差只是平方损失下的特例,可做分类、排序
  2. 特征选择:用 weight、gain、cover 等重要性口径筛选特征,口径不同结果可能差别较大
  3. SHAP 值比内置重要性更一致,XGBoost 预测时可直接输出每个特征的贡献
  4. 特征构造:取样本在各棵树的叶子索引,one-hot 后输入 LR,即 GBDT 加 LR,相当于自动特征交叉
  5. 较新版本可直接处理类别特征,无需全部手动 one-hot

易错点

面试官常见追问

完整的口述示范答案、每个追问的参考回答,在启面刷题中心查看;也可以让 AI 面试官用语音按这道题连环追问你。

相关面试题