超参数搜索方法:CMA-ES 与贝叶斯优化
哪些公司问过
答案要点
- 常见方法:网格搜索、随机搜索、贝叶斯优化、进化算法、Hyperband 等早停方法
- CMA-ES:从多元高斯采样种群,选优加权更新均值,按进化路径自适应更新协方差与步长
- CMA-ES 适合连续、非凸、可并行评估的问题
- 贝叶斯优化:高斯过程或 TPE 等代理模型拟合目标函数
- 采集函数 EI、UCB、PI 平衡探索与利用,适合评估代价高的黑盒函数
易错点
- 把 CMA-ES 说成梯度方法,它是无梯度的进化策略
- 只讲贝叶斯优化的代理模型,忽略采集函数的作用
- 在验证集上反复调参后直接报告验证集结果,没有独立测试集
面试官常见追问
- 贝叶斯优化的局限是什么?
- 为什么随机搜索常比网格搜索好?
完整的口述示范答案、每个追问的参考回答,在启面刷题中心查看;也可以让 AI 面试官用语音按这道题连环追问你。