如何处理非凸优化问题
哪些公司问过
答案要点
- 非凸问题无全局最优保证,目标是找到足够好的解并评估质量
- 深度学习:良好初始化、归一化与残差、SGD 噪声加动量逃离鞍点、学习率调度
- 高维网络中局部极小点损失多相近,鞍点是主要障碍
- 一般方法:多起点、模拟退火、遗传算法、凸松弛与逐次凸近似
- 多随机种子评估方差,必要时用松弛下界判断与最优的差距
易错点
- 声称某方法能保证非凸问题收敛到全局最优
- 只跑一次就下结论,忽视初始化带来的方差
- 忽视鞍点问题,只关注局部极小
面试官常见追问
- SGD 为什么能逃离鞍点?
- 鞍点为什么比局部极小更常见?
完整的口述示范答案、每个追问的参考回答,在启面刷题中心查看;也可以让 AI 面试官用语音按这道题连环追问你。