常见优化求解方法与凸优化基础
哪些公司问过
腾讯1陌陌1
答案要点
- 解析法求闭式解;数值法迭代逼近,分一阶(GD、SGD、Adam)和二阶(牛顿、拟牛顿)
- 有约束问题:拉格朗日乘子、KKT 条件、投影梯度、罚函数、内点法;线性规划可用单纯形法
- 凸集:任意两点连线在集合内;凸函数:f(θx+(1−θ)y) ≤ θf(x)+(1−θ)f(y)
- 凸优化标准形式:min f(x) s.t. g_i(x) ≤ 0、h_j(x) = 0,f、g_i 为凸,h_j 为仿射
- 凸问题局部最优即全局最优;满足 Slater 条件时强对偶成立,KKT 为充要条件
易错点
- 把凸函数和凹函数的不等式方向记反
- 以为凸问题一定有唯一最优解:严格凸才保证唯一
- 说等式约束只要凸就行:凸优化要求等式约束是仿射的
面试官常见追问
- 梯度下降和牛顿法的区别?
- 如何判断一个函数是凸函数?
- 常见机器学习里哪些是凸问题?
完整的口述示范答案、每个追问的参考回答,在启面刷题中心查看;也可以让 AI 面试官用语音按这道题连环追问你。