L1 与 L2 范数及正则化的区别
哪些公司问过
答案要点
- Lp范数为(Σ|x_i|^p)^(1/p);L1是绝对值和,L2是平方和开根
- L1正则产生稀疏解,可做特征选择;L2使权重变小且平滑,主要防过拟合
- 稀疏原因:L1约束区域有尖角,且次梯度大小恒定
- 贝叶斯视角:L1对应拉普拉斯先验,L2对应高斯先验
易错点
- 说L2正则也会产生大量精确为0的权重
- 把L2范数和L2正则项混淆,正则项常用的是平方和不开根
- 把L0当作严格意义上的范数
面试官常见追问
- 什么是过拟合?
- L1在0点不可导,怎么优化?
完整的口述示范答案、每个追问的参考回答,在启面刷题中心查看;也可以让 AI 面试官用语音按这道题连环追问你。