LDA 是什么:线性判别分析(兼谈主题模型)
哪些公司问过
答案要点
- 线性判别分析是有监督降维:最大化类间散度与类内散度之比 wᵀS_b w / wᵀS_w w
- 解为 S_w⁻¹S_b 的前若干特征向量;二分类 w ∝ S_w⁻¹(μ1 − μ0)
- C 类最多降到 C−1 维,因为 S_b 的秩至多为 C−1
- 与 PCA 对比:PCA 无监督保留最大方差,LDA 用标签保留判别信息
- 假设各类高斯且同协方差;S_w 奇异时用正则化或先 PCA,非线性可用核 LDA
易错点
- 把两种 LDA 混为一谈,降维问题里讲主题模型
- 以为 LDA 可以降到任意维,忽略最多 C−1 维的限制
- 忘记 S_w 可能奇异,高维小样本直接求逆
面试官常见追问
- 隐狄利克雷分配(主题模型 LDA)是什么?
- LDA 和 PCA 什么时候效果差别大?
- LDA 能直接用来分类吗?
完整的口述示范答案、每个追问的参考回答,在启面刷题中心查看;也可以让 AI 面试官用语音按这道题连环追问你。