高斯混合模型 GMM 原理与 EM 求解
答案要点
- 模型:p(x)=Σ πk·N(x|μk,Σk),πk 非负且和为 1,每个分量对应一个簇,输出软分配概率
- E 步:γik = πk·N(xi|μk,Σk) / Σj πj·N(xi|μj,Σj),即样本属于各分量的后验
- M 步:Nk=Σi γik,πk=Nk/N,μk、Σk 分别为按 γik 加权的均值与协方差
- EM 保证对数似然单调不降,但只收敛到局部最优,依赖初始化
- K-means 相当于硬分配、共享球形协方差的特例,GMM 可刻画椭圆簇
易错点
- 认为 EM 能找到全局最优,实际只保证局部最优
- 把 GMM 当判别模型,它是生成模型,可以采样生成数据
- 忽略协方差奇异,导致似然发散或数值错误
- 高维全协方差参数量大,样本不足时易过拟合,可改用对角协方差
面试官常见追问
- GMM 与 K-means 有什么区别?
- 如何确定分量个数 K?
- 为什么 EM 能保证似然不下降?
- 训练中协方差奇异怎么办?
完整的口述示范答案、每个追问的参考回答,在启面刷题中心查看;也可以让 AI 面试官用语音按这道题连环追问你。
相关面试题
- K-means 聚类算法11 场
- 有监督学习与无监督学习11 场
- 常见聚类算法及其原理8 场