PCA 主成分分析的原理与求解
答案要点
- 目标:找正交方向使投影方差最大,等价于最小化重构误差
- 步骤:中心化(必要时标准化)、求协方差矩阵、特征分解、取前 k 个特征向量投影
- 也可对中心化数据做 SVD,右奇异向量即主成分,奇异值平方除以 n-1 即对应方差
- 按累计方差贡献率(如 90%–95%)或碎石图拐点选择 k
- 局限:只捕捉线性结构、无监督、对离群点和量纲敏感,可解释性下降
易错点
- 忘记中心化,或量纲差异很大时不做标准化
- 把主成分当成原始特征的子集,实际上它是所有特征的线性组合
- 在测试集上重新拟合 PCA,应使用训练集得到的均值和投影矩阵
面试官常见追问
- 为什么协方差矩阵的特征向量就是方差最大的方向?
- PCA 和 LDA 有什么区别?
- 为什么要先中心化?
完整的口述示范答案、每个追问的参考回答,在启面刷题中心查看;也可以让 AI 面试官用语音按这道题连环追问你。