老师，SVD和PCA和因子分析的关系是？

Question

老师您说的SVD第一个应用可以理解为A变换是将在V坐标系中的向量或点得坐标转到U坐标系，区别就是各分量以对应的奇异值为倍数。这个变换跟因子分析的那个旋转很相似。

您说的SVD第二个应用也与主成分分析的去掉维度很相似。

Answer 1

liuyubobobo 2019-01-18 02:28:43

赞！：）

PCA的解确实可以通过SVD获得，其实通过SVD解出PCA的解也是PCA实现的标准方式之一。如果你看scikit-learn中提供的PCA接口，会看到其中有一个参数叫svd_solver，就是在指定求解SVD的算法：）传送门：https://scikit-learn.org/stable/modules/generated/sklearn.decomposition.PCA.html

不过具体步骤上，这门课程没有涉及。这是因为要想讲明白PCA，还要设计统计学上的概念，不在这个课程的犯愁了。更重要的是，这个课程已经严重超时了:-(

有兴趣可以再网上搜索自学一下。直接搜索PCA和SVD两个关键词，应该会有不少结果：）

加油！：）

• 提问者 Jazz_Qi #1

  好的，谢谢老师。
  
  我学习机器学习时买了知乎网友推荐的清华出版社翻译的实用多元统计的书，很多涉及线代，这也促使我学习本课程。但碍于个人水平，虽然我学完本课程对我学习机器学习有了帮助，但看上述那本书还是觉得不容易。
  
  非常期待老师会不会出多元统计和机器学习的数学统计层面的课程。

• liuyubobobo 回复 提问者 Jazz_Qi #2

  谢谢你的建议。我考虑：）

• 提问者 Jazz_Qi 回复 liuyubobobo #3

  老师，你厉害真有道理，我睡前问问题，刚起床问问题，你都回复。睡得比我晚，起得比我早。