知道第一主成分之后，直接可以算第二主成分，为什么还要梯度上升来求

Question

如题，知道第一主成分w1之后，随便找原始数据的一个点O，O - w1 就得到了跟第二主成分方向相向的向量a，再除以向量a的模不就可以直接得到第二主成分w2了吗？为什么还要梯度上升法来求呢？

Answer 1

liuyubobobo 2018-09-19 11:02:29

只有当数据点有两个维度的时候，才有这个结论。比如数据点有三个维度，求出第一主成分以后，每个数据点减去第一主成分的分量以后，结果是这个数据点在第2，3两个主成分上的位置，而不是第二个主成分的位置。

同理，推广到n维数据，当得到第一主成分以后，每个数据点减去在第一主成分上的分量，得到的是在剩下的2,3,4，...，n维度的分量的总和。所以我们要在剩下的主成分中再找第一主成分，就是全局的第二主成分，以此类推：）

加油！：）

• 提问者 人土土zzzzz #1

  老师，你看我这样理解对吗？
  拿三维来讲，求出第一主成分w1后，空间上的原始点照我那种算法得出来的这些点，不是在一个向量上，而是在与w1垂直的一个平面上，所以还要继续将这平面上的点用梯度上升法求出第二主成分w2。

• liuyubobobo 回复 提问者 人土土zzzzz #2

  非常正确！：）

• 提问者 人土土zzzzz #3

  非常感谢！