维数灾难会导致预测准确度的降低吗？

Question

老师在这节课中提到了一个维数灾难的问题，但是我想请问，如果是根据维度增加而导致距离增加，实际上所有的点的距离都在增加，knn最终的落脚点在距离大小的排序上，并不在意距离的实际大小，所以是否knn算法的预测准确度并不会因为这个原因而降低呢？

此外，因为数据的大小在变化，所以维度的增加会导致计算量的增大，这最终影响的还是算法的效率对吗？

Answer 1

liuyubobobo 2020-01-15 02:50:10

影响效率，但也会影响准确度。

这是因为，维数增大以后，数据所在空间变大，要想获得同等的准确度，需要的数据量就增大了，如果数据量还保持原有的范围，那么可能的决策平面数量就大大增加了，而这些决策平面，存在很多其实不准确的结果。

继续加油！：）

• 提问者 MrZLeo #1

  不是很明白?k值是在fit的时候确定下来的值，老师的意思是不是维度增加导致合适的k值也会增加，从而对数据数量的需求增加？
  决策平面又是什么意思？?

• liuyubobobo 回复 提问者 MrZLeo #2

  别着急，继续往后学，判定机器学习算法的“好坏”是机器学习领域的一个很重要，同时也是很复杂的问题。在这个课程中，会不停地提及。现在，先掌握算法的基本思想，学完第 11 章，回过头再来看这个问题，我们再来讨论？

• 提问者 MrZLeo #3

  非常感谢！