5-9用kNN算法解决回归问题时，老师没有对数据进行归一化处理

Question

是scikit-learn的KNeighborsRegressor自动会对X_train进行归一化吗？

Answer 1

liuyubobobo 2018-01-10 13:42:15

大赞！这里是我的问题，应该先进行一下归一化。scikit-learn中的算法不会自动对数据进行预处理。

我已经在这个课程的github中，相应的notebook进行了修改，可以参见这里：https://github.com/liuyubobobo/Play-with-Machine-Learning-Algorithms/blob/master/05-Linear-Regression/09-Regression-in-scikit-learn/09-Regression-in-scikit-learn.ipynb

如果愿意可以加我的微信，我会给你发一个小红包：）微信号：liuyubobobo

再次抱歉！

• 提问者 慕运维2948618 #1

  不必啦哈哈。不过这么看来，在预测boston房价时，kNN算法的效果比线性回归法预测的还要好。

• liuyubobobo 回复 提问者 慕运维2948618 #2

  恩恩恩 其实也make sense，因为kNN很容易过拟合：）

• 神经旷野舞者 回复 liuyubobobo #3

  老师过拟合是不是应该对训练集拟合很好，对测试集拟合很差？

点开查看后面1条评论

Answer 2

神经旷野舞者 2018-02-10 14:35:16

补充下为什么KNN需要进行归一化：数据归一化为什么有用？对归一化无法直观理解

• 慕慕9414451 #1

  视频里有讲到，为了在统一尺度下考量不同特征。

• 神经旷野舞者 回复 慕慕9414451 #2

  就是说为什么要在统一尺度下，是否有必要？是不统一化，就会出错还是会增大计算量？

• 慕慕9414451 回复 神经旷野舞者 #3

  比如KNN求距离，如果某个特征的值特别大，这个特征求出的值比其他特征的距离值要大很多，掩盖了其他特征的值。

点开查看后面1条评论