KNN模型也有模型正则化的操作吗？

Question

KNN没有模型参数theta，Ln正则项也用不到了，是不是有其他的正则化方法？

Answer 1

天心难测 2018-03-10 21:59:29

模型正则化我理解的是优化多项数参数的系数，而KNN是通过距离来算，如欧式距离等，所以KNN一般情况下用不到模型正则化，当然如果距离计算方式是你自定义的，那么在你的自定义距离函数中是不是需要模型正则化就看你自己处理了。

• 提问者 神经旷野舞者 #1

  这个模型正则化应该用于损失函数，距离不属于损失函数，knn好像也没损失函数？

• liuyubobobo #2

  赞！正则化是在参数学习中使用限制参数达到防止过拟合的目的的。正则化的思路不适用于非参数学习。所以knn和决策树都不适用于正则化方法：）