还不是很懂参数学习和非参数学习这两个概念？

Question

如上，老师能再多解释几句么？

Answer 1

liuyubobobo 2018-04-29 03:44:35

你学习到这里，已经接触了两个学习算法，一个是kNN，一个是线性回归。

线性回归就是典型的参数学习。因为他假设我们的数据符合一个模型，在线性回归中，即是线性模型。之后，我们的任务是求出这个线性模型的参数：theta对应的值。这样的学习方式就是参数学习。换句话说，我们假设我们的问题符合一个固定的数学模型，我们要做的事情是求出这个数学模型的参数。

kNN是非参数学习。在这个学习过程中，我们没有假设我们的数据符合任何模型。我们只是依据一个固定的逻辑——最近邻进行分析判断。这样的学习方式叫做非参数学习。我们的学习过程不是求解数学模型中的某些参数。

非参数学习不代表没有参数。非参数学习可以有参数，甚至可以有很多参数。比如kNN中的k，就是一个参数。但这个参数是一个超参数，在学习前，需要我们设定好，才能进行学习过程；而不像模型的参数，模型参数使我们的学习算法具体求解的对象，如线性回归中的theta。

你也可以这么理解：参数学习通常都更加“数学”，他假定我们的数据符合一个数学模型，然后去求解数学模型中的参数；非参数学习通常都更加“计算机”，他按照某种算法逻辑，得到我们希望的结果：）

• 提问者 慕数据3541479 #1

  太谢谢老师了，感激

• lemonlxn #2

  老师好，我来总结一下，若有不足，请指出，谢谢老师。
  本课程学习的参数学习有：线性回归、逻辑回归。
  本课程学习的非参数学习有：KNN、PCA、SVM、决策树、随机森林。

• liuyubobobo 回复 lemonlxn #3

  SVM本身比较特殊。线性SVM属于参数学习，因为SVM也是求出一条直线的系数，只不过其对这条直线的假设和逻辑回归不同。但是一旦使用非线性核函数，SVM本身就不是参数学习了。因为SVM模型的参数个数已经不是固定的了，而和样本数量相关。对于PCA，由于属于非监督学习，通常我们不太区分他是不是参数学习。但一定要区分，属于参数学习。整个PCA算法，就是在求解W矩阵这个参数。（即对于n维数据，求解n个主成分。）继续加油！：）

点开查看后面2条评论