对于线性回归的理解

Question

波波老师，现在学着学着，总是把概念理解偏差。我认为的线性回归就是y和x之间是线性的关系，而对于x是几次方对于是否是线性是没有影响的吧，只是针对无论是哪一个的特征的变化对于y的影响是线性的。这样理解对吗老师。嘿嘿，bobo老师再问个题外话，我见您也是用的mac，那mac后面是AMD的显卡，对于深度学习的影响大吗，如果未来学习深度学习是不是还是N卡好一点呢

Answer 1

liuyubobobo 2021-05-01 17:35:24

我假设你的这个问题是因为学习了多项式回归产生的问题？

简单来说，线性回归就是假设 y 和特征之间存在线性关系。如果你的特征是 x1 和 x2，就表示假设了 y 和 x1, x2 之间呈线性关系。

但是多项式回归会建立多项式项，比如 x1, x2, x1^2, x2^2 , x1x2，然后使用线性回归，也就是假设：

y = theta0 + theata1* x1 + theta2 * x2 + theta3 * x1^2 + theta4 * x2^2 + theta5 * x1x2

此时，y 和 x1, x2, x1^2, x2^2 , x1x2 这五个特征呈线性关系；

但是，y 和 x1, x2 这两个特征称非线性关系。

==========

放到初等数学中理解，比如 y = ax^2 + bx + c，我们说他是二次函数，说全了，是指 y 是 x 的二次函数。

但是如果我们把每个 x = x1 对应的 x^2 算出来，当做一个特征，叫 x2，那么这个十字就变成了 y = ax2 + bx1 + c，他变成了三维空间中的一个线性函数。

所以，说 y 和 x 称什么关系，关键是 x 具体是指谁？

==========

以 tf 为例，是在逐渐支持 AMD 的，并且从道理上，这个支持会越来越大的：

https://github.com/ROCmSoftwarePlatform/tensorflow-upstream/issues/362

苹果自己也在做专门针对 mac 系统的优化：

https://github.com/apple/tensorflow_macos 

但如果需要，一个简单的解决方案是外接显卡。

不过其实一般在个人机子上，我这边的场景（一般可能都是这样的），主要是在个人机子上做学习 + 模型的出调，真要“大规模炼丹”，都是上远程服务器的，所以从自用的角度是够的。除非你有特别明确的要求，可能要根据你的要求做硬件配置了，但是如果以学习为主，我觉得影响不大。

仅供参考，还是要根据你的需求来。

继续加油！：）

• 提问者 热心市民小马 #1

  谢谢bobo老师！清晰了许多

Answer 2

提问者 热心市民小马 2021-04-30 13:28:38

老师我再举个例子补充一下，所谓线性就是指特征和被预测值之间的线性关系，这个特征可以是房子的面积也可以是房子面积的平方还可以是房子面积乘以屋子的数量。总之无论特征是什么，总能把预测值表达成这种特征的一种线性关系，这种就叫做线性