关于逻辑回归使用多分类

Question

如果逻辑回归进行多分类，数据一定会按照线性模型那样拟合吗?碰到某些情况，需要进行添加特征变成非线性模型去拟合决策边界吗？

Answer 1

liuyubobobo 2021-09-20 01:53:32

逻辑回归算法不能直接处理多分类问题，只能使用 OvO 或者 OvR 的方式来处理多分类问题。而 OvO 或者 OvR 的方式，本质上是训练多个模型，而每一个模型，处理的都是一个二分类问题，但是这些模型合在一起，何以处理一个多分类问题。

所以，在 OvO 或者 OvR 中，每一个逻辑回归问题，还是一个线性拟合的过程。

你永远可以使用多项式的方式来让模型处理非线性的情况，这一点适合算法无关。但是，这里要注意，我们这里说的”非线性“，是针对原来的数据来说的。

比如原来的数据只有一个特征 x，现在通过多项式的方式，引入了一个 x^2，因为有了 x^2，所以针对原先的 x 这一个特征，是非线性的。但是，我们的线性模型（不管是逻辑回归还是线性回归），本质是求出方程 Ax^2 + Bx + C = 0 中的 ABC。这个方程针对 x 来看，在二维平面上，是非线性的。但是，如果我们将其在三维空间看，将 x^2 和 x 看做两个特征，他是三维空间的一条直线。所以，我们的逻辑回归和线性回归，仍然是一个线性的方法，只不过，在高维空间的一条直线，放到低维空间，可能就是一条非线性的曲线。

继续加油！：）