关于逻辑回归决策边界的问题

Question

bobo老师您好：
    我看到一些书中逻辑回归是使用伯努利分布和极大似然估计来推导出的公式，一直没有弄明白它的现实意义，直到看到您的决策边界这一章，十分感谢。但是我不明白的是用数学推导出的公式最后不能求出解析解，而是用梯度下降找数值解，为什么不能直接使用 X.T.dot(θ)=0来直接做呢

Answer 1

liuyubobobo 2019-04-26 08:36:55

我可能没有理解你的问题？直接使用 X.T.dot(θ)=0，你的意思是怎么做呢？

逻辑回归求解θ是求解让下面的这个J最小的θ，找到这个式子的解析解可不容易：）

继续加油！：）

• 提问者 我是卖报的小画家 #1

  我的意思是不经过sigmod 极大似然估计这些步骤。直接把他看成线性回归，用X.T.dot(θ)=0求θ 这样不就直接得到了这根线嘛，通过这根线来分类

• liuyubobobo 回复 提问者 我是卖报的小画家 #2

  解方程？但是这个方程很可能无解啊。因为样本可能根本不可分。所以机器学习任务总是求解一个最优解问题。你需要定义出一个标准：）