关于逻辑回归的几个疑问

Question

1、能映射到 【0,1】之间表示概率值的激活函数有那么多，现造也能造出来，为啥是 sigmoid ：）

2、如果激活函数是这种形式，那 0 这个位置便是固定的。当我们的输出值大于 0 时，p > 0.5，小于 0 时，p < 0.5。这里关键点在于 0 这个位置，是不是不一定是这个位置最好，有没有一个可学习的参数 w，类似于 1/(1+e^-(x+w))，这样的形式，让 sigmoid 可以左右移动，而不局限于 0 这个位置？如果没有，那又是为啥？

3、进行二分类时，不一定说是 p>=0.5 是一类，p <= 0.5 是一类吧。可不可以是 p >= 0.8 是一类，p <= 0.8 是一类（0.8 也可以是其他值）？

Answer 1

liuyubobobo 2020-09-28 10:50:31

1

可以参考这里：https://coding.imooc.com/learn/questiondetail/96383.html

2

我没有特别理解，你让 0.5 的分界点不是 0 的目的？因为让整个 sigmoid 平移 a 个单位，然后所有的判断都以 a 为基点，和以 0 为基点是等同的，因为 sigmoid 的形状没有发生改变；

3

p 表示概率。对于二分类问题，判断是 a 的概率大于 50%，于是决定是 a；是 b 的概率大于 50%，于是决定是 b，是很自然的语义。

当然，这个语义可以修改，所以你可以拿到逻辑回归对每个样本判定的概率值，然后根据你自己定义的界做判断。

这一点，在多分类问题上，有时会比较重要，课程后续会介绍。

继续加油！：）

• 提问者 手中的铅笔 #1

  继续追问 ：）
  
  关于第 2 个问题中，平移确实没有改变 sigmoid 的形状，但是等于相同的概率值对应的横坐标变了啊，这一点不影响吗？

• liuyubobobo 回复 提问者 手中的铅笔 #2

  如果你的意思是根据此来调整使用不同的概率选择不同的类别，用 3 的方法更直接。