关于改变threshold

Question

thresdhold作为一个超参数，如果要改变的化，在fit的时候是不是就要改变一下求导方程，还是这和常数对于梯度下降没有影响？

Answer 1

liuyubobobo 2018-10-11 10:46:21

没有影响的。决策值依旧是按照模型本身的方式来求，这是fit负责的部分。threshold只不过负责如何解释决策值。

比如在逻辑回归中，可能p > 0.5判断分类为A；p < 0.5判断分类为B，此时，这个默认的threshold = 0.5。但是修改这个threshold=0.6，我们的决策可能就是p > 0.6判断分类为A；p < 0.6判断分类为B。可是，p的求法是不变的：）

• 提问者 StephenLee147 #1

  不对吧，threshold应该是和（thetaT . Xb）比较

• liuyubobobo 回复 提问者 StephenLee147 #2

  逻辑回归的decision_function返回的是thetaT . Xb（你说的例子）；predict_proba返回的是概率值（我说的例子），这两个值都可以用于做决策函数。threshold根据这两个值的哪个设置都可以。但不管基于谁设置，都不影响我们的fit过程。以逻辑回归为例，可以再review一遍所对应的最优化函数的推导，整个式子和threshold是多少无关：）

• 提问者 StephenLee147 回复 liuyubobobo #3

  谢谢老师。