逻辑回归的超参数

Question

老师，根据你讲的这两节就是10-6,10-7,可以看出来逻辑回归是有超参数的，超参数就是那个决策边界的那个预制，然后根据精确率-召回曲线来调整这个参数是吧？谢谢
除了这一个超参数、逻辑回归还有其他的超参数吗？谢谢老师~~

Answer 1

liuyubobobo 2024-07-17 02:45:54

一个简单地看一个算法的超参数的方式，就是看 API 中提供的相关算法的所有的参数。以 sklearn 为例，LogisticRegression 类下的所有参数都可以视为超参数：https://scikit-learn.org/stable/modules/generated/sklearn.linear_model.LogisticRegression.html

注意：

这里很多超参数并不是这个课程中介绍的重点。比如和数值计算相关的 dual, tol, solver, max_iter, random_state（虽然很多参数通过名字你应该可以理解它的意义。本质是在控制寻找最优解的过程的算法。注意，印象中课程里提及过，逻辑回归是没有数学解的，所以只能使用类似梯度下降法搜索得到解。所以怎么搜索就有了很多超参数可以控制。）

有些超参数和课程中介绍的顺序不同。比如这里的 API 设计将正则化的过程融入在了逻辑回归里。所以产生了很多和正则化相关的超参数。比如 penalty, C, l1_ratio, 

还有一些高级用法，是课程中没有介绍的，或者介绍的方式不是用“参数”的方式做介绍。比如 multi_class（是否多分类），class_weight（为类别添加权重），warm_start（热启动），n_jobs（并发计算）等等。

在大体理解了每一个算法的基础上，通过阅读文档进一步理解算法或者是 API 使用的细节，是有必要的，也是非常正确的学习方式。实际上，不仅仅是学习机器学习，学习前端，后端，移动开发，游戏开发，甚至某一个具体语言，都是同理。原理要理解，同时，文档中蕴藏着更多的细节甚至是领域知识。通过阅读文档来深入学习是非常重要的。

继续加油！：）

• 提问者 weixin_慕田峪3059225 #1

  太感谢老师详尽的回复，每次问答区都收获非常大，开眼界了~~~