老师，关于激活函数relu

Question

老师，这段是Python3的代码，和视频上讲的Python2的代码有些不同，我想问一下为什么在这段代码中使用的是relu激活函数而不是sigmoid激活函数呢？而且关于这段代码hidden1，2，3的定义不是很懂，希望老师能讲解一下，谢谢老师！

老师这几天没看问答嘛~还是没搞懂，希望老师能讲解一下，十分感谢！

Answer 1

正十七 2019-10-01 00:20:12

sigmoid和relu都是激活函数，现在在图像领域普遍使用relu，因为它训练速度快，收敛效果好。当然，你也可以用sigmoid。

hidden1就是第一个全连接层的输出，同时它也是第二个全连接层的输入。hidden2,hidden3同理。有了这三个变量，就把这几个层次跟堆起来了。

• 提问者 慕仙5376180 #1

  老师，为什么全连接层的最后一维要设置成100，100，50，10？

• 提问者 慕仙5376180 #2

  懂了老师，看了后面的课就懂了，之前看第二章的时候不太懂，谢谢老师！