这个神经网络为什么要设计成三层，392个隐藏神经元？

Answer 1

flare_zhao 2020-07-28 23:06:12

同学你好，关于mlp结构设计，并没有一个绝对正确或者错误的方法，但通常会考虑一个原则，从前往后逐步减少神经元数量并提取出更为复杂的轮廓信息，本门课程中，考虑到输入层是784，我们下一层直接俄用了1/2的数量，是不是一定要是1/2倍，不一定。但当我们去看很多其他的模型，有可能是1/2倍，这个倍数你可以理解为一个超参数，可以做一些测试，看什么样的效果更好，其他参数也是可以这么考虑的。这个任务图像特征相对简单，我们发现这个结构效果就不错了，那就没必要去让模型更加复杂。

• 无限Infantry #1

  请问老师，那为什么是一个隐藏层 而不是2层？

• flare_zhao 回复 无限Infantry #2

  两层也是可以的，但相当于结构更复杂了。因为一层效果就不错了，那优先考虑简单的结构