老师，网络正态分布初始化，是指全连接层的w和b都服从正态分布初始化吗

Answer 1

正十七 2020-08-15 21:12:22

全连接层的w一般按照正态分布或者其他分布去初始化。b一般是用0初始化就可以。

卷积层的初始化也需要遵循一个分布的。它和全连接层一样可以遵循正态分布，也可以是其他的。每一层都可以自定义初始化方式。