请稍等 ...

为什么BN可以放在激活函数之前？

bn放在激活函数之前，下一层的输入不就不是均值为0方差为1了吗？

追梦逐梦白日做梦 2019-05-30 12:51:24

源自：2-10 实战批归一化、激活函数、dropout

2536

收起

提交取消

1回答

正十七 2019-05-30 20:43:23

个人感觉，BN层的作用在于调整和平滑输入的分布，使得梯度更容易的传下去。我们在课上讲解的比较简单，这里有一个更深入的分析：https://www.zhihu.com/question/283715823

0 回复有任何疑惑可以回复我~

相似问题

激活函数放在 bn 之前和之后有什么区别？

bn,激活，droupout,残差连接这几个的顺序是什么

为什么conv+bn+relu是有效的？

激活函数可以放在隐含层不放在输出层吗？

老师，关于激活函数relu

登录后可查看更多问答，登录/注册

Google老师亲授 TensorFlow2.0 入门到进阶

参与学习 1849 人
解答问题 896 个

Tensorflow2.0实战—以实战促理论的方式学习深度学习

了解课程

本课精华内容

问答

如何确定神经网络的层数以及每一层的神经元数目？

2.9k 1

tensorflow如何进行超参数搜索呢？

1.4k 3

老师我运行那个第二章第一个程序的第二段出现下面的问题时咋回事啊

1.3k 19

使用函数式API训练wide and deep模型出错

1.4k 13

RuntimeError: 。。does not set or modifies parameter layer_size

2.1k 7

查看更多本课问答

意见反馈帮助中心 APP下载