为什么我训练的图片没有出现梯度消失？

Question

老师我看了你云盘上的代码，和课程里面的代码一模一样，也是20层的神经网络为啥和课程上你plot出来的图不一样，是这个样子的，没有出现一开始平滑的情况？

Answer 1

正十七 2020-04-21 22:21:20

你把我代码中的learning rate从0.01改成0.001应该就能看到这个现象。

model.compile(loss="sparse_categorical_crossentropy",
              optimizer = keras.optimizers.SGD(0.01),
              metrics = ["accuracy"])

中间update过一次代码，把这里改了。