请稍等 ...

使用预训练的word2vec，之后训练embedding层。

这样训练之后，效果不如不训练embedding层效果好，这是为什么？

追梦逐梦白日做梦 2019-06-30 17:14:07

源自：7-9 LSTM长短期记忆网络

724

收起

提交取消

1回答

正十七 2019-07-06 13:28:15

可能的原因是learning rate太大，导致embedding从word2vec初始化的那个好状态经过训练后变成了一个差状态。一般fine-tune的时候要设置较小的学习率。

0 回复有任何疑惑可以回复我~

提问者追梦逐梦白日做梦 #1
```
tensorflow如何单独给embding层设置lr
```
回复有任何疑惑可以回复我~ 2019-07-06 13:29:52

相似问题

请问老师，embedding层的训练是如何进行的呢？

能不能直接用训练第一层的数据集训练第二层？

SSD目标检测算法在kitti数据集上训练效果不佳

使用svm对mnist数据集训练

请问代码训练好了如何具体实战？

登录后可查看更多问答，登录/注册

Google老师亲授 TensorFlow2.0 入门到进阶

参与学习 1849 人
解答问题 896 个

Tensorflow2.0实战—以实战促理论的方式学习深度学习

了解课程

本课精华内容

问答

如何确定神经网络的层数以及每一层的神经元数目？

2.8k 1

tensorflow如何进行超参数搜索呢？

1.3k 3

老师我运行那个第二章第一个程序的第二段出现下面的问题时咋回事啊

1.2k 19

使用函数式API训练wide and deep模型出错

1.3k 13

RuntimeError: 。。does not set or modifies parameter layer_size

2.0k 7

查看更多本课问答

意见反馈帮助中心 APP下载