batch_size 和 num_steps 的关系无法理解

Question

batch_size  是一个迭代的样本数， 那一个样本的是一个 num_steps 个单词组成的句子的意思吗？如果是，那这 num_steps 个单词是序列化中的吗？

Answer 1

慕的地591 2018-08-30 15:27:51

batch_size:为一个batch中样本的数量（把它当成一个batch的行）

num_steps:一个样本的序列长度（把它当成一个batch的列）

老师给的程序中，batch_size=20，num_steps=35，则一个batch包含的单词数量是batch_size * num_steps=700个，仅供参考！

• 慕沐5575308 #1

  batch_len能说下事什么意思吗

Answer 2

Oscar 2018-04-05 18:15:01

num_steps 是 35，表示一次有 35 个单词输入给相连的 35 个 LSTM 神经元。

batch_size 是 20，表示一个迭代里有 20 组这样的 35 个单词的样本。

看一下课程里我画的那个彩色的图，横着的有 35 个 LSTM 神经元（输入 x0 到 x34 ; 输出 h0到h34）。

请参看：

LSTM神经网络输入输出究竟是怎样的？

（译）理解长短期记忆(LSTM) 神经网络