为什么需要对dataset 做 dataset.repeat(epochs).batch(batch_size)操作？

Answer 1

正十七 2022-02-28 20:43:39

repeat控制的是数据集可以被遍历多少次，而batch则是将数据组织成一个一个的小组。这些都和模型的训练流程相关。

模型的训练中，正常来说，每次需要载入全部数据计算梯度，但是当数据集比较大的时候，内存放不下，因此，每次参加训练的数据只是一部分，即batch的概念。

模型的训练中，通常会遍历数据集很多遍，每一遍是一个epoch，即repeat的概念。

• 提问者 Tangvivi #1

  如果在数据量足够多的时候，我们就可以不做repeat，这样理解对么？对数据集进行多次遍历，目的是什么？

• 提问者 Tangvivi #2

  还有一个问题，hidden_units的数量一般是根据什么设置的？