pass

Question

在超参数搜索完之后，会在全部训练集上用新的参数再训练一遍，老师他用的参数是从
param_distribution = {
“hidden_layers”:[1, 2, 3, 4],
“layer_size”: [5, 10, 20, 30],
“learning_rate”: [1e-4, 5e-5, 1e-3, 5e-3, 1e-2],}
这里sample出的10个中的最好的一组对吗？它是怎么选择出来的呢？，跟前边的model_checkpoint有什么关系吗？，它是保存最好的模型。

Answer 1

正十七 2020-04-29 23:15:32

对，最好的一个，选择就是按照它在训练集（11610样本）内切分出来的验证集（3870样本）上的val_loss.

跟前边的model_checkpoint没有关系，是从头开始训练的。