请教一个交叉验证的问题

Question

某个轮次用于验证的子集，实际上已经（或将要）被用于训练了，所以网络已经记住了这个子集的特征。这就像老师用课堂讲解过的练习题拿来做考试题，考的都是学生的记忆力，而不是解题能力。所以我的问题是，拿训练过的数据进行验证有什么意义？

Answer 1

正十七 2019-07-31 18:58:20

同学你的理解是对的，训练集模型都已经见过了，所以拿去做验证是不合理的。所以在我们的实战中，训练集和验证集都是分开的，没有混在一起。

你提到的某个轮次的验证集是说超参数搜索那块的知识点吗，那里这样用是因为每个轮次都是在训练一个新模型，所以改验证集是可以的。

• 提问者 SimonYuan2018 #1

  谢谢老师的回复。我的意思是，比如把数据集分为D1，D2， D3共三个子集。交叉验证时第一轮用D1、D2训练，D3验证，第二轮用D1、D3训练D2验证，依次类推。即前面训练的某个子集用于后面的验证（不知我理解的是否正确）。所以我的问题是：用参加过训练的数据充当验证是否有意义？