为什么resnet做fine-tune训练效果不如从头训练效果

Question

我在做猫狗大战的时候，尝试用resnet50做fine-tune，训练的效果好像很差，accuracy都是从0.5开始，迭代十次，准确率才70多，还不如从头开始训练呢，而且训练的很慢，迭代10次要将近2个小时。是不是基于imagenet 的resnet50模型本身不适合猫狗分类啊，还是说我用自己的显卡太渣了，体现不了fine-tune的优势？

Answer 1

正十七 2021-07-10 23:23:33

可能是实现有问题？我理解猫狗大战这个task，fine-tune收敛速度应该会快很多和好很多才对。

估计不是显卡的问题，不然同样的网络，为什么fine-tune明明参与训练的参数少反而会慢呢？