老师可不可以给个模型剪枝，压缩的例子？

Question

在深度学习网络层数过多的时候会造成模型过大或者影响性能，我看paper说是有方法可以减掉一些不重要的神经元，不知道老师能不能给几个例子或者Paper推荐？
按照这个剪枝方法我们是不是可以先用移除迁移学习最后2，3层，再加上自己的数据训练剩下的网络层，最后再剪枝减少参数和模型大小？

Answer 1

正十七 2019-07-31 23:10:26

这个其实在tensorflow2.0中会有剪枝的case，只不过现在的测试版还没实现，等到正式版了加上这个功能了会再补充哈。

另外，论文的话可以搜下模型蒸馏，也是压缩的好办法。