能不能“显存不够，内存来凑”？

Question

再使用GPU版本的TensorFlow时，发现显存不太够用，但是计算机内存特别特别大。能不能把部分Tensor指定放到内存中？ 以缓解显存不够的窘境？

Answer 1

正十七 2018-09-19 23:03:46

Tensorflow是可以设置某些节点放在cpu上的。使用with tf.device('/cpu') 就可以。

• 提问者 Mr_小祥 #1

  非常感谢！

Answer 2

提问者 Mr_小祥 2018-09-18 17:20:14

唉，不用了。手算了一下是我的模型设置不合理，有的节点占用显存不合理的大。  所以batch size才没办法设大

• 正十七 #1

  很多时候因为显存问题是不得不把batch size调小的。所以之前我有用过把一张图切成几部分，每一部分放在一个GPU上。比如卷积神经网络，前三层放在GPU0上，中间三层放在GPU1上等。在这里需要注意，就是需要设置把每个变量的train_op放在和变量一样的GPU上。