采纳答案成功!
向帮助你的同学说点啥吧!感谢那些助人为乐的人
老师您好,我想请问一下,在训练时报下列错误应该怎么办?OOM when allocating tensor with shape[64,128,160,160] and type float。我查了一下网上说是显卡显存容纳不了这么多数据,但是我不知道改哪里的代码。 或者可以提供一下您训练完的frozen_inference_graph.pb文件让我进行一下测试和用于之后的小程序编程嘛 已找到!
显卡容量不够的话,首先考虑减小batchsize,然后,在考虑减少主干网络的大小,这个该起来都比较复杂,可以qq联系我,告诉你怎么改。另外,你的显卡是多少?一定要注意的是模型改太小会影响性能。
非常感谢!
登录后可查看更多问答,登录/注册
理论与实战项目双管齐下,让AI技术真正落地应用,适合毕设展示。
1.4k 8
1.4k 6
1.0k 6
1.5k 5
2.4k 5
购课补贴联系客服咨询优惠详情
慕课网APP您的移动学习伙伴
扫描二维码关注慕课网微信公众号