Pytorch使用过程中显存爆炸解决办法
pytorch中的python对象占用空间很大,模型可以用.cuda()
方法放在GPU上,临时的一个batch数据也在训练时放在GPU上进行计算,随着时间推移,显存占用指数倍增长,如果可以的话,把训练过程中的pytorch变量对象转换成numpy变量会大大减少显存的占用。
pytorch中的python对象占用空间很大,模型可以用.cuda()
方法放在GPU上,临时的一个batch数据也在训练时放在GPU上进行计算,随着时间推移,显存占用指数倍增长,如果可以的话,把训练过程中的pytorch变量对象转换成numpy变量会大大减少显存的占用。