【经验】为什么用GPU运行深度学习代码还是很慢
·
可能因为batch_size设置太小。
今天做深度学习作业的时候发现程序是在GPU上跑的,但是运行的非常慢,一个epoch需要运行很长时间,经过检查发现:

显存(第二栏)仅仅用了十分之一不到,所以说明batch_size设置的太小了。当时设置的是20,10

然后当batch_size 设为200,100时,显存利用如下:


这样程序运行的快了很多。
魔乐社区(Modelers.cn) 是一个中立、公益的人工智能社区,提供人工智能工具、模型、数据的托管、展示与应用协同服务,为人工智能开发及爱好者搭建开放的学习交流平台。社区通过理事会方式运作,由全产业链共同建设、共同运营、共同享有,推动国产AI生态繁荣发展。
更多推荐


所有评论(0)