深度学习训练过程中loss变化情况
·
可以看到虽然还没学习多少，但是我的val_loss已经开始出现了震荡的情况。但总体趋势还是在下降说明还有学习的空间。
loss和val_loss的变化趋势反映的情况如下，可供参考：
loss下降，val_loss下降：训练网络正常，最好情况。
loss下降，val_loss稳定：网络过拟合化，可以使用正则化和Max pooling。
loss稳定，val_loss下降：数据集有严重问题，建议重新选择。
loss稳定，val_loss稳定：学习过程遇到瓶颈，需要减小学习率或批量数目，可以减少学习率。
loss上升，val_loss上升：网络结构设计问题，训练超参数设置不当，数据集经过清洗等问题，最差情况
魔乐社区（Modelers.cn) 是一个中立、公益的人工智能社区，提供人工智能工具、模型、数据的托管、展示与应用协同服务，为人工智能开发及爱好者搭建开放的学习交流平台。社区通过理事会方式运作，由全产业链共同建设、共同运营、共同享有，推动国产AI生态繁荣发展。
更多推荐
4
0- 0
已为社区贡献2条内容
所有评论(0)