深度学习——Batch Normalization
·
Batch Normalization是google团队在2015年论文《Batch Normalization: Accelerating Deep Network Training by Reducing Internal Covariate Shift》提出的。通过该方法能够加速网络的收敛并提升准确率。
原理：
在图像处理过程中，通常会对图像进行标准化处理，这样能够加速网络的收敛。
Batch Normalization的目的是使我们的一批（Batch）feature map（特征矩阵 ）满足均值为0，方差为1的分布规律。
常见的迁移学习方式：
1、载入权重后训练所有参数
2、载入权重后只训练最后几层参数
3、载入权重后在原网络基础上再添加一层全连接层，仅训练最后一个全连接层
魔乐社区（Modelers.cn) 是一个中立、公益的人工智能社区，提供人工智能工具、模型、数据的托管、展示与应用协同服务，为人工智能开发及爱好者搭建开放的学习交流平台。社区通过理事会方式运作，由全产业链共同建设、共同运营、共同享有，推动国产AI生态繁荣发展。
更多推荐
0
0- 0
已为社区贡献7条内容
所有评论(0)