神经网络模型之GRU门控循环单元
对于GRU门控循环单元进行了简单讲解
·

GRU门控循环单元
原理:内部的Reset gate和Update gate是可训练的 并且他们可以影响隐藏状态和输入特征的大小,Rt和Zt的取值都是在0-1之间,这样功能就有点类似于dropout,不过其中的参数是可学习的。就像一个动态的dropout
性质:整个GRU是可学习的,当堆砌的神经网络进行层与层的跨越的时候就可以通过GRU整合上一层的特征和本层特征,传递至下一层。确保能够使新的特征向量包含真正需要的特征。
魔乐社区(Modelers.cn) 是一个中立、公益的人工智能社区,提供人工智能工具、模型、数据的托管、展示与应用协同服务,为人工智能开发及爱好者搭建开放的学习交流平台。社区通过理事会方式运作,由全产业链共同建设、共同运营、共同享有,推动国产AI生态繁荣发展。
更多推荐



所有评论(0)