算法工程师面试之循环神经网络RNN
详细分析RNN,优缺点,以及RNN由来,RNN当前存在什么问题?由RNN改进得到的网络又有哪些?
·
前言
- 文章来源:LawsonAbs(CSDN)
双向RNN怎么计算?
在使用双向RNNN的时候,我一直有一个问题不大清楚,就是 Bi-RNN 的运行到底是什么样子的?我们都知道 Bi-RNN 的计算过程如下:
ht(2)=f(U2ht+12+W(2)xt+b(2)) h_t^{(2)} = f(U^2 h_{t+1}^{2} + W^{(2)}x_t + b^{(2)}) ht(2)=f(U2ht+12+W(2)xt+b(2))
但是在t时刻怎么知道t+1时刻的值呢?所以一般都是将Bi-RNN分开实现,即先搞顺序,再做逆序,然后拼接得到输出。之所以分开做是因为二者在计算的过程中没有交互。
Recurrent Neural Network 和 Recursive Neural Network 二者的区别是什么?
Recurrent Neural Network叫做循环神经网络Recursive Neural Network叫做递归神经网络,它是循环神经网络在有向无环图上的扩展。递归神经网络的一般结构为树状的层次结构。
参考资料
- 邱锡鹏《nndl》
魔乐社区(Modelers.cn) 是一个中立、公益的人工智能社区,提供人工智能工具、模型、数据的托管、展示与应用协同服务,为人工智能开发及爱好者搭建开放的学习交流平台。社区通过理事会方式运作,由全产业链共同建设、共同运营、共同享有,推动国产AI生态繁荣发展。
更多推荐

所有评论(0)