1、简单介绍RNN 的主要特点（20分）

一类具有内部环状连接的人工神经网络，用于处理序列数据，最大的特点在于网络中存在着环，使得信息能够在网络中进行循环，实现对序列信息的存储和处理

2、在训练 RNN 时，存在的梯度消失和梯度爆炸问题主要是由于什么原因？（20分）

    梯度消失:反向传播过程中，由于链式法则，梯度不断地跟网络层数相乘，如果梯度小于1，那么在网络较深的情况下，梯度将指数级趋近0

    梯度爆炸：反向传播过程中，如果梯度不断跟网络层数相乘，且梯度大于1，那么梯度将指数级增长，导致权重更新过大。

3、LSTM（Long Short-Term Memory）网络相对于基本的 RNN，主要引入了什么机制以解决梯度消失问题？（20分）

    LSTM引入了“门”机制（遗忘门，记忆门（或者叫输入门），输出门）以及细胞状态概念。“门”是引入或去除细胞状态中的信息，是一种让信息选择性通过的办法，跟滤波器类似，允许部分信号通过或通过时加工。遗忘门：用来忘记“信息”，遗忘门决定了细胞状态C_t-1中哪些信息将被遗忘。“记忆门”决定新输入的信息x_t和h_t-1中哪些信息将被保留。输出门：用于更新细胞状态。

4、RNN 可以用于哪些任务？（20分）

语言建模，机器翻译，文本生成GPT，情感分析，语音识别，时间序列分析，推荐系统，时间依赖型任务

5、RNN 中，若一个序列的长度很长，可能会遇到的问题是什么？（20分）

    如上述所述，梯度爆炸、梯度消失、长期记忆问题、计算和存储开销，所以问们一般用LSTM、GRU、Bi-RNN改进版本的RNN来处理长序列问题