Deep Learning Note: 5-2 循环神经网络
1. 循环神经网络 图 1 展示了一个简单的循环神经网络的结构。 网络依次处理输入数据 $x$ 中的每个单词：首先处理第一个词 $x^{}$，将它输入到一层神经网络中，得到对 $x^{}$ 这个词的激活值 $a^{}$ 和预测值 $\hat{y}^{}$；然后处理第二个词 $x^{}$，将它和前一层的激活值 $a^{}$ 一起输入到一层神经网络中，得到对 $x^{}$ 这个词的激活值 $a…
Read more
Deep Learning Note: 5-1 序列模型
1. 序列模型 循环神经网络（Recurrent Neural Network）用于处理序列模型，常见的应用场景有： 语音识别（Speech Recognition）：输入一段语音数据，输出语音内容的文本。输入和输出都是序列数据。 音乐生成（Music Generation）：没有输入，或输入特定参数（如一个表示音乐风格的数字），输出一段音乐。只有输出是序列数据。 情感分类（Sentiment…
Read more