循环神经网络常用于处理信号处理,时间序列处理。

先介绍三种循环网络结构:单向单层循环网络结构、多层循环网络结构、双向循环结构

要点:H为隐藏张量,C为单元状态张量。本人笔记中已介绍。下面三个图好好看。

循环神经网络的核心思想

接下来介绍上面网络结构中的每个神经元(运算单元)是什么样?

通过上面相信你已经了解了在循环网络中每个神经元都会被多次使用。

常见的运算单元有:基本循环神经元、长短期记忆单元、门控循环单元

循环神经网络的核心思想

循环神经网络的核心思想

如何实现呢?基于pytorch实现就很简单啦

常见的有三种循环网络结构:

基于基本循环神经元的循环神经网络,pytorch.nn.RNN

基于长短期记忆的循环神经网络,pytorch.nn.LSTM

基于门控循环单元的循环神经网络,pytorch.nn.GRU

以上内容是自己学习总结出来的,如有错误,望指正,大家共同进步!