第3章 循环神经网络（RNN与LSTM）——3.2 BP神经网络模型

1.正向传播，输入->隐含->输出层

（1）网络初始化，定义每层节点和权重

（2）隐藏层的输出

（3）输出层的输出

2.误差计算

3.反向传播，误差反向传播，权重更新

（1）隐藏层到输出层

（2）输入层到隐藏层

4.偏置更新

（1）隐藏层到输出层

（2）输入层到隐藏层

5.BP神经网络，前馈神经网络

（1）可以通过逐层信息传递到最后的输出

（2）沿着一条直线计算，直到最后一层，求出计算结果

（3）包含输入层、输出层和隐藏层，其目的是实现从输入到输出的映射

（4）一般包含多层，并且层与层之间是全连接的，不存在同层和跨层连接