循环神经网络(二)-极其详细的推导BPTT – 努力的孔子

循环神经网络(二)-极其详细的推导BPTT

首先明确一下，本文需要对RNN有一定的了解，而且本文只针对标准的网络结构，旨在彻底搞清楚反向传播和BPTT。

 

反向传播形象描述

什么是反向传播？传播的是什么？传播的是误差，根据误差进行调整。

举个例子：你去买苹果，你说，老板，来20块钱苹果（目标，真实值），老板开始往袋子里装苹果，感觉差不多了（预测），放称上一称，还差点（误差），又装了一个，还差点（调整一次之后的误差），又装了一个...迭代，直到20块钱。

注意每次都是根据误差来进行调整，这点谨记。

 

BPTT 剖析

RNN网络结构比较复杂，BPTT在梯度计算时也不同于常规。

 

不同1：权重共享，多个误差

常规是误差分两条路传递，然后每条路分别算w，很容易理解

而权重共享时，一个权重，生成了2个误差，还有个总误差，到底用哪个？怎么反向？假设能反向回去，2个w，怎么处理？咋一想，好乱，

其实是这样的

1. 总误差，分误差，其实是一样的

2. 2个w，需要求和。

一个权重，多个误差，求和

 

不同2：权重共享，链式传递

也是2个w，咋一看，不知道咋算。

其实是这样的

链式法则

一个权重，多次传递，其梯度中含有w，且容易看出，传递次数越多，w的指数越大

 

其实rnn比这些不同点更复杂

图不解释了，直接上干货。

 

首先对网上各种坑爹教程进行补充和完善，总结，当然虽然坑爹，但是对我们理解也是有帮助的。

教程1：教程描述ly1的误差来自ly2 和 next_ly1两个方向（下图），其实说法不错，只是不完整。

 

 补充：

1. ly1的误差来自两个方向，ly2和next_ly1，这两条路都要从各自的误差开始算起。（这里体现了我上面例子里提醒谨记的话）

2. 这里计算的是“单层”的梯度，即单个w的梯度，实际计算BPTT梯度时并不是这样。

这里的公式应该是这样子

 

教程2：教程定义了中间变量，并用中间变量来表示梯度

 各种δ，完全搞不清，公式也没有推导过程。

 

补充：这里针对单个节点自定义了变量，然后把每个节点直接相加得到总梯度。

总结：这里定义了中间变量δ，之所以定义这个，是因为这个计算比较麻烦，而且要经常用到，这样会很好地简化运算。

这里的公式应该是这样子

 

这些教程加上我的补充，其实已经可以算出梯度了。

 

下面我再系统的讲一遍BPTT

还是用这张图，这张图在整个网络架构上比较完整，但是缺乏完整的cell，我在前向传播中标记一下。

前向传播

w_i 表示输入权重，w_h表示隐层权重

 

反向传播

首先理解如下公式

 

1. v 和 c并没有多路传递误差，和普通的梯度计算无差别

2. wi wh b都有多路传播

同样设定中间变量，注意这个变量最好是个递推公式，能够大大简化运算，且容易得到规律

初步设定

 

优化

 

再优化

 

这样貌似好多了，递推下去

 

注意到这里还是传递误差，从上式大概可以看出

1. 这是t时刻隐层cell的误差 ，当然要乘以总误差

2. t时刻的误差是t时刻到T的一个和，也就是说是从终点一步一步传过来的

3. 每步传递都是从t时刻到传递时刻的连乘，w指数。

4. 大概是这样 w * losst1 + ww * losst2 + www * losst3 + wwww * losst4 + wwwww * losst5 ，越往前传这个式子越长，损失也越传越小

5. 加上激活函数的搅和，其导数经常小于1

 

 

w_i同理

 

发表于
2019-03-06 12:53 
努力的孔子 
阅读(2996) 
评论(0) 
编辑 
收藏 
举报