本篇介绍卷积层的线性部分

一、与全连接层相比卷积层有什么优势？

卷积层可以节省参数，因为卷积运算利用了图像的局部相关性——分析出一小片区域的特点，加上Pooling层（汇集、汇聚），从附近的卷积结果中再采样选择一些高价值的信息，让特征向少而精的方向前进。

全连接层相当于考虑全局（整张图像）的特征

 

二、卷积的另一种解释

傅里叶变换：将数据从空间域的展示形式转变到频率域的形式。

理解：图像比作一道做好的菜，傅里叶变换就是找出这道菜具体 的配料及各种配料的用量。

图像中，低频信息是大体轮廓（整体），高频信息是图中物体的纹理特征

 

若A, B是矩阵，下面两式是等价的

C=conv2（A, B）

C=IFFT(FFT(A) * FFT(B))   #这里*是“元素级别的乘法”

 

对卷积核做傅里叶变换，可以看出高/低频信号的强度，

由于最终要进行元素级的乘法，如果卷积核在某个频率的数值比较低，经过乘法后的输入数据在这个频率的数据也会变小。滤波核在某个频率的数值为0，说明卷积算法计算后会舍弃这部分信息。

Gabor Filter，保留高频舍弃低频，一些文章宣称自己的模型第一层的参数像Gabor Filter。

 

所以，从傅里叶变换来看，卷积层的意义——

分离低频和高频信息，使它们能够被分别处理。

 

三、卷积层的反向传播

计算参数：

1卷积层输入图像（数据）X对目标函数的偏导数

2卷积层线性部分参数W对目标函数的偏导数

 

解法 

A：按卷积定义求解，需要计算：

1前向计算图

2下层Loss

3本层w导数

B：转换后的解法，软件库中常用套路

将卷积运算转换为矩阵和向量的点积——

输入数据被转换成了一个size更大的矩阵（为了适应矩阵式的卷积操作有些元素需要重复出现）

卷积核被转换成了一个向量

 

软件库选择矩阵式解法的原因：矩阵乘法运算经过多年的研究，运算效率非常有保障。按定义的卷积运算性能较差。