卷积神经网络
-
Atitit 图像处理之理解卷积attilax总结
Atitit 图像处理之理解卷积attilax总结 卷积的运算可以分为反转、平移，相乘，求和。 在图像处理中，图像是一个大矩阵，卷积模板是一个小矩阵。按照上述过程，就是先把小矩阵反转，然后平移到某一位置，小矩阵的每一个小格对应大矩阵里面的一个小格，然后把对应小格里面的数相乘，把所有对应小格相乘的结果相加求和，得出的最后结果赋值给…
-
第二周：卷积神经网络 part 1
视频学习 数学基础 受结构限制严重，生成式模型效果往往不如判别式模型。 RBM：数学上很漂亮，且有统计物理学支撑，但主流深度学习平台不支持RBM和预训练。 自编码器：正则自编码器、稀疏自编码器、去噪自编码器和变分自编码器。 概率/函数形式统一： 欠拟合、过拟合解决方案： 欠拟合：提高模型复杂度 决策树：拓展分支 神经网络：增加训练轮数 过拟合1：降低模型复杂…
-
空洞卷积-膨胀卷积
在图像分割领域，图像输入到CNN，FCN先像传统的CNN那样对图像做卷积再pooling，降低图像尺寸的同时增大感受野，但是由于图像分割预测是pixel-wise的输出，所以要将pooling后较小的图像尺寸upsampling到原始的图像尺寸进行预测，之前的pooling操作使得每个pixel预测都能看到较大感受野信息。因此图像分割FCN中有两个关键，一个…
-
2、卷积核，感受野
在卷积神经网络中，感受野的定义是 卷积神经网络每一层输出的特征图（feature map）上的像素点在原始图像上映射的区域大小。 原始输入为5*5大小，使用一个5*5大小的核，处理它，得到的结果为1*1大小， 卷积核参数为25。 原始输入是5*5大小，使用两次3*3大小的核，处理它，得到的结果为1*1大小，卷积核参数为9 * 2 = 18。 也就是说，2层3…
-
通用卷积核用于模型压缩和加速
介绍一下最近看的一种通用卷积核用于模型压缩的方法，刚刚查了一下，原作者的博客在https://zhuanlan.zhihu.com/p/82710870 有介绍，论文传送门 https://papers.nips.cc/paper/7433-learning-versatile-filters-for-efficient-convolutional-neur…
-
lecture5-对象识别与卷积神经网络
Hinton第五课 突然不知道object recognition 该翻译成对象识别好，还是目标识别好，还是物体识别好，但是鉴于范围性，还是翻译成对象识别吧。这一课附带了两个论文《Convolutional Networks for Images,Speech,and Time-series》在前面翻译过：http://blog.csdn.net/shouh…
-
卷积神经网络概述-七月在线机器学习集训营手把手教你从入门到精通卷积神经网络
卷积神经网络 图像识别问题和数据集 > 计算机视觉中有哪些问题？典型问题：经典数据集。 在 2012 年的 ILSVRC 比赛中 Hinton 的学生 Alex Krizhevsky 使用深度卷积神经网络模型 AlexNet 以显著的优势赢得了比赛，top-5 的错误率降低至了 16.4% ，相比第二名的成绩 26.2% 错误率有了巨大的提升。Alex…
-
卷积神经网络（四）人脸识别和风格转换
人脸识别 1、One-shot learning（一次学习）： 仅仅通过一张图片来完成人脸识别，即只能通过一个样本来学习. similarity函数： d(img1,img2) = degree of difference between images 识别任务（verification）： if d(img1,img2) ≤ τ：“same”； else：…
-
卷积神经网络CNN 手写数字识别
1. 知识点准备 在了解 CNN 网络神经之前有两个概念要理解，第一是二维图像上卷积的概念，第二是 pooling 的概念。 a. 卷积 关于卷积的概念和细节可以参考这里,卷积运算有两个非常重要特性，以下面这个一维的卷积为例子： 第一个特性是稀疏连接。可以看到， layer m 上的每一个节点都只与 layer m-1 对应区域的三个节点相连接。这个局部范围…
-
《神经网络的梯度推导与代码验证》之CNN（卷积神经网络）前向和反向传播过程的代码验证
在《神经网络的梯度推导与代码验证》之CNN的前向传播和反向梯度推导 中，我们学习了CNN的前向传播和反向梯度求导，但知识仍停留在纸面。本篇章将基于深度学习框架tensorflow验证我们所得结论的准确性，以便将抽象的数学符号和实际数据结合起来，将知识固化。更多相关内容请见《神经网络的梯度推导与代码验证》系列介绍。 提醒： 后续会反复出现$\boldsy…
