Caffe
-
caffe中ConvolutionLayer的前向和反向传播解析及源码阅读
一、前向传播 在caffe中,卷积层做卷积的过程被转化成了由卷积核的参数组成的权重矩阵weights(简记为W)和feature map中的元素组成的输入矩阵(简记为Cin)的矩阵乘积W * Cin。在进行乘积之前,需要对卷积核的参数和feature map作处理,以得到W和Cin。 下面用一个例子来说名上述两个过程。假设某一卷积层输入为c X h X w …
-
Caffe学习 二 xavier初始化
上一篇随笔中,将默认的参数初始化”xaview”改成了”gaussian”,虽然能运行得到不错的结果。 但是在加上针对性的std=sqrt(1/n_out)前,是无法收敛的。 相比之下,采用sigmoid就能收敛。 ReLU不够好的地方: 在学习率过高时,很多单元流经的梯度为0且不再更新就此死掉。——可以通过合理设置lr以及lr的更新方式。 输出范围为[0,…
-
Caffe学习 一 网络参数和自定义网络 基于theano的深度卷积神经网络
网络参数 # 测试总数/batchsize test_iter: 100 # 测试间隔 test_interval: 500 # 开始的学习率 base_lr: 0.01 # 冲量单元,用于加速收敛,v(t+1)=momentum*v(t)-lr*grad ; w(t+1)=w(t)+v(t+1) momentum: 0.9 # 权值衰减,用于惩罚项 wei…
-
Caffe学习 三 模型使用和特征提取
模型使用 使用caffe训练得到的模型进行测试,一般需要如下文件:1.训练好的caffemodel模型 此处使用lenet_iter_10000.caffemodel。 2.测试网络deploy 可以对lenet_train_test.prototxt做修改。 主要修改的地方包括输入数据,最后的top,权值初始化,第一个卷积层名称不能和训练网络conv1同名…
-
Caffe学习系列(15):添加新层
如何在Caffe中增加一层新的Layer呢?主要分为四步: (1)在./src/caffe/proto/caffe.proto 中增加对应layer的paramter message; (2)在./include/caffe/***layers.hpp中增加该layer的类的声明,***表示有common_layers.hpp, data_layers.hp…
-
ubuntu14.04 caffe
1.显卡驱动 ubuntu nvidia 940m 使用sudo ubuntu-drivers devices 查看推荐的驱动版本 //sudo add-apt-repository ppa:mamarley/nvidia(已不能用了) ppa已改为:sudo add-apt-repository ppa:graphics-drivers/ppa sud…
-
用vs2013(cpu-only)调试caffe的mnist
在调试Mnist例子之前,首先需要用vs2013编译好caffe。详情请参见: 【caffe-Windows】caffe+VS2013+Windows无GPU快速配置教程 按照上述教程编译好caffe后,开始编译并调试MNIST. 1. 下载好MINIST数据:http://pan.baidu.com/s/1o7YrhKe,下载完之后解压到examplesm…
-
py-faster-rcnn之python引入_caffe.so
本文并不给出“编写一个c++代码,然后编译为.so文件,然后在python中引入”的hello world,需要的请参考:http://www.oschina.net/question/437227_124449 本文意在强调,python的import,引入的不仅是.py(以及.pyc)文件,还可以引入.so文件 首先明确下,python的模块,是指:一个…
-
在Caffe中实现模型融合
模型融合 有的时候我们手头可能有了若干个已经训练好的模型,这些模型可能是同样的结构,也可能是不同的结构,训练模型的数据可能是同一批,也可能不同。无论是出于要通过ensemble提升性能的目的,还是要设计特殊作用的网络,在用Caffe做工程时,融合都是一个常见的步骤。比如考虑下面的场景,我们有两个模型,都是基于resnet-101,分别在两拨数据上训练出来的。…
-
python命令行中import caffe报错的解决方案
1、ImportError: No module named skimage.io >>> import caffeTraceback (most recent call last): File “<stdin>”, line 1, in <module> File “caffe/__init__.py”, li…