深度学习

一.梯度下降 梯度下降就是最简单的用于神经网络当中用于更新参数的用法，计算loss的公式如下：    有了loss function之后，我们立马通过这个loss求解出梯度，并将梯度用于参数theta的更新，如下所示：    这样做之后，我们只需要遍历所有的样本，就可以得到一个最终的参数theta了，这个参数可能是全局最小值，也可能不是，因为很有可能走入了一…

Dropout层在神经网络层当中是用来干嘛的呢？它是一种可以用于减少神经网络过拟合的结构，那么它具体是怎么实现的呢？ 假设下图是我们用来训练的原始神经网络：    一共有四个输入x_i，一个输出y。Dropout则是在每一个batch的训练当中随机减掉一些神经元，而作为编程者，我们可以设定每一层dropout（将神经元去除的的多少）的概率，在设定之后，就可以…

  一、模型的特点及选用 A、 当前使用的halcon版本为19.12，可用于分类的模型有以下几种 ①    pretrained_dl_classifier_alexnet.hdl ②    pretrained_dl_classifier_compact.hdl ③    pretrained_dl_classifier_enhanced.hdl ④  …

最近学习了深度学习相关课程的两个视频，算是对深度学习有了一定的理解，现在就写一下总结吧。 主要是挑着感觉有用的和能看得懂的来总结，内容可能有些乱hhh 人工智能、机器学习、深度学习 谈到深度学习，我们往往会想到其他各种名词：人工智能、机器学习等等。那么怎么更明确地区分一下呢，它们大概是一个包含关系，即： 人工智能是一个领域，一个目标。机器学习是实现人工智能这…

卷积动态计算过程的链接：https://cs231n.github.io/convolutional-networks/ – 权重共享极大的减少了参数的数量，使得卷积计算更加高效，节约了存储权重的空间。   – img2col()将各个卷积核和输入特征子图转化为向量。 – BN的使用提高了最终的精度和速度；训练步数越少速度越快，图像越高精度越高。 – 这个还…

李宏毅《一天看懂深度学习》学习笔记 大牛推荐的入门用深度学习导论，刚拿到有点懵，第一次接触PPT类型的学习资料，但是耐心看下来收获还是很大的，适合我这种小白入门哈哈。 原PPT链接：http://www.slideshare.net/tw_dsconf/ss-62245351?qid=108adce3-2c3d-4758-a830-95d0a57e46bc&…

  空洞卷积：   2020-02-15 1.偏置参数个数 2d卷积时，如果设置该层偏置有效，偏置参数个数= 输出通道数目。    2.2d卷积分组个数限定 分组个数一定要能被输入通道整除，并且要能被输出通道整除。 输入通道整除原因：因为 输入通道/ 分组数目 要=整数。不等于整数时会发生。余数通道怎么处理问题。  输出通道整除原因:不能整除会发生每个通道卷…

参考链接：https://blog.csdn.net/u013733326/article/details/79702148 # coding=utf-8 # This is a sample Python script. # Press ⌃R to execute it or replace it with your code. # Press Doubl…

参考链接：https://blog.csdn.net/u013733326/article/details/79907419 代码： # coding=utf-8 # This is a sample Python script. # Press ⌃R to execute it or replace it with your code. # Press D…