深度学习

一、总结 一句话总结： 【一、：基准网络（71%）】：首先，在2000 个训练样本上训练一个简单的小型卷积神经网络，不做任何正则化，为模型目标 设定一个基准。这会得到71% 的分类精度。此时主要的问题在于过拟合。 【二、：数据增强解决过拟合（82%）】：然后，我们会介绍数 据增强（data augmentation），它在计算机视觉领域是一种非常强大的降低过…

一、总结 一句话总结： 【将训练数据中的猫狗头像分训练集、验证集、测试集分好】：其实就是将训练数据中的猫狗头像分训练集、验证集、测试集分好，简单一点来说就是图片的复制粘贴     1、python的os模块的路径拼接和创建目录？ 路径拼接：os的path的join方法：train_dir = os.path.join(base_dir, ‘train’) 创…

要知道，与机器学习模型不同，深度学习模型里面充满了各种超参数。而且，并非所有参数变量都能对模型的学习过程产生同样的贡献。 考虑到这种额外的复杂性，在一个多维空间中找到这些参数变量的最佳配置并不是件容易的事情。 每一位科学家和研究人员，都希望在现有的资源条件下（计算、金钱和时间），找到最佳的模型。 通常情况下，研究人员和业余爱好者会在开发的最后阶段尝试一种搜索…

到目前为止，深度学习是被炒得很火热的一个词，我一个刚出茅庐的小菜鸟，甚至还不能说全面了解深度学习的情况下，仅以个人有限的见解以及跟其他人的交流，说说我的看法。   为什么是过热呢？看看无论是互联网市场，还是大小商品市场，无论是做硬件的，还是倒腾软件的，只要跟信息相关，总想跟大数据或者深度学习扯上关系。貌似在这些人眼中，这些词已经成了高科技的象征，能获得人们无…

@ 目录 0. 前言 1. 熵 1.1 熵的定义 1.2 联合熵与条件熵 1.3 互信息 1.4 交叉熵 2. 散度 2.1 KL散度 2.2 JS散度 参考文献   通常论文中会有一些数学公式来证明作者理论，我觉得读论文不搞懂原理与证明，只了解了框架与流程，是不会有自己的创新以及idea，本文也是记录我自己在读paper遇到的一些数学理论，前面会叙述一些简…

本文转载自：https://blog.csdn.net/u014595019/article/details/52557623 在之前的深度学习笔记(一):logistic分类 中，已经描述了普通logistic回归以及如何将logistic回归用于多类分类。在这一节，我们再进一步，往其中加入隐藏层，构建出最简单的神经网络     2.1 大概描述和公式表达…

PC：ubuntu18.04、i5、七彩虹GTX1060显卡、固态硬盘、机械硬盘 作者：庄泽彬(欢迎转载，请注明作者) 说明:记录在ubuntu18.04环境下搭建深度学习的环境，之前安装了cuda9.1,与cudnn7.0.5版本的，但是无论怎么安装tensorflow-gpu都是失败，后来找到原因了，目前的tensorflow暂不支持cuda9.1,因此…

深度学习课程及深度学习公开课资源整理 这里整理一批深度学习课程或者深度学习相关公开课的资源，持续更新，仅供参考。 1. Andrew Ng (吴恩达) 深度学习专项课程 by Coursera and deeplearning.ai 这是 Andrew Ng 老师离开百度后推出的第一个深度学习项目（deeplearning.ai)的一个课程: Deep Le…

https://blog.csdn.net/u012759136/article/details/52302426 （标题不能再中二了）本文仅对一些常见的优化方法进行直观介绍和简单的比较，各种优化方法的详细内容及公式只好去认真啃论文了，在此我就不赘述了。 SGD 此处的SGD指mini-batch gradient descent，关于batch gradi…

如果你有非常大的决心从事深度学习，又不想在这一行打酱油，那么研读大牛论文将是不可避免的一步。而作为新人，你的第一个问题或许是：“论文那么多，从哪一篇读起？” 本文将试图解决这个问题——文章标题本来是：“从入门到绝望，无止境的深度学习论文”。请诸位备好道具，开启头悬梁锥刺股的学霸姿势。 开个玩笑。 但对非科班出身的开发者而言，读论文的确可以成为一件很痛苦的事。…