深度学习
-
深度学习性能提升的诀窍 How To Improve Deep Learning Performance
原文: How To Improve Deep Learning Performance 作者: Jason Brownlee 翻译: KK4SBB 责编:何永灿 克服过拟合和提高泛化能力的20条技巧和诀窍 你是如何提升深度学习模型的效果? 这是我经常被问到的一个问题。 有时候也会换一种问法: 我该如何提高模型的准确率呢? ……或者反过来问: 如果我的网络模…
-
使用horovod构建分布式深度学习框架
最近一直在尝试着分布式深度学习的架构,主要的原因一方面是几台机子全是1060卡,利用深度网络在较大数据样本上训练的效率极其低下,所以尝试着将几台机子做成分布式,看看能否提高训练效率;第二方面是有人习惯使用tensorflow,有人习惯使用keras,也有人喜欢使用pytorch等,虽然这些框架各自都有分布式的实现,但总的来说不能统一到一个平台上,造成使用…
-
JS做深度学习2——导入训练模型
改进项目 前段时间,我做了个RNN预测金融数据的毕业设计(华尔街),当时TensorFlow.js还没有发布,我不得已使用了keras对数据进行了训练,并且拟合好了不同期货的模型,因为当时毕设的网站是用node.js写的,为了可以在网站中预测,我采取的方案是:用python进行训练和预测,然后使用node.js运行python命令,最终在浏览器上可视化出来,…
-
【深度学习】Windows安装Pycocotools(Microsoft Visual C++ 14.0 or greater is required.报错提示解决方案)
很多深度学习项目会用到Pycocotools 一般直接在conda环境下运行 pip install pycocotools 或者使用阿里镜像源安装 pip install pycocotools -i https://mirrors.aliyun.com/pypi/simple/ 在Windows下直接运行该命令可能出现如下报错提示 error: Micr…
-
python安装深度学习包theano,Pylearn2,scikit-neuralnetwork
我用的是anaconda环境 直接用anaconda安装 下面 两条命令: anaconda search -t conda 包名 conda install -c https://conda.anaconda.org/conda-forge 包名 python2.7 1. 安装numpy, scipy, theano: conda install -c…
-
深度学习之稠密连接⽹络(DENSENET)
DenseNet与残差网络(ResNet)有区别也类似。区别如下: 在跨层连接上:ResNet(左)使⽤相加;DenseNet(右)使⽤连结。 DenseNet将模块 A 直接跟模块 B 后⾯的所有层连接在了⼀起。这也是它被称为“稠密连接”的原因。 DenseNet的主要构建模块是稠密块(dense block)和过渡层(transition layer)。…
-
深度学习之权重衰减——2020.27
过拟合现象,即模型的训练误差远⼩于它在测试集上的误差。虽然增⼤训练数据集可能会减轻过拟合,但是获取额外的训练数据往往代价⾼昂。本节介绍应对过拟合问题的常⽤⽅法:权重衰减(weight decay)。 一、方法 权重衰减等价于 范数正则化(regularization)。正则化通过为模型损失函数添加惩罚项使学出的模型参数值较⼩,是应对过拟合…
-
深度学习常用基本知识整理
1. 张量 从代数角度讲,张量可以看作是向量的推广。标量可以看作是0阶张量,向量可以看作1阶张量,矩阵可以看作2阶张量,n阶张量可以看成一个n维数组。Reference: 2. 导数,微分和偏导数的区别 设\(k\)为斜率,\(dy\)为纵坐标的增量,\(dx\)是横坐标的增量,那么简单地讲,导数就是斜率\(k=\frac{dy}{dx}\),微分就是是增量…
-
华为软挑2020之深度学习题目
1.1 输入信息 输入分为三部分: l train_data.txt为已经做好特征工程处理的本地训练集文件。每一行为一条数据记录,以逗号分开。最后一列为类别(二分类),前面的列为特征值。 l test_data.txt 为需要预测的本地测试集文件。特征数和训练集一致。不含类别信息。 l 示例代码为准确率和性能待优化的参考代码,支持的语言分别为C++/Pyth…
-
关于win10深度学习安装配置 CUDA9.0+VS2017+Cudnn7.4.1.5+Anaconda3(cupy安装包)+python3.7+pycharm
0 查看电脑系统版本(非常重要) WIN+R->输入winver, 系统版本号必须高于1703,否则CUDA9.0难以运行!!!! 1 安装 NVIDIA 显卡驱动程序 下载地址:驱动程序 选择适合自己电脑的显卡驱动下载 安装很简单,直接下一步就可以 默认系统安装路径。 2 安装CUDA 9.0 下载CUDA前,先确认GPU显卡所支持的CUDA版本, …