人工智能
-
怎么使用Pytorch进行多卡训练
这篇“怎么使用Pytorch进行多卡训练”文章的知识点大部分人都不太理解,所以小编给大家总结了以下内容,内容详细,步骤清晰,具有一定的借鉴价值,希望大家阅读完这篇文章能有所收获,下面我们一起来看看这篇“怎么使用Pytorch进行多卡训练”文章吧。 当一块GPU不够用时,我们就需要使用多卡进行并行训练。其中多卡并行可分为数据并行和模型并行。具体区别如下图所示:…
-
使用Pytorch进行多卡训练
当一块GPU不够用时,我们就需要使用多卡进行并行训练。其中多卡并行可分为数据并行和模型并行。具体区别如下图所示: 由于模型并行比较少用,这里只对数据并行进行记录。对于pytorch,有两种方式可以进行数据并行:数据并行(DataParallel, DP)和分布式数据并行(DistributedDataParallel, DDP)。 在多卡训练的实…
-
了解Pytorch|Get Started with PyTorch
一个开源的机器学习框架,加速了从研究原型到生产部署的路径。!pip install torch -i https://pypi.tuna.tsinghua.edu.cn/simple import torch import numpy as np Basics 就像Tensorflow一样,我们也将继续在PyTorch中玩转Tensors。 从数据(列表)中…
-
(三) Keras Mnist分类程序以及改用交叉熵对比
视频学习来源 https://www.bilibili.com/video/av40787141?from=search&seid=17003307842787199553 笔记 Mnist分类程序 import numpy as np from keras.datasets import mnist #将会从网络下载mnist数据集 from ke…
-
(一) Keras 一元线性回归
视频学习来源 https://www.bilibili.com/video/av40787141?from=search&seid=17003307842787199553 笔记 环境为 anaconda + python3.7 Keras 线性回归 import keras from keras.layers import Dense from …
-
(四) Keras Dropout和正则化的使用
视频学习来源 https://www.bilibili.com/video/av40787141?from=search&seid=17003307842787199553 笔记 使用dropout是要改善过拟合,将训练和测试的准确率差距变小 训练集,测试集结果相比差距较大时,过拟合状态 使用dropout后,每一周期准确率可能不高反而最后一步提升很…
-
(五) Keras Adam优化器以及CNN应用于手写识别
视频学习来源 https://www.bilibili.com/video/av40787141?from=search&seid=17003307842787199553 笔记 Adam,常用优化器之一 大多数情况下,adma速度较快,达到较优值迭代周期较少, 一般比SGD效果好 CNN应用于手写识别 import numpy as np from…
-
(六) Keras 模型保存和RNN简单应用
视频学习来源 https://www.bilibili.com/video/av40787141?from=search&seid=17003307842787199553 笔记 RNN用于图像识别并不是很好 模型保存(结构和参数) 1 需要安装h5py pip install h5py 2在代码最后一行 model.save(‘model.h5’)…
-
怎么查看keras 或者 tensorflow 正在使用的GPU
查看keras认得到的GPU from keras import backend as K K.tensorflow_backend._get_available_gpus() Out[28]: [‘/job:localhost/replica:0/task:0/device:GPU:0’] 查看更详细device信息 from tensorflow.p…
-
keras_8_优化器 Optimizers
1. 优化器的使用 优化器(optimizer)是编译Keras模型的所需的两个参数之一: from keras import optimizers model = Sequential() model.add(Dense(64, kernel_initializer=’uniform’, input_shape=(10,))) model.add(Acti…