人工智能
-
[pytorch][模型压缩] 通道裁剪后的模型设计——以MobileNet和ResNet为例
说明 模型裁剪可分为两种,一种是稀疏化裁剪,裁剪的粒度为值级别,一种是结构化裁剪,最常用的是通道裁剪。通道裁剪是减少输出特征图的通道数,对应的权值是卷积核的个数。 问题 通常模型裁剪的三个步骤是:1. 判断网络中不重要的通道 2. 删减掉不重要的通道(一般不会立即删,加mask等到评测时才开始删) 3. 将模型导出,然后进行finetue恢复精度。 步骤1,…
-
TensorFlow2.0教程-使用keras训练模型
1.一般的模型构造、训练、测试流程 1 # 模型构造 2 inputs = keras.Input(shape=(784,), name=\’mnist_input\’) 3 h1 = layers.Dense(64, activation=\’relu\’)(inputs) 4 h1 = layers.Dense(64, activation=\’relu…
-
Keras函数式 API
用Keras定义网络模型有两种方式, Sequential 顺序模型 Keras 函数式 API模型 之前我们介绍了Sequential顺序模型,今天我们来接触一下 Keras 的函数式API模型。 from keras.layers import Input, Dense from keras.models import Model # 这部分返回一个张量…
-
Keras的安装与配置
Keras是由Python编写的基于Tensorflow或Theano的一个高层神经网络API。具有高度模块化,极简,可扩充等特性。能够实现简易和快速的原型设计,支持CNN和RNN或者两者的结合,可以无缝切换CPU和GPU。本文主要整理了如何安装和配置Keras。我使用的Python版本是2.7.13(Anaconda)。 具体安装步骤: 1.卸载机器上…
-
python+keras实现语音识别
科大讯飞:https://www.iflytek.com/ 版权声明:本文为CSDN博主「南方朗郎」的原创文章,遵循 CC 4.0 BY-SA 版权协议,转载请附上原文出处链接及本声明。原文链接:https://blog.csdn.net/sunshuai_coder/article/details/83658625 仅做笔记,未实验 市面上语音识别技术原理…
-
Reducing and Profiling GPU Memory Usage in Keras with TensorFlow Backend
keras 自适应分配显存 & 清理不用的变量释放 GPU 显存 Intro Are you running out of GPU memory when using keras or tensorflow deep learning models, but only some of the time? Are you curious about…
-
tf.keras自定义损失函数
自定义损失函数 In statistics, the Huber loss is a loss function used in robust regression, that is less sensitive to outliers in data than the squared error loss. A variant for classifica…
-
Keras函数式API介绍
参考文献:Géron, Aurélien. Hands-On Machine Learning with Scikit-Learn, Keras, and TensorFlow: Concepts, Tools, and Techniques to Build Intelligent Systems. O’Reilly Media, 2019. Keras的…
-
keras——经典模型之LeNet5 实现手写字识别
经典论文:Gradient-Based Learning Applied to Document Recognition 参考博文:https://blog.csdn.net/weixin_44344462/article/details/89212507 构建LeNet-5模型 #定义LeNet5网络 深度为1的灰度图像 def LeNet5(x_trai…
-
用于NLP的CNN架构搬运:from keras0.x to keras2.x
本文亮点:将用于自然语言处理的CNN架构,从keras0.3.3搬运到了keras2.x,强行练习了Sequential+Model的混合使用,具体来说,是Model里嵌套了Sequential。本文背景:暑假在做一个推荐系统的小项目,老师让我们搜集推荐系统领域Top5的算法和模型,要求结合深度学习。我和小伙伴选择了其中的两篇文献深入研究,我负责跑通文献Co…