深度学习

1、处理数据：避免原数据被感染，将原数据copy，标记缺失值，用热力图，去掉多余的字段 2、清洗数据：copy处理的数据，然后进行删除字段和删除重复的字段 3、划分测试、训练集：copy 测试集和训练集，再给缺失的值里面填充中位数、众数 处理数据 1 #求补集（对应索引不一致的数据） 2 ls = [“tom”,”name”,3] 3 ls2 = [7,”n…

【原创 深度学习与TensorFlow 动手实践系列 – 4】第四课：卷积神经网络 – 高级篇           提纲： 1. AlexNet：现代神经网络起源 2. VGG：AlexNet增强版 3. GoogleNet：多维度识别 4. ResNet：机器超越人类识别 5. DeepFace：结构化图片的特殊处理 6. U-Net：图片生成网络 7. …

最近一直在研究机器学习，看过两本机器学习的书，然后又看到深度学习，对深度学习产生了浓厚的兴趣，希望短时间内可以做到深度学习的入门和实践，因此写一个深度学习系列吧，通过实践来掌握《深度学习》和 TensorFlow，希望做成一个系列出来，加油！   学习内容包括了： 1. 小象学院的《深度学习》课程 2. TensorFlow的官方教程 3. 互联网上跟深度学…

  【原创 深度学习与TensorFlow 动手实践系列 – 3】第三课：卷积神经网络 – 基础篇       提纲： 1. 链式反向梯度传到 2. 卷积神经网络 – 卷积层 3. 卷积神经网络 – 功能层 4. 实例：卷积神经网络MNIST分类     期待目标： 1. 清楚神经网络优化原理，掌握反向传播计算。 2. 掌握卷积神经网络卷积层的结构特点，关键…

现如今，卷积神经网络在人工智能领域应用的广泛性及重要性可谓是不言而喻。为了让大家对卷积的类型有一个清晰明了的认识，我快速概述了几种不同类型的二维卷积及其好处。     卷积(Convolutions)   首先，我们需要就定义卷积层的几个参数。   图1 二维卷积、内核大小为3、步幅为1   内核大小：内核大小定义了卷积的视野。二维的常见选择是3——即3×3…

SGD Momentum RMSprop Adam SGD \(g_t=\nabla_{\theta_{t-1}}{f(\theta_{t-1})}\) \(\Delta{\theta_t}=-\eta*g_t\)其中，\(\eta\)是学习率，\(g_t\)是梯度 SGD完全依赖于当前batch的梯度，所以\(\eta\)可理解为允许当前batch的梯度多…

Dubbo框架的一些特性 分层架构–Dubbo采用分层架构。Dubbo框架整体上氛围了业务层（business）、RPC层和远程调用层（Remoting），其中业务层提供API，让使用者方便地发布与引用服务；RPC层则是对服务注册与发现、服务代理、路由、负载均衡等功能的封装，该层有可以被划分为很多层；远程调用层则是对网络传输与请求数据序列/反序列化等的抽象…

今天我给大家带来一篇来自谷歌的文章，众所周知，谷歌是全世界最有情怀，最讲究技术的公司，比我们天朝的莆田广告商良心多了。还有就是前段时间的最强大脑，莆田广告商的那个小机器，也就忽悠忽悠行外人了，懂的人深深知道。感觉自己就是黑子，当然，最强大脑节目组本身就是演员。 传统的进行人脸识别的模型一般都是这样：          但是现在我们要换个思路了，facenet…

在前面的文章中对hasLayout有过介绍，其实个人理解，对于haslayout和block formating context它们有许多的共同点，甚至可以说它们是相同的功能的不同说法（这句话就鉴定）。下面是对一些术语的简介。 haslayout：’Layout’ 是 IE 的专有概念，它决定了元素如何对其内容进行定位和尺寸计算，与其他元素的关系和相互作用，…

以前理解的模型蒸馏就是模型“提纯”，这样说太宽泛了，应该说 蒸馏是“提纯”的一种手段而已。 知识蒸馏具体指：让小模型去学到大模型的知识。通俗的说，让student模型的输出接近(拟合)teacher模型的输出。知识蒸馏的重点在于拟合二字，即我们要定义一个方法去衡量student模型和teacher模型的接近程度，说白了就是损失函数。必备元素为：教师模型、学生…