深度学习
-
吴恩达《深度学习》第一课第四周编程作业（多层神经网络）
参考链接：https://blog.csdn.net/u013733326/article/details/79767169 搭建多层神经网络步骤： 1、初始化 2、前向传播 (1)线性部分 (2)激活部分 3、计算代价（判断有没有学习） 4、反向传播 （1）线性部分 （2）激活部分 5、更新参数 6、预测 # coding=utf-8 # …
-
吴恩达《深度学习》第一课第二周编程作业（具有神经网络思维的逻辑回归）
参考大佬的博客https://blog.csdn.net/u013733326/article/details/79639509 代码： # coding=utf-8 # This is a sample Python script. # Press ⌃R to execute it or replace it with your code. # Press…
-
吴恩达《深度学习》第四课第一周编程作业
参考链接：https://blog.csdn.net/u013733326/article/details/80086090 大致了解卷积神经网络的实现细节，具体实现的时候直接调用相关库函数就行 # coding=utf-8 # This is a sample Python script. # Press ⌃R to execute it or repla…
-
深度学习的二阶优化进展
最近看深度学习二阶优化方面的工作，顺便做一些整理。以下内容翻译自 “Xiaoxin et al., He Large-Scale Deep Learning Optimizations: A Comprehensive Survey, 2021″(https://arxiv.org/abs/2111.00856) 深度学习的优化在理论和经验上主要由一阶梯…
-
一文详解深度学习中的Normalization
一、 深度学习中的 Internal Covariate Shift（ICS） 深度学习的训练过程可以看成很多层的叠加，而每一层的参数更新会导致下一层输入数据的分布发生变化，通过层层累加，高层的输入分布变化会非常剧烈导致上层的数据需要不断去变化以适应底层参数的更新。因此学习率，初始化权重等超参数的设置对模型的收敛非常重要，从而导致训练困难。总结下来，每个神经…
-
深度学习word embedding猜测性别初探
根据用户的一些特征数据，如果能推测出用户的性别借此提高产品的服务质量、广告的精准性等都是极好的。 机器学习方法有很多，而且一般都可以达到不错的效果，比如svm或神经网络等。 本文使用的代码参考——《TensorFlow练习18: 根据姓名判断性别》 但原文代码已经无法直接跑起来，对于最新的TensorFlow需要酌情调整部分参数和函数名等，根据报错调整即可…
-
深度学习概述
在人工智能的早期，那些对人类智力来说非常困难、但对计算机来说相对简单的问题得到迅速解决，比如，那些可以通过一系列形式化的数学规则来描述的问题。人工智能真正的挑战在于解决那些对人来说很容易执行、但很难形式化描述的任务，如识别人们所说的话或图像中的脸。对于这些问题，我们人类往往可以凭借直觉简易地解决。 抽象和形式化的任务对人类而言是最困难的脑力任务之一，但对计算…
-
怎样提高深度学习的效果？
怎么让深度学习模型获得更好的效果？这个是一直有人问我的问题，或者可以这么问？ 我怎么提高正确率？或者为什么我的深度神经网络效果这么差？我经常这样回复“”我给不出确切的答案，但是我能给你一些建议“” 下面我将列一些我认为会对提升学习效果有效的一些建议。我将这些想法mark到下面，这些想法不仅仅对深度学习有用，而且对机器学习同样有效。 提升学习算法性能的四个建议…
-
实战深度学习OpenCV(三)：视频实时canny边缘检测
#include <stdio.h> #include”opencv2/opencv.hpp” using namespace cv; int main() { VideoCapture a(0); Mat edge; while (1) { Mat frame; a >> frame; cvtColor(frame,edge,CV_…
-
深度学习和控制有关系吗
hinton的论文只下载过一篇，而且没有深入看。但是这两年没少听和看各种机器学习的报告和教程。 我觉得最好的两套教程就是andrew和复旦的吴老师这两个了。 机器学习本身就是从人工智能脱出的子学科。机器学习要学的内容挺多的。第一次接触直到现在很多概念都是印象，比如加窗，紧支，rbf, cnn, fnn, dl, bp, hopfield, svm等等。主要是…
