机器学习
-
机器学习中的损失函数(二) 回归问题的损失函数
参考链接:http://baijiahao.baidu.com/s?id=1603857666277651546&wfr=spider&for=pc 1. 平方损失函数:MSE- L2 Loss $$MSE = \sum_{i = 1}^n (y_i – \hat{y_i})^2 \tag1$$ 平方损失函数是光滑函数,能够用梯度下降法进行优…
-
机器学习的12条核心知识
机器学习算法可以通过学习就可以弄清楚如何去执行一些重要的任务。在手动编程不可行的情况下,这种方法通常既可行又经济有效。随着可获取的数据在逐步增多,越来越多更加复杂的问题可以用机器学习来解决。事实上,机器学习已经被广泛的运用到计算机以及一些其他领域。然而,开发出成功的机器学习应用需要大量的“black art”,这些内容是很难在教科书中找到的。 我最近读了华盛…
-
软件——机器学习与Python,聚类,K——means
K-means是一种聚类算法: 这里运用k-means进行31个城市的分类 城市的数据保存在city.txt文件中,内容如下: BJ,2959.19,730.79,749.41,513.34,467.87,1141.82,478.42,457.64TianJin,2459.77,495.47,697.33,302.87,284.19,735.97,570.…
-
机器学习作业(三)多类别分类与神经网络——Python(numpy)实现
题目太长了!下载地址【传送门】 第1题 简述:识别图片上的数字。 1 import numpy as np 2 import scipy.io as scio 3 import matplotlib.pyplot as plt 4 import scipy.optimize as op 5 6 #显示图片数据 7 def displayData(X): 8 …
-
机器学习笔记(一)基本概念与单变量线性回归
机器学习算法分类 传统机器学习算法主要包括以下五类: 回归:建立一个回归方程来预测目标值,用于连续型分布预测 分类:给定大量带标签的数据,计算出未知标签样本的标签取值 聚类:将不带标签的数据根据距离聚集成不同的簇,每一簇数据有共同的特征 关联分析:计算出数据之间的频繁项集合 降维:原高维空间中的数据点映射到低维度的空间中 (1)线性回归:找到一条直线来预测…
-
机器学习作业(四)神经网络参数的拟合——Matlab实现
题目下载【传送门】 题目简述:识别图片中的数字,训练该模型,求参数θ。 第1步:读取数据文件: %% Setup the parameters you will use for this exercise input_layer_size = 400; % 20×20 Input Images of Digits hidden_layer_size = 25…
-
机器学习作业(四)神经网络参数的拟合——Python(numpy)实现
题目下载【传送门】 题目简述:识别图片中的数字,训练该模型,求参数θ。 出现了一个问题:虽然训练的模型能够有很好的预测准确率,但是使用minimize函数时候始终无法成功,无论设计的迭代次数有多大,如下图: 1 import numpy as np 2 import scipy.io as scio 3 import matplotlib.pyplot …
-
Coursera 吴恩达 机器学习 学习笔记
Week 1 机器学习笔记(一)基本概念与单变量线性回归 Week 2 机器学习笔记(二)多元线性回归 机器学习作业(一)线性回归——Matlab实现 机器学习作业(一)线性回归——Python(numpy)实现 Week 3 机器学习笔记(三)逻辑回归 机器学习作业(二)逻辑回归——Matlab实现 机器学习作业(二)逻辑回归——Python(nu…
-
机器学习作业(一)线性回归——Python(numpy)实现
题目太长啦!文档下载【传送门】 第1题 简述:设计一个5*5的单位矩阵。 1 import numpy as np 2 A = np.eye(5) 3 print(A) 运行结果: 第2题 简述:实现单变量线性回归。 1 import numpy as np 2 import matplotlib.pyplot as plt 3 from mpl_t…
-
机器学习中 margin loss 、hinge loss 和 ramp loss 的区别
对分类问题,设 \(y\in\{-1, 1\}\), \(\mathop{sign}(f(x))\) 代表分类器, 定义 \(z = yf(x)\) 为 margin 值。一般来说, margin loss function 代表只需输入 margin 值即可输出 loss 的 function. 也即 \(\ell: \mathbb R \to \math…