机器学习
-
机器学习：集成算法 – bagging、boosting、adaboost
不同的分类算法各有优缺点，可以将不同的分类器组合起来这种组合被称为集成方法（ensemble method）或者元算法（meta-algorithm） 使用集成方法有多种形式 ○ 可以是不同算法的集成 ○ 可以是同一算法在不同设置下的集成 ○ 可以是数据集不同部分分配给不同分类器之后的集成 bagging （Bootstrap aggregating，引导聚…
-
【udacity】机器学习-波士顿房价预测小结
Evernote Export 机器学习的运行步骤 1.导入数据 没什么注意的，成功导入数据集就可以了，打印看下数据的标准格式就行用个info和describe 2.分析数据 这里要详细分析数据的内容，看看缺省值和数据的特征，主要是为了看到数据的特征，并且人肉分析一下特征值对目标值的大约影响，嗯，就是这样然后开始划分数据，将数据分为两个部分，一个数据的特征值…
-
机器学习解决问题的方法流程
1.answer the question: Did you specify the type of data analytic question (e.g. exploration, association causality) before touching the data? 在接触数据之前，您是否指定了数据分析问题的类型(例如探究、关联因果关系)? …
-
机器学习：支持向量机
引言 支持向量机在很多地方都能遇到，主要是用于分类问题，而且简单粗暴，所以也很多人用，但对其深层次原理性的探讨至始至终看到过的资料中觉得林轩田老师讲的非常地到位，另外还有一个参考资料就是v_july_v写的SVM的三重境界，但july写的太多了，可能看起来比较吃力，所以挑选了这些文档以及课程中重要的部分组成此文 本文主要是结合台大机器学习和机…
-
机器学习算法分类以及开发流程
监督学习：特征值+目标值非监督学习：特征值 分类：目标值为离散型回归：目标值为连续型 开发流程：类似于数学建模的过程
-
机器学习面试问题整理(3) — Tree树形模型
文章目录 概述 决策树笔记 随机森林优缺点 GBDT的原理， 如何做分类和回归 GBDT分类树拟合的是什么 GBDT+ LR 是怎么做的 CART分类回归树和ID3以及C4.5有什么区别 决策树的优点和缺点 RF, GBDT, XGBOOST, XGB的区别 改变随机森林的训练样本数据量，是否会影响到随机森林学习到的模型的复杂度 树集成模型有哪几种形式？ 随…
-
机器学习面试问题整理(2) — SVM支持向量机
文章目录 概述 SVM原理及推导 SVM与随机森林比较 SVM为什么要引入拉格朗日的优化方法。 SVM原问题和对偶问题关系？ SVM在哪个地方引入的核函数, 如果用高斯核可以升到多少维? SVM怎么防止过拟合 ? SVM的目标函数。 常用的核函数。 SVM硬软间隔对偶的推导 概述 基本推导和理论还是以看李航老师的《统计学习方法》为主。各种算法的原理，推荐理解…
-
机器学习算法之多项式回归
多项式回归，采用升维的方式，把x的幂当作新的特征，再利用线性回归方法解决 import numpy as np import matplotlib.pyplot as plt x = np.random.uniform(-4,4,100) y = 0.6*x**2 + x + 2 + np.random.normal(size=100) # 单线性回…
-
机器学习：Python中如何使用最小二乘法
之所以说”使用”而不是”实现”，是因为python的相关类库已经帮我们实现了具体算法，而我们只要学会使用就可以了。随着对技术的逐渐掌握及积累，当类库中的算法已经无法满足自身需求的时候，我们也可以尝试通过自己的方式实现各种算法。 言归正传，什么是”最小二乘法”呢？ 定义：最小二乘法（又称最小平方法）是一种数学优化技术，它通过最小化误差的…
-
《机器学习》学习笔记（一）：线性回归、逻辑回归
本笔记主要记录学习《机器学习》的总结体会。如有理解不到位的地方，欢迎大家指出，我会努力改正。 在学习《机器学习》时，我主要是通过Andrew Ng教授在mooc上提供的《Machine Learning》课程，不得不说Andrew Ng老师在讲授这门课程时，真的很用心，特别是编程练习，这门课真的很nice，在此谢谢Andrew Ng老师的付出…
