本文不涉及深度学习，感觉目前深度学习几乎可以独立出机器学习单出一个学科了。于是这里的笔记仅仅狭义地总结一些论文所引用的一些技巧和概念。
知乎上大神们似乎认为，子空间学习是高维空间向低维空间投影的降维。https://www.zhihu.com/question/26908926
而小样本学习，知乎的大神们又有说可以用few shot learning 和 meta learning https://www.zhihu.com/question/264240892
再就是稀疏表达的意义 https://www.zhihu.com/question/26602796
于是找到了LASSO的提出者的主页 https://statweb.stanford.edu/~tibs/teaching.html
多源头数据融合https://blog.csdn.net/together_cz/article/details/78236489
本站文章如无特殊说明，均为本站原创，如若转载，请注明出处：关于机器学习中的几个概念 - Python技术站
学习率是深度学习中的一个重要超参数，选择合适的学习率能够帮助模型更好地收敛。 本文主要介绍深度学习训练过程中的6种学习率衰减策略以及相应的Pytorch实现。 1. StepLR 按固定的训练epoch数进行学习率衰减。 举例说明： # lr = 0.05 if epoch < 30 # lr = 0.005 if 30 <= epoch <…
一个菜鸡对数论的一点点理解… 莫比乌斯函数 定义函数\(\mu(n)\)为： 当n有平方因子时，\(\mu(n)=0\)。 当n没有平方因子时，\(\mu(n)=(-1)^{\omega(n)}\)，\(\omega(n)\)表示n不同质因子的个数。 性质1： \(\sum_{d|n}\mu(d)=[n=1]\) 证明：我们把n分解质因数，则原式\(=(…
1. 导读 本节内容介绍普通RNN的弊端，从而引入各种变体RNN，主要讲述GRU与LSTM的工作原理。事先声明，本人采用ng在课堂上所使用的符号系统，与某些学术文献上的命名有所不同，不过核心思想都是相同的。 2. 普通RNN的弊端 在NLP中，句子内部以及句子之间可能存在很长的依赖关系（long-term dependecies），最前边的单词对句子后面的单…
4.1 基于贝叶斯决策理论的分类方法 朴素贝叶斯 优点：在数据较少的情况下仍然有效，可以处理多类别问题 缺点：对于输入数据的准备方式较为敏感 适用数据类型：标称型数据 贝叶斯决策理论的核心思想：选择具有最高概率的决策。 4.2 条件概率 4.3 使用条件概率来分类 4.4 使用朴素贝叶斯进行文档分类 朴素贝叶斯的一般过程： 1.收…
背景 之前热门的目标检测方法都是two stage的，即分为region proposal和classification两个阶段，本文是对one stage方法的初次探索。 方法 首先看一下模型的网络结构，输入的原图片，经过24个卷积层提取特征，全连接层输出一个7*7*30的tensor，这个tensor里面就包含我们预测的结果了。 那…
不多说，直接上干货！ 特征选择里，常见的有：VectorSlicer(向量选择) RFormula(R模型公式) ChiSqSelector(卡方特征选择)。 VectorSlicer用于从原来的特征向量中切割一部分，形成新的特征向量，比如，原来的特征向量长度为10，我们希望切割其中的5~10作为新的特征向量，使用Vector…
参考 https://www.cnblogs.com/njust-ycc/p/5776286.html https://www.cnblogs.com/heately/p/7922521.html
#!/usr/bin/env pythonimport tensorflow as tffrom tensorflow.examples.tutorials.mnist import input_data# In[2]:mnist = input_data.read_data_sets(‘MNIST_data’, one_hot=True)# 每个批次的大小…
微信扫一扫 
支付宝扫一扫 