这几天围绕论文A Neural Probability Language Model 看了一些周边资料,如神经网络、梯度下降算法,然后顺便又延伸温习了一下线性代数、概率论以及求导。总的来说,学到不少知识。下面是一些笔记概要。 一、 神经网络 神经网络我之前听过无数次,但是没有正儿八经研究过。形象一点来说,神经网络就是人们模仿生物神经元…
“”” 此代码是针对手写字体的训练:将图片按行依次输入网络中训练 RNN网络相对于LSTM网络很难收敛 “”” import torch from torch import nn from torch.autograd import Variable import torchvision.datasets as dsets import torchvisio…