百面机器学习总结笔记（第十章 循环神经网络）

百面机器学习总结笔记

第十章 循环神经网络

百面机器学习总结笔记（第十章 循环神经网络）
场景描述
百面机器学习总结笔记（第十章 循环神经网络）
知识点
梯度消失 梯度爆炸

问题 循环神经网络为什么会出现梯度消失或者梯度爆炸？有哪些改进方案？
分析与解答
百面机器学习总结笔记（第十章 循环神经网络）
百面机器学习总结笔记（第十章 循环神经网络）
百面机器学习总结笔记（第十章 循环神经网络）

循环神经网络中的**函数

场景描述
百面机器学习总结笔记（第十章 循环神经网络）
知识点
ReLU 循环神经网络 **函数

问题 在循环神经网络中能否使用ReLU作为**函数？

分析与解答
百面机器学习总结笔记（第十章 循环神经网络）
百面机器学习总结笔记（第十章 循环神经网络）
百面机器学习总结笔记（第十章 循环神经网络）

长短期记忆网络

场景描述
百面机器学习总结笔记（第十章 循环神经网络）
知识点
LSTM 门控 **函数 双曲正切函数 Sigmoid函数

问题1 LSTM是如何实现长短期记忆功能的？

分析与解答
百面机器学习总结笔记（第十章 循环神经网络）
百面机器学习总结笔记（第十章 循环神经网络）
百面机器学习总结笔记（第十章 循环神经网络）
问题2 LSTM里各模块分别使用什么**函数，可以使用别的**函数吗？

分析与解答
百面机器学习总结笔记（第十章 循环神经网络）
百面机器学习总结笔记（第十章 循环神经网络）

Seq2Seq模型

场景描述
百面机器学习总结笔记（第十章 循环神经网络）
知识点
Seq2Seq 机器翻译 集束搜索（Beam Search）

问题1 什么是Seq2Seq模型？Seq2Seq模型有哪些优点？

分析与解答
百面机器学习总结笔记（第十章 循环神经网络）
百面机器学习总结笔记（第十章 循环神经网络）
百面机器学习总结笔记（第十章 循环神经网络）
问题2 Seq2Seq模型在解码时，有哪些常用的办法？

分析与解答
百面机器学习总结笔记（第十章 循环神经网络）
百面机器学习总结笔记（第十章 循环神经网络）
百面机器学习总结笔记（第十章 循环神经网络）

注意力机制

场景描述
百面机器学习总结笔记（第十章 循环神经网络）

知识点
注意力机制 Seq2Seq 循环神经网络

问题 Seq2Seq模型引入注意力机制是为了解决什么问题？为什么选用了双向的循环神经网络模型？

分析与解答
百面机器学习总结笔记（第十章 循环神经网络）
百面机器学习总结笔记（第十章 循环神经网络）
百面机器学习总结笔记（第十章 循环神经网络）
百面机器学习总结笔记（第十章 循环神经网络）
百面机器学习总结笔记（第十章 循环神经网络）
百面机器学习总结笔记（第十章 循环神经网络）
百面机器学习总结笔记（第十章 循环神经网络）