正在加载图片...
(二)教学内容 第一节反馈神经网络 1主要内容 统计语言模型、RNNs网络结构、RNNs的训练算法、RNNs中的误差沿时间轴 传播公式、RNNs的变体 2.基本概念和知识点 马尔科夫模型、独热向量、词嵌入、BPTT 3.问题与应用(能力要求) 理解时间序列处理问题,掌握RNNs网络技术。 第二节长短期记忆单元 1.主要内容 序列的长期学习难题、LSTM网络结构、LSTM的训练算法、对LSTM的理解。 从广大科研人员为克服/抑制梯度消失爆炸问题所经历的长期艰难探索谈科研人员 必须具备的若干品质。正确认识纵向科研和横向研发的辩证统一关系。 2.基本概念和知识点 长短期记忆单元、控制信息读写的门机制、LSM对梯度消失爆炸问题的抑制 3.问题与应用(能力要求) 理解长时间序列处理难题,并掌握LSTM技术。 第三节时间序列处理中的几种重要机制 1.主要内容 编码器解码器模型、注意力机制、序列自动对齐的CTC技术 2.基本概念和知识点 编码器解码器、上下文向量、注意力、序列自动对齐 3.问题与应用(能力要求) 理解长时间序列处理难题,并掌握LSTM与CTC混合解决人机自然交互难题。 具备将深度反馈网络技术解决自然语言处理、文本理解等工程问题的能力: 第四节深度反馈网络在时间序列处理中的应用8 (二)教学内容 第一节 反馈神经网络 1.主要内容 统计语言模型、RNNs 网络结构、RNNs 的训练算法、RNNs 中的误差沿时间轴 传播公式、RNNs 的变体 2.基本概念和知识点 马尔科夫模型、独热向量、词嵌入、BPTT 3.问题与应用(能力要求) 理解时间序列处理问题,掌握 RNNs 网络技术。 第二节 长短期记忆单元 1.主要内容 序列的长期学习难题、LSTM 网络结构、LSTM 的训练算法、对 LSTM 的理解。 从广大科研人员为克服/抑制梯度消失/爆炸问题所经历的长期艰难探索谈科研人员 必须具备的若干品质。正确认识纵向科研和横向研发的辩证统一关系。 2.基本概念和知识点 长短期记忆单元、控制信息读写的门机制、LSTM 对梯度消失/爆炸问题的抑制 3.问题与应用(能力要求) 理解长时间序列处理难题,并掌握 LSTM 技术。 第三节 时间序列处理中的几种重要机制 1.主要内容 编码器-解码器模型、注意力机制、序列自动对齐的 CTC 技术 2.基本概念和知识点 编码器-解码器、上下文向量、注意力、序列自动对齐 3.问题与应用(能力要求) 理解长时间序列处理难题,并掌握 LSTM 与 CTC 混合解决人机自然交互难题。 具备将深度反馈网络技术解决自然语言处理、文本理解等工程问题的能力。 第四节 深度反馈网络在时间序列处理中的应用
<<向上翻页向下翻页>>
©2008-现在 cucdc.com 高等教育资讯网 版权所有