神经网络和模糊系统 第五章 突触动力学川：有监督的学习 张文革 2006.11
神经网络和模糊系统 第五章 突触动力学Ⅱ：有监督的学习 张文革 2006.11
突触动力学川：有监督的学习 本章内容： 一、预备知识 二、有监督的函数估计 三、监督学习就是有效的训练 四、已知类隶属度的监督学习 五、感知器、MLS和BP算法
突触动力学Ⅱ：有监督的学习 本章内容： 一、预备知识 二、有监督的函数估计 三、监督学习就是有效的训练 四、已知类隶属度的监督学习 五、感知器、MLS和BP算法
、预备知识（1) 1、生物神经元模型 神经元是脑组织的基本单元，人 脑是由大约140多亿个神经元组成的巨系 统。神经元的结构如下图所示： 来自其他神经轴 突的神经末梢 神经末梢 树突 細胞体 轴突 突触 生物神经元
一、预备知识（1） 1、生物神经元模型 神经元是脑组织的基本单元，人 脑是由大约140多亿个神经元组成的巨系 统。神经元的结构如下图所示：
、预备知识（2) 2、神经元的突触 突触是两个细胞之间连接的基本单元， 每个细胞约有103一104个突触。突触主 要有两种连接方式： 一是一个神经细胞的轴突与另一个神经细 胞的树突发生接触； 二是一个神经细胞的轴突与另一个神经细 胞的胞体接触
一、预备知识（2） 2、神经元的突触： 突触是两个细胞之间连接的基本单元， 每个细胞约有 个突触。突触主 要有两种连接方式： 一是一个神经细胞的轴突与另一个神经细 胞的树突发生接触； 二是一个神经细胞的轴突与另一个神经细 胞的胞体接触。 3 4 10 −10
、预备知识（3) 突触有两种类型 兴奋型和抑制型。 突触的界面具有脉冲/电位信号转换功 能，它能将沿神经纤维传递的等幅、恒 宽、编码的离散脉冲信号，转换为细胞 膜可以处理的连续电位信号
一、预备知识（3） 突触有两种类型： 兴奋型和抑制型。 突触的界面具有脉冲/电位信号转换功 能，它能将沿神经纤维传递的等幅、恒 宽、编码的离散脉冲信号，转换为细胞 膜可以处理的连续电位信号
、预备知识（4) 3、突触动力学 突触能够传递神经冲动。树突从四方 收集由其它神经细胞传来的信息，信息 流由树突出发，经过细胞体，然后由轴 突输出。信息传递在突触处主要是发生 化学和电的变化，从而对神经细胞产生 一个兴奋或抑制的动力
一、预备知识（4） 3、突触动力学： 突触能够传递神经冲动。树突从四方 收集由其它神经细胞传来的信息，信息 流由树突出发，经过细胞体，然后由轴 突输出。信息传递在突触处主要是发生 化学和电的变化，从而对神经细胞产生 一个兴奋或抑制的动力
、预备知识（5) 4、人工神经网络的分类： 人工神经网络的分类有多种方法，但通 常采用如下分类： 按网络结构分为：前馈网络和反馈网络； 按学习方式分为：监督学习和非监督学习， 也叫有导师学习和无导师学习。 本章主要论述前馈网络的监督学习算法
一、预备知识（5） 4、人工神经网络的分类： 人工神经网络的分类有多种方法，但通 常采用如下分类： 按网络结构分为：前馈网络和反馈网络； 按学习方式分为：监督学习和非监督学习， 也叫有导师学习和无导师学习。 本章主要论述前馈网络的监督学习算法
、预备知识（6) 5、什么是学习？ 学习就是对信息进行编码，其目的就是通过向有 限个例子（训练样本)的学习来找到隐藏在例子背后 (即产生这些例子)的规律（如函数形式)。 当样本数据改变系统参数时，系统会对这些改 变进行自适应或自组织的学习，在神经网络中表现为 突触的改变。 按突触修正假说，神经网络在拓扑结构固定时， 其学习归结为连接权的变化。 所以，对固定拓扑的神经网络，学习就是求权值， 即突触矩阵
一、预备知识（6） 5、什么是学习？ 学习就是对信息进行编码,其目的就是通过向有 限个例子（训练样本）的学习来找到隐藏在例子背后 （即产生这些例子）的规律（如函数形式）。 当样本数据改变系统参数时，系统会对这些改 变进行自适应或自组织的学习，在神经网络中表现为 突触的改变。 按突触修正假说，神经网络在拓扑结构固定时， 其学习归结为连接权的变化。 所以，对固定拓扑的神经网络，学习就是求权值， 即突触矩阵
、预备知识(7) 6、什么是监督？ 监督就是对每一个输入Xi,都假定 我们已经知道它的期望输出Yi,这个Yi 可以理解为监督信号，也叫“教师信 号” 对每一个输入X及其对其估计的期 望输出Yi,就构成了一个训练样本
一、预备知识（7） 6、什么是监督？ 监督就是对每一个输入Xi,都假定 我们已经知道它的期望输出Yi,这个Yi 可以理解为监督信号，也叫“教师信 号” 。 对每一个输入Xi及其对其估计的期 望输出Yi，就构成了一个训练样本
一、预备知识(8) 7、学习的种类： 学习的种类有四种：死记式学习，δ 学习律，自组织的学习和Hebb i an学习律，相 近学习。 由于监督学习主要使用的是δ学习律， 所以，在此主要介绍δ学习律
一、预备知识（8） 7、学习的种类： 学习的种类有四种：死记式学习， 学习律，自组织的学习和Hebbian学习律，相 近学习。 由于监督学习主要使用的是 学习律， 所以，在此主要介绍 学习律。