突触动力学川:有监督的学习 本章内容: 一、预备知识 二、有监督的函数估计 三、监督学习就是有效的训练 四、已知类隶属度的监督学习 五、感知器、MLS和BP算法
突触动力学Ⅱ:有监督的学习 本章内容: 一、预备知识 二、有监督的函数估计 三、监督学习就是有效的训练 四、已知类隶属度的监督学习 五、感知器、MLS和BP算法
、预备知识(1) 1、生物神经元模型 神经元是脑组织的基本单元,人 脑是由大约140多亿个神经元组成的巨系 统。神经元的结构如下图所示: 来自其他神经轴 突的神经末梢 神经末梢 树突 細胞体 轴突 突触 生物神经元
一、预备知识(1) 1、生物神经元模型 神经元是脑组织的基本单元,人 脑是由大约140多亿个神经元组成的巨系 统。神经元的结构如下图所示:
、预备知识(2) 2、神经元的突触 突触是两个细胞之间连接的基本单元, 每个细胞约有103一104个突触。突触主 要有两种连接方式: 一是一个神经细胞的轴突与另一个神经细 胞的树突发生接触; 二是一个神经细胞的轴突与另一个神经细 胞的胞体接触
一、预备知识(2) 2、神经元的突触: 突触是两个细胞之间连接的基本单元, 每个细胞约有 个突触。突触主 要有两种连接方式: 一是一个神经细胞的轴突与另一个神经细 胞的树突发生接触; 二是一个神经细胞的轴突与另一个神经细 胞的胞体接触。 3 4 10 −10
、预备知识(3) 突触有两种类型 兴奋型和抑制型。 突触的界面具有脉冲/电位信号转换功 能,它能将沿神经纤维传递的等幅、恒 宽、编码的离散脉冲信号,转换为细胞 膜可以处理的连续电位信号
一、预备知识(3) 突触有两种类型: 兴奋型和抑制型。 突触的界面具有脉冲/电位信号转换功 能,它能将沿神经纤维传递的等幅、恒 宽、编码的离散脉冲信号,转换为细胞 膜可以处理的连续电位信号
、预备知识(4) 3、突触动力学 突触能够传递神经冲动。树突从四方 收集由其它神经细胞传来的信息,信息 流由树突出发,经过细胞体,然后由轴 突输出。信息传递在突触处主要是发生 化学和电的变化,从而对神经细胞产生 一个兴奋或抑制的动力
一、预备知识(4) 3、突触动力学: 突触能够传递神经冲动。树突从四方 收集由其它神经细胞传来的信息,信息 流由树突出发,经过细胞体,然后由轴 突输出。信息传递在突触处主要是发生 化学和电的变化,从而对神经细胞产生 一个兴奋或抑制的动力
、预备知识(5) 4、人工神经网络的分类: 人工神经网络的分类有多种方法,但通 常采用如下分类: 按网络结构分为:前馈网络和反馈网络; 按学习方式分为:监督学习和非监督学习, 也叫有导师学习和无导师学习。 本章主要论述前馈网络的监督学习算法
一、预备知识(5) 4、人工神经网络的分类: 人工神经网络的分类有多种方法,但通 常采用如下分类: 按网络结构分为:前馈网络和反馈网络; 按学习方式分为:监督学习和非监督学习, 也叫有导师学习和无导师学习。 本章主要论述前馈网络的监督学习算法
、预备知识(6) 5、什么是学习? 学习就是对信息进行编码,其目的就是通过向有 限个例子(训练样本)的学习来找到隐藏在例子背后 (即产生这些例子)的规律(如函数形式)。 当样本数据改变系统参数时,系统会对这些改 变进行自适应或自组织的学习,在神经网络中表现为 突触的改变。 按突触修正假说,神经网络在拓扑结构固定时, 其学习归结为连接权的变化。 所以,对固定拓扑的神经网络,学习就是求权值, 即突触矩阵
一、预备知识(6) 5、什么是学习? 学习就是对信息进行编码,其目的就是通过向有 限个例子(训练样本)的学习来找到隐藏在例子背后 (即产生这些例子)的规律(如函数形式)。 当样本数据改变系统参数时,系统会对这些改 变进行自适应或自组织的学习,在神经网络中表现为 突触的改变。 按突触修正假说,神经网络在拓扑结构固定时, 其学习归结为连接权的变化。 所以,对固定拓扑的神经网络,学习就是求权值, 即突触矩阵