人工神经网络及其应用 第2讲神经网络基础知识 何建华 电信系,华中科技大学 2003年2月21日
人工神经网络及其应用 第2讲 神经网络基础知识 何建华 电信系,华中科技大学 2003年2月21日
内容安排 生物神经元 人工神经网络结构 神经网络基本学习算法
内容安排 一、生物神经元 二、人工神经网络结构 三、神经网络基本学习算法
-、生物神经元 ◆生物神经元 ◆突触信息处理 ◆信息传递功能与特点
一、生物神经元 生物神经元 突触信息处理 信息传递功能与特点
1.1生物神经元 ◆神经元是大脑处理信息的基本单元 ◆人脑大约由101个神经元组成,神经元互 相连接成神经网络 ◆神经元以细胞体为主体,由许多向周围延 伸的不规则树枝状纤维构成的神经细胞, 其形状很像一棵枯树的枝干 ◆主要由细胞体、树突、轴突和突触 ( Synapse,又称神经键)组成
1.1 生物神经元 神经元是大脑处理信息的基本单元 人脑大约由1011个神经元组成,神经元互 相连接成神经网络 神经元以细胞体为主体,由许多向周围延 伸的不规则树枝状纤维构成的神经细胞, 其形状很像一棵枯树的枝干 主要由细胞体、树突、轴突和突触 (Synapse,又称神经键)组成
来自其他神经元轴突神经末梢 突触 突触 细胞体 轴突 细胞核 神经末梢 树突 生物神经元示意图
生物神经元示意图
1.2突触的信息处理 生物神经元传递信息的过程为多输入、单输出 ◆神经元各组成部分的功能来看,信息的处理与 传递主要发生在突触附近 ◆当神经元细胞体通过轴突传到突触前膜的脉冲 幅度达到一定强度,即超过其阈值电位后,突 触前膜将向突触间隙释放神经传递的化学物质 ◆突触有两种类型,兴奋性突触和抑制性突触。 前者产生正突触后电位,后者产生负突触后电 位
1.2 突触的信息处理 生物神经元传递信息的过程为多输入、单输出 神经元各组成部分的功能来看,信息的处理与 传递主要发生在突触附近 当神经元细胞体通过轴突传到突触前膜的脉冲 幅度达到一定强度,即超过其阈值电位后,突 触前膜将向突触间隙释放神经传递的化学物质 突触有两种类型,兴奋性突触和抑制性突触。 前者产生正突触后电位,后者产生负突触后电 位
1.3信息传递功能与特点 ◆具有时空整合能力 ◆不可逆性,脉冲只从突触前传到突触后,不逆 向传递 ◆神经纤维传导的速度,即脉冲沿神经纤维传递 的速度,在1-150m/s之间 ◆信息传递时延和不应期,一般为03~ms ◆可塑性,突触传递信息的强度是可变的,即具 有学习功能 ◆存在学习、遗忘或疲劳(饱和)效应 对应突触传递作用增强、减弱和饱和
1.3 信息传递功能与特点 具有时空整合能力 不可逆性,脉冲只从突触前传到突触后,不逆 向传递 神经纤维传导的速度,即脉冲沿神经纤维传递 的速度,在1—150m/s之间 信息传递时延和不应期,一般为0.3~lms 可塑性,突触传递信息的强度是可变的,即具 有学习功能 存在学习、遗忘或疲劳(饱和)效应 – 对应突触传递作用增强、减弱和饱和
二、人工神经网络结构 ◆人工神经网络 ◆人工神经元模型 ◆常见响应函数 ◆人工神经网络典型结构
二、人工神经网络结构 人工神经网络 人工神经元模型 常见响应函数 人工神经网络典型结构
Q21人工神经网络 ◆直观理解 神经网络是一个并行和分布式的信息处理网 络结构 它一般由大量神经元组成 每个神经元只有一个输出,可以连接到很多其他 的神经元 每个神经元输入有多个连接通道,每个连接通道 对应于一个连接权系数
2.1 人工神经网络 直观理解 – 神经网络是一个并行和分布式的信息处理网 络结构 – 它一般由大量神经元组成 • 每个神经元只有一个输出,可以连接到很多其他 的神经元 • 每个神经元输入有多个连接通道,每个连接通道 对应于一个连接权系数
22人工神经元模型 ◆通用模型x1。1 x2o22 2(e v》 ◆求和操作 0 N ◆响应函数 y=0(s)
通用模型 求和操作 响应函数 2.2 人工神经元模型