8.1人工神经元 8.1人工神经元 口神经元模型(Neuron Model) 口神经网络示意困 ■多输入、单输出，带偏置； Layer 1 Layer 2 ■R个输入P,ER,即R维输 入向量P时 Input Neuron w Vector Input ■：网络输入，n=Wp+b DR个权值w,ER,即n维 af a 输入向量W: 口阀值b; ■输出：a=fWp+b) a=fWp+b) ai -fi(+bi) =P(LWa+b的 a1a (LWiza:+b) 口∫一输出/传递/激活函数. a:-D (Lwef (L.Wafl (TWup +bo)eh:)b) 8.1.1常用的输出函数 8.2神经网络的学习方法 口阙值函数 口神经网络的学习：从环境中获取知识并改进自身 性能，主要指调节网络参数使网络达到某种度 f(n)=hardlim(n)= 1(x≥0) 0(x<0) 量，又称为网络的训练； Hard-Lmit Functon 口学习方式： Purelin Transfer Function ■监督学习 f(n)=n ☑ ■非监督学习 ■再励学习 Sigmoid Function 口学习规则(learning rule): ■Hebb学习算法 1 f(n)= I+e-ri ■误差纠正学习算法 ■竞争学习算法 11 8.2.1学习方式 8.2.1学习方式 口监督学习 口非监督学习：不存在教 ■对训练样本集中的每一组输入能提供一组目标输 师，网络根据外部数据的 输入 出； 统计规律来调节系统参 环境 神经网络 ■网络根据目标输出与实际输出的误差信号来调节 数，以使网络输出能反映 网络参数。 数据的某种特性； t(n) 教师 期望输出 口再励学习：外部环境对网 输出 络输出只给出评价信息而 输入 非正确答案，网络通过强 环境 神经网络 实际输出 轴入 环境 化受奖励的动作来改善自 评价信息 神经网络 a(n) 比较 身的性能； p(n】 误差信号 e(n)7 8.1 人工神经元  神经元模型 (Neuron Model)  多输入、单输出，带偏置；  R 个输入 pi ∈R，即 R 维输 入向量 p；  n：网络输入，n=W·p + b  R 个权值 wi ∈R，即 n 维 输入向量 W； 阈值 b；  输出：a = f(W·p + b)  f — 输出/传递/激活函数。 8 8.1 人工神经元  神经网络示意图 9 8.1.1 常用的输出函数  阈值函数  Purelin Transfer Function  Sigmoid Function 1 ( 0) ( ) hardlim( ) ; 0 ( 0) x fn n x        f () ; n n  1 () ; 1 n f n e    10 8.2 神经网络的学习方法  神经网络的学习：从环境中获取知识并改进自身 性能，主要指调节网络参数使网络达到某种度 量，又称为网络的训练；  学习方式：  监督学习  非监督学习  再励学习  学习规则 (learning rule)：  Hebb 学习算法  误差纠正学习算法  竞争学习算法 11 8.2.1 学习方式  监督学习  对训练样本集中的每一组输入能提供一组目标输 出；  网络根据目标输出与实际输出的误差信号来调节 网络参数。 教师 环境 神经网络 比较 实际输出 输入 期望输出 误差信号 p(n) t(n) a(n) e(n) 12 8.2.1 学习方式  非监督学习：不存在教 师，网络根据外部数据的 统计规律来调节系统参 数，以使网络输出能反映 数据的某种特性；  再励学习：外部环境对网 络输出只给出评价信息而 非正确答案，网络通过强 化受奖励的动作来改善自 身的性能； 环境 神经网络 输入 环境 神经网络 输入 输出 评价信息