第04讲感知器( Perceptron) zoujiangapublic. wh. hb.cn
第04讲 感知器(Perceptron) zoujiang@public.wh.hb.cn 邹江
感知器是由美国计算机科学家罗森布拉特 F. Roseblatt)于1957年提出的。 单层感知器神经元模型图 ②” 图4.1感知器神经元模型
感知器是由美国计算机科学家罗森布拉特 (F.Roseblatt)于1957年提出的。 单层感知器神经元模型图: 图4.1 感知器神经元模型
F. Roseblattt经证明,如果两类模式是线性可分 的(指存在一个超平面将它们分开),则算法 定收敛。 感知器特别适用于简单的模式分类问题,也可用 于基于模式分类的学习控制中 本节中所说的感知器是指单层的感知器。多层网 络因为要用到后面将要介绍的反向传播法进行 权值修正,所以把它们均归类为反向传播网络 之中
F.Roseblatt已经证明,如果两类模式是线性可分 的(指存在一个超平面将它们分开),则算法 一定收敛。 感知器特别适用于简单的模式分类问题,也可用 于基于模式分类的学习控制中。 本节中所说的感知器是指单层的感知器。多层网 络因为要用到后面将要介绍的反向传播法进行 权值修正,所以把它们均归类为反向传播网络 之中
4.1感知器的网络结构 W N sEr B 根据网络结构,可以写出第i个输出神经元(i=1,2,…, s)的加权输入和n及其输出a为: n1=∑wnP a;=∫(n1+b)
4.1 感知器的网络结构 根据网络结构,可以写出第i个输出神经元(i=1,2,…, s)的加权输入和ni及其输出ai为:
感知器的输出值是通过测试加权输入和值落在阈 值函数的左右来进行分类的,即有 1n;+b;>0 0n2+b;<0 阈值激活函数如图4.3所示 -b
感知器的输出值是通过测试加权输入和值落在阈 值函数的左右来进行分类的,即有: 阈值激活函数如图4.3所示
4.2感知器的图形解释 由感知器的网络结构,我们可以看出感知器的基 本功能是将输入矢量转化成0或1的输出。这 功能可以通过在输人矢量空间里的作图来加以 解释 1n;+b>0 0n:+b.<0 感知器权值参数的设计目的,就是根据学习法 则设计一条W*P+b=0的轨迹,使其对输入矢 量能够达到期望位置的划分
4.2 感知器的图形解释 由感知器的网络结构,我们可以看出感知器的基 本功能是将输入矢量转化成0或1的输出。这一 功能可以通过在输人矢量空间里的作图来加以 解释。 感知器权值参数的设计目的,就是根据学习法 则设计一条W*P+b=0的轨迹,使其对输入矢 量能够达到期望位置的划分
以输入矢量r=2为例,对于选定的权值w1、w2和b, 可以在以p1和p2分别作为横、纵坐标的输入平面内画出 W*P+b=w1p1十w2P2十b=0的轨迹,它是一条直线, 此直线上的及其线以上部分的所有p1、p2值均使w1p1 十w2p2,十b>0,这些点若通过由w1、W2和b构成的感知 器则使其输出为1;该直线以下部分的点则使感知器的 输出为0。 所以当采用感知器对不同的输入矢量进行期望输出 为0或1的分类时,其问题可转化为:对于已知输入矢 量在输入空间形成的不同点的位置,设计感知器的权 值W和b,将由W*P+b=0的直线放置在适当的位置上 使输入矢量按期望输出值进行上下分类
以输入矢量r=2为例,对于选定的权值w1、w2和b, 可以在以p1和p2分别作为横、纵坐标的输入平面内画出 W*P+b=w1 p1十w2 p2十b=0的轨迹,它是一条直线, 此直线上的及其线以上部分的所有p1、p2值均使w1 p1 十w2 p2十b>0,这些点若通过由w1、w2和b构成的感知 器则使其输出为1;该直线以下部分的点则使感知器的 输出为0。 所以当采用感知器对不同的输入矢量进行期望输出 为0或1的分类时,其问题可转化为:对于已知输入矢 量在输入空间形成的不同点的位置,设计感知器的权 值W和b,将由W*P+b=0的直线放置在适当的位置上 使输入矢量按期望输出值进行上下分类
wP+6>0 WP+b=0 b/w P+b<0 b/u 2 图4.4输入矢量平面图(此图横坐标有问题)
图4.4 输入矢量平面图(此图横坐标有问题)
4.3感知器的学习规则 学习规则是用来计算新的权值矩阵W及新 的偏差B的算法 感知器利用其学习规则来调整网络的权值, 以便使该网络对输人矢量的响应达到数 值为0或1的目标输出。 输入矢量P,输出矢量A,目标矢量为T的 感知器网络,其学习规则为:
4.3 感知器的学习规则 学习规则是用来计算新的权值矩阵W及新 的偏差B的算法。 感知器利用其学习规则来调整网络的权值, 以便使该网络对输人矢量的响应达到数 值为0或1的目标输出。 输入矢量P,输出矢量A,目标矢量为T的 感知器网络,其学习规则为:
◆如果第i个神经元的输出是正确的,即有:a;=t 那么与第个神经元联接的权值w和偏差值b保 持不变; ◆如果第i个神经元的输出是0,但期望输出为1, 即有a:=0,而t=1,此时权值修正算法为:新 的权值w为旧的权值w;加上输人矢量p;类似 的,新的偏差b为旧偏差b加上它的输入1 如果第i个神经元的输出为1,但期望输出为0, 即有a:=1,而t=0,此时权值修正算法为:新 的权值w等于旧的权值w减去输入矢量p;类 似的,新的偏差b为旧偏差b减去1 感知器学习规则的实质为:权值的变化量等于正 负输入矢量
如果第i个神经元的输出是正确的,即有:ai =t i, 那么与第i个神经元联接的权值wij和偏差值bi保 持不变; 如果第i个神经元的输出是0,但期望输出为1, 即有ai =0,而t i =1,此时权值修正算法为:新 的权值wij为旧的权值wij加上输人矢量pj;类似 的,新的偏差bi为旧偏差bi加上它的输入1; 如果第i个神经元的输出为1,但期望输出为0, 即有ai =1,而t i =0,此时权值修正算法为:新 的权值wij等于旧的权值wij减去输入矢量pj;类 似的,新的偏差bi为旧偏差bi减去1。 感知器学习规则的实质为:权值的变化量等于正 负输入矢量