面先以一种比较直观的方式来介绍一下感知器算法。 首先我们先来看一下分类界面WX=0,分类界面与权矢量W垂直,现在我们要求 W,实际上关心的是它的方向,而不是关心它的长度。其次这个分类界面是一个经过坐标 原点的超平面。如下图所示。 W(k+1 开始的时候,我们不知道w的值是多少,可以先随便设一个不全为零的初始值w(0), 这样可以得到一个初始的分类界面w(0)X=0:然后从训练样本集中拿出一个样本Y进 行训练,将Y带入到辨别函数,计算W(0)Y,如果大于等于0,说明现在的分类界面已 经能够正确分类Y,不需要任何调整,可以从训练样本集中取出下一个样本进行训练,如 果小于0,说明现在的分类界面不能够正确分类Y,需要对分类界面W(0)X=0进行调 整 所谓对分类界面进行调整,就是要调整权向量W(O),我们可以按照下面的方式进行 调整:W()=W(O)+Y,从图中可以看出来新的分类界面W(1)X=0已经能够正确分 类样本Y了。这就是感知器算法的主要思想,如果分类界面能够正确分类当前的训练样本 时,不需要对其进行调整:如果分类错误时,需要进行调整,调整后的权向量是将原来的权 向量与当前的训练样本相加得到的。 图中所表示的情况是经过一次调整,新的分类界面就可以正确分类训练样本,在某些情 况下,只经过一次调整并不一定就能够达到目的,需要多次进行调整,但是如果按照上面的 方法进行调整,总是向着好的方向发展。因为我们可以看到: W(k+l)Y=(w(k)+Y)Y=w(k)Y+Y'Y=w(k)Y+y'2W(k)Y 前面的讨论都是以一种形式化的方式给出了感知器算法的思想,下面我们从一个规范的 数学方法来推导出感知器算法。 首先我们把求解线性不等式组的问题等价为一个最优化的问题,定义一个准则函数:24 面先以一种比较直观的方式来介绍一下感知器算法。 首先我们先来看一下分类界面 0 T W X = ，分类界面与权矢量 W 垂直，现在我们要求 W ，实际上关心的是它的方向，而不是关心它的长度。其次这个分类界面是一个经过坐标 原点的超平面。如下图所示。 W(k) Y W(k+1) + - + - 开始的时候，我们不知道 W 的值是多少，可以先随便设一个不全为零的初始值 W(0) ， 这样可以得到一个初始的分类界面 (0 0 ) T W X = ；然后从训练样本集中拿出一个样本 Y 进 行训练，将 Y 带入到辨别函数，计算 (0) T W Y ，如果大于等于 0，说明现在的分类界面已 经能够正确分类 Y ，不需要任何调整，可以从训练样本集中取出下一个样本进行训练，如 果小于 0，说明现在的分类界面不能够正确分类 Y ，需要对分类界面 (0 0 ) T W X = 进行调 整。 所谓对分类界面进行调整，就是要调整权向量 W(0) ，我们可以按照下面的方式进行 调整： W W Y (1 0 ) = + ( ) ，从图中可以看出来新的分类界面 (1 0 ) T W X = 已经能够正确分 类样本 Y 了。这就是感知器算法的主要思想，如果分类界面能够正确分类当前的训练样本 时，不需要对其进行调整；如果分类错误时，需要进行调整，调整后的权向量是将原来的权 向量与当前的训练样本相加得到的。 图中所表示的情况是经过一次调整，新的分类界面就可以正确分类训练样本，在某些情 况下，只经过一次调整并不一定就能够达到目的，需要多次进行调整，但是如果按照上面的 方法进行调整，总是向着好的方向发展。因为我们可以看到： ( ) ( ( ) ) ( ) ( ) ( ) 2 1 T T T T T T W Y W Y Y W Y Y Y W Y Y W Y k k k k k + = + = + = +  前面的讨论都是以一种形式化的方式给出了感知器算法的思想，下面我们从一个规范的 数学方法来推导出感知器算法。 首先我们把求解线性不等式组的问题等价为一个最优化的问题，定义一个准则函数：