第1期 陈阳，等：仿生模式识别技术研究与应用进展 5 权值通过样本来确定，一个多权值神经元在特征空 是一个神经元，而多个几何体的并或交可看成是多 间中形成的覆盖区域是依据多个权值矢量共同作用 个神经元构成的神经网络。从这个意义上看，神经 形成的复杂几何形体。因此，多权值神经元覆盖的 网络方法和高维形象几何方法是相通的。杨国为 空间状况是由样本决定的。以三权值神经网络进行 等]采用高维空间点分布分析方法，给出从数学上 人脸身份确认，在误识率为0的情况下，正确识别率 证明了找到满意的几何覆盖形体的方法。王宪保 达到96%，实验结果也显示，增加网络规模可提高 等[]运用高维空间几何理论和流形学习理论，在不 识别效果。多权值神经元网络用在非特定人语音识 需要限定流形维数的情况下，研究了具体实现训练 别中1]，每个词汇的训练样本数量为30个的情况 样本的覆盖方法及测试样本的识别方法，并对覆盖 下，已训练词汇的误识率仅为1.48%，未训练词汇的 维数以及与识别性能之间的关系进行了分析：并将 误识率为13.29%，而同条件下HMM方法的误识率 该实现方法应用在语音识别中，取得比传统的HMM 为89.24%，远高于仿生模式识别方法。王宪保等[】 和最近邻法（零维覆盖）都要高的识别率。实验还 使用了两种不同结构的神经元来构造一个三层神经 表明，提出的方法对未学习人的语音样本的正确识 网络，该网络可实现一维流形覆盖：由于网络的参数 别率提高更显著：随着覆盖维数的增加，样本的识别 是根据样本直接计算得到，网络不存在迭代时间及 率也逐渐提高，但提高幅度逐渐变小：由于点到覆盖 收敛性问题：网络的规模也是由样本数量决定的，不 体距离的计算是个递归的过程，随着维数的增加，计 存在隐层节点数选择难题。邱立达等19)将改进蚁 算量呈级数的增长，综合考虑识别率和识别时间，本 群算法引入仿生模式识别的神经网络构造当中，并 文认为二维覆盖是合适的选择。另外，Cao Wenming 选取超球作为覆盖几何体。该算法通过设计目标函 等6,2]系统研究了仿生模式识别的几何代数方法， 数、转移概率公式以及信息素更新算法等方法，算出 还研究了多光谱图像的仿生模式识别理论和方 神经网络中覆盖几何体的最优参数：算法还引入调 法25.26 节因子α：α越大，单个神经元的体积越小、神经元 2.3重叠空间中样本的归属判别 数量越多，算法构造的网络的复杂度也就越高、识别 武妍等[列研究发现实际情况中，仿生模式识别 率越高：反之，α越小，单个神经元的体积越大、神经 为了提高识别率而增大阈值或训练样本增加时，不 元数量越少，算法构造的网络的复杂度也就越低，识 可避免地出现空间重叠。为了解决处于重叠空间中 别率越低。在实际应用中可通过调整α的取值来 的未知样本的归属问题，文献提出了适当增大阈值 平衡网络的性能和复杂度，以满足不同需要。胡静 以及允许大样本情况下的空间重叠，在出现空间重 等[20]基于神经网络模块化编程思想，提出了一种实 叠的情况下，采用相对子空间划分的决策方法(rela- 现仿生模式识别的三层前向神经网络结构设计准 tive division of overlapping space based biomimetic 则，即：采用单隐节点层结构，网络的输入层与隐节 pattern recognition,RDBPR),即通过计算重叠空间 点层的连接方式为全连接，将隐节点层划分为C个 中样本到各个特征子空间的距离，得到距离相对最 子节点组，且各个子节点组只与其相应的输出层节 小的类别并将其归类。RDBPR方法能够在不增加 点相连接。其中C为学习样本的“基元素”数目，实 误识率的基础上，提高对处于重叠空间中样本的识 验比较了严格按照该准则设计的网络与未按照该准 别能力，从而提高最终识别率。文献的实验结果表 则设计的网络在交通标识符形状识别中的效果，隐 明，在训练样本数量较少的情况下，即空间覆盖的几 节点分组时，网络收敛次数更多、识别率更高且训练 何形体体积较小时，与BPR(biomimetic pattern rec- 时间更少，识别速度更快。其他神经覆盖方法研 ognition)相比，RDBPR未显示出明显的优势；但随 究2]提出的类高斯混合模型的神经元覆盖方法，王 着训练样本数量增加，在保持较高的稳定性和不显 改良等]利用动态聚类的方法寻找到每个覆盖区 著增加误识率的前提下，RDBPR比BPR的识别率 中心，然后用多权值神经元进行覆盖等。 更优。丁杰等]给出了通过计算基于类条件的后 从高维形象几何的观点出发，研究采用多个简 验概率对样本进行相对区别的判别规则，依据待识 单几何体进行局部覆盖，再通过对简单几何体合并 别样本与各类别子空间的相对距离做置信评估，根 或相交的方法，可实现对复杂几何体的覆盖。实际 据各类模式散布计算后验概率，实现因空间重叠造 上，从广义神经网络的角度看，简单几何体可以看成 成拒识的样本的相对划分，提高识别率。权值通过样本来确定，一个多权值神经元在特征空 间中形成的覆盖区域是依据多个权值矢量共同作用 形成的复杂几何形体。 因此，多权值神经元覆盖的 空间状况是由样本决定的。 以三权值神经网络进行 人脸身份确认，在误识率为 ０ 的情况下，正确识别率 达到 ９６％，实验结果也显示，增加网络规模可提高 识别效果。 多权值神经元网络用在非特定人语音识 别中［１８］ ，每个词汇的训练样本数量为 ３０ 个的情况 下，已训练词汇的误识率仅为 １．４８％，未训练词汇的 误识率为 １３．２９％，而同条件下 ＨＭＭ 方法的误识率 为８９．２４％，远高于仿生模式识别方法。 王宪保等［８］ 使用了两种不同结构的神经元来构造一个三层神经 网络，该网络可实现一维流形覆盖；由于网络的参数 是根据样本直接计算得到，网络不存在迭代时间及 收敛性问题；网络的规模也是由样本数量决定的，不 存在隐层节点数选择难题。 邱立达等［１９］ 将改进蚁 群算法引入仿生模式识别的神经网络构造当中，并 选取超球作为覆盖几何体。 该算法通过设计目标函 数、转移概率公式以及信息素更新算法等方法，算出 神经网络中覆盖几何体的最优参数；算法还引入调 节因子 α：α 越大，单个神经元的体积越小、神经元 数量越多，算法构造的网络的复杂度也就越高、识别 率越高；反之，α 越小，单个神经元的体积越大、神经 元数量越少，算法构造的网络的复杂度也就越低，识 别率越低。 在实际应用中可通过调整 α 的取值来 平衡网络的性能和复杂度，以满足不同需要。 胡静 等［２０］基于神经网络模块化编程思想，提出了一种实 现仿生模式识别的三层前向神经网络结构设计准 则，即：采用单隐节点层结构，网络的输入层与隐节 点层的连接方式为全连接，将隐节点层划分为 Ｃ 个 子节点组，且各个子节点组只与其相应的输出层节 点相连接。 其中 Ｃ 为学习样本的“基元素”数目，实 验比较了严格按照该准则设计的网络与未按照该准 则设计的网络在交通标识符形状识别中的效果，隐 节点分组时，网络收敛次数更多、识别率更高且训练 时间更少，识别速度更快。 其他神经覆盖方法研 究［２１］提出的类高斯混合模型的神经元覆盖方法，王 改良等［２２］利用动态聚类的方法寻找到每个覆盖区 中心，然后用多权值神经元进行覆盖等。 从高维形象几何的观点出发，研究采用多个简 单几何体进行局部覆盖，再通过对简单几何体合并 或相交的方法，可实现对复杂几何体的覆盖。 实际 上，从广义神经网络的角度看，简单几何体可以看成 是一个神经元，而多个几何体的并或交可看成是多 个神经元构成的神经网络。 从这个意义上看，神经 网络方法和高维形象几何方法是相通的。 杨国为 等［２３］采用高维空间点分布分析方法，给出从数学上 证明了找到满意的几何覆盖形体的方法。 王宪保 等［１３］运用高维空间几何理论和流形学习理论，在不 需要限定流形维数的情况下，研究了具体实现训练 样本的覆盖方法及测试样本的识别方法，并对覆盖 维数以及与识别性能之间的关系进行了分析；并将 该实现方法应用在语音识别中，取得比传统的 ＨＭＭ 和最近邻法（零维覆盖）都要高的识别率。 实验还 表明，提出的方法对未学习人的语音样本的正确识 别率提高更显著；随着覆盖维数的增加，样本的识别 率也逐渐提高，但提高幅度逐渐变小；由于点到覆盖 体距离的计算是个递归的过程，随着维数的增加，计 算量呈级数的增长，综合考虑识别率和识别时间，本 文认为二维覆盖是合适的选择。 另外，Ｃａｏ Ｗｅｎｍｉｎｇ 等［６，２４］系统研究了仿生模式识别的几何代数方法， 还研究了多光谱图像的仿生模式识别理论和方 法［２５⁃２６］ 。 ２．３ 重叠空间中样本的归属判别 武妍等［２７］研究发现实际情况中，仿生模式识别 为了提高识别率而增大阈值或训练样本增加时，不 可避免地出现空间重叠。 为了解决处于重叠空间中 的未知样本的归属问题，文献提出了适当增大阈值 以及允许大样本情况下的空间重叠，在出现空间重 叠的情况下，采用相对子空间划分的决策方法（ｒｅｌａ⁃ ｔｉｖｅ ｄｉｖｉｓｉｏｎ ｏｆ ｏｖｅｒｌａｐｐｉｎｇ ｓｐａｃｅ ｂａｓｅｄ ｂｉｏｍｉｍｅｔｉｃ ｐａｔｔｅｒｎ ｒｅｃｏｇｎｉｔｉｏｎ，ＲＤＢＰＲ），即通过计算重叠空间 中样本到各个特征子空间的距离，得到距离相对最 小的类别并将其归类。 ＲＤＢＰＲ 方法能够在不增加 误识率的基础上，提高对处于重叠空间中样本的识 别能力，从而提高最终识别率。 文献的实验结果表 明，在训练样本数量较少的情况下，即空间覆盖的几 何形体体积较小时，与 ＢＰＲ（ ｂｉｏｍｉｍｅｔｉｃ ｐａｔｔｅｒｎ ｒｅｃ⁃ ｏｇｎｉｔｉｏｎ）相比，ＲＤＢＰＲ 未显示出明显的优势；但随 着训练样本数量增加，在保持较高的稳定性和不显 著增加误识率的前提下，ＲＤＢＰＲ 比 ＢＰＲ 的识别率 更优。 丁杰等［２８］ 给出了通过计算基于类条件的后 验概率对样本进行相对区别的判别规则，依据待识 别样本与各类别子空间的相对距离做置信评估，根 据各类模式散布计算后验概率，实现因空间重叠造 成拒识的样本的相对划分，提高识别率。 第 １ 期 陈阳，等：仿生模式识别技术研究与应用进展 ·５·