Vol.29 Suppl.2 袁立等：基于人脸和人耳的多模态生物特征识别 191 可能分开，而同一类别内的样本尽量密集，最终以原 核Fisher鉴别分析算法首先通过一个非线性映 始样本在投影矩阵wp的投影作为鉴别特征进行识 射Φ，将输入样本映射到一个高维的特征空间F 别 中，即：Φ：R→F,x→Φ(x) Fisher准则函数定义为： 这时输入的训练样本由原来的x变成Φ(x), IwT Spwl 然后在这个特征空间F中进行线性Fisher鉴别分 J(wop)-arg max IwT s.wl (1) 析，即在特征空间F中求解以下问题： 式中，S为类间离散度矩阵，它定义为： l(w9TSs”w (5) F之(u-w(w-)T 5 J(w)=ag职ar1（prs”w1 (2) 式中S为在特征空间F中的类间离散度，即： S。为类内离散度，它定义为： s-白(--r (3) =1=1 s为在特征空间F中的类内离散度，即： 式中，C为类别数，N:为C:类的样本数，u为所有 样本的均值向量，为C:类样本的均值向量，x为 (Φ(x)-u”)((x)月-”)T C:类中的第j个样本向量， 式中C为类别数，N:为C:类的样本数，“”为在特 因为Fisher准则函数是关于矩阵S和Sw的 征空间F中所有样本的均值，“”为在特征空间F 广义Rayleigh商，因此根据广义Rayleigh商的极值 中C:类样本的均值，Φ(x)为在特征空间F中C: 性质，在类内离散度矩阵Sw非奇异的情况下，wpt 类中的第j个样本， 实际上就是满足如下等式的解山 因为特征空间F的维数很高，进行通常的运算 SW:=入SwW:（i=1,2,,m) (4) 不可能，所以为了能够在特征空间F中实现线性 也就是对应于矩阵SS较大的特征值入的特征 Fisher鉴别分析，可以利用内积核函数来隐含地进 向量 行运算，即： 但是，在人耳的实际识别过程中存在着小样本 K(x,y)=(x)(y) (6) 问题，即训练样本数小于一幅人耳图像的像素点数， 也就是说，特征空间F中的两个向量Φ(x)和 故其类内离散度矩阵S。总为奇异矩阵，而无法利 Φ(y)的点积可以由x和y的内积来代替 用广义特征值方程来求解广义Rayleigh商的极值问 因此，可以利用核函数和上一部分介绍的改进 题，所以，本文采用了一种改进的基于全空间的线 的全空间线性Fisher鉴别分析算法来直接求解特征 性Fisher鉴别分析算法来求解最优的投影矩阵 空间F中的最优投影矩阵wP wpt·由文献[12]知：这种基于Fisher准则的算法的 其具体的算法步骤如下： 有效鉴别信息都存在于Sw的零空间与S的非零 ()计算特征空间F中训练样本X”在其总离 空间的交集以及S.的非零空间这两个子空间中， 散度S”的非零空间9上的投影Y,因为 所以，本文提出的改进算法首先利用PCA算法原理 去掉S的零空间与S的零空间的交集，然后再在 S- 22(g-(-= =1=1 此基础上分别计算S的零空间与S.的非零空间 Φ”（ΦT (7) 的交集以及S.的非零空间这两个子空间中的有效 Φ=span((x)-w”),…,(Φ(x)f-w)} 鉴别信息，最后再将这两个子空间中的有效鉴别信 (8) 息组合成最终用于鉴别的特征向量 所以根据线性代数理论，上述投影Y可以通过 2 核Fisher鉴别分析算法 如下方法求解得到计算（Φ）T”的非零特征值所 对应的特征向量V,其中()T用核函数可以 核Fisher鉴别分析算法的思想是：首先通过一 表示为： 个非线性映射，将输入样本映射到一个高维的特征 空间中，然后在这个特征空间中再进行线性Fisher 鉴别分析，找出使得类间离散度最大而类内离散度 最小的投影空间， (9)可能分开‚而同一类别内的样本尽量密集‚最终以原 始样本在投影矩阵 wopt的投影作为鉴别特征进行识 别． Fisher 准则函数定义为： J（wopt）＝arg max w ｜w T Sb w｜ ｜w T Sw w｜ （1） 式中‚Sb 为类间离散度矩阵‚它定义为： Sb＝ ∑ C i＝1 （ ui— u）（ ui— u） T （2） Sw 为类内离散度‚它定义为： Sw＝ ∑ C i＝1 ∑ Ni j＝1 （ x i j— ui）（ x i j— ui） T （3） 式中‚C 为类别数‚Ni 为 Ci 类的样本数‚u 为所有 样本的均值向量‚ui 为 Ci 类样本的均值向量‚x i j 为 Ci 类中的第 j 个样本向量． 因为 Fisher 准则函数是关于矩阵 Sb 和 Sw 的 广义 Rayleigh 商‚因此根据广义 Rayleigh 商的极值 性质‚在类内离散度矩阵 Sw 非奇异的情况下‚wopt 实际上就是满足如下等式的解［11］ Sb Wi＝λiSw Wi （ i＝1‚2‚…‚m） （4） 也就是对应于矩阵 S —1 w Sb 较大的特征值 λi 的特征 向量． 但是‚在人耳的实际识别过程中存在着小样本 问题‚即训练样本数小于一幅人耳图像的像素点数‚ 故其类内离散度矩阵 Sw 总为奇异矩阵‚而无法利 用广义特征值方程来求解广义 Rayleigh 商的极值问 题．所以‚本文采用了一种改进的基于全空间的线 性 Fisher 鉴别分析算法来求解最优的投影矩阵 wopt．由文献［12］知：这种基于 Fisher 准则的算法的 有效鉴别信息都存在于 Sw 的零空间与 Sb 的非零 空间的交集以及 Sw 的非零空间这两个子空间中． 所以‚本文提出的改进算法首先利用 PCA 算法原理 去掉 Sw 的零空间与 Sb 的零空间的交集‚然后再在 此基础上分别计算 Sw 的零空间与 Sb 的非零空间 的交集以及 Sw 的非零空间这两个子空间中的有效 鉴别信息‚最后再将这两个子空间中的有效鉴别信 息组合成最终用于鉴别的特征向量． 2 核 Fisher 鉴别分析算法 核 Fisher 鉴别分析算法的思想是：首先通过一 个非线性映射‚将输入样本映射到一个高维的特征 空间中‚然后在这个特征空间中再进行线性 Fisher 鉴别分析‚找出使得类间离散度最大而类内离散度 最小的投影空间． 核Fisher 鉴别分析算法首先通过一个非线性映 射 Φ‚将输入样本映射到一个高维的特征空间 F 中‚即：Φ：R n→F‚x→Φ（ x）． 这时输入的训练样本由原来的 x 变成 Φ（ x）‚ 然后在这个特征空间 F 中进行线性 Fisher 鉴别分 析‚即在特征空间 F 中求解以下问题： J（w Φ opt）＝argmax w Φ ｜（w Φ ） T S Φ b w Φ｜ ｜（w Φ ） T S Φ w w Φ｜ （5） 式中 S Φ b 为在特征空间 F 中的类间离散度‚即： S Φ b ＝ ∑ C i＝1 （ u Φ i — u Ф ）（ u Φ i — u Φ ） T S Φ w 为在特征空间 F 中的类内离散度‚即： S Φ w＝ ∑ C i＝1 ∑ Ni j＝1 （Φ（ x） i j — u Φ i ）（Φ（ x） i j — u Φ i ） T 式中 C 为类别数‚Ni 为 Ci 类的样本数‚u Φ 为在特 征空间 F 中所有样本的均值‚u Φ i 为在特征空间 F 中 Ci 类样本的均值‚Φ（ x） i j 为在特征空间 F 中 Ci 类中的第 j 个样本． 因为特征空间 F 的维数很高‚进行通常的运算 不可能‚所以为了能够在特征空间 F 中实现线性 Fisher 鉴别分析‚可以利用内积核函数来隐含地进 行运算‚即： K（ x‚y）＝Φ（ x）·Φ（y） （6） 也就是说‚特征空间 F 中的两个向量 Φ（ x）和 Φ（y）的点积可以由 x 和 y 的内积来代替． 因此‚可以利用核函数和上一部分介绍的改进 的全空间线性Fisher 鉴别分析算法来直接求解特征 空间 F 中的最优投影矩阵 w Φ opt． 其具体的算法步骤如下： （1）计算特征空间 F 中训练样本 X Φ 在其总离 散度 S Φ t 的非零空间φ上的投影 Y‚因为 S Φ t ＝ ∑ C i＝1 ∑ Ni j＝1 （Φ（ x） i j — u Φ）（Φ（ x） i j — u Φ） T＝ Φ Φ t （Φ Φ t ） T （7） Φ Φ t ＝span｛（Φ（ x） l l — u Φ ）‚…‚（Φ（ x） C Ni— u Φ ）｝ （8） 所以根据线性代数理论‚上述投影 Y 可以通过 如下方法求解得到计算（ΦΦ t ） T ΦΦ t 的非零特征值所 对应的特征向量 Vt‚其中（ΦΦ t ） T ΦΦ t 用核函数可以 表示为： （ΦΦ t ） T ΦΦ t ＝ 1 N K— 1 N （ K·IN× N＋ IN× N·K）＋ 1 N 2·IN× N·K·IN× N （9） Vol．29Suppl．2 袁 立等： 基于人脸和人耳的多模态生物特征识别 ·191·