.472 智能系统学报 第7卷 MDS)[6通过保持数据点间的相似性实现降维；局 a≥0，i=1,2,…,W 部线性嵌入(locally linear embedding,LLE)[利用 式中：K(x,x:)为窗宽为8的核函数，a:(i=1,2, 稀疏矩阵算法实现降维；拉普拉斯特征映射(Lapla- …,N)为系数.其中，核函数K必须满足： cian eigenmap)[8]利用谱技术实现降维；典型相关分 1)K(t)≥0； 析(canonical correlation analysis,CCA)9]利用综合 变量对之间的关系来反映2组指标之间的整体相关 2)K,(t)dt=1. 性；局部保持投影(locally preserving projections,. 常用的核函数有： LPP)[10通过保持原始特征空间内在的局部几何结 1)Gaussian核函数K(x,y)=exp(-‖x 构实现降维， y‖2/282)，参数6>0. 在实际应用中，针对不同的应用场合，本课题组 2)多项式核函数K(x,y)=(x'y+c),c和d 提出若干改进算法：皋军等I利用Fisher准则中的 为参数.当c=1且d=0时，K(x,y)=x「y.此时多项 类内散度重新构造势支撑向量机的目标函数，提出 式核为线性核 广义势支撑特征选择方法(generalized potential sup- 3)Sigmoid核函数.K(x,y)）=tanh(b(ry)+c), port features selection method,GPSFM),该方法具有 b(xy)>0,且c<0. 冗余度低、选择速度快等优点；王晓明等2]针对监 督的局部保持投影算法在小样本情况下矩阵的奇异 4)Epancbnikov核函数K(x）=名(1- 性问题，提出广义的局部保留投影算法(generalized su- pervised locality preserving projection,GSLPP),该方法 ),1xl≤1，d为参数。 2 有效地解决了小样本问题；王超等)提出有局部保持 Sigmoid核函数在特定参数下与Gaussian核函 的最大间距准则特征提取方法，该方法能使投影后的 数具有近似性能；多项式核函数参数较多，不易确 样本具有最大类间散度和最小类内散度，在解决小样 定，且当阶数d较高时运算可能出现溢出.因此本文 本问题的同时更好地保持人脸图像的局部流形结构. 重点关注Gaussian核函数和Epanechnikov核函数， 上述特征降维方法主要从空间几何和降维误差 它们均为最小均方差意义下的最优核函数.通过合 角度进行研究.从空间几何角度看，特征提取实质上 理的参数选择，它们可用于任意分布的数据 是根据一定规则最优化缩小特征空间的过程；从降 维误差角度看，特征提取的目的是保证降维前后数 2 Parzen窗与LPP 据的偏差尽可能小.目前大多数特征提取方法重点 大多数特征提取方法主要从空间几何和降维误 关注几何性质和降维误差，而对于降维过程中数据 差角度进行研究，而对于降维过程中数据分布特征 分布特征的变化往往重视不够.鉴于此，本文引入 的变化则关注不够.本文从降维过程中数据分布特 Parzen窗核密度估计表征数据的分布特征，通过分 征的变化入手，基于广泛使用的Parzen窗核密度估 析降维过程中数据分布特征的变化，揭示Parzen窗 计方法，通过探讨Parzen窗估计与典型特征提取方 估计与典型特征提取方法LPP、LDA和PCA之间的 法LPP、LDA和PCA之间的关系，进而说明这些特 关系，从而说明这些特征提取方法可统一在Parzen 征提取方法可统一在Parzen窗框架下进行研究.本 窗框架下进行研究，为特征提取方法的研究提供了 节首先讨论Parzen窗与LPP之间的关系 一个新的视角 设有样本X=[x12…xw]ER"xW,其中 1 Parzen窗 x(i=1,2,…,N)eRw表示第i个样本，N表示样 本总数 在统计学和其他相关领域，核密度估计备受关 2.1 LPP 注.Parzen、Silverman、.Rosenble等是当前主流的核密 度估计方法4.Parzen窗法具有优良性能5，因而被 LPP16在保持样本局部流形结构不变的基础上 广泛使用.本文采用Parzen窗表征数据的分布形状. 实现特征提取，即在高维空间的邻近样本点在低维 Parzen窗定义为 空间的相对关系保持不变.算法流程如下： 1)创建邻接图.如果样本点x:和￡满足 p(x)=∑aK(x,x)， ‖x-x‖2<e,则将两点相连； 2)计算权值.权值计算公式为 8.t. ,a=1, S=exp(-‖x-x‖2/e)