7.6PCA特征提取方法与K-L变换 7.6PCA特征提取方法与KL变换 口KL变换的产生矩阵 口PCA的问题 ■数据集K={x}的KL变换的产生矩阵由数据的 ■由于用样本协方差矩阵代替协方差矩阵，主分量 二阶统计量决定，即K-L坐标系的基向量为某种 与训练数据有着很大关系，用一批训练数据得到 基于数据x的二阶统计量的产生矩阵的特征向量。 的主成分，可能不反映其另外一批数据的特征。 ■KL变换的产生矩阵可以有多种选择： 口x的相关函数矩阵R=E[xx: 口x的协方差矩阵C=E[(x-u)(K-μ)门 口样本总类内离散度矩阵： ,=会2，=E[-,-,].Go 7.6PCA特征提取方法与K-L变换 7.6PCA特征提取方法与KL变换 口非监督的KL特征提取 口K-L变换在人脸识别中的应用一Eigenface ■训练样本的类别未知，无法定义可分离性指标 ■简介，详细内容阅读教材ch9.9 。可用方差作衡量指标一选择或提取总体未知样本 方差越大，越有利于分类 人脸数据库 ■可用总体协方差矩阵作为KL产生矩阵： E-容m种m宫： 口把特征值从大到小排序22≥…之。，选前m 个对应的特征向量组成特征提取器→在均方误差 意义下，用m<n维对n维样本空间的最佳表示。 7.6PCA特征提取方法与K-L变换 7.6PCA特征提取方法与KL变换 口KL变换在人脸识别中的应用一Eigenface 口K-L变换在人脸识别中的应用一Eigenface ,Tmk&Pentland1991年提出 ■把原图像表示成“特征脸的线性组合（即特征脸 一本质上与CA.KIT变换没有区别 空间中的点)； ,基本思想 一任意输入图像可以表示为若干特任验”的线性组合 ■按照特征值从大到小排序，并从前向后取对应的 线性组合的系数反映了该人脸的特性—被用作~人龄特证 “特征脸”，即构成对原图像的最佳的降维表示。 y=Wix:x=Wy X输入图像，y变换后的特征，W变换矩阵通过计算训练样本协方差 矩阵的特征分解来得到 The oniginal face and the recovered face31 7.6 PCA 特征提取方法与K-L变换  K-L 变换的产生矩阵  数据集 KN={xi } 的 K-L 变换的产生矩阵由数据的 二阶统计量决定，即 K-L 坐标系的基向量为某种 基于数据 x 的二阶统计量的产生矩阵的特征向量。  K-L 变换的产生矩阵可以有多种选择：  x 的相关函数矩阵 R=E[xxT]；  x 的协方差矩阵 C=E[(x-μ) (x-μ)T]； 样本总类内离散度矩阵： 1 , E ( )( ) , . c T w ii i i i i i S P           Σ Σ x μ x μ x 32 7.6 PCA 特征提取方法与K-L变换  PCA 的问题  由于用样本协方差矩阵代替协方差矩阵，主分量 与训练数据有着很大关系，用一批训练数据得到 的主成分，可能不反映其另外一批数据的特征。 33 7.6 PCA 特征提取方法与K-L变换  非监督的 K-L 特征提取  训练样本的类别未知，无法定义可分离性指标；  可用方差作衡量指标  选择或提取总体未知样本 方差越大，越有利于分类。  可用总体协方差矩阵作为 K-L 产生矩阵： 把特征值从大到小排序 选前 m 个对应的特征向量组成特征提取器  在均方误差 意义下，用 m<n 维对 n 维样本空间的最佳表示。  其中  ；       N i i N i T i i N 1 N 1 1 ( )( ) , 1 Σ x m x m m x 1 2 ,      n 34 7.6 PCA 特征提取方法与K-L变换  K-L 变换在人脸识别中的应用 — Eigenface  简介，详细内容阅读教材 ch9.9. 人脸数据库 35 7.6 PCA 特征提取方法与K-L变换  K-L 变换在人脸识别中的应用 — Eigenface 36 7.6 PCA 特征提取方法与K-L变换  K-L 变换在人脸识别中的应用 — Eigenface  把原图像表示成“特征脸”的线性组合（即特征脸 空间中的点）；  按照特征值从大到小排序，并从前向后取对应的 “特征脸”，即构成对原图像的最佳的降维表示