总的类内散度矩阵为 S=∑P(2) ∑(x-m9)(x-my) 类间散度矩阵 第i个类别和第j个类别之间的散度矩阵定义为: 总的类间散度矩阵可以定义为 P( P(9)2P(9)m0-m)m9-m) 令:m为总体均值,m=∑P(92,)m0,则有 P(2)(m9-m)( 3.总体散度矩阵 总体散度矩阵可以定义为: S=∑(x-m)X-m) 其中N为总的样本数,N=∑N。可以证明:S=S+SB 可以看出三个散度矩阵均为实对称矩阵 上面我们所定义的判据:(X)=(X)=t(S)=t(S+SB)。m表示取一个矩 阵的迹,也就是主对角线元素之和,N维方阵A的迹为:t(A)=∑an 同样我们可以利用三个散度矩阵定义出一系列的可分性判据 J,=tr(SwB tr (SB)46 总的类内散度矩阵为: ( ) ( ) ( ) ( ) ( ) ( ) ( ) ( ) ( ) 1 1 1 1 M M Ni T i i i i i w i w i k k i i k i S P S P = = = N = = − − X m X m 2. 类间散度矩阵 第 i 个类别和第 j 个类别之间的散度矩阵定义为: ( ) ( ) ( ) ( ) ( ) ( ) ( ) T ij i j i j B S = − − m m m m 总的类间散度矩阵可以定义为: ( ) ( ) ( ) ( ) ( ) ( ) ( ) ( ) ( ) ( ) ( ) 1 1 1 1 1 1 2 2 M M M M ij i j i j B i j B i i i j i j S P P S P P = = = = = = − − m m m m 令: m 为总体均值, ( ) ( ) 1 M i i i P = m m = ,则有: ( ) ( ) ( ) ( ) ( ) 1 M T i i B i i S P = = − − m m m m 3. 总体散度矩阵 总体散度矩阵可以定义为: ( )( ) 1 1 N T T l l l S N = = − − X m X m 其中 N 为总的样本数, 1 M i i N N = = 。可以证明: T W B S S S = + 。 可以看出三个散度矩阵均为实对称矩阵。 上面我们所定义的判据: Jd (X) = J S S S d T W B (X) = = + tr tr ( ) ( ) 。 tr 表示取一个矩 阵的迹,也就是主对角线元素之和, N 维方阵 的迹为: ( ) 1 tr N ii i a = = 同样我们可以利用三个散度矩阵定义出一系列的可分性判据: ( ) 1 1 tr W B J S S − = 2 B W S J S = ( ) ( ) 3 tr tr B W S J S = 4 T W S J S =