2010/9/29 20 正态分布&最小错误率Bayesi决策 正态分布&最小错误率Bayes决策 口线性分类器 Case1:∑i=o2T ·判别函数为线性函数或决策面为超平面： ■决策面方程： wT(x-X)=0, 其中：w=4- 62 P(@) -2,+)n,-,下hPO-,》 Figure 5:If the covariance matrices of two distributions are equal and proportional atintheeans The c bundarytherchanged 正态分布&最小错误率Bayesi决策 正态分布&最小错误率Baves决策 情况二：=l,,c 口马式距离分类器 ■几何上，具有同样概率密度函数的点的轨迹是同 ■条件：=Σ，Po)=1/c,i=1,,C 样大小和形状的超椭球面，中心由类均值μ决定。 ■判别函数：x到的马式距离的平方 ·判别函数： 9 8国=--YE---邮+ha)-gn2a 1 g(x)=y2=(x-,)Σ(x-, →&)=-2-yz-4)+hP@ 正态分有日P(a)=P@).三=E:时的决策面 正态分布&最小错误率Bayes决策 正态分布&最小错误率Bayes决策 口线性分类器 口线性分类器 ■条件：=工，各先验概率关系未知： ■决策面方程 ■判别函数： w(x-x)=0, 8,()=- -x-4,+4)+nPa) 其中：w='(μ，-b g,(x)=wx+00 1 6=24+μ)厂 ho,-, (,"Σ，-μPo 其中，w,=μ， a。=-2g+hP@ 42010/9/29 4 19 正态分布&最小错误率Bayes决策  线性分类器  判别函数为线性函数或决策面为超平面；  决策面方程： 2 0 2 0 , 1 ( ) ( ) ln ( ). 2 || || ( ) ( )0, i j i ij ij ij j T P P            w μ μ x μμ μμ μ μ wxx 其中: 20 正态分布&最小错误率Bayes决策 21 正态分布&最小错误率Bayes决策 情况二：Σi =Σ, i=1, …, c  几何上，具有同样概率密度函数的点的轨迹是同 样大小和形状的超椭球面，中心由类均值μi决定。  判别函数： 1 1 1 1 ( ) ( ) ( ) ln ln ( ) ln 2 2 22 1 ( ) ( ) ( ) ln ( ); 2 T i ii i i i T i i ii d g P g P                    x x μ x μ x x μ x μ 22 正态分布&最小错误率Bayes决策  马式距离分类器  条件： Σi =Σ, P(ωi ) = 1/c, i = 1, …, c.  判别函数：x 到μi 的马式距离的平方 2 () ( ) ( ) T i ii g     -1 x x-μ x - μ ； 23 正态分布&最小错误率Bayes决策  线性分类器  条件：Σi =Σ，各先验概率关系未知；  判别函数： 111 1 1 1 0 0 1 ( ) ( ) ln ( ) 2 ( ) , 1 ln ( ). 2 TTT T i i ii i i i i i T i T i i i i i g P g P                   x x Σ x μ Σ x x Σ μ μΣ μ x w Σ μ μΣ μ w x 其中， = 24 正态分布&最小错误率Bayes决策  线性分类器  决策面方程 1 0 0 ( ), 1 1 ( ) ( ) ln ( ). 2 ( ) ( ) () ( ) 0, i j i ij ij T ij ij j T P P            -1 w μ μ x μμ μ μ μ -μ μ -μ wxx 其中: