13 正态分布&最小错误率Bayes决策 正态分布&最小错误率Bayes/决策“ 情况二：Σ=Σ，=1，…，c,即各类协方差矩阵相等 情况二：Σ=Σ，i=1,,c,即各类协方差矩阵相等 b)各先验概率关系未知 b)线性分类器（各先验概率关系未知） ■忽略与i无关的项 ■决策面方程 g=-文-R-rA++ha) w(x-x6)=0, g(x)=wx+@o 其中：w='(,- 。=,+p厂 2a- 1 其中，w,=μ， ao=-2空p,+nP@2 ■决策面为一个过x的超平面。当P(o)=P(w山， 该超平面过（μ+μ）/2，点；当P(o)≠P(0,该 ■决策方程也是线性方程，决策面是超平面， 超平面朝远离先验概率大的方向移动。一般情况 下，该超平面不与两均值向量的连线正交。 正态分布&最小错误率Bayesz决策" 正态分布&最小错误率Bayesi决策 Case 2:= 口线性分类器小结 ■在多元正态分布的条件下，基于最小错误率贝叶 斯决策只要能做到各类别的协方差矩阵是一样 的，那么无论先验概率是否相等，都可以用线性 分界面实现. ■最小（欧氏）距离分类器则要求各正态分布的协 方差矩阵为单位阵，且各类别的先验概率相等。 the means. 正态分布&最小错误率Bayes.决策 正态分布&最小错误率Bayesa决策“ 情况三：各类的协方差矩阵不相等 情况三：各类的协方差矩阵不相等 ·判决函数为x的二次型 ■决策面方程 8,)=- -yg'-)-pl+hP@） 是敏数 x+0a =xWx+w,x+@o 面，也可能是超平面 (a)是两个超球体等密度分布-圆： 其种w= (dxd矩阵)， (b)是(a)在x,轴方向有扩展.椭圆： w,=4, (c)表示决策面为抛物面； (d维列向量)， (d与e)差别在于均值点相互关系 h P(a) 不同； (e)中出现了对称性情况，双曲线 退化成直线：13 正态分布&最小错误率Bayes决策 情况二：Σi =Σ, i=1,…,c，即各类协方差矩阵相等 b) 各先验概率关系未知  忽略与 i 无关的项  决策方程也是线性方程，决策面是超平面。 111 1 1 1 0 0 1 ( ) ( ) ln ( ) 2 ( ) , 1 ln ( ). 2 TTT T i i ii i i i i i T i T i i i i i g P g P                   x x Σ x μ Σ x x Σ μ μΣ μ x w Σ μ μΣ μ w x 其中， = 14 正态分布&最小错误率Bayes决策 情况二：Σi =Σ, i=1,…,c，即各类协方差矩阵相等 b) 线性分类器（各先验概率关系未知）  决策面方程  决策面为一个过x0的超平面。当P(ωi)＝P(ωj)， 该超平面过(μi+μj)/2点；当P(ωi)≠P(ωj)，该 超平面朝远离先验概率大的方向移动。一般情况 下，该超平面不与两均值向量的连线正交。 1 0 0 ( ), 1 1 ( ) ( ) ln ( ). 2 ( ) ( ) () ( ) 0, i j i ij ij T ij ij j T P P            -1 w μ μ x μμ μμ μ -μ μ -μ wxx 其中: 15 正态分布&最小错误率Bayes决策 16 正态分布&最小错误率Bayes决策  线性分类器小结  在多元正态分布的条件下，基于最小错误率贝叶 斯决策只要能做到各类别的协方差矩阵是一样 的，那么无论先验概率是否相等，都可以用线性 分界面实现。  最小（欧氏）距离分类器则要求各正态分布的协 方差矩阵为单位阵，且各类别的先验概率相等。 17 正态分布&最小错误率Bayes决策 情况三：各类的协方差矩阵不相等  判决函数为 x 的二次型 1 0 1 1 ( ) ( ) ( ) ln ln ( ) 2 2 T i ii i i i T T iii g P             x x μ x μ x Wx w x 1 1 1 0 1 ( ), 2 , 1 1 ln ln ( ). 2 2 i i i ii T i ii i i i d d d  P           W Σ w Σ μ μΣ μ Σ 其中, 矩阵 （ 维列向量） 18 决策面为二次超曲面：超球面、 超椭球面、超抛物面、超双曲 面，也可能是超平面。 (a)是两个超球体等密度分布-圆; (b) 是(a)在 x2 轴方向有扩展-椭圆; (c)表示决策面为抛物面; (d)与(e) 差别在于均值点相互关 系 不同; (e)中出现了对称性情况，双曲线 退化成直线; 正态分布&最小错误率Bayes决策 情况三：各类的协方差矩阵不相等  决策面方程 0 0 ( ) ( ) 0. T T i ij i j xx x WW ww      j  