2010/9/27 基于最小风险的贝叶斯决策 基于最小风险的贝叶斯决策 口两类别问题 口例：两类细胞识别问题：正常类和异常类 ■决策规则 ■根据已有知识和经验，两类的先验概率： 正常(o):P(o)=0.9 Decide fo,if ()P(Ix)>()P(@1x) 0,otherwise 异常(o,)：P(o)=0.1 对某一样本观察值x,通过计算或查表得到： if P(x)(2)P(@) p(xlo,)-0.2,p(xlo.)=0.4 Decide P(xo2)(-2i)P(a) ,otherwise 入1=0，入12=6，入21=1，入2=0 ■依据最小风险决策如何对细胞x进行分类？ 基于最小风险的贝叶斯决策 两种决策方法之间的关系 口解： 2a,0,)= 0,i=j 0.9×0.2 山，i≠ ，i,j=1,…,c P(a x)= 0.9x02+0.1x0.4=0.818 P(@1x) 0.4×0.1 02x0.9+0.4×0=0.182 R(a,Ix)=2(a.0,)P(@,Ix) J- Ra1国-2，PO,l)=2Pal)=1.092, P(o,1x)=1-P(o,Ix) R41国=2PO,1x)=2,Pax)=0818 min R(a,Ix)max P(o,Ix) .R(ax)>R(a x),.Decide a,xe 2 两种决策方法之间的关系 Neyman-Pearson决策 A12>入21 口两类错误率 ■令R是整个特征空间，R,是类别o1的决策域， R是类别o2的决策域：R+R2-R。 P(error)=SP(o.s+P(.)d =Jpa)P(a达+∫pxa)Pah =P(@:)Jp(xIo.)dx+P(@p(xl@)dx 。=P(e:)P(o) cision regions 0,P(oNini P(o,P.(error)P(@P(error) P()-in) 两类错误率 22010/9/27 2 7 基于最小风险的贝叶斯决策  两类别问题  决策规则 1 21 11 1 12 22 2 2 , if ( ) ( | ) ( ) ( | ) Decide , otherwise      P P       x x 12 22 2 1 2 21 11 1 2 1 ( )() , if > Decide ( )() , otherwise (| ) ( | ) P P P P                x x 8 基于最小风险的贝叶斯决策  例：两类细胞识别问题：正常类和异常类  根据已有知识和经验，两类的先验概率： 正常（ω1）： P(ω1) = 0.9 异常（ω2）： P(ω2) = 0.1 对某一样本观察值 x，通过计算或查表得到： p(x|ω1)=0.2， p(x|ω2)=0.4 λ11=0， λ12=6， λ21=1， λ22=0  依据最小风险决策如何对细胞 x 进行分类？ 9 基于最小风险的贝叶斯决策  解： 1 2 2 1 1 12 2 1 2 2 2 21 1 1 1 2 22 0.9 0.2 ( | ) 0.818, 0.9 0.2 0.1 0.4 0.4 0.1 ( | ) 0.182; 0.2 0.9 0.4 0.1 ( | ) ( | ) ( | ) 1.092, ( | ) ( | ) ( | ) 0.818; ( | ) ( | ), Decide , . j j j j j j P P R PP R PP R R                              x x x xx x xx  xx x 10 两种决策方法之间的关系 0, ( , ) , , 1, , . 1, i j i j ij c i j           1 1, ( |) ( , )( |) ( |) 1 ( |) c i ij j j c j i j ji R P P P               x x x x min ( | ) max ( | ) R P i i    x x   11 两种决策方法之间的关系 当前无法显示此图像。 (decision regions) 2 1 ( )/ ( )  a  P P   2 12 22 1 21 11 ( )( ) ( )( ) b P P           12 Neyman-Pearson 决策  两类错误率  令 R 是整个特征空间，R1 是类别ω1的决策域， R2 是类别ω2的决策域：R1 + R2= R。 1 2 1 2 1 2 2 1 2 2 11 2 21 1 2 2 11 ( ) ( ,) ( ,) (| )( ) (| )( ) ( ) (| ) ( ) (| ) ( )( ) ( )( ) R R R R R R P error P d P d p Pd p Pd P p dx P p d P P error P P error                        xx xx x xx x x xx 两类错误率