2010/9/24 贝叶斯决策理论概述 贝叶斯决策理论概述 口例1：医生根据病人血液中白细胞的浓度来判断 口类条件概率 病人是否患有血液病。 ■x的分布取决于类别状态（患病或未患病），用 ■一个人的白细胞浓度是3100，医生应该做出怎 类条件概率密度函数来表示： 样的判断？ pxa)~N(2000,1000: ■根据医学知识和以往的经验，医生知道： pxo2)~N(7000,3000: 口一般人群中，患病的人数比例为0.5%： 口p(xo):类别w中，在一个连续的函数空间中 口患病的人白细胞的浓度服从均值2000，方差 观测到x的可能性： 1000的正态分布：未患病的人白细胞的浓度服从 均值7000，方差3000的正态分布。 口p(x,)和px4,)间的区别表示了血液病人和 非血液病人之间白细胞浓度值的区别。 17 贝叶斯决策理论概述 贝叶斯决策理论概述 口数学表示 口后验概率 ■用Q表示“类别"随机变量，类别w1和w2分别表示 ■问题：已知先验概率P(@,)和类条件概率密度函 数p(x|0,),1,2:对于一个样本x=3100,判 “患病”和“未患病”： 定x∈W1或x∈W2? 。用X表示“白细胞浓度值”随机变量： ■即，计算在观测样本x下，其类别状态是 (=1,2)的概率：P(o,lx)。 ■决策空间⊙={w1,w2}. ■后验概率即一个具体事物属于某种类别的概率。 口一个样本只可能属于两个类别之一，即有约束 P(@Ix)+P(@:Ix)=1 区别P(o,lx)和P(o,). 贝叶斯决策理论概述 贝叶斯决策理论概述 口先验概率 P(o,lx)=P(ox) P(Q=a,)=0.5% p(x) P(2=02)=99.5% P(o)p(xlo) P(2=a)+P(2=)=I (排他性、穷举性) ∑Po,)px|o,) ■仅依据先验信息的判决规则 Decide if PP) @otherwise ■判决的误差概率 P(error)=min(P(,).P() 时w闪 32010/9/24 3 13 贝叶斯决策理论概述  例1：医生根据病人血液中白细胞的浓度来判断 病人是否患有血液病。  一个人的白细胞浓度是3100，医生应该做出怎 样的判断？  根据医学知识和以往的经验，医生知道： 一般人群中，患病的人数比例为0.5%； 患病的人白细胞的浓度服从均值2000，方差 1000的正态分布；未患病的人白细胞的浓度服从 均值7000，方差3000的正态分布。 14 贝叶斯决策理论概述  数学表示  用Ω表示“类别”随机变量，类别ω1和ω2分别表示 “患病” 和“未患病”；  用 x 表示“白细胞浓度值”随机变量；  决策空间Θ={ω1，ω2}。 15 贝叶斯决策理论概述  先验概率  仅依据先验信息的判决规则  判决的误差概率 1 2 1 2 ( ) 0.5% ( ) 99.5% ( ) ( )1 ( ) P P P P             排他性、穷举性 , if Decide , otherwise 1 12 2 ω P(ω ) P(ω ) ω     P(error)  minP(1), P(1) 16 贝叶斯决策理论概述  类条件概率  x 的分布取决于类别状态（患病或未患病），用 类条件概率密度函数来表示：  ：类别ωi中，在一个连续的函数空间中 观测到 x 的可能性；  和 间的区别表示了血液病人和 非血液病人之间白细胞浓度值的区别。 ( | ) ~ (7000, 3000); ( | ) ~ (2000,1000); 2 1 p x N p x N   ( | ) 1 p x 2 p x(| )  i p x(| )  17 贝叶斯决策理论概述  后验概率  问题：已知先验概率 和类条件概率密度函 数 ，i=1, 2；对于一个样本 x=3100，判 定 x∈ω1 或 x∈ω2？  即，计算在观测样本 x 下，其类别状态是ωi （i=1,2）的概率： 。  后验概率即一个具体事物属于某种类别的概率。 一个样本只可能属于两个类别之一，即有约束 区别 和 。 i p x(| )  i P( )  i P x ( |)  1 2 P xP x ( |) ( |) 1     i P x ( |)  i P( )  18 贝叶斯决策理论概述 ( ,) ( |) ( ) ( )(| ) ( )(| ) i i i i j j j P x P x p x P px P px         