距离判别基本思想 即:首先根据已知分类的数据,分别计算各类的重心即各组(类)的均值,判别的准则是对任给样品, 计算它到各类平均数的距离,哪个距离最小就将它判归哪个类 贝叶斯( Bayes)判别基本思想: 贝叶斯判别法是通过计算被判样本x属于k个总体的条件概率P(nkx)n=1,2k.比较k个概率的大 小,将样本判归为来自出现概率最大的总体(或归属于错判概率最小的总体)的判别方法 判别分析类型及方法 (1)按判别的组数来分,有两组判别分析和多组判别分析 (2)按区分不同总体所用的数学模型来分,有线性判别和非线性判别 (3)按判别对所处理的变量方法不同有逐步判别、序贯判别。 (4)按判别准则来分,有费歇尔判别准则、贝叶斯判别准则 试用贝叶斯判别法将样本x0判到G1、G2、G3中的一个。考虑与不考虑误判损失的结果如何? 1、考虑误判损失: 误判到G1的平均损失为 ECMI=0.55*0.46°0+0.15·1.5*400+0.30*0.70*100= 误判到G2的平均损失为 ECM2=0.55*046·20+0.15·1.5*0+0.30*0.70*50 误判到G3的平均损失为 ECM3=0.55*0.46*80+0.15*1.5·200+0.30·0.700 其中ECM2最小,故将x0判别到G2。 不考虑误判损 将x0判别到G1的条件概率为: P(G1/x0)=(0.55*0.46)(0.55*0.46+0.15*1.5+0.30*0.70)= 将xO判别到G2的条件概率为 P(G2/0)=(0.15*1.5)/0.55·0.46+0.15*1.5+0.30*0.70)= 将x0判别到G3的条件概率为 P(G3/0)=(0.30*0.70)0.55*0.46+0.15*1.5+0.30*0.70= 其中P(G1/0)取值最大,故将x0判别到Gl 例7:设有G1,G2和G3三个类,欲判别某样本x0属于哪一类·已知 q=0.05,q2=0.65,q3=0.30,f(x0)=0.10,f2(x0)=0.63,f(x0)=24现利用后验概 率准则计算x属于各组的后验概率: PG/x)=9(x) 0.05×0.10 0.005 =0.004 ∑9∫(x) 0.05×0.10+0.65×063+0.30×241.1345 P(G/x)=9/(x) 0.65×0.63 0.4095 005×0.10+0.65×063+030×241,13450361 qf(xo)距离判别基本思想： 即：首先根据已知分类的数据，分别计算各类的重心即各组（类）的均值，判别的准则是对任给样品， 计算它到各类平均数的距离，哪个距离最小就将它判归哪个类。 贝叶斯(Bayes)判别基本思想： 贝叶斯判别法是通过计算被判样本 x 属于 k 个总体的条件概率 P（n/x),n=1,2…..k. 比较 k 个概率的大 小，将样本判归为来自出现概率最大的总体（或归属于错判概率最小的总体）的判别方法。 判别分析类型及方法 （1）按判别的组数来分，有两组判别分析和多组判别分析 （2）按区分不同总体所用的数学模型来分，有线性判别和非线性判别 （3）按判别对所处理的变量方法不同有逐步判别、序贯判别。 （4）按判别准则来分，有费歇尔判别准则、贝叶斯判别准则 试用贝叶斯判别法将样本 x0 判到 G1、G2、G3 中的一个。考虑与不考虑误判损失的结果如何？ 1、考虑误判损失： 误判到 G1 的平均损失为 ECM1＝0.55*0.46*0+0.15*1.5*400+0.30*0.70*100＝ 误判到 G2 的平均损失为 ECM2＝0.55*0.46*20+0.15*1.5*0+0.30*0.70*50＝ 误判到 G3 的平均损失为 ECM3＝0.55*0.46*80+0.15*1.5*200+0.30*0.70*0＝ 其中 ECM2 最小，故将 x0 判别到 G2。 2、不考虑误判损失： 将 x0 判别到 G1 的条件概率为： P（G1/x0) =(0.55*0.46)/(0.55*0.46+0.15*1.5+0.30*0.70)= 将 x0 判别到 G2 的条件概率为： P（G2/x0) =(0.15*1.5)/(0.55*0.46+0.15*1.5+0.30*0.70)= 将 x0 判别到 G3 的条件概率为： P（G3/x0) =(0.30*0.70)/(0.55*0.46+0.15*1.5+0.30*0.70)= 其中 P（G1/x0) 取值最大，故将 x0 判别到 G1。 例 7 ： 设 有 G1 ， G2 和 G3 三 个 类 ， 欲 判 别 某 样 本 x0 属 于 哪 一 类 ． 已 知 0.05, 0.65, 0.30, q1 = q2 = q3 = f 1 (x0 ) = 0.10 ， f 2 (x0 ) = 0.63， f 3 (x0 ) = 2.4 现利用后验概 率准则计算 x0 属于各组的后验概率： 0.004 1.1345 0.005 0.05 0.10 0.65 0.63 0.30 2.4 0.05 0.10 ( ) ( ) ( ) 3 1 0 1 1 0 1 0 = =  +  +   = =  i= i i q f x q f x P G x 0.361 1.1345 0.4095 0.05 0.10 0.65 0.63 0.30 2.4 0.65 0.63 ( ) ( ) ( ) 3 1 0 2 2 0 2 0 = =  +  +   = =  i= i i q f x q f x P G x