43最小平均风险准则贝叶斯分类器 前面我们以最小错误率为准则建立的贝叶斯分类器,然而对某些问题来说这样的准则并 不适合。这是因为每次误判所带来的后果并不一样,有一些类别被误判的后果非常严重,而 另一些类别被误判的后果却并不严重,例如对于癌症诊断问题,如果一个癌症患者被误判为 正常,那么后果非常严重,有可能耽误治疗;而一个正常人被误诊为患有癌症,后果并不很 严重,随着进一步的诊断,可以改变这种误判。 下面我们就来介绍一种依据最小平均风险准则的贝叶斯分类器。 设由M个类别,Ω1,Ω23…,ΩM°首先我们需要根据实际问题定义一组数据Ln,表示 将Ω类的样本误判为Ω,类的代价,这应该是一个M×M的矩阵。然后我们可以用下面的 公式计算将未知模式X判别为9,类的平均风险: X)=∑LP(91|X 其中LP(92X)为用L加权的后验概率。因为当我们将X分类为2,时,它有可能是 M类的任何一类,因此总的平均风险就是对加权后的后验概率求和。我们的判决准则应该 是选择一个平均风险最小的类别作为输出的决策类别。因此可以构造判别函数 d, (X)=-y,( 现在的问题同最小错误率准则一样,我们并不知道后验概率P(92|X),而是已知先验 概率P(9)和条件概率P(X92),因此我们还需要使用贝叶斯公式将后验概率转换为先验 概率 y(x)2P(x分4P(x2)P(2) 因为 是公共项,对比较大小没有影响,因此可以舍去 y(x)=∑LP(Xg2)P(2) 现在还是看一下两类问题的情况 将X判别为921类的平均风险为 7(X)=L1P(Xg21)P(4)+L2P(Xo2)P(92) 将X判别为Ω2类的平均风险为36 4.3 最小平均风险准则贝叶斯分类器 前面我们以最小错误率为准则建立的贝叶斯分类器，然而对某些问题来说这样的准则并 不适合。这是因为每次误判所带来的后果并不一样，有一些类别被误判的后果非常严重，而 另一些类别被误判的后果却并不严重，例如对于癌症诊断问题，如果一个癌症患者被误判为 正常，那么后果非常严重，有可能耽误治疗；而一个正常人被误诊为患有癌症，后果并不很 严重，随着进一步的诊断，可以改变这种误判。 下面我们就来介绍一种依据最小平均风险准则的贝叶斯分类器。 设由 M 个类别， 1 2 , , ,   M 。首先我们需要根据实际问题定义一组数据 Lij ，表示 将 i 类的样本误判为  j 类的代价，这应该是一个 M M 的矩阵。然后我们可以用下面的 公式计算将未知模式 X 判别为  j 类的平均风险： ( ) ( ) 1 M j ij i i  L P = X X =   其中 L Pij i ( X) 为用 Lij 加权的后验概率。因为当我们将 X 分类为  j 时，它有可能是 M 类的任何一类，因此总的平均风险就是对加权后的后验概率求和。我们的判决准则应该 是选择一个平均风险最小的类别作为输出的决策类别。因此可以构造判别函数： dj j (X X ) = − ( )。 现在的问题同最小错误率准则一样，我们并不知道后验概率 P(i X) ，而是已知先验 概率 P(i) 和条件概率 P(X i) ，因此我们还需要使用贝叶斯公式将后验概率转换为先验 概率： ( ) ( ) ( ) ( ) 1 1 M j ij i i i L P P P  = X X =    X 因为 ( ) 1 P X 是公共项，对比较大小没有影响，因此可以舍去： ( ) ( ) ( ) 1 M j ij i i i  L P P = X X =    现在还是看一下两类问题的情况： 将 X 判别为 1 类的平均风险为：  1 11 1 1 21 2 2 (X X X ) =   +   L P P L P P ( ) ( ) ( ) ( ) 将 X 判别为 2 类的平均风险为：