2010/9/27 其他决策方法（自学） 口最大最小决策 ■基本思想：类先验概率未知，考查先验概率变化 对错误率的影响，找出使最小风险贝叶斯决策的 分类器设计 风险最大的先验概率，以这种最坏情况设计分类 器。 口序贯分类方法 ·基本思想：除考虑分类造成的损失外，还考虑特 征获取所造成的代价。先用一部分特征分类，然 后逐步加入新特征以减少分类损失，同时衡量总 的损失，以求得最优的效益。 22 分类器设计 分类器设计 口判别函数：是模式（或特征向量）x的函数，用 口决策面方程：相邻的两个决策域在决策面上的 于表述决策规则 判别函数值相等，即 ■对于c类别问题，相应于每一类别定义一个函数， 8,()=8(x) 构成一组判别函数g,i=1,2…,c,使得 g()>8()→x∈0，j=1,…,c,j≠i p()P() ■最小错误率Bayes决策的判别函数 (1)g,(x)=P(@,Ix) (2)g,(x)=p(xlo,)P(@,) (3)g(x)=lnp(x|@)+lnP(@) 分类器设计 分类器设计 口分类器：计算c个判别函数并选取与最大判别 口两类别的最小错误率Bayes决策 函数值相对应的类别的网络或机器。 ■判决函数： g(x)=8(x)-g2(x), action ■相应的决策规则 if g(x)> O,then decide x∈ discriminant funcnons (1)8(x)=P(@lx)-P(@Ix) (2)g(x)=p(xIo)P()-p(xlo:)P(o: 3)8(x)=Inn P(o) p(xlo)P(o) 42010/9/27 4 19 其他决策方法（自学）  最大最小决策  基本思想：类先验概率未知，考查先验概率变化 对错误率的影响，找出使最小风险贝叶斯决策的 风险最大的先验概率，以这种最坏情况设计分类 器。  序贯分类方法  基本思想：除考虑分类造成的损失外，还考虑特 征获取所造成的代价。先用一部分特征分类，然 后逐步加入新特征以减少分类损失，同时衡量总 的损失，以求得最优的效益。 分类器设计 21 分类器设计  判别函数：是模式（或特征向量）x 的函数，用 于表述决策规则  对于 c 类别问题，相应于每一类别定义一个函数， 构成一组判别函数 gi (x), i = 1,2,…,c，使得  最小错误率Bayes决策的判别函数 ( ) ( ) 1, , , ; ij i g xx x     g j cji   (1) ( ) ( | ) (2) ( ) ( | ) ( ) (3) ( ) ln ( | ) ln ( ) i i i ii i ii g P gpP gp P          x x x x x x 22 分类器设计  决策面方程：相邻的两个决策域在决策面上的 判别函数值相等，即 ( ) ( ). i j g g x x  23 分类器设计  分类器：计算 c 个判别函数并选取与最大判别 函数值相对应的类别的网络或机器。 24 分类器设计  两类别的最小错误率Bayes决策  判决函数：  相应的决策规则 1 2 gg g ( ) ( ) ( ), xxx   1 2 11 2 2 1 1 2 2 (1) ( ) ( | ) ( | ) (2) ( ) ( | ) ( ) ( | ) ( ) (| ) ( ) (3) ( ) ln ln (| ) ( ) gP P gp P p P p P g p P                xxx xx x x x x 1 2 if ( ) 0, then decide . g        x x