2010/9/27 基于最小风险的贝叶斯决策 口定义 第二章贝叶斯决策理论 ■状态空间2:由c个可能的状态(c类)组成 2={0,02,…,0} 2010.09.27 ■决策空间:由所有可能采取的决策组成 月={a,a2,…,ag} ■损失函数(a,0,i=1,…,k,j=1,…,c: 表示对真实状态为@,的样本,采取决策α,时所 造成的损失。 基于最小风险的贝叶斯决策 基于最小风险的贝叶斯决策 口条件期望损失(条件风险):对于特定的观察 样本x(特征向量),决策a,造成的损失对x 实际所属类别的各种可能的平均: 6》 4》 R(a,Ix)=E[(a,0,) =22(a,o,P(o,lx) 口期望风险:对所有x取值所作的决策α(x)所带来 的平均风险,即条件风险对x的数学期望。 决策表 R(a)=E[R(a(x)lx】=∫R(a(x)lx)p(x)ds 基于最小风险的贝叶斯决策 基于最小风险的贝叶斯决策 口目标:最小化决策所带来损失的平均值一(平均) 口两类别问题 风险 ·行为a:deciding, 口决策规则 ·行为a2:deciding: Decide a.if R(ax)=min R(a,x) ·损失=(a,0,),1,=1,2. 口最小风险决策的计算步骤 ■条件风险 ·计算后验概率)计算每个决策的条件风险 依据最小条件风险决策 R(a1Ix)=P(o1|x)+元2P(02|x) R(a2 Ix)=42P(@Ix)+422P(02 Ix) 12010/9/27 1 第二章 贝叶斯决策理论 2010.09.27 2 基于最小风险的贝叶斯决策 定义 状态空间Ω:由c个可能的状态( c类)组成 决策空间A:由所有可能采取的决策组成 损失函数 : 表示对真实状态为ωj 的样本,采取决策 时所 造成的损失。 i i k j c i j ( , ), 1,, , 1,, { , , , } 1 2 c { , , , } Α 1 2 k 3 基于最小风险的贝叶斯决策 决策表 4 基于最小风险的贝叶斯决策 条件期望损失(条件风险):对于特定的观察 样本 x(特征向量),决策 造成的损失对 x 实际所属类别的各种可能的平均: 期望风险:对所有 x 取值所作的决策α(x)所带来 的平均风险,即条件风险对 x 的数学期望。 i 1 ( |) ( , ) ( , )( |) i ij c ij j j R E P x x R ( ) [ ( ( ) | )] ( ( ) | ) ( ) ER R p d xx xx xx 5 基于最小风险的贝叶斯决策 目标:最小化决策所带来损失的平均值—(平均) 风险 决策规则 最小风险决策的计算步骤 计算后验概率 计算每个决策的条件风险 依据最小条件风险决策 1, , , if ( | ) min ( | ) kk i j a Decide R R x x 6 基于最小风险的贝叶斯决策 两类别问题 条件风险 1 1 2 2 ij j : deciding ; : deciding ; ( , ), , 1, 2. i i j 行为 行为 损失 1 11 1 12 2 2 21 1 22 2 ( |) ( |) ( |) ( |) ( |) ( |) R PP R PP xxx xxx