§4.3 minimax估计 定义驮寮鰥枫橚瓤可趣;个癲邏镰舾黴决策 郾錾衄悄我猸自乔葉选鞦在个决笮数策恼数 它此风险尽订能的少;使得对D中任意一个决策函数 d(x1…,xn),总有 maxR(,d)≤maxR(2d),vd∈D (4.12) 则称d为这个统计决策问题的最小最大( nina)决策 函数。(在这里我们假定R关于0的最大值能达到,如果 最大值达不到,可能理解为上确界。) 湘潭大学数学与计算科学学院一页一页
湘潭大学数学与计算科学学院 上一页 下一页 1 §4.3 minimax估计 大家知道，风险函数提供了一个衡量决策函数 好坏的尺度，我们自然希望选取一个决策函数，使 得它的风险尽可能的小。 定义 4.10 给定一个统计决策问题，设 * D 是由全体决策 函 数 组 成 的 类 ， 如 果 存 在 一 个 决 策 函 数 * * * 1 ( , , ), n d d x x d = * D ，使得对 * D 中任意一个决策函数 1 ( , , ) n d x x ，总有 * * max ( , ) max ( , ), R d R d d D ， （4.12） 则称 * d 为这个统计决策问题的最小最大（minimax）决策 函数。（在这里我们假定R 关于 的最大值能达到，如果 最大值达不到，可能理解为上确界。）
由定义可见,我们是以最大风险的大小作为衡量 决策函数好坏的准则。因此,使最大风险达到最小的 决策函数是考虑到最不利的情况,要求最不利的情况 尽可能地好。也就是人们常说的从最坏处着想,争取 最好的结果。它是一种出于稳妥的考虑,也是一种偏 于保守的考虑。 如果我们讨论的问题是一个估计问题,则称满 足式(412)的决策函数d(x1…,Xn)为的最小 最大( minimax)估计量。 湘潭大学数学与计算科学学院一页一页
湘潭大学数学与计算科学学院 上一页 下一页 2 由定义可见，我们是以最大风险的大小作为衡量 决策函数好坏的准则。因此，使最大风险达到最小的 决策函数是考虑到最不利的情况，要求最不利的情况 尽可能地好。也就是人们常说的从最坏处着想，争取 最好的结果。它是一种出于稳妥的考虑，也是一种偏 于保守的考虑。 如果我们讨论的问题是一个估计问题，则称满 足式（4.12）的决策函数 * 1 ( , , ) n d X X 为 的最小 最大（minimax）估计量
寻求最小最大决策函数的一般步骤: 对D中每个决策函数4(x1…xn),求出其风险函数在 上的最大风险值mR,d); 2.在所有最大风险值中选取相对最小值,此值对应的决 策函数便是最小最大决策函数。 例417地质学家要根据某地区的地层结构来判断该地是 否蕴藏石油,地层结构总是0、1两种状态之一,记该地无 油为,记该地有油为1,已知它们的分布规律如表42所 示(其中x表示地层结构的状态,6表示石油的状态) 湘潭大学数学与计算科学学院一页一页
湘潭大学数学与计算科学学院 上一页 下一页 3 寻求最小最大决策函数的一般步骤: 1．对 * D 中每个决策函数 1 ( , , ) n d x x ，求出其风险函数在 上的最大风险值max ( , ) R d ； 2．在所有最大风险值中选取相对最小值，此值对应的决 策函数便是最小最大决策函数。 例 4.17 地质学家要根据某地区的地层结构来判断该地是 否蕴藏石油，地层结构总是 0、1 两种状态之一，记该地无 油为0 ，记该地有油为1 ，已知它们的分布规律如表 4.2 所 示（其中x 表示地层结构的状态， 表示石油的状态）
表42地层结构分布规律表 0 (无油)0.60 61(有油)0.30.7 它表示如果该地区蕴藏石油,那么地层结构呈现状 态0的概率为0.3,呈现状态为1的概率为07,如果该地 区不蕴藏石油,那么地层结构呈现状态0的概率为0.6, 呈现状态1的概率为04,土地所有者希望根据地质学家 对地层结构的分析来决定自己投资钻探石油,还是出 卖土地所有权或者在该地区开辟旅游点, 湘潭大学数学与计算科学学院一页一页
湘潭大学数学与计算科学学院 上一页 下一页 4 表 4.2 地层结构分布规律表 x 0 1 0 （无油） 0.6 0.4 1 （有油） 0.3 0.7 它表示如果该地区蕴藏石油，那么地层结构呈现状 态0的概率为0.3，呈现状态为1的概率为0.7，如果该地 区不蕴藏石油，那么地层结构呈现状态0的概率为0.6， 呈现状态1的概率为0.4，土地所有者希望根据地质学家 对地层结构的分析来决定自己投资钻探石油，还是出 卖土地所有权或者在该地区开辟旅游点
分别记这三种决策为a1,a2a3,于是决策空间 a1a24},土地所有者权衡利弊之后取损失函数 1(,a)为表43所示。 表43损失函数D(2a)取值表 L(6,a) 3 6 (无油)1216 Bn(有油)0105 假如我们仅取一个观察X(样本大小为1)。 湘潭大学数学与计算科学学院一页一页
湘潭大学数学与计算科学学院 上一页 下一页 5 分别记这三种决策为 1 2 3 a a a , , ，于是决策空间 = a a a 1 2 3 , , ，土地所有者权衡利弊之后取损失函数 L a ( , ) 为表 4.3 所示。 表 4.3 损失函数L a ( , ) 取值表 a L a ( , ) 1 a 2 a 3 a 0（无油） 12 1 6 1（有油） 0 10 5 假如我们仅取一个观察 X1 （样本大小为 1）
如果土地所有者打算采用决策函数 d1(x1) x,=0 那么风险函数R(,d1)在6=处的值为 R(,d1)=L(6a1)B(X1=1)+L(6,a2)B(X1=0) 12×0.4+1×0.6=54 在6=B处的值为 R(O1,d1)=L(8,a1)B(X1=1)+L(,a2)B(X1=0) =0×0.7+10×0.3=3 湘潭大学数学与计算科学院一页一页]6
湘潭大学数学与计算科学学院 上一页 下一页 6 如果土地所有者打算采用决策函数 1 1 1 1 2 1 , 1, ( ) , 0, a x d x a x = = = 那么风险函数 1 R d ( , ) 在 = 0 处的值为 0 0 0 1 0 1 1 0 2 1 R d L a P X L a P X ( , ) ( , ) ( 1) ( , ) ( 0) = = + = = + = 12 0.4 1 0.6 5.4 在 = 1处的值为 1 1 1 1 1 1 1 1 2 1 R d L a P X L a P X ( , ) ( , ) ( 1) ( , ) ( 0) = = + = = + = 0 0.7 10 0.3 3
如果土地所有者打算采用决策函数 (x1) 则风险函数R(,d2)在=处的值为 R(60,d2)=L(60,a1)B(X1=1)+L(60,a3)a(X1=0) =12×04+6×0.6=84 风险函数R(O,d2),在θ=B处的值为 R(O1,2)=D(,a)B(X1=1)+L(,a3)B(X1=0) =0×0.7+5×0.3=1.5 湘潭大学数学与计算科学学院一页一页
湘潭大学数学与计算科学学院 上一页 下一页 7 如果土地所有者打算采用决策函数 1 1 2 1 3 1 , 1, ( ) , 0, a x d X a x = = = 则风险函数 2 R d ( , ) 在 = 0 处的值为 0 0 0 2 0 1 1 0 3 1 R d L a P X L a P X ( , ) ( , ) ( 1) ( , ) ( 0) = = + = = + = 12 0.4 6 0.6 8.4 风险函数 2 R d ( , ) ，在 = 1 处的值为 1 1 1 2 1 1 1 1 3 1 R d L a P X L a P X ( , ) ( , ) ( 1) ( , ) ( 0) = = + = = + = 0 0.7 5 0.3 1.5
在本例中,可供土地所有者选择的决策函数共有 九个,将它们列于表44。 表44决策函数表 x1|d(x)d4(x)d3(x)d4(x)d3(x)d(x)d1(x)(x)d(x) a3 a1 a1 我们在上面已经计算出决策函数d4(x)与d1(x)的风险函 数,现把这九个决策函数的风险函数及其最大值列成下 表(表45) 湘潭大学数学与计算科学学院一页一页
湘潭大学数学与计算科学学院 上一页 下一页 8 在本例中，可供土地所有者选择的决策函数共有 九个，将它们列于表4.4。 表4.4 决策函数表 1 x 1 1 d x( ) 2 1 d x( ) 3 1 d x( ) 4 1 d x( ) 5 1 d x( ) 6 1 d x( ) 7 1 d x( ) 8 1 d x( ) 9 1 d x( ) 0 1 a 1 a 1 a 2 a 2 a 2 a 3 a 3 a 3 a 1 1 a 2 a 3 a 1 a 2 a 3 a 1 a 2 a 3 a 我们在上面已经计算出决策函数 4 1 d x( ) 与 7 1 d x( ) 的风险函 数，现把这九个决策函数的风险函数及其最大值列成下 表（表 4.5）
表4.5风险函数及最大值表 d(x1) R(6,d1) 7.6 9.6 54 8.4 R(61,d1) 0 10 5 max r(0, d) 6∈e 12 7.6 9.6 5.4 6.5 8.4 8.5 如果土地所有者希望使得承担可能产生的最大风险尽量 小,那么应当采用决策函数4(x)。由定义知d4(x)是这个 统计决策问题 minimax决策函数。 湘潭大学数学与计算科学学院一页一页
湘潭大学数学与计算科学学院 上一页 下一页 9 表4.5 风险函数及最大值表 1 ( ) i d x 1 d 2 d 3 d 4 d 5 d 6 d 7 d 8 d 9 d 0 ( , ) R d i 12 7.6 9.6 5.4 1 3 8.4 4 6 1 ( , ) R d i 0 7 3.5 3 10 6.5 1.5 8.5 5 max ( , ) R di 12 7.6 9.6 5.4 10 6.5 8.4 8.5 6 如果土地所有者希望使得承担可能产生的最大风险尽量 小，那么应当采用决策函数 4 1 d x( ) 。由定义知 4 1 d x( ) 是这个 统计决策问题 minimax 决策函数
下面介绍如何借用贝叶斯方法来求最小最大决策函数 当然,使用贝叶斯方法必须预先引进未知参数的先验 分布。但是,这里仅仅是借用这个先验分布以得到 minimax决策函数而已。 定理48给定一个统计决策问题,如果存在某个先验分 布,使得在这个先验分布下的贝叶斯决策函数4(x1,…xn) 的风险函数是一个常数,那么d(x…x)必定是这个统计 决策的一个 minimax决策函数。 湘潭大学数学与计算科学学院一页一页
湘潭大学数学与计算科学学院 上一页 下一页 10 下面介绍如何借用贝叶斯方法来求最小最大决策函数。 当然，使用贝叶斯方法必须预先引进未知参数 的先验 分布。但是，这里仅仅是借用这个先验分布以得到 minimax 决策函数而已。 定理 4.8 给定一个统计决策问题，如果存在某个先验分 布，使得在这个先验分布下的贝叶斯决策函数 1 ( , , ) B n d x x 的风险函数是一个常数，那么 1 ( , , ) B n d x x 必定是这个统计 决策的一个 minimax 决策函数