S6.5罗一勃拉克维尔定理和一致最小方差无偏估计 在前两节中我们看到有效估计平均说来是比较接近参数真值日的 一个估计,但并不是 每个参数都能有有效估计,因为不是任何无偏估计都能达到罗一克拉美不等式下界,为此我 们必须研究这样两个问题,一个问题是如果知道一个无偏估计,能否构造一个新的无偏估计, 其方差比原来估计的方差小,罗一勃拉克维尔定理给出了一种改善估计的方法:另一个问 题是一个无偏估计虽不是有效估计,但是可考察它的方差在一切无偏估计类中能够达到最小 的条件。 定理6.5(罗-勃拉克维尔定理)设5与1是两个随机变量,E门=μ和D门>0。 设5=x条件下刀的条件期望E{川5=x}=0(x)则 E[p(5)FA,D[p(5)]≤Dn (6.54) (证明略) 例622设5与1服从二维正态W4,4,o,o,p),这里4,43分别为它们的 均值,分别为它们的方差而P为它们的相关系数,且-1<P<1。 在第三章中我们知道维分布的联合密度函数 -aan*g-n22m 1 02 G、 2aai-pp2n-pa0-b9 1 =(x) 其中边际分布密度函数 f(x)= 02π0 cp-=四) 2o 和 p-) 条件期望 p(x)=E(15=x)=hy川x) 1 y-b)2 “2o-oez0a =b4+pg2(x-4) p(x)的数学期望
§6.5 罗―勃拉克维尔定理和一致最小方差无偏估计 在前两节中我们看到有效估计平均说来是比较接近参数真值 的一个估计,但并不是 每个参数都能有有效估计,因为不是任何无偏估计都能达到罗—克拉美不等式下界,为此我 们必须研究这样两个问题,一个问题是如果知道一个无偏估计,能否构造一个新的无偏估计, 其方差比原来估计的方差小,罗—勃拉克维尔定理给出了一种改善估计的方法; 另一个问 题是一个无偏估计虽不是有效估计,但是可考察它的方差在一切无偏估计类中能够达到最小 的条件。 定理 6.5 (罗—勃拉克维尔定理) 设 与 是两个随机变量,E = 和 D >0。 设 =x 条件下 的条件期望 E{ | =x}=(x) 则 E[ ( ) ]= ,D[ ( ) ]≤D (6.54) (证明略) 例 6.22 设 与 服从二维正态 N( 1 , 2 , 2 1 , 2 2 , ),这里 1 , 2 分别为它们的 均值,分别为它们的方差而 为它们的相关系数,且-1< <1。 在第三章中我们知道维分布的联合密度函数 [( ) 2 ( )( ) ( )]} 2(1 ) 1 exp{ 2 1 1 ( , ) 2 2 2 2 1 2 1 1 1 2 2 1 2 − + − − − − − − − = x x y y f x y = ( ) 1 f x ( ) } 2(1 ) 1 exp{ 2 1 1 2 2 2 2 2 2 y − b − − − 其中边际分布密度函数 ( ) 1 f x = } 2 ( ) exp{ 2 1 2 2 2 2 1 − − x 和 b= 2 + ( ) 1 1 2 x − 条件期望 (x) =E( | =x)= yh(y | x)dy = − − − − dy y b ye 2 2 2 2 2 2 2(1 ) ( ) 2 1 1 =b= 2 + ( ) 1 1 2 x − (x) 的数学期望
E0(5)=E4+p(x-4)4 而方差 Ep(5)=E可(5)-4] =Ep(G-4)] =PP<P=Dn 当然这一只能起定理的直观解释作用,实际用处不大,因为只要五个参数中有一个未知, (5)就不能是一个统计量。它包含这一未知参数,当然不能作为参数的估计。 罗一勃拉克维尔定理能有助于我们寻找未知参数的较优良的估计,它可以引出如下定 理。 定理6.5设51,52,,5,为取自一个母体5的子样。5具有概率函数 f(x),0∈日,设1=u(51,52,5n)是0的一个充分统计量,1,=2(51, 52,,5m)不仅是1,的函数,且E1,=0,则E(1,1门,)=7)是0的充分统 计量的函数,其均值E(,)]和方差D[(?)KD1,。(证明略) 这个定理给我们一个寻找较优良估计的方法。如果未知参数日有一个充分统计量几, 我们可以限制在充分统计量刀,的函数中去寻找。在刀,的函数中先找出日的无偏估计,然后 比较其方差。也可以先从的日一个无偏估计门,出发,注意这个刀,不仅是门,的函数,然后 求出E(刀,门,)。以E(刀,门,)作估计量一定比原来的”,有较小的方差。 那么能否在无偏估计类的全体中找到一个达到最小方差的无偏估计呢?先给出一个定 义。 定义6.8设51,52,…,5m是取自具有概率函数f(x,0),日∈日的母体5 的一个子样。刀,=u(51,52,…,5n)称为参数0的一致最小方差无偏估计,若门, 是日的一个无偏估计,取E7,=0,且对一切日∈日和任何一个无偏估计门,=4,(51, 52,…,5n,1,的方差不大于门,的方差,即 DnJ≤D1, (6.60)
E ( ) = E[ 2 + ( ) 1 1 2 x − ]= 2 而方差 E ( ) = E[ ( ) – 2 ] 2 = E[ 2 2 1 1 2 2 2 ( ) − ] = 2 2 2 2 2 = D 当然这一只能起定理的直观解释作用,实际用处不大,因为只要五个参数中有一个未知, ( ) 就不能是一个统计量。它包含这一未知参数,当然不能作为参数的估计。 罗—勃拉克维尔定理能有助于我们寻找未知参数的较优良的估计,它可以引出如下定 理。 定理 6.5 设 1 , 2 ,…, n 为取自一个母体 的子样。 具有概率函数 f (x; ) , ∈ ,设 1 =u 1 ( 1 , 2 ,…, n )是 的一个充分统计量, 2 =u 2 ( 1 , 2 ,…, n )不仅是 1 的函数,且 E 2 =0,则 E( 2 | 1 )= ( ) 1 是 的充分统 计量的函数,其均值 E[ ( ) 1 ]和方差 D[ ( ) 1 ]<D 2 。(证明略) 这个定理给我们一个寻找较优良估计的方法。如果未知参数 有一个充分统计量 1, 我们可以限制在充分统计量 1 的函数中去寻找。在 1 的函数中先找出 的无偏估计,然后 比较其方差。也可以先从的 一个无偏估计 2 出发,注意这个 2 不仅是 1 的函数,然后 求出 E( 2 | 1 )。以 E( 2 | 1 )作估计量一定比原来的 2 有较小的方差。 那么能否在无偏估计类的全体中找到一个达到最小方差的无偏估计呢?先给出一个定 义。 定义 6.8 设 1 , 2 ,…, n 是取自具有概率函数 f (x; ) , ∈ 的母体 的一个子样。 1 =u 1 ( 1 , 2 ,…, n )称为参数 的一致最小方差无偏估计,若 1 是 的一个无偏估计,取 E 1 = ,且对一切 ∈ 和任何一个无偏估计 2 = u 2 ( 1 , 2 ,…, n ), 1 的方差不大于 2 的方差,即 D 1 ]≤D 2 (6.60)
系设1,=u,(51,52,,5n)是0∈日的一个充分统计量,p(),)是0的 唯一一个可以表示为”,的函数的无偏估计,则,)是日的一个一致最小方差无偏估计。 (证明略) 例6.23(略)
系 设 1 =u 1 ( 1 , 2 ,…, n )是 ∈ 的一个充分统计量, ( ) 1 是 的 唯一一个可以表示为 1 的函数的无偏估计,则 ( ) 1 是 的一个一致最小方差无偏估计。 (证明略) 例 6.23(略)