§7.3估计量的优良性准则 从前面两节的讨论中可以看到: ·同一参数可以有几种不同的估计,这时就需 要判断采用哪一种估计为好的问题。 ● 另一方面,对于同一个参数,用矩法和极大 似然法即使得到的是同一个估计,也存在衡 量这个估计优劣的问题。 估计量的优良性准则就是:评价一个估计量 “好”与“坏”的标准
从前面两节的讨论中可以看到: ● 同一参数可以有几种不同的估计,这时就需 要判断采用哪一种估计为好的问题。 ● 另一方面,对于同一个参数,用矩法和极大 似然法即使得到的是同一个估计, 也存在衡 量这个估计优劣的问题。 估计量的优良性准则就是:评价一个估计量 “好”与“坏”的标准。 §7.3 估计量的优良性准则
7.3.1无偏性 设总体的分布参数为0,(X,X2,.,Xn) 简记为是0的一个估计(注意!它是一个统 计量,是随机变量。对于样本X,X2,X 的不同取值,取不同的值)。如果日的均 值等于0,即 E[0(X,X,.,Xn)]=0 对一切可能的0成立,则称6为0的无偏估计
设总体的分布参数为, 对一切可能的 成立,则称 为 的无偏估计。 7.3.1 无偏性 对于样本 X1,X2,,Xn 的不同取值, 取不同的值)。 ( , , , ) ˆ X1 X2 X n ˆ 如果 的均 值等于,即 E[ ˆ (X1 , X2 , , X n )] = ˆ ˆ 简记为 是 的一个估计(注意! 它是一个统 计量,是随机变量。 ˆ
说明:无偏性的意义是:用估计量估计 参数日,有时可能估计偏高,有时可能偏低, 但是平均来说它等于0。 “一切可能的0”是指:在参数估计问题 中,参数0一切可能的取值。 我们之所以要求对一切可能的都成立, 是因为在参数估计问题中,我们并不知道参数 0的真实取值。自然要求它在参数0的一切可 能取值的范围内都成立 E[0(X1,X2,.,Xm】=0
参数,有时可能估计偏高,有时可能偏低, 但是平均来说它等于。 “一切可能的”是指:在参数估计问题 中,参数 一切可能的取值。 我们之所以要求对一切可能的都成立, 是因为在参数估计问题中, 我们并不知道参数 的真实取值。自然要求它在参数 的一切可 能取值的范围内都成立 说明:无偏性的意义是:用估计量 ˆ 估计 ( , , , )] . ˆ [ E X1 X2 Xn =
例如:若O指的是正态总体N(山,o)的均值山, 则其一切可能取值范围是(-∞,∞)。若指的 是方差o,则其一切可能取值范围是(0,∞)。 例1:设X,X,.,X为抽自均值为4的总体X 的随机样本,考虑μ的如下几个估计量: 41=X, 因E(A)=E(X,)=4, 所以,是u的无偏估计。 @四的
例1:设X1 , X2 , . , Xn 为抽自均值为的总体X 的随机样本,考虑 的如下几个估计量: 例如:若 指的是正态总体N(, 2 )的均值, 则其一切可能取值范围是(-∞ , ∞)。若 指的 是方差 2,则其一切可能取值范围是(0,∞)。 所以, 是 的无偏估计。 因 ˆ ( ˆ ) ( ) , ˆ 1 1 1 1 1 = = = E E X X
X1+X2 2 因E(a2)=4,所以,在2是4的无偏估计。 A=X+x+x+x (n≥4) 4 是u的无偏估计。 4=2X 是有偏估计。 4=+名 是有偏估计: 3 @@风
因 ( ˆ ) , 所 以, ˆ 是 的无偏估计。 2 ˆ 2 2 1 2 2 = + = E X X 是 的无偏估计。 ( 4) 4 ˆ 1 2 1 3 + + + = − n X X Xn Xn ˆ 4 = 2X1 是有偏估计。 是有偏估计。 3 ˆ 1 2 5 X + X =
定理1:设总体X的均值为4,方差为o, X1,X2,.,Xn为来自总体X的随机样本,记 与s分别为样本均值与样本方差,即 X-2x.s-n含X-0 n i=l 则EX)=4,ES2)=σ 即样本均值和样本方差分别是总体均值 和总体方差的无偏估计
定理1:设总体X的均值为,方差为 2 , X1,X2, . ,Xn为来自总体X 的随机样本,记 与 分别为样本均值与样本方差,即 即样本均值和样本方差分别是总体均值 和总体方差的无偏估计。 ( ) . 1 1 , 1 2 1 2 1 X X n X S n X n i i n i i − − = = = = ( ) , ( ) . 2 2 则 E X = E S = X 2 S
证明:因为X,X2,.,X独立同分布,且 EX=4,所以 0-含x]-X)-。w 另一方面,因 (x,-X2=∑X2-22x,)x+ =立xn2
证明:因为X1 , X2 , . , Xn 独立同分布,且 E(Xi )=μ , 所以 = = = ; = = = n n E X n X n E X E n i i n i i 1 ( ) 1 1 ( ) 1 1 另一方面,因 , ( ) 2( ) 2 1 2 2 1 1 2 2 1 X nX X X X X X nX n i i n i n i i i n i i = = = = = − − = − +
注意到 E(X)=Var(X)+[E(X)2=9 E(X2)=VaX)+[E(X,)]=o2+2 于是,有 E)-[2X)n) or-*]
( ) ( ) [ ( )] , ( ) ( ) [ ( )] , 2 2 2 2 2 2 2 2 = + = + = + = + E Xi Var Xi E Xi n E X Var X E X 于是,有 . ( ) 1 1 ( ) ( ) 1 1 ( ) 2 2 2 2 2 2 1 2 2 = + − + − = − − = = n n n n E X n E X n E S n i i 注意到
前面两节中,我们曾用矩法和极大似然法 分别求得了正态总体N(4,σ中参数σ2的估计, 均为 n i=l 很显然,它不是σ的无偏估计。这正是我们为 什么要将其分母修正为-1,获得样本方差S9 来估计σ2的理由。 如果0是参数0的一个估计,我们通常用g(0) 作为g(0)的估计。但必须注意的是:即使0是0的 无偏估计,g(0)也未必是g(0)的无偏估计
无偏估计, 也未必是 的无偏估计。 作为 的估计。但必须注意的是:即使 是 的 如果 是参数 的一个估计,我们通常用 ) ( ) ˆ ( ˆ ( ) ) ˆ ( ˆ g g g g 前面两节中,我们曾用矩法和极大似然法 分别求得了正态总体 N(μ, σ 2 ) 中参数σ 2的估计, 均为 ( ) . 1 ˆ 2 1 2 X X n n i = i − = 很显然,它不是σ 2的无偏估计。这正是我们为 什么要将其分母修正为 n-1,获得样本方差 S 2 来估计σ 2的理由
例2:求证:样本标准差S不是总体标准差。 的无偏估计。 证明:因E(S2)=o2, 所以,Var(S)+[E(S)]2=o2, 由Var(S)>0,知 [E(S)]2=o2-Var(S<o2. 所以,E(S<o 故,S不是σ的无偏估计。 @@的
例2:求证:样本标准差S 不是总体标准差 的无偏估计。 证明:因 E(S 2)= 2 , 所以,Var(S)+[E(S)]2 = 2 , 由 Var(S)>0,知 [E(S)]2 = 2 - Var(S)< 2 . 所以,E(S)< . 故,S 不是 的无偏估计