Lec6:点估计（三） 张伟平 2011年3月24日 1一致最小方差无偏估计 一、引言及定义 设有一参数分布族多={F6,0∈日}，其中日为参数空间.设g()是定义在日上的函数， X=(X1,·,Xn)为自总体F6中抽取的简单样本，(X)=g(X1,·,Xn)为g(9)的一个估计量， 如何评价(X)的优劣？一般用(X)-g)作为其偏差，为消除(X)-g()取值出现“+，-”可 能抵消的影响，一般用（©(X)-9()2来代替.由于这个量是随机的，将其平均，即计算其均值，以 得到一个整体性的指标E(©(X)-g(0)2,这就是估计量g(X)的均方误差. 定义1.设g(X)为g(0)的估计，则称Eg(G(X)-g(0)2为g(X)的均方误差(Mean Square Error,简 记MSE) 设1(X)和2(X)为g(0)的两个不同的估计，若 Ea(©(X)-g(0)2≤Eg(2(X)-9(0)2,对一切0∈日， 则称在MSE准则下1(X)优于2(X). 若存在g(X),使得对g(0)的任一估计量(X),都有 E(g(X)-9(0)2≤E(G(X)-9(0)2,对-切0∈6， 则称(X)为g()的一致最小均方误差估计. 可惜的是一致最小均方误差估计常不存在.解决这个问题的办法之一，是把最优性准则放 宽一些，使适合这种最优性准则的估计一般能存在.从直观上想，在一个大的估计量的类中找 一致最优的估计不存在，把估计量的类缩小，就有可能存在一致最优的估计量.因此我们把估 计类缩小为无偏估计类来考虑.在无偏估计类中，估计量的均方误差就变为其方差.即当©(X) 为g()的无偏估计时，MSE(g(X)=D(G(X),此处D(G(X)表示g(X)的方差. 存在这样的情形，对参数g()它的无偏估计不存在.请看下例： 例1.设样本X~二项分布b(n,p),n已知而p未知.令g(p)=1/p,则参数g(p)的无偏估计不存在 证采用反证法：若不然，g(p)有无偏估计(X)由于X只取0,1，·，n这些值，令(X)的取值 用g()=a:表示，i=0,1,·,n.由g(X)的无偏性，应有 Ex》-2(O)--=p,0<p<1Lec6: :O(n) ‹ï² 2011 c 3  24 F 1 òóÅêÆO ò!⁄Û9½¬ kòÎÍ©ŸxF = {Fθ, θ ∈ Θ},Ÿ•ΘèÎÍòm. g(θ)¥½¬3Θ˛ºÍ, X = (X1, · · · , Xn)ègoNFθ •ƒ{¸, ˆg(X) = ˆg(X1, · · · , Xn)èg(θ) òáO˛, X¤µdgˆ(X)`? òÑ^gˆ(X) − g(θ) ä蟆, èûÿgˆ(X) − g(θ)ä—y/+, −0å U-ûKè, òÑ^(ˆg(X) − g(θ))25ìO. du˘á˛¥ëÅ, ÚŸ²˛, =OéŸ˛ä, ± òáN5çIEθ(ˆg(X) − g(θ))2 , ˘“¥O˛gˆ(X)˛êÿ. ½¬ 1. gˆ(X)èg(θ)O, K°Eθ(ˆg(X)−g(θ))2 ègˆ(X)˛êÿ (Mean Square Error,{ PMSE) gˆ1(X)⁄gˆ2(X)èg(θ)¸áÿ”O, e Eθ ￾ gˆ1(X) − g(θ)
2 ≤ Eθ ￾ gˆ2(X) − g(θ)
2 , ÈòÉ θ ∈ Θ, K°3MSEOKegˆ1(X)`ugˆ2(X). e3gˆ ∗ (X),¶Èg(θ)?òO˛gˆ(X),—k Eθ ￾ gˆ ∗ (X) − g(θ)
2 ≤ Eθ ￾ gˆ(X) − g(θ)
2 , ÈòÉ θ ∈ Θ, K°gˆ ∗ (X)èg(θ)òóÅ˛êÿO. åJ¥òóÅ˛êÿO~ÿ3. )˚˘áØKç{Éò, ¥rÅ`5OKò °ò , ¶·‹˘´Å`5OKOòÑU3. lÜ*˛é, 3òáåO˛a•È òóÅ`Oÿ3, rO˛a†, “kåU3òóÅ`O˛. œd·Çr Oa†èÆOa5ƒ. 3ÆOa•, O˛˛êÿ“CèŸê. =gˆ(X) èg(θ)ÆOû, MSE(ˆg(X)) = Dθ(ˆg(X)), d?Dθ(ˆg(X))L´gˆ(X)ê. 3˘ú/, ÈÎÍg(θ)ßÆOÿ3. ûwe~: ~1. X ∼ ë©Ÿ b(n, p), nÆ pô. -g(p) = 1/p,KÎÍg(p)ÆOÿ3. y Ê^áy{: eÿ,, g(p)kÆOgˆ(X).duXê0, 1, · · · , n˘ ä, -gˆ(X)ä ^gˆ(i) = aiL´, i = 0, 1, · · · , n.dgˆ(X)Æ5,Ak Ep(ˆg(X)) = Xn i=0 ai  n i  p i (1 − p) n−i = 1/p, 0 < p < 1. 1