上饶师范学院：《概率论与数理统计》课程教学资源（电子教案）第六章 点估计 6.1 矩法估计

§6.1矩法估计 那么，怎样构造估计量呢？在第五章中由大数定律我们知道子样矩依概率收敛于母体 矩，又在许多分布中它们所含的参数都是矩的函数，例如正态分布N(4,σ)中的参数 和。就是这个分布的一阶原点矩和二阶中心矩。因此很自然地会想到用子样矩来代替母体 矩，从而得到母体分布中参数的一种估计。这种估计方法称为矩法。它的思想实质是采用子 样的经验分布和子样矩去替换母体的分布和母体矩的原则。今后称之为替换原则。 设母体5具有已知类型的概率函数f(x月，8，…，8n),(日1，B2,,日n)∈⊙ 是k个未知参数。52，…，5m是取自母体5的一个子样，假设5的k阶矩心，=E5存 在，显然D,jk都存在，并且是B,B2,,日k的函数D(B1,B2,,日n) 子样5,5“5的阶矩为2引 我们设 U(0,02,…,日n=5,j1,2…,k (6.1) 得到含k个未知数B1,日2，…，日k的k个方程式，解这k个联列方程组就可以得到 日1，日2，…，日k的一组解： 0,=0,(51,52,…5n),i1,2,k (62) 用(6.1)中的解0，估计参数日就是矩法估计。由于日是51,52，，5，子样的函 数，所以0，是统计量 顺便提一下，在数理统计学业中我们一般在被估计的参数0加一个符号如尖顶0，或其 他符号用以表示日的估计值，下面我们举个矩法估计的例子。 例6.1母体均值E5与方差D5为矩法估计。 解设是51,52，，5n母体的子样。母体具有均值E5和方差 D5-E52-(E5)2 按照(6.1)式得方程式组 u=E5-5 凸=E5-(E5P+D-月

§6.1 矩 法 估 计 那么，怎样构造估计量呢？在第五章中由大数定律我们知道子样矩依概率收敛于母体 矩，又在许多分布中它们所含的参数都是矩的函数，例如正态分布 N（ 2 , ）中的参数  和 2  就是这个分布的一阶原点矩和二阶中心矩。因此很自然地会想到用子样矩来代替母体 矩，从而得到母体分布中参数的一种估计。这种估计方法称为矩法。它的思想实质是采用子 样的经验分布和子样矩去替换母体的分布和母体矩的原则。今后称之为替换原则。 设母体  具有已知类型的概率函数 ( ; , , , ) 1 2 n f x     ， ( 1 ，2 ，…，  n )∈  是 k 个未知参数。  2 ，…，  n 是取自母体  的一个子样，假设  的 k 阶矩  k =E  k 存 在，显然  j ，j<k 都存在，并且是 1 ，2 ，…，  k 的函数  j ( 1 ，2 ，…，  n )。 子样  1 ，  2 ，…，  n 的 j 阶矩为 j  = = n i j i n 1 1  。 我们设  j ( 1 ，2 ，…，  n )= j  ，j=1,2, …，k （6.1） 得到含 k 个未知数 1 ，2 ，…，  k 的 k 个方程式，解这 k 个联列方程组就可以得到 1 ，2 ，…，  k 的一组解：  i  = i  （  1 ， 2 ，…，  n ），i=1,2, …，k （6.2） 用（6.1）中的解  i  估计参数 i 就是矩法估计。由于  i  是  1 ，  2 ，…，  n 子样的函 数，所以  i  是统计量。 顺便提一下，在数理统计学业中我们一般在被估计的参数  加一个符号如尖顶  i  或其 他符号用以表示  的估计值，下面我们举个矩法估计的例子。 例6.1 母体均值 E  与方差 D  为矩法估计。 解 设是  1 ，  2 ，…，  n 母体的子样。母体具有均值 E  和方差 D  =E  2 -（E  2 ) 按照（6.1）式得方程式组 1 = E  =  2 = E  2 =（E  2 ) + D  = 2 

解这一方程组得E5和D5矩法估计 厨=2 D5=- (6.3) 26-司 =S好 那么用矩法得到的估计是否好呢？下面我们讨论体现估计好坏标准的两个性质。 用矩法得到的参数估计有时具有一些优良性质。根据§4.1中辛饮大数定律，对任何￡>0， IimP作-Ee-o 并且对于任何1只要E5/存在，同样有 IimP形-E5h0,rH,j 由此可知，用矩法估计所得到的母体均值E5和各阶原点矩E5”,「≤j的估计量5和E”, 当很大时，它们分别与自己真值的差小于任何数的概率趋于1，即估计量与真值很接近的 可能性非常大。由于对同一个待估参数日可以构造许多个估计量，但不是每一个估计量都像 矩法估计那样具有这种性质，因此一个估计具有不具有这种性质，显然可以作为衡量这个估 计量好坏的准则。我们把这一准则精确地定义如下。 定义6.1设母体5具有概率函数f(x),0∈①为未知参数。0。=0。(51， 52,…,5,)为日的一个估计量，n为子样容量。若对任何一个￡0，式 limp(0-0>6)=0 成立，则称日n为日参数的一致估计。 上述例1中的5是母体均值E5的一个一致估计，5”是的E5'一个一致估计。为 了匹期6》成中S-片空6-司是华方提装表度用专4妇中的定理7

解这一方程组得 E  和 D  矩法估计 E =   = = n i i n 1 1  D =  2 2  − () （6.3） = 2 1 ( ) 1 = − n i i n   = 2 n S 那么用矩法得到的估计是否好呢？下面我们讨论体现估计好坏标准的两个性质。 1.一致估计 用矩法得到的参数估计有时具有一些优良性质。根据§4.1 中辛钦大数定律，对任何  >0， 有 lim n→ P ( − E   )= 0 并且对于任何 j,只要 E  j 存在，同样有 lim n→ P ( −    )= 0 r r E ，r=1, …，j 由此可知，用矩法估计所得到的母体均值 E  和各阶原点矩 E r  ，r≤j 的估计量  和 r  ， 当 n 很大时，它们分别与自己真值的差小于任何数的概率趋于 1，即估计量与真值很接近的 可能性非常大。由于对同一个待估参数  可以构造许多个估计量，但不是每一个估计量都像 矩法估计那样具有这种性质，因此一个估计具有不具有这种性质，显然可以作为衡量这个估 计量好坏的准则。我们把这一准则精确地定义如下。 定义 6.1 设母体  具有概率函数 f (x; ) ， ∈  为未知参数。  n  = n  （  1 ，  2 ，…，  n ）为  的一个估计量，n 为子样容量。若对任何一个  >0，式 lim n→ P ( −   )= 0  成立，则称  n  为  参数的一致估计。 上述例 1 中的  是母体均值 E  的一个一致估计， r  是的 E  r 一个一致估计。为 了证明（6.3）式中 2 n S = 2 1 ( ) 1 = − n i i n   是母体方差的一致估计，我们要用§4.2 中的定理 4.7

并且根据这个定理还可讨论子样矩的函数的一致性问题。例如根据辛软大数定律 2P→E52,再由依概率收敛的四则运算的性质， S=E2-(E→EE2-(E2=D5 这就得出子样方差S,是母体方差D5的一致估计 2无偏差估计 估计的一致性是大子样所呈现的性质。当子样容量不大时，估计的这种性质就不存在。 这里我们给出另一种对任何子样容量都适用的评价估计量好坏的准则。 在例6.1中我们知道E5的矩法估计是5，由定理5.1知它的数学期望和方差分别为 E(E5)=E5=E5 D (ES)-D=1D 从此可以看出，用子样均值5作为母体均值E5的估计，虽然没有说明用个别的5来 估计时偏差有多大，但这种偏差只能是随机性的。估计5只是在E5的两旁随机地摆动， 在大数次重复取样下不会系统地引起过高或过低的偏差，而平均起来却集中于E5,即 Eξ=E5。这是估计量所应具有的一种良好性质。但是在用子样方差S?作为母体方差的 估计时，却不具有这种性质，因为由定理5.2得知 ES:-n-1DE 它比D略小一些，这说明在重复取样下，S,看起来似乎在D周围随机地摆动，但它 较多地在D5的左边摆动。这就是说S,作为D5的估计，除了含随机偏差外，还存在一 种系统性偏差。这是我们的估计量所不希望具有的性质。没有系统偏差的性质在统计学上称 作无偏性。显然它可以作为衡量一个估计量好坏的另一准则。 定义6.2设8=6(52，，5n）为母体5的概率函数{/(x,):0∈⊙}的未 知参数日的一个估计量。若对一切日∈中，关系式 E。5,5】-0 (6.5) 成立。则称(5，…，5n)为0的无偏估计，否则称为有偏的。 显然，子样均值5是母体E5的无偏估计，子样原点矩5是母体原点矩E5的无

并且根据这个定理还可讨论子样矩的函数的一致性问题。例如根据辛钦大数定律 2 2  E ⎯P→ ，再由依概率收敛的四则运算的性质， 2 n S =  E E D PE − ⎯⎯→ − = 2 2 2 2 ( ) ( ) 这就得出子样方差 2 n S 是母体方差 D  的一致估计。 2.无偏差估计 估计的一致性是大子样所呈现的性质。当子样容量不大时，估计的这种性质就不存在。 这里我们给出另一种对任何子样容量都适用的评价估计量好坏的准则。 在例 6.1 中我们知道 E  的矩法估计是  ，由定理 5.1 知它的数学期望和方差分别为 E（ E  ）=E  = E  D（ E  ）=D  = n 1 D  从此可以看出，用子样均值  作为母体均值 E  的估计，虽然没有说明用个别的  来 估计时偏差有多大，但这种偏差只能是随机性的。估计  只是在 E  的两旁随机地摆动， 在大数次重复取样下不会系统地引起过高或过低的偏差，而平均起来却集中于 E  ，即 E  = E  。这是估计量所应具有的一种良好性质。但是在用子样方差 2 n S 作为母体方差的 估计时，却不具有这种性质，因为由定理 5.2 得知 E 2 n S = n n −1 D  它比 D  略小一些，这说明在重复取样下， 2 n S 看起来似乎在 D  周围随机地摆动，但它 较多地在 D  的左边摆动。这就是说 2 n S 作为 D  的估计，除了含随机偏差外，还存在一 种系统性偏差。这是我们的估计量所不希望具有的性质。没有系统偏差的性质在统计学上称 作无偏性。显然它可以作为衡量一个估计量好坏的另一准则。 定义 6.2 设  =  （  2 ，…，  n ）为母体  的概率函数 f (x;):  的未 知参数  的一个估计量。若对一切  ∈  ，关系式 [ ( , )] E 1， n       =0 （6.5） 成立。则称 ( , ) 1， n      为  的无偏估计，否则称为有偏的。 显然，子样均值  是母体 E  的无偏估计，子样原点矩 k  是母体原点矩 E  k 的无

偏估计。从上面讨论也可看出子样方差S好不是母体方差D5的无偏估计。一般地，二阶或 二阶以上的子样中心矩就不是母体中心矩的无偏估计。 若我们取 S”.nES.12(5- n-1台 (6.6) n-1 作为母体方差D5的估计，则由定理52的结论 ES-nES:- n.n-1 DE-DE n-1 n-1n 由此推出S是母体方差D5的无偏估计。 从S不是D5的无偏估计也可看出，若0，，日是参数日，…，O的无偏 估计，函数p(何，…，0)并不一定是p(8,…,日)的无偏估计。 由有偏估计S。修改成无偏估计S:是一种常用的方法，一般说来，如果日是参数日 的有偏估计，并且E日=a+b日，这里a、b是常数，于是我们能构造的一个无偏估计 0_6-a b 若0的一个估计日不一定无偏的，但当n→0时，E日→日，则称日为日，的渐近 无偏估计。 显然，子样方差S-之(G,一？是母体方差的一个渐近无偏估计。 例6.3、例6.4略

偏估计。从上面讨论也可看出子样方差 2 n S 不是母体方差 D  的无偏估计。一般地，二阶或 二阶以上的子样中心矩就不是母体中心矩的无偏估计。 若我们取 •2 n S = n −1 n E 2 n S = = − − n i i n 1 2 ( ) 1 1   （6.6） 作为母体方差 D  的估计，则由定理 5.2 的结论 E •2 n S = n −1 n E 2 n S = n n n n 1 1 −  − D  = D  由此推出 •2 n S 是母体方差 D  的无偏估计。 从 2 n S 不是 D  的无偏估计也可看出，若  1  ，…，  k  是参数 1 ，…， k 的无偏 估计，函数 ( , , )  1  k    并不一定是 ( , , )  1   k 的无偏估计。 由有偏估计 2 n S 修改成无偏估计 •2 n S 是一种常用的方法，一般说来，如果   是参数  的有偏估计，并且 E   =a+b  ，这里 a、b 是常数，于是我们能构造的一个无偏估计    = b  − a  。 若  的一个估计   不一定无偏的，但当 n →  时，E   →, 则称   为 , 的渐近 无偏估计。 显然，子样方差 2 n S = = − n i i n 1 2 ( ) 1   是母体方差的一个渐近无偏估计。 例 6.3、例 6.4 略