§6.2极大似然估计 极大似然估计法是求估计的另一种方法。 它最早由高斯提出。后来为费歇在1912年的 文章中重新提出,并且证明了这个方法的一 些性质。极大似然估计这一名称也是费歇给 的。这是一种上前仍然得到广泛应用的方法 它是建立在极大似然原理的基础上的一个统 计方法,极大似然原理的直观想法是:一个 随机试验如有若干个可能的结果A,B, C,…。若在一次试验中,结果A出现,则一 般认为试验条件对A出现有利,也即A出现的 概率很大。我们来看一个例子。(例题略)
§6.2 极大似然估计 极大似然估计法是求估计的另一种方法。 它最早由高斯提出。后来为费歇在1912年的 文章中重新提出,并且证明了这个方法的一 些性质。极大似然估计这一名称也是费歇给 的。这是一种上前仍然得到广泛应用的方法。 它是建立在极大似然原理的基础上的一个统 计方法,极大似然原理的直观想法是:一个 随机试验如有若干个可能的结果A,B, C,…。若在一次试验中,结果A出现,则一 般认为试验条件对A出现有利,也即A出现的 概率很大。我们来看一个例子。(例题略)
下面我们对连续型与离散型母体两种情形阐述 极大似然估计。 设1,2,…,为取自具有概率函数 f(x,:日E⊙)的母体专的一个子样。子样号1, 2,…,专的联合概率函数在,取已知观测值 X;,=l,n时的值f(x1:)f(x2;)…f(x:)是 的函数。我们用L(日)=L(9:X1,…,X:) 表示,称作这个子样的似然函数。于是
L(8)=L(8;x1,…,xx) =f(x1)f(x2;)…f(x;) (6.8)gzs 如果是离散型母体,L(8;X1,…,Xx)】 给出观测倒(X1,X2,…,X。)的概率。因此, 可以把L(日;X1,…,X.)看成为了观测倒(X1, X2,…,X)时出现什么样9的可能性的一个测
度。所以我们只要寻找这样的观测值(X1,X2,…, X)的函数月=月(X1,…,Xx),以日代8使 L(8;X1,…,Xw)=spL(8; 8a0 X1,…,Xx) (6.9) 成立。满足(69)式的日(X1,…,X)就是最 可能产生X1,…,X的参数日的值。我们称日
(X1,…,Xx)为参数日的极大似然估计值,其 相应的统计量合(传,…,5)称作参数日的极大似然估 计呈。 如果号是连续型,f(x1:),8∈④表示密度 函做。于是子样(51…,5a)落入点(X1,…,X) 的邻域内的概率为∏f(x;日)△x,同样是日的函 i1 数。既然(X1,…,Xx)在一次抽样中出现,当
然可以认为子样(传1…,5m)落在(X1,…,X) 的邻域内的概率达到最大。所以我们只要找出使 ΠJ(x;8)Ax:达到最大的8的值a(X1,… Xx)。由于△x是不依赖于8的增量,我们也只须求 出使得zs Z(8,x1,…,xg)=f(x,8)△x 达到最大值的,便可得到极大似然估计。综上所述知
道,连续型母体的参数的极大似然估计同样可以用 (6.8)与(6.9)两式表示。 由于x是x的单调增还数,使 lmL8(X1,…,Xw)=sup inL(X1,…, 8c@ (6.10) 成立的日也使(6.9)成立,折以有时我们只要从(6. 10)中求8就好了。(例题略) 极大似然估计有一简单而有用的性质
性质设为f(x:)中参数8的极大似然 估计,并且函数1=u(日)具有反函数日=日(u),则这= u(日)是8)的极大似然估计。这里8∈④,u为u ()的值域。(证明略) 极大似然估计量还有一个重要性质渐近正态 性,这对以后在大子样情形求参数的区间估计和进行 假设检验时很有用。杜克首先提出这一性质的证明。 下面我们对连续型随机变量以定理的形式叙述这一性 质。对离散型随机变量,只要以求和号代积分号,便 可得到类似的定理
定理6.1设随机变量具有密度函数 f(x,),未知参数日∈Φ,重为非退化区间,假定 (1)对于任何一个日∈Φ和任一个数x偏导数 a1og,1ogf和01og1存在, 2o 082 083 (2)对于玉中每一个日值,不等式 <(, <F(x)(6.19) 成立,其中函数F1(x),F2(x)在整个数轴上
(-c0,0)可积,而函数F,(x)满足不等式 ()f(;0)dx<M (6.20) 其中M与8无关; (3)对于Φ中每一个8, alog)2]- logf:i<n (6.21)