正在加载图片...
二、极大似然估计的求法及例 获得参数的极大似然估计有下列两种方法: 1.用微积分中求极值的方法 若似然函数L(,x)是的连续可微函数,则我们可用微积分中求极值点的方法去求的MLE. 找使L(0,x)达到最大时的值.由于L(0,x)和1ogL(0,x)=l(0,x)具有相同的极值点,我们可 用(0,x)来代替L(0,x).因为L(0,x)一般是若干个函数的乘积,(0,x)为若干个函数之和而较 易于处理 设0=(01,·,0.)为参数向量(特别当k=1,0为参数).若(0,x)的极大值在参数空间日的 内点处(而非边界点)达到,则此点必为似然方程组 a(0,x=0i=1,2,…,k 08. 的解。 因此求极大似然估计首先求似然方程的解8.但此解是否一定是9的MLE呢?满足似然 方程,只是LE的必要条件,而非充分条件.一般只有满足下列条件:(①)似然函数的极大值 在参数空间日内部达到,()似然方程只有唯一解,则似然方程之解必为的LE. 因此我们求出似然方程(或方程组)的解后,要验证它为的MLE,有时并非易事.但对样 本分布族是指数族的场合,有非常满意的结果,叙述如下: 设X=(X1,·,X)为从某总体中抽取的简单随机样本,X1的分布为指数族,即 f(x,0)=C(0)exp ∑a,T(a)}h(,0∈日 此处日为自然参数空间,日0为日之内点集,这时X的联合密度为 L(0,x刈=Cm(o)exp{∑a:∑T(a)}h(x) 1=1 其中h(x)=Ⅱh(x).对上式取对数得 1(0,x)=logL(0,x)=nlogC(0)+∑8,∑T() 1 定理1.若对任何样本X=(X1,…,Xn),方程组 n0C@=-∑I(X),i=1,2,…,k C(0)08: 在日o内有解,则解必唯一,且为0的MLE. 证明思路由于自然参数空间为一凸集,若方程组有两个不同的解,和1,则构造函数 H(t)=1(t0o+(1-t)91),0≤t≤1. 3!4åq,O¶{9~ ºÎÍθ4åq,Oke¸´ê{: 1. ^ứ•¶4äê{ eq,ºÍL(θ, x)¥θÎYåáºÍ, K·Çå^ứ•¶4ä:ê{¶θMLE. ȶL(θ, x)àÅåûθä. duL(θ, x)⁄log L(θ, x) = l(θ, x)‰kÉ”4ä:, ·Çå ^l(θ, x)5ìOL(θ, x). œèL(θ, x)òÑ¥eZáºÍ¶», l(θ, x) èeZáºÍÉ⁄  ¥u?n. θ = (θ1, · · · , θk)èÎÍï˛(AOk = 1, θèÎÍ). el(θ, x)4åä3ÎÍòmΘ S:?( ö>.:)à, Kd:7èq,êß| ∂l(θ, x) ∂θi = 0, i = 1, 2, · · · , k ). œd¶4åq,Oƒk¶q,êß)ˆθ.d)¥ƒò½¥θ MLE Q? ˆθ˜vq, êß, ê¥MLE7á^á, öø©^á. òÑêk˜ve^á: (i) q,ºÍ4åä 3ÎÍòmΘS‹à, (ii) q,êßêkçò), Kq,êßÉ)ˆθ7èθMLE. œd·Ç¶—q,êß(½êß|))￾, áyßèθMLE, kûøö¥Ø. È ©Ÿx¥çÍx|‹, kö~˜ø(J, Q„Xe: X = (X1, · · · , Xn)èl,oN•ƒ{¸ëÅ, X1©ŸèçÍx, = f(x, θ) = C(θ) exp nX k i=1 θiTi(x) o h(x), θ ∈ Θ d?Θèg,ÎÍòm, Θ0èΘÉS:8, ˘ûXÈ‹ó›è L(θ, x) = C n (θ) exp nX k i=1 θi Xn j=1 Ti(xj ) o h(x), Ÿ•h(x) = Qn i=1 h(xi).È˛™ÈÍ l(θ, x) = log L(θ, x) = n log C(θ) +X k i=1 θi Xn j=1 Ti(xj ) ½n 1. eÈ?¤X = (X1, · · · , Xn),êß| n C(θ) ∂C(θ) ∂θi = − Xn j=1 Ti(Xj ), i = 1, 2, · · · , k 3Θ0Sk), K)7çò, ÖèθMLE. y²g¥ dug,ÎÍòmèò‡8, eêß|k¸áÿ”), θ0⁄θ1, KEºÍ H(t) = l(tθ0 + (1 − t)θ1), 0 ≤ t ≤ 1. 3
<<向上翻页向下翻页>>
©2008-现在 cucdc.com 高等教育资讯网 版权所有