北京工业大学：《概率论与数理统计 Probability and Statistics》课程电子教案（PPT教学课件）第二十讲 第七章 参数估计 第二节 极大似然估计（2/2）第三节 估计量的优良性准则

第七章第二节 极大似然估计(续)

第七章第二节 极大似然估计（续）

例2正态总体N(,a2)两个未知参数u和2 的极大似然估计 (注:我们把σ2看作一个参数) 解: 似然函数L(,02)=∏f(x,A,a2) xiu 2 2 =(2丌0)e 2To g Lo )=--log( 2r)--log( 32∑(x-y2

正态总体 N(, 2)两个未知参数和 2 的极大似然估计. (注:我们把 2看作一个参数) 解: 例2  = = = = − − − = − − =   n i i n i n x i x n i i e e L f x 1 2 2 2 2 ( ) 2 1 2 1 2 ( ) 1 2 2 (2 ) 2 1 ( , ) ( , , )        似然函数      = − − −  − = n i i x n n L 1 2 2 2 2 ( ) 2 1 log( ) 2 log( 2 ) 2 log ( , )      

似然方程组为 logL(,02)=-2(x-)=0 n log l(u, 0) 2+。_4>(x- 2022 i=1 根据第一式,就得到 * =-∑x1=x n i=1 代入第二式就得到:(21n ∑(x1-x) 1i=1 由上,似然方程组的解唯一.下面验证它是 极大值点 回回区

似然方程组为 根据第一式,就得到:       = − +  − =   =  − =   = = ( ) 0 2 1 2 log ( , ) ( ) 0 1 log ( , ) 1 2 2 4 2 2 1 2 2 n i i n i i x n L L x            x x n n i =  i = =1 * 1  代入第二式,就得到: =  − = n i i x x n 1 2* 2 ( ) 1  由上,似然方程组的解唯一.下面验证它是 极大值点

由(202)=(2)2aw limL(,2)=0 iL(x,2)=0imL(u,a2)=0 →∞ >0 =xa2=∑(x-x)2 n i=1 是L(μ,a2)的最大值点.∴μ和G的极大似然估 计量是 =Fa21 ∑(X;-X 1i=1 回民

是L(, 2)的最大值点. ∴ 和 2的极大似然估 计量是 = =  − = n i Xi X n X 1 * 2* 2 ( ) 1    = = − − − n i i n x L e 1 2 2 ( ) 2 1 2 2 ( , ) (2 )   由     lim ( , ) 0 lim ( , ) 0 lim ( , ) 0 2 0 2 2 2 2 = =  = → → →          L L L  = =  − = n i i x x n x 1 * 2* 2 ( ) 1  

总体泊松分布Ⅹ~P(入) 例3 求:参数λ的极大似然估计 f(x,)=,e4x=0,,2, X 似然函数1(x)-(x,x)=x,a2 =! x n ∴似然方程为 x 028L()=-m+x=0

总体 泊松分布 X ∼ P(). 求:参数的极大似然估计. 解: 例3  0,1,2, ! ( , ) = = − e x x f x x       = − = − =  =  = = = n i i x n n i i n x i i x e e x L f x n i i i 1 1 1 ! ! ( ) ( , ) 1      似然函数  ∴似然方程为 0 1 log ( ) 1 = − +  =   = n i i L n x   

得解:x=-∑x=x 1i=1 2 2g()= 2x<0 * X 是1ogL(入)的最大值点 入的极大似然估计量是 * d=X

x x n n i =  i = =1 * 1 得解:  0 1 log ( ) 1 2 2 2 = −     = n i i L x     是logL()的最大值点. ∴ 的极大似然估计量是  = x *  = X * 

例4总体均匀分布Ⅹ~U(a,b). 求:两个参数a,b的极大似然估计 解 x∈[a2b f(,a,b) b OXx≠[a2b] 似然函数L(a,b)=f(x2,a,b) x1∈[a,b]所有i=1,2,…,n (b-a) 0 其余情况

总体均匀分布 X ∼ U(a,b). 求:两个参数a,b的极大似然估计 解: 例 4        = − 0 [ , ] [ , ] 1 ( , , ) x a b x a b b a  f x a b         = − =  == 其余情况 所有 似然函数 0 [ , ] 1,2, , ( ) 1 ( , ) ( , , ) 1 x a b i n b a L a b f x a b n i n i i 

我们由上看到,L(a,b)作为a和b的二元函 数是不连续的 所以我们不能用似然方程组来求极大似然 估计,而必须从极大似然估计的定义出发,求 L(a,b)的最大值 为使L(a,b)达到最大,b-a应该尽量地小 但b又不能小于max{x1,x2,…,xn}.否 则,L(a,b)=0.类似地a不能大过 m1nⅩ1,X2,…,xn} 因此,a和b的极大似然估计为 a=min{X1,X2,…,Xn} b=max{X1,X2,……,Xn}

我们由上看到,L(a,b)作为a和b的二元函 数是不连续的. 所以我们不能用似然方程组来求极大似然 估计,而必须从极大似然估计的定义出发,求 L(a,b)的最大值. 为使L(a,b)达到最大,b－a应该尽量地小. 但b又不能小于max{x1,x2 , ,xn }.否 则,L(a,b)=0. 类似地a不能大过 min{x1,x2,,xn}. 因此,a和b的极大似然估计为 max{ , , , } min{ , , , } 1 2 * 1 2 * n n b X X X a X X X   = =

例5设X1,X2…X是取自总体X的一个样本 6 6-1 0, 求的极大似然估计 解:似然函数为 L(0)=116x4-=0"(∏x)00x<1 1<i<n 对数似然函数为 hL()=nh+(0-1∑hx 回回

解：似然函数为 = − = n i i L x 1 1 ( )    1 1 ( ) − = =    n i i n x (0  1) xi 对数似然函数为 = = + − n i L n xi 1 ln ( ) ln  ( 1) ln 1 i  n 例5设X1 ,X2 ,…Xn是取自总体X的一个样本      = − 0, 其它 , 0 1 ~ ( ) 1 x x X f x   求  的极大似然估计. 其中  >0

对数似然函数为 hL(0)=mhO+(0-1∑hx 求导并令其为0 dn l(o)n Inx. =0 de 0 从中解得 6 ∑hx即为的MLE 回回

= = + n i i x n d d L 1 ln ln ( )    求导并令其为0 =0 从中解得 = = − n i n xi 1 *  ln 即为  的MLE . 对数似然函数为 = = + − n i L n xi 1 ln ( ) ln  ( 1) ln