下面分别就离散型总体和连续型总体情形作具体讨论 离散型总体的情形:设总体X的概率分布为 P{X=x}=p(x,O),其中为未知参数 如果X1,X2,…,Xn是取自总体X的样本,样本的观察值为x,x2,…,xn,则样本的联合分布律 PX1=x,…,X=x}=∏P(x, 对确定的样本观察值x1,x2,…,xn,它是未知参数的函数 记为L(O)=L(x,x2…,x,0)=∏f(x,0),并称其为似然函数 连续型总体的情形:设总体X的概率密度为f(x,O),其中θ为未知参数,此时定义似然函 数 L(O)=L(x1,x2,…,x,O)=f(x,) 似然函数L(θ)的值的大小意味着该样本值出现的可能性的大小,在已得到样本值 x1,x2,…,xn的情况下,则应该选择使L()达到最大值的那个作为0的估计O.这种求点估 计的方法称为最大似然估计法 定义若对任意给定的样本值x,x2…,xn,存在 使 L(6)=maxL(6), 则称O=0(x1,x2,…x)为O的最大似然估计值称相应的统计量(X1,X2…,Xn)为0最大似 然估计量.它们统称为的最大似然估计(MLE) 求最大似然估计的一般方法 求未知参数θ的最大似然估计问题,归结为求似然函数L(O)的最大值点的问题当似 然函数关于未知参数可微时,可利用微分学中求最大值的方法求之.其主要步骤 (1)写出似然函数L()=L(x1,x2,…,x,O) (2)令“()=0或(e 1b=0,求出驻点 注:因函数hL是L的单调增加函数,且函数hL()与函数L()有相同的极值点故常转 化为求函数hnL(θ)的最大值点较方便 (3)判断并求出最大值点,在最大值点的表达式中,用样本值代入就得参数的最大似然 估计值 注:()当似然函数关于未知参数不可微时,只能按最大似然估计法的基本思想求出最 大值点 (i)上述方法易推广至多个未知参数的情形 例题选讲 求矩估计的方法 例1(E01)设总体X的概率密度为 (a+1)xa,0<x<1 f(x)= 其它 其中a>-1是未知数,X1X2,…,X是取自X的样本,求参数a的矩估计 解数学期望是一阶原点矩 A=E(X)=[(a+1xa=(a+1)[x+=a+ a+2下面分别就离散型总体和连续型总体情形作具体讨论. 离散型总体的情形: 设总体 X 的概率分布为 P{X = x} = p(x,), 其中  为未知参数. 如果 X X Xn , , , 1 2  是取自总体 X 的样本,样本的观察值为 n x , x , , x 1 2  ,则样本的联合分布律 { ,, , } ( , ), 1 1 1 = = = = n i n n i P X x  X x p x  对确定的样本观察值 n x , x , , x 1 2  ,它是未知参数  的函数, 记为 = = = n i n i L L x x x f x 1 1 2 ( ) ( , ,, , ) ( , ) ,并称其为似然函数. 连续型总体的情形: 设总体 X 的概率密度为 f (x,) ,其中  为未知参数,此时定义似然函 数 = = = n i n i L L x x x f x 1 1 2 ( ) ( , ,, , ) ( , ) . 似然函数 L( ) 的值的大小意味着该样本值出现的可能性的大小, 在已得到样本值 n x , x , , x 1 2  的情况下, 则应该选择使 L( ) 达到最大值的那个  作为  的估计  ˆ . 这种求点估 计的方法称为最大似然估计法. 定义 若对任意给定的样本值 n x , x , , x 1 2  , 存在 ( , , , ) ˆ ˆ 1 2 n  = x x  x , 使 ) max ( ), ˆ (   L = L 则称 ( , , , ) ˆ ˆ 1 2 n  = x x  x 为  的最大似然估计值.称相应的统计量 ( , , , ) ˆ  X1 X2  Xn 为  最大似 然估计量. 它们统称为  的最大似然估计(MLE). 求最大似然估计的一般方法 求未知参数  的最大似然估计问题, 归结为求似然函数 L( ) 的最大值点的问题. 当似 然函数关于未知参数可微时, 可利用微分学中求最大值的方法求之. 其主要步骤: (1) 写出似然函数 ( ) ( , , , , ) L  = L x1 x2  xn  ; (2) 令 0 ( ) =   d dL 或 0 ln ( ) =   d d L , 求出驻点; 注: 因函数 ln L 是 L 的单调增加函数,且函数 ln L( ) 与函数 L( ) 有相同的极值点,故常转 化为求函数 ln L( ) 的最大值点较方便. (3) 判断并求出最大值点, 在最大值点的表达式中, 用样本值代入就得参数的最大似然 估计值. 注：(i) 当似然函数关于未知参数不可微时，只能按最大似然估计法的基本思想求出最 大值点。 (ii) 上述方法易推广至多个未知参数的情形. 例题选讲 求矩估计的方法 例 1 (E01) 设总体 X 的概率密度为 , 0, ( 1) , 0 1 ( )     +   = 其它 x x f x   其中 a  −1 是未知数， X X Xn , , , 1 2  是取自 X 的样本, 求参数  的矩估计. 解 数学期望是一阶原点矩  = = + 1 0 1 E(X ) ( 1)x dx    , 2 1 ( 1) 1 0 1 + + = + =  +     x dx