
第六章参数估计82点估计三、极大似然法例1如果一个射手击中目标的概率可能是84P=3'15'5现在让他打三发子弹,在不同的命中自标的次数下,我们应该如何取p的估计值p?解用X表示命中目标的次数,则X~B(3,P),即P(X = x) =C, p"(1 - p)"-* = P(x; p).计算结果列表如下:
三、 极大似然法 例1 如果一个射手击中目标的概率可能是 . 5 4 , 15 8 , 5 1 p 现在让他打三发子弹,在不同的命中目标的次数 下,我们应该如何取 p 的估计值 p ˆ ? 解 用 X 表示命中目标的次数,则 X ~B(3, p),即 { ) (1 ) ( ; ). 3 P X x C3 p p P x p x x x 计算结果列表如下: 第六章 参数估计 §2 点估计

第六章参数估计82点估计例1 ((续)0123命中次数x2717281296324P(x;-53375337533753375834311761344512P(x;1533753375337533751728271296324P(x; =)33753375337533758因为 P(0;) > P(0;一)> P(0;)551511这表明,P=使得打三发子弹命中为0的概率最大5由实际推断原理知,此时应取p=弓5
命中次数 x 0 1 2 3 ) 5 1 P(x; ) 15 8 P(x; ) 5 4 P(x; 3375 1728 3375 1296 3375 324 3375 27 3375 343 3375 1176 3375 1344 3375 512 3375 27 3375 324 3375 1296 3375 1728 ), 5 4 ) (0; 15 8 ) (0; 5 1 因 为 P(0; P P 这表明, 0 . 5 1 p 使得打三发子弹命中次数 为 的概率最大 由实际推断原理知, . 5 1 此时应取 p ˆ 例1(续) 第六章 参数估计 §2 点估计

第六章参数估计82点估计例1(续)2103命中次数x2717281296324P(x;533753375337533758-534311761344512P(x;337533753375337517281296273244P(x;53375337533753375因此,由上表可得下面的结论:I打三发命中次数x-1时,命中率p的合理估计p-58-54-5打三发命中次数x=2时,命中率p的合理估计p打三发命中次数x=3时,命中率p的合理估计p
命中次数 x 0 1 2 3 ) 5 1 P(x; ) 15 8 P(x; ) 5 4 P(x; 3375 1728 3375 1296 3375 324 3375 27 3375 343 3375 1176 3375 1344 3375 512 3375 27 3375 324 3375 1296 3375 1728 因此,由上表可得下面的结论: 打三发命中次数 x=1 时,命中率 p 的合理估计 ; 5 1 p ˆ 打三发命中次数 x=2 时,命中率 p 的合理估计 ; 15 8 p ˆ 打三发命中次数 x=3 时,命中率 p 的合理估计 . 5 4 p ˆ 例1(续) 第六章 参数估计 §2 点估计

第六章参数估计S2点估计1)若总体X属离散型,其分布律PX = x) = p(x;0),0 e0的形式为已知,θ为待估参数,④是θ可能取值的范围设X,.,X,是来自X的样本又设x,,x,是X,,.,X,的一个样本值,事件{X,=xi,.,X,=x,发生的概率为L(0) = L(x1,...,xn;0) - IIp(x,;0), 0 e0.i=1它是θ的函数.L()称为样本的似然函数
1) 若总体X属离散型,其分布律 P{X x} p(x; ), 的形式为已知, 为待估参数,是 可能取值的范围. , , , 设X1 Xn是来自X的样本 , , , , , 又设x1 xn是X1 Xn的一个样本值 第六章 参数估计 §2 点估计 ( ) ( , , ; ) L L x1 xn 它是 的函数. L( )称为样本的似然函数. 事件{X1 x1 , , Xn xn }发生的概率为: ( ; ), . 1 n i p xi

第六章参数估计S2点估计极大似然法原理:固定xi,,x,,挑选使概率L(xi,,x,;O)达到最大的参数,作为的估计值,即取使得:L(x,...,x,;0) = max L(x.,..,x,;0)EO与x,…,x,有关,记为(x,,x);称其为参数θ的极大似然估计值(X,…,X,)称为参数θ的极大似然估计量这种求未知参数θ的方法称为极大似然法
的参数 ,作为 的估计值,即取 使得: 固 定 挑选使概率 达到最大 ˆ ˆ , , , ( , , ; ) x1 xn L x1 xn 极大似然法原理:) max ( , , ; ) ˆ ( , , ; 1 1 n n L x x L x x ( , , ); ˆ , , ˆ 1 n 1 n 与 x x 有关,记为 x x 称其为参数 的极大似然估计值. 第六章 参数估计 §2 点估计 ( , , ) . ˆ X1 Xn 称为参数 的极大似然估计量 这种求未知参数 的方法称为极大似然法.

第六章参数估计82点估计2)若总体X属连续型,其概率密度(x;0),0 E?的形式已知,θ为待估参数设x,…,x,是相应X.,,X,的一个样本值则随机点(X,.…,X,)落在(x,.,x,)的邻域(边长f(x:分别为dx,,..,dx,的n维立方体)内的概率n近似为:If(x;0)dx;x;i=1在得到观测值(xi,,xz,,x,)的前提下,自然应当选取使得f(x;0)dx,i=1达到最大的θ值作为未知参数θ的估计值
. 2) ( ; ), 的形式已知, 为待估参数 若总体 属连续型,其概率密度 X f x 设x1 , , xn是相应X1 , , Xn的一个样本值, ( ; )d 1 i n i f xi x i x ( ) i f x 第六章 参数估计 §2 点估计 近似为: 分别为d d 的 维立方体 内的概率 则随机点 落在 的邻域 边长 , , ) ( , , ) ( , , ) ( 1 1 1 x x n X X x x n n n 应当选取使得 在得到观测值 x1 , x2 , , xn 的前提下,自然 ( ; )d 1 i n i i f x x 达到最大的 值作为未知参数 的估计值.

第六章参数估计S2点估计因为当未知参数9等于这个值时,出现给的那个样本观测值的可能性最大但ⅡIdx,不随θ而变,故只需考虑:L(0) = L(x,..,x,;0) =I f(x;:0),i1的最大值,这里L(①)称为样本的似然函数若 L(xi,..,x,;0) = max L(xi,..,x,;0)QEO则称é(xj,.…,x,)为θ的极大似然估计值称(X,,X,)为θ的极大似然估计量
样本观测值的可能性最大 . 因为当未知参数 等于这个值时,出现给定的那个 但 d i不随 而变,故只需考虑: i x ( ) ( , , ; ) ( ; ), 1 1 n i n i L L x x f x 的最大值,这里L( )称为样本的似然函数. 第六章 参数估计 §2 点估计 ) max ( , , ; ) ˆ ( , , ; 1 1 L x xn L x xn 若 ( , , ) . ˆ 则称 x1 xn 为 的极大似然估计值 ( , , ) . ˆ 称 X1 Xn 为 的极大似然估计量

第六章参数估计S2点估计一般,p(x;の),f(x;の)关于θ 可微,故 可由下式求得dL(①)—0-----似然方程de又因L(O)与In L()在同一处取到极值,因此的极大似然估计也可从下述方程解得:dInL(O)= O -----对数似然方程de若总体的分布中包含多个参数,aL即可令= 0,i=1,·,k-----似然方程组a0;
一般,p(x; ), f (x; )关于 可微,故 可由下式求得: 0 d d ( ) L 大似然估计 也可从下述方程解得: 又 因 与 在同一 处取到极值,因此 的 极 L( ) ln L( ) ln ( ) 0 d d L -对数似然方程 -似然方程 第六章 参数估计 §2 点估计 若总体的分布中包含多个参数, i k L i 0, 1,, 即可令 -似然方程组

第六章参数估计S2点估计aln L或-对数似然方程组= 0,i=1,...,k00解k个方程组求得e,..,e,的极大似然估计值即可得①,,①,的极大似然估计量一般来讲,极大似然估计优于矩估计,因而在应用中,我们应当尽可能地使用极大似然估计
, , . 解k个方程组求得1 k 的极大似然估计值 , , . 即可得1 k 的极大似然估计量 应用中,我们应当尽可 能地使用极大似然估计 . 一般来讲,极大似然估 计优于矩估计,因而在 i k L i 0, 1, , ln 或 -对数似然方程组 第六章 参数估计 §2 点估计

第六章参数估计82点估计极大似然法求估计量的步骤:(一般情况下)1)构造似然函数 L(①) :L(O)=f(x,)(连续型)L(の)=IP(x;)(离散型),i=1i=-12)取对数:In L(0);dIn L3)令= 0;de4)解似然方程得的极大似然估计量θ说明:若似然方程(组)无解,或似然函数不可导此法失效,改用其它方法
极大似然法求估计量的步骤:(一般情况下) 1) 构造似然函数 L( ) : ( ) ( ) ( , 1 n i L P xi 离散型) n i xi L f 1 ( ) ( ) (连续型); 2) 取对数:ln L( ); 0; d dln 3) L 令 . ˆ 4) 解似然方程得 的极大似然估计量 说明:若似然方程(组)无解,或似然函数不可导, 此法失效,改用其它方法. 第六章 参数估计 §2 点估计