北京交通大学：《概率论与数理统计》课程教学资源（PPT课件）第七章 参数估计

第七章参数估计 §1点估计 §1点估计 设总体X的分布函数F(x;的形式为已知,O是待估参数 X1…Xn是X的一个样本,x1…xn是相应的样本值 点估计问题: 构造一个适当的统计量(X1…Xn),用它的观察值 (x1,…,xn)来估计未知参数O 我们称B(X1…Xn)为e的估计量;称(x1…,xn) 为θ估计值。 「备]返回主目录

第七章 参数估计 §1 点估计 §1 点估计 设总体X的分布函数F(x; )的形式为已知，是待估参数。 X1 Xn 是X的一个样本，x1 xn 是相应的样本值。 点估计问题： 来估计未知参数 。 构造一个适当的统计量 ，用它的观察值    ( , , ) ˆ ( , , ) 1 1 n n x x X X   为 估计值。 我们称 为 的估计量；称    ( , , ) ˆ ( , , ) 1 n 1 n X  X x  x 返回主目录

第七章参数估计 1.矩估计法 §1点估计 设X为连续型随机变量,其概率密度为f(x,O12…,Ok) X为离散型随机变量,其分布列为P{X=x}=P(x:O1…,Ok)2 其中12…,O是待估参数,X1,…,Xn为来自的样本 设EX 1,2,…,k存在 则 1=1.…·k 这里是包含个未知参数θ1…,θ的联立方程组, 从中解出方程组的解1,6的计量,这种求 用O1,…,b分别作为1…,的 估计量的方法称为矩估计法。 「备]返回主目录

第七章 参数估计 §1 点估计 1. 矩估计法 { } ( ; , , ), ( ; , , ), 1 1 k k X P X x P x X f x       为离散型随机变量，其 分布列为 = = 设 为连续型随机变量，其 概率密度为 其中1 ,  , k 是待估参数,，X1 ,  , Xn 为来自X的样本。 设 EXl = l ,l =1,2,  ,k.存在。 = = n i l l Xi n A 1 1 则 A l k l l 令 =  , = 1,  , 从中解出方程组的解 ， ， 。 这里是包含 个未知参数 ， ， 的联立方程组， k k k     ˆ ˆ 1 1   估计量的方法称为矩估计法。 用 ˆ 1 ，， ˆ k 分别作为1 ，， k 的估计量，这种求 返回主目录

第七章参数估计 这种估计量称为矩估计量;矩估计量的观察值 称为矩估计值。 例1设某炸药厂一天中发生着火现象的次数X服从 参数为的泊松分布,λ未知,有以下样本值; 试估计参数λ(用矩法)。 着火的次数k 0123456 发生k次着火天数n7590542621 250 解:=BX=2A=∑X1=R 令X= λ=x=20(0×75+1×90+…+6×1)=1 22 「备]返回主目录

第七章 参数估计 这种估计量称为矩估计量；矩估计量的观察值 称为矩估计值。 例 1 设某炸药厂一天中发生着火现象的次数X服从 试估计参数 （用矩法）。 参数为 的泊松分布， 未知，有以下样本值；    75 90 54 22 6 2 1 = 250 0 1 2 3 4 5 6 nk k k 发生 次着火天数 着火的次数 = = = = = n i Xi X n EX A 1 1 1 1 解：   (0 75 1 90 6 1) 1.22 250 1 ˆ , = =  +  + +  = = x  X   则 令 返回主目录

第七章参数估计 所以X=A,估计值A=1.22 §1点估计 例2.设总体X~U[a,ba,b未知;X1,…,n是 样本; 求:a,b的矩估计量 +b 解: l1=er-a 2=E2=DX+(BF)2(b-a)2,(a+b3 12 4 tb 2 (b-a)2(a+b) 12 1巡回主目录

第七章 参数估计 §1 点估计 所以 X = , 估计值 ˆ = 1.22。 样本； 例2. 设总体X ~ U[a,b], a,b未知；X1 ,, Xn 是一个 求：a,b的矩估计量。 , 2 1 a b EX + 解：  = = = = = + n i Xi n A a b 1 1 1 2 令 = = = + + − n i Xi n A b a a b 1 2 2 2 2 1 4 ( ) 12 ( ) 4 ( ) 12 ( ) ( ) 2 2 2 2 2 b a a b EX DX EX + + −  = = + = 返回主目录

第七章参数估计 §1点估计 即a+b=241,b-a=√12(42-42) 解得:a=42-3(42-42)=-/3 ∑ (X;-X) i=1 b=4+V44)=F+/3 「备]返回主目录

第七章 参数估计 §1 点估计 2 , 12( ) 2 即 a + b = A1 b − a = A2 − A1   = = = + − = + − = − − = − − n i i n i i X X n b A A A X X X n a A A A X 1 2 2 1 2 1 1 2 2 2 2 1 ( ) 3 3( ) ˆ ( ) 3 解得：ˆ 3( ) 返回主目录

第七章参数估计 例3.设总体的均值,方差o都存在,且a2>0 但u,a2未知,又设X1…,X是一个样本; 求:,O2的矩估计量 解: EX 2=EX2=DX+(EX)2=a2+2 令 A1,a2+12=A 所以A=A1=X, ,H2-21 ∑ (X1;-X) 「备]返回主目录

第七章 参数估计 但 ， 未知，又设 是一个样本； 例 设总体 的均值 ，方差 都存在，且 X Xn X , , 3. 0, 1 2 2        求：, 2 的矩估计量。 2 2 2 2 2 1 ( ) ,      = = + = + = = EX DX EX 解： EX , , 令 1 = A1  2 = A2 , , 2 2 2 即  = A1  +  = A ˆ , 所以  = A1 = X 2 1 2 1 2 2 2 1 2 ( ) 1 1 ˆ X X n X X n A A n i i n i = − =  i − =  − = =  返回主目录

第七章参数估计 特别,若Ⅹ~N(,O2),2未知; §1点估计 X o X-X 2.极大似然估计法 (1)若总体X属离散型,其分布律P{X=x}=p(x;O),O∈⊙ 的形式为已知,O为待估参数,⊙是能取值的范围。 设X1…Xn是来自X的样本;则X1,…,Xn的联合分布律: 又设x1…xn是X1…Hn的一个样本值; 易知样本X1…,Xn取x1…,xn的概率,亦即 事件{X1=x1,…,Xn=xn}发生的概率为:回主旦录

第七章 参数估计 §1 点估计 特别，若 X ~ N(, 2 ), , 2 未知； = = = − n i Xi X n X 1 2 2 ( ) 1 则 ˆ , ˆ 2. 极大似然估计法 的形式为已知， 为待估参数， 是 可能取值的范围。 若总体 属离散型，其分布律      (1). X P{X = x} = p(x; ),  设X1 ,  , Xn 是来自X的样本；则X1 ,  , Xn 的联合分布律： = n i i p x 1 ( ; ) 又设x1 ,  , xn 是X1 ,  , Xn 的一个样本值； 事件 发生的概率为： 易知样本 取 的概率，亦即 { , , } , , , , 1 1 1 1 n n n n X x X x X X x x =  =   返回主目录

第七章参数估计 §1点估计 L()=L(x1,…xn:)= ∏ p(x;),∈⊙.(1.1) 它是e函数。L(O)称为样本的似以然函数 由极大似然估计法:固定x1…,xn挑选使概率 (x1,…,xn:O)达到最大的参数O,作为O的估计值 即取θ使得: L(x1,…,xn:)=mxL(x1;…xn;)(1.2) 6∈ 0与x1,…,xn有关,记为(x1,…,xn) 称其为参数的的极大似然估计值 0(X12…Xn)称为参数硝的极大似然估计量

第七章 参数估计 §1 点估计 ( ) ( , , ; ) ( ; ), . (1.1) 1 = 1 =  =     n i n i L L x  x p x 它是的函数。L()称为样本的似然函数。 即取 使得： 达到最大的参数 ，作为 的估计值， 由极大似然估计法：固 定 挑选使概率     ˆ ˆ ( , , ; ) , , ; 1 1 n n L x x x x   ) max ( , , ; ) (1.2) ˆ ( , , ; 1  1   n n L x  x L x  x  = 称其为参数 的极大似然估计值。 与 有关，记为    ( , , ); ˆ , , ˆ 1 n 1 n x  x x  x  ˆ (X1 ,, Xn )称为参数的极大似然估计量

第七章参数估计 (2)若总体X属连续型,其概率密度(1O)∈6计 的形式已知,O为待估参数; 则X X的联合密度: xn是相应X1…,Xn的一个样本值,则随 机点(X1…,Yn)落在(x1…xn)的邻域(边长分别为 dxn的n维立方体)内的概率近似为: ∏ f(x edy (1.3) 我们取θ的估计值θ,使概率(1.3)取到最大值

第七章 参数估计 §1 点估计 ; (2). ( ; ), 的形式已知， 为待估参数 若总体 属连续型，其概率密度  X f x    则X1 ,  , Xn 的联合密度： = n i i f x 1 ( ; ) 的 维立方体）内的概率近 似为： 机点 落在 的邻域（边长分别为 设 是相应 的一个样本值，则随 d x d x n X X x x x x X X n n n n n , , ( , , ) ( , , ) , , , , 1 1 1 1 1      ( ; ) (1.3) 1 i n i  f xi dx =  我们取的估计值 ˆ ，使概率(1.3)取到最大值

第七章参数估计 但x不随的而变,故只需考虑: §1点估计 L()=L(x12…,xn:)=f(x1:(,(14) 的最大值,这里(O)称为样本的似然函数 若L(x12…xn;O)=maxL(x12…xn;O) 6∈Q 则称(x1,…,xn)为e的极大似然估计值 称(X1,…Xn)为硝的极大似然估计量。 般,p(x;O),f(x;0)关于研微,故研可由下式求得: () 0 de 「备]返回主目录

第七章 参数估计 §1 点估计 但 不随而变，故只需考虑： i dxi ( ) ( , , ; ) ( ; ), (1.4) 1 1 = = = n i n i L  L x  x  f x  的最大值，这里L()称为样本的似然函数。 ) max ( , , ; ) ˆ ( , , ; 1  1   n n L x  x L x  x  若 = 则称 ˆ (x1 ,, xn )为的极大似然估计值。 称 ˆ (X1 ,, Xn )为的极大似然估计量。 0. ( ) ( ; ), ( ; ) =       d d L 一般，p x f x 关于 可微，故 可由下式求得： 返回主目录