第七章参数估计 点估计 矩估计 最大似然估计 估计量的评选标准 区间估计 均值的估计 方差的估计
第七章 参数估计 • 点估计 • 矩估计 • 最大似然估计 • 估计量的评选标准 • 区间估计 • 均值的估计 • 方差的估计
§71点估计 参数估计的概念(p17) 总体X的分布函数为F(x;0),θ为未知参数,X1“,Xn 是X的一个样本,x1…xn是相应的样本值 点估计问题:构造统计量0=g(X1…,Hn 用它的观察值θ=g(x1;…,xn) 作为未知参数θ的近似值 6(Xp…,n):0的估计量统称估计 0(x1…,xn):的估计值简记为O
§7.1 点估计 一、参数估计的概念(p177) • 总体X的分布函数为F(x;θ)，θ为未知参数，X1,…,Xn 是X的一个样本，x1,…,xn是相应的样本值 g ( , , ). ˆ θ = X 1 L X n • 点估计问题：构造统计量 用它的观察值 g ( , , ). ˆ 1 n θ = x L x 作为未知参数θ的近似值。 ( , , ) ˆ θ X 1 L X n ：θ的估计量 ( , , ) ˆ 1 n θ x L x ：θ的估计值 ∧ θ 统称估计 简记为
由于gx1…xn)是实数域上的一个点,现用它来估 计θ,故称这种估计为点估计。 对于不同的样本值,θ的估计值一般是不同的 点估计的经典方法是矩估计法与极大似然估计法
• 由于g(x1, … xn) 是实数域上的一个点，现用它来估 计θ， 故称这种估计为点估计。 • 对于不同的样本值， θ的估计值一般是不同的。 • 点估计的经典方法是矩估计法与极大似然估计法
二、矩估计法(简称“矩法” 各阶原点矩 体 样本 E(X1) μ2=E(Xx2) ∑ e (Xk) ∑X 以样本矩作为相应的总体矩的估计量 样本矩的连续函数→总体矩的连续函数 原理:p160-161
二、矩估计法（简称 “矩法 ” ） 各阶原点矩 ∑= = n i Xi n A 1 2 2 1 µ k=E(X k ) 总体 样本 µ 2=E(X 2 ) µ 1=E(X 1 ) ∑= = n i k i k X n A 1 1 ∑= = n i Xi n A 1 1 1 1 以样本矩作为相应的总体矩的估计量。 样本矩的连续函数 →总体矩的连续函数 原理：p160-161
矩估计的方法: (1)写出总体的E(X)、E(X2)等(表达式中含有要 估计的参数) (2)将上述E(X)、E(X2)等看成方程或方程组,解 出未知参数(用E(X)、E(X2)等表达) (3)将样本矩A1代替E(X),A2代替E(X2)等,并整 理,得到未知参数的矩估计量。 (4)将矩估计量中大写的X改称小写的x,即得矩 估计值
矩估计的方法： （1）写出总体的E(X)、E(X2)等（表达式中含有要 估计的参数）。 （2）将上述E(X)、E(X2)等看成方程或方程组，解 出未知参数（用E(X)、E(X2)等表达）。 （3）将样本矩A1代替E(X)，A2代替E(X2)等，并整 理，得到未知参数的矩估计量。 （4）将矩估计量中大写的X改称小写的x，即得矩 估计值
注:μE(X)=E(X)中2=E(X2)=D(X)+[E(X)]2 A1=∑X=X P178例2:设H12…n~U(a,b),a<b, 求a,b的矩估计量 P179例3:设X1,…,Xn为取自正态总体N(,2)的样本, 求参数,G2的矩估计
µ1=E(X1)=E(X) X X n A n i = ∑ i = =1 1 1 1 µ2=E(X2)=D(X)+[E(X)]2 P179 例3：设X1,…,Xn为取自正态总体 的样本， 求参数 的矩估计。 2 µ,σ ( , ) 2 N µ σ 注： , , ~ ( , ), , 1 X X U a b a b iid P178 例2：设 L n < 求a,b的矩估计量
注:无论总体是何种分布,设总体期望、方差存 在,则E(X的矩估计量为=X D(X)的矩估计量为 02=(X-F)2=1 ∑ X-X 证明见P179例3
注：无论总体是何种分布，设总体期望、方差存 在，则E(X)的矩估计量为 µˆ = X D(X)的矩估计量为 ∑ ∑ = = = − = − n i i n i i X X n X X n 1 2 1 2 2 1 ( ) 1 σˆ 证明见P179 例3
、最大似然估计法 、最大似然思想 有两个射手,一人的命中率为0.9,另一人的 命中率为0.1,现在他们中的一个向目标射击了 发,结果命中了,估计是谁射击的? 一般说,事件A发生的概率与参数θ∈有关,θ取值 不同,则P(A)也不同。因而应记事件A发生的概率 为P(A|θ).若A发生了,则认为此时的0值应是在中 使P(A|0)达到最大的那一个。这就是最大似然思想
三、最大似然估计法 1、最大似然思想 有两个射手，一人的命中率为0.9,另一人的 命中率为0.1,现在他们中的一个向目标射击了一 发，结果命中了，估计是谁射击的？ 一般说，事件A发生的概率与参数θ∈Θ有关， θ取值 不同，则P(A)也不同。因而应记事件A发生的概率 为P(A| θ).若A发生了，则认为此时的 θ值应是在 Θ 中 使P(A| θ)达到最大的那一个。这就是最大似然思想
iid 设X12…,Hn~b(1,p.求参数p的最大似然估计。 解:设x1,x2…,xn是样本值。X的分布律为 P{X=x}=p2(1-p),x=0,1 于是 P{X1=x1}=p1(1-p)x P{X2=x2}=p2(1-p)x, 独P{1=x1,X2=x2…,Xn=xn} =P{X1=x1}P{X2=x2}…P{X, p“(1-p)x…p(1-p)x记为L(p)
设X X b p 求参数p的最大似然估计。 iid n , , ~ (1, ), 1 L 解：设x1,x2,…,xn 是样本值。X的分布律为： P{X2 = x2} = px2 (1− p)1−x2 ,LL 1 1 1 1 1 { } (1 ) x x P X x p p − = = − { } (1 ) , 0,1 1 = = − = − P X x p p x x x 于是 { , , , } 1 1 2 2 n n P X = x X = x L X = x { } { } { } 1 1 2 2 n n = P X = x P X = x L P X = x n n x x x x p p p p − − = − − 1 1 (1 ) (1 ) 1 1 L 记为 L(p) 独立
这一概率值L()随p的取值而变化。因为X三x1 X2=X2…X=Xn已经得到,即事件XX1 X2=x23…,Xn=xn已经发生,所以可以认为 P{x1=x,2X2 Xn=xi =L(p)=p3(1-p) 在p的取值范围内是最大的,所以通过计算p为何 值时,L()最大,就可求出p的估计 求导→)求p为何值时L(p)最大 取对数→方便求导。 具体过程见P182,例4
这一概率值L(p)随p的取值而变化。因为X1=x1, X2=x2,…,Xn=xn已经得到，即事件X1=x1, X2=x2, …,Xn=xn已经发生，所以可以认为 ∏ = − = = − = = = n i x x n n i i L p p p P X x X x X x 1 1 1 1 2 2 ( ) (1 ) { , ,L, } 在p的取值范围内是最大的，所以通过计算p为何 值时，L(p)最大，就可求出p的估计。 求导→求p为何值时L(p)最大。 取对数→方便求导。 具体过程见P182，例4