第七章参数估计 X~P(),X~n(),X~N(,o32) 数理统计的主要任务之一是依据样本推断总体 推断的基本内容包括两个方面:一是依据样本寻找 总体未知参数的近似值和近似范围;二是依据样本 对总体未知参数的某种假设作出真伪判断本章先 介绍求近似值和近似范围的方法 数估 计/区间估让在要求的精度范围内 指出参教所在的区间
X~P(λ),X~(λ),X~N(μ,σ2 ) 用所获得的样本值去估计参数取值称为 参数估计. 参 数 估 计 点估计 区间估计 用某一数值作为 参数的近似值 在要求的精度范围内 指出参数所在的区间 数理统计的主要任务之一是依据样本推断总体. 推断的基本内容包括两个方面:一是依据样本寻找 总体未知参数的近似值和近似范围;二是依据样本 对总体未知参数的某种假设作出真伪判断.本章先 介绍求近似值和近似范围的方法. 第七章 参数估计
第7.1节点估计 1.定义总体X的分布函数为F(x;01,02,0k),6;为未知 参数(i=1,2,…,k),Ⅹ1,X2,…,Xn为来自该总体的s.r.s,若以 函数值0=0(x1,x2,,xn)作为θ的近似值,则称b为01 的估计值(抽样后),也称01=6;(X1,X2,…,Xn)为0 的估计量(抽样前).由于佔计值(实数)与实数轴的点对应, 姑且又称,为θ的点估计(量或值) 即:X分布为F(x待估]选择统计量 估计量带入样本值>估计值
第7.1节 点估计 1.定义总体X的分布函数为F(x;θ1,θ2,…θk), θi为未知 参数(i=1,2,…,k),X1,X2,…,Xn为来自该总体的s.r.s,若以 函数值 (x1,x2,…,xn)作为θi的近似值,则称 为θi 的估计值(抽样后),也称 为θi 的估计量(抽样前).由于估计值(实数)与实数轴的点对应, 姑且又称 为θi的点估计(量或值). i i ˆ ˆ = i ˆ (X ,X , ,X ) ˆ ˆ i = i 1 2 n i ˆ 即: 选择统计量 估计量 带入样本值 估计值 X分布为F(x;θ)[θ待估]
2点估计方法 (1)矩估计法 将总体的各阶原点矩用相应阶的样本原点矩替代, 布列方程或方程组,所得到的解,作为总体未知参数 的点估计的方法 例711设总体X~U(0,6),X1,X2,…,Xn为取自该总体的样本 求未知参数6的矩估计量 解因为E(X=2,所以由2=X,可解得O=2X 故未知参数的矩估计量为6=2F
2 点估计方法 (1) 矩估计法 将总体的各阶原点矩用相应阶的样本原点矩替代, 布列方程或方程组, 所得到的解, 作为总体未知参数 的点估计的方法. 例7.1.1 设总体 X ~ U(0, ) , X X Xn , , , 1 2 为取自该总体的样本, 求未知参数 的矩估计量. 解 因为 2 ( ) E X = , 所以由 = X 2 , 可解得 = 2X , 故未知参数 的矩估计量为 ˆ = 2X
矩估计法的步骤 注:A2=4Ex为样本阶原点矩 设总体X的分布函数为F(x;01,02,…,0n),0,02…,0, 为未知参数 1求总体X的k阶原点矩 q1(1,2,…,6n)=E(X), 2解方程(组) 得 e1,0 2 0n)=A q2(01,02,…,0n)= 62=h2(A1,A2,;…,Am) qn(1,02,…,0n)= Am=hm(aua 3写出矩估计量6=h(A,A2,…,An)k=1,2,…,m
矩估计法的步骤 设总体X的分布函数为 F(x; , , , ) 1 2 m , 1，2，，m 为未知参数. 1.求总体X的k阶原点矩 q ( , , , ) E(X ),k 1,2, ,m, k k 1 2 m = = 2.解方程(组) ( ) ( ) ( ) = = = m 1 2 m m 2 1 2 m 2 1 1 2 m 1 q , , , A q , , , A q , , , A 得 = = = h (A ,A , ,A ) h (A ,A , ,A ) h (A ,A , ,A ) m m 1 2 m 2 2 1 2 m 1 1 1 2 m 3.写出矩估计量 ˆ k = hk (A1 ,A2 , ,Am ) k = 1,2, ,m 注: = = n i 1 k k Xi n 1 A 为样本k阶原点矩
例72设总体X~Ua,b],求参数a,b的矩估计量 解 ∈|a,b X-f(x)=b-a 其它 E(X)= b q、a+b dx=-(a+ab+b) b-a 3 解方程组 a+b 得 A,-√3 a+ab+b b=A1+√3√A2-A 3 所求的矩估计量为a-x、3∑x-x=x-3、1-x b=X+√3
例 7.1.2 设总体 X ~ U[a,b] ,求参数a,b的矩估计量. 解: = − 0 其 它 x [a,b] b a 1 X ~ f(x) 2 a b dx b a x E(X) b a + = − = (a ab b ) 3 1 dx b a x E(X ) 2 2 b a 2 2 = + + − = 解方程组 = + + = + 2 2 2 1 A 3 a ab b A 2 a b 得 2 1 A2 A1 a = A − 3 − 2 1 A2 A1 b = A + 3 − 所求的矩估计量为 = = = = + − = − − = − − n i 1 2 2 i 2 i n i 1 2 n i 1 2 i (X X) n 1 b X 3 ˆ (X X) n 1 X X X 3 n 1 aˆ X 3
2最大似然估计法 1)似然函数(样本的联合密度函数) (1)设总体X为连续型,X~f(x;01,02,0m),0;为待 估参数(i=1,2,…,m),X1,Ⅹ2,…,Xn为来自该总体的s.r.S,则 X:~f(x1;01,0 (X1,X2,…,Xn)的联合密度函数为(似然函数) L(x1,x2x…,2xn;01,02x…,)m)=f(x;01,02…,.m) 如Ⅹ~F(),即X~f(x;) >0 0 X0 f(x;)= 0 0 L(x,xx:)=T(x,4)= λexx1>0,x2>0,,xn>0 0 其它
1) 似然函数(样本的联合密度函数) (1) 设总体X为连续型,X～f(x;θ1,θ2,…θ m), θi为待 估参数(i=1,2,…,m),X1,X2,…,Xn为来自该总体的s.r.s,则 Xi ～f(xi;θ1,θ2,…θ m), (i=1,2,…,m) （X1,X2,…,Xn）的联合密度函数为 = = n i 1 1 2 n 1 2 m i 1 2 m L(x ,x ,...,x ; , ,..., ) f(x ; , ,..., ) (似然函数) 如 X~E(λ),即 = − 0 x 0 e x 0 X ~ f(x; ) x 则 = − 0 x 0 e x 0 X ~ f(x ; ) i i x i i i = = n i 1 1 2 n i L(x ,x ,...,x ; ) f(x , ) = = − 0 其 它 e x 0,x 0,...,x 0 1 2 n n i 1 xi 2 最大似然估计法
似然函数(样本的联合分布律) 2)设总体X为离散型,P{X=x}=P(x;θ1,…,m),6;为待 估参数(i=1,2,…,m),X1,X2,…,Xn.为来自该总体的sr.s,则 PX:=x}=P(x;θ1,62,…,n),(i=1,2,,m) (X1,X2,…,Xn)的联合分布律为(似然函数) n L(X x;01,0 1929°9n 902 ●●●号 0n)=P(x:,02,m) 如XP(4,即PX=m=,ePX=x m P(X1;:λ) e :N)=IIP(x, A)=I
似然函数(样本的联合分布律) （2）设总体X为离散型,P{X=x}=P(x;θ1,…,θm),θi为待 估参数(i=1,2,…,m),X1,X2,…,Xn为来自该总体的s.r.s,则 P{Xi=xi}=P(xi;θ1,θ2,…θm), (i=1,2,…,m) （X1,X2,…,Xn）的联合分布律为 = = n i 1 1 2 n 1 2 m i 1 2 m L(x ,x ,...,x ; , ,..., ) P(x ; , ,..., ) (似然函数) 如 X~P(λ),即 − = = e m! P{X m} m − = = e x! P{X x} x = = n i 1 1 2 n i L(x ,x ,...,x ; ) P(x , ) − = e x ! P(x ; ) i x i i = − = n i 1 i x e x ! i
2)基本思想 甲.乙两人比较射击技术分别射击目标一次,甲中而乙未中 可以认为甲射击技术优于乙射击技术 事件A发生的概率为01或0.9,观察一次事件A发生了, 可以认为:事件A发生的概率为09 实际问题(医生看病、公安人员破案、技术人员进行质量 检验等)尽管千差万别,但他们具有一个共同的规律,即在 获得了观察资料之后,给参数选取一个数值,使得前面的观 察结果出现的可能性最大 最大似然估计就是通过样本值X1…Xn等数求得总体的 分布参数,使得X1,…,Xn取值为X1,…,Xn的概率最大
2）基本思想 甲.乙两人比较射击技术,分别射击目标一次,甲中而乙未中, 可以认为:甲射击技术优于乙射击技术. 事件A发生的概率为0.1或0.9,观察一次,事件A发生了, 可以认为:事件A发生的概率为0.9. 实际问题(医生看病、公安人员破案、技术人员进行质量 检验等)尽管千差万别,但他们具有一个共同的规律,即在 获得了观察资料之后,给参数选取一个数值,使得前面的观 察结果出现的可能性最大. 最大似然估计就是通过样本值 等数求得总体的 分布参数,使得 取值为 的概率最大. 1 Xn X , , 1 xn x , , 1 xn x ,
样本观察值出现可能性的大小跟似然函数在该样本值 处的函数值有关,L越大,样本观察值越可能出现.所以 最大似然估计定义为: 若似然函数L(x,x2x,x1;01,02,,0n)在1,62…0m 取到最大值,则称θ1,02…,)m分别为θ1,02,…,n的 最大似然估计
样本观察值出现可能性的大小跟似然函数在该样本值 处的函数值有关, L越大, 样本观察值越可能出现. 所以 若似然函数 在 取到最大值,则称 分别为 的 最大似然估计. L(x ,x ,...,x ; , ,..., ) 1 2 n 1 2 m 1 ,2 ,...,m 1 ,2 ,...,m 1 2 m , ,..., 最大似然估计定义为:
3)方法与步骤 设总体的分布密度(或概率密度)f(x;e1,…,0n) 其中θ1,…,0m是待估参数 (1)写出似然函数(即样本的联合密度函数) L=L(x1,…2x;),…,m)=1f(x;,…,m) (2)写出对数似然函数(对似然函数求导) lnL=∑hnf(x;012…,0n)(只有一个待估参数时求 IE (3)写出似然方程n)=0,i=1,2,…m (4)求解似然方程并写出估计量0,i=1,2,3,…,m
3）方法与步骤 设总体的分布密度(或概率密度) 其中 是待估参数. f(x; , , ) 1 m 1 m , , （1）写出似然函数(即样本的联合密度函数) = = = n i 1 1 n 1 m i 1 m L L(x ,,x ; ,, ) f(x ; ,, ) （2）写出对数似然函数(对似然函数求导) = = n i 1 i 1 m lnL ln f(x ; ,, ) （3）写出似然方程 l n i L = 0,i = 1,2, m （4）求解似然方程并写出估计量 ˆ i ,i = 1,2,3, ,m (只有一个待估参数时求 d ) dlnL
