经济数学基础 第11章参数估计 第二单元点佔计 学习目标 通过本课的学习,知道什么是点估计,点估计有哪两种方法,会用极大似然估 计求总体参数的估计值,知道无偏估计,能比较哪个估计量更有效 二、内容讲解 利用样本的统计量来估计总体的一些未知的常数,譬如总体的数学期望、方差, 这就是数理统计学中的点估计问题 点估计的主要方法是矩估计和极大似然估计 1.矩估计法 矩法的根据是:样本的矩均是依概率收敛于总体相应的矩 A()表示容量为的样本k阶原点矩,k表示总体的k阶原点矩,则 imP(4-A(n)<6)=1 其中E为任意小的正数 据此,我们常用样本的矩作为总体矩的估计,这就是点估计的矩法 当总体中有未知参数O,则总体的k阶矩亦出现O:a(m),于是我们就令 A()=a4(m)从中解得O,以此作为的估计值,这就是矩估计法 E(X为一阶原点矩,D(X)为二阶中心矩,至于用几个条件也要根据具体的问题 来选择 2.极大似然估计法 为了说明极大似然估计法的原理,我们先观察一个问题: -392
经济数学基础 第 11 章 参数估计 ——392—— 第二单元 点估计 一、学习目标 通过本课的学习，知道什么是点估计，点估计有哪两种方法，会用极大似然估 计求总体参数的估计值，知道无偏估计，能比较哪个估计量更有效. 二、内容讲解 利用样本的统计量来估计总体的一些未知的常数，譬如总体的数学期望、方差， 这就是数理统计学中的点估计问题. 点估计的主要方法是矩估计和极大似然估计. 1.矩估计法 矩法的根据是：样本的矩均是依概率收敛于总体相应的矩. 若 A (n) k 表示容量为 n 的样本 k 阶原点矩， k 表示总体的 k 阶原点矩，则 lim ( − ˆ ( ) ) = 1 → P n k k n ，其中 为任意小的正数. 据此，我们常用样本的矩作为总体矩的估计，这就是点估计的矩法. 当总体中有未知参数 ，则总体的 k 阶矩亦出现 ： (n) k ，于是我们就令 A (n) k (n) = k 从中解得 ，以此作为 的估计值，这就是矩估计法. E(X ) 为一阶原点矩， D(X ) 为二阶中心矩，至于用几个条件也要根据具体的问题 来选择. 2.极大似然估计法 为了说明极大似然估计法的原理，我们先观察一个问题：
经济数学基础 第11章参数估计 袋中有黑白两色的12个球,其中一种颜色为9个,另一种颜色为3个,但不知 是黑多白少,还是黑少白多,现做试验:随机摸取一个放回,再任抽取一个,结果 两个都是黑球,这时你会作什么判断呢?显然会判断黑多白少 我们从概率上来分析这个判断 如果是黑多白少,则两次都抽到黑球的概率为9.9=9 21216 如果是白多黑少,则两次都抽到黑球的概率为3.3_1 121216 当然“概率最大的事件最可能出现”一一极大似然估计法的依据. 若总体的分布密度函数为f(,x),其中θ为待定的参数,因此,取得样本观测 值(xx2,…x)的概率依赖于f(O,x)f(,x2)…f(,x)=L(O),L()称为似然函 数,取L(O)的最大点O作为未知参数O的估计值 3.估计量衡量的标准 对于同一个参数用不同的方法得到不同的估计量,那么采用什么标准来评定估 计量的好坏呢? 常用的标准有三: 无偏性 由于估计量是样本的函数,是随机变量,即对于不同的样本观测值就得到不同 的估计值,我们希望一个好的估计量,等于参数的真值,具有这种特性的估计量, 称为无偏估计量. 可以证明:以作为E(X)的估计是无偏估计量. 以s2作为D(X)的估计亦是无偏估计量 有效性 393
经济数学基础 第 11 章 参数估计 ——393—— 袋中有黑白两色的 12 个球，其中一种颜色为 9 个，另一种颜色为 3 个，但不知 是黑多白少，还是黑少白多，现做试验：随机摸取一个放回，再任抽取一个，结果 两个都是黑球，这时你会作什么判断呢？显然会判断黑多白少. 我们从概率上来分析这个判断. 如果是黑多白少，则两次都抽到黑球的概率为 16 9 12 9 12 9 = 如果是白多黑少，则两次都抽到黑球的概率为 16 1 12 3 12 3 = ， 当然“概率最大的事件最可能出现”——极大似然估计法的依据. 若总体的分布密度函数为 f ( , x) ，其中 为待定的参数，因此，取得样本观测 值 ( , , , ) 1 2 n x x x 的概率依赖于 ( , ) ( , ) ( , ) ( ) f x1 f x2 f xn = L ，L( ) 称为似然函 数，取 L( ) 的最大点 ˆ 作为未知参数 的估计值. 3.估计量衡量的标准 对于同一个参数用不同的方法得到不同的估计量，那么采用什么标准来评定估 计量的好坏呢？ 常用的标准有三： 无偏性 由于估计量是样本的函数，是随机变量，即对于不同的样本观测值就得到不同 的估计值，我们希望一个好的估计量，等于参数的真值，具有这种特性的估计量， 称为无偏估计量. 可以证明：以 x 作为 E(X ) 的估计是无偏估计量. 以 2 s 作为 D(X ) 的估计亦是无偏估计量. 有效性
经济数学基础 第11章参数估计 有时一个未知参数的无偏估计量不止一个,譬如.已2,那么如何比较它们的好 坏呢?即希望它们与参数的真值偏差越小越好,因此,若D(6)<D(O2)就称1较2有 一致性 如果参数θ的估计量(x1x2…x)随着样本容量n的增加,任意接近真值的可 能越大,且概率趋于1,具有这种性质的估计量称为一致性估计量. 问题思考:矩估计法和极大似然估计法得到的估计量会相同吗? 答案可能相同,也可能不同 三、例题讲解 例1已知某种灯泡的寿命X~N(σ),但和σ未知,今随机抽取5只灯泡 测得寿命分别为16231527128714321591(小时) 求和G的估计值 解:为总体X的数学期望,也即为X的一阶原点矩.a2为X的二阶中心矩 由矩法,用样本的一阶原点矩5(1623+1527+1287+1432+1591)=1492 作为的估计, 用样本的二阶中心矩5(x-2。1 (16232+15272+12872+14322+15912)-14922=14762.4 作为2的估计
经济数学基础 第 11 章 参数估计 ——394—— 有时一个未知参数的无偏估计量不止一个，譬如 1 2 ˆ , ˆ ，那么如何比较它们的好 坏呢？即希望它们与参数的真值偏差越小越好，因此，若 ) ˆ ) ( ˆ ( D 1 D 2 就称 1 ˆ 较 2 ˆ 有 效. 一致性 如果参数 的估计量 ( , , , ) ˆ 1 2 n x x x 随着样本容量 n 的增加，任意接近真值的可 能越大，且概率趋于 1，具有这种性质的估计量称为一致性估计量. 问题思考：矩估计法和极大似然估计法得到的估计量会相同吗？ 答案 可能相同，也可能不同. 三、例题讲解 例 1 已知某种灯泡的寿命 ~ ( , ) 2 X N ，但 和 2 未知，今随机抽取 5 只灯泡 测得寿命分别为 1623 1527 1287 1432 1591（小时） 求 和 2 的估计值. 解： 为总体 X 的数学期望，也即为 X 的一阶原点矩. 2 为 X 的二阶中心矩. 由矩法，用样本的一阶原点矩 5 1 (1623+1527+1287+1432+1591)=1492 作为 的估计， 用样本的二阶中心矩 = = − = − − 5 1 2 2 5 1 2 ( 2 ) 5 1 ( ) 5 1 i i i i i x x x x x x 2 5 1 2 ) 5 1 ( x x i i = = − ＝ 5 1 (16232+15272+12872+14322+15912)－14922＝14762.4 作为 2 的估计
经济数学基础 第11章参数估计 例2设总体在区间lab上服从均匀分布,但ab未知,现抽取样本 x,x,xyx,x),测得一组观测值(1,3,0,4,-2),试用矩估计法估计ab 解:已知[ab上均匀分布的数学期望、方差分别为 E(X D(X) 2 x=(1+3+0+4+(-2)=1.2 样本的一阶原点矩(即样本均值)5 样本的二阶中心矩 B2=[(1-12)2+(3-12)2+(0-1.2)2+(4-12)2+(-2-12)) 得到关系式2=12(b-a)2 a+b 4.56 从方程组里求出的a,b值就是其估计值a=-256=49 f(x, a) 例3设总体X的密度函数为 x≤0 其中参数λ未知而待定,抽样得样本观测值(x,x,…x),求参数的极大似然 估计 解:似然函数 L(4)=()e-)…(e)=e-4x+x+*x, dla) 为求1()最大点d元=n2-e+2+x)-(x1+x2+…x,)e(++x)=0 x +x 5
经济数学基础 第 11 章 参数估计 ——395—— 例 2 设总体在区间 [a,b] 上服从均匀分布，但 a,b 未知，现抽取样本 ( , , , , ) 1 2 3 4 5 x x x x x ，测得一组观测值（1，3，0，4，－2），试用矩估计法估计 a,b . 解：已知 [a,b] 上均匀分布的数学期望、方差分别为 2 ( ) a b E X + = ， 2 ( ) ( ) 2 b a D X − = 样本的一阶原点矩（即样本均值） (1 3 0 4 ( 2)) 1.2 5 1 x = + + + + − = 样本的二阶中心矩 [(1 1.2) (3 1.2) (0 1.2) (4 1.2) ( 2 1.2) ) 5 1 2 2 2 2 2 B2 = − + − + − + − + − − = 4.56 得到关系式 1.2 2 = a + b ， 4.56 2 ( ) 2 = b − a 从方程组里求出的 a,b 值就是其估计值 4.9 ˆ a ˆ = −2.5,b = 例 3 设总体 X 的密度函数为 = − 0 0 e 0 ( , ) x x f x x 其中参数 未知而待定，抽样得样本观测值 ( , , , ) 1 2 n x x x ，求参数 的极大似然 估计. 解：似然函数 ( ) ( e )( e ) ( e ) 1 2 n x x x L − − − = ( ) 1 2 e n n − x +x +x = 为求 L() 最大点 d dL( ) 1 ( ) 1 2 n n x x x n e − − + + = ( ) 0 ( ) 1 2 1 2 − + + = − + + n x x x n n x x x e x x x x n n 1 ˆ 1 2 = + + =
经济数学基础 第11章参数估计 例4若X~N(σ),其中H和口2均未知,设样本一组观测值为(x1,x2 用极大似然估计法估计4和σ 解:似然函数 L(a2)=I1( )(—=) 0V2IT In L ∑(x1-4)2 取对数 aInL 1 aIn L (x1-) 0 (G2)2 得到和02的极大似然估计分别是n ∑x=G2=2 ,与样本 方差略有不同. 四、课堂练习 练习1设正态总体N(A)中未知,可2已知,又设x,x2是来自正态总体的一个 样本,问下列样本函数中哪个是统计量?在统计量中,哪些是H的无偏估计?哪个 是最佳无偏估计? 1=x1 2=(x2+) 1=÷x1+=x2.(4) 不含未知参数的样本函数称为统计量 统计量是样本函数,其中不应含有未知参数,判定样本函数是否为统计量主要 6
经济数学基础 第 11 章 参数估计 ——396—— 例 4 若 ~ ( , ) 2 X N ，其中 和 2 均未知，设样本一组观测值为 ( , , , ) 1 2 n x x x ， 用极大似然估计法估计 和 2 . 解：似然函数 = − − = n i xi L 1 ( ) 2 1 2 e ) 2 1 ( , ) ( 2 2 ＝ 2 1 2 ( ) 2 1 ) e 2 1 ( − − = i n i x n 取对数 ln( 2 ) 2 ( ) 2 1 ln 2 2 1 2 n L xi n i = − − − = 2( 1) ( ) 0 2 ln 1 1 2 = − − − = = i n i x L 0 2 ( ) 2( ) ln 1 2 2 1 2 2 2 = − − = = n x L i n i 得到 和 2 的极大似然估计分别是 x x n n i = i = =1 1 ˆ 、 2 1 2 ( ) 1 ˆ x x n i n i = − = ，与样本 方差略有不同. 四、课堂练习 练习 1 设正态总体 ( , ) 2 N 中 未知， 2 已知，又设 1 2 x , x 是来自正态总体的一个 样本，问下列样本函数中哪个是统计量？在统计量中，哪些是 的无偏估计？哪个 是最佳无偏估计？ （1） 1 1 2 3 2 3 1 = x + x ；（2） ( ) 3 1 2 = x2 + ；（3） 1 1 2 2 1 2 1 = x + x ；（4） = = 2 1 4 i i x 不含未知参数的样本函数称为统计量. 统计量是样本函数，其中不应含有未知参数，判定样本函数是否为统计量主要
经济数学基础 第11章参数估计 依据就是这条原则统计量O是否为O的无偏估计,就要看O是否满足E(O)=0.所有 无偏估计中方差最小者是最佳无偏估计量 由于(1),(3),(4)中都不含有未知参数,故它们都是统计量 练习2已知某种电子元件的使用寿命(从开始使用到初次失效为止)服从指数分布 f(x)=e,(x>0.>0),今随机抽取250个元件,测得寿命数据如下(单位:小 时) 匚寿命时间(小时) 元件数(个) 0~100 39 400~500 900~1000 250 试采用极大似然估计法估计该指数分布中的参数 似然函数L(x)=L(xx1,x2,…,x)=f(x)(x2)…f(x),极大似然估计法是指 似然函数L(xx,x2,…x)当参数O取估计量O时达到最大值,即 L(x1,x2,…,xn)=max 五、课堂作业 设总体X服从二项分布B(P),n为正整数,0<P<1,其中nP均为未 知参数,x,x2x是从X中抽取的一个样本,试分别求P的矩估计 -397
经济数学基础 第 11 章 参数估计 ——397—— 依据就是这条原则.统计量 ˆ 是否为 的无偏估计，就要看 ˆ 是否满足 ) = ˆ E( .所有 无偏估计中方差最小者是最佳无偏估计量. 由于（1），（3），（4）中都不含有未知参数，故它们都是统计量. 练习 2 已知某种电子元件的使用寿命（从开始使用到初次失效为止）服从指数分布 ( ) = e ,( 0, 0) − f x x x ，今随机抽取 250 个元件，测得寿命数据如下（单位：小 时） 寿命时间（小时） 元件数（个） 0～100 39 100～200 58 200～300 47 300～400 33 400～500 25 500～600 22 600～700 11 700～800 6 800～900 7 900～1000 2 合计 250 试采用极大似然估计法估计该指数分布中的参数 . 似然函数 L() = ( ; , , , ) 1 2 n L x x x ( ) ( ) ( ) 1 2 n = f x f x f x ，极大似然估计法是指 似然函数 ( ; , , , ) 1 2 n L x x x 当参数 取估计量 ˆ 时达到最大值，即 ; , , , ) max ˆ ( L x1 x2 xn = 五、课堂作业 1．设总体 X 服从二项分布 B(n, p) ，n 为正整数， 0 p 1 ，其中 n, p 均为未 知参数， n x , x , x 1 2 是从 X 中抽取的一个样本，试分别求 n, p 的矩估计
经济数学基础 第11章参数估计 设x,x2,x3是正态总体N(可)的一个样本,其中μ=0,σ2未知,求x,x2,x 的似然函数,并对x,x2,x3的一个样本2.1,2.2,20估计σ ≥0 f(x,x)=10 3.设…,x来自指数分布 x<0 的样本,试分别用矩 估计法和极大似然法求θ的估计量 x-s (-)e 2.L(x,x2,x3)a√2z G2=0003 B=x -398
经济数学基础 第 11 章 参数估计 ——398—— 2．设 1 2 3 x , x , x 是正态总体 ( , ) 2 N 的一个样本，其中 = 0， 2 未知，求 1 2 3 x , x , x 的似然函数，并对 1 2 3 x , x , x 的一个样本 2.1，2.2，2.0 估计 2 . 3．设 n x , , x 1 来自指数分布 = − 0 0 e 0 1 ( ; ) x x f x x 的样本，试分别用矩 估计法和极大似然法求 的估计量. 1． x x s p x s x n 2 2 2 ˆ , ˆ − = − = ； 2．L( 1 2 3 x , x , x ) = = − 3 1 2 2 2 1 3 ) e 2 1 ( i i x ， ˆ 0.003 2 = ； 3． = x ˆ