Lec3:指数族和充分完备统计量 张伟平 2011年9月12日 1指数族 在统计理论问题中，许多统计推断方法的优良性，对一类范围广泛的统计模型（亦称为分布 族)，有较满意的结果.这类分布族称为指数族.常见的分布，如正态分布、二项分布、Poissor如 分布、负二项分布、指数分布和Gamma分布等都属于这类分布族，这些表面上看来各不相同 的分布，其实它们都可以统一在一种包罗更广的一类称为指数族的模式中.当然引进这种分布 族的理由，主要不在于谋求形式上的统一，而在于这种统一抓住了它们的共性，因此许多统计理 论问题，对指数族获得较彻底的解决.本节介绍指数族的定义及简单性质， 一、定义与例子 定义1.设多={f(x,):0∈日}是定义在样本空间见上的样本分布族，其中日为参数空间. 若其概率函数f(红，)可表示成如下形式 f(z.0)=C(0)cxp{>Q.(0)T.(=)h(). 则称此样本分布族为指数型分布族（简称指数族(Exponential family),.其中k为自然数，C(0)> 0和Q()(i=1,2·,)都是定义在参数空间日上的（可测）函数，h(x)>0和T(x)(i= 1,2,…,)都是定义在见上的可测)函数. 指数族的一个性质是族中的所有分布具有共同的支撑集(G(x)称为概率函数p(x)的支撑集， 若G(x)={x:p(x)>0})由定义可见指数族支撑集{x:f(x,)>0}={x:h(x)>0}与0无 关.任一分布族若其支撑集与0有关，则族中分布不再具有共同支撑集，因而必不是指数族 例1.正态分布族{N(4,σ2)：-00<4<0，σ2>0}是指数族 Proof.设X=(X1,·,Xn)为从正态分布N(μ，o2)中抽取的简单样本，X的联合密度为 fx%9=(V2o)"e即{-2ac:- (1.1) 4 记0=(4，o2),则参数空间为日={0=(4，o2):-0<4<+0,o2>0}将(1.1)改写为 =(2a可"。岁m总4-到Lec3: çÍx⁄ø©⁄O˛ ‹ï² 2011 c 9  12 F 1 çÍx 3⁄OnÿØK•, Nı⁄Ỏê{`˚5, Èòaâå2ç⁄O. (½°è©Ÿ x), k˜ø(J. ˘a©Ÿx°èçÍx. ~Ñ©Ÿ, X©Ÿ!ë©Ÿ!Poisson ©Ÿ!Kë©Ÿ!çÍ©Ÿ⁄Gamma ©Ÿ—·u˘a©Ÿx, ˘ L°˛w5àÿÉ” ©Ÿ, Ÿ¢ßÇ—å±⁄ò3ò´ù¤ç2òa°èçÍx™•. ,⁄?˘´©Ÿ xnd, Ãáÿ3u*¶/™˛⁄ò, 3u˘´⁄ò84 ßÇ
5, œdNı⁄On ÿØK, ÈçÍxºî.)˚. !0çÍx½¬9{¸5ü. ò!½¬Ü~f ½¬ 1. F = {f(x, θ) : θ ∈ Θ} ¥½¬3òmX ˛©Ÿx, Ÿ•Θ èÎÍòm. eŸV«ºÍf(x, θ) åL´§Xe/™ f(x, θ) = C(θ) exp nX k i=1 Qi(θ)Ti(x) o h(x), K°d©ŸxèçÍ.©Ÿx({°çÍx (Exponential family). Ÿ•kèg,Í, C(θ) > 0 ⁄Qi(θ) (i = 1, 2 · · · , k) —¥½¬3ÎÍòmΘ ˛(åˇ) ºÍ, h(x) > 0 ⁄Ti(x) (i = 1, 2, · · · , k) —¥½¬3X ˛(åˇ) ºÍ. çÍxòá5ü¥x•§k©Ÿ‰k
”|†8( G(x) °èV«ºÍp(x)|†8, eG(x) = {x : p(x) > 0} ). d½¬åÑçÍx|†8{x : f(x, θ) > 0} = {x : h(x) > 0} Üθ à '. ?ò©ŸxeŸ|†8Üθ k', Kx•©Ÿÿ2‰k
”|†8, œ 7ÿ¥çÍx. ~1. ©Ÿx{N(µ, σ2 ) : −∞ < µ < ∞, σ2 > 0}¥çÍx. Proof. X = (X1, · · · , Xn)èl©ŸN(µ, σ2 )•ƒ{¸, XÈ‹ó›è f(x; µ, σ2 ) = √ 2πσ−n exp n − 1 2σ 2 Xn i=1 (xi − µ) 2 o . (1.1) Pθ = (µ, σ2 ), KÎÍòmèΘ = {θ = (µ, σ2 ) : −∞ < µ < +∞, σ2 > 0}.Ú(1.1) Uè f(x, θ) = √ 2πσ−n e − nµ2 2σ2 expn µ σ 2 Xn i=1 xi − 1 2σ 2 Xn i=1 x 2 i o 1