10 CHAPTER7.BAYES方法和统计决策理论* 所以，(4，σ)的Jeffreys先验（由于它是非正常先验，可以丢弃常数因子）为 π(4，o)=1/o2 即(4，σ)的联合无信息先验为1/σ2.它的几个特例为 ()当a已知时，I=E{-}=n/a2,故取x(=1. 2当u已知时，I0o)=E{-8}=2na2,故取xo)=1/o,∈(0，o) (3)当4和σ独立时，π(4，o)=(m)π(o)=1/o,o∈(0，∞) 由此可见，当μ和σ的无信息先验不独立时，它们的联合无信息先验为1/σ2： 而当μ和o的无信息先验独立时，它们的联合无信息先验为1/a.Jeffreys最终推荐 用π(4，o)=1/a为μ和σ的联合无信息先验 例7.2.8设为Benoulli试验中成功概率，则在n次独立的Benoulli试验中，记成 功次数为随机变量X,则X~b(n,).即 PX==(回）pr1-0n-3,=01,n 其对数似然函数为(x)=ln()+xl血0+(n-x)n(1-),故有 0=Bw{-g}=Bw倍+二}=日+2。= 故取π()xI()2=0-(1-)一，0∈(0,1)，添加正则化因子得到先验密度π()，它 是一个Beta密度Be(1/2,1/2): 注7.2.1一般说来无信息先验不唯一，它们对Bay©s推断影响都很小，很少对 结果产生较大的影响，所以任何无信息先验都可以接受.当今无论在统计理论和应 用研究中无信息先验采用越来越多，就连经典统计学者也认为无信息先验是客观 的，可以接受的.这是近几十年中Bayes学派研究中最成功的部分. 四、共轭先验分布 1.共轭先验分布的概念 另外一种选择先验的方法是从理论的角度出发的，在已知样本分布的情形下， 为了理论上的需要常常选参数的先验为共轭先验分布，其定义如下： 定义7.2.2设F为9的先验分布族，样本X的分布为f(x9),如果对任取的π(0)∈ F及样本x,后验分布π(0z)仍属于F,则称F是一个共轭先验分布族(conjugate prior distribution family). 下面给出计算共轭先验分布的一个例子： 例7.2.9设X~b(n,0).(1)设0~U(0,1),即(0,1)上的均匀分布，证明9的后 验分布为Beta分布；(2)若取的先验分布为Beta分布Be(a,b),证明e的后验分布仍 为Beta分布.即样本分布如果为二项分布，则共轭先验分布为Beta分布.10 CHAPTER 7. BAYESê{⁄⁄O˚¸nÿ* §±, (µ, σ)Jeffreysk(duߥö~k, å±øÔ~Íœf)è π(µ, σ) = 1/σ2 . =(µ, σ)È‹Ã&Ekè1/σ2 . ßAáA~è (1) σÆû, I(µ) = E  − ∂ 2 l(θ|x) ∂µ2 = n/σ2 , π(µ) ≡ 1. (2) µÆû, I(σ) = E  − ∂ 2 l(θ|x) ∂σ2 = 2n/σ2 ,π(σ) = 1/σ, σ ∈ (0, ∞). (3) µ ⁄ σ’·û,π(µ, σ) = π(µ)π(σ) = 1/σ, σ ∈ (0, ∞). ddåÑ, µ ⁄ σÃ&Ekÿ’·û, ßÇÈ‹Ã&Ekè1/σ2 ; µ ⁄ σÃ&Ek’·û, ßÇÈ‹Ã&Ekè1/σ. JeffreysÅ™Ì ^π(µ, σ) = 1/σèµ ⁄ σÈ‹Ã&Ek. ~7.2.8 θèBenoulli£•§ıV«, K3ng’·Benoulli£•, P§ ıgÍèëÅC˛X,KX ∼ b(n, θ).= P(X = x) =  n x  θ x (1 − θ) n−x , x = 0, 1, · · · , n. ŸÈÍq,ºÍèl(θ|x) = ln ￾n x
+ x ln θ + (n − x) ln(1 − θ),k I(θ) = EX|θ n − ∂ 2 l(θ|x) ∂θ2 o = EX|θ n X θ 2 + n − X (1 − θ) 2 o = n θ + n 1 − θ = n θ(1 − θ) π(θ) ∝ I(θ) 1/2 = θ − 1 2 (1−θ) − 1 2 , θ ∈ (0, 1), V\Kzœfkó›π(θ),ß ¥òáBetaó›Be(1/2, 1/2). 57.2.1 òÑ`5Ã&Ekÿçò, ßÇÈBayes̉Kè—È, ÈÈ (J)åKè, §±?¤Ã&Ek—å±…. 8Ãÿ3⁄Onÿ⁄A ^Ôƒ•Ã&EkÊ^5ı, “β;⁄Oƈè@èÃ&Ek¥ê* , å±…. ˘¥CAõc•BayesÆ￾Ôƒ•Å§ı‹©. o!
›k©Ÿ 1.
›k©ŸVg , ò´¿Jkê{¥lnÿ›—u, 3Æ©Ÿú/e, è nÿ˛Iá~~¿ÎÍkè
›k©Ÿ,Ÿ½¬Xe: ½¬7.2.2 Fèθk©Ÿx, X©Ÿèf(x|θ), XJÈ?π(θ) ∈ F9x,￾©Ÿπ(θ|x)E·uF, K°F¥òá
›k©Ÿx (conjugate prior distribution family). e°â—Oé
›k©Ÿòá~f: ~7.2.9 X ∼ b(n, θ). (1) θ ∼ U(0, 1),=(0, 1)˛˛!©Ÿ, y²θ￾ ©ŸèBeta©Ÿ; (2) eθk©ŸèBeta©ŸBe(a, b),y²θ￾©ŸE èBeta©Ÿ. =©ŸXJèë©Ÿ, K
›k©ŸèBeta©Ÿ.