CHAPTER7.BAYES方法和统计决策理论* 解确定先验分布的问题就转化为估计超参数和的问题.这可用“每周平 均销售量统计表”作出估计.若对表中0的每个小区间用其中点代替,算得和2的 估计如下 i=2.5×0.05+7.5×0.26+..+32.5×0.01=13.45 T2=(2.5-)2×0.05+(7.5-μ4)2×0.26+…+(32.5-)2×0.01=36.85 故0~N(位,2)=N(13.45,36.85),用先验分布可求下列概率,如 P20≤0≤2=P203559-13.45<21-13.45 ≤7368两≤VW3. =Φ(1.24)-Φ(1.08)=0.8925-0.8508=0.0417 在给定先验分布形式时,决定超参数的另一方法是从先验信息中获得几个分位 数的估计值,然后选择超参数(即超参数的估计值),使其尽可能接近这些分位数. 例7.2.3设参数的取值范围为(-∞,∞),先验分布为正态分布,若从先验信 息得知:(1)先验的中位数为0,(2)0.25和0.75的分位数分别为-1和+1,试求此先验分 布 解由于0~N(4,),因此确定先验分布的问题就转化为估计4和的问 题.正态分布的中位数就是4,故μ=0.由0.75的分位数为1,即0.75=P(0<1)= P(0/r<1/)=P(Z<1/r),其中Z=/r~N(0,1),查标准正态分布表÷1/r= 0.675,即T=1.481,故→0~N(4,2)=N(0,1.4812)为9的先验分布. 又若在本例中假定不是正态分布,而是Cauchy?分布,其余条件不变,即9~ π(0:α,)=B/{π[32+(0-a)2]},-o<0<o,确定先验分布的问题就转化 为求a,B的估计. 由于Cauchy分布均值和方差皆不存在,但它关于a对称,故有a=0.又由条 件0.25分位数为-1,即 1 1 +2=0.25 1 -xπ(B2+2 =元arctg( 解出6=1,故9~C(a,)=C(0,1) 因此同样的先验信息有2个先验分布可供选择.若2个先验分布差别不大,可任 选其一.在本例中N(0,1.4812)和C(0,1)密度函数形状上相似(都关于0对称,中间高 两边低),但Cauchy分布的尾部概率较大.因此若的先验信息集中在中间,则选择 正态好些,若先验信息较分散,选择Cauchy分布更合适些, 三、无信息先验 Bays分析的一个重要特点就是在统计推断时要利用先验信息.但常常会出现 这样的情况:没有先验信息或者只有极少的先验信息可利用,但仍想用Byes方法. 此时所需要的是一种无信息先验(noninformative prior),即对参数空间日中的任何 一点没有偏爱的先验信息.这就引出了无信息先验分布的概念6 CHAPTER 7. BAYESê{⁄⁄O˚¸nÿ* ) (½k©ŸØK“=zèOáÎ͵⁄τ 2ØK. ˘å^/z±² ˛ù»˛⁄OL0ä—O. eÈL•θ zá´m^Ÿ•:ìO, éµ⁄τ 2 OXe µˆ = 2.5 × 0.05 + 7.5 × 0.26 + · · · + 32.5 × 0.01 = 13.45 ˆ τ 2 = (2.5 − µ) 2 × 0.05 + (7.5 − µ) 2 × 0.26 + · · · + (32.5 − µ) 2 × 0.01 = 36.85 θ ∼ N(ˆµ, τˆ 2 ) = N(13.45, 36.85),^k©Ÿå¶eV«, X P(20 ≤ θ ≤ 21) = P( 20 − 13.45 √ 36.85 ≤ θ − 13.45 √ 36.85 ≤ 21 − 13.45 p√ 36.85 ) = Φ(1.24) − Φ(1.08) = 0.8925 − 0.8508 = 0.0417 3â½k©Ÿ/™û, ˚½áÎÍ,òê{¥lk&E•ºAᩆ ÍOä, ,¿JáÎÍ(=áÎÍOä) , ¶Ÿ¶åUC˘ ©†Í. ~7.2.3 ÎÍθäâåè(−∞, ∞),k©Ÿè©Ÿ, elk& E: (1)k•†Íè0,(2) 0.25⁄0.75©†Í©Oè-1⁄+1, £¶dk© Ÿ. ) duθ ∼ N(µ, τ 2 ),œd(½k©ŸØK“=zèOµ ⁄ τØ K. ©Ÿ•†Í“¥µ,µ = 0. d0.75©†Íè1, =0.75 = P(θ < 1) = P(θ/τ < 1/τ ) = P(Z < 1/τ ), Ÿ•Z = θ/τ ∼ N(0, 1), IO©ŸL⇒ 1/τ = 0.675, = τ = 1.481,=⇒ θ ∼ N(µ, τ 2 ) = N(0, 1.4812 )èθk©Ÿ. qe3~•b½θÿ¥©Ÿ, ¥Cauchy©Ÿ, Ÿ{^áÿC, =θ ∼ π(θ; α, β) = β/{π[β 2 + (θ − α) 2 ]}, −∞ < θ < ∞, (½k©ŸØK“=z è¶α, β O. duCauchy©Ÿ˛ä⁄êÿ3, ß'uαÈ°, kα = 0.qd^ á0.25©†Íè-1,= Z −1 −∞ β π(β 2 + θ 2) dθ = 1 π arctg−1 β + 1 2 = 0.25 )—β = 1, θ ∼ C(α, β) = C(0, 1). œd”k&Ek2ák©Ÿå¯¿J. e2ák©ŸOÿå, å? ¿Ÿò. 3~•N(0, 1.4812 )⁄C(0,1)ó›ºÍ/G˛Éq(—'u0È°, •mp ¸>$) , Cauchy©Ÿó‹V«å. œdeθk&E8•3•m, K¿J – , ek&E©—, ¿JCauchy©Ÿç‹· . n!Ã&Ek Bayes©¤òááA:“¥3⁄Ỏûá|^k&E. ~~¨—y ˘ú¹: vkk&E½ˆêk4k&Eå|^, Eé^Bayesê{. dû§Iá¥ò´Ã&Ek (noninformative prior),=ÈÎÍòmΘ•?¤ ò:θvk†Ok&E. ˘“⁄— Ã&Ek©ŸVg.