第1期 Metropoli-Hasting自适应算法及其应用 105 1.0 0. 2.5 0.8 0.b 2.0 0.6 15 04 0.4 1.0 02- 02 05 0.0- 0.0 020406080 0100020003000 0.00.40.8 (a)a-10 (b)trace (c)estimated density 1.0 0.8 08 2.0 0.6 0.6 15- 04A- 0.4 10- 02 0.2 0.5 0.0 0.0 0.0 020406080 0100020003000 0.00.40.8 (dg-082 (e)trace (f)estimated density 图2图(a)-(c)分别为采用一般算法(。=10)进行采样得到的样本的自相关系数图，轨迹图及依据 样本估计的密度曲线.图(d)-(0则分别为采用自适应算法(。=0.82)进行采样得到的样本的自相 关系数图，轨迹图及依据样本估计的密度曲线， )时，样本X=(X,,X.)的联合密度为：g(,,10)=亚p(10),或表示为：9(x10)= J. (18),从而，样本X和8的联合分布密度为：f(x,8)=q(xI8)π().由乘法公式知： f(x,8)=x(8)q(x1θ)=g(x)h(91x) 于是有： h(81x)=(9)g(x10) (x) 8∈g (3) 它是给定样本后日的条件分布.其中g(x)是(X,8)关于样本X的边缘分布.如果日是连续型随机变量， 则有：g(x)=J。(x10)x(9)d0:如果0是离散型随机变量，则有：8(x)=29(x1)x(9). 贝叶斯估计方法认为后验分布集中体现了样本和先验分布两者所提供的关于总体的信息，因而应在 后验分布的基础上来进行统计分析，在过去的实际应用中，由于g(x)不便于用分析的方法计算，使得贝 叶斯估计方法的应用大为受阻.为了方便计算而过度简化的模型常被用来凑合一下，MH方法的运用改变 了这一状况. 由于在贝叶斯估计方法中g(x)不依赖于日，在计算后验分布中仅起到一个正则化因子的作用，若把 g(x)省略，可将贝叶斯公式改写为如下等价形式： h(01x)xx(8)q(x1) (4) 其中符号“c”表示两边仅相差一个不依赖于日的常数因子.(4)式的右端虽不是正常的密度函数，但它是 后验分布h(91x)的主要部分.不难看出，M-H算法用于此类模型的一个主要优势在于只要(4)式右边已 知，即可从后验分布中采样，从而避免了计算g(x)的问题. 万方数据第1期 Metropolis-Ha蛳自适应算法及其应用 105 I．o 。·s 。．6 室o．4 。·2 0．o 0 20 40 60 80 (吣口一lO 0 20 40 60 80 (d)口|o．82 0．0 0．4 0．8 (c)estimated demity 0．0 0．4 0．8 (O estimated demity 图2图(a)一(c)分别为采用一般算法(d=tO)进行采样得到的样本的自相关系数图，轨迹图及依据 样本估计的密度曲线．图(d)一(f)则分别为采用自适应算法(盯=O．82)进行采样得到的样本的自相 关系数图，轨迹图及依据样本估计的密度曲线． 髫。)时，样本X=(x1’．一，疋)的联合密度为：q(x。，…，毛f口)=Ⅱp(茗；l口)，或表示为：q(x I口)=ⅡP (毛I口)，从而，样本石和目的联合分布密度为：／(工，口)=q(引口)丌(口)．由乘法公式知： f(x，口)=石(口)q(x I口)=g(x)^(口I工) 于是有： ． ， h(O㈩=坐黔产，口∈@ (3) F～工， 它是给定样本后口的条件分布．其中g(x)是(X，∞关于样本石的边缘分布．如果口是连续型随机变量， 则有：g(x)=l q(x l口)，r(0)d0；如果口是离散型随机变量，则有：g(x)=三日q(x I口)7r(口)． 贝叶斯估计方法认为后验分布集中体现了样本和先验分布两者所提供的关于总体的信息，因而应在 后验分布的基础上来进行统计分析．在过去的实际应用中，由于g(z)不便于用分析的方法计算，使得贝 叶斯估计方法的应用大为受阻．为了方便计算而过度简化的模型常被用来凑合一下．M．H方法的运用改变 了这一状况． 由于在贝叶斯估计方法中g(x)不依赖于口，在计算后验分布中仅起到一个正则化因子的作用，若把 g(工)省略，可将贝叶斯公式改写为如下等价形式： 、 ．h(一I．It)％，r(口)q(工l a) (4) 其中符号“∞”表示两边仅相差一个不依赖于口的常数因子．(4)式的右端虽不是正常的密度函数，但它是 后验分布h(日I工)的主要部分．不难看出，M．H算法用于此类模型的一个主要优势在于只要(4)式右边已 知，即可从后验分布中采样，从而避免了计算g(x)的问题． 万方数据