-56- 管理科学学报 2000年6月 →E[f(X)],n→oo. 1953年提出了一种构造转移核的方法，Hastings 从模拟计算的角度看，构造的转移核使已知 随后对之加以推广，形成Metropolis-Hastings方 的概率分布π(x)为平稳分布.因此，在采用 法，其思路如下 MCMC方法时，转移核的构造具有至关重要的作 任意选择一个不可约转移概率q(·|·)以及 用.不同的转移核的构造方法，导致不同的 一个函数(·，·)，0<a(·,)≤1，对任一组合( MCMC方法，如Metropolis方法、Gibbs抽样方 x,x')(x≠x')定义 法等. p(xlx')=q(xlx')a(x,x'),xx' 至此，可以把MCMC方法概括为如下三步： 则p(xx)形成一个转移核. 1)在X上选一个“合适”的马尔科夫链，使其 此方法的实施比较直观：如果链在时刻t处 转移核为(·|·)，这里“合适”的含义主要指π( 于状态x,即X=x,则首先由q(￥|x)产生一 x)应是其相应的平稳分布： 个潜在的转移x→x,然后根据概率a(x,x')决 2)由X中某一点X出发，用(1)中的马尔 定是否转移.也就是说，在潜在转移点找到后，以 科夫链产生点序列X1》,…,X: 概率a(x,x)接受x作为链在下一时刻的状态 3)对某个m和大的n,任一函数f(x)的期 值，而以概率1一a(x,x)拒绝转移到x',从而链 望估计如下 在下一时刻仍处于状态x.于是，在有了x'后，可 Ef(X)]-m ∑f(X) 在抽取一个[0,1]上均匀分布的随机数，则 X+1)= x',u≤a(x,x') x, u>a(x,x') 2 抽样方法 转移核的构造 一 般，分布g(|x)称为建议分布(proposal distribution).因为目的是使后验分布π(x)成为 MCMC主要应用在多变量、非标准形式、且 平稳分布，因此，在有了q(·|·)后，应选择一个 各变量间相互不独立时分布的模拟.由于在 a(·,·)使相应的p(xx')以π(x)为其平稳分布， MCMC方法中，转移核的构造起着决定性的作 一个最常用的选择是 用，所以本部分将详细讨论这个问题 a(x,x')=min π(x')q(x'|x) 2.1 Metropolis-Hastings方法 (4) π(x)g(x|x) 在MCMC中最一般化的抽样方法是 Metropolis-Hastings方法.Metropolis等人在 此时，p(xx')为 (g(xlx') π(x)q(x'|x)≥π(x)q(x|x') p(xlx')= (2'( π(x)’ π(x)q(x'|x)<π(x)q(x|x) 下面讨论q(xx)的选择问题. 一个转移核q(x,→xx-),固定X'-=X-=x- 同时产生整个X有时是困难的，而将X根据 不变，由q(x,→x,x-)产生一个可能的x,然后 其分量进行逐个抽样则简单的多，这就要用到条件 以概率X'-,=X-=x-不变，由q(x·x',x-) 分布，特别是满条件分布. 产生一个可能的x:,然后以概率 考虑X,lX-,i=1,2,…,n的条件分布，选择 a;(x;x':x-)=min 1, (x)q:(x',→x|x-) π(x)q(x之xx-) 决定是否接受x'作为链的下一状态，这就是 Hastings方法中取q(x·x)为π(x,lx-i),容易验 单元素Metropolis-Hastings算法. 证，此时a(x→x)=1. 2.2 Gibbs抽样 在Gibbs抽样的构造之初，假设X具有密度 Gibbs抽样实际上是一种特殊的单元素函数π(x),这在实际中往往做不到，但这并不影响 Metropolis-Hastings算法，它是在Metropolis--Gibbs抽样的实施.应用中，可以对i=l,·,n重- [f( X) ] n - . 从 模拟计算的角度看 构造的转移核使已知 的概率分布 T ( s ) 为平稳分 布. 因 此 在 采 用 MCMC 方法时 转移核的构造具有至关重要的作 用. 不 同 的 转 移 核 的 构 造 方 法 导 致 不 同 的 MCMC 方法 如 MetrOpOlis 方法 Gibbs 抽样方 法等. 至此 可以把 MCMC 方法概括为如下三步: 1) 在 X 上选一个 合适 的马尔科夫链 使其 转移核为 p(- l - ) 这里 合适 的含义主要指 T ( s ) 应是其相应的平稳分布; 2) 由 X 中某一点 X( O) 出发 用( 1) 中的马尔 科夫链产生点序列 X( 1) X( n) ; 3) 对某个 m 和大的 n 任一函数 f ( s ) 的期 望估计如下 [f( X) ] = 1 n - m n t= m-1 f( X( t) ) 2 抽样方法 转移核的构造 MCMC 主要应用在多变量 非标准形式 且 各 变 量 间 相 互 不 独 立 时 分 布 的 模 拟. 由 于 在 MCMC 方法中 转移核的构造起着决定性的作 用 所以本部分将详细讨论这个问题. 2. 1 MetrOpOlis-Hastings 方法 在 MCMC 中 最 一 般 化 的 抽 样 方 法 是 MetrOpOlis-Hastings 方 法. MetrOpOlis 等 人 在 1953 年提出了一种构造转移核的方法 Hastings 随后对之加以推广 形成 MetrOpOlis-Hastings 方 法 其思路如下. 任意选择一个不可约转移概率 G( - l - ) 以及 一个函数 D( - - ) O < D( - - ) S 1 对任一组合 ( s s/ ) ( s S s/ ) 定义 p( sl s/ ) = G( sl s/ ) D( s s/ ) s S s/ 则 p( sl s/ ) 形成一个转移核. 此方法的实施比较直观: 如果链在时刻 t 处 于状态 s 即 X( t) = s 则首先由 G( l s) 产生一 个潜在的转移 s - s/ 然后根据概率 D( s s/ ) 决 定 是否转移. 也就是说 在潜在转移点找到后 以 概率 D( s s/ ) 接受 s/ 作为链在下一时刻的状态 值 而以概率 1 - D( s s/ ) 拒绝转移到 s/ 从而链 在下一时刻仍处于状态 s. 于是 在有了 s/ 后 可 在抽取一个[O 1] 上均匀分布的随机数 u 则 X( t-1) = s/ u S D( s s/ ) { s u > D( s s/ ) 一 般 分 布 G( l s) 称 为 建 议 分 布 ( prOpOsal distributiOn). 因为目的是使后验分布 T( s) 成为 平 稳分布 因此 在有了 G( - l - ) 后 应选择一个 D( - - ) 使相应的 p( sl s/ ) 以 T( s) 为其平稳分布 一个最常用的选择是 D( s s/ ) = min 1 T( s/ ) G( s/ l s) { T( s) G( sl s/ ) } ( 4) 此时 p( sl s/ ) 为 p( sl s/ ) = G( sl s/ ) T( s/ ) G( s/ l s) 2 T( s) G( sl s/ ) G( s/ l s) T( s/ ) T( s) L T( s/ ) G( s/ l s) < T( s) G( sl s/ ) 下面讨论 G( sl s/ ) 的选择问题. 同时产生整个 X 有时是困难的 而将 X 根据 其分量进行逐个抽样则简单的多 这就要用到条件 分布 特别是满条件分布. 考虑 XIl X-I I = 1 2 n 的条件分布 选择 一个转移核 G( sI - s/ Il s-I) 固定 X/ -I = X-I = s-I 不变 由 G( sI - s/ Il s-I) 产生一个可能的 s/ I 然后 以概率 X/ -I = X-I = s-I不变 由 G( sI - s/ I l s-I) 产生一个可能的 s/ I 然后以概率 DI( sI - s/ Il s-I) = min 1 T( s/ ) GI( s/ I - sIl s-I) { T( s) GI( sI - s/ Il s-I) } 决定是否接受 X/ 作为链的下一状态 这就是 单元素 MetrOpOlis-Hastings 算法. 2. 2 Gibbs 抽样 Gibbs 抽 样 实 际 上 是 一 种 特 殊 的 单 元 素 MetrOpOlis-Hastings 算 法 它 是 在 MetrOpOlis￾Hastings 方法中取 G( s/ - s) 为 T( sI l s-I) 容易验 证 此时 D( s/ - s) = 1. 在 Gibbs 抽样的构造之初 假设 X 具有密度 函数 T( s) 这在实际中往往做不到 但这并不影响 Gibbs 抽样的实施. 应用中 可以对 I = 1 n 重 5 管 理 科 学 学 报 2OOO 年 月