收敛速度。 9n 9o-pl 输入层 隐层 输出层 输入层 隐层 输出层 图1先验密度的BP网络结构 图2似然函数的BP网络结构 设t时刻已经抽取样本g°，g,…,91,根据这些历史得到推荐分布q,(·1g°，g,…,g)生成新的 样本g,根据式(10)计算的接受概率来判断是否接受该新样本： a(',-)min1, ,」，fs.19,9o)g(919o)1 1”fs.1q,9o）g(gn1qo) (10) AM算法将推荐分布g,(1g°，g',…,9)定义为以9-1为均值，Com(g°，q',…,g-)为协方差的正 态分布。协方差的计算如式(11)所示。在初始抽样次数i≤°中，协方差C:取固定值C。(C。的确定可 根据先验确定)，之后自适应更新。 「Co i≤to C.Cou())sit (11) 式中：ε为一个较小的正数，以确保C:不为奇异矩阵；s:为一个比例因子，依赖于变量的维数d,以确保 接受概率在一个合适的范围内，Gelman等9建议s:取为2.41d;I,为d维单位矩阵。to为初始抽样次 数。 第：+1次迭代的协方差根据式(11)计算得出，即式(12)所示： C=:c+(项9-(i+10g+9g+) (12) 式中：q:-,和9：为前i-1次和i次抽样的均值；9为向量q:的转置。 由上可知，AM算法的采样机制与所有的历史样本信息qo,q,…,9-1有关，Haario等1证明了该算 法的收敛性及遍历性。AM算法的具体采样步骤如下：(1)初始化，i=0;(2)初始状态q:在其变量的先 验范围内随机产生并接受；①利用式(11)计算协方差C:;②产生推荐变量q'~N(9:,C:):③按式(10) 计算接受概率a;④产生一个均匀随机数u~U(0,1);⑤若u<a,接受q:+1=g”,否则q1=9:;(3)i= i+1,重复①~⑤直至产生预先要求的样本数量为止。 2.2收敛判断准则MCMC研究的一个重要任务是判断并行采样序列是否收敛到后验分布。理论上 一个各向同性的采样器在t→o时一定收敛，而在实际应用中并非如此。Geman等o提出了一种定量 的比例缩小得分(scale reduction score)√R用以诊断收敛性，得到了广泛应用。计算方法如下： =√+语 (13) B1i=∑(4-)子(k-1) (14) W=∑s1k (15) 式中：i为每次并行运算的抽样次数；k为并行采样的次数；B/i为各次并行运算样本均值u的方差；ū 为4的均值。W为各次并行运算样本方差s的均值：通常，比例缩小得分接近1则表示算法达到收敛。 -1502- 万方数据万方数据