《应用随机过程教程》教学资源（参考资料）与在算法和智能计算中的应用——第12章 连续时间连续状态的 Markov过程,鞅,Ito积分与随机微分方程（上）

龚光鲁,钱敏平著应用随机过程教程一与在算法和智能计算中的应用 清华大学出版社,2003 第12章连续时间连续状态的 Markov过程,鞅,Ito积分与随机微分方程 1.连续时间连续状态的 Markov过程 1.1平稳 Gauss过程 定义12.1 Gauss平稳过程{,t∈R}称为 Mar koy型的,如果其相关函数 B(s)=E(51)是连续函数,而且对任意s≥0,t∈R有% f,图n4s=eE|5m-∑a541= infeR E|5+-a5,F12.1) 其含义是,在均方距离5|=√E2下,若用过程在时刻以前的资料{n:u≤1}的有限线 性组合去近似5,其最佳的近似只需在L(5on)=a5:a为任意实数}中寻找 对于 Markov型的 Gauss平稳过程,(12.1)右方必然在某个(依赖于s的)a上达到, 我们记此a为a(s).又由于(12.1)成立,那么,对任意l≥0及入,2有 E|5-(A15+2,)P≥E|m-a() 从而,对任意u,s>0,由投影公式有 E[(s-a(s))1-]=0 B(s+u)=a(s)b(u (12.2) 取u=0,我们得到a()=y 在(12.2)两端除以B(0)后便得到 B(0) a(s +u)=a(s)a(u) (, u20) 再由B(s)的连续性,即α(s)是连续函数,及a(s)≤1=a(0)推出 a(s)=B(O)e-(B,s≥0) 记y=B(0),便得B(s)=y β,y>0的情形称为非退化情形.当S<0时,由平 稳性我们显见有B(s)=B(-s),合起来便成为 B(s=ye (12.3) 323

323 龚光鲁, 钱敏平著 应用随机过程教程 – 与在算法和智能计算中的应用 清华大学出版社, 2003 第 12 章 连续时间连续状态的 Markov 过程, 鞅, Ito 积分与随机微分方程 1 ．连续时间连续状态的 Markov 过程 1. 1 平稳 Gauss 过程 定义１２．１ Gauss 平稳过程{ξt ,t∈R} 称为 Markov 型的，如果其相关函数 ( ) ( ) E t t s B s + D = x x 是连续函数，而且对任意 s≥0,t∈R 有% 2 2 , , , inf | | inf | | R t s t i n n i n t t R E t s i t E i i i x a x x ax a - = aÎ + - £ £ £ Î + å . (12. 1) 其含义是，在均方距离 2 || x ||= Ex 下，若用过程在时刻t 以前的资料{ : u t} xu £ 的有限线 性组合去近似 t +s x ，其最佳的近似只需在 ( ) L [0,t] x {ax :a为任意实数} D = t 中寻找。 对于 Markov 型的 Gauss 平稳过程，(12 .1)右方必然在某个(依赖于 s 的) a 上达到, 我们记此a 为a(s) . 又由于(12.1)成立，那么, 对任意u ³ 0及l1，l2有 2 2 1 2 | ( ) | | ( ) | t s t u t t s t E x - l x + l x ³ E x -a s x + - + . 从而, 对任意u,s > 0 , 由投影公式有 E[(x t+s -a(s)xt )xt -u ] = 0 , 即 B(s + u) =a(s)B(u) . (12. 2) 取u = 0, 我们得到 (0) ( ) ( ) B B s a s = ．在(12.2)两端除以 B(0) 后便得到 a(s +u) =a(s)a(u) (s,u ³ 0)． 再由 B(s)的连续性，即a(s) 是连续函数，及a(s) £ 1 =a(0)推出 ( ) = (0) ( , ³ 0) - × s B e s t a b b ． 记g = B(0) , 便得 B(s)= g e -bs . b ,g > 0 的情形称为非退化情形. 当 s < 0 时，由平 稳性我们显见有 B(s) = B(-s) ，合起来便成为 B(s) = g e -b|s| . (12. 3)

此条件也是具有连续相关函数B(1)的实值非退化 Gauss平稳过程{51:-∞<t<o}是 Markov型的充要条件 定理12.2非退化的 Markov型的 Gauss平稳过程{;:-∞<t<∞},在任意有限 个时刻所得的随机向量(5,…,,)的联合分布具有密度 证明不失一般性,我们可以假定E51=0,y=B=1,1<…<ln由(12.1) 及(12.2)我们得到 ),]=0,(≤n-1) 利用{2,:-<1<叫}的Gaus性就得到(5,-e',)与(5,…5n)相互独立 下面我们用数学归纳法证明(n,…,5)有联合密度 当n=1时,由于5,~N(0.1),显见它有密度.今作归纳法假定,设n=m-1时已 有密度Pk…,)(x1,…,xm).往证在n=m时结论也成立.为此我们记 那么它的方差为 (Tn)=E(5 =B(0)-2e)B(tn-tm1)+e-0--)B(0)=1-e2…-) 即nn~N(0.1-e-2m)由于它与(5,…5n)独立,从而(m,,…,5,)有密 度 (y,x m-1 2r(1 利用随机变量密度函数的变换公式,并利用y=xme-"xm,就得到(5n…54) 的密度表达式为 324

324 此条件也是具有连续相关函数 B(t) 的实值非退化 Gauss 平稳过程 { : -¥ < t < ¥} t x 是 Markov 型的充要条件. 定理１２．２ 非退化的 Markov 型的 Gauss 平稳过程{ : -¥ < t < ¥} t x , 在任意有限 个时刻所得的随机向量( , , ) 1 n t t x L x 的联合分布具有密度. 证明 不失一般性, 我们可以假定 Ext º 0 , g = b = 1, n t < L < t 1 . 由(12. 1) 及(12. 2)我们得到 [( ) ] 0,( 1) 1 1 ( ) - = £ - - - - - E e j n n j n n n t t t t t x x x . 利用{ : -¥ < t < ¥} t x 的 Gauss 性就得到( ) 1 1 ( ) - - - - - n n n n t t t t x e x 与( , , ) 1 1 t t n x L x - 相互独立． 下面我们用数学归纳法证明( , , ) 1 t t n x L x 有联合密度。 当n =1时, 由于 ~ (0,1) 1 xt N , 显见它有密度. 今作归纳法假定, 设 n = m-1时已 有密度 ( , , ) (t1 , ,t -1 ) 1 m -1 x x r L m L . 往证在n = m时结论也成立. 为此我们记 D hm = 1 1 ( ) - - - - - m m m m t t t t x e x ． 那么它的方差为 ( ) 2 ( ) ( ) 1 1 - - - - = - n n n n t t t m t Var h E x e x (0) 2 ( ) 1 ( ) 1 - - - = - - - m m t t B e B t t m m + e (0) 2( ) 1 B - tm -tm - 2( ) 1 1 - - - = - t m tm e ． 即 hm (0,1 ) 2( ) - - -1 - tm tm ～N e ). 由于它与 ( , , ) 1 1 tm t x L x - 独立，从而( , , , ) 1 1 m tm t h x L x - 有密 度: ( , , , ) , , , 1 1 1 1 - - m p y x x m t tm h x L x L ( , , ) ( , , ) 1 1 = t1 t -1 m￾x x r L m L 2(1 ) 2 ( ) ) 1 2 ( 2 1 2 (1 ) 1 - - - - - - - - - tm tm m m e y t t e p e . 利用随机变量密度函数的变换公式，并利用 y = xm - 1 ( ) 1 - - - - m t t e x m m , 就得到 ( , , ) 1 t t m x L x 的密度表达式为 ( , , ) ( , , ) 1 t 1 t m x x r L m L

=P1“)(x,…,xm-) e 2r(1 2丌 AV2m(-e24小e2=c2-4-1) (12.4) 推论12.3对于相关函数为B(s)=ye-刚的Gas平稳过程{ -0<【<a 及1<…<n,(5n,…,54)有密度 p1…)( 2ry e2B4小e2y(-2(-) (12.4) 2m/(1 推论12.4相关函数为B(s)=ye-叫的 Gauss平稳过程{,-∞<1<∞},具有 以下的 Markov性质:对于任意n及任意1<…<ln,在给定(ξ,…,,)=(xn,…,x1)的 条件下,5的条件分布密度只与5,=xn有关,而与(5m1…,5n)=(xn,…x)无关 (即在5=xn已知的条件下,5与(51…,5n)条件独立) 证明我们把在(1,…,5)=(xn,…,x)的条件下的条件分布密度记为 P1…n(xn|xn…,x),而把在5。=xn的条件下5,的条件分布密度记为 Pn(x1xn).由(12.4)’,我们有 (孓心 P Pm(xm+1…, 2xy(1-e-2p(+1-l)) P1,(xn+1|x) (x) 再对xn1在某个集合A上积分,便得 325

325 ( , , ) ( , , ) 1 1 1 1 - - = t t m x x r L m L 2(1 ) ( ) 2( ) ) 1 2 ( ) 2 1 ( 1 1 2 (1 ) 1 - - - - - - - - - - - - - - tm tm tm tm m m m m e x x e t t e p e Õ= - - - - - - - - - - - - - - - = m k e x x e t t x k t k t k t k t k k k k e e e 1 2(1 ) ( ) 2( ) 2 2( 1) ( 1 ) 2 1 1 2 1 2 (1 ) 1 2 1 p p (12. 4) 推论１２．３ 对于相关函数为 B(s) = ge -b|s|的 Gauss 平稳过程{ : -¥ < t < ¥} t x , 及 n t < L < t 1 , ( , , ) 1 t t n x L x 有密度 ( , , ) ( , , ) 1 1 t t n x x r L n L Õ= - - - - - - - - - - - - - - - = n k e x x e t t x k t k t k t k t k k k k e e e 1 2 (1 ) ( ) 2 ( ) 2 2 ( 1 ) ( 1 ) 2 1 1 2 1 2 (1 ) 1 2 1 b b g b pg pg . (12. 4)’ 推论１２．４ 相关函数为B(s) = ge -b|s|的 Gauss 平稳过程{ : -¥ < t < ¥} t x , 具有 以下的 Markov 性质: 对于任意n 及任意 1 < < n +1 t L t ，在给定( , , ) 1 t t n x L x ( , , ) 1 x x = n L 的 条件下， n+1 t x 的条件分布密度只与 n t x n = x 有关, 而与( , , ) 1 1 t t n x L x - ( , , ) 1 1 x x = n - L 无关 (即在 n t x n = x 已知的条件下, n+1 t x 与( , , ) 1 1 t t n x L x - 条件独立). 证明 我们把在( , , ) 1 t t n x L x ( , , ) 1 x x = n L 的条件下 n+1 t x 的条件分布密度记为 ( | , , ) 1 | , , 1 1 1 p x x x tn+ tn L t n + n L , 而 把 在 n t x n = x 的条件下 n+1 t x 的条件分布密度 记 为 ( | ) t 1 |t n 1 n p x x n+ n + . 由(12. 4)＇, 我们有 ( | , , ) 1 | , , 1 1 1 p x x x tn+ tn L t n + n L ( , , ) ( , , ) ( , , ) 1 ( , , ) 1 1 1 1 1 x x x x t t n t t n n n L L L L r r + + = 2(1 ) ( ) 2 ( ) ) 1 2 ( ) 2 1 ( 1 1 2 (1 ) 1 n t n t n t n t n n n n e x x e t t e e - + - - + - + + - - - - - - = b b b pg ( ) ( , ) ( , ) 1 1 t n t t n n x x x n n n r r + + = ( | ) t 1 |t n 1 n p x x = n+ n + . 再对 n+1 x 在某个集合L 上积分，便得

P(,∈A x)=P(5∈A|.=xn) 这就是时间与状态都连续的随机过程{:-∞0的情形.我们把Ln改记为s,Ln-tn1改 记为1,再将P+(y|x)(注意它的表达式与S无关)改记为p(t,x,y) 命题12.6{p(1,x,y):≥0,x,y∈R}满足 Kolmogorov- Chapman方程: p(+,x,y)=p(x,)p1(y)k 证明为了看起来对称,令1+S=12,l2+1=13,x=x,2=x2,y=x3于是 ∫ns,x-)D(4=,y)t=」P2(x21x)m4(x1x2x)2 P42(x,2x2)P12(x,x2,x3 P4(x1)p4,(x1,x2) P2,(x3,x2|xd2=P21(x3|x)=P(S+t,x,y) 1.2时间与状态都连续的时齐 Markov过程 定义12.6假定对于任意的n及n个时刻<…<tn,(5,…,5)都有正的联 合密度P(4…(x1,…,x),且其条件分布满足:对任意的1<…<1n=1n+1, t,s=tn≥0,都有不依赖Ln的关系: P,+n-(Oy|x,xn-1…,x1)=P,+,(y|x)=P+(x)(记成p(,xy) 则称随机过程{1:t≥0}为时齐的 Markov过程,并称p(t,x,y)为此 Markov过程的转移密 326

326 ( | , , ) 1 1 1 P x x t t n t n n Î L = = + x x L x ( | ) t 1 t n P x n n = Î L = + x x . 这就是时间与状态都连续的随机过程{ : -¥ 0的情形. 我们把 n t 改记为 s, n - n-1 t t 改 记为t , 再将 ( | ) | p y x t+s s (注意它的表达式与 s 无关) 改记为 p(t, x, y) . 命题１２．６ {p(t, x, y) : t ³ 0, x, y Î R}满足 Kolmogorov-Chapman 方程： ò p(t + s, x, y) = p(t, x,z) p(t,z, y)dz . (12. 5) 证明 为了看起来对称，令 , 1 2 t + s = t , 2 3 t + t = t 1 2 3 x = x ,z = x , y = x ．于是 ò ò = | 2 1 | , 3 2 1 2 ( , , ) ( , , ) ( | ) ( | , ) 2 1 3 2 1 p s x z p t z y dz p x x p x x x dx t t t t t 2 , 1 2 , , 1 2 3 1 , 1 2 ( , ) ( , , ) ( ) ( , ) 1 2 1 2 3 1 1 2 dx x x x x x x x x t t t t t t t t r r r r ò = ( , | ) ( | ) , | 3 2 1 2 | 3 1 3 2 1 3 1 p x x x dx p x x = ò t t t = t t = p(s + t, x, y) . 1. 2 时间与状态都连续的时齐 Markov 过程 定义１２．６ 假定对于任意的n 及n 个时刻 n t < L < t 1 ，( , , ) 1 t t n x L x 都有正的联 合密度 ( , , ) ( , , ) 1 1 t t n x x r L n L , 且其条件分布满足 : 对任意的 t t t t 1 < L < n +1 = n + , t,s = t n ³ 0, 都有不依赖 n t 的关系: ( | , , ) | , 1 , , 1 1 1 p y x x x tn +t tn tn- L t n- L ( | ) ( | ) | | p y x p y x t t t s t s = n + n = + (记成 p(t, x, y) )， (12. 6) 则称随机过程{ : t ³ 0} t x 为时齐的 Markov 过程，并称 p(t, x, y) 为此 Markov 过程的转移密

度 推论12.7时齐的 Markov过程的转移密度满足 .1)p(xy)20.∫pxy)d=1 (P.2) Chapman-Kolmogorov方程:p(t+s,x,y)=「p(t,x,-)p(,-2,y) [注1转移密度P(t,x,y)是转移概率P()在状态空间为实数集时的对应表示 [注2]时齐 Markov过程也可以只对t>0时要求(,…,5)都有正的联合密度.也就 是说,初值ξ0可以特殊一些,不必要求它有密度.因为我们可以利用时齐性补充定义在条 件5=x下,5的条件密度为p(t,x,y).从而可以讨论5取离散值或有密度的情形.也就 是说对于在本书中在时间区间(0,∞)上定义的时齐 Markov过程{;:t>0},在加进t=0的 随机变量50以后,总可以扩展为时间区间[O.∞)上时齐的 Markov过程{1:t≥0 [注3]定义中关于存在正的有限维联合分布密度的要求不是必须的.由于没有这个 假定时需要用测度论的知识,所以在本书中只取最简单的情形 例12.8(0过程)β,y>0的 Markov型 Gauss平稳过程是时齐的 Markov过程, 其转移密度为 plt, x,y)= 而且有 e27=q(y)(即极限分布为N0,y),与x,B都无关) 在 Chapman- Kolmogorov方程中令s→∞,并把z改记为x,便得到 q()=∫p(,x,y(x)t (12.8) 即q(y)是一个满足(12.8)分布密度,称为p(t,x,y)的不变密度.它是时间连续状态 离散的 Markov链的不变分布在连续状态情形的对应表示 注具有(12.7)形式的转移密度的 Markov过程,称为参数为(B,y)的0u过程 (0 rnstein-Uh lebeck过程) OU过程在有限个采样时刻上的样本,可以用如下的随机模拟得到 相关函数为B(1)=-刚的OU过程在等距采样点12…,Ln上的样本的随机模拟,可以 由下面步骤得到:

327 度. 推论１２．７ 时齐的 Markov 过程的转移密度满足: (P.1) p(t, x, y) ³ 0, ( , , ) = 1 ò p t x y dy ; (P.2) Chapman-Kolmogorov 方程： ò p(t + s, x, y) = p(t, x,z) p(t,z, y)dz ． [注 1] 转移密度 p(t, x, y) 是转移概率 p (t) ij 在状态空间为实数集时的对应表示. [注 2] 时齐 Markov 过程也可以只对 t>0 时要求 ( , , ) 1 t t n x L x 都有正的联合密度. 也就 是说, 初值 0 x 可以特殊一些, 不必要求它有密度. 因为我们可以利用时齐性补充定义在条 件 = x 0 x 下, t x 的条件密度为 p(t, x, y) . 从而可以讨论 0 x 取离散值或有密度的情形. 也就 是说对于在本书中在时间区间(0,¥) 上定义的时齐 Markov 过程{ : t > 0} t x , 在加进 t = 0 的 随机变量 0 x 以后, 总可以扩展为时间区间[0,¥) 上时齐的 Markov 过程{ : t ³ 0} t x . [注 3] 定义中关于存在正的有限维联合分布密度的要求不是必须的. 由于没有这个 假定时需要用测度论的知识, 所以在本书中只取最简单的情形. 例１２．８（OU 过程） b ,g > 0 的 Markov 型 Gauss 平稳过程是时齐的 Markov 过程, 其转移密度为 2(1 ) ( ) 2 2 ) 2 2 (1 ) 1 ( , , ) t t e y xe t e e p t x y b b b pg - - - - - - - = . (12. 7) 而且有 g pg 2 2 2 1 lim ( , , ) y t p t x y e - ®¥ = j(y) D = (即极限分布为 N(0,g ) ，与 x,b 都无关). 在 Chapman-Kolmogorov 方程中令 s ® ¥, 并把z 改记为 x , 便得到 ò j( y) = p(t, x, y)j (x)dx . (12. 8) 即j( y) 是一个满足（１２．８）分布密度, 称为 p(t, x, y) 的不变密度. 它是时间连续状态 离散的 Markov 链的不变分布在连续状态情形的对应表示. 注 具有(12.7)形式的转移密度的 Markov 过程, 称为参数为 (b ,g ) 的 OU 过程 （Ornstein-Uhlenbeck 过程）. OU 过程在有限个采样时刻上的样本, 可以用如下的随机模拟得到. 相关函数为 | | ( ) t B t e b g - = 的 OU 过程在等距采样点 n t , ,t 1 L 上的样本的随机模拟，可以 由下面步骤得到：

令y1…y为独立的N(0,1)随机数,Mt=t1-bk定义 x1=√Fy,x,=e-x1+√y(-e-)y,(2<i≤n), 则x12…,xn就是OU过程在所要的采样时刻上的值 例12.9 Brown运动是时齐的 Markov过程.其转移密度为 (y-x)2 此时有 定义12.10(不变密度)若概率分布密度φ()关于时齐 Markov过程的转移函数 p(t,x,y),满足 o(y)=p(t,x, y)p(x)dx 则称o()为p(1,x,y)的(或随机过程{1:I≥0}的)不变概率分布密度函数,简称不变密度 2鞅列与鞅 2.1条件期望再访(仅作参考) 背景与例子 定义12.11若(ξ,n)为离散的或具有联合密度的随机向量,那么 q(y)=E(5|n=y)是一个Brel函数.定义E(2|n)=q(m).于是,对于n的任意的一 个 Borel函数h(m),只要它满足:对于任意 Borel函数g,恒有 E(Sg(n))=elh(ngn (这个式子等价于:对于任意 Borel集合A,恒有 E(I、(m)=E[h()lA(m)) (E.1) 那么就有 P(E(5|n)=h(m) 引理12.12(均方最佳近似) 若E52<∞,则存在Bore函数h(x),使 28

328 令 n y , , y 1 L 为独立的 N(0,1) 随机数, k k Dt = t - t +1 . 定义 i x = g y 1 , (1 ) ,(2 ) 2 1 x e x e y i n i t i t i = + - < £ - D - -bD b g ， 则 n x , , x 1 L 就是 OU 过程在所要的采样时刻上的值． 例１２．９ Brown 运动是时齐的 Markov 过程. 其转移密度为 t y x e t p t x y 2 ( ) 2 2 1 ( , , ) - - = p . 此时有 lim t®¥ p(t, x, y) = 0 . (12. 9) 定义１２.１０（不变密度） 若概率分布密度j(×) 关于时齐 Markov 过程的转移函数 p(t, x, y) ，满足 ò j( y) = p(t, x, y)j (x)dx , 则称j(×) 为 p(t, x, y) 的(或随机过程{ : t ³ 0} t x 的）不变概率分布密度函数，简称不变密度. 2 鞅列与鞅 2. 1 条件期望再访(仅作参考) 背景与例子 定 义 １ ２ . １ １ 若 (x ,h) 为离散的或具有联合密度 的随机向量 , 那 么 ( y) =E( | = y) D j x h 是一个 Borel 函数. 定义 (x |h) j(h) D E = . 于是，对于h 的任意的一 个 Borel 函数h(h) , 只要它满足: 对于任意 Borel 函数g , 恒有 E(xg(h)) = E[h(h)g(h)] (E.1) (这个式子等价于: 对于任意 Borel 集合L , 恒有 (x (h)) [ (h) (h)] L = L E I E h I ), (E.1)’ 那么就有 P(E(x |h) = h(h)) = 1 . 引理１２.１２ （均方最佳近似） 若 < ¥ 2 Ex , 则存在 Borel 函数h(x) , 使

E(5-h()=int函数E(5-f(m) 这个h(m)是已知n时ξ的最佳近似,也可以由上面的方程E.1)或(E.1)得到,它就是 E(5|n) 定义12.13(条件期望的抽象定义) 若只假定E|k∞,则测度论证明了,存在 Borel函数q满足 对于任意 Borel函数g,恒有 E(g()=E[()g(m) (等价于用{lA(m):A为 Borel集}代替{g(m):g为Borl函数}).我们定义E(2|m)=() 这个q在下述意义下唯一:若另有一个 Borel函数v也满足:对于任意 Borel函数g有 E(ξg()=E[v(m)g(,那么必有P((m)=v()=1.因此,条件期望E(|n)在 不计概率为0的差异时是确切定义的 显见定义12.11是定义12.13的特殊情形.类似地可以定义 E(5|n,s),E(|n1…,nn) 条件期望的主要性质 (1)E(2|n)对ξ具有线性性质;对常数c有E(a|n)=a (2)E(2g()n)=g(m)E(2|n) (3)若5,n相互独立,则E((5,m)m)=[E(5,a)a=n 4)E[E(|n,s)n]=E(|n);E[E(|)n,s]=E(|n) 条件期望的定义的再推广 定义12.14假定E|5k∞,则E(|n1,…,mn,…)定义为:n→∞时 E(|n1…,nn)在以下意义下的极限随机变量: imn,E|E(|n1…nn)-E(n1…,n…)=0 定义12.15E(5|n,S≤1)定义为满足下述两个条件的随机变量: (1)∈d(n)(回忆起第11章第2节中的定义,若随机变量族n={,s≤l}中 任意有限个元素的任意有界连续函数全体组成的集合为Φ(n),而包含Φ(n)且对C2中收 敛性封闭的最小集合就是Φ(η);

329 2 2 E(x h(h)) inf E(x f (h)) - = 函数f - . 这个 h(h) 是已知h 时x 的最佳近似, 也可以由上面的方程(E.1)或(E.1)’得到,它就是 E(x |h) . 定义１２.１３ （条件期望的抽象定义） 若只假定 E |x |< ¥ , 则测度论证明了，存在 Borel 函数j 满足: 对于任意 Borel 函数g ，恒有 E(xg(h)) = E[j(h)g (h)] (等价于用{ ( ) :L为Borel集} IL h 代替{g(h): g为Boral函数})．我们定义 (x |h) j(h) D E = . 这个j 在下述意义下唯一: 若另有一个 Borel 函数y 也满足: 对于任意 Borel 函数 g 有 E(xg(h)) = E[y(h)g(h)] , 那么必有 P(j(h) =y(h)) = 1. 因此, 条件期望 E(x |h) 在 不计概率为 0 的差异时是确切定义的. 显 见 定 义 １ ２ . １ １ 是定义 １ ２ ． １ ３ 的 特殊情形 . 类似地可以定义 E(x |h,V ) , ( | , , ) E h1 hn x L . 条件期望的主要性质 (1) E(x |h) 对x 具有线性性质; 对常数c 有 E(a |h) = a ; (2) E(xg(h) |h) = g (h)E(x |h) ; (3) 若x ,h 相互独立, 则 h x h h x = a= E( f ( , ) | ) [Ef ( , a)] ; (4) E[E(x |h,V ) |h] = E(x |h) ; E[E(x |h) |h,V ] = E(x |h) . 条件期望的定义的再推广 定 义 １ ２ . １４ 假 定 E |x |< ¥ , 则 ( | , , , ) E x h1 L hn L 定义为 : n ® ¥ 时 ( | , , ) E h1 hn x L 在以下意义下的极限随机变量： lim n®¥ E | E(x |h1 ,L,hn ) - E(x |h1 ,L,hn ,L) |= 0 ． 定义１２.１５ E( | ,s t) x hs £ 定义为满足下述两个条件的随机变量 Ù x ： (1) Ù x Î F (h)（回忆起第１１章第 2 节中的定义，若随机变量族 D h＝{ : s t} hs £ 中 任意有限个元素的任意有界连续函数全体组成的集合为F (h) ，而包含F (h) 且对 L 2 中收 敛性封闭的最小集合就是F (h) ）；

(2)对于有界的随机变量s∈Φ(η),都有 E(9)=E(s) 这种条件期望仍满足前面所述的相应性质 [注]条件期望的进一步推广(对于G一代数的条件期望) 1.称为σ一代数(或称为事件体),如果它满足 (F.1)必然事件g∈乎, (F2)若随机事件A∈则其对立事件A∈g 3)若随机事件A,∈则其并事件∪An∈ 2.若存在5∈雲,使得对于任意S∈满足:E(5s)=E(s),则5称为关于-代数乎 的条件期望(在不计零概率的差异下,它也是完全确定的),我们把它记为E(2|).即E(5|)∈乐 且对于任意∈满足:E(25)=E(E(2|)g) 若是{,S≤}生成的一代数,意即它是包含所有形如{,≤x(任意S≤1,任意 实数x)的事件的最小一代数,则有定义可知 (|4)=E(|n,S≤1) 这与定义12.15一致.所以这里的定义是前面所有的定义的推广 类似地有 (1).E(2|4)对具有线性性质,且对常数C有E(c|)=c (2),若n∈乎(意即:对于任意实数x,事件{≤x)∈,则E(n)|4)=nE(|r) (3).若5与一代数乎相互独立(意即:4中的任意事件都与随机变量ξ独立),则 E(2|4)=E (4).若另有σ一代数G满足:c乎(即G比小),那么我们有 E[E(|r)|)=E(5|G);E[E(|)|)=E(|q) 此外,类似地还有最佳近似性质 鞅列 定义12.16把一个随机序列{nn≥0}作为一系列“历史事件”的参照记 Yn={0,…,},则随机变量集合Φ(Yn)(即其均方信息空间)称为n-前历史,代表 330

330 (2) 对于有界的随机变量V Î F (h) ，都有 E(xV ) (x V ) Ù = E . 这种条件期望仍满足前面所述的相应性质． * [注] 条件期望的进一步推广 (对于s - 代数F的条件期望) １． F称为s - 代数 (或称为事件体), 如果它满足: (F.1) 必然事件W ÎF; (F.2) 若随机事件 AÎF, 则其对立事件 Î c A F; (F.3) 若随机事件 An ÎF, 则其并事件 Î ¥ = n n U A 1 F. ２． 若存在 Î ^ x F, 使得对于任意V ÎF满足: ( ) ( ) ^ E xV = E x V , 则 ^ x 称为x 关于s - 代数F 的条件期望 (在不计零概率的差异下, 它也是完全确定的)， 我们把它记为E(x | F ) ． 即E(x | F ) ÎF, 且对于任意V ÎF满足: E(xV) = E( E(x | F ) V ) . ３． 若F是{ : s t} hs £ 生成的s - 代数, 意即它是包含所有形如{ x} hs £ (任意 s £ t , 任意 实数 x ) 的事件的最小s - 代数, 则有定义可知 E(x |F) E( | : s t) = x hs £ . 这与定义１２.１５一致． 所以这里的定义是前面所有的定义的推广． 类似地有 (1). E(x | F ) 对x 具有线性性质, 且对常数c 有 E(c | F ) = c ． (2). 若h ÎF (意即: 对于任意实数 x , 事件{h £ x) ÎF), 则 E(xh| F ) =hE(x | F ) ． (3). 若x 与s - 代数 F 相互独立 (意即： F 中的任意事件都与随机变量x 独立), 则 E(x | F ) = Ex ． (4). 若另有s - 代数 G 满足：GÌ F (即 G 比 F 小), 那么我们有 E[E(x | F ) |G) = E(x |G ) ; E[E(x |G) | F ) = E(x |G ) . 此外，类似地还有最佳近似性质. 2. 1 鞅列 定义１２．１６ 把一个随机序列 {Y : n ³ 0} n 作为 一系列 “历史事件”的参照. 记 D Yn = { , , } Y0 L Yn ，则随机变量集合 ( ) F Yn (即其均方信息空间)称为 n - 前历史, 代表

n-前有用信息.另一个随机序列{Xn:n≥0}称为(Yn)可知的,如果对于任意n,都有 Xxn∈Φ(Yn).随机变量n称为Yn可知的,如果n∈Φ(Yn) 注这里的术语”可知的”,是一种直观的说法,在更为强调理论的书本或文献中,将代 之以”适应的 定义12.17 随机变量序列Y称为鞅列,如果对vn,E|nk∞,Vm有 E(Ym|Y。)=Xn (12.10) 又Xn称为(Y)鞅列,如果{Xn}为(n)可知的,且对Ⅶn,E|Xnk∞,Vm有 E(Xnm|Y。)=X (12.11) 由于{Xn}为(Yn)可知的,由条件期望的性质得到,若xn是(Yn)鞅列,则Xn也是鞅列 [注]如果上面式子中的”=”分别改为 则对应的随机序列分别称为下 鞅列,或上鞅列 命题12.18Vm,m,E( XnmIY)=Xn,当且仅当.Ⅶmn,E(Xn1|Yn)=X 即Xn为(n)鞅,等价于,对于任意n有 E(XIY=X (12.11) 证明对m用归纳法,由条件期望的性质立得 E(Xnm IY)=E(E(+ IYn+ Y=E(XnIY)=X 鞅列的直观含义 假定}是鞅列.设想我们在时刻n以本金n参加博弈,在下一时刻n+1的实际资金 Yn4是随机的,它在”最近的历史Yn已知条件下的条件期望E(xn+|Y)为 E IY,)=E(eYm1IYIY)=E( IYm)=Y 即在Y已知的条件下,下一时刻n+1的收益的条件平均与现有的本金Y恰好相等.这说明 了此博弈是(平均)公平的.因此鞅列代表一个平均趋势公平发展的博奔的本金随机序列.而 下鞅列则代表按平均趋势必嬴的博弈,上鞅列则代表按平均趋势必输的博弈. 例12.19(随机徘徊)Y0=0,n=51+…+5n,{}独立同分布,且E1=0.Yn 即随机徘徊.易验证它是鞅列. 例12.20.Xn=E(X|Yn)是(X)鞅列 331

331 n -前有用信息．另一个随机序列{X : n ³ 0} n 称为 ( ) Yn 可知的, 如果对于任意n ，都有 Xn Î ( ) F Yn ． 随机变量h 称为Yn 可知的, 如果h Î ( ) F Yn . 注 这里的术语”可知的”,是一种直观的说法,在更为强调理论的书本或文献中,将代 之以”适应的”. 定义１２．１７ 随机变量序列Yn 称为鞅列, 如果对"n, E | Yn |< ¥ , "m 有 ( | E Yn+m Yn = Yn ) ; (12. 10) 又 Xn 称为 ( ) Yn 鞅列, 如果{ } X n 为( ) Yn 可知的, 且对"n, E | Xn |< ¥ , "m 有 ( | E Xn+m Yn = Xn ) . (12. 11) 由于{ } X n 为( ) Yn 可知的, 由条件期望的性质得到,若 Xn 是( ) Yn 鞅列, 则 Xn 也是鞅列. [注] 如果上面式子中的 ”=”分别改为 “³ ”或 “£ ”, 则对应的随机序列分别称为下 鞅列, 或上鞅列. 命题１２．１８ , , ( | "n m E Xn+m Yn = Xn ) ，当且仅当． , ( | "n E Xn+1 Yn = Xn ) . 即 Xn 为( ) Yn 鞅, 等价于, 对于任意n 有 ( | E Xn+1 Yn）= Xn . (12. 11)’ 证明 对m 用归纳法, 由条件期望的性质立得 ( | E Xn+m+1 Yn ) = E( ( | E Xn+m+1 Yn＋１ ) | Yn ) ( | = E Xn+1 Yn = Xn ) . 鞅列的直观含义. 假定Yn是鞅列. 设想我们在时刻n 以本金Yn参加博弈, 在下一时刻 n +1的实际资金 Yn +1是随机的, 它在”最近”的历史Yn已知条件下的条件期望 ( | ) E Yn+1 Yn 为 ( | ) ( ( | E Yn+1 Yn = E E Yn+1 Yn Yn = E Yn Yn = Yn ) | ) ( | ) . 即在Yn已知的条件下, 下一时刻n +1的收益的条件平均与现有的本金Yn恰好相等. 这说明 了此博弈是(平均)公平的. 因此鞅列代表一个平均趋势公平发展的博弈的本金随机序列. 而 下鞅列则代表按平均趋势必赢的博弈, 上鞅列则代表按平均趋势必输的博弈. 例１２．１９（随机徘徊） 0, ,{ } Y0 Yn 1 n i = = x +L+ x x 独立同分布,且 Exi = 0 .Yn 即随机徘徊. 易验证它是鞅列. 例１２．２０. X E(X | n D = Yn ) 是( ) Yn 鞅列

例12.21如果{Xn}为(Hn)可知的,而Zn=Xn∑[E(Xk41|Y4)-X,则 易检查(Zn}为(n)鞅列.Zn正是由Xn相继地减去它与鞅列的差的波动而得到的,因此 在直观上它应该是鞅列.(事实上我们有 E(Zn1Y)=E(Xm1Y)-∑(EE(X1|Y)|Y]-E(X|Yn) E(XmYn)-∑(E(Xk|Y)-X ∑(E(X|Y4)-k)=Z 例12.22(平方可积鞅列)在例1219中若E2=a2<∞,定义 则Z为(n)鞅列 证明令Xn=Y,则X为(5n)可知的.记三。={50,…,n}.因为k+1与三独立, 所以E(5A三)=E=0,E(E2|三)=E5A412=σ2.于是 E(X1|三)-X4=E(X2|三)-X2=E(4+54)2|三)- =[Y+2E(45k4)三)+a2]-X42=2yE(A1|E)+σ 可见有E(Zn|En)=E(Xn1|。)-(n+1)2=X2-no2=Zn,所以Zn为(2n)鞅 例12.23(随机利率)设Xn为(Yn)可知的非负随机序列.对Yn={X0,…,Hn}, 若随机利率δn是(Xn)可知的,且满足条件 e(nIIY=eX 令 那么Zn为(n)鞅列 证明E(Zn|Yn)=e-++E(XnYn)=Z

332 例１２．２１ 如果{ } X n 为( ) Yn 可知的, 而 å - = = - + 1 0 1 [ ( | n k Zn Xn E Xk Yk ) ] - Xk , 则 易检查 ( } Zn 为( ) Yn 鞅列. Zn 正是由 Xn 相继地减去它与鞅列的差的波动而得到的, 因此 在直观上它应该是鞅列. (事实上我们有 ( | E Zn +1 Yn ) ( | = E Xn+1 Yn ) å= - + n k E E Xk 0 1 ( [ ( | Yk ) | Yn ] ( | - E Xk Yn )) ( | = E Xn+1 Yn ) å= - + n k E Xk 0 1 ( ( | Yk - Xk ) ) ( ( | 1 1 0 + - = = -å k n k Xn E X Yk - Xk ) ) = Zn . 例１２．２２ (平方可积鞅列). 在例 12.19 中若 = < ¥ 2 2 Exi s , 定义 2 2 2 2 Zn = Yn - EYn = Yn - ns , 则 Zn 为( ) Yn 鞅列. 证明 令 2 Xn = Yn , 则 Xn 为( ) n x 可知的. 记Xn { , , } 0 n = x L x . 因为 k+1 x 与Xk 独立, 所以 ( | E k+1 x Xk ) = Exk +1 = 0, ( | 2 E k+1 x Xk 2 2 1 ) = Exk + = s . 于是 ( | E Xk+1 Xk - Xk ) ( | 2 = E Yk +1 Xk 2 ) -Yk (( ) | 2 = E Yk + k +1 x Xk 2 ) -Yk [ 2 (( )| 1 2 = Yn + E Yk k + x Xk 2 2 ) ] +s -Yk 2 ( | = Yk E k+1 x Xk 2 2 ) +s = s . 可见有 ( | E Zn +1 Xn ) = ( | E Xn+1 Xn n Z n - n + = X - n = 2 2 2 ) ( 1)s s , 所以Zn 为( ) n x 鞅. 例１２．２３ (随机利率) 设 Xn 为( ) Yn 可知的非负随机序列. 对 Yn { , , } = Y0 L Yn , 若随机利率 n d 是( ) Yn 可知的, 且满足条件 ( | E Xn+1 Yn Xn e d n ) = . 令 Z0 = 1, n Xn Z e n ( ) - 0 + + -1 = d L d . 那么 Zn 为( ) Yn 鞅列. 证明 ( | E Zn +1 Yn ) = ( | 1 ( ) 0 + - + + E Xn e d L dn Yn = Zn )