龚光鲁,钱敏平著应用随机过程教程及其在算法与智能计算中的应用 清华大学出版社,2003 第3章随机过程的一般概念与独立增量过程 1.一般概念 1随机过程与有限维分布族 定义3.1设T为[0∞)或(-∞,∞)或R,依赖参数t(t∈T)的一族随机变量 (或随机向量){}通称为随机过程,t称为时间.当T为整数集或正整数集时,则一般称 为随机序列而当T为二维(或更一般地,d维)整数格点时,则称为随机场. 更明确地,随机过程ξ应该写成ξ,(5(t,O).这里的O代表做一次完整的试验 或者说,是一个基本事件.当O取固定的值,例如o0时,5(O0)是t的函数,称为随机过程 的一个轨道或一个”现实”,这个现实是由Oo导致的 定义3.2随机过程或随机序列的概率特性,由它在任意有限个时刻{12…,tn}上 (ξ,…,ξ)的分布(称为有限维分布族)所确定.有限维分布族即 5≤xn):Ⅶn,Ⅵ12…,tn∈T,x12…,xn} 定义3.3有限维分布都是 Gauss分布的随机过程或随机序列,称为 Gauss过程或 Gauss序列对于Gius过程或序列){,:l∈T},记m(1)=E5,0(,s)=Cov(515,),分 别称为期望函数与协方差函数G(1,s)是非负定对称函数,即 0(s,1)=(,s,t∈T,矩阵((t1,1),m为非负定矩阵(Vn,V4;…,tn∈T) 于是{5:t∈}的Gaus性就等价于:对任意有限个时刻{,…n},(5,…,5,)的矩母 数为 有时人们也用R(t,s)=E(3,)=a(1,s)+m(t)m(s),称其为相关函数可见 Gauss过 程的有限维分布族由期望函数与相关函数完全地确定了 d维随机过程ξ1是依赖于参数t的d维随机向量族.其它概念与随机过程类似 1.2独立增量过程 定义3·4称随机过程{:t≥0}为独立增量过程,如果对于
45 龚光鲁，钱敏平著 应用随机过程教程及其在算法与智能计算中的应用 清华大学出版社,2003 第 3 章 随机过程的一般概念与独立增量过程 1. 一般概念 1. 1 随机过程与有限维分布族 定义３.１ 设T 为[0,¥)或（- ¥，¥）或 d R ，依赖参数t（t Î T ）的一族随机变量 （或随机向量）{ }t x 通称为随机过程，t 称为时间．当T 为整数集或正整数集时，则一般称 为随机序列. 而当T 为二维（或更一般地， d 维）整数格点时，则称为随机场． 更明确地，随机过程 t x 应该写成 ( ) t, ) xt w 或x（ w . 这里的w 代表做一次完整的试验, 或者说, 是一个基本事件. 当w 取固定的值, 例如w0 时, ( ) w0 xt 是t 的函数, 称为随机过程 的一个轨道或一个”现实”，这个现实是由w0 导致的． 定义３.２ 随机过程或随机序列的概率特性，由它在任意有限个时刻{ , , } 1 n t L t 上 ( , , ) t n t t x L x 的分布 (称为有限维分布族) 所确定. 有限维分布族即: { ( , , ) ( , , ): , , , , , , } t1 , ,t 1 n t1 1 t n 1 n 1 n F x x P x x n t t T x x L n L = £ L n £ " " L Î " L D x x . 定义３.３ 有限维分布都是 Gauss 分布的随机过程或随机序列，称为 Gauss 过程或 Gauss 序列. 对于 Gauss 过程(或序列){ : t T} xt Î , 记 ( ) , ( , ) ( , ) t Cov t s m t = Ex s t s = x x , 分 别称为期望函数与协方差函数.s (t,s) 是非负定对称函数, 即 s (s,t) =s (t,s),s,t ÎT ，矩阵 i j i j n t t , £ (s ( , ) 为非负定矩阵（"n,"t 1 ,L,t n ÎT ）. 于是{ : t T} xt Î 的 Gauss 性就等价于: 对任意有限个时刻{ , , } 1 n t L t , ( , , ) t n t t x L x 的矩母 函数为 å = £ + + + i j n n n i j i j m t z m t z t t z z n M z z e , 1 1 ( , ) 2 1 ( ) ( ) 1 ( , , ) L s L . (3. 1) 有时人们也用 R(t,s) E( ) (t,s) m(t)m(s) = xt xs = s + D , 称其为相关函数. 可见 Gauss 过 程的有限维分布族由期望函数与相关函数完全地确定了. d 维随机过程 t x 是依赖于参数t 的 d 维随机向量族. 其它概念与随机过程类似. 1. 2 独立增量过程 定 义 ３ . ４ 称随机过程 { : t ³ 0} t x 为 独立增量过程 , 如果对于
Vn,0≤0s1>…>SmV1,y,x,x,…,xm有 (*≤y|5,=x,5,=x1,…5.=xm)=P(5≤y|5,=x) 这个等式的推导将在本章第3节中在特殊情形(增量具有分布密度的情形)中给出.等式 3.3)有非常明确的概率含义,它说明了由这个随机过程所描写的随机现象具有以下特 点:在已知,=x,5,=x1,…,,=xm条件下,随机变量的条件分布函数只与5,=x 有关,而与随机向量(5,…,5。)的取值无关如果把s看成现在,5:=x看成现在的取 值,把S+看成”将来”,小于s的时刻看成”过去”,那么这正是表达了:对于独立增量过程, 在已知过去与现在的条件下,将来的条件分布只与现在的取值有关,而与过去的取值无关 这种”忘记过去”的性质,称为无后效性或 Markov性 时齐的独立增量过程具有非常特殊形式的特征函数:彐v(.使Eet=e) 类似地,人们常遇到d维独立增量过程 2 Poisson过程与复合 Poisson过程 2.1事故申报次数的概率模型与 Poisson过程 例3.δ(保险公司理赔次数)设在时间间隔(0,刁中某保险公司收到的某类保险的理赔 次数为N,那么它是一个只取非负整值的随机过程.从长期经验的积累,人们概括出以下
46 , 0 , 0 1 n "n " £ t 1 > L > " 1 L 有 ( | , , , ) s t s s1 1 s m P y x x x m x + £ x = x = L x = = P( y | x) xs +t £ x s = . (3. 3) 这个等式的推导将在本章第３节中在特殊情形(增量具有分布密度的情形)中给出. 等式 （３．３）有非常明确的概率含义, 它说明了由这个随机过程所描写的随机现象具有以下特 点: 在已知 s s s m x x x m x = ,x = 1 , ,x = 1 L 条件下, 随机变量 s+t x 的条件分布函数只与 x x s = 有关, 而与随机向量 ( , , ) s1 sm x L x 的取值无关. 如果把 s 看成”现在”, x x s = 看成现在的取 值, 把s + t 看成”将来”, 小于 s 的时刻看成”过去”, 那么这正是表达了: 对于独立增量过程, 在已知过去与现在的条件下, 将来的条件分布只与现在的取值有关, 而与过去的取值无关. 这种＂忘记过去” 的性质, 称为无后效性或 Markov 性. 时齐的独立增量过程 t x 具有非常特殊形式的特征函数: ( ) ( ), lx y l y l i t Ee e t - $ 使 = . 类似地, 人们常遇到d 维独立增量过程. 2 Poisson 过程与复合 Poisson 过程 2.1 事故申报次数的概率模型与 Poisson 过程 例３．６ (保险公司理赔次数) 设在时间间隔(0,t]中某保险公司收到的某类保险的理赔 次数为 Nt , 那么它是一个只取非负整值的随机过程. 从长期经验的积累, 人们概括出以下
的初步近似性质: (1)在不同的时间区段内的理赔次数是彼此独立的随机变量 (2)在同样长的时间区段内的理赔次数的概率规律是一样的; (3)N。=0,在有限时间区段内理赔次数是有限的,而且在非常短的时间区段h内的 理赔次数超过2的概率是h的高价无穷小o(h) (1),(2)说明了N是时齐的独立增量过程.而性质③3)称为普通性 我们来推导满足普通性的非负整值的时齐独立增量过程的概率分布.令 P,()=P(N1=l),我们有 P0( P(Ns=0)=P(N1=0,N =P(N=0)P(N+-N1=0)=P0(D)p0(s) 解这个函数方程,可知存在λ>0,使p0(t)=e-.再则,由性质(3)有 P(N+h-N1≥2)=o(h) 利用时齐性及独立增量性,由全概率公式我们得到 Pr(+h)=P(N,h=k+1) P(N1=k,N+b-N1=1)+P(N1=k+1,Nh-N1=0)+o(h) =P4(D)P(h)+P4+1(D)p0(h)+o(h) P4(D)(1-P0(h)-o(h)+Pk1()e-+o(h) P4(1-e-)+Pk+()e+o(h 于是 (+b)-P、Nm(+Bb 令h→0,便得无穷常微分方程组 Pk(1)=λ·P(1)-·Pk1(t) 4) 显见,对于k≥1还应该满足初值条件: (0)=0,P0(0) 下面我们用矩母函数方法来推导P()的明显表达式令 (,=)=E=∑p
47 的初步近似性质: (1) 在不同的时间区段内的理赔次数是彼此独立的随机变量; (2) 在同样长的时间区段内的理赔次数的概率规律是一样的; (3) N0 = 0, 在有限时间区段内理赔次数是有限的, 而且在非常短的时间区段 h 内的 理赔次数超过 2 的概率是h 的高价无穷小 o(h ). (1), (2) 说明了Nt 是时齐的独立增量过程. 而性质(3)称为普通性. 我们来推导满足普通性的非负整值的时齐独立增量过程的概率分布 . 令 p (t) P(N i) i = t = , 我们有 ( ) ( 0) ( 0, 0) p0 t + s = P Nt+s = = P Nt = Nt+s - Nt = ( 0) ( 0) ( ) ( ) 0 0 P N P N N p t p s = t = t +s - t = = ． 解这个函数方程, 可知存在l > 0 , 使 t p t e -l 0 ( ) = . 再则，由性质(3)有 P(N N 2) o(h) t+h - t ³ = , 利用时齐性及独立增量性, 由全概率公式我们得到 ( ) ( 1) pk+1 t + h = P Nt +h = k + P(N k, N N 1) P(N k 1, N N 0) o(h) = t = t +h - t = + t = + t+h - t = + ( ) ( ) ( ) ( ) ( ) = pk t p1 h + pk +1 t p0 h + o h ( )(1 ( ) ( )) ( ) ( ) 0 1 p t p h o h p t e o h h = k - - + k + - + l ( )(1 ) ( ) ( ) 1 p t e p t e o h h k h = k - + + - + -l l ． 于是 h e p t h e p t h p t h p t h k h k k k 1 ( ) 1 ( ) ( ) ( ) 1 1 1 - + - = + - - + - + + l l ． 令h ® 0, 便得无穷常微分方程组: ' ( ) ( ) ( ) 1 1 p t p t p t k+ k k+ = l × - l × （３．４） 显见，对于k ³1还应该满足初值条件： pk (0) = 0, p0 (0) = 1. 下面我们用矩母函数方法来推导 p (t) k 的明显表达式. 令 å ¥ = D = = 0 ( , ) ( ) k k zN k M t z Ez z p t t ．
那么 po(t)+∑pk() (P(1)-Pk+1() Ap0()+x·M(t,2)-A(M(t,z)-P0()=A(2-1)M(t, 实质上这是一个以二为参数的关于自变量t的常系数常微分方程,且满足初始条件 M(0,=)=P0(0)=1.易见此方程的解为 (t,=) kI 按矩母函数的定义,由此得到表达式 P,(t) 也就是说N1~ Poisson·随机过程N称为 Poisson过程 由 Poisson分布的性质推出:EN1=ar(N)=λ·1,由此我们便得到参数λ的概率含 eN, Var(N) 即λ是单位时间的平均理赔次数,称为此 Poisson过程的强度, 同时它也代表单位时间理赔次数的方差 注1方程(3.4)也可以用数学归纳法通过常微分方程中的常数变异法直接求解 [注2] Poisson过程是用以描写一切”罕见事件”发生的概率规律的数学模型. 定义3.7时齐的独立增量过程N,称为强度为λ的 Poisson过程,如果它满足 N。=0,N1~ Poisson Poisson过程的联合分布为 1∞,即τ为第k个理赔发生的时刻.这个概念可以抽 象为下述定义 定义3.8如果随机序列{τk}满足:0=τo∞,则称之为 个事件流,简称为流.记T=τ-τ-1.如果7~eXp2,而且{}独立同分布,那么, 我们称这个事件流0=0∞为强度为λ的指数流又由于随机序列
48 那么 å å ¥ = + + - ¥ = + = + + = - + - ¶ ¶ 0 1 1 0 1 0 1 ' ( ) ' ( ) ( ( ) ( )) ( , ) k k k k t k k p t p k t z e p t p t z t M t z l l l ( ) ( , ) ( ( , ) ( )) ( 1) ( , ) 0 0 = -lp t + l ×zM t z - l M t z - p t = l z - M t z ． 实质上这是一个以 z 为参数的关于自变量 t 的常系数常微分方程, 且满足初始条件 M (0,z) = p0 (0) = 1. 易见此方程的解为 å ¥ = - - = = 0 ( 1) ! ( ) ( , ) k t k k z t e z k t M t z e l l l . 按矩母函数的定义，由此得到表达式 t k k e k t p t l -l = ! ( ) ( ) . 也就是说 Nt ~ Poissonlt ．随机过程 Nt 称为 Poisson 过程. 由 Poisson 分布的性质推出: EN Var N t t t = ( ) = l × , 由此我们便得到参数l 的概率含 义: t Var N t ENt t ( ) l = = , 即l 是单位时间的平均理赔次数, 称为此Poisson过程的强度, 同时它也代表单位时间理赔次数的方差. [注 1] 方程(３．４)也可以用数学归纳法通过常微分方程中的常数变异法直接求解. [注 2] Poisson 过程是用以描写一切”罕见事件”发生的概率规律的数学模型. 定义３.７ 时齐的独立增量过程Nt 称为强度为l 的 Poisson 过程，如果它满足 N Nt ~ Poissonlt 0, 0 = ． Poisson 过程的联合分布为 , , ( , , ) ( ) ( ) ( ) 1 < < m 1 < m t1 = 1 t = m = n1 1 n2 -n1 2 - 1 n -n -1 m - m-1 t t n n P N n N n p t p t t p t t L L L m L m m 2. 2 Poisson 过程与指数流的关系 把理赔时刻看成随机到达的 ”点”, 那么随着时间的发展, 就出现一系列随机的点, 记 这些时刻为 0 < t 1 <L < t m <L ® ¥ , 即 k t 为第 k 个理赔发生的时刻. 这个概念可以抽 象为下述定义 定义３.８ 如果随机序列{ }k t 满足: 0 = t 0 < t1 < L < t m < L ® ¥ , 则称之为一 个事件流，简称为流. 记Tk = k - k-1 t t . 如果 l Tk ~ exp , 而且{ } Tk 独立同分布，那么， 我们称这个事件流 0 = t 0 < t1 < L < t m < L ® ¥ 为强度为l 的指数流. 又由于随机序列
T}与随机序列{τn)唯一地相互确定,所以,有时我们也称{k}为指数流. 对于指数流{k)而言,在时间段(01中出现的τk的个数,记为N1=sup{k:τk≤l}, 是一个 Poisson过程,N称为指数流的计数过程我们把这写成一般的结论 定理3·9对于取非负整值的随机过程N1,令k=n{t:N,=k}(它等价于 N,=sup{k:τk≤l}),那么下面诸事实彼此等价 (1){k}是强度为λ的指数流 (2)Vn,(1…rn)的分布密度为(记号l4表示A的示性函数) g(,…,Sn)=Xel1ons<:; (3)N是强度为λ的 Poisson过程 证明首先注意{N≥k}={k≤l} (1)→(2)只要注意 P(r1≤ < 1…d,=小…∫ed…d +2s52 1++n≤Sn λeld1…d 而(2)→(1)得自{n}与{Tk}是一一对应的 (2)→(3)先求τk,(k≤m)的密度(记成g4().由(2)用归纳法可得 g(n)=…「e1-s,,…-d…d (I(k,λ)分布) (k-1) 再则,由(2)推出 P(N,=m,N+≥m+k)=P(tn≤S<m< m+k-S+t S<S+1<<m+k≤s+t
49 { } Tk 与随机序列{ ) n t 唯一地相互确定, 所以，有时我们也称{ } Tk 为指数流. 对于指数流{ ) k t 而言，在时间段 (0,t]中出现的 k t 的个数，记为 N sup{k : t} t = tk £ ， 是一个 Poisson 过程，Nt 称为指数流的计数过程. 我们把这写成一般的结论. 定理３．９ 对于取非负整值的随机过程 Nt , 令 inf{ t : N k} t k = t = ( 它等价于 N sup{k : t} t = t k £ )，那么下面诸事实彼此等价: (1) { }k t 是强度为l 的指数流; (2) ,( , , ) n 1 n " t L t 的分布密度为 (记号 A I 表示 A 的示性函数) 1 {0 1 } ( , , ) n n s s n s n g s s e I - + + £ £ = n n n n t t s t t s t s t t n n t t P s n sn e dt dt L L L L L L L 1 1 2 2 1 1 1 1 , , 0 1 ( ) 1 1 ( , , ) l t t l ò ò £ £ £ > > > - = n n n n y s y s y s y y n n y e dy dy L L L L 2 2 1 1 1 0 1 l l ò ò £ £ £ - -l - = l u k k u I k u e (G(k,l) 分布). (3. 5) 再则, 由(2)推出 P(N m,N m k) s = t +s ³ + ( ) 1 P s s t = t m £ < t m+ < L < t m+k £ + ò ò < < < £ + £ < < < + + - + + + + = s s s s t s s s s m k m k s m m k m m k m k e I ds ds L L L L 1 0 1 1 l l
采用变量替换yn1=Sm-s,(≤k,u=yn+k后,可以很容易地算出右方的积分为 meg()ld,即我们得到了 P(N,=m, N, 2m+k)=2",(u)du 进而有 P(N k)=∑P(N,=m,N ∑x"ejsm)dm=-Js.nh 并且 P(N+-N,=k)=P(N-N2≥k)-P(N-N,≥k+1)=(g(n)-84()dh (k-1) k k 特别地还有P(N=k)=P(N4-M0-e.由此可见 P(N,=m,N#-N≥k)=P(N,=m,M+2m+k)=2」g4(a)dt =P(N1=k)P(N,u-N,≥k) 作为推论,我们得到P(N,=m,N-N=k)=P(N,=k)P(N-N,=k).这说明了 N与NN的独立性.利用类似的推理,对于Vn,V0<t1<…<tn,可得 P(N N =P(N,=m)P(N+1-N=m)…P(Nx-N+n=mn) (·(tn-tn)" 这就证明了随机过程ξ的独立增量性与 Poisson性 (3)→(2)的证明
50 采用变量替换 m l m l m k y s s l k u y + = + - £ = + ,( ), 后, 可以很容易地算出右方的积分为 ò - t k s m m e g u du m s 0 ( ) ! l l , 即我们得到了 P(N m,N m k) s = t +s ³ + ò - = t k s m m e g u du m s 0 ( ) ! l l . 进而有 P(N N k) s +t - s ³ å ¥ = = = + ³ + 0 ( , ) m P Ns m Ns t m k å ò -l ¥ = = l t k s m m m e g u du m s 0 0 ( ) ! ò = t gk u du 0 ( ) . 并且 P(N N k ) s +t - s = P(N N k) = s+t - s ³ - ( - ³ + 1) + P N N k s t s = ò - + t gk u gk u du 0 1 ( ( ) ( )) ò -l + -l - l - - l = t u k k u k k e du k u e k u 0 1 1 ] ( 1)! ! { t k u t k k e k t e k u -l -l l × = l = ! ( ) ] ! [ 0 . 特别地还有 P(N k ) t = ( ) 0 P N N k = t - = t k e k t -l l × = ! ( ) . 由此可见 P(N m, N N k ) s = t+s - s ³ P(N m,N m k ) = s = t +s ³ + ò -l = l t k s m m e g u du m s 0 ( ) ! P(N k ) = t = P(N N k) s +t - s ³ . 作为推论，我们得到 P(N m, N N k) s = t +s - s = P(N k ) = t = P(N N k) s +t - s = . 这说明了 Ns 与 Ns +t - Ns .的独立性. 利用类似的推理, 对于 n "n " < t <L < t 0 1 , , 可得 ( , , , ) P Ns = m Ns+t1 - Ns = m1 L Ns+tn - Ns+tn-1 = mn ( ) ( ) ( ) = P Ns = m P Ns +t1 - Ns = m1 LP Ns+tn - Ns+tn-1 = mn s m e m s -l l × = ! ( ) 1 1 ! ( ) 1 1 t m e m t -l l × 1 ( ) 1 ! ( ( )) - -l - - l × - n n n t t n m n n e m t t L . 这就证明了随机过程 t x 的独立增量性与 Poisson 性. (3)Þ(2)的证明
对于Ⅶn,V0<S1<…<Sn,取充分小的h1,…,hn(<maxn(S1-S),S0=0) P(S1<T1<S1+h1,…,Sn<tn<Sn+hn) P(N=0, N N。=1,N,-N In+he P(N4=0)P(NA=1)P(N2-4-4=0)…P(Mn,=1) =e.1·he-·e(e-2…,h,e+o(h1…h) 入”h1…heˉ+o(h1…hn) 除以h…hn后,令h,…,hn→0,便得到(r1…,n)在约束条件0<S1<…<Sn下的分 布密度为e.(2)得以证明 定理3.10( Poisson过程的随机分流定理) 设N为强度为λ的 Poisson过程如果把其相应的指数流看成顾客流,用与此指数流相互 独立的概率P,把每个到达的顾客,归入第一类,而以概率1-P把他归入第二类.对 i=1.2,记N,为t前到达的第i类顾客数.那么{N,:t≥0}与{N2):t≥0}分别为强度 pλ与(1-p)的 Poisson过程,而且这两个过程相互独立(这个性质称为 Poisson过程的随 机分流定理,也称为 Poisson过程在随机选取下的不变性) 证明由N是独立增量过程及归类的机制,可知N,都是独立增量过程,而且 P(N60-N≥2)=o(h),P(N0-N=1)= pλ.h+o(h),(i=1) p)λ·h+o(h)(i=2) 所以它们都是 Poisson过程下面我们先证明它们在同一个时刻的独立性:由于 r(1) P(N N,=m N 我们有 P(N=n,N(2) =m)=C n+n7 (n+m)! e-pR (PA D.e4l-p((-pZ)-=P(N =n)P(N, 2)=m) 这就证明了在固定的时刻1,N与N独立我们用类似而较为冗长的叙述,可以证明 对于任意n,m,及1,…,n;51…,sm,随机向量(N40)…N)与(N…,N)的
51 对于 n "n " < s <L < s 0 1 , , 取充分小的 , , ( max ( ), 0) h1 L hn < i£n si - si -1 s0 = ( , , ) 1 1 1 1 n n n hn P s < t < s + h L s < t < s + ( 0, 1, 0, , 1) 1 1 1 1 2 1 1 = = + - = - + = + - = n n n P Ns Ns h Ns Ns Ns h L Nt h Nt ( 0) ( 1) ( 0) ( 1) 1 1 2 1 1 = = = - - = = h hn P Ns P Nh P Ns s LP N ( ) 1 ( ) 1 1 1 2 1 1 2 n h n s h s s h s e h e e e h e o h h = -l ×l × -l × -l - - -l Ll × -l n + L ( ) 1 1 n s n n h h e o h h = l L -l n + L . 除以h1Lhn 后, 令h1 ,L, hn ® 0 , 便得到( , , ) 1 n t L t 在约束条件 n < s <L < s 0 1 下的分 布密度为 n n s e -l l . (2)得以证明. 定理３．１０ (Poisson 过程的随机分流定理) 设Nt 为强度为l 的 Poisson 过程, 如果把其相应的指数流看成顾客流, 用与此指数流相互 独立的概率 p ，把每个到达的顾客, 归入第一类, 而以概率1- p 把他归入第二类. 对 i = 1,2 ，记 (i) Nt 为t 前到达的第i 类顾客数. 那么{ : 0} (1) Nt t ³ 与{ : 0} (2) Nt t ³ 分别为强度 pl 与(1- p)l 的 Poisson 过程, 而且这两个过程相互独立. (这个性质称为 Poisson 过程的随 机分流定理，也称为 Poisson 过程在随机选取下的不变性). 证明 由Nt 是独立增量过程及归类的机制，可知 (i) Nt 都是独立增量过程, 而且 ( 2) ( ) ( ) ( ) P N N o h i t i t+h - ³ = , î í ì - × + = × + = + - = = (1 ) ( ),( 2) ( ),( 1) ( 1) ( ) ( ) p h o h i p h o h i P N N i t i t h l l . 所以它们都是 Poisson 过程. 下面我们先证明它们在同一个时刻的独立性: 由于 n n m P(Nt n, Nt m| Nt n m) Cn m p (1 p) (1) (2) = = = + = + - , 我们有 ( )! ( ) ( , ) (1 ) (1) (2) n m t P N n N m C p p e n m n n m t t t n m + l× = = = - × + -l + × l × = - l ! ( ) n p t e n p ! ((1 ) ) (1 ) m p t e m p - l × - - l ( ) ( ) (1) (2) = P Nt = n P Nt = m . 这就证明了在固定的时刻t , (1) Nt 与 (2) Nt 独立. 我们用类似而较为冗长的叙述，可以证明 对于任意 n,m , 及 n m t , ,t ;s , ,s 1 L 1 L , 随机向量 ( , , ) (1) (1) 1 n Nt L Nt 与( , , ) (2) (2) s1 sm N L N 的
独立性这就是说,随机过程{N:t≥0}与{N,:t≥0}是独立的 [注]指数流与 Poisson过程的离散时间版本 令T为独立同分布的几何分布随机序列,又k=T+…+Tk,{Nn=k}={k=n) 记参数(k,p)的负二项分布为NB(k,p),即 P(NB(k; p)=n)=Ch(1-p)"-p 由简单的概率计算可得到rk~NB(k,p),从而P(Nn=k)=P(NB(k;p)=n).此处的N, 正是起到”离散时间的 Poisson过程”的作用,即它就是"离散时间情形的 Poisson过 程".我们把它列表对比如下 流的间隔「流的到达时刻了 计数过程N1,或Nn 「连续型:指数流|指数分布ExB r(k,A)分布 Poisson 离散型:几何流几何分布负三项NB(k,P)P(Nn=k)=P(NB(k;pP)=n) 2.3与指数流有关的一些随机变量与分布 定理3.11若N为 Poisson过程,则在N,=n的条件下,(r1…,n)的条件分布密度为 f(s1…,Sn)=-l0 也就是说,如果n,…,n独立且服从U[0,而mu…,na为n,…nn按次序大小重新排 列而得的顺序随机变量:m1≤…≤no,那么在N=n的条件下,(r1…,rn)的分布密 度与(u,2…,nm)的分布密度相同 注]把上面的证明倒回去,就可以发现此定理的结论反过来也是对的,即:如果一个取非负整值的跃度 为1的非降随机过程N1,满足:N1~ Poisson1,且在N1=n的条件下,(r1…,Tn)的条件分布 密度为∫(S1…,Sn)=-lo 1010<s,其中n为N,的第n次跳跃时刻,那么N,是 Poisson过程 我们还有下述相关的结论: (1)在N1=n的条件下,τn的条件分布密度为 g,(S) Ion(s) ()P(n.s,N1=m)=(s)eo() 证明对于Ⅶn,V0<S1<…<Sn,取充分小的h1,…,b、(< max(S1-S-1),S0=0)
52 独立性. 这就是说，随机过程{ : 0} (1) Nt t ³ 与 { : 0} (2) Nt t ³ 是独立的. ［注］指数流与 Poisson 过程的离散时间版本 令Tk 为独立同分布的几何分布随机序列，又 k = T1 +L+ Tk t , {N k} { n) n = = tk = . 记参数(k, p) 的负二项分布为 NB(k; p) ，即 k n k k n P NB k p n C p p - - ( ( ; ) = ) = - (1- ) 1 1 ． 由简单的概率计算可得到 ~ NB(k; p) k t ，从而 P(N k ) P(NB(k; p) n) n = = = ．此处的Nn 正是起到＂离散时间的 Poisson 过程＂的作用， 即它就是＂离散时间情形的 Poisson 过 程＂．我们把它列表对比如下: 流的间隔Tk 流的到达时刻 k t 计数过程 Nt ，或 Nn 连续型：指数流 指数分布 Expl G(k,l)分布 Poisson lt 离散型：几何流 几何分布 负二项 NB(k; p) P(N k ) P(NB(k; p) n) n = = = 2. 3 与指数流有关的一些随机变量与分布 定理 3.１１ 若Nt 为 Poisson 过程, 则在Nt = n的条件下, ( , , ) 1 n t L t 的条件分布密度为 n n s s t n I t n f s s 1 L = 0< 1<L< £ ! ( , , ) . (3. 6) 也就是说, 如果h hn , , 1 L 独立且服从 U[0,t], 而 (1) ( ) , , h L h n 为h hn , , 1 L 按次序大小重新排 列而得的顺序随机变量: h(1) £L £h(n) . 那么在 Nt = n的条件下, ( , , ) 1 n t L t 的分布密 度与( , , ) h(1) L h(n) 的分布密度相同. [注] 把上面的证明倒回去, 就可以发现此定理的结论反过来也是对的, 即: 如果一个取非负整值的跃度 为 1 的非降随机过程 Nt ， 满足: Nt ~ Poissonlt , 且在 Nt = n的条件下, ( , , ) 1 n t L t 的条件分布 密度为 n n s s t n I t n f s s 1 L = 0< 1<L< £ ! ( , , ) , 其中 n t 为 Nt 的第n 次跳跃时刻, 那么 Nt 是 Poisson 过程. 我们还有下述相关的结论： (1) 在Nt = n的条件下, n t 的条件分布密度为 ( ) ( ) [0, ] 1 I s t ns g s n t n n D - = (3. ７) (2) ( ) ! ( ) ( , ) [0, ] e I s n s P s N n t t n n t l -l t £ = = (3. ８) 证明 对于 n "n " < s <L < s 0 1 , , 取充分小的 , , ( max ( ), 0) h1 L hn < i£n si - si -1 s0 =
就有 P(S1,N1=n) P(rk≤slN,=n) P(N, =n) P(N, =J, N-N (2·D) ∑C(y n 推论3.13若s≤,k≤n则E(21M=m=4 证明用次序统计量的结果:独立同分布的U0,门]的随机变量,按小至大的第k个次 序随机变量的期望为 n+1 推论3.14Eτ,= +i 证明EN=E[E(xx|N=∑E(rn|N2=n)P(N,=n)
53 就有 ( , , | ) P s1 = = + = å t t å å = - - = = - × = = - = n j k j n j j n t n n j k s t s t s t s e n t P N j,N - N n j C ( ) (1 ) ! ( ) ( ) l l . 推论３.１３ 1 , , ( | ) + £ £ = = n kt s t k n E N n k t 若 则 t . 证明 用次序统计量的结果：独立同分布的U[0,t]的随机变量，按小至大的第k 个次 序随机变量的期望为 n + 1 kt ． 推论３.１４ t e t E t Nt l × - + l t = -l 1 证明 å ¥ = = = = = 0 [ ( | )] ( | ) ( ) n E N E E N Nt E n Nt n P Nt n t t t t t
(·t) n+l nk 2=∑[n+1)-1 λ(n+1) DI 下面给出当前所用部件的寿命分布 把T解释成某工作线上第k次被更新的部件的寿命.假定它们都服从分布eNpx,那 么它们所对应的计数过程N,就是 Poisson过程.考虑当前时刻t所用的部件(注意当前时 刻t所用的部件不是第N,个,而是N+1个,因为更新了N次后,起用的应该是第N1+1个 部件)的寿命T+1,这里Tx+的随机性,不仅来自固定的部件的寿命,而且还来自N1的 随机性,所以不应该认为它服从指数分布.以下我们推导它的分布 因为rA≤1<τ+T+1,所以T+≤S就等价于t-x<TN≤s.于是 (1)当s<t时,由T41≤S,我们有N1≥1且1-s≤N<t.利用N1=n与Tn之间的 独立性及了n与Tn的独立性,由(3.7)式所给出对条件密度函数gn(u)导致 P(TN E(ELINS(,+)II-S,(IN I,tN, D e[Its(tudIIsn(t IN,=n, tN =u)g (u)da () ∑[.(e (t-a) -s) n-I 1) ).da=1 入se (2)当s≥t时,我们有0≤τN≤1,并注意用o=0,类似地得到 P(TN+≤s)=P(t T+≤s,0≤tN<D) E(ELINS(TN+I)O(TN) INI, TN D ∑ -(t-u) P(t<T≤s,N,=0 ).d+(e-e-)=1- 综合(1)与(2),我们得到
54 å å ¥ = -l× ¥ + = -l× + l × l = + - l × + = 0 1 0 ( 1)! 1 ( ) [( 1) 1] ! ( ) 1 n t n n t n e n t e n n t n nt l - + l × l × - - = l = -l× l× l× -l× e t te e e t t t t 1 [( ( 1)] ． 下面给出当前所用部件的寿命分布 把Tk 解释成某工作线上第k 次被更新的部件的寿命． 假定它们都服从分布 l exp , 那 么它们所对应的计数过程 Nt 就是 Poisson 过程. 考虑当前时刻t 所用的部件 (注意当前时 刻t 所用的部件不是第 Nt 个, 而是Nt +1 个，因为更新了Nt 次后，起用的应该是第 Nt +1个 部件) 的寿命TNt +1 . 这里TNt +1 的随机性，不仅来自固定的部件的寿命, 而且还来自 Nt 的 随机性, 所以不应该认为它服从指数分布. 以下我们推导它的分布. 因为 Nt £ < Nt + TNt +1 t t t , 所以T s Nt +1 £ 就等价于t T s Nt Nt - t < +1 £ . 于是： (1) 当s < t 时, 由T s Nt +1 £ ，我们有 Nt ³ 1且t s t Nt - £ t < . 利用Nt = n与Tn +1之间的 独立性及 n t 与Tn +1的独立性, 由(3. ７)式所给出对条件密度函数g (u) n 导致 ( [ ( ) ( ) | , ]) ( ) ( , ) [ , ] 1 [ , ) 1 1 t t t Nt t t t t t s N t s t N t N N N N N E E I T I N P T s P t T s t s t t t t t -t + - + + = £ = - < £ - £ < åò ¥ = -l -t + - l = t = t = 1 [ , ] 1 [ , ) ! ( ) [ ( ) ( )| , ) ( ) n t n t s n t s t n t N n e n t E I T I N n u g u du n t åò ¥ = - -l - -l - -l l× = - 1 1 ( ) ! ( ) ( ) n t t s t n n n t u s e n t du t nu e e ò - -l - -l -l -l = - l × = - - l t t s t u s s s (e e ) du 1 e se ( ) . (2) 当s ³ t 时, 我们有 t Nt 0 £ t £ , 并注意用t 0 = 0, 类似地得到 ( [ ( ) ( ) | , ]) ( ) ( ,0 ) [ , ] 1 [0, ) 1 1 t t t Nt t t t t t s N t N t N N N N N E E I T I N P T s P t T s t t t t t -t + + + = £ = - < £ £ < ( , 0) ! ( ) ( ) 1 1 0 1 ( ) + < £ = l× = å - ò ¥ = -l - -l - -l t n t t n n n t u s e P t T s N n t du t nu e e ò -l - -l -l -l -l -l = - l× + - = - l - t t u s t s s s e e du e e te e 0 ( ) ( ) ( ) 1 . 综合(1)与(2)，我们得到