第二章随机过程的一般概念 2.1随机过程的基本概念和例子 定义21.1:设(2,P)为概率空间,T是某参数集,若对每一个t∈T,X(t,) 是该概率空间上的随机变量,则称X(t,w)为随机过程 Stochastic Process 随机过程就是定义在同一概率空间上的一族随机变量。随机过程X(,w)可 以看成定义在T×上的二元函数,固定w0∈g,即对于一个特定的随机试验, 称X(t,0)为样本路径( Sample Path),或实现( realization),这是通常所观测到的 过程;另一方面,固定to∈T,ⅹ(o,w)是一个随机变量,按某个概率分布随机 取值。 抽象一点:令R=∏R,即R中的元素为X,=(x,1∈T),3(R)为其Borl 域(插乘σ域),随机过程实质上是(92列)到(R!,a(R)上的一个可测映射,在 (R,a(R)上诱导出一个概率测度P B∈B(R),P(B)=P(Xx∈B) 般t代表的是时间。根据参数集T的性质,随机过程可以分为两大类 l)T为可数集,如T=01.2…}或T={…-10.1…,称为离散参数随机 过程,也称为随机序列 2)T为不可数集,如=≥0或T={-∞<1<},称为连续参数随机 过程 随机过程X(),t∈T的取值称为过程所处的状态( State),所有状态的全体称 为状态空间( State Space)。通常以S表示随机过程的状态空间。根据状态空间的 特征,一般把随机过程分为两大类 l)离散状态,即X(1)取一些离散的值; 2)连续状态,即(1)的取值范围是连续的
第二章 随机过程的一般概念 2.1 随机过程的基本概念和例子 定义 2.1.1：设(Ω, F, P)为概率空间，T 是某参数集，若对每一个 ， 是该概率空间上的随机变量，则称 为随机过程(Stochastic Process)。 t ∈T X (t, w) X (t, w) 随机过程就是定义在同一概率空间上的一族随机变量。随机过程 可 以看成定义在 X (t, w) T × Ω上的二元函数，固定 w0 ∈Ω ，即对于一个特定的随机试验， 称 为样本路径(Sample Path)，或实现(realization)，这是通常所观测到的 过程；另一方面，固定 ， 是一个随机变量，按某个概率分布随机 取值。 ( , ) w0 X t t0 ∈T ( , ) X t0 w 抽象一点：令 ∏ ，即 ∈ = t T T R R T R 中的元素为 X (x ,t T) t = t ∈ , 为其 Borel 域(插乘 ( ) T B R σ 域)，随机过程实质上是 (Ω,F) 到 ( , ( )) T T R B R 上的一个可测映射，在 ( , ( )) T T R B R 上诱导出一个概率测度 PT ： B R P B P(X B) T T T ∀ ∈B ( ), ( ) = ∈ 。 一般t 代表的是时间。根据参数集T 的性质，随机过程可以分为两大类： 1) T 为可数集，如T = {0,1,2,L}或T = {L,−1,0,1,L}，称为离散参数随机 过程，也称为随机序列； 2) T 为不可数集，如T = {t t ≥ 0}或T = {t − ∞ < t < ∞}，称为连续参数随机 过程。 随机过程 的取值称为过程所处的状态(State)，所有状态的全体称 为状态空间(State Space)。通常以 表示随机过程的状态空间。根据状态空间的 特征，一般把随机过程分为两大类： X (t),t ∈T S 1) 离散状态，即 X (t)取一些离散的值； 2) 连续状态，即 X (t)的取值范围是连续的。 1
离散参数离散状态随机过程: Markov链 连续参数离散状态随机过程: Poisson过程 离散参数连续状态随机过程:* Markov序列 连续参数连续状态随机过程: Gauss过程,Brow运动 例21.1:一醉汉在路上行走,以p的概率向前迈一步,以q的概率向后迈一步, 以r的概率在原地不动,p+q+r=1,选定某个初始时刻,若以K(n)记它在n时 刻的位置,则ⅹ(n)就是直线上的随机游动( Random Walk) 例21.2:到达总机交换台的电话呼叫次数可以看成为一个 Poisson过程。 例2.1.3:研究某一物种数量,由于环境等一些因素的影响导致物种出生和死亡 的是随机变化的,若以X(1)表示在时刻t≥0时物种总数量,X()为生灭过程 ( Birth and Death Process(满足一定假设) 例2.14:英国植物学家 Brown注意到漂浮在液面上的微小粒子不断进行无规则 运动,这种运动是分子大量随机碰撞的结果,称为 Brown运动,以(X(,Y(1)表 示粒子在平面上的位置,则它是平面上的 Brown运动。 2.2:有限维分布和数字特征 定义22.1:对∨n∈N,V1,l2,…n∈T,n维随机向量(X(1),X(2)…X(tn)的 联合分布函数 t2,…tn)=P(X(t1)<x1,X(2)<x2…X(tn)<xn) 称为随机过程X()的n维有限维分布。称 F(x,x2…x;12…tn)Ⅶn∈N,v1,l2…tn∈r} 为随机过程K(1)的有限维分布函数簇 有限维分布函数簇显然满足如下两个性质 (对称性)设1,2,…Ln为1,2,…n的任意排列,1,l2…tn∈T,则 t1, 2.设m<n,1,2…tn,m1…tn∈T,则
离散参数离散状态随机过程： Markov 链 连续参数离散状态随机过程： Poisson 过程 离散参数连续状态随机过程： *Markov 序列 连续参数连续状态随机过程： Gauss 过程，Brown 运动 例 2.1.1：一醉汉在路上行走，以 的概率向前迈一步，以q 的概率向后迈一步， 以 p r 的概率在原地不动，p + q + r =1，选定某个初始时刻，若以 记它在 时 刻的位置，则 就是直线上的随机游动(Random Walk)。 X (n) n X (n) 例 2.1.2：到达总机交换台的电话呼叫次数可以看成为一个 Poisson 过程。 例 2.1.3：研究某一物种数量，由于环境等一些因素的影响导致物种出生和死亡 的是随机变化的，若以 表示在时刻 时物种总数量， 为生灭过程 (Birth and Death Process)(满足一定假设)。 X (t) t ≥ 0 X (t) 例 2.1.4：英国植物学家 Brown 注意到漂浮在液面上的微小粒子不断进行无规则 运动，这种运动是分子大量随机碰撞的结果，称为 Brown 运动，以 表 示粒子在平面上的位置，则它是平面上的 Brown 运动。 ( ) X (t),Y(t) 2.2：有限维分布和数字特征 定义 2.2.1：对∀ n∈ N ，∀t1 ,t 2 ,Lt n ∈T ，n维随机向量( ( ), ( ), ( )) 1 2 n X t X t LX t 的 联合分布函数 ( ) ( ) n n n n F x , x , x ;t ,t , t = P X (t ) < x , X (t ) < x , X (t ) < x 1 2 L 1 2 L 1 1 2 2 L 称为随机过程 X (t)的n维有限维分布。称 { } F(x1 , x2 ,Lxn ;t1 ,t 2 ,Lt n ) ∀n∈ N,∀t1 ,t 2 ,Lt n ∈T 为随机过程 X (t)的有限维分布函数簇。 有限维分布函数簇显然满足如下两个性质： 1.（对称性）设i1 ,i2 ,Lin为1,2,Ln 的任意排列，∀t1 ,t 2 ,Lt n ∈T ，则 ( ) ( ) n n n n i i i i i i F x , x ,Lx ; t ,t ,Lt F x , x ,Kx ;t ,t ,Kt 1 2 1 2 1 2 1 2 = 2. 设m < n，∀t1 ,t 2 ,Ltm ,tm+1 ,Lt n ∈T ，则 ( ) ( ) m n m m F x , x ,Lx , L ; t ,t ,Lt F x , x ,Lx ; t ,t ,Lt 1 2 ∞ ∞ 1 2 = 1 2 1 2 2
满足性质1,2称为是相容的( consistent)。 抽象一点:对Vn∈N,1,l2…tn∈T,n维随机向量(X(1),X(t2)…X(n)诱 导出(R",a(R)上的一个概率测度P,该概率测度可以由下面定义唯一决 VB1,B2…Bn∈(R),B=B1xB2…×Bn∈B(R") PA,….(B)=P(X(1)∈B,X(2)∈B2…X(tn)∈Bn) 此概率测度所确定的分布满足两条性质: 1.(对称性)设i,2,…n为1,2,…n的任意排列,ⅤB1,B2,…Bn∈邵(R),则 P2-,(B4xB2…×B1)=P12,(B1×B2…×Bn) 2.设m<n,VB1,B2,…Bn∈B(R),则 B2-,(B1×B2…×BmxR…×R)=P1…n(B1xB2…xBm) 性质1,2称为是相容的。 Kolmogorov相容性定理:概率测度簇n∈N,V4,12…1n∈T,P2,(为 (R",3(R")上的概率测度)确定的分布簇恰为某个随机过程的有服維分布簇当且仅 当其满足相容性条件 定义2.2.2:随机过程X(),t∈T,称 ()=EY()为均值函数, D()=E[x(1)-()]=EX2()-2()为方差函数, 对任意s,t∈T,R(s,t)=EH(s)X()为(自)相关函数 r(s,1)=E[X(s)-(s)[x(t)-O)]=EX(s)X(0)-()u()为(自)协方差函数 若X()为复值的随机过程,方差函数定义为D()=EX(1)-u(),相应的 (自)相关函数,(自)协方差函数分别定义为R(s,1)=EX(s)X(t), r(s,)=E[X(s)-()X()-(0)=EX(s)X()-u(s)(0
满足性质 1，2 称为是相容的(consistent)。 抽象一点：对∀ n∈ N ，∀t1 ,t 2 ,Lt n ∈T ，n维随机向量( ( ), ( ), ( )) 1 2 n X t X t LX t 诱 导出( , ( )) n n R B R 上的一个概率测度 ，该概率测度可以由下面定义唯一决 定： n Pt t Lt 1 2 , ( ) t t t n n n n n P B P X t B X t B X t B B B B R B B B B R n = ∈ ∈ ∈ ∀ ∈ = × × ∈ ( ) ( ) , ( ) ( ) , ( ), ( ) , 1 1 2 2 1 2 1 2 1 2 L L L L B B 此概率测度所确定的分布满足两条性质： 1.（对称性）设i1 ,i2 ,Lin为1,2,Ln 的任意排列， , , ( ) ∀ B1 B2 LBn ∈B R ，则 ( ) ( ) 1 2 1 1 , 2 1 2 1 2 Pt t t Bi Bi Bi n Pt t tn B B Bn n i i i L × L× = L × L× 2. 设m < n，∀ B1 , B2 ,LBm ∈B (R) ，则 ( ) ( ) Pt1 ,t2Ltn B1 × B2 L× Bm × RL× R = Pt1 ,t2Ltm B1 × B2 L× Bm 性质 1，2 称为是相容的。 Kolmogorov 相容性定理：概率测度簇 ∀n∈ N,∀t1 ,t 2 ,Lt n ∈T , Pt1 ,t2Ltn （为 ( , ( )) n n R B R 上的概率测度）确定的分布簇恰为某个随机过程的有限维分布簇当且仅 当其满足相容性条件。 定义 2.2.2：随机过程 X (t),t ∈T ，称 µ(t) = EX (t)为均值函数， ( ) [ ] ( ) ( ) ( ) ( ) 2 2 2 D t = E X t − µ t = EX t − µ t 为方差函数， 对任意s,t ∈T ， R(s,t) = EX (s)X (t)为（自）相关函数， Γ(s,t) = E[ ] X (s) − µ(s) [X (t) − µ(t)]= EX(s)X (t) − µ(s)µ(t) 为（自）协方差函数。 若 X (t) 为复值的随机过程，方差函数定义为 2 D(t) = E X (t) − µ(t) ，相应的 （自）相关函数，（自）协方差函数分别定义为 ， 。 _______ R(s,t) = EX (s) X (t) [ ] _________________ _______ _______ (s,t) E X (s) µ(s) X (t) µ(t) = EX (s) X (t) − µ(s) µ(t) ⎥ ⎦ ⎤ ⎢ ⎣ ⎡ Γ = − − 3
例221:设有正弦波过程X()=Acos(t+0),其中A,w为常数,θ为[-x,n]上 的均匀分布的随机变量,其均值函数为山()=0,协方差函数为 T(s, 1=-coSw(s-1) 例2:设复值随机过程X()=∑ne~,其中ns彼此独立服从N(0,a)分布, 其均值函数为(t)=0,协方差函数为I(s,1)=∑aem")
例 2.2.1：设有正弦波过程 X (t) = Acos(wt + θ ) ，其中 A, w为常数，θ 为[−π ,π ]上 的均匀分布的随机变量，其均值函数为 µ(t) = 0 ，协方差函数为 cos ( ) 2 ( , ) 2 w s t A Γ s t = − 。 例 2.2.2：设复值随机过程 ∑ ，其中 = = N k jw t k k X t e 1 ( ) η η k 彼此独立服从 分布， 其均值函数为 (0, ) 2 N σ k µ(t) = 0 ，协方差函数为 ∑ 。 = − Γ = N k jw s t k k s t e 1 2 ( ) ( , ) σ 4