《数学模型》课程教学资源（PPT课件讲稿）第十二章 马氏链模型

数学模型 第十二章马氏链模型 111健康与疾病 11.2钢琴销售的存贮滎略 113基因遗传 11.4等级结构 115资金流通

第十二章 马氏链模型 11.1 健康与疾病 11.2 钢琴销售的存贮策略 11.3 基因遗传 11.4 等级结构 11.5 资金流通

数学模型 马氏链模型 描述一类重要的随机动态系统(过程)的模型 系统在每个时期所处的状态是随机的 ·从一时期到下时期的状态按一定概率转移 下时期状态只取决于本时期状态和转移概率 已知现在,将来与过去无关(无后效性) 马氏链 MArkov Chain) 时间、状态均为离散的随机转移过程

马氏链模型 • 系统在每个时期所处的状态是随机的. • 从一时期到下时期的状态按一定概率转移. • 下时期状态只取决于本时期状态和转移概率. 已知现在，将来与过去无关（无后效性） 描述一类重要的随机动态系统(过程)的模型. 马氏链 (Markov Chain) ——时间、状态均为离散的随机转移过程

数学模型) 111健康与疾病 中 通过有实际背景的例子介绍马氏链的基本概念和性质 人的健康状态随着时间的推移会随机地发生转变 保险公司要对投保人未来的健康状态作出估计,以制 订保险金和理赔金的数额 例1.人的健康状况分为健康和疾病两种状态,设对特 定年龄段的人,今年健康、明年保持健康状态的概率 为0.8,而今年患病、明年转为健康状态的概率为0.7 若某人投保时健康,问10年后他仍处于健康状态的概率

通过有实际背景的例子介绍马氏链的基本概念和性质. 例1. 人的健康状况分为健康和疾病两种状态，设对特 定年龄段的人，今年健康、明年保持健康状态的概率 为0.8, 而今年患病、明年转为健康状态的概率为0.7. 11.1 健康与疾病 人的健康状态随着时间的推移会随机地发生转变. 保险公司要对投保人未来的健康状态作出估计, 以制 订保险金和理赔金的数额 . 若某人投保时健康, 问10年后他仍处于健康状态的概率

(数学模型 状态与状态转移 状态x,=1.第年健康状态概率a(1Px=0 2,第n年疾病 i=1,2,n=0,1, 转移概率Pn=P(Xm1=1n=D),,j=12,n=0 B1=0.8 12 1-n1=02 08 0.2 0.3 P1=0.7P2 22 n21=03 0.7 Xn只取决于x和p与Xn1,…无关 状态转移具a1(n+1)=a1(m)p1+a2(m)p2 有无后效性 a2(n+1)=a1(n)2+a2(m)D2

转移概率pi j = P(Xn+1 = j Xn = i), i, j =1,2, n = 0,1,  Xn+1只取决于Xn和pij, 与Xn-1 , …无关 p11 = 0.8 1 0.2 p12 = − p11 = 0.7 p21 = 1 0.3 p22 = − p21 =    = 第 年疾病 第 年健康 状态 n n Xn 2, 1, 1,2, 0,1, ( ) ( ), = = = = i n a n P X i 状态概率 i n 状态与状态转移 状态转移具 有无后效性 1 1 11 2 21 a (n+1) = a (n)p +a (n)p 0.8 0.2 0.3 0.7 2 1 12 2 22 a (n+1) = a (n)p + a (n)p 1 2

数学模型 状态与状态转移 08 0.2 t.3 0.7 jan(n+1)=a1(n)P1+a2(mn)P21给定a(0,预测 a2(n+1)=a1(m)p12+a2(m)p2a(m),n=1,2, 0 2 3 设投保 0.80.780.77879 时健康 0.20.220.222 2/9 设投保a1(n)00.70.770.77 7/9 时疾病a(m)103023023.29 n→>∞时状态概率趋于稳定值,稳定值与初始状态无关

n 0 a2 (n) 0 a1 设投保 (n) 1 时健康 给定a(0), 预测 a(n), n=1,2,… 设投保 时疾病 a2 (n) 1 a1 (n) 0 n→时状态概率趋于稳定值, 稳定值与初始状态无关.    + = + + = + 2 1 1 2 2 2 2 1 1 1 1 2 2 1 ( 1) ( ) ( ) ( 1) ( ) ( ) a n a n p a n p a n a n p a n p 3 … 0.778 … 0.222 … ∞ 7/9 2/9 0.7 0.77 0.777 … 0.3 0.23 0.223 … 7/9 2/9 状态与状态转移 1 0.8 0.2 2 0.78 0.22 0.8 0.2 0.3 0.7 1 2

(数学模型 健康与疾病 例2.健康和疾病状态同上,X,=1~健康,X=2~疾病 死亡为第3种状态,记Xn=308 0.18 0.25 p1=0.8,p12=0.18,p13=0.02 0.65 p21=0.65,p2=0.25,D23=0.1 0.02 3 0.1 P31=U,P32=0,P33 a1(n+1)=a1(m)p1+a2(m)P21+a3(m)p31 a2(n+1)=a1(n)P12+a2(mn)2+a3(m)p32 a3(n+1)=a1(n)13+a2(mn)23+a3(n)P3

1 2 3 0.02 0.1 1 0.8 0.18 0.25 0.65 例2. 健康和疾病状态同上，Xn=1~ 健康, Xn=2~ 疾病 3 1 1 3 2 2 3 3 3 3 2 1 1 2 2 2 2 3 3 2 1 1 1 1 2 2 1 3 3 1 ( 1) ( ) ( ) ( ) ( 1) ( ) ( ) ( ) ( 1) ( ) ( ) ( ) a n a n p a n p a n p a n a n p a n p a n p a n a n p a n p a n p + = + + + = + + + = + + p11=0.8, p12=0.18, p13=0.02 死亡为第3种状态，记Xn=3 健康与疾病 p21=0.65, p22=0.25, p23=0.1 p31=0, p32=0, p33=1

数学模型) 状态与状态转移 设投保时处于健康状态,预测a(n),n=1,2, 01 3 50 ()10.80.7570.7285 0.1293 a2(n)00.180.1890.1835 0.0326 001 (n)00.020.0540.0880..0.8381 不论初始状态如何,最终都要转到状态3; 一旦a1(k)=a41k)=0,a3(k)=1,则对于n>k,a1(n)=0, a2(m=0,an)=1,即从状态3不会转移到其他状态

n 0 1 2 3  a2 (n) 0 0.18 0.189 0.1835  a3 (n) 0 0.02 0.054 0.0880  a1 (n) 1 0.8 0.757 0.7285  设投保时处于健康状态，预测 a(n), n=1,2,… • 不论初始状态如何，最终都要转到状态3 ； • 一旦a1 (k)= a2 (k)=0, a3 (k)=1, 则对于n>k, a1 (n)=0， a2 (n)=0, a3 (n)=1, 即从状态3不会转移到其他状态. 状态与状态转移 0 0 1 50   0.1293  0.0326  0.8381 

数学模型 马氏链的基本方程状态Xn=1,2,…,k(n=0,1,…) 状态概率a1(m)=P(Xn=l ∑a、(m) l,2 转移概率P=P(Xn=Xn=1),p20,∑p=1,i=12,…,k 基本方程a1(m+1)=∑a1(m)pn,i=1,2,…,k a(n)=(a(m)a()…a()a(n+1)=a(m)P 状态概率向量 P={P}k~转移概率矩阵a(n)=a(OP (非负,行和为1)

, , , , , ( ) ( ), =1 2 = 0 1 = = i k n a n P X i 状态概率 i n ( ), 1 p P X j X i 转移概率 ij = n+ = n = X =1,2,  , k (n = 0,1, ) 马氏链的基本方程 状态 n ( ) 1 1  = = a n k i i p p i k k j i j i j 0, 1, 1,2, , 1   = =  = （非负，行和为 ） 转移概率矩阵 1 P ={pi j}kk ~ a(n +1) = a(n)P a n a n p i k k j i j j i ( 1) ( ) , 1,2, , 1 + =  =  = 基本方程 ~ 状态概率向量 ( ) ( ( ), ( ), , ( )) 1 2 a n a n a n a n =  k n a(n) = a(0)P

数学模型 马氏链的两个重要类型(n+1)=a(m)P 1.正则链~从任一状态出发经有限次转移 能以正概率到达另外任一状态(如例1) 正则链◇>彐N,PN>0 正则链→3,a(m)→>(n→>∞)w~稳态概率 满足wP=v 0.8w1+0.72=1 0.80.2 例1.P 0.2w1=0.7w 0.70.3 0.2w,+0.3 满足∑m=11+12=1w=(7/929

w满足 wP = w 马氏链的两个重要类型 1. 正则链 ~ 从任一状态出发经有限次转移 能以正概率到达另外任一状态 (如例1) .  ,  0 N 正则链 N P a(n +1) = a(n)P 正则链w, a(n) →w(n →)       = 0.7 0.3 0.8 0.2 例1. P w = (7 / 9,2 / 9) 1 2 2 1 2 1 0.2 0.3 0.8 0.7 w w w w w w + = + = 1 1  = = k i w满足 wi 1 w1 +w2 = 1 2 0.2w = 0.7w w ~ 稳态概率

数学模型 马氏链的两个重要类型 2.吸收链~存在吸收状态(一旦到达就不会离开 的状态;P=1),且从任一非吸收状态出发经有 限次转移能以正概率到达吸收状态(如例2) 有r个吸收状态的吸收链 P l0R有非 的转移概率阵标准形式 RQ」零元素 M=(-Q)=∑Q =(y,y2…y)=Me e=(1,1,…,1) y~从第讠个非吸收状态出发,被某个吸收状态 吸收前的平均转移次数

      =  R Q I P r r 0 马氏链的两个重要类型 2. 吸收链 ~ 存在吸收状态（一旦到达就不会离开 的状态i, pii=1）,且从任一非吸收状态出发经有 限次转移能以正概率到达吸收状态 (如例2). 有r个吸收状态的吸收链 的转移概率阵标准形式 R有非 零元素   = − = − = 0 1 ( ) s s M I Q Q T e = (1,1,  ,1) y y y y Me = ( 1 , 2 ,  k−r ) = yi ~ 从第 i 个非吸收状态出发，被某个吸收状态 吸收前的平均转移次数