第11章马民链棋 11.1健康与疾病 11.2钢琴销售的存贮策略
第11章 马氏链模型 11.1 健康与疾病 11.2 钢琴销售的存贮策略
马氏链模型 描述一类重要的系统(过程)的模型 系统在每个时期所处的状态是随机的 从一时期到下时期的状态按一定概率转移 下时期状态只取决于本时期状态和转移概率 将来与过去无关(无后效性) 马氏链( Markov chain) 时间、状态均为离散的随机转移过程
马氏链模型 • 系统在每个时期所处的状态是随机的 • 从一时期到下时期的状态按一定概率转移 • 下时期状态只取决于本时期状态和转移概率 已知现在，将来与过去无关（无后效性） 描述一类重要的随机动态系统（过程）的模型 马氏链 (Markov Chain) ——时间、状态均为离散的随机转移过程
111健康与疾病 通过有实际背景的例子介绍马氏链的基本概念和性质 人的健康状态随着时间的推移会随机地发生转变 保险公司要对投保人未来的健康状态作出估计,以制 订保险金和理赔金的数额 例1.人的健康状况分为健康和疾病两种状态,设对特 定年龄段的人,今年健康、明年保持健康状态的概率 为0.8,而今年患病、明年转为健康状态的概率为0.7, 若某人投保时健康,问10年后他仍处于健康状态的概率
通过有实际背景的例子介绍马氏链的基本概念和性质 例1. 人的健康状况分为健康和疾病两种状态，设对特 定年龄段的人，今年健康、明年保持健康状态的概率 为0.8, 而今年患病、明年转为健康状态的概率为0.7， 11.1 健康与疾病 人的健康状态随着时间的推移会随机地发生转变 保险公司要对投保人未来的健康状态作出估计, 以制 订保险金和理赔金的数额 若某人投保时健康, 问10年后他仍处于健康状态的概率
状态与状态转移 状态X= ,第n年健康状态概率a(m)=P(Xn=1) 2,第n年疾病 i=1,2,n=0,1, 转移概率=P(Xn1=Xn,=1)b,j=12,n=01 P1=082=1-1=020 0.2 0.3 P21=07P2=|=P2=031 0.7 Xn+1只取决于X,和p与Xn1,…无关 状态转移具a1(m+1)=a(m)1+a2(n)21 有无后效性 a2(m+)=a(n)2+a2(m)2
转移概率pi j = P(Xn+1 = j Xn = i), i, j =1,2, n = 0,1, Xn+1只取决于Xn和pij, 与Xn-1 , …无关 p11 = 0.8 1 0.2 p12 = − p11 = 0.7 p21 = 1 0.3 p22 = − p21 = = 第 年疾病 第 年健康 状态 n n Xn 2, 1, 1,2, 0,1, ( ) ( ), = = = = i n a n P X i 状态概率 i n 状态与状态转移 状态转移具 有无后效性 1 1 11 2 21 a (n+1) = a (n)p +a (n)p 1 2 0.8 0.2 0.3 0.7 2 1 12 2 22 a (n+1) = a (n)p + a (n)p
状态与状态转移 0.8 0.2 0.3 0.7 2 Ja1(+1)=a(m)P1+a2(m)P2给定a(0),预测 a2(n+1)=a1(m)p12+a2(n)P2( a(n),n=1,2 n 2 3 设投 a1(m) 0.8 0.78 0.778.79 保时 健康 a,(n 01001 0.20.22 0.222 2/9 设投保a1(m) 0.7 0.770.777 79 时疾病 0.3 0.330.333∴2 n→>∞时状态概率趋于稳定值,稳定值与初始状 态无关
n 0 a2 (n) 0 a1 设投 (n) 1 保时 健康 给定a(0), 预测 a(n), n=1,2… 设投保 时疾病 a2 (n) 1 a1 (n) 0 n→时状态概率趋于稳定值，稳定值与初始状 态无关 + = + + = + 2 1 1 2 2 2 2 1 1 1 1 2 2 1 ( 1) ( ) ( ) ( 1) ( ) ( ) a n a n p a n p a n a n p a n p 3 … 0.778 … 0.222 … ∞ 7/9 2/9 0.7 0.77 0.777 … 0.3 0.33 0.333 … 7/9 2/9 状态与状态转移 1 2 0.8 0.2 0.3 0.7 1 0.8 0.2 2 0.78 0.22
健康与疾病 例2.健康和疾病状态同上,Xn=1~健康, 死亡为第3种状态,记=308 0.18 p1=0.8,p12=0.18,P13=0.02 0.65 p21=0.65,P22=0.25,p23=0.1 0.02 3 0.1 p31=0,P32=0,p3=1 a1(+1=a1(n)P1+a2(mn)P21+a2(m)P31 a2(n+1)=a1(n)12+a2(n)p2+a3(m)232 (3(n+1)=a1(m)P13+a2(n)P23+a23(n)3
1 2 3 0.02 0.1 1 0.8 0.18 0.25 0.65 例2. 健康和疾病状态同上，Xn=1~ 健康, Xn=2~ 疾病 3 1 1 3 2 2 3 3 3 3 2 1 1 2 2 2 2 3 3 2 1 1 1 1 2 2 1 3 3 1 ( 1) ( ) ( ) ( ) ( 1) ( ) ( ) ( ) ( 1) ( ) ( ) ( ) a n a n p a n p a n p a n a n p a n p a n p a n a n p a n p a n p + = + + + = + + + = + + p11=0.8, p12=0.18, p13=0.02 死亡为第3种状态，记Xn=3 健康与疾病 p21=0.65, p22=0.25, p23=0.1 p31=0, p32=0, p33=1
状态与状态转移 设投保时处于健康状态,预测a(n)2n=1,2 0 2 3 50 (n)10.80.7570.7285 0.1293 0 a2(n) 00.180.1890.1835.0.0326. 0 a3(m)00.020.0540.0880 0.8381 不论初始状态如何,最终都要转到状态3; 一且a1(k)=:2(k)=0,a3(k)=1,则对于n>k, al(n)=0,a2(n)=0,a3(m)=1,即从状态不会 转移到其它状态
n 0 1 2 3 a2 (n) 0 0.18 0.189 0.1835 a3 (n) 0 0.02 0.054 0.0880 a1 (n) 1 0.8 0.757 0.7285 设投保时处于健康状态，预测 a(n), n=1,2… 不论初始状态如何，最终都要转到状态3 ； 一旦a1(k)= a2(k)=0, a3(k)=1, 则对于n>k, a1(n)=0， a2(n)=0, a3(n)=1, 即从状态3不会 转移到其它状态。 状态与状态转移 0 0 1 50 0.1293 0.0326 0.8381
马氏链的基本方程状态M=12…k(n=01) 状态概率a(On)=P(Xn=1)a(n)=1 1,2,…,k,n=0,1 转移概率=P(Xm=Xn=Dp20.∑p=1=12…k j=l 基本方程a(n+1)=∑a,(n)Pn,i=1,2,…,k J a(n)=(a,(n), a( n)akn)a(n+1)=a(n)P 状态概率向量 P=~转移概率矩阵a(n)=a(OPn (非负,行和为1)
1,2,, , 0,1, ( ) ( ), = = = = i k n a n P X i 状态概率 i n ( ) 1 p P X j X i 转移概率 ij = n+ = n = X =1,2, k (n = 0,1, ) 马氏链的基本方程 状态 n ( ) 1 1 = = a n k i i p p i k k j i j i j 0, 1, 1,2, , 1 = = = （非负，行和为 ） 转移概率矩阵 1 P ={pi j}kk ~ a(n +1) = a(n)P a n a n p i k k j i j j i ( 1) ( ) , 1,2, , 1 + = = = 基本方程 ~ 状态概率向量 ( ) ( ( ), ( ), , ( )) 1 2 a n a n a n a n = k n a(n) = a(0)P
马氏链的两个重要类型(+1)=a(mP 正则链~从任一状态出发经有限次 转移能以正概率到达另外任一状态 正则链N,PN>0 正则链→3a(0)→W(m→∞)稳态概率 v满是wP=w 0.83+0.7v2=1 0.80.2 例P d02=07 0.70.3 0.211+0.312=W2 m满足>=1+W2=1w=(7/92/9
w满足 wP = w 马氏链的两个重要类型 1. 正则链 ~ 从任一状态出发经有限次 转移能以正概率到达另外任一状态 （如例1）。 , 0 N 正则链 N P a(n +1) = a(n)P 正则链w, a(n) →w(n →) = 0.7 0.3 0.8 0.2 例1. P w = (7 / 9,2 / 9) 1 2 2 1 2 1 0.2 0.3 0.8 0.7 w w w w w w + = + = 1 1 = = k i w满足 wi 1 w1 +w2 = 1 2 0.2w = 0.7w w ~ 稳态概率
马氏链的两个重要类型 2.吸收~存在吸收状态(一旦到达就不会离 开的状态,p1),且从任一非吸收状态出发经有 限次转移能以正概率到达吸收状态(如例2)。 有r个吸收状态的吸收链 P=- R有非 的转移概率阵标准形式 RO零元素 M=(-)=>oy=(,y2y)=Me (1 y~从第i个非吸收状态出发,被某个 吸收状态吸收前的平均转移次数
= R Q I P r r 0 马氏链的两个重要类型 2. 吸收链 ~ 存在吸收状态（一旦到达就不会离 开的状态i, pii=1）,且从任一非吸收状态出发经有 限次转移能以正概率到达吸收状态（如例2）。 有r个吸收状态的吸收链 的转移概率阵标准形式 R有非 零元素 = − = − = 0 1 ( ) s s M I Q Q T e = (1,1, ,1) y y y y Me = ( 1 , 2 , k−r ) = yi ~ 从第 i 个非吸收状态出发，被某个 吸收状态吸收前的平均转移次数