量序列{Sn}与某人提供的观测随机变量序列{On}之间的条件概率计算的关系可以直观地写 S0,O12S1 其中在前面的一段随机变量序列取定值的条件下,继后的那个随机变量取值的条件概率就完全 确定了.而且在这3个模型下分别都有 P(SnIO, S,,O S)=P(Sn+ISn)=P(S,IS,), P(OO,S,,"Om-,Sm_,On, Sm)=P(onISm)=P(O2 IS,) 于是 P(So, O, SI,.Omi,Sm-l, Om, Sm) =P(SoP(O, I So)P(, ISo)P(O,IS)-P(Om Sm-pP(Sm I_) 具体地,我们有 在模型气下(把取到的球换色) P(O1,O2,O3O42O3)=(00,00.1)141)=0.9×0.89×0.88×0.87×0.13≈0.08 在模型2下(球的内容不变),O是独立同分布的随机变量序列,且On-1 22 所以 P(O,O2O3O4O3)=0,0.0,0.1)2)=()3≈0.03 在模型λ3下(取到红则不变,取到白则换为红球) P(O,O2,O2O4,O3)=00001)123)=0.4)4×06≈0.015 再用 Bayes公式分别得到(即取上面3个概率的归一化值) P(O1,O2,O3O4O)=(0.0.0,0,1)=0.64 P(A2O,O2,O3,O4,O3)=(0001)=0.2 P(A3(O1,O2,O3,O4,O3)=(00,0,1))=0.12 可见从第一盒抽出样本(红,红,红,红,白)的概率要比从其他两盒中抽出该样本的概率要 大得多 这个模型的意义绝对不在于游戏,从中可以抽象出一种能广泛应用的数学模型一隐 Markov 模型( Hidden markov model,简记为HMM).在这个例子中的不同盒的抽取方式可以抽象 为不同的编码方式.而这个例子正启示了用隐 Markov模型作模式识别的一种粗略梗概. 2.2隐 Markov模型的描述 定义10.13设{Xnn≥l是取值于有限状态{…,D}的随机变量列,称为状态 链,X1的分布称为其初始分布,记为μ·假定Xn是时齐的 Markov链.记 au=P(n=jIX,=i), A=(ai)ijsL (10.1) 为它的转移矩阵.假定Xn的取值,初始分布μ与转移矩阵A,都不能测量得到.而能测量到 的是另一个与它有联系的,且可以观测到的一个取值于与有限集{v1,…,VM}的随机变量序 列Y,称为观测链,它们合起来还要求满足如下的隐 Markov条件(HM条件) 270270 量序列{ }n S 与某人提供的观测随机变量序列{ } On 之间的条件概率计算的关系可以直观地写 为： S O S Om i Sm Om Sm , , , , , , 0 1 1 L - -1 ， 其中在前面的一段随机变量序列取定值的条件下，继后的那个随机变量取值的条件概率就完全 确定了．而且在这３个模型下分别都有 ( | , , , ) ( | ) ( | ) 1 1 1 1 2 1 P S O S O S P S S P S S n+ L n n = n+ n = ， ( | , , , , , ) ( | ) ( | ) 1 1 1 1 1 2 1 P O O S O S O S P O S P O S n+ L m-i m- m m = n+ n = ． 于是 ( , , , , , , ) P S0 O1 S1 LOm-i Sm-1 Om Sm ( ) ( | ) ( | ) ( | ) ( | ) ( | ) = 0 1 0 1 0 2 1 m m-1 m m-1 P S P O S P S S P O S LP O S P S S ． 具体地，我们有 在模型 l1下（把取到的球换色） (( , , , , ) (0,0,0,0,1) | ) P O1 O2 O3 O4 O5 = l1 =0.9×0.89×0.88×0.87×0.13≈0.08． 在模型 l2 下（球的内容不变）， On 是独立同分布的随机变量序列，且 ÷ ÷ ø ö ç ç è æ 2 1 2 1 0 1 On ~ ， 所以 (( , , , , ) (0,0,0,0,1) | ) P O1 O2 O3 O4 O5 = l2 5 ) 2 1 = ( ≈0.03． 在模型 l3 下（取到红则不变，取到白则换为红球） (( , , , , ) (0,0,0,0,1) | ) P O1 O2 O3 O4 O5 = l3 = (0.4) ´ 0.6 » 4 0.015． 再用 Bayes 公式分别得到（即取上面3 个概率的归一化值） P(l１｜(O1 ,O2 ,O3 ,O4 ,O5 ) = (0,0,0,0,1)) = 0.64， P(l２｜(O1 ,O2 ,O3 ,O4 ,O5 ) = (0,0,0,0,1)) = 0.24 P(l3 | (O1 ,O2 ,O3 ,O4 ,O5 ) = (0,0,0,0,1)) = 0.12． 可见从第一盒抽出样本(红，红，红，红，白)的概率要比从其他两盒中抽出该样本的概率要 大得多． 这个模型的意义绝对不在于游戏，从中可以抽象出一种能广泛应用的数学模型－隐 Markov 模型 （Hidden Markov Model， 简记为 HMM）．在这个例子中的不同盒的抽取方式可以抽象 为不同的编码方式. 而这个例子正启示了用隐 Markov 模型作模式识别的一种粗略梗概． ２．２ 隐 Markov 模型的描述 定义１０．１３ 设{X : n ³1} n 是取值于有限状态{1,L,L}的随机变量列, 称为状态 链，X1 的分布称为其初始分布，记为 m ．假定 Xn 是时齐的 Markov 链．记 ( | ) 1 a P X j X i ij = n+ = n = ， ij i j L A a = , £ ( ) ． (10. 1) 为它的转移矩阵．假定 Xn 的取值，初始分布m 与转移矩阵 A , 都不能测量得到. 而能测量到 的是另一个与它有联系的，且可以观测到的一个取值于与有限集 {n1 ,L,n M }的随机变量序 列Yn , 称为观测链, 它们合起来还要求满足如下的隐 Markov 条件（HMM 条件）: