正在加载图片...
284 智能系统学报 第4卷 前已在时变信号的模式识别2】、故障诊断131、预测 准确度.Parzen提出了f(X)的一簇估值公式: 预报4]等许多领域获得成功的应用.文中通过将过 /(x)=日2a(X-x) (4) 程式的时变(函数)信息与文献[1]中的概率神经网 n入1 络相融合,提出和建立了一种过程概率神经网络 同时,Parzen证明了im.(X)-f(x)12=0, (probabilistic process neural networks,PPNN)模型, Cacoullos扩展了Parzen的结果,在Gaussian核 设计了相应的学习算法,实验结果表明该模型及算 的特殊情况下,多变量估计可表达为 法是可行的, 1 1贝叶斯决策相关理论 f(X)=(2m)C 1.1贝叶斯定理 12cp[-(X-x)'(X-X .(5) m 2o2 贝叶斯(Bayes Thomas)在《论机会学说问题的 式中:i表示样本号,m表示训练样本总数,Xs表示 求解》一文中,提出了一种归纳推理的理论,其中的 类别P4的第i个样本,σ表示平滑参数,p表示度量 “贝叶斯定理(或贝叶斯公式)”给出了在已知结果 空间的维数 E后,对所有原因C计算其条件概率(后验概率)的 公式,可以看做是最早的一种统计推断程序.以后被 2概率过程神经元网络 一些统计学者发展为一种系统的统计推断方法,称 在众多时变动态信号处理问题中,受多种非线 为贝叶斯方法.其基本内容是:通过先验概率P(A) 性扰动因素、信号间的耦合作用以及噪声的影响,对 与条件概率P(B1A)来估计后验概率P(A1B),即 于综合评判的结果,不能给出完全精确的肯定(取 P(AI B)=P(BI A)P(A) (1) 值为1)或否定(取值为0)的回答;而往往存在某种 P(B) 程度上的肯定或否定(取值为0~1之间),即评判 1.2贝叶斯判定策略 结果呈现一定的概率性或模糊性.对这类问题的解 用于模式分类的判定规则或策略的公认标准 决,期待着新模型的出现,这种新模型应该既体现评 是:在某种意义上,使预期风险最小.这样的策略称 价结果的概率性,即应与贝叶斯决策理论的判决结 贝叶斯策略.以2类判别为例,设模式状态P为P 果相一致,又能处理各种时变的过程(函数)信号. 或P,欲根据n维向量X=[x1x2…xm]描述 针对这一问题,本节首先提出过程概率神经元的概 的一组测量结果,判定P=P4或P=Pg,贝叶斯判 念,进而提出一种过程概率神经网络模型。 定规则变成: 2.1概率过程神经元模型 d(X)= [Pa,halaf(X)>hglafe(X), (2) 与普通过程神经元模型相似,笔者提出的概率 Lpa,halfa(X)hglafg(X). 过程神经元(probabilistic process neuron,PPN)由时 式中:f(X)和f(X)分别为A和B的概率密度函 变信号输入、时空加权聚合以及激励输出等运算构 数;la为P=Pa时判定d(X)=Pg的损失函数,lg为 成,模型如图1所示. P=Pg时判定d(X)=P4的损失函数(正确判定时 的损失等于0);h4为P=P4的先验概率,hg=1-ha x(ùw() 为P=P的先验概率 x,(ù,(D w.(1) 贝叶斯判定规则d(X)=P4的区域与贝叶斯判 x.()- 定规则d(X)=Pa的区域间的界限可用下式求得 图1概率过程神经元模型 fa(X)Kfa(X). (3) Fig.1 Probabilistic process neuron model 式中:K=hglg/hala: 图1中,x1(t),x2(t),…,xn(t)为时间[0,T]上 使用式(3)的关键是根据样本模式估算概率密度 的过程式输入,0(t),02(t),…,0,(t)分别为各维 函数的能力.通常先验概率为已知,或者可以准确地加 输入的加权函数,y为输出.与普通过程神经元所采 以估计,损失函数需要主观估计.然而若模式的概率密 用的Sigmoid型激励函数不同,该模型采用具有概 度函数未知,并且给出的是一组训练模式(训练样本), 率统计特性的指数型激励函数: 得出概率密度函数的惟一线索只有这些样本 1.3概率密度函数估计方法 (a)exp (6) 判别边界的准确度取决于概率密度函数估计的 式中:σ为平滑参数,0=0.4时,g(x)的分布如图2
<<向上翻页向下翻页>>
©2008-现在 cucdc.com 高等教育资讯网 版权所有