·78· 智能系统学报 第2卷 变换良好的时频局域化性质及过程神经网络可以处 Wi(a,b=f,克时= 攻b(xf(xdx 理时变信号的能力，从而避免了传统神经网络在解 决大容量非线性时变系统的信号处理问题时存在的 (4) 不适应性.由于连续小波过程神经网络引入了平移 若小波满足允许条件，则连续小波变换存在着逆变 和伸缩因子，因此具有更强的函数逼近能力 换： 1连续小波过程神经网络 1.1过程神经元 了了a,9。h 过程神经元是由过程输入信号加权，时间、空间 (5 二维聚合和阈值激励输出4部分运算组成.与传统 1.3连续小波过程神经网络模型 神经元不同之处在于过程神经元的输入和连接权可 由若干个过程神经元按一定的拓扑结构组成并 以是时变函数，过程神经元增加了一个对于时间的 且隐层激活函数采用小波函数的网络称为连续小波 聚合算子，其聚合运算既有对输入信号的空间加权 过程神经网络.本文所提出的网络为3层连续小波 聚集，亦有对时间过程效应的累积.过程神经元模型 的结构如图1所示。 过程神经网络，设网络的输入层有n个单元，隐层由 m个小波过程神经元组成，输出层只有1个单元，网 络拓扑结构为n-m-1,如图2所示 x(0、1(U0 : t) K() (0 x(0 x(0w(0 图1过程神经元结构图 x(0 ( Fig 1 Structure of process neuron 图2连续小波过程神经网络 过程神经元输入与输出之间的映射关系为 Fig 2 Continuous wavelet process neural network y=f(w()©X()⊙K(y-9.1) 连续小波过程神经网络输入与输出之间的关系 式中：X()=(x1(),2(),…,xm())为过程神经元 为 的输入矢量，W(=(w1(),w2(),…pn()为相 >x:(wo(vdt-b 应的连接权矢量，⊙表示某种空间聚合运算，可取 y=g(v- -).6) aj 为A=wW⊙XD=,w:(W,⊙表示 式中：X()=x1),x2(),xn()}为连续小波过 程神经网络的输入函数矢量，w,()为输入层第i个 某种时间聚合运算，可取为A()⊙K(= 单元与隐层第j个过程神经元的连接权函数，y为 ∫A(,k(yd,0为过程神经元的输出闵值， 隐层第了个过程神经元与输出层单元的连接权值，中 1.2小波分析 为小波函数，g为输出层单元的激励函数，文中取为 函数(x)∈L2(若满足如下条件： 线性函数，y为网络输出 C.= rl为@十dw<∞， (2 2连续小波过程神经网络学习算法 ω 式中：（为(）的Fourier变换，则函数(x)成 2.1函数正交基展开 为一个基本小波或母小波，其通过伸缩平移可产生 由式(6)可以看出，过程神经网络的时间累积运 一组小波函数基： 算比较复杂，为此引入一组合适的正交基函数将输 典6（别=十：与 入函数和连接权函数同时展开，以达到简化时间累 (3) a 积运算的目的 式中：a、b分别为伸缩、平移尺度因子.对于任意函 设h(),b(),b(),…为C0,T]空间上 数∫(x)∈L(R,其连续小波变换可表示为 组标准正交基函数，X()={x1(),x2(), 1994-2008 China Academic Journal Electronic Publishing House.All rights reserved.http://www.cnki.net变换良好的时频局域化性质及过程神经网络可以处 理时变信号的能力 ,从而避免了传统神经网络在解 决大容量非线性时变系统的信号处理问题时存在的 不适应性. 由于连续小波过程神经网络引入了平移 和伸缩因子 ,因此具有更强的函数逼近能力. 1 连续小波过程神经网络 111 过程神经元 过程神经元是由过程输入信号加权 ,时间、空间 二维聚合和阈值激励输出 4 部分运算组成. 与传统 神经元不同之处在于过程神经元的输入和连接权可 以是时变函数 ,过程神经元增加了一个对于时间的 聚合算子 ,其聚合运算既有对输入信号的空间加权 聚集 ,亦有对时间过程效应的累积. 过程神经元模型 的结构如图 1 所示. 图 1 过程神经元结构图 Fig11 Structure of process neuron 过程神经元输入与输出之间的映射关系为 y = f ( (W( t) Ý X( t) ) á K(·) - θ) . (1) 式中 : X( t) = ( x1 ( t) , x2 ( t) , …, x n ( t) ) 为过程神经元 的输入矢量 ,W( t) = ( w1 ( t) , w2 ( t) , …, wn ( t) ) 为相 应的连接权矢量 , Ý 表示某种空间聚合运算 , 可取 为 A( t) = W( t) Ý X( t) = ∑ n i = 1 xi ( t) wi ( t) , á 表示 某种 时 间 聚 合 运 算 , 可 取 为 A( t) á K( ·) = ∫ T 0 A( t) k (·) dt ,θ为过程神经元的输出阈值. 112 小波分析 函数ψ( x) ∈L 2 ( R) 若满足如下条件 : Cψ =∫R | ψ^ (ω) | 2 | ω| dω < ∞, (2) 式中 :ψ^ (ω) 为ψ( t) 的 Fourier 变换 ,则函数ψ( x) 成 为一个基本小波或母小波 ,其通过伸缩平移可产生 一组小波函数基 : ψa, b ( x) = 1 a ψ( x - b a ) . (3) 式中 : a、b分别为伸缩、平移尺度因子. 对于任意函 数 f ( x) ∈L 2 ( R) , 其连续小波变换可表示为 Wf (a,b) = ( f ,ψa,b) = 1 | a |∫ + ∞ - ∞ ψa,b ( x) f ( x) dx. (4) 若小波满足允许条件 ,则连续小波变换存在着逆变 换 : f ( t) = 1 Cψ∫ + ∞ 0 d a a 2∫ + ∞ - ∞ W f ( a , b)ψa, b ( t) db = 1 Cψ∫ + ∞ 0 d a a 2∫ + ∞ - ∞ W f ( a , b) 1 a ψ( t - b a ) db. (5) 113 连续小波过程神经网络模型 由若干个过程神经元按一定的拓扑结构组成并 且隐层激活函数采用小波函数的网络称为连续小波 过程神经网络. 本文所提出的网络为 3 层连续小波 过程神经网络 ,设网络的输入层有 n 个单元 ,隐层由 m 个小波过程神经元组成 ,输出层只有 1 个单元 ,网 络拓扑结构为 n - m - 1 ,如图 2 所示. 图 2 连续小波过程神经网络 Fig12 Continuous wavelet process neural network 连续小波过程神经网络输入与输出之间的关系 为 y = g ( ∑ m j = 1 vψj ∫ T 0 ∑ n i =1 xi ( t) wij ( t) dt - bj aj ) . (6) 式中 : X( t) = { x1 ( t) , x2 ( t) , …, x n ( t) }为连续小波过 程神经网络的输入函数矢量 , wij ( t) 为输入层第 i 个 单元与隐层第 j 个过程神经元的连接权函数 , vj 为 隐层第 j 个过程神经元与输出层单元的连接权值 ,ψ 为小波函数 , g 为输出层单元的激励函数 ,文中取为 线性函数 , y 为网络输出. 2 连续小波过程神经网络学习算法 211 函数正交基展开 由式(6) 可以看出 ,过程神经网络的时间累积运 算比较复杂 ,为此引入一组合适的正交基函数将输 入函数和连接权函数同时展开 ,以达到简化时间累 积运算的目的. 设 b1 ( t) , b2 ( t) , …, bk ( t) , …为 C[0 , T ]空间上 一组标准正交基函数 , X ( t) = { x1 ( t) , x2 ( t) , …, · 87 · 智 能 系 统 学 报 第 2 卷