第12期 全丽萍等：多分辨率小波极限学习机 ·1715· 子网路小波框架 网络 1 子网络，小波框架 子网路 图1 一维多分辨分析小波极限学习机 Fig.I One-dimensional multiresolution wavelet extreme leamning machine 维小波小波学习机类似不再赘述 u,在d维时方向向量可以设为u1=cos6,u2= 9 noly) sin01cos02,…,u4=sin01sin02"sin04-l(0≤01， Py …,04-2≤T,0≤04-1<2m),那么u为单位球向量 子网络 (u∈S-1,‖u‖=1)，若参数集合91,02，，04-1足 k 够精细地覆盖0，π]或0,2π]上的等分布点，那么 u能遍历超平面中的各向单位法向量，山((·x- P nolx.y) - b)/a)将成为超平面上的离散脊波框架，同时脊波 pny) C 具有小波局部聚焦分析的特性，这样的脊波网络能 子网络 巴h 有效处理超平面状的奇异性) 1.6高维脊波极限学习机 ponolt.y) C 9a, 对任何y=f(x)∈L∩L2(R)均可展开为脊函 :子网络 数叠加的形式： Pfarnt) ,c((4x-b)/a）, 图2 二维多分辨分析小波极限学习机 Fig.2 Two-dimensional multiresolution wavelet extreme leamning ma- x,4eR;l4‖=1 (14) chine 运用逼近方程(14)建立神经网络网，9，可以用 1.5脊波变换 第j广个隐层节点的输出层权值表征，a4,为神经网 对于输入为多维的情况，如果继续利用一维小 络第j个节点输入层权值，ab为第j个节点偏置. 波基的张量积空间，将引起“维数灾”.近期发展起 脊波网络结构类似于低维小被学习机 来的后小波分析方法而，对高维空间中超平面状奇 如果对脊波参数空间离散化，则随着尺度越细， 异性的信号有着良好的检测性能，脊波变换就是其 离散化集T4={(a,0,b),a=2,0:=22Ji, 中一种对于具有高维奇异性的多变量函数具有良好 b.=2π2)将变得非常庞大，耗费神经网络许多 的逼近性能的方法 节点.这里考虑用收敛速度快、具有全局寻优能力 称满足容许性条件K。=「(1山()八1) 的粒子群算法(particle swarm optimization,PSO）对 参数a、u和b进行优化选择，同时脊波系数{c,j= <∞的小波基函数：R→R产生的脊函数业，(x)= 1,2,…,L}即神经网络输出层参数B由极限学习机 a1业(u·x-b)/a)为脊波，参数空间T={y= 训练得到，本文将这种学习策略称RL-ELM(ridge-- (a,u,b),a,b∈R,a>0,u∈Sd-1,‖u‖=1}，在原 let extreme learning machine),PSO算法用于神经网 来伸缩和平移参数基础上多添加了一维方向参数 络的优化已经有许多研究成果回，其首先用一个粒第 12 期 全丽萍等: 多分辨率小波极限学习机 图 1 一维多分辨分析小波极限学习机 Fig． 1 One-dimensional multiresolution wavelet extreme learning machine 维小波小波学习机类似不再赘述． 图 2 二维多分辨分析小波极限学习机 Fig． 2 Two-dimensional multiresolution wavelet extreme learning ma￾chine 1. 5 脊波变换 对于输入为多维的情况，如果继续利用一维小 波基的张量积空间，将引起“维数灾”． 近期发展起 来的后小波分析方法［6］，对高维空间中超平面状奇 异性的信号有着良好的检测性能，脊波变换就是其 中一种对于具有高维奇异性的多变量函数具有良好 的逼近性能的方法． 称满足容许性条件 Kψ = ∫( | ^ ψ( ξ) | 2 / | ξ | d ) dξ ＜ ∞ 的小波基函数 ψ: Ｒ→Ｒ 产生的脊函数 ψγ ( x) = a － 1 /2 ψ( ( u·x － b) / a) 为脊波，参数空间 Γ = { γ = ( a，u，b) ，a，b∈Ｒ，a ＞ 0，u∈Sd － 1，‖u‖ = 1} ，在原 来伸缩和平移参数基础上多添加了一维方向参数 u，在 d 维时方向向量可以设为 u1 = cos θ1，u2 = sin θ1 cos θ2，…，ud = sin θ1 sin θ2 …sin θd － 1 ( 0≤θ1， …，θd － 2≤π，0≤θd － 1 ＜ 2π) ，那么 u 为单位球向量 ( u∈Sd － 1，‖u‖ = 1) ，若参数集合 θ1，θ2，…，θd － 1足 够精细地覆盖［0，π］或［0，2π］上的等分布点，那么 u 能遍历超平面中的各向单位法向量，ψ( ( u·x － b) / a) 将成为超平面上的离散脊波框架，同时脊波 具有小波局部聚焦分析的特性，这样的脊波网络能 有效处理超平面状的奇异性［7］． 1. 6 高维脊波极限学习机 对任何 y^ = f( x) ∈L1 ∩L2 ( Ｒd ) 均可展开为脊函 数叠加的形式: y^ = ∑ L j = 1 cjψ( ( u·j x － bj ) / aj ) ， x，uj∈Ｒd ; ‖uj‖ = 1 ( 14) 运用逼近方程( 14) 建立神经网络［8］，cj 可以用 第 j 个隐层节点的输出层权值表征，a － 1 j uj 为神经网 络第 j 个节点输入层权值，a － 1 j bj 为第 j 个节点偏置． 脊波网络结构类似于低维小波学习机． 如果对脊波参数空间离散化，则随着尺度越细， 离散化集 Γd = { ( aj ，θ，b) ，aj = 2 － j ，θj，i = 2π2 － j i， bj，k = 2πk2 － j } 将变得非常庞大，耗费神经网络许多 节点． 这里考虑用收敛速度快、具有全局寻优能力 的粒子群算法( particle swarm optimization，PSO) 对 参数 a、u 和 b 进行优化选择，同时脊波系数{ cj | j = 1，2，…，L} 即神经网络输出层参数 β 由极限学习机 训练得到，本文将这种学习策略称 ＲL--ELM ( ridge￾let extreme learning machine) ，PSO 算法用于神经网 络的优化已经有许多研究成果［9］，其首先用一个粒 · 5171 ·