第2卷第3期 智能系统学报 Vol.2 N23 2007年6月 CAAI Transactions on Intelligent Systems Jun.2007 基于支持向量回归机的HHT边界效应处理 李雪耀张汝波，王武 (哈尔滨工程大学计算机科学与技术学院，黑龙江哈尔滨150001) 摘要：针对希尔伯特·黄变换中的边界效应，提出了基于支持向量回归机的时间序列预测方法.在支持向量回归 机的应用当中，参数的选取对它的泛化性能有很大影响.在讨论了参数对支持向量回归机的泛化性能的影响基础 上，提出了通过微粒群优化算法来优化支持向量回归机参数的方法，使得支持向量回归机在应用中能够自适应的选 择最优参数，从而获得了更好的泛化性能，提高了在端点处的延拓精度，很好地抑制了端点效应.试验表明，该优化 算法能够很好解决支持向量回归机的参数选取问题.通过与神经网络的延拓方法和黄等人的HHTDPS结果对比， 基于支持向量回归机的时间序列预测方法可以更好地解决在希尔伯特，黄变换中存在的边界效应，得到的固有模 态函数具有较小的失真 关键词：边界效应：希尔伯特，黄变换，支持向量回归机；微粒群优化 中图分类号：TP18文献标识码：A文章编号：16734785(2007)03003906 End effects processing in HHT based on support vector regression machines LI Xue-yao,ZHANG Rubo,WANG Wu (College of Computer Science and Technology,Harbin Engineering University,Harbin 150001,China) Abstract:In order to better restrain end effects in the Hilbert-Huang transform (HHT),a time sequence prediction technique is proposed based on support vector regression machines to improve time series predic- tion.In the application of support vector regression machines (SVRM),parameter selection has a great in- fluence on generalization performance.So in this paper,the influence of parameters on the generalization of SVRM is discussed,and then a particle swarm optimization(PSO)algorithm is used to optimize param- eters.Using this method,SVRM can select optimal parameters self-adaptively,so that higher generaliza- tion performance is obtained in applications,prediction accuracy is improved at both ends and the end effects are restrained effectively.In contrast to the neural network methods and HHTDPS proposed by Huang et al.,the end effects can be restrained better and the Intrinsic Mode Functions have less distor- tion.Experiments show that this method can solve the problem of selecting parameters properly. Key words :end effects;Hilbert-Huang transform;support vector regression machines;particle swarm opti- mization 希尔伯特-黄变换(Hilbert-Huang transform, tion,MF),每个MF都具有唯一的局部瞬时频率」 HHT)是一种处理非线性非平稳信号的有效方 通过对每个MF进行希尔伯特变换，得到每一个 法1)，是基于对信号的经验模态分解(empirical MF随时间变化的瞬时频率和振幅，最后可以得到信 mode decomposition,EMD)的一种方法.通过辨识信 号的振幅-频率.时间分布，即信号的希尔伯特谱。 号固有的物理时间刻度，EMD能够提取出信号内所 由于分解是基于信号的局部特征的时间尺度，因而它 有的振动模态，即固有模态函数(intrinsic mode func- 能够应用在非线性和非平稳的信号处理中3，). 在EMD的分解过程中，需要不断通过拟合信 收稿日期：200612-18. 号的极值点得到信号在各个时刻的均值，而在边界 基金项目：因家自然科学基金资助项目(60475016)；哈尔滨工程大学 基础研究基金资助项目(HEUF04092). 拟合时，常会发生较大的摆动，出现边界效应问 1994-2008 China Academic Journal Electronic Publishing House.All rights reserved.http://www.cnki.net
第 2 卷第 3 期 智 能 系 统 学 报 Vol. 2 №. 3 2007 年 6 月 CAA I Transactions on Intelligent Systems J un. 2007 基于支持向量回归机的 H H T 边界效应处理 李雪耀 ,张汝波 ,王 武 (哈尔滨工程大学 计算机科学与技术学院 ,黑龙江 哈尔滨 150001) 摘 要 :针对希尔伯特 - 黄变换中的边界效应 ,提出了基于支持向量回归机的时间序列预测方法. 在支持向量回归 机的应用当中 ,参数的选取对它的泛化性能有很大影响. 在讨论了参数对支持向量回归机的泛化性能的影响基础 上 ,提出了通过微粒群优化算法来优化支持向量回归机参数的方法 ,使得支持向量回归机在应用中能够自适应的选 择最优参数 ,从而获得了更好的泛化性能 ,提高了在端点处的延拓精度 ,很好地抑制了端点效应. 试验表明 ,该优化 算法能够很好解决支持向量回归机的参数选取问题. 通过与神经网络的延拓方法和黄等人的 H H TDPS 结果对比 , 基于支持向量回归机的时间序列预测方法可以更好地解决在希尔伯特 - 黄变换中存在的边界效应 ,得到的固有模 态函数具有较小的失真. 关键词 :边界效应 ;希尔伯特 - 黄变换 ;支持向量回归机 ;微粒群优化 中图分类号 : TP18 文献标识码 :A 文章编号 :167324785 (2007) 0320039206 End effects processing in HHT based on support vector regression machines L I Xue2yao , ZHAN G Ru2bo , WAN G Wu (College of Computer Science and Technology , Harbin Engineering University , Harbin 150001 , China) Abstract :In order to better restrain end effects in t he Hilbert2Huang transform ( H H T) , a time sequence prediction technique is proposed based on support vector regression machines to improve time series predic2 tion. In t he application of support vector regression machines (SVRM) , parameter selection has a great in2 fluence on generalization performance. So in t his paper , t he influence of parameters on t he generalization of SVRM is discussed , and t hen a particle swarm optimization (PSO) algorit hm is used to optimize param2 eters. Using t his met hod , SVRM can select optimal parameters self2adaptively , so that higher generaliza2 tion performance is obtained in applications , prediction accuracy is improved at both ends and t he end effects are restrained effectively. In contrast to t he neural network methods and H H TDPS propo sed by Huang et al. , t he end effects can be restrained better and t he Intrinsic Mode Functions have less distor2 tion. Experiments show t hat t his method can solve t he problem of selecting parameters properly. Keywords :end effects; Hilbert2Huang transform ; support vector regression machines ; particle swarm opti2 mization 收稿日期 :2006212218. 基金项目 :国家自然科学基金资助项目(60475016) ;哈尔滨工程大学 基础研究基金资助项目( HEU F04092) . 希尔伯特 - 黄变换 ( Hilbert2Huang transform , HHT) 是一种处理非线性非平稳信号的有效方 法[1 - 2 ] ,是基于对信号的经验模态分解 (empirical mode decomposition , EMD) 的一种方法. 通过辨识信 号固有的物理时间刻度 ,EMD 能够提取出信号内所 有的振动模态 ,即固有模态函数 (intrinsic mode func2 tion , IMF) ,每个 IMF 都具有唯一的局部瞬时频率. 通过对每个 IMF 进行希尔伯特变换 ,得到每一个 IMF 随时间变化的瞬时频率和振幅 ,最后可以得到信 号的振幅 - 频率 - 时间分布 ,即信号的希尔伯特谱. 由于分解是基于信号的局部特征的时间尺度 ,因而它 能够应用在非线性和非平稳的信号处理中[3 - 5 ] . 在 EMD 的分解过程中 ,需要不断通过拟合信 号的极值点得到信号在各个时刻的均值 ,而在边界 拟合时 ,常会发生较大的摆动 ,出现边界效应问
·40 智能系统学报 第2卷 题.这种边界效应带来的误差会在求均值的过程 成时间和瞬时频率的函数，时频平面上的幅度分布 中向内传播，尤其对低频的MF分量来说，信号的 被称为希尔伯特时频谱H⊙，)，或者简称为希尔 极值点明显减少，这种边界效应带来的影响将更加 伯特谱。 严重.另外进行Hilbert变换时，由于采用傅里叶变 换而产生的频谱泄漏，信号的2端也会出现严重的 2支持向量回归机 端点效应.因此为了保证HHT的分解精度，需要合 支持向量机(SVMs)是由Vapnik等人提出的 理的解决在HHT中出现的端点效应.解决办法有 一种新的机器学习方法)，它基于小样本的统计学 特征波法)、波形匹配法)、自回归算法)、极值点 习理论，支持向量机能够很好解决诸如小样本、非线 延拓法)、平行线延拓法1、从原始数据序列构造 性、高维和局部极小值等问题.同时，支持向量机还 奇偶延拓序列山、镜像延拓6,121及基于神经网络的 具有很高的泛化性能，这些使得支持向量机己经成 时间序列预测1，试验表明镜像延拓和神经网络预 为了一个研究热点 测的预测性能要优于其他算法，而且文献[2,7- 2.1支持向量回归机简介 11]中的这些方法应用到实际的非平稳序列时预测 支持向量回归机(SVRMJ的基本思想是通过一 精度都会急剧变差甚至不可用.镜像延拓结果使得 个非线性映射中将数据X映射到高维特征空间F, 最后得到的极值点数是原来的2倍，而HHT的计 并在这个空间进行线性回归.即对于样本集： 算复杂度主要取决于信号的极值点)，镜像延拓使 S={(x1,h),(x1,y},x:∈R",y∈R, 得HHT的时间复杂度提高为原来的2倍，因此时 (3) 间消耗增大很多.神经网络的延拓可以预测非平稳 非线性函数中用来将原始的输入空间R”映射到高 序列，但其具有局部最小值点、过学习、网络结构选 维的特征空间.回归的决策函数为 取没有理论指导等缺点.这些缺点在基于小样本的 f(x)=+b (4) 统计学习理论(statistical learning theory,SLT)的 式中：中：R”→F,w∈F,w为权向量，b为阈值.所以 支持向量机中得到了很好的解决， 在高维空间”里的线性回归对于低维输入空间里 1希尔伯特。黄变换 的非线性回归.通过结构风险最小化原则，问题可以 转化为求解如下的优化问题： 对一个给定的信号X(),EMD算法可以概括 如下： min T(w,.)=支IwP+C,+) )确定出X()上的所有极大值点和极小值点. (5) 2)将所有极大值点和所有极小值点分别用三 满足约束： 次样条曲线进行拟合，得到信号的上下包络线， (w·x)+b-y≤e+写 3)计算出上下包络线的均值曲线， -(w·x+≤e+5, (6) 4)用原信号X(中减去均值信号得到剩余分量， 4,5≥0. 5)对剩余分量反复执行上述步骤直到剩余分 式中：i=1,2,…1.参数C为正则化参数，￡是松弛 量满足MF信号的定义， 变量，它等于在训练样本上的近似误差.C和ε都是 6)反复执行上述筛选算法，直到所有的IMF 需要定义的参数.引入上式的对偶问题，最优化问题 分量从原信号中筛选出来 可以写为 当EMD结束以后，原信号可表示为 max >y.(a-a) (a-a)(a-a) a∈R X()= ,+n 1) 2 将信号分解为固有模态函数后，就可以分别对 K(xi,xi)-E(ai+a) (7) 每一个MF分量进行希尔伯特变换，得到变化的频 满足约束： 率和幅度.从而原始信号可以表示成如下的形式： ,a·a=0和0≤a,a≤f (8) XW=Re∑a(exp(i(Wd. (2) 式中：K()为核函数，求解该最优化问题可得到决 式中：Re是取实部.4（表示每个分量的瞬时频 策函数式(4)中的w和b: 率，它是一个关于时间变化的函数.在此，省略了信 W= )(a-a）x) (9) 号的残余分量.信号的幅度可以在三维空间表示 T 1994-2008 China Academic Journal Electronic Publishing House.All rights reserved. http://www.cnki.net
题[1 ] . 这种边界效应带来的误差会在求均值的过程 中向内传播 ,尤其对低频的 IMF 分量来说 ,信号的 极值点明显减少 ,这种边界效应带来的影响将更加 严重. 另外进行 Hilbert 变换时 ,由于采用傅里叶变 换而产生的频谱泄漏 , 信号的 2 端也会出现严重的 端点效应. 因此为了保证 H H T 的分解精度 ,需要合 理的解决在 H H T 中出现的端点效应. 解决办法有 特征波法[2 ] 、波形匹配法[7 ] 、自回归算法[8 ] 、极值点 延拓法[9 ] 、平行线延拓法[ 10 ] 、从原始数据序列构造 奇偶延拓序列[11 ] 、镜像延拓[6 ,12 ] 及基于神经网络的 时间序列预测[13 ] ,试验表明镜像延拓和神经网络预 测的预测性能要优于其他算法[14 ] ,而且文献[ 2 ,7 - 11 ]中的这些方法应用到实际的非平稳序列时预测 精度都会急剧变差甚至不可用. 镜像延拓结果使得 最后得到的极值点数是原来的 2 倍 ,而 H H T 的计 算复杂度主要取决于信号的极值点[ 15 ] ,镜像延拓使 得 H H T 的时间复杂度提高为原来的 2 倍 ,因此时 间消耗增大很多. 神经网络的延拓可以预测非平稳 序列 ,但其具有局部最小值点、过学习、网络结构选 取没有理论指导等缺点. 这些缺点在基于小样本的 统计学习理论(statistical learning t heory , SL T) 的 支持向量机中得到了很好的解决. 1 希尔伯特 - 黄变换 对一个给定的信号 X ( t) , EMD 算法可以概括 如下 : 1) 确定出 X(t)上的所有极大值点和极小值点. 2) 将所有极大值点和所有极小值点分别用三 次样条曲线进行拟合 ,得到信号的上下包络线. 3) 计算出上下包络线的均值曲线. 4) 用原信号 X(t)中减去均值信号得到剩余分量. 5) 对剩余分量反复执行上述步骤直到剩余分 量满足 IMF 信号的定义. 6) 反复执行上述筛选算法 , 直到所有的 IMF 分量从原信号中筛选出来. 当 EMD 结束以后 ,原信号可表示为 X ( t) = ∑ n i =1 ci + rn . (1) 将信号分解为固有模态函数后 ,就可以分别对 每一个 IMF 分量进行希尔伯特变换 ,得到变化的频 率和幅度. 从而原始信号可以表示成如下的形式 : X ( t) = Re ∑ n j = 1 aj ( t) exp ( i∫ωj ( t) dt) . (2) 式中 :Re 是取实部.ωj ( t) 表示每个分量的瞬时频 率 ,它是一个关于时间变化的函数. 在此 ,省略了信 号的残余分量 rn . 信号的幅度可以在三维空间表示 成时间和瞬时频率的函数 ,时频平面上的幅度分布 被称为希尔伯特时频谱 H (ω, t) ,或者简称为希尔 伯特谱. 2 支持向量回归机 支持向量机 (SVMs) 是由 Vap nik 等人提出的 一种新的机器学习方法[17 ] ,它基于小样本的统计学 习理论 ,支持向量机能够很好解决诸如小样本、非线 性、高维和局部极小值等问题. 同时 ,支持向量机还 具有很高的泛化性能 ,这些使得支持向量机已经成 为了一个研究热点. 2. 1 支持向量回归机简介 支持向量回归机(SVRM) 的基本思想是通过一 个非线性映射 + b. (4) 式中 :<: R n →F, w ∈F, w 为权向量 , b 为阈值. 所以 在高维空间 R n 里的线性回归对于低维输入空间里 的非线性回归. 通过结构风险最小化原则 ,问题可以 转化为求解如下的优化问题 : min T (w,ζ( 3 ) ) = 1 2 ‖w ‖2 + C ∑ l i = 1 (ζi +ζ3 i ) . (5) 满足约束 : ( (w ·xi) + b) - yi ≤ε+ζi , yi - ( (w ·xi) + b) ≤ε+ζ3 i , (6) ζi ,ζ3 i ≥0. 式中 :i = 1 ,2 , …, l. 参数 C 为正则化参数 ,ε是松弛 变量 ,它等于在训练样本上的近似误差. C 和ε都是 需要定义的参数. 引入上式的对偶问题 ,最优化问题 可以写为 max a( 3 ) ∈R n ∑ l i =1 yi ( a 3 i - ai) - 1 2 ∑ l i , j =1 ( a 3 i - ai) ( a 3 j - aj) K( xi , x j) - ε∑ l i = 1 ( a 3 i + ai) . (7) 满足约束 : ∑ l i = 1 ( a 3 i - ai) = 0 和 0 ≤a 3 i , ai ≤ C l . (8) 式中 : K( ·) 为核函数 ,求解该最优化问题可得到决 策函数式(4) 中的 w 和 b : w = ∑ l i = 1 (αi - α3 i ) <( xi) . (9) · 04 · 智 能 系 统 学 报 第 2 卷
第3期 李雪耀，等：基于支持向量回归机的HHT边界效应处理 ·41· ∑a-a)K(x,x 空间(D维)中的一个解，解的优劣程度由适应度函 数F(x)决定.每个粒子所经历的最好位置，叫做个 >(a-a)K(xi,x 体极值(pe),整个群体所经历的最好位置，叫做全 局极值(g).粒子通过这2个极值更新自己的速 10) 度(va)和位置(xa),即 由上述推导可构造决策函数： Vid w XVid +a Xrand()x(pbestid xid)+ f(x)=(a-a)k(x..x)+b. 11) c XRand()x(gbset xid), (13) Xid xid vid,i 1,2,M. 在支持向量机中存在很多核函数可供选择使 式中：M为粒子的群体规模；d是每个粒子的维数 用，但常用的核函数是径向基核函数RBF 儿x,-2 等于要优化的参数的个数：Q与Q是学习因子，可 K(x:,xj)=exp d (12 视为加速常数，表示每个粒子受p和g位置吸 Keerthi和Lin研究表明IsJ使用RBF核函数 引的加速项的权重，一般取a=a=2:rand()和 是一个很好的选择.文中采用了RBF核函数，下文 Rand(是I0,1J上的随机数；w为惯性权重，较大则 中涉及到的核参数均是指RBF核函数中的d 算法具有较强的全局搜索能力，较小则算法倾向于 2.2基于微粒群优化算法的SVM参数选取 局部搜索.对于这些参数的确定，可以从文献22中 在支持向量机中，存在3个参数：C、e和心这 得到一些指导 些参数对SVRM的泛化能力有很大的影响.核函数 使用PSO来优化SVRM的参数时，适应度函 参数子确定了映射函数和特征空间，核参数的 数的设计要保证SVRM能够获得较好的泛化能力， 改变实际上是隐含地改变映射函数从而改变数据在 即要使SVRM获得小的错误率和具有简单的结构」 高维特征空间分布的复杂程度.正则化参数C的作 因此适应度函数可以定义为 用是在确定的特征空间中对学习机的置信范围和经 F=fem +KxN x(1-fom).(14) 验风险的比例取折中.当C的取值大时，表示对经 N 验误差的惩罚大，学习机的复杂度大而经验风险值 式中：fm为以该粒子为参数的SVRM预测的结果 较小.而ε等于在训练样本上的近似误差，一般来 与训练样本的绝对误差，Nm为支持向量的个数，N 说，ε较大，则支持向量较少，解越具有稀疏性.然而 为样本容量.K∈0,11是一个调节参数，用来在精 较大的ε也能够降低在训练样本上的近似精度.从 度和复杂性之间取折中.此时当支持向量的个数很 这个意义上说，可以把ε看作对解的稀疏性和对数 少，Nπ/N趋近0时，这种条件下支持向量机容易发 据的逼近程度的折中2 生“欠学习”现象，模型的精度差、复杂度小，此时适 尽管参数对SVRM的性能十分重要，但直到现 应度函数近似为f,因此适应度函数使得粒子向 在，参数选取仍没有得到很好的解决.很多参数选取 提高模型精度的方向搜索最优参数.当支持向量的 方法都是基于经验的，以至于不能自适应于各种不 个数近似等于样本个数时，即Nm/N趋近1时，这 同的问题.本文提出了通过微粒群优化算法来解决 种条件下容易发生“过学习"”现象，模型的精度高但 SVRM中的参数选取问题.与其他的参数选取方法 复杂度很高，此时的适应度函数近似为N,/N,因此 相比，这种方法简单却高效.微粒群算法是基于群体 粒子会向降低模型的复杂度的方向搜索参数.因此 智能的一种进化优化方法，由Eberhart和Kennedy 该适应度函数有利于避免训练时容易发生的“欠学 于1995年提出)，它具有如下明显的特点：1)粒子 习”或“过学习”现象 在解空间随机产生，并在整个解空间内搜索：2粒子 使用微粒群优化算法来优化SVRM参数的算 具有记忆能力，以前搜索的信息不会随种群改变而 法具体实现为 被破坏：3)粒子并行搜索，并通过各个粒子间的最优 1)初始化微粒群 点共享信息：4)微粒群算法具有概念简单、容易实现 2)根据式(14)计算每一个粒子的适应度函数 并且需要调整的参数少的优点.现已被应用于函数 值，更新群体的个体极值P,用个体极值中的最小 优化、神经网络训练、模糊系统控制以及其他遗传算 值更新全局极值get. 法的应用领域 3)对每个粒子按照式(13)更新速度和位置 微粒群算法采用速度位置(~x)搜索模型，粒 4如果未达到结束条件，转2)：如果达到结束 子群算法中每个粒子X,=(xa,xa,…xa)就是解 条件则算法终止，输出得到的最优参数值 1994-2008 China Academic Journal Electronic Publishing House.All rights reserved.http://www.cnki.net
b = yj - ∑i ( a 3 i - αi) K( xi , xj) +ε,αj ∈ 0 , C l , yk - ∑i ( a 3 i - αi) K( xi , xk ) - ε, a 3 k ∈ 0 , C l . (10) 由上述推导可构造决策函数 : f ( x) = ∑ l i =1 ( a 3 i - ai) K( xi , x) + b. (11) 在支持向量机中存在很多核函数可供选择使 用 ,但常用的核函数是径向基核函数 RBF: K( xi , x j) = exp - ‖xi - x j ‖2 σ2 . (12) Keert hi 和 Lin 研究表明[18 ] 使用 RBF 核函数 是一个很好的选择. 文中采用了 RBF 核函数 ,下文 中涉及到的核参数均是指 RBF 核函数中的σ2 . 2. 2 基于微粒群优化算法的 S V M 参数选取 在支持向量机中 ,存在 3 个参数 : C、ε和σ2 . 这 些参数对 SVRM 的泛化能力有很大的影响. 核函数 参数σ2 确定了映射函数和特征空间[19 ] ,核参数的 改变实际上是隐含地改变映射函数从而改变数据在 高维特征空间分布的复杂程度. 正则化参数 C 的作 用是在确定的特征空间中对学习机的置信范围和经 验风险的比例取折中. 当 C 的取值大时 ,表示对经 验误差的惩罚大 ,学习机的复杂度大而经验风险值 较小. 而ε等于在训练样本上的近似误差 , 一般来 说 ,ε较大 ,则支持向量较少 ,解越具有稀疏性. 然而 较大的ε也能够降低在训练样本上的近似精度. 从 这个意义上说 ,可以把ε看作对解的稀疏性和对数 据的逼近程度的折中[20 ] . 尽管参数对 SVRM 的性能十分重要 ,但直到现 在 ,参数选取仍没有得到很好的解决. 很多参数选取 方法都是基于经验的 ,以至于不能自适应于各种不 同的问题. 本文提出了通过微粒群优化算法来解决 SVRM 中的参数选取问题. 与其他的参数选取方法 相比 ,这种方法简单却高效. 微粒群算法是基于群体 智能的一种进化优化方法 ,由 Eberhart 和 Kennedy 于 1995 年提出[21 ] ,它具有如下明显的特点 :1) 粒子 在解空间随机产生 ,并在整个解空间内搜索;2) 粒子 具有记忆能力 ,以前搜索的信息不会随种群改变而 被破坏;3) 粒子并行搜索 ,并通过各个粒子间的最优 点共享信息;4) 微粒群算法具有概念简单、容易实现 并且需要调整的参数少的优点. 现已被应用于函数 优化、神经网络训练、模糊系统控制以及其他遗传算 法的应用领域. 微粒群算法采用速度 —位置( v2x ) 搜索模型 ,粒 子群算法中每个粒子 Xi = ( xi1 , xi2 , …, xid ) 就是解 空间( D 维) 中的一个解 ,解的优劣程度由适应度函 数 F( x) 决定. 每个粒子所经历的最好位置 ,叫做个 体极值( pbest) ,整个群体所经历的最好位置 ,叫做全 局极值( gbest ) . 粒子通过这 2 个极值更新自己的速 度( vid ) 和位置( xid ) ,即 vid = w ×vid + c1 ×rand () ×( pbestid - xid ) + c2 ×Rand () ×( gbset - xid ) , (13) xid = xid + vid , i = 1 ,2 , …, M. 式中 : M 为粒子的群体规模; d 是每个粒子的维数 , 等于要优化的参数的个数; c1 与 c2 是学习因子 ,可 视为加速常数 ,表示每个粒子受 pbest 和 gbest 位置吸 引的加速项的权重 , 一般取 c1 = c2 = 2 ; rand ( ) 和 Rand () 是[0 ,1 ]上的随机数; w 为惯性权重 ,较大则 算法具有较强的全局搜索能力 ,较小则算法倾向于 局部搜索. 对于这些参数的确定 ,可以从文献[22 ]中 得到一些指导. 使用 PSO 来优化 SVRM 的参数时 ,适应度函 数的设计要保证 SVRM 能够获得较好的泛化能力 , 即要使 SVRM 获得小的错误率和具有简单的结构. 因此适应度函数可以定义为 Fi = f error + K × Nsv N ×(1 - f error ) . (14) 式中 : f error为以该粒子为参数的 SVRM 预测的结果 与训练样本的绝对误差 , Nsv 为支持向量的个数 , N 为样本容量. K ∈[0 , 1 ]是一个调节参数 ,用来在精 度和复杂性之间取折中. 此时当支持向量的个数很 少 , Nsv / N 趋近 0 时 ,这种条件下支持向量机容易发 生“欠学习”现象 ,模型的精度差、复杂度小 ,此时适 应度函数近似为 f error ,因此适应度函数使得粒子向 提高模型精度的方向搜索最优参数. 当支持向量的 个数近似等于样本个数时 ,即 Nsv / N 趋近 1 时 ,这 种条件下容易发生“过学习”现象 ,模型的精度高但 复杂度很高 ,此时的适应度函数近似为 Nsv / N ,因此 粒子会向降低模型的复杂度的方向搜索参数. 因此 该适应度函数有利于避免训练时容易发生的“欠学 习”或“过学习”现象. 使用微粒群优化算法来优化 SVRM 参数的算 法具体实现为 1) 初始化微粒群. 2) 根据式 (14) 计算每一个粒子的适应度函数 值 ,更新群体的个体极值 pbest ,用个体极值中的最小 值更新全局极值 gbest . 3) 对每个粒子按照式(13) 更新速度和位置. 4) 如果未达到结束条件 ,转 2) ;如果达到结束 条件则算法终止 ,输出得到的最优参数值. 第 3 期 李雪耀 ,等 :基于支持向量回归机的 H H T 边界效应处理 · 14 ·
·42 智能系统学报 第2卷 为了能更好的测试微粒群优化算法选取支持向 3)利用得到的参数和训练样本对支持向量回 量机参数的有效性，本文将算法应用于分类问题上， 归机进行训练，由式(11)得到决策函数f 并将结果同Ratsch2oI进行对比，选取的分类样本均 4)利用∫对信号2端进行时间序列预测，实现 来自于Ratsch的数据库2o,.表1给出了具体的试 信号的端点延拓 验参数和分类错误率（以%表示） 对延拓之后的数据可进行拟合包络线或进行希 尔伯特变换，然后再不断丢弃信号端点以外的数据 表1PSO优化SM的分类结果与Ratsch试验结果比较 从而将产生的端点效应排除在数据以外，达到抑制 Table 1 comparison bet ween SVM and Ratsch's 端点效应的目的 classification results 微粒群算法优化结果 Ratsch试验 3 仿真试验 C 错误率/%错误率/% 在评价SVRM的预测的准确率时，采用平均绝 Banana 236.6 0.1456 11.67 12.75 对百分比误差(MAPE): Thyroid 672 0.6775 2.67 4 Splice 4.0 16 9.89 9.79 MAPE=L∑LY:xI n Y, 17) waveform 8.0 4 10.43 10.4565 试验选用的信号使用的是白噪声来“污染”纯净 试验结果表明，经优化的SVRM具有更好的泛 的语音信号得来的，信噪比SNR=5dB,如图1所 化性能，说明P$O算法在支持向量机的参数选取中 示.白噪声是一个随机变化的信号，而语音信号具有 是有效的，而且与一般的网格搜索参数相比，P$0 典型的非平稳特征，但SVRM在对该信号进行时间 具有如下优点：搜索速度快而且效果好，能够通过很 序列预测时，仍表现出了很好的性能.为了更好的说 少的适应度计算得到具有相似性能的参数，且实现 明SVRM的良好预测结果，将SVRM与RBF神经 简单，不需要先验知识。 网络进行了比较.分别见图2和图3 2.3基于SVRM的HHT端点延拓算法 时间序列预测就是对历史数据进行学习，得到 一个非线性映射∫，逼近数据中隐含的非线性机制 F,这样∫就可以作为理想中的预测器，来对时间序 100200300400500600700800 列预测.若己知一个时间序列{x()},在一定的条件 采样点/个 下，对满足特定条件的m,存在一个光滑映射：f:R 图1SNR=5dB的原始的语音信号 →R.即对 Fig.1 The original speech signal with SNR=5 dB X,={x(),x(1-1),…,x(1-(m-1))}, 15) 存在f,使得下式成立： Y:=x(t+1)=f(x),X:∈R",Y,∈R 16) 0100200300400500600700800 式中：m为嵌入维数，需要预先设定.因此基于 采样点/个 图2SVRM的预测结果 SVRM的时间序列预测原理就是利用样本集(X, Fig.2 The results of SVRM Y)来训练SVRM得到映射f,利用f进行时间序 列的预测，此时f即SVRM中决策函数式(11).在 确定∫以后，就可以进行时间序列预测了.预测的 长度取过信号端点外能够出现2个极值点即可 文中基于SVRM的HHT端点延拓算法为 20100200300400500600700800 1)将时间序列按照式(15)和式(16)映射新的 果样点/个 序列S={(X,Y),（X3,2),,（X,Y},x∈ 图3RBF神经网络的预测结果 Rm,y∈R Fig.3 The results of RBF network 2)把S看作训练样本，对训练样本进行归一化 图2和图3中的实线是原始的语音信号，点线 预处理，用微粒群算法选择支持向量回归机的参数 是预测的数据，为了更好的对预测效果进行对比，只 1994-2008 China Academic Journal Electronic Publishing House.All rights reserved. http://www.cnki.net
为了能更好的测试微粒群优化算法选取支持向 量机参数的有效性 ,本文将算法应用于分类问题上 , 并将结果同 Rātsch [20 ]进行对比 ,选取的分类样本均 来自于 Rātsch 的数据库[20 ] . 表 1 给出了具体的试 验参数和分类错误率(以 %表示) . 表 1 PSO 优化 SVM 的分类结果与 Rātsch 试验结果比较 Table 1 comparison between SVM and Rātsch′s classification results 微粒群算法优化结果 C σ2 错误率 / % Rātsch 试验 错误率 / % Banana 236. 6 0. 145 6 11. 67 12. 75 Thyroid 672 0. 677 5 2. 67 4 Splice 4. 0 16 9. 89 9. 79 waveform 8. 0 4 10. 43 10. 456 5 试验结果表明 ,经优化的 SVRM 具有更好的泛 化性能 ,说明 PSO 算法在支持向量机的参数选取中 是有效的 ,而且与一般的网格搜索参数相比 ,PSO 具有如下优点 :搜索速度快而且效果好 ,能够通过很 少的适应度计算得到具有相似性能的参数 ,且实现 简单 ,不需要先验知识. 2. 3 基于 SVRM 的 H H T 端点延拓算法 时间序列预测就是对历史数据进行学习 ,得到 一个非线性映射 f ,逼近数据中隐含的非线性机制 F,这样 f 就可以作为理想中的预测器 ,来对时间序 列预测. 若已知一个时间序列{ x ( t) } ,在一定的条件 下 ,对满足特定条件的 m ,存在一个光滑映射 : f : R m →R. 即对 Xt = { x ( t) , x ( t - 1) , …, x ( t - ( m - 1) ) } , (15) 存在 f ,使得下式成立 : Yt = x ( t + 1) = f ( xt) , Xt ∈R m , Yt ∈R. (16) 式中 : m 为嵌入维数 , 需要预先设定. 因此基于 SVRM 的时间序列预测原理就是利用样本集 ( Xt , Yt) 来训练 SVRM 得到映射 f ,利用 f 进行时间序 列的预测 ,此时 f 即 SVRM 中决策函数式 (11) . 在 确定 f 以后 ,就可以进行时间序列预测了. 预测的 长度取过信号端点外能够出现 2 个极值点即可. 文中基于 SVRM 的 H H T 端点延拓算法为 1) 将时间序列按照式 (15) 和式 (16) 映射新的 序列 S = { ( X1 , Y1 ) , ( X2 , Y2 ) , …, ( Xl , Yl ) } , xi ∈ R m , yi ∈R. 2) 把 S 看作训练样本 ,对训练样本进行归一化 预处理 ,用微粒群算法选择支持向量回归机的参数. 3) 利用得到的参数和训练样本对支持向量回 归机进行训练 ,由式(11) 得到决策函数 f . 4) 利用 f 对信号 2 端进行时间序列预测 ,实现 信号的端点延拓. 对延拓之后的数据可进行拟合包络线或进行希 尔伯特变换 ,然后再不断丢弃信号端点以外的数据 从而将产生的端点效应排除在数据以外 ,达到抑制 端点效应的目的. 3 仿真试验 在评价 SVRM 的预测的准确率时 ,采用平均绝 对百分比误差(MA PE) : MAPE = 1 n ∑ n t =1 | Yt - Y^t | | Yt | . (17) 试验选用的信号使用的是白噪声来“污染”纯净 的语音信号得来的 ,信噪比 SNR = 5 dB ,如图 1 所 示. 白噪声是一个随机变化的信号 ,而语音信号具有 典型的非平稳特征 ,但 SVRM 在对该信号进行时间 序列预测时 ,仍表现出了很好的性能. 为了更好的说 明 SVRM 的良好预测结果 ,将 SVRM 与 RBF 神经 网络进行了比较. 分别见图 2 和图 3. 图 1 SNR = 5 dB 的原始的语音信号 Fig. 1 The original speech signal with SNR = 5 dB 图 2 SVRM 的预测结果 Fig. 2 The results of SVRM 图 3 RBF 神经网络的预测结果 Fig. 3 The results of RBF network 图 2 和图 3 中的实线是原始的语音信号 ,点线 是预测的数据 ,为了更好的对预测效果进行对比 ,只 · 24 · 智 能 系 统 学 报 第 2 卷
第3期 李雪耀，等：基于支持向量回归机的HHT边界效应处理 ·43· 对信号的末端进行了预测，预测数据为150个，试验 于使用神经网络的结果.这种原因主要在于SVM 采取的嵌入维数是4.从试验看出RBF神经网络预测 使用的是结构风险最小化原则，而神经网络采用的 结果比SVRM的结果有较大的数据波动.分别计算 是经验风险最小化原则，所以使得SVRM具有比神 预测的MAPE,得到SVRM的MAPE是1.1O12,而 经网络要好的泛化性能.在SVRM的应用当中，参 RBF神经网络的MAPE为1.3470，这也表明了 数对泛化能力有着重要的影响，大部分的参数选择 SVRM的预测结果要优于RBF的预测结果」 方法都基于先验知识，这经常在面临新的问题时不 将本算法应用到黄变换中，得到的MF信号， 能选择出最优的参数.针对SVRM这一应用难题， 并与Huang等人的软件HHTDPS产生的MF进 提出了采取PSO来优化支持向量回归机的参数，从 行比较.得到的结果见图4和图5.HHTDPS是 而使得SVRM能够自适应的选择最优参数，在预测 NASA的Huang等人自己推出的一款HHT应用 时能够取得好的泛化性能.试验表明，PS0算法有 软件，该软件为最新版本1.4版.试验中采用的是 助于搜索到最优参数，并通过含噪语音信号进行试 0.7608s长的语音，采样率11025Hz.为了比较，试 验，SVRM能够较好地对时间序列进行预测，这为 验中对应都选取第45、6阶的MF信号进行比较 解决HHT中存在的边界效应问题提供了一个有效 从图5 Huang等人软件得到的IMF信号可以看出， 的方法。 HHTDPS在端点处存在了程度较大的偏离，尤其 是第4和第6阶MF的起始处，端点飞翼现象很明 致谢 显.而图4中经过参数优化的SVRM处理端点效应 感谢美国NASA Goddard中心授权使用 以后，信号的端点效应得到了有效抑制，得到的 HHTDPS软件 MF信号在端点处的偏离程度较小 参考文献： 中 [1]HUANG N E.The empirical mode decomposition and the Hilbert spectrum for nonlinear and nomstationary -0.5 0.5 time series analysis[J].Proc R Soc Lond.A,1998,454: 903.995. -0.5 [2]HUANGN E.A confidence limit for the empirical mode 0.2 decomposition and Hilbert spectral analysis[J].proc R Soc Lond,2003,459:2317.2345 02的盛006i8 [3]V EL TCHEVA A D,GU EDES S C.Identification of the components of wave spectra by the Hilbert Huang trans- 图4基于SVRM得到的IMFs form method[J ]Applied Ocean Research,2004,26:1- Fig.4 IMFs based on SVRM 12. [4]RAY RR,ZHANG R C,LANCE V D,et al.On esti- mating site damping with soil nomlinearity from earth- quake recordings[J].International Journal of NomLinear 0.5 Mechanics,2004,39(9):1501,1517. WI [5 HUANG H,PAN J Q.Speech pitch determination -0.5 based on Hilbert-Huang transform[J ]Signal Process 0.2 ing,2006,86:792-803. 0M- …n一-www一 [6]赵进平，异常事件对EMD方法的影响及其解决方法研 -0.260立0040店0.60i70.8 究0].青岛海洋大学学报，2001,31(6)：805.814. time ZHAO Jinping.Study on the effects of abnormal events 图5由HHTDPS得到的IMFs to empirical mode decomposition method and the removal Fig.5 IMFs obtained by HHTDPS method for abnormal signal[J ]Journal of Ocean Univer- sity of Qingdao,2001,31(6):805-814. 4 结束语 [7]盖强，马孝江，张海勇，等.一种消除局域波法中边 界效应的新方法U].大连理工大学学报，2002,42(1)： 研究了使用SVRM来解决在HHT存在的边 115-117. 界效应.试验结果表明使用SVRM的延拓效果要好 GAI Qiang,MA Xiaojiang,ZHANG Haiyong,et al. 1994-2008 China Academic Journal Electronic Publishing House.All rights reserved.http://www.enki.net
对信号的末端进行了预测 ,预测数据为 150 个 ,试验 采取的嵌入维数是 4. 从试验看出 RBF 神经网络预测 结果比 SVRM 的结果有较大的数据波动. 分别计算 预测的 MAPE ,得到 SVRM 的 MAPE 是11101 2 ,而 RBF 神经网络的 MAPE 为 11347 0 ,这也表明了 SVRM 的预测结果要优于 RBF 的预测结果. 将本算法应用到黄变换中 ,得到的 IMF 信号 , 并与 Huang 等人的软件 H H TDPS 产生的 IMF 进 行比较. 得到的结果见图 4 和图 5. H H TDPS 是 NASA 的 Huang 等人自己推出的一款 H H T 应用 软件 ,该软件为最新版本 114 版. 试验中采用的是 01760 8 s 长的语音 ,采样率 11 025 Hz. 为了比较 ,试 验中对应都选取第 4、5、6 阶的 IMF 信号进行比较. 从图 5 Huang 等人软件得到的 IMF 信号可以看出 , H H TDPS 在端点处存在了程度较大的偏离 ,尤其 是第 4 和第 6 阶 IMF 的起始处 ,端点飞翼现象很明 显. 而图 4 中经过参数优化的 SVRM 处理端点效应 以后 ,信号的端点效应得到了有效抑制 ,得到的 IMF 信号在端点处的偏离程度较小. 图 4 基于 SVRM 得到的 IMFs Fig. 4 IMFs based on SVRM 图 5 由 H H TDPS 得到的 IMFs Fig. 5 IMFs obtained by H H TDPS 4 结束语 研究了使用 SVRM 来解决在 H H T 存在的边 界效应. 试验结果表明使用 SVRM 的延拓效果要好 于使用神经网络的结果. 这种原因主要在于 SVRM 使用的是结构风险最小化原则 ,而神经网络采用的 是经验风险最小化原则 ,所以使得 SVRM 具有比神 经网络要好的泛化性能. 在 SVRM 的应用当中 ,参 数对泛化能力有着重要的影响 ,大部分的参数选择 方法都基于先验知识 ,这经常在面临新的问题时不 能选择出最优的参数. 针对 SVRM 这一应用难题 , 提出了采取 PSO 来优化支持向量回归机的参数 ,从 而使得 SVRM 能够自适应的选择最优参数 ,在预测 时能够取得好的泛化性能. 试验表明 ,PSO 算法有 助于搜索到最优参数 ,并通过含噪语音信号进行试 验 ,SVRM 能够较好地对时间序列进行预测 ,这为 解决 H H T 中存在的边界效应问题提供了一个有效 的方法. 致 谢 感谢 美 国 NASA Goddard 中 心 授 权 使 用 H H TDPS 软件. 参考文献 : [1 ] HUAN G N E. The empirical mode decomposition and the Hilbert spectrum for nonlinear and non2stationary time series analysis[J ]. Proc R Soc Lond. A , 1998 ,454 : 903 - 995. [2 ] HUAN G N E. A confidence limit for the empirical mode decomposition and Hilbert spectral analysis[J ]. proc R Soc Lond , 2003 ,459 : 2317 - 2345. [ 3 ]V EL TCHEVA A D , GU EDES S C. Identification of the components of wave spectra by the Hilbert Huang trans2 form method[J ]. Applied Ocean Research , 2004 ,26 :1 - 12. [4 ]RA Y R R , ZHAN G R C , LANCE V D , et al. On esti2 mating site damping with soil non2linearity from earth2 quake recordings[J ]. International Journal of Non2Linear Mechanics , 2004 , 39 (9) :1501 - 1517. [ 5 ] HUAN G H , PAN J Q. Speech pitch determination based on Hilbert2Huang transform[J ]. Signal Process2 ing , 2006 ,86 :792 - 803. [6 ]赵进平. 异常事件对 EMD 方法的影响及其解决方法研 究[J ]. 青岛海洋大学学报 , 2001 ,31 (6) :805 - 814. ZHAO Jinping. Study on the effects of abnormal events to empirical mode decomposition method and the removal method for abnormal signal[J ]. Journal of Ocean Univer2 sity of Qingdao , 2001 , 31 (6) :805 - 814. [7 ]盖 强 , 马孝江 , 张海勇 , 等. 一种消除局域波法中边 界效应的新方法[J ]. 大连理工大学学报 , 2002 , 42 (1) : 115 - 117. GAI Qiang , MA Xiaojiang , ZHAN G Haiyong , et al. 第 3 期 李雪耀 ,等 :基于支持向量回归机的 H H T 边界效应处理 · 34 ·
·44· 智能系统学报 第2卷 New method for processing end effect in local wave meth- [16]CHUANGCC,SU S F,J ENGJ T,et al.Robust sup- od[J ]Journal of Dalian University of Technology, port vector regression networks for function approxima- 2002,42(1):115-117. tion with outliers[J ]IEEE Trans Neural Netw,2002, [8]张郁山，梁建文，胡聿贤.应用自回归模型处理EMD方 13(6):1322,1330. 法中的边界问题[J].自然科学进展，2003,13(10)： [17]VLADIMIR N V.The nature of statistical learning the- 1054.1059. ory[M].New York:Springer,1995. ZHANG Yushan,LIANG Jianwen,HU Yuxian.The [18]KEERTHI SS,LIN CJ.Asymptotic behaviors of sup- processing of end effects in EMD method by autoregres- port vector machines with Gaussian kernel [J ]Neural sive model[J].Progresses in Nature Science,2003,13 Computation,2003,15(7):1667-1689. (10):1054-1059. [19]SCHOL KOPF B,MIKA S,BURGES C,et al.Input [9]陈忠，郑时雄.EMD信号分析方法边缘效应的分析 space versus feature space in kernel-based methods [J]. 卩].数据采集与处理，2003,18(1)：114.118. IEEE Transactions on Neural Networks,1999,10(5): CHEN Zhong,ZHENG Shixiong.Analysis on end 1000-1017. effects of EMD method[J ]Journal of Data Acquisition [20]RA TSCH G,ONODA T,MFILLER K R.Soft mar- and Processing,2003,18(1):114-118. gins for adaBoost [J ]Machine Learning,2001,42(3): [10]熊学军，郭炳火，胡筱敏，等.EMD方法和Hilbert谱 287.320 分析法的应用与探讨U].海洋科学进展，2002,20(2)： [21]KENNED YI,EBERHAN,R C.Paticle swarm optimi- 12-21. zation[A].Proceedings of IEEE Inlemational Confer- XIONG Xuejun,GUO Binghuo,HU Xiaomin,et al. ence on Neural Networks[C].Piscalaway,NJ,1995. Application and discussion of empirical mode decompo- [22]SHI Y,EBERHART R C.Empirical study of particle sition method and Hilbert spectral analysis method [J ] swarm optimization[A].Proceeding of Congress on Ev- Journal of Oceanography,2002,20(2):12-21. olutionary Computation C].Washington DC,USA, [11]ZENG K,HE M X.A simple boundary process tech- 1999. nique for empirical mode decomposition [A ]Proceed- 作者简介 ings1 GARSS'04[C].[s.1.],2004. [12]ZHAOJ P,HUANGDJ.Mirror extending and circu 李雪耀，男，1944年生，教授，硕士 lar spline function for empirical mode decomposition 生导师.主要研究方向为计算机听觉、模 method[J].Journal of Zhejiang University(Science), 式识别和信号处理.曾获省部级科技进 2001,2(3):247.252. 步奖3项，发表论文数十篇 [l3]邓拥军，王伟，钱成春，等.EMD方法及Hilbert变 Email lixueyao @hrbeu.edu.cn. 换中边界问题的处理J].科学通报，2001,46(3)：257 .263 张汝波，男，1963年生，博士，教授 DENG Yongjun,WANG Wei,QIAN Chengchun,et 博士生导师.主要研究方向为智能机器 al.Boundary processing technique in EMD method and 人软硬件体系结构、任务规划、路径规 Hilbert transform[J ]Chinese Science Bulletin,2001, 划、自主作业技术及强噪声背景下语音 46(3):257.263. 信号的检测与处理等.发表论文100多 [14]许宝杰，张建民，徐小力，等.抑制EMD端点效应方 篇，60多篇被SCI、E1、ISTP收录，出版 法的研究0].北京理工大学学报，2006,26(3)：196- 专著5部。 200. XU Baojie,ZHANG Jianmin,XU Xiaoli,et al.A study on the method of restraining the ending effect of 王武，男，1983年生，硕士研究 empirical mode decomposition[J].Transactions of Bei- 生，主要研究方向为强噪声背景下的语 jing Institute of Technology,2006,26(3):196-200. 音流检测。 [15]KIZHN ER S,BLANK K F.On certain theoretical de- velopments underlying the Hilbert-Huang transform [A].2006 IEEE Aerospace Conference Proceeding[C]. [s.1.],2006. 1994-2008 China Academic Journal Electronic Publishing House.All rights reserved.http://www.enki.net
New method for processing end effect in local wave meth2 od [J ]. Journal of Dalian University of Technology , 2002 , 42 (1) : 115 - 117. [ 8 ]张郁山 , 梁建文 , 胡聿贤. 应用自回归模型处理 EMD 方 法中的边界问题 [J ]. 自然科学进展 , 2003 , 13 (10) : 1054 - 1059. ZHAN G Yushan , L IAN G Jianwen , HU Yuxian. The processing of end effects in EMD method by autoregres2 sive model[J ]. Progresses in Nature Science , 2003 , 13 (10) :1054 - 1059. [9 ]陈 忠 , 郑时雄. EMD 信号分析方法边缘效应的分析 [J ]. 数据采集与处理 , 2003 , 18 (1) :114 - 118. CHEN Zhong , ZHEN G Shixiong. Analysis on end effects of EMD method [J ]. Journal of Data Acquisition and Processing , 2003 , 18 (1) :114 - 118. [10 ]熊学军 , 郭炳火 , 胡筱敏 , 等. EMD 方法和 Hilbert 谱 分析法的应用与探讨[J ]. 海洋科学进展 , 2002 ,20 (2) : 12 - 21. XION G Xuejun , GUO Binghuo , HU Xiaomin , et al. Application and discussion of empirical mode decompo2 sition method and Hilbert spectral analysis method [J ]. Journal of Oceanography , 2002 , 20 (2) :12 - 21. [11 ] ZEN G K , HE M X. A simple boundary process tech2 nique for empirical mode decomposition [ A ]. Proceed2 ings IGARSS ′04[C]. [s. l. ] ,2004. [12 ]ZHAO J P , HUAN G D J. Mirror extending and circu2 lar spline function for empirical mode decomposition method [J ]. Journal of Zhejiang University ( Science) , 2001 , 2 (3) :247 - 252. [13 ]邓拥军 , 王 伟 , 钱成春 , 等. EMD 方法及 Hilbert 变 换中边界问题的处理[J ]. 科学通报 , 2001 ,46 (3) :257 - 263. DEN G Yongjun , WAN G Wei , QIAN Chengchun , et al. Boundary processing technique in EMD method and Hilbert transform[J ]. Chinese Science Bulletin , 2001 , 46 (3) :257 - 263. [14 ]许宝杰 , 张建民 , 徐小力 , 等. 抑制 EMD 端点效应方 法的研究[J ]. 北京理工大学学报 , 2006 , 26 (3) : 196 - 200. XU Baojie , ZHAN G Jianmin , XU Xiaoli , et al. A study on the method of restraining the ending effect of empirical mode decomposition [J ]. Transactions of Bei2 jing Institute of Technology , 2006 , 26 (3) : 196 - 200. [15 ] KIZHN ER S , BLAN K K F. On certain theoretical de2 velopments underlying the Hilbert2Huang transform [ A ]. 2006 IEEE Aerospace Conference Proceeding[C]. [s. l. ] , 2006. [ 16 ]CHUAN G C C , SU S F , J EN GJ T , et al. Robust sup2 port vector regression networks for function approxima2 tion with outliers[J ]. IEEE Trans Neural Netw , 2002 , 13 (6) : 1322 - 1330. [ 17 ]VLADIMIR N V. The nature of statistical learning the2 ory[ M ]. New York : Springer , 1995. [ 18 ] KEERTHI S S , L IN C J. Asymptotic behaviors of sup2 port vector machines with Gaussian kernel [J ]. Neural Computation , 2003 , 15 (7) :1667 - 1689. [19 ]SCHOL KOPF B , MIKA S , BURGES C , et a1. Input space versus feature space in kernel2based methods [J ]. IEEE Transactions on Neural Networks , 1999 , 10 (5) : 1000 - 1017. [20 ]RA- TSCH G, ONODA T , MFILL ER K R. Soft mar2 gins for adaBoost [J ]. Machine Learning , 2001 , 42 (3) : 287 - 320. [ 21 ] KENNED Y I , EBERHAN , R C. Paticle swarm optimi2 zation [ A ]. Proceedings of IEEE lnlemational Confer2 ence on Neural Networks[C]. Piscalaway , NJ , 1995. [22 ]SHI Y , EBERHART R C. Empirical study of particle swarm optimization[ A ]. Proceeding of Congress on Ev2 olutionary Computation [ C ]. Washington DC , USA , 1999. 作者简介 : 李雪耀 ,男 ,1944 年生 ,教授 ,硕士 生导师. 主要研究方向为计算机听觉、模 式识别和信号处理. 曾获省部级科技进 步奖 3 项 ,发表论文数十篇. E2mail :lixueyao @hrbeu. edu. cn. 张汝波 ,男 ,1963 年生 ,博士 ,教授 , 博士生导师. 主要研究方向为智能机器 人软硬件体系结构、任务规划、路径规 划、自主作业技术及强噪声背景下语音 信号的检测与处理等. 发表论文 100 多 篇 ,60 多篇被 SCI、EI、ISTP 收录 ,出版 专著 5 部. 王 武 ,男 ,1983 年生 ,硕士研究 生 ,主要研究方向为强噪声背景下的语 音流检测. · 44 · 智 能 系 统 学 报 第 2 卷