正在加载图片...
·268· 智能系统学报 第8卷 P3(x,k)= 1)F(x,k)是x的对称函数: x, x≥k 2)F(x,k)≤ra/2 其中ra为一个与p(x,k)的光滑阶数d相关的误 +x-+5列.-<< 1 1 差系数 证明 0, se-t 1)将-x代入式(7),结合式(5),可得 F(-x,k)=p(-x,k)-|-xl2= 4)当d=4时,1x2的光滑函数为 pie(x,k)-1x12=F(x,k), p2(x,k)=P(x-8,k)2+P4(-x-6,k)2 可见F(x,k)是对称函数.因此在整个x轴上求 式中: Pa(x,k)= F(x,k)的最大值问题可转换成在x轴的右半轴上 求F(x,k)的最大值问题 ≥ , 2)把x轴的右半轴分成2个区间进行证明: 256+1)(5k3-2522+47hx-35). 1 ①当0≤x≤e时,显然1xl.=0.因此 F(x,k)=pie(x,k)-1x12= 1 1 p(x-e,k)2+P(-x-e,k)2 此时显然有x-e≤0和-x-E≤0,因Pa(x,k)2是单调 0,x≤-F 1 增函数[6,可得 F(x,k)≤2pa(0,k)2. (8) 5)当d=5时,1x2的光滑函数为 ②当x>E时,-x+ε<0,显然有-x-E<-x+E<0,因 p(x,k)=P5(x-E,k)2+P5(-x-E,k)2 此(-x-e),=0.因Pa(x,k)是单调增函数[6,可知 式中: P(-x-8,k)≤P(0,k).由二分法可算出Pu(x,k) P5(x,k)= 与正号函数x,的逼近精度:Pa(x,k)2-x子≤sa/k2,其 1 x,x≥ 中s4为一个与p(x,k)的光滑阶数d相关的系数 由文献[4]知,1x12=(x-8)+(-x-e),因此 512k+1)(kx-42x3+1022x2- 1 Fi(x,k)=pi(x,k)-1x12= 1 1 P(x-E,k)2-(x-E)3+P(-x-6,k)2, 122kx+63),-本<t< 即 Fae(x,k)sa/k2 +p(0,k)2. (9) 0,x≤- 综合①、②,取式(8)和(9)中右端的最大值,令 ra max2kpa(0,k)2,sa +kpa(0,k)2, 2多项式光滑函数的逼近精度及其求 可得 解步骤 F(x,k)≤Ta/k2,x∈R (10) 证毕. 2.1任意阶多项式光滑函数的逼近精度 2.2 求逼近精度的一般步骤 支持向量回归机的任意阶多项式光滑函数 这无穷多个多项式光滑函数有一个共同特征: P(x,k),其具体形式皆可由式(4)推出,这种光滑 都是正号函数x,的光滑逼近P(x,k)形如式(5)的 函数显然有无穷多个.这无穷多个光滑函数逼近ε 复合函数,而p(x,k)皆可由文献[6]的递推公式求 不敏感损失函数的平方项1x2的精度问题,显然皆 出.上文求出了任意阶光滑函数的逼近精度的表达 可描述为求p(x,k)-|x12的最大值问题记 式(10),下面对这些求解过程进行归纳和总结,可 F(x,k)=p2(x,k)-x12, (7) 发现求解的一般规律.根据这个规律,提出五步求的 称F(x,k)为光滑函数p(x,k)的误差函数,这种 基本思路,即求逼近精度的一般步骤。 误差函数显然也有无穷多个,且与光滑函数 1)把求光滑函数P(x,k)的逼近精度问题表示 P(x,k)一一对应. 为一个在整个x轴上求误差函数F(x,k)的最大值 定理1误差函数F(x,k)由式(7)给出,则 问题:p3(x,k) = x, x ≥ 1 k ; 1 32k (kx + 1) 4 (k 2 x 2 - 4kx + 5), - 1 k < x < 1 k ; 0, x ≤- 1 k . ì î í ï ï ï ï ï ï ïï 4)当 d = 4 时, | x | 2 ε 的光滑函数为 p 2 4ε(x,k) = p4(x - ε,k) 2 + p4( - x - ε,k) 2 . 式中: p4(x,k) = x, x ≥ 1 k ; - 1 256k (kx + 1) 5 (5k 3 x 3 - 25k 2 x 2 + 47kx - 35), - 1 k < x < 1 k ; 0, x ≤- 1 k . ì î í ï ï ï ï ï ï ï ï ï ï 5)当 d = 5 时, | x | 2 ε 的光滑函数为 p 2 5ε(x,k) = p5(x - ε,k) 2 + p5( - x - ε,k) 2 . 式中: p5(x,k) = x, x ≥ 1 k ; 1 512k (kx + 1) 6 (k 4 x 4 - 42k 3 x 3 + 102k 2 x 2 - 122kx + 63), - 1 k < x < 1 k ; 0, x ≤- 1 k . ì î í ï ï ï ï ï ï ï ï ï ï 2 多项式光滑函数的逼近精度及其求 解步骤 2.1 任意阶多项式光滑函数的逼近精度 支持向量回归机的任意阶多项式光滑函数 p 2 dε(x,k),其具体形式皆可由式(4)推出,这种光滑 函数显然有无穷多个.这无穷多个光滑函数逼近 ε⁃ 不敏感损失函数的平方项 | x | 2 ε 的精度问题,显然皆 可描述为求 p 2 dε(x,k)- | x | 2 ε 的最大值问题.记 Fdε(x,k) = p 2 dε(x,k) -| x | 2 ε , (7) 称 Fdε(x,k)为光滑函数 p 2 dε(x,k)的误差函数,这种 误差 函 数 显 然 也 有 无 穷 多 个, 且 与 光 滑 函 数 p 2 dε(x,k)一一对应. 定理 1 误差函数 Fdε(x,k)由式(7)给出,则 1)Fdε(x,k)是 x 的对称函数; 2)Fdε(x,k)≤rd / k 2 . 其中 rd 为一个与 p 2 dε( x,k)的光滑阶数 d 相关的误 差系数. 证明 1)将-x 代入式(7),结合式(5),可得 Fdε( - x,k) = p 2 dε( - x,k) -| - x | 2 ε = p 2 dε(x,k) -| x | 2 ε = Fdε(x,k), 可见 Fdε( x,k) 是对称函数. 因此在整个 x 轴上求 Fdε(x,k)的最大值问题可转换成在 x 轴的右半轴上 求 Fdε(x,k)的最大值问题. 2)把 x 轴的右半轴分成 2 个区间进行证明: ①当 0≤x≤ε 时,显然| x | ε = 0.因此 Fdε(x,k) = p 2 d ε(x,k) -| x | 2 ε = pd(x - ε,k) 2 + pd( - x - ε,k) 2 . 此时显然有 x-ε≤0 和-x-ε≤0,因 pd(x,k) 2 是单调 增函数[6] ,可得 Fdε(x,k) ≤ 2pd(0,k) 2 . (8) ②当 x>ε 时,-x+ε<0,显然有-x-ε<-x+ε<0,因 此(-x-ε) + = 0.因 pd ( x,k) 是单调增函数[6] ,可知 pd(-x-ε,k)≤pd(0,k).由二分法可算出 pd ( x,k) 2 与正号函数 x+的逼近精度:pd( x,k) 2 -x 2 +≤sd / k 2 ,其 中 sd 为一个与 p 2 dε(x,k)的光滑阶数 d 相关的系数. 由文献[4]知, | x | 2 ε = (x-ε) 2 + +(-x-ε) 2 + ,因此 Fdε(x,k) = p 2 dε(x,k) -| x | 2 ε = pd(x - ε,k) 2 - (x - ε) 2 + + pd( - x - ε,k) 2 , 即 Fdε(x,k) ≤ sd / k 2 + pd(0,k) 2 . (9) 综合①、②,取式(8)和(9)中右端的最大值,令 rd = max{2k 2 pd(0,k) 2 ,sd + k 2 pd(0,k) 2 }, 可得 Fdε(x,k) ≤ rd / k 2 ,x ∈ R. (10) 证毕. 2.2 求逼近精度的一般步骤 这无穷多个多项式光滑函数有一个共同特征: 都是正号函数 x+的光滑逼近 pd( x,k)形如式(5)的 复合函数,而 pd(x,k)皆可由文献[6]的递推公式求 出.上文求出了任意阶光滑函数的逼近精度的表达 式(10),下面对这些求解过程进行归纳和总结,可 发现求解的一般规律.根据这个规律,提出五步求的 基本思路,即求逼近精度的一般步骤. 1)把求光滑函数 p 2 dε(x,k)的逼近精度问题表示 为一个在整个 x 轴上求误差函数 Fdε(x,k)的最大值 问题: ·268· 智 能 系 统 学 报 第 8 卷
<<向上翻页向下翻页>>
©2008-现在 cucdc.com 高等教育资讯网 版权所有