正在加载图片...
第6期 张晓丹等:基于样条函数的光滑支持向量机模型 ·723· 学+与+宁+品)广-设=8 1312 冬,即1x<时,有 x2,作变量代换a=kx,a∈(0,1),则有 P,2-2≤(笑)+2= )+e2=06927 (13) a∈(0,1). 当光滑函数取式(10)时,有 采用二分法或不动点迭代法,可以求出u'(a) 的零点a=0.157762,且u"(ao)<0,即u(a)在a∈ ,-£≤证0 (14) (0,1)上极大值点为a=0.157762,从而有u(x)≤ 当光滑函数取式(11)时,有 u0.157762)<0,故此时结论成立.综上,结论 5,-2≤00g3 (15) (3)成立 当光滑函数取式(12)时,有 定理5设x∈R,S(x,)由式(12)定义,x,是 正号函数,则: S,2-元≤38g00724 (16) (1)S3(x,k)在x∈R上满足定义1的四阶光 可见,样条函数与Sigmoid积分函数相比,在相 滑条件: 同的k下对正号函数的逼近精度提高了一个数量 (2)S3(x,k)≥x+: 级,且随着光滑阶数的增加,样条函数对正号函数的 (3)对任意的x∈R,k>1,S(x,k)2-x2≤ 逼近程度不断提高. 1 从表1可以看出,在具有相同光滑阶数的情况 58k2 下,样条函数比多项式函数的次数低1次,但是逼近 证明过程同定理4. 精度比相应的多项式函数要高.因此,在可比条件 当光滑函数取式(6)时,由文献6]可知,取p= 下,样条函数比多项式函数略有优势 表1光滑函数及其通近精度比较 Table 1 Comparison of smooth functions and approximation accuracy 光滑函数 逼近精度 光滑阶数 函数次数 +g1+e) 0.6927 2 任意 1 0.0909 1 2 :6+(-) 0.0526 2 2 2+6证 0.04167 2 k 11 ++6 2 -5+152+16+5) 0.03578 1 3 0.03333 3 6—x635k35k2+。一x+256k 35 0.02763 12864 2 6 3 4 2 4 4 0.01724 35 3 53 4 3 1 3 2 子++2 差距. 3性质分析 定理6设A∈Rxm,b∈Rmx1,实函数h(x): R”→R,g(x,):R"×N→R定义如下: 3.1模型的收敛性分析 本节讨论光滑模型与原来模型最优解之间的 h()=(+).(17)第 6 期 张晓丹等: 基于样条函数的光滑支持向量机模型 k 3 4 x 4 + k 2 x 2 + 1 2 x + 3 20 ) k 2 - x 2 ,设 u( x) = S2 ( x,k) 2 - x 2 + ,作变量代换 a = kx,a∈( 0,1) ,则有 u( a) = 1 k 2 [ ( a5 10 - a4 4 + a2 2 + a 2 + 3 ) 20 2 - a ] 2 , a∈( 0,1) . 采用二分法或不动点迭代法,可以求出 u'( a) 的零点 a0 = 0. 157 762,且 u″( a0 ) < 0,即 u( a) 在 a∈ ( 0,1) 上极大值点为 a0 = 0. 157 762,从而有 u( x) ≤ u( 0. 157 762) < 1 30k 2,故此时结论成立. 综上,结论 ( 3) 成立. 定理 5 设 x∈R,S3 ( x,k) 由式( 12) 定义,x + 是 正号函数,则: ( 1) S3 ( x,k) 在 x∈R 上满足定义 1 的四阶光 滑条件; ( 2) S3 ( x,k) ≥x + ; ( 3) 对任意的 x∈R,k > 1,S3 ( x,k) 2 - x 2 + ≤ 1 58k 2 . 证明过程同定理 4. 当光滑函数取式( 6) 时,由文献[6]可知,取ρ = 1 k ,即| x | < 1 k 时,有 P( x,k) 2 - x 2 + ≤ ( lg2 ) k 2 + 2ρ k ( lg2 = lg2 ) k 2 + 2 k 2 lg2≈0. 692 7 1 k 2 . ( 13) 当光滑函数取式( 10) 时,有 S1 ( x,k) 2 - x 2 + ≤ 1 24k 2≈0. 041 67 k 2 . ( 14) 当光滑函数取式( 11) 时,有 S2 ( x,k) 2 - x 2 + ≤ 1 30k 2≈0. 033 33 k 2 . ( 15) 当光滑函数取式( 12) 时,有 S3 ( x,k) 2 - x 2 + ≤ 1 58k 2≈0. 017 24 k 2 . ( 16) 可见,样条函数与 Sigmoid 积分函数相比,在相 同的 k 下对正号函数的逼近精度提高了一个数量 级,且随着光滑阶数的增加,样条函数对正号函数的 逼近程度不断提高. 从表 1 可以看出,在具有相同光滑阶数的情况 下,样条函数比多项式函数的次数低 1 次,但是逼近 精度比相应的多项式函数要高. 因此,在可比条件 下,样条函数比多项式函数略有优势. 表 1 光滑函数及其逼近精度比较 Table 1 Comparison of smooth functions and approximation accuracy 光滑函数 逼近精度 光滑阶数 函数次数 x + 1 k lg( 1 + e - kx ) 0. 692 7 k2 任意 — k 4 x2 + 1 2 x + 1 4k 0. 090 9 k2 1 2 - 1 16 ( kx + 1) 3 ( kx - 3) 0. 052 6 k2 2 4 k2 6 x3 + k 2 x2 + 1 2 x + 1 6k - k2 6 x3 + k 2 x2 + 1 2 x + 1 6 { k 0. 041 67 k2 2 3 1 32k ( k6 x6 - 5k4 x4 + 15k2 x2 + 16kx + 5) 0. 035 78 k2 3 6 - k4 10 x5 - k3 4 x4 + k 2 x2 + 1 2 x + 3 20k k4 10 x5 - k3 4 x4 + k 2 x2 + 1 2 x + 3 20 { k 0. 033 33 k2 3 5 - 5k7 256 x8 + 7k5 64 x6 - 35k3 128 + 35k 64 x2 + 1 2 x + 35 256k 0. 027 63 k2 4 8 - k6 7 x7 - 3k5 4 x6 - 3k4 2 x5 - 5k3 4 x4 + 3 4 kx2 + 1 2 x + 3 28k k6 7 x7 - 3k5 4 x6 + 3k4 2 x5 - 5k3 4 x4 + 3 4 kx2 + 1 2 x + 3 28 { k 0. 017 24 k2 4 7 3 性质分析 3. 1 模型的收敛性分析 本节讨论光滑模型与原来模型最优解之间的 差距. 定理 6 设 A∈Rm × n ,b∈Rm × 1 ,实函数 h( x) ∶ Rn →R,g( x,k) ∶ Rn × N→R 定义如下: h( x) = 1 2 ‖( Ax + b) + ‖2 2 + 1 2 ‖x‖2 2,( 17) ·723·
<<向上翻页向下翻页>>
©2008-现在 cucdc.com 高等教育资讯网 版权所有