第3期 冯能山，等：支持向量回归机多项式光滑函数的逼近精度 ·269· F(x,k)=p2(x,k)-x12; 时-x+E<0,显然有-x-E<-x+E<0,因此(-x-ε)，= 2)证明F(x,k)是对称函数，把在整个x轴上 0.因p,(x,k)是单调增函数3,6，可知p,(-x-e,k)≤ 求F(x,k)的最大值问题转换成在x轴的右半轴上 P(0,k).由二分法0可算出P1(x,k)与正号函数x, 求F(x,k)的最大值问题； 3)求当0≤x≤E时误差函数F(x,k)的最大值： 的逼近精度：Pn,(x,)-≤由文献[5]知. 4)求当x>e时误差函数F(x,k)的最大值； 1x2=(x-e)2+(-x-e),因此 5)对这2个最大值进行比较，最大者即为光滑 Fi(x,k)=pie(x,k)-1x12= 函数的逼近精度. P1(x-e,k)2-(x-e)+P1(-x-E,k)2≤ 2.3一阶多项式光滑函数的逼近精度 仿照定理1及求任意阶多项式光滑函数的逼近 11+p(0,k)2=0.1534/ 1 精度的基本思想和步骤，下面具体求出一阶多项式 5)对这2个最大值进行比较，最大者即为光滑 光滑函数的逼近精度. 函数的逼近精度.综合4)和5)的结果易知，11= 推论1一阶多项式光滑函数的逼近精度为 0.1534,F.(x,k)≤0.1534/k2.0.1534/k2即为一 0.1534/k2 阶多项式光滑函数的逼近精度， 证明 证毕 1)把求光滑函数P(x,k)的逼近精度问题表示 2.4二阶至五阶多项式光滑函数的逼近精度 为一个在整个x轴上求误差函数F(x,k)的最大值 支持向量回归机的二阶多项式光滑函数的形式 问题.支持向量回归机的一阶多项式光滑函数的形 如式(6).仿照上面求一阶多项式光滑函数的逼近精 式如式(5).把多项式光滑函数应用于支持向量回归 度的基本思想和步骤，可把二阶多项式光滑函数逼 机，首先必须解决多项式光滑函数逼近ε-不敏感损 近ε-不敏感损失函数的平方项Ix2的精度问题描 失函数的平方项Ix?的精度问题.该问题可描述为 述为求p(x,k)-x2的最大值问题.记 个求p(x,k)-lx2的最大值问题，记 F2(x,k)=P2(x,k)-lx12, Fi(x,k)=pi(x,k)-1x12, (11) 称F(x,k)为光滑函数p2(x,k)的误差函数 称F(x,k)为光滑函数p(x,k)的误差函数因此， 推论2二阶多项式光滑函数的逼近精度为 求多项式光滑函数逼近ε不敏感损失函数的平方 0.08779/k2. 项Ix2的精度问题，就可转换成求F(x,k)的最大 证明过程与定理1及推论1类似，在此省略。 值问题 以上内容求出了一阶和二阶光滑函数的逼近精 2)证明F(x,k)是对称函数，把在整个x轴上 度，同理以同样的步骤，可求出三阶、四阶和五阶光 求F(x,k)的最大值问题转换成在x轴的右半轴上 滑函数的逼近精度，求解过程省略.表1列出一阶至 求F(x,k)的最大值问题将-x代入式(11)，结合 五阶多项式光滑函数的逼近精度. 式(5)，可得 表1多项式光滑函数的逼近精度 F(-x,k)=P(-x,k)-|-xl2= Table 1 The approximation accuracies of polynomial pie(x,k)-IxI2=F(x,k). smoothing functions 可见F(x,k)是对称函数.因此在整个x轴上求 光滑函数 光滑阶数d 误差系数r 逼近精度 F(x,k)的最大值问题就转换成了在x轴的右半轴 pie(x,k) 0.15340 0.15340/k2 上求F(x,k)的最大值问题 pi(x,k) 2 0.08778 3)求当0≤x≤8时误差函数F(x,k)的最大 0.08778/k2 值.此时显然|xl,=0.因此 pi(x,k) 3 0.03578 0.03578/k2 Fi(x,k)=pie(x,k)-1x12= pi(x,k) 4 0.02763 0.02763/k2 P1(x-E,k)2+P1(-x-E,k)2, p(x.k) 5 0.02433 0.02433/2 此时显然有x-s≤0和-x-g≤0，因P1(x,k)2是单调 因此，依照上述五步求的基本思路和步骤，可求 增函数3,6，可得 出支持向量回归机无穷多个光滑函数的逼近精度. F(x)≤24，(0.62=2(02=0125/ 3结束语 4)求当x>e时误差函数F(x,k)的最大值.此 为求支持向量回归机光滑函数的逼近精度，首Ｆｄε（ｘ，ｋ） ＝ ｐ ２ ｄε（ｘ，ｋ） －｜ ｘ ｜ ２ ε ； ２）证明 Ｆｄε（ｘ，ｋ）是对称函数，把在整个 ｘ 轴上 求 Ｆｄε（ｘ，ｋ）的最大值问题转换成在 ｘ 轴的右半轴上 求 Ｆｄε（ｘ，ｋ）的最大值问题； ３）求当 ０≤ｘ≤ε 时误差函数 Ｆｄε（ｘ，ｋ）的最大值； ４）求当 ｘ＞ε 时误差函数 Ｆｄε（ｘ，ｋ）的最大值； ５）对这 ２ 个最大值进行比较，最大者即为光滑 函数的逼近精度． ２．３ 一阶多项式光滑函数的逼近精度 仿照定理 １ 及求任意阶多项式光滑函数的逼近 精度的基本思想和步骤，下面具体求出一阶多项式 光滑函数的逼近精度． 推论 １ 一阶多项式光滑函数的逼近精度为 ０．１５３ ４ ／ ｋ ２ ． 证明 １）把求光滑函数 ｐ ２ １ε（ｘ，ｋ）的逼近精度问题表示 为一个在整个 ｘ 轴上求误差函数 Ｆ１ε（ｘ，ｋ）的最大值 问题．支持向量回归机的一阶多项式光滑函数的形 式如式（５）．把多项式光滑函数应用于支持向量回归 机，首先必须解决多项式光滑函数逼近 ε⁃不敏感损 失函数的平方项｜ ｘ ｜ ２ ε 的精度问题．该问题可描述为 一个求 ｐ ２ １ε（ｘ，ｋ）－ ｜ ｘ ｜ ２ ε 的最大值问题，记 Ｆ１ε（ｘ，ｋ） ＝ ｐ ２ １ε（ｘ，ｋ） －｜ ｘ ｜ ２ ε ， （１１） 称 Ｆ１ε（ｘ，ｋ）为光滑函数 ｐ ２ １ε（ｘ，ｋ）的误差函数．因此， 求多项式光滑函数逼近 ε⁃不敏感损失函数的平方 项｜ ｘ ｜ ２ ε 的精度问题，就可转换成求 Ｆ１ε（ｘ，ｋ）的最大 值问题． ２）证明 Ｆ１ε（ｘ，ｋ）是对称函数，把在整个 ｘ 轴上 求 Ｆ１ε（ｘ，ｋ）的最大值问题转换成在 ｘ 轴的右半轴上 求Ｆ１ε（ｘ，ｋ）的最大值问题．将－ｘ 代入式（１１），结合 式（５），可得 Ｆ１ε（ － ｘ，ｋ） ＝ ｐ ２ １ε（ － ｘ，ｋ） －｜ － ｘ ｜ ２ ε ＝ ｐ ２ １ε（ｘ，ｋ） －｜ ｘ ｜ ２ ε ＝ Ｆ１ε（ｘ，ｋ）． 可见 Ｆ１ε（ ｘ，ｋ） 是对称函数． 因此在整个 ｘ 轴上求 Ｆ１ε（ｘ，ｋ）的最大值问题就转换成了在 ｘ 轴的右半轴 上求 Ｆ１ε（ｘ，ｋ）的最大值问题． ３）求当 ０≤ｘ≤ε 时误差函数 Ｆ１ε（ ｘ，ｋ） 的最大 值．此时显然 ｜ ｘ ｜ ε ＝ ０．因此 Ｆ１ε（ｘ，ｋ） ＝ ｐ ２ １ε（ｘ，ｋ） －｜ ｘ ｜ ２ ε ＝ ｐ１（ｘ － ε，ｋ） ２ ＋ ｐ１（ － ｘ － ε，ｋ） ２ ， 此时显然有 ｘ－ε≤０ 和－ｘ－ε≤０，因 ｐ１（ｘ，ｋ） ２ 是单调 增函数［３，６］ ，可得 Ｆ１ε（ｘ，ｋ） ≤ ２ｐ１（０，ｋ） ２ ＝ ２（ １ ４ｋ ） ２ ＝ ０．１２５ ／ ｋ ２ ． ４）求当 ｘ＞ε 时误差函数 Ｆ１ε（ ｘ，ｋ）的最大值．此 时－ｘ＋ε＜０，显然有－ｘ－ε＜－ｘ＋ε＜０ ，因此（ －ｘ－ε） ＋ ＝ ０．因 ｐ１（ｘ，ｋ）是单调增函数［３，６］ ，可知 ｐ１（－ｘ－ε，ｋ）≤ ｐ１（０，ｋ）．由二分法［１０］可算出 ｐ１（ｘ，ｋ）与正号函数 ｘ＋ 的逼近精度［３］ ： ｐ１（ｘ，ｋ） ２ －ｘ ２ ＋≤ １ １１ｋ ２ ．由文献［５］知， ｜ ｘ ｜ ２ ε ＝ （ｘ－ε） ２ ＋ ＋（－ｘ－ε） ２ ＋ ，因此 Ｆ１ε（ｘ，ｋ） ＝ ｐ ２ １ε（ｘ，ｋ） －｜ ｘ ｜ ２ ε ＝ ｐ１（ｘ － ε，ｋ） ２ － （ｘ － ε） ２ ＋ ＋ ｐ１（ － ｘ － ε，ｋ） ２ ≤ １ １１ｋ ２ ＋ ｐ１（０，ｋ） ２ ＝ ０．１５３ ４ ／ ｋ ２ ． ５）对这 ２ 个最大值进行比较，最大者即为光滑 函数的逼近精度． 综合 ４） 和 ５） 的结果易知， ｒ１ ＝ ０．１５３ ４，Ｆ１ε（ｘ，ｋ）≤０．１５３ ４ ／ ｋ ２ ． ０．１５３ ４ ／ ｋ ２ 即为一 阶多项式光滑函数的逼近精度． 证毕． ２．４ 二阶至五阶多项式光滑函数的逼近精度 支持向量回归机的二阶多项式光滑函数的形式 如式（６）．仿照上面求一阶多项式光滑函数的逼近精 度的基本思想和步骤，可把二阶多项式光滑函数逼 近 ε⁃不敏感损失函数的平方项 ｜ ｘ ｜ ２ ε 的精度问题描 述为求 ｐ ２ ２ε（ｘ，ｋ）－ ｜ ｘ ｜ ２ ε 的最大值问题．记 Ｆ２ε（ｘ，ｋ） ＝ ｐ ２ ２ε（ｘ，ｋ） －｜ ｘ ｜ ２ ε ， 称 Ｆ２ε（ｘ，ｋ）为光滑函数 ｐ ２ ２ε（ｘ，ｋ）的误差函数． 推论 ２ 二阶多项式光滑函数的逼近精度为 ０．０８７ ７９ ／ ｋ ２ ． 证明过程与定理 １ 及推论 １ 类似，在此省略． 以上内容求出了一阶和二阶光滑函数的逼近精 度，同理以同样的步骤，可求出三阶、四阶和五阶光 滑函数的逼近精度，求解过程省略．表 １ 列出一阶至 五阶多项式光滑函数的逼近精度． 表 １ 多项式光滑函数的逼近精度 Ｔａｂｌｅ １ Ｔｈｅ ａｐｐｒｏｘｉｍａｔｉｏｎ ａｃｃｕｒａｃｉｅｓ ｏｆ ｐｏｌｙｎｏｍｉａｌ ｓｍｏｏｔｈｉｎｇ ｆｕｎｃｔｉｏｎｓ 光滑函数 光滑阶数 ｄ 误差系数 ｒｄ 逼近精度 ｐ ２ １ε（ｘ，ｋ） １ ０．１５３ ４０ ０．１５３ ４０ ／ ｋ ２ ｐ ２ ２ε（ｘ，ｋ） ２ ０．０８７ ７８ ０．０８７ ７８ ／ ｋ ２ ｐ ２ ３ε（ｘ，ｋ） ３ ０．０３５ ７８ ０．０３５ ７８ ／ ｋ ２ ｐ ２ ４ε（ｘ，ｋ） ４ ０．０２７ ６３ ０．０２７ ６３ ／ ｋ ２ ｐ ２ ５ε（ｘ，ｋ） ５ ０．０２４ ３３ ０．０２４ ３３ ／ ｋ ２ 因此，依照上述五步求的基本思路和步骤，可求 出支持向量回归机无穷多个光滑函数的逼近精度． ３ 结束语 为求支持向量回归机光滑函数的逼近精度，首 第 ３ 期 冯能山，等：支持向量回归机多项式光滑函数的逼近精度 ·２６９·