D0I:10.13374/i.issm1001053x.2003.01.025 第25卷第1期 北京科技大学学报 Vol.25 No.I 2003年2月 Journal of University of Science and Technology Beijing Feb.2003 多目标局部残差平方和的定阶方法 范玉妹李红军 北京科技大学应用科学学院,北京100083 摘要基于实践应用的需要,通过对自回归模型中的残差方差图定阶方法进行研究,提出 了局部残差平方和的定阶方法.这种定阶方法把多目标规划理论与事物局部特征结合起来. 实例表明:对自回归模型进行定阶时,运用局部残差平方和的定阶方法,能有效地提高自回 归模型的预测精度,对自回归模型阶数的取值上限作了重新界定,并在理论上给出了证明. 关键字局部残差平方和;多目标规划;多阶自回归 分类号0221.6:0211.61 1问题的提出 minn-2k-1)=r·gn-2k-1)= (Y-XB)'(Y.-X)/n-2k-1) (2) 设随机序列{x,1=0,1,…}服从多阶自回归模 其中,Y=(x,x2,,x) 型AR(),即: 1x12… x,=p0+px-1+p2x-2+十px-k十a (1) 其中,{a}是随机干扰,且服从N0,d).确定该模 X= 1龙2折…x-1 型阶数k的常用方法有四种:残差方差图定阶 1xtXn-n…X-1 法,自相关函数(ACF)和偏相关函数(PACF)定阶 B=(B,B,,)r是参数0=(po,p,p2,,p小r 法,F检验定阶法和最佳准则函数定阶法".其 的最小二乘估计.M是拟合的最高阶数,通常取 中,残差方差图定阶法可以归结为以下几步 [写小号之间的某个整数 (1)残差方差的估计式: 这种定阶方法是从总体上考虑模型的拟合 模型的剩余平方和 分实际观察值不数一模型的参数个数 情况.但在研究和解决实际问题时,常常需要考 式中的“实际观察值个数”为拟合模型时实际使 虑局部拟合情况,因为这些实际问题有时候希望 用的观察值个数,对于AR(k)模型来说实际使用 某些时间段的残差尽可能地小,而能容忍另一些 的观察值最多为(所有观察值个数n一模型阶数 时间段的残差稍大些, );“模型的参数个数”是指所建立的模型中实际 在进行短、中期石油价格分析和预测时就接 包含的参数个数.若模型中不含有均值项,则模 触到这样的问题.从1980年1997年欧佩克组织 型的参数个数就等于模型的阶数k若含有均值 的石油生产产量图如图1.显然,当需要得到的自 项,则模型的参数个数就等于模型的阶数加1,即 35 为(k+1) 0 30 (2)从=1开始,逐阶进行拟合,并绘制残差方 淫 差图 25 (3)选取残差方差较小时的k为模型的阶数 30 (4)进行模型的显著性检验 15 从数学规划角度看,这种定阶方法的实质就 808284868890929496 是求解如下的单目标问题,设观测值序列 年份 {x},t=1,2,3,…,n,则目标函数为: 图1欧佩克石油产量图 收稿日期200201-08范玉妹女53岁,教授 Fig.1 Petroleum output of OPEC
第 2 5 卷 第 1 期 2 0 0 3 年 2 月 北 京 科 技 大 学 学 报 J o u r n a l o f U n i v e r s ity o f S e i e n e e a n d Te c h n o fo gy B e ij in g V 心1 . 2 5 N o . l F e b . 2 0 0 3 多 目标局部残差 平方和的定 阶方法 范 玉 妹 李红 军 北 京科 技大 学应 用科 学学 院 , 北京 10 0 0 83 摘 要 基 于实 践应 用 的需要 , 通 过对 自回归 模型 中的残 差方 差 图定 阶方 法 进行 研究 , 提 出 了局 部残 差平 方和 的定 阶方 法 . 这种 定 阶方 法把 多 目标规 划理 论 与事 物局 部 特征 结 合起来 . 实例 表 明 : 对 自回 归模 型进 行定 阶时 , 运用 局部 残 差平 方 和的 定 阶方法 , 能有 效地 提高 自回 归模 型 的预测精 度 . 对 自回 归模 型 阶数 的取 值上 限作 了重新 界定 , 并 在 理论 上给 出了证 明 . 关键 字 局部 残差 平方 和 ; 多 目标 规划 ; 多 阶 自回归 分 类 号 0 2 2 1 . 6 : 0 2 1 1 . 6 1 m i n 义k)/ ( n 一 Z k 一 l ) = 才 , T · ;ek) /( n 一 Zk一 l ) = ( kY 一 叉谓) T (又一 叉尹)/(n 一 2k 一 l) 其 中 , K 一 (x 川 , *+x 2 , … , 二 J ( 2 ) xk为 · : -xn X 从与 戈 一 1 问题的提 出 设 随机 序列 执 , t = 0 , l , … }服 从多 阶 自回归 模 型 A R (k) , 即: x , = 仇十毋. xt 一 + 尹式 一 2 +. 二+ 势满 一 汁a , ( l) 其中 , <a}t 是 随机 干 扰 , 且 服 从N( 0, 的 . 确 定 该模 型 阶 数 k 的 常用 方 法 有 四 种 : 残 差 方 差 图定 阶 法 , 自相 关 函数 (A C )F 和偏相关 函数 (PA C )F 定 阶 法 , F 检 验定 阶法 和最 佳准则 函 数 定 阶法 `IJ . 其 中 , 残 差方 差 图 定 阶法 可 以 归 结 为以 下 几 步 . ( l) 残 差方 差 的估计式 : l l 声二 帆 , 声 X , 一奇 X , 一 走+ - , 八 , … , 几丫是 参 数势= (肠 , p l , 仇 , … , 叭 ) T 模 型 的剩 余平方 和 实 际 观察 值个数 模 型 的参数 个数 式 中的 “ 实 际 观察 值个数 ” 为 拟合 模型 时实 际使 用 的 观察值个 数 , 对 于 A (R k) 模 型来 说实 际使 用 的 观察 值最 多为 (所 有 观察值个 数 n 一 模型 阶数 k) ; “ 模型 的参 数个 数 ” 是指 所 建立 的模型 中实 际 包 含 的参 数个 数 . 若模 型 中不 含有 均值项 , 则模 型 的参数个数 就 等于模型 的 阶数 ;k 若含 有 均值 项 , 则模型 的参数 个数 就 等于模型 的 阶数 加 1 , 即 为 (+k .l) (2 )从 =k 1开始 , 逐 阶进 行 拟合 , 并 绘制残 差方 差 图 . (3) 选 取残 差 方差 较 小 时 的 k为 模型 的 阶数 . (4 ) 进行 模型 的显 著性检验 . 从 数学 规划 角 度看 , 这种 定 阶方 法 的实质 就 是 求 解 如 下 的 单 目标 问 题 , 设 观 测 值 序 列 {x, } , t = l , 2 , 3 , … , n , 则 目标 函 数为 : 收稿 日期 2 0 02 一 1一 8 范 玉妹 女 53 岁 , 教授 的 最小 二 乘估计 . 对是 拟合 的最高阶数 , 通 常取 。 l 、 。 2 、 一 , ~ 上 。 ~ ` 二` 、 。 , [夸n] 一 [夸n] 之间 的某个整 数 . L 3 ” J L 3 ” J ~ ’ 一 J 目 J 小 , ~ 扒 · 这 种 定 阶 方 法 是 从 总体 上 考 虑 模型 的 拟 合 情 况 . 但在研究 和解 决实 际 问题时 , 常常需 要 考 虑局 部 拟合情况 , 因 为这 些 实 际问题有 时候 希 望 某 些 时 间段 的残 差 尽 可能 地小 , 而 能容 忍 另一些 时 间段 的 残差 稍 大 些 . 在 进 行短 、 中期 石油 价 格分析 和 预测 时 就接 触 到 这 样 的 问题 . 从 19 8 0 年 19 97 年欧 佩克组 织 的石 油生 产产 量 图如 图 1 . 显然 , 当需 要得 到 的 自 一 一一 ǎ 一l 礼勺擎b一à、咽 年份 图 1 欧佩克 石 油产 t 图 F ig . l P e t邝卜 u m o u t P u t o f 0 P E C DOI: 10. 13374 /j . issn1001 -053x. 2003. 01. 025
·92 北京科技大学学报 2003年第1期 回归方程能较好地预测该组织未来几年的石油 (n-1)/2的正整数 生产产量时,则希望得到的拟合方程能更多地反 证明:设观测值序列{x},t=1,2,3,,n,建立 映较近时期变化趋势,因此希望方程对近年拟合 AR()模型见(1),则有 得较好,而允许它对前些时期的拟合稍微差 [11x2… XA o Xe- a 些.基于实际背景,可以采取如下的基于多目标 x2X3…Xk-1 X+2 a 规划的局部残差平方和的定阶方法. 1Xw-xa-… xa-tJ儿ps」x a 2多目标局部残差平方和的定阶 写成矩阵形式为Xwgp=Ym-ta.其中,X-) 为行满秩,α的各分量都是独立随机变量,且服 2.1局部残差平方和的定义 从N(0,G).下面用反证法,假设k2(n-1)/2,即 定义对于实测值y与回归值,参数估计值 (n一)≤(k+1),关于p的方程组Xm0=Yn-,中 B,称 的方程个数小于未知数的个数且系数矩阵行满 S.=Ey.-)=YY-BXiY (3) 秩,因此线性方程组X。-1p=Ym有解,不妨 I={p,p2,…,pnl1≤p1≤p≤…≤p≤n}, 设为B. 为局部残差平方和(或称局部剩余平方和) 由式(2)和局部残差平方和定义(3),得 22多目标局部残差平方和的定阶方法 Sn-2k-1)=0且S=0(1si≤q,所以对于这样 该方法可以归结为下面几个步骤: 的k值,min(Sgn-2k-l),S盟,S,,5)-0,a的估 第1步观察和分析数据(图),确定需考虑的 计e=Y-一Xm-B-O,从而残差平方和E'g=0. 局部个数q的值和每个局部I(=1,2,·,q)的取值 这与模型(1)的假设(α的各分量都是独立随机变 范围. 量,且服从N(O,)相矛盾.所以在AR(k)模型的 第2步建立多目标规划问题.目标函数的一 假设前提下必有k<(n-1)/2. 般形式可以表示为 事实上,当(n-1)/2时,(n-k<(k+1), min(S./(n-2k-1),So,S,.S) (4) rank(a-taue≤(n-k水dim(X--rhw)=k+l, ]≤tM 其中,山,2,…,,不相交(下同) 矩阵(Xn-4水n-ww)的逆矩阵已经不存在,所以 第3步求解多目标规划问题(4) 最小二乘法不再适用,根据定理1,应将M取为 第4步模型显著性检验 [小-”]之间的某个整数. 进行算法设计时,可以把第2步与第4步合 下面讨论多目标局部残差平方和的定阶方 并在一起考虑.这样,计算机输出的模型阶数k 法与残差方差图定阶方法二者之间的关系.若用 值,就是满足模型显著条件下的最优解,从而得 线性加权和的方法解多目标问题(④)时,则有: 出该定阶方法的另一种形式: 定理2①若问题(4)有绝对最优解,则存 第1步观察和分析数据(图),确定需考虑的 在阶数k使a[S/(n-2k-1)]+0S+…+0Sa与S/ 局部个数g的值和每个局部1(i=1,2,,9)的取 (n一2k-1)同时取最小值;②若问题(4)不存在绝 值范围. 对最优解,则不存在阶数k≤M使a[S(n-2k- 第2步建立带约束条件的多目标规划问题 1)]+01S++0S与S/(n-2k-1)同时取最小值. 为: 证明:①设多目标问题(4)的全局最优解集 min(Sn-2k-1),S,S,,)) (5) 为R,问题(2)的最优解集为R,单目标规划(P: St/(n-k) s.t.F-5/m 2k1)F(n-k.n-2k-1), minS,l,2,,9的最优解集为R.当问题(4存 其中,S为回归平方和,即S=Σ位-). 在全局最优解时R=RnR≠中,因而3k∈R=R:n 第3步求解多目标规划问题(5). R→k∈R.②不妨设q1,因为问题(4)不存在绝对 对于多目标局部残差平方和的定阶方法,显 最优解,所以R=RnR=中,即不存在阶数k≤M使 然有: a[Sg/n-2-2k-1)]+(1-a)S与Sgn-2k-1)同 定理1若用多目标局部残差平方和的方法 时取最小值 定阶,设M是阶数k的一个上界,则M为小于 定理3权重满足0+0++0,=1,当a,=0,=
北 京 科 技 大 学 学 报 2 0 0 3 年 第 1期 回归 方程 能 较 好地 预测 该 组 织 未来 几 年 的 石油 生 产产 量 时 , 则 希望 得到 的拟合方 程 能更多地反 映 较近 时期 变化 趋势 , 因此 希望 方程 对近 年拟合 得 较 好 , 而允 许它 对 前些 时期 的 拟 合稍 微差 一 些 . 基 于实际 背景 , 可 以采 取如 下 的基 于 多 目标 规 划 的局 部残 差平 方 和 的定 阶方 法 . (n 一 1)/ 2 的正 整数 . 证 明 : 设观测 值序列 {xt } , t = 1 , 2 , 3 , … , n , 建立 A R (k) 模型 见 ( l) , 则有 } { ` 1 瓜 “ ` “ 1! , 。 {! x +k 1 {「 a :: 1 Xk 一 1 ! 丫 ” 艇 一 ’ …川 一 …丫… 、 t I Xn 一 * 凡 一 川 ` · ` 丸一 j L尹` J Lx 。 」 La , 一 * J… 2 多 目标局 部残 差 平 方 和 的定 阶 .2 1 局 部残 差 平方 和 的定 义 定 义 对 于 实测 值iy 与 回归值夕 , 参 数估计值 声 , 称 及 i 一 汐 I 子) 2 = 歼醉一网 卜 (3) I = 切 1 , p Z , … , p , 1 1印 .印 2 ` … 印 。 ` n } , 为 局部残 差平 方 和 (或称 局 部剩 余平 方 和 ) . .2 2 多 目标局 部残 差 平方 和 的定 阶 方法 该 方 法可 以 归结 为 下 面几个步 骤 : 第 1 步 观察和 分析数据 ( 图 ) , 确定 需 考 虑 的 局部个 数 q 的 值和 每个 局 部 去(=1 1 , 2 , … ,动的取 值 范 围 . 第 2 步 建 立 多 目标规 划 问题 . 目标 函 数 的一 般形式 可 以 表 示 为 m i n (义 ` , /( n 一 Zk 一 l ) , 酬 , 瞬彭 , … , 裂) ( 4 ) 其中 , I , , 几 , … , qI 不 相 交 ( 下 同 ) . 第 3 步 求解 多 目标 规 划 问题 ( 4) . 第 4 步 模型 显著性 检 验 . 进 行算法 设计时 , 可 以 把 第 2 步与第 4 步合 并在 一 起考 虑 . 这样 , 计算机 输 出 的模 型阶 数 k 值 , 就 是 满 足模型显 著条件下 的最 优解 , 从而得 出该 定 阶 方法 的另一 种 形式 : 第 1 步 观 察和分析 数据 ( 图 ) , 确定需 考 虑 的 局 部个 数 q 的 值和 每 个局 部 去i( = 1 , 2 , … , 妇的 取 值范 围 . 第 2 步 建 立 带 约束 条件 的多 目标 规划 问题 为 : m i n (义 ` , /( n 一 Zk一 l ) , 义交 , , 瞬分 , … , 义} , ) ( 5 ) S · t · F咬徽措尸 】一 `一` , 一2` 一 ` , , 其中 , 从 为 回归平方 和 , 即从 二 艺价一力 . 第 3 步 求解 多 目标规 划 问题 ( .5) 对 于多 目标 局 部残 差平 方 和 的定 阶方法 , 显 然 有 : 定 理 l 若用 多 目标 局 部残 差 平方和 的方 法 定 阶 , 设 M 是 阶 数 k 的 一 个 上 界 , 则 M 为 小 于 写 成矩 阵形式 为戈 n 一 k)x +(k l)9 = 称 一 k) 、 ,+ a . 其中 ,戈 n 一 k)x +(k , ) 为行 满秩 , a 的各 分量 都 是独 立 随机 变 量 , 且 服 从N (0 , 扩) . 下 面 用 反 证 法 , 假设 k到 n 一 1)/ 2 , 即 (n 一 k) ` (卜 l) , 关 于 价的方 程 组笨 , 一 k)x +(k .牵 = 称 一 k) 、 , 中 的方 程 个 数小 于未 知 数的个数且 系 数矩 阵行 满 秩 , 因此线性 方程组笨 。 一 k)x +(k l尸 二 称 一 k) 、 1有 解 , 不妨 设为 P . 由式 (2) 和 局 部 残 差 平 方 和 定 义 ( 3) , 得 义 ` , z( n 一 2无一 l ) 二 0且 黔 = o ( l ` i ` 叮) , 所 以 对 于这 样 的k值 , m i n 仅 ` , /( n 一 Z k一 l ) , 酬 , 蹭 , … , 义聋) = 0 , a 的估 计 e = 从 。 一 *〕 、 一戈 。 一* , 、 (+k 1)户0 , 从而 残差 平 方 和扩『 0 . 这 与模 型 ( l) 的假 设 ( a 的各 分量 都是 独立 随机 变 量 , 且 服从 N (0 , 护) )相 矛盾 . 所 以 在 A (R k) 模型 的 假 设前提下 必有 kk (n 一 1)2/ 时 , (n 一 k) (< +k l) , r a nk 以 , 一 *》 、 (+k , ) ) ` ( n 一 k) < d im (蛛 一* 〕 , `+k .浅 。 一* ) 、 。川 , ) = 无十 l , 矩 阵(蛛 一 k)x 归浅 n 一 k)x +(k1 ) ) 的逆 矩 阵已 经不存在 , 所 以 最 小 二乘法不 再适 用 . 根 据 定 理 1 , 应将材取为 〔静 〕 一 〔宁 〕之 间的某 个整数 . 下 面 讨论 多 目标 局 部 残 差 平 方 和 的定 阶方 法 与 残差方 差 图定 阶方法 二 者之 间 的关系 . 若用 线 性 加权和 的方 法 解 多 目标 问题( 4) 时 , 则有 : 定理 2 ①若问题 ( 4) 有绝对 最 优解 , 则存 在 阶数 k 使 a 。【义 ` , /( n 一 Zk一 l ) ] + 刁汉 ` ,+ … + 刁粼) , 与义 ` , / (n 一 Z k一 l) 同时取 最 小值 ; ②若 问题 ( 4) 不 存在 绝 对 最 优 解 , 则 不 存 在 阶 数 k ` M 使 氏[畔 ,(/ n一 k2 一 l ) ] + 刁 1义 ` ,+ … + a裂 , 与义 ` , / ( n 一 Zk 一 l )同时取 最小 值 . 证明 : ①设多 目标 问题 (4) 的 全局 最 优解 集 为’R , 问题 ( 2) 的最优解 集为:R , 单 目标 规 划 (P, ) : m in 酬 , 间 , 2 , … , q 的最 优解 集为尾 . 当问题 (4) 存 在全 局 最 优解 时’R =R 二9尾` 叭 因而 日k ’ 任 ’R =R ;Q :R 冷*k 任:R . ②不妨 设 q =l , 因为 问题 (4) 不 存在 绝 对 最优 解 , 所 以’R =R : n :R 神 , 即不存在 阶 数k ` 材使 D 。 [义 ` , /( n 一 2 一 Z k一 l ) ] + ( l 一 a 。 )义 ` , 与 又 ` , /( n 一 Zk 一 l ) 同 时 取最 小 值 . 定 理 3 权 重 满足 刁 。 + 刁 1+ … + 刁 ; = l , 当 a ,= 己 2=
VoL.25 No.I 范玉妹等:多目标局部残差平方和的定阶方法 ·93· =0,-0,0。=l,0[S/(n-2k-1)]+0S+…+a,Sg取 得最小值时,S(n-2k-1)取最小值. 证明:当a,=0=…a,=0,0。=1时,S/(n-2k-1)= aS/n-2k-1)]+0,S++0,S所以,a[Sn-2k -k]+0S++⑦,S取最小值时,Sn-2k-1)也 取最小值. 定理2和3表明,残差方差图定阶方法是多 目标局部残差平方和的定阶方法的一种特殊情 2 345 6 k 况.多目标局部残差平方和的定阶方法是残差方 图2残差方差 差图定阶方法的一个推广.需要说明的是,当使 Fig.2 Residual variance 用线性加权和的方法求解时,因为S/(n-2k-1) 1.5 的值一般比S(1≤i≤q)要大许多,所以为实现 局部残差平方和在定阶时的作用,∂,应该取得 1.0 较小. 用主要目标法解决多目标问题(4)时,如果把 0.5 ■Y 第一目标函数S,(n-2k-1)作为主要目标,则原 问题即化为带约束的残差方差图定阶方法;如果 把某个S(1≤i≤g)作为主要目标时,则原问题就 456 化为带约束的纯局部残差平方和的定阶方法. k 图3区间残差平方和 2实例计算 Fig.3 Residual sum of squares in the interval 欧佩克组织自1980年以来的日平均产油量 表10=1和=0.13时模型阶数与回归系数表 数据见图1.现根据这些数据拟合出自回归方 Table 2 Order and the regression coefficient of the model 程,并预报未来几年的产油量.建立无约束多目 ∂模型阶数 回归系数 残差方差 标规划: 32.1853,-0.3844,0.3212,0.99491.3361 minS.=c'c/(n-2k-1) (6) 0.13 6 3.8839,0.0443-0.2033,0.14041.7840 IsksM -0.1430,0.2609,0.7767 minS.=Σy,-y,-》) 其中,n=18,c'c表示回归残差平方和,p(p>k)表示 表2预测结果分析表 所考虑区间的起点,pp≤n)表示所考虑区间的 Table 2 Analysis of the forecast results 终点.模型可用多种方法求解,这里考虑权重把 年份实际值 一3时的预测结果6时的预测结果 多目标问题转化为单目标问题求解.即 预测值相对误差预测值相对误差 min OS.+(1-0)S. (7) 199830.81528.96270.060129.16490.0535 其中,0是常数,且0≤a≤1.显然,当⑦=1时式(7)就 199929.29529.47790.0062 29.38270.0030 200030.82529.79660.0334 29.77970.0339 转化为残差方差图定阶方法;当0≤aF(15,11)=2.72; 3结论 当0=0.13时,k=6,F=9.0538>Fas(12,5)=4.68.可 见回归方程在=0.05水平下都有显著意义.残差 (1)多目标的局部残差平方和定阶方法是残 方差和所选区间残差如图2和图3所示.其中, 差方差图定阶方法的推广,运用多目标的局部残 S.(z上S./(n-2k-1),S.(0=S。.用此模型进行3年预 差平方和定阶方法可以提高模型的预测精度 测结果如表2. (2)用残差方差图定阶或者用局部残差平方
Vb l . 2 5 N o . l 范 玉妹 等 : 多 目标局 部残 差 平方 和 的 定阶方 法 一 司 峥内j``é月,1 1 ǎ)z时 一a 厂0 , a 。 = l , 日 。 〔义 ` )/( n 一 Zk 一 l ) ] + 己 l义 k) + … + 刁淤 ,取 得最 小 值 时 , :kS ,(/ n 一 k2 一 l) 取最 小 值 . 证 明 : 当己二1 己 2= … a厂 O , 刁 。 =l 时 , 醋V(n 一 2k 一 l =) 刁 。 [义 ` , /( n 一 Z k一 l ) ] + a汉 ` ,+ … + 己淤 ,所 以 闷 。 [义 ` , /( n 一 Z k 一 k) 」+ 刁汉 们 +. 二 + 己粼乡取 最 小 值 时 , 叉>(/ n 一 2k 一 l) 也 取最 小 值 . 定 理 2 和 3 表 明 , 残 差方 差 图定 阶方 法是 多 目标 局 部残 差 平 方 和 的定 阶方 法 的 一种 特殊 情 况 . 多 目标局部 残差 平方 和 的定 阶方 法是 残 差方 差 图定 阶方 法 的一 个推广 . 需 要说 明的 是 , 当使 用 线 性加 权 和 的方 法 求解 时 , 因 为:kS ,(/ n一 k2 一 l) 的 值一 般 比醋 ) ( l` 迷动要 大 许 多 , 所 以 为 实现 局 部残 差 平方 和 在 定 阶 时 的 作用 , 刁 。 应 该 取 得 较 小 . 用 主要 目标法解 决 多 目标 问题(4) 时 , 如果 把 第一 目标 函数:kS ) /(n 一 2k 一 l) 作 为 主要 目标 , 则 原 问题 即化 为带 约束的残 差方 差 图定 阶方 法 ; 如 果 把 某 个畔 ) ( 1` 迷 动作为主要 目标时 , 则原 问题就 化 为 带约 束 的纯 局部 残 差 平方 和 的定 阶方 法 . 2 3 4 5 k 图 2 残差 方 差 F i g . 2 R e s i d u a l v a r i a n c e 6 7 典的 勺} 2 实例计算 欧佩克 组织 自 19 80 年 以 来 的 日平 均 产 油 量 数据 见 图 1 . 现 根据 这 些 数据 拟 合 出 自回 归 方 程 , 并 预 报未 来 几年 的产 油量 . 建立无约 束多 目 标规 划 : 思梦 一 扩c/ ( n 一 Z k 一 l ) ( 6 ) m in 及一 艺 如一夕)妙厂夕) 户 . “ 匀, . 其 中 , n = 18 , 己c 表 示 回 归残 差 平方 和 , 0P 勿>0 k) 表示 所 考 虑 区 间 的 起点 , lP 勿 1` n) 表 示 所 考 虑 区 间 的 终 点 . 模 型可 用 多种方 法 求解 , 这 里 考 虑权重 把 多 目标 问题转化 为 单 目标问题求解 . 即 m i n 刁eS + ( l 一 己) eS ( 7 ) 其中 , a 是常数 , 且 0 ` 己` 1 . 显然 , 当 D=l 时式( 7) 就 转化 为残差方 差 图 定 阶方 法 ; 当 0 ` a l 0F 仍 ( 15 , 1 1) = 2 . 7 2 ; 当刁= 0 . 13 时 , k = 6 , 尸 = 9 . 0 5 3 8 ) oF o s ( 12 , 5 ) = 4 . 6 8 . 可 见 回归方 程 在 a = .0 05 水 平 下 都有 显 著意 义 . 残 差 方差 和 所选 区 间 残差 如 图 2 和 图 3 所 示 . 其中 , eS (z ) = 及(/ n 一 Z k一 1) , eS 仍 二 及 . 用 此模 型 进行 3 年 预 测 结 果如 表 .2 0 匕 ~ 一 一 - 一 ~ 一` — 一 - 』一 一 一 - 满 1 2 3 4 5 6 7 k 图 3 区 间残差 平 方和 F i g . 3 R e s id u a l s u m o f s q u a er s i n t h e i n t e vr a l 表 1 己= 1 和 a =0 J 3 时模型 阶数 与 回 归 系 数 表 aT b l e 2 o r d e r a n d t h e r e g er s s io n e o e if c i e n t o f t h e m o d e l a 模型 阶数 回 归 系数 残差 方差 1 3 2 . 18 5 3 , 一 0 . 3 8 4 4 , 0 . 3 2 1 2 , 0 . 9 9 4 9 0 . 1 3 6 3 · 8 8 3 9 , o · 0 4 4 3 , 一 0 . 2 0 3 3 , 0 . 14 0 4 一 0 . 14 3 0 . 0 . 26 0 9二0 . 7 7 6 7 1 . 3 3 6 1 1 . 7 8 4 0 表 2 预 测 结果 分析 表 aT b l e 2 A n a ly s is o f t h e of re e a s t re s u lt s 年份 实 际值 卜3 时 的预测 结 果 预测 值 相 对误差 =k 6 时 的预 测结 果 预 测值 相 对误差 19 9 8 19 9 9 2 0 0 0 均值 3 0 . 8 15 2 8 . 9 6 2 7 2 9 . 2 9 5 2 9 . 4 7 7 9 3 0 . 8 2 5 2 9 . 7 9 6 6 0 . 0 6 0 1 0 . 0 0 6 2 0 . 0 3 3 4 0 . 0 3 3 2 2 9 . 1 6 4 9 2 9 . 3 8 2 7 2 9 . 7 7 9 7 0 . 0 5 3 5 0 . 0 0 3 0 0 . 0 3 3 9 0 . 0 3 0 2 从表 2 可 以 看 出 , 通 过 引人 局部 残 差平 方 和 以 及 多 目标 规 划 , 尽 管模 型 的总 残 差 和 略有增 加 , 但是 模型 的 预测 性 能却有所 提 高 . 3 结论 ( l) 多 目标 的局 部残差 平 方 和 定 阶方 法 是残 差 方 差 图定 阶方 法 的推 广 . 运 用 多 目标 的局 部残 差 平 方 和 定 阶方 法 可 以 提 高模型 的预 测 精度 . (2) 用 残差 方 差 图定 阶或 者用 局 部 残差 平 方
·94· 北京科技大学学报 2003年第1期 和的方法定阶,阶数的上界M应该取写小”] 工业出版社,1999 3 Akaike H A.Look at the statistical model identification 之间的某个整数. [J].IEEE Trans,19974,AC-19:716 (3)这种局部残差定阶法与一般的移动平均 4 An Hongzhi,Chen Zhaoguo,Hannan E J.Autocorrelation, 模型的区别在于,后者完全实现定量研究,而前 autoregression and autoregressive approximation [J.Ann 者是将定性分析与定量研究相结合.在复杂的预 Statist,.1982,10:926 测模型中加人一定的定性分析有时候是很有必 5 Sen A,Srivastava M.Regression Analysis:Theory,Me- 要的. thods,and Applications [M].New York:Springer Verlag. 1990 参考文献 6 Hamilton J.Times Series Analysis [M].Prineton:Prineton 1王振龙,时间序列分析[M北京:中国统计出版社, University Press,1994 2000 7 Durbin J,Wasten G.Testing for Serial Correlation in Least 2周汉良,范玉妹.数学规划及其应用M北京:冶金 Squares Regression-II [M].Biometrika,1951 Determination of the Order of An AR(p)Model by Using Local Residual Sum of Squares FAN Yumei.LI Hongjun Applied Science School,University of Science and Technology Beijing,Beijing 100083,China ABSTRACT According to the demand in practice,the method of determining the order in an AR(p)model is ex- tended,and the method of determining the order based on local residual sum of squares is introduced.This method shows that the theory of multiple objective programming and the local character of some sequences can be combin- ed.An example shows that with the method of determining the order based on local residual sum of squares in AR(p),the precision of forecast values increases.The supremum of the order of the AR(p)model is given and prov- KEY WORDS local residual sum of squares;multiple objective programming;AR(p)
. 9 4 . 北 京 科 技 大 学 学 报 2 0 0 3 年 第 l期 和的方 法定 阶 , 阶数 的上 界喊该 取 〔静 : 一〔宁 〕 之 间 的某个 整 数 . (3 ) 这 种局 部残 差定 阶法 与 一般 的移动 平均 模 型 的 区 别在 于 , 后 者 完全 实现 定 量研究 , 而前 者 是将定性 分析 与定 量研 究 相结合 . 在复 杂 的预 测 模 型 中加 人 一 定 的 定性 分 析 有 时候 是 很 有必 要 的 . 参 考 文 献 1 王振 龙 . 时 间序 列分 析 IM I . 北京 : 中 国统计 出版 社 , 2 0 0 0 2 周汉 良 , 范玉妹 . 数学规 划 及其应 用 [M』 . 北京 : 冶 金 工业 出版 社 , 1 9 9 3 A k a i k e H A . L o o k at t h e s 1a t i s t i c a l m o d e l id e nt iif e at i o n 【J ] . I E E E rT an s , 1 9 9 7 4 , A C 一 19 : 7 16 4 A n H o n g z h i , C h e n Z h a o g u o , H an an E J . A u t o e o re l a ti o n , a u ot r e g r e s s i o n a n d a ut o r e gr e s s i v e a PP or x im a ti o n 【J ] . A n n S t at i s t , 19 8 2 , 10 : 9 2 6 5 S e n A , S r i v a s t a v a M . R e gr e s s i o n A n a ly s i s : T h e o yr , M e - t h o d s , an d A PPl i e at i o n s [M ] . N e w OY r k : SP ir n g e r、 乞r l a g , 19 9 0 6 H am il t o n J . T im e s s e r i e s A n a l y s i s [M ] . P r i n e t o n : Pr i n e t o n U n i v e r s i yt P er s s , 1 9 9 4 7 D u r bi n J , W么s t e n G . eT s t i n g of r S e r i a l C o re l at i o n i n L e a s t S qu are s R e gr e s s i o n 一11 [M ] . B i o m etr ik a , 19 5 1 D e t e mr i n a t i o n o f ht e O r d e r o f A n A R 切) M o d e l b y U s i n g L o c a l R e s idu a l S um o f S qu a r e s FA N uY m e i, Ll I l d ” g u n A P P li e d S e i e n c e S e h o o l , nU i v e rs ity o f s e i e n e e an d eT e h n o l o gy B e ij i n g , B e ij i n g 10 0 0 8 3 , C h i n a A B S T R A C T A e e o r d i n g t o t h e d e m an d i n P acr t i e e , ht e m e ht o d o f d e te mr i n i n g ht e o dr e r i n an A R勿) m o d e l i s e x - t e n d e d , an d th e m e t h o d o f d e t e mr i n ign ht e o dr e r b a s e d o n l o e a l er s i d u al s um o f s q u ar e s i s 1 n t r o d u c e d . hT i s m e th o d s h o w s th at ht e t h e o yr o f m u lt i P l e o bj e e t i v e Por g r am m i n g an d th e l o e a l e h a r a c t e r o f s o m e s e q u e n e e s c an b e e o m b i n - e d . A n e x am P l e s h o w s ht at w i ht ht e m e ht o d o f d e t e mr in i n g het o dr e r b a s e d o n l o e a l r e s i d us l s um o f s q u aer s i n A R切) , ht e P r e e i s i o n o f fo r e c a s t v a l u e s i n e r e a s e s . hT e s uP er m um o f ht e o r d e r o f het A R切) m o de l i s g i v e n an d P r o v - e d . K E Y w o R D s l o e a l r e s iau a l s um o f s q u ar e s : m u lt i p l e o bj e c tiv e p or g r a m m i n g : A R勿)