D0I:10.13374/i.issn1001-053x.2000.06.023 第22卷第6期 北京科技大学学报 VoL22 No.6 2000年12月 Journal of University of Science and Technology Beijing Dec.2000 带有参数的Perry-Shanno无记忆 拟牛顿方法的收敛性 谢铁军》陈明文)程涛2》 1)北京科技大学应用科学学院，北京1000832)北京航空航天大学动力工程系，北京100083 摘要分析了带有可调参数的Pery-Shanno无记忆拟牛顿方法的收敛性.证明了对于非凸 目标函数，在非精确搜索条件下，参数在一定范围内，算法是收敛的 关键词非凸目标函数；非精确线搜缴：Perry-Shanno无记忆拟牛顿方法：收敛性 分类号 0221.2 文献标识码：A 1 无记忆拟牛顿方法的收敛性 函数，在Armijo线搜索或Wolfe线搜索条件下， 算法收敛；对于凸目标函数，在Wolfe线搜索条 考患无约束最优化问题 件下也是收敛的.但是对非凸目标函数，目前 minf(x) x∈R (1) 尚无统一的收敛结果 在研究迭代公式(2(4)时，我们注意到B 其中，f:R一R是R上的连续可微函数.Pery- 和H,可以表述成更一般的形式： Shanno无记忆拟牛顿方法是由Perry和Shanno (8) 首先提出的(Perry J M.Northwestern University, Ba-送 1997),以后得到进一步发展.这种方法的迭代 时云m SkSE- 公式如下： a46s+⅓s） 1 (9) x=xx+d d1=-Hg+1=-B1g1 (2) 其中，a心0为可调参数. d,=-g1 由a0及(T)式容易证明：由(8)确定的B1 其中，P0为搜索步长，4为搜索方向，g=口fx) 对称正定且满足拟牛顿方程：在精确线搜索条 为fx)在x点处的梯度， 件下，由(2)，（⑧）和(9)式所确定的d4满足共轭条 +x- B1= T5P好 (3) 件R(g+1一g0.我们称由(2)，(8)和(9)式所构 成的迭代公式为带有可调参数的无记忆拟牛顿 H1=B=I+2-（ aPy+y用 (4) 方法，本文将讨论对于非凸目标函数，在Wolfe s=x1一x=Ad,h=g+1-g,I为n×n单位阵 线搜索条件下，带有可调参数的无记忆拟牛顿 在Wolfe线搜索条件下，即满足 方法的收敛性， fx+d)≤f八x+cgd (5) gx+d)rd≥cgde (6) 2主要结果 其中，0<c<c2≤1/2.由(6)可得： 本文假设(H): ys2(1-c)(-gtd)>0 (I)fx)连续可微，7fx)满足Lipschitz条 或 ys2(1-c(-gs)>0 (7) 件：l‖ロfy)-7fz)l≤Lly-zl 对Wolfe线搜索，由(T)式可证明B,对称正 (2)水平集={fx)sfx)}有界， 定且满足拟牛顿方程，关于Pery-Shanno拟牛 由B,H对称正定性可得到 顿方法的收敛性有下列结果：对于一致凸目标 引理1 2000-01-25收稿谢铁军男，37岁，讲师 g业s(B） giHigt (10)第 卷 第 期 年 月 北 京 科 技 大 学 学 报 介 忱 。 带有参数的 一 无记 ， 拟牛顿方法 的收敛性 谢铁军 ” 陈明文 ‘ ， 程 涛 ， 北京科技大学应用科学学院 ， 北京 北京航空航天大学动力工程系 ， 北京 摘 要 分析 了带有可 调参数 的 了一 无记忆拟 牛顿方法 的收敛性 证 明 了对于 非凸 目标 函数 ， 在非精确 搜索条件下 ， 参数在一定 范 围内 ， 算法是收敛 的 关键词 非 凸 目标 函数 非精确线搜索 一 无记忆拟牛顿方法 收敛性 分 类号 文献标识码 无记忆拟牛顿方法 的收敛性 考虑无约 束最优化 问题 运八才 其 中 ， 尸一 是 尸 上 的连续可微 函 数 一 无 记忆拟 牛 顿方法是 由 和 首先提 ， 出 的伊 叮 ， 以后得到进一 步发展 这种方法 的迭代 公式 如 下 函数 ， 在 。 线搜索或 线搜索条件下 ， 算法 收敛 对 于 凸 目标 函 数 ， 在 线搜索条 件下 也 是 收敛 的【 但是对 非 凸 目标 函数 ， 目前 尚无统一 的收敛 结果 【， 在研究迭代 公式 曰 时 ， 我们注 意到 凡 ， 和 从 十， 可 以表述成更一 般 的形 式 凡 可 几口一 从 十， 动 卜 】 一尤几减威 ‘ 一琉 争 一蹋乡 一 ， 其中汉户心 为搜索步长 ， 为搜索方向 ， 乡 甲刀成 为厂以 在 尤‘ 点处的梯度 ， 凡 月卜 ， 毗 二 区上 、 理互一业山立 。 ， 办 ‘ ’ 户 仁 咖 。 树 ‘ 却 乏 ， 试 ， ， 。 丁阮平 ’ 甲‘ 而 一石平、缈训 ， 四 孙 一丸 又威 ， 乡 ，一乳 为 单位阵 在 线搜索条件下 ，即瓜满足 厂以 孟玖诚 ‘ 厂以仍 ，又翻汉 琪时又威 之 域峨 其中 ， 勺 ‘ 由 可得 户 七 一 负 凡 一多峨 或 之 一 一沙 对 线搜索 ， 由 式可证 明 凡 ， 对称正 定 且满足拟牛顿方 程 关于 一 拟 牛 顿方法 的收敛性有 下 列 结 果 对 于 一 致 凸 目标 其 中声户心 为可调参数 由 “ 户心 及 式容 易证 明 由 确 定 的 凡 ， 对称 正 定且满足拟 牛顿方程 在 精确 线搜索条 件下 ， 由 ， 和 式所确 定 的 峨 满足共扼 条 件 呱 ，俪 ，一承 我们 称 由 ， 和 式所构 成 的迭代公式为带有可调 参数 的无记忆拟牛顿 方法 本文将 讨 论对 于 非 凸 目标 函 数 ， 在 线搜索 条件下 ， 带有 可 调 参数 的无记 忆拟 牛顿 方法 的收敛性 主要结果 本文假设 功 功 连 续 可 微 ， 甲厂以 满 足 条 件 甲厂沙一 甲尹仕 ‘ 引沙一 水平集 沙 ‘ 了卜 有 界 由凡从 对称正定性可得到 引理 一 一 收稿 谢铁军 男 ， 岁 ， 讲师 渠粤 、 试刀。 」 店 DOI ：10．13374／j ．issn1001－053x．2000．06．023