入u(nyk)+4yv( 令l=Sh,v=Hyk,则得 k (Hky yE 所以有Hk=H Hkey Hk DkH,yA 这就是DFP变尺度法的计算公式 i)BFGS算法 它是由 Broyden Fletcher Goldfarb和 Shanno等人于1970年给出的,公式如下 H1=H1+5=-B1A+S4(5=B)-(-B (31) (K yR) (30)式与(31)式关系密切,若将(30)式中的S与y互换,并将H换成Bk,就得(31)式的正修正 B I=Hk BkI= B Dy:: B SK 反之亦然。 可以证明,(30)式与(31)式都满足拟 Newton方程且具有正定性的传递性,由它们产生的点 列超线性收敛,特别是BFGS算法比DFP算法更具有数值稳定性和存储量少的特点,即使对精确度 不高的不精确一维搜索,也能证明它是超线性收敛的,因此,得到广泛应用。 (ⅲ)强拟 Newton算法32 由拟 Newton条件(22)的推导可知,如果x4-1,…,x与x4+也很接近的话,则在(21)中 令x=x1,j=k,k-1,k-t,便成立 [ f(xr ivf(x)-vf(x]=x J k.k-t(32) 可以想见,如果令H,满足 186186 k k k k T k k T k u(u y ) + v(v y ) = s − H y 令 k k k u = s , v = H y ,则得 k T k k k k T k k s y (H y ) y 1 , 1 − = = 所以有 k k T k k T k k k k T k T k k k k y H y H y y H s y s s H +1 = H + − (30) 这就是 DFP 变尺度法的计算公式。 (ⅱ)BFGS 算法 它是由 Broyden Fletcher Goldfarb 和 Shanno 等人于 1970 年给出的,公式如下: 1 2 ( ) ( ) ( ) ( ) k T k T k k k k k T k k T k T k k k k T k k k k k k s y y s H y s s s y s H y s s s H y H H − − − + − + = + (31) (30)式与(31)式关系密切,若将(30)式中的 k s 与 k y 互换,并将 Hk 换成 Bk ,就得(31)式的正修正 1 1 1 − Bk+ = Hk+ : k k T k k T k k k k T k T k k k k s B s B s s B s y y y B +1 = B + − (31) 反之亦然。 可以证明,(30)式与(31)式都满足拟 Newton 方程且具有正定性的传递性,由它们产生的点 列超线性收敛,特别是 BFGS 算法比 DFP 算法更具有数值稳定性和存储量少的特点,即使对精确度 不高的不精确一维搜索,也能证明它是超线性收敛的,因此,得到广泛应用。 (ⅲ)强拟 Newton 算法[32] 由拟 Newton 条件(22)的推导可知,如果 1 1 , , k− k−t k+ x x 与x 也很接近的话,则在(21)中, 令 x x , j k, k 1, k t, j = = − − 便成立 f x f x f x x x j k k t k k j k j − = − = − + − + + [ ( )] [ ( ) ( )] , , , 2 1 1 1 1 (32) 可以想见,如果令 Hk+1 满足