第五章无约束最优化 53 Newton法及其修正 Newton法的改进 (1)为减小工作量,取m(正整数),使每m次选代使用同一个 Hese阵,迭代公式变为 x(knti+=x(km+- Vf(x(km)I-Vfllkmti 产=0,1,2,…,m-l,k=0,1,2, 特点:收速度随m的增大而下降 mF=1的 Newton法,m∞即线性收敛。 (2)带线性搜索的 Newton法: 在 Newton选代中,取酗=-Vfx}Wf(x), 加入线性搜索: min fle)+k) 求得k,x+1=x+kdr8 特点:可改善局部收敛性,当为函数上升方向时,可向负 方向搜索,但可能出现士均非下降方向的情况第五章 无约束最优化 5.3 Newton法及其修正 二、 Newton法的改进： (1)为减小工作量，取m（正整数），使每m次迭代使用同一个 Hesse阵，迭代公式变为： x (km+j+1)=x(km+j) -[▽2 f(x(km))] -1 ▽f(x(km+j)) j=0,1,2, …,m-1 , k=0,1,2, … 特点：收敛速度随m的增大而下降 m=1时即Newton法， m→∞ 即线性收敛。 (2)带线性搜索的Newton法： 在Newton迭代中，取d (k)= -[▽2 f(x(k)) ]-1 ▽f(x(k)) , 加入线性搜索：min f(x(k)+λk d (k)) 求得λk , x(k+1)=x(k)+λkd (k) 特点：可改善局部收敛性，当d (k)为函数上升方向时，可向负 方向搜索，但可能出现±d (k)均非下降方向的情况