无约束规刘的甚本算法 下降方向选择方法 一算法分类 1.最速下降法 梯度法S=-f(X) 2.共轭梯度法（包含多种方法）—梯度法的修正 3.牛顿法 s=-fx(x) f(X+S)=f(X)+VfX'·S +S72f(X)S+o(S2)<0 牛顿法特点：二次函数1次收敛；单步迭代计算量大，且要 求海森矩阵可逆。无约束规划的基本算法 下降方向选择方法——算法分类 ( ) ( ) 0 ( ) ( ) ( ) 2 2 +  +  + = +   S f X S o S f X S f X f X S T T 1. 最速下降法——梯度法 ( ) k k S = − f X 2. 共轭梯度法 (包含多种方法)——梯度法的修正 3. 牛顿法  ( ) ( ) 1 k 2 k k S = −  f X f X − 牛顿法特点：二次函数1次收敛；单步迭代计算量大，且要 求海森矩阵可逆