其中函数(x)具有一阶连续偏导数 人们在处理这类问题时，总希望从某一点出发，选择一个目标 函数值下降最快的方向，以利于尽快达到极小点.正是基于这样 种愿望，早在1847年法国著名数学家Cauchy提出了最速下降法 后来，Cury等人作了进一步的研究.现在最速下降法已经成为众 所周知的一种最基本的算法，它对其他算法的研究也很有启发作 用，因此在最优化方法中占有重要地位.下面我们先来讨论怎样选 择最速下降方向. 我们知道，函数(x)在点x处沿方向d的变化率可用方向 导数来表达，对于可微函数，方向导数等于梯度与方向的内积，即 Df(x;d)=Vf(x)'d (10.1.2) 因此，求函数f(x)在点x处的下降最快的方向，可归结为求解下 列非线性规划： min Vf(x)'d S.t ds1 (10.1.3)其中函数 具有一阶连续偏导数. 人们在处理这类问题时,总希望从某一点出发,选择一个目标 函数值下降最快的方向,以利于尽快达到极小点.正是基于这样一 种愿望,早在1847年法国著名数学家Cauchy提出了最速下降法. 后来,Curry等人作了进一步的研究.现在最速下降法已经成为众 所周知的一种最基本的算法,它对其他算法的研究也很有启发作 用,因此在最优化方法中占有重要地位.下面我们先来讨论怎样选 择最速下降方向. 我们知道,函数 在点 处沿方向 的变化率可用方向 导数来表达,对于可微函数,方向导数等于梯度与方向的内积,即 f (x) f (x) x d Df x d f x d T ( ; ) =  ( ) (10.1.2) 因此,求函数 在点 处的下降最快的方向,可归结为求解下 列非线性规划: f (x) x . 1 min ( )   st d f x d T (10.1.3)