正在加载图片...
故由4°知,点(0,0,0,0)不是极值点。所以,函数f(x)无极值。 §3下降法 对于无约束问题(1)的求解思路,根据前述分析,通常都采用使目标函数逐次下降的搜索方法 在一维搜索的基础上,对于搜索方向s4选择的不同方式,就得到各种不同的方法。下面介绍几种常 见的方法。 1°最速下降法(梯度法) 取s4=-Vf(x3),则在精确一维搜索之下便有 f(x-a vf(x=mn f(x-avf(x ) n vf(x) 它因目标函数局部下降最快而得名。对之有以下收敛结果 定理9设f(x)具连续一阶偏导数,给定x°∈R",f(x°)=a,假定水平集 sa={x|f(x)≤a}有界,令{x}是由最速下降法产生的点列,则{x}的每一个聚点x满足 f(x)=0。 证:显然f(x3)严格下降,故有极限,记mf(x2)=f”,由f(x3)的严格单调性知,对{x*} 的任一收敛子列{x},亦有lmf(x+)=f,设x4→x若Vf(x)≠0,则对适当小的>0, 有 f(x -avf(x))<f(x)=f 从而由连续性,必有充分接近x的x∈{x3},使 f(x)=f(x5-2V(x5)sf(x5-v(x5)<fx)=f 但x∈{x}{x4},故必有f(x4)≥f,矛盾。因此,必有Vf(x)=0。 由定理6知,Vf(x4)s4=-Vf(x)Vf(x3)=0。即相继两次迭代中,搜索方向是正交 的,这使得最速下降法通过极小点的路线是锯齿形的,并且越靠近极小点步长越小,收敛越慢。这 182182 故由 4°知,点(0,0,0,0)不是极值点。所以,函数 f (x) 无极值。 §3 下降法 对于无约束问题(1)的求解思路,根据前述分析,通常都采用使目标函数逐次下降的搜索方法。 在一维搜索的基础上,对于搜索方向 k s 选择的不同方式,就得到各种不同的方法。下面介绍几种常 见的方法。 1° 最速下降法(梯度法) 取 ( ) k k s = −f x ,则在精确一维搜索之下便有     = −  −  = −  + ( ) ( ( )) min ( ( )) 1 k k k k k k k k k x x f x f x f x f x f x     (16) 它因目标函数局部下降最快而得名。对之有以下收敛结果: 定理 9 设 f (x) 具连续一阶偏导数,给定  x n  R , ( ) =   f x ,假定水平集 { | ( ) } s = x f x  有界,令{ k x }是由最速下降法产生的点列,则{ k x }的每一个聚点 * x 满足 ( ) 0 * f x = 。 证: 显然 ( ) k f x 严格下降,故有极限,记 * lim f (x ) f k k = → ,由 ( ) k f x 的严格单调性知,对{ k x } 的任一收敛子列{ i k x },亦有 * lim f (x ) f i k i = → ,设 * x x i k → ,若 ( ) 0 * f x  ,则对适当小的   0 , 有 * * * * f (x − f (x ))  f (x ) = f 从而由连续性,必有充分接近 * x 的 i k x { } i k  x ,使 i i i k k k f x = f x −  + ( ) ( 1 * * f (x )) f (x f (x )) f (x ) f i i i k k k   −   = 但 { } { } 1 k k k x x x i+  i  ,故必有 * ( ) 1 f x f i k  + ,矛盾。因此,必有 ( ) 0 * f x = 。 由定理 6 知, ( ) ( ) ( ) 0 1 1  = −  = k+ T k k+ T k f x s f x f x 。即相继两次迭代中,搜索方向是正交 的,这使得最速下降法通过极小点的路线是锯齿形的,并且越靠近极小点步长越小,收敛越慢。这
<<向上翻页向下翻页>>
©2008-现在 cucdc.com 高等教育资讯网 版权所有