第二章优化设计的数学基础 机械优化设计是建立在多元函数的极值 理论基础上 无约束优化问题就是数学上的无条件极 值问题 约束优化问题则是数学上的条件极值问 题
第二章 优化设计的数学基础 • 机械优化设计是建立在多元函数的极值 理论基础上 • 无约束优化问题就是数学上的无条件极 值问题 • 约束优化问题则是数学上的条件极值问 题
多元函数的方向导数与梯度 1.方向导数 1)函数的偏导数就是这个函数对自变量的变化率 二元函数f(x1,x2)在x0(x10,x20)处的偏导数定义为 lim f(x10Dx1,x20)-f(x10,x20) 1 lo Dx1?0 131 o im f(x103 120 Dx2)-f(x10,x20) of ?0 T n元函数f(X)在X0= 0)(0) (0) 2 处 沿各坐标轴的一阶偏导数或变化率分别为 (0) )f(x0),?f(x ox
一.多元函数的方向导数与梯度 1)函数的偏导数就是这个函数对自变量的变化率。 ( ) ( ) 1 2 0 10 20 二元函数f x x x x x , , 在 处的偏导数定义为 ( ) ( ) 1 0 10 1 20 10 20 0 1 1 , , lim x x f f x x x f x x x x D ? ? D - = 禗 ( ) ( ) 2 0 10 20 2 10 20 0 2 2 , , lim x x f f x x x f x x x x D ? ? D - = 禗 ( ) ( ) ( ) ( ) T 0 0 0 n f X X x x x 元函数 在 0 = 轾犏臌1 2 L n 处 沿各坐标轴的一阶偏导数或变化率分别为 ( ) ( ) ( ) ( ) ( ) ( ) 0 0 0 1 1 n f f f x x x 抖 ? 抖 ? L x x x ， ， ， 1. 方向导数
2)二元函数的方向导数 即沿某一方向d的变 化率,定义为 lim f(x1o Dxix20+ Dx2)-f(x103*20 2 褪 Dd? o 3方向导数与偏导数的 x20 2 关系拼 coSg t cOS q O x 几n元函数的方向导数二维空间中的方向 拌 拌 n 拟=x109+排209+L+ cos an= a ? cos gi
2) 二元函数的方向导数 即沿某一方向d 的变 化率，定义为 3.方向导数与偏导数的 关系 O x2 x10 x1 x20 x0 x1 x2 d x d 二维空间中的方向 1 2 ( ) ( ) 0 10 1 20 2 10 20 0 , , lim d x f f x x x x f x x d d D ? ? D + D - = 禗 0 0 0 1 2 1 2 cos cos x x x f f f d x x q q 抖 ? = + 抖 ? 0 0 0 0 0 1 2 1 2 1 cos cos cos cos n n i x x x x x n i i f f f f f d x x x x q q q q = 抖 抖 ? = + + + = 抖 抖 ? L å n元函数的方向导数
2.二元函数的梯度 1)二元函数f(x1,x2)在x0(x10,x20)处的方向导数可写为如下的形式 ps q1 coSq扑 cos gh 2 xo 1x2 q 令押(xo) g1 ro os g 2 称为d方向单位向量 称为函数f(x1,x2)在x0(x10,x20)处的梯度 f(xo) 投影形式 蜒f(xo川|cos(f,d)
2. 二元函数的梯度 1)二元函数 在 处的方向导数可写为如下的形式 ( ) ( ) 1 2 0 10 20 f x x x x x , , 0 0 0 0 1 1 2 1 2 1 2 2 cos cos cos cos x x x x f f f f f d x x x x q q q q 抖 抖 轾 ? 轾 = + = 犏 犏 抖 抖 犏臌 ? 犏犏臌 ( ) ( ) ( ) 0 0 T 1 0 1 2 2 1 2 0 10 20 , , x x f x f f f x f x x x f x x x x x 轾¶ 犏犏¶ 轾抖 押 犏 = 犏 犏¶ 犏臌抖 犏臌¶ 令 称为函数 在 处的梯度 1 2 cos cos d q q 轾 = 犏犏犏臌 称为d方向单位向量 ( ) 0 T 0 x f f x d ¶ = ? ¶ d ( ) ( ) 0 0 cos , x f f x f d ¶ = 蜒 ¶ d 投影形式
2)二元函数梯度的几何解释 vf(xo) 最速上升方向 VfO) 上升方向 最速下降方向 下降方向 变化率为零的方向 梯度方向与等值线的关系
2)二元函数梯度的几何解释 O x2 x1 x0 变化率为零的方向 最速下降方向 下降方向 上升方向 最速上升方向 －f(x0 ) f(x0 ) 梯度方向与等值线的关系
3多元函数的梯度 将二元函数推广到多元函数,对于多元 函数fx)在X处的梯度,可表示为 x 梯度的模 ?f(x0 2 南f 0 x EXn xo
3.多元函数的梯度 • 将二元函数推广到多元函数，对于多元 函数f(x)在X0处的梯度，可表示为 ( ) 0 1 2 0 n f x f f x f x 轾¶ 犏犏¶ 犏犏¶ ? 犏犏¶ 犏犏犏犏¶ 犏甓臌 ?x x M ( ) 0 2 0 1 n i i f f x = 骣¶ ? ç ÷ çç桫 ÷÷ ¶ å x x 梯度的模
二多元函数的泰勒展开 元函数fx)在x0处的泰勒展开 f(x)=f(x)<9Dx+<?(x0)Dx2+L 其中Dx?xxDx2?(xxo2G(xo)称作函数f(xx2)在x处 元函数f(x,x2)在x=x0处的泰勒展开的海赛( Hessian)矩阵 2: Rr,+ f DX2 择f 择f 择2x 短形式+2裤排 2D好拉xDx9于计 Dx,iDx+L 1 ,2 2 其中Dx;?x1x101?xx2x2G(xo)矩阵为对称矩阵 /(o)+a(o x+2 Dx G(o ) Dx +L
二.多元函数的泰勒展开 ( ) 0 一元函数f x x 在 处的泰勒展开 ( ) ( ) ( ) 0 0 2 0 ( ) 1! 2 ! f x f x f x f x x x ⅱ ? = + D + D + L ( ) 2 2 其中D ? D ? x x x x x x 0 0 ， ( ) 1 2 0 二元函数f x x x x , 在 = 处的泰勒展开 ( ) ( ) 0 0 0 0 0 1 2 10 20 1 2 1 2 2 2 2 2 2 2 2 2 1 1 2 2 1 2 1 2 1 , , 1 ! 1 2 2 ! x x x x x f f f x x f x x x x x x f f f x x x x x x x x x 骣ç 抖 ÷ = + D + D ç ÷ ç桫抖 ÷÷ 骣ç抖 ? ÷ + D + D D + D D + ç ÷ ç ÷ ç桫抖 抖 ÷ L 其中D ? D ? x x x x x x 1 1 10 2 2 20 ， ( ) ( ) ( ) ( ) 0 0 1 0 1 2 2 2 2 2 1 1 1 2 1 2 2 2 2 2 2 1 2 T T 0 0 0 ( ) 1 2 ! 1 2 x x x f f f f x x x f f x x x x x x f f x x x x f f 轾抖 轾D = + 犏 犏 犏臌抖 犏犏D 臌 轾抖犏犏¶ 抖 轾D + D D + 轾 犏 犏 犏臌 犏抖 犏犏D 犏 臌 犏臌抖 ¶ = + 袲 + D D + L L x x x x x x G x x 矩阵形式 ( ) ( ) ( ) 0 1 2 0 G x f x x x 称作函数 , 在 处 的海赛 Hessian 矩阵 0 0 2 2 1 2 2 1 x x f f x x x x 抖 = 抖 抖 ( ) G x0 矩阵为对称矩阵
多元函数f(x1,x2,L,xn)在x=x0处的泰勒展开矩阵形式为 f(x)=f(xo)+ (xo) x+Dx G()Dx+L 多元函的梯度?/(xo)簿f T 2 择f Wx2持1x2排1xn 择f ? 海赛矩阵G(xo)=2x1啊x 24n 择f tnx1邦, 1x2 Xo
多元函数 在 处的泰勒展开矩阵形式为 ( ) 1 2 0 , , , n f x x x x x L = ( ) ( ) ( ) T T 0 0 0 1 ( ) 2 f f f x x x x x G x x = + 袲 + D D + L ( ) T 0 1 2 n f f f f x x x 轾抖 ? ? 犏犏臌抖 ? 多元函的梯度 x L ( ) 0 2 2 2 2 1 1 2 1 2 2 2 2 0 2 1 2 2 2 2 2 2 1 2 2 n n n n x f f f x x x x x f f f G x x x x x x f f f x x x x x 轾抖 ? 犏犏¶ 抖 抖 犏犏犏抖 ? = 犏抖 抖 ¶ 犏犏犏犏犏抖 ? 犏犏臌抖 抖 ¶ L L M M M M L 海赛矩阵
例题(一) 求二元函数/(x1,x2)=x2+x3-4x1-2x2+5在x0=0处 函数变化率最大的方向和数值 函数的梯度方向和模f 4 4 ?f(X0) ?f(x0川‖ 骣∫ 喲+秒x2 √4)2+(-2)=25 4 Nf(Xo) 2 /5 PN(x)2/5二鵝 機孑5
函数的梯度方向和模 例题（一） ( ) 2 2 1 2 1 2 1 2 0 , - 4 - 2 5 0 0 T f x x x x x x = + + = 轾犏臌 求二元函数 在x 处 函数变化率最大的方向和数值 ( ) 0 1 1 0 2 2 2 4 4 2 2 2 f x x f f x x 轾¶ 犏 轾 轾 - - ? = = 犏犏 ¶ 犏 犏 犏¶ 犏 犏 - - 犏 臌 臌 臌¶ x x ( ) ( ) ( ) 2 2 2 2 0 1 2 4 2 2 5 f f f x x ? + = - + - = x 骣 骣 珑珑桫 桫 抖 抖 鼢鼢鼢 ( ) ( ) 0 0 4 2 2 5 2 5 1 5 f f 轾- 犏 轾 犏 犏- Ñ - = = = 臌 犏 Ñ 犏犏- 犏臌 x p x
例题(二) 求二元函数 f(x1,x2)=x2+x2-4x1-2x2+5 在x0 0=点处的二阶泰勒展开式 二阶泰勒展开式为 f∫(x12x2)》f(x0) +?f(x0)(Xx0)+方(X-x0)G(X0)(X-X0)
例题（二） ( ) 求二元函数 在 点处的二阶泰勒展开式 2 2 1 2 1 2 1 2 10 0 20 , 4 2 5 2 1 f x x x x x x x x = + - - + 轾 轾 = = 犏 犏 犏 犏 臌 臌 x 二阶泰勒展开式为 ( ) ( ) ( ) ( ) ( ) ( )( ) 0 0 0 G x 1 2 0 T 0 0 , 1 2 f x x f f » + ? + - - x x x x x x x x