最优性条件ioo0072万00308iooaoun1.．一般非线性优化最优解存在性问题2.无约束问题的最优性条件3.等式约束问题的最优性条件4.不等式约束问题的最优性条件5.一般约束问题的最优性条件6.凸优化问题的最优性条件工程优化方法及其应用2025/10/71/26
工程优化方法及其应用 2025/10/7 1/26 最优性条件 1. 一般非线性优化最优解存在性问题 2. 无约束问题的最优性条件 3. 等式约束问题的最优性条件 4. 不等式约束问题的最优性条件 5. 一般约束问题的最优性条件 6. 凸优化问题的最优性条件
1一般非线性规划最优解存在性定理皖111·3D601110一般非线性规划有如下形式10025002m3080iooaonmin f(x)xeSh,(x)= 0, j = 1,.",m-Yg;(x)≤0,i =1,...,t其中f(x),h;(x),g;(x)均为n元函数，其中至少有一个是非线性函数。VxES称为其可行解。S称为约束区域（可行域）2025/10/7工程优化方法及其应用2/26
工程优化方法及其应用 2025/10/7 2/26 一般非线性规划有如下形式 min ( ) S f x x S称为约束区域（可行域） = = = = g x i t h x j m x i j ( ) 0, 1, , ( ) 0, 1, , S 一个是非线性函数。 其中f (x),hj (x), gi (x)均为n元函数，其中至少有 x S 称为其可行解。 1. 一般非线性规划最优解存在性定理
（1）全局最优解不一定存在门Example:101 for r = 0, S =[0, 1]]f(c)cin0<≤1(2)Weierstrass定理：如果可行域S是Rn中的非空的有界闭集，f(x)在S上连续，则f(x)在S中至少有一个全局极小点（极大点）：工程优化方法及其应用2025/10/73/26
工程优化方法及其应用 2025/10/7 3/26 （1）全局最优解不一定存在. （2） Weierstrass定理：如果可行域S是Rn中 的非空的有界闭集，f(x)在S上连续，则f(x)在S 中至少有一个全局极小点（极大点）
2.无约束问题的最优性条件11110b01110o本节讨论无约束问题：1001215000min f(x)(3.1)eR"定理1（一阶必要条件）设x是(3.1)的一个局部极小点，且f(x)在x的邻域上连续可微，则f(x"）=0，即af(x*)af(xVf(x*)= f(x*) =0ax.ax称满足上式的点为驻点（稳定点））.实际上，在区域内部，极值点必为驻点，而驻点却不一定是极值点工程优化方法及其应用2025/10/74/26
工程优化方法及其应用 2025/10/7 4/26 2.无约束问题的最优性条件 定理1 （一阶必要条件） 称满足上式的点为驻点（稳定点）.实际上，在区域内 部，极值点必为驻点，而驻点却不一定是极值点. 连续可微，则 ，即 设 是（ ）的一个局部极小点，且 在 的邻域上 '( ) 0 3.1 ( ) * * * f x = x f x x 0 ( ) , ( ) ( ) '( ) T * 1 * * * = = = xn f x x f x f x f x ， min n f (x) （3.1） xR 本节讨论无约束问题：
定理2（二阶必要条件）7000设x是(3.1)的一个局部极小点，且f(x)在x的血邻域上二阶连续可微，则(1) Vf(x")= 0;(2)√2f(x*)为正定阵或半正定阵。定理3（极值存在的二阶充分条件）设f(x)在x的邻域上二阶连续可微，且Vf(x)=0,V2f(x*)是正定矩阵，则x"为(3.1)一个局部极小点工程优化方法及其应用2025/10/75/26
工程优化方法及其应用 2025/10/7 5/26 定理2 （二阶必要条件） 邻域上二阶连续可微，则 设x *是(3.1)的一个局部极小点，且f (x)在x *的 2 ( ) . 1 ( ) 0 2 * * （ ） 为正定阵或半正定阵 （ ） ； f x f x = 定理3（极值存在的二阶充分条件） ( ) (3.1) . ( ) ( ) 0 2 * * * * 是正定矩阵，则 为 一个局部极小点 设 在 的邻域上二阶连续可微，且 ， f x x f x x f x =
一般来说，目标函数的稳定点不一定是极小点但对于目标函数是凸函数的无约束优化问题稳定点局部极小点=全局极小点定理4（凸函数取得极值的充要条件）设f(x)是一阶连续可微的凸函数，则x*是min f(x的全局极小点的充要条件是Vf(x*）=02025/10/7工程优化方法及其应用6/26
工程优化方法及其应用 2025/10/7 6/26 一般来说，目标函数的稳定点不一定是极小点， 但对于目标函数是凸函数的无约束优化问题： 稳定点=局部极小点=全局极小点 定理4（凸函数取得极值的充要条件） * * ( ) min ( ) ( ) 0. f x x f x = f x 设 是一阶连续可微的凸函数， 则 是 的全局极小点的充要条件是
例1讨论下列函数是否存在极值。f(X)=-5x2 -6x22 - 4x3i + 4xix2 +4xx3解：令 Vf(X)=求得驻点o0a0X =(x1,x2,x) =(0,0,0)驻点处的Hessian矩阵为(-10440V2 f (0, 0, 0) =4-120-84由于Hessian矩阵负定，故点X=(0,0,O)为极大点，对应的极大值为f(0,0,0)=0。2025/10/7工程优化方法及其应用7/26
工程优化方法及其应用 2025/10/7 7/26 例1 讨论下列函数是否存在极值。 2 2 2 1 2 3 1 2 1 3 f X x x x x x x x ( ) 5 6 4 4 4 = − − − + + 解： 令 = f X( ) 0 求得驻点 ( 1 2 3 , , 0, 0, 0 ) ( ) T T X x x x = = 驻点处的Hessian矩阵为 ( ) 2 10 4 4 0, 0, 0 4 12 0 4 0 8 f − = − − 由于Hessian矩阵负定，故点 (0, 0, 0)T X = 为极大点， 对应的极大值为 f (0, 0, 0) 0 =
3.等式约束问题的一阶最优性条件11i011o对于等式约束的极值问题iooao100125000min f(x)(3.2)s.t. h(x)= 0,i=1,2,...m可以用拉格朗日乘数法求解。即引入拉格朗日函数L(x, a)= f(x)+aTh(x) = f(x)+)+Za,h(x)i-1其中 h(x)=(h(x),h(x),...,hm(x),a=(a, 2, ..., am)T2, 称为对应于h(x)的拉格朗日乘子。2025/10/7工程优化方法及其应用8/26
工程优化方法及其应用 2025/10/7 8/26 3. 等式约束问题的一阶最优性条件 对于等式约束的极值问题 min ( ) . . ( ) 0, 1, 2, i f x s t h x i m = = 可以用拉格朗日乘数法求解。即引入拉格朗日函数 L x f x h x ( , ( ) ( ) ) = + 1 ( ) ( ) m i i i f x h x = = + 其中 1 2 1 2 ( ) ( ( ), ( ), , ( )) , ( , , m h x h x h x h x = = , ) , m i 称为对应于 ( ) i h x 的拉格朗日乘子。 (3.2)
定理5（一阶必要条件）(3.2）的局部极小点，f(x)设x是等式约束问题和h,(x)(i=1,,m)在x*的某邻域内连续可微若向量组Vh,(x")(i=1,·,m)线性无关，则存在乘子向量"=(",,")，使得V,L(x*,a*)= 0即Vf(x*)+Za"Vh,(x*) = 0.i-1定理5表明：等式约束极值问题可转化为求满足条件mZa,Vh,(x) = 0Vf(x)+的x*和*。i=1h(x)=0,i=1,2,:::,m2025/10/7工程优化方法及其应用9/26
工程优化方法及其应用 2025/10/7 9/26 定理5（一阶必要条件） ( ) ( ) 0. ( , ) 0 ( , , ) ( )( 1, , ) ( )( 1, , ) . 3.2 ( ) * 1 * * * * * * T 1 * * * * + = = = = = = f x h x L x h x i m h x i m x x f x i m i x m i i 即 量 ，使得 量 组 线性无关，则存在乘子向 和 在 的某邻域内连续可微若 向 设 是等式约束问题（ ）的局部极小点， 定理5表明：等式约束极值问题可转化为求满足条件 1 ( ) ( ) 0 ( ) 0, 1, 2, , m i i i i f x h x h x i m = + = = = 的 x 和
例3求解下列非线性规划问题min f(X)= x2 - xx2 + x2 -10x 4x2 +60 s.t. h(X)=x +x -8 =0皖DOOA解：构造拉格朗日函数令L(x,2) = x2 - xx2 +x22 -10x) -4x, +60+ 2(x +x -8)aL由=2x -x2 +-10= 0解得X*=5,X*=3,*=3.Oxf（X）的Hessian矩为aL:-x+2x+-4=02-10x2H(X)=正定2aLxi+x,-8=0an故f（X）为严格凸函数所以X*=(5,3)为全局最优解，最小值为1 f(X*)=172025/10/7工程优化方法及其应用10/26
工程优化方法及其应用 2025/10/7 10/26 例3 2 2 1 1 2 2 1 2 1 2 min ( ) 10 4 60 . . ( ) 8 0 f X x x x x x x s t h X x x = − + − − + = + − = 求解下列非线性规划问题 解：构造拉格朗日函数 2 2 1 1 2 2 1 2 1 2 = − + − − + + + − x x x x x x x x 10 4 60 ( 8) 1 2 1 2 10 0 L x x x = − + − = 由 1 2 2 2 4 0 L x x x = − + + − = 1 2 8 0 L x x = + − = 解得 1 2 X X 5, 3, 3. = = = 令 L(x,) f（X）的Hessian矩为 2 1 ( ) 1 2 H X − = − 正定 故f（X）为严格凸函数， 所以 X (5,3) = 为全局最优解， f X( ) 17. 最小值为 =