第三章等式约束的优化 §1最优性条件 考虑具有等式约束的最优化问题: min f(x) sth,(x)=0j=1… 其中∫:R”→R,h:R”→R.这类问题的求解方法在数学分析中已解决,即 Lagrange乘数法 先作简要复述。 定理1(一阶必要条件)设∫、b,j=1…,在可行点x的某个邻域0(x,6)可微,向量组 Vh(x)j=1…,l线性无关,若x是(1)的局部最优解,则存在实数,j=1…,l使得 V(x)+∑Vh(x)=0 (2) 定义(n+l)元函数 L(r, d)=f(x)+/h(x) 称为 Lagrange函数,其中λ=(λ,…,1)称为 Lagrange乘子,h(x)=(h1(x)…,h(x)2。可以证 明(2)成立。这只需考虑函数L(x,A)在无约束条件下取极值的必要条件。 VL(x,1)=V(x)+∑Vh(x) V2L(x,A)=h(x)=(h1(x)…,h(x) 由VL(x',x)=0,立得(2)式且有 h,(x)=0,j=1,… 它表明x必须满足(1)之约束条件 联立(2)、(3)所得的解称为 Lagrange函数的稳定点。 定理2(二阶充分条件)设x是(1)的可行解,f、h,J=1…二次可微,若存在向量x∈R 使VL(x,)=0,且L(x,A)的Hese矩阵H(x,λ)正定,则x是(1)的严格局部最优解。 191191 第三章 等式约束的优化 §1 最优性条件 考虑具有等式约束的最优化问题：    st h x = j = l f x j . . ( ) 0 1, , min ( )  （1） 其中 f R R : n → ，h R R n j : → .这类问题的求解方法在数学分析中已解决，即 Lagranger 乘数法， 先作简要复述。 定理 1（一阶必要条件） 设 f 、 h j l j , = 1,, 在可行点 x *的某个邻域 0( , ) * x  可微，向量组 h x j l j ( ), 1, ,  * =  线性无关，若 x *是（1）的局部最优解，则存在实数 j l j , 1, ,  * =  使得 =  +  = l j j j f x h x 1 * * * ( )  ( ) 0 （2） 定义（n+ l )元函数 L(x, ) f (x) h(x) T  = +  称为 Lagrange 函数，其中 T l ( , , )  = 1   称为 Lagrange 乘子， T l h(x) (h (x), ,h (x)) = 1  。可以证 明（2）成立。这只需考虑函数 L(x,) 在无约束条件下取极值的必要条件。 =  =  +  l j x j j L x f x h x 1 ( ,) ( )  ( ) T l L(x, ) h(x) (h (x), ,h (x))   = = 1  由 ( , 0 * * L x ）= ，立得（2）式且有 h x j l j ( ) = 0, = 1,, （3） 它表明 x *必须满足（1）之约束条件。 联立（2）、（3）所得的解称为 Lagrange 函数的稳定点。 定理 2（二阶充分条件） 设 x *是（1）的可行解， f 、h j l j , = 1,, 二次可微，若存在向量 l  R *  ， 使 ( , ) 0 * * L x  = ，且 L(x,) 的 Hesse 矩阵 H(x * , *） 正定，则 x *是（1）的严格局部最优解