12录优性条件 min f(x) s.t.gi()=0 i={1...,m} (1.2) c(x)20 ieI 其中c(工)为约束函数，￡，1分别为等式约来与不等式约来的指标集合。 定义12（线性规划 当目标函数与约束函数都是线性函数时，最优化问题称为线性规划[Lincar Programming],否则 称为非线性规划Nonlinear Programming]。 根搭决策变量、目标西数和要求的不同，最优化还被分为整数规划、动态规划、网络规划、非光滑规 划、随机规划、多目标规划等 对一般的非线性规划问题，式(1.2)的，都是n变量的确定的实值函数，且c一般个数有限。f 与中至少有一个是非线性的。 定义13（可行解、最优解） 式(1.1)中满足约来条件x∈S的x称为问题的可行解[feasible solutionl 若可行解x进一步满足f(z)≤fz),z∈S,则x称为问题的全局最优解[global optimal solutionl 此外，若可行解x满足f(r)≤f(),江∈SnU(),其中U(x)代表包含x的某邻城，则 r称为问题的局部最优解local optimal solution]。 不少问题的目标函数或约束条件可能很复杂，导致找出全局最优解非常困难。这时，目标往往是 求出局部的最优解。而具体的相关研究分为两个方面：一是研究最优解的性质，二是设计有效算法来 获得问题的解。 1.2最优性条件 12.1无约束问题的最优条件 问题的最优解所满足的必要或者充分条件称为最优性条件，它为最优化问题求解算法的设计、分 析提供必不可少的理论基础。对于无约束最优化问题，最优条件的形式较为简洁的： 定理1.4（无约束向愿的极值条件） 一阶必要条件：f(x)在点量处可微，若其为极小值，则又f()=0。 二阶必要条件：f)在点无处二阶可微，若其为极小值，则Vf()=0,且7f()半正定。 二阶充分条件：f(x)在点亚处二阶可微，若7f()=0,且V2f()正定，则其为极小值。 证明一阶必要条件：若f可微，其可在元邻域展开为 f(+at)=f()+avf()t+O(a2) 于是若极小值点Vf(①)≠0，取t=-Vf(),在a充分小时即有f(①)>f(任+a),矛盾。1.2 最优性条件 为 min f(x) s.t. gi(x) = 0 i ∈ E = {1, . . . , m} ci(x) ≥ 0 i ∈ I (1.2) 其中 ci(x) 为约束函数，E, I 分别为等式约束与不等式约束的指标集合。 定义 1.2 (线性规划) ♣ 当目标函数与约束函数都是线性函数时，最优化问题称为线性规划 [Linear Programming]，否则 称为非线性规划 [Nonlinear Programming]。  根据决策变量、目标函数和要求的不同，最优化还被分为整数规划、动态规划、网络规划、非光滑规 划、随机规划、多目标规划等。 对一般的非线性规划问题，式 (1.2) 的 f, ci 都是 n 变量的确定的实值函数，且 ci 一般个数有限。f 与 ci 中至少有一个是非线性的。 定义 1.3 (可行解、最优解) ♣ 式 (1.1) 中满足约束条件 x ∈ S 的 x 称为问题的可行解 [feasible solution]。 若可行解 x ∗ 进一步满足 f(x ∗ ) ≤ f(x), ∀x ∈ S，则 x ∗ 称为问题的全局最优解 [global optimal solution]。 此外，若可行解 x ∗ 满足 f(x ∗ ) ≤ f(x), ∀x ∈ S ∩ U(x ∗ )，其中 U(x ∗ ) 代表包含 x ∗ 的某邻域，则 x ∗ 称为问题的局部最优解 [local optimal solution]。 不少问题的目标函数或约束条件可能很复杂，导致找出全局最优解非常困难。这时，目标往往是 求出局部的最优解。而具体的相关研究分为两个方面：一是研究最优解的性质，二是设计有效算法来 获得问题的解。 1.2 最优性条件 1.2.1 无约束问题的最优条件 问题的最优解所满足的必要或者充分条件称为最优性条件，它为最优化问题求解算法的设计、分 析提供必不可少的理论基础。对于无约束最优化问题，最优条件的形式较为简洁的： 定理 1.4 (无约束问题的极值条件) ♡ 一阶必要条件：f(x) 在点 x¯ 处可微，若其为极小值，则 ∇f(¯x) = 0。 二阶必要条件：f(x) 在点 x¯ 处二阶可微，若其为极小值，则 ∇f(¯x) = 0，且 ∇2f(¯x) 半正定。 二阶充分条件：f(x) 在点 x¯ 处二阶可微，若 ∇f(¯x) = 0，且 ∇2f(¯x) 正定，则其为极小值。 证明 一阶必要条件：若 f 可微，其可在 x¯ 邻域展开为 f(¯x + αt) = f(¯x) + α∇f(¯x) T t + O(α 2 ) 于是若极小值点 ∇f(¯x) ̸= 0，取 t = −∇f(¯x)，在 α 充分小时即有 f(¯x) > f(¯x + αt)，矛盾。 3