《最优化方法》课程教学资源（PPT课件）无约束最优化问题的最优性条件（刘二永）

1.1 最优化问题简介 1.2 最优化方法概述

4.1 最速下降法 4.2 牛顿法 4.3 共轭方向法与共轭梯度法 4.4 拟牛顿法

《最优化方法》课程教学资源（PPT课件）凸集的分离（2/2）（刘二永）

《最优化方法》课程教学资源（PPT课件）收敛性分析（刘二永）

《最优化方法》课程教学资源（PPT课件）凸集与凸函数（1/2）（刘二永）

《最优化方法》课程教学资源（PPT课件）第六章 二次规划（刘二永）

一般地，线性搜索算法分成两个阶段： 第一阶段确定包含理想的步长因子（或问题最优解）的搜索区间； 第二阶段采用某种分割技术或插值方法缩小这个区间

基本思想 设法将约束问题求解转化为无约束问题求解． 具体说：根据约束的特点，构造某种惩罚函数， 然后把它加到目标函数中去，将约束问题的 求解化为一系列无约束问题的求解． 惩罚策略：企图违反约束的迭代点给予很大的 目标函数值．迫使一系列无约束问题的极小点或 者无限地靠近可行域，或者一直保持在可行域 内移动，直到收敛到极小点．

一阶必要条件 定理1:若(1)x*是等式约束问题的局部最优解; (2)f(x)与c(x)(i=1,2,)在x的某邻域内连续可微; (3)c,(x)(i=1,2,)线性无关;