基本思想 设法将约束问题求解转化为无约束问题求解． 具体说：根据约束的特点，构造某种惩罚函数， 然后把它加到目标函数中去，将约束问题的 求解化为一系列无约束问题的求解． 惩罚策略：企图违反约束的迭代点给予很大的 目标函数值．迫使一系列无约束问题的极小点或 者无限地靠近可行域，或者一直保持在可行域 内移动，直到收敛到极小点．

4.1 最优化问题 4.2 背包问题 4.3 带有限期的作业排序 4.5 最小生成树

《数值最优化方法》课程教学课件（讲稿，打印版）信赖域方法

最小二乘法 一、线性最小二乘法 二、非线性最小二乘法 1.改进的 Gauss-Newton-法 2. Levenberger-Marquart-方法

8.1 多阶段决策问题 8.2 最优化原理与动态规划的数学模型 8.3 离散确定性动态规划模型的求解 8.4 离散随机性动态规划模型的求解 8.5 一般数学规划模型的动态规划解法

一般地，线性搜索算法分成两个阶段： 第一阶段确定包含理想的步长因子（或问题最优解）的搜索区间； 第二阶段采用某种分割技术或插值方法缩小这个区间

线性规划是最优化方法中理论完整、方法成 熟、应用广泛的一个重要分支. 线性规划问题的数学模型是将实际问题转化 为一组线性不等式或等式约束下求线性目标函数 的最小(大)值问题,它都可以化为如下标准(矩 阵)形式:

第八章动态规划 一、动态规划 Dynamic Programming 研究多阶段决策的最优化问题的方法。 二、多阶段决策问题含有一个描述过程时序或空间演变的阶段变量,将复杂问题划分成若干阶段,根据“最优性原理”, 逐段解决而最终实现全局最优。 三、经济、管理、工业生产、工程技术等领域,许多问题可归结为多阶段决策问题。 四、一些用线性规划、非线性规划处理有困难的问题,往往可以用动态规划方便地求解。 五、动态规划是美国运筹学家贝尔曼(R. Bellman)等人1959年提出的

线性规划的对偶模型 对偶性质 对偶问题的经济解释－影子价格 对偶单纯形法 优化后分析- 灵敏度分析

第一章 变分法基础 第二章 线性空间 第三章 矢量空间中的最优化 第四章 泛函最优化的全局理论 第六章 变分法中的直接方法 第七章 变分学在最优控制中的应用 第八章 变分学在力学中的应用