• 非线性规划及其最优性条件 • 对偶理论 • 外点罚函数法 • 内点罚函数法

本章对目前常用的几种智能优化计算算法作简单介绍，以使读者对它们有个基本认识。内容包括神经网络、遗传算法、模拟退火算法和神经网络混合优化学习策略。 10.1 人工神经网络与神经网络优化算法 10.2 遗传算法 10.3 模拟退火算法（simulated annealing，SA） 10.4 神经网络权值的混合优化学习策略

【学术论文】粒子群优化方法在动态优化中的研究现状

梯度法和共轭梯度法 1.无约束最优化问题 2.梯度法 3.共轭梯度法

本章对目前常用的几种智能优化计算算法作简单介绍，以使读者对它们有个基本认识。内容包括神经网络、遗传算法、模拟退火算法和神经网络混合优化学习策略

一般地，线性搜索算法分成两个阶段： 第一阶段确定包含理想的步长因子（或问题最优解）的搜索区间； 第二阶段采用某种分割技术或插值方法缩小这个区间

动态规划是一类多阶段决策过程的最优化方法。 基本方法是：按阶段把一个大问题化成一系列相互有联系的子问题，建立相应的递推公式，解一系列的子问题，最后求得整个问题的最优解

§4.1 最速下降法(Cauchy法) §4.2 Newton法（二阶方法） §4.3 共轭方向法 §4.4 共轭梯度法 §4.5 拟Newton法（变尺度法）

3.1 搜索算法结构 3.2 搜索区间的确定 3.3 区间消去法－黄金分割法 3.4 二分法 3.5 多项式近似法－二次插值法

线性规划是最优化方法中理论完整、方法成 熟、应用广泛的一个重要分支. 线性规划问题的数学模型是将实际问题转化 为一组线性不等式或等式约束下求线性目标函数 的最小(大)值问题,它都可以化为如下标准(矩 阵)形式: