最优化方法 刘二永
最优化方法 刘二永
第一章 基本概念
第一章 基 本 概 念
§1.1最优化问题 简介
§ 1.1 最优化问题 简介
最优化是一门应用十分广泛的学科,它研究 在有限种或无限种可行方案中挑选最优方案,构造 寻求最优解的计算方法。达到最优目标的方案,称 为最优方案,搜索最优方案的方法,称为最优化方 法。这种方法的数学理论,称为最优化理论 实际上最优化方法已广泛应用于空间技术、 军事科学、电子工程、通讯工程、自动控制、系统 识别、资源分配、计算数学、经济管理等等领域。 最优化方法包括的内容很广泛,如线性规划、 非线性规划、整数规划、动态规划、多目标规划、 组合优化等等。本教程重点介绍非线性规划
最优化是一门应用十分广泛的学科，它研究 在有限种或无限种可行方案中挑选最优方案，构造 寻求最优解的计算方法。达到最优目标的方案，称 为最优方案，搜索最优方案的方法，称为最优化方 法。这种方法的数学理论，称为最优化理论。 实际上最优化方法已广泛应用于空间技术、 军事科学、电子工程、通讯工程、自动控制、系统 识别、资源分配、计算数学、经济管理等等领域。 最优化方法包括的内容很广泛，如线性规划、 非线性规划、整数规划、动态规划、多目标规划、 组合优化等等。本教程重点介绍非线性规划
最优化问题的数学模型一般形式为: ninf(x)(1.1)(目标函数) st.c(x)=0,i=12,…m,(.2)(等式约束) c(x)≥0.i=m+1…,p,(.3)(不等式约束) 其中x=(x1,x2…xn)∈R
最优化问题的数学模型一般形式为： min f (x) (1.1) s.t. c (x) 0,i 1,2, m, (1.2) i = = （目标函数） （等式约束） （不等式约束） 其中 c (x) 0,i m 1, , p, (1.3) i = + ( ) T n x = x1 , x2 , xn R
相关定义 定义1,1可行解满足约束条(1.2)和(1.3) 的X称为可行解,也称为可行点或容许点 定义1.2可行域全体可行解构成的集合称 为可行域,也称为容许集,记为D,即 D={(x)=0;=12,mc()20.1=m+1…,px∈R
相关定义 定义１.1 可行解 满足约束条(1.2)和(1.3) 的x称为可行解，也称为可行点或容许点。 定义１.2 可行域 全体可行解构成的集合称 为可行域，也称为容许集，记为D,即： ( ) ( ) n D = x ci x = 0,i =1,2, m,ci x 0,i = m+1, , p, xR
定义13整体最优解若:x∈D.对于一切 x∈D恒有/(x)≤f(x)则称x为最优化 问题的整体最优解。 若∈D,x≠x,恒有f(x)<f(x) 则称x*为最优化问题的严格整体 最优解
定义１.3 整体最优解 若： xD , * x D 对于一切 恒有 f (x * ) f (x), 则称 * x 为最优化 问题的整体最优解。 若： , , * xD x x 恒有 ( ) ( ), * f x f x 则称 * x 为最优化 问题的严格整体 最优解
定义14局部最优解若:x'∈D,存在x 的某邻域N(x)使得对于切x∈D∩N(x) 恒有f(x)≤/(x)则称x为最优化问题的局 部最优解其中()2=x169 同样有:严格局部最优解
定义１.4 局部最优解 若： , * x D 存在 * x 的某邻域 ( ), * N x 使得对于一切 ( ) * x D N x 恒有 f (x ) f (x) * 则称 * x 为最优化问题的局 部最优解。其中 N (x * )= x x − x * , 0。 同样有：严格局部最优解
注意 显然,整体最优解一定是局部最优解, 而局部最优解不一定是整体最优解。 求解最优化问题,实际上是求可行域 D上的整体最优解。但是,在一般情况下, 整体最优解是很难求岀的,往往只能求出局 部最优解
而局部最优解不一定是整体最优解。 显然，整体最优解一定是局部最优解， 注意： 求解最优化问题，实际上是求可行域 D上的整体最优解。但是，在一般情况下， 整体最优解是很难求出的，往往只能求出局 部最优解
定义15范数:在n维向量空间R"中 定义实函数使其满足以下三个条件: (1)对任意x∈R有≥0,当且仅当 x=0时x=0 (2)对任意x∈R及实数a有a-alxl (3)对任意x,y∈R"有|x+y≤x 则称函数|x为R"上的向量范数
定义１.5 范数：在 n 维向量空间 n R 中， 定义实函数 x , 使其满足以下三个条件： （１）对任意 n x R 有 x 0, 在 当且仅当 x = 0 时 x = 0； （２）对任意 n x R 及实数 有 x = • x ； （３）对任意 x 有 x + y x + y 则称函数 n x, yR 为 n R 上的向量范数