[数学]第四章 最优化问题的其他主题.ppt 50页

所以 表示为： 库恩-塔克充分性定理的证明（续） 因为 根据库恩-塔克条件，得： 又因为 所以得到 ，即点 是极大值。 二、阿罗-恩索文充分性定理：拟凹规划 (b)在非负正交规划体中每个约束函数 可微且为拟凸函数； (c)点 满足库恩-塔克极大化条件。 那么， 为 的整体极大值点。 (d)满足下列诸条件中任意一个： 给定非线性规划： (a)在非负正交规划体中 可微且为拟凹函数； (d-i)至少对某个变量 有 。 (d-ii)对某个可取正值而不违背约束的变量 有 。 (d-iii)n个导数 不全为零，函数 在 的邻域内二阶可微。 (d-iv)函数 为凹函数。 二、阿罗-恩索文充分性定理：拟凹规划 (b)在非负正交规划体中每个约束函数 可微且为拟凹函数； (c)点 满足库恩-塔克极小化条件。 那么， 为 的整体极小值点。 (d)满足下列诸条件中任意一个： 给定非线性规划： (a)在非负正交规划体中 可微且为拟凸函数； (d-i)至少对某个变量 有 。 (d-ii)对某个可取正值而不违背约束的变量 有 。 (d-iii)n个导数 不全为零，函数 在 的邻域内二阶可微。 (d-iv)函数 为凸函数。 我们可以得到结论： 如果给定条件(a)、(b)和(d) ，那么库恩-塔克条件就是极大值（极小值）的充分条件。 当满足约束规范时，库恩-塔克条件就是极大值（极小值）的必要条件。 如果满足约束规范，且实现条件(a)、(b)和(d) ，那么库恩-塔克条件就是极大值（极小值）的充分必要条件。 本章小结 一、库恩-塔克条件（n个变量m个约束） 拉格朗日函数以下列更为一般的形式出现： 库恩-塔克条件的极大化形式： 库恩-塔克条件的极小化形式： (a)目标函数 在非负正交分划体中可微，且为凹函数； (b)每个约束函数 在非负正交分划体中可微，且为凸函数； (c)点 满足库恩-塔克极大化条件。 那么， 为 的整体极大值点。 给定非线性规划： 二、库恩-塔克充分性定理：凹规划（极大值） (a)目标函数 在非负正交分划体中可微，且为凸函数； (b)每个约束函数 在非负正交分划体中可微，且为凹函数； (c)点 满足库恩-塔克极小化条件。 那么， 为 的整体极小值点。 给定非线性规划： 二、库恩-塔克充分性定理：凹规划（极小值） 如果给定条件(a)和(b)，那么库恩-塔克条件就是极大值（极小值）的充分条件。 当满足约束规范时，库恩-塔克条件就是极大值（极小值）的必要条件。 如果满足约束规范，且实现条件(a)和(b)，那么库恩-塔克条件就是极大值（极小值）的充分必要条件。 (a) 在非负正交分划体中目标函数 可微且为拟凹函数； (b)在非负正交分划体中每个约束函数 可微且为拟凸函数； (c)点 满足库恩-塔克极大值条件。 给定非线性规划： 三、阿罗-恩索文充分性定理：拟凹规划（极大值） (d) 满足下列诸条件中任意一个： (d-i)至少对某个变量 有 。 那么， 为 的整体极大值点。 (d-ii)对某个可取正值而不违背约束的变量 有 。 (d-iii) 个导数 不全为零，函数 在 的邻域内二阶可微。 (d-iv) 函数 为凹函数。 (a) 在非负正交分划体中目标函数 可微且为拟凸函数； (b)在非负正交分划体中每个约束函数 可微且为拟凹函数； (c)点 满足库恩-塔克极小值条件。 给定非线性规划： 三、阿罗-恩索文充分性定理：拟凹规划（极小值） (d) 满足下列诸条件中任意一个： (d-i)至少对某个变量 有 。 那么， 为 的整体极小值点。 (d-ii)对某个可取正值而不违背约束的变量 有 。 (d-iii) 个导数 不全为零，函数 在 的邻域内二阶可微。 (d-iv) 函数 为凸函数。 如果给定条件(a)、(b)和(d) 时，那么库恩-塔克条件就是极大值（极小值）的充分条件。 当满足约束规范时，库恩-塔克条件就是极大值（极小值）的必要条件。 如果满足约束规范，且实现条件(a)、(b)和(d) 时，那么库恩-塔克条件就是极大值（极小值）的充分必要条件。 无约束极值的最优化条件（n个变量） 一阶必要条件： 给定凹目标函数，任意稳定点（即一阶条件得到满足）可立即被视为一个绝对极大值；给定严格凹目标函数，任意稳定点（即一阶条件得到满足）可立即被视为唯一的绝对极大值。 充分条件： (a)目标函数 在非负正交分划体中可微，且为凹函数； (b)每个约束函数 在非负正交分划体中可微，且为凸函数； (c)点 满足库恩-塔克极大化条件。 那么， 为 的整体极大值点。 给定非线性规划： 类比：库恩-塔克充分性定理：凹规划（极大值） 约束极值的最优化条件（n个变量） 一阶必要条件： 充分条件： 一阶必要条件： 是一个稳定点，满足约束条件 。 是显拟凹函数，而约束集是凸集。 一阶必要条件： 是一个稳定点，满足约束条件 。 是严格拟凹函数，而约束集是凸集。 是约束绝对极大值。 是唯一的约束绝对极大值。 (a) 在非负正交分划体中目标函数 可微且为拟凹函数； (b)在非负正交分划体中每个约束函数 可微且为拟凸函数； (c)点 满足库恩-塔克极大值条件。 给定非线性规划： 类比：阿罗-恩索文充分性定理：拟凹规划（极大值） (d) 满足下列诸条件中任意一个： (d-i)至少对某个变量 有 。 那么， 为 的整体极大值点。 (d-ii)对某个可取正值而不违背约束的变量 有 。 (d-iii) 个导数 不全为零，函数 在 的邻域内二阶可微。 (d-iv) 函数 为凹函数。 第四章 最优化问题的其他主题 第一节 带不等式约束的极值问题——库恩-塔克条件 研究目标函数在带有等式和不等式约束条件下最优化的数学分支称为数学规划。数学规划可分为两类：目标函数及约束条件均为线性方程时，称为线性规划；目标函数或约束条件中出现非线性方程时，称为非线性规划。 一、变量非负性约束条件下单变量函数的最值问题 或 情形2： 且 情形1： 且 情形3： 且 若 为方程的解，如下三个条件成立： 条件1 条件2 条件3 这为 取得极大值的一阶条件，并称此一阶条件为该问题的Kuhn-Tucker条件（简称K－T条件）。 情形2： 且 情形1： 且 情形3： 且 若 为方程的解，如下三个条件成立： 条件1 条件2 条件3 这为 取得极小值的一阶条件，并称此一阶条件为该问题的Kuhn-Tucker条件（简称K－T条件）。 例：考虑问题 解：若 为方程的解， 必满足： 条件1 条件2 条件3 解得： 二、不等式约束效应 为简单起见，首先讨论三个选择变量和两个约束条件的情况： 利用两个虚拟变量 和 ，可把上述问题转变为等价的形式： 如果没有非负约束，与等式约束的解法一样： 作出拉格朗日函数： 写出一阶条件为： 但因为变量 和 必须为非负，因此，对于这些变量的一阶条件应当按照非负实值约束的实值函数的最优化条件加以修正： 注意，导致 仍被确定为零。（为什么？） 拉格朗日函数： 由于 , 第二行 变为： 又因为第三行 ，把该式代入上式，第二行和第三行合并为： 不用虚拟变量可以把一阶条件用等价形式表示出来： 以上一阶条件： 忽略了非负限制和约束中的不等式，写出拉格朗日函数Z的纯古典形式： 我们规定：（1）偏导数 ，但 （2）对 和 加上非负限制； （3）要求每个变量和 对该变量的偏导数之间有互补松弛条件，即要求它们的积为零。则： 三、n个变量m个约束的情况 拉格朗日函数以下列更为一般的形式出现： 库恩-塔克条件的极大化形式： 库恩-塔克条件的极小化形式： 四个非负条件： 四个互补松弛条件： 一阶条件的解为： 解：它包含四个边际条件： 例1 解最小化问题 第二节 约束规范 只有满足特定条件时，库恩-塔克条件才是必要条件，这条件叫做约束规范（Constraint qualification）。 约束规范是对非线性规划中的约束函数施加的某些限制，目的是为了排除可行集边界上的某些不规则性，这些不规则性可能会违背能够产生最优解的库恩-塔克条件。 例1 要使 x1最大,最优解（1,0）,但是该解不满足库恩-塔克条件。 为了检验这一点，我们可以写出拉格朗日函数： 作为第一边际条件，我们得到： 把（1，0）代入得 ，不满足库恩-塔克条件。 例2 对于例1，附加新的约束条件： 写出新的拉格朗日函数： 边际条件为： 歧点 满足以上边际条件、非负条件和互补松驰条件。说明尽管存在歧点，库恩-塔克条件仍可以成立。 例1 测试向量的定义 令 是可行区域边界上的一个（可能的解）点，并令 表示由所提到的边界点移动的特定方向。 令如果向量 满足以下两个条件，则称为测试向量： 第一，如果第j个选择变量在点 取零值，那么只允许在 轴上有非负变化，即： 第二，如果在点 处恰好满足第i个约束条件的等式约束，那么只允许 的取值使约束函数值 不增加（对极大化问题）或不减少（对极小化问题），即： 规范弧的定义 如果满足下列条件的可微弧，称为该测试向量的规范弧： （1）从点 出发； （2）整个包含在可行区域内； （3）与已知测试向量相切。 如果对可行区域边界上的任意点 ，对每一测试向量 ，存在一规范弧，那么，就满足约束规范。 在该点 ，于是测试向量满足 ① 在点（1，0），唯一约束条件 的等式恰好得到满足，所以： 综合①和②，得 。 ② 另外， 取值可为任意值。 我们选 ，该测试向量存在规范弧。 我们选 ，该测试向量不存在规范弧。 例1的最优点（1，0）不满足库恩-塔克条件，也不满足约束规范。 例1 在连续可微的情况下，一阶微分等于零是极值的一阶必要条件。 在存在间断点的情况下，一阶微分等于零不是极值的一阶必要条件。 满足约束规范，库恩-塔克条件是极值的必要条件。 不满足约束规范，库恩-塔克条件不是极值的必要条件。 不等式约束最优化 无约束最优化 线性约束条件 如果可行区域是仅由线性约束形成的凸集，那么约束规范总是满足，且库恩-塔克条件在最优解处成立，即库恩-塔克条件是必要条件。 以上讨论了非线性规划中极大值或极小值的必要条件。如果某点 满足必要条件，我们不能作出 是最优解和结论；如果某点 不满足必要条件，则该点不可能是最优解。 如果点 满足极大值的最优条件，那么该点必使目标函数达到极大值。但是充分条件也有自己的缺点，即充分条件本身可能不是必要条件，因而真正的最优解仍然可以不满足这个充分条件。 第三节 非线性规划的充分性定理 (a)目标函数 在非负正交分划体中可微，且为凹函数； (b)每个约束函数 在非负正交分划体中可微，且为凸函数； (c)点 满足库恩-塔克极大化条件。 那么， 为 的整体极大值点。 给定非线性规划： 二、库恩-塔克充分性定理：凹规划（极大值） (a)目标函数 在非负正交分划体中可微，且为凸函数； (b)每个约束函数 在非负正交分划体中可微，且为凹函数； (c)点 满足库恩-塔克极小化条件。 那么， 为 的整体极小值点。 给定非线性规划： 二、库恩-塔克充分性定理：凹规划（极小值） 我们可以得到结论： 如果给定条件(a)和(b)，那么库恩-塔克条件就是极大值（极小值）的充分条件。 当满足约束规范时，库恩-塔克条件就是极大值（极小值）的必要条件。 如果满足约束规范，且实现条件(a)和(b)，那么库恩-塔克条件就是极大值（极小值）的充分必要条件。 库恩-塔克充分性定理的证明 因为 为凹函数，每个 为凸函数，而每个 为凹函数，因此 为凹函数。凹函数 存在以下性质： 对于极大化问题，拉格朗日函数表示为： 库恩-塔克充分性定理的证明（续） 把 表达式分为 两项。 和 对于 ，可以选择 和 满足库恩-塔克条件，从而： ， 对于 来说，