本项目提供了一系列针对非线性约束优化及变分不等式问题的高效解决方案,采用MATLAB编程实现。通过应用先进的数学算法和数值方法,旨在为科研人员与工程师们解决复杂优化问题提供了强大的工具支持。
通过引入步长线性搜索,在一定的假设条件下,序列二次规划(SQP)算法可以具有全局和局部超线性收敛的特性。然而,传统的SQP方法中存在一个问题:其二次规划子问题可能不相容,即可行解集为空。为解决这一不足,多种技术相继被提出。
特别地,Panier 和 Tits 提出了一种改进的方法——可行序列二次规划(FSQP)算法,在每次迭代过程中确保获得一个可行点,从而避免了上述问题的发生。然而,尽管 FSQP 算法保证每个迭代步骤都能得到可行解,它仍然需要在每一步求解复杂的二次规划子问题,这导致计算复杂度和运算量较大。
在这种背景下,研究者们开始关注一种被称为无二次规划(QP-free)的算法。这类方法的特点是其每次迭代仅需解决包含线性系统的简单问题而非复杂的二次规划问题,从而显著减少了计算需求。
1988年,Panier、Tits 和 Herskovits 首次提出了一种用于处理不等式约束优化问题的无二次规划(QP-free)算法。该方法在每次迭代中仅需求解两个不同的线性方程组和一个简单的线性平方问题。自此以后,这类算法成为了非线性约束最优化领域中的研究热点之一。
相比于传统的SQP 方法,QP-free 算法不仅具备快速的收敛速度以及简洁的结构特点,还拥有其它一些优点:例如它通常只需解决包含相同系数矩阵的简单线性方程组,并且在特定假设条件下这些方程总是可解。然而从理论和实际应用的角度来看,现有的无二次规划算法仍然存在两个主要挑战需要克服。
首先,在确保快速局部收敛性和防止Maratos效应的情况下,严格的互补松弛条件被假定为必须成立的。但在一般情况下验证这一条件是困难的;其次,对于处理等式与不等式约束优化问题的QP-free 算法来说,通常要求所有等式和有效不等式的梯度向量线性无关。然而当系统中包含多个等式或总约束数量超过空间维度时,该假设往往无法满足。
最近Tits等人提出了一种双重内点算法,在保证收敛性质不受影响的情况下大大缓解了上述的线性独立条件要求。
经过一段时间的发展,早期无二次规划方法的一些缺陷已经得到了解决。例如最初的QP-free 算法只能证明迭代序列中的任意极限点是原问题的一个稳定解;在某些附加假设下(如所有稳定点都是孤立的),才能进一步确认这些极限点也是KKT点。这一问题已经在Z. Gao,G. He 和 F.Wu 的论文中得到了解决。
此外,在一些早期无二次规划算法中,当严格互补松弛条件不成立时会出现病态现象,这会导致乘子逼近序列出现分歧并导致收敛失败。通过引入Fischer-Burmeister非线性互补问题函数,H.Qi和L.Qi对以前的QP-free 算法进行了改进,并确保了迭代矩阵的一致非奇异性质。
大多数无二次规划算法中,其每次迭代所处理的问题规模通常是满秩的,在应用于大规模约束优化问题时计算量会显著增加。Y. Yang 和 L. Qi 在 Fisher-Burmeister-Kanzow KKT 识别技术的基础上提出了一种新的不等式约束优化问题的QP-free 算法。
本段落基于Fischer-Burmeister-Kanzow KKT点的有效约束集识别技术提出了三个具有强收敛性的无二次规划算法。第一个是用于求解不等式约束优化问题(NLPI)的一种可行点算法,其中引入了一种有效约束集合标识函数: