摘要
在非光滑优化中，函数的二阶导数及二阶展开对于最优性条件的研究以及设计具有高阶收敛性的算法都是不可缺少的工具．因此，非光滑函数的二阶性质与展开的理论和应用方面的研究一直倍受关注．
２０００年，Ｌｅｍａｒｇ、ｃｈａｌ，Ｍｉｆｆｌｉｎ，Ｓａｇａｓｔｉｚａｂａｌ和Ｏｕｓｔｒｙ等提出的ｗＶ．分解理论，给出了研究非光滑凸函数的二阶性质的新方法．“Ｖ．分解理论的基本思想是将酽分解为两个正交的子空间¨和ｖ的直和，使原函数在Ｈ空间上的一阶逼近是线性的，而其不光滑特征集中于ｖ空问中，借助于一个中间函数，“．Ｌａｇｒａｎｇｅ函数．来得到函数在切于酣的某个光滑轨道上的二阶展式．然而，我们注意到，“．Ｌａｇｒａｎｇｅ函数的光滑性以及相应的最优解集的特征仍然没有明确的结果，需要进一步的研究，以更好地揭示函数的二阶性质，便于应用．另外，能否将“让分解理论推广到非凸函数，并以此工具研究非凸的非光滑函数的二阶性质，以便解决非凸函数的非光滑优化问题，这也是很重要的研究工作．本文围绕上述问题展开研究，主要工作如下：
１．在第二章中，在Ｌｅｍａｒ４ｃｈａｌ，Ｍｉｆｆｌｉｎ，Ｓａｇａｓｔｉｚａｂａｌ和Ｏｕｓｔｒｙ（２０００）１３５】的／４Ｐ．分解理论基本框架下，我们证明了最优解集Ⅳ（．）的特征、外半连续性以及它在０点的连续性．同时，给出了“．Ｌａｇｒａｎｇｅ函数的共轭函数的代数性质和径向强凸性等结果．这些结论能够使我们对于函数在“空间上的近似以及快速轨道的形式有更深入的了解．
２．在第三章中，对应于几类特殊函数，我们给出了相应的“让空间分解和“一Ｌａｇｒａｎｇｅ函数的形式．首先，对于一类Ｄ．Ｃ．函数，利用函数的近似次微分，给出了针对此类函数的对应的“，Ｖ空间，以及不同于凸函数的“一Ｌａｇｒａｎｇｅ函数的表达式。得到函数在“空间上的二阶近似．其次，利用函数的正则次微分的概念，给出了对应于下半连续函数的“协空间分解和甜．Ｌａｇｒａｎｇｅ函数，并得出相应的结果．最后我们给出了Ｈｉｌｂｅｒｔ空间上的凸泛函的吖ｖ．分解理论的基本框架．
３．在第四章中，我们将“ｖ．空间分解理论应用于非线性规划中．首先对于具有不等式约束的非线性规划问题，将【３５】的结果推广到选取一般次梯度的情形，以便更好地应用“Ｖ．分解算法．其次，对具有无限个约束的半无限规划问题，我ｔｆ］日ｌ入全指标集和可行全指标集的概念，应用凸分析及泛函分析的结果，研究了其精确罚函数的“．Ｌａｇｒａｎｇｅ函数及其性质．
４．在第三章给出的一类Ｄ．Ｃ．函数的“弘分解理论的前提下，我们在第五章中研究并得到了无约束Ｄ．Ｃ．规划和约束Ｄ．Ｃ．规划的最优性条件，给出了无约束Ｄ．Ｃ．规戈４的“ｖ一空间分解算法和收敛性定理．特别对一类ｍａｘ－型Ｄ，Ｃ．规划问题，分别对其具有线性约束和非线性约束的情况进行了研究，给出了ｍａｘ－型Ｄ．Ｃ．规戈０的己，协空间分解算法及其收敛性定理．最后。得到了可以局部转化为Ｄ．Ｃ．函数的一类函数
…
ｌｏｗｅｒＣ２函数的“Ｖ一空间分解、甜一Ｌａｇｒａａｇｅ函数及其性质以及ｌｏｗｅｒ．Ｃ２函数规划的最优性条件．
关键词：非光滑最优化，甜Ｖ一分解理论，“－ＬａｇｒａＪｌｇｅ函数，非线性规划，ＤＣ．函数，Ｄ．Ｃ．规划，二阶展开，最优性条件．
Ａｂｓｔｒａｃｔ
ＩｎＳＯＩＬＳｍｏｏｔｈｏｐｔｉｍｉｚａｔｉｏｎ，ｓｅｃｏｎｄ·ｏｒｄｅｒｄｅｒｉｖａｔｉｖｅｓｃｏｎｓｔｉｔｕｔｅａｓｉｇｎｉｆｉｃａｎｔｔｏｏｌｂｏｔｈｆｏｒ
ｄｅｒｉｖｉｎｇｏｐｔｉｍａｌｉｔｙ（ｂｙｍｅⅫｏｆｏｐｔｉｍａｌｉｔｙｃｏｎｄｉｔｉｏｎｓ）ａｎｄ
ｄｅｖｅｌｏｐｉｎｇａｌｇｏｒｉｔｈｍｓ（ｈｙｍｅａｌｍＢ
ｏｆｌｏｃａｌｑｕａｄｒａｔｉｃａｐｐｒｏｘｉｍａｔｉｏｎｓ）Ｔｈｅｒｅｆｏｒｅ，ｔｈｅｓｔｕｄｙｃｏｎｃｅｒｎｉｎｇｔｈｅｔｈｅｏｒｙａｎｄａｐｐｌｉｃａｔｉｏｎｏｆｔｈｅｓｅｃｏｎｄ．ｏｒｄｅｒｂｅｈａｖｉｏｕｒｏｆｎｏｎｓｍｏｏｔｈｆｕｎｃｔｉｏｎｈａｓｂｅｅｎｐａｉｄｍｕｃｈａｔｔｅｎｔｉｏｎ．Ｌｅｍａｒ６ｃｈａｌ，Ｍｉｆｆｌｉｎ，Ｓａｇａｓｔｉｚａ
ｂａｌａｎｄＯｕｓｔｒｙｆ３５］（２０００）ｉｎｔｒｏｄｕｃｅｄｔｈｅ吖Ｖ—ｔｈｅｏｒｙ，ｗｈｉｃｈｏｐｅｎｓａｗａｙｔｏｄｅｆｉｎｉｎｇａｓｕｉｔａｂｌｅｒｅｓｔｒｉｃｔｅｄｓｅｃｏｎｄ－ｏｒｄｅｒｄｅｒｉｖａｔｉｖｅｏｆａｃｏｎｖｅｘｆｕａｃｔｉｏｎ，ａｔａｎｏｎｄｉｆｆｅｒｅｎｔｉａｂｌｅｐｏｉｎｔ孟．ＴｈｅｂａｓｉｃｉｄｅａｉｓｔｏｄｅｃｏｍｐｏｓｅＲｎｉｎｔｏｔｗｏｏｒｔｈｏｇｏｎ越ｓｕｂｓｐａｃｅｓ“ａｎｄＶｄｅｐｅｎｄｉｎｇｏｎ窜ｓｏｔｈａｔ，’ＳｎｏｎｓｍｏｏｔｈｎｅｓｓｎｅａｒｔｈｅｐｏｉｎｔｉｓｃｏｎｃｅｎｔｒａｔｅｄｅｓｓｅｎｔｉａｌｌｙｉｎＶ．ＡｃｅｒｔａｉｎＬａｇｒａｎｇｉａｎａｓｓｏｃｉａｔｅｄｗｉｔｈｔｈｅｃｏｎｖｅｘｆｕｎｃｔｉｏｎＷａｓｉｎｔｒｏｄｕｃｅｄ．ｃａｌｌｅｄ“一Ｌａｇｒａｎｇｉａｎ．Ｗｈｅｎ，ｓａｔｉｓｆｉｅｓｃｅｒｔａｉｎｓｔｒｕｃｔｕｒａｌｐｒｏｐｅｒｔｉｅｓ，ｉｔｉｓｐｏｓｓｉｂｌｅｔｏｆｉｎｄｓｍｏｏｔｈｔｒａｊｅｃｔｏｒｉｅｓ，ｖｉａｔｈｅｉｎｔｅｒｍｅｄｉａｔｅｆｕｎｃｔｉｏｎ，ｙｉｅｌｄｉｎｇａｓｅｃｏｎｄ－ｏｒｄｅｒｅｘｐａｎｓｉｏｎｆｏｒ，．Ｂｕｔ，ｔｈｅｒｅａｒｅｎｏｒｅｓｕｌｔｓｏｎｃｈａｒａｃｔｅｒｉｚｉｎｇｏｆｔｈｅｓｅｔｏｆｍｉｎｉｍｉｚｅｒｓａｎｄｔｈｅｓｍｏｏｔｈｎｅｓｓｏｆｔｈｅ１４－Ｌａｇｒａｎｇｉａｎ．Ｔｈｅｒｅｆｏｒｅｔｈｅｆｕｒｔｈｅｒｓｔｕｄｙｏｎｔｈｅｈｉｇｈｅｒ－ｏｒｄｅｒｂｅｈａｖｉｏｕｒｏｆｃｏｎｖｅｘｏｒｎｏｎｃｏｎｖｅｘｆｕｎｃｔｉｏｎｓｉｓｑｕｉｔｅｎｅｃｅｓｓａｒｙｆｏｒｈａｎｄｌｉｎｇｔｈｅｒｅｌａｔｅｄｎｏｎｓｍｏｏｔｈｏｐｔｉｍｉｚａｔｉｏｎｐｒｏｂｌｅｍｓ．
Ｉｎｔｈｉｓｄｉｓｓｅｒｔａｔｉｏｎ．ｗｅｆｏｃｕｓｏｎｔｈｅｓｔｕｄｙｏｆ“Ｖ—ｔｈｅｏｒｙａｎｄｉｔｓａｐｐｌｉｃａｔｉｏｎ．Ｗｅｂｒｉｅｆｌｙｓｔａｔｅｏｕｒｒｅｓｅａｒｃｈｅｓ髂ｆｏｌｌｏｗｓ．
１，ＩｎＣｈａｐｔｅｒ２，ｔｈｅｂａｓｉｃｃｈａｒａｃｔｅｒｉｓｔｉｃ，ｕｐｐｅｒｓｅｍｉ－ｃｏｎｔｉｎｕｉｔｙａｎｄｔｈｅｃｏｎｔｉｎｕｉｔｙａｔ０ｏｆｔｈｅｓｅｔｏｆｍｉｎｉｍｉｚｅｍａｒｅｐｒｅｓｅｎｔｅｄａｎｄｄｅｍｏｎｓｔｒａｔｅｄ．Ｓｏｍｅｏｐｅｒａｔｉｏｎｓｏｆｔｈｅｃ０Ⅱｊｕｇａｔｅｏｆ“－Ｌａｇｒａｎｇｉａｎｏｆａｆｉｎｉｔｅｃｏｎｖｅｘｆｕｎｃｔｉｏｎａｎｄｓｏｍｅｒｅｓｕｌｔｓｏｎｔｈｅｒａｄｉａｌｓｔｒｏｎｇｃｏｎｖｅｘｉｔｙｏｆｔｈｅｃｏｎｊｕｇａｔｅｏｆ“一Ｌａｇｒａｎｇｉａｎａｒｅｇｉｖｅｎ．Ｔｈｅｓｅｒｅｓｕｌｔｓｃａｎｈｅｌｐｌｌｓｔｏｄｅｅｐｌｙｕｎｄｅｒｓｔａｎｄｔｈｅｆｉｒｓｔａｎｄｓｅｃｏｎｄ－ｏｒｄｅｒｂｅｈａｖｉｏｕｒｏｆｉｏｎｔｈｅｕ·ｓｐａｃｅａｎｄｔｈｅｃｈａｒａｃｔｅｒｉｓｔｉｃｏｆｔｈｅｆａｓｔｔｒａｃｋ
２ＩｎＣｈａｐｔｅｒ３．ｔｈｅＮＶ—ｄｅｃｏｍｐｏｓｉｔｉｏｎｔｈｅｏｒｙａｎｄｔｈｅ吖一ＬａｇｒａｎｇｉａｎａｒｅｐｒｏｖｉｄｅｄｆｏｒｔｈｒｅｅｓｐｅｃｉａｌｆｕｎｃｔｉｏｎｓＳｉｎｃｅｔｈｅｔｈｅｏｒｙｏｆ／４）２－ｄｅｃｏｍｐｏｓｉｔｉｏｎｏｆｓｐａｃｅｓａｎｄｓｕｂｄｉｆｆｅｒｅｎｔｉａｌｓｏｆｃｏｎｖｅｘｆｕｎｃｔｉｏｎｓｃａｎｎｏｔｂｅｄｉｒｅ
ｃｔｌｙｅｘｔｅｎｄｅｄｔｏｎｏｎｃｏｎｖｅｘｆｕｎｃｔｉｏｎｓ，ｔｈｅｎｏｔｉｏｎｓｏｆｐｒｏｘｉ，ｍａｌｓｕｂｄｉｆｆｅｒｅｎｔｉａｌａｎｄｒｅｇｕｌａｒｓｕｂｄｉｆｆｅｒｅｎｔｉａｌａｃｅｎｅｅｄｅｄｆｏｒｓｔｕｄｙｉｎｇｎｏｎｃｏｎｖｅｘｆｕｎｃｔｉｏｎｓ．Ｂａｓｅｄｏｎｔｈｅｓｅｃｏｎｃｅｐｔｓｔｔｈｅ／４］）－ｄｅｃｏｍｐｏｓｉｔｉｏｎｔｈｅｏｒｙａｎｄｔｈｅｎｅｗｒｅｐｒｅｓｅｎｔａｔｉｏｎｓｏｆｔｈｅ“一ＬａｇｒａｎｇｉａｎｆｏｒＤ．Ｃ．ｆｕｎｃｔｉｏｎｓａｎｄｌｏｗｅｒｓｅｍｉ－ｃｏｎｔｉｎｕｏｕｓｆｕｎｃｔｉｏｎｓａｒｅｃｏｎｓｔｒｕｄ，ｅｄ．ｒｅ－ｓｐｅｃｔｉｖｅｌｙ．Ａｔｔｈｅｅｎｄｏｆｔｈｉｓｃｈａｐｔｅｒｔｈｅ“Ｖ－ｄｅｃｏｍｐｏｓｉｔｉｏｎｔｈｅｏｒｙａｎｄｔｈｅＨ－ＬａｇｒａｎｇｉａｎｆｏｒｃｏｎｖｅｘｆｕｎｃｔｉｏｎａｉｓｏｎｔｈｅＨｉｌｂｅｒｔ
ｓｐａｃｅｓ
ａｒｅｐｒｅｓｅｎｔｅｄ．
３．ＩｎＣｈａｐｔｅｒ４，ｔｈｅ／４Ｖ－ｄｅｃｏｍｐｏｓｉｔｉｏｎｔｈｅｏｒｙｉｓａｐｐｌｉｅｄｔｏＮＬＰ．Ｔｈｅｒｅｓｕｌｔｓｏｎｔｈｅｐｅｎａｌｔｙｆｕｎｃｔｉｏｎｏｆｃｏｎｓｔｒａｉｎｅｄｍｉｎｉｍｉｚａｔｉｏｎｗｉｔｈａｆｉｎｉｔｅｎｕｍｂｅｒｏｆｃｏｎｓｔｒａｉｎｔｓ【３５】ａｒｅｇｅｎｅｒａｌｉｚｅｄ．
Ｔｈｅ甜Ｖ．ｄｅｃｏｍｐｏｓｉｔｉｏｎｔｈｅｏｒｙｔｏｔｈｅｅｘａｃｔｐｅｎａｌｔｙｆｕｎｃｔｉｏｎｓｉｎＮＬＰｆｏｒａｓｅｍｉ—ｉｎｆｉｎｉｔｅｍｉｎｉｍｉｚａｔｉｏｎｐｒｏｂｌｅｍｗｉｔｈａｐｏｌｙｔｏｐｅａｎｄｗｉｔｈａｃｏｎｖｅｘｃｏｍｐａｃｔｓｅｔ”ｅｅｓｔａｂｌｉｓｈｅｄ
４．ＩｎＣｈａｐｔｅｒ５，ｂａｓｅｄｏｎｔｈｅＨ、）－ｔｈｅｏｒｙｆｏｒＤ．Ｃ．ｆｕｎｃｔｉｏｎｓｉｎｔｒｏｄｕｃｅｄｉｎＣｈａｐｔｅｒ３，ｎｅｗｏｐｔｉ—ｍａｌｉｔｙｃｏｎｄｉｔｉｏｎｓｆｏｒｕｎｃｏｎｓｔｒａｉｎｅｄＤ．Ｃ．ｐｒｏｇｒａｍｍｉｎｇ
ａｎｄｃｏｎｓｔｒａｉｎｅｄＤ．Ｃ．ｐｒｏｇｒａｍｍｉｎｇａｘｅｐｒｅｓｅｎｔｅｄ．Ａｓｐａｃｅ－ｄｅｃｏｍｐｏｓｉｔｉｏｎａｌｇｏｒｉｔｈｍ．ｎａｍｅｌｙ吖Ｖ—ｄｅｃｏｍｐｏｓｉｔｉｏｎａｌｇｏｒｉｔｈｍ．ｆｏｒｓｏｌｖｉｎｇｕｎｃｏｎｓｔｒａｉｎｅｄＤ．Ｃ．ｐｒｏｇｒａｍｍｉｎｇｐｒｏｂｌｅｍｓｉｓ
ｇｉｖｅｎ，ａｎｄｉｔｓｓｕｐｅｒｌｉｎｅａｒｃｏｎｖｅｒｇｅｎｃｅｉｓｄｅｍｏｎｓｔｒａｔｅｄ．Ｉｎｐａｒｔｉｃｕｌａｒ．ａＩｌＬ／Ｖ－ｄｅｃｏｍｐｏｓｉｔｉｏｎａｌｇｏｒｉｔｈｍａｎｄｉｔｓｃｏｎｖｅｒｇｅｎｃｅｔｈｅＯ－ｒｅｍｓｆｏｒａｍａｘ－ｔｙｐｅＤ．Ｃ．ｐｒｏｇｒａｍｍｉｎｇ，ｔｈｅＬ／Ｖ－ｄｅｃｏｍｐｏｓｉｔｉｏｎｔｈｅｏｒｙａｎｄｔｈｅｐｒｏ
ｐｅｒｔｉｅｓｏｆｔｈｅ１４一Ｌｓ＊ｇｒａｎｇｉａｎｆｏｒｌｏｗｅｒ—Ｃ２ｆｕｎｃｔｉｏｎｓＤ２＂ｅａｌｓｏｐｒｏｖｉｄｅｄ．
ＫｅｙＷｏｒｄｓ：ｎｏｎｓｍｏｏｔｈｏｐｔｉｍｉｚｉｎｇ，“Ｖ—ｄｅｃｏｍｐｏｓｉｔｉｏｎｔｈｅｏｒｙ，“一Ｌｓ＊ｇｒａｎｇｉａｎ，ｎｏｎｌｉｎｅａｒ
ｐｒｏ－
ｇｒａｍｍｉｎｇ，Ｄ．Ｃ．ｆｕｎｃｔｉｏｎ，Ｄ．Ｃ．ｐｒｏｇｒａｍｍｉｎｇ，ｓｅｃｏｎｄ－ｏｒｄｅｒｅｘｐａｎｓｉｏｎ，ｏｐｔｉｍａｌｉｔｙｃｏｎｄｉｔｉｏｎ．正则化可理解为一种罚函数法
第一章引言
本章对非光滑分析与最优化的研究方向给出一个简短的综述，陈述本
论文所研究的“ｖ．空间分解方法的研究背景、基本思想以及与之相关
的主要研究工作，简要介绍本文的主要研究结果，
１．１历史概述及研究背景
在科学技术、管理科学和经济学等理论与实际应用的研究中，非光滑现象不可避免且经常邋出现．因此，非光滑分析与最优化理论一直是极受关注的重要课题．由于非光滑函数本身的特征较为复杂，使得在传统光滑假设下所进行的大量的最优化和分析不能直接应用于非光滑的情况中，需要有一种新的理论体系（非光滑分析）来很好地处理这类问题．七十年代Ｃｌａｒｋｅ关于Ｌｉｐｓｈｉｔｚ函数的微分学的研究成果使得非光滑微分学取得了突破性的进展，以Ｌｉｐｓｃｈｉｔｚ函数为主的非光滑分析与优化已形成独立的研究领域（方向）．这一时期直至八十年代初，研究工作十分活跃，其内容也迅速地扩展到各个专题，大致可分为这样几个方面（专题），
ａ．扩充非光滑函数类并推广相应的微分学，见Ｈｉｒｉａｒｔ—Ｕｒｒｕｔｙ（１９８５）［２７１；
ｂ．继续完善Ｌｉｐｓｃｈｉｔｚ微分学（如几何理论，中值定理，隐函数存在定理，通过变分原理来建立极小化的ＦｒｉｔｚＪｏｈｎ／Ｋｕｈｎ—Ｔｕｃｋｅｒ最优性条件等）及其应用，见Ｃｌａｒｋｅ（１９８３）［１１】；
ｃ．算法（如次梯度方法，Ｂｕｎｄｌｅ方法），以Ｌｅｍａｒｄｃｈａｌ为主要代表，主要地研究凸函数的极小化算法，当然还包括Ｓｈｏｔ与Ｐｏｌｊａｋ等人的工作；
ｄ．应用方面的研究，包括资源问题，数理经济学（如Ａｕｂｉｎ），控制论（如Ｃｌａｒｋｅ）以及
大规模大系统分解问题的研究等．
此时，对于非光滑函数的研究主要存在两个问题：
１．一般说来，次微分（或Ｃｌａｒｋｅ意义下的广义梯度）较大且难以确定，其运算多以包含形式来刻划，换言之，广义方向导数较大，即
，。（ｚ；ｄ）≥，＋（。；回
对一阶近似的余项结构或性态不能清楚地表达出来；
２另一个问题是关于函数的二阶近似，即二阶展开，它关系到算法的二阶收敛问题并涉及到集值映射的微分学或近似．这一问题成为自八十年代以来非光滑分析与最优化研究中的一个核心课题．本文正是针对这一问题进行了研究．
非光滑函数的二阶近似与二阶展开是某些与实际应用有着密切关系的领域中的算法研究的基础，如数值代数、优化、控制及对策等，一直是学者们关注的课题之一．由于计

版权声明：本站内容均来自互联网，仅供演示用，请勿用于商业和其他非法用途。如果侵犯了您的权益请与我们联系QQ:729038198，我们将在24小时内删除。