一种有向非平衡图上的局部全约束优化问题的分布式离散时间算法制造技术

本发明专利技术主要考虑线性等式约束和凸不等式约束在分布式优化中的处理方法，从而在有向非平衡图上设计分布式离散时间算法解决带有局部一般约束(包括线性等式约束、凸不等式约束和闭凸集约束)的凸优化问题。为此，本发明专利技术同时在可以提前获取部分全局信息和不涉及任何全局信息两种情况下分别在非平衡图上给出了分布式离散时间算法，同时严格给出了算法的收敛性分析并详细分析了算法的收敛速率。本发明专利技术的一个重要优点就是，在有向非平衡图上的分布式离散时间算法框架下，给出了有效处理等式约束和不等式约束的方法，避免了相应的乘子系统的引入，从而使收敛性易于分析。

【技术实现步骤摘要】
一种有向非平衡图上的局部全约束优化问题的分布式离散时间算法
本专利技术涉及多智能体系统的分布式优化
，特别涉及一种有向非平衡图上的局部全约束优化问题的分布式离散时间算法。
技术介绍
随着大规模网络的兴起，分布式计算由于能够将一个复杂的计算任务分解成若干个子任务来减轻计算负担而受到越来越多的关注，这使得完成复杂计算任务的过程更加高效。分布式优化作为分布式计算的重要组成部分，由于其在多个领域的广泛应用，近年来也得到了广泛的研究。许多实际问题都可以归结为分布式优化问题，如机器学习问题、源定位问题、传感器网络中的估计问题、拥塞控制问题等。关于分布式优化的研究主要分为无约束优化问题和约束优化问题。在实践中，相关的优化问题往往涉及到某种形式的约束。因此，从这个意义上说，研究分布式约束优化问题更有意义。在常见的方法中，一般采用连续时间算法来求解具有局部约束的分布式约束优化问题，然而，这些方法很难适用于网络拓扑非平衡有向的情况，因此，引入离散时间算法来对分布式优化问题进行求解。现有的一些算法已经能够处理具有全局闭凸集约束的分布式优化问题，具有全局不等式约束的分布式优化问题，以及具有一般全局约束的分布式优化问题。此外，对于具有局部约束的分布优化问题，现有的一些算法已经解决了具有局部闭凸集约束和局部等式约束的优化问题以及具有局部等式约束和局部不等式约束的非凸分布优化问题等，但是这些结果不能直接应用于加权非平衡有向图的情形，所考虑的问题也没有涉及到一般的局部约束。因此，本专利技术的目的是设计一个新的离散时间算法，以解决加权非平衡有向图下具有一般局部约束的分布式优化问题。
技术实现思路
本专利技术主要考虑线性等式约束和凸不等式约束的在分布式优化中的处理方法，从而在有向非平衡图上设计分布式离散时间算法解决带有局部一般约束(包括线性等式约束、凸不等式约束和闭凸集约束)的凸优化问题，并给出严格的收敛性和收敛速率分析。为了实现上述目的，本专利技术将通过如下的技术方案来实现：一种有向非平衡图上的局部全约束优化问题的分布式离散时间算法，包括以下步骤：步骤1：对凸优化问题模型给出具体描述；步骤2：在可以提前获取部分全局信息的情况下，在有向非平衡图上设计分布式离散时间算法；步骤3：在不涉及任何全局信息的情况下，在有向非平衡图上设计分布式离散时间算法；步骤4：对有向非平衡图上的分布式离散时间算法进行收敛性分析；步骤5：分析分布式离散时间算法的收敛速率。具体如下：1.凸优化问题描述：本专利技术主要考虑带有N个等式约束、N个不等式约束和N个闭凸集约束的凸优化问题，可以归结为其中，为决策变量，对于所有的i＝1，2，...，N，为局部凸目标函数，为行满秩矩阵，为凸函数，为闭凸集。记S＝{x∈x|Cix＝bi，gi(x)≤0，i＝1，2，...，N}。引入带有N个节点的固定强连通非平衡图来刻画节点间的通讯拓扑，且记为相关于图的设计为非负行随机矩阵的邻接矩阵。此外，假设问题(1)的最优值f*有限。首先，关于上述的凸优化问题给出几个常见的假设。假设1.1.存在一个向量使得对于所有的i＝1，2，...，N，且假设1.2.对于所有的i＝1，2，...，N，函数fi(x)和gi(x)都有连续的梯度。假设1.3.对于所有的i＝1，2，...，N，闭凸集Xi有界。假设1.4.存在一个正常数R使得对于任意的注1.1.可以看出，若假设1.1成立，则最优解集X*非空。此外，假设1.2和假设1.3的引入主要是保证变量和Cix-bi在集合上关于x一致有界，假设1.4被称作是约束规格化假设，这个假设在处理带有多个不相同的局部约束的优化问题时是非常常见和标准的。实际上，若假设1.3成立，那么假设1.4中不等式所涉及的变量在集合上都是一致有界的，从而可知假设1.4显然成立，这里对假设1.4的明确叙述只是为了后续分析的叙述方便。2.分布式算法构建：在这一节将考虑在固定有向非平衡图上针对两种不同的情况分别设计出分布式离散时间优化算法来解决凸优化问题(1)。2.1第一种情形在这一小节，假设每个节点都可以提前得到一些全局信息，包括向量的精确值，最优值f*的精确值，以及的一个下界。记S′＝{x∈X|Ci(x)＝bi，i＝1，2，...，N}，显然S′是一个包含于的闭凸集。同时凸优化问题(1)可以等价地转化为定义凸优化问题(2)相关的拉格朗日函数其中是关于不等式约束gi(x)≤0的拉格朗日乘子。进而相应的对偶问题为其中g(x)＝(g1(x)，g2(x)，...，gN(x))T，ω＝(ω1，ω2，...，ωN)T。记对偶问题的最优解集为M*，对偶问题的最优值为q*。易知若1.1成立，则M*是非空的集合且q*＝f*为有限值。接下来将给出一个引理，用来确定关于不等式约束的最优乘子集是有界的。.引理2.1.令假设1.1成立，且对于任意给定的向量定义集合则其中是假设1.1下的向量。易知对于任意的最优乘子μ*∈M*，都有因此，从引理2.1可知对于所有的μ∈M*和i＝1，2，...，N，都有此外，对于任意给定的μ0≥0，q*≥q(μ0)，从而可得对于和所有的μ∈M*以及i＝1，2，...，N，|μi|≤k0。进一步令f0是f*的一个下界，由于q*＝f*，则f0也是q*的一个下界，所以因此，k0也可以选作最终，凸优化问题(2)等价于凸优化问题其中k′0＞k0是惩罚因子常数，显然所有的hi(x)也都是凸函数。此外，假设1.4在这一小节需要重新表述为如下的假设2.1。假设2.1.存在一个正常数R使得对于任意的基于以上的分析，在这一小节，有向非平衡图上的分布式离散时间算法设计为其中，ci(t)的定义为：当Civi(t)-bi≠0时，当Civi(t)-bi＝0时，ci(t)＝0。此外，α(t)是一个衰减的正数步长序列满足条件和β1是一个正常数满足0＜β1＜2，对于所有的i＝1，2，...，N，初始值xi(0)可以任意选择，zi(0)＝ei。2.2第二种情形在这一小节，考虑在无法提前得到任何全局信息的情况下，在有向非平衡图上设计完全分布式的离散时间算法来解决凸优化问题(1)，算法设计为ui(t)＝vi(t)-β(t)qi(t)，(7c)其中，且当时，当时，di(t)＝d0≠0，ci(t)的定义为：当Ciui(t)-bi≠0时，当Ciui(t)-bi≠0，ci(t)＝0。此外，步长序列{α(t)}和{β(t)}是衰减的正数步长序列满足条件同时，β0是一个正常数步长满足条件0＜β0＜2。对于所有的i＝1，2，...，N，初始值xi(0)同样可以任意选择，zi(0)＝ei。下面将对两个算本文档来自技高网...

【技术保护点】
1.一种有向非平衡图上的局部全约束优化问题的分布式离散时间算法，其特征在于，包括以下步骤：/n步骤1：对凸优化问题模型给出具体描述；/n步骤2：在可以提前获取部分全局信息的情况下，在有向非平衡图上设计分布式离散时间算法；/n步骤3：在不涉及任何全局信息的情况下，在有向非平衡图上设计分布式离散时间算法；/n步骤4：对有向非平衡图上的分布式离散时间算法进行收敛性分析；/n步骤5：分析分布式离散时间算法的收敛速率。/n

【技术特征摘要】
1.一种有向非平衡图上的局部全约束优化问题的分布式离散时间算法，其特征在于，包括以下步骤：
步骤1：对凸优化问题模型给出具体描述；
步骤2：在可以提前获取部分全局信息的情况下，在有向非平衡图上设计分布式离散时间算法；
步骤3：在不涉及任何全局信息的情况下，在有向非平衡图上设计分布式离散时间算法；
步骤4：对有向非平衡图上的分布式离散时间算法进行收敛性分析；
步骤5：分析分布式离散时间算法的收敛速率。


2.根据权利要求1所述的有向非平衡图上的局部全约束优化问题的分布式离散时间算法，其特征在于，所述步骤1中凸优化问题模型的具体描述为：
本发明主要考虑带有N个等式约束、N个不等式约束和N个闭凸集约束的凸优化问题，可以归结为



其中，为决策变量，对于所有的i＝1,2,...,N，fi：为局部凸目标函数，为行满秩矩阵，gi：为凸函数，为闭凸集，记S＝{x∈X|Cix＝bi,gi(x)≤0,i＝1,2,...,N}，引入带有N个节点的固定强连通非平衡图来刻画节点间的通讯拓扑，且记为相关于图的设计为非负行随机矩阵的邻接矩阵。


3.根据权利要求1所述的有向非平衡图上的局部全约束优化问题的分布式离散时间算法，其特征在于，所述步骤2中在可以提前获取部分全局信息的情况下，有向非平衡图上分布式离散时间算法的设计具体为：
假设每个节点都可以提前得到一些全局信息，包括向量的精确值，最优值f*的精确值，以及的一个下界，记S′＝{x∈X|Ci(x)＝bi,i＝1,2,...,N}，显然S'是一个包含于的闭凸集,
同时凸优化问题(1)可以等价地转化为



经过分析，可得到凸优化问题(2)等价于凸优化问题



其中k′0>k0是惩罚因子常数，显然所有的hi(x)也都是凸函数；
基于以上的分析，在可以提前获取部分全局信息的情况下，有向非平衡图上的分布式离散时间算法设计为












其中，ci(t)的定义为：当Civi(t)-bi≠0时，当Civi(t)-bi＝0时，ci(t)＝0，此外，α(t)是一个衰减的正数步长序列满足条件和β1是一个正常数满足0<β1<2，对于所有的i＝1,2,...,N，初始值xi(0)可以任意选择，zi(0)＝ei。


4.根据权利要求1所述的有向非平衡图上的局部...

【专利技术属性】
技术研发人员：虞文武，陈都鑫，王和，刘洪喆，齐颖涵，
申请(专利权)人：群智未来人工智能科技研究院无锡有限公司，
类型：发明
国别省市：江苏;32