一种基于条件梯度的加速分布式在线优化方法技术

基于条件梯度，提出了一种加速分布式在线条件梯度优化方法，可以有效地解决了分布式在线优化算法时间复杂度高的问题。所提方法将网络优化目标函数分解为每个节点或个体的局部目标函数之和，每个个体只知道自己的目标函数，通过与相邻个体之间的信息传递，协同解决优化问题。该方法通过在每个个体的局部代价信息中加入正则化项，构造了一个新的时变代价函数，避免了传统条件梯度算法对梯度大小不敏感的缺点。该方法还利用局部线性优化设置代替投影运算，使算法的收敛速度成倍提高。最后，对各种任务进行了实验验证，结果表明该方法在实际应用中运行良好，与现有的优化方法相比具有一定的优越性。

An accelerated distributed online optimization method based on condition gradient

【技术实现步骤摘要】
一种基于条件梯度的加速分布式在线优化方法
本专利技术涉及一种基于条件梯度的加速分布式在线优化方法，属于机器学习领域。
技术介绍
分布式凸优化一直受到许多领域研究者的极大关注。分布式跟踪，估计和检测等经典问题本质上也是优化问题。分布式优化问题主要是执行分配给网络中每个节点的全局优化任务。由于每个节点具有有限的资源或关于任务的部分信息，因此节点协作以执行数据收集并通过共享所收集的信息来更新本地估计。分布式优化对节点施加较低的计算负担，并且即使节点经历本地故障，网络系统仍然保持稳健，因此它可以有效地克服集中式场景中单个信息处理单元中的缺陷。分布式优化已广泛应用于时不变成本函数的情况。然而，在实际应用中，分布式网络系统通常处于动态且不确定的环境中。例如，考虑跟踪移动目标的问题，其目的是跟踪目标的位置，速度和加速度。这些问题一直是机器学习领域在线学习的主要焦点。因此，将在线优化与分布式优化相结合，利用任意可变成本函数来表示多智能体网络系统的不确定性，可以有效地用于实时处理网络节点的动态数据流。随着分布式在线优化的快速发展，许多传统的优化算本文档来自技高网...

【技术保护点】
1.一种基于条件梯度的加速分布式在线优化方法，其特征在于:分布式网络中的个体独立地提交本地信息，然后获得本地成本函数。个体之间通过加权平均法进行通信。个体交流之后通过局部线性优化步骤找到下一个迭代方向。/n

【技术特征摘要】
1.一种基于条件梯度的加速分布式在线优化方法，其特征在于:分布式网络中的个体独立地提交本地信息，然后获得本地成本函数。个体之间通过加权平均法进行通信。个体交流之后通过局部线性优化步骤找到下一个迭代方向。


2.根据权利要求1所述的分布式网络中的个体独立地提交本地信息，然后获得本地成本函数，其特征在于：在分布式在线凸优化设置中，...

【专利技术属性】
技术研发人员：申修宇，李德权，董翘，
申请(专利权)人：安徽理工大学，
类型：发明
国别省市：安徽;34