一种基于牛顿动量的分布式加速复合优化方法及系统技术方案

本发明专利技术公开了一种基于牛顿动量的分布式加速复合优化方法及系统，在多个智能体连接为无向网络的基础上，通过建立光滑结构和非光滑结构相结合的目标函数，使得处理的问题覆盖范围更广，建立的模型更准确，能够以线性速度收敛至全局最优解，并且通过引入动量加速项和梯度追踪项使得收敛速度较同类方法更快，能有效提升大规模智能自动化设备数据的处理速度。

【技术实现步骤摘要】
一种基于牛顿动量的分布式加速复合优化方法及系统
本专利技术涉及计算机
，尤其涉及一种基于牛顿动量的分布式加速复合优化方法及系统。
技术介绍
在机器学习、统计学习、无人机编队航行、无感传感器网络等领域中常常涉及到一些最优化问题需要解决，当这些问题较为简单时可以仅通过单个智能体解决。但是随着信息技术的不断发展，为了能够得到更精确的解决方案，所需要考虑和处理的数据规模越来越大，并且需要建立更加准确的问题模型，而问题模型不再是简单的光滑函数能够表示，可能涉及非光滑形式的问题。考虑到现有计算机计算资源有限，单个智能体已经无法轻松应对该类大规模的复合形式(光滑+非光滑)的优化问题，导致大量智能自动化设备的数据处理速度缓慢。
技术实现思路
本专利技术所要解决的技术问题是针对上述现有技术的不足，提供一种基于牛顿动量的分布式加速复合优化方法及系统，能有效提升大规模智能自动化设备数据的处理速度。本专利技术解决上述技术问题的技术方案如下：一种基于牛顿动量的分布式加速复合优化方法，包括以下步骤：S1:将多个智能体连接为本文档来自技高网...

【技术保护点】
1.一种基于牛顿动量的分布式加速复合优化方法，其特征在于，包括以下步骤：/nS1:将多个智能体连接为无向通信网络，基于所述多个智能体建立光滑结构和非光滑结构相结合的目标函数：/n

【技术特征摘要】
1.一种基于牛顿动量的分布式加速复合优化方法，其特征在于，包括以下步骤：
S1:将多个智能体连接为无向通信网络，基于所述多个智能体建立光滑结构和非光滑结构相结合的目标函数：






其中，是仅被智能体i获知的光滑的局部目标函数，是仅被智能体i获知的非光滑的局部函数，是可行解的集合,m是智能体的数量；
S2:每个智能体计算其自身的局部估值，并发送至第一邻居智能体，所述第一邻居智能体为所述智能体对应的邻居智能体，所述邻居智能体是指两个智能体间直接通信的智能体，互为邻居智能体；
S3:所述第一邻居智能体根据接收的局部估值计算动量加速项，并发送至第二邻居智能体，所述第二邻居智能体为所述第一邻居智能体的邻居智能体；
S4:所述第二邻居智能体根据所述动量加速项计算梯度追踪项并发送至第三邻居智能体，所述第三邻居智能体为所述第二邻居智能体的智能体；
S5:循环S2至S4,直到满足预设条件时终止循环。


2.根据权利1所述的方法，其特征在于，所述S2中局部估值的计算过程为：
S201:每个智能体计算其自身的局部最优解其计算公式如下：



S202:根据所述局部最优解计算其自身的局部估值其计算公式如下：



其中，是的连续凸逼近形式，是fi在的梯度，α是正的常数步长。


3.根据权利2所述的方法，其特征在于，所述S3中动量加速项的计算过程为:
S301:对所述局部估值进行加权平均获得局部平均估值其计算公式如下:



S302:根据所述局部平均估值计算所述动量加速项，其计算公式如下：



其中，wij为权重，0≤wij＜1，且β是动量项参数。


4.根据权利1-3任一所述的方法，其特征在于，所述S4中梯度追踪项的具体计算公式为：



其中，是函数fi(·)的梯度。


5.根据权利4所述的方法，其特征在于，所述wij的取值规则为：定义一个无向图其中是智能体集合，是边集合，是加权的邻接矩阵，其中关于边(i,j)的权重wij满足如下条件：如果(i,j)∈ε则wij＞0，否则wij＝0，其中di是智能体i的邻居智能体的数量。


6.一种基于牛顿动量的分...

【专利技术属性】
技术研发人员：李华青，郑李逢，夏大文，严羽，吕庆国，王政，胡锦辉，程胡强，冉亮，丁文韬，苏恩冰，
申请(专利权)人：西南大学，
类型：发明
国别省市：重庆;50