基于光滑化和动量技术的分布式随机非光滑优化方法技术

技术编号:41585527 阅读:15 留言:0更新日期:2024-06-06 23:59
本发明专利技术公开了基于光滑化和动量技术的分布式随机非光滑优化方法,能够解决分布式环境下具有约束和随机因素的复合非光滑优化问题,该方法应具有更快的收敛速率、更低的计算复杂度、更小的存储开销。具体包括:使用基于光滑化和动量技术的分布式非光滑迭代算法对所有智能体进行循环处理,并给出迭代算法的初始状态设置、步长设置、光滑化参数的建议范围等;给定算法的效能衡量标准,在迭代变量优化完成后根据衡量标准绘制聚类对比结果。本发明专利技术的算法适用于具有非光滑项的组合优化问题,包括但不限于机器学习中的聚类问题、LASSO回归问题以及传感器网络的压缩感知问题等,适用于实际的具有高维复杂约束的大规模分布式非光滑优化应用场景。

【技术实现步骤摘要】

本专利技术涉及分布式优化,具体涉及基于光滑化和动量技术的分布式随机非光滑优化方法


技术介绍

1、具有约束和随机因素的分布式优化问题广泛存在于各种工程应用中,包括无人系统、无线通信、分布式机器学习、多智能体强化学习等诸多领域。分布式优化的目标是通过局部计算和智能体之间的信息交换来最小化全局目标函数。然而,许多实际问题的目标函数具有复合结构,常常包含光滑和非光滑函数部分,比如,机器学习中的lasso回归问题、半正定规划问题,以及传感器网络中的压缩传感问题等,分布式复合随机优化则提供了针对这些复合结构优化问题的方法。

2、目前,已有大量分布式算法被提出来解决分布式复合随机优化问题或其特殊情况。其中一种常见的方法是通过平均一致性策略或梯度跟踪技术将次梯度算法扩展为分布式方法来处理非光滑优化问题。另一种典型的方法是基于近端梯度的算法,如近端admm算法等。需要注意的是这两类方法都需要投影计算,当问题的维度较低时,投影计算的复杂度尚可接受。然而,对于一些结构化问题或高维问题来说,投影到约束集上的成本可能很高。

3、另一种解决具有约束和随机因素本文档来自技高网...

【技术保护点】

1.基于光滑化和动量技术的分布式随机非光滑优化方法,其特征在于,针对一个由多个智能体组成的网络,每个智能体拥有自身的局部目标函数,所有智能体的共同目标是找到使得所有目标函数的平均值最小化的策略,采用该基于光滑化和动量技术的分布式随机非光滑优化方法对智能体的参数进行优化求解,具体包括如下步骤:

2.如权利要求1所述的基于光滑化和动量技术的分布式随机非光滑优化方法,其特征在于,所述由多个智能体组成的网络,具体为:

3.如权利要求1或2所述的基于光滑化和动量技术的分布式随机非光滑优化方法,其特征在于,所述步骤1之前,还包括初始化如下参数:

>4.如权利要求2或...

【技术特征摘要】

1.基于光滑化和动量技术的分布式随机非光滑优化方法,其特征在于,针对一个由多个智能体组成的网络,每个智能体拥有自身的局部目标函数,所有智能体的共同目标是找到使得所有目标函数的平均值最小化的策略,采用该基于光滑化和动量技术的分布式随机非光滑优化方法对智能体的参数进行优化求解,具体包括如下步骤:

2.如权利要求1所述的基于光滑化和动量技术的分布式随机非光滑优化方法,其特征在于,所述由多个智能体组成的网络,具体为:

3.如权利要求1或2所述的基于光滑化和动量技术的分布式随机非光滑优化方法,其特征在于,所述步骤1之前,还包括初始化如下参数:

4.如权利要求2或3所述的基于光滑化和动量技术的分布式随机非光滑优化方法,其特征在于,所述...

【专利技术属性】
技术研发人员:曾宪琳侯洁何雨蔓崔世晟黄艺王钢窦丽华孙健陈杰
申请(专利权)人:北京理工大学
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1