基于联邦学习和ALQ压缩的分布式机器学习方法及系统技术方案

本发明专利技术涉及一种基于联邦学习和ALQ压缩的分布式机器学习方法及系统，所述系统包括一个服务器端和多个客户端，服务器端的功能包括初始化全局机器学习模型、分发模型至客户端、收集客户端的模型并计算新的全局模型；客户端的功能包括接收全局模型、用本地数据对模型进行训练以及上传训练好的本地模型，服务器端和客户端之间的通信数据通过ALQ压缩算法进行压缩。与现有技术相比，本发明专利技术具有保证数据隐私安全性、适用于对通信量和扩展性有严格要求的空间信息网络等优点。空间信息网络等优点。空间信息网络等优点。

【技术实现步骤摘要】
基于联邦学习和ALQ压缩的分布式机器学习方法及系统


[0001]本专利技术涉及计算机系统方向的分布式系统领域和计算科学方向的机器学习领域，尤其是涉及一种基于联邦学习和ALQ压缩的分布式机器学习方法及系统。

技术介绍

[0002]过去十年空间信息网络得到了飞速的发展，例如部署小型卫星和无人机供公众使用，包括互联网服务、地理摄影、导航、天气预报和交通数据分析。到目前为止，SpaceX已经部署了1000多颗StarLink卫星提供宽带互联网连接。此外，配备传感器和摄像头的小型卫星和无人机具有一直收集大量高分辨率图像和视频数据的能力，使诸如谷歌地图等应用程序能够提供实时街景和交通监控。
[0003]随着空间信息网络设备收集的有价值的数据数量不断增加，人们对智能、高效的数据分析的广泛兴趣被不断激发。利用数据在卫星和无人机上启用机器智能有两个显著的效益：一是提高数据分析效率，进一步提升公共服务质量，如天气预报、交通导航。二、协助航天器管理并自主优化空间通信和航天器的可靠性，进一步降低地面部分和执行任务的负担和成本。
[0004]工业和学术界本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种基于联邦学习和ALQ压缩的分布式机器学习方法，其特征在于，应用于客户端，包括以下步骤：获取服务器端发送的经压缩的全局模型参数，该全局模型参数通过ALQ压缩算法压缩获得；还原所述经压缩的全局模型参数，在所述全局模型参数的基础上利用本地数据进行训练，获得本地模型参数；通过ALQ压缩算法对所述本地模型参数进行压缩，形成本地模型更新参数，将压缩后的本地模型更新参数上传至服务器端。2.根据权利要求1所述的基于联邦学习和ALQ压缩的分布式机器学习方法，其特征在于，所述ALQ压缩算法的步骤包括：1)对全精度坐标集合α进行剪枝；2)对全精度坐标集合对应的二进制基B进行优化；3)重复步骤1)和2)，获得最优的全精度坐标集合和二进制基。3.根据权利要求2所述的基于联邦学习和ALQ压缩的分布式机器学习方法，其特征在于，所述还原具体为：多个对应的二进制基与坐标相乘并求和。4.根据权利要求1所述的基于联邦学习和ALQ压缩的分布式机器学习方法，其特征在于，所述客户端为空间信息网络设备。5.根据权利要求1所述的基于联邦学习和ALQ压缩的分布式机器学习方法，其特征在于，所述再次压缩采用straight
‑
through estimators算法执行。6.一种基于联邦学习和ALQ压缩的分布式机器学习方法，其特征在于，应用于服务器端，包括以下步骤：初始化模型参数和结构，通过ALQ压缩算法压缩获得经压缩的全局模型参数；在接收到所有客户端反馈的本地模型更新参数后，所述本地模型更新参数通过ALQ压缩算法压缩获得，对各本地模型更新参数进行还原并融合，获...

【专利技术属性】
技术研发人员：马汝辉，郭含熙，杨晴，王灏，华扬，宋涛，管海兵，
申请(专利权)人：上海交通大学，
类型：发明
国别省市：