自适应带宽的模型压缩方法及电子设备技术

技术编号:37842981 阅读:19 留言:0更新日期:2023-06-14 09:47
本申请提供一种自适应带宽的模型压缩方法及电子设备。该方法基于联邦学习框架实现,包括接收服务器发送的初始化模型,并根据初始化模型,得到目标模型,获取带宽数据,并对带宽数据进行预测,根据预测结果,得到第一哈希矩阵,将所述目标模型压缩至所述第一哈希矩阵,以得到第二哈希矩阵;所述第二哈希矩阵用于被返回至所述服务器以使所述服务器聚合得到压缩后的目标模型。本申请在保证隐私的情况下提高联邦学习中的通信效率。高联邦学习中的通信效率。高联邦学习中的通信效率。

【技术实现步骤摘要】
自适应带宽的模型压缩方法及电子设备


[0001]本申请涉及通信
,尤其涉及一种自适应带宽的模型压缩方法及电子设备。

技术介绍

[0002]网络带宽限制会造成联邦学习中通信效率下降。为提高通信效率,在相关技术中,使用可以平衡隐私和通信的压缩算法(Sketch)进行联邦学习通信效率的优化。但是无线网络带宽是有限的,并且具有动态性等约束因素,各个客户端上传数据的速度不同,为等待带宽较低的客户端,聚合服务器必须延长全局训练时间,这降低了模型训练和收敛的速度,因此对所有的客户端采用相同的压缩度显然是不合理的。

技术实现思路

[0003]有鉴于此,本申请的目的在于提出一种自适应带宽的模型压缩方法及电子设备。
[0004]基于上述目的,本申请提供了一种自适应带宽的模型压缩方法,包括:
[0005]接收服务器发送的初始化模型,并根据所述初始化模型,得到目标模型;
[0006]获取带宽数据,并对所述带宽数据进行预测,根据预测结果,得到第一哈希矩阵;
[0007]将所述目标模型压缩至所述第一哈希矩阵,以得到第二本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种自适应带宽的模型压缩方法,其特征在于,包括:接收服务器发送的初始化模型,并根据所述初始化模型,得到目标模型;获取带宽数据,并对所述带宽数据进行预测,根据预测结果,得到第一哈希矩阵;将所述目标模型压缩至所述第一哈希矩阵,以得到第二哈希矩阵;所述第二哈希矩阵用于被返回至所述服务器以使所述服务器聚合得到压缩后的目标模型。2.根据权利要求1所述的方法,其特征在于,所述对所述带宽数据进行预测,根据预测结果,得到第一哈希矩阵,包括:对所述带宽数据进行预测,以得到带宽预测数据;根据所述带宽预测数据,得到传输数据量;根据所述传输数据量,得到所述第一哈希矩阵。3.根据权利要求2所述的方法,其特征在于,所述方法还包括通过以下公式计算得到所述传输数据量:其中,Z
c
为所述传输数据量,T为时延,b
c
为所述带宽预测数据,为信噪比。4.根据权利要求1所述的方法,其特征在于,所述将所述目标模型压缩至所述第一哈希矩阵,包括:建立所述第一哈希矩阵的数组,并计算所述数组的离散度;基于所述离散度,将所述目标模型压缩至所述第一哈希矩阵。5.根据权利要求1所述的方法,其特征在于,所述将所述目标模型压缩至所述第一哈希矩阵,包括:其中,为所述第一哈希矩阵的数组,Append为用于在列表末尾添加一个元素的函数,g
i
表示目标模型中的第i个值。6.根据权利要求1所述的方法,其特征在于,所述将所述目标模型压缩至所述第一哈希矩阵,以得到第二哈希矩阵,包括:其中,为所述...

【专利技术属性】
技术研发人员:李丹丹黄小红张沛谢坤颛孙盈
申请(专利权)人:北京邮电大学
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1