【技术实现步骤摘要】
一种面向物联网设备异质性的联邦学习优化方法
[0001]本专利技术涉及一种联邦学习联合建模过程的优化方法，具体涉及一种面向物联网设备异质性的联邦学习优化方法。
技术介绍
[0002]物联网环境是一个复杂的异质计算环境，其中包含的异质性因素会对联邦学习模型训练的效率产生不良影响。例如，参与设备上的数据由所有者独立产生，数据特性不受外界控制，联邦学习中的数据在统计上可能是异构的，并且各参与设备的数据量大小也不是均衡的，这统称为参与设备的数据异质性。数据异质性因素会引发局部模型参数发散等问题，导致全局模型的收敛精度下降。此外，不同参与设备的计算、存储和通信能力也存在差异，这被称为参与设备的系统异质性。参与设备之间的异质性导致高计算能力节点向低计算能力节点“妥协”的情况，造成资源的浪费。现有的联邦学习系统为了平衡各参与设备之间的性能差异，选择让部分参与设备阻塞等待，给整体训练效率带来了损失。目前的研究在一定程度上解决了联邦学习参与设备异质性的问题，然而，大部分研究只考虑了某一方面的异质性，忽略了实际应用场景中多种异质性混合的复杂情况
【技术保护点】
【技术特征摘要】
1.一种面向物联网设备异质性的联邦学习优化方法，其特征在于所述方法包括如下步骤：步骤一、联邦学习参与设备数据增强方法设计步骤一一、随机初始化阈值的初始值，按照该初始阈值对本地数据进行数据增强；步骤一二、使用步骤一一增强后的数据进行本地训练，将训练后的模型参数和动量参数上传到中介，中介根据收到的参数聚合一个全局模型和新的动量；步骤一三、服务器根据聚合的全局模型的性能对阈值进行重新计算，将生成的全局模型、动量和计算出的新的阈值发送给客户端；步骤一四、重复步骤一三，直至到达终止机制的条件；步骤二、联邦学习参与者选择方法设计步骤二一、将边缘设备i的统计效用与系统效用相关联，制定出边缘设备i的用户效用；步骤二二、按照边缘设备的用户效用值从大到小的顺序对边缘设备进行排序，选取边缘设备集合中前((1
‑
ε)
×
K)个参与者进行训练，其中ε∈[0,1]是探索因子，K是参与者集合大小；步骤三、联邦学习参与设备异质性优化方法设计步骤三一、通过联邦学习参与设备数据增强方法对参与设备的本地数据进行增强；步骤三二、根据步骤三一增强后的数据计算每个参与者的用户效用，并根据效用值选择参与者参与训练；步骤三三、根据步骤三二的参与者计算全局模型并更新用户效用值；步骤三四、重复步骤三二和步骤三三，直至达到设置的训练轮次，训练结束。2.根据权利要求1所述的面向物联网设备异质性的联邦学习优化方法，其特征在...
【专利技术属性】
技术研发人员：吕继光，杨武，苘大鹏，王巍，玄世昌，唐昊，边颖超，
申请(专利权)人：哈尔滨工程大学，
类型：发明
国别省市：
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。