一种具有异构客户端的可信半异步联邦学习方法技术

技术编号:42603985 阅读:30 留言:0更新日期:2024-09-03 18:14
本发明专利技术公开一种具有异构客户端的可信半异步联邦学习方法,其包括步骤:S1、客户端上传子模型更新和过时情况;S2、服务器预测每个客户端的预期模型更新,利用预期模型更新填充并裁剪子模型的更新,最后检测并消除恶意客户端;S3、服务器进行半异步聚合。本发明专利技术在全局模型性能方面优于现有的有代表性的异构FL方法,使每个客户端能够运行子模型来训练全局模型,并在异步通信中完成聚合。从抵抗攻击分析:本发明专利技术中的检测方法具有在半异步环境和资源受限的场景下准确检测恶意客户端的能力。

【技术实现步骤摘要】

本专利技术涉及人工智能物联网中联邦学习领域,尤其涉及一种具有异构客户端的可信半异步联邦学习方法


技术介绍

1、智能移动设备的普及和智能计算技术的进步将我们带入了一个新时代。这些智能传感设备,例如智能手机和智能手表,集成了通信、传感、计算和控制功能。当这些设备与现实世界交互时,它们会生成、收集、存储和分析每个用户产生的数据,包括活动和健康状态。为了提供服务,传统的方法是收集用户数据并将其发送到云服务器进行模型训练,然后将训练好的模型传回用户设备使用。近年来,联邦学习被提出来解决上述方法的隐私问题。特别是,随着海量移动和物联网设备产生的数据量的快速增加,跨设备fl已成为流行的分布式计算范式。

2、在现实的跨设备fl场景中,移动设备通常配备有限的计算和通信资源,这严重限制了fl算法的收敛性能。对于资源有限的客户来说,在fl中运行完整模型将具有挑战性且成本高昂,尤其是像chatgpt这样的大型模型。因此,模型压缩、模型剪枝和分割学习等各种技术被引入,以减少模型大小或通信成本,并使跨设备联邦学习变得可行。y.jiang等(model pruning e本文档来自技高网...

【技术保护点】

1.一种具有异构客户端的可信半异步联邦学习方法,其特征在于:其包括步骤:

2.根据权利要求1所述的一种具有异构客户端的可信半异步联邦学习方法,其特征在于:步骤S1具体包括以下步骤:

3.根据权利要求2所述的一种具有异构客户端的可信半异步联邦学习方法,其特征在于:S10中q满足如下关系:

4.根据权利要求1或2所述的一种具有异构客户端的可信半异步联邦学习方法,其特征在于:步骤S2中具体包括以下步骤:

5.根据权利要求4所述的一种具有异构客户端的可信半异步联邦学习方法,其特征在于:第l轮的估计Hessian矩阵的计算公式如下

6....

【技术特征摘要】

1.一种具有异构客户端的可信半异步联邦学习方法,其特征在于:其包括步骤:

2.根据权利要求1所述的一种具有异构客户端的可信半异步联邦学习方法,其特征在于:步骤s1具体包括以下步骤:

3.根据权利要求2所述的一种具有异构客户端的可信半异步联邦学习方法,其特征在于:s10中q满足如下关系:

4.根据权利要求1或2所...

【专利技术属性】
技术研发人员:汪晓丁阙友雄许力赵敏吴期滨吴立钊
申请(专利权)人:福建师范大学
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1