【技术实现步骤摘要】
本专利技术涉及联邦学习,尤其涉及一种异构无线网络下的联邦学习采样方法和系统。
技术介绍
1、根据3gpp等相关行业标准,联邦学习涉及服务端和客户端,联邦学习是一种在多个参与方在不交互数据的情况下,通过安全机制交互模型参数,从而达到协同训练效果的分布式机器学习方法。服务端负责模型聚合及任务下发,具体可以为服务器和5g中的nwdaf等。客户端负责利用本地数据进行模型训练,具体可以为服务器、移动终端和5g中的nwdaf等。联邦学习旨在实现模型训练的同时保证客户端的数据不出本地,通过这种方法可以实现数据的隐私保护且可以节省大量数据传输导致的带宽消耗。
2、和集中式机器学习相比,联邦学习主要有两大特点,即数据异构性和设备异构性。数据异构性指的是在各个客户端上的数据分布是非独立同分布的,这会导致模型收敛速率下降。设备异构性包括计算异构性(客户端计算能力不同)和通信异构性(客户端通信能力不同),会导致掉队者问题,即客户端需要等待最慢的客户端完成当前轮次训练,因而减缓了训练流程。在异构无线网络下,由于设备需要竞争带宽,设备异构性影响更大。<
...【技术保护点】
1.一种异构无线网络下的联邦学习采样方法,其特征在于,所述方法包括以下步骤:
2.根据权利要求1所述的联邦学习客户端采样方法,其特征在于,所述预设参数包含用于联邦学习的学习率、批量大小、通信轮数、本地更新步数、正则化参数、优化器和损失函数中的多种。
3.根据权利要求1所述的联邦学习客户端采样方法,其特征在于,所述客户端数据传输能力参数包含客户端带宽和客户端上传至服务端的通信速率,所述服务端数据接收能力参数包含服务端带宽;
4.根据权利要求1所述的联邦学习客户端采样方法,其特征在于,所述对所有回传的本地模型参数进行聚合得到本轮次对应的
...【技术特征摘要】
1.一种异构无线网络下的联邦学习采样方法,其特征在于,所述方法包括以下步骤:
2.根据权利要求1所述的联邦学习客户端采样方法,其特征在于,所述预设参数包含用于联邦学习的学习率、批量大小、通信轮数、本地更新步数、正则化参数、优化器和损失函数中的多种。
3.根据权利要求1所述的联邦学习客户端采样方法,其特征在于,所述客户端数据传输能力参数包含客户端带宽和客户端上传至服务端的通信速率,所述服务端数据接收能力参数包含服务端带宽;
4.根据权利要求1所述的联邦学习客户端采样方法,其特征在于,所述对所有回传的本地模型参数进行聚合得到本轮次对应的全局模型的步骤,具体包括:
5.根据权利要求1所述的联邦学习客户端采样方法,其特征在于,所述基于所述从初始模型...
【专利技术属性】
技术研发人员:侯延昭,耿嘉翔,罗冰,陶小峰,崔琪楣,陈柯辰,
申请(专利权)人:北京邮电大学,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。