一种面向小样本数据的个性化联邦元学习方法技术

技术编号:37602575 阅读:49 留言:0更新日期:2023-05-18 11:53
本发明专利技术公开了一种面向小样本数据的个性化联邦元学习方法,应用于服务器,包括:确定与自身通信连接的各个客户端的分类任务数量,并分配训练任务和测试任务,以使每个客户端基于训练任务和测试任务,利用元学习算法和用户数据对待训练的神经网络进行训练及测试,并在获得第一分类模型后上传第一分类模型的至少部分网络参数;接收各个客户端上传的至少部分网络参数并进行聚合,得到第一类网络参数;将第一类网络参数发送至各个客户端,以使每个客户端对第一分类模型进行更新,得到第二分类模型。针对小样本数据分类的问题,本发明专利技术通过聚合各客户端Base层的当前网络参数来聚合不同客户端的异构模型,进而实现个性化联邦学习。进而实现个性化联邦学习。进而实现个性化联邦学习。

【技术实现步骤摘要】
一种面向小样本数据的个性化联邦元学习方法


[0001]本专利技术属于联邦学习
,具体涉及一种面向小样本数据的个性化联邦元学习方法。

技术介绍

[0002]随着智能手机、电脑和其他互联网设备的计算能力、存储能力越来越强大,这些设备可以支持各种应用程序,这些设备在使用时会生成一些重要的用户数据。在以往的传统机器学习中,集中式学习需要将用户数据上传到中央服务器,但在实际应用中,用户数据往往分布在不同的客户端中,这些用户数据具有私密性,如果将含有用户隐私的用户数据发送到中央服务器上进行模型训练是不安全的,很有可能会泄露用户数据。因此,如何在边缘设备本地存储用户数据并进行机器学习模型的训练引起了广泛关注。
[0003]联邦学习是一种分布式机器学习算法,中央服务器可以利用所有客户端的用户数据不断更新和共享模型,客户端不再需要上传自己的用户数据,从而保护了用户隐私。然而,联邦学习在应用于小样本分类任务时,由于客户端的训练样本可能是很少的,甚至每个客户端的分类任务数量也是不同的,这就导致不同客户端的数据分布是Non

IID(N本文档来自技高网
...

【技术保护点】

【技术特征摘要】
1.一种面向小样本数据的个性化联邦元学习方法,其特征在于,应用于服务器,包括:确定与自身通信连接的各个客户端的分类任务数量,并分配训练任务和测试任务,以使每个所述客户端基于所述训练任务和所述测试任务,利用元学习算法和用户数据对待训练的神经网络进行训练及测试,并在获得第一分类模型后上传所述第一分类模型的至少部分网络参数;接收各个客户端上传的所述至少部分网络参数并进行聚合,得到第一类网络参数;将所述第一类网络参数发送至各个客户端,以使每个客户端根据所述第一类网络参数对第一分类模型进行更新,得到第二分类模型。2.根据权利要求1所述的面向小样本数据的个性化联邦元学习方法,其特征在于,所述待训练的神经网络为卷积神经网络;所述第一分类模型包括Base层和Personalization层,其中,Personalization层为第一分类模型的全连接层,Base层包括第一分类模型中除全连接层之外的其它层。3.根据权利要求2所述的面向小样本数据的个性化联邦元学习方法,其特征在于,确定与自身通信连接的各个客户端的分类任务数量,并分配训练任务和测试任务,以使每个所述客户端基于所述训练任务和所述测试任务,利用元学习算法和用户数据对待训练的神经网络进行训练及测试,并在获得第一分类模型后上传所述第一分类模型的至少部分网络参数的步骤,包括:确定与自身通信连接的各个客户端的分类任务数量,并分配训练任务和测试任务,以使每个所述客户端基于所述训练任务和所述测试任务,利用元学习算法和用户数据对待训练的神经网络进行训练及测试,并在获得第一分类模型后上传Base层的当前网络参数。4.根据权利要求3所述的面向小样本数据的个性化联邦元学习方法,其特征在于,接收各个客户端上传的所述至少部分网络参数并进行聚合,得到第一...

【专利技术属性】
技术研发人员:王善峰孙嘉雨余天豪公茂果张元侨高原范晓龙
申请(专利权)人:西安电子科技大学
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1