联邦学习方法、数据分类方法、装置、电子设备和介质制造方法及图纸

技术编号:37148715 阅读:47 留言:0更新日期:2023-04-06 22:02
本发明专利技术提供一种联邦学习方法、数据分类方法、装置、电子设备和介质,其中联邦学习方法包括:接收参与方发送的第一模型参数,第一模型参数是参与方基于本地样本数据对第二模型参数进行参数迭代得到的;基于第一模型参数中的分类器参数与第二模型参数中的分类器参数之间的差异,更新第二模型参数;将更新后的第二模型参数发送至参与方,以使参与方基于本地样本数据对更新后的第二模型参数进行参数迭代,得到更新后的第一模型参数并返回,直至联邦学习完成。本发明专利技术提供的联邦学习方法、数据分类方法、装置、电子设备和介质,提高了联邦学习的数据安全性,可以适用于所有参与方数据类别分布都不均衡的情况,应用范围广泛。应用范围广泛。应用范围广泛。

【技术实现步骤摘要】
联邦学习方法、数据分类方法、装置、电子设备和介质


[0001]本专利技术涉及机器学习
,尤其涉及一种联邦学习方法、数据分类方法、装置、电子设备和介质。

技术介绍

[0002]联邦学习(Federated Learning,FL)是一种分布式机器学习技术,其中用于训练模型的数据可以分布在多个参与方处。但是,不同参与方拥有的本地样本数据通常是不均衡的,各个参与方训练数据的不平衡可能导致联邦学习效果差、模型不收敛等问题。
[0003]针对样本数据类别不均衡问题,现有的解决方案大多是根据参与方的数据分布情况挑选参与方进行模型聚合或者采用服务端优化手段。但现有的解决方案适用范围有限,不适用于所有参与方数据类别分布都不好的情况,或者需要暴露本地数据类别分布情况,降低了联邦学习的数据安全性。

技术实现思路

[0004]本专利技术提供一种联邦学习方法、数据分类方法、装置、电子设备和介质,用以解决现有技术中针对样本数据类别不平衡问题的解决方案适用范围有限、安全性不高的缺陷。
[0005]本专利技术提供一种联邦学习方法,包括:本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种联邦学习方法,其特征在于,包括:接收参与方发送的第一模型参数,所述第一模型参数是所述参与方基于本地样本数据对第二模型参数进行参数迭代得到的;基于所述第一模型参数中的分类器参数与所述第二模型参数中的分类器参数之间的差异,更新所述第二模型参数;将更新后的第二模型参数发送至所述参与方,以使所述参与方基于所述本地样本数据对所述更新后的第二模型参数进行参数迭代,得到更新后的第一模型参数并返回,直至所述联邦学习完成。2.根据权利要求1所述的联邦学习方法,其特征在于,所述基于所述第一模型参数中的分类器参数与所述第二模型参数中的分类器参数之间的差异,更新所述第二模型参数,包括:基于所述第一模型参数中的分类器参数,与所述第二模型参数中的分类器参数之间的差异,确定分类器参数聚合权重;基于所述分类器参数聚合权重,对所述第一模型参数中的分类器参数进行聚合,得到所述第二模型参数中的分类器聚合参数;基于所述第二模型参数中的分类器聚合参数,更新所述第二模型参数中的分类器参数。3.根据权利要求2所述的联邦学习方法,其特征在于,所述基于所述第二模型参数中的分类器聚合参数,更新所述第二模型参数中的分类器参数,包括:基于所述第二模型参数中,每两个类别的分类器聚合参数之间的距离,对所述第二模型参数中的分类器聚合参数进行调整,得到所述第二模型参数中的分类器调整参数;基于所述第二模型参数中的分类器调整参数,更新所述第二模型参数中的分类器参数。4.根据权利要求3所述的联邦学习方法,其特征在于,所述基于所述第二模型参数中,每两个类别的分类器聚合参数之间的距离,对所述第二模型参数中的分类器聚合参数进行调整,包括:以所述每两个类别的分类器聚合参数之间的距离最大化为目标,确定所述第二模型参数中的分类器参数损失函数;基于所述分类器参数损失函数,对所述第二模型参数中的分类器聚合参数进行调整。5.根据权利要求2所述的联邦学习方法,其特征在于,所述基于所述第二模型参数中的分类器聚合参数,更新所述第二模型参数中的分类器参数,还包括:基于所述本地样本数据的数据量,对所述第一模型参数中的特征提取器参数进行聚合,得到所述第二模型参数中的特征提取器聚合参数;基于所述第二模型参数中的特征提取器聚合参数,更新所述第二模型参数中的特征提取器参数。6.一种联邦学习方法,其特征在于,包括:基于本地样本数据对第二模型参数进行参数迭代,得到第一模型参数...

【专利技术属性】
技术研发人员:韩玉虎束柬徐生王金钖陈剑波
申请(专利权)人:科大讯飞股份有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1