联邦学习方法、系统、电子设备及计算机可读介质技术方案

技术编号:37098964 阅读:21 留言:0更新日期:2023-04-01 05:00
本公开实施例提供一种联邦学习方法、系统、电子设备及可读介质,该方法应用于中央节点,包括:获取分布式节点的空闲时间资源和计算资源;根据所述空闲时间资源和计算资源对所述分布式节点进行划分,获得包括至少一个分布式节点的目标层级;根据指定等待时长T和所述目标层级中分布式节点的计算资源确定所述目标层级的训练轮数n,以便每个目标层级中的分布式节点在当前时间起的指定等待时长T内进行n轮联邦学习;根据所有分布式节点的训练模型,获得训练完成的目标联邦模型。本公开实施例提供的联邦学习方法、系统、电子设备及可读介质,能够提高联邦学习的效率。能够提高联邦学习的效率。能够提高联邦学习的效率。

【技术实现步骤摘要】
联邦学习方法、系统、电子设备及计算机可读介质


[0001]本公开涉及联邦学习
,尤其涉及一种联邦学习方法、系统、电子设备及计算机可读介质。

技术介绍

[0002]联邦学习,可以使多个参与方在满足数据隐私、安全和监管要求的前提下进行机器学习建模,各参与方数据均保留在本地,通过共享加密后的中间结果进行联合训练,建立共享的机器学习模型。
[0003]在联邦学习中,各个参与者实际上是非同步的。首先,各个参与者的空闲时间不同;其次,由于数据集大小、计算能力不同,各个参与者完成模型训练的时间亦不相同。如何协调联邦学习中各参与者的异步学习是一个亟待解决的问题。
[0004]因此,需要一种新的联邦学习方法、系统、电子设备及计算机可读介质。
[0005]在所述
技术介绍
部分公开的上述信息仅用于加强对本公开的背景的理解。

技术实现思路

[0006]有鉴于此,本公开实施例提供一种联邦学习方法、系统、电子设备及计算机可读介质,能够提高联邦学习的效率。
[0007]本公开的其他特性和优点将通过下面的详细描述变得显然,或部分地通过本公开的实践而习得。
[0008]根据本公开实施例的第一方面,提出一种联邦学习方法,应用于中央节点,该方法包括:获取分布式节点的空闲时间资源和计算资源;根据所述空闲时间资源和计算资源对所述分布式节点进行划分,获得包括至少一个分布式节点的目标层级;根据指定等待时长T和所述目标层级中分布式节点的计算资源确定所述目标层级的训练轮数n,以便每个目标层级中的分布式节点在当前时间起的指定等待时长T内进行n轮联邦学习;根据所有分布式节点发送的训练模型,获得训练完成的目标联邦模型。
[0009]在本公开的一种示例性实施例中,根据指定等待时长T和所述目标层级中分布式节点的计算资源确定所述目标层级的训练轮数n包括:根据所述目标层级中各分布式节点的计算资源确定所述目标层级的单轮学习时间t;对所述指定等待时长T和所述单轮学习时间t的商值向下取整,获得所述目标层级的训练轮数n。
[0010]在本公开的一种示例性实施例中,根据所述目标层级中各分布式节点的计算资源确定所述目标层级的单轮学习时间t包括:根据所述目标层级中所述分布式节点的计算资源确定所述目标层级的目标计算资源;根据所述目标层级的目标计算资源确定所述目标层级的单轮学习时间t。
[0011]在本公开的一种示例性实施例中,根据所述空闲时间资源和计算资源对所述分布式节点进行划分,获得包括至少一个分布式节点的目标层级包括:根据所述空闲时间资源和计算资源对所述分布式节点进行聚类,获得包括至少一个分布式节点的目标层级;或通
过分类模型对所述空闲时间资源和计算资源进行处理,获得每个分布式节点的目标类别,以将具有同样目标类别的分布式节点整合为同一目标层级。
[0012]在本公开的一种示例性实施例中,对所有分布式节点发送的训练模型进行融合,获得训练完成的目标联邦模型包括:对所有分布式节点的训练模型进行融合,获得第一联邦模型;将所述第一联邦模型发送至所述分布式节点,以便所述分布式节点基于所述第一联邦模型进行多次迭代的联邦学习,获得训练完成的所述目标联邦模型。
[0013]根据本公开实施例的第二方面,提出一种联邦学习方法,应用于分布式节点,该方法包括:向中央节点发送所述分布式节点的空闲时间资源和计算资源;接收所述中央节点返回的目标层级和所述目标层级的训练轮数n,所述目标层级是所述中央节点根据所述空闲时间资源和计算资源对分布式节点划分获得,所述目标层级的训练轮数n是所述中央节点根据指定等待时长T和所述目标层级中分布式节点的计算资源确定t;在当前时间起的指定等待时长T内进行n轮联邦学习,获得所述分布式节点的训练模型;向所述中央节点发送所述分布式节点的训练模型,并接收所述中央节点根据所有分布式节点的训练模型获得的目标联邦模型。
[0014]在本公开的一种示例性实施例中,所述目标层级的训练轮数n是所述中央节点根据所述目标层级中各分布式节点的计算资源确定所述目标层级的单轮学习时间t后,对所述指定等待时长T和所述单轮学习时间t的商值向下取整获得。
[0015]根据本公开实施例的第三方面,提出一种联邦学习系统,该系统包括:中央节点,配置为获取分布式节点的空闲时间资源和计算资源;根据所述空闲时间资源和计算资源对所述分布式节点进行划分,获得包括至少一个分布式节点的目标层级;根据指定等待时长T和所述目标层级中分布式节点的计算资源确定所述目标层级的训练轮数n;根据所有分布式节点发送的训练模型,获得训练完成的目标联邦模型;至少两个分布式节点,配置为向所述中央节点发送所述分布式节点的空闲时间自由和计算资源;接收所述中央节点根据所述空闲时间资源和计算资源返回的目标层级指定等待时长T;在当前时间起的指定等待时长T内进行n轮联邦学习,获得所述分布式节点的训练模型;向所述中央节点发送所述分布式节点的训练模型,并接收所述中央节点根据所有分布式节点的训练模型获得的训练完成的所述目标联邦模型。
[0016]根据本公开实施例的第四方面,提出一种电子设备,该电子设备包括:一个或多个处理器;存储装置,用于存储一个或多个程序;当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现上述任一项所述的联邦学习方法。
[0017]根据本公开实施例的第五方面,提出一种计算机可读介质,其上存储有计算机程序,所述程序被处理器执行时实现如上述任一项所述的联邦学习方法。
[0018]根据本公开某些实施例提供的联邦学习方法、系统、电子设备及计算机可读介质,通过分布式节点的空闲时间资源和计算资源对分布式节点进行划分,将空闲时间段相似、计算能力相似的分布式节点划分为同一目标层级,能够保证同一目标层级中的分布式节点处于同步状态,提高了每一目标层级中各个分布式节点的时间资源和计算资源的利用效率。同时,根据指定等待时长T和各目标层级中分布式节点的计算资源估计该目标层级在指定等待时长T内可进行的最大的训练轮数n,使不同目标层级的分布式节点最大化利用其计算资源,进一步提高联邦学习的效率。
[0019]应当理解的是,以上的一般描述和后文的细节描述仅是示例性的,并不能限制本公开。
附图说明
[0020]此处的附图被并入说明书中并构成本说明书的一部分,示出了符合本公开的实施例,并与说明书一起用于解释本公开的原理。下面描述的附图仅仅是本公开的一些实施例,对于本领域的普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
[0021]图1是根据一示例性实施例示出的一种联邦学习方法及装置的系统框图。
[0022]图2是根据一示例性实施例示出的一种联邦学习方法的流程图。
[0023]图3是根据另一示例性实施例示出的一种联邦学习方法的流程图。
[0024]图4是根据又一示例性实施例示出的一种联邦学习方法的流程图。
[0025]图5是根据再一示例性实施例示出的一种联邦学习方法的流程图本文档来自技高网
...

【技术保护点】

【技术特征摘要】
1.一种联邦学习方法,其特征在于,应用于中央节点,所述方法包括:获取分布式节点的空闲时间资源和计算资源;根据所述空闲时间资源和计算资源对所述分布式节点进行划分,获得包括至少一个分布式节点的目标层级;根据指定等待时长T和所述目标层级中分布式节点的计算资源确定所述目标层级的训练轮数n,以便每个目标层级中的分布式节点在当前时间起的指定等待时长T内进行n轮联邦学习;根据所有分布式节点发送的训练模型,获得训练完成的目标联邦模型。2.如权利要求1所述的方法,其特征在于,根据指定等待时长T和所述目标层级中分布式节点的计算资源确定所述目标层级的训练轮数n包括:根据所述目标层级中各分布式节点的计算资源确定所述目标层级的单轮学习时间t;对所述指定等待时长T和所述单轮学习时间t的商值向下取整,获得所述目标层级的训练轮数n。3.如权利要求2所述的方法,其特征在于,根据所述目标层级中各分布式节点的计算资源确定所述目标层级的单轮学习时间t包括:根据所述目标层级中所述分布式节点的计算资源确定所述目标层级的目标计算资源;根据所述目标层级的目标计算资源确定所述目标层级的单轮学习时间t。4.如权利要求1所述的方法,其特征在于,根据所述空闲时间资源和计算资源对所述分布式节点进行划分,获得包括至少一个分布式节点的目标层级包括:根据所述空闲时间资源和计算资源对所述分布式节点进行聚类,获得包括至少一个分布式节点的目标层级;或通过分类模型对所述空闲时间资源和计算资源进行处理,获得每个分布式节点的目标类别,以将具有同样目标类别的分布式节点整合为同一目标层级。5.如权利要求1所述的方法,其特征在于,根据所有分布式节点发送的训练模型,获得训练完成的目标联邦模型包括:对所有分布式节点发送的训练模型进行融合,获得第一联邦模型;将所述第一联邦模型发送至所述分布式节点,以便所述分布式节点基于所述第一联邦模型进行多次迭代的联邦学习,获得训练完成的所述目标联邦模型。6.一种联邦学习方法,其特征在于,应用于分布式节点,所述方法包括:向中央节点发送所述分布式节点的空闲时间资源和计算...

【专利技术属性】
技术研发人员:牛煜霞赵嵩
申请(专利权)人:中国电信股份有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1