用于联邦学习的方法、装置、设备和介质制造方法及图纸

根据本公开的实施例，提供了用于联邦学习的方法、装置、设备和介质。该方法包括：在服务节点处，从客户端接收本地模型以及第一模型版本信息，本地模型在客户端处被训练；基于第一模型版本信息与全局模型的第二模型版本信息之间的版本差异与版本差异阈值的比较来确定本地模型是否要被聚合到全局模型；以及如果确定本地模型不能被聚合到全局模型，向客户端发送训练参数调整值和全局模型。通过这样的方案，能够对具有不同能力的客户端动态地调整适合于自身的训练方案，以充分利用客户端上的计算资源。算资源。算资源。

【技术实现步骤摘要】
用于联邦学习的方法、装置、设备和介质


[0001]本公开的示例实施例总体涉及计算机领域，特别地涉及用于联邦学习的方法、装置、设备和计算机可读存储介质。

技术介绍

[0002]当前机器学习已经得到了广泛的应用。机器学习模型的性能通常是随着数据量的增加而提高。随着数据隐私保护问题越来越受到重视以及边缘计算能力不断发展，联邦学习得以兴起。联邦学习能够在保护用户隐私的前提下，利用边缘计算，将客户端的本地数据用于机器学习模型的训练，从而发挥数据的价值。

技术实现思路

[0003]在本公开的第一方面，提供了一种用于联邦学习的方法。该方法包括：在服务节点处，从客户端接收本地模型以及第一模型版本信息，本地模型在客户端处被训练；基于第一模型版本信息与全局模型的第二模型版本信息之间的版本差异与版本差异阈值的比较来确定本地模型是否要被聚合到全局模型；以及如果确定本地模型不能被聚合到全局模型，向客户端发送训练参数调整值和全局模型。
[0004]在本公开的第二方面，提供了一种用于联邦学习的方法。该方法包括：在客户端处，向服务节点发送本地模型以及第本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种联邦学习的方法，包括：在服务节点处，从客户端接收本地模型以及第一模型版本信息，所述本地模型在所述客户端处被训练；基于所述第一模型版本信息与全局模型的第二模型版本信息之间的版本差异与版本差异阈值的比较来确定所述本地模型是否要被聚合到全局模型；以及如果确定所述本地模型不能被聚合到全局模型，向所述客户端发送训练参数调整值和所述全局模型。2.根据权利要求1所述的方法，还包括：基于所述第一模型版本信息与所述第二模型版本信息之间的所述版本差异来确定针对所述客户端的所述训练参数调整值。3.根据权利要求2所述的方法，其中基于所述版本差异来确定针对所述客户端的所述训练参数调整值包括：基于所述版本差异与所述版本差异阈值之差来确定针对所述客户端的所述训练参数调整值。4.根据权利要求1所述的方法，其中所述训练参数调整值被确定为使所述客户端所采用的训练步数减小。5.根据权利要求1所述的方法，其中确定所述本地模型是否要被聚合到全局模型包括：如果所述版本差异超过所述版本差异阈值，确定所述本地模型不能被聚合到全局模型。6.根据权利要求1至5中任一项所述的方法，还包括：从所述客户端接收与生成所述本地模型的训练轮次中的本地训练相关的信息；以及基于接收到的所述信息来确定所述本地模型对所述全局模型的贡献度。7.根据权利要求6所述的方法，其中所述信息包括以下至少一项：在所述本地模型的训练完成时所述本地模型的损失值，在训练轮次中用于训练所述本地模型的训练数据量，在所述训练轮次中的训练步数。8.根据权利要求6所述的方法，还包括：如果确定所述本地模型要被聚合到所述全局模型，基于所述贡献度来执行所述本地模型与所述全局模型的聚合，得到另一全局模型。9.根据权利要求8所述的方法，其中基于所述贡献度来执行所述本地模型与所述全局模型的聚合包括：基于所述贡献度来确定针对所述本地模型的聚合权重；以及利用所述聚合权重来加权聚合所述本地模型和所述全局模型。10.一种联邦学习的方法，包括：在客户端处，向服务节点发送本地模型以及第一模型版本信息，所述本地模型在所述客户端处被训练；从所述服务节点接收训练参数调整值和全局模型；基于所述训练参数调整值来确定训练参数值；以及根据所述训练参数值来训练所述全局模型，以得到另一本地模型。
11.根据权利要求10所述的方法，其中所述训练参数调整值基于所述第一模型版本信息与...

【专利技术属性】
技术研发人员：杭卫强，张剑清，李晓光，林凡，王森，
申请(专利权)人：抖音视界有限公司，
类型：发明
国别省市：