训练模型的方法、装置、电子设备以及存储介质制造方法及图纸

技术编号:33459025 阅读:21 留言:0更新日期:2022-05-19 00:40
本公开提供了一种训练模型的方法、装置、电子设备以及存储介质,涉及数据处理领域,进一步涉及云计算、联邦学习技术领域,具体涉及一种训练模型的方法、装置、电子设备以及存储介质。具体实现方案为:接收来自于多个终端的加密数据,其中,加密数据是由多个终端中每个终端对本地模型进行训练后得到的中间结果进行加密后得到的数据;基于加密数据对初始云端模型进行训练与更新,得到目标云端模型;将目标云端模型对应的更新后网络参数返回至多个终端,以使多个终端中每个终端对本地模型进行更新。更新。更新。

【技术实现步骤摘要】
训练模型的方法、装置、电子设备以及存储介质


[0001]本公开涉及数据处理领域,进一步涉及云计算、联邦学习
,具体涉及一种训练模型的方法、装置、电子设备以及存储介质。

技术介绍

[0002]目前,在对模型进行联合训练时,通常将不同数据持有方的数据聚合在同一集群中,并使用传统的分布式技术对模型进行训练,但是近年来越来越多的法案出台以保护数据隐私,导致数据的聚合受到了很多限制,给模型的联合训练提出了更高的要求。

技术实现思路

[0003]本公开提供了一种用于训练模型的方法、装置、设备以及存储介质。
[0004]根据本公开的一方面,提供了一种训练模型的方法,包括:接收来自于多个终端的加密数据,其中,加密数据是由多个终端中每个终端对本地模型进行训练后得到的中间结果进行加密后得到的数据;基于加密数据对初始云端模型进行训练与更新,得到目标云端模型;将目标云端模型对应的更新后网络参数返回至多个终端,以使多个终端中每个终端对本地模型进行更新。
[0005]可选地,基于加密数据对初始云端模型进行训练与更新,得到目标云端模型包本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种训练模型的方法,包括:接收来自于多个终端的加密数据,其中,所述加密数据是由所述多个终端中每个终端对本地模型进行训练后得到的中间结果进行加密后得到的数据;基于所述加密数据对初始云端模型进行训练与更新,得到目标云端模型;将所述目标云端模型对应的更新后网络参数返回至所述多个终端,以使所述多个终端中每个终端对所述本地模型进行更新。2.根据权利要求1所述的方法,其中,基于所述加密数据对所述初始云端模型进行训练与更新,得到所述目标云端模型包括:基于所述加密数据的数据维度,对所述加密数据进行聚合处理,得到处理结果;利用所述处理结果对所述初始云端模型进行训练与更新,得到所述目标云端模型。3.根据权利要求2所述的方法,其中,基于所述加密数据的数据维度,对所述加密数据进行聚合处理,得到所述处理结果包括:响应于来自于不同终端的所述加密数据具有相同的数据维度,采用加权平均方式对所述加密数据进行聚合处理,得到所述处理结果。4.根据权利要求2所述的方法,其中,基于所述加密数据的数据维度,对所述加密数据进行聚合处理,得到所述处理结果包括:响应于来自于不同终端的所述加密数据具有不同的数据维度,采用纵向拼接方式对所述加密数据进行聚合处理,得到所述处理结果。5.根据权利要求3所述的方法,其中,所述方法还包括:利用所述目标云端模型对应的测试集,对所述目标云端模型进行测试,得到测试结果,其中,所述测试结果用于评估所述多个终端中每个终端发送的所述加密数据的数据质量。6.根据权利要求5所述的方法,其中,所述方法还包括:在再次采用所述加权平均方式对所述加密数据进行聚合处理的过程中,基于所述测试结果调整所述多个终端中每个终端发送的所述加密数据在加权平均计算中的权重。7.一种训练模型的装置,包括:接收模块,用于接收来自于多个终端的加密数据,其中,所述加密数据是由所述多个终端中每个终端对本地模型进行训练后得到的中间结果进行加密后得到的数据;处理模块,用于基于所述加密数据对初始云端模型进行训练与更新,得到目标云端模...

【专利技术属性】
技术研发人员:敬清贺董大祥汤伟徐龙腾杨博叶柏威
申请(专利权)人:北京百度网讯科技有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1