联邦建模系统及方法、联邦模型预测方法、介质、设备技术方案

技术编号:29079744 阅读:15 留言:0更新日期:2021-06-30 09:39
本公开提供了一种联邦建模系统、联邦建模方法、联邦模型预测方法、计算机可读存储介质和电子设备,涉及数据建模技术领域。联邦建模系统包括:特征处理装置,用于获取标签方的第一样本特征和标签值,对第一样本特征进行迭代处理得到中间特征向量;建模装置包括:向量接收模块,用于接收数据方的加密特征向量;数据处理模块,用于基于中间特征向量、加密特征向量和标签值,计算并加密第一样本特征对应的多个局部数据;数据解密模块,用于在数据方对与第一公钥加密数据相关的局部数据进行解密后,接收并解密局部数据以获取对应的目标解密数据,基于目标解密数据对待训练模型进行训练以得到目标模型。本公开可以提高联邦模型中交互数据的安全性。数据的安全性。数据的安全性。

【技术实现步骤摘要】
联邦建模系统及方法、联邦模型预测方法、介质、设备


[0001]本公开涉及数据建模
,具体而言,涉及一种联邦建模系统、联邦建模方法、联邦模型预测方法、计算机可读存储介质和电子设备。

技术介绍

[0002]随着人工智能和深度学习的快速发展,信息共享成为了促进企业合作发展的重要途径之一。
[0003]目前,多数企业采用联邦学习技术来实现信息共享。具体地,参与联邦学习的多个参与方首先从本地获取样本数据;然后,对样本数据进行加密,并将加密后的数据发送至协调方;接着,协调方对加密数据进行计算得出联邦模型的加密参数;其次,将加密的参数发送至解密设备,并将解密后的参数反馈至多个参与方,以使多个参与方对联邦模型进行训练得到联邦模型;随后,多个参与方使用训练好的联邦模型预测出目标数据。然而,基于上述情况,若协调方对解密设备进行设备控制,则可能使得多个参与方的数据泄露,导致联邦学习中数据交互存在安全隐患问题。
[0004]需要说明的是,在上述
技术介绍
部分公开的信息仅用于加强对本公开的背景的理解,因此可以包括不构成对本领域普通技术人员已知的现有技术的信息。

技术实现思路

[0005]本公开的目的在于提供一种联邦建模系统、联邦建模方法、联邦模型预测方法、计算机可读存储介质和电子设备,进而至少在一定程度上克服由于相关技术的限制和缺陷而导致联邦模型数据安全性低的问题。
[0006]根据本公开的第一个方面,提供一种联邦建模系统,该联邦建模系统包括多个建模装置和特征处理装置,且部署于标签方和数据方,其中,特征处理装置,用于获取标签方的第一样本特征和标签值,对第一样本特征进行迭代处理,得到中间特征向量;建模装置包括:向量接收模块,用于接收数据方的加密特征向量,其中,加密特征向量由数据方的建模装置基于数据方的第一公钥加密数据对迭代处理后的第二样本特征进行加密得到;数据处理模块,用于基于中间特征向量、加密特征向量和标签值,计算并加密第一样本特征对应的多个局部数据;数据解密模块,用于在数据方对与第一公钥加密数据相关的局部数据进行解密后,接收并解密数据方解密后的局部数据以获取对应的目标解密数据,基于目标解密数据对待训练模型进行训练,以得到目标模型。
[0007]可选地,第一样本特征对应的多个局部数据包括数据处理模块计算得到的损失函数、梯度以及联合计算梯度的中间参数。
[0008]可选地,特征处理装置包括:特征迭代模块,用于基于一预设神经网络对第一样本特征进行迭代处理,得到中间特征向量。
[0009]可选地,数据处理模块包括:公钥获取单元,用于在接收数据方的加密特征向量之前,获取第一公钥加密数据;数据确定单元,用于基于第一公钥加密数据、中间特征向量、加
密特征向量和标签值,计算第一样本特征对应的多个局部数据。
[0010]可选地,数据处理模块包括:公钥确定单元,用于确定标签方的第二公钥加密数据;数据加密单元,用于基于第二公钥加密数据对中间参数进行加密;分别对损失函数和梯度添加一掩码数据进行加密。
[0011]可选地,数据解密模块包括:数据接收单元,用于在数据方对与第一公钥加密数据相关的局部数据进行解密后,接收数据方解密后的局部数据作为中间解密数据;数据解密单元,用于对与第二公钥加密数据相关的中间解密数据进行解密,并删除中间解密数据中的掩码数据以获取对应的目标解密数据;数据建模单元,用于基于目标解密数据对待训练模型的参数进行迭代更新,以得到目标模型。
[0012]可选地,数据解密模块还包括:参数确定单元,用于确定解密后的损失函数;函数判断单元,用于在解密后的损失函数小于损失阈值的情况下,结束针对待训练模型的参数的迭代更新处理,以得到目标模型;若在损失函数大于损失阈值的情况下,对待训练模型的参数进行迭代更新。
[0013]根据本公开的第二个方面,提供一种联邦建模方法,应用于如上所述的联邦建模系统包括:利用特征处理装置获取标签方的第一样本特征和标签值,对第一样本特征进行迭代处理,得到中间特征向量;通过建模装置执行以下步骤:利用向量接收模块接收数据方发送的加密特征向量,其中,加密特征向量是由数据方的建模装置基于数据方的第一公钥加密数据对迭代处理后的第二样本特征进行加密得到;采用数据处理模块基于中间特征向量、加密特征向量和标签值,计算并加密第一样本特征对应的多个局部数据;利用数据解密模块在数据方对与第一公钥加密数据相关的局部数据进行解密后,接收并解密数据方解密后的局部数据以获取对应的目标解密数据,基于目标解密数据对待训练模型进行训练,以得到目标模型。
[0014]根据本公开的第三个方面,提供一种联邦模型预测方法,包括:获取标签方的第一样本特征和数据方的第二样本特征;将第一样本特征和第二样本特征输入训练后的目标模型,确定目标预测标签值;其中,目标模型由如上所述的联邦建模系统或如上所述的联邦建模方法训练得到。
[0015]根据本公开的第四个方面,提供一种计算机可读存储介质,其上存储有计算机程序,程序被处理器执行时实现如上所述的联邦建模方法或如上所述的联邦模型预测方法。
[0016]根据本公开的第五个方面,提供一种电子设备,包括:一个或多个处理器;存储装置,用于存储一个或多个程序,当一个或多个程序被一个或多个处理器执行时,使得一个或多个处理器实现如上所述的联邦建模方法或如上所述的联邦模型预测方法。
[0017]本公开的示例性实施例具有以下有益效果:
[0018]在本公开的一些实施例所提供的技术方案中,该联邦建模系统包括多个建模装置和特征处理装置,且部署于标签方和数据方,其中,特征处理装置,用于获取标签方的第一样本特征和标签值,对第一样本特征进行迭代处理,得到中间特征向量;建模装置包括:向量接收模块,用于接收数据方的加密特征向量,其中,加密特征向量由数据方的建模装置基于数据方的第一公钥加密数据对迭代处理后的第二样本特征进行加密得到;数据处理模块,用于基于中间特征向量、加密特征向量和标签值,计算并加密第一样本特征对应的多个局部数据;数据解密模块,用于在数据方对与第一公钥加密数据相关的局部数据进行解密
后,接收并解密数据方解密后的局部数据以获取对应的目标解密数据,基于目标解密数据对待训练模型进行训练,以得到目标模型。一方面,本公开的联邦建模系统中多个建模装置和特征处理装置部署于标签方和数据方,联邦建模系统中的交互数据在数据方的建模装置和标签方的建模装置中加密后进行传输,避免第三方传输数据造成安全隐患,提高了训练后的联邦模型中交互数据的安全性。另一方面,本公开仅利用联邦建模系统得到训练后的目标模型,避免使用软硬件一体化设备获取多方数据而增大开发工作量和成本,降低了联邦建模的开发成本和建模难度。同时,本公开计算第一样本特征的局部数据,避免使用一种建模方法而限制固定的计算方法,提高了联邦建模系统中建模装置的选择灵活性,进一步提高了联邦建模系统的适用范围。
[0019]应当理解的是,以上的一般描述和后文的细节描述仅是示例性和解释性的,并不能限制本公开。
...

【技术保护点】

【技术特征摘要】
1.一种联邦建模系统,其特征在于,所述联邦建模系统包括多个建模装置和特征处理装置,且部署于标签方和数据方,其中,特征处理装置,用于获取所述标签方的第一样本特征和标签值,对所述第一样本特征进行迭代处理,得到中间特征向量;所述建模装置包括:向量接收模块,用于接收所述数据方的加密特征向量,其中,所述加密特征向量由所述数据方的建模装置基于所述数据方的第一公钥加密数据对迭代处理后的第二样本特征进行加密得到;数据处理模块,用于基于所述中间特征向量、所述加密特征向量和所述标签值,计算并加密所述第一样本特征对应的多个局部数据;数据解密模块,用于在所述数据方对与所述第一公钥加密数据相关的局部数据进行解密后,接收并解密所述数据方解密后的所述局部数据以获取对应的目标解密数据,基于所述目标解密数据对待训练模型进行训练,以得到目标模型。2.根据权利要求1所述的联邦建模系统,其特征在于,所述第一样本特征对应的多个局部数据包括所述数据处理模块计算得到的损失函数、梯度以及联合计算梯度的中间参数。3.根据权利要求1所述的联邦建模系统,其特征在于,所述特征处理装置包括:特征迭代模块,用于基于一预设神经网络对所述第一样本特征进行迭代处理,得到中间特征向量。4.根据权利要求1至3任一项所述的联邦建模系统,其特征在于,所述数据处理模块包括:公钥获取单元,用于在接收所述数据方的加密特征向量之前,获取所述第一公钥加密数据;数据确定单元,用于基于所述第一公钥加密数据、所述中间特征向量、所述加密特征向量和所述标签值,计算所述第一样本特征对应的多个局部数据。5.根据权利要求2所述的联邦建模系统,其特征在于,所述数据处理模块包括:公钥确定单元,用于确定所述标签方的第二公钥加密数据;数据加密单元,用于基于所述第二公钥加密数据对所述中间参数进行加密;分别对所述损失函数和所述梯度添加一掩码数据进行加密。6.根据权利要求5所述的联邦建模系统,其特征在于,所述数据解密模块包括:数据接收单元,用于在所述数据方对与所述第一公钥加密数据相关的局部数据进行解密后,接收所述数据方解密后的所述局部数据作为中间解密数据;数据解密单元,用于对与所述第二公钥加密数据相关的中间解密数据进行解密,并删除所述...

【专利技术属性】
技术研发人员:杜宝坤秦筱桦杨仕豪
申请(专利权)人:北京京东世纪贸易有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1