非对称纵向联邦学习方法技术

本申请公开了一种非对称纵向联邦学习方法

【技术实现步骤摘要】
非对称纵向联邦学习方法、装置、电子设备及存储介质


[0001]本申请涉及纵向联邦学习
，具体而言，本申请涉及一种非对称纵向联邦学习方法
、
装置
、
电子设备及存储介质
。

技术介绍

[0002]随着大数据的发展，大多数行业数据呈现数据孤岛现象，出于数据安全与客户隐私保护的考虑，发展出联邦学习技术
。
联邦学习技术按照数据集不同，分为横向联邦学习
、
纵向联邦学习等分支
。
[0003]当前纵向联邦学习方法中，默认遵从参与方“地位对等”假设，业界称之为“对称式”。
但是，在实际场景中，这种对称式的联邦学习方法存在数据违规出域以及隐私信息泄露的风险，并且会与某些行业规范相违背，存在不合规的风险
。

技术实现思路

[0004]本专利技术实施例提供一种克服上述问题或者至少部分地解决上述问题的非对称纵向联邦学习方法
、
装置
、
电子设备及存储介质
。
[0005]根据本申请实施例本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.
一种非对称纵向联邦学习方法，其特征在于，所述方法应用于协调设备，包括：确定预测任务；向第一预测设备和第二预测设备分别发送第一请求，所述第一请求用于获得相应设备中与所述预测任务相关的数据集；所述第二预测设备与所述协调设备同域，所述第一预测设备与所述协调设备不同域且所述第一预测设备与所述第二预测设备不同域；分别接收所述第一预测设备和所述第二预测设备各自与所述预测任务相关的数据集，并确定两个数据集的交集，作为目标数据集；向所述第一预测设备和所述第二预测设备发送所述目标数据集以及第二请求，所述第二请求用于指示相应的设备根据所述目标数据集以及各自的预测模型获得所述预测任务的中间预测结果；接收所述第一预测设备和所述第二预测设备各自获得的所述预测任务的中间预测结果，根据所述预测任务的两个中间预测结果，获得所述预测任务的预测结果
。2.
根据权利要求1所述的方法，其特征在于，所述根据所述预测任务的两个中间预测结果，获得所述预测任务的预测结果，包括：对两个中间预测结果进行解密，得到两个解密后的中间预测结果，对所述两个解密后的中间预测结果进行计算，得到预测任务的预测结果
。3.
根据权利要求1所述的方法，其特征在于，所述向第一预测设备和第二预测设备分别发送第一请求，之前还包括：接收第一预测设备发送的第三请求以及与训练任务相关的第一样本数据集，将所述第三请求发送给第二预测设备，使得所述第二预测设备响应于所述第三请求，获得与所述训练任务相关的第二样本数据集；接收所述第二预测设备发送的与所述训练任务相关的第二样本数据集，将所述第一样本数据集以及所述第二样本数据集取交集，获得目标样本数据集，将所述目标样本数据集发送给所述第一预测设备和所述第二预测设备，并指示所述第一预测设备和所述第二预测设备根据所述目标样本数据集生成相应的中间结果；接收所述第一预测设备发送的第一中间结果，将所述第一中间结果发送给所述第二预测设备，使得所述第二预测设备根据所述第一中间结果生成中间梯度信息；接收所述第二预测设备发送的所述中间梯度信息
、
第二梯度信息，将所述中间梯度信息发送给所述第一预测设备，使得所述第一预测设备根据所述中间梯度信息生成对应的梯度信息；接收所述第一预测设备发送的第一梯度信息，将所述第一梯度信息和所述第二梯度信息融合后使用预设的算法进行计算，得到第三梯度信息，将所述第三梯度信息进行拆分，得到所述第一预测设备对应的第四梯度信息和所述第二预测设备对应的第五梯度信息；将所述第四梯度信息发送给所述第一预测设备，使得所述第一预测设备根据所述第四梯度信息对所述第一梯度信息进行更新；以及将所述第五梯度信息发送给所述第二预测设备，使得所述第二预测设备根据所述第五梯度信息对所述第二梯度信息进行更新；接收所述第二预测设备发送的损失值
。4.
根据权利要求3所述的方法，其特征在于，所述接收所述第二预测设备发送的损失值，之后还包括：
获得所述训练任务的累计执行次数和累计执行时间；若接收到的第二预测设备的损失值大于预设的损失值，且所述训练任务的累计执行次数小于预设的次数和
/
或所述训练任务的累计执行时间小于预设的时间，则指示相应的设备重新执行所述训练任务，获得所述第二预测设备发送的损失值
。5.
一种非对称纵向联邦学习方法，其特征在于，所述方法应用于第一预测设备，所述第一预测设备包括第一预测模型，所述第一预测模型通过纵向联邦学习的模型训练方法对待训练的第一预测模型训练得到，包括：响应于协调设备发送的第一请求，获得与预测任务相关的第一数据集，将所述第一数据集发送给所述协调设备；接收所述协调设备发送的目标数据集和第二请求，响应于所述第二请求，对所述目标数据集中每个目标数据进行特征提取，得到每个目标数据的特征数据，通过第一预测模型对每个目标数据的特征数据进行计算，得到每个目标数据的特征数据对应的中间结果，对所有特征数据对应的中间结果进行加密，得到所述预测任务的第一中间预测结果，将所述第一中间预测结果发送给所述协调设备
。6.
根据权利要求5所述的方法，其特征在于，所述待训练的第一预测模型包括至少一个第一参数；所述纵向联邦学习的模型训练方法，包括：确定与所述预测任务相对应的训练任务；向协调设备发送第三请求以及与所述训练任务相关的第一样本数据集，所述第三请求用于获得相应设备中与所述训练任务相关的目标样本数据集；接收所述协调设备发送的目标样本数据集，对所述目标样本数据集中每个目标样本数据进行特征提取，获得每个目标样本数据的特征数据，使用预设的纵向联邦学习算法对每个目标样本数据的特征数据进行计算，得到每个目标样本数据的特征数据的中间结果，将所有特征数据的中间结果作为第一中间结果，将所述第一中间结果发送给所述协调设备；接收所述协调设备发送的第二预测设备的中间梯度信息，根据所述中间梯度信息，以及所述第一中间结果，得到所有特征数据对应的梯度信息，作为第一梯度信息，将所述第一梯度信息发送给所述协调设备；接收所述协调设备发送的第四梯度信息，根据所述第四梯度信息对所述第一梯度信息进行更新，得到更新后的第一梯度信息，根据所述更新后的第一梯度信息，对每个第一参数的参数值进行更新，得到第...

【专利技术属性】
技术研发人员：陈丹，经琴，杨爱东，欧阳晔，
申请(专利权)人：亚信科技中国有限公司，
类型：发明
国别省市：