联邦模型的训练方法、装置、设备、存储介质及程序制造方法及图纸

本发明专利技术提供一种联邦模型的训练方法、装置、设备、存储介质及程序，该方法包括：第一设备根据第一对象的第一训练样本和第一权重集合，生成第一子结果，所述第一权重集合包括所述第一训练样本中各特征的权重值；第二设备根据第一对象的第二训练样本和第二权重集合，生成第二子结果，所述第二权重集合包括所述第二训练样本中各特征的权重值；第一设备根据第一子结果和第二子结果确定第一对象的预测结果，并根据所述预测结果和所述第一训练样本对应的标记结果更新所述第一权重集合；第二设备根据所述预测结果中的第一子预测结果更新所述第二权重集合。上述过程降低了训练过程的复杂度，提高联邦模型的训练效率。提高联邦模型的训练效率。提高联邦模型的训练效率。

【技术实现步骤摘要】
联邦模型的训练方法、装置、设备、存储介质及程序


[0001]本专利技术涉及人工智能
，尤其涉及一种联邦模型的训练方法、装置、设备、存储介质及程序。

技术介绍

[0002]随着互联网技术的快速发展，在各领域的数据平台中，用户的数据量大幅提升，各领域有着一大部分重合的用户，例如：社交平台有某用户的浏览数据，电商平台有该用户的购物数据，银行平台有该用户的收支和征信数据等。
[0003]相关技术中，在保证各数据平台的数据隐私保护的情况下，可以通过对多个数据平台的用户数据进行联邦学习，构建得到联合机器学习预测模型，以帮助各数据平台向用户提供更好的服务。
[0004]然而，实际应用中，联邦模型的训练过程计算量较大，导致训练效率较低。

技术实现思路

[0005]本专利技术的主要目的在于提供一种联邦模型的训练方法、装置、设备、存储介质及程序，以提高联邦模型的训练效率。
[0006]第一方面，本专利技术提供一种联邦模型的训练方法，
[0007]应用于包括第一设备和第二设备的联邦系统，待训练的联邦模型的模型参数本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种联邦模型的训练方法，其特征在于，应用于包括第一设备和第二设备的联邦系统，待训练的联邦模型的模型参数包括待训练的第一权重集合和待训练的第二权重集合，所述第一设备用于训练所述第一权重集合，所述第二设备用于训练所述第二权重集合，所述方法包括：所述第一设备根据第一对象的第一训练样本和所述第一权重集合，生成第一子结果，所述第一权重集合包括所述第一训练样本中各特征的权重值；所述第一设备接收所述第二设备发送的第二子结果，所述第二子结果为所述第二设备根据所述第一对象的第二训练样本和所述第二权重集合得到的，所述第二权重集合包括所述第二训练样本中各特征的权重值；所述第一设备根据所述第一子结果和所述第二子结果确定所述第一对象的预测结果，并根据所述预测结果和所述第一训练样本对应的标记结果更新所述第一权重集合，所述预测结果和所述标记结果还用于更新所述第二权重集合。2.根据权利要求1所述的联邦模型的训练方法，其特征在于，所述第一设备根据所述预测结果和所述第一训练样本对应的标记结果更新所述第一权重集合，包括：所述第一设备根据所述预测结果和所述标记结果，确定目标梯度，所述目标梯度包括第一子梯度和第二子梯度；所述第一设备向所述第二设备发送所述第一子梯度，并接收所述第二设备发送的第一子权重集合，所述第一子权重集合为所述第二设备根据所述第一子梯度确定得到的；所述第一设备根据所述第二子梯度确定第二子权重集合；所述第一设备根据所述第一子权重集合和所述第二子权重集合更新所述第一权重集合。3.根据权利要求2所述的联邦模型的训练方法，其特征在于，所述第一设备根据所述预测结果和所述标记结果，确定目标梯度，包括：所述第一设备根据所述预测结果确定第一子预测结果和第二子预测结果；所述第一设备根据所述第二子预测结果和所述标记结果，确定第二损失数据；所述第一设备向所述第二设备发送所述第一子预测结果，并接收所述第二设备发送的第一损失数据，所述第一损失数据为所述第二设备根据所述第一子预测结果确定得到的；所述第一设备根据所述第一损失数据和所述第二损失数据，确定所述目标梯度。4.根据权利要求3所述的联邦模型的训练方法，其特征在于，所述第一设备根据所述第一损失数据和所述第二损失数据，确定所述目标梯度，包括：所述第一设备将所述第一损失数据和所述第二损失数据之和确定为目标损失数据；所述第一设备根据所述目标损失数据确定所述目标梯度。5.根据权利要求1至4任一项所述的联邦模型的训练方法，其特征在于，所述第一设备根据所述第一子结果和所述第二子结果确定所述第一对象的预测结果，包括：所述第一设备将所述第一子结果和所述第二子结果之和确定为中间结果；所述第一设备根据预设参数对所述中间结果进行处理，得到所述预测结果。6.根据权利要求1至4任一项所述的联邦模型的训练方法，其特征在于，所述第一设备根据第一对象的第一训练样本和所述第一权重集合，生成第一子结果，包括：所述第一设备确定所述第一训练样本对应的第一样本向量，以及确定所述第一权重集
合对应的第一权重向量；所述第一设备将所述第一样本向量和所述第一权重向量的乘积确定为所述第一子结果。7.一种联邦模型的训练方法，其特征在于，应用于包括第一设备和第二设备的联邦系统，待训练的联邦模型的模型参数包括待训练的第一权重集合和待训练的第二权重集合，所述第一设备用于训练所述第一权重集合，所述第二设备用于训练所述第二权重集合，所述方法包括：所述第二设备根据第一对象的第二训练样本和第二权重集合，生成第二子结果，所述第二权重集合包括所述第二训练样本中各特征的权重值；所述第二设备向所述第一设备发送所述第二子结果；所述第二设备根据预测结果和标记结果更新所述第二权重集合，其中，所述预测结果为所述第一设备根据第一子结果和所述第二子结果生成的，所述第一子结果为所述第一设备根据所述第一对象的第一训练样本和所述第一权重集合得到的，所述第一权重集合包括所述第一训练样本中各特征的权重值，所述标记结果为所述第一训练样本对应的标记结果；所述预测结果和所述标记结果还用于更新所述第一权重集合。8.根据权利要求7所述的联邦模型的训练方法，其特征在于，所述第二设备根据预测结果和标记结果更新所述第二权重集合，包括：所述第二设备接收所述第一设备发送的所述预测结果...

【专利技术属性】
技术研发人员：谭明超，马国强，范涛，杨强，
申请(专利权)人：深圳前海微众银行股份有限公司，
类型：发明
国别省市：