联合学习中资源的分配方法及装置制造方法及图纸

本公开涉及机器学习技术领域，提供了一种联合学习中资源的分配方法及装置。该方法包括：接收来自多个候选方的多维信用信息；根据多个所述候选方的多维信用信息，从多个所述候选方中确定联合学习训练的多个参与方；利用多个所述参与方的参与方数据进行联合学习训练，得到联合学习模型；基于所述联合学习模型，调取模型调控参数；根据模型调控参数，为每个所述参与方分配通过所述联合学习模型获得的资源。采用上述技术手段，解决现有技术中，因生产问题所造成的资源应用不合理的问题。问题所造成的资源应用不合理的问题。问题所造成的资源应用不合理的问题。

【技术实现步骤摘要】
联合学习中资源的分配方法及装置


[0001]本公开涉及机器学习
，尤其涉及一种联合学习中资源的分配方法及装置。

技术介绍

[0002]在机器学习中，常用的模型训练方法是通过一方的硬件进行模型训练的，而联合学习中有多个参与方，可以利用每个参与方的硬件进行模型训练，降低了模型训练中对硬件的要求。机器学习中，因为常用的模型训练方法是通过一方的硬件进行模型训练的，所以一方训练得到的模型所获得的资源，归该方所有，但是联合学习中有多个参与方，多个参与方训练得到的模型所获得的资源，如何分配，目前没有一种公平公正的分配方案。将参与方看做一个生产方，那么现有技术存在生产问题所造成的资源应用不合理的问题。
[0003]在实现本公开构思的过程中，专利技术人发现相关技术中至少存在如下技术问题：因生产问题所造成的资源应用不合理的问题。

技术实现思路

[0004]有鉴于此，本公开实施例提供了一种联合学习中资源的分配方法、装置、电子设备及计算机可读存储介质，以解决现有技术中，因生产问题所造成的资源应用不合理的问题。
[0005]本公开实施例的第一方面，提供了一种联合学习中资源的分配方法，包括：接收来自多个候选方的多维信用信息；根据多个候选方的多维信用信息，从多个候选方中确定联合学习训练的多个参与方；利用多个参与方的参与方数据进行联合学习训练，得到联合学习模型；基于联合学习模型，调取模型调控参数；根据模型调控参数，为每个参与方分配通过联合学习模型获得的资源。
[0006]本公开实施例的第二方面，提供了一种联合学习中资源的分配装置，包括：接收模块，被配置为接收来自多个候选方的多维信用信息；确定模块，被配置为根据多个候选方的多维信用信息，从多个候选方中确定联合学习训练的多个参与方；训练模块，被配置为利用多个参与方的参与方数据进行联合学习训练，得到联合学习模型；调取模块，被配置为基于联合学习模型，调取模型调控参数；分配模块，被配置为根据模型调控参数，为每个参与方分配通过联合学习模型获得的资源。
[0007]本公开实施例的第三方面，提供了一种电子设备，包括存储器、处理器以及存储在存储器中并且可在处理器上运行的计算机程序，该处理器执行计算机程序时实现上述方法的步骤。
[0008]本公开实施例的第四方面，提供了一种计算机可读存储介质，该计算机可读存储介质存储有计算机程序，该计算机程序被处理器执行时实现上述方法的步骤。
[0009]本公开实施例与现有技术相比存在的有益效果是：接收来自多个候选方的多维信用信息；根据多个候选方的多维信用信息，从多个候选方中确定联合学习训练的多个参与方；利用多个参与方的参与方数据进行联合学习训练，得到联合学习模型；基于联合学习模
型，调取模型调控参数；根据模型调控参数，为每个参与方分配通过联合学习模型获得的资源。采用上述技术手段，可以解决现有技术中，因生产问题所造成的资源应用不合理的问题，进而提供一种联合学习中资源的分配方法。
附图说明
[0010]为了更清楚地说明本公开实施例中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本公开的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其它的附图。
[0011]图1是本公开实施例的一种联合学习的架构示意图；
[0012]图2是本公开实施例提供的一种联合学习中资源的分配方法的流程示意图；
[0013]图3是本公开实施例提供的一种联合学习中资源的分配装置的结构示意图；
[0014]图4是本公开实施例提供的一种电子设备的结构示意图。
具体实施方式
[0015]以下描述中，为了说明而不是为了限定，提出了诸如特定系统结构、技术之类的具体细节，以便透彻理解本公开实施例。然而，本领域的技术人员应当清楚，在没有这些具体细节的其它实施例中也可以实现本公开。在其它情况中，省略对众所周知的系统、装置、电路以及方法的详细说明，以免不必要的细节妨碍本公开的描述。
[0016]联合学习是指在确保数据安全及用户隐私的前提下，综合利用多种AI(Artificial Intelligence，人工智能)技术，联合多方合作共同挖掘数据价值，催生基于联合建模的新的智能业态和模式。联合学习至少具有以下特点：
[0017](1)参与节点控制自有数据的弱中心化联合训练模式，确保共创智能过程中的数据隐私安全。
[0018](2)在不同应用场景下，利用筛选和/或组合AI算法、隐私保护计算，建立多种模型聚合优化策略，以获取高层次、高质量的模型。
[0019](3)在确保数据安全及用户隐私的前提下，基于多种模型聚合优化策略，获取提升联合学习引擎的效能方法，其中效能方法可以是通过解决包括计算架构并行、大规模跨域网络下的信息交互、智能感知、异常处理机制等，提升联合学习引擎的整体效能。
[0020](4)获取各场景下多方用户的需求，通过互信机制，确定合理评估各联合参与方的真实贡献度，进行分配激励。
[0021]基于上述方式，可以建立基于联合学习的AI技术生态，充分发挥行业数据价值，推动垂直领域的场景落地。
[0022]下面将结合附图详细说明根据本公开实施例的一种联合学习中资源的分配方法和装置。
[0023]图1是本公开实施例的一种联合学习的架构示意图。如图1所示，联合学习的架构可以包括服务器(中心节点)101以及参与方102、参与方103和参与方104。
[0024]在联合学习过程中，基本模型可以通过服务器101建立，服务器101将该模型发送至与其建立通信连接的参与方102、参与方103和参与方104。基本模型还可以是任一参与方
建立后上传至服务器101，服务器101将该模型发送至与其建立通信连接的其他参与方。参与方102、参与方103和参与方104根据下载的基本结构和第一模型参数构建模型，利用本地数据进行模型训练，获得更新的第一模型参数，并将更新的第一模型参数加密上传至服务器101。服务器101对参与方102、参与方103和参与方104发送的第一模型参数进行聚合，获得全局第一模型参数，并将全局第一模型参数传回至参与方102、参与方103和参与方104。参与方102、参与方103和参与方104根据接收的全局第一模型参数对各自的模型进行迭代，直到模型最终收敛，从而实现对模型的训练。在联合学习过程中，参与方102、参与方103和参与方104上传的数据为第一模型参数，本地数据并不会上传至服务器101，且所有参与方可以共享最终的第一模型参数，因此可以在保证数据隐私的基础上实现共同建模。需要说明的是，参与方的数量不限于如上的三个，而是可以根据需要进行设置，本公开实施例对此不作限制。
[0025]图2是本公开实施例提供的一种联合学习中资源的分配方法的流程示意图。图2的联合学习中资源的分配方法可以由图1的服务器执行。如图2所示，该联合学习中资源的分配方法包括：
[本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种联合学习中资源的分配方法，其特征在于，包括：接收来自多个候选方的多维信用信息；根据多个所述候选方的多维信用信息，从多个所述候选方中确定联合学习训练的多个参与方；利用多个所述参与方的参与方数据进行联合学习训练，得到联合学习模型；基于所述联合学习模型，调取模型调控参数；根据所述模型调控参数，为每个所述参与方分配通过所述联合学习模型获得的资源。2.根据权利要求1所述的方法，其特征在于，每个候选方的多维信用信息，包括：第一向量：申报数据量和真实数据量之间的差值；第二向量：申报资源量和真实资源量之间的差值；第三向量：申报数据质量等级和真实数据质量等级之间的差值。3.根据权利要求1所述的方法，其特征在于，根据多个所述候选方的多维信用信息，从多个所述候选方中确定联合学习训练的多个参与方，包括：计算每个所述候选方的多维信用信息和预设权重向量的乘积，得到每个所述候选方的信用得分；根据多个所述候选方的信用得分，从多个所述候选方中确定出多个参与方。4.根据权利要求1所述的方法，其特征在于，所述利用多个所述参与方的参与方数据进行联合学习训练，得到联合学习模型，包括：分别利用每个所述参与方的参与方数据训练神经网络模型，得到每个所述参与方对应的网络模型；获取每个所述参与方对应的网络模型的模型参数；聚合多个所述参与方对应的网络模型的模型参数，得到全局参数；基于所述全局参数更新所述神经网络模型的模型参数，得到所述联合学习模型。5.根据权利要求4所述的方法，其特征在于，基于所述全局参数更新所述神经网络模型的模型参数，得到所述联合学习模型之后，包括：计算每个所述参与方的多维信用信息和预设权重向量的乘积，得到每个所述参与方的信用得分；利用所述信用得分最高的参与方的参与方数据，训练所述联合学习模型，以更新所述联合学习模型。6.根据权利要求1所述的方法，其特征...

【专利技术属性】
技术研发人员：刘嘉，李增祥，
申请(专利权)人：新智我来网络科技有限公司，
类型：发明
国别省市：