本公开提供了一种基于目标化的联合学习方法、装置、电子设备及存储介质。该方法包括：对联合学习框架中的参与方设备进行分组得到相似设备组；为每个相似设备组配置边缘设备，利用边缘设备对相似设备组内的参与方设备的第一本地模型及数据样本进行处理，得到第二本地模型；将第二本地模型上传至联合学习框架的服务端，利用服务端对第二本地模型进行聚合得到全局模型；基于相似设备组的全局模型以及本地模型训练算法，对边缘设备中的基于目标化的模型进行训练，并将训练后的基于目标化的模型发送至各个参与方设备，使参与方设备利用基于目标化的模型对第一本地模型进行更新。本公开能够体现各参与方的基于目标化的信息，使各参与方能够训练基于目标化的本地模型，适应不同的目标任务。的目标任务。的目标任务。
【技术实现步骤摘要】
基于目标化的联合学习方法、装置、电子设备及存储介质
[0001]本公开涉及联合学习
，尤其涉及一种基于目标化的联合学习方法、装置、电子设备及存储介质。
技术介绍
[0002]随着计算机技术的不断发展，人工智能的应用也越来越广泛，通过联合不同参与方进行机器学习的联合学习方法成为一种训练人工智能模型的主流趋势。联合学习作为一种新型的分布式机器学习框架，满足了多个客户端在数据安全的要求下进行模型训练的需求。
[0003]传统的联合学习框架中，包含中心节点和不同的本地参与方，通过各参与方对模型参数上传、下发、更新等操作来训练联合学习模型，这种联合学习框架需要各参与方在训练中保持一致性。但是实际应用中，由于参与方数量较多，各参与方的设备及数据情况都不一样，不同的参与方会存在要保留基于目标化的模型的需求。然而基于传统联合学习框架的联合学习方法，无法体现各参与方的基于目标化的信息，导致各参与方训练得到的本地模型比较单一，无法适应不同的目标任务，且存在数据异构性的问题。
[0004]鉴于上述现有技术中的问题，需要提供一种能够体现各参与方的基于目标化的信息，使各参与方能够训练基于目标化的本地模型，从而适应不同的目标任务，减轻数据异构性的基于目标化的联合学习方案。
技术实现思路
[0005]有鉴于此，本公开实施例提供了一种基于目标化的联合学习方法、装置、电子设备及存储介质，以解决现有技术存在的无法体现各参与方的基于目标化的信息，导致各参与方训练得到的本地模型比较单一，无法适应不同的目标任务，且存在数据异构性的问题。
[0006]本公开实施例的第一方面，提供了一种基于目标化的联合学习方法，包括：根据预定的联合学习框架确定多个参与方设备，对参与方设备执行分组操作，得到多个由参与方设备组成的相似设备组；为每个相似设备组配置边缘设备，利用边缘设备对相似设备组内的参与方设备对应的第一本地模型及数据样本进行处理，得到与相似设备组对应的第二本地模型；将第二本地模型上传至联合学习框架的服务端，以利用服务端对第二本地模型执行聚合操作，得到与相似设备组对应的全局模型，并将全局模型发送至边缘设备中；基于相似设备组的全局模型以及本地模型训练算法，对边缘设备中的基于目标化的模型进行训练，并将训练后的基于目标化的模型发送至相似设备组内的各个参与方设备中，以使参与方设备利用基于目标化的模型对第一本地模型进行更新。
[0007]本公开实施例的第二方面，提供了一种基于目标化的联合学习装置，包括：分组模块，被配置为根据预定的联合学习框架确定多个参与方设备，对参与方设备执行分组操作，得到多个由参与方设备组成的相似设备组；处理模块，被配置为为每个相似设备组配置边缘设备，利用边缘设备对相似设备组内的参与方设备对应的第一本地模型及数据样本进行
处理，得到与相似设备组对应的第二本地模型；聚合模块，被配置为将第二本地模型上传至联合学习框架的服务端，以利用服务端对第二本地模型执行聚合操作，得到与相似设备组对应的全局模型，并将全局模型发送至边缘设备中；训练模块，被配置为基于相似设备组的全局模型以及本地模型训练算法，对边缘设备中的基于目标化的模型进行训练，并将训练后的基于目标化的模型发送至相似设备组内的各个参与方设备中，以使参与方设备利用基于目标化的模型对第一本地模型进行更新。
[0008]本公开实施例采用的上述至少一个技术方案能够达到以下有益效果：
[0009]通过根据预定的联合学习框架确定多个参与方设备，对参与方设备执行分组操作，得到多个由参与方设备组成的相似设备组；为每个相似设备组配置边缘设备，利用边缘设备对相似设备组内的参与方设备对应的第一本地模型及数据样本进行处理，得到与相似设备组对应的第二本地模型；将第二本地模型上传至联合学习框架的服务端，以利用服务端对第二本地模型执行聚合操作，得到与相似设备组对应的全局模型，并将全局模型发送至边缘设备中；基于相似设备组的全局模型以及本地模型训练算法，对边缘设备中的基于目标化的模型进行训练，并将训练后的基于目标化的模型发送至相似设备组内的各个参与方设备中，以使参与方设备利用基于目标化的模型对第一本地模型进行更新。本公开能够体现各参与方的基于目标化的信息，使各参与方能够训练基于目标化的本地模型，从而适应不同的目标任务，并且能够减轻数据异构性。
附图说明
[0010]为了更清楚地说明本公开实施例中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本公开的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其它的附图。
[0011]图1是本公开实施例提供的传统联合学习框架的架构示意图；
[0012]图2是本公开实施例提供的基于目标化的联合学习框架的架构示意图；
[0013]图3是本公开实施例提供的基于目标化的联合学习方法的流程示意图；
[0014]图4是本公开实施例提供的基于目标化的联合学习装置的结构示意图；
[0015]图5是本公开实施例提供的电子设备的结构示意图。
具体实施方式
[0016]以下描述中，为了说明而不是为了限定，提出了诸如特定系统结构、技术之类的具体细节，以便透彻理解本公开实施例。然而，本领域的技术人员应当清楚，在没有这些具体细节的其它实施例中也可以实现本公开。在其它情况中，省略对众所周知的系统、装置、电路以及方法的详细说明，以免不必要的细节妨碍本公开的描述。
[0017]联合学习是指在确保数据安全及用户隐私的前提下，综合利用多种AI(Artificial Intelligence，人工智能)技术，联合多方合作共同挖掘数据价值，催生基于联合建模的新的智能业态和模式。联合学习至少具有以下特点：
[0018](1)参与节点控制自有数据的弱中心化联合训练模式，确保共创智能过程中的数据隐私安全。
[0019](2)在不同应用场景下，利用筛选和/或组合AI算法、隐私保护计算，建立多种模型聚合优化策略，以获取高层次、高质量的模型。
[0020](3)在确保数据安全及用户隐私的前提下，基于多种模型聚合优化策略，获取提升联合学习引擎的效能方法，其中效能方法可以是通过解决包括计算架构并行、大规模跨域网络下的信息交互、智能感知、异常处理机制等，提升联合学习引擎的整体效能。
[0021](4)获取各场景下多方用户的需求，通过互信机制，确定合理评估各联合参与方的真实贡献度，进行分配激励。
[0022]基于上述方式，可以建立基于联合学习的AI技术生态，充分发挥行业数据价值，推动垂直领域的场景落地。
[0023]根据以上内容，联合学习是一种保护数据隐私的分布数据集的分布式学习范式。经典的联合学习框架包含中心节点和不同的本地参与方，通过各参与方对模型参数进行上传、下发及更新来训练联合学习模型，因此传统的联合学习框架需要各参与方在训练中保持一致性。传统联合学习可以保护用户数据隐私进行联合模型训练，中心本文档来自技高网...
【技术保护点】
【技术特征摘要】
1.一种基于目标化的联合学习方法，其特征在于，包括：根据预定的联合学习框架确定多个参与方设备，对所述参与方设备执行分组操作，得到多个由所述参与方设备组成的相似设备组；为每个所述相似设备组配置边缘设备，利用所述边缘设备对所述相似设备组内的所述参与方设备对应的第一本地模型及数据样本进行处理，得到与所述相似设备组对应的第二本地模型；将所述第二本地模型上传至所述联合学习框架的服务端，以利用所述服务端对所述第二本地模型执行聚合操作，得到与所述相似设备组对应的全局模型，并将所述全局模型发送至所述边缘设备中；基于所述相似设备组的全局模型以及本地模型训练算法，对所述边缘设备中的基于目标化的模型进行训练，并将训练后的基于目标化的模型发送至所述相似设备组内的各个参与方设备中，以使所述参与方设备利用所述基于目标化的模型对所述第一本地模型进行更新。2.根据权利要求1所述的方法，其特征在于，所述对所述参与方设备执行分组操作，得到多个由所述参与方设备组成的相似设备组，包括：获取所述联合学习框架中的每个所述参与方设备的属性信息，将所述参与方设备的属性信息作为聚类算法的输入，利用所述聚类算法对所述参与方设备进行分组，以便基于具有相似属性的参与方设备生成所述相似设备组。3.根据权利要求1所述的方法，其特征在于，在所述利用所述边缘设备对所述相似设备组内的所述参与方设备对应的第一本地模型及数据样本进行处理之前，所述方法还包括：为每个所述相似设备组配置一个边缘设备，将同一所述相似设备组内的各个所述参与方设备对应的第一本地模型及数据样本加载至所述边缘设备中，其中，所述数据样本中包含所述参与方设备对应的本地训练数据，所述边缘设备为所述联合学习框架中的虚拟化设备。4.根据权利要求3所述的方法，其特征在于，所述利用所述边缘设备对所述相似设备组内的所述参与方设备对应的第一本地模型及数据样本进行处理，得到与所述相似设备组对应的第二本地模型，包括：在所述边缘设备中，利用同一所述相似设备组内的各个所述参与方设备对应的第一本地模型及本地训练数据进行协同计算，得到与所述相似设备组对应的第二本地模型。5.根据权利要求1所述的方法，其特征在于，所述利用所述服务端对所述第二本地模型执行聚合操作，得到与所述相似设备组对应的全局模型，并将所述全局模型发送至所述边缘设备中，包括：在所述联合学习框架的服务端中，将各个所述边缘设备上传的所述第二本地模型执行聚合操作，得到聚合后的所述第二本地模型对应的模型参数，根据所述模型参数生成所述全局模型，并将所述全局模型发送给各个所述边...
【专利技术属性】
技术研发人员：赵蕾，
申请(专利权)人：新智我来网络科技有限公司，
类型：发明
国别省市：
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。