联合学习模型的确定方法及装置制造方法及图纸

技术编号:38329153 阅读:15 留言:0更新日期:2023-07-29 09:12
本公开涉及联合学习技术领域,提供了一种联合学习模型的确定方法及装置。该方法包括:获取联合学习的主题,根据主题获取目标样例数据;提取目标样例数据的第一哈希特征和每个参与方的参与方数据的第二哈希特征;根据第一哈希特征和多个第二哈希特征,从多个参与方中确定出多个目标参与方;对多个目标参与方的参与方数据进行聚类操作,得到聚类结果;利用聚类结果训练神经网络模型,得到联合学习模型。采用上述技术手段,解决现有技术中,在联合学习中,直接使用多个参与方的参与方数据进行训练,得到的模型的精度低的问题。得到的模型的精度低的问题。得到的模型的精度低的问题。

【技术实现步骤摘要】
联合学习模型的确定方法及装置


[0001]本公开涉及联合学习
,尤其涉及一种联合学习模型的确定方法及装置。

技术介绍

[0002]在联合学习中,往往是通过多个参与方的参与方数据训练神经网络模型,得到每个参与方的网络模型,根据每个参与方的网络模型,得到联合学习模型。每个参与方的参与方数据是每个参与方采集得到的,因为每个参与方的业务不同或者采集数据的主体不同,每个参与方的参与方数据的数据质量和数量都不一样,因此如果直接使用多个参与方的参与方数据训练神经网络模型,得到的联合学习模型的精度低。
[0003]在实现本公开构思的过程中,专利技术人发现相关技术中至少存在如下技术问题:在联合学习中,直接使用多个参与方的参与方数据进行训练,得到的模型的精度低的问题。

技术实现思路

[0004]有鉴于此,本公开实施例提供了一种联合学习模型的确定方法、装置、电子设备及计算机可读存储介质,以解决现有技术中,在联合学习中,直接使用多个参与方的参与方数据进行训练,得到的模型的精度低的问题。
[0005]本公开实施例的第一方面,提供了一种联合学习模型的确定方法,包括:获取联合学习的主题,根据主题获取目标样例数据;提取目标样例数据的第一哈希特征和每个参与方的参与方数据的第二哈希特征;根据第一哈希特征和多个第二哈希特征,从多个参与方中确定出多个目标参与方;对多个目标参与方的参与方数据进行聚类操作,得到聚类结果;利用聚类结果训练神经网络模型,得到联合学习模型。
[0006]本公开实施例的第二方面,提供了一种联合学习模型的确定装置,包括:获取模块,被配置为获取联合学习的主题,根据主题获取目标样例数据;提取模块,被配置为提取目标样例数据的第一哈希特征和每个参与方的参与方数据的第二哈希特征;确定模块,被配置为根据第一哈希特征和多个第二哈希特征,从多个参与方中确定出多个目标参与方;聚类模块,被配置为对多个目标参与方的参与方数据进行聚类操作,得到聚类结果;训练模块,被配置为利用聚类结果训练神经网络模型,得到联合学习模型。
[0007]本公开实施例的第三方面,提供了一种电子设备,包括存储器、处理器以及存储在存储器中并且可在处理器上运行的计算机程序,该处理器执行计算机程序时实现上述方法的步骤。
[0008]本公开实施例的第四方面,提供了一种计算机可读存储介质,该计算机可读存储介质存储有计算机程序,该计算机程序被处理器执行时实现上述方法的步骤。
[0009]本公开实施例与现有技术相比存在的有益效果是:获取联合学习的主题,根据主题获取目标样例数据;提取目标样例数据的第一哈希特征和每个参与方的参与方数据的第二哈希特征;根据第一哈希特征和多个第二哈希特征,从多个参与方中确定出多个目标参与方;对多个目标参与方的参与方数据进行聚类操作,得到聚类结果;利用聚类结果训练神
经网络模型,得到联合学习模型。采用上述技术手段,可以解决现有技术中,在联合学习中,直接使用多个参与方的参与方数据进行训练,得到的模型的精度低的问题,进而提高联合学习中模型的精度。
附图说明
[0010]为了更清楚地说明本公开实施例中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本公开的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其它的附图。
[0011]图1是本公开实施例的一种联合学习的架构示意图;
[0012]图2是本公开实施例提供的一种联合学习模型的确定方法的流程示意图;
[0013]图3是本公开实施例提供的一种联合学习模型的确定装置的结构示意图;
[0014]图4是本公开实施例提供的一种电子设备的结构示意图。
具体实施方式
[0015]以下描述中,为了说明而不是为了限定,提出了诸如特定系统结构、技术之类的具体细节,以便透彻理解本公开实施例。然而,本领域的技术人员应当清楚,在没有这些具体细节的其它实施例中也可以实现本公开。在其它情况中,省略对众所周知的系统、装置、电路以及方法的详细说明,以免不必要的细节妨碍本公开的描述。
[0016]联合学习是指在确保数据安全及用户隐私的前提下,综合利用多种AI(Artificial Intelligence,人工智能)技术,联合多方合作共同挖掘数据价值,催生基于联合建模的新的智能业态和模式。联合学习至少具有以下特点:
[0017](1)参与节点控制自有数据的弱中心化联合训练模式,确保共创智能过程中的数据隐私安全。
[0018](2)在不同应用场景下,利用筛选和/或组合AI算法、隐私保护计算,建立多种模型聚合优化策略,以获取高层次、高质量的模型。
[0019](3)在确保数据安全及用户隐私的前提下,基于多种模型聚合优化策略,获取提升联合学习引擎的效能方法,其中效能方法可以是通过解决包括计算架构并行、大规模跨域网络下的信息交互、智能感知、异常处理机制等,提升联合学习引擎的整体效能。
[0020](4)获取各场景下多方用户的需求,通过互信机制,确定合理评估各联合参与方的真实贡献度,进行分配激励。
[0021]基于上述方式,可以建立基于联合学习的AI技术生态,充分发挥行业数据价值,推动垂直领域的场景落地。
[0022]下面将结合附图详细说明根据本公开实施例的一种联合学习模型的确定方法和装置。
[0023]图1是本公开实施例的一种联合学习的架构示意图。如图1所示,联合学习的架构可以包括服务器(中心节点)101以及参与方102、参与方103和参与方104。
[0024]在联合学习过程中,基本模型可以通过服务器101建立,服务器101将该模型发送至与其建立通信连接的参与方102、参与方103和参与方104。基本模型还可以是任一参与方
建立后上传至服务器101,服务器101将该模型发送至与其建立通信连接的其他参与方。参与方102、参与方103和参与方104根据下载的基本结构和模型参数构建模型,利用本地数据进行模型训练,获得更新的模型参数,并将更新的模型参数加密上传至服务器101。服务器101对参与方102、参与方103和参与方104发送的模型参数进行聚合,获得全局模型参数,并将全局模型参数传回至参与方102、参与方103和参与方104。参与方102、参与方103和参与方104根据接收的全局模型参数对各自的模型进行迭代,直到模型最终收敛,从而实现对模型的训练。在联合学习过程中,参与方102、参与方103和参与方104上传的数据为模型参数,本地数据并不会上传至服务器101,且所有参与方可以共享最终的模型参数,因此可以在保证数据隐私的基础上实现共同建模。需要说明的是,参与方的数量不限于如上的三个,而是可以根据需要进行设置,本公开实施例对此不作限制。
[0025]图2是本公开实施例提供的一种联合学习模型的确定方法的流程示意图。图2的联合学习模型的确定方法可以由图1的服务器执行。如图2所示,该联合学习模型本文档来自技高网
...

【技术保护点】

【技术特征摘要】
1.一种联合学习模型的确定方法,其特征在于,包括:获取联合学习的主题,根据所述主题获取目标样例数据;提取所述目标样例数据的第一哈希特征和每个参与方的参与方数据的第二哈希特征;根据所述第一哈希特征和多个所述第二哈希特征,从多个所述参与方中确定出多个目标参与方;对多个所述目标参与方的参与方数据进行聚类操作,得到聚类结果;利用所述聚类结果训练神经网络模型,得到联合学习模型。2.根据权利要求1所述的方法,其特征在于,所述提取所述目标样例数据的第一哈希特征和每个参与方的参与方数据的第二哈希特征,包括:根据哈希算法,生成哈希程序;利用所述哈希程序提取所述第一哈希特征和多个所述第二哈希特征。3.根据权利要求1所述的方法,其特征在于,所述根据所述第一哈希特征和多个所述第二哈希特征,从多个所述参与方中确定出多个目标参与方之后,所述方法还包括:分别利用每个所述目标参与方的参与方数据训练神经网络模型,得到每个所述参与方对应的网络模型;获取每个所述参与方对应的网络模型的模型参数;聚合多个所述参与方对应的网络模型的模型参数,得到全局参数;基于所述全局参数更新所述神经网络模型的模型参数,得到所述联合学习模型。4.根据权利要求1所述的方法,其特征在于,所述利用所述聚类结果训练神经网络模型,得到联合学习模型之后,所述方法还包括:将待预测数据输入所述联合学习模型,得到预测结果;获取所述预测结果对应的目标资源,按照预测规则为多个所述目标参与方分配所述目标资源。5.根据权利要求4所述的方法,其特征在于,所述按照预测规则为多个所述目标参与方分配所述目标资源,包括:计算所述目标样例数据与每个所述目标参与方的参与方数据的相似度;根据所述目标样例数据与每个所述目标参与方的参与方数据的相似度为多个所述目标参与方分配所述目标资源。6.根据权利要求1所述的方法,其特征在于,所述对多个所述目标参与方的参与方数据进行聚类操作,得到聚类结果之后,所述方法还包...

【专利技术属性】
技术研发人员:刘嘉李增祥
申请(专利权)人:新智我来网络科技有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1