联合学习方法、装置、服务端及存储介质制造方法及图纸

技术编号:39953765 阅读:22 留言:0更新日期:2024-01-08 23:30
本申请涉及联合学习技术领域,特别涉及一种联合学习方法、装置、服务端及存储介质,其中,方法包括:获取联合学习任务的全局模型、超参数矩阵和超参数采样策略;在每轮联合学习任务训练时,下发全局模型给参与联合学习任务的客户端,根据超参数采样策略为每个客户端选取超参数矩阵中的超参数;在每轮联合学习任务结束时,根据本地更新超参数更新超参数矩阵,根据每个客户端的本地更新模型更新超参数采样策略,根据聚合后的每个客户端的本地更新模型更新全局模型,直到全局模型满足联合学习任务的目标时,结束联合学习任务。由此,解决了相关技术中通常在一次完整的联合训练之后调整超参数,导致联合学习的时长成本较高,效率低等问题。

【技术实现步骤摘要】

本申请涉及联合学习,特别涉及一种联合学习方法、装置、服务端及存储介质


技术介绍

1、联合学习是一种机器学习设定,许多客户端在中央服务器的协调下共同训练模型,同时保持训练数据的去中心化及分散性。联合学习的长期目标是不暴露数据的情况下分析和学习多个数据拥有者的数据。

2、相关技术中联邦学习框架包含自动调参部分,框架中自主实现了随机搜索和网格搜索算法和多保真优化算法。然而,相关技术中联邦学习框架通常在一次完整的联合训练之后,进行超参数优化,导致整个训练过程中时间成本过高,效率较低。


技术实现思路

1、本申请提供一种联合学习方法、装置、服务端及存储介质,以解决相关技术中通常在一次完整的联合训练之后调整超参数,导致联合学习的时长成本较高,效率低等问题。

2、本申请第一方面实施例提供一种联合学习方法,包括以下步骤:获取联合学习任务的全局模型、超参数矩阵和超参数采样策略;在每轮联合学习任务训练时,下发所述全局模型给参与所述联合学习任务的客户端,根据所述超参数采样策略为每个客户端选取所述超参数矩阵中本文档来自技高网...

【技术保护点】

1.一种联合学习方法,其特征在于,包括以下步骤:

2.根据权利要求1所述的联合学习方法,其特征在于,所述超参数采样策略包括:

3.根据权利要求1或2所述的联合学习方法,其特征在于,在根据所述超参数采样策略为每个客户端选取所述超参数矩阵中的超参数之前,还包括:

4.根据权利要求1所述的联合学习方法,其特征在于,所述根据所述每个客户端的本地更新模型更新所述超参数采样策略,包括:

5.根据权利要求1所述的联合学习方法,其特征在于,所述根据所述每个客户端的本地更新模型更新所述超参数采样策略,包括:

6.根据权利要求1所述的联合学习方法,...

【技术特征摘要】

1.一种联合学习方法,其特征在于,包括以下步骤:

2.根据权利要求1所述的联合学习方法,其特征在于,所述超参数采样策略包括:

3.根据权利要求1或2所述的联合学习方法,其特征在于,在根据所述超参数采样策略为每个客户端选取所述超参数矩阵中的超参数之前,还包括:

4.根据权利要求1所述的联合学习方法,其特征在于,所述根据所述每个客户端的本地更新模型更新所述超参数采样策略,包括:

5.根据权利要求1所述的联合学习方法,其特征在于,所述根据所述每个客户端的本地更新模型更新所述超参数采样策略,包括:

6...

【专利技术属性】
技术研发人员:张敏赵凡
申请(专利权)人:新奥新智科技有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1