模型训练方法、装置、电子设备及存储介质制造方法及图纸

技术编号:42648475 阅读:25 留言:0更新日期:2024-09-06 01:42
本申请提供一种模型训练方法、装置、电子设备及存储介质。该方法包括:接收来自多个边缘节点设备的模型训练数据;根据本轮训练的轮次、多个边缘节点设备的模型训练数据以及中心节点设备的模型训练数据,分别确定多个边缘节点设备的模型训练数据中各个图片向量表示对应的权重值;根据多个边缘节点设备的模型训练数据中各个图片向量表示对应的权重值,对多个边缘节点设备的模型训练数据中各个图片向量表示进行聚类,得到公共数据集中各个图片对应的聚类后的图片向量表示;根据公共数据集中的各个图片,以及各个图片对应的聚类后的图片向量表示,对全局模型进行训练,以更新全局模型的模型参数。本申请的方法,提升了全局模型训练的效果。

【技术实现步骤摘要】

本申请涉及模型训练领域,尤其涉及一种模型训练方法、装置、电子设备及存储介质


技术介绍

1、联邦学习是一种新兴的注重隐私保护的分布式机器学习范式,当前存在一种多模态联邦学习框架creamfl,能够从模型架构和数据模态异构的边缘节点设备端训练更大的中心节点设备端模型,在联邦学习的过程中,各个边缘节点设备间的本地数据集互不共享。

2、中心节点设备端建立全局模型,并将全局模型的输出结果发送至各个边缘节点设备,各个边缘节点设备利用本地模型及本地数据集进行模型训练,输出训练后的结果至中心节点设备端,以使中心节点设备根据各边缘节点训练后的结果对全局模型进行更新。

3、但是,在实际应用联邦学习的过程中,全局模型存在若因中心节点设备的数据质量不好,会最终导致全局模型训练效果差的问题。


技术实现思路

1、本申请提供一种模型训练方法、装置、电子设备及存储介质,用以解决模型训练效果差的技术问题。

2、第一方面,本申请提供一种模型训练方法,应用于中心节点设备,包括:

>3、接收来自多个边本文档来自技高网...

【技术保护点】

1.一种模型训练方法,其特征在于,应用于中心节点设备,所述中心节点设备部署有全局模型,所述全局模型用于识别图片和文本;所述方法包括:

2.根据权利要求1所述的方法,其特征在于,所述根据本轮训练的轮次、所述多个边缘节点设备的模型训练数据以及所述中心节点设备的模型训练数据,分别确定所述多个边缘节点设备的模型训练数据中各个图片向量表示对应的权重值,包括:

3.根据权利要求2所述的方法,其特征在于,所述预设条件包括:以2为底数的所述本轮训练的轮次的对数为正整数。

4.根据权利要求2所述的方法,其特征在于,所述根据所述多个边缘节点设备的模型训练数据、所述中心节点...

【技术特征摘要】

1.一种模型训练方法,其特征在于,应用于中心节点设备,所述中心节点设备部署有全局模型,所述全局模型用于识别图片和文本;所述方法包括:

2.根据权利要求1所述的方法,其特征在于,所述根据本轮训练的轮次、所述多个边缘节点设备的模型训练数据以及所述中心节点设备的模型训练数据,分别确定所述多个边缘节点设备的模型训练数据中各个图片向量表示对应的权重值,包括:

3.根据权利要求2所述的方法,其特征在于,所述预设条件包括:以2为底数的所述本轮训练的轮次的对数为正整数。

4.根据权利要求2所述的方法,其特征在于,所述根据所述多个边缘节点设备的模型训练数据、所述中心节点设备的模型训练数据以及所述本轮训练的轮次,分别确定所述多个边缘节点设备的模型训练数据中各个图片向量表示对应的权重值,包括:

5.根据权利要求1所述的方法,其特征在于,所述根据所述多个边缘节点设备的模型训练数据中各个图片向量表示对应的权重值,对所述多个边缘节点设备的模型训练数...

【专利技术属性】
技术研发人员:张其濛葛灏李丹青岳帅王琦胡颖潘登李奕萱
申请(专利权)人:中国联合网络通信集团有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1