当前位置: 首页 > 专利查询>上海大学专利>正文

一种基于客户端样本熵感知和联邦迁移学习的网络模型训练方法技术

技术编号:43944934 阅读:20 留言:0更新日期:2025-01-07 21:34
本发明专利技术涉及计算机深度学习技术领域,公开了一种基于客户端样本熵感知和联邦迁移学习的网络模型训练方法,该方法是将待训练的网络模型分别搭载在中央服务器和多个源客户端中,采用训练样本对搭载在源客户端中的本地模型进行训练,得到训练后本地模型;搭载在中央服务器中的全局模型根据接收的本地网络模型参数更新全局模型网络参数;然后将更新后的全局模型下载到各个源客户端中,采用验证样本集对下载至每个源客户端中的更新后的全局模型进行任务验证,并根据验证损失对全局模型网络参数进行优化,得到更新全局模型;将更新全局模型下载到每个源客户端,采用验证样本集对下载至每个源客户端的更新全局模型进行任务验证,任务验证完成后,根据每个源客户端中所述更新训练后本地模型、更新全局模型的任务验证性能来更新所述更新训练后本地模型的网络参数;重复上述步骤直至全局模型达到更新预设值或预设性能,完成全局模型训练。

【技术实现步骤摘要】

本专利技术涉及计算机深度学习和跨设备故障诊断,具体涉及一种基于客户端样本熵感知和联邦迁移学习的网络模型训练方法


技术介绍

1、随着数字工业的不断发展,数据驱动的深度学习神经网络逐渐取代传统的信号分析方法,成为机械设备健康监测的主要手段,这主要是因为深度学习方法不仅节省了工业时间,而且降低了对操作人员的技能要求。大量的数据处理方法以前所未有的速度发展起来,广泛应用于汽车自动化、智能制造、航空航天等领域。值得注意的是,随着范围的扩大,依赖于实验室采集的独立同分布(i.i.d)数据的诊断方法暴露出了其脆弱性。这种情况源于工业环境中数据的稀缺性和低故障发生率。用户经常利用实验室内的相关数据进行分析和培训。不幸的是,这种做法产生了大量不同的数据样本,误导了网络的训练轨迹,从而导致诊断性能下降。

2、为了解决上述问题,迁移学习(tl)为解决跨领域诊断挑战提供了一种可行的方法。tl试图通过拉近不同分布之间的样本距离来减轻对网络的影响,将标记的源域样本获得的诊断知识共享到未知的目标域。最近,ma等人引入了一种包含多尺度扩展卷积和相关模块的元学习方法来解决跨域本文档来自技高网...

【技术保护点】

1.一种基于客户端样本熵感知和联邦迁移学习的网络模型训练方法,其特征在于,包括以下步骤:

2.根据权利要求1所述的模型训练方法,其特征在于,步骤S3中,对来自每个源客户端训练后本地模型的网络参数进行加权计算得到全局模型网络参数的计算公式为:

3.根据权利要求2所述的模型训练方法,其特征在于,步骤S4中,根据任务验证过程中每个源客户端中更新后的全局模型的验证损失来更新训练后本地模型的网络参数的公式如下:

4.根据权利要求3所述的模型训练方法,其特征在于,步骤S5中,根据每个源客户端中所述更新训练后本地模型、更新全局模型的性能来更新所述更新训练后本地模型的...

【技术特征摘要】

1.一种基于客户端样本熵感知和联邦迁移学习的网络模型训练方法,其特征在于,包括以下步骤:

2.根据权利要求1所述的模型训练方法,其特征在于,步骤s3中,对来自每个源客户端训练后本地模型的网络参数进行加权计算得到全局模型网络参数的计算公式为:

3.根据权利要求2所述的模型训练方法,其特征在于,步骤s4中,根据任务验证过程中每个源客户端中更新后的全局模型的验证损失来更新训练后本地模型的网络参数的公式如下:

4.根据权利要求3所述的模型训练方法,其特征在于,步骤s5中,根据每个源客户端中所述更新训练后本地模型、更新全局模型的性能来更新所述更新训练后本地模型的网络参数的计算公式如下:

5.根据权利要求1-4任一所述的模型训练方法,其特征在于,所述网络模型为设备健康状态检测模型,所述设备健康状态检测模型由特征提取器和多分类器组成,所述特征提取器用于对输入网络模型的样本数据进行特征提取,所述多分类器用于对特征提取器提取的特征进行处理,得到设备的预测健康状态分类,所述多分类器包含两个结构相同的分类器。

6.根据权利要求5所述的模型训练方法,其特征在于,步骤s2中,将训练样本集输入到每个源客户端的本地模型中对本地模型进行训练,更新本地模型,直至本地模型达到更新预设值或预设性能的具体操作为:

7.根据权利要求6所述的模型训练方法,其特征在于,所述特征提取器由依次连接的第一对抗性残差块、第一平均池化层、第二对抗性残差块...

【专利技术属性】
技术研发人员:刘丽兰闫振豪潘坚初刘颖林高增桂赵凯于文花
申请(专利权)人:上海大学
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1