【技术实现步骤摘要】
本专利技术属于联邦学习和分布式机器学习的,具体涉及一种基于滚动提取的异构工业检测训练方法。
技术介绍
1、随着物联网和智能设备的普及,联邦学习已成为保护数据隐私、实现跨设备协同建模的关键技术。然而,传统联邦学习方法多采用同构模型,即服务器和客户端设备上使用相同的模型架构。这种方法在现实中面临诸多局限,尤其在设备资源不均、数据分布差异显著的情况下,低资源设备往往无法参与到大型模型的训练中,从而导致模型泛化性受限。
2、现有的一些异构联邦学习方法引入了部分模型训练和知识蒸馏技术,试图弥合不同设备资源带来的差距。然而,知识蒸馏方法通常依赖于服务器端的公共数据,而这种数据并非总是能够获得。此外,部分模型训练的方法则多采用随机或静态子模型提取策略,这会导致全局模型的参数更新不均,进一步导致客户端模型与服务器模型的不一致性。
技术实现思路
1、本专利技术的目的在于针对现有技术中的上述不足,提供一种基于滚动提取的异构工业检测训练方法,以解决传统方法在设备异构性和数据不一致性下的问题。
...【技术保护点】
1.一种基于滚动提取的异构工业检测训练方法,其特征在于,包括以下步骤:
2.根据权利要求1所述的基于滚动提取的异构工业检测训练方法,其特征在于,所述S1包括以下分步骤:
3.根据权利要求2所述的基于滚动提取的异构工业检测训练方法,其特征在于,所述S11中,提取的子模型为:
4.根据权利要求3所述的基于滚动提取的异构工业检测训练方法,其特征在于,所述S12中,采用本地数据集训练的子模型的损失函数为:
5.根据权利要求3所述的基于滚动提取的异构工业检测训练方法,其特征在于,所述S2中,每个客户端采用滚动窗口从服务器的全局模型
...【技术特征摘要】
1.一种基于滚动提取的异构工业检测训练方法,其特征在于,包括以下步骤:
2.根据权利要求1所述的基于滚动提取的异构工业检测训练方法,其特征在于,所述s1包括以下分步骤:
3.根据权利要求2所述的基于滚动提取的异构工业检测训练方法,其特征在于,所述s11中,提取的子模型为:
4.根据权利要求3所述的基于滚动提取的异构工业检测训练方法,其特征在于,所述s12中,采用本地数据集训练的子模型的损失函数为:
5.根据权利要求3所述的基于滚动提取的异构工业检测训练方法,其特征在于,所述s2中,每个客户端采用滚动窗口从服...
【专利技术属性】
技术研发人员:曹明生,陈虹良,丁桥隆,张宇,及宇轩,王竣,黄丹,陈天赐,李韦成,曾佩仪,
申请(专利权)人:电子科技大学,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。