一种基于联邦迁移学习的装配监测模型训练方法及系统技术方案

本发明专利技术提公开了一种基于联邦迁移学习的装配监测模型训练方法及系统。所述方法包括：创建多任务联邦学习模型库；根据客户任务特征数据分析当前任务场景与现有模型场景相似度，判断该客户任务相对于仓库子节点任务是否为新任务；设计融合权重，选择性加权融合多任务联邦学习模型库中的模型，为客户节点任务生成具有先验知识的初始化模型，下放模型至边缘客户节点；客户节点使用本地数据训练模型，并将模型分享到云服务器；更新多任务联邦学习模型库。本发明专利技术采用边云协同的模型训练方式，降低边缘端对计算和存储资源的要求；充分考虑装配任务的相似性和差异性，根据客户节点任务特征，生成定制化的初始化模型，降低了模型训练成本。成本。成本。

【技术实现步骤摘要】
一种基于联邦迁移学习的装配监测模型训练方法及系统


[0001]本专利技术属于工业机器人监测领域，具体涉及基于机器学习的机器人装配监测方法及系统，适用于智能制造背景下的工业生产场景。

技术介绍

[0002]机器人装配得到普遍应用，特别是柔性制造场景中，具有任务种类多、重构频繁等特点；基于深度学习的监测方法，具有学习能力强、人工成本低等特点，但是训练模型需要的计算量和样本数据量增加了应用难度。
[0003]针对工业设备监测模型训练存在的问题，业界提出了边云协同的训练框架和联邦学习方法。中国专利202011405412.5提供一种基于云边协同的工业设备监测的方法和系统，边缘平台负责实际的设备检测，云平台负责多个边缘平台控制管理，避免将监测数据汇集到云平台，提高数据传输效率和工业数据的安全性，减少网络带宽压力；云平台基于联邦学习技术融合不同边缘平台的故障检测模型，获得共享模型后下发给边缘平台使用，提高故障检测模型的泛化能力,通过边缘平台对设备状态进行检测，提高检测的响应速度，保证检测的实效性。该云边协同的联邦学习方法能够很好的提高故障检测模型的泛化能力和响应速度，联邦迁移学习方法能够在保护隐私的情况下兼顾模型迁移过程中的域对齐。但是机器人装配任务具有多样性，如轴孔装配、齿轮装配等，并且任务之间具有一定的相似性，如装配任务相同类型不同材料。现有的联邦学习方法没有考虑任务的差异性。

技术实现思路

[0004]为了解决现有技术存在的问题，本专利技术提供了一种基于联邦迁移学习的多机器人装配任务监测模型边云协同训练方法。充分利用实际装配任务的多样性和相似性，构建模型库，使用联邦迁移学习方法，选择性地融合现有模型为当前任务提供初始化模型，并使用当前任务训练后的模型对模型库进行更新，提高了多种任务场景下模型的利用率和可迁移性，降低了对样本数据的依赖，减少训练过程的计算量。
[0005]为了解决上述技术问题，本专利技术提供了一种基于联邦迁移学习的工业多任务监测模型定制化方法，包括如下步骤：
[0006]1、定义统一神经网络模型，构建模型库。根据多种典型装配任务中常见典型故障下类型，采用统一神经网络结构模型作为机器人装配监测模型，考虑装配任务的差异性，多个相同结构的监测模型作为子任务场景节点的基础模型，构成多任务联邦学习模型库。
[0007]2、任务相似度计算。根据客户节点的任务特征数据，使用相似度计算方法获取当前任务与模型库中已有基础模型的相似度。
[0008]3、设计模型融合机制。根据当前客户节点任务与已有基础模型的相似度，对比相似阈值，筛选出高于相似阈值的子节点模型作为融合对象，将其相似度转化为与该客户节点任务的融合权重，使用联邦学习方法进行模型融合，作为客户节点任务的初始化模型。
[0009]4、模型迁移训练与分享。在客户节点使用统一的数据标注方法对本地数据进行标
注，使用本地数据对从服务节点获得的初始化模型进行微调，获得适用于当前任务监测的模型，并将该模型进行共享。
[0010]5、模型回收与模型库重构。根据已训练的客户节点任务模型与已有基础模型的相似度，对比价值阈值，判断该客户任务相对于仓库子节点任务是否属于新任务。如果是，模型回收后直接作为一个独立的基础模型，代表一种新的任务场景；否则，模型回收后，计算对应子节点模型的泛化融合权重，根据泛化基础模型方法进行加权融合。
[0011]具体的，步骤1中所述多种装配任务多种典型故障，根据任务操作的差异性，可以将装配任务分为若干类，如轴孔装配、齿轮装配、L型零部件装配等，每类任务内具有操作上的相似性，学习的知识具有可推广性；装配操作由许多相似的动作组合而成，主要发生的故障在不同任务中种类相似，如装配零部件缺失、障碍物阻塞等；故将机器人装配监测问题定义为分类问题。
[0012]可选的，步骤1中所述统一神经网络采用卷积神经网络，将多维度机器人运行时间序列数据切分成矩阵，为典型故障类型设计统一标注方法，神经网络通过监督学习的方法学习机器人状态与故障之间的映射关系。
[0013]具体的，步骤1中所述多任务联邦学习模型库，用于储存各子任务场景的监测模型，支持模型读取、更新和子场景扩充。假设云端已存储了n个任务场景下的监测模型，在收到新任务场景下的监测模型时则将其编号为n+1并分配新节点储存该模型，同时更新仓库监测模型数量。
[0014]可选的，步骤2中所述任务特征数据，客户节点收集该任务场景的正常工作时序数据，进行切片，乱序，重塑等一系列操作，随后以张量形式保存。
[0015]具体的，步骤2中所述相似性计算方法，从多任务联邦学习模型库调取所有子节点(1,2，
……
,n)的基础模型，使用客户节点任务特征数据计算出各节点模型的最大分类概率，作为该客户节点与联邦学习模型仓库中各节点基础模型的相似度[s1，s2，
……
，s
n
]。
[0016]具体的，步骤3中所述相似阈值s
thre
，是人为确定的反映该模型相对于多任务联邦学习模型库中各子节点模型的相似程度的临界值，用于筛选相似场景节点模型进行联邦学习，减小任务差异性对联邦学习的影响，其具体值可在实践过程中被通过经验或数学关系确定。
[0017]具体的，步骤3中所述融合权重即筛选后得到的m个高相似度节点的模型在联邦学习中参数融合比例。该权重计算方法如下：
[0018][0019]具体的，步骤3中所述基于联邦学习的模型融合，依据筛选后的子节点任务的融合权重i∈[1，2，
……
m]，对筛选后的子节点模型参数α
i
加权融合，得到定制化模型参数α
s
：
[0020][0021]具体的，步骤4中所述模型微调，不改变模型结构，仅使用本地数据对获得的初始模型进行参数矫正。
[0022]具体的，步骤5中所述价值阈值s
value
，即人为确定的反映该模型相对于多任务联邦
学习模型库的价值的临界值，用于选择多任务联邦学习模型库更新策略，其具体值可在实践过程中被通过经验或数学关系确定。
[0023]具体的，步骤5中所述泛化融合权重，即根据客户节点分享模型与现有仓库子节点的基础模型相似度，计算其与现有模型库子节点的基础模型泛化融合权重计算公式如下：
[0024][0025]s
max
＝max{s1，s2，
……
，s
n
}
[0026]具体的，步骤5中泛化加权融合方法，是使用泛化融合权重，将客户节点分享的模型参数α
c
与模型库中高相似度模型α
b
进行加权融合，更新现有基础模型：
[0027][0028]本专利技术还提供一种用于实现上述方法的系统。所述系统包括：多任务联邦学习模型库、任务特征数据获取模块，任务相似度判断模块，联邦模型融合模块、模型下放模块、模型回收模块、联邦模型更新模块。
[0029本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种基于联邦迁移学习的装配监测模型训练方法，其特征在于，所述方法包括：采用统一的神经网络模型分别构建各任务下的装配监测模型，将各装配监测模型上传至云服务器节点中的模型库子节点，形成初始化的多任务联邦学习模型库；定义客户节点的任务特征数据；根据任务特征数据和多任务联邦学习模型库中已有的基础模型，使用相似度计算方法计算客户节点的当前任务与模型库子节点已有基础模型之间的相似度；根据当前客户节点任务与已有基础模型的相似度，对比预设的相似阈值，筛选出高于相似阈值的子节点模型作为融合对象，将其相似度转化为与该客户节点任务的融合权重，使用联邦融合算法进行模型融合，生成客户节点任务定制化的初始化模型，并下放模型用于客户在本地化训练；客户节点使用本地数据对从云服务器节点获得的初始化模型进行微调，获得适用于客户节点当前任务监测的模型，并将该模型上传到云服务器节点更新多任务联邦学习模型库，与其他客户节点共享模型知识；根据已训练的客户节点任务模型与已有基础模型的相似度，对比预设的价值阈值，判断该客户任务相对于模型库子节点任务是否属于新任务，如果是，则回收客户节点本地化训练后的模型作为新节点任务加入多任务联邦学习模型库，否则回收客户节点本地化训练后的模型与已有模型库子节点的模型进行加权融合，泛化更新已有模型库子节点模型。2.根据权利要求1所述的一种基于联邦迁移学习的装配监测模型训练方法，其特征在于，所述神经网络模型包括卷积神经网络和全连接层。3.根据权利要求1所述的一种基于联邦迁移学习的装配监测模型训练方法，其特征在于，所述客户节点的任务特征数据，是对客户节点产生的正常运行状态下的原始时序数据进行预处理后以张量形式保存的数据。4.根据权利要求1所述的一种基于联邦迁移学习的装配监测模型训练方法，其特征在于，所述相似度的计算方法为，从多任务联邦学习模型库中调取所有模型库子节点的基础模型，使用客户节点任务特征数据计算出各模型库子节点的模型的最大分类概率，作为该客户节点与多任务联邦学习模型库中各子节点的基础模型的相似度。5.根据权利要求1所述的一种基于联邦迁移学习的装配监测模型训练方法，其特征在于，根据对应相似度大小在相似度之和之中所占比例计算融合权重得到所述融合权重，包括：筛选出相似度高于相似阈值s
thre
的模型库子节点，并重新编号为1到m，并根据其与客户节点的相似度的大小为...

【专利技术属性】
技术研发人员：谢龙汉，王闯，袁瑜容，肖鹏，郝颖，林泽，苏楚鹏，
申请(专利权)人：中山市华南理工大学现代产业技术研究院，
类型：发明
国别省市：