一种公路病害分类模型的跨场景迁移方法和装置制造方法及图纸

技术编号:37764581 阅读:14 留言:0更新日期:2023-06-06 13:23
本发明专利技术提供了一种公路病害分类模型的跨场景迁移方法,包括获取SimCLR框架;基于SimCLR框架利用源域数据集训练原始学生网络特征提取器生成第一学生网络特征提取器;冻结第一学生网络特征提取器参数利用源域数据集训练原始学生网络分类器生成第一学生网络分类器;利用源域数据集与目标域数据集训练第一学生网络特征提取器生成第二学生网络特征提取器;利用目标域数据集有标签数据训练所述第一学生网络分类器生成第二学生网络分类器;合并所述第二学生网络特征提取器与第二学生网络分类器为迁移后的模型并对不同场景的公路进行病害分类。解决了现有技术无法在交通领域目标域数据较少且部分标注的情况下保持跨场景迁移后模型效果的问题。景迁移后模型效果的问题。景迁移后模型效果的问题。

【技术实现步骤摘要】
一种公路病害分类模型的跨场景迁移方法和装置


[0001]本专利技术涉及持续学习
,具体涉及一种公路病害分类模型的跨场景迁移方法和装置。

技术介绍

[0002]在数据集充足的情况下,深度学习具有较好的检测与分类公路表观病害的能力。将训练好的深度学习模型结合车载边缘端设备,可以实时检测并记录公路表观病害,方便相关工作人员后续对公路进行对应的维护工作。但由于不同公路的表观状况不同,而效果达标的深度学习模型依赖于大量高质量的公路病害数据与计算资源,且对标注人员的专业知识水平有一定的要求。目前在交通领域中,针对公路表观病害的深度学习分类模型的跨场景迁移效果仍不尽如人意。
[0003]当前目标场景的数据数量较少,且由于人力与时间的关系,大部分都没有经过人工标注。因此需要找到一种针对于交通领域的模型跨场景迁移方法,在目标场景数据少且部分标注的情况下将源场景模型迁移至目标场景仍能保持较好的效果。
[0004]上述问题是目前亟待解决的。

技术实现思路

[0005]本专利技术要克服现有技术的上述至少一个缺点,一方面,提供了一种公路病害分类模型的跨场景迁移方法,所述方法包括步骤:S110:获取SimCLR框架;S120:基于SimCLR框架利用源域数据集训练原始学生网络特征提取器生成第一学生网络特征提取器;S130:冻结第一学生网络特征提取器参数利用源域数据集训练原始学生网络分类器生成第一学生网络分类器;S140:利用源域数据集与目标域数据集训练第一学生网络特征提取器生成第二学生网络特征提取器;S150:利用目标域数据集有标签数据训练所述第一学生网络分类器生成第二学生网络分类器;S160:合并所述第二学生网络特征提取器与第二学生网络分类器为迁移后的模型;S170:基于所述迁移后的模型对不同场景的公路进行病害分类。
[0006]可选的,所述步骤S120包括:S1201:以在ImageNet上预训练的网络生成学生网络;S1202:将源域数据集经过不同的数据增强分别生成第一源域数据与第二源域数据;S1203:第一源域数据与第二源域数据经过原始学生网络的特征提取器分别生成第一特征和第二特征,第一特征与第二特征经过原始学生网络的分类器分别生成第一分类结果和第二分类结果;S1204:利用第一分类结果和第二分类结果计算损失函数L
FE
;S1205:利用损失函数L
FE
更新所述原始学生网络特征提取器生成第一学生网络特征提取器。
[0007]可选的,所述数据增强包括强数据增强和/或弱数据增强;所述强数据增强包括高斯模糊和随机灰度变换中的一种或其组合;所述弱数据增强包括裁剪和水平翻转中的一种或其组合。
[0008]可选的,所述步骤S130包括:S1301:冻结第一学生网络特征提取器参数;S1302:将源域数据集输入至冻结的第一学生网络特征提取器中,经过冻结的第一学生网络特征提取
器与原始学生网络分类器后生成第一预测结果;S1303:基于第一预测结果与源域数据标签生成损失函数L
BCE
‑1;S1304:基于所述损失函数L
BCE
‑1更新原始学生网络分类器生成第一学生网络分类器。
[0009]可选的,所述步骤S140包括:S1401:将目标域数据集划分为有标签的目标域数据和无标签的目标域数据;S1402:复制学生网络生成教师网络;S1403:将目标域有标签数据隐藏标签后与目标域无标签数据混合生成数据集T;S1404:将数据集T经过弱数据增强后生成数据集T
W
,将数据集T经过强数据增强后生成数据集T
S
;S1405:使用MLP层替换教师网络与学生网络的分类器;S1406:分别将数据集T
W
与数据集T
S
送入教师网络与学生网络中,教师网络与学生网络的前M层的输出分别记为feature1与feature2;S1407:利用feature1与feature2分别经过释义器P与翻译器R后的结果作损失函数L
HT
;S1408:基于所述损失函数L
HT
更新学生网络的前M层;S1409:将教师网络的输出记作学生网络的输出记作利用与生成损失函数L
DK
;S14010:基于损失函数L
DK
更新第一学生网络特征提取器生成第二学生网络特征提取器。
[0010]可选的,所述步骤S14010还包括:基于损失函数L
DK
在更新第一学生网络特征提取器生成第二学生网络特征提取器的同时动态更新教师网络的特征提取器。
[0011]可选的,所述步骤S150包括:S1501:利用源域与目标域数据以动态知识蒸馏方法训练第一学生网络特征提取器生成第二学生网络特征提取器。
[0012]可选的,所述步骤S1501包括:S15011:初始化第一学生网络的分类器,冻结第二学生网络特征提取器的参数;S15012:将目标域有标签数据输入冻结的第二学生网络的特征提取器中,输出第二预测结果,利用第二预测结果与目标域有标签数据的标签作损失函数L
BCE_
以更新初始化的第一学生网络的分类器生成第二学生网络分类器。
[0013]可选的,所述损失函数为:可选的,所述损失函数为:其中,m代表样本总数,n代表类别总数,P
ij
代表第i个样本是否属于第j类,若是则为1,否则为0,q
ij
代表模型预测第i个样本属于第j类的概率。
[0014]另一方面,本专利技术提供了一种公路病害分类模型的跨场景迁移装置,所述装置包括:获取单元,用于获取SimCLR框架;生成第一学生网络特征提取器单元,用于基于SimCLR框架利用源域数据集训练原始学生网络特征提取器生成第一学生网络特征提取器;生成第一学生网络分类器单元,用于冻结第一学生网络特征提取器参数利用源域数据集训练原始学生网络分类器生成第一学生网络分类器;生成第二学生网络特征提取器单元,用于利用源域数据集与目标域数据集训练第一学生网络特征提取器生成第二学生网络特征提取器;生成第二学生网络分类器单元,用于利用目标域数据集有标签数据训练所述第一学生网络分类器生成第二学生网络分类器;合并单元,用于合并所述第二学生网络特征提取器与第二学生网络分类器为迁移后的模型;分类单元,用于基于所述迁移后的模型对不同场景的公路进行病害分类。
[0015]又一方面,本专利技术提供了一种计算机可读存储介质,所述计算机可读存储介质中存储有一个或一个以上的指令,所述计算机指令用于使所述计算机执行上述的公路病害分类模型的跨场景迁移方法。
[0016]再一方面,本专利技术提供了一种电子设备,包括:存储器和处理器;所述存储器中存储有至少一条程序指令;所述处理器通过加载并执行所述至少一条程序指令以实现上述的公路病害分类模型的跨场景迁移方法。
[0017]本专利技术的有益效果是:本专利技术提供了一种公路病害分类模型的跨场景迁移方法,所述方法包括步骤:S110:获取SimCLR本文档来自技高网
...

【技术保护点】

【技术特征摘要】
1.一种公路病害分类模型的跨场景迁移方法,其特征在于,所述方法包括步骤:S110:获取SimCLR框架;S120:基于SimCLR框架利用源域数据集训练原始学生网络特征提取器生成第一学生网络特征提取器;S130:冻结第一学生网络特征提取器参数利用源域数据集训练原始学生网络分类器生成第一学生网络分类器;S140:利用源域数据集与目标域数据集训练第一学生网络特征提取器生成第二学生网络特征提取器;S150:利用目标域数据集有标签数据训练所述第一学生网络分类器生成第二学生网络分类器;S160:合并所述第二学生网络特征提取器与第二学生网络分类器为迁移后的模型;S170:基于所述迁移后的模型对不同场景的公路进行病害分类。2.根据权利要求1所述的公路病害分类模型的跨场景迁移方法,其特征在于,所述步骤S120包括:S1201:以在ImageNet上预训练的网络生成学生网络;S1202:将源域数据集经过不同的数据增强分别生成第一源域数据与第二源域数据;S1203:第一源域数据与第二源域数据经过原始学生网络的特征提取器分别生成第一特征和第二特征,第一特征与第二特征经过原始学生网络的分类器分别生成第一分类结果和第二分类结果;S1204:利用第一分类结果和第二分类结果计算损失函数L
FE
;S1205:利用损失函数L
FE
更新所述原始学生网络特征提取器生成第一学生网络特征提取器。3.根据权利要求2所述的公路病害分类模型的跨场景迁移方法,其特征在于,所述数据增强包括强数据增强和/或弱数据增强;所述强数据增强包括高斯模糊和随机灰度变换中的一种或其组合;所述弱数据增强包括裁剪和水平翻转中的一种或其组合。4.根据权利要求1所述的公路病害分类模型的跨场景迁移方法,其特征在于,所述步骤S130包括:S1301:冻结第一学生网络特征提取器参数;S1302:将源域数据集输入至冻结的第一学生网络特征提取器中,经过冻结的第一学生网络特征提取器与原始学生网络分类器后生成第一预测结果;S1303:基于第一预测结果与源域数据标签生成损失函数L
BCE
‑1;S1304:基于所述损失函数L
BCE
‑1更新原始学生网络分类器生成第一学生网络分类器。5.根据权利要求1所述的公路病害分类模型的跨场景迁移方法,其特征在于,所述步骤S140包括:S1401:将目标域数据集划分为有标签的目标域数据和无标签的目标域数据;S1402:复制学生网络生成教师网络;S1403:将目标域有标签数据隐藏标签后与目标域无标签数据混合生成数据集T;S1404:将数据集T经过弱数据增强后生成数据集T
W
,将数据集T经过强数据增强后生成
数据集T
S
;S1405:使用MLP层替换教师网络与学生网络的分类器;S1406:分别将数据集T
W

【专利技术属性】
技术研发人员:韩海航王鑫潇葛拥军王洋洋于智卜佳俊严守靖
申请(专利权)人:浙江省交通运输科学研究院
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1