结合蒸馏学习和元学习的目标检测增量学习方法技术

本发明专利技术提供一种结合蒸馏学习和元学习的目标检测增量学习方法，首先对待测图像进行预处理；然后结合蒸馏学习和元学习构建新旧目标检测增量学习模型，将预处理后的待测图像作为输入进行检测从而得到新旧类别目标检测结果。其中，新旧目标检测增量学习模型基于双阶段目标检测模块构建，包括第一阶段基于蒸馏损失的前景特征提取子模块，以及第二阶段基于元学习的分类回归子模块。该方法利用双阶段目标检测模型“分段式”检测的性质，使用蒸馏学习增强了新类目标特征的提取能力，利用元学习使得新类别分类器参数优化过程与旧类别共享，使新类别分类器快速收敛，从而实现在旧类目标前景检测性能影响较少的基础上，进一步增强新类目标前景检测性能。景检测性能。景检测性能。

【技术实现步骤摘要】
结合蒸馏学习和元学习的目标检测增量学习方法


[0001]本专利技术属于计算机视觉领域，涉及一种目标检测方法，具体涉及一种结合蒸馏学习和元学习的目标检测增量学习方法。

技术介绍

[0002]目标检测技术作为计算机视觉领域的核心应用技术，旨在对输入的视频或图像上是否存在感兴趣目标类做出判断，并且在存在目标类的情况下，对目标类进行精准确定它们的大小和位置。近年来，随着深度学习的不断发展，尤其是卷积神经网络在模式识别技术上的优异表现，使得越来越多的目标检测任务能够实现高效自动化，并成功应用于实际场景中。
[0003]然而在传统的机器学习和深度学习任务中，训练数据的类别都是固定的，同时也假设测试集合的数据类别也是固定的。这将导致很多模型在测试集合明明效果很好，但是迁移能力很差。这一问题在目标检测技术的实际应用中更为明显。增量学习的目的是学习系统可以快速不断地从新样本中学习新的知识，并能保存大部分以前已经学习到的知识，类似于人类自身的学习模式。近年来，随着深度学习的不断发展，增量学习被认为是大幅度提升模型迁移能力的主要手段之一。
[0004]目前的增量学习常基于蒸馏学习技术实现。虽然利用蒸馏学习中的蒸馏损失可以成功快速对新知识进行学习。但是使用蒸馏损失也使得增量学习中新知识的学习不仅极大依赖于原始数据集，而且在新知识不断学习过程中，模型更倾向于记忆新知识，从而对旧知识产生遗忘的现场。这将导致网络在新类别上的精确度提升是以旧类别精确度大幅度降低为代价的。在现实目标检测任务中，往往是新旧类别均需要高精度的检测，因此这使得模型很难在真实场景中灵活使用。此外，也存在不同新类别训练顺序会出现严重预测精确度不一致的问题。这将使得模型性能不够稳定，很难用于真实场景中。

技术实现思路

[0005]为解决上述问题，提供一种能够对不同新增类别顺序、少量新增类别样本完成精确的新类别检测同时保证同样精确的旧类别检测方法，本专利技术采用了如下技术方案：
[0006]本专利技术提供了一种结合蒸馏学习和元学习的目标检测增量学习方法，其特征在于，包括以下步骤：步骤S1，对待测图像进行预处理；步骤S2，结合蒸馏学习和元学习构建新旧目标检测增量学习模型，将预处理后的待测图像输入至该模型中进行检测从而得到待测图像的新旧类别目标检测结果，其中，新旧目标检测增量学习模型基于一个双阶段目标检测模块构建，包括第一阶段基于蒸馏损失的前景特征提取子模块，以及第二阶段基于元学习技术的分类回归子模块，前景特征提取子模块包括依次设置的输入层、通用特征提取器主干网模块、区域建议网络模块和第一阶段输出层，分类回归子模块包括依次设置的感兴趣对齐池化层、回归器层、分类器层和第二阶段输出层。
[0007]在本专利技术提供的结合蒸馏学习和元学习的目标检测增量学习方法中，还可以具有
这样的技术特征，其中，新旧目标检测增量学习模型通过如下方法获得：步骤T1，将训练集分为旧类别训练集和新类别训练集；步骤T2，构建初始旧类别目标检测增量学习模型；步骤T3，将旧类别训练集输入至初始旧类别目标检测增量学习模型训练得到对旧类别进行目标检测的旧类别目标检测增量学习模型；步骤T4，为旧类别目标检测增量学习模型增加新类别学习支路，并进行初始化得到初始新旧目标检测增量学习模型；步骤T5，将新类别训练集输入至初始新旧目标检测增量学习模型中进行训练直至达到训练完成条件得到可以同时进行新、旧类别目标检测的新旧目标检测增量学习模型。
[0008]在本专利技术提供的结合蒸馏学习和元学习的目标检测增量学习方法中，还可以具有这样的技术特征，其中，步骤T3包括如下子步骤：步骤T3
‑
1，给定步骤T2构建后的初始旧类别目标检测增量学习模型；步骤T3
‑
2，将旧类别训练集中的各个训练图像依次输入至初始旧类别目标检测增量学习模型中并进行一次迭代；步骤T3
‑
3，采用最后一层的模型参数分别计算出损失误差并将损失误差反向传播从而更新模型参数；步骤T3
‑
4，重复步骤T3
‑
2至步骤T3
‑
3直至达到训练完成条件，得到训练后的旧类别目标检测增量学习模型。
[0009]在本专利技术提供的结合蒸馏学习和元学习的目标检测增量学习方法中，还可以具有这样的技术特征，其中，步骤T5包括以下子步骤：步骤T5
‑
1，给定步骤T4构建得到的初始新旧目标检测增量学习模型；步骤T5
‑
2，基于新类别训练集依次获取一批新类别训练图像并输入至初始新旧目标检测增量学习模型中进行一次迭代；步骤T5
‑
3，采用最后一层的模型参数分别计算出新类别和旧类别的损失误差并将损失误差分别反向传播至各自类别支路从而更新模型参数；步骤T5
‑
4，重复步骤T5
‑
2至步骤T5
‑
3直至达到训练完成条件，得到新旧目标检测增量学习模型。
[0010]在本专利技术提供的结合蒸馏学习和元学习的目标检测增量学习方法中，还可以具有这样的技术特征，其中，新旧目标检测增量学习模型基于在旧类别目标检测增量学习模型中添加的新类别学习支路构建，在该新旧目标检测增量学习模型的训练过程，其双阶段目标检测模块采用分段式增量学习策略进行增量式学习，过程如下：步骤P1，将训练集中的图像数据输入至新旧目标检测增量学习模型中，由该模型中的旧类别目标检测增量学习模型以及新类别学习支路，基于蒸馏损失的前景特征提取子模块分别获取覆盖旧类别、新类别的前景预测结果，并且基于输出结果计算损失并反向传播从而训练该前景特征特区子模块；步骤P2，将覆盖新、旧类别的前景预测结果作为第二阶段基于元学习技术的分类回归子模块的输入，获取不同类别目标的精准预测结果，并且基于输出结果计算损失并反向传播从而训练该分类回归子模块。
[0011]在本专利技术提供的结合蒸馏学习和元学习的目标检测增量学习方法中，还可以具有这样的技术特征，其中，对第一阶段基于蒸馏损失的前景特征提取子模块进行训练的过程如下：步骤P1
‑
1，基于旧类别目标检测增量学习模型获取与输入的图像数据对应的旧类别的前景预测结果；步骤P1
‑
2，将旧类别的前景预测结果看作旧类别前景框的真实标签；步骤P1
‑
3，将训练集中的各个训练图像依次输入至新类别学习支路，并进行一次迭代得到属于新旧类别的前景预测结果；步骤P1
‑
4，将属于新旧类别的前景预测结果按照新旧类别分离；步骤P1
‑
5，在新类别上使用分类损失误差，在旧类别上使用蒸馏损失，之后将两种损失误差进行加权求和得到最终损失误差；步骤P1
‑
6，将最终损失误差进行反向传播从而更新新旧目标检测增量学习模型的参数。
[0012]在本专利技术提供的结合蒸馏学习和元学习的目标检测增量学习方法中，还可以具有这样的技术特征，其中，第二阶段基于元学习技术的分类回归子模块的训练过程如下：步骤P2
‑
1，本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种结合蒸馏学习和元学习的目标检测增量学习方法，用于对不同新增类别顺序、少量新增类别样本完成精确的新类别检测同时保证同样精确的旧类别检测，其特征在于，包括以下步骤：步骤S1，对待测图像进行预处理；步骤S2，结合蒸馏学习和元学习构建新旧目标检测增量学习模型，将预处理后的待测图像输入至该模型中进行检测从而得到所述待测图像的新旧类别目标检测结果，其中，所述新旧目标检测增量学习模型基于一个双阶段目标检测模块构建，包括第一阶段基于蒸馏损失的前景特征提取子模块，以及第二阶段基于元学习技术的分类回归子模块，所述前景特征提取子模块包括依次设置的输入层、通用特征提取器主干网模块、区域建议网络模块和第一阶段输出层，所述分类回归子模块包括依次设置的感兴趣对齐池化层、回归器层、分类器层和第二阶段输出层。2.根据权利要求1所述的一种结合蒸馏学习和元学习的目标检测增量学习方法，其特征在于：其中，所述新旧目标检测增量学习模型通过如下方法获得：步骤T1，将训练集分为旧类别训练集和新类别训练集；步骤T2，构建初始旧类别目标检测增量学习模型；步骤T3，将所述旧类别训练集输入至所述初始旧类别目标检测增量学习模型训练得到对旧类别进行目标检测的旧类别目标检测增量学习模型；步骤T4，为所述旧类别目标检测增量学习模型增加新类别学习支路，并进行初始化得到初始新旧目标检测增量学习模型；步骤T5，将所述新类别训练集输入至所述初始新旧目标检测增量学习模型中进行训练直至达到训练完成条件，得到可以同时进行新、旧类别目标检测的新旧目标检测增量学习模型。3.根据权利要求2所述的一种结合蒸馏学习和元学习的目标检测增量学习方法，其特征在于：其中，所述步骤T3包括如下子步骤：步骤T3
‑
1，给定步骤T2构建后的所述初始旧类别目标检测增量学习模型；步骤T3
‑
2，将所述旧类别训练集中的各个训练图像依次输入至所述初始旧类别目标检测增量学习模型中并进行一次迭代；步骤T3
‑
3，采用最后一层的模型参数分别计算出损失误差并将所述损失误差反向传播从而更新模型参数；步骤T3
‑
4，重复所述步骤T3
‑
2至所述步骤T3
‑
3直至达到训练完成条件，得到训练后的所述旧类别目标检测增量学习模型。4.根据权利要求2所述的一种结合蒸馏学习和元学习的目标检测增量学习方法，其特征在于：其中，所述步骤T5包括以下子步骤：步骤T5
‑
1，给定所述步骤T4构建得到的所述初始新旧目标检测增量学习模型；
步骤T5
‑
2，基于所述新类别训练集依次获取一批新类别训练图像输入至所述初始新旧目标检测增量学习模型中进行一次迭代；步骤T5
‑
3，采用最后一层的模型参数分别计算出新类别和旧类别的损失误差并将损失误...

【专利技术属性】
技术研发人员：徐卫东，冯瑞，朱善邦，李华宇，
申请(专利权)人：中国人民解放军海军军医大学第一附属医院，
类型：发明
国别省市：