一种基于小样本增量学习的轻量化目标识别方法技术

本发明专利技术公开了一种基于小样本增量学习的轻量化目标识别方法，包括对原始数据集中的图像数据进行预处理，使得原始数据集中的图像调整至设定的尺寸。本基于小样本增量学习的轻量化目标识别方法利用新增的增量学习模块，实现在保持原类型任务识别精度并提升网络模型在新增的类别任务中的识别精度，解决了现有技术中在新类型的任务中达不到较高的识别精度或原任务类型的精度不高的问题；本基于小样本增量学习的轻量化目标识别方法利用模型剪枝与量化的方式，实现了保持模型精度的条件下，大幅压缩模型体积，实现轻量化部署；并对在新的小样本的数据增广，能够利用较少的样本量进行增量学习的训练。增量学习的训练。增量学习的训练。

【技术实现步骤摘要】
一种基于小样本增量学习的轻量化目标识别方法


[0001]本专利技术属于目标识别领域，具体涉及一种基于小样本增量学习的轻量化目标识别方法。

技术介绍

[0002]目标检测与识别技术以及广泛应用于人类社会，部分场景下的目标识别算法准确率也已提升至饱和状态，在交通、物流和安防等方面，基于嵌入式平台的目标监测与识别技术愈发受到重视。同时，随着目标的种类增加，目标识别模型逐步增加识别类别的能力即增量学习也越发重要。
[0003]现有的小样本增量学习的技术可以大致分为两种：一种是利用特征提取的方式，将网络中的部分卷积神经网络视为特征提取网络，当有新的类别出现时，在已有的特征提取网络后添加新的分类器或检测器，这种方式保留了原类型任务的网络参数，能够保存原类型任务的识别能力，但由于特征提取器并未针对新类别进行优化，在新类型的任务中达不到较高的识别精度。另一种是利用知识蒸馏的方式，通过设计学生网络以及蒸馏过程中的损失函数，能够保持在原类型的任务中学生网络与原网络的输出结果相似，并通过在新类别任务中设计新的损失函数，调整网络结构使得网络能够适应新的数据，这种方式在一定程度上修改了针对原类型任务的参数，虽然能够在新的类型任务中达到较高的精度，但对原类型任务的识别精度上会有影响。

技术实现思路

[0004]本专利技术的目的在于针对解决
技术介绍
中提出的问题，提出一种基于小样本增量学习的轻量化目标识别方法。
[0005]为实现上述目的，本专利技术所采取的技术方案为：
[0006]本专利技术提出的一种基于小样本增量学习的轻量化目标识别方法，包括对原始数据集中的图像数据进行预处理，使得原始数据集中的图像调整至设定的尺寸。
[0007]构建目标识别网络模型，利用预处理后的原始数据集训练目标识别网络模型直至对应的损失函数收敛，并保存训练好的目标识别网络模型的权重参数。
[0008]增加新的小样本数据集，并进行预处理，使得新的小样本数据集中的图像调整至设定的尺寸。
[0009]在目标识别网络模型的特征空间添加增量学习模块，构建增量学习目标识别网络模型，并将目标识别网络模型的权重参数加载至增量学习目标识别网络模型中，且随机初始化增量学习模块的参数。
[0010]使用预处理后新的小样本数据集训练增量学习模块直至对应的损失函数收敛，并保存训练好的增量学习目标识别网络模型的全部参数。
[0011]对训练好的增量学习目标识别网络模型进行稀疏训练，并采用剪枝与量化压缩模型尺寸，保存压缩后的增量学习目标识别网络模型的权重参数。
[0012]最后利用压缩后的增量学习目标识别网络模型对目标进行识别。
[0013]优选地，对原始数据集和新的小样本数据集进行预处理时，使用双线性插值算法将图像大小放缩到固定分辨率。
[0014]优选地，目标识别网络模型的损失函数和增量学习模块的损失函数均包括框回归损失、分类损失和置信度损失：
[0015]loss
obj_det
＝loss
iou
+loss
cls
+loss
conf
[0016]其中，loss
obj_det
表示目标识别网络模型的损失或增量学习模块的损失，loss
iou
表示框回归损失，loss
cls
表示分类损失，loss
conf
表示置信度损失。
[0017]优选地，对新的小样本数据集预处理之前先进行增广处理，增广处理包括根据输入图像，使用随机裁剪、随机尺寸变换、水平翻转、平移、颜色变换方法。
[0018]优选地，在目标识别网络模型的特征空间添加增量学习模块，构建增量学习目标识别网络模型，包括：
[0019]在目标识别网络模型中维度为1
×1×
(num
anchor
×
(num
classes
+5))的卷积层的基础上，添加num
anchor
×
num
newclass
的新通道，形成一个尺寸为1
×1×
(num
anchor
×
(num
classes
+num
newclass
+5))的新的卷积层，从而改变输出特征向量图的维度。
[0020]并通过修改分类与回归层的类别数量，得到增量学习目标识别网络模型的分类与回归层：
[0021][0022]其中，A
ij
表示分类与回归层的前一层输出的特征向量图，B
jk
表示分类器的矩阵；C
ik
表示分类与回归层的当前层输出的特征向量图。
[0023]优选地，使用预处理后的新的小样本数据集训练增量学习模块时，只训练分类与回归层，直至增量学习模块的损失函数收敛。
[0024]优选地，对训练好的增量学习目标识别网络模型进行稀疏训练，并采用剪枝与量化压缩模型尺寸，保存压缩后的增量学习目标识别网络模型的权重参数，包括：
[0025]在增量学习目标识别网络模型的批标准化层引入与各卷积层的通道一一对应的尺度因子γ，稀疏训练的损失函数如下：
[0026][0027]其中，当g(γ)＝|γ|，作为常规的L正则化，Γ表示所有尺度因子的集合，s表示稀疏因子，∑
(x,y)
l(f(x,W),y)表示增量学习目标识别网络模型的损失；
[0028]当稀疏训练的损失函数达到收敛时，保存稀疏训练后的增量学习目标识别网络模型的参数。
[0029]设定阈值与尺度因子γ比较，在|γ|小于阈值时，对稀疏训练后的增量学习目标识别网络模型对应卷积层的通道进行通道剪枝，且通道剪枝的表达式如下：
[0030][0031]其中，X
i
表示通道i对应的特征图，W
i
表示通道i对应的卷积核，表示矩阵的转秩，Y表示输出的特征图，β
i
表示通道i对应的通道系数，c'代表期望的通道数量，N表示常数，F表示F范式。
[0032]保存完成剪枝后的增量学习目标识别网络模型，并进行微调直至对应的损失函数收敛。
[0033]对微调后的增量学习目标识别网络模型进行行FP16低精度量化，压缩尺寸。
[0034]与现有技术相比，本专利技术的有益效果为：
[0035]1、本基于小样本增量学习的轻量化目标识别方法利用新增的增量学习模块，实现在保持原类型任务识别精度并提升网络模型在新增的类别任务中的识别精度，解决了现有技术中在新类型的任务中达不到较高的识别精度或原任务类型的精度不高的问题；
[0036]2、本基于小样本增量学习的轻量化目标识别方法利用模型剪枝与量化的方式，实现了保持模型精度的条件下，大幅压缩模型体积，实现轻量化部署；并对在新的小样本的数据增广，能够利用较少的样本量进行增量学习的训练。
附图说明
[本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种基于小样本增量学习的轻量化目标识别方法，其特征在于：所述基于小样本增量学习的轻量化目标识别方法，包括：对原始数据集中的图像数据进行预处理，使得原始数据集中的图像调整至设定的尺寸；构建目标识别网络模型，利用预处理后的原始数据集训练目标识别网络模型直至对应的损失函数收敛，并保存训练好的目标识别网络模型的权重参数；增加新的小样本数据集，并进行预处理，使得新的小样本数据集中的图像调整至设定的尺寸；在目标识别网络模型的特征空间添加增量学习模块，构建增量学习目标识别网络模型，并将目标识别网络模型的权重参数加载至增量学习目标识别网络模型中，且随机初始化增量学习模块的参数；使用预处理后新的小样本数据集训练增量学习模块直至对应的损失函数收敛，并保存训练好的增量学习目标识别网络模型的全部参数；对训练好的增量学习目标识别网络模型进行稀疏训练，并采用剪枝与量化压缩模型尺寸，保存压缩后的增量学习目标识别网络模型的权重参数；最后利用压缩后的增量学习目标识别网络模型对目标进行识别。2.如权利要求1所述的基于小样本增量学习的轻量化目标识别方法，其特征在于：对原始数据集和新的小样本数据集进行预处理时，使用双线性插值算法将图像大小放缩到固定分辨率。3.如权利要求1所述的基于小样本增量学习的轻量化目标识别方法，其特征在于：目标识别网络模型的损失函数和增量学习模块的损失函数均包括框回归损失、分类损失和置信度损失：loss
obj_det
＝loss
iou
+loss
cls
+loss
conf
其中，loss
obj_det
表示目标识别网络模型的损失或增量学习模块的损失，loss
iou
表示框回归损失，loss
cls
表示分类损失，loss
conf
表示置信度损失。4.如权利要求1所述的基于小样本增量学习的轻量化目标识别方法，其特征在于：对新的小样本数据集预处理之前先进行增广处理，所述增广处理包括根据输入图像，使用随机裁剪、随机尺寸变换、水平翻转、平移、颜色变换方法。5.如权利要求1所述的基于小样本增量学习的轻量化目标识别方法，其特征在于：所述在目标识别网络模型的特征空间添加增量学习模块，构建增量学习目标识别网络模型，包括：在目标识别网络模型中维度为1
×1×
(num
anch...

【专利技术属性】
技术研发人员：林律，靳慧泉，余华峰，朱弈霖，瞿崇晓，张永晋，范长军，
申请(专利权)人：中电海康集团有限公司，
类型：发明
国别省市：