一种基于单分类技术的图像类别增量学习方法技术

本发明专利技术涉及一种基于单分类技术的图像类别增量学习方法，包括下列步骤：数据集制作；初始分类神经网络搭建；步骤3：类增量学习神经网络搭建：对步骤2中初始分类神经网络进行修改，使初始分类神经网络具有类增量学习的功能：调整输出的类别以及类别数量参数，并将新类别图像的数据集放入指定文件夹中，训练类增量学习神经网络时，通过知识蒸馏算法来更新模型参数，即，融合蒸馏损失和交叉熵损失函数成为新的损失函数，此外在类增量学习神经网络中添加Bias correction结构，使类增量学习神经网络能够适应大规模的图像类别增量学习。步骤4：基于单分类技术的图像类别增量学习模型搭建。

An image category incremental learning method based on single classification technology

【技术实现步骤摘要】
一种基于单分类技术的图像类别增量学习方法
本专利技术属于计算机图像分类领域，涉及一种基于单分类技术的提高图像类别识别准确率的增量学习方法。
技术介绍
在图像分类领域中，经过训练的良好神经网络模型能够分辨出图像中不同类别的物体，并且已经可以达到较高的识别率。但是目前的大部分神经网络并不能满足识别未训练过的物体。即神经网络模型仅能识别已知类别的物体，对于未训练的物体，神经网络模型会将该物体错误的归到已知的类别，从而导致识别精度下降。单分类[1]的目的是对某一种类别的数据生成一个描述，即样本空间中的一个区域。如果样本没有落在该区域内，则认为样本不属于该类别。增量学习的目的是让计算机像人类一样对任务进行增量的学习，使得计算机终身学习成为可能。增量学习思想主要体现在两个方面：(1)实际任务中，数据量可能会逐步上升，面临新的数据，增量学习方法可以对已训练好的模型进行改动，使得计算机能够学习新数据中蕴涵的知识。(2)对于训练好的模型，修改模型的时间代价要低于重新训练一个模型所需代价。一个良好的增量学习模型应该具有以下三个标准[2,3]：(1)当新类别图像在不同时间出现，模型均可训练的(2)任何时间在已经学习过的图像类别中有较好的分类效果(3)计算能力与内存应该随着类别数的增加固定或者缓慢增长但是目前基于深度学习的增量学习模型会遭受灾难性遗忘，如何有效的降低模型灾难性问题是现阶段亟需解决的难题。[1]LukasRuff,RoboertA,etal.DeepOne-ClassClassfication[J].2018.[2]RebuffiSA,KolesnikovA,SperlG,etal.iCaRL:IncrementalClassifierandRepresentationLearning[J].2016.[3]WuY,ChenY,WangL,etal.LargeScaleIncrementalLearning[J].2019.
技术实现思路
本专利技术提供了一种可以有效缓解灾难性遗忘并提升模型识别准确率的图像类别增量学习方法。本专利技术基于增量学习的方法，结合单分类器设计了一种图像类别增量模型，该模型可以有效的提升计算机图像分类性能。为后续的增量学习算法研究以及工程应用提供新的思路。本专利技术以工程应用中计算机图像分类为例，亦可用于其他分类问题。技术方案如下：一种基于单分类技术的图像类别增量学习方法，包括下列步骤：步骤1：数据集制作将收集到的不同种类图像的尺寸大小处理为固定尺寸，并按照一定比例划分为训练集、验证集、测试集，之后对图像进行标注。制作出包含数据、标签、列表的二进制文件，数据集制作完成。步骤2：初始分类神经网络搭建初始分类神经网络的搭建选用深度残差网络ResNet，设置初始训练和测试参数，包括设定图像类别以及类别数，验证集的数目和迭代次数，将旧类别图像的数据集放入指定文件夹中，训练分类神经网络，得到一个初始分类神经网络。步骤3：类增量学习神经网络搭建对步骤2中初始分类神经网络进行修改，使初始分类神经网络具有类增量学习的功能：调整输出的类别以及类别数量参数，并将新类别图像的数据集放入指定文件夹中，训练类增量学习神经网络时，通过知识蒸馏算法来更新模型参数，即，融合蒸馏损失和交叉熵损失函数成为新的损失函数，此外在类增量学习神经网络中添加Biascorrection结构，使类增量学习神经网络能够适应大规模的图像类别增量学习。步骤4：基于单分类技术的图像类别增量学习模型搭建在训练阶段，(1)若仅含有旧类别图像的数据集，不训练单分类器，仅训练初始分类神经网络。(2)若数据集中第一次加入新类别图像的数据集，利用新类别图像的数据集训练类增量学习神经网络，同时利用新类别图像的数据集，训练单分类器，使得单分类器能够有效地识别出出旧类别图像的数据集与新类别图像的数据集。(3)若数据集中第二次加入新类别图像的数据集，将第二次加入的新类别图像视为新类别图像，将第(2)步中得到的数据集视为旧类别图像数据集，利用新类别图像的数据集训练类增量学习神经网络，同时利用新类别图像的数据集，训练单分类器，同时丢弃第(2)步中训练好的单分类器，使得新单分类器能够有效地识别出出旧类别图像的数据集与新类别图像的数据集，保存类增量学习神经网络记作最新增量后的类增量学习网络，与此同时，保存第(2)步中类增量学习神经网络并记作上一次增量后保留的类增量学习神经网络，按照上述训练过程，加入新类别图像。在测试阶段，将测试数据集中的图片经过单分类器，判断出测试集中的图片属于旧类别图像还是新类别图片。若测试图像为旧类别，则测试图像会进入训练好的上一次增量后保留的类增量学习神经网络进行预测，并输出预测结果；若测试图像为新类别，则测试图像会进入最新增量后的类增量学习网络进行预测，并输出预测结果。附图说明图1是本专利技术方法中初始分类神经网络配置图图2是本专利技术方法中增量学习算法流程图图3是本专利技术方法中增量学习模型BiasCorrection位置示意图图4是本专利技术方法中基于单分类技术的图像类别增量学习模型示意图具体实施方式为使本专利技术的目的、技术方案和优点更加清楚，下面结合附图对本专利技术实施方案作进一步详细描述步骤1：数据集制作首先将收集到的不同种类的彩色图像尺寸大小处理为固定尺寸32*32。将数据集按照9/12、1/12、2/12的比例划分为训练集、验证集、测试集，之后标注图像。对图像进行特定处理，制作出包含数据、标签、列表的二进制文件，数据集制作完成。步骤2：初始分类神经网络搭建本专利技术中，初始分类神经网络采用34层的ResNet网络结构，深度残差网络可以在一定程度上解决信息传递中的信息丢失、损耗等问题。通过直接将输入的图片信息绕道传输到输出，保护信息的完整性。该网络结构中采用两种残差模型，第一种是以两个3*3的卷积网络串接在一起作为一个残差网络模块，另外一种是1*1、3*3、1*1的3个卷积网络串接在一起作为一个残差模块。本专利技术中初始分类神经网络采用的是第一种残差网络模块，若采用更深层的ResNet网络结构，可以使用第二种残差网络模块。本专利技术的ResNet网络结构如图1所示，使用ResNet网络结构更容易优化，并且能够通过增加相当的深度来提高准确率。将旧类别图像的数据集放入指定文件夹中，利用旧类别图像的数据集中的训练集训练分类神经网络，得到一个良好的初始分类神经网络。步骤3，类增量学习神经网络搭建增量学习算法流程图如图2所示，本专利技术将增量学习算法应用于初始分类神经网络中，对于具有n个旧类(n种旧的图像种类)和m个新类(m种新的图像种类)的数据集，使用对n个旧类进行分类的初始分类神经网络中的知识提炼来学习一个新的神经网络，以对n+m类进行分类。具体通过损失函数来更新模型参数，其中损失函数由蒸馏损失以及交叉熵损失函数融合而成。...

【技术保护点】
1.一种基于单分类技术的图像类别增量学习方法，包括下列步骤：/n步骤1：数据集制作/n将收集到的不同种类图像的尺寸大小处理为固定尺寸，并按照一定比例划分为训练集、验证集、测试集，之后对图像进行标注。制作出包含数据、标签、列表的二进制文件，数据集制作完成。/n步骤2：初始分类神经网络搭建/n初始分类神经网络的搭建选用深度残差网络ResNet，设置初始训练和测试参数，包括设定图像类别以及类别数，验证集的数目和迭代次数，将旧类别图像的数据集放入指定文件夹中，训练分类神经网络，得到一个初始分类神经网络；/n步骤3：类增量学习神经网络搭建/n对步骤2中初始分类神经网络进行修改，使初始分类神经网络具有类增量学习的功能：调整输出的类别以及类别数量参数，并将新类别图像的数据集放入指定文件夹中，训练类增量学习神经网络时，通过知识蒸馏算法来更新模型参数，即，融合蒸馏损失和交叉熵损失函数成为新的损失函数，此外在类增量学习神经网络中添加Bias correction结构，使类增量学习神经网络能够适应大规模的图像类别增量学习；/n步骤4：基于单分类技术的图像类别增量学习模型搭建/n在训练阶段，(1)若仅含有旧类别图像的数据集，不训练单分类器，仅训练初始分类神经网络；(2)若数据集中第一次加入新类别图像的数据集，利用新类别图像的数据集训练类增量学习神经网络，同时利用新类别图像的数据集，训练单分类器，使得单分类器能够有效地识别出出旧类别图像的数据集与新类别图像的数据集；(3)若数据集中第二次加入新类别图像的数据集，将第二次加入的新类别图像视为新类别图像，将第(2)步中得到的数据集视为旧类别图像数据集，利用新类别图像的数据集训练类增量学习神经网络，同时利用新类别图像的数据集，训练单分类器，同时丢弃第(2)步中训练好的单分类器，使得新单分类器能够有效地识别出出旧类别图像的数据集与新类别图像的数据集，保存类增量学习神经网络记作最新增量后的类增量学习网络，与此同时，保存第(2)步中类增量学习神经网络并记作上一次增量后保留的类增量学习神经网络，按照上述训练过程，加入新类别图像；/n在测试阶段，将测试数据集中的图片经过单分类器，判断出测试集中的图片属于旧类别图像还是新类别图片；若测试图像为旧类别，则测试图像会进入训练好的上一次增量后保留的类增量学习神经网络进行预测，并输出预测结果；若测试图像为新类别，则测试图像会进入最新增量后的类增量学习网络进行预测，并输出预测结果。/n...

【技术特征摘要】
1.一种基于单分类技术的图像类别增量学习方法，包括下列步骤：
步骤1：数据集制作
将收集到的不同种类图像的尺寸大小处理为固定尺寸，并按照一定比例划分为训练集、验证集、测试集，之后对图像进行标注。制作出包含数据、标签、列表的二进制文件，数据集制作完成。
步骤2：初始分类神经网络搭建
初始分类神经网络的搭建选用深度残差网络ResNet，设置初始训练和测试参数，包括设定图像类别以及类别数，验证集的数目和迭代次数，将旧类别图像的数据集放入指定文件夹中，训练分类神经网络，得到一个初始分类神经网络；
步骤3：类增量学习神经网络搭建
对步骤2中初始分类神经网络进行修改，使初始分类神经网络具有类增量学习的功能：调整输出的类别以及类别数量参数，并将新类别图像的数据集放入指定文件夹中，训练类增量学习神经网络时，通过知识蒸馏算法来更新模型参数，即，融合蒸馏损失和交叉熵损失函数成为新的损失函数，此外在类增量学习神经网络中添加Biascorrection结构，使类增量学习神经网络能够适应大规模的图像类别增量学习；
步骤4：基于单分类技术的图像类别增量学习模型搭建
在训练阶段，(1)若仅含有旧类别图像的数据集，不...

【专利技术属性】
技术研发人员：侯春萍，丁杰轩，杨阳，
申请(专利权)人：天津大学，
类型：发明
国别省市：天津;12