一种基于特征正交的集成模型优化方法、装置及介质制造方法及图纸

本发明专利技术提出了一种基于特征正交的集成模型优化方法、装置及介质，所述方法基于特征正交度量结合常规分类对集成模型进行优化，本方法中的特征正交不仅考虑原始图像本身的特征，还根据原始图像一定邻域内的输入空间的损失场对特征正交进行表征，进而使对抗样本在集成模型中有稳定的特征表达，即对抗样本可以使单个子模型发生剧烈的特征变化，但由于子模型特征正交，对抗样本无法影响所有的子模型，也就使合成模型有了稳定的输出。应用本发明专利技术进行集成模型优化，取得了更为明显的特征鲁棒性提升效果，同时对干净样本的分类性能影响很小，具有很好的实用性。有很好的实用性。有很好的实用性。

【技术实现步骤摘要】
一种基于特征正交的集成模型优化方法、装置及介质


[0001]本专利技术涉及计算机视觉交叉领域，具体涉及一种基于特征正交的集成模型优化方法、装置及介质。

技术介绍

[0002]近年来，随着神经网络在计算机视觉领域中取得了让人瞩目的成绩。在许多图像分类识别任务中，深度神经网络模型的识别精度已经远远超越了人类。然而深度神经网络的应用也带来了新的安全问题，对抗鲁棒性问题就是深度神经网络模型近年来的痛点，研究显示通过向原始图像添加精心设计的人眼难以察觉的图像噪声(即对抗噪声)，构造对抗样本，就可以以很高的置信度欺骗深度神经网络模型，这对深度神经网络模型的工业化应用带来了巨大的潜在威胁。在工业化应用过程中，深度神经网络模型在对抗鲁棒性上存在缺陷，导致深度神经网络模型对加入了图像噪声的图像进行图像分类的结果容易失准，造成和人眼判断完全不同的结果，这些都凸显了鲁棒模型的重要性。因此训练鲁棒的深度神经网络成为其工业化应用的必要前提。
[0003]在此背景下，为了提升图像分类深度神经网络模型对于对抗样本的防御能力，大量集成模型防御方法被提出，一些学者提出了本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种基于特征正交的集成模型优化方法，其特征在于，步骤如下：步骤S1：制作干净样本数据集以及对抗样本数据集，具体是，对图像数据进行预处理，得到由干净样本组成的干净样本数据集，并基于干净样本数据集制作对抗样本数据集；根据干净样本数据集训练由多个子模型组成且用于图像分类的集成模型；步骤S2：计算图像分类总损失，具体是，采用干净样本数据集和对抗样本数据集计算不同子模型的梯度重合度损失，采用对抗样本数据集计算各子模型的损失场强度损失，根据梯度重合度损失和损失场强度损失计算特征正交正则化损失；采用干净样本数据集计算常规分类损失；所述特征正交正则化损失和常规分类损失相加得到图像分类总损失；步骤S3：基于图像分类总损失优化集成模型的所有参数，具体是，根据所述图像分类总损失对集成模型的所有参数进行优化。2.根据权利要求1所述的集成模型优化方法，其特征在于，在步骤S1中，对图像数据进行预处理的步骤如下：步骤S1.1：对所有图像进行剪切操作规范至统一尺寸；步骤S1.2：对图像的数值进行归一化，即将所有图像的像素值压缩到0
‑
1之间；步骤S1.3：通过标准化操作将图像数据线性的转换至均值为0、方差为1的数据集，即干净样本数据集。3.根据权利要求2所述的集成模型优化方法，其特征在于，在步骤S1中，所述集成模型包括三个相同或者不同的深度神经网络模型。4.根据权利要求3所述的集成模型优化方法，其特征在于，在步骤S2中，所述损失场强度为损失关于输入空间形成的梯度场强度。5.根据权利要求4所述的集成模型优化方法，其特征在于，在步骤S2中，所述梯度重合度损失通过计算子模型之间的余弦相似度来度量，表达式如下：度损失通过计算子模型之间的余弦相似度来度量，表达式如下：度损失通过计算子模型之间的余弦相似度来度量，表达式如下：其中，L
sim
(，)表示子模型之间的梯度重合度损失，表示第一子模型，表示第二子模型，表示第三子模型，代表求梯度，x为干净样本数据，为针对第...

【专利技术属性】
技术研发人员：刘琛芳，周隽凡，徐延杰，孙浩，
申请(专利权)人：中国人民解放军国防科技大学，
类型：发明
国别省市：