基于归因算法的对抗样本的检测方法和装置制造方法及图纸

本申请涉及基于归因算法的对抗样本的检测方法和装置，该方法包括：对输入的原始图像进行预处理，生成预处理图像；将所述预处理图像进行预测分类处理，获得原始预测标签信息；根据所述预处理图像和所述原始预测标签信息按照归因算法进行归因计算，计算所述预处理图像中每个像素点对应的归因值并生成显著图像；按照预定的比例删减与所述显著图像中归因值高的点对应的所述预处理图像中的像素点，生成经删减图像；将所述经删减图像进行修复处理，生成经修复图像；将所述经修复图像进行预测分类处理，获得后续预测标签信息；以及将所述原始预测标签信息与所述后续预测标签信息进行比较，并根据比较结果输出预测标签信息。并根据比较结果输出预测标签信息。并根据比较结果输出预测标签信息。

【技术实现步骤摘要】
基于归因算法的对抗样本的检测方法和装置


[0001]本申请涉及图像识别领域，尤其涉及一种基于归因算法的对抗样本的检测方法和装置。

技术介绍

[0002]目前，现有技术中存在一种较为成熟的基于归因算法的对抗样本检测方案，使用了DeepLIFT的归因算法，对输入图像生成显著图，并在原始图中进行对应部分删除，并观察删除前后图像经机器学习分类算法给出的标签是否相同来判断原图是否为对抗样本。
[0003]然而，近些年已有文献指出DeepLIFT算法本身存在完整性缺陷，对于某些特殊的神经网络模型会得出偏差较大的结果，导致检测方案在不同机器学习上的实现效果相差较大，可迁移性差。同时，图像处理中仅采用删除的操作同样对于正常图像有较大影响，导致检测方案整体的误报率也较高。
[0004]另一方面，目前的检测算法仅判断原始输入图像是否为正常图像，对于异常输入没有后续的处理操作。但在某些特殊场景，例如自动驾驶的路标识别场景下，我们需要算法能对受干扰的输入给出正确的分类，保证自动驾驶系统的安全性，目前已有的系统在这方面均处于空白状态。
专利技术内本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种基于归因算法的对抗样本的检测方法，其包括：A.对输入的原始图像进行预处理，生成预处理图像；B.将所述预处理图像进行预测分类处理，获得原始预测标签信息；C.根据所述预处理图像和所述原始预测标签信息按照归因算法进行归因计算，计算所述预处理图像中每个像素点对应的归因值并生成显著图像；D.按照预定的比例删减与所述显著图像中归因值高的点对应的所述预处理图像中的像素点，生成经删减图像；E.将所述经删减图像进行修复处理，生成经修复图像；F.将所述经修复图像进行预测分类处理，获得后续预测标签信息；以及G.将所述原始预测标签信息与所述后续预测标签信息进行比较，并根据比较结果输出预测标签信息。2.如权利要求1所述的方法，其中在步骤G中所述原始预测标签信息与所述后续预测标签信息相同的情况下，输出所述原始预测标签信息或所述后续预测标签信息。3.如权利要求1所述的方法，其中步骤G包括：G1.根据所述经修复图像和所述后续预测标签信息按照归因算法进行归因计算，计算所述经修复图像中每个像素点对应的归因值并生成更新显著图像；G2.按照预定的比例删减与所述更新显著图像中归因值高的点对应的所述经修复图像中的像素点，生成更新经删减图像；G3.将所述更新经删减图像进行修复处理，生成更新经修复图像；G4.将所述更新经修复图像进行预测分类处理，获得更新后续预测标签信息，并将更新后续预测标签信息与上一次后续预测标签信息进行比较；以及重复执行G1至G4，直至连续预定个数的预测标签信息彼此相同。4.如权利要求...

【专利技术属性】
技术研发人员：吴发国，张筱，崔美华，姚望，郑志明，
申请(专利权)人：北京航空航天大学，
类型：发明
国别省市：