图像对抗样本检测方法、系统、存储介质、终端及应用技术方案

本发明专利技术属于深度学习领域中的图像识别技术领域，公开了一种图像对抗样本检测方法、系统、存储介质、终端及应用，降噪神经网络对原始图像进行降噪处理，得到降噪图像；分类模型对原始图像进行分类处理，获取处理后的logits值；分类模型对降噪图像进行分类处理，获取处理后的logits值；利用原始图像和降噪图像的logits值，计算原始图像和降噪图像之间的差异得分；根据差异得分判断原始图像是对抗样本还是普通样本。本发明专利技术降噪神经网络只需要在加性高斯白噪声下训练，训练成本大大降低；降噪神经网络采用xUnit激活单元，使得降噪模型参数大大较少，有利于在计算资源有限的设备上进行部署。

【技术实现步骤摘要】
图像对抗样本检测方法、系统、存储介质、终端及应用
本专利技术属于深度学习领域中的图像识别
，尤其涉及一种图像对抗样本检测方法、系统、存储介质、终端及应用。
技术介绍
目前：图像识别是深度学习的重要分支。基于图像识别技术的相关应用在的日常生活中承担着各种复杂的任务，扮演着越来越重要的角色。在人脸识别、自动驾驶、金融等对系统安全性要求较高的领域，深度学习模型需要具有较强的稳定性和准确性。最近研究发现，深度学习模型容易受到一些精心制作的输入样本的攻击。在原始数据的基础上加上一些人眼难以察觉的轻微扰动就能使得分类模型产生误判，这样的输入样本称为对抗样本。目前，主要通过对抗训练防御技术和优化模型防御技术来抵御对抗样本的攻击。对抗训练防御技术需要重新训练分类模型。首先通过对抗样本生成算法生成对抗样本，然后将这些对抗样本添加进原有的训练数据集中，最后用所构建的新数据集重新训练分类模型，以此提升模型的鲁棒性。由于需要生成对抗样本和重新训练分类模型，所以对抗训练防御技术是比较耗时的。优化模型防御技术需要修改分类模型的结构。大部分对抗样本攻击算法需要本文档来自技高网...

【技术保护点】
1.一种图像对抗样本检测方法，其特征在于，所述图像对抗样本检测方法包括：/n降噪神经网络对原始图像进行降噪处理，得到降噪图像；/n分类模型对原始图像进行分类处理，获取处理后的logits值；/n分类模型对降噪图像进行分类处理，获取处理后的logits值；/n利用原始图像和降噪图像的logits值，计算原始图像和降噪图像之间的差异得分；/n根据差异得分判断原始图像是对抗样本还是普通样本。/n

【技术特征摘要】
1.一种图像对抗样本检测方法，其特征在于，所述图像对抗样本检测方法包括：
降噪神经网络对原始图像进行降噪处理，得到降噪图像；
分类模型对原始图像进行分类处理，获取处理后的logits值；
分类模型对降噪图像进行分类处理，获取处理后的logits值；
利用原始图像和降噪图像的logits值，计算原始图像和降噪图像之间的差异得分；
根据差异得分判断原始图像是对抗样本还是普通样本。


2.如权利要求1所述的图像对抗样本检测方法，其特征在于，所述降噪神经网络对原始图像进行降噪处理，得到降噪图像，首先将原始图像进行复制得到副本图像；其次将副本图像输入降噪神经网络中，通过降噪神经网络提取出副本图像中的噪声图像；接着副本图像减去噪声图像得到差值；最后将差值裁剪到0到1区间上得到降噪图像。


3.如权利要求1所述的图像对抗样本检测方法，其特征在于，所述分类模型对原始图像进行分类处理，获取处理后的logits值，首先对原始图像进行归一化处理；接着将原始图像归一化结果输入分类模型；最后获取分类模型神经网络的最后一层的输出，即原始图像的logits值。


4.如权利要求1所述的图像对抗样本检测方法，其特征在于，所述分类模型对降噪图像进行分类处理，获取处理后的logits值，首先对降噪图像进行归一化处理；接着将降噪图像归一化结果输入分类模型；最后获取分类模型神经网络的最后一层的输出，即降噪图像的logits值。


5.如权利要求1所述的图像对抗样本检测方法，其特征在于，所述利用原始图像和降噪图像的logits值，计算原始图像和降噪图像之间的差异得分，首先通过softmax函数处理logits值得到s值；其次通过计算原始图像的s值和降噪图像的s值之间的L1距离得到差异得分d；最后取最大的...

【专利技术属性】
技术研发人员：裴庆祺，杨舟，肖阳，邢卓林，
申请(专利权)人：西安电子科技大学，
类型：发明
国别省市：陕西;61