一种对抗样本图像的过滤方法、装置、电子设备及介质制造方法及图纸

本发明专利技术涉及一种对抗样本图像的过滤方法、装置、电子设备及介质，该方法包括：获取原始对抗样本图像，原始对抗样本图像中包含干扰信息；对原始对抗样本图像进行特征提取，得到至少两个维度的第一特征信息，对于每个维度的第一特征信息，对该维度的第一特征信息进行奇异值分解，得到该维度的第一特征信息对应的第二特征信息；对于每个维度的第二特征信息，根据预设的该维度对应的过滤条件，确定第二特征信息中满足过滤条件的第三特征信息；根据各个维度的第三特征信息，确定目标对抗图像。通过本发明专利技术的方法，可有效过滤掉原始对抗样本图像中的干扰信息。的干扰信息。的干扰信息。

【技术实现步骤摘要】
一种对抗样本图像的过滤方法、装置、电子设备及介质


[0001]本专利技术涉及计算机视觉
，具体而言，本专利技术涉及一种对抗样本图像的过滤方法、装置、电子设备及介质。

技术介绍

[0002]近年来，随着计算机图像识别领域的飞速发展，各行业都在尝试将计算机视觉融入社会生产中，应用范围十分广泛。发展出了不限于图像识别，目标检测，语义分割，实体分割等等众多方向，并应用于自动驾驶，医学影像分析，人脸识别等众多方面。随着计算机视觉应用领域的逐步成熟，神经网络模型的安全性问题也逐步成为重要的研究方向。
[0003]作为计算机视觉的基础性应用，图像识别起到了非常重要的作用。基于深度学习的人工神经网络飞速发展，逐步取代了原有的机器学习方法，并在准确度上超过了人类。基于大量的数据训练和网络模型的不断加深，图像识别的速度不断加快，分类模型的安全性问题也显现出来。有研究发现，在图像的空间域上添加一些微小的扰动，可以对网络模型的预测结果产生干扰，人类却无法察觉到扰动的存在，添加了这种微小扰动的图像称作对抗样本，添加扰动的行为称作对抗攻击，对抗这种攻击的行为本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种对抗样本图像的过滤方法，其特征在于，包括以下步骤：获取原始对抗样本图像，所述原始对抗样本图像中包含干扰信息；对所述原始对抗样本图像进行特征提取，得到至少两个维度的第一特征信息，所述至少两个维度的第一特征信息包括粗粒度的第一特征信息和细粒度的第一特征信息；对于每个维度的第一特征信息，对所述维度的第一特征信息进行奇异值分解，得到所述维度的第一特征信息对应的第二特征信息；对于每个维度的第二特征信息，根据预设的所述维度对应的过滤条件，确定所述第二特征信息中满足所述过滤条件的第三特征信息；根据各个维度的所述第三特征信息，确定目标对抗图像。2.根据权利要求1所述的方法，其特征在于，所述对所述原始对抗样本图像进行特征提取，得到至少两个维度的第一特征信息，包括：对所述原始对抗样本图像进行离散小波变换，得到所述至少两个维度的第一特征信息；或者，对所述原始对抗样本图像进行离散小波包变换，得到所述至少两个维度的第一特征信息。3.根据权利要求2所述的方法，其特征在于，所述离散小波变换为二维haar离散小波变换，所述对所述原始对抗样本图像进行离散小波变换，得到所述至少两个维度的第一特征信息，包括：对所述原始对抗样本图像进行二维haar离散小波变换，得到四个维度的第一特征信息，所述至少两个维度的第一特征信息包括所述四个维度的第一特征信息，所述细粒度的第一特征信息包括水平的第一特征信息、垂直的第一特征信息和对角的第一特征信息。4.根据权利要求1至3中任一项所述的方法，其特征在于，对于每个维度的所述第二特征信息，所述维度的第二特征信息为矩阵，所述矩阵中包括r个奇异值，所述矩阵中每一行包括一个奇异值，所述矩阵中的当前行的奇异值大于所述当前行的下一行的奇异值；所述维度对应的过滤条件为保留所述维度对应的矩阵中的前k个的奇异值，k不大于r；所述对于每个维度的第二特征信息，根据预设的所述维度对应的过滤条件，确定所述第二特征信息中满足所述过滤条件的第三特征信息，包括：对于每个维度的矩阵，过滤掉所述对角阵中第k+1个到第r个奇异值，将所述矩阵中的前k个的奇异值作为所述第三特征信息。5.根据权利要求1至3中任一项所述的方法，其特征在于，若所述至少两个维度的第一特征信息是通过对所述原始对抗样本图像进行离散小波变换得到的，所述根据各个维度的所述第三特征信息，确定目标对抗图像，包括：对各个维度的所述第三特征信息进行离散余弦逆变换，得到所述目标对抗图像。6.根据权利要求1至3中任一项所述的方法，其特征在于，若所述原始对抗样本图像为RGB图像，则所述对所述原...

【专利技术属性】
技术研发人员：张栖铜，温嘉骏，王金梅，
申请(专利权)人：南京国腾创兴科技有限公司，
类型：发明
国别省市：