一种基于集合的迁移性对抗样本生成方法及其应用技术

本发明专利技术公开了一种基于集合的迁移性对抗样本生成方法及其应用，属于人工智能领域；该方法通过计算集合模型对输入图像的敏感区域，将扰动添加在敏感区域，减少了对平滑背景的修改；本发明专利技术方法中计算集合中每个代理模型的权重，并自适应地调整模型的权重，给予多样化输出模型更高的权重，而且只对集合模型敏感区域内的像素添加扰动，从而确保生成的对抗样本具有可迁移性和不可感知性；本发明专利技术方法生成的对抗样本经过实验检测具有较好的可迁移性、不可感知性。

【技术实现步骤摘要】

本专利技术涉及人工智能领域，特别涉及一种基于集合的迁移性对抗样本生成方法及其应用。

技术介绍

1、深度神经网络(dnn)在图像分类、自然语言处理、语义分割和物体检测等多个领域表现出色。然而，研究发现，dnn极易受到通过添加微小扰动生成的对抗性样本的影响，这些扰动对人类而言几乎无法察觉。更为严重的是，对抗性样本具有迁移性，即为一个模型生成的样本也可能误导其他黑盒模型。例如，攻击者可以利用代理模型(白盒模型)生成对抗性样本，然后攻击目标模型(黑盒模型)，而不需要了解目标模型的参数和结构等信息。这种对抗性攻击引起了极大的关注，因为它不仅可以评估dnn的鲁棒性，还能够通过对抗性训练提升其鲁棒性。因此，研究对抗性样本不仅是开发防御策略的关键，也是评估dnn稳定性的重要手段。高级的dnn容易被对抗样本欺骗，这对其实际应用构成了重大威胁。

2、近年来，研究人员提出了多种方法来增强对抗样本的可迁移性，以提高在黑盒环境下的攻击成功率。其中，梯度优化攻击、输入变换攻击和模型集合攻击是主要的方法。特别是，模型集合攻击表现出显著效果，已被广泛应用于提升黑盒攻击的性能。本文档来自技高网...

【技术保护点】

1.一种基于集合的迁移性对抗样本生成方法，其特征在于，包括：

2.根据权利要求1所述的基于集合的迁移性对抗样本生成方法，其特征在于，原始图像来自于ImageNet 兼容数据集、CIFAR-10数据集和CIFAR-100 数据集。

3.根据权利要求1所述的基于集合的迁移性对抗样本生成方法，其特征在于，集合模型由ResNet-18、Inception-v3、ViT-Tiny、DeiT-Tiny四个代理模型组成。

4.一种基于集合的迁移性对抗样本的应用，其特征在于，应用权利要求1方法生成的对抗样本攻击图像识别模型。

【技术特征摘要】

1.一种基于集合的迁移性对抗样本生成方法，其特征在于，包括：

2.根据权利要求1所述的基于集合的迁移性对抗样本生成方法，其特征在于，原始图像来自于imagenet 兼容数据集、cifar-10数据集和cifar-100 数据集。

3.根据权利要求1所述...

【专利技术属性】
技术研发人员：王永平，闫振豪，张晓琳，王静宇，顾瑞春，高鹭，
申请(专利权)人：内蒙古科技大学，
类型：发明
国别省市：