一种端到端的生成不可感知对抗补丁的方法技术

本发明专利技术公开了一种端到端的生成不可感知对抗补丁的方法，将图像输入到目标检测模型得到预测框数据，确定各个目标预测框对应的热力图，然后根据目标预测框的位置对热力图进行处理生成掩码图像，根据掩码图像从输入图像中提取出初始补丁，初始化流域矩阵，采用流域矩阵和初始补丁生成对抗样本，根据对抗样本计算得到损失函数对流域矩阵进行更新，迭代多次后得到最终的对抗样本。本发明专利技术基于热力图确定目标检测器对图像感兴趣的位置来确定补丁在图像中的位置，然后使用空间转移生成以补丁为主的局部扰动，提高了所生成对抗样本的质量，解决了现有攻击方法产生的局部扰动可感知性高、人眼很容易识别的问题。

【技术实现步骤摘要】

本专利技术属于人工智能安全，更为具体地讲，涉及一种端到端的生成不可感知对抗补丁的方法。

技术介绍

1、深度神经网络被应用于人脸识别、图像分类、目标检测、语义分割和其他的计算机视觉任务并且取得了巨大的成功。然而研究发现，在原始数据上添加一些人眼不能轻易识别的特定的扰动，便能使深度神经网络发生错误的判断大幅度降低深度神经网络的准确性。这个过程便叫做对抗攻击，这些特定的扰动叫做对抗扰动，加上扰动后的数据叫做对抗样本。对抗攻击揭示了深度神经网络的脆弱性。

2、在现代化的今天，智能驾驶，语音识别，图像医疗等使用人工智能的先进技术遍布于社会。这些先进技术都基于特定的机器学习或者深度学习模型，所以都能够被某些特定的对抗扰动攻击以至于发生错误的判断。如果在未来的场景中，某些使用人工智能关键技术被人为攻击则会带来可怕的后果。而研究对抗攻击能够加深对深度神经网络的理解来提高深度神经网络的鲁棒性，所以研究对抗攻击就显得尤为重要。

3、对抗扰动揭示了深度学习模型存在严重的安全漏洞，给深度学习技术的普遍应用带来了严峻的安全挑战。在研究对抗扰动的过程中发现扰动本文档来自技高网...

【技术保护点】

1.一种端到端的生成不可感知对抗补丁的方法，其特征在于，包括以下步骤：

2.根据权利要求1所述的端到端的生成不可感知对抗补丁的方法，其特征在于，所述步骤S8中损失函数的计算方法为：

【技术特征摘要】

1.一种端到端的生成不可感知对抗补丁的方法，其特征在于，包括以下步骤：

2.根据权利...

【专利技术属性】
技术研发人员：易超，闻永明，周维，张锦弘，王新宇，王震，
申请(专利权)人：云南大学，
类型：发明
国别省市：