一种基于特征图关注区域的目标检测对抗样本生成方法技术

本发明专利技术公开了一种基于特征图关注区域的目标检测对抗样本生成方法，包括：获取包含对抗目标的原始图像；将原始图像输入预设的对抗样本生成网络；利用对抗样本生成网络中的生成器生成原始图像的扰动，将扰动与所述原始图像叠加生成初始对抗样本，对初始对抗样本输入至被攻击的目标检测模型提取特征图；结合梯度加权的类激活映射方法获取与检测模型预测相关的特征图关注区域；利用GAN损失、扰动损失、特征图损失及位置回归攻击损失优化预设的生成对抗网络，并用优化后的生成对抗网络生成最终对抗样本；本发明专利技术能够实时生成对抗样本，提升了对抗样本的迁移能力。了对抗样本的迁移能力。了对抗样本的迁移能力。

【技术实现步骤摘要】
一种基于特征图关注区域的目标检测对抗样本生成方法


[0001]本专利技术属于图像信号处理
，具体涉及基于特征图关注区域的目标检测对抗样本生成方法。

技术介绍

[0002]深度神经网络(DNNs)的优越性能推动了计算机视觉领域的快速发展，深度模型在图像分类、目标检测等任务上识别检测目标的能力达到了与人类相当的水平。但研究表明这种深度神经网络体系容易受对抗样本影响，输入一个微小的扰动就会导致模型出错，给深度神经网络的安全性能带来了极大挑战。
[0003]针对图像分类网络的对抗攻击研究主要可分为两类：一类是白盒攻击，攻击者可以访问目标模型的所有信息，包括目标模型的网络结构、参数、梯度信息等，可以充分利用模型信息来精心制作对抗样本。目前关于白盒攻击的研究较为广泛，因为这类方法针对模型构造和参数进行攻击，有助于人们深入了解DNN模型的弱点。另一类方法称为黑盒攻击，攻击者无法获取目标模型的细节信息，与白盒攻击相比，黑盒攻击难度更大。因为现实中的攻击模型一般都是黑盒模型，该类方法也更有研究的价值。
[0004]虽然对抗样本在图像分类网络本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种基于特征图关注区域的目标检测对抗样本生成方法，其特征在于，包括：获取包含对抗目标的原始图像；将原始图像输入预设的对抗样本生成网络；利用对抗样本生成网络中的生成器生成原始图像的扰动，将扰动与所述原始图像叠加生成初始对抗样本，对初始对抗样本输入至被攻击的目标检测模型提取特征图；获取设定数量的候选区域分别进行梯度加权激活映射计算权重值，并对获取的权重值累加得到目标检测模型的关注区域热力图，设定阈值对关注区域热力图进行二值化处理，得到连通区域，再对连通区域进行筛选获得目标检测模型预测相关的特征图关注区域；根据初始对抗样本和原始图像计算GAN损失和扰动损失；根据特征图和特征图关注区域分别计算特征图损失及位置回归攻击损失，利用GAN损失、扰动损失、特征图损失及位置回归攻击损失优化预设的生成对抗网络，并用优化后的生成对抗网络生成最终对抗样本。2.根据权利要求1所述的一种基于特征图关注区域的目标检测对抗样本生成方法，其特征在于，获取设定数量的候选区域分别进行梯度加权激活映射计算权重值，并对获取的权重值累加得到目标检测模型的关注区域热力图，表达公式为：权重值累加得到目标检测模型的关注区域热力图，表达公式为：权重值累加得到目标检测模型的关注区域热力图，表达公式为：公式中，S为候选区域的集合，g
i
为其中第i个候选区域，α
if
为特征图的第f个通道对第i个候选区域的权重；y
i
是第i个候选区域的包含目标的概率，A
f
为特征图的第f个通道；表示为第i个候选区域映射到特征图的第f个通道特征图的第j行，第k列的像素；M为关注区域热力图；u
i
表示为第i个候选区域的长度；v
i
表示为第i个候选区域的宽度。3.根据权利要求1所述的一种基于特征图关注区域的目标检测对抗样本生成方法，其特征在于，根据初始对抗样本和原始图像计算GAN损失，表达式为：L
GAN
＝logD(x)+log(1
‑
D(x+G(x)))公式中，L
GAN
为GAN损失函数，D为判别器，G为生成器，x为输入的原始图像，G(x)为生成的扰动。4.根据权利要求3所述的一种基于特征图关注区域的目标检测对抗样本生成方法，其特征在于，根据初始对抗样本和原始图像计算扰动损失，表达式为：L
per
＝||x
‑
x
′
||2公式中，L
per
为扰动损失，x
′
为生成的初始对抗样本；所述初始对抗样本采用L2范数约束扰动生成。5.根据权利要求4所述的一种基于特征图关注区域的目标...

【专利技术属性】
技术研发人员：曹铁勇，王烨奎，付炳阳，郑云飞，方正，赵斐，申海霞，王杨，陈雷，
申请(专利权)人：中国人民解放军陆军工程大学，
类型：发明
国别省市：