【技术实现步骤摘要】
基于目标定位的对抗攻击方法、装置、设备及存储介质
[0001]本申请涉及人工智能领域，尤其涉及一种基于目标定位的对抗攻击方法、装置、设备及存储介质。
技术介绍
[0002]随着深度学习技术的日益发展，人工智能行业也有了巨大的突破。人工智能模型的安全问题，也日趋得到AI从业者的重视。现阶段深度学习模型相关领域的安全性问题也还存在一定的局限性。在现有技术中，常通过直接对图片进行模糊处理或其他方式进行加噪，或者利用anchor框检测出目标类别的位置，对该位置进行简单的加噪等处理来得到攻击图片，根据该攻击图片对检测模型进行攻击，但现有技术的方案常存在攻击准确率较低的情况，因此，如何提高对待攻击模型的攻击准确率成为了亟待解决的问题。
技术实现思路
[0003]本申请提供了一种基于目标定位的对抗攻击方法、装置、设备及存储介质，以解决现有技术中对待攻击模型的攻击准确率的问题。
[0004]为解决上述问题，本申请提供了一种基于目标定位的对抗攻击方法，包括：
[0005]获取待处理图像；
[0006]通...
【技术保护点】
【技术特征摘要】
1.一种基于目标定位的对抗攻击方法，其特征在于，所述方法包括：获取待处理图像；通过提取模型，对所述待处理图像进行热力点提取，得到所述待处理图像对应的目标类激活热力图；基于所述目标类激活热力图，确认目标类位置；根据所述目标类位置，计算对应的噪声扰动；将所述目标类位置对应的噪声扰动添加到对应的所述目标类位置后，进行多次迭代，得到对应的对抗样本；将所述对抗样本输入待攻击模型进行检测。2.根据权利要求1所述的基于目标定位的对抗攻击方法，其特征在于，所述通过提取模型，对所述待处理图像进行热力点提取，得到所述待处理图像对应的目标类激活热力图包括：通过所述提取模型中的卷积层对所述待处理图像进行卷积处理后，得到特征图；所述特征图经过所述提取模型中的第一激活层，得到所述待处理图像对应所属类别的概率；利用所述概率对所述特征图进行求偏导，得到偏导数；通过所述提取模型中的池化层对所述偏导数进行全局平均，得到权重值；基于所述权重值，对所述特征图进行加权求和后，再经所述提取模型中的第二激活层，得到所述目标类激活热力图。3.根据权利要求1所述的基于目标定位的对抗攻击方法，其特征在于，所述基于所述目标类激活热力图，确认目标类位置包括：将所述目标类激活热力图与所述待处理图像进行叠加，得到中间图像；将中间图像中的各像素点的数值与预设阈值进行判断，当所述像素点的数值大于所述预设阈值时，则将所述像素点所处位置确定为所述目标类位置。4.根据权利要求1所述的基于目标定位的对抗攻击方法，其特征在于，所述根据所述目标类位置，计算对应的噪声扰动包括：根据以下公式来计算所述目标类位置对应的噪声扰动：其中，η表示噪声扰动，α表示每次迭代图像像素更新的幅值，表示损失函数关于输入x求导得到的梯度，J()表示损失函数，θ表示模型的参数。5.根据权利要求1所述的基于目标定位的对抗攻击方法，其特征在于，所述将所述目标类位置对应的噪声扰动添加到对应的所述目标类位置后，进行多次迭代，得到对应的对抗样本包括：将所述目标类位置对应的噪声扰动添加到对应的所述目标类位置处，得到迭代项；利用迭代算法对所述迭代项进行多次迭代，得到所述对抗样本。6.根据权利要求5所述的基于目标定位的对抗攻击方法，其特征在于，所述利用迭代算法...
【专利技术属性】
技术研发人员：张兴，石强，刘雨桐，王国勋，雷晓宇，
申请(专利权)人：润联软件系统深圳有限公司，
类型：发明
国别省市：
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。