一种面向交通信息感知的数字攻击对抗样本生成方法技术

本发明专利技术提供了一种面向交通信息感知的数字攻击对抗样本生成方法，该方法主要针对实例分割检测器网络。该方法包括：获取待检测原始图片；将图片输入到实例分割网络；计算图片在实例分割网络中的损失函数；利用梯度算法计算对抗扰动；利用扰动截取方法将对抗扰动限制在目标区域；对抗样本为原始图片和对抗扰动进行相加；设置迭代次数，进行循环迭代，输出对抗样本。以YOLACT实例分割网络为例，通过此发明专利技术可以生成对抗样本，暴露YOLACT实例分割网络存在的安全漏洞和问题，对交通信息感知系统进行有效的安全效果验证。效的安全效果验证。效的安全效果验证。

【技术实现步骤摘要】
一种面向交通信息感知的数字攻击对抗样本生成方法


[0001]本专利技术涉及轨道交通领域，具体涉及面向交通信息感知的针对YOLACT实例分割网络进行数字攻击的对抗样本生成方法。

技术介绍

[0002]近年来，车载交通信息感知系统飞速发展，该感知系统的目的是感知载运工具的运行环境和状态。一般通过在司机室安装摄像头，拍摄并获取交通工具的运行环境视频图像，通过智能算法对运行环境进行感知识别，进而针对运行环境做出智能决策。载运工具的运行环境十分复杂，主要包括复杂的路面情况、复杂多变的天气条件和复杂的光照条件三方面。传统图像处理方法难以解决复杂运行环境感知的问题，需要采用深度学习算法实时检测运行环境状态。
[0003]对抗样本目前已经成为近年来计算机领域的研究热点，它对深度学习网络的可靠性和安全性产生了巨大威胁。以计算机视觉感知为例，对抗样本是指一张被人为添加了微小噪声的图像，在人类能够正确感知该图像的情况下，深度学习模型却给出了错误的、与人类感知截然不同的感知结果。在自动驾驶领域等需要高可靠性的应用场景中，交通环境中的道路、车辆和行人需要使用实例分割深度学习网络进行目标位置的定位。如果被检测的图像是被对抗噪声干扰的对抗样本图像，实例分割网络则不能正确识别交通环境中的目标，严重的将导致交通事故。现有技术中，中国专利申请CN114359672A“基于Adam的迭代快速梯度下降对抗攻击方法”和中国专利申请CN108491837A“一种提高车牌攻击鲁棒性的对抗攻击方法”等技术以及研究论文“Improving adversarial attacks on deep neural networks via constricted gradient
‑
based perturbations”，“EnsembleFool:A method to generate adversarial examples based on model fusion strategy”等都是针对分类器网络进行对抗样本生成，并不涉及基于YOLACT实例分割网络进行对抗样本生成方法的介绍，并且针对分类器的对抗样本也不能成功攻击实例分割网络。
[0004]针对实例分割网络生成对抗样本的难度，远远大于针对分类器和目标检测器的难度，分类器中的目标只有一个且无需给出目标的准确位置坐标，目标检测器含有多种不同目标的图片并给出相应目标的准确位置坐标，而实例分割网络不仅需要分类目标类别和目标位置，还要分割目标的轮廓。现有的对抗样本生成方法主要针对分类器和目标检测器，而交通信息感知系统需要在每帧图片中都实现运行环境中轨行区和障碍物的轮廓分割识别，目前的对抗样本生成方法并不适用，故已有的研究方法对交通信息感知系统威胁不大。因此需要一种能够针对实例分割网络实现较高攻击成功率的对抗样本生成方法，用来优化实例分割模型，增强对抗样本防御能力。

技术实现思路

[0005]本专利技术提供了一种针对YOLACT实例分割网络进行数字攻击的对抗样本生成方法，采用梯度算法生成对抗样本攻击YOLACT实例分割网络，暴露YOLACT存在的安全漏洞和问
题，帮助改进或提出更为有效的防御方法，提高交通信息感知系统的可靠性，是保证行车安全和乘客安全的重要举措。
[0006]本专利技术提出的一种面向交通信息感知的数字攻击对抗样本生成方法，包括以下步骤：
[0007](1)获取待检测原始图片；
[0008](2)将图片输入到实例分割网络；
[0009](3)计算图片在实例分割网络中的损失函数；
[0010](4)利用梯度算法计算对抗扰动；
[0011](5)利用扰动截取方法将对抗扰动限制在目标区域；
[0012](6)对抗样本为原始图片和对抗扰动进行相加；
[0013](7)设置迭代次数，进行循环迭代，输出对抗样本。
[0014]进一步的，所述的面向交通信息感知的数字攻击对抗样本生成方法，主要攻击的感知网络为YOLACT实例分割网络。
[0015]进一步的，所述的面向交通信息感知的数字攻击对抗样本生成方法，其特征在于，步骤(3)中所述的损失函数，其公式如下：
[0016][0017]其中，L
box
(x+η,θ,l,g)表示定位的损失函数；
[0018]L
cls
(x+η,θ,c)表示分类的损失函数；
[0019]L
mask
(x+x
η
,θ,m,m
gt
)表示分割的损失函数；
[0020]x是输入原始图像；
[0021]t为某次迭代过程；
[0022]是计算出来的对抗扰动；
[0023]θ是YOLACT实例分割网络的网络结构参数；
[0024]l是通过网络预测出来的目标位置；
[0025]g是目标真实位置标签；
[0026]m为目标预测掩码信息；
[0027]m
gt
为目标真实掩码信息；
[0028]c是通过网络预测出来目标置信度。
[0029]进一步的，所述的面向交通信息感知的数字攻击对抗样本生成方法，其特征在于，步骤(4)中所述的利用梯度算法计算对抗扰动，其公式如下：
[0030][0031]其中，为损失函数对应的梯度；
[0032]α为学习率；
[0033]t为某次迭代过程；
[0034]T为总的迭代次数；
[0035]y
gt
为真实目标标签值；
[0036]x是输入图像；
[0037]是计算出来的对抗扰动；
[0038]θ是YOLACT实例分割网络的网络结构参数。
[0039]进一步的，所述的面向交通信息感知的数字攻击对抗样本生成方法，其特征在于，步骤(5)中所述的利用扰动截取方法将对抗扰动限制在目标区域，其公式如下：
[0040][0041][0042]其中，为图像截取之后的对抗扰动；
[0043]I
X
为图像像素位置坐标；
[0044]b为单个目标的坐标区域；
[0045]B为图像的分辨率大小；
[0046]b
X
为目标的坐标区域；
[0047]box
top
，box
left
，box
bottom
，box
right
分别为b
X
坐标区域的横坐标最小值，纵坐标最小值，横坐标最大值，纵坐标最大值。
[0048]进一步的，所述的面向交通信息感知的数字攻击对抗样本生成方法，其特征在于，步骤(6)中所述的对抗样本为原始图片和对抗扰动进行相加，其公式如下：
[0049][0050]其中，为对抗样本；
[0051]x是输入图像；
[0052]为对抗扰动；
[0053]Proj
ε
()为图像像素值限制本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种面向交通信息感知的数字攻击对抗样本生成方法，其特征在于，包括以下步骤：(1)获取待检测原始图片；(2)将图片输入到实例分割网络；(3)计算图片在实例分割网络中的损失函数；(4)利用梯度算法计算对抗扰动；(5)利用扰动截取方法将对抗扰动限制在目标区域；(6)将原始图片和对抗扰动进行相加；(7)设置迭代次数，进行循环迭代，输出对抗样本。2.根据权利要求1所述的面向交通信息感知的数字攻击对抗样本生成方法，其特征在于，用于攻击的感知网络为YOLACT实例分割网络。3.根据权利要求1所述的面向交通信息感知的数字攻击对抗样本生成方法，其特征在于，步骤(3)中所述的损失函数，其公式如下：其中，L
box
(x+η,θ,l,g)表示定位的损失函数；L
cls
(x+η,θ,c)表示分类的损失函数；L
mask
(x+x
η
,θ,m,m
gt
)表示分割的损失函数；x是输入原始图像；t为某次迭代过程；是计算出来的对抗扰动；θ是YOLACT实例分割网络的网络结构参数；l是通过网络预测出来的目标位置；g是目标真实位置标签；m为目标预测掩码信息；m
gt
为目标真实掩码信息；c是通过网络预测出来目标置信度。4.根据权利要求1或者3所述的面向交通信息感知的数字攻击对抗样本生成方法，其特征在...

【专利技术属性】
技术研发人员：黄世泽，张肇鑫，刘晓雯，张兵杰，秦晋哲，宋冠群，
申请(专利权)人：同济大学，
类型：发明
国别省市：