基于攻击测试的图像处理方法、装置、设备及存储介质制造方法及图纸

本申请提供一种基于攻击测试的图像处理方法、装置、设备及存储介质。方法包括：获取欲攻击的待识别图像；根据攻击意图，选择期望在待识别图像中隐去相应物体的第一物体列表和期望在待识别图像中生成新物体的第二物体列表；根据目标检测器、第一物体列表和第二物体列表，通过预设的注意力攻击策略对待识别图像进行迭代处理，得到用于替换待识别图像的攻击图像。如此，利用第一物体列表可以隐去待识别图像中的相应物体，利用第二物体列表可以在待识别图像中生成新的物体，能够灵活模拟各类针对性目标以生成攻击图片，进而有利于提高攻击测试的灵活性与效率。测试的灵活性与效率。测试的灵活性与效率。

【技术实现步骤摘要】
基于攻击测试的图像处理方法、装置、设备及存储介质


[0001]本专利技术涉及图像处理
，具体而言，涉及一种基于攻击测试的图像处理方法、装置、设备及存储介质。

技术介绍

[0002]目标检测模型被广泛应用于图像的检测与分类中。目标检测模型通常可以被分为单阶段(one
‑
stage)的目标检测器和两阶段(two
‑
stage)的目标检测器。
[0003]其中，单阶段的目标检测器的检测方式为：直接预测图像中不同物体的类别与坐标，典型的单阶段目标检测模型可以为YOLO模型。
[0004]两阶段的目标检测器的检测方式为：首先找到可能的目标物体，然后再对这些候选目标进行识别。典型的双阶段目标检测模型可以为Faster
‑
RCNN模型。
[0005]当前，目标检测模型可以被应用于如自动驾驶、监控等多类智能系统中。目标检测模型检测识别的稳定性和抗攻击能力，对智能系统至关重要。目前，目标检测模型的稳定性测试，通常是将智能系统的产品投入实际环境运行，以进行实测，该方式的效率低，且测试场景有限。另外，目前的注意力攻击的目标大多都应用于非针对性(Untargeted)的场景，并且以使检测器失效作为衡量指标，不便于在测试目标检测模型的稳定性期间，模拟各类针对性目标进行攻击测试。

技术实现思路

[0006]有鉴于此，本申请实施例的目的在于提供一种基于攻击测试的图像处理方法、装置、设备及存储介质，能够灵活地在待识别图像中隐去相应物体，以及生成新物体，有利于改善无法模拟各类针对性目标进行攻击测试的问题。
[0007]为实现上述技术目的，本申请采用的技术方案如下：
[0008]第一方面，本申请实施例提供了一种基于攻击测试的图像处理方法，所述方法包括：
[0009]获取欲攻击的待识别图像，所述待识别图像用于目标检测；
[0010]根据攻击意图，选择期望在所述待识别图像中隐去相应物体的第一物体列表和期望在所述待识别图像中生成新物体的第二物体列表；
[0011]根据目标检测器、所述第一物体列表和所述第二物体列表，通过预设的注意力攻击策略对所述待识别图像进行迭代处理，得到用于替换所述待识别图像的攻击图像。
[0012]结合第一方面，在一些可选的实施方式中，根据目标检测器、所述第一物体列表和所述第二物体列表，通过预设的注意力攻击策略对所述待识别图像进行迭代处理，得到用于替换所述待识别图像的攻击图像，包括：
[0013]根据目标检测器对所述待识别图像进行识别，得到第1代结果向量；
[0014]根据所述第1代结果向量、所述第一物体列表和所述第二物体列表，确定所述待识别图像和所述第二物体列表中的模板图像对应的第1代注意力热度图；
[0015]基于所述第1代注意力热度图，对所述待识别图像进行更新，得到第1代图像；
[0016]重复步骤根据所述目标检测器对第k代图像进行识别，得到第k+1代结果向量，以及根据所述第k+1代结果向量、所述第一物体列表和所述第二物体列表，确定所述第k代图像和所述模板图像对应的第k+1代注意力热度图；以及基于所述第k+1代注意力热度图，对所述第k代图像进行更新，得到第k+1代图像，并对预先创建的用于统计迭代次数的计数器的数值进行更新，其中，k依次取1至T，T为大于1的整数；
[0017]当所述计数器统计的迭代次数k的值更新为T时，将得到的第T+1代图像作为所述攻击图像。
[0018]结合第一方面，在一些可选的实施方式中，根据所述目标检测器对第k代图像进行识别，得到第k+1代结果向量，包括：
[0019]通过所述目标检测器对所述第k代图像进行划分，得到多个区域图像，其中，每个区域图像包括至少一个锚框；
[0020]通过所述目标检测器对每个区域图像中的每个锚框图区进行识别，得到每个锚框的锚框数据，以作为所述第k+1代结果向量，其中，所述锚框数据包括锚框的坐标、置信度及识别出的目标类别的概率。
[0021]结合第一方面，在一些可选的实施方式中，根据所述第k+1代结果向量、所述第一物体列表和所述第二物体列表，确定所述第k代图像和所述模板图像对应的第k+1代注意力热度图，包括：
[0022]从所述k+1代结果向量中，选择与所述第一物体列表和所述第二物体列表中的目标所对应的锚框数据，以作为目标锚框数据；
[0023]基于所述目标锚框数据，通过SGLRP算法将关联R从预设的深度学习模型中反向传播到所述第k代图像和所述模板图像，得到分别与所述第k代图像和所述模板图像的尺寸相同的所述第k+1代注意力热度图，其中，所述关联R指所述深度学习模型中神经元对预测结果的贡献值。
[0024]结合第一方面，在一些可选的实施方式中，基于所述第k+1代注意力热度图，对所述第k代图像进行更新，得到第k+1代图像，包括：
[0025]基于所述第k+1代注意力热度图，确定损失函数l(x)，公式为：
[0026][0027]其中，h1指第k+1代图像的注意力热度图，h2指所述模板图像的注意力热度图，h(i,j)指注意力热度图中坐标(i,j)的像素值；
[0028]根据所述损失函数确定偏导数g(x)，公式为：
[0029][0030]根据所述偏导数，对所述第k代图像进行更新，公式为：
[0031][0032]其中，指第k+1代图像，指第k代图像，∈指预设扰动值，α指迭代步长，N指
所述待识别图像的像素数量。
[0033]结合第一方面，在一些可选的实施方式中，所述方法还包括：
[0034]将所述攻击图像输入基于深度学习算法的目标检测模型，得到由所述目标检测模型输出的目标检测结果。
[0035]第二方面，本申请实施例还提供一种基于攻击测试的图像处理装置，所述装置包括：
[0036]获取单元，用于获取欲攻击的待识别图像；
[0037]选择单元，用于根据攻击意图，选择期望在所述待识别图像中隐去相应物体的第一物体列表和期望在所述待识别图像中生成新物体的第二物体列表；
[0038]迭代处理单元，用于根据目标检测器、所述第一物体列表和所述第二物体列表，通过预设的注意力攻击策略对所述待识别图像进行迭代处理，得到用于替换所述待识别图像的攻击图像。
[0039]结合第二方面，在一些可选的实施方式中，所述迭代处理单元还用于：
[0040]根据目标检测器对所述待识别图像进行识别，得到第1代结果向量；
[0041]根据所述第1代结果向量、所述第一物体列表和所述第二物体列表，确定所述待识别图像和所述第二物体列表中的模板图像对应的第1代注意力热度图；
[0042]基于所述第1代注意力热度图，对所述待识别图像进行更新，得到第1代图像；
[0043]重复步骤根据所述目标检测器对第k代图像进行识别，得到第k+1代结果向量，以及根据所述第k+1代结果向量、所述第一物体列表和所述第二物体列本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种基于攻击测试的图像处理方法，其特征在于，所述方法包括：获取欲攻击的待识别图像，所述待识别图像用于目标检测；根据攻击意图，选择期望在所述待识别图像中隐去相应物体的第一物体列表和期望在所述待识别图像中生成新物体的第二物体列表；根据目标检测器、所述第一物体列表和所述第二物体列表，通过预设的注意力攻击策略对所述待识别图像进行迭代处理，得到用于替换所述待识别图像的攻击图像。2.根据权利要求1所述的方法，其特征在于，根据目标检测器、所述第一物体列表和所述第二物体列表，通过预设的注意力攻击策略对所述待识别图像进行迭代处理，得到用于替换所述待识别图像的攻击图像，包括：根据目标检测器对所述待识别图像进行识别，得到第1代结果向量；根据所述第1代结果向量、所述第一物体列表和所述第二物体列表，确定所述待识别图像和所述第二物体列表中的模板图像对应的第1代注意力热度图；基于所述第1代注意力热度图，对所述待识别图像进行更新，得到第1代图像；重复步骤根据所述目标检测器对第k代图像进行识别，得到第k+1代结果向量，以及根据所述第k+1代结果向量、所述第一物体列表和所述第二物体列表，确定所述第k代图像和所述模板图像对应的第k+1代注意力热度图；以及基于所述第k+1代注意力热度图，对所述第k代图像进行更新，得到第k+1代图像，并对预先创建的用于统计迭代次数的计数器的数值进行更新，其中，k依次取1至T，T为大于1的整数；当所述计数器统计的迭代次数k的值更新为T时，将得到的第T+1代图像作为所述攻击图像。3.根据权利要求2所述的方法，其特征在于，根据所述目标检测器对第k代图像进行识别，得到第k+1代结果向量，包括：通过所述目标检测器对所述第k代图像进行划分，得到多个区域图像，其中，每个区域图像包括至少一个锚框；通过所述目标检测器对每个区域图像中的每个锚框图区进行识别，得到每个锚框的锚框数据，以作为所述第k+1代结果向量，其中，所述锚框数据包括锚框的坐标、置信度及识别出的目标类别的概率。4.根据权利要求3所述的方法，其特征在于，根据所述第k+1代结果向量、所述第一物体列表和所述第二物体列表，确定所述第k代图像和所述模板图像对应的第k+1代注意力热度图，包括：从所述k+1代结果向量中，选择与所述第一物体列表和所述第二物体列表中的目标所对应的锚框数据，以作为目标锚框数据；基于所述目标锚框数据，通过SGLRP算法将关联R从预设的深度学习模型中反向传播到所述第k代图像和所述模板图像，得到分别与所述第k代图像和所述模板图像的尺寸相同的所述第k+1代注意力热度图，其中，所述关联R指所述深度学习模型中神经元对预测结果的贡献值。5.根据权利要求2所述的方法，其特征在于，基于所述第k+1代注意力热度图，对所述第k代图像进行更新，得到第k+1代图像，包括：基于所述第k+1代注意力热度图，确定损失函数l(x)，公式为：
其中，h1指第k+1代图像的注意力热度图，h2指所述模板图像的注意力热度图，h(i,j)指注意力热度图中坐标(i,j)的像素值；根据所述损失函数确定偏导数g(x)，公式为：根据所述偏导数，对所述第k代图像进行更新，公式为：其中，指第k+1代图像，指第k代图像，∈指预设扰动值，α指迭代步长，N指所述待识别图像的像素数量。6.根据权利要求1所述的方法，其特征在于，所述方法还包括：将所述攻击图像输入基于深度学习算法的目标检测模型，得到由所述目标检测模型输出...

【专利技术属性】
技术研发人员：罗咏刚，马金燕，江天，
申请(专利权)人：重庆长安汽车股份有限公司，
类型：发明
国别省市：