对抗样本的生成方法、装置及电子设备制造方法及图纸

本公开提供了一种对抗样本的生成方法、装置及电子设备，涉及人工智能技术领域，尤其涉及计算机视觉技术。该方法包括：对第一原始图像添加初始扰动，得到初始对抗样本；将第一原始图像输入目标检测模型中，得到第一特征图以及置信度最高的第一类别；将初始对抗样本输入目标检测模型中，得到第二特征图以及置信度最高的第二类别，若第二类别为真实类别，则根据第一特征图和第二特征图更新初始对抗样本，并采用更新后的初始对抗样本迭代执行本步骤，直至第二类别为除真实类别之外的其他类别，则停止迭代并将此时的初始对抗样本确定为与第一原始图像对应的第一对抗样本。该方法增大了对抗样本的生成空间。抗样本的生成空间。抗样本的生成空间。

【技术实现步骤摘要】
对抗样本的生成方法、装置及电子设备


[0001]本公开涉及人工智能
中的计算机视觉技术，尤其涉及一种对抗样本的生成方法、装置及电子设备。

技术介绍

[0002]目标检测(Object Detection)的任务是找出图像中感兴趣的目标(物体)，确定它们的类别和位置，由于各类物体有不同的外观、形状和姿态，加上成像时光照、遮挡等因素的干扰，目标检测一直是计算机视觉领域最具有挑战性的问题。
[0003]为了确保目标检测器在人工干扰下的鲁棒性，通常是通过在图像中人为添加扰动以形成对抗样本，利用对抗样本对目标检测器实施攻击，并根据攻击结果进一步增强目标检测器的鲁棒性。
[0004]现有的对抗样本生成算法普遍采用交叉熵损失刻画对抗样本的输出和图像的真实标签之间的差距，这种方式限制了对抗样本的生成空间。

技术实现思路

[0005]本公开提供了一种增大了对抗样本的生成空间的对抗样本的生成方法、装置及电子设备。
[0006]根据本公开的第一方面，提供了一种对抗样本的生成方法，包括：
[0007]对第一原始图像本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种对抗样本的生成方法，包括：对第一原始图像添加初始扰动，得到初始对抗样本；将所述第一原始图像输入目标检测模型中，得到与目标检测的所有类别的置信度相关的第一特征图以及置信度最高的第一类别，所述第一类别为目标的真实类别；将所述初始对抗样本输入所述目标检测模型中，得到与目标检测的所有类别的置信度相关的第二特征图以及置信度最高的第二类别，若所述第二类别为所述真实类别，则根据所述第一特征图和所述第二特征图更新所述初始对抗样本，并采用更新后的所述初始对抗样本迭代执行本步骤，直至所述第二类别为除所述真实类别之外的其他类别，则停止迭代并将此时的初始对抗样本确定为与所述第一原始图像对应的第一对抗样本。2.根据权利要求1所述的方法，其中，所述根据所述第一特征图和所述第二特征图更新所述初始对抗样本，包括：根据所述第一特征图和所述第二特征图确定生成所述初始对抗样本的损失值；根据所述损失值更新所述初始对抗样本。3.根据权利要求2所述的方法，其中，所述根据所述第一特征图和所述第二特征图确定生成所述初始对抗样本的损失值，包括:将所述第一特征图和所述第二特征图的KL散度确定为所述损失值。4.根据权利要求2或3所述的方法，其中，所述根据所述损失值更新所述初始对抗样本，包括:确定所述损失值关于扰动的梯度的反方向值；根据所述梯度的反方向值和扰动参数对所述初始对抗样本进行更新。5.根据权利要求4所述的方法，其中，所述根据所述梯度的反方向值和扰动参数对所述初始对抗样本进行更新，包括：将所述梯度的反方向值和扰动参数的乘积添加在所述初始对抗样本上，并将得到的结果设置在预设范围内。6.根据权利要求1
‑
5任一项所述的方法，还包括：将所述第一对抗样本和所述第一原始图像之间的差值确定为所述第一对抗样本的扰动值；将所述扰动值添加在第二原始图像上，得到与所述第二原始图像对应的第二对抗样本。7.一种对抗样本的生成装置，包括：扰动模块，用于对第一原始图像添加初始扰动，得到初始对抗样本；第一输入模块，用于将所述第一原始图像输入目标检测模型中，得到与目标检测的所有类别的置信度相关的第一特征图以及置信度最高的第一类别，所述第一类别为目标的真实类别；第二输入模块，用于将所述初始...

【专利技术属性】
技术研发人员：田伟娟，王洋，吕中厚，黄英仁，高梦晗，张华正，干逸显，
申请(专利权)人：北京百度网讯科技有限公司，
类型：发明
国别省市：