【技术实现步骤摘要】
本专利技术涉及人工智能安全，尤其涉及一种基于组合攻击方法的目标检测模型对抗样本生成方法。
技术介绍
1、深度神经网络已经彻底改变了目标检测，并推动了其被广泛应用，如自动驾驶车辆上的交通标志检测和放射学中的感兴趣区域识别。给定一个输入的视频帧或图像，一个目标检测模型使用已知的类别来检测语义对象的多个实例。
2、最近的技术方法揭示了深度目标检测模型（以下简称目标模型）对对抗扰动的弱点。例如，使用基于迭代梯度的方法，在两阶段目标检测模型中禁用了区域建议网络的功能，训练一个生成对抗网络来产生对抗样本。针对一阶段和两阶段的目标检测模型，已有基于优化和基于迁移的黑盒对抗攻击。优化攻击将攻击目标表述为一个黑盒优化问题，并通过对目标模型的一系列查询来进行攻击。迁移攻击利用了对抗样本经常在不同模型之间迁移的特性。攻击者使用白盒攻击生成针对本地模型的对抗样本，并希望能将它们迁移到目标模型中。迁移攻击对每个可能的候选样本进行一次目标模型的查询，但由于本地模型的对抗样本可能无法成功迁移到目标模型，因此会遭受迁移损失。
3、在黑盒设置下，...
【技术保护点】
1.一种基于组合攻击方法的目标检测模型对抗样本生成方法，其特征在于，包括以下步骤：
2.根据权利要求1所述的一种基于组合攻击方法的目标检测模型对抗样本生成方法，其特征在于：针对本地模型中的每一个目标检测模型，目标检测模型学习训练过程中的损失函数计算公式包括：
3.根据权利要求1所述的一种基于组合攻击方法的目标检测模型对抗样本生成方法，其特征在于：根据预设四种攻击类型对图像更新方程进行调整，得到四种攻击类型下的对抗样本种子包括：固定目标检测模型的模型学习训练权重，根据预设四种攻击类型修改对抗损失函数或生成恶意构造的标签，进而调整对抗攻击中的图像更...
【技术特征摘要】
1.一种基于组合攻击方法的目标检测模型对抗样本生成方法，其特征在于，包括以下步骤：
2.根据权利要求1所述的一种基于组合攻击方法的目标检测模型对抗样本生成方法，其特征在于：针对本地模型中的每一个目标检测模型，目标检测模型学习训练过程中的损失函数计算公式包括：
3.根据权利要求1所述的一种基于组合攻击方法的目标检测模型对抗样本生成方法，其特征在于：根据预设四种攻击类型对图像更新方程进行调整，得到四种攻击类型下的对抗样本种子包括：固定目标检测模型的模型学习训练权重，根据预设四种攻击类型修改对抗损失函数或生成恶意构造的标签，进而调整对抗攻击中的图像更新方程，根据每种攻击类型对应的图像更新方程，迭代更新输入图像到由该种攻击类型期望的目标图像，即作为对抗样本种子。
4.根据权利要求3所述的一种基于组合攻击方法的目标检...
【专利技术属性】
技术研发人员：罗承刚，王鹏，许斯亮，
申请(专利权)人：紫金智联南京科技有限公司，
类型：发明
国别省市：
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。