用于对抗性鲁棒对象检测的系统和方法技术方案

本文中公开的是用于提高对象检测器对对抗性攻击的鲁棒性的方法的实施方式。从对象检测的多任务角度系统地分析针对对象检测器的现有攻击以及各个任务分量对模型鲁棒性的影响。在一个或多个实施方式中，引入对象检测的多任务学习观点，并识别任务损失的非对称作用。提出了用于鲁棒对象检测的对抗性训练方法的一个或多个实施方式以利用多个攻击源来提高对象检测模型的鲁棒性。

【技术实现步骤摘要】
用于对抗性鲁棒对象检测的系统和方法
本公开总体上涉及用于图像中的对象检测的系统和方法。更具体地，本公开涉及用于对抗性鲁棒对象检测的系统和方法。
技术介绍
对象检测是适用于检测图像中的语义对象的实例的计算机视觉技术。对象检测是原始分类任务(vanillaclassificationtask)的自然泛化，这是因为它不仅如同在分类中输出对象标签，还在定位中输出对象标签。已经开发许多对象检测方法，并且由深度网络驱动的对象检测器已经作为不可或缺的部件出现在现实世界应用的许多视觉系统中。已经表明，对象检测器可能受到恶意制作的输入的攻击。如果对象检测器在例如监控和自动驾驶等应用中起关键作用，重要的是研究用于防卫对象检测器免受各种对抗性攻击的方法。然而，虽然许多工作已经表明可以攻击检测器，但极少的努力被投入到提高检测器鲁棒性。因此，需要用于对抗性鲁棒对象检测以实现性能提高的系统和方法。
技术实现思路
本申请的一个方面公开了一种训练用于对抗性鲁棒对象检测的图像模型的计算机实施方法。该方法使用一个或多个处理器以致使包括以下的步骤本文档来自技高网...

【技术保护点】
1.一种训练用于对抗性鲁棒对象检测的图像模型的计算机实施方法，所述方法使用一个或多个处理器以致使包括以下的步骤被执行：/n接收包括多个输入图像的输入图像数据集和攻击预算，每个输入图像包括与对应真值对象标签和边界框相关联的一个或多个对象；/n针对每个输入图像，/n使用所述攻击预算内的一个或多个攻击生成初始对抗性图像；/n计算分类任务域中的一个或多个攻击以及定位任务域中的一个或多个攻击；/n基于所述分类任务域中的所计算的一个或多个攻击和所述定位任务域中的所计算的一个或多个攻击而获得最终攻击图像；以及/n使用针对每个输入图像而获得的最终攻击图像执行对抗性训练步骤来学习所述图像模型的参数。/n

【技术特征摘要】
20190530 US 16/427,2331.一种训练用于对抗性鲁棒对象检测的图像模型的计算机实施方法，所述方法使用一个或多个处理器以致使包括以下的步骤被执行：
接收包括多个输入图像的输入图像数据集和攻击预算，每个输入图像包括与对应真值对象标签和边界框相关联的一个或多个对象；
针对每个输入图像，
使用所述攻击预算内的一个或多个攻击生成初始对抗性图像；
计算分类任务域中的一个或多个攻击以及定位任务域中的一个或多个攻击；
基于所述分类任务域中的所计算的一个或多个攻击和所述定位任务域中的所计算的一个或多个攻击而获得最终攻击图像；以及
使用针对每个输入图像而获得的最终攻击图像执行对抗性训练步骤来学习所述图像模型的参数。


2.根据权利要求1所述的计算机实施方法，其中，计算所述分类任务域中的攻击和所述定位任务域中的攻击包括计算使用所述初始对抗性图像而从分类损失和定位损失导出的图像梯度。


3.根据权利要求2所述的计算机实施方法，其中，使用投影算子将从分类损失和定位损失导出的所述图像梯度投影到任务无关的域中。


4.根据权利要求3所述的计算机实施方法，其中，所述任务无关的域是所述分类任务域和所述定位任务域的并集。


5.根据权利要求1所述的计算机实施方法，其中，基于所述分类任务域中的所计算的攻击和所述定位任务域中的所计算的攻击而获得所述最终攻击图像包括：
使用所述分类任务域中的所计算的一个或多个攻击以及所述一个或多个真值对象标签和边界框计算分类任务损失；
使用所述定位任务域中的所计算的一个或多个攻击以及所述一个或多个真值对象标签和边界框计算定位任务损失；
比较所述分类任务损失和所述定位任务损失；
将对应于所述分类任务损失与所述定位任务损失之间的较大损失的一个或多个攻击用于所述最终攻击图像。


6.根据权利要求1所述的计算机实施方法，其中，用于生成所述初始对抗性图像的一个或多个攻击是白盒攻击。


7.根据权利要求1所述的计算机实施方法，其中，所述分类任务域中的所述攻击和所述定位任务域中的所述攻击是依序计算的。


8.根据权利要求1所述的计算机实施方法，其中，所述分类任务域中的所述攻击和所述定位任务域中的所述攻击是并行计算的。


9.一种用于对抗性图像生成以训练图像模型的计算机实施方法，所述方法使用一个或多个处理器以致使包括以下的步骤被执行：
接收输入图像和攻击预算，所述输入图像包括与对应真值对象标签和边界框相关联的一个或多个对象；
使用所述攻击预算内的一个或多个攻击生成初始对抗性图像；
计算分类任务域中的一个或多个攻击并使用所述分类任务域中的所计算的一个或多个攻击以及所述一个或多个真值对象标签和边界框来计算分类任务损失；
计算定位任务域中的一个或多个攻击并使用所述定位任务域中的所计算的一个或多个攻击以及所述一个或多个真值对象标签和边界框来计算定位任务损失；以及
通过基于所述分类任务损失与所述定位任务损失之间的比较在所述分类任务域中的所计算的一个或多个攻击与所述定位任务域中的所计算的一个或多个攻...

【专利技术属性】
技术研发人员：张海超，王建宇，
申请(专利权)人：百度美国有限责任公司，
类型：发明
国别省市：美国;US