本申请涉及一种对抗样本动态生成方法、装置、电子设备及存储介质，所述方法包括：实时获取第一用户的第一人脸图像；对所述第一人脸图像进行目标检测及跟踪，生成用于标注所述第一人脸图像中人脸的候选框；基于所述候选框对投影到全息膜上的目标对抗图案进行调整，生成目标扰动图像；获取目标对抗样本，所述目标对抗样本包含所述第一人脸图像和所述目标扰动图像。本申请可以实现通过全息成像的方式将电子设备中显示的数字世界的对抗扰动图像转换至真实的物理世界中，无需将对抗扰动图像打印出来，有利于提高物理世界对抗样本的攻击成功率，并能够实现对抗图案随人脸的调整进行对应调整，提高获取的目标对抗样本中对抗图案与人脸之间的匹配度。脸之间的匹配度。脸之间的匹配度。
【技术实现步骤摘要】
对抗样本动态生成方法、装置、电子设备及存储介质
[0001]本申请涉及人工智能
，尤其涉及一种对抗样本动态生成方法、装置、电子设备及存储介质。
技术介绍
[0002]对抗样本物理世界攻击研究的是在真实的物理世界中部署深度学习模型时，如何在真实的物理世界构建对抗样本的问题。
[0003]目前，对抗样本攻防领域中公开的物理世界攻击方法，在现实场景应用时，需要打印特定形式的物理对抗扰动图案(如面具、眼镜、3D面罩等)，将扰动图案从数字世界转移到物理世界。
[0004]然而，由于打印机受到色彩限制，无法完全还原数字世界的扰动图案，这会影响攻击成功率，并且，上述攻击方法在攻击过程中不能实时地调整扰动图案，灵活性差。
技术实现思路
[0005]为了解决上述技术问题或者至少部分地解决上述技术问题，本申请提供了一种对抗样本动态生成方法、装置、电子设备及存储介质。
[0006]根据本申请的第一方面，提供了一种对抗样本动态生成方法，应用于电子设备，所述方法包括：
[0007]实时获取第一用户的第一人脸图像；
[0008]对所述第一人脸图像进行目标检测及跟踪，生成用于标注所述第一人脸图像中人脸的候选框；
[0009]基于所述候选框对投影到全息膜上的目标对抗图案进行调整，生成目标扰动图像；
[0010]获取目标对抗样本，所述目标对抗样本包含所述第一人脸图像和所述目标扰动图像。
[0011]根据本申请的第二方面，提供了一种对抗样本动态生成装置，应用于电子设备，所述装置包括：
[0012]收发模块，用于实时获取第一用户的第一人脸图像；
[0013]处理模块，用于对所述第一人脸图像进行目标检测及跟踪，生成用于标注所述第一人脸图像中人脸的候选框；以及，
[0014]基于所述候选框对投影到全息膜上的目标对抗图案进行调整，生成目标扰动图像；
[0015]所述收发模块，还用于获取目标对抗样本，所述目标对抗样本包含所述第一人脸图像和所述目标扰动图像。
[0016]根据本申请的第三方面，提供了一种电子设备，包括：处理器，所述处理器用于执行存储于存储器的计算机程序，所述计算机程序被处理器执行时实现第一方面所述的对抗
样本动态生成方法。
[0017]根据本申请的第四方面，提供了一种计算机可读存储介质，其上存储有计算机程序，所述计算机程序被处理器执行时实现第一方面所述的对抗样本动态生成方法。
[0018]根据本申请的第五方面，提供了一种计算机程序产品，当所述计算机程序产品在计算机上运行时，使得所述计算机执行第一方面所述的对抗样本动态生成方法。
[0019]本申请实施例提供的技术方案与现有技术相比具有如下优点：
[0020]通过实时获取第一用户的第一人脸图像，并对第一人脸图像进行目标检测及跟踪，生成用于标注第一人脸图像中人脸的候选框，接着基于候选框对投影到全息膜上的目标对抗图案进行调整，生成目标扰动图像，进而获取目标对抗样本，目标对抗样本包含第一人脸图像和目标扰动图像。采用上述技术方案，实现了通过全息成像的方式将电子设备中显示的数字世界的对抗扰动图像转换至真实的物理世界中，无需将对抗扰动图像打印出来，从而避免了打印过程中引入的未知损失，避免了打印机无法将数字世界的对抗样本完全还原到物理世界对攻击成功率造成的影响，有利于提高物理世界对抗样本的攻击成功率，并且，通过对第一人脸进行目标检测及跟踪，根据生成的候选框来对应调整投影到全息膜上的对抗图案，实现了对抗图案随第一用户的人脸的调整进行对应调整，能够提高获取的目标对抗样本中对抗图案与第一用户的人脸之间的匹配度，进而有利于进一步提高物理世界对抗样本的攻击成功率。
附图说明
[0021]此处的附图被并入说明书中并构成本说明书的一部分，示出了符合本申请的实施例，并与说明书一起用于解释本申请的原理。
[0022]为了更清楚地说明本申请实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，对于本领域普通技术人员而言，在不付出创造性劳动性的前提下，还可以根据这些附图获得其他的附图。
[0023]图1为本申请一实施例提供的基于全息成像的对抗样本物理世界攻击平台的结构示例图；
[0024]图2为本申请一实施例提供的对抗样本动态生成方法的流程示意图；
[0025]图3为对抗扰动生成过程的示例图；
[0026]图4为本申请一实施例提供的攻击目标向全息膜移动的攻击场景示意图；
[0027]图5为本申请一实施例提供的攻击时间点的示意图；
[0028]图6为本申请一实施例提供的达到允许更换对抗图案的最大次数的攻击过程示意图；
[0029]图7为本申请一实施例提供的指定攻击时刻的攻击过程示意图；
[0030]图8为本申请一实施例提供的将与热度数据匹配的热度图像作为对抗图案显示在全息膜上的示意图；
[0031]图9为本申请一实施例提供的根据用户输入的查询指令获取对抗图案显示在全息膜上的示意图；
[0032]图10为本申请一实施例提供的对抗样本动态生成装置的结构示意图；
[0033]图11为本申请一实施例提供的电子设备的一种结构示意图。
具体实施方式
[0034]下面将参照附图更详细地描述本申请的实施例。虽然附图中显示了本申请的某些实施例，然而应当理解的是，本申请可以通过各种形式来实现，而且不应该被解释为限于这里阐述的实施例，相反提供这些实施例是为了更加透彻和完整地理解本申请。应当理解的是，本申请的附图及实施例仅用于示例性作用，并非用于限制本申请的保护范围。
[0035]应当理解，本申请的方法实施方式中记载的各个步骤可以按照不同的顺序执行，和/或并行执行。此外，方法实施方式可以包括附加的步骤和/或省略执行示出的步骤。本申请的范围在此方面不受限制。
[0036]本文使用的术语“包括”及其变形是开放性包括，即“包括但不限于”。术语“基于”是“至少部分地基于”。术语“一个实施例”表示“至少一个实施例”；术语“另一实施例”表示“至少一个另外的实施例”；术语“一些实施例”表示“至少一些实施例”。其他术语的相关定义将在下文描述中给出。需要注意，本申请中提及的“第一”、“第二”等概念仅用于对不同的装置、模块或单元进行区分，并非用于限定这些装置、模块或单元所执行的功能的顺序或者相互依存关系。
[0037]需要注意，本申请中提及的“一个”、“多个”的修饰是示意性而非限制性的，本领域技术人员应当理解，除非在上下文另有明确指出，否则应该理解为“一个或多个”。
[0038]对抗样本物理世界攻击方法是一类将数字世界中生成的对抗样本转换到物理世界中，并仍能保持很强的攻击性的方法。目前，对抗样本攻防领域中公开的物理世界攻击方法，在现实场景应用时，需要打印特定形式的物理对抗扰动图案(如面具、眼镜、3D面罩等)，将扰动图案从数字世界转移到物理世界。<本文档来自技高网...
【技术保护点】
【技术特征摘要】
1.一种对抗样本动态生成方法，其特征在于，应用于电子设备，所述方法包括：实时获取第一用户的第一人脸图像；对所述第一人脸图像进行目标检测及跟踪，生成用于标注所述第一人脸图像中人脸的候选框；基于所述候选框对投影到全息膜上的目标对抗图案进行调整，生成目标扰动图像；获取目标对抗样本，所述目标对抗样本包含所述第一人脸图像和所述目标扰动图像。2.根据权利要求1所述的对抗样本动态生成方法，其特征在于，在所述基于所述候选框的属性信息，对投影到全息膜上的目标对抗图案进行调整之前，所述方法还包括：在监测到物理攻击开始后开始计时，在目标时间窗口内，获取与所述目标时间窗口对应的目标对抗图案；将所述目标对抗图案投影显示在所述全息膜上。3.根据权利要求2所述的对抗样本动态生成方法，其特征在于，在监测物理攻击之前，所述方法还包括：获取所述第一用户与所述全息膜之间的攻击距离以及所述第一用户的移动速度；根据所述攻击距离、所述移动速度以及预设的执行单次攻击所需时长，确定允许更换对抗图案的最大次数；接收所述第一用户针对不同的时间窗口输入的第一攻击命令，所述第一攻击命令包括在对应的时间窗口显示的对抗图案，所述时间窗口的个数根据所述最大次数确定；所述将所述目标对抗图案投影显示在所述全息膜上，包括：响应于所述第一攻击命令，根据第一映射关系确定与所述目标时间窗口对应的目标第一预设对抗图案，所述第一映射关系包括多个时间窗口与多个第一预设对抗图案之间的映射关系；将所述目标第一预设对抗图案投影显示在所述全息膜上。4.根据权利要求2所述的对抗样本动态生成方法，其特征在于，在监测物理攻击之前，所述方法还包括：获取所述第一用户与所述全息膜之间的攻击距离以及所述第一用户的移动速度；根据所述攻击距离、所述移动速度以及预设的执行单次攻击所需时长，确定最迟攻击时刻；接收所述第一用户基于第一提示信息输入的第二攻击命令，所述第二攻击命令包括攻击生效时刻与在所述攻击生效时刻显示的第二预设对抗图案，所述第一提示信息用于提示所述第一用户输入的所述攻击生效时刻不大于所述最迟攻击时刻；所述将所述目标对抗图案投影显示在所述全息膜上，包括：响应于所述第二攻击命令，根据第二映射关系确定与所述目标时间窗口对应的目标第二预设对抗图案，所述第二映射关系包括根据所述攻击生效时刻确定的时间窗口与所述第二预设对抗图案之间的映射关系；将所述目标第二预设对抗图案投影显示在所述全息膜上。5.根据权利要求1所述的对抗样本动态生成方法，其特征在于，在所述基于所述候选框的属性信息，对投影到全息膜上的目...
【专利技术属性】
技术研发人员：ꢀ七四专利代理机构，
申请(专利权)人：北京瑞莱智慧科技有限公司，
类型：发明
国别省市：
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。