物理世界对抗样本生成方法、装置、电子设备及存储介质制造方法及图纸

本申请涉及一种物理世界对抗样本生成方法、装置、电子设备及存储介质，应用于人工智能技术领域，所述方法包括：获取目标扰动图像，目标扰动图像为投影到全息膜上的基于对抗攻击算法生成的图像，以及获取目标图像，目标图像包含目标扰动图像和第一用户的第一人脸图像，并将目标图像确定为目标对抗样本。本申请可以实现通过全息成像的方式将电子设备中显示的数字世界的对抗扰动图像转换至真实的物理世界中，无需将对抗扰动图像打印出来，从而避免了打印过程中引入的未知损失，有利于提高物理世界对抗样本的攻击成功率，并能够在物理世界中实现全局扰动攻击。中实现全局扰动攻击。中实现全局扰动攻击。

【技术实现步骤摘要】
物理世界对抗样本生成方法、装置、电子设备及存储介质


[0001]本申请涉及人工智能
，尤其涉及一种物理世界对抗样本生成方法、装置、电子设备及存储介质。

技术介绍

[0002]对抗样本物理世界攻击研究的是在真实的物理世界中部署深度学习模型时，如何在真实的物理世界构建对抗样本的问题。
[0003]目前，对抗样本攻防领域中公开的物理世界攻击方法可以分为局部扰动方法和全局扰动方法，局部扰动方法需要将数字世界的对抗扰动通过打印的方式转换到物理世界中，转换过程中容易引入未知的损失，使得物理世界攻击成功率下降，而数字世界的全局扰动则难以在物理世界中实现。

技术实现思路

[0004]为了解决上述技术问题或者至少部分地解决上述技术问题，本申请提供了一种物理世界对抗样本生成方法、装置、电子设备及存储介质。
[0005]根据本申请的第一方面，提供了一种物理世界对抗样本生成方法，应用于电子设备，所述方法包括：获取目标扰动图像，所述目标扰动图像为投影到全息膜上的基于对抗攻击算法生成的图像；获取目标图像，所述目标图像包含所述目标扰动图本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种物理世界对抗样本生成方法，其特征在于，应用于电子设备，所述方法包括：获取目标扰动图像，所述目标扰动图像为投影到全息膜上的基于对抗攻击算法生成的图像；获取目标图像，所述目标图像包含所述目标扰动图像和第一用户的第一人脸图像；将所述目标图像确定为目标对抗样本。2.根据权利要求1所述的物理世界对抗样本生成方法，其特征在于，所述目标扰动图像的透明度为预设值。3.根据权利要求2所述的物理世界对抗样本生成方法，其特征在于，所述获取目标图像，包括：获取多个候选对抗样本；分别获取各所述候选对抗样本与第二用户的第二人脸图像的相似度；确定所述目标对抗样本，所述目标对抗样本为相似度高于预设阈值的候选对抗样本中的任意候选对抗样本。4.根据权利要求3所述的物理世界对抗样本生成方法，其特征在于，每个所述候选对抗样本的图像属性满足以下项中的至少一项预设条件：包含的对抗扰动的透明度不同；对抗扰动的尺寸不同；对抗扰动的亮度不同；或者，对抗扰动的对比度不同。5.根据权利要求4所述的物理世界对抗样本生成方法，其特征在于，所述获取目标扰动图像，包括：获取候选扰动图像，各所述候选扰动图像的图像属性满足至少一项所述预设条件，且各所述候选扰动图像在至少一项图像属性上的图像属性参数值高于对应的预设图像属性值；根据所述候选扰动图像和所述第一人脸图像得到候选对抗样本；当所述候选对抗样本与所述第二...

【专利技术属性】
技术研发人员：ꢀ七四专利代理机构，
申请(专利权)人：北京瑞莱智慧科技有限公司，
类型：发明
国别省市：