【技术实现步骤摘要】
本专利技术涉及深度学习安全，特别涉及一种黑盒对抗样本生成方法、装置、设备及存储介质。
技术介绍
1、随着超大型数据集的兴起和计算机算力的显著增强，以深度学习为代表的人工智能技术正在经历迅猛的发展，并逐渐成熟。在计算机视觉、语音识别、自然语言处理等多个领域，这些技术取得了引人注目的成就。然而，深度学习技术本身存在对大规模数据集的高度依赖和较差的可解释性等固有特点，因此以深度学习为核心的人工智能技术面临着许多潜在的安全威胁。这些威胁涵盖了投毒攻击、后门攻击、对抗攻击、隐私攻击等多个方面。在计算机视觉领域中主要焦点聚焦的对抗攻击问题上。对抗攻击(adversarial attacks)是人工智能安全领域的一个概念，特别在计算机视觉领域备受关注。这种攻击是指攻击者有意对输入图像进行微小、几乎不可察觉的修改，旨在欺骗计算机视觉模型，如分类或目标检测模型，以导致模型做出错误的决策或预测。这些微小的修改通常被称为对抗扰动(adversarial perturbations)，而添加了对抗扰动的输入图像通常被称为对抗样本或对抗性示例(adversari...
【技术保护点】
1.一种黑盒对抗样本生成方法，其特征在于，包括：
2.根据权利要求1中所述的黑盒对抗样本生成方法，其特征在于，所述预测结果包括所述目标图像中的目标类别置信度和边界框。
3.根据权利要求2中所述的黑盒对抗样本生成方法，其特征在于，所述基于所述预测结果以及预设热图生成算法生成热图，包括：
4.根据权利要求3中所述的黑盒对抗样本生成方法，其特征在于，所述基于所述目标图像中的目标类别置信度和边界框相对应的各属性以及预设热图生成算法生成热图，包括：
5.根据权利要求1中所述的黑盒对抗样本生成方法，其特征在于，所述基于所述热图生成目
【技术特征摘要】
1.一种黑盒对抗样本生成方法，其特征在于，包括：
2.根据权利要求1中所述的黑盒对抗样本生成方法，其特征在于，所述预测结果包括所述目标图像中的目标类别置信度和边界框。
3.根据权利要求2中所述的黑盒对抗样本生成方法，其特征在于，所述基于所述预测结果以及预设热图生成算法生成热图，包括：
4.根据权利要求3中所述的黑盒对抗样本生成方法，其特征在于，所述基于所述目标图像中的目标类别置信度和边界框相对应的各属性以及预设热图生成算法生成热图，包括：
5.根据权利要求1中所述的黑盒对抗样本生成方法，其特征在于，所述基于所述热图生成目标掩码，包括：
6.根据权利要求1至5任一项中所述的黑盒对抗样本生成方法，其特征在于，所述目标技术包括掩盖像素法、随机噪声法和快速梯度符号法其中的任意一种或几种的组合。
7.根据权利要求1中所述的黑盒对抗样本...
【专利技术属性】
技术研发人员：陈咏涛，米建勋，程晓，田鹏，陈涛，吕小红，向菲，钟加勇，厉仄平，江金洋，李松浓，况彭燕，彭文鑫，戴豪礽，张哲宇，徐凯，赵祥金，
申请(专利权)人：国网重庆市电力公司电力科学研究院，
类型：发明
国别省市：
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。