多样本对抗扰动生成方法、装置、存储介质和计算设备制造方法及图纸

本发明专利技术提供了一种多样本对抗扰动生成方法、装置、存储介质和计算设备，该方法包括：根据多个样本图像和对抗扰动生成对应的多个对抗样本；将所述多个对抗样本输入预设的判别模型，以得到所述多个对抗样本在正确标签下的识别置信度；基于所述识别置信度对所述多个对抗样本进行筛选，选取其中识别置信度符合预设阈值的至少一个对抗样本；根据第一损失函数基于选取到的至少一个对抗样本获取在判别模型下的损失；根据所述损失优化所述对抗扰动。本发明专利技术的方法能够筛选样本图像中更加不容易被攻击的样本图像，并以此为基础迭代对抗扰动，使得最后生成的对抗扰动能够与更广泛的样本图像配合成功攻击图像识别模型。

【技术实现步骤摘要】
多样本对抗扰动生成方法、装置、存储介质和计算设备
本专利技术的实施方式涉及计算机视觉
，更具体地，本专利技术的实施方式涉及多样本对抗扰动生成方法、装置、存储介质和计算设备。
技术介绍
本部分旨在为权利要求书中陈述的本专利技术的实施方式提供背景或上下文。此处的描述不因为包括在本部分中就承认是现有技术。对抗样本可以通过在正常样本（例如图片）上添加对抗噪声得到，能够使机器学习模型的预测发生错误。多样本对抗扰动是指一个对抗噪声可以成功攻击多个可知或未知的样本目标。例如，通用对抗扰动（UP，UniversalPerturbation）是指一个对抗噪声可以成功攻击多张图片，使模型在这些图片上都预测错误；而遍历变换期望(EoT，ExpectationOverTransformation)是指一个对抗噪声可以成功攻击同一个图片的多个不同变换，使模型在这些经过变换的图片上都预测错误；密集对抗生成（DAG,DenseAdversaryGeneration）是指一个对抗噪声可以成功攻击目标检测器中不同尺度、不同位置和不同边界框的预测值，使模型在本文档来自技高网...

【技术保护点】
1.一种多样本对抗扰动生成方法，包括：/n根据多个样本图像和对抗扰动生成对应的多个对抗样本；/n将所述多个对抗样本输入预设的判别模型，以得到所述多个对抗样本在正确标签下的识别置信度；/n基于所述识别置信度对所述多个对抗样本进行筛选，选取其中识别置信度符合预设阈值的至少一个对抗样本；/n根据第一损失函数基于选取到的至少一个对抗样本获取在判别模型下的损失；/n根据所述损失优化所述对抗扰动。/n

【技术特征摘要】
1.一种多样本对抗扰动生成方法，包括：
根据多个样本图像和对抗扰动生成对应的多个对抗样本；
将所述多个对抗样本输入预设的判别模型，以得到所述多个对抗样本在正确标签下的识别置信度；
基于所述识别置信度对所述多个对抗样本进行筛选，选取其中识别置信度符合预设阈值的至少一个对抗样本；
根据第一损失函数基于选取到的至少一个对抗样本获取在判别模型下的损失；
根据所述损失优化所述对抗扰动。


2.如权利要求1所述的多样本对抗扰动生成方法，其中，所述第一损失函数为交叉熵损失函数。


3.如权利要求1或2所述的多样本对抗扰动生成方法，其中，通过第二损失函数选取识别置信度符合预设阈值的至少一个对抗样本计算在判别模型下的所述损失以优化所述对抗扰动，所述第二损失函数以使对抗扰动能够最大化多个对抗样本在判别模型下的分类错误率为目标构建，所述第二损失函数通过第三损失函数选取识别置信度符合预设阈值的至少一个对抗样本计算在判别模型下的所述损失。


4.如权利要求3所述的多样本对抗扰动生成方法，其中，所述第三损失函数为：



其中x是样本图像，是对抗扰动，表示叠加了对抗
扰动的第i个样本xi在它的正确标签ti下的置信度，θ为所述预设阈值。


5.一种多样本对抗扰动生成装置，包括：
对抗样本生成模块，被配置为根据多个样本图像和对抗扰动生成对应的多个对抗样本；
损失计算模块，被配置为根据所述对抗样本计算在预设的判别模型下的损失，包括：
识别置信度计算单元，被配置为将所述多个对...

【专利技术属性】
技术研发人员：萧子豪，高威，田天，
申请(专利权)人：北京智源人工智能研究院，
类型：发明
国别省市：北京;11