对抗样本图像的获取方法、装置和电子设备制造方法及图纸

本公开提供了一种对抗样本图像的获取方法、装置和电子设备，涉及图像分类等人工智能技术领域。具体实现方案为：在获取对抗样本图像时，先分别获取多个样本图像和多个对抗算子各自的比例和对抗参数；并根据多个对抗算子各自的比例，从多个样本图像中确定待对抗处理的多个待处理样本图像；再基于多个待处理样本图像各自对应的对抗算子的对抗参数，对多个待处理样本图像进行处理，得到对抗样本图像，从而获取到对抗样本图像。采用多个对抗算子的对抗参数，对样本图像进行对抗处理，能够提升对抗样本图像扰动范数大小的统一性。样本图像扰动范数大小的统一性。样本图像扰动范数大小的统一性。

【技术实现步骤摘要】
对抗样本图像的获取方法、装置和电子设备


[0001]本公开涉及图像处理
，尤其涉及图像分类等人工智能
，具体涉及一种对抗样本图像的获取方法、装置和电子设备。

技术介绍

[0002]对抗攻击是一种根据深度学习模型权重生成的微小扰动，这种微小扰动会使得深度学习模型输出结果明显偏离正常输出结果，从而导致深度学习模型的输出结果出现错误。
[0003]为了使得深度学习模型具有应对这种对抗攻击的能力，通常是对该深度学习模型进行对抗训练，这就需要获取用于进行对抗训练的对抗样本图像，因此，如何获取用于进行对抗训练的对抗样本图像是至关重要的。

技术实现思路

[0004]本公开提供了一种对抗样本图像的获取方法、装置和电子设备，可以准确地获取对抗样本图像，且能够提升对抗样本图像扰动范数大小的统一性。
[0005]根据本公开的第一方面，提供了一种对抗样本图像的获取方法，该对抗样本图像的获取方法可以包括：
[0006]获取多个样本图像、以及多个对抗算子各自的比例和对抗参数。
[0007]根据所述多个对抗算子各自本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种对抗样本图像的获取方法，包括：获取多个样本图像、以及多个对抗算子各自的比例和对抗参数；根据所述多个对抗算子各自的比例，从多个样本图像中确定待对抗处理的多个待处理样本图像；其中，所述多个待处理样本图像对应有各自的对抗算子；基于所述多个待处理样本图像各自对应的对抗算子的对抗参数，对所述多个待处理样本图像进行处理，得到对抗样本图像。2.根据权利要求1所述的方法，其中，所述基于所述多个待处理样本图像各自对应的对抗算子的对抗参数，对所述多个待处理样本图像进行处理，得到对抗样本图像，包括：基于所述多个待处理样本图像各自对应的对抗算子的对抗参数，对所述多个待处理样本图像进行处理，得到所述多个待处理样本图像各自对应的逆归一化对抗样本；对所述多个待处理样本图像各自对应的逆归一化对抗样本，进行归一化处理，得到所述多个待处理样本图像各自对应的归一化对抗样本；根据所述多个待处理样本图像、以及所述多个待处理样本图像各自对应的归一化对抗样本，得到所述对抗样本图像。3.根据权利要求2所述的方法，其中，所述多个待处理样本图像为归一化处理后的样本图像；所述基于所述多个待处理样本图像各自对应的对抗算子的对抗参数，对所述多个待处理样本图像进行处理，得到所述多个待处理样本图像各自对应的逆归一化对抗样本，包括：对所述多个待处理样本图像进行逆归一化处理，得到所述多个处理样本图像各自对应的逆归一化样本图像；基于所述多个待处理样本图像各自对应的对抗算子的对抗参数，对所述多个处理样本图像各自对应的逆归一化样本图像进行对抗处理，得到所述多个待处理样本图像各自对应的逆归一化对抗样本。4.根据权利要求2或3所述的方法，其中，所述根据所述多个待处理样本图像、以及所述多个待处理样本图像各自对应的归一化对抗样本，得到所述对抗样本图像，包括：将所述多个待处理样本图像各自对应的归一化对抗样本输入至图像处理模型中，得到各归一化对抗样本对应的标签信息；若所述待处理样本图像对应的标签信息，和其对应的归一化对抗样本图像对应的标签信息相同，则将所述归一化对抗样本图像确定为所述对抗样本图像。5.根据权利要求1
‑
4任一项所述的方法，所述方法还包括：获取训练样本图像集合；其中，所述训练样本图像集合中包括所述多个样本图像中未进行对抗处理的多个样本图像和多个对抗样本图像，以及各目标样本图像对应的标签信息，且所述目标样本图像为所述多个样本图像和所述多个对抗样本图像中的任一样本图像；将所述各目标样本图像分别输入至所述图像处理模型中，得到所述各目标样本图像对应的预测标签信息；根据所述各目标样本图像对应的预测标签信息和所述标签信息，更新所述图像处理模型的网络参数。6.根据权利要求5所述的方法，其中，所述根据所述各目标样本图像对应的预测标签信
息和所述标签信息，更新所述图像处理模型的网络参数，包括：针对所述各目标样本图像，根据所述目标样本图像对应的预测标签信息和所述标签信息，确定所述目标样本图像对应的损失函数；根据所述各目标样本图像对应的损失函数，更新所述图像处理模型的网络参数。7.根据权利要求6所述的方法，其中，所述根据所述各目标样本图像对应的损失函数，更新所述图像处理模型的网络参数，包括：确定所述各目标样本图像对应的损失函数对应的平均损失函数；根据所述平均损失函数，更新所述图像处理模型的网络参数。8.一种对抗样本图像的获取装置，包括：第一获取单元，用于获取多个样本图像、以及多个对抗算子各自的比例和对抗参数；第一处理单元，用于根据所述多个对抗算子各自的比例，从多个样本图像中确定待对抗处理的多个待处理样本图像；其中，所述多个待处理样本图像对应有各自的对抗算子；第二处理单元，用于基于所述多个待处理样本图像各自对应的对抗算子的对抗参数，对所述多个待处理样本图像进行处理，得到对...

【专利技术属性】
技术研发人员：熊俊峰，王洋，
申请(专利权)人：百度在线网络技术北京有限公司，
类型：发明
国别省市：