一种模型对抗训练方法、装置、存储介质及电子设备制造方法及图纸

技术编号:42667731 阅读:27 留言:0更新日期:2024-09-10 12:23
本发明专利技术提出一种模型对抗训练方法、装置、存储介质及电子设备,包括:基于扰动信息和干净样本生成第一阶对抗样本,其中,干净样本为未添加扰动信息的标签图像样本;基于第一阶对抗样本的振幅信息和干净样本的相位信息生成第二阶对抗样本;基于第二阶对抗样本对卷积神经网络模型进行对抗训练,对抗训练完成后的卷积神经网络模型用于对图像进行分类。因为第二阶对抗样本携带干净样本的相位信息和第一阶对抗样本的振幅信息,基于第二阶对抗样本对卷积神经网络模型进行对抗训练,在通过对抗训练提升卷积神经网络模型的鲁棒精度的情况下,保障卷积神经网络模型对干净样本的分类能力。

【技术实现步骤摘要】

本专利技术涉及数据识别,具体而言,涉及一种模型对抗训练方法、装置、存储介质及电子设备


技术介绍

1、随着深度学习的不断发展,卷积神经网络模型(cnn)已被广泛用于图像分类任务中,但即使是最先进的神经网络也容易受到对抗样本的攻击,在实际应用中对抗样本甚至会迫害自动驾驶中模型对交通标志的识别、欺骗人脸识别系统。为了使卷积神经网络模型模型针对对抗攻击具有鲁棒性,需要对其进行对抗训练。在图像分类领域,对抗训练通过使用对抗样本训练模型的方式,迫使模型强制适应对抗样本并使之分类正确,从而达到防御的效果。

2、对抗训练作为增强模型鲁棒性的最强方式之一,存在着一个问题。即通过对抗训练后的模型虽然能够大幅提升鲁棒精度,但会造成泛化性降低,即会影响对普通干净样本的分类能力。由于对抗训练时所使用的样本为对抗样本,模型学习了过多对抗样本的特征,忽略了干净样本的一些本质特征,从而降低了对干净样本的分类能力。

3、如何保障对抗训练提升模型的鲁棒精度的情况下,保障模型对干净样本的分类能力,成为了困扰本领域技术人员的难题。


<p>技术实现思本文档来自技高网...

【技术保护点】

1.一种模型对抗训练方法,其特征在于,所述方法包括:

2.如权利要求1所述的模型对抗训练方法,其特征在于,在所述基于所述第二阶对抗样本对卷积神经网络模型进行对抗训练之后,所述方法还包括:

3.如权利要求1所述的模型对抗训练方法,其特征在于,所述第一阶对抗样本的算式为:

4.如权利要求3所述的模型对抗训练方法,其特征在于,在所述基于扰动信息和干净样本生成第一阶对抗样本之前,所述方法还包括:

5.如权利要求1所述的模型对抗训练方法,其特征在于,所述基于所述第一阶对抗样本的振幅信息和所述干净样本的相位信息生成第二阶对抗样本的步骤,包括:

<...

【技术特征摘要】

1.一种模型对抗训练方法,其特征在于,所述方法包括:

2.如权利要求1所述的模型对抗训练方法,其特征在于,在所述基于所述第二阶对抗样本对卷积神经网络模型进行对抗训练之后,所述方法还包括:

3.如权利要求1所述的模型对抗训练方法,其特征在于,所述第一阶对抗样本的算式为:

4.如权利要求3所述的模型对抗训练方法,其特征在于,在所述基于扰动信息和干净样本生成第一阶对抗样本之前,所述方法还包括:

5.如权利要求1所述的模型对抗训练方法,其特征在于,所述基于所述第一阶对抗样本的振幅信息和所述干净样本的相位信息生成第二阶对抗...

【专利技术属性】
技术研发人员:刘刚贺姝可金晨疏利生朱文哲曹普文倪彦琳龙逸康张瑶瑶
申请(专利权)人:浙江省交通运输科学研究院
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1