【技术实现步骤摘要】
一种对抗样本生成方法、系统、存储介质和装置
本专利技术涉及图像识别领域，尤其涉及一种对抗样本生成方法、系统、存储介质和装置。
技术介绍
在信息技术高速发展的现代社会中，深度学习技术正在被逐渐认识和接受。在多个领域，深度学习可以以接近甚至超过人类的精度完成预设的任务。但是，在深度学习技术被广泛应用的同时，其安全性的重要性不言而喻。研究人员发现，现有的神经网络易受到攻击。尤其在图像识别领域，仅对图像进行少量的变换，就会导致分类器产生错误的分类结果。其中，所需的总该变量可能非常小，以致人类无法察觉。随着攻击算法越来越先进，对抗样本产生的攻击性也越来越强，产生的危害也越来越大。如图1所示，图1上为原样本，图1下为对抗样本。下方的图片是由上方的图片由一定算法生成的，神经网络会将其错误的分类。这种行为是非常危险的。因为深度学习被广泛应用与无人汽车驾驶，人脸识别，银行身份辨认等安全敏感的领域，通过对原合法样本的改动，使不法分子可以做出侵害他人利益的行为，甚至危害生命。因此，神经网络的安全性是不可忽视的问题。因此，在图像识别...
【技术保护点】
1.一种对抗样本生成方法，其特征在于：包括以下步骤：/n对数据集进行训练得到初始模型；/n利用攻击算法对初始模型进行攻击，计算得到初始对抗样本；/n将初始对抗样本放入第一DCGAN网络进行训练，得到初始模型对应的第一生成器，由所述第一生成器生成无防护攻击样本；/n将所述初始对抗样本和数据集进行与操作，得到具有防护对抗能力的防护模型；/n利用攻击算法对防护模型进行攻击，计算得到防护对抗样本；/n将防护对抗样本放入第二DCGAN网络进行训练，得到防护模型对应的第二生成器，由所述第二生成器生成有防护攻击样本；/n输出无防护攻击样本和/或有防护攻击样本。/n
【技术特征摘要】
1.一种对抗样本生成方法，其特征在于：包括以下步骤：
对数据集进行训练得到初始模型；
利用攻击算法对初始模型进行攻击，计算得到初始对抗样本；
将初始对抗样本放入第一DCGAN网络进行训练，得到初始模型对应的第一生成器，由所述第一生成器生成无防护攻击样本；
将所述初始对抗样本和数据集进行与操作，得到具有防护对抗能力的防护模型；
利用攻击算法对防护模型进行攻击，计算得到防护对抗样本；
将防护对抗样本放入第二DCGAN网络进行训练，得到防护模型对应的第二生成器，由所述第二生成器生成有防护攻击样本；
输出无防护攻击样本和/或有防护攻击样本。
2.根据权利要求1所述的一种对抗样本生成方法，其特征在于：所述对抗样本生成方法用于生成待攻击手写文字图像识别模型的对抗样本，用于提高待攻击模型的手写文字图像的识别率；所述数据集为MNIST手写体数字数据集，所述攻击算法为FGSM算法、JSMA算法或L-BFGS算法。
3.根据权利要求1所述的一种对抗样本生成方法，其特征在于：所述第一DCGAN网络和第二DCGAN网络均按照高斯分布随机生成等数目的噪声，通过判别器和生成器的训练，将判别器所得到的准确率结果稳定在X％的一定误差内，根据结果得到对应的第一生成器和第二生成器。
4.根据权利要求1所述的一种对抗样本生成方法，其特征在于：所述利用攻击算法对初始模型进行攻击，计算得到初始对抗样本，具体包括：
分别利用多种不同的攻击算法对初始模型进行攻击，分别计算得到对应的子初始对抗样本，将所有子初始对抗样本混合得到所述初始对抗样本；
所述利用攻击算法对防护模型进行攻击，计算得到防护对抗样本，具体包括：
分别利用相同的多种不同的攻击算法对对防护模型进行攻击，分别计算得到对应的子防护对抗样本，将所有子防护对抗样本混合得到所述防护对抗样本。
5.一种对抗样本生成系统，其特征在于：包括以下模块：
初始模型生成模块：用于对数据集进行训练得到初始模型；
初始对抗样本生成模块：用于利用攻击算法对初始模型进行攻击，计算得到初始对抗样本；
无防护攻击样本...
【专利技术属性】
技术研发人员：郑德生，冉子用，陈继鑫，赖研菱，岑鹏，刘志峰，
申请(专利权)人：西南石油大学，
类型：发明
国别省市：四川;51
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。