【技术实现步骤摘要】
基于梯度逆向对抗样本复原的神经网络优化训练方法
本专利技术涉及的是一种人工智能对抗领域的技术，具体是一种通过梯度逆向对抗样本将对抗样本恢复为非对抗样本的方法。
技术介绍
人工智能正在被广泛地应用于生活中的各个领域，而在这一类技术日益发展壮大的过程中，其中的安全问题也日益暴露，对于人工智能分类器来说，这种安全问题是极其严重的，攻击者只要在样本上加上一个精心构造的扰动，就能导致分类器分类出错。于是很多研究希望通过训练出鲁棒性足够强大的模型来抵抗对抗样本的攻击，但总是难以达到满意的效果。近来很多研究希望通过对抗样本的特性来检测对抗样本，但单纯的检测出对抗样本依旧不能提高训练的准确率。
技术实现思路
本专利技术针对对抗样本如何处理的问题，提出一种基于梯度逆向对抗样本复原的神经网络优化训练方法，通过对对抗样本增加扰动并使其跨过决策边界还原为正常样本，可以把这些样本与正常样本等同看待，也提高了系统的复用程度，并且本专利技术在恢复对抗样本的时候，并不需要事先知道它的生成方式，即独立于对抗样本生成方式，对各种对抗样本具有普适性，为了体现这种普适性，本专利技术的测试集由四方式生成的对抗...
【技术保护点】
1.一种基于梯度逆向对抗样本复原的神经网络优化训练方法，其特征在于，通过从样本集中检测出对抗样本，然后通过攻击方式将其恢复为普通样本，从而实现样本集的优化。
【技术特征摘要】
1.一种基于梯度逆向对抗样本复原的神经网络优化训练方法，其特征在于，通过从样本集中检测出对抗样本，然后通过攻击方式将其恢复为普通样本，从而实现样本集的优化。2.根据权利要求1所述的方法，其特征是，所述的样本集中的对抗样本，采用FGSM算法、C&W算法、Deepfool算法和JSMA算法生成。3.根据权利要求1所述的方法，其特征是，所述的攻击方式包括：快速梯度下降算法(FGSM)、基于优化的对抗样本距离计算方法(C&W)、迷惑深度学习方法(DeepFool)、基于雅各比矩阵的贪婪匹配算法(JSMA)。4.根据权利要求...
【专利技术属性】
技术研发人员：易平，胡嘉尚，张浩，倪洁，何芷珊，
申请(专利权)人：上海交通大学，
类型：发明
国别省市：上海,31
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。