【技术实现步骤摘要】
本专利技术属于图像处理，涉及基于深度学习的对抗防御方法，特别涉及开集识别的对抗防御方法。
技术介绍
1、随着深度学习技术的迅猛发展和广泛应用，人工智能领域的研究取得了重大突破。深度神经网络以其卓越的表达能力和出色的学习能力，在图像分类、语音识别、自然语言处理等任务中展现了巨大的潜力。尤其在图像识别领域，神经网络的识别能力已经远超人类。然而，所有这些成就都是在闭集场景中获得的，不能推广到开集场景。
2、事实上，当人们遇到不熟悉的事物时，会将其识别为不熟悉的类，而不是将其归入某一类别。然而，无论输入是否属于预定义的类别，在封闭环境中训练的深度分类模型会都将输入的所有内容分类到其中。换句话说，闭集识别无法处理来自未知类别的样本，这一局限性可能导致模型在识别新类别和未知类别的样本时表现出次优性能，这阻碍了它们在开放环境中的实用性。为了解决这个问题，开放集识别被提出并引起了广泛的关注。开放集识别的目标是使模型能够识别来自不熟悉的类别的样本，同时使其能够做出富有洞察力的推理并熟练地处理新样本。与闭集识别相比，开集识别更贴近现实应用场景。然而，开集识别也遇到了新的挑战，其中最重要的挑战之一是对抗样本攻击。对抗样本攻击是对机器学习模型的一种攻击技术，旨在欺骗模型并导致其对输入样本进行错误分类。这种攻击通过对原始输入数据进行微小但有意义的扰动来生成对抗样本，并且这些扰动对人类来说通常是无法察觉的。
3、rui shao等人发现闭集识别任务上的对抗防御机制不能很好地推广到开集识别任务上，受这一观察的启发，他们提出了osdn作
技术实现思路
1、本专利技术提出了一种基于鲁棒生成自适应网络的开集对抗样本防御方法，主要应用于图像处理领域，主要优点是能够在实现性能最优。通过对通道的压缩，利用生成噪声并增加信息的获取，从而实现更好的效果。
2、一种基于鲁棒生成自适应网络的开集对抗样本防御方法，其特征在于，该方法包括：
3、步骤(1)训练数据集处理；
4、对所有干净样本进行对抗攻击生成对抗样本，然后再将这些对抗样本进行随机旋转；将所有干净样本、对抗样本和旋转对抗样本组成训练集；
5、步骤(2)构建用于开集对抗防御的鲁棒生成自适应网络；
6、鲁棒生成自适应网络包括编码器、解码器、同伴学习器；编码器用于对对抗样本进行特征提取；解码器用于根据编码器提取到的特征进行样本重建；同伴学习器用于促进干净对抗互学习；
7、步骤(3)训练用于开集对抗防御的鲁棒生成自适应网络；
8、步骤(4)使用训练好的鲁棒生成自适应网络完成开集对抗防御任务。
9、步骤(1)具体方法如下；
10、采用公开数据集cifar-10作为训练数据，cifar-10数据集包含50000张训练集样本、10000张测试集样本；cifar-10中的50000张训练集样本为干净样本，基于这些干净样本生成对抗样本；采用的对抗攻击方法是快速梯度符号攻击和投影梯度下降攻击并按指定的扰动约束进行攻击，得到指定扰动约束下的对抗样本；旋转对抗样本由对抗样本经过随机旋转得到；将训练数据的干净样本、对抗样本和旋转对抗样本都作为网络训练过程中的输入样本；采用随机划分的方法，将6类样本划为闭集样本，其余4类样本划为开集样本，以适应开集对抗防御任务的场景。
11、步骤(2)具体方法如下；
12、用于开集对抗防御的鲁棒生成自适应网络分为两个分支，主分支由四个卷积神经网络组成，同伴学习器分支用来与主分支进行互学习，以提升主分支的鲁棒性；
13、主分支包含编码器、解码器、开集分类器和变换分类器，其中编码器嵌入包含通道注意力和空间注意力双注意力的去噪块，用以对对抗样本进行去噪处理。同时，编码器还包含了经过轻量化的鲁棒快，这旨在提升模型整体的鲁棒性，基本块容易受到激活函数位置的影响，而预激活可以显着提高对抗鲁棒性，因此鲁棒块使用预激活代替后激活。除此之外，在鲁棒块的一个数据流分支中，数据经过预激活之后会被分割成四个子张量，第一个子张量会经过池化层，而其它三个子张量都会依次经过卷积、归一化和激活，将得到的四个输出连接起来输入到卷积层，再将得到的输出送入se(squeeze-excitation)。se是一种用于增强神经网络性能的注意力机制，特别适用于卷积神经网络；采用自监督和解码器重建样本来确保学习到的特征空间具有足够的信息来检测开集样本，重建样本是使用解码器根据获得的潜在特征来生成的去噪样本。开集分类器与常规分类器在结构上没有区别，但在推理过程中，openmax层会被嵌入到到开集分类器；
14、同伴学习器分支包含一个噪声生成器，能根据对抗样本生成噪声，利用这些生成的噪声能够提升模型的泛化性。同伴学习器中的标准resnet-18结构用来对新样本和干净样本进行分类，同时与主分支进行互学习，此举旨在充分利用与干净样本对应的有用信息。
15、步骤(3)具体方法如下；
16、整个模型以干净样本、对抗样本和旋转对抗样本作为输入，其中，干净样本和对抗样本输入到同伴学习器分支，噪声生成器根据对抗样本生成噪声，生成噪声与真实噪声的误差使用基于1范数的损失函数来衡量，然后用该对抗样本减去生成的噪声得到新样本，新样本与干净样本以同输入到resnet-18进行分类，然后与主分支进行基于kl散度的互学习，以学习到干净样本和其它噪声样本的有用信息。而对抗样本与旋转对抗样本则输入到主分支中，编码器中的双注意力去噪器会对输入样本进行去噪处理，样本经过编码器后会被提取到特征，所有特征都会被送到解码器以重建样本，使用均方误差来衡量重建损失。提取到的对抗样本特征则会被送入开集分类器，而旋转对抗样本特征则会被送到变换分类器，所有分类器都是使用交叉熵误差函数来衡量损失。
17、步骤(4)具体方法如下；
18、采用cifar-10、svhn、tinyimagenet和imagenet的测试集作为测试数据，划分方法与训练集划分方法本文档来自技高网...
【技术保护点】
1.一种基于鲁棒生成自适应网络的开集对抗样本防御方法，其特征在于，该方法包括：
2.根据权利要求1所述的开集对抗样本防御方法，其特征在于，步骤(1)具体方法如下：
3.根据权利要求1所述的开集对抗样本防御方法，其特征在于，步骤(2)具体方法如下：
4.根据权利要求1所述的开集对抗样本防御方法，其特征在于，步骤(3)具体方法如下：
5.根据权利要求1所述的开集对抗样本防御方法，其特征在于，步骤(4)具体方法如下：
【技术特征摘要】
1.一种基于鲁棒生成自适应网络的开集对抗样本防御方法，其特征在于，该方法包括：
2.根据权利要求1所述的开集对抗样本防御方法，其特征在于，步骤(1)具体方法如下：
3.根据权利要求1所述的开集对抗样本防御方法...
【专利技术属性】
技术研发人员：李艳春，黄龙，田淑娟，胡凌志，刘昊霖，
申请(专利权)人：湘潭大学，
类型：发明
国别省市：
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。