一种基于分层特征对齐的鲁棒特征学习方法技术

本发明专利技术公开了本发明专利技术提供一种基于分层特征对齐的鲁棒特征学习方法，包括以下步骤：从输入的不同领域的样本中使用深度卷积神经网络进行深度特征的分层提取；对于提取的分层特征，通过图卷积神经网络给特征的通道和空间关系加以限制，从而使得模型学得更加丰富的特征表示；使用基于最优传输理论的Wasserstein distance来准确的度量不同领域样本特征表示之间的差异；将从不同领域样本中提取的分层特征之间的差异作为模型损失函数的一部分来帮助模型学习更加鲁棒的特征，从而提升深度神经网络模型的对抗鲁棒性。上述技术方案，使得深度网络模型可以学习到鲁棒的特征，避免对抗攻击方法的破坏，从而得到安全、可靠的深度系统。

【技术实现步骤摘要】
一种基于分层特征对齐的鲁棒特征学习方法
本专利技术涉及鲁棒机器学习
，具体涉及一种基于分层特征对齐的鲁棒特征学习方法。
技术介绍
近几年，深度卷积神经网络在如图像分类、目标检测等众多计算机视觉任务上面都取得了突破。然而，研究人员发现这些深度卷积神经网络容易受到那些经过特殊设计的包含人眼不易察觉的对抗扰动样本的欺骗。这些由对抗攻击方法生成的对抗样本给那些对于安全性、稳定性具有较高要求的系统带来了严峻的挑战，这些系统包括自动驾驶系统、医疗诊断系统和安防系统等。另外，如果一个深度网络模型在给了带有少量扰动的样本作为输入就以很高的置信度改变它的预测结果，那么就可以判断这些模型并没有很好的从头输入样本中学习到任务相关的固有属性，也无法从样本中学习到鲁棒的视觉概念。因此，设计对于对抗扰动具有足够鲁棒性的深度网络模型对于安全可靠的计算机视觉应用来说是至关重要的。在近几年的研究工作中，研究人员提出多种对抗防御机制来克服不同的对抗攻击方法。这些防御机制可以被粗略的分为两种类别。第一种类别的防御方法主要采用在输入图像上进行多种预处理来克服对抗攻击。D本文档来自技高网...

【技术保护点】
1.一种基于分层特征对齐的鲁棒特征学习方法，其特征在于：包括以下步骤：/n(1)从不同领域的样本中使用深度卷积神经网络提起不同层次的深度特征；/n(2)对于提取的分层特征，通过图卷积神经网络给特征的通道和空间关系加以限制，从而使得模型学得更加丰富的特征表示；/n(3)使用基于最优传输理论的Wasserstein distance来准确的度量不同领域样本特征表示之间的差异；/n(4)将从不同领域样本中提取的分层特征之间的差异作为模型损失函数的一部分来帮助模型学习更加鲁棒的特征，从而提升深度神经网络模型的对抗鲁棒性。/n

【技术特征摘要】
1.一种基于分层特征对齐的鲁棒特征学习方法，其特征在于：包括以下步骤：
(1)从不同领域的样本中使用深度卷积神经网络提起不同层次的深度特征；
(2)对于提取的分层特征，通过图卷积神经网络给特征的通道和空间关系加以限制，从而使得模型学得更加丰富的特征表示；
(3)使用基于最优传输理论的Wassersteindistance来准确的度量不同领域样本特征表示之间的差异；
(4)将从不同领域样本中提取的分层特征之间的差异作为模型损失函数的一部分来帮助模型学习更加鲁棒的特征，从而提升深度神经网络模型的对抗鲁棒性。


2.根据权利要求1所述的一种基于分层特征对齐的鲁棒特征学习方法，其特征在于：所述不同领域的图像样本包括正常领域图像样本和对抗领域图像样本。


3.根据权利要求2所述的一种基于分层特征对齐的鲁棒特征学习方法，其特征在于：步骤(1)，使用ResNet-110网络结构来进行图像的特征提取，分为4个不同的结构层次，输入正常样本或对抗样本后，在网络进行正向推理的时，在4个不同的结构层次处，使用卷积结构提取不同尺度、不同抽象程度的图像特征。


4.根据权利要求3所述的一种基于分层特征对齐的鲁棒特征学习方法，其特征在于：步骤(2)，使用两个一维卷积进行图卷积的操作，该图卷积操作公式化为以下形式：
GCN(f)＝Conv1D[Conv1D(f)]
其中，在公式中，GCN(﹒)表示图卷积神经网络，f表示经过降维处理的特征向量，f表示图卷积操作的输入；此外，Conv1D(﹒)表示一个一维卷积操作，使用两个方向不同的一维图卷积操作进行特征提取，在经过充分的端到端训练后，该图卷积操作加强对于特征中不同区域之间关系的表示能力。


5.根据权利要求4所述的一种基于分层特征对齐的鲁棒特征学习方法，其特征在于：步骤(3)，采用X表示从正常领域内样本中使用深度神经网络提取的在某一层的特征，Y表示从对抗领域内样本中使用同样的深度神经网络提取的在同一个层处的特征，这两个特征分布X...

【专利技术属性】
技术研发人员：张笑钦，王金鑫，赵丽，
申请(专利权)人：温州大学，
类型：发明
国别省市：浙江;33