一种标签无关的跨任务对抗样本生成方法技术

本发明专利技术公开了一种标签无关的跨任务对抗样本生成方法，包括如下步骤：步骤1，构建替代模型：获取纯净样本集的标签集，并利用纯净样本集和标签集训练得到目标模型的替代模型；步骤2，生成对抗样本：将纯净样本集输入替代模型中，获取纯净样本集中每个样本在替代模型中的特征表示，并利用特征表示通过计算标准差计算得到每个样本的对抗损失，再利用对抗损失通过计算梯度更新每个样本，对纯净样本集中的每个样本在重复执行步骤2若干次后得到纯净样本集的对抗样本集。通过本发明专利技术的标签无关的跨任务对抗样本生成方法，生成的对抗样本具有可转移性、高对抗性、任务无关性。

A label independent method for generating cross task confrontation samples

【技术实现步骤摘要】
一种标签无关的跨任务对抗样本生成方法
本专利技术涉及机器学习
，尤其是一种标签无关的跨任务对抗样本生成方法。
技术介绍
近年来，深度神经网络被证明容易受到对抗样本的攻击，即具有微小、不可察觉的噪声的样本可以导致网络输出错误结果，这逐渐引起了大量研究者们的关注。已有研究证明，对抗样本具有可转移性。目前，研究者们已经对对抗样本在不同模型间的可转移性进行了大量的研究，然而，对对抗样本在不同任务间的可转移性的研究却还处于起步阶段。目前，基于计算机视觉(ComputerVision,CV)的检测机制已经在安全关键的应用中广泛部署，如：内容审查和使用面部生物识别技术进行身份验证；并且，通过云服务提供商提供的API，可随时访问这些服务，如：GoogleCloudVision。为了克服单个领域中的深度学习方法的不足、更好地防御规避攻击，在现实世界中的CV系统中，通常集成了多种不同的检测机制，例如：一些不法分子将带有促销信息的URL嵌入到带有色情内容的图片中，以进行非法的在线宣传或网络钓鱼，结合了光学字符识别(OpticalCharacterRec本文档来自技高网...

【技术保护点】
1.一种标签无关的跨任务对抗样本生成方法，其特征在于，包括如下步骤：/n步骤1，构建替代模型：获取纯净样本集的标签集，并利用纯净样本集和标签集训练得到目标模型的替代模型；/n步骤2，生成对抗样本：将纯净样本集输入替代模型中，获取纯净样本集中每个样本在替代模型中的特征表示，并利用特征表示通过计算标准差计算得到每个样本的对抗损失，再利用对抗损失通过计算梯度更新每个样本，对纯净样本集中的每个样本在重复执行步骤2若干次后得到纯净样本集的对抗样本集。/n

【技术特征摘要】
1.一种标签无关的跨任务对抗样本生成方法，其特征在于，包括如下步骤：
步骤1，构建替代模型：获取纯净样本集的标签集，并利用纯净样本集和标签集训练得到目标模型的替代模型；
步骤2，生成对抗样本：将纯净样本集输入替代模型中，获取纯净样本集中每个样本在替代模型中的特征表示，并利用特征表示通过计算标准差计算得到每个样本的对抗损失，再利用对抗损失通过计算梯度更新每个样本，对纯净样本集中的每个样本在重复执行步骤2若干次后得到纯净样本集的对抗样本集。


2.根据权利要求1所述的标签无关的跨任务对抗样本生成方法，其特征在于，步骤1的方法包括如下子步骤：
步骤1.1，纯净样本集为其中，xi为一个样本，且1≤i≤n，n为样本总数；
步骤1.2，将纯净样本集X输入到目标模型中，从而获得目标模型对纯净样本集X的标签集其中，yi为一个样本标签，且1≤i≤n；
步骤1.3，将X和Y配对，形成数据集
步骤1.4，将数据集S作为训练数据集，训练得到目标模型的替代模型F。


3.根据权利要求1或2所述的标签无关的跨任务对抗样本生成方法，其特征在于，步骤2的方法包括如下子步骤：
步骤2.1，将纯净样本集X作为输入，输入到替代模型F中；
步骤2.2，对纯净样本集X中的一个样本xi，获取该样本经过替代模型F的第k层网络后的...

【专利技术属性】
技术研发人员：刘启和，邱士林，周世杰，张准，
申请(专利权)人：电子科技大学，
类型：发明
国别省市：四川;51