木马攻防训练的攻击样本生成、攻击设计方法和防御方法技术

本发明专利技术涉及深度学习技术领域，尤其是一种木马攻防训练的攻击样本生成、攻击设计方法和防御方法。本发明专利技术提供的木马攻防训练的攻击样本生成方法，引入攻击样本的风格化，生成风格化的内容图片，在进行后门攻击后，通过其特定的纹理特征其攻击预训练模型。本发明专利技术通过学习风格图像，生成包含与任务无关的底层纹理特征的触发器模型模式，使触发器模型(即攻击样本)在转移到不同任务时保持有效。可见本发明专利技术引入风格化图像，为有毒训练设计了一个上下文无关的学习通道。如此，本发明专利技术提供的木马攻击设计方法，让预训练视觉模型在的不同下游任务生成可转移的后门，能够跨任务激活，适配不同的下游任务。

【技术实现步骤摘要】

本专利技术涉及深度学习，尤其是一种木马攻防训练的攻击样本生成、攻击设计方法和防御方法。

技术介绍

1、深度学习技术已经在广泛的应用领域取得了显著的成绩，尤其是在计算机视觉领域。目前，对大规模数据进行预训练的视觉模型已成为研究人员促进模型训练的主要组成部分。没有足够资源或训练数据的开发人员可以通过在自己的数据集上微调公开可用的预训练模型权重来构建自己的高质量模型，用于不同的下游视觉任务。因此，采用预训练和微调的模式而不是从头开始训练成为一种新兴趋势。

2、然而，对于预训练模型权重进行攻击会使得下游的检测、分割等任务的安全性造成极大的影响。如果将可信机构提出的性能良好的预训练模型经过有毒训练后，下载这些受感染的预训练视觉模型并将其微调到下游任务，其下游任务的安全性完全得不到保证，同时还能将这些受感染的预训练视觉模型包装成正常的视觉模型提供给用户下载，对于视觉从业者来说其算法安全性会造成严重威胁。

3、行业通过研究视觉木马攻击方法来提高对视觉人工智能行业安全的广泛重视，同时来提高对于ai模型鲁棒性的研究。总之，对于这些攻击隐患是视觉人工智本文档来自技高网...

【技术保护点】

1.一种木马攻防训练的攻击样本生成方法，其特征在于，包括以下步骤：

2.如权利要求1所述的木马攻防训练的攻击样本生成方法，其特征在于，生成触发器的构建包括以下步骤：

3.如权利要求2所述的木马攻防训练的攻击样本生成方法，其特征在于，触发器模型的收敛条件为：输出生成触发器连续针对N1个学习样本的惩罚值均达到设定区间，N1为设定值。

4.如权利要求1所述的木马攻防训练的攻击样本生成方法，其特征在于，生成触发器的结构：包含依次相连的M个F网络，第M个F网络的输入为第M-1层F网络的输出，第1层F网络的输入为内容图像和风格图像，第2层F网络至第M-1层F网络分...

【技术特征摘要】

1.一种木马攻防训练的攻击样本生成方法，其特征在于，包括以下步骤：

2.如权利要求1所述的木马攻防训练的攻击样本生成方法，其特征在于，生成触发器的构建包括以下步骤：

3.如权利要求2所述的木马攻防训练的攻击样本生成方法，其特征在于，触发器模型的收敛条件为：输出生成触发器连续针对n1个学习样本的惩罚值均达到设定区间，n1为设定值。

4.如权利要求1所述的木马攻防训练的攻击样本生成方法，其特征在于，生成触发器的结构：包含依次相连的m个f网络，第m个f网络的输入为第m-1层f网络的输出，第1层f网络的输入为内容图像和风格图像，第2层f网络至第m-1层f网络分别用于对上一层f网络输出的内容图像特征和风格图像特征进行处理，第m层f网络结合第m-1层f网络输出的内...

【专利技术属性】
技术研发人员：刘祥龙，刘艾杉，李海南，韦钊，洪日昌，
申请(专利权)人：数据空间研究院，
类型：发明
国别省市：