【技术实现步骤摘要】
本专利技术属于网络信息安全领域，具体地说，是一种遗忘事件中基于类激活特征的后门攻击方法。
技术介绍
1、后门攻击(backdoor learning)是一种面向dnn训练过程完整性的威胁，主要通过毒害模型的训练数据实现后门的植入，使dnn模型在测试存在后门数据时，产生定向的错误。后门攻击的目标是在深度神经网络或其他机器学习模型中植入一种特殊的“后门”行为，以便在特定条件下触发模型的特定行为或产生错误的输出。这种攻击的主要目的是干扰模型的正常预测行为，从而威胁系统的安全性和可信度。随着神经网络的迅猛发展，后门攻击的研究在面对多变复杂的实际应用场景中具有较强的稳定性，同时能够抵御复杂的环境条件和非正常的恶意干扰。
2、灾难性遗忘（catastrophic forgetting）描述的是在一个任务上训练出来的模型，如果在一个新任务上进行训练，就会大大降低原任务上的泛化性能，即之前的知识被严重遗忘了。遗忘样本则是受到灾难性遗忘现象的启发而提出的，即在同一个任务的训练过程中，也可能会有遗忘现象，一个样本可能在训练过程中反复地学了忘、忘...
【技术保护点】
1.一种遗忘事件中基于类激活特征的后门攻击方法，其特征在于，包括以下步骤：
2.根据权利要求1所述的遗忘事件中基于类激活特征的后门攻击方法，其特征在于，在所述步骤一中，数据集选用神经网络与深度学习中常见图像分类数据集CIFAR10，该数据集共有10个类别，60000个样本，每一张都是32*32像素的RGB图像，按批次计算所选图像数据集中遗忘事件的数量，对每个样本计算在相邻两个训练周期中准确率的变化，放入diiff数组中，统计每个样本的遗忘事件数量，放入forget_events数组中，根据遗忘事件数量对样本索引进行排序，从遗忘事件最多的样本开始排序，从遗忘...
【技术特征摘要】
1.一种遗忘事件中基于类激活特征的后门攻击方法，其特征在于，包括以下步骤：
2.根据权利要求1所述的遗忘事件中基于类激活特征的后门攻击方法，其特征在于，在所述步骤一中，数据集选用神经网络与深度学习中常见图像分类数据集cifar10，该数据集共有10个类别，60000个样本，每一张都是32*32像素的rgb图像，按批次计算所选图像数据集中遗忘事件的数量，对每个样本计算在相邻两个训练周期中准确率的变化，放入diiff数组中，统计每个样本的遗忘事件数量，放入forget_events数组中，根据遗忘事件数量对样本索引进行排序，从遗忘事件最多的样本开始排序，从遗忘事件的索引数组中选择一部分遗忘事件较多的中毒样本保留，保留的数量受到参数opt.alpha控制，从数据集中的其他样本中随机选择一些样本，补充到中毒样本中，将新选择的中毒样本的索引与之前选择的中毒样本的索引合并，形成最终的中毒样本。
3.根据权利要求2所述的遗忘事件中基于类激活特征的后门攻击方法，其特征在于，所述步骤二通过步骤一选取后门样本，将后门样本传递给生成器网络netg中，生成器netg首先定义初始化函数，在初始化函数中，根据数据集类型选择初始通道数量和上采样、下采样的层数；通过循环创建上采样和下采样的卷积块，每个卷积块包括卷积层、下采样层和relu激活函数；输入x经过生成器模型的所有层，通过tanh激活函数输出生成的图像，tanh函数将输出值映射到[-1, 1]的范围内，然后通过加0.5和除以2的操作将其映射到[0, 1]的范围内，将生成的触发模式进行归一化和反归一化，生成最终的触发模式。
4.根据权利要求3所述的遗忘事件中基于类激活特征的后门攻击方法，其特征在于，所述步骤三中，选择适合数据集cifar10的预训练模型re...
【专利技术属性】
技术研发人员：陈伟，李青芸，徐小棠，高子昂，张怡婷，
申请(专利权)人：南京邮电大学，
类型：发明
国别省市：
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。