【技术实现步骤摘要】
本专利技术涉及计算机视觉,特别是涉及基于图像轮廓的图像分类后门攻击方法、装置及设备。
技术介绍
1、本部分的陈述仅仅是提到了与本专利技术相关的
技术介绍
,并不必然构成现有技术。
2、随着机器学习和深度学习模型在实际生活中的应用越来越多,例如人脸识别、自动驾驶、自然语言处理、语音识别等。训练这些应用的模型大都需要庞大的数据量进行训练才能够达到远超传统方法的效果。面对这高昂的成本一些用户通常采用第三方数据集和预训练模型来降低训练成本,如果失去对训练阶段的控制会增加模型的脆弱性,带来后门攻击的风险。
3、后门攻击是向目标模型的训练数据中设置一些包含触发器(trigger)的数据后,利用这些训练数据对目标模型进行训练,训练通过后的目标模型即被植入后门。通常来说目标模型对于输入的干净数据,后门未被激活,输出正常的目标预测,但当攻击者向目标模型输入带有触发器的数据时,则激活目标模型中的后门,使目标模型输出指定的攻击目标。基于投毒的后门攻击是一种黑盒攻击,不涉及模型内部细节,仅仅对训练数据进行操作,通过修改训练数据来实现后门攻击
...【技术保护点】
1.基于图像轮廓的图像分类后门攻击方法,其特征是,包括:
2.如权利要求1所述的基于图像轮廓的图像分类后门攻击方法,其特征是,基于图像轮廓进行图像编码,生成触发器,具体包括:
3.如权利要求1所述的基于图像轮廓的图像分类后门攻击方法,其特征是,对目标样本数据集的原始图像设置触发器,生成中毒样本数据集,具体包括:
4.如权利要求3所述的基于图像轮廓的图像分类后门攻击方法,其特征是,所述训练后的对抗生成网络,训练过程包括:
5.如权利要求1所述的基于图像轮廓的图像分类后门攻击方法,其特征是,对目标样本数据集的原始图像进行图像
...【技术特征摘要】
1.基于图像轮廓的图像分类后门攻击方法,其特征是,包括:
2.如权利要求1所述的基于图像轮廓的图像分类后门攻击方法,其特征是,基于图像轮廓进行图像编码,生成触发器,具体包括:
3.如权利要求1所述的基于图像轮廓的图像分类后门攻击方法,其特征是,对目标样本数据集的原始图像设置触发器,生成中毒样本数据集,具体包括:
4.如权利要求3所述的基于图像轮廓的图像分类后门攻击方法,其特征是,所述训练后的对抗生成网络,训练过程包括:
5.如权利要求1所述的基于图像轮廓的图像分类后门攻击方法,其特征是,对目标样本数据集的原始图像进行图像边缘提取,具体包括:利用canny边缘检测算子,对目标样本...
【专利技术属性】
技术研发人员:杨英,侯仰志,唐颂恩,王利超,王德淇,李富坤,
申请(专利权)人:山东省计算中心国家超级计算济南中心,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。