当前位置: 首页 > 专利查询>扬州大学专利>正文

一种针对图片检索系统的图后门攻击防御方法及系统技术方案

技术编号:41379057 阅读:25 留言:0更新日期:2024-05-20 10:21
本发明专利技术公开了一种针对图片检索系统的图后门攻击防御方法及系统,方法包括:对植入后门触发器的数据集进行对比学习,实现图增强策略,构建不依赖数据标签的编码器;聚类经编码器解码后的数据向量,识别可疑样本,筛选干净样本;将干净样本结合GNNExplainer方法获取对图预测起至关重要的重要样本;利用重要样本训练出一个教师模型,对后门数据集训练出的学生模型进行知识蒸馏,教师模型指导学生模型修正节点标签映射关系,从而获得良性的图预测模型,并有效地进行图后门防御;本发明专利技术具备标签无关性可以出色地分离可疑样本与干净样本,更加符合实际情况,且有更高精度。

【技术实现步骤摘要】

本专利技术涉及一种图后门攻击防御方法及系统,尤其涉及一种针对图片检索系统的图后门攻击防御方法及系统,属于数据安全领域。


技术介绍

1、gnn目前已成为对图结构数据进行分析的最先进工具,预训练的gnn模型已在任务特定标记图稀缺和或训练成本昂贵的领域获得越来越多的应用。然而图结构数据安全问题已出现在各种隐私敏感领域(如恶意软件分析、内存取证、欺诈检测和药物发现),其中后门攻击具有显著性的危险性。

2、在常用的图片检索系统中,攻击者利用后门攻击修改图片信息,将用户所需求的图片替换为攻击者指定的图片,从而造成使用者的用户体验下降。后门攻击是一种训练时间攻击,即在一小部分训练数据中注入触发模式,以便在测试时控制模型的预测。它们不会影响模型在干净示例上的性能,但只要触发模式在测试期间出现,就会欺骗模型做出错误的预测,如何准确高效地防御图后门攻击俨然成为一项具有挑战性的工作。然而,由于实际情况中图片检索系统的图库并不具有可信性,且对于图后门防御的方法都过于依赖节点标签,且并未寻求图解释以获得最优预测节点子集,无法取得良好的分类及预测效果,且不符合实际情况。<本文档来自技高网...

【技术保护点】

1.一种针对图片检索系统的图后门攻击防御方法,其特征在于,包括如下步骤:

2.根据权利要求1所述的针对图片检索系统的图后门攻击防御方法,其特征在于,步骤1所述的在数据集中植入后门触发器,利用植入后门触发器的数据集训练出学生模型,具体为:

3.根据权利要求1所述的针对图片检索系统的图后门攻击防御方法,其特征在于,步骤1所述的对数据集进行图对比学习,实现图增强策略,构建不依赖数据标签的图神经网络编码器,具体为:

4.根据权利要求1所述的针对图片检索系统的图后门攻击防御方法,其特征在于,所述步骤2具体包括:

5.根据权利要求4所述的针对图片检索系...

【技术特征摘要】

1.一种针对图片检索系统的图后门攻击防御方法,其特征在于,包括如下步骤:

2.根据权利要求1所述的针对图片检索系统的图后门攻击防御方法,其特征在于,步骤1所述的在数据集中植入后门触发器,利用植入后门触发器的数据集训练出学生模型,具体为:

3.根据权利要求1所述的针对图片检索系统的图后门攻击防御方法,其特征在于,步骤1所述的对数据集进行图对比学习,实现图增强策略,构建不依赖数据标签的图神经网络编码器,具体为:

4.根据权利要求1所述的针对图片检索系统的图后门攻击防御方法,其特征在于,所述步骤2具体包括:

5.根据权利要求4所述的针对图片检索系统的图后门攻击防御方法,其特征在于,所述利用k-means迭代聚类算法,通过最小化数据点与其所属簇中心之间的平...

【专利技术属性】
技术研发人员:张佳乐朱万全眭浩朱诚诚成翔孙小兵
申请(专利权)人:扬州大学
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1