基于扩散模型的对比学习图神经网络后门防御方法和系统技术方案

技术编号:41153272 阅读:85 留言:0更新日期:2024-04-30 18:18
本发明专利技术公开了一种基于扩散模型的对比学习图神经网络后门防御方法和系统,属于神经网络安全技术领域,包括:通过分数扩散模型和节点随机丢弃生成原始图的不同增强图,再利用对比学习训练GCN图编码器,与原数据训练的图解码器配合判断图数据是否含有触发器,最后对可疑图数据进行图重构。本发明专利技术提出的方法能够提高图神经网络对后门攻击的鲁棒性,保护网络的安全性和可靠性。

【技术实现步骤摘要】

本专利技术属于神经网络安全,具体涉及一种基于扩散模型的对比学习图神经网络后门防御方法和系统


技术介绍

1、随着人工智能技术的快速发展,图神经网络在多个领域得到了广泛应用,包括社交网络分析、推荐系统、生物信息学等。然而,图神经网络的安全性和鲁棒性问题也引起了人们的关注。由于图数据的特殊性,传统的神经网络技术在图数据上的应用往往面临着诸多挑战,包括数据稀疏性、不规则性和规模庞大等问题,容易受到后门攻击的威胁,攻击者通过添加后门来操纵模型,从而达到目的。

2、以电子商务平台的推荐系统为例,推荐系统能够为消费者提供更准确、个性化的商品推荐服务。然而,推荐系统也面临着各种攻击和欺诈行为,其中一个常见的攻击方式就是图神经网络后门攻击。攻击者会利用推荐系统中的漏洞或特定规则,构造出一些虚假的行为数据,如浏览、点击或购买等,以此来干扰推荐系统的正常运行。

3、更具体来说,攻击者可以浏览与目标商品无关的商品,如自行车和电脑,然后虚假购买与目标商品无关的商品,如手机,这一过程会使推荐系统留下后门,这样一来,推荐系统就会将错误的信息加入到参数更新过程中本文档来自技高网...

【技术保护点】

1.一种基于扩散模型的对比学习图神经网络后门防御方法,其特征在于,包括以下步骤:

2.根据权利要求1所述的基于扩散模型的对比学习图神经网络后门防御方法,其特征在于,步骤1中,所述的对图数据的节点特征和连边特征进行更新,得到所述图数据对应的第一邻接矩阵,用公式表示为:

3.根据权利要求1所述的基于扩散模型的对比学习图神经网络后门防御方法,其特征在于,步骤1中,所述的采用分数匹配使分数扩散模型最大化模拟噪声分布的梯度,具体为:

4.根据权利要求1所述的基于扩散模型的对比学习图神经网络后门防御方法,其特征在于,步骤1中,所述的采用采样得到第二邻接矩阵,包括:...

【技术特征摘要】

1.一种基于扩散模型的对比学习图神经网络后门防御方法,其特征在于,包括以下步骤:

2.根据权利要求1所述的基于扩散模型的对比学习图神经网络后门防御方法,其特征在于,步骤1中,所述的对图数据的节点特征和连边特征进行更新,得到所述图数据对应的第一邻接矩阵,用公式表示为:

3.根据权利要求1所述的基于扩散模型的对比学习图神经网络后门防御方法,其特征在于,步骤1中,所述的采用分数匹配使分数扩散模型最大化模拟噪声分布的梯度,具体为:

4.根据权利要求1所述的基于扩散模型的对比学习图神经网络后门防御方法,其特征在于,步骤1中,所述的采用采样得到第二邻接矩阵,包括:

5.根据权利要求1所述的基于扩散模型的对比学习图神经网络后门防御方法,其特征在于,步骤2中,所述的将训练数据集中的输入图通过添加掩码,具体为:对训练数据集中的输入图对应的邻接矩阵采取删除连边或者丢弃节点的方式进行图增强。

6.根据权利要求5所述的...

【专利技术属性】
技术研发人员:陈晋音穆文博郑海斌宣琦王巍苗春雨
申请(专利权)人:浙江工业大学
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1