【技术实现步骤摘要】
针对图神经网络的黑盒逃逸图注入攻击方法
[0001]本专利技术涉及深度学习
,具体是针对图神经网络的黑盒逃逸图注入攻击方法。
技术介绍
[0002]图是由节点及其连接关系组成的非欧氏数据结构,具有表示复杂耦合关系的能力。许多现实生活场景都可以用图结构来建模,比如社交平台,交通系统,推荐系统和财务风险评估系统等。深度学习模型具有很强的学习能力,并在自然语言处理和计算机视觉等领域得到了广泛研究,但是,由于图的特定非欧氏数据性质,传统的欧氏数据深度学习模型在处理图结构数据时表现不佳。因此,大量的工作都在致力于更好地开发图神经网络(Graph Neural Networks,简称GNNs)来有效地整合图数据的节点特征和拓扑结构信息,捕捉节点之间潜在的数据流。
[0003]尽管图神经网络已经取得了不错的进展,但它们很容易受到对抗性攻击的影响,即微小但精心设计的扰动可能导致图神经网络模型的性能大幅度下降。前人大量的工作致力于研究图修改攻击(Graph Modification Attacks,简称GMA),试图通过在图中的现有节点或拓扑中添加小扰动来误导图神经网络模型的预测,例如在不同类型的节点之间添加恶意边,或者篡改部分节点属性等等。然而,在许多现实场景中,修改原始图中的数据往往需要极高的操作权限,因此越来越多的人开始关注更符合显示场景的图注入攻击(Graph Injection Attack,简称GIA),即攻击者通过生成少量恶意节点并与原图中的节点建立连接来进行攻击。例如在社交网络中篡改已有用户的评论是需要较 ...
【技术保护点】
【技术特征摘要】
1.针对图神经网络的黑盒逃逸图注入攻击方法,其特征在于,包括如下步骤:步骤一:获取代理图数据集G
sur
,从众包平台渠道获取代理图数据集G
sur
=(V
sur
,E
sur
,X
sur
,L
sur
),其中V
sur
为节点集,表示图数据集G
sur
中所有的节点,E
sur
为边集,表示节点间存在的所有边,X
sur
为节点集V
sur
的所有特征拼接而得的特征矩阵,L
sur
为节点集V
sur
中每个节点所对应的标签组成的标签集;步骤二:训练代理模型f
sur
,选择一个有代表性的图神经网络模型作为代理模型f
sur
,然后在代理数据集G
sur
训练f
sur
直到收敛;步骤三:获取原始受害者图数据集G,根据攻击目标从众包平台渠道中获取原始受害者图数据集G=(V,E,X,L),其中V为节点集,表示图数据集G中所有的节点,E为边集,表示节点间存在的所有边,X为节点集V的所有特征拼接而得的特征矩阵,L为节点集V中每个节点所对应的标签组成的标签集,由于黑盒设定下无法获取原始受害者图数据集G中的标签集L,故L在初始状态时为空集;步骤四:使用代理模型f
sur
为原始受害者图数据集G生成标签集L,由于黑盒设定下无法获取原始受害者图数据集G中的标签集L,故需要使用已经收敛的代理模型f
sur
预测原始受害者图数据集G中所有节点的标签,并将f
s...
【专利技术属性】
技术研发人员:王金艳,苏琳琳,甘泽明,李先贤,
申请(专利权)人:广西师范大学,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。