一种图神经网络解释方法、系统、终端以及存储介质技术方案

本申请涉及一种图神经网络解释方法、系统、终端以及存储介质。所述方法包括：根据设定的扰动策略对原始特征矩阵进行扰动，得到扰动后的特征矩阵；将扰动后的特征矩阵和原始邻接矩阵输入待解释模型，通过待解释模型输出分类预测结果，并将扰动后的特征矩阵输入解释模型，通过解释模型输出每个特征的重要性预测结果；根据每个特征的重要性预测结果计算各个节点内每个特征的贡献度，并根据每个特征的贡献度计算各个节点的贡献度；将贡献度大于设定阈值的节点和特征作为重要节点和重要特征，并通过重要节点和重要特征生成用于对解释模型的预测行为进行解释的解释性子图。通过本申请可以得到一个更加准确的待解释模型的内部逻辑。以得到一个更加准确的待解释模型的内部逻辑。以得到一个更加准确的待解释模型的内部逻辑。

【技术实现步骤摘要】
一种图神经网络解释方法、系统、终端以及存储介质


[0001]本申请属于深度学习
，特别涉及一种图神经网络解释方法、系统、终端以及存储介质。

技术介绍

[0002]在图神经网络结构的数据中，特征级的解释应该满足节点依赖。例如，在对一个图神经网络节点分类模型进行解释时(例如流行病预测任务中会构建的一个新冠待确诊患者接触史)，预测A是否患病的依据，可能是与他接触过的B已高烧这个特征(B没有感冒)以及与他已接触过的C人感冒这个特征(C没有发烧)。一般来说感冒和发烧都是较为重要的特征，但是不同个体的重要特征却各不相同。这一特性是图结构数据特有的，不同于其它类型的数据中，样本之间的关系是独立的。而目前的图神经网络解释模型提供的解释特征是节点独立的，在模型给出的解释中，只有一组统一的特征，试图用来解释图中所有节点特征的贡献度。这样得到的解释是片面的，无法准确的解释待解释模型的内部逻辑。
[0003]现有的实例级的图神经网络解释模型(为什么待解释模型要对某一个样本(节点)产生这样的预测结果)，在生成针对一个实例的解释时，只观察被解释模型对这一个实本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种图神经网络解释方法，其特征在于，包括：获取初始图网络的原始邻接矩阵和原始特征矩阵，并根据设定的扰动策略对所述原始特征矩阵进行扰动，得到扰动后的特征矩阵；将所述扰动后的特征矩阵和原始邻接矩阵输入待解释模型，通过所述待解释模型输出分类预测结果，并将所述扰动后的特征矩阵输入解释模型，通过所述解释模型输出每个特征的重要性预测结果；根据所述每个特征的重要性预测结果计算各个节点内每个特征的贡献度，并根据所述每个特征的贡献度计算各个节点的贡献度；将所述贡献度大于设定阈值的节点和特征作为重要节点和重要特征，并通过所述重要节点和重要特征生成用于对所述解释模型的预测行为进行解释的解释性子图。2.根据权利要求1所述的图神经网络解释方法，其特征在于，所述根据设定的扰动策略对所述原始特征矩阵进行扰动具体为：根据设定的扰动系数和选择的扰动策略生成扰动因子：上式中，Bernoulli(1,p2)指以p2为概率生成一个伯努利分布，z
F
表示在当前分布下生成的数字，表示正态分布；遍历所述原始特征矩阵中的每个元素，根据所述扰动因子对所述原始特征矩阵进行m次扰动：上式中，表示原始特征矩阵X中第p行第列的元素；扰动后的特征矩阵为：上式中，表示产生的第j个3.根据权利要求2所述的图神经网络解释方法，其特征在于，所述将所述扰动后的特征矩阵和原始邻接矩阵输入待解释模型还包括：将所述扰动后的特征矩阵和原始邻接矩阵的表示形式转换为具有可解释性的模型能够接受的输入形式模型能够接受的输入形式上式中，表示对原始特征矩阵X做的第*次扰动所得到的特征矩阵，[A
k
]
i，j
表示原始邻接矩阵A
k
中的第i行第j列元素，k为待解释模型的层数；表示被扰动后的特征矩阵中的第j行，
·
表示点乘运算，实数[A
k
]
i，j
逐元素乘以一个1维向量逐元素乘以一个1维向量表示向
量拼接运算，将j从1到n分别带入中，得到n个向量，n为所述初始图网络中节点的数量。4.根据权利要求1至3任一项所述的图神经网络解释方法，其特征在于，所述通过所述解释模型输出每个特征的重要性预测结果还包括：拟合所述待解释模型和解释模型的输出结果，使得所述解释模型的预测结果趋近于待解释模型的预测结果：上式中，表示遍历所有扰动后的特征矩阵，表示遍历所有节点类别集合并观察所述待解释模型和解释模型对每个类别的预测结果，是损失函数，f()是待解释模型的预测结果，表示输入第j个被扰动的特征矩阵和原始邻接矩阵；g()为解释...

【专利技术属性】
技术研发人员：吴红艳，纪超杰，王如心，蔡云鹏，
申请(专利权)人：中国科学院深圳先进技术研究院，
类型：发明
国别省市：