一种基于自适应学习传播的图节点分类方法技术

本发明专利技术公开了一种基于自适应学习传播的图节点分类方法，包括以下步骤：步骤100，对图结构数据集进行预处理后划分为训练集、测试集和验证集；步骤200，在初始图神经网络中对节点特征信息进行图卷积操作以对节点特征信息进行更新；步骤300，对初始图神经网络的网络权重w和层聚合操作权重α进行更新；步骤400，确定第二网络权重；步骤500，对第二网络权重进行优化得到目标网络权重；步骤600，将测试集输入目标操作权重α

【技术实现步骤摘要】
一种基于自适应学习传播的图节点分类方法


[0001]本专利技术属于图形数据处理
，具体涉及一种基于自适应学习传播的图节点分类方法。

技术介绍

[0002]由于图形的非规则性，给已有的机器学习算法带来很大的困难，在任意一幅图中，节点的邻居数量是不确定的并且结构也是没有规律的，这将导致某些操作(如卷积操作)在二维图像中能够取得很好的效果，但是在图形数据中将不再适用。由于图形数据处理是一个很复杂的结构，对图上运算的定义以及泛化已经取得了很快的发展，由于许多因素的成功驱动，为了更好的对复杂的图结构数据进行处理，相关领域的研究人员定义并设计了一种专门的结构——“图神经网络”(Graph Neural Network,GNN)，它在图结构数据上实现了更好的性能和可解释性。在图神经网络中，堆叠多层网络之后会出现节点的表示趋于一致的问题，使其性能反而不如浅层结构，以及现有的大多数网络结构都是完全依赖于手工设计的网络结构，适应性相对较差，不能很好的发挥图神经网络的表示能力。
[0003]跳跃知识网络(Jump Knowledge Network,JKNet)，为了解决现在图神经网络中存在过平滑问题以及提升图神经网络的表示能力，对于位于不同位置的节点，有的节点需要多一些局部信息，有的节点则需要多一些全局信息，JKNet从该角度出发，使用一种跳过连接的方式，类似于残差连接的一种操作，将节点的多跳表示混合到最终输出中，这种方式改善了节点的表示形式，但是，深层网络结构存在过度平滑问题。

技术实现思路

[0004]为了解决现有技术中存在的上述问题，本专利技术提供了一种基于自适应学习传播的图节点分类方法。本专利技术要解决的技术问题通过以下技术方案实现：
[0005]一种基于自适应学习传播的图节点分类方法，包括以下步骤：
[0006]步骤100，对图结构数据集进行预处理后划分为训练集、测试集和验证集；其中，图结构数据包括：节点特征信息、边特征信息和邻接矩阵；
[0007]步骤200，在初始图神经网络中对所述节点特征信息进行图卷积操作以对所述节点特征信息进行更新，图卷积操作公式为：
[0008][0009]其中，α
l
和β
l
表示两个超参数，I
n
表示单位矩阵，W
l
表示图神经网络权重矩阵，表示正则化拉普拉斯矩阵，表示节点的度矩阵，表示邻接矩阵，l表示网络层数，H
l
表示第l层的节点特征信息；H
(l+1)
表示第l+1层的节点特征信息；
[0010]步骤300，根据步骤200中更新后的节点特征信息和损失函数通过梯度下降对初始图神经网络的网络权重w和层聚合操作权重α进行更新，并根据更新后的网络权重w和层聚
合操作权重α确定优化网络结构和优化节点特征信息；其中，所述优化节点特征信息为根据所述优化网络结构更新的节点特征信息；
[0011]步骤400，根据所述优化网络结构、优化节点特征信息和所述损失函数确定第二网络权重；
[0012]步骤500，使用Adam优化器对所述第二网络权重进行优化，得到目标网络权重；
[0013]步骤600，将所述测试集输入所述目标操作权重α
*
和所述目标网络权重确定的目标网络结构中，输出分类结果。
[0014]在本专利技术的一个实施例中，所述步骤300具体包括：
[0015]步骤301，预设损失函数为交叉熵损失函数，损失函数的公式如下：
[0016][0017]其中，表示预设标签的节点的集合，Y
ln
表示节点的预设标签，Z
ln
表示预测标签，N表示节点的数量；
[0018]步骤302，预设层聚合操作集合A＝{Identity,Maxpool,Zero}；每层的节点特征信息为步骤200更新后的节点特征信息；
[0019]步骤303，将所述层聚合操作集合A根据公式(3)进行连续化；
[0020][0021]其中，o
(i,j)
表示对第i层和第j层进行的第一层聚合操作，O表示全部网络层的待选择的层聚合操作的集合，o∈O，α表示层聚合操作权重，α
i,j
∈R
O
，α
i,j
表示对第i层和第j层进行的层聚合操作的权重，layer表示网络的层，o(layer)表示每层网络层的层聚合操作；o
′
表示对第i层和第j层进行的第二层聚合操作；
[0022]步骤304，预设双层优化目标函数：
[0023][0024]s.t.w
*
(α)＝argmin
w L
train
(w,α)
ꢀꢀꢀ
(5)
[0025]其中，α
*
表示更新后的目标操作权重，γ表示对优化的学习率，w表示网络权重，w
*
表示更新后的第一网络权重，L
val
表示验证集的损失，L
train
表示训练集的损失；
[0026]步骤305，根据公式(2)计算所述验证集的损失步骤305，根据公式(2)计算所述验证集的损失并通过公式(4)和(5)对层聚合操作权重α进行更新，得到目标操作权重α
*
；
[0027]步骤306，根据公式(2)计算所述训练集的损失L
train
(w，α)，并通过公式(4)和(5)以及所述目标操作权重α
*
对网络权重w进行更新，得到第一网络权重w
*
；
[0028]步骤307，据所述第一网络权重w
*
和所述目标操作权重α
*
确定优化网络结构；
[0029]步骤308，根据所述优化网络结构更新每层的节点特征信息，更新后的每层的节点特征信息为优化节点特征信息，表示为：
[0030][0031]其中，layer
(i)
表示第i层的节点特征信息，layer
(j)
表示优化节点特征信息。
[0032]在本专利技术的一个实施例中，所述步骤400的具体步骤包括：
[0033]步骤401，将所述训练集输入所述优化网络结构，根据所述优化节点特征信息通过Softmax函数输出所述优化节点特征信息的优化预测标签；
[0034]步骤402，根据所述优化预测标签和公式(2)计算所述训练集的损失L
train
(w
*
)，并根据目标操作权重α
*
通过梯度下降更新第一网络权重w
*
，得到第二网络权重。
[0035]在本专利技术的一个实施例中，所述步骤402还包括：
[0036]根据公式(2)计算所述验证集的验证损失L
val
(w)进行网络性能验证。
[0037]在本专利技术的一个实施例中，所述步骤60本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种基于自适应学习传播的图节点分类方法，其特征在于，包括以下步骤：步骤100，对图结构数据集进行预处理后划分为训练集、测试集和验证集；其中，图结构数据包括：节点特征信息、边特征信息和邻接矩阵；步骤200，在初始图神经网络中对所述节点特征信息进行图卷积操作以对所述节点特征信息进行更新，图卷积操作公式为：其中，α
l
和β
l
表示两个超参数，I
n
表示单位矩阵，W
l
表示图神经网络权重矩阵，表示正则化拉普拉斯矩阵，表示节点的度矩阵，表示邻接矩阵，l表示网络层数，H
l
表示第l层的节点特征信息；H
(l+1)
表示第l+1层的节点特征信息；步骤300，根据步骤200中更新后的节点特征信息和损失函数通过梯度下降对初始图神经网络的网络权重w和层聚合操作权重α进行更新，并根据更新后的网络权重w和层聚合操作权重α确定优化网络结构和优化节点特征信息；其中，所述优化节点特征信息为根据所述优化网络结构更新的节点特征信息；步骤400，根据所述优化网络结构、优化节点特征信息和所述损失函数确定第二网络权重；步骤500，使用Adam优化器对所述第二网络权重进行优化，得到目标网络权重；步骤600，将所述测试集输入所述目标操作权重α
*
和所述目标网络权重确定的目标网络结构中，输出分类结果。2.根据权利要求1所述的一种基于自适应学习传播的图节点分类方法，其特征在于，所述步骤300具体包括：步骤301，预设损失函数为交叉熵损失函数，损失函数的公式如下：其中，表示预设标签的节点的集合，Y
ln
表示节点的预设标签，Z
ln
表示预测标签，N表示节点的数量；步骤302，预设层聚合操作集合A＝{Identity,Maxpool,Zero}；每层的节点特征信息为步骤200更新后的节点特征信息；步骤303，将所述层聚合操作集合A根据公式(3)进行连续化；其中，o
(i,j)
表示对第i层和第j层进行的第一层聚合操作，O表示全部网络层的待选择的层聚合操作的集合，o∈O，α表示层聚合操作权重，α
i,j
∈R
O
，α
i,j
表示对第i层和第j层进行的层聚合操作的权重，layer表示网络的层，o(layer)表示每层网络层的层聚合操作；o
′
表示对第i层和第j层进行的第二层聚合操作；
...

【专利技术属性】
技术研发人员：武越，范晓龙，高秋月，公茂果，苗启广，马文萍，
申请(专利权)人：西安电子科技大学，
类型：发明
国别省市：