双视角图神经网络模型的训练方法、装置、设备及介质制造方法及图纸

技术编号:34036759 阅读:67 留言:0更新日期:2022-07-06 12:29
本发明专利技术涉及人工智能技术领域,提供一种双视角图神经网络模型的训练方法、装置、设备及介质。包括:获得多个具有标签的图数据,图数据中包括节点、边和属性信息;互换图数据中节点和边的位置,获得互换后图数据;将节点特征矩阵和节点邻接矩阵输入至节点视角网络,得到图数据的第一判断结果;将边特征矩阵和边邻接矩阵输入边视角网络,得到图数据的第二判断结果;将图数据的第一判断结果和图数据的第二判断结果加权处理,得到图数据的判断结果,基于图数据的判断结果和图数据的标签,得到训练好的双视角图神经网络模型。本发明专利技术将图数据中节点和边的位置互换,通过同时获取节点特征和边特征,使得训练的模型具有较好的泛化和可迁移性。性。性。

【技术实现步骤摘要】
双视角图神经网络模型的训练方法、装置、设备及介质


[0001]本专利技术涉及人工智能
,特别涉及一种双视角图神经网络模型的训练方法、装置、设备及介质。

技术介绍

[0002]图数据是一种数据结构,图神经网络是深度学习在图结构上的一个分支。常见的图数据包含节点和边,其中,节点包含了实体信息,边包含实体间的关系信息。现在许多学习任务都需要处理图数据,比如物理系统建模、社交网络分析、交通网络分析、蛋白质结构预测以及分子性质预测等,这些都需要模型能够从图数据的输入中学习相关的知识,于是图神经网络模型随之诞生。
[0003]尽管图神经网络在过去几年取得了巨大的成功,但在有监督或半监督机器学习模型中,大部分模型基于“聚合邻居信息,更新节点自身状态”进行构建,在此范式中,节点特征得到充分的学习。而现实的许多图数据中,边上存在丰富的信息,它们在当前大多模型中未被充分利用。
[0004]专利技术人意识到,上述对比学习的方法中,对于需要模型学习到迁移性较强的、可重用的、有共性的知识,这种只关注节点信息的做法会导致图数据在模型中使用时通常主要利用了节点特征,忽略了边上信息,从而使得模型的迁移性和泛化能力不足的问题。

技术实现思路

[0005]本专利技术的目的在于提供一种双视角图神经网络模型的训练方法、装置、设备及介质,以解决图数据在模型中使用时通常主要利用了节点特征,忽略了边上信息,从而使得模型的迁移性和泛化能力不足的技术问题。
[0006]第一方面,提供了一种双视角图神经网络模型的训练方法,包括:
[0007]获得多个具有标签的图数据,所述图数据中包括节点、边和属性信息,并基于属性信息构建节点特征矩阵和节点邻接矩阵;
[0008]互换图数据中节点和边的位置,获得互换后图数据,并基于所述互换后图数据的属性信息构建边特征矩阵和边邻接矩阵;
[0009]将所述节点特征矩阵和所述节点邻接矩阵输入至待训练双视角图神经网络模型的节点视角网络,得到图数据的第一判断结果,所述节点视角网络为GNN网络;
[0010]将所述边特征矩阵和所述边邻接矩阵输入至待训练双视角图神经网络模型的边视角网络,得到图数据的第二判断结果,所述边视角网络为GNN网络;
[0011]将所述图数据的第一判断结果和所述图数据的第二判断结果加权处理,得到图数据的判断结果,并基于所述图数据的判断结果和图数据的标签,联合训练所述节点视角网络和所述边视角网络,更新所述待训练双视角图神经网络模型的参数,得到训练好的双视角图神经网络模型。
[0012]第二方面,提供了一种双视角图神经网络模型的训练装置,包括:
[0013]图数据获取模块,用于获得多个具有标签的图数据,所述图数据中包括节点、边和属性信息,并基于属性信息构建节点特征矩阵和节点邻接矩阵;
[0014]互换后图数据获取模块,用于互换图数据中节点和边的位置,获得互换后图数据,并基于所述互换后图数据的属性信息构建边特征矩阵和边邻接矩阵;
[0015]第一判断结果获取模块,用于将所述节点特征矩阵和所述节点邻接矩阵输入至待训练双视角图神经网络模型的节点视角网络,得到图数据的第一判断结果,所述节点视角网络为GNN网络;
[0016]第二判断结果获取模块,用于将所述边特征矩阵和所述边邻接矩阵输入至待训练双视角图神经网络模型的边视角网络,得到图数据的第二判断结果,所述边视角网络为GNN网络;
[0017]模型训练模块,用于将所述图数据的第一判断结果和所述图数据的第二判断结果加权处理,得到图数据的判断结果,并基于所述图数据的判断结果和图数据的标签,联合训练所述节点视角网络和所述边视角网络,更新所述待训练双视角图神经网络模型的参数,得到训练好的双视角图神经网络模型。
[0018]第三方面,提供了一种计算机设备,包括存储器、处理器以及存储在存储器中并可在处理器上运行的计算机程序,处理器执行计算机程序时实现上述智能问答处理方法的步骤。
[0019]第四方面,提供了一种计算机可读存储介质,计算机可读存储介质存储有计算机程序,计算机程序被处理器执行时实现上述智能问答处理方法的步骤。
[0020]本专利技术的双视角图神经网络模型的训练方法、系统、设备及介质,设计节点和边互补视角的对比学习来训练图神经网络,通过将节点特征矩阵和节点邻接矩阵输入至节点视角网络,将边特征矩阵和边邻接矩阵输入至边视角网络,同时训练两个网络,使得两个网络中权重的更新与节点和边的特征都相关,最终获得训练好的双视角图神经网络模型。采用对比学习的思想,从输入数据中构造出正负样本,让模型在隐式表示空间对正负样本进行判别,充分利用节点和边的特征信息,使模型具有较好的迁移性。得到的模型具有较好的泛化性,当需要解决具体的下游任务时,可以直接使用训练好的双视角图神经网络模型来进行微调,从而避免为每一个下游任务从零开始训练全新的模型。此外,提出的双视角的图神经网络自监督训练策略,可以更有效地学到丰富的关键的图表示信息,捕捉到节点和边数据中的通用结构规律,进而赋予其在不限定种类的下游图挖掘任务上的拟合能力。另一方面,本专利技术的方法,使原来的手工调参、依靠机器学习工程师和专家的方式,转变到可适用于大规模、可复制的工业施展的方式。
附图说明
[0021]为了更清楚地说明本专利技术实施例的技术方案,下面将对本专利技术实施例的描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本专利技术的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动性的前提下,还可以根据这些附图获得其他的附图:
[0022]图1显示为本专利技术一实施例中双视角图神经网络模型的训练方法的一应用环境示意图;
[0023]图2显示为本专利技术一实施例中双视角图神经网络模型的训练方法的流程示意图;
[0024]图3显示为本专利技术一实施例中步骤S30的流程示意图;
[0025]图4显示为本专利技术一实施例中步骤S31的流程示意图;
[0026]图5显示为本专利技术一实施例中步骤S40的流程示意图;
[0027]图6显示为本专利技术一实施例中双视角图神经网络模型的训练装置的结构框图;
[0028]图7是本专利技术一实施例中计算机设备的一结构示意图;
[0029]图8是本专利技术一实施例中计算机设备的另一结构示意图。
具体实施方式
[0030]本专利技术实施例提供的双视角图神经网络模型的训练方法,可应用在如图1的应用环境中,其中,客户端通过网络与服务端进行通信。服务端可以通过客户端设计节点和边互补视角的对比学习来训练图神经网络,通过将节点特征矩阵和节点邻接矩阵输入至节点视角网络,将边特征矩阵和边邻接矩阵输入至边视角网络,同时训练两个网络,使得两个网络中权重的更新与节点和边的特征都相关,最终获得训练好的双视角图神经网络模型。采用对比学习的思想,从输入数据中构造出正负样本,让模型在隐式表示空间对正负样本进行判别,充分利用节点和边的特征信息,使模型具有较好的迁移性。得到的模型具有较好本文档来自技高网
...

【技术保护点】

【技术特征摘要】
1.一种双视角图神经网络模型的训练方法,其特征在于,包括:获得多个具有标签的图数据,所述图数据中包括节点、边和属性信息,并基于属性信息构建节点特征矩阵和节点邻接矩阵;互换图数据中节点和边的位置,获得互换后图数据,并基于所述互换后图数据的属性信息构建边特征矩阵和边邻接矩阵;将所述节点特征矩阵和所述节点邻接矩阵输入至待训练双视角图神经网络模型的节点视角网络,得到图数据的第一判断结果,所述节点视角网络为GNN网络;将所述边特征矩阵和所述边邻接矩阵输入至待训练双视角图神经网络模型的边视角网络,得到图数据的第二判断结果,所述边视角网络为GNN网络;将所述图数据的第一判断结果和所述图数据的第二判断结果加权处理,得到图数据的判断结果,并基于所述图数据的判断结果和图数据的标签,联合训练所述节点视角网络和所述边视角网络,更新所述待训练双视角图神经网络模型的参数,得到训练好的双视角图神经网络模型。2.根据权利要求1所述的双视角图神经网络模型的训练方法,其特征在于,所述将所述节点特征矩阵和所述节点邻接矩阵输入所述节点视角网络,得到图数据的第一判断结果,包括:将节点特征矩阵和节点邻接矩阵输入至所述节点视角网络,提取节点的局部特征;将所述节点的局部特征和预设的节点的平均特征进行比较,得到图数据的第一判断结果。3.根据权利要求2所述的双视角图神经网络模型的训练方法,其特征在于,所述将节点特征矩阵和节点邻接矩阵输入至所述节点视角网络,提取节点的局部特征包括以下过程:将节点特征矩阵进行特征扰动处理,得到节点的负样本特征矩阵;将节点特征矩阵和节点的负样本特征矩阵输入所述节点视角网络,提取节点的正样本局部特征和节点的负样本局部特征,获得节点的局部特征。4.根据权利要求3所述的双视角图神经网络模型的训练方法,其特征在于,所述提取节点的负样本局部特征方法为:其中,e为节点的负样本局部特征,σ为sigmord函数,为节点特征矩阵与单位矩阵相加后的度矩阵,A为节点特征矩阵,I为单位矩阵,X为节点邻接矩阵,θ为预设的参数矩阵。5.根据权利要求1所述的双视角图神经网络模型的训练方法,其特征在于,所述基于所述图数据的判断结果和图数据的标签联合训练所述节点视角网络和所述边视角网络,更新所述待训练双视角图神经网络模型的参数,包括以下...

【专利技术属性】
技术研发人员:王俊
申请(专利权)人:平安科技深圳有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1