System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind() 图神经网络模型生成方法、预测方法及装置制造方法及图纸_技高网

图神经网络模型生成方法、预测方法及装置制造方法及图纸

技术编号:41417711 阅读:3 留言:0更新日期:2024-05-21 20:50
本公开涉及一种图神经网络模型生成方法、预测方法及装置。针对目标图,利用结构预测器对目标图神经网络框架进行结构搜索,得到目标图中各节点各自对应的初始图神经网络模型;利用目标图,对各初始图神经网络模型进行训练,得到各节点对应的目标图神经网络模型,目标图神经网络模型用于预测相应节点的类型;目标图神经网络框架包括GNN分支与输出模块,GNN分支包括多个聚合层、层连接模块,聚合层用于聚合节点自身特征与邻居特征;层连接模块用于实现层间融合与中间层整合。由此,能够自适应的确定与目标图相适配的图神经网络的结构,使其能够更好的自学习到目标图上的知识,有利于提升针对目标图的节点分类效果及分类预测的准确性。

【技术实现步骤摘要】

本公开涉及图数据,特别是涉及一种图神经网络模型生成方法、预测方法及装置


技术介绍

1、图(graph)是现实世界和科学领域中非常普遍的一种数据模型,比如交通网络、社交网络、知识图谱、分子结构等,都可以建模成图。基于图设计不同的神经网络以解决不同的任务,是图神经网络(graph neural network,gnn)研究的问题。

2、现有的gnn设计通常遵循着同性相连(homophily)的原则,即相连的节点具有相似的节点特征或者相同的节点标签。但是这种原则导致gnn忽略了节点之间的差异性。比如分子图中不同的元素连接在一起,相邻节点具有不同的节点特征和标签;交友网站中会匹配不同性别的人等。在这类异配图(heterophily graph)上,那些基于同配图设计的gnn效果并不好。

3、因此,针对异配图这种特殊的图数据,如何提升gnn的任务效果,是目前图数据处理领域中亟待解决的技术问题。


技术实现思路

1、本公开要解决的一个技术问题是,如何提供一种针对异配图更为有效的gnn设计方案。

2、根据本公开的第一个方面,提供了一种图神经网络模型生成方法,包括:针对目标图,利用结构预测器对目标图神经网络框架进行结构搜索,得到所述目标图中各节点各自对应的初始图神经网络模型;利用所述目标图,对各初始图神经网络模型进行训练,得到各节点对应的目标图神经网络模型,所述目标图神经网络模型用于预测相应节点的类型;其中,所述目标图神经网络框架包括gnn分支与输出模块,所述gnn分支包括:多个聚合层、层连接模块,所述聚合层用于聚合节点自身特征与邻居特征;所述层连接模块用于实现层间融合与中间层整合;其中,所述结构预测器用于确定对应模块的搜索空间中各候选操作的权重。

3、可选地,针对目标图,利用结构预测器对目标图神经网络框架进行结构搜索,得到所述目标图中各节点各自对应的初始图神经网络模型,包括:迭代执行如下流程,直至训练结束,将训练得到的搜索图神经网络模型确定为所述初始图神经网络模型:利用训练集训练所有节点的搜索图神经网络模型,所述训练集包括多个类型已知的节点;基于训练后的图神经网络模型参数,优化所述结构预测器;以及利用优化后的结构预测器重新对目标图神经网络框架进行结构搜索,得到各节点各自对应的新的搜索图神经网络模型。

4、可选地,任意一个所述聚合层包括选择模块、加权模块、聚合模块以及更新模块,所述选择模块用于为节点选择邻居节点,所述加权模块用于确定所述邻居节点的权重,其中,同类邻居节点的权重高于异类邻居节点,所述聚合模块用于基于权重聚合邻居节点的特征信息,所述更新模块用于基于聚合后得到的特征信息以及节点的特征信息得到新的特征信息。

5、可选地,与所述选择模块对应的候选操作集合包括第一选择操作和/或第二选择操作,所述第一选择操作为选择与节点连接的其他节点作为所述节点的邻居节点,所述第二选择操作为选择节点以及与所述节点连接的其他节点作为所述节点的邻居节点,与所述加权模块对应的候选操作集合包括第一加权操作、第二加权操作、第三加权操作以及第四加权操作中的至少一个,所述第一加权操作为将所有邻居节点的权重设置为一个相同的数值,所述第二加权操作为基于邻居节点的度确定邻居节点的权重,所述第三加权操作为基于邻居节点的低频信息和高频信息对节点的贡献程度确定邻居节点的权重,所述第四加权操作为基于注意力网络学习邻居节点的权重,与所述聚合模块对应的候选操作集合包括相加操作,所述相加操作为基于权重对邻居节点的特征信息进行加权求和,与所述更新模块对应的候选操作集合包括第一更新操作、第二更新操作、第三更新操作、第四更新操作以及第五更新操作中的至少一个,所述第一更新操作为基于节点的特征信息得到新的特征信息,所述第二更新操作为基于聚合后得到的特征信息生成新的特征信息,所述第三更新操作为将所述节点的特征信息与聚合后得到的特征信息相加得到新的特征信息,所述第四更新操作为将所述节点的特征信息与聚合后得到的特征信息的平均值作为新的特征信息,所述第五更新操作为将所述节点的特征信息与聚合后得到的特征信息进行加权求和得到新的特征信息。

6、可选地,所述层连接模块包括残差融合模块和层间融合模块,所述残差融合模块位于两个相邻的聚合层之间,所述残差融合模块用于基于在前的聚合层的输入和在前的聚合层的输出确定在后的聚合层的输入,所述层间融合模块位于最后一个聚合层之后,所述层间融合模块用于整合所有聚合层的输出。

7、可选地,与所述残差融合模块对应的候选操作集合包括第一残差融合操作、第二残差融合操作、第三残差融合操作、第四残差融合操作以及第五残差融合操作中的至少一个,所述第一残差融合操作为将在前的聚合层的输入作为在后的聚合层的输入,所述第二残差融合操作为将在前的聚合层的输出作为在后的聚合层的输入,所述第三残差融合操作为将在前的聚合层的输入与在前的聚合层的输出的和作为在后的聚合层的输入,所述第四残差融合操作为将在前的聚合层的输入与在前的聚合层的输出的平均值作为在后的聚合层的输入,所述五残差融合操作为将在前的聚合层的输入与在前的聚合层的输出的加权求和结果作为在后的聚合层的输入,与所述层间融合模块对应的候选操作集合包括第一层间融合操作、第二层间融合操作、第三层间融合操作以及第四层间融合操作中的至少一个,所述第一层间融合操作为将所有聚合层的输出相加,所述第二层间融合操作为求取所有聚合层的输出的平均值,所述第三层间融合操作为将所有聚合层的输出进行加权求和,所述第四层间融合操作为仅保留最后一层聚合层的输出。

8、可选地,所述目标图神经网络框架还包括:mlp分支,所述mlp分支用于提取节点自身特征,所述输出模块用于对所述mlp分支的输出和所述gnn分支的输出进行整合,得到最终输出。

9、可选地,与所述输出模块对应的候选操作集合包括第一输出整合操作、第二输出整合操作、第三输出整合操作、第四输出整合操作以及第五输出整合操作中的至少一个,所述第一输出整合操作为将所述mlp分支的输出作为最终输出,所述第二输出整合操作为将所述gnn分支的输出作为最终输出,所述第三输出整合操作为将所述mlp分支的输出与所述gnn分支的输出的和作为最终输出,所述第四输出整合操作为将所述mlp分支的输出与所述gnn分支的输出的平均值作为最终输出,所述第五输出整合操作为,将所述mlp分支的输出与所述gnn分支的输出的加权求和结果作为最终输出。

10、可选地,结构预测器包括:第一预测器,用于基于对应模块的输入特征,确定该模块的搜索空间中各候选操作的权重;或者,第二预测器,用于基于对应模块的搜索空间中任一候选操作的输出特征,确定该候选操作的权重。

11、可选地,利用结构预测器对目标图神经网络框架进行结构搜索,得到所述目标图中各节点各自对应的初始图神经网络模型,包括:针对所述目标图神经网络框架中的任意一个模块,利用所述结构预测器确定所述模块的候选操作集合中不同候选操作的权重;基于各个模块的权重最大的候选操作,确定所本文档来自技高网...

【技术保护点】

1.一种图神经网络模型生成方法,其特征在于,包括:

2.根据权利要求1所述的方法,其特征在于,针对目标图,利用结构预测器对目标图神经网络框架进行结构搜索,得到所述目标图中各节点各自对应的初始图神经网络模型,包括:

3.根据权利要求1所述的方法,其特征在于,

4.根据权利要求1所述的方法,其特征在于,

5.根据权利要求1所述的方法,其特征在于,所述目标图神经网络框架还包括:MLP分支,所述MLP分支用于提取节点自身特征,

6.一种预测方法,其特征在于,包括:

7.一种图神经网络模型生成装置,其特征在于,包括:

8.一种预测装置,其特征在于,包括:

9.一种计算设备,包括:

10.一种非暂时性机器可读存储介质,其上存储有可执行代码,当所述可执行代码被电子设备的处理器执行时,使所述处理器执行如权利要求1至6中任何一项所述的方法。

【技术特征摘要】

1.一种图神经网络模型生成方法,其特征在于,包括:

2.根据权利要求1所述的方法,其特征在于,针对目标图,利用结构预测器对目标图神经网络框架进行结构搜索,得到所述目标图中各节点各自对应的初始图神经网络模型,包括:

3.根据权利要求1所述的方法,其特征在于,

4.根据权利要求1所述的方法,其特征在于,

5.根据权利要求1所述的方法,其特征在于,所述目标图神经网络框架还包括...

【专利技术属性】
技术研发人员:赵欢卫岚宁
申请(专利权)人:第四范式北京技术有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1