【技术实现步骤摘要】
图神经网络结构搜索方法和系统
[0001]本申请涉及图神经网络技术，更具体地讲，涉及一种图神经网络结构搜索方法和系统。
技术介绍
[0002]在现实生活领域和科学研究领域中，通常可利用图(Graph)来表示数据。例如，利用图来表示交通网络，利用图来表示社交网络，利用图来表示知识图谱，利用图来表示分子结构等。图可包括图节点和边，其中，边表示两个或更多个图节点之间的关系。基于图设计不同的神经网络，解决不同的任务，这是图神经网络(Graph Neural Network，GNN)研究的问题。基于图神经网络的机器学习模型可称为图神经网络模型。现有的图神经网络模型大多采用了一种邻居聚合的框架，通过聚合邻居图节点的特征来学习当前图节点的表达，并将其作为特征来解决各种任务。
[0003]现有的图神经网络模型通常由专家根据经验来设计，例如，给定不同的任务，专家根据经验来设计图神经网络模型的初始网络结构，并且在执行机器学习任务时，还需要专家基于数据进行训练和调优，以得到最佳图神经网络模型。由于专家的经验是有限的，因此由经验有限的专家来...
【技术保护点】
【技术特征摘要】
1.一种图神经网络结构搜索方法，所述方法包括：针对特定图数据集，在针对图神经网络模型的结构搜索空间中搜索最优图神经网络结构；基于所述特定图数据集，对具有所述最优图神经网络结构的图神经网络模型进行训练；以及利用经过训练的图神经网络模型获得所述特定图数据集的各个图节点的嵌入表示，其中，所述结构搜索空间由节点聚合算子、层聚合算子以及跳跃连接聚合算子构建，其中，图神经网络结构包括输入层、一个或更多个中间层、与所述一个或更多个中间层中的至少一个中间层跳跃连接的连接层、以及输出层，所述输入层与所述一个或更多个中间层中的第一个中间层连接，所述连接层位于所述一个或更多个中间层中的最后一个中间层与输出层之间，其中，中间层的运算函数对应于节点聚合算子，连接层的运算函数对应于跳跃连接聚合算子，并且输出层的运算函数对应于层聚合算子。2.如权利要求1所述的方法，搜索最优图神经网络结构的步骤还包括：对所述特定图数据集进行采样以获得子图数据集，其中，所述最优图神经网络结构是针对所述子图数据集的结构。3.如权利要求1所述的方法，其中，搜索最优图神经网络结构的步骤包括：将从以下表达式(1)确定的最佳图神经网络结构α
*
确定为最优图神经网络结构：其中，A表示针对图神经网络模型的结构搜索空间，α表示属于所述结构搜索空间的图神经网络结构，w表示图神经网络模型的模型参数集合，是训练损失函数并指示使用训练数据集对基于模型参数集合w和结构α的图神经网络模型进行模型训练所获得的损失，是验证损失函数并指示使用验证数据集对基于模型参数集合w
*
和结构α的图神经网络模型进行验证所获得的损失，w
*
是基于结构α使最小的图神经网络模型的模型参数集合，α
*
是基于模型参数集合w
*
使最小的图神经网络结构，其中，所述训练数据集和所述验证数据集是所述特定图数据集的子数据集。4.如权利要求3所述的方法，其中，使用强化学习算法来从表达式(1)确定最佳图神经网络结构。5.如权利要求4所述的方法，其中，使用强化学习算法确定最佳图神经网络结构的步骤包括：对所述结构搜索空间中的各个图神经网络结构进行概率化以获得按照概率分布控制参数被参数化的结构分布；通过对所述结构分布进行训练来确定与在验证数据集上具有最高期望验证准确度的结构对应的最优概率分...
【专利技术属性】
技术研发人员：赵欢，姚权铭，涂威威，
申请(专利权)人：第四范式北京技术有限公司，
类型：发明
国别省市：
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。