学习分离表征的图卷积神经网络构建方法及装置制造方法及图纸

本发明专利技术公开了一种学习分离表征的图卷积神经网络构建方法及装置，其中，方法包括：对输入图的形成过程进行概率建模，生成描述多个可能导致一条边形成的潜在因子的概率生成模型；通过概率生成模型在每一个卷积层中使用可导的动态EM算法进行推理，获取每个节点的各个邻居所对应的因子，以将邻居节点分离；在每一个卷积层中，根据不同因子的邻居节点构建出描述每个节点不同侧面的表征。该方法可以根据各个因子生成能全面精确地描述图中各个数据点的多个侧面的表征。

Construction Method and Device of Graphic Convolutional Neural Network for Learning Separation Representation

【技术实现步骤摘要】
学习分离表征的图卷积神经网络构建方法及装置
本专利技术涉及社交网络分析
，特别涉及一种学习分离表征的图卷积神经网络构建方法及装置。
技术介绍
目前，以图卷积网络为代表的图神经网络，是用于处理社交网络、信息网络等复杂图结构数据的新一代端到端深度学习技术。然而，现有的图神经网络默认图中的边的形成都是由同一个单一因子推动的，因此无法捕捉实际数据背后的多样化成因。
技术实现思路
本专利技术旨在至少在一定程度上解决相关技术中的技术问题之一。为此，本专利技术的一个目的在于提出一种学习分离表征的图卷积神经网络构建方法，该方法可以生成能全面精确地描述图中各个数据点的多个侧面的表征。本专利技术的另一个目的在于提出一种学习分离表征的图卷积神经网络构建装置。为达到上述目的，本专利技术一方面实施例提出了一种学习分离表征的图卷积神经网络构建方法，包括：对输入图的形成过程进行概率建模，生成描述多个可能导致一条边形成的潜在因子的概率生成模型；通过所述概率生成模型在每一个卷积层中使用可导的动态EM算法(Expectation-Maximization，最大期望算法)进行推理，获取每个节点的各个邻居所对应的因子，以将邻居节点分离；在所述每一个卷积层中，根据不同因子的所述邻居节点构建出描述所述每个节点不同侧面的表征。本专利技术实施例的学习分离表征的图卷积神经网络构建方法，考虑一张图形成背后的多个因子，将这些因子分离，获得更精确全面的表征，并在分离各个因子时，仍保留图神经网络支持端到端学习、归纳学习的优点，在分离各个因子后，可以根据各个因子生成能全面精确地描述图中各个数据点的多个侧面的表征。另外，根据本专利技术上述实施例的学习分离表征的图卷积神经网络构建方法还可以具有以下附加的技术特征：进一步地，在本专利技术的一个实施例中，还包括：叠加多个所述每一个卷积层，以利用预设的高阶拓扑结构。进一步地，在本专利技术的一个实施例中，每个侧面对应一个已被分离的因子。进一步地，在本专利技术的一个实施例中，所述输入图的因子为复数多个。为达到上述目的，本专利技术另一方面实施例提出了一种学习分离表征的图卷积神经网络构建装置，包括：建模模块，用于对输入图的形成过程进行概率建模，生成描述多个可能导致一条边形成的潜在因子的概率生成模型；推理模块，用于通过所述概率生成模型在每一个卷积层中使用可导的动态EM算法进行推理，获取每个节点的各个邻居所对应的因子，以将邻居节点分离；构建模块，用于在所述每一个卷积层中，根据不同因子的所述邻居节点构建出描述所述每个节点不同侧面的表征。本专利技术实施例的学习分离表征的图卷积神经网络构建装置，考虑一张图形成背后的多个因子，将这些因子分离，获得更精确全面的表征，并在分离各个因子时，仍保留图神经网络支持端到端学习、归纳学习的优点，在分离各个因子后，可以根据各个因子生成能全面精确地描述图中各个数据点的多个侧面的表征。另外，根据本专利技术上述实施例的学习分离表征的图卷积神经网络构建装置还可以具有以下附加的技术特征：进一步地，在本专利技术的一个实施例中，还包括：叠加模块，用于叠加多个所述每一个卷积层，以利用预设的高阶拓扑结构。进一步地，在本专利技术的一个实施例中，每个侧面对应一个已被分离的因子。进一步地，在本专利技术的一个实施例中，所述输入图的因子为复数多个。本专利技术附加的方面和优点将在下面的描述中部分给出，部分将从下面的描述中变得明显，或通过本专利技术的实践了解到。附图说明本专利技术上述的和/或附加的方面和优点从下面结合附图对实施例的描述中将变得明显和容易理解，其中：图1为根据本专利技术一个实施例的学习分离表征的图卷积神经网络构建方法的流程图；图2为根据本专利技术一个具体实施例的学习分离表征的图卷积神经网络构建方法的流程图；图3为根据本专利技术一个实施例的学习分离表征的图卷积神经网络构建装置的结构示意图。具体实施方式下面详细描述本专利技术的实施例，所述实施例的示例在附图中示出，其中自始至终相同或类似的标号表示相同或类似的元件或具有相同或类似功能的元件。下面通过参考附图描述的实施例是示例性的，旨在用于解释本专利技术，而不能理解为对本专利技术的限制。下面参照附图描述根据本专利技术实施例提出的学习分离表征的图卷积神经网络构建方法及装置，首先将参照附图描述根据本专利技术实施例提出的学习分离表征的图卷积神经网络构建方法。图1是本专利技术一个实施例的学习分离表征的图卷积神经网络构建方法的流程图。如图1所示，该学习分离表征的图卷积神经网络构建方法包括以下步骤：在步骤S101中，对输入图的形成过程进行概率建模，生成描述多个可能导致一条边形成的潜在因子的概率生成模型。可以理解的是，如图2所示，首先，对输入的图的形成过程进行概率建模，建立的概率生成模型描述了多个可能导致一条边形成的潜在因子。具体地，基于概率生成模型的推理模块，在给定图中一个节点和它的邻居后，能够无监督地发现推动各条边形成的潜在因子、并将邻居们根据其对应的因子进行归类或分离。其中，在本专利技术的一个实施例中，输入图的因子为复数多个。在步骤S102中，通过概率生成模型在每一个卷积层中使用可导的动态EM算法进行推理，获取每个节点的各个邻居所对应的因子，以将邻居节点分离。可以理解的是，如图2所示，在每一个卷积层中，根据建立的概率生成模型，使用可导的动态EM算法进行推理，推理一个节点的各个邻居所对应的因子，据此将邻居们分离。在步骤S103中，在每一个卷积层中，根据不同因子的邻居节点构建出描述每个节点不同侧面的表征。可以理解的是，如图2所示，在每一个卷积层中，根据上一步中得到的不同因子对应的邻居，构建出描述该节点不同侧面的表征，每个侧面对应一个已被分离的因子。具体地，本专利技术实施例提出了一种新的应用了因子分离技术的图卷积层，该图卷积层能够给每个节点输出能精确全面地描述其多个侧面的表征。也就是说，本专利技术实施例图卷积层应用了因子分离技术，在进行因子分离后，应用多个图卷积操作来并行、独立地处理和各个因子对应的信息。其中，因子分离技术是在给定图中一个节点和它的邻居后，一种能够无监督地发现推动各条边形成的潜在因子、并将邻居们根据其对应的因子进行归类/分离的技术。在具体应用时，在推荐系统中，自动生成更为全面精确的用户画像等；并在推荐系统中，用户、物品等个体之间的交互自然而然地形成了一张图，通过本专利技术实施例的方法能够更加精确全面地捕捉到用户的复数多个兴趣点或需求点。进一步地，在本专利技术的一个实施例中，本专利技术实施例的方法还包括：叠加多个每一个卷积层，以利用预设的高阶拓扑结构。可以理解的是，本专利技术实施例通过叠加多个上述的卷积层，来有效利用图中的高阶拓扑结构。具体地，本专利技术实施例提出了一种叠加了多个上述新的图卷积层的图卷积神经网络，能够进一步地利用图中的高阶拓扑结构等额外信息。也就是说，本专利技术实施例的图卷积神经网络叠加了多个上述新的图卷积层，以进一步地利用图中的高阶拓扑结构等额外信息。综上，本专利技术实施例主要针对在进行图卷积时试图发现并分离多个因子所带来的挑战，提出针对性的措施，以期改进后的图卷积神经网络能输出能更精确、全面描述数据点的表征：(1)挑战一：图数据通常不会标注出推动一条边形成的具体因子。本专利技术实施例为此提出一种基于概率生成模型的无监督技术，以推理出每条边对应的潜在因子。(2)挑战二：如何在进行复杂推理的同时保持图神经本文档来自技高网...

【技术保护点】
1.一种学习分离表征的图卷积神经网络构建方法，其特征在于，包括：对输入图的形成过程进行概率建模，生成描述多个可能导致一条边形成的潜在因子的概率生成模型；通过所述概率生成模型在每一个卷积层中使用可导的动态EM算法进行推理，获取每个节点的各个邻居所对应的因子，以将邻居节点分离；在所述每一个卷积层中，根据不同因子的所述邻居节点构建出描述所述每个节点不同侧面的表征。

【技术特征摘要】
1.一种学习分离表征的图卷积神经网络构建方法，其特征在于，包括：对输入图的形成过程进行概率建模，生成描述多个可能导致一条边形成的潜在因子的概率生成模型；通过所述概率生成模型在每一个卷积层中使用可导的动态EM算法进行推理，获取每个节点的各个邻居所对应的因子，以将邻居节点分离；在所述每一个卷积层中，根据不同因子的所述邻居节点构建出描述所述每个节点不同侧面的表征。2.根据权利要求1所述的学习分离表征的图卷积神经网络构建方法，其特征在于，还包括：叠加多个所述每一个卷积层，以利用预设的高阶拓扑结构。3.根据权利要求1所述的学习分离表征的图卷积神经网络构建方法，其特征在于，每个侧面对应一个已被分离的因子。4.根据权利要求1所述的学习分离表征的图卷积神经网络构建方法，其特征在于，所述输入图的因子为复数多个。5.一种学习分离表征的图卷积...

【专利技术属性】
技术研发人员：朱文武，马坚鑫，崔鹏，
申请(专利权)人：清华大学，
类型：发明
国别省市：北京,11