用于处理图形数据的神经网络制造技术

方法、系统和设备，包括在计算机存储介质上编码的计算机程序，用于：接收表示输入图形的图形数据，所述输入图形包括通过边连接的多个顶点；从所述图形数据生成表示所述输入图形中的每个顶点的特性的顶点输入数据和表示所述输入图形中的顶点对的特性的配对输入数据；以及使用神经网络来生成所述输入图形的次序不变特征，其中所述神经网络包括：第一子网络，所述第一子网络被配置成从所述顶点输入数据和所述配对输入数据生成所述顶点输入数据的第一替选表示和所述配对输入数据的第一替选表示；以及组合层，所述组合层被配置成接收输入替选表示并且处理所述输入替选表示以生成所述次序不变特征。

【技术实现步骤摘要】
【国外来华专利技术】用于处理图形数据的神经网络
本说明书涉及用于处理图形数据的神经网络。
技术介绍
神经网络是机器学习模型，所述机器学习模型采用模型的一个或多个层来为接收到的输入生成输出(例如，分类)。一些神经网络除了包括输出层之外还包括一个或多个隐藏层。每个隐藏层的输出被用作网络中的下一层(即，网络的下一个隐藏层或输出层)的输入。网络的每个层依照一组相应的参数的当前值从接收到的输入生成输出。
技术实现思路
一般而言，本说明书描述了用于处理图形数据的神经网络。一般而言，本说明书中所描述的主题的一个创新方面可用包括以下动作的方法加以具体实现：接收表示输入图形的图形数据，所述输入图形包括通过边连接的多个顶点；从所述图形数据生成表示所述输入图形中的每个顶点的特性的顶点输入数据和表示所述输入图形中的顶点的配对的特性的配对输入数据；以及使用神经网络来生成所述输入图形的次序不变特征，其中所述神经网络包括：第一子网络，所述第一子网络被配置成从所述顶点输入数据和所述配对输入数据生成所述顶点输入数据的第一替选表示和所述配对输入数据的第一替选表示；以及组合层，所述组合层被配置成接收输入替选表示并且处理所述输入替选表示以生成所述次序不变特征。实施方式可包括以下特征中的一个或多个。通过一个或多个神经网络层来处理所述次序不变特征以生成所述图形数据的分类。所述图形数据表示分子，以及其中所述图形中的每个顶点是所述分子中的原子元素并且每条边是所述分子中的两个原子元素之间的键的类型。处理所述次序不变特征以确定通过所述图形数据所表示的所述分子与特定靶分子结合的可能性。每个顶点的特性包括下列中的至少一种或多种：通过所述顶点所表示的原子元素、通过所述顶点所表示的所述原子元素是氢键供体还是受体、所述原子元素的手性、所述原子元素的形式电荷、所述原子元素的杂化状态、或者此原子元素为其一部分的环的大小的集合。顶点的每个配对的特性包括下列中的至少一种或多种：通过所述顶点所表示的所述原子元素之间的键的类型或者通过所述顶点所表示的所述原子元素之间的路径的长度。所述多个层还包括：一个或多个其它子网络，所述一个或多个其它子网络共同地处理所述第一替选表示以生成所述配对输入数据的第二替选表示和所述顶点数据的第二替选表示并且将所述第二替选表示作为输入提供给所述组合层。所述第一子网络被配置成针对所述输入图形中的每个顶点：对所述顶点的所述顶点输入数据应用第一顶点函数以生成第一顶点输出；对包括所述顶点的每个配对的所述配对输入数据应用第二顶点函数以生成所述每个配对的相应输出；将所述每个配对的相应输出与交换函数组合以生成第二顶点输出；以及从所述第一顶点输出和所述第二顶点输出生成所述顶点输入数据的所述第一替选表示。所述第一子网络被配置成针对所述输入图形中的顶点的每个配对：对所述配对的所述配对输入数据应用第一配对函数以生成第一配对输出；从所述配对中的顶点的所述顶点输入数据生成第二配对输出；以及从所述第一配对输出和所述第二配对输出生成所述配对的所述配对输入数据的所述第一替选表示。生成所述第二配对输出包括：将非交换函数应用于作为所述非交换函数的第一输入的所述配对中的第一顶点的顶点输入数据和作为所述非交换函数的第二输入的所述配对中的第二顶点的顶点输入数据以生成第一非交换输出；将所述非交换函数应用于作为所述非交换函数的第一输入的所述第二顶点的顶点输入数据和作为所述非交换函数的第二输入的所述第一顶点的顶点输入数据以生成第二非交换输出；以及对所述第一非交换输出和所述第二非交换输出应用交换函数以生成所述第二配对输出。从所述图形数据生成表示所述图形中的顶点的三元组的特性的三元组输入数据；其中多个层的所述第一子网络被配置成生成所述三元组输入数据的第一替选表示；以及其中所述第一子网络还被配置成针对顶点的每个配对：对所述配对为三元组的第一元素和第三元素的每个三元组的所述三元组输入数据应用第二配对函数以生成所述每个三元组的相应输出；将所述每个三元组的相应输出与交换函数组合以生成第三配对输出；以及其中生成所述配对输入数据的所述第一替选表示包括从所述第一配对输出、所述第二配对输出和所述第三配对输出生成所述配对输入数据的所述第一替选表示。从所述图形数据生成表示所述图形中的顶点的三元组的特性的三元组输入数据；其中所述第一子网络还被配置成，针对所述输入图形中的顶点的每个三元组：对所述三元组的所述三元组输入数据应用第一三元组函数以生成第一三元组输出；从所述三元组中的顶点对的所述配对输入数据生成第二三元组输出；以及从所述第一三元组输出和所述第二三元组输出生成所述三元组输入数据的第一替选表示。生成所述第二三元组输出包括：识别包括所述三元组中的第一顶点和第二顶点的第一对顶点；识别包括所述三元组中的所述第一顶点和第三顶点的第二对顶点；识别包括所述第二顶点和所述第三顶点的第三对顶点；将非交换函数应用于作为所述非交换函数的第一输入的所述第一对顶点的配对输入数据、作为所述非交换函数的第二输入的所述第二对顶点的配对输入数据和作为所述非交换函数的第三输入的所述第三对顶点的配对输入数据以生成第一非交换输出；将所述非交换函数应用于作为所述非交换函数的第一输入的所述第三对顶点的配对输入数据、作为所述非交换函数的第二输入的所述第二对顶点的配对输入数据和作为所述非交换函数的第三输入的所述第一对顶点的配对输入数据以生成第二非交换输出；以及对所述第一非交换输出和所述第二非交换输出应用交换函数以生成所述第二三元组输出。可实现本说明书中所描述的主题的特定实施例以实现以下优点中的一个或多个。神经网络可从表示通过边连接的顶点的无向图的输入数据生成分类。通常，将图形转换为要由神经网络处理的数据需要以特定次序对所述图形进行排序。即使图形的元素保持相同，一些神经网络也可为图形的不同序列输出不同的分类。本说明书中所描述的神经网络允许以任何次序对顶点的图形进行排序，同时仍然具有相同的神经网络输出分类。例如，神经网络可接收表示分子的图形并且有效地处理该图形以生成输出，例如，定义该分子将与特定靶分子结合的可能性的分类。作为使网络的输出图形的元素在被表示为输入时的排序无关的结果，神经网络必须学习更少的参数，这导致表现更好且使用更简单的模型。应当了解，可以任何方便的形式实现各方面。例如，各方面和实施方式可以通过可以被承载在适当的载体介质上的适当的计算机程序来实现，所述适当的载体介质可以是有形载体介质(例如磁盘)或无形载体介质(例如通信信号)。各方面也可使用适合的设备来实现，所述设备可以采取运行计算机程序的可编程计算机的形式。在以下附图和描述中阐述了本说明书的主题的一个或多个实施例的细节。主题的其它特征、方面和优点将根据说明书、附图和权利要求书变得显而易见。附图说明图1图示用于处理图形数据的示例系统。图2是用于使用神经网络来处理图形数据的示例方法的流程图。图3是用于生成顶点输入数据的替选表示的示例方法的流程图。图4是用于生成配对输入数据的替选表示的示例方法的流程图。图5是用于生成配对输出的示例方法的流程图。图6是用于生成另一配对输出的示例方法的流程图。图7是用于生成三元组输入数据的替选表示的示例方法的流程图。图8是用于生成三元组输出的示例方法的流程图。在各个附图中相同的附图标记和名本文档来自技高网...

【技术保护点】
一种方法，包括：接收表示输入图形的图形数据，所述输入图形包括通过边连接的多个顶点；从所述图形数据生成表示所述输入图形中的每个顶点的特性的顶点输入数据和表示所述输入图形中的顶点的配对的特性的配对输入数据；以及使用神经网络来生成所述输入图形的次序不变特征，其中所述神经网络包括：第一子网络，所述第一子网络被配置成从所述顶点输入数据和所述配对输入数据生成所述顶点输入数据的第一替选表示和所述配对输入数据的第一替选表示；以及组合层，所述组合层被配置成接收输入替选表示并且处理所述输入替选表示以生成所述次序不变特征。

【技术特征摘要】
【国外来华专利技术】2015.09.01 US 14/842,7741.一种方法，包括：接收表示输入图形的图形数据，所述输入图形包括通过边连接的多个顶点；从所述图形数据生成表示所述输入图形中的每个顶点的特性的顶点输入数据和表示所述输入图形中的顶点的配对的特性的配对输入数据；以及使用神经网络来生成所述输入图形的次序不变特征，其中所述神经网络包括：第一子网络，所述第一子网络被配置成从所述顶点输入数据和所述配对输入数据生成所述顶点输入数据的第一替选表示和所述配对输入数据的第一替选表示；以及组合层，所述组合层被配置成接收输入替选表示并且处理所述输入替选表示以生成所述次序不变特征。2.根据权利要求1所述的方法，还包括：通过一个或多个神经网络层来处理所述次序不变特征以生成所述图形数据的分类。3.根据权利要求1或2所述的方法，其中所述图形数据表示分子，以及其中所述图形中的每个顶点是所述分子中的原子元素并且每条边是所述分子中的两个原子元素之间的键的类型。4.根据权利要求3所述的方法，还包括：处理所述次序不变特征以确定通过所述图形数据所表示的所述分子与特定靶分子结合的可能性。5.根据权利要求3或4所述的方法，其中，每个顶点的特性包括下列中的至少一个或多个：通过所述顶点所表示的原子元素、通过所述顶点所表示的所述原子元素是氢键供体还是受体、所述原子元素的手性、所述原子元素的形式电荷、所述原子元素的杂化状态或者此原子元素为其一部分的环的大小的集合。6.根据权利要求3、4或5所述的方法，其中，顶点的每个配对的特性包括下列中的至少一个或多个：通过所述顶点所表示的所述原子元素之间的键的类型或者通过所述顶点所表示的所述原子元素之间的路径的长度。7.根据任一前述权利要求所述的方法，其中，所述神经网络还包括：一个或多个其它子网络，所述一个或多个其它子网络共同地处理所述第一替选表示以生成所述配对输入数据的第二替选表示和所述顶点数据的第二替选表示并且将所述第二替选表示作为输入提供给所述组合层。8.根据任一前述权利要求所述的方法，其中，所述第一子网络被配置成针对所述输入图形中的每个顶点：对所述顶点的所述顶点输入数据应用第一顶点函数以生成第一顶点输出；对包括所述顶点的每个配对的所述配对输入数据应用第二顶点函数以生成每个配对的相应输出；将每个配对的相应输出与交换函数组合以生成第二顶点输出；以及从所述第一顶点输出和所述第二顶点输出生成所述顶点输入数据的所述第一替选表示。9.根据任一前述权利要求所述的方法，其中，所述第一子网络被配置成针对所述输入图形中的顶点的每个配对：对所述配对的所述配对输入数据应用第一配对函数以生成第一配对输出；从所述配对中的顶点的所述顶点输入数据生成第二配对输出；以及从所述第一配对输出和所述第二配对输出生成所述配对的所述配对输入数据的所述第一替选表示。10.根据权利要求9所述的方法，其中，生成所述第二配对输出包括：将非交换函数应用于作为所述非交换函数的第一输入的、所述配...

【专利技术属性】
技术研发人员：帕特里克·F·赖利，马克·伯恩德尔，
申请(专利权)人：谷歌有限责任公司，
类型：发明
国别省市：美国,US