化合物性质预测模型训练方法、装置、设备以及存储介质制造方法及图纸

本公开提供了一种化合物性质预测模型训练方法、装置、设备、存储介质以及程序产品，涉及人工智能技术领域，尤其涉及深度学习技术领域。该方法的一具体实施方式包括：获取无标注化合物数据集；利用无标注化合物数据集对图神经网络进行预训练，得到预训练后的图神经网络；获取多个有标注化合物数据集，其中，一个有标注化合物数据集标注化合物的一种性质；利用多个有标注化合物数据集多预训练后的图神经网络进行多任务训练，得到化合物性质预测模型，其中，化合物性质预测模型用于预测化合物的多种性质。该实施方式提出了一种多阶段化合物预训练和知识迁移的训练框架，显著提升模型效果。效果。效果。

【技术实现步骤摘要】
化合物性质预测模型训练方法、装置、设备以及存储介质


[0001]本公开涉及人工智能
，尤其涉及深度学习


技术介绍

[0002]基于长期的药物研发实践，研究人员发现候选化合物在后期临床实验中的表现很大程度上与其在人体内的吸收(Absorption)、分布(Distribution)、代谢(Metabolism)、排泄(Excretion)和毒性(Toxicity)相关。因此，准确地预测候选化合物的ADMET性质能够帮助在药物研发早期快速筛选潜在成功率更高地化合物，从而节省新药研发周期并降低研究成本。
[0003]ADMET预测平台的核心是算法模型，现有的ADMET预测平台通常会应用某种深度学习模型。然而，深度学习模型需要获取大量有标注训练数据进行有监督训练，若训练数据不足会限制模型的效果提升。

技术实现思路

[0004]本公开实施例提出了一种化合物性质预测模型训练方法、装置、设备、存储介质以及程序产品。
[0005]第一方面，本公开实施例提出了一种化合物性质预测模型训练方法，包括：获取无标注化合物数据集；利用无标注化合物数据集对图神经网络进行预训练，得到预训练后的图神经网络；获取多个有标注化合物数据集，其中，一个有标注化合物数据集标注化合物的一种性质；利用多个有标注化合物数据集多预训练后的图神经网络进行多任务训练，得到化合物性质预测模型，其中，化合物性质预测模型用于预测化合物的多种性质。
[0006]第二方面，本公开实施例提出了一种化合物性质预测模型训练装置，包括：第一获取模块，被配置成获取无标注化合物数据集；第一训练模块，被配置成利用无标注化合物数据集对图神经网络进行预训练，得到预训练后的图神经网络；第二获取模块，被配置成获取多个有标注化合物数据集，其中，一个有标注化合物数据集标注化合物的一种性质；第二训练模块，被配置成利用多个有标注化合物数据集多预训练后的图神经网络进行多任务训练，得到化合物性质预测模型，其中，化合物性质预测模型用于预测化合物的多种性质。
[0007]第三方面，本公开实施例提出了一种电子设备，包括：至少一个处理器；以及与至少一个处理器通信连接的存储器；其中，存储器存储有可被至少一个处理器执行的指令，指令被至少一个处理器执行，以使至少一个处理器能够执行如第一方面中任一实现方式描述的方法。
[0008]第四方面，本公开实施例提出了一种存储有计算机指令的非瞬时计算机可读存储介质，计算机指令用于使计算机执行如第一方面中任一实现方式描述的方法。
[0009]第五方面，本公开实施例提出了一种计算机程序产品，包括计算机程序，计算机程序在被处理器执行时实现如第一方面中任一实现方式描述的方法。
[0010]本公开实施例提供的化合物性质预测模型训练方法，提出了一种多阶段化合物预
训练和知识迁移的训练框架。一方面，通过自监督训练任务，在大规模无标注化合物数据集上预训练模型，使得模型学习化合物结构中隐含的物理化学知识；一方面，通过多任务训练，使得模型学习更广泛的领域知识，实现知识迁移。从而显著提升模型效果。
[0011]应当理解，本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征，也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。
附图说明
[0012]通过阅读参照以下附图所作的对非限制性实施例所作的详细描述，本公开的其它特征、目的和优点将会变得更明显。附图用于更好地理解本方案，不构成对本公开的限定。其中：
[0013]图1是根据本公开的化合物性质预测模型训练方法的一些实施例的流程图；
[0014]图2是根据本公开的化合物性质预测模型训练方法的又一些实施例的流程图；
[0015]图3是根据本公开的化合物性质预测模型训练方法的另一些实施例的流程图；
[0016]图4是三阶段的化合物预训练及属性预测框架；
[0017]图5是根据本公开的化合物性质预测模型训练装置的一些实施例的结构示意图；
[0018]图6是用来实现本公开实施例的化合物性质预测模型训练方法的电子设备的框图。
具体实施方式
[0019]以下结合附图对本公开的示范性实施例做出说明，其中包括本公开实施例的各种细节以助于理解，应当将它们认为仅仅是示范性的。因此，本领域普通技术人员应当认识到，可以对这里描述的实施例做出各种改变和修改，而不会背离本公开的范围和精神。同样，为了清楚和简明，以下的描述中省略了对公知功能和结构的描述。
[0020]需要说明的是，在不冲突的情况下，本公开中的实施例及实施例中的特征可以相互组合。下面将参考附图并结合实施例来详细说明本公开。
[0021]图1示出了根据本公开的化合物性质预测模型训练方法的一些实施例的流程100。该化合物性质预测模型训练方法包括以下步骤：
[0022]步骤101，获取无标注化合物数据集。
[0023]在本实施例中，化合物性质预测模型训练方法的执行主体可以获取无标注化合物数据集。
[0024]其中，无标注化合物数据集中可以包括大规模未标注标签的化合物数据。化合物数据可以包括但不限于化合物的空间结构、拓扑、序列表达式、化学知识等等。
[0025]步骤102，利用无标注化合物数据集对图神经网络进行预训练，得到预训练后的图神经网络。
[0026]在本实施例中，上述执行主体可以利用无标注化合物数据集对图神经网络(GNN，Graph Neural Network)进行预训练，得到预训练后的图神经网络。
[0027]通常，可以借鉴在自然语言处理及图像处理领域流行的预训练技术，设计多种可以应用于化合物图结构上的自监督任务，并在大规模的无标注化合物数据集上对图神经网络进行预训练，使得模型能够学习到化合物结构本身所蕴含的物理化学知识。
[0028]在一些实施例中，上述执行主体可以首先基于无标注化合物数据集中的无标注化合物数据，得到自监督信息；然后将无标注化合物数据作为输入，将自监督信息作为输出，对图神经网络进行预训练，得到预训练后的图神经网络。其中，自监督信息可以是从化合物数据中挖掘的自身的监督信息。通过自监督信息可以设计多种应用于化合物图结构上的自监督任务，并在大规模的无标注化合物数据集上对图神经网络进行预训练，使得图神经网络能够学习到化合物结构本身所蕴含的物理化学知识。这里，自监督信息可以包括但不限于：化合物局部结构(Context)、化合物键长(Bond length)、化合物键角(Bond angle)、分子指纹(Fingerprints)等等，是利用现有的化学工具从化合物数据中的序列表达式中挖掘得到的。对应地，基于自监督信息设计的自监督任务可以包括但不限于：化合物局部结构预测、化合物键长预测、化合物键角预测、分子指纹预测等等。
[0029]步骤103，获取多个有标注化合物数据集。
[0030]在本实施例中，上述执行主体可以获取多个有标注化合物数据集。
[本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种化合物性质预测化合物性质预测模型训练方法，包括：获取无标注化合物数据集；利用所述无标注化合物数据集对图神经网络进行预训练，得到预训练后的图神经网络；获取多个有标注化合物数据集，其中，一个有标注化合物数据集标注化合物的一种性质；利用所述多个有标注化合物数据集多所述预训练后的图神经网络进行多任务训练，得到化合物性质预测模型，其中，所述化合物性质预测模型用于预测化合物的多种性质。2.根据权利要求1所述的方法，其中，所述方法还包括：获取目标有标注化合物数据集，其中，所述目标有标注化合物数据集标注化合物的目标性质；利用所述目标有标注化合物数据集对所述化合物性质预测模型进行精调，得到精调后的化合物性质预测模型，其中，所述精调后的化合物性质预测模型用于预测化合物的目标性质。3.根据权利要求1所述的方法，其中，所述方法还包括：利用所述多个有标注化合物数据集中的一个有标注化合物数据集对所述化合物性质预测模型进行优化，得到优化后的化合物性质预测模型，其中，所述优化后的化合物性质预测模型用于预测化合物的一种性质。4.根据权利要求3所述的方法，其中，所述方法还包括：获取目标有标注化合物数据集，其中，所述目标有标注化合物数据集标注化合物的目标性质；利用所述目标有标注化合物数据集对所述优化后的化合物性质预测模型进行精调，得到精调后的化合物性质预测模型，其中，所述精调后的化合物性质预测模型用于预测化合物的目标性质。5.根据权利要求1
‑
4中任一项所述的方法，其中，所述利用所述无标注化合物数据集对图神经网络进行预训练，得到预训练后的图神经网络，包括：基于所述无标注化合物数据集中的无标注化合物数据，得到自监督信息；将所述无标注化合物数据作为输入，将所述自监督信息作为输出，对所述图神经网络进行预训练，得到所述预训练后的图神经网络。6.根据权利要求5所述的方法，其中，所述自监督信息包括以下至少一项：化合物局部结构、化合物键长、化合物键角、分子指纹。7.根据权利要求1
‑
6中任一项所述的方法，其中，所述多个有标注化合物数据集包括以下至少两项：标注药物的吸收分布代谢排泄毒性ADMET中的性质的化合物数据集、标注生物活性的化合物数据集、标注化合物理化属性的化合物数据集。8.一种化合物性质预测化合物性质预测模型训练装置，包括：第一获取模块，被配置成获取无标注化合物数据集；第一训练模块，被配置成利用所述无标注化合物数据集对图神经网络进行预训练，得到预训练后的图神经网络；第二获取模块，被配置成获取多个有标注化合物数据集，其中，一个有标注化合物数据
集标注化合物的一种性质；第二训练模块，被配置成利用所述多个有标注化合物数据集多所述...

【专利技术属性】
技术研发人员：张善卓，刘荔行，黄越阳，何东龙，方晓敏，张肖男，王凡，何径舟，
申请(专利权)人：北京百度网讯科技有限公司，
类型：发明
国别省市：