基于Transformer的材料多维属性预测方法技术

本发明专利技术公开了基于Transformer的材料多维属性预测方法，属于Transformer网络技术领域，包括如下步骤：S1：制定主任务模块；S2：制定辅助任务模块；S3：利用辅助任务模块生成更多可用数据，作为主任务模块的输入；S4：利用多元高斯模型学习元素组合与属性之间的关系；S5：利用基于软量化权重的Transformer模型学习元素之间的相互关系；S6：主任务模块与辅助任务模块进行联合训练。本发明专利技术融合了不同属性、不同元素之间的相互作用，在不依赖结构信息的情况下完成对材料属性的多维度预测，鲁棒性强、准确度高。

【技术实现步骤摘要】

本专利技术属于材料发现，具体涉及一种基于transformer的材料多维属性预测方法。

技术介绍

1、现有技术中，大多数材料属性预测模型为单维度属性预测，针对某些在不同条件下会发生改变的属性，该类模型效率低且未能捕捉预测属性潜在的变化关系，多维属性预测方法(hclmp)提供了一种多维属性预测思路，但对多维属性预测的预测能力仍有待提高。

2、材料的多维属性预测旨在同时预测多个目标域的相关值，这种方法可以对多个目标使用独立的单属性预测模型，然而传统的材料多维属性预测效率低且不能很好地利用输入元素与属性的功能映射之间的关系。

3、在目标领域内可供的训练数据往往不足以开展大规模训练，hclmp等模型所提出的迁移学习方法是一种比较好的方法，但对迁移学习模块的训练以及生成的伪数据存在优化空间。

4、transformer已经成为自然语言处理任务的首选，也被用于化学或生物学应用。本专利技术将化合物视为系统，将元素视为该系统内的小项，学习化合物内元素间的相互作用。本专利技术利用transformer模型，利用transformer的注意本文档来自技高网...

【技术保护点】

1.基于Transformer的材料多维属性预测方法，其特征在于，包括如下步骤：

2.如权利要求1所述的基于Transformer的材料多维属性预测方法，其特征在于，S1中获取待预测材料的元素组成和与预测属性相关的属性的具体流程，以及S2中获取辅助任务材料的元素组成和辅助任务材料的预测属性的具体流程均包括：通过网站获取具有元素组成信息的json文件、以及实验数据或者模拟数据的json文件，其中元素组成信息包括原子组成和化学式，实验数据或者模拟数据包括分子的基本性质、电子性质、拓扑性质以及与分子对应的材料的性质。

3.如权利要求1所述的基于Transformer的材...

【技术特征摘要】

1.基于transformer的材料多维属性预测方法，其特征在于，包括如下步骤：

2.如权利要求1所述的基于transformer的材料多维属性预测方法，其特征在于，s1中获取待预测材料的元素组成和与预测属性相关的属性的具体流程，以及s2中获取辅助任务材料的元素组成和辅助任务材料的预测属性的具体流程均包括：通过网站获取具有元素组成信息的json文件、以及实验数据或者模拟数据的json文件，其中元素组成信息包括原子组成和化学式，实验数据或者模拟数据包括分子的基本性质、电子性质、拓扑性质以及与分子对应的材料的性质。

3.如权利要求1所述的基于transformer的材料多维属性预测方法，其特征在于，s3中，利用辅助任务模块对与主任务模块中预测属性相关但是不同的属性进行预测，包括主任务模块预测光学性质，辅助任务模块预测光学相关的性质，生成的数据作为主任务模块输入数据的扩充，利用相似属性，对原有元素组合中的属性值数据进行扩充。

4.如权利要求1所述的基于transformer的材料多维属性预测方法，其特征在于，s4中的利用多元高斯模型学习元素与属性之间的关系，包括利用两个共享的协方差矩阵促使模型生成的嵌入中表现出元素组成...

【专利技术属性】
技术研发人员：金程扬，赵加坤，王啸虎，覃奕玮，
申请(专利权)人：苏州岽睿微电子科技有限公司，
类型：发明
国别省市：