System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind() 一种基于多任务学习的非晶合金材料性能预测方法与系统技术方案_技高网
当前位置: 首页 > 专利查询>上海大学专利>正文

一种基于多任务学习的非晶合金材料性能预测方法与系统技术方案

技术编号:41287585 阅读:8 留言:0更新日期:2024-05-11 09:36
本发明专利技术公开一种基于多任务学习的非晶合金材料性能预测方法与系统,涉及材料信息学领域。该方法包括:根据预测目标构建任务集;根据任务集重复执行多任务学习的步骤,直到多任务学习模型收敛;多任务学习的步骤包括:采用特征提取器对样本数据进行特征提取,获得每个任务的专有特征信息;利用专家混合网络对样本数据进行特征提取获得M个共享特征信息;专有特征信息与共享特征信息融合;并根据融合特征信息进行多任务预测,获得每个任务的预测结果;根据预测结果更新多任务学习模型的参数。本发明专利技术融合任务专有特征信息和共享特征信息,加强了模型的泛化能力和可解释性,并采用多任务学习的方式,提升了预测难度较大的性能参数的预测精度。

【技术实现步骤摘要】

本专利技术涉及材料信息学领域,特别是涉及一种基于多任务学习的非晶合金材料性能预测方法与系统


技术介绍

1、随着大块非晶合金的广泛研究,这种新型高性能金属材料的出色性能如高强度、高硬度、耐腐蚀、低熔点以及优异的弹性模量引发了科研界的广泛关注。然而,大块非晶合金的设计和优化由于其高维度和复杂性的组成空间仍然具有挑战性。如果采用试错法,那么实验步骤繁琐,研发周期长且浪费资源。数据驱动的机器学习算法为大块非晶合金的设计提供了一个全新思路。然而大块非晶合金的不同性能因其内在形成的机理不同导致预测难度不同,例如在同等数据量下,大块非晶合金的玻璃转化温度远低于玻璃形成能力的预测难度。对于预测难度较大的性能参数无法通过数量有限的样本实现精准预测。


技术实现思路

1、本专利技术的目的是提供一种基于多任务学习的非晶合金材料性能预测方法与系统,可提高预测难度较大的性能参数的预测精度。

2、为实现上述目的,本专利技术提供了如下方案:

3、一种基于多任务学习的非晶合金材料性能预测方法,所述方法包括:

4、根据预测目标构建任务集;所述任务集包括主任务和至少一个辅助任务,所述主任务为对预测目标进行预测的任务,所述辅助任务为对与所述预测目标相关联的性能参数进行预测的任务;

5、根据所述任务集重复执行多任务学习的步骤,直到多任务学习模型收敛;其中,所述多任务学习模型包括多个特征提取器、专家混合网络、注意力机制和回归模型;多个特征提取器分别与任务集中的多个任务一一对应

6、多任务学习的步骤包括:

7、分别采用任务集中每个任务对应的特征提取器分别对样本数据进行特征提取,获得任务集中每个任务的专有特征信息;所述样本数据为非晶合金材料的成分组成信息,所述样本数据的标签为任务集中各个任务中需要预测的非晶合金材料的性能参数;

8、分别利用专家混合网络中每个专家网络对所述样本数据进行特征提取获得m个共享特征信息;m为专家混合网络中包含的专家网络的总数;

9、利用注意力机制分别将任务集中每个任务的专有特征信息与所有的共享特征信息融合,获得任务集中每个任务的融合特征信息;

10、分别将每个任务的融合特征信息输入至回归模型,获得每个任务的预测结果;

11、根据每个任务的预测结果更新多任务学习模型的参数。

12、可选的,所述利用注意力机制分别将任务集中每个任务的专有特征信息与所有的共享特征信息融合,获得任务集中每个任务的融合特征信息,具体包括:

13、基于任务集中每个任务的专有特征信息,生成任务集中每个任务的query向量;

14、基于m个共享特征信息,生成m个key向量和m个value向量;其中,km=vm,m=1,2,…,m,km和vm分别为第m个key向量和第m个value向量;

15、分别令n=1,2,…,n,n为任务集中任务的数量,并执行如下步骤:

16、将第n个任务的query向量分别与m个key向量点乘,获得第n个任务在每个共享特征信息中的注意力权重,并组成第n个任务的注意力向量;

17、将m个value向量与第n个任务的注意力向量点乘,获得第n个任务的注意力值;

18、将第n个任务的注意力值与第n个任务的query向量进行拼接,获得第n个任务的融合特征信息。

19、可选的,将第n个任务的注意力值与第n个任务的query向量进行拼接,获得第n个任务的融合特征信息,之前还包括:

20、利用如下公式对第n个任务的query向量进行约束处理;

21、q'n=λnqn;

22、其中,q'n为第n个任务的约束处理后的query向量,qn为第n个任务的query向量,λn为第n个任务的超参数,0≤λn≤1,且当第n个任务为主任务时,λn=1。

23、可选的,在多任务学习的步骤中采用动态加权损失函数。

24、可选的,所述动态加权损失函数为:

25、

26、其中,l(t)为第t次迭代训练过程中的动态加权损失函数,wn(t)为第t次迭代训练过程中的第n个任务的权重,ln(t)为第t次迭代训练过程中的第n个任务的损失,n为任务集中任务的数量。

27、可选的,权重采用如下步骤更新:

28、基于每个任务对应的特征提取器和专家混合网络的最后一层参数,构建参数矩阵;

29、基于每个任务对应的特征提取器和专家混合网络的最后一层参数的环比变化率,构建环比变化率矩阵;

30、根据参数矩阵和环比变化率矩阵,计算由每个任务对应的特征提取器的参数的梯度变化率组成的参数向量;

31、根据所述参数向量,采用如下公式计算第t次迭代训练过程中的每个任务的损失的梯度l2范数;

32、

33、其中,为第t次迭代训练过程中的第n个任务的损失的梯度l2范数;表示第t次迭代训练过程中的第n个任务的加权后的损失在参数wn上的偏导,wn为第n个任务对应的特征提取器的参数的梯度变化率;

34、根据第t次迭代训练过程中的每个任务的损失的梯度l2范数,计算第t次迭代训练过程中的所有任务的损失的l2范数的平均值;

35、根据第t次迭代训练过程中的每个任务的损失的梯度l2范数和所有任务的损失的l2范数的平均值,利用如下公式计算第t次迭代训练过程中的所有任务规则化后的梯度;

36、

37、其中,表示第t次迭代训练过程中的所有任务规则化后的梯度,表示第t次迭代训练过程中所有任务的损失的梯度l2范数的平均值,pn(t)表示中间参数,α为用来控制变化的幅度的超参数;

38、根据第t次迭代训练过程中的所有任务规则化后的梯度,利用如下公式,更新权重;

39、

40、其中,lr是迭代训练过程中的学习率,表示第t次迭代训练过程中的所有任务规则化后的梯度在wn(t)上的偏导,wn(t+1)为第t+1次迭代训练过程中的第n个任务的权重。

41、可选的,分别采用任务集中每个任务对应的特征提取器分别对样本数据进行特征提取,获得任务集中每个任务的专有特征信息,之前还包括:

42、根据非晶合金材料的成分表达式,获得非晶合金材料的成分组成信息;

43、对所述成分组成信息进行降维,获得所述样本数据。

44、一种计算机系统,包括:存储器、处理器以存储在存储器上并可在处理器上运行的计算机程序,所述处理器执行所述计算机程序以实现上述方法的步骤。

45、一种计算机可读存储介质,其上存储有计算机程序该计算机程序被处理器执行时实现上述方法的步骤。

46、一种计算机程序产品,包括计算机程序,该计算机程序/指令被处理器执行时实现上方法的步骤。

47、根据本专利技术提供的具体实施例,本专利技术公开了以下技术效果:

48、一种基于多任本文档来自技高网...

【技术保护点】

1.一种基于多任务学习的非晶合金材料性能预测方法,其特征在于,所述方法包括:

2.根据权利要求1所述的基于多任务学习的非晶合金材料性能预测方法,其特征在于,所述利用注意力机制分别将任务集中每个任务的专有特征信息与所有的共享特征信息融合,获得任务集中每个任务的融合特征信息,具体包括:

3.根据权利要求2所述的基于多任务学习的非晶合金材料性能预测方法,其特征在于,将第n个任务的注意力值与第n个任务的Query向量进行拼接,获得第n个任务的融合特征信息,之前还包括:

4.根据权利要求1所述的基于多任务学习的非晶合金材料性能预测方法,其特征在于,在多任务学习的步骤中采用动态加权损失函数。

5.根据权利要求4所述的基于多任务学习的非晶合金材料性能预测方法,其特征在于,所述动态加权损失函数为:

6.根据权利要求5所述的基于多任务学习的非晶合金材料性能预测方法,其特征在于,权重采用如下步骤更新:

7.根据权利要求5所述的基于多任务学习的非晶合金材料性能预测方法,其特征在于,分别采用任务集中每个任务对应的特征提取器分别对样本数据进行特征提取,获得任务集中每个任务的专有特征信息,之前还包括:

8.一种计算机系统,包括:存储器、处理器以及存储在存储器上并可在处理器上运行的计算机程序,其特征在于,所述处理器执行所述计算机程序以实现权利要求1-7中任一项所述方法的步骤。

9.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,该计算机程序被处理器执行时实现权利要求1-7中任一项所述方法的步骤。

10.一种计算机程序产品,包括计算机程序,其特征在于,该计算机程序被处理器执行时实现权利要求1-7中任一项所述方法的步骤。

...

【技术特征摘要】

1.一种基于多任务学习的非晶合金材料性能预测方法,其特征在于,所述方法包括:

2.根据权利要求1所述的基于多任务学习的非晶合金材料性能预测方法,其特征在于,所述利用注意力机制分别将任务集中每个任务的专有特征信息与所有的共享特征信息融合,获得任务集中每个任务的融合特征信息,具体包括:

3.根据权利要求2所述的基于多任务学习的非晶合金材料性能预测方法,其特征在于,将第n个任务的注意力值与第n个任务的query向量进行拼接,获得第n个任务的融合特征信息,之前还包括:

4.根据权利要求1所述的基于多任务学习的非晶合金材料性能预测方法,其特征在于,在多任务学习的步骤中采用动态加权损失函数。

5.根据权利要求4所述的基于多任务学习的非晶合金材料性能预测方法,其特征在于,所述动态加权损失函数为:

6.根据权利...

【专利技术属性】
技术研发人员:钱权丁松
申请(专利权)人:上海大学
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1