System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind()
【技术实现步骤摘要】
本专利技术涉及数字信息处理,具体为一种基于transformer模型的日冕指数预测方法。
技术介绍
1、随着科技的不断发展,人类对宇宙的了解也越来越深入,日冕是太阳大气中最外层的一层,其温度高达100万度以上。
2、日冕是一种自然现象,是指太阳大气的最外层(其内部分别为色球层和光球层),厚度达到几百万公里以上。日冕是太阳大气的最外层,从色球边缘向外延伸到几个太阳半径处,甚至更远。分内冕、中冕和外冕,内冕只延伸到离太阳表面约1.3倍太阳半径处;外冕则可达到几个太阳半径,甚至更远。日冕由很稀薄地完全电离地等离子体组成,其中主要是质子、高度电离的离子和高速的自由电子。日冕温度是太阳表面温度的数百倍。
3、传统对日冕指数预防方法中采用的模型通常为时序预测模型,如长短期记忆网络模型(lstm模型),其在某些情况下,特别是当时间序列中存在非常长期的依赖关系时,长短期记忆网络模型可能仍然会面临难以捕捉到的问题,导致模型对于未来较远的日冕指数变化趋势预测能力不足;传统时序预测模型中,在处理高维、高复杂度的时间序列数据时,存在过拟合的风险;对超参数及对序列长度均较为敏感;lstm模型通常需要大量的历史数据来进行训练,以便捕捉时间序列中的模式和趋势,如果可用的数据量有限,模型可能无法充分学习数据中的特征,导致预测性能不佳;如果日冕指数预测问题涉及多个相关变量,lstm模型可能面临处理多变量序列的困难,需要额外的特征工程和模型设计来有效整合不同的输入信息。
技术实现思路
1、本专
2、为实现上述目的,一种基于transformer模型的日冕指数预测方法,包括以下步骤:
3、s1、数据准备:获取并准备太阳活动相关的时间序列数据;
4、s2、特征提取:对准备好的时间序列数据进行特征提取;
5、s3、构建transformer模型:根据预测任务的复杂程度和数据特点,设计并构建transformer模型;
6、s4、训练模型:使用准备好的数据集对构建的transformer模型进行训练;
7、s5、模型评估:训练完成后,使用验证集或测试集评估模型的性能。
8、作为优选,所述步骤s1中太阳活动相关的时间序列数据包括太阳日冕指数的历史数据、太阳黑子数和太阳风速,所述数据通过太阳观测站、太阳卫星和天文观测组织采集。
9、作为优选,所述步骤s2中的特征提取包括:
10、时空信息转换:将原始的时空数据转换成适合模型处理的形式;
11、多变量特征提取:太阳活动受多种因素影响,需要提取多变量特征,包括太阳黑子数量、太阳风速和太阳辐射,对于每个变量,提取统计特征、频域特征和时域特征;
12、空间相关特征提取:特征提取包括对空间相关性的建模,使用空间滤波器或者图卷积神经网络来提取太阳表面不同区域之间的关联特征;
13、动态特征建模:太阳活动具有动态变化,提取时间序列的趋势、周期性和季节性特征,利用这些信息建模太阳活动的演化过程;
14、空间-时间特征交互:在神经网络中利用图卷积神经网络或者空间-时间注意力机制来提取空间和时间上的特征交互来捕捉时空关系。
15、作为优选,所述步骤s3中transformer模型包括编码器和解码器部分,其中编码器用于将输入序列编码成隐藏表示,解码器用于生成预测结果,模型的层数、隐藏单元数和其他超参数需要根据数据进行调整和优化。
16、作为优选,所述步骤s5中的模型评估中,使用均方误差(mse)、均方根误差(rmse)或平均绝对误差(mae)来评估模型的准确性、泛化能力和稳健性;
17、均方误差(mean squared error,mse):均方误差是预测值与真实值之间差异的平方的平均值,它衡量了模型预测值与真实值之间的平均偏差,mse值越小表示模型的拟合效果越好;
18、均方根误差(root mean squared error,rmse):均方根误差是均方误差的平方根,它衡量了模型预测值与真实值之间的平均偏差,并且与原始数据具有相同的量纲,rmse值越小表示模型的预测效果越好;
19、平均绝对误差(mean absolute error,mae):平均绝对误差是预测值与真实值之间差异的绝对值的平均值,mae衡量了模型预测值与真实值之间的平均偏差程度,与mse和rmse不同,它不考虑误差的平方,更能反映出预测值与真实值的实际差距。
20、作为优选,所述步骤s1中包括对获取到的太阳活动相关的时间序列数据进行采集、对采集到的数据进行归一化处理及对处理后的数据进行数据分割,将数据分割为训练集、验证集和测试集。
21、作为优选,所述步骤s1中的归一化处理方法为:
22、通过[-1,1]的归一化算法,对采集的太阳活动相关的时间序列数据进行处理,具体公式为:
23、
24、其中,xsca为存放归一化处理后的列表,为均值,xmax为最大值,为了不损失值负数的信号数据,采用的归一化的范围为[-1,1]。
25、作为优选,所述步骤s4中对构建的transformer模型进行训练的方式为:
26、通过adamw优化算法,以及mseloss,不断更新学习率,保存每10次迭代的模型,并进行测试;具体过程为:
27、选取50%的太阳活动相关的时间序列数据的数据集作为训练集,40%的数据作为测试集,并以40000*1的矩阵存储下来,其余的数据作为测试集以同样的形式存储下来;
28、将训练集不断地放入模型训练,并设定epoch为100,batch_size为100;
29、保存每迭代10个周期的训练模型,以及其的均方误差。
30、作为优选,所述步骤s4中具体为:
31、a.提取测试集数据,将其分别输入保存好的10个模型中,进行预测测试;
32、b.分别输出其预测波形以及其的均方误差;
33、c.通过比较均方误差以及预测图,找到最好的预测结果,通过图像输出。
34、与现有技术相比,本专利技术的有益效果是:
35、1、transformer模型的自注意力机制使得模型能够并行化处理输入序列,在训练和推理时能够更有效地利用计算资源,加快模型训练和预测的速度。
36、2、transformer模型的自注意力机制允许模型直接捕捉序列中的全局依赖关系,能够更好地处理长距离的依赖关系,有利于对日冕指数等长期趋势的预测。
37、3、transformer模型能够同时考虑输入序列中各个位置的信息,不受序列长度的影响,能够更好地捕捉时间序列中的局部和全局模式,有助于提高日冕指数预测的准确性。
38、4、transformer本文档来自技高网...
【技术保护点】
1.一种基于Transformer模型的日冕指数预测方法,其特征在于,包括以下步骤:
2.根据权利要求1所述的一种基于Transformer模型的日冕指数预测方法,其特征在于:所述步骤S1中太阳活动相关的时间序列数据包括太阳日冕指数的历史数据、太阳黑子数和太阳风速,所述数据通过太阳观测站、太阳卫星和天文观测组织采集。
3.根据权利要求1所述的一种基于Transformer模型的日冕指数预测方法,其特征在于:所述步骤S2中的特征提取包括:
4.根据权利要求1所述的一种基于Transformer模型的日冕指数预测方法,其特征在于,所述步骤S3中Transformer模型包括编码器和解码器部分,其中编码器用于将输入序列编码成隐藏表示,解码器用于生成预测结果,模型的层数、隐藏单元数和其他超参数需要根据数据进行调整和优化。
5.根据权利要求1所述的一种基于Transformer模型的日冕指数预测方法,其特征在于:所述步骤S5中的模型评估中,使用均方误差(MSE)、均方根误差(RMSE)或平均绝对误差(MAE)来评估模型的准确性、泛化能力和稳健
6.根据权利要求1所述的一种基于Transformer模型的日冕指数预测方法,其特征在于:所述步骤S1中包括对获取到的太阳活动相关的时间序列数据进行采集、对采集到的数据进行归一化处理及对处理后的数据进行数据分割,将数据分割为训练集、验证集和测试集。
7.根据权利要求6所述的一种基于Transformer模型的日冕指数预测方法,其特征在于:所述步骤S1中的归一化处理方法为:
8.根据权利要求1所述的一种基于Transformer模型的日冕指数预测方法,其特征在于,所述步骤S4中对构建的Transformer模型进行训练的方式为:
9.根据权利要求1所述的一种基于Transformer模型的日冕指数预测方法,其特征在于,所述步骤S4中具体为:
...【技术特征摘要】
1.一种基于transformer模型的日冕指数预测方法,其特征在于,包括以下步骤:
2.根据权利要求1所述的一种基于transformer模型的日冕指数预测方法,其特征在于:所述步骤s1中太阳活动相关的时间序列数据包括太阳日冕指数的历史数据、太阳黑子数和太阳风速,所述数据通过太阳观测站、太阳卫星和天文观测组织采集。
3.根据权利要求1所述的一种基于transformer模型的日冕指数预测方法,其特征在于:所述步骤s2中的特征提取包括:
4.根据权利要求1所述的一种基于transformer模型的日冕指数预测方法,其特征在于,所述步骤s3中transformer模型包括编码器和解码器部分,其中编码器用于将输入序列编码成隐藏表示,解码器用于生成预测结果,模型的层数、隐藏单元数和其他超参数需要根据数据进行调整和优化。
5.根据权利要求1所述的一种基于transformer模型的日冕指数预测方法...
【专利技术属性】
技术研发人员:邓林华,沈渤翔,向南彬,许婷婷,毕以,
申请(专利权)人:中国科学院云南天文台,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。