【技术实现步骤摘要】
一种基于时间序列Transformer的海水表层温度预测方法
[0001]本专利技术涉及海水表层温度领域,尤其涉及一种基于时间序列Transformer的海水表层温度预测方法。
技术介绍
[0002]海水表层温度(以下简称“海表温度”)是全球海洋
‑
大气系统中最重要的参数之一,在海洋和大气之间的能量、动力和水分交换中起关键作用。准确预测海表温度可以帮助提取海洋表面流场、锋面位置和强度,还可以有助于检测海洋生态系统和评估系统的变异性。同时,对理解全球或局地气候变化、计划各种海上活动、提前识别潜在的极端天气等科学研究和应用至关重要[1
‑
8]。
[0003]当前,海表温度预测方法主要有数值模型方法、数据驱动方法和混合模型方法三类。
[0004](1)数值模型方法
[0005]基于复杂的物理过程,数值模型方法获取大空间的平均信息建立数学模型,从大气
‑
海洋的热传递过程描述海表温度变化。主要技术有:马尔科夫模型[9,10]、规范相关分析[11]、统计预测模型[12]、季节性预报技术[13]等。由于对海表温度发生发展的机理尚不能给出清晰的物理解释,故这类模型的构建一般并不准确,且相对复杂,计算成本高,比较适合用于大范围海表温度预测。
[0006](2)数据驱动方法
[0007]绕过复杂的数理形成、演化机制,数据驱动方法从数据本身特性及内部规律出发,预测海表温度。主要方法有:支持向量机[14]、遗传算法[15]、多级向量自回归模型[16 ...
【技术保护点】
【技术特征摘要】
1.一种基于时间序列Transformer的海水表层温度预测方法,其特征在于包括以下步骤:步骤1、选取海表温度历史数据作为训练验证数据集,作高斯归一化处理,并按照时间先后顺序,以7:1的数据量比例划分训练集和验证集;步骤2、对时间序列Transformer编码器输入、解码器输入、输出标签进行设置;步骤3、对时间序列Transformer编码器输入进行时序嵌入操作;步骤4、经过嵌入的编码器输入经过第一个编码器层中的多头注意力层、前馈神经网络层、以及残差连接和层归一化操作,得到第一个编码器层输出;如果编码器有N个编码器层其中,N>1且是整数,第N
‑
1个编码器层输出作为第N个编码器层输入进行级联堆叠得到编码器输出;步骤5、对时间序列Transformer解码器输入进行时序嵌入操作;步骤6、经过嵌入的解码器输入经过第一个解码器层中的遮挡多头注意力层、残差连接和层归一化操作,得到的结果和编码器的输出一并通过第一个解码器层中的多头注意力层、前馈神经网络层、以及残差连接和层归一化操作,得到第一个解码器层输出;如果解码器有M个解码器层,其中,M>1且是整数,第M
‑
1个解码器层输出经过第M个解码器层中的遮挡多头注意力层、残差连接和层归一化操作,得到的结果和编码器输出一并通过第M个解码器层中的多头注意力层、前馈神经网络层、以及残差连接和层归一化操作,最终得到解码器输出;步骤7、解码器的输出经过一个线性的全连接层得到时间序列Transformer网络输出,然后和海表温度观测进行比较,得到误差后向传播,微调网络权重和偏置;步骤8、训练验证结束后,时间序列Transformer网络输出经过尺度逆变换,得到最终预测值。2.如权利要求1所述的一种基于时间序列Transformer的海水表层温度预测方法,其特征在于:步骤1中,高斯归一化处理后的训练验证数据集符合标准正态分布,高斯归一化处理的公式为:其中,y和y
*
分别表示高斯归一化前后海表温度数据,y
mean
表示高斯归一化前海表温度数据平均值,y
std
表示高斯归一化前海表温度数据标准差。3.如权利要求1所述的一种基于时间序列Transformer的海水表层温度预测方法,其特征在于:步骤2中,根据时间先后顺序,先将观测长度为seq_len的训练验证数据作为时间序列Transformer编码器输入,再将时间序列Transformer编码器输入中,从后往前数长度为label_len的训练验证数据和预测长度pred_len个0进行连接作为时间序列Transformer解码器输入,最后将观测长度seq_len之后的观测长度pred_len的训练验证数据作为输出标签。4.如权利要求1所述的一种基于时间序列Transformer的海水表层温度预测方法,其特征在于:步骤3和步骤5中,对时间序列Transformer编码器输入和解码器输入的嵌入操作主要包括:(1)对编码器输入和解码器输入分别使用固定位置嵌入来保留局部上下文信息,具体
为:为:其中,pos表示位置,i表示维度,d
model
表示嵌...
【专利技术属性】
技术研发人员:戴昊,雷发美,商少平,张奚宁,林锐,章伟婕,
申请(专利权)人:厦门大学,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。