一种时间顺序增强的Transformer时间序列预测方法及系统技术方案

本发明专利技术公开了一种时间顺序增强的Transformer时间序列预测方法及系统，方法包括：通过序列分解模块对原序列进行分解，得到趋势项部分和周期项部分；通过线性模型对趋势项部分进行建模，得到第一预测结果，并保留原序列中的时间顺序信息；通过交叉注意力机制对周期项部分进行建模，得到第二预测结果；通过损失约束模块生成周期‑趋势预测对；通过自适应机制动态调整第一预测结果和第二预测结果，得到周期‑趋势预测对的最优组合；根据周期‑趋势预测对的最优组合，将第一预测结果和第二预测结果合并，得到最终的预测结果。本发明专利技术不仅保留了原序列的时间顺序信息，还提升了基于Transformer的时间序列预测模型的预测准确性。

【技术实现步骤摘要】

本专利技术属于机器学习、深度学习和时间序列预测，尤其涉及一种时间顺序增强的transformer时间序列预测方法及系统。

技术介绍

1、时间序列预测是一种重要的分析和预测方法，广泛应用于金融、经济、医疗、环境监测等领域。传统的时间序列预测方法主要包括自回归模型(ar)、移动平均模型(ma)、自回归移动平均模型(arma)、自回归积分移动平均模型(arima)和季节性自回归积分移动平均模型(sarima)。这些方法在处理线性和季节性数据方面表现良好，能够通过差分操作处理非平稳时间序列，并在一定程度上捕捉时间序列的周期性特征。随着深度学习技术的发展，递归神经网络(rnn)、长短期记忆网络(lstm)、门控循环单元(gru)、卷积神经网络(cnn)和transformer等新方法逐渐应用于时间序列预测。其中，transformer模型通过基于注意力机制的架构，摆脱了传统rnn的限制，能够处理更长的时间依赖关系，并行计算效率更高，逐渐在时间序列预测中得到了广泛应用。

2、然而，现有技术在处理复杂模式和长时间依赖关系时仍存在一些局限性。传统的时间序列预测本文档来自技高网...

【技术保护点】

1.一种时间顺序增强的Transformer时间序列预测方法，其特征在于，包括以下步骤：

2.根据权利要求1所述的方法，其特征在于，

3.根据权利要求1所述的方法，其特征在于，

4.根据权利要求1所述的方法，其特征在于，

5.根据权利要求1所述的方法，其特征在于，

6.根据权利要求1所述的方法，其特征在于，

7.一种时间顺序增强的Transformer时间序列预测系统，其特征在于，包括：

8.一种计算机装置，包括存储器、处理器及存储在存储器上的计算机程序，其特征在于，所述处理器执行所述计算机程序以实现权利...

【技术特征摘要】

1.一种时间顺序增强的transformer时间序列预测方法，其特征在于，包括以下步骤：

2.根据权利要求1所述的方法，其特征在于，

3.根据权利要求1所述的方法，其特征在于，

4.根据权利要求1所述的方法，其特征在于，

5.根据权利要求1所述的方法，其特征在于，

6.根据权利要求1所述的方法，其特征在于，

7.一种时间顺序增强的transformer时间序列预测系统，其特征在...

【专利技术属性】
技术研发人员：秦继伟，李强，
申请(专利权)人：新疆大学，
类型：发明
国别省市：