一种基于多尺度共享与双前馈Transformer的长时间序列预测方法技术

一种基于多尺度共享与双前馈Transformer的长时间序列预测方法(简称L3former)，包括以下步骤：S1：对输入时序采用多尺度特征提取器生成多尺度特征；S2：将多尺度特征投影至统一嵌入空间，输入共享的Transformer编码器；S3：在编码器注意力层，通过轻量注意力矩阵学习尺度间依赖关系；S4：使用时间维度前馈学习时序特征，使用变量维度前馈学习变量特征关系；S5：将编码特征映射至预测时域输出结果。本发明专利技术提供了一种基于深度学习的时间序列预测方法，能够学习尺度特征关系，时间特征关系和变量特征关系，提升预测准确性和鲁棒性，及计算效率和资源利用率。

【技术实现步骤摘要】

本专利技术属于深度学习与长时间序列预测，具体涉及一种基于多尺度共享与双前馈transformer的长时间序列预测方法(简称l3former)，可应用于电力、能源、交通、气象、金融等多领域的长时间序列预测任务。

技术介绍

1、长时间序列预测在能源管理、气候建模等领域至关重要，但现有基于transformer的预测架构面临多重挑战：传统多尺度模型需为每个尺度构建独立子模型，导致模型复杂度随尺度数量剧增，计算复杂度显著提升；同时，这些模型难以有效融合不同尺度的时序特征(如全局趋势与局部周期)，限制了预测精度。此外，通道独立策略虽降低计算开销，却无法建模多变量间复杂相关性，在高维数据中引发严重性能退化。单尺度模型虽结构简单，但难以捕捉长时多尺度周期性依赖，无法在多领域时间序列预测任务中都取得较好的表现。亟需一种能平衡多尺度效率、变量交互与长时依赖建模的新型transformer架构。

技术实现思路

1、本专利技术的目的是为了：提出一种基于多尺度共享与双前馈transformer的长时间序列预测方法。

2、本文档来自技高网...

【技术保护点】

1.一种基于多尺度共享与双前馈Transformer的长时间序列预测方法(简称L3former)，其特征在于，包括以下步骤：

【技术特征摘要】

1.一种基于多尺度共享与双前馈transformer的长时间序...

【专利技术属性】
技术研发人员：武畅，夏玉林，杨小漫，
申请(专利权)人：电子科技大学，
类型：发明
国别省市：