System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind() 基于局部分段的时间序列预测方法技术_技高网

基于局部分段的时间序列预测方法技术

技术编号:40955662 阅读:2 留言:0更新日期:2024-04-18 20:32
本申请公开了一种基于局部分段的时间序列预测方法,属于人工智能技术领域,该方法包括:原始时间序列数据经过数据划分和预处理,得到第二训练集;将第二训练集输入至所构建的包括依次连接的局部分段模块、Transformer注意力模块、分段拍平模块和全连接层的原始预测模型中进行训练,得到目标预测模型;将待预测的时间序列数据输入到目标预测模型中,得到目标预测结果。该方法可以将注意力计算的单个时间点对应的时间序列数据之间的相关性转换为序列段间的相似性,在更精准地把握历史数据变化的同时,还能保留时间段内的局部语义信息,减少了注意力计算的空间复杂度,从而使获得的预测结果更为精准。

【技术实现步骤摘要】

本申请涉及人工智能,特别涉及一种基于局部分段的时间序列预测方法


技术介绍

1、时间序列是按照时间顺序排列的数据,反映一段时间内单个或多个变量的变化情况,其具有时间依赖性和相关性。时间序列预测可以揭示观测变量的变化规律和趋势,为精细化管理和智能决策提供数据支持。时间序列预测作为人工智能技术的重要应用,可以助力生产制造、经济金融、资源监测等行业的发展。

2、目前,较多采用的基于循环神经网络(rnn)的长短时记忆网络(lstm)等模型,已经在诸多实际应用中展现出多步预测的良好性能。然而,受限于模型结构,循环神经网络通常不适于并行训练且存在梯度消失问题,导致捕获序列长度受限;基于卷积神经网络(cnn)的时间卷积网络(tcn)解决了并行训练的问题,但由于依靠堆叠隐藏层来获得更大的感受野,导致对内存的需求巨大。因此,亟需一种时间序列预测方法解决上述问题。


技术实现思路

1、鉴于此,本申请提供一种基于局部分段的时间序列预测方法,可以将注意力计算的单个时间点对应的时间序列数据之间的相关性转换为序列段间的相似性,在更精准地把握历史数据变化的同时,还能保留时间段内的局部语义信息,减少了注意力计算的空间复杂度,从而使获得的预测结果更为精准。

2、具体而言,包括以下的技术方案:

3、本申请实施例提供了一种基于局部分段的时间序列预测方法,所述方法包括:

4、对原始时间序列数据进行数据划分,得到第一训练集、第一验证集和第一测试集;

5、对所述第一训练集、所述第一验证集和所述第一测试集进行预处理,得到预处理后的第二训练集、第二验证集和第二测试集;

6、构建原始预测模型,所述原始预测模型包括依次连接的局部分段模块、transformer注意力模块、分段拍平模块和全连接层;

7、将所述第二训练集输入至所述原始预测模型中进行训练,得到目标预测模型;

8、将待预测的时间序列数据输入到目标预测模型中,得到目标预测结果。

9、在一些实施例中,对所述第一训练集、所述第一验证集和所述第一测试集进行预处理,得到预处理后的第二训练集、第二验证集和第二测试集,包括:

10、提取所述第一训练集、所述第一验证集和所述第一测试集的特征图;

11、计算所述第一训练集、所述第一验证集和所述第一测试集中每个通道的数据均值和方差;

12、基于所述数据均值和方差对所述特征图进行归一化处理,得到第二训练集、第二验证集和第二测试集。

13、在一些实施例中,所述将所述第二训练集输入至所述原始预测模型中进行训练,得到目标预测模型,包括:

14、在局部分段模块中对所述第二训练集进行可重叠时间序列段的分割处理,得到分割数据;

15、对所述分割数据进行位置编码,得到包括位置信息的位置编码数据;

16、在transformer注意力模块中对所述位置编码数据进行自注意力计算处理,得到解码输出数据;

17、在分段拍平模块中对所述解码输出数据进行拍平处理,得到一维拍平数据;

18、将所述一维拍平数据输入到所述全连接层中,得到中间训练结果和中间预测模型;

19、根据所述中间训练结果、平均绝对误差 mae和纳什相关系数 nse,计算损失函数值;

20、响应于所述损失函数值满足条件,停止训练,得到所述目标预测模型。

21、在一些实施例中,所述transformer注意力模块包括编码器和解码器,transformer注意力模块具有transformer架构,编码器用于计算自注意力并将结果输入至所述解码器,所述解码器用于计算交叉注意力;

22、所述编码器包括第一多头自注意力层、第一残差连接层和第一归一化层,所述解码器包括第二多头自注意力层、多头交叉注意力层、第二残差连接层和第二归一化层。

23、在一些实施例中,所述在局部分段模块中对第二训练集进行可重叠时间序列段的分割处理,得到分割数据,包括:

24、将所述第二训练集中的时间序列数据进行重叠或不重叠的局部分段,得到分割数据;

25、根据如下公式计算分段数量 n:

26、;

27、其中, i表示的是分段处理后单个时间序列数据的特殊标识, i的取值为( 0, n), p表示的分段长度, n为分段数量, l表示的是所述第二训练集中的时间序列数据的总长度, s为两个连续分段之间步幅的不重叠区域。

28、在一些实施例中,根据如下公式,对所述分割数据进行位置编码,得到包括位置信息的位置编码数据:

29、;

30、;

31、其中,表示的是所述位置编码数据中的偶数项,表示的是所述位置编码数据中的奇数项, pos表示的是所述位置编码数据在所述时间序列数据中的位置,表示的是的维度。

32、在一些实施例中,对于固定长度的间距 k,根据如下公式,得到与的相对位置关系:

33、;

34、。

35、在一些实施例中,所述解码输出数据根据如下公式得到:

36、;

37、;

38、;

39、;

40、;

41、其中,表示的是所述解码输出数据,表示的是归一化指数函数,表示的是所述位置编码数据的初始分量, q、 k、 v分别为所述位置编码数据的查询分量、键值分量和数值分量,、、分别表示的是所述查询分量对应的权值矩阵、所述键值分量对应的权值矩阵和所述数值分量对应的权值矩阵,表示的是所述键值分量的转置分量,表示的是所述位置编码数据的维度, linear表示的是线性函数,表示的是经过正标准化处理后的所述位置编码数据。

42、在一些实施例中,分别根据如下公式,计算所述平均绝对误差 mae和所述纳什相关系数 nse:

43、;

44、;

45、其中, m表示的是所述中间训练结果中预测周期的长度,表示的是所述中间训练结果中对时间序列数据在第r时刻的预测值,表示的是所述中间训练本文档来自技高网...

【技术保护点】

1.基于局部分段的时间序列预测方法,其特征在于,所述方法包括:

2.根据权利要求1所述的基于局部分段的时间序列预测方法,其特征在于,对所述第一训练集、所述第一验证集和所述第一测试集进行预处理,得到预处理后的第二训练集、第二验证集和第二测试集,包括:

3.根据权利要求1或2所述的基于局部分段的时间序列预测方法,其特征在于,所述将所述第二训练集输入至所述原始预测模型中进行训练,得到目标预测模型,包括:

4.根据权利要求3所述的基于局部分段的时间序列预测方法,其特征在于,所述Transformer注意力模块包括编码器和解码器,所述编码器用于计算自注意力并将结果输入至所述解码器,所述解码器用于计算交叉注意力;

5.根据权利要求3所述的基于局部分段的时间序列预测方法,其特征在于,所述在局部分段模块中对第二训练集进行可重叠时间序列段的分割处理,得到分割数据,包括:

6.根据权利要求5所述的基于局部分段的时间序列预测方法,其特征在于,根据如下公式,对所述分割数据进行位置编码,得到包括位置信息的位置编码数据:

7.根据权利要求6所述的基于局部分段的时间序列预测方法,其特征在于,对于固定长度的间距k,根据如下公式,得到与的相对位置关系:

8.根据权利要求6所述的基于局部分段的时间序列预测方法,其特征在于,所述解码输出数据根据如下公式得到:

9.根据权利要求3所述的基于局部分段的时间序列预测方法,其特征在于,分别根据如下公式,计算所述平均绝对误差MAE和所述纳什相关系数NSE:

...

【技术特征摘要】

1.基于局部分段的时间序列预测方法,其特征在于,所述方法包括:

2.根据权利要求1所述的基于局部分段的时间序列预测方法,其特征在于,对所述第一训练集、所述第一验证集和所述第一测试集进行预处理,得到预处理后的第二训练集、第二验证集和第二测试集,包括:

3.根据权利要求1或2所述的基于局部分段的时间序列预测方法,其特征在于,所述将所述第二训练集输入至所述原始预测模型中进行训练,得到目标预测模型,包括:

4.根据权利要求3所述的基于局部分段的时间序列预测方法,其特征在于,所述transformer注意力模块包括编码器和解码器,所述编码器用于计算自注意力并将结果输入至所述解码器,所述解码器用于计算交叉注意力;

5.根据权利要求3所述的基于局...

【专利技术属性】
技术研发人员:王涛杨斌赵影贺业凤
申请(专利权)人:山东捷瑞数字科技股份有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1