System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind() 一种基于多源异构数据的时间序列预测方法技术_技高网
当前位置: 首页 > 专利查询>同济大学专利>正文

一种基于多源异构数据的时间序列预测方法技术

技术编号:40763859 阅读:3 留言:0更新日期:2024-03-25 20:14
本发明专利技术涉及一种基于多源异构数据的时间序列预测方法,包括以下步骤:根据设定的预测目标设定关联目标,收集相关多源异构时序数据;以所述关联目标为预测结点,基于所述时序数据提取数据关联图;选择相应的数据处理模型对所述时序数据进行处理获得预测数据;利用基于transformer架构的时序预测模型进行分析获得时序预测结果,包括:针对不同的数据类型选择相应的编码器将所述预测数据转化为相应的状态向量;构建引入动态融合机制及注意力机制的解码器对所述状态向量进行解码获得所述时序预测结果。本发明专利技术采用双阶段模型作为框架,综合利用多源异构数据进行数据挖掘和动态融合,能够全面、高效、准确的进行时间序列预测。

【技术实现步骤摘要】

本专利技术涉及时间序列分析,特别是涉及一种基于多源异构数据的时间序列预测方法


技术介绍

1、时间序列预测作为一种重要的数据分析技术,旨在通过对过去观测值的分析和学习,推导出未来时间点的值。时间序列数据是在规则时间间隔内收集的一系列观测值的序列,通常用于描述随时间变化的现象。经典的应用场景有1)智能交通管理:预测城市交通流量、拥堵情况和交通事故的发生,可以利用来自不同源的数据,如交通摄像头、gps轨迹数据、天气信息和社交媒体数据。2)医疗保健预测:利用来自患者健康记录、生物传感器、医疗设备的数据,预测患者病情发展趋势,提前发现并干预慢性病发生的可能性。3)社交媒体分析:利用社交媒体上的用户行为数据、话题热度等信息,预测社会事件的发展趋势、产品市场反馈等。

2、传统的时间序列方法以统计分析方法为主,通过对历史时间序列数据过程进行假设和分析来进行预测。通过arima(自回归差分移动平均模型)、ar(自回归模型)等回归模型进行分析和预测。这些时间序列分析方法有一些重要缺陷,如1)模型严重依赖指标的选择,而指标选择通常是人工完成的,如果没有大量相关的储备知识,很难对模型进行优化。2)这些假设的随机过程并不总是与现实世界中时间序列数据的实际变化情况相匹配。3)这些模型只能考虑几个指标,因为它们的推理复杂度通常随着指标数量的增长而呈指数增长。因此,这些时间序列分析方法在泛化性,准确性,高效性等方面的表现不尽人意。


技术实现思路

1、本专利技术所要解决的技术问题是提供一种基于多源异构数据的时间序列预测方法,能够全面、高效、准确的进行时间序列预测。

2、本专利技术解决其技术问题所采用的技术方案是:提供一种基于多源异构数据的时间序列预测方法,包括以下步骤:

3、根据设定的预测目标设定关联目标,收集相关多源异构时序数据;

4、以所述关联目标为预测结点,基于所述时序数据提取数据关联图;

5、根据所述时序数据的数据类型选择相应的数据处理模型对所述时序数据进行处理获得预测数据;

6、利用基于编码器-解码器架构的时序预测模型对所述预测数据进行分析获得时序预测结果,包括:

7、针对不同的数据类型选择相应的编码器将所述预测数据转化为相应的状态向量;

8、构建引入动态融合机制及注意力机制的解码器对所述状态向量进行解码获得所述时序预测结果。

9、进一步的,所述基于所述时序数据提取数据关联结构图,包括:

10、基于所述时序数据,利用无监督聚类算法对所述预测结点进行聚类,捕捉数据关联信息;

11、基于所述数据关联信息构建数据关联图。

12、进一步的,所述构建引入动态融合机制及注意力机制的解码器对所述状态向量进行解码,包括:

13、针对不同的数据类型利用门控网络动态选择相应的计算权重对所述状态向量进行融合获得融合向量;

14、利用时间循环神经网络层对所述融合向量进行解码获得初始预测结果;

15、通过图注意力网络,根据所述数据关联信息将不同所述关联目标的所述初始预测结果进行融合,获得所述时序预测结果。

16、进一步的,所述时间循环神经网络层为lstm。

17、进一步的,所述图注意力网络为gat。

18、进一步的,所述预测数据包括文本预测数据、数值预测数据和混合预测数据。

19、进一步的,所述根据所述时序数据的数据类型选择相应的数据处理模型对所述时序数据进行处理获得预测数据,包括:

20、利用大语言模型对所述时序数据中的文本数据进行内容提取,并利用语言表示模型对提取到的内容数据进行语义提取获得文本预测数据;

21、判断所述时序数据中数值数据的维度是否高于设定值,如果高于设定值则利用dense函数进行处理并将处理后的所述数值数据作为数值预测数据,否则直接将所述数值数据作为数值预测数据;

22、利用大语言模型判断所述时序数据中的图片是否与所述预测目标相关,如果无关则舍弃,否则提取与图片相关的文本内容并利用语言表示模型对提取到的内容数据进行语义提取获得混合预测数据。

23、进一步的,所述针对不同的数据类型选择相应的编码器将所述预测数据转化为相应的状态向量,包括:

24、利用第一数据编码器将所述数值预测数据的状态向量转化为第一状态向量;

25、利用第二数据编码器对所述第一状态向量与所述文本预测数据进行注意力混合操作,并将混合获得的向量转化为第二状态向量;

26、利用第三数据编码器对所述第一状态向量与所述混合预测数据进行注意力混合操作,并将混合获得的向量转化为第三状态向量。

27、进一步的,所述利用第一数据编码器将所述数值预测数据的状态向量转化为第一状态向量,包括:

28、所述数值预测数据通过掩码多头自注意力机制模块进行特征提取输出第一编码向量;

29、所述第一编码向量与所述数值预测数据一同接入残差连接和归一化层输出第二编码向量;

30、所述第二编码向量接入前馈神经网络进行感知输出第三编码向量;

31、所述第三编码向量与第二编码向量一同接入残差连接和归一化层输出第一状态向量。

32、进一步的,所述注意力混合操作包括:

33、将输入的所述状态向量通过线性变换后进行混合注意力运算。

34、有益效果

35、由于采用了上述的技术方案,本专利技术与现有技术相比,具有以下的优点和积极效果:

36、(1)本专利技术通过交叉注意力机制和编码器堆叠,实现了不同类型数据之间的有效信息融合,使得模型能够更好地捕捉不同数据类型之间的相关性。使用了混合编码器结构,使得数值型数据和其他类型的数据都能够得到充分的建模和融合。同时引入了掩码机制,限制了模型在注意力计算中的关注范围,确保模型在预测某个时刻时只使用其之前的信息,增强了模型的泛化性和对时间序列的建模能力。

37、(2)本专利技术使用了混合专家(moe)机制,通过对不同部分数据的动态融合,提高了模型对不同数据特征的适应性。moe机制使得模型能够在不同时间步选择性地融合各部分数据的信息,从而更好地适应数据的变化和动态性。

38、(3)本专利技术通过无监督算法,生成图结构,同时,通过引入图注意力网络,对lstm的输出进行增强。图注意力网络能够动态地调整节点之间的关注程度,更灵活地捕捉图结构中的复杂关系。采用了图注意力网络对时间序列进行增强,使得模型能够更好地理解序列中节点之间的关联,从而提高预测的准确性。

本文档来自技高网...

【技术保护点】

1.一种基于多源异构数据的时间序列预测方法,其特征在于,包括以下步骤:

2.根据权利要求1所述的方法,其特征在于,所述基于所述时序数据提取数据关联结构图,包括:

3.根据权利要求2所述的方法,其特征在于,所述构建引入动态融合机制及注意力机制的解码器对所述状态向量进行解码获得所述时序预测结果,包括:

4.根据权利要求3所述的方法,其特征在于,所述时间循环神经网络层为LSTM。

5.根据权利要求3所述的方法,其特征在于,所述图注意力网络为GAT。

6.根据权利要求1所述的方法,其特征在于,所述预测数据包括文本预测数据、数值预测数据和混合预测数据。

7.根据权利要求6所述的方法,其特征在于,所述根据所述时序数据的数据类型选择相应的数据处理模型对所述时序数据进行处理获得预测数据,包括:

8.根据权利要求6所述的方法,其特征在于,所述针对不同的数据类型选择相应的编码器将所述预测数据转化为相应的状态向量,包括:

9.根据权利要求8所述的方法,其特征在于,所述利用第一数据编码器将所述数值预测数据的状态向量转化为第一状态向量,包括:

10.根据权利要求8所述的方法,其特征在于,所述注意力混合操作包括:

...

【技术特征摘要】

1.一种基于多源异构数据的时间序列预测方法,其特征在于,包括以下步骤:

2.根据权利要求1所述的方法,其特征在于,所述基于所述时序数据提取数据关联结构图,包括:

3.根据权利要求2所述的方法,其特征在于,所述构建引入动态融合机制及注意力机制的解码器对所述状态向量进行解码获得所述时序预测结果,包括:

4.根据权利要求3所述的方法,其特征在于,所述时间循环神经网络层为lstm。

5.根据权利要求3所述的方法,其特征在于,所述图注意力网络为gat。

6.根据权利要求1所述的方法,其特征在于,所述...

【专利技术属性】
技术研发人员:郝泳涛董宇欣
申请(专利权)人:同济大学
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1