一种时间序列预测方法、装置、电子设备及可读存储介质制造方法及图纸

本发明专利技术提供了一种时间序列预测方法、装置、电子设备及可读存储介质，该方法在实现是先获取任务的历史时间序列数据；再建立神经网络；神经网络包括初始化层、随机微分方程层和预测层，所述的随机微分方程层中设置有随机微分方程；然后利用任务的训练数据集，训练所述的神经网络，以得到训练好的神经网络；再将任务的历史时间序列数据输入训练好的神经网络，通过神经网络获取未来数据的均值和方差，最后获取未来数据的预测区间。由于本发明专利技术通过随机微分方程层建立了均值和方差的联系，因此保证了均值和方差同时收敛至最优的值，获得了更加可靠的预测区间。可靠的预测区间。可靠的预测区间。

【技术实现步骤摘要】
一种时间序列预测方法、装置、电子设备及可读存储介质


[0001]本专利技术涉及机器学习
，具体而言，涉及一种时间序列预测方法、装置、电子设备及可读存储介质。

技术介绍

[0002]时间序列预测任务是机器学习中普遍存在的一类任务，在金融、工业、制造、交通等各种场景中都被广泛应用，如用电量预测、股票分析、交通流量预测、天气预报等。
[0003]近年来随着深度学习技术突飞猛进的发展，深度神经网络已经成为十分重要的机器学习工具，在许多任务上都超过了人类水平。因此，发展出了一些时间序列预测方法，但是，现有的用于时间序列预测的神经网络还存在问题，往往会做出一些不可信赖和过度置信的预测。
[0004]而且，当机器学习系统部署到真实世界中的许多实际应用中，仅仅点预测是不满足需求的，对于预测任务，我们需要更加可靠准确的预测区间，来满足用户决策时的需求。

技术实现思路

[0005]有鉴于此，本专利技术的目的在于提供一种时间序列预测方法、装置及可读存储介质。
[0006]本专利技术是这样实现的：第一方面，本专利技术提供了一种时间序列预测方法，包括以下步骤：获取任务的历史时间序列数据；建立神经网络；所述的神经网络包括初始化层、随机微分方程层和预测层，所述的随机微分方程层中设置有随机微分方程；所述的初始化层用于提取历史时间序列数据的初始化特征映射；所述的随机微分方程层用于利用初始值为初始化特征映射的随机微分方程获取历史序列数据的均值特征和方差特征，所述的均值特征为所述的随机微分方程的解，所述的方差特征为所述的随机微分方程与解对应的扩散系数，所述的预测层用于根据均值特征和方差特征预测未来数据的均值和方差；利用任务的训练数据集，训练所述的神经网络，以得到训练好的神经网络；将任务的历史时间序列数据输入训练好的神经网络，通过神经网络获取未来数据的均值和方差；根据未来数据的均值和方差，获取未来数据的预测区间。
[0007]具体的，所述的时间序列预测方法中，所述的随机微分方程如下：；其中，表示随机微分方程的漂移系数；表示随机微分方程的扩散系数；表示神经网络第t个隐藏层的状态或输出；表示漂移项的神经网络参数；表示扩散项的神经网络参数；在所述的随机微分方程表示t时刻的布朗运动状态。
[0008]具体的，所述的时间序列预测方法中，所述的随机微分方程采用欧拉法迭代求解，
欧拉法迭代求解的表示公式为：；其中，表示第次迭代，表示第次迭代时随机微分方程的解，表示第次迭代时随机微分方程的解，表示从标准正态分布采样的一个随机变量。
[0009]在一些实施例中，利用任务的训练数据集，训练所述的神经网络时，所述的神经网络的损失函数由未来数据的均值和方差组成，保证未来数据的均值和方差同时收敛到最优的点，表示公式为：的点，表示公式为：表示神经网络输出的未来数据的均值；代表神经网络输出的未来数据的方差；表示需最小化的负对数似然损失函数；表示常数项；是一组真实的样本点数据，其中是训练数据集中神经网络的输入数据，是训练数据集中与神经网络输出的未来数据相对应的真实数据；代表样本点的个数，。
[0010]优选的，在一些实施例中，所述的时间序列预测方法还包括以下步骤，根据未来数据的均值和方差获取不确定度，所述的不确定度用于表征神经网络输出的预测区间的可靠程度。
[0011]在一些实施例中，所述的时间序列预测方法所述的根据未来数据的均值和方差，获取未来数据的预测区间包括以下步骤：根据未来数据的均值和方差，获取未来数据的预测分布；根据未来数据的预测分布，获取未来数据的预测区间。
[0012]优选的，所述的获取任务的历史时间序列数据包括以下步骤：采集任务的实时时间序列数据；对所述的实时时间序列数据进行归一化处理，得到归一化的时间序列数据；利用滑动窗口算法将归一化的时间序列数据转化为任务的历史时间序列数据。
[0013]在一些实施例中，还提供了一种时间序列预测装置，所述的装置包括：第一获取模块，用于获取任务的历史时间序列数据；神经网络模块，所述的神经网络包括初始化单元、随机微分方程单元和预测单元，所述的随机微分方程单元中设置有随机微分方程；所述的初始化单元，用于提取历史时间序列数据的初始化特征映射；所述的随机微分方程单元，用于利用初始值为初始化特征映射的随机微分方程获取历史序列数据的均值特征和方差特征，所述的均值特征为所述的随机微分方程的解，所述的方差特征为所述的随机微分方程与解对应的扩散系数；所述的预测单元用于根据均值特征和方差特征预测未来数据的均值和方差；训练模块，所述的训练模块用于利用任务的训练数据集，训练所述的神经网络，以
得到训练好的神经网络；输入模块，用于将将任务的历史时间序列数据输入训练好的神经网络；第二获取模块，用于通过神经网络获取未来数据的均值和方差；第三获取模块，根据未来数据的均值和方差，获取未来数据的预测区间。
[0014]在一些实施例中，还提供了一种电子设备，包括存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序，所述处理器执行所述计算机程序时实现所述的时间序列预测方法的步骤。
[0015]在一些实施例中，还提供一种可读存储介质，所述可读存储介质上存储有计算机程序，所述计算机程序被处理器运行时执行所述的时间序列预测方法的步骤。
[0016]本专利技术的有益效果主要在于：本专利技术所述的时间序列预测方法，建立的一个相对简单的神经网络模型，无需计算后验分布，训练过程所需要的计算资源少，所建立的网络模型数目少，训练过程快，计算代价低；在神经网络中设置了随机微分方程层，通过随机微分方程建立了均值和方差的相互作用的关系，从而使得随机微分方程层输出的均值特征和方差特征之间的相互联系的，预测层根据均值特征和方差特征优化得到的未来数据的均值和方差之间也形成了密切的联系，神经网络训练过程中，待预测的未来数据的均值和方差能够同时收敛至对彼此都最优的点，扩散项也模拟了现实中的干扰和扰动，因此，预测层输出的未来数据的均值和方差更加确定且更加可靠，所产生的未来的数据的预测区间精度更高、可靠更高。
附图说明
[0017]为了更清楚地说明本专利技术实施例的技术方案，下面将对实施例中所需要使用的附图作简单地介绍，应当理解，以下附图仅示出了本专利技术的某些实施例，因此不应被看作是对范围的限定，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他相关的附图。
[0018]图1为本专利技术实施例所提供的一种时间序列预测方法基本流程图；图2为本专利技术实施例所建立的神经网络的架构图；图3为本专利技术实施例所述的训练神经网络以得到训练好的神经网络的基本流程图；图4为本专利技术实施例所述的获取任务的历史时间序列数据的基本流程图；图5为本专利技术实施例的根据未来数据的均值和方差获取未来数据的预测区间的基本流程图；图6为本专利技术实施例所述的时间序列预测方法得到的pick up数据集的95%置信度的预测区间示意图；图7为本专利技术实施例中pick up数据集的校准损失评估示意图；图8为本专利技术实施例所述的本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种时间序列预测方法，其特征在于，包括以下步骤：获取任务的历史时间序列数据；建立神经网络；所述的神经网络包括初始化层、随机微分方程层和预测层，所述的随机微分方程层中设置有随机微分方程；所述的初始化层用于提取历史时间序列数据的初始化特征映射；所述的随机微分方程层用于利用初始值为初始化特征映射的随机微分方程获取历史序列数据的均值特征和方差特征，所述的均值特征为所述的随机微分方程的解，所述的方差特征为所述的随机微分方程与解对应的扩散系数，所述的预测层用于根据均值特征和方差特征预测未来数据的均值和方差；利用任务的训练数据集，训练所述的神经网络，以得到训练好的神经网络；将任务的历史时间序列数据输入训练好的神经网络，通过神经网络获取未来数据的均值和方差；根据未来数据的均值和方差，获取未来数据的预测区间。2.根据权利要求1所述的时间序列预测方法，其特征在于，所述的随机微分方程如下：；其中，表示随机微分方程的漂移系数；表示随机微分方程的扩散系数；表示神经网络第t个隐藏层的状态或输出；表示漂移项的神经网络参数；表示扩散项的神经网络参数；在所述的随机微分方程表示t时刻的布朗运动状态。3.根据权利要求2所述的时间序列预测方法，其特征在于，所述的随机微分方程采用欧拉法迭代求解，欧拉法迭代求解的表示公式为：；其中，表示第次迭代，表示第次迭代时随机微分方程的解，表示第次迭代时随机微分方程的解，表示从标准正态分布采样的一个随机变量。4.根据权利要求1所述的时间序列预测方法，其特征在于，利用任务的训练数据集，训练所述的神经网络时，所述的神经网络的损失函数由未来数据的均值和方差组成，保证未来数据的均值和方差同时收敛到最优的点，表示公式为：来数据的均值和方差同时收敛到最优的点，表示公式为：表示神经网络输出的未来数据的均值；代表神经网络输出的未来数据的方差；表示需最小化的负对数似然损失函数；表示常数项；是一组真实的样本点数据，其中是训练数据集中神经网络的输入数据，是训练数据集中与神经网络输出的未来数据相对应的真实数据；代表样本点的个数，。
5.根据权利要求1所述的...

【专利技术属性】
技术研发人员：ꢀ七四专利代理机构，
申请(专利权)人：北京瑞莱智慧科技有限公司，
类型：发明
国别省市：