基于神经微分方程的水库入库流量预测方法技术

本发明专利技术公开了基于神经微分方程的水库入库流量预测方法，涉及水库入库流量预测，其技术方案要点是：对多元水电时序数据和所述外部因素进行数据预处理；通过引入ODE求解器对随机递归神经网络中的隐藏状态的均值和方差在时间上进行连续转换，并通过重采样技术得到任意时间点连续的随机潜在变量序列；通过ODE外推网络对当前随机潜在变量进行外推学习，得到未来任意时间点对应的随机潜在变量特征；通过外部因素特征提取网络提取所述外部因素中的因素特征；将步骤S1‑S4中学习到的特征融合，并通过多层感知机依据融合结果对未来多步的水库入库流量进行预测，得到水库入库流量预测值。本发明专利技术预测结果误差小、准确度高、适应性强。

【技术实现步骤摘要】
基于神经微分方程的水库入库流量预测方法
本专利技术涉及水库入库流量预测，更具体地说，它涉及基于神经微分方程的水库入库流量预测方法。
技术介绍
人工水库是通过在河流上修建水坝，在雨季储存过多的水来调节自然水流以及将储存的水供将来使用而建立的。大型水库在优化水资源管理方面发挥着至关重要的作用，例如供水、洪水/干旱调整、水力发电最大化、水生生态系统平衡、沉积物运输以及潜在的地质灾害，潜在的地质灾害如滑坡、河流沉积等。大多数水坝根据气候变化和历史观测依据预定的规则运行。由于内在因素和外在因素都受到多种影响因素的影响，内在因素如降水、融雪，外在因素如下游水调节、农业灌溉，导致最佳的水库运营难度很大。例如，夏季应储存过多的水以用于将来的水力发电，但必须将储水能力保持在较低水平，以承受可能的洪峰。但是，排水可能会导致大量的电力收入损失，如果可以提前进行准确而可靠的入库预测，则可以从根本上减少水的收入。传统的入库预测是根据专家的知识进行操作的，通常会设计数学/物理模型来模拟流入/流出的动力学。但是，基于规则的预定义模型无法处理突发事件，例如洪水和水坝溃决，这阻止了它们在实时水库运营中的适用性。典型的机器学习方法已显示出能够拟合复杂的多元时间序列数据的能力，并提取经验知识和时变要求以改善水库的运行。例如，自回归综合移动平均线(ARIMA)家族模型已用于对水文时间序列进行建模；贝叶斯网络以及K-means聚类被用于预测年度和每月流量；其他算法，例如支持向量回归和神经网络，也已用于学习文献中水文数据的非线性和非平稳特征；而在深度学习的最新进展中，尤其是递归神经网络(RNN)，其中一些研究应用RNN进行水文时间序列建模和预测水库流量。最近的一项研究评估了几种深度自回归模型，包括RNN、长短期记忆(LSTM)和门控递归单元(GRU)，通过利用土耳其Ermenekdam水库的日常观测流量进行流量预测，发现LSTM在预测精度方面表现最佳。然而，在先前研究中虽然取得了可喜的成果，但它们仍然容易受到特殊挑战的影响。首先，由于观测结果不准确和因素的不可预测性，例如融雪和地下水，未来的水库入库具有内在的不确定性。尽管先前的努力已经将多个确定性结果组合在一起以产生概率预测或推断出预测错误的概率分布，但很少有工作关注建模不确定性观察能力和推断神经网络随机变量密度的能力；此外，水库入库预测是指一系列连续时间序列的预测，例如排水、水力发电和气候变化，而传统的神经网络是将离散时间的观测值作为输入，并未对连续动态系统进行建模。这将无法满足复杂控制系统的要求，例如水库运行，在这种情况下，需要高频反馈来保持系统的灵活性和稳定性；另外，对高鲁棒性的系统必不可少的多步预测尚未得到充分研究，例如每小时和每周。因此，如何研究设计一种基于神经微分方程的水库入库流量预测方法是我们目前急需解决的问题。
技术实现思路
为解决现有技术中的不足，本专利技术的目的是提供基于神经微分方程的水库入库流量预测方法。本专利技术的上述技术目的是通过以下技术方案得以实现的：基于神经微分方程的水库入库流量预测方法，包括以下步骤：S1：获取目标水库的多元水电时序数据和外部因素，并对所述多元水电时序数据和所述外部因素进行数据预处理；S2：将所述多元水电时序数据输入到预构建的随机递归神经网络中进行深度学习，通过引入ODE求解器对所述随机递归神经网络中的隐藏状态的均值和方差在时间上进行连续转换，并通过重采样技术得到任意时间点连续的随机潜在变量序列；S3：通过ODE外推网络对当前随机潜在变量进行外推学习，得到未来任意时间点对应的随机潜在变量特征；S4：通过外部因素特征提取网络提取所述外部因素中的因素特征；S5：将步骤S1-S4中学习到的特征融合，并通过多层感知机依据融合结果对未来多步的水库入库流量进行预测，得到水库入库流量预测值。进一步的，所述多元水电时序数据包括历史水流数据和历史电力数据；所述历史水流数据的流量维度分别为入库流量、流出流量和用于发电的水流量；所述历史电力数据的流量维度分别为总发电量、上网电量和厂用电量。进一步的，所述多元水电时序数据和所述外部因素的数据预处理过程具体为：对所述多元水电时序数据和所述外部因素进行线性归一化处理后转换到[0,1]的范围数值；以及，将所述多元水电时序数据中的每一条训练数据的序列长度划分为至少一批固定长度序列，所述固定长度序列的大小满足所述随机递归神经网络的输入训练数据需求。进一步的，若所述多元水电时序数据中存在着离群点、异常值的序列点时，则在所述数据预处理阶段通过插值法或平滑措施进行数据处理。进一步的，对所述多元水电时序数据的分布进行连续转换的具体过程为：通过所述ODE求解网络将所述多元水电时序数据中参与深度学习的目标特征的时间变量以微分形式无限细分后转换成连续变量；根据所述连续变量计算得到任意期望时间步的均值和方差，并通过初始化所述均值和所述方差对潜在变量进行连续变换选择；所述随机递归神经网络依据所述潜在变量的连续变换选择完成无限步的潜在变量的更新，得到任意时间点连续的随机潜在变量。进一步的，通过初始化所述均值μ和所述方差σ对潜在变量进行连续变换选择的具体计算公式为：其中，R表示GRU网络中的重置门；U表示GRU网络中的更新门；I表示重置门、更新门的输入；O表示GRU网络中新均值和方差更新网络的输入；表示t时刻对应的隐藏状态h的均值；表示t-1时刻对应的隐藏状态h的均值；表示t时刻对应的隐藏状态h的方差；定示t-1时刻对应的隐藏状态h的方差；xt表示t时刻对应的多元水电时序数据输入；fθ表示由θ参数化的可微网络；Wo表示GRU网络中可学习的参数；bo表示与输入O有关的偏置项；表示均值更新时的中间状态；表示方差更新时的中间状态。进一步的，无限步的所述潜在变量的更新具体过程为：通过重新参数化从学习分布的推断网络直接采样潜在变量，计算公式如下：其中，Wμ表示与均值μ学习相关的参数矩阵；Wσ表示与方差σ相关的参数矩阵；∈表示从标准高斯分布中采样的样本。进一步的，所述推断网络通过最大化证据下界进行训练，具体计算公式如下：qφ(zt|Xt，zt-1)其中，qφ表示随机递归神经网络中的推断网络；ELBO表示最大化证据下界；表示基于后验分布的重构似然函数；表示先验分布的KL散度参数；表示后验分布的KL散度参数；θ表示生成网络的参数；φ表示推断网络的参数。进一步的，所述外部因素特征提取网络提取所述外部因素中的因素特征的具体过程为：将所述外部因素输入至所述外部因素特征提取网络以及将连续的时间特征嵌入到外部因素特征提取网络后进行学习，得到呈低级维度的因素特征；将呈低级维度的因素特征直接馈入到所述外部因素特征提取网络中的全连接网络进行学习与融合，得到将所述外部因素中的信息压缩至一个向量v本文档来自技高网...

【技术保护点】
1.基于神经微分方程的水库入库流量预测方法，其特征是，包括以下步骤：/nS1：获取目标水库的多元水电时序数据和外部因素，并对所述多元水电时序数据和所述外部因素进行数据预处理；/nS2：将所述多元水电时序数据输入到预构建的随机递归神经网络中进行深度学习，通过引入ODE求解器对所述随机递归神经网络中的隐藏状态的均值和方差在时间上进行连续转换，并通过重采样技术得到任意时间点连续的随机潜在变量序列；/nS3：通过ODE外推网络对当前随机潜在变量进行外推学习，得到未来任意时间点对应的随机潜在变量特征；/nS4：通过外部因素特征提取网络提取所述外部因素中的因素特征；/nS5：将步骤S1-S4中学习到的特征融合，并通过多层感知机依据融合结果对未来多步的水库入库流量进行预测，得到水库入库流量预测值。/n

【技术特征摘要】
1.基于神经微分方程的水库入库流量预测方法，其特征是，包括以下步骤：
S1：获取目标水库的多元水电时序数据和外部因素，并对所述多元水电时序数据和所述外部因素进行数据预处理；
S2：将所述多元水电时序数据输入到预构建的随机递归神经网络中进行深度学习，通过引入ODE求解器对所述随机递归神经网络中的隐藏状态的均值和方差在时间上进行连续转换，并通过重采样技术得到任意时间点连续的随机潜在变量序列；
S3：通过ODE外推网络对当前随机潜在变量进行外推学习，得到未来任意时间点对应的随机潜在变量特征；
S4：通过外部因素特征提取网络提取所述外部因素中的因素特征；
S5：将步骤S1-S4中学习到的特征融合，并通过多层感知机依据融合结果对未来多步的水库入库流量进行预测，得到水库入库流量预测值。


2.根据权利要求1所述的基于神经微分方程的水库入库流量预测方法，其特征是，所述多元水电时序数据包括历史水流数据和历史电力数据；
所述历史水流数据的流量维度分别为入库流量、流出流量和用于发电的水流量；
所述历史电力数据的流量维度分别为总发电量、上网电量和厂用电量。


3.根据权利要求1所述的基于神经微分方程的水库入库流量预测方法，其特征是，所述多元水电时序数据和所述外部因素的数据预处理过程具体为：
对所述多元水电时序数据和所述外部因素进行线性归一化处理后转换到[0,1]的范围数值；
以及，将所述多元水电时序数据中的每一条训练数据的序列长度划分为至少一批固定长度序列，所述固定长度序列的大小满足所述随机递归神经网络的输入训练数据需求。


4.根据权利要求1所述的基于神经微分方程的水库入库流量预测方法，其特征是，若所述多元水电时序数据中存在着离群点、异常值的序列点时，则在所述数据预处理阶段通过插值法或平滑措施进行数据处理。


5.根据权利要求1所述的基于神经微分方程的水库入库流量预测方法，其特征是，对所述多元水电时序数据的分布进行连续转换的具体过程为：
通过所述ODE求解网络将所述多元水电时序数据中参与深度学习的目标特征的时间变量以微分形式无限细分后转换成连续变量；
根据所述连续变量计算得到任意期望时间步的均值和方差，并通过初始化所述均值和所述方差对潜在变量进行连续变换选择；
所述随机递归神经网络依据所述潜在变量的连续变换选择完成无限步的潜在变量的更新，得到任意时间点连续的随机潜在变量。


6.根据权利要求5所述的基于神经微分方程的水库入库流量预测方法，其特征是，通过初始化所述均值μ和所述方差σ对潜在变量进行连续变换选择的具体计算公式为：


















其中，R表示GRU网络中的重置门；U表示GRU网络中的更新门；I表示重置门、更新门的输入；O表示GRU网络中新均值和方差更新网络的输入；表...

【专利技术属性】
技术研发人员：罗玮，黄颖，胡立春，周子祺，
申请(专利权)人：四川大汇大数据服务有限公司，
类型：发明
国别省市：四川;51