一种基于GRU和注意力机制的超短期负荷预测模型制造技术

本发明专利技术公开了一种基于GRU和注意力机制的超短期负荷预测模型，包括以下步骤：S1：确定网络的输入输出变量；S2：设计基于attention机制的GRU网络结构；解决了以往方法预测精度低以及不适用于超短期负荷预测的问题。

An ultra short term load forecasting model based on Gru and attention mechanism

【技术实现步骤摘要】
一种基于GRU和注意力机制的超短期负荷预测模型
本专利技术涉及超短期负荷预测模型领域，特别是一种基于GRU和注意力机制的超短期负荷预测模型。
技术介绍
近年来随着电力供需矛盾的缓解以及用电结构的变化，各大电网负荷特性发生了很大的变化，负荷特性受发电出力制约的因素已经基本消除，基本趋向正常的用电负荷特性。电网供需矛盾相对缓和，电网最大负荷持续快速增长，峰谷差增大，负荷率逐年下降，电网备用容增大，高峰时段和枯水期电力供应紧张，电网调峰困难。电力供需瞬时平衡的特点使得电力负荷预测在电力系统中的地位和作用扮演着十分重要的角色。在电力市场逐步放开的背景和节能减排的压力推动下，各发电和用电企业对于负荷预测精度的要求越来越高，准确的负荷预测，可以经济合理地安排电网内部发电机组的启停，保持电网运行的安全稳定性，减少不必要的旋转储备容量，合理安排机组检修计划，保证社会的正常生产和生活，有效地降低发电成本，提高经济效益和社会效益。超短期负荷由于受天气变化、社会活动和节日类型等各种因素的影响，在时间序列上表现为非平稳的随机过程，但是影响系统负荷的各因素中大部分具有规律性，从而为实现有效的预测奠定了基础。电力负荷预测研究的核心问题是如何利用现有的历史数据，建立预测模型，对未来时刻或时间段内的负荷值进行预测，因此，历史数据信息的可靠性和预测模型是影响短期负荷预测精度的主要因素。随着现在电力系统管理信息系统的逐步建立，以及天气预测水平的提高，准确获取各种历史数据已不再困难，因此，短期负荷预测的效果影响核心是预测模型。传统的电力负荷预测方法包括时间序列法、趋势外推法、回归分析法等，近年来，大规模间歇性新能源发电系统以及电动汽车需求侧响应等新型负荷类型的广泛接入所带来的高度随机性和动态变化特性，对传统的负荷预测方法提出了极大挑战。目前负荷预测的方法主要分为统计方法和人工智能方法两类，其中统计方法包括时间序列和线性回归,近年来，随着我国在人工智能
的快速发展，人工神经网络在负荷预测中得到广泛应用，有方法基于径向基函数(RBF)神经网络模型、BP神经网络模型和广义回归神经网络(GRNN)等等。2002年，由于RNN可以较好捕获输入数据特性的特点，Vermaask和Botha开始将RNN引入电力负荷预测，随着RNN的发展，对影响因素考虑愈发细致，企业和客户对准确性要求愈发高，使学者们加快了对RNN预测模型的改进，由于RNN只能对较短的时间序列进行记忆，随着数据量增大，时间间隔增长RNN会丢失之前输入的重要信息，引起梯度消失而导致预测模型失效。针对这一问题，Hochreiter和Schmidhuber提出的长短时记忆网络(long-shorttermmemory,LSTM)可供一种有效的解决方案。而Cho等人提出的门控循环单元(gatedrecurrentunit)是LSTM网络的一种变体,它将LSTM的输入门和遗忘门结合，在结构上只包括更新门和重置门,使结构更简单。由于GRU相对于LSTM来说，通常收敛较快，计算量也就会相对减少。将各种算法与网络模型结合的方式一直是负荷预测领域的热点研究方向，本专利技术针对LSTM算法存在的不足，提出一种基于Attention机制的GRU神经网络。利用预测点前48h的历史数据作为输入，实现未来1h的超短期负荷预测。通过计算不同输入量特征的注意力权重，对重要数据分配更多的注意力，从而提高负荷预测精度。通过与LSTM神经网络和GRU神经网络进行对比，表明所提方法有更高的预测精度，更适用于超短期负荷预测。
技术实现思路
为解决现有技术中存在的问题，本专利技术提供了一种基于GRU和注意力机制的超短期负荷预测模型，解决了以往方法预测精度低以及不适用于超短期负荷预测的问题。本专利技术采用的技术方案是，一种基于GRU和注意力机制的超短期负荷预测模型，包括以下步骤：S1：确定网络的输入输出变量；S2：设计基于Attention机制的GRU网络结构。优选地，S1包括以下步骤：S11：选取负荷采样频率为每小时1次，获得的训练数据集为每天24h的历史负荷数据，选取的负荷值为第n小时的最大负荷值；S12：采用计算样本自相关系数的方法来确定输入变量时间序列的阶数；S13：通过找到自相关系数衰减为0的阶数，确定采用特定时段的历史负荷数据，进行超短期负荷预测，实现负荷历史数据的充分利用；S14：绘制得到负荷历史数据集的自相关系数；S15：当阶数取108时，自相关系数衰减为0。优选地，S12的样本自相关系数的方法的计算公式为式中：x为输入序列h阶自相关系数值为时间序列xi的均值，n为时间序列的长度。优选地，S2包括以下步骤：S21：建立基于Attention机制的GRU网络；S22：加入天气因素w,通过合理分配注意力权重，实现记忆单元求解,实现超短期负荷预测即加入天气因素W，计算各个输入的注意力概率分布值，进一步提取文本特征，突出关键因素的影响；S23：利用softmax函数对输出层的输入进行相应计算，从而进行文本分类。优选地，softmax函数的计算公式为：y＝softmax(wiv+bi)其中，wi表示Attention机制层到输出层待训练的权重系数矩阵，bi表示待训练相对应的偏置量，y为输出的预测标签。优选地，通过Attention机制的计算公式计算出最后包含文本信息的特征向量v，输出层的输入为上一层Attention层的输出。优选地，S21包括以下步骤：S211：输入时间序列的向量；S212：让时间序列的向量进入GRU模型中；S213：经过GRU模型计算之后得到对应输出；同时在隐藏层引入Attention机制。优选地，时间序列的向量为x1，x2，x3，…，xi。优选地，经过GRU模型计算之后得到对应输出为h1，h2，h3，…，hi。优选地，Attention机制的计算公式为：v＝Σahii∑ei＝witanh(Wihi+bi)其中，ei表示第i时刻隐层状态向量，hi为所决定的注意力概率分布值，wi和Wi表示第i时刻的权重系数矩阵，bi表示第i时刻相应的偏移量。本专利技术基于GRU和注意力机制的超短期负荷预测模型的有益效果如下：1.采用GRU神经网络有利于更好地捕捉时间序列中时间间隔较长数据对当前时刻的影响程度。2.采用注意力机制(Attention)，能够使深度学习模型在处理视觉图像领域问题时更好地提取重要特征，从而提升模型效果。附图说明图1为本专利技术基于GRU和注意力机制的超短期负荷预测模型的图2为本专利技术基于GRU和注意力机制的超短期负荷预测模型的GRU神经网络图图3为本专利技术基于GRU和注意力机制的超短期负荷预测模型的zt图图4为本专利技术基于GRU和注意力机制的超短期负荷预测模型的rt图图5为本专利技术基于GRU和注意力机制的超短期负荷预测模型的本文档来自技高网...

【技术保护点】
1.一种基于GRU和注意力机制的超短期负荷预测模型，其特征在于，包括以下步骤：/nS1：确定网络的输入输出变量；/nS2：设计基于Attention机制的GRU网络结构。/n

【技术特征摘要】
1.一种基于GRU和注意力机制的超短期负荷预测模型，其特征在于，包括以下步骤：
S1：确定网络的输入输出变量；
S2：设计基于Attention机制的GRU网络结构。


2.根据权利要求1所述的基于GRU和注意力机制的超短期负荷预测模型，其特征在于，所述S1包括以下步骤：
S11：选取负荷采样频率为每小时1次，获得的训练数据集为每天24h的历史负荷数据，选取的负荷值为第n小时的最大负荷值；
S12：采用计算样本自相关系数的方法来确定输入变量时间序列的阶数；
S13：通过找到自相关系数衰减为0的阶数，确定采用特定时段的历史负荷数据，进行超短期负荷预测，实现负荷历史数据的充分利用；
S14：绘制得到负荷历史数据集的自相关系数；
S15：当阶数取108时，自相关系数衰减为0。


3.根据权利要求2所述的基于GRU和注意力机制的超短期负荷预测模型，其特征在于，所述S12的样本自相关系数的方法的计算公式为



式中：x为输入序列h阶自相关系数值为时间序列xi的均值，n为时间序列的长度。


4.根据权利要求1所述的基于GRU和注意力机制的超短期负荷预测模型，其特征在于，所述S2包括以下步骤：
S21：建立基于Attention机制的GRU网络；
S22：加入天气因素w,通过合理分配注意力权重，实现记忆单元求解,实现超短期负荷预测即加入天气因素W，计算各个输入的注意力概率分布值，进一步提取文本特征，突出关键因素的影响；
S23：利用softmax函数对输出层的输入进行相应计算，从而进行文本分类。


5.根据...

【专利技术属性】
技术研发人员：王占魁，吴军英，辛锐，白涛，赵建斌，魏明磊，李井泉，庄磊，常永娟，杨力平，贺月，姚陶，王梦迪，
申请(专利权)人：国家电网有限公司，国网河北省电力有限公司信息通信分公司，
类型：发明
国别省市：北京;11