基于GRU-LightGBM模型融合和贝叶斯优化的短期负荷预测方法技术

本发明专利技术公开了一种GRU

【技术实现步骤摘要】
基于GRU
‑
LightGBM模型融合和贝叶斯优化的短期负荷预测方法


[0001]本专利技术涉及电力负荷预测
，尤其是涉及基于GRU
‑
LightGBM模型融合和贝叶斯优化的短期负荷预测方法。

技术介绍

[0002]负荷的精准预测对电网稳定经济运行具有重要意义，做好电力负荷预测的工作能够在尽可能的兼顾用户用电质量可靠安全、减少发电供电公司运行成本、保障良好社会效益的情况下减少发电备用容量，进而减少了成本，实现电力调度的经济合理性。
[0003]神经网络是目前负荷预测中的主流方法，各种神经网络各有其特点，使得不同神经网络对信息的处理方式不同，获得的预测效果也不同，因此，通过合理改进神经网络结构可以达到更高的预测精度。另外，用于预测的特征向量对于模型预测精度同样具有决定性作用，因此如何选择相关数据构建用于预测的特征向量也具有重要的意义。

技术实现思路

[0004]本专利技术为了提高负荷预测的精度，考虑到需求响应能够对负荷预测进行指导，提供了一种基于GRU
‑
LightGBM模型融合和贝叶斯优化的短期负荷预测方法。本专利技术考虑电价、节假日、工作日、天气、历史负荷数据、输入向量特征权重等因素，利用深度学习和数据挖掘技术，构建了GRU
‑
LightGBM电力负荷组合预测模型，在经过预处理的数据集上实现电力负荷的精准预测。
[0005]本专利技术的上述技术问题主要是通过下述技术方案得以解决的：一种GRU
‑r/>LightGBM模型融合和贝叶斯优化的短期负荷预测方法，包括如下步骤：
[0006]步骤S1、获取不同时刻对应的电价、环境温度、湿度、日期属性、电力负荷等特征，对非数字特征进行one
‑
hot独热编码，然后对特征进行归一化作为训练数据；
[0007]步骤S2、构建电力负荷预测模型，并利用步骤1获得的训练数据进行训练。其中，电力负荷预测模型的输入为由预测点时刻的电价、预测点时刻的环境温度、预测点时刻的湿度、预测点时刻的日期属性、预测点前一天同时刻的电力负荷值构成的特征向量，输出为电力负荷的预测值。所述电力负荷预测模型的结构为神经网络、决策树等。
[0008]步骤S3、获取预测点时刻的电价、预测点时刻的环境温度、预测点时刻的湿度、预测点时刻的日期属性、预测点前一天同时刻的电力负荷值并利用步骤1方法进行处理后作为训练好的电力负荷预测模型的输入，得到电力负荷预测值。
[0009]进一步地，所述步骤S1中，还包含对电力负荷数据的清洗步骤，具体为：
[0010]采用聚类的方式，取相似度最大的三日数据对应时刻的电力负荷值的均值填补空缺数据。其中，聚类的特征包括电价、环境温度、湿度、日期属性等。
[0011]根据历史电力负荷数据的平滑性查找异常数据，并采用前一天同一时刻的值填补异常数据。
[0012]进一步地，所述步骤S2中，预测点时刻的电价包含峰时电价、谷时电价和平时电价。所述日期属性包含节假日、工作日和周末，根据节假日和非节假日分类构成一组特征，根据工作日和周末分类构成另一组特征。
[0013]进一步地，所述步骤S2中，电力负荷预测模型由GRU模型和LightGBM模型组合构成。其中，GRU模型和LightGBM决策树模型的输入均为由预测点时刻的电价、预测点时刻的环境温度、预测点时刻的湿度、预测点时刻的日期属性、预测点前一天同时刻的电力负荷值构成的特征向量，输出为电力负荷的预测值。并分别利用步骤S1获得的训练数据进行训练，训练完成后再利用训练好的GRU模型和LightGBM决策树模型对步骤S1中的训练数据进行预测并计算每个模型对应电力负荷预测值的MAPE值的比例作为权重初值，并结合双向搜索方法进行优化获得最优权重。将两个模型的输出结合最优权重作为最终的电力负荷预测值。
[0014]进一步地，所述GRU模型用于提取静态特征进而时间序列长依赖信息并输出电力负荷预测值。所述GRU模型是LSTM网络的改进模型，其对LSTM的3个门函数进行优化，将遗忘门和输入门集成为单一的更新门，同时混合神经元状态与隐藏状态，可有效的缓解RNN网络中“梯度消失”的问题并缩减LSTM网络单元的参数数量，缩短模型的训练时间，具体为：
[0015]GRU单元的数学描述公式如下：
[0016][0017]式中，x
t
、h
t
‑1、h
t
、r
t
、Z
t
、y
t
分别为输入向量、上一时刻的状态记忆变量、当前时刻的状态记忆变量、更新门的状态、重置门的状态、当前候选集的状态、当前时刻的输出向量；W
r
、W
z
、W
o
分别为更新门、重置门、候选集、输出向量与x
t
及h
t
‑1构成的连接矩阵相乘的权重参数；I表示单位矩阵；[]表示向量连接；
·
表示矩阵点乘；
×
表示矩阵乘积；σ表示sigmoid激活函数；φ表示tanh激活函数。
[0018]σ与φ的数学描述如下所示：
[0019][0020][0021]GRU网络以更新门和重置门为核心模块，输入变量x
t
与上一时刻的状态记忆变量h
t
‑1的拼接矩阵经sigmoid非线性变换后输入到更新门中，决定上一时刻状态变量被带入到当前状态中的程度。重置门控制上一时刻被写入到候选集的信息量，通过I
‑
z
t
倍的h
t
‑1存储上一时刻的信息，通过z
t
倍的记录当前时刻的信息，将二者相加作为当前时刻的输出。
[0022]进一步地，所述LightGBM模型采用梯度提升方法进行训练，采用贝叶斯网络优化LightGBM模型的超参数。首先确定模型中主要需要优化的超参数，例如网络模型中学习率、隐藏层层数、各隐藏层的节点数；然后给每一个超参数规定一个可接受的范围，即每个超参
数允许的评估范围，依据以往的经验和知识，人类很容易给超参数划定一个合理的范围；然后确定优化的步数，最后得出目前的最优解。
[0023]进一步地，利用训练好的GRU模型和LightGBM决策树模型对步骤S1中的训练数据进行预测并计算每个模型对应电力负荷预测值的MAPE值的比例作为权重初值，具体为：
[0024]计算对应电力负荷预测值的MAPE值：
[0025][0026]式中，为预测值，y
t,i
为对应的t时刻的电力负荷真实值，n为数据的样本数量。MAPE1和MAPE2分别为GRU模型和LightGBM模型的MAPE值。
[0027]计算MAPE值的比例作为权重初值：
[0028][0029][0030]式中，ω1和ω2分别为GRU模型和LightGBM模型的权重初值。
[00本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种基于GRU
‑
LightGBM模型融合和贝叶斯优化的短期负荷预测方法，其特征在于：包括以下步骤：S1、获取不同时刻对应的电价、环境温度、湿度、日期属性、电力负荷，对非数字特征进行one
‑
hot独热编码，对特征进行归一化作为训练数据；S2、构建电力负荷预测模型，用训练数据进行训练；S3、获取预测点时刻的电价、预测点时刻的环境温度、预测点时刻的湿度、预测点时刻的日期属性、预测点前一天同时刻的电力负荷值，对非数字特征进行one
‑
hot独热编码，对特征进行归一化处理后作为训练好的电力负荷预测模型的输入，得到电力负荷预测值。2.根据权利要求1所述的基于GRU
‑
LightGBM模型融合和贝叶斯优化的短期负荷预测方法，其特征是所述步骤S1中还包括对电力负荷数据的清洗步骤，具体为：采用聚类的方式，取相似度最大的三日数据对应时刻的电力负荷值的均值填补空缺数据；其中，聚类的特征包括电价、环境温度、湿度、日期属性。根据历史电力负荷数据的平滑性查找异常数据，并采用前一天同一时刻的值填补异常数据。3.根据权利要求1所述的基于GRU
‑
LightGBM模型融合和贝叶斯优化的短期负荷预测方法，其特征是：所述步骤S2中，预测点时刻的电价包含峰时电价、谷时电价和平时电价，所述日期属性包含节假日、工作日和周末，根据节假日和非节假日分类构成一组特征，根据工作日和周末分类构成另一组特征。4.根据权利要求1所述的基于GRU
‑
LightGBM模型融合和贝叶斯优化的短期负荷预测方法，其特征是所述步骤S2中，电力负荷预测模型由GRU模型和LightGBM模型组合构成；其中，GRU模型和LightGBM决策树模型的输入均为由预测点时刻的电价、预测点时刻的环境温度、预测点时刻的湿度、预测点时刻的日期属性、预测点前一天同时刻的电力负荷值构成的特征向量，输出为电力负荷的预测值；分别利用训练数据进行训练，训练完成后再利用训练好的GRU模型和LightGBM决策树模型对训练数据进行预测并计算每个模型对应电力负荷预测值的MAPE值的比例作为权重初值，并结合双向搜索方法进行优化获得最优权重；将两个模型的输出结合最优权重作为最终的电力负荷预测值。5.根据权利要求4所述的基于GRU
‑
LightGBM模型融合和贝叶斯优化的短期负荷预测方法，其特征是所述GRU模型用于提取静态特征进而时间序列长依赖信息并输出电力负荷预测值，具体为：GRU单元的数学描述公式如下：式中，x
t
、h
t
‑1、h
t
、r
t
、z
t
、y
t
分别为输入向量...

【专利技术属性】
技术研发人员：朱重希，胡遨洋，花志伟，李鑫，
申请(专利权)人：国网浙江省电力有限公司桐乡市供电公司，
类型：发明
国别省市：