基于深度递归神经网络的电力系统短期负荷预测方法技术方案

本发明专利技术属于电力系统短期负荷预测技术领域，公开了基于深度递归神经网络的电力系统短期负荷预测方法，步骤为：（1）收集汇总历史电网负荷和气象数据，建库备用；（2）去除步骤（1）所得异常数据，对剩余数据归一化处理；（3）确定具有前馈和反馈功能的模型结构；（4）采用历史数据对基于IPSO算法的DRNN预测模型进行训练；（5）将基于IPSO算法的DRNN预测模型用于实际负荷的预测中。本技术方案深度递归神经网络短期负荷预测方法在深度神经网络多隐层结构的基础上增设关联层，并以改进粒子群算法作为网络的优化学习算法，对模型权值空间进行深度优化。误差有效降低，能够融合前馈与反馈连接，提高网络泛化能力，有效提高负荷预测精度。

Short term load forecasting method of power system based on deep recurrent neural network

The invention belongs to the technical field of electric power system short-term load forecasting, discloses a method for short-term load forecasting of electric power system in depth based on recurrent neural network comprises the following steps: (1) the collection of historical load and weather data, database backup; (2) removal steps (1) the abnormal data, the remaining data is normalized (3;) to determine the model structure with feedforward and feedback function; (4) the training on the prediction model of the IPSO algorithm of DRNN based on the historical data; (5) the IPSO algorithm based on DRNN prediction model is used to predict the actual load. In this technology, deep recursive neural network short-term load forecasting method is based on deep neural network and multi hidden layer structure, and the correlation layer is added. The improved particle swarm optimization algorithm is used as the optimal learning algorithm of the network, and the weight space of the model is deeply optimized. The error is effectively reduced, it can fuse feedforward and feedback connections, improve the network generalization ability, and effectively improve the precision of load forecasting.

【技术实现步骤摘要】
基于深度递归神经网络的电力系统短期负荷预测方法
本专利技术涉及电力系统短期负荷预测
，尤其涉及基于深度递归神经网络的电力系统短期负荷预测方法。
技术介绍
随着电力系统规模和复杂性不断提高，电力系统短期负荷预测的准确与否对有效降低发电资费、实施各地区电力系统优化控制具有关键作用。与长期负荷预测相比，短期负荷预测主要用于安排发电计划，时效性最高。其负荷变动速度快，受温差、湿度等突变因素影响大，属于动态非线性时间序列。由于短期负荷的此类特征，若想达到精准预测较为困难。随着新电改的实施，售电市场竞争不断深化，对预测精度提出新的要求。因此，提供一种精确度高的电力系统短期负荷预测方法是很有必要的。DNN——深度神经网络；DRNN——深度递归神经网络；PSO(ParticleSwarmOptimization)——粒子群算法；IPSO——改进粒子群算法。
技术实现思路
本专利技术的目的在于针对上述技术问题，提供一种基于深度递归神经网络的电力系统短期负荷预测方法。步骤一：收集汇总历史地区电网负荷数据、气象数据等数据的采集与汇总，并导入Excel数据库中。步骤二：数据预处理，为避免神经元饱和情况的发生，需要对原始负荷数据进行预处理，这样做将有利于训练过程的收敛，提高预测精度。主要的预处理方式是，对训练样本集中的历史负荷数据，统计其最大值和最小值，将负荷数据归一到[-1,1]区间，可使数据处于同一数量级别，加快神经网络收敛。步骤三：确定模型结构。DNN(深度神经网络)具有多隐层结构，对网络的输入向量进行反复多重训练以提升分类或预测的准确性。DNN预测模型由输入层、多隐含层和输出层构成。与传统前馈神经网络相比，DNN具有多隐层结构。X为网络输入，是包含m维的列向量；(W,B)为各个隐含层之间的权重矩阵和阈值矩阵。DNN的每个隐含层从它的前一层获取输入向量，利用该隐含层的激活函数进行非线性变换，再把得到的向量作为输入传给下一层神经元，逐层往复迭代，最终传递给网络输出y。与BP网络相比，有多个隐层的DNN训练深度明显增加，学习能力显著增强，可克服传统BP神经网络的缺陷。DNN虽学习能力较强，但其本质仍然是静态网络，无法全面刻画与表征负荷动态序列的规律。构造具有反馈机制的DRNN预测模型。DRNN由输入层、n层隐含层、关联层和输出层等构成。DRNN的关联层含有用于存储历史信息的存储单元，存储单元将存储的当前时刻的历史信息作为反馈用于下一时刻第一层隐含层的输入。DRNN重构了网络内部结构和状态，使网络最终的输出不仅与当前时刻信息有关，与每一时刻的历史信息也密切相关，使其具有较好的动态记忆能力。X＝[x1,x2,…xm]为DRNN的输入向量。在DRNN的n个隐含层中，每层的节点个数分别用l1，l2，…，ln表示，输出层节点个数为1。DRNN的第一层隐含层在t时刻的输出向量可描述为R1(t)＝f(W1·[X(t),z(t)]+B1)(1)式中：R1(t)表示第一层隐含层输出；W1、B1表示输入层与第一层隐含层之间的权矩阵；z(t)表示在t时刻关联层到第一层隐含层之间的反馈输入。延迟量z作为反馈项，在t(t>0,t∈Z)时刻的输入应是输出层t-1时刻对应的历史信息。z存储了上一时刻的历史信息，并且作为隐含层的输入量用于当前时刻的预测。因此，反馈项z(t)应满足DRNN在t时刻除第一层外的其它隐含层的各层输出可描述为RL(t)＝f(WL·RL-1(t)+BL)(3)式中：RL(t)表示第L层隐含层的输出向量；WL、BL表示第L-1层隐含层与第L层隐含层之间的权重矩阵；f为DRNN隐含层的非线性激活函数。DRNN在t时刻输出层的输出y(t)可描述为y(t)＝g(Wn+1·Rn(t)+Bn+1)(4)式中：Wn+1、Bn+1为第n层隐含层与输出层之间的权矩阵；g为DRNN输出层的非线性激活函数。激活函数f、g统一采用sigmoid函数。该函数的优点在于可将输出范围限制到合理区间，数据在传递的过程中不容易发散，能较好平衡线性和非线性之间的行为。sigmoid函数表示为DRNN融合了前馈与反馈连接，使网络具备动态性能，可有效表征负荷动态序列的内在规律，挖掘负荷动态特性。步骤四：采用历史数据对基于IPSO算法的DRNN预测模型进行训练，确定模型参数及权值。粒子群算法(ParticleSwarmOptimization，PSO)缺乏速度动态调节，使粒子在更新自身状态过程中容易陷入局部极值。为克服PSO的缺陷，对其做如下改进，并采用改进后的IPSO对DRNN进行训练。IPSO的改进主要为：A：在d维解空间中，第i个粒子的速度和位置分别用vid和xid表示；其个体极值和种群全局极值为pid、sd。将各个粒子按适应度从大到小进行排序，借助前n个粒子的状态信息对当前粒子状态进行修正。修正后的速度公式为式中：为第i个粒子在第k代和K+1代的速度；在第K代中，第i个粒子的位置和个体最优值分别用和表示；ω为惯性权重；c1、c2的为学习因子；r1、r2j为(0,1)之间随机数；在第k代选定的粒子中第j个粒子的位置用表示。B：若粒子个体极值经过多次迭代不再发生改变，则引入随机算子来改变当前粒子状态，避免粒子陷入局部极值，可描述为式中：为第i个粒子在第k+1代的位置；为在第k代选定粒子中排名最后的粒子位置；r3为(0,1)之间随机数。将DRNN中的各层次结构之间的权重和阈值与IPSO粒子状态相对应，利用IPSO优化DRNN权阈值。粒子的适应度函数为式(8)式中：N表示测试样本大小；y(i)分别表示负荷的预测值和实际值。上述过程中式(4)为深度递归神经网络模型，式(5)、(6)、(7)和(8)是确定权值的过程。步骤五：将基于IPSO算法的DRNN预测模型用于实际负荷的预测中，得出预测负荷值。本技术方案深度递归神经网络短期负荷预测方法在深度神经网络多隐层结构的基础上增设关联层，并以改进粒子群算法作为网络的优化学习算法，对模型权值空间进行深度优化。误差有效降低，能够融合前馈与反馈连接，提高网络泛化能力，有效提高负荷预测精度。附图说明图1：本专利技术中的DNN结构图；图2：本专利技术中的DRNN结构图；图3：本专利技术IPSO优化DRNN预测模型中权值算法流程图。具体实施方式结合附图1-3，对本技术方案做进一步说明。步骤一：收集汇总历史地区电网负荷数据、气象数据等数据的采集与汇总，并导入Excel数据库中。步骤二：数据预处理，为避免神经元饱和情况的发生，需要对原始负荷数据进行预处理，这样做将有利于训练过程的收敛，提高预测精度。主要的预处理方式是，对训练样本集中的历史负荷数据，统计其最大值和最小值，将负荷数据归一到[-1,1]区间，可使数据处于同一数量级别，加快神经网络收敛。步骤三：确定模型结构。DNN(深度神经网络)具有多隐层结构，对网络的输入向量进行反复多重训练以提升分类或预测的准确性。DNN预测模型由输入层、多隐含层和输出层构成。与传统前馈神经网络相比，DNN具有多隐层结构。X为网络输入，是包含m维的列向量；(W,B)为各个隐含层之间的权重矩阵和阈值矩阵。DNN的每个隐含层从它的前一层获取输入向量，利用该隐含层的激活函数进行非线性变换，再把得到的向量作为输入传给下本文档来自技高网...

【技术保护点】
基于深度递归神经网络的电力系统短期负荷预测方法，其特征在于，包括以下步骤：(1)收集汇总历史电网负荷和气象数据，建库备用；(2)去除步骤(1)所得异常数据，对剩余数据归一化处理；(3)确定具有前馈和反馈功能的模型结构；(4)采用历史数据对基于IPSO算法的DRNN预测模型进行训练，确定模型参数及权值；(5)将基于IPSO算法的DRNN预测模型用于实际负荷的预测中，得出预测负荷值。

【技术特征摘要】
1.基于深度递归神经网络的电力系统短期负荷预测方法，其特征在于，包括以下步骤：(1)收集汇总历史电网负荷和气象数据，建库备用；(2)去除步骤(1)所得异常数据，对剩余数据归一化处理；(3)确定具有前馈和反馈功能的模型结构；(4)采用历史数据对基于IPSO算法的DRNN预测模型进行训练，确定模型参数及权值；(5)将基于IPSO算法的DRNN预测模型用于实际负荷的预测中，得出预测负荷值。2.根据权利要求1所述的基于深度递归神经网络的电力系统短期负荷预测方法，其特征在于：步骤(3)确定的模型包括输入层、多个隐含层、关联层和输出层，关联层含有用于存储历史信息的存储单元，存储单元将存储的当前时刻的历史信息作为反馈用于下一时刻第一层隐含层的输入。3.根据权利要求2所述的基于深度递归神经网络的电力系统短期负荷预测方法，其特征在于：步骤(3)确定的模型为y(t)＝g(Wn+1·Rn(t)+Bn+1)式中：Wn+1、Bn+1为第n层隐含层与输出层之间的权矩阵；g为DRNN输出层的非线性激活函数；激活函数f、g...

【专利技术属性】
技术研发人员：林霞，李可，田凤字，孔令元，张智晟，
申请(专利权)人：国网山东省电力公司枣庄供电公司，青岛大学，
类型：发明
国别省市：山东,37