一种基于长短期记忆神经网络和支持向量回归组合模型的行业中长期负荷预测方法技术

本发明专利技术公开了一种基于长短期记忆神经网络和支持向量回归组合模型的行业中长期负荷预测方法，本发明专利技术方法为：首先，基于皮尔逊相关系数分析行业中长期负荷影响因素与行业负荷的关联程度，提取行业中长期负荷预测的关键影响因素。其次，分别构建考虑负荷时序变化特性的长短期记忆神经网络预测模型和考虑负荷非线性特征的支持向量回归预测模型。然后，基于最优组合预测算法，构建基于长短期记忆神经网络和支持向量回归的考虑负荷综合特征的组合预测模型，对行业中长期负荷进行预测。本发明专利技术基于最优组合预测算法，综合考虑长短期记忆神经网络和支持向量回归预测模型的特征与优势，相比于单一预测方法，有效提高了行业中长期负荷预测的精度。荷预测的精度。荷预测的精度。

A medium and long-term load forecasting method based on long-term and short-term memory neural network and support vector regression combined model

【技术实现步骤摘要】
一种基于长短期记忆神经网络和支持向量回归组合模型的行业中长期负荷预测方法


[0001]本专利技术涉及电力系统的
，更具体地，涉及一种基于长短期记忆神经网络和支持向量回归组合模型的行业中长期负荷预测方法。

技术介绍

[0002]电力系统负荷预测是指对未来负荷发展变化做出预先估计和推测，是电力系统规划、调度等部门的基础工作，对电力系统规划与运行起着至关重要的作用。根据预测时间尺度的不同，负荷预测可分为超短期预测、短期预测、中长期预测等，其中中长期负荷预测主要是针对月度及以上时间尺度的负荷进行预测，准确的中长期负荷预测有利于供电公司掌握不同行业用户的用电规律，从而为供电公司进行行业布局规划、资源优化配置、供电业务管理等提供重要的决策支持。近年来，随着智能电表以及其他智能量测设备的不断升级与广泛普及，电力部门可以收集到数量更大、精度更高的行业负荷数据及外部数据，这为以大数据、人工智能为代表的新型负荷预测技术奠定了坚实的数据基础。
[0003]为了克服传统单一预测模型鲁棒性一般、泛化性能不足的问题，基于集成学习算法的组合预测模型应运而生。相较于单一模型，将多个模型进行集成组合，常可获得更加优越的泛化性能。当每种单一模型包含预测对象的不同信息时，采用组合预测的方法可以提高预测结果的精度。然而，当前组合模型的研究多是针对短期负荷预测，基于组合模型的中长期负荷预测研究较少。相较于短期负荷预测，中长期负荷预测具有训练样本少、时间跨度大、负荷变化规律弱等特点。因此，当前研究较多的基于深度学习神经网络、集成树的负荷预测模型常常因过拟合、无法收敛等原因，预测表现不佳。
[0004]在此背景下，针对行业中长期负荷预测的集成组合预测模型仍有待进一步研究。

技术实现思路

[0005]本专利技术为克服上述现有技术的缺陷，提供一种基于长短期记忆神经网络和支持向量回归组合模型的行业中长期负荷预测方法，能够综合长短期记忆神经网络与支持向量回归的特征和优势，从而提高负荷预测的精度。
[0006]本专利技术采用以下的技术方案：
[0007]一种基于长短期记忆(Long Short
‑
Term Memory,LSTM)神经网络和支持向量回归(Support Vector Regression,SVR)组合模型的行业中长期负荷预测方法，包括以下步骤：
[0008]步骤1、采用过滤式特征选择方法，基于皮尔逊相关系数评估量化行业中长期负荷与其影响因素的关联程度，根据量化结果提取行业中长期负荷的关键影响因素；
[0009]步骤2、分别构建考虑负荷时序变化特性的长短期记忆神经网络预测模型和考虑负荷非线性特征的支持向量回归预测模型；
[0010]步骤3、根据步骤1提取的关键影响因素以及步骤2构建的行业中长期负荷单一预测模型，构建基于LSTM神经网络与SVR的最优组合预测模型并基于均方误差最小化准则确
定两个模型的权重系数。
[0011]上述技术方案中，进一步地，所述步骤1采用过滤式特征选择方法，基于皮尔逊相关系数评估量化行业中长期负荷与其影响因素的关联程度，根据量化指标结果提取行业中长期负荷的关键影响因素，包括以下步骤：
[0012]皮尔逊相关系数是一种常见的“相关统计量”，常用于评价两个随机变量之间相关性的强弱。基于皮尔逊相关系数量化各种外部因素对行业中长期负荷的影响程度，筛选出行业中长期负荷的关键影响因素，进而构建行业中长期负荷的特征数据集，使得在提升模型训练效率的同时保证模型较高的预测精度，皮尔逊相关系数的计算表达式如式(12)所示。
[0013][0014]式中，r表示行业X和影响因素F之间的相关系数，X
i
表示行业第i月度的负荷，F
i
表示影响因素F第i月度的数据，和分别表示行业X和影响因素F的样本数据均值。
[0015]相关系数r介于
‑
1和+1之间，|r|越接近1，则二者相关程度越高，r>0表示二者正相关，r<0表示二者负相关。为量化各影响因素对行业中长期负荷的影响程度，提高负荷预测的精度，筛选出|r|＞0.5的影响因素作为关键影响因素并作为预测模型的输入特征。
[0016]进一步地，分别构建考虑负荷时序变化特性的长短期记忆神经网络预测模型和考虑负荷非线性特征的支持向量回归预测模型，步骤如下：
[0017]构建基于LSTM的负荷预测模型，LSTM的核心是细胞状态(Cell State)，负荷的历史特征信息通过细胞状态进行传递，信息的传输与控制由LSTM的门结构实现，包括遗忘门、输入门和输出门。基于LSTM神经网络实现行业中长期负荷预测的计算公式如式(13)
‑
(18)所示。
[0018]f
t
＝σ(W
f
[h
t
‑1,x
t
]+b
f
)
ꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀ
(13)
[0019]i
t
＝σ(W
i
[h
t
‑1,x
t
]+b
i
)
ꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀ
(14)
[0020]o
t
＝σ(W
o
[h
t
‑1,x
t
]+b
o
)
ꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀ
(15)
[0021][0022][0023][0024]式中，f
t
,i
t
,o
t
,分别为遗忘门、输入门、输出门系数及候选负荷状态值，控制负荷历史特征及负荷相关特征的传输；h
t
‑1为前一时间步的短期负荷状态；x
t
为当前时间步的负荷输入特征；W
f
,W
i
,W
o
,W
C
分别为相应门以及候选负荷状态值的输入权重矩阵；b
f
,b
i
,b
o
,b
C
分别为相应门以及候选负荷状态值中的偏置项；σ为sigmoid函数，将输出映射到0至1的值；h
t
,C
t
分别为短期负荷状态和长期负荷状态；C
t
‑1为前一时间步的长期负荷状态。
[0025]LSTM网络层由多个单元串联构成，状态特征信息通过细胞状态进行传递。基于LSTM神经网络实现中长期负荷预测的流程如下：首先，由上一时间步的短期负荷状态和当
前时间步的负荷输入特征共同决定遗忘门、输入门、输出门系数以及候选负荷状态值；其次，由遗忘门系数决定长期负荷状态特征的记忆程度，控制长期负荷状态特征的记忆与传输；然后，根据输入门系数以及候选负荷状态值，对长期负荷状本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种基于长短期记忆神经网络和支持向量回归组合模型的行业中长期负荷预测方法，其特征在于，包括以下步骤：步骤1：采用过滤式特征选择方法，基于皮尔逊相关系数评估量化行业中长期负荷与其影响因素的关联程度，根据量化结果提取行业中长期负荷的关键影响因素；步骤2：分别构建考虑负荷时序变化特性的长短期记忆神经网络预测模型和考虑负荷非线性特征的支持向量回归预测模型；步骤3：根据步骤1提取的关键影响因素以及步骤2构建的两个预测模型，构建基于长短期记忆神经网络和支持向量回归的考虑负荷综合特征的最优组合预测模型，并基于均方误差最小化准则确定两个模型的权重系数。2.根据权利要求1所述的一种基于长短期记忆神经网络和支持向量回归组合模型的行业中长期负荷预测方法，其特征在于：所述的步骤1具体为：基于皮尔逊相关系数评估量化行业中长期负荷与其影响因素的关联程度，其计算公式如式(1)所示：式中，r表示行业X和影响因素F之间的相关系数，X
i
表示行业第i月度的负荷，F
i
表示影响因素F第i月度的数据，和分别表示行业X和影响因素F的样本数据均值；皮尔逊相关系数r介于
‑
1和+1之间，|r|越接近1，则二者相关程度越高，r>0表示二者正相关，r<0表示二者负相关；所述关键影响因素的提取方法为：筛选出|r|＞0.5的影响因素作为关键影响因素。3.根据权利要求1所述的一种基于长短期记忆神经网络和支持向量回归组合模型的行业中长期负荷预测方法，其特征在于：所述的步骤2具体为：构建考虑负荷时序变化特性的长短期记忆神经网络预测模型，长短期记忆神经网络的核心是细胞状态，负荷的历史特征信息通过细胞状态进行传递，信息的传输与控制由长短期记忆神经网络的门结构实现；所述的考虑负荷时序变化特性的长短期记忆神经网络预测模型的计算公式如式(2)
‑
(7)所示：f
t
＝σ(W
f
[h
t
‑1,x
t
]+b
f
)
ꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀ
(2)i
t
＝σ(W
i
[h
t
‑1,x
t
]+b
i
)
ꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀ
(3)o
t
＝σ(W
o
[h
t
‑1,x
t
]+b
o
)
ꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀ
(4)(4)(4)式中，f
t
,i
t
,o
t
,分别为遗忘门、输入门、输出门系数及候选负荷状态值，控制负荷历史特征及负荷相关特征的传输；h

【专利技术属性】
技术研发人员：林振智，张昆明，章天晗，林之岸，陈昌铭，刘畅，杨莉，龚贤夫，孙辉，彭勃，李耀东，
申请(专利权)人：浙江大学，
类型：发明
国别省市：