一种基于联邦学习的地区用电量中长期预测方法技术

本发明专利技术公开了一种基于联邦学习的地区用电量中长期预测方法，属于电气工程技术领域。所述基于联邦学习的地区用电量中长期预测方法同时对多个地区的用电量预测模型进行联邦训练，在保护数据隐私的前提下，既丰富了训练样本，还有效提高了模型的泛化能力；联邦学习的本地基础模型采用LSTM网络，在经济、社会等用电量传统影响因素基础上，模型的输入特征还添加了碳排放量，使用电量预测结果更符合未来的低碳发展路径。本发明专利技术为数据驱动方法，不涉及任何显式的建模，相比于传统的统计学方法和回归模型，本发明专利技术对于高维非线性问题具有更好的自适应能力，可以通过自学习来挖掘用电量的潜在变化规律，提升了预测准确率。提升了预测准确率。提升了预测准确率。

A mid long term forecasting method of regional electricity consumption based on Federated learning

【技术实现步骤摘要】
一种基于联邦学习的地区用电量中长期预测方法


[0001]本专利技术涉及电气工程
，尤其是涉及一种基于联邦学习的地区用电量中长期预测方法。

技术介绍

[0002]在“碳达峰、碳中和”(“双碳”)战略的大背景下，未来的电力系统转型方向是构建以新能源为主体的新型电力系统。准确的地区用电量中长期预测可以指导地区新能源、传统火电装机容量等电力规划，有助于政府制定“双碳”战略目标。现有的机器学习和深度学习方法在地区用电量中长期预测方面取得了一些成果，但在实际的用电量预测中，各地区所记录的准确用电量数据只有数年甚至数月的少量数据，导致使用机器学习算法所训练的模型预测准确度降低。而且，仅使用单个地区的数据训练模型，导致模型泛化能力低，难以直接迁移到新的地区进行用电量预测。因此，研究多地区用电量协同预测的方法具有重要的理论和工程价值。近年来，联邦学习作为一种分布式机器学习技术受到国内外学者的广泛关注，可以实现多个客户端在中央服务器的协调下共同训练模型，而无需数据持有者共享数据。在保护数据隐私的前提下，不仅丰富了数据样本，还提高了模型的泛化能力。
[0003]此外，现有的地区用电量预测方法仅考虑经济、社会等影响因素，忽视了“双碳”背景下碳排放量对用电量的影响，其预测结果可能不符合未来的“双碳”目标。因此，亟需面向“双碳”目标，构建新的用电量影响因素体系，以使地区用电量预测结果更符合未来的低碳发展路径。

技术实现思路

[0004]针对现有技术中存在的问题，本专利技术基于联邦学习和深度学习的方法，提出一种基于联邦学习的地区用电量中长期预测方法，以达成多地区用电量协同预测的目的。
[0005]为实现上述目的，本专利技术采用如下技术方案：
[0006]与现有技术相比，本专利技术的有益效果如下：本专利技术提供了一种基于联邦学习的地区用电量中长期预测方法，包括如下步骤：
[0007](1)搭建n个LSTM用电量预测模型，作为联邦学习的基础模型；
[0008](2)选取LSTM模型的特征输入量和输出量，对参与联邦学习的本地数据进行归一化处理；
[0009](3)基于联邦学习，对n个LSTM用电量预测模型进行协同训练，依次进行本地模型训练、本地模型上传、服务器接收模型、服务器聚合模型、服务器下发模型等流程，直到训练结束；
[0010](4)训练结束后得到更新后的服务器全局模型，通过输入本地数据的测试集到全局模型，得到地区用电量预测结果。
[0011]进一步地，所述LSTM用电量预测模型具体为：由一个输入层、若干个隐藏层和一个输出层构成，隐藏层神经元个数都为100；前一层的输出作为后一层的输入，最后通过线性
的全连接层输出得到用电量预测值。
[0012]进一步地，所述步骤(2)中选取LSTM模型的特征输入量和输出量，具体为：LSTM网络的输入特征主要由预测期前的历史用电量数据和预测期对应的人均GDP、产业结构、地区常住人口、城镇化率和碳排放量组成；LSTM模型的输出特征是预测期的用电量值。
[0013]进一步地，所述步骤(2)中对参与联邦学习的本地数据归一化处理，具体为，采用min
‑
max归一化方法对本地数据预处理：
[0014][0015]其中，x代表原始数据；x
max
和x
min
分别代表样本数据的最大值和最小值。
[0016]进一步地，所述步骤(3)中基于联邦学习对n个LSTM模型进行协同训练，具体为，联邦学习整体过程有多轮训练，但每轮训练的步骤相同，每轮训练的流程如下：
[0017]Step 1:如果这是第一轮训练，服务器将初始化全局LSTM模型权重参数；否则，服务器继续使用上一轮训练获得的权重，然后将全局模型下发到所有本地客户端；
[0018]Step 2:本地客户端接收下发的模型，将本地的LSTM模型参数替换为更新的全局模型参数，然后所有的用户都只使用本地数据并采用Adam优化算法训练本地LSTM模型；
[0019]Step 3:本地训练结束后，所有客户端向服务器上传更新后的本地模型参数；
[0020]Step 4:服务器接收并聚合本地模型参数，得到更新的全局模型；
[0021]在全局通信轮次内重复上述步骤，直到训练结束。
[0022]进一步地，所述采用Adam优化算法训练本地LSTM模型，具体为，根据t时刻的梯度g
t
分别计算梯度的一阶矩m
t
和二阶矩v
t
：
[0023]m
t
＝β1m
t
‑1+(1
‑
β1)g
t
[0024][0025]其中，β1和β2分别是一阶矩衰减系数和二阶矩衰减系数；g
t
为对t时刻求导所得梯度；为降低偏差对训练带来的影响，需将m
t
和v
t
分别修正为和
[0026][0027][0028]所述更新模型权重参数的具体公式为：
[0029][0030]其中，θ
k,t
‑1和θ
k,t
分别为第k个本地模型在t
‑
1时刻和t时刻的模型权重；η为学习率；ε为常数。
[0031]进一步地，所述客户端向服务器上传更新后的本地模型参数，将上传的本地模型模型参数作为权重参数。
[0032]进一步地，所述服务器聚合本地模型参数，具体为：各个本地模型参与聚合的权值w
k
与其参与训练的样本数量有关，当客户端自身样本数量越多，其模型参数聚合的权值w
k
也越大，权值计算公式如下：
[0033][0034]其中，Q
i
表示第i个客户端的本地训练数据样本总数，w
k
表示第k个本地模型参与聚合的权值；
[0035]所述模型聚合的计算公式如下：
[0036][0037]其中，θ表示聚合更新后全局模型的参数；w
i
和θ
i
分别表示第i个模型聚合的权值和经过本地训练后上传的模型权重参数。
[0038]进一步地，所述步骤(4)具体为：通过输入本地数据的测试集到全局模型，服务器将最终的全局模型下发到全部客户端，每个客户端用户使用全局模型在本地测试集进行测试，得到地区用电量预测结果。
[0039]与现有技术相比，本专利技术的有益效果为：
[0040]1、采用数据驱动的思路和深度学习的算法，不涉及任何显式的建模，相比于传统的统计学方法和回归模型，本专利技术对于高维非线性问题具有更好的自适应能力，可以通过自学习来挖掘地区用电量的潜在变化规律；
[0041]2、在保护数据隐私的前提下，本专利技术实现了不同地区的用电量模型协同训练，既丰富了样本特征，还有效提高了模型的预测准确率和泛化能力；
[0042]3、在经济、社会等用电量传统影响因素基础上，本专利技术考虑了碳排放量本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种基于联邦学习的地区用电量中长期预测方法，其特征在于，包括如下步骤：(1)搭建n个LSTM用电量预测模型，作为联邦学习的基础模型；(2)选取LSTM模型的特征输入量和输出量，对参与联邦学习的本地数据进行归一化处理；(3)基于联邦学习，对n个LSTM用电量预测模型进行协同训练，依次进行本地模型训练、本地模型上传、服务器接收模型、服务器聚合模型、服务器下发模型等流程，直到训练结束；(4)训练结束后得到更新后的服务器全局模型，通过输入本地数据的测试集到全局模型，得到地区用电量预测结果。2.根据权利要求1所述基于联邦学习的地区用电量中长期预测方法，其特征在于，所述LSTM用电量预测模型具体为：由一个输入层、若干个隐藏层和一个输出层构成，隐藏层神经元个数都为100；前一层的输出作为后一层的输入，最后通过线性的全连接层输出得到用电量预测值。3.根据权利要求1所述基于联邦学习的地区用电量中长期预测方法，其特征在于，所述步骤(2)中选取LSTM模型的特征输入量和输出量，具体为：LSTM网络的输入特征主要由预测期前的历史用电量数据和预测期对应的人均GDP、产业结构、地区常住人口、城镇化率和碳排放量组成；LSTM模型的输出特征是预测期的用电量值。4.根据权利要求1所述基于联邦学习的地区用电量中长期预测方法，其特征在于，所述步骤(2)中对参与联邦学习的本地数据归一化处理，具体为，采用min
‑
max归一化方法对本地数据预处理：其中，x代表原始数据；x
max
和x
min
分别代表样本数据的最大值和最小值。5.根据权利要求1所述基于联邦学习的地区用电量中长期预测方法，其特征在于，所述步骤(3)中基于联邦学习对n个LSTM模型进行协同训练，具体为，联邦学习整体过程有多轮训练，但每轮训练的步骤相同，每轮训练的流程如下：Step 1:如果这是第一轮训练，服务器将初始化全局LSTM模型权重参数；否则，服务器继续使用上一轮训练获得的权重，然后将全局模型下发到所有本地客户端；Step 2:本地客户端接收下发的模型，将本地的LSTM模型参数替换为更新的全局模型参数，然后所有的用户都只使用本地数据并采用Adam优化算法训练本地LSTM模型；Step 3:本地训练结束后，所有客户端向服务器上传更新后的本地模型参数；Step 4:服务器接收...

【专利技术属性】
技术研发人员：沈志恒，钱佳佳，顾晨临，邬樵风，杨恺，俞楚天，沈舒仪，李帆，朱克平，陈晴悦，
申请(专利权)人：国网浙江省电力有限公司经济技术研究院，
类型：发明
国别省市：