一种基于分布注意力的电力能耗长期控制方法技术

本发明专利技术公开了一种基于分布注意力的电力能耗长期控制方法，包括：构建电力能耗长期预测网络结构，网络结构由编码器部分和解码器部分组成；训练数据经N层编码器训练注意力参数，测试与验证数据经N层解码器得到解码结果，解码结果会经过全连接层与softmax层得到最后的预测结果；将预测结果与用户行为模式进行匹配，获取用户的未来状态，进而调整供电的路径与电量；根据预测曲线的波形进行供电的削峰填谷。基于本发明专利技术的长期预测结果调整供电的路径与电量，防止供电不足或电力过量囤积的情况出现；根据预测曲线的波形进行供电的削峰填谷，可以使电路稳定供电，减少设备电路老化的同时提高供电的安全性。提高供电的安全性。提高供电的安全性。

【技术实现步骤摘要】
一种基于分布注意力的电力能耗长期控制方法


[0001]本专利技术涉及电力能耗领域，尤其涉及一种基于分布注意力的电力能耗长期控制方法。

技术介绍

[0002]电力能耗预测具有广泛的应用和研究价值，具体表现为以下几个方面：(1)用于设备运行状况的感知与预警，便于系统设备更换与调度。例如：通过预测老旧设备的运行寿命制定修理与更换方案，减少设备停工与闲置带来的损失。(2)用于预测客户电力需求，有助于及时供电与调度。(3)用于新型设备的稳定性评估预测，可以发现新设备中存在的漏洞与风险。(4)用于在保持关键信息的前提下进行数据压缩和传输。这在智能电网项目中对大规模采集电力数据并高效传输具有重要的价值。(5)用于用户肖像刻画与用电用户数据库检索研究。通过建立不同类型用户的用电习惯数据库，可以对用户进行语义学意义上的存取与查找。
[0003]由于电力能耗预测的结果后续会用于电网系统的决策，而系统的决策具有时效性，即需要在一定时间内做出正确判断，同时越是准确的决策系统需要计算的时间越长，因此需要在一定时间内预测更久的数据，这就是电力能耗预测的长期稳定预测问题。
[0004]在长期预测过程中，需要通过历史数据来预测短期未来数据，再通过短期未来数据预测长期未来数据。在这一过程中预测的误差会逐渐积累，导致需要预测的数据越远，得到的正确率越低。另一方面，用户行为的改变可能导致数据分布逐渐偏移，如果不能捕获数据分布偏移的方向不但会使预测的准确率逐渐降低，还会因为误判用户状态进而影响控制决策。
[0005]电力能耗数据记录用户在不同时间的用电情况，其数据序列具有明显的周期性和长期趋势性特征。具体表现上，根据用电用户类型的不同，数据序列可能以天、周、月、年等时间尺度形成周期，如日低晚高、春秋低夏冬高等；又会因为外部环境、用户行为习惯等原因形成分布变化，如住宅人员流动、工厂设备更换等。因此电力能耗预测面临着数据分布存在变化、长期预测精度低的问题。而准确的预测是电力均衡供给的前提，高需低供将导致用户无电可用，低需高供会使得电能囤积耗散、造成浪费。
[0006]现有电力能耗预测技术分为传统统计技术和深度学习技术。传统统计技术认为数据处于某一稳定分布，它对于数据的分布变化不敏感。当用户行为改变导致数据分布变化，传统统计技术会认为此刻出现了异常值，并仍然依赖旧有分布预测未来值，因此传统方法无法通过长期预测判断用户状态改变、电路突发故障等问题。深度学习方法在数据样本中学习规律，当数据分布发生变化时，深度学习方法会更新自身内部的参数与状态来适应这种变化，而后续预测都会基于这种变化后的状态，导致预测的数据的分布难以恢复平稳，逐渐偏离正常；将导致电网配电与需求不匹配，使得用户断电或造成电力浪费；也会使得供电削峰填谷、用户行为预测等一些进阶性工作难以展开。

技术实现思路

[0007]本专利技术提供了一种基于分布注意力的电力能耗长期控制方法，本专利技术针对长期稳定预测问题，设计一个新颖的基于深度学习的网络模型，描述了一个基于分布注意力机制和时空注意力的深度网络结构(Multi
‑
Source Long Term,MSLT)，该模型充分利用Transformer的矩阵并行运算的速度优势，融合了电力能耗数据的时间上下文信息以及数据的分布统计信息，解决该领域的长期预测精度低、效果不稳定的问题，进而维护了电网的安全性，详见下文描述：
[0008]一种基于分布注意力的电力能耗长期控制方法，所述方法包括：
[0009]构建电力能耗长期预测网络结构，所述网络结构由编码器部分和解码器部分组成；
[0010]训练数据经N层编码器训练注意力参数，测试与验证数据经N层解码器得到解码结果，解码结果会经过全连接层与softmax层得到最后的预测结果；
[0011]将预测结果与用户行为模式进行匹配，获取用户的未来状态，进而调整供电的路径与电量；根据预测曲线的波形进行供电的削峰填谷。
[0012]其中，所述编码器的输入X是长度为L＝96的时间序列向量，编码器包含分布注意力模块、多头注意力模块、前馈神经网络模块、残差连接与正则化模块。
[0013]进一步地，所述分布注意力模块获得输入X的统计信息，使用滑动窗口统计序列中长度为L个、L/2(L/2+1)个、L/4(3*L/4+1)个的子序列，记录每一个子序列的均值、方差、最大值和最小值，将所有均值与方差排列成一个长度为5*L+12的序列向量。
[0014]其中，所述多头注意力模块用于计算序列中每一个位置对其它位置的注意力大小，输入为统计信息和原始数据的拼接是一个长度为n＝6*L+12的向量；
[0015]每层多头注意力层有8组参数矩阵，每组参数矩阵有三个，称为W
Query
、W
Key
和W
Value
，三个参数矩阵的维度均为m
×
n；分别与三个参数矩阵相乘得到Q、K、V，计算序列当前位置对历史数据的注意力：
[0016][0017]其中，两层前馈神经网络中神经元个数分别为n和L，其内部参数矩阵维度分别为n
×
n和n
×
L，用于残差连接和保证编码器每层的结果都为维度为L的向量。
[0018]进一步地，解码过程先对解码器输入进行掩码多头注意力运算，解码输入的维度与编码器输入相同，输入序列的前部分为已知数据，后部分为需要预测的数据；
[0019]解码器的多头注意力模块计算公式与编码器相同，网络中只训练W
Query
参数，W
Key
和W
Value
使用编码器得到的结果。
[0020]本专利技术提供的技术方案的有益效果是：
[0021](1)使用分布注意力模块捕获电力能耗数据的分布变化规律，对用户行为改变造成的数据规律变动更为敏感；
[0022](2)基于本专利技术的长期预测结果调整供电的路径与电量，防止供电不足或电力过量囤积的情况出现；根据预测曲线的波形进行供电的削峰填谷，可以使电路稳定供电，减少设备电路老化的同时提高供电的安全性；在电力能耗数据集上获得了较其它SOTA方法更好的实验结果。
附图说明
[0023]图1为本专利技术提出的基于分布注意力的电力能耗长期控制方法的示意图；
[0024]图2为MSLT模型中分布注意力模块(AD)的实现细节示意图；
[0025]图3为本方法与其他SOTA方法预测步长为192的电力能耗数据的部分结果对比示意图；
[0026]图4为本方法与其他SOTA方法预测各步长电力能耗数据的误差对比示意图。
具体实施方式
[0027]为使本专利技术的目的、技术方案和优点更加清楚，下面对本专利技术实施方式作进一步地详细描述。
[0028]本专利技术实施例描述了一个基于时空注意力与分布注意力的电力能耗长期预测网络结构(MSLT)，参见图1和图2，该方法包括以下步骤：
[0029]如图1所示，此模型由编码器部本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种基于分布注意力的电力能耗长期控制方法，其特征在于，所述方法包括：构建电力能耗长期预测网络结构，所述网络结构由编码器部分和解码器部分组成；训练数据经N层编码器训练注意力参数，测试与验证数据经N层解码器得到解码结果，解码结果会经过全连接层与softmax层得到最后的预测结果；将预测结果与用户行为模式进行匹配，获取用户的未来状态，进而调整供电的路径与电量；根据预测曲线的波形进行供电的削峰填谷。2.根据权利要求1所述的一种基于分布注意力的电力能耗长期控制方法，其特征在于，所述编码器的输入X是长度为L＝96的时间序列向量，编码器包含分布注意力模块、多头注意力模块、前馈神经网络模块、残差连接与正则化模块。3.根据权利要求2所述的一种基于分布注意力的电力能耗长期控制方法，其特征在于，所述分布注意力模块获得输入X的统计信息，使用滑动窗口统计序列中长度为L个、L/2(L/2+1)个、L/4(3*L/4+1)个的子序列，记录每一个子序列的均值、方差、最大值和最小值，将所有均值与方差排列成一个长度为5*L+12的序列向量。4.根据权利要求2所述的一种基于分布注意力的电力能耗长期控制方法，其特征在于，所述多头注意力模块用于计算序列中每一个位...

【专利技术属性】
技术研发人员：包文昊，王征，孙美君，
申请(专利权)人：天津大学，
类型：发明
国别省市：