一种基于卷积transformer架构的光伏日前预测方法、系统及设备技术方案

本发明专利技术公开了一种基于卷积transformer架构的光伏日前预测方法、系统及设备，获取气象历史数据和光伏系统运行历史数据，并作为数据集；将数据集分成训练集和测试集，从原始时间序列中提取多个不同的训练集，按顺序或随机地将第一年的训练集划分多个部分；对第一年的训练集进行辐照度过滤，辐照度过滤后的数据集被用来训练在不同辐照度下的机器学习模型；计算编码器和解码器中的自注意力层，在计算解码器的上一个输出和编码器的输出时采用大于1的卷积核来进行卷积操作；堆叠编码器和解码器得到光伏功率预测模型；获取当前气象数据和光伏系统运行数据输入光伏功率预测模型，光伏功率预测模型的输出结果为光伏日前功率的预测结果。测模型的输出结果为光伏日前功率的预测结果。测模型的输出结果为光伏日前功率的预测结果。

【技术实现步骤摘要】
一种基于卷积transformer架构的光伏日前预测方法、系统及设备


[0001]本专利技术属于光伏功率预测领域，涉及一种基于卷积transformer架构的光伏日 前预测方法、系统及设备。

技术介绍

[0002]光伏技术正在成为满足未来电力需求的主要来源。更高份额的可再生能源技 术对于满足未来新型电力系统电网的需求至关重要，但也带来了新的电网运行挑 战。电力公司需要对光伏发电功率进行预测，以便进行发电调度操作。预测是一 个主要的推动因素，可以确保安全和经济的光伏并网，同时在电力系统不同层面 的许多灵活性创新之间建立联系，以实现协同效应。准确的光伏功率预测是一个 重要的、具有成本效益的能源管理要素，它还有助于光伏电站和集合系统有效和 直接地参与电力市场，并且通过优化供应计划来增加收入。
[0003]大部分光伏功率预测基于时间序列分析的方法都假定信号是以固定的时间 间隔系统地测量的。首先大家会想到递归神经网络类的模型，但递归神经网络在 网络加深时存在梯度消失和梯度爆炸问题。即使是后续的长短期记忆网络，在捕 捉长期依赖上依然力不从心。后续发展出来的Transformer架构更强的长期依赖 建模能力，在长序列上效果更好。在前面提到过，基于递归神经网络的方法面对 长序列时无法完全消除梯度消失和梯度爆炸的问题，而Transformer架构则可以 解决这个问题，在长序列上效果更好，但原始Transformer架构的自注意力计算 方法存在对局部信息不敏感的问题，使得模型易受异常点影响。

技术实现思路

[0004]本专利技术的目的在于克服上述现有技术的缺点，提供一种基于卷积transformer 架构的光伏日前预测方法、系统及设备，针对时序数据预测任务的特点，增强对 局部上下文信息的关注，使预测更精准。
[0005]为达到上述目的，本专利技术采用以下技术方案予以实现：
[0006]一种基于卷积transformer架构的光伏日前预测方法，包括以下过程：
[0007]S1，获取气象历史数据和光伏系统运行历史数据，并作为数据集；
[0008]S2，将设定年数及以上的数据集分成训练集和测试集，从原始时间序列中提 取多个不同的训练集，按顺序或随机地将第一年的训练集划分多个部分；
[0009]S3，对第一年的训练集进行辐照度过滤，辐照度过滤后的数据集被用来训练 在不同辐照度下的机器学习模型；
[0010]S4，计算编码器和解码器中的自注意力层，在计算解码器的上一个输出和编 码器的输出时采用大于1的卷积核来进行卷积操作；堆叠编码器和解码器得到光 伏功率预测模型；
[0011]S5，获取当前气象数据和光伏系统运行数据输入光伏功率预测模型，光伏功 率预测模型的输出结果为光伏日前功率的预测结果。
[0012]优选的，S1中，气象历史数据包括平面内太阳高度角、风向、风速和环境温 度；光伏系统运行历史数据包括最大功率点、最大功率输出点的电流、电压、功 率、在光伏阵列的输出端输出值和模块温度、逆变器交流侧输出值、太阳方位角 和仰角。
[0013]优选的，S2中，按顺序或随机地将第一年的训练集划分10％、30％、50％和 70％的部分。
[0014]优选的，S3中，辐照度过滤器包括低通过滤器和高通滤波器，低通过滤器过 滤掉辐照度>600瓦/平方米的高辐照度条件，高通滤波器过滤掉辐照度≤600瓦/ 平方米的数据。
[0015]优选的，S4中，计算自注意力层时，解码器中特征向量如下所示：
[0016][0017]将输入转化成嵌入向量；根据嵌入向量得到Q、K和V三个向量；为每个向 量计算一个分数：score＝q*k；为了梯度的稳定，Transformer使用了分数归一化， 即除以对分数施以softmax激活函数；softmax点乘Value值，得到加权的 每个输入向量的评分v，相加之后得到最终的输出结果：tex＝z＝∑v；在计 算Q和K时采用大于1的卷积核来进行卷积操作；得到上述输出结果后，将输 出结构送入编码器下一模块，前馈神经网络层，前馈神经网络层有两层，第一层 的激活函数是ReLU，第二层是一个线性激活函数，表示为：
[0018]FFN(Z)＝max(0，ZW1+b1)W2+b2。
[0019]进一步，解码器中，比编码器中多了个编码
‑
解码注意力层，在编码
‑
解码注 意力层中，Q来自于解码器的上一个输出，K和V来自于与编码器的输出，解码 器解码之后，解码的特征向量经过一层激活函数为softmax的全连接层之后得到 反映每个数据概率的输出向量。一个完整可训练的网络结构便是编码器和解码器 的堆叠。
[0020]再进一步，S5的具体过程为，获取当前气象数据和光伏系统运行数据输入光 伏功率预测模型的卷积层和编码层、通过卷积层和编码层的输出相加后得到第一 当前初始数据并输送至解码器组，解码器组根据第一当前初始数据和第二历史初 始数据得到初始目标数据并输送至激活输出层，激活输出层的输出结果为光伏日 前功率的预测结果。
[0021]一种基于卷积transformer架构的光伏日前预测系统，包括：
[0022]评估数据集获取模块，用于获取气象历史数据和光伏系统运行历史数据，并 作为数据集；
[0023]数据集划分模块，用于将设定年数及以上的数据集分成训练集和测试集，从 原始时间序列中提取多个不同的训练集，按顺序或随机地将第一年的训练集划分 多个部分；
[0024]辐照度过滤模块，用于对第一年的训练集进行辐照度过滤，辐照度过滤后的 数据集被用来训练在不同辐照度下的机器学习模型；
[0025]光伏功率预测模型建立模块，用于计算编码器和解码器中的自注意力层，在 计算解码器的上一个输出和编码器的输出时采用大于1的卷积核来进行卷积操 作；堆叠编码器和解码器得到光伏功率预测模型；
[0026]光伏日前功率预测模块，用于获取当前气象数据和光伏系统运行数据输入光 伏功率预测模型，光伏功率预测模型的输出结果为光伏日前功率的预测结果。
[0027]一种计算机设备，包括存储器、处理器以及存储在所述存储器中并可在所述 处理器上运行的计算机程序，所述处理器执行所述计算机程序时实现如上述任意 一项所述基于卷积transformer架构的光伏日前预测方法的步骤。
[0028]一种计算机可读存储介质，所述计算机可读存储介质存储有计算机程序，所 述计算机程序被处理器执行时实现如上述任意一项所述基于卷积transformer架 构的光伏日前预测方法的步骤。
[0029]与现有技术相比，本专利技术具有以下有益效果：
[0030]本专利技术利用了Transformer的优势，并在Transformer的基础上改进了自注意 力层的计算方式以适应时序数据，针对时序数据预测任务的特点，通过增强局部 上下文的建模能力，提出的改进方法是在计算解码器的上一个输出和编码器的输 出时采用大于1的卷积核来进行卷积本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种基于卷积transformer架构的光伏日前预测方法，其特征在于，包括以下过程：S1，获取气象历史数据和光伏系统运行历史数据，并作为数据集；S2，将设定年数及以上的数据集分成训练集和测试集，从原始时间序列中提取多个不同的训练集，按顺序或随机地将第一年的训练集划分多个部分；S3，对第一年的训练集进行辐照度过滤，辐照度过滤后的数据集被用来训练在不同辐照度下的机器学习模型；S4，计算编码器和解码器中的自注意力层，在计算解码器的上一个输出和编码器的输出时采用大于1的卷积核来进行卷积操作；堆叠编码器和解码器得到光伏功率预测模型；S5，获取当前气象数据和光伏系统运行数据输入光伏功率预测模型，光伏功率预测模型的输出结果为光伏日前功率的预测结果。2.根据权利要求1所述的基于卷积transformer架构的光伏日前预测方法，其特征在于，S1中，气象历史数据包括平面内太阳高度角、风向、风速和环境温度；光伏系统运行历史数据包括最大功率点、最大功率输出点的电流、电压、功率、在光伏阵列的输出端输出值和模块温度、逆变器交流侧输出值、太阳方位角和仰角。3.根据权利要求1所述的基于卷积transformer架构的光伏日前预测方法，其特征在于，S2中，按顺序或随机地将第一年的训练集划分10％、30％、50％和70％的部分。4.根据权利要求1所述的基于卷积transformer架构的光伏日前预测方法，其特征在于，S3中，辐照度过滤器包括低通过滤器和高通滤波器，低通过滤器过滤掉辐照度>600瓦/平方米的高辐照度条件，高通滤波器过滤掉辐照度≤600瓦/平方米的数据。5.根据权利要求1所述的基于卷积transformer架构的光伏日前预测方法，其特征在于，S4中，计算自注意力层时，解码器中特征向量如下所示：将输入转化成嵌入向量；根据嵌入向量得到Q、K和V三个向量；为每个向量计算一个分数：score＝q*k；为了梯度的稳定，Transformer使用了分数归一化，即除以对分数施以softmax激活函数；softmax点乘Value值，得到加权的每个输入向量的评分v，相加之后得到最终的输出结果：tex＝z＝∑v；在计算Q和K时采用大于1的卷积核来进行卷积操作；得到上述输出结果后，将输出结构送入编码器下一模块，前馈神经网络层，前馈神经网络层有两层，第一层的激活函数是ReLU，第二层是一个线性激活函数，表示为：FFN(Z)＝...

【专利技术属性】
技术研发人员：卢泽华，童强，叶林，庞军，周盛龙，曹云栋，李东辉，王忠超，杨鹤松，任鑫，李小翔，冯帆，王振荣，赵鹏程，
申请(专利权)人：中国华能集团清洁能源技术研究院有限公司，
类型：发明
国别省市：