一种基于注意力机制的碳排放分析方法及系统技术方案

本发明专利技术属于碳排放计算技术领域，具体公开了一种基于注意力机制的碳排放分析方法及系统，方法包括：基于各类能源发电数据，分别得到每一类能源发电的局部时序特征向量和全局时序特征向量；通过特征融合得到对应能源发电的时序特征；基于各类能源的上下文特征进行自监督学习，得到预训练的基础模型；基于不同的训练数据集对基础模型进行训练，得到对应的训练好的下游任务模型；获取不同能源发电的电力数据，利用训练好的下游任务模型，完成下游任务预测；本发明专利技术基于同一个基础模型，通过不同训练数据集的训练，能够实现碳排放预测、能源消耗预测和各类能源占比预测，从而实现发电模式自感知。自感知。自感知。

【技术实现步骤摘要】
一种基于注意力机制的碳排放分析方法及系统


[0001]本专利技术涉及碳排放计算
，尤其涉及一种基于注意力机制的碳排放分析方法及系统。

技术介绍

[0002]近年来，电力系统逐渐成为碳排放的主要来源，目前对电力系统的碳排放计算主要包括宏观统计法和碳流分析法。
[0003]宏观统计法从宏观数据出发，统计一段时间内的能源消耗总量，由于计算简单、使用方便等优点，因此被广泛应用于较长时间跨度的碳排放计算。但其提供的计算结果不能及时反馈且宏观计算较为粗略，无法细致描述指标的变化过程，导致无法精确地追踪碳排放的流向。碳流分析法是一种基于功率分布的碳流追踪方法，确定电网中的功率分布，与碳排放强度相结合，然后将碳排放平摊到各个节点、支路和损耗上，从而实现碳排放流向的追踪溯源。虽然碳流分析法经过了多年的发展和完善，但仍有一定的改进空间。
[0004]首先，一部分碳流方法在面对有损网络时会产生较大的计算误差，现有的碳流计算方法容易出现分摊不均的情况；其次，大部分碳流分析法本质上属于静态，未能考虑负荷、新能源波动以及不定因素产生的额外碳排放计算。

技术实现思路

[0005]为了解决上述问题，本专利技术提出了一种基于注意力机制的碳排放分析方法及系统，基于各类能源发电数据，通过自监督学习方式实现对基础模型的预训练，然后通过不同的训练数据集训练得到不同的下游任务模型，实现对下游任务的预测。
[0006]在一些实施方式中，采用如下技术方案：一种基于注意力机制的碳排放分析方法，包括：基于各类能源发电数据，分别得到每一类能源发电的局部时序特征向量和全局时序特征向量；对每一类能源发电的局部时序特征向量和全局时序特征向量进行融合，得到对应能源发电的时序特征；利用得到的时序特征经过自注意力机制获得各类能源的权重分数，然后与各类能源发电的时序特征相乘，输出各类能源的上下文特征；基于上下文特征进行自监督学习，得到预训练的基础模型；基于不同的训练数据集对基础模型进行训练，得到对应的训练好的下游任务模型；获取不同能源发电的电力数据，利用训练好的下游任务模型，完成下游任务预测；所述下游任务预测至少包括碳排放预测。
[0007]所述下游任务预测还包括：能源消耗预测或各类能源占比预测。
[0008]作为进一步的方案，所述各类能源发电数据，具体包括：基于碳能源发电数据、基于水力发电数据、基于风力发电数据、基于光伏发电数据
和基于生物质能发电数据。
[0009]作为进一步的方案，得到各类能源发电的时序特征，具体过程为：利用卷积神经网络和注意力机制分别进行特征表示学习，得到每一类能源发电数据基于局部窗口视角下的时序特征表示和基于全局窗口视角下的时序特征表示；通过窗口注意力机制分别得到每一类能源发电数据的局部时序特征向量和全局时序特征向量；将每一类能源发电数据的局部时序特征向量和全局时序特征向量进行融合，经过门控机制和归一化，得到每一类能源发电数据的时序特征。
[0010]作为进一步的方案，基于不同的训练数据集对基础模型进行训练，得到训练好的下游任务模型，所述下游任务模型为碳排放预测模型、能源消耗预测模型或者能源占比预测模型；对于碳排放预测模型，训练数据集为用户实际的碳排放量；对于能源消耗预测模型，训练数据集为用户用电的能源消耗；对于能源占比预测模型，训练数据集为各类能源的占比。
[0011]作为进一步的方案，利用得到的时序特征经过自注意力机制获得各类能源的权重分数，具体过程为：对于时序特征向量，分别乘系数矩阵得到查询向量和查询关键字，计算输入向量之间的相关性，然后通过softmax操作得到各类能源的权重分数。
[0012]在另一些实施方式中，采用如下技术方案：一种基于注意力机制的碳排放分析系统，包括：时序特征提取模块，用于基于各类能源发电数据，分别得到每一类能源发电的局部时序特征向量和全局时序特征向量；时序特征融合模块，用于对每一类能源发电的局部时序特征向量和全局时序特征向量进行融合，得到对应能源发电的时序特征；基础模型训练模块，用于利用得到的时序特征经过自注意力机制获得各类能源的权重分数，然后与各类能源发电的时序特征相乘，输出各类能源的上下文特征；基于上下文特征进行自监督学习，得到预训练的基础模型；下游任务预测模块，用于基于不同的训练数据集对基础模型进行训练，得到对应的训练好的下游任务模型；获取不同能源发电的电力数据，利用训练好的下游任务模型，完成下游任务预测；所述下游任务预测至少包括碳排放预测。
[0013]所述下游任务预测还包括：能源消耗预测或各类能源占比预测。
[0014]基于不同的训练数据集对基础模型进行训练，得到训练好的下游任务模型，所述下游任务模型为碳排放预测模型、能源消耗预测模型或者能源占比预测模型；对于碳排放预测模型，训练数据集为用户实际的碳排放量；对于能源消耗预测模型，训练数据集为用户用电的能源消耗；对于能源占比预测模型，训练数据集为各类能源的占比。
[0015]与现有技术相比，本专利技术的有益效果是：（1）本专利技术以各类能源发电数据为基础，为了能够更好地捕获各类能源的时序特征，采用卷积神经网络和Transformer相结合，然后通过窗口注意力机制，得到局部和全局
上的时序特征，然后经过特征融合和门控机制获得各类能源发电的时序特征。
[0016]（2）本专利技术利用时序特征和自注意力机制生成各类能源发电权重分数；然后将权重和时序特征相乘，得到各类能源发电的上下文特征，然后进行自监督学习；得到预训练的基础模型；在基础模型的计算上，基于不同的下游任务，选择不同的训练数据集对基础模型进行训练，得到相应下游任务预测模型。采用这种方法不需要对下游任务重新训练模型，减少了训练时间和计算资源的消耗。
[0017]（3）本专利技术基于同一个基础模型，通过不同训练数据集的训练，能够实现碳排放预测、能源消耗预测和各类能源占比预测，从而实现发电模式自感知。
[0018]本专利技术的其他特征和附加方面的优点将在下面的描述中部分给出，部分将从下面的描述中变得明显，或通过本方面的实践了解到。
附图说明
[0019]图1为本专利技术实施例中基于注意力机制的碳排放分析方法过程示意图；图2为本专利技术实施例中基础模型的预训练过程示意图；图3为本专利技术实施例中基础模型的自监督训练过程示意图；图4为本专利技术实施例中基础模型的下游任务预测示意图。
具体实施方式
[0020]应该指出，以下详细说明都是例示性的，旨在对本专利技术提供进一步的说明。除非另有指明，本专利技术使用的所有技术和科学术语具有与本专利技术所属
的普通技术人员通常理解的相同含义。
[0021]需要注意的是，这里所使用的术语仅是为了描述具体实施方式，而非意图限制根据本专利技术的示例性实施方式。如在这里所使用的，除非上下文另外明确指出，否则单数形式也意图包括复数形式，此外，还应当理解的是，当在本说明书中使用术语“包含”和/或“包括”时，其指明存在特征、步骤、操作、器件、组件和/或它们的组合。
[0022]实施例一本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种基于注意力机制的碳排放分析方法，其特征在于，包括：基于各类能源发电数据，分别得到每一类能源发电的局部时序特征向量和全局时序特征向量；对每一类能源发电的局部时序特征向量和全局时序特征向量进行融合，得到对应能源发电的时序特征；利用得到的时序特征经过自注意力机制获得各类能源的权重分数，然后与各类能源发电的时序特征相乘，输出各类能源的上下文特征；基于上下文特征进行自监督学习，得到预训练的基础模型；基于不同的训练数据集对基础模型进行训练，得到对应的训练好的下游任务模型；获取不同能源发电的电力数据，利用训练好的下游任务模型，完成下游任务预测；所述下游任务预测至少包括碳排放预测。2.如权利要求1所述的一种基于注意力机制的碳排放分析方法，其特征在于，所述下游任务预测还包括：能源消耗预测或各类能源占比预测。3.如权利要求1所述的一种基于注意力机制的碳排放分析方法，其特征在于，所述各类能源发电数据，具体包括：煤炭发电类电力数据、水力发电类电力数据、风力发电类电力数据、光伏发电类电力数据和生物质发电类电力数据。4.如权利要求1所述的一种基于注意力机制的碳排放分析方法，其特征在于，所述得到对应能源发电的时序特征，具体过程为：利用卷积神经网络和注意力机制分别进行特征表示学习，得到每一类能源发电数据基于局部窗口视角下的时序特征表示和基于全局窗口视角下的时序特征表示；通过窗口注意力机制分别得到每一类能源发电数据的局部时序特征向量和全局时序特征向量；将每一类能源发电数据的局部时序特征向量和全局时序特征向量进行融合，经过门控机制和归一化，得到每一类能源发电数据的时序特征。5.如权利要求1所述的一种基于注意力机制的碳排...

【专利技术属性】
技术研发人员：王平欣，荆臻，张志，王清，李琮琮，朱红霞，陈祉如，赵曦，马俊，杜艳，曹彤，董贤光，孙凯，李骁，刘丽君，王兆军，
申请(专利权)人：国网山东省电力公司营销服务中心计量中心，
类型：发明
国别省市：