基于强化学习的配电网调压方法、装置、设备和存储介质制造方法及图纸

本发明专利技术公开了基于强化学习的配电网调压方法、装置、设备和存储介质。该方法包括：获取配电网中的当前电网状态信息、由配电网供电的充电站中的当前充电站状态信息和充电站中每个电动汽车的当前充电状态信息；将当前电网状态信息、当前充电站状态信息和当前充电状态信息输入至预设决策网络模型中，预设决策网络模型是预先基于目标奖励函数进行强化学习获得的，目标奖励函数是基于配电网的有功功率网损下降率、充电站的偏差电压和电动汽车离网时的电池电量进行构建的；基于预设决策网络模型的输出，获得当前配电网调压策略，并对配电网进行调压。通过本公开实施例的技术方案，可以有效平衡配电网运行效益和电动汽车充电费用，提升用户的充电体验。升用户的充电体验。升用户的充电体验。

【技术实现步骤摘要】
基于强化学习的配电网调压方法、装置、设备和存储介质


[0001]本专利技术涉及计算机
，尤其涉及一种基于强化学习的配电网调压方法、装置、设备和存储介质。

技术介绍

[0002]随着技术的发展，越来越多的电动汽车被生产和使用。电动汽车需要使用充电桩进行充电。在电动汽车进行充电时，配电网会产生无功功率和有功功率，例如，配电网对外输电会产生有功功率。配电网内部运行会产生无功功率。无功功率虽然不直接消耗有功功率，但无功功率的交换将引起发电和输电设备上的电压降落和电能损失，影响电力系统电能质量，导致电动汽车的充电效率降低和充电费用增加。
[0003]目前，通常是基于配电网运行效益最大的调压策略进行配电网调压。然而，这种方式虽然保证了配电网运行效益最大，但会导致电动汽车充电费用的增大，无法有效平衡配电网运行效益和电动汽车充电费用。

技术实现思路

[0004]本专利技术提供了一种基于强化学习的配电网调压方法、装置、设备和存储介质，以有效平衡配电网运行效益和电动汽车充电费用，提升用户的充电体验。
[0005]根据本专利技术的一方面，提供了一种基于强化学习的配电网调压方法，该方法包括：
[0006]获取配电网中的当前电网状态信息、由所述配电网供电的充电站中的当前充电站状态信息和所述充电站中每个电动汽车的当前充电状态信息；
[0007]将所述当前电网状态信息、所述当前充电站状态信息和所述当前充电状态信息输入至预设决策网络模型中，所述预设决策网络模型是预先基于目标奖励函数进行强化学习获得的，所述目标奖励函数是基于配电网的有功功率网损下降率、充电站的偏差电压和电动汽车离网时的电池电量进行构建的；
[0008]基于所述预设决策网络模型的输出，获得当前配电网调压策略，并基于所述当前配电网调压策略，对所述配电网进行调压。
[0009]根据本专利技术的另一方面，提供了一种基于强化学习的配电网调压装置，该装置包括：
[0010]信息获取模块，用于获取配电网中的当前电网状态信息、由所述配电网供电的充电站中的当前充电站状态信息和所述充电站中每个电动汽车的当前充电状态信息；
[0011]信息输入模块，用于将所述当前电网状态信息、所述当前充电站状态信息和所述当前充电状态信息输入至预设决策网络模型中，所述预设决策网络模型是预先基于目标奖励函数进行强化学习获得的，所述目标奖励函数是基于配电网的有功功率网损下降率、充电站的偏差电压和电动汽车离网时的电池电量进行构建的；
[0012]调压策略确定模块，用于基于所述预设决策网络模型的输出，获得当前配电网调压策略，并基于所述当前配电网调压策略，对所述配电网进行调压。
[0013]根据本专利技术的另一方面，提供了一种电子设备，所述电子设备包括：
[0014]至少一个处理器；以及
[0015]与所述至少一个处理器通信连接的存储器；其中，
[0016]所述存储器存储有可被所述至少一个处理器执行的计算机程序，所述计算机程序被所述至少一个处理器执行，以使所述至少一个处理器能够执行本专利技术任一实施例所述的基于强化学习的配电网调压方法。
[0017]根据本专利技术的另一方面，提供了一种计算机可读存储介质，所述计算机可读存储介质存储有计算机指令，所述计算机指令用于使处理器执行时实现本专利技术任一实施例所述的基于强化学习的配电网调压方法。
[0018]本专利技术实施例的技术方案，通过预先基于配电网的有功功率网损下降率、充电站的偏差电压和电动汽车离网时的电池电量进行构建获得目标奖励函数，并基于目标奖励函数进行强化学习获得预设决策网络模型，该预设决策网络模型可以针对配电网中不同的电网状态信息、由所述配电网供电的充电站中不同的充电站状态信息和所述充电站中每个电动汽车的充电状态信息决策出最优的配电网调压策略，以便有效平衡配电网运行效益和电动汽车充电费用，提升用户的充电体验。在多个电动汽车充电的过程中，获取配电网中的当前电网状态信息、由所述配电网供电的充电站中的当前充电站状态信息和所述充电站中每个电动汽车的当前充电状态信息，并将所述当前电网状态信息、所述当前充电站状态信息和所述当前充电状态信息输入至预设决策网络模型中进行电网调压动作决策，从而基于预设决策网络模型的输出，可以获得决策出最优的当前配电网调压策略，并基于当前配电网调压策略对所述配电网进行调压，从而基于当前配电网调压策略可以有效平衡当前配电网运行效益和当前电动汽车充电费用，提升用户的充电体验。
[0019]应当理解，本部分所描述的内容并非旨在标识本专利技术的实施例的关键或重要特征，也不用于限制本专利技术的范围。本专利技术的其它特征将通过以下的说明书而变得容易理解。
附图说明
[0020]为了更清楚地说明本专利技术实施例中的技术方案，下面将对实施例描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本专利技术的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
[0021]图1是根据本专利技术实施例一提供的一种基于强化学习的配电网调压方法的流程图；
[0022]图2是根据本专利技术实施例二提供的另一种基于强化学习的配电网调压方法的流程图；
[0023]图3是根据本专利技术实施例三提供的一种基于强化学习的配电网调压装置的结构示意图；
[0024]图4是实现本专利技术实施例的基于强化学习的配电网调压方法的电子设备的结构示意图。
具体实施方式
[0025]为了使本
的人员更好地理解本专利技术方案，下面将结合本专利技术实施例中的附图，对本专利技术实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本专利技术一部分的实施例，而不是全部的实施例。基于本专利技术中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都应当属于本专利技术保护的范围。
[0026]需要说明的是，本专利技术的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别类似的对象，而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换，以便这里描述的本专利技术的实施例能够以除了在这里图示或描述的那些以外的顺序实施。此外，术语“包括”和“具有”以及他们的任何变形，意图在于覆盖不排他的包含，例如，包含了一系列步骤或单元的过程、方法、系统、产品或设备不必限于清楚地列出的那些步骤或单元，而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。
[0027]实施例一
[0028]图1为本专利技术实施例一提供了一种基于强化学习的配电网调压方法的流程图，本实施例可适用于基于预设决策网络模型的输出对配电网进行电压调整的情况，该方法可以由基于强化学习的配电网调压装置来执行，该基于强化学习的配电网调压装置可以采用硬件和/或软件的形式实现，该基于强化学习的配电网调压装置可配置于电子设备中。如图1所示，该方法包括：
[0029]S110、获取配电网中的当前电网状态信息、由配电网供电本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种基于强化学习的配电网调压方法，其特征在于，包括：获取配电网中的当前电网状态信息、由所述配电网供电的充电站中的当前充电站状态信息和所述充电站中每个电动汽车的当前充电状态信息；将所述当前电网状态信息、所述当前充电站状态信息和所述当前充电状态信息输入至预设决策网络模型中，所述预设决策网络模型是预先基于目标奖励函数进行强化学习获得的，所述目标奖励函数是基于配电网的有功功率网损下降率、充电站的偏差电压和电动汽车离网时的电池电量进行构建的；基于所述预设决策网络模型的输出，获得当前配电网调压策略，并基于所述当前配电网调压策略，对所述配电网进行调压。2.根据权利要求1所述的方法，其特征在于，基于配电网的有功功率网损下降率、充电站的偏差电压和电动汽车离网时的电池电量构建目标奖励函数，包括：基于配电网的有功功率网损下降率和充电站的偏差电压，构建第一奖励函数；基于电动汽车离网时的电池电量，构建第二奖励函数；将所述第一奖励函数和所述第二奖励函数进行相加，获得目标奖励函数。3.根据权利要求2所述的方法，其特征在于，基于配电网的有功功率网损下降率和充电站的偏差电压，构建第一奖励函数，包括：确定配电网的有功功率网损下降率和充电站的偏差电压；对所述配电网的有功功率网损下降率和所述充电站的偏差电压进行加权相减，获得第一奖励函数，其中，所述配电网的有功功率网损下降率与奖励值为正相关，所述充电站的偏差电压与奖励值为负相关。4.根据权利要求3所述的方法，其特征在于，确定配电网的有功功率网损下降率，包括：获取执行配电网调压策略之前配电网中的第一有功功率网损和执行配电网调压策略之后配电网中的第二有功功率网损；确定所述第一有功功率网损与所述第二有功功率网损之间的有功功率网损差值；将所述有功功率网损差值与所述第二有功功率网损进行相除，并将相除结果确定为配电网的有功功率网损下降率。5.根据权利要求3所述的方法，其特征在于，确定充电站的偏差电压，包括：获取执行配电网调压策略之后充电站的当前电压和充电站的额定电压；确定所述当前电压与所述额定电压之间的电压差；将所述电压差与所述额定电压进行相除，并将相除结果确定为充电站的偏差电压。6.根据权利要求2所述的方法，其特征在于，基于电动汽车离网时的电池电量，构建第二奖励函数，包括：若电动汽车离网时的电池电量大于0，且小于或等于最低参考电量，则确定第二奖励函数为0；若电动汽车离网时的电池电量大于最低参考电量，且小于或等于平均参考电量，则基于最低参考电量、平均参考电量和最低安全电量，确定第一分段函数，并将所述第一分段函数确定为第二奖励函数；若电动汽车离网时的电池电量大于平均参考电量，且小于或等于最高参考电量，则基于最低参考电量和平均参考电量，确定第二分段函数，并将所述第二分段函数确定为第二
奖励函数；若电动汽车离网时的电池电量大于最高参考电量，且小于或等于最高可用电量，则基于最高安全电量和...

【专利技术属性】
技术研发人员：王伟杰，陈伯韬，郭景宇，董富德，黄荣杰，华耀，薛博文，张培培，赵文，梁健辉，朱德强，徐远途，杨浩，盘倩，钟芬芳，盘荣波，李炳坤，
申请(专利权)人：广东电网有限责任公司清远供电局，
类型：发明
国别省市：