一种基于Q-Learning算法的分布式多智能体微电网能量管理方法技术

技术编号:33464701 阅读:26 留言:0更新日期:2022-05-19 00:44
本发明专利技术公开了一种基于Q

【技术实现步骤摘要】
一种基于Q

Learning算法的分布式多智能体微电网能量管理方法


[0001]本专利技术涉及微电网能量管理
,具体而言,涉及一种基于Q

Learning算法的分布式多智能体微电网能量管理方法。

技术介绍

[0002]近年来全球关于环境问题的政策重点是增加低碳能源。与传统电网相比,微电网可以广泛利用可再生能源和分布式能源,引导消费者参与电力系统的运行,实现能源的最佳管理。微电网是由多种分布式电源、储能和负荷组成的独立可控系统,可以实现并网模式与孤岛模式间灵活切换。若对微电网能量进行管理,能有效提高其供电的可靠性、稳定性和经济性,因此微电网能量管理策略是微电网研究领域的核心问题之一。
[0003]目前微电网的能量管理方法可以分为两类,即集中式方法和分布式方法。集中式方法具有运行简单高效、反应迅速等优点,但同时也存在一定的局限性,中央控制器需要处理大量信息,一旦出现故障,整个微电网系统将崩溃,另外,当微电网集中式控制框架建立起来之后就不能变动了,若有新的分布式电源或负载接入就必须推倒重建。由于各本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种基于Q

Learning算法的分布式多智能体微电网能量管理方法,其特征在于,包括以下步骤:步骤1,获取风力发电场的环境风速、光伏发电场的环境温度和光照强度共三组数据:以一定时间间隔从发电场的数据采集系统中记录环境风速、环境温度和光照强度的数据,将其作为风力发电系统和光伏发电系统的输入数据;步骤2,对学习参数进行灵敏度分析,选择合适的学习参数;步骤3,构建基于Q

Learning的状态空间和动作空间,以初始化Q表作为各代理的学习模型;步骤4,基于步骤1得到的数据,计算风力发电系统和光伏发电系统的输出功率,将其作为可再生能源代理商的输出功率数据;步骤5,设计动作选择策略,各代理基于此策略选择动作:可再生能源代理商根据所设计的策略选择报价,其他分布式能源代理商根据所设计的策略选择输出功率和报价,用户代理根据所设计的策略选择削减负荷;步骤6,根据步骤4和步骤5得到的分布式能源代理商的报价和输出功率,形成多个报价块,每个报价块的结构为{输出功率,报价},同时用户代理选择削减负荷量后得到剩余负荷需求量,将报价块和剩余负荷需求量提交到上层的能量管理代理;步骤7,设计市场定价策略,能量管理代理收到分布式能源代理商的报价块和用户代理的剩余负荷需求量,在确保供需平衡的前提下,根据所设计的定价策略指定市场电价;步骤8,计算各代理的即时奖励:可再生能源代理商的即时奖励为售电利润,其他分布式能源代理商的即时奖励除了售电利润外还需考虑发电成本,用户代理的即时奖励为满足负荷需求的总成本;步骤9,基于步骤8获得的即时奖励,各代理根据公式(16)更新Q表;步骤10,判断Q表是否收敛,若未收敛,返回步骤4;若收敛则算法结束。2.如权利要求1所述的一种基于Q

Learning算法的分布式多智能体微电网能量管理方法,其特征在于,所述微电网是由风力发电系统、光伏发电系统、微型燃气轮机、燃料电池、柴油发电机、储能系统以及可削减负荷组成的并网型微电网,且微电网中各元件均视为具有学习能力并能根据环境改变自身策略的智能体。3.如权利要求1所述的一种基于Q

Learning算法的分布式多智能体微电网能量管理方法,其特征在于,步骤2所述的参数α∈(0,1]表示学习率,α越大说明代理越贪婪,选择动作时更在意即时奖励;γ∈(0,1]表示折现率,γ越大说明代理越在意未来奖励。4.如权利要求1所述的一种基于Q

Learning算法的分布式多智能体微电网能量管理方法,其特征在于,步骤4中计算风力发电系统和光伏发电系统的输出功率的公式如下:1)风力发电系统的输出功率如公式(1):
其中,P
wt
表示某一风速下的风力发电系统输出功率,表示风力发电系统的额定功率;v表示环境风速,v
ci
、v
r
、v
co
分别表示风机运行时的切入风速、额定风速和切出风速;2)光伏发电系统的输出功率如公式(2):P
pv
=FF
×
V
×
I
ꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀ
(2)T
c
=T
a
+s
×
(N
OT

20)/0.8
ꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀ
(3)I=s
×
[I
SC
+K
I
×
(T
c

25)]
ꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀ
(4)V=V
oc

K
v
×
T
c
ꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀ
(5)其中,T
a
为环境温度,T
c
表示光伏电池的温度,s表示光照强度,N
OT
为光伏电池的标准工作温度,I
SC
、V
oc
分别表示光伏电池的短路电流和开路电压,I
MPP
、V
MPP
分别表示光伏电池的最大功率点电流和最大功率点电压,FF表示填充因子,K
I
、K
v
为电流...

【专利技术属性】
技术研发人员:马苗苗董利鹏刘立成
申请(专利权)人:华北电力大学
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1