一种基于深度强化学习算法的高速公路监控方法及系统技术方案

技术编号:36076498 阅读:31 留言:0更新日期:2022-12-24 10:48
本发明专利技术提供一种基于深度强化学习算法的高速公路监控方法及系统,该方法通过根据交通能力与预设阈值的比对结果决定是否在某一路段的上游区域启动可变限速控制策略,在可变限速控制策略启动后,利用基于深度强化学习算法的DDQN智能体对高速公路中各路段的交通状态进行监控,并采用实时神经网络和目标神经网络对高速公路中各路段车辆的可变限速进行控制,再通过对记忆池中的经验样本进行多次重复训练以获得最优限速值动作,从而得到最优可变限速控制策略,最后DDQN智能体将最优限速值进行展示。本发明专利技术不仅能有效减少车辆间的速度差和追尾等事故的发生,缓解高速公路通行压力,还提高车辆的通行效率和通行安全性,实现可变限速控制效果的优化。速控制效果的优化。速控制效果的优化。

【技术实现步骤摘要】
一种基于深度强化学习算法的高速公路监控方法及系统


[0001]本专利技术涉及智慧高速公路
,具体涉及一种基于深度强化学习算法的高速公路监控方法及系统。

技术介绍

[0002]在我国经济建设发展中,高速公路有着重要的地位,并且随着高速公路的不断建设以及相应基础设施的进一步完善,对我国经济、旅游、运输以及文化行业的发展起到很重要作用。目前,由于汽车保有量的递增,高速公路发生交通拥堵的情况也越来越频繁,为了保证高速公路的通行效率,将出入口全部进行控制,因此产生拥堵的路段比较固定,一般集中在主线与出入口匝道连接处、道路施工区域或交通事故处。在路段拥堵时,车辆会频繁地出现加减速、分流、合流或交织行为,严重影响了车辆的通行。
[0003]可变限速控制主要是通过对道路上行驶的车辆相关交通流参数进行动态监测,将获取到的交通流信息输入到控制器中,通过算法计算后将限速值反馈到限速板上,从而实现对道路车辆车速的动态控制,在提高通行效率和通行安全两方面有显著效果。目前,在可变限速控制的研究中,需要植入交通流模型,其中METANET和CTM模型在可变限速控本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种基于深度强化学习算法的高速公路监控方法,其特征在于,包括以下步骤:可变限速启动判断步骤:根据高速公路上某一路段当前交通流运行状态预测出该路段的通行能力,将通行能力与预设阈值作比较,若通行能力小于等于预设阈值,则在该路段的上游区域启动可变限速控制策略;可变限速值确定步骤:在可变限速控制策略启动后,根据该路段的历史交通流状态数据确定深度强化学习算法中的状态集和动作集,使基于深度强化学习算法的DDQN智能体根据状态集感知该路段当前交通流运行状态,根据当前交通流运行状态并基于动作集设计出限速值动作,根据限速值动作促使当前交通流运行状态转换为新的交通流运行状态,根据新的交通流运行状态设计出新的限速值动作,并计算出新的交通流运行状态对应的回报值,深度强化学习算法包括实时神经网络和目标神经网络,根据实时神经网络和目标神经网络计算出用于反映从当前交通流运行状态到设计出新的限速值动作的整个过程所对应的Q值,将当前交通流运行状态、限速值、新的交通流运行状态、新的限速值、Q值和回报值作为经验样本存储到记忆池中;利用实时神经网络和目标神经网络对记忆池中的经验样本进行多次重复训练,针对当前交通流运行状态设计出多个新的限速值动作,分别计算出用于反映从当前交通流运行状态到设计出各个新的限速值动作的整个过程所对应的多个Q值,并将多个Q值存入DDQN智能体中,DDQN智能体选取当前交通流运行状态下的Q值最大值所对应的限速值动作作为最优限速值;信息展示步骤:通过高速公路上布设的情报板将最优限速值进行展示以实现高速公路监控。2.根据权利要求1所述的基于深度强化学习算法的高速公路监控方法,其特征在于,所述可变限速启动判断步骤中,通过高速公路上某一路段的事故风险等级和拥堵程度等级来反应某一路段的通行能力,若事故风险等级大于等于预设等级阈值,且拥堵程度等级大于等于预设等级阈值,则在该路段的上游区域启动可变限速控制策略。3.根据权利要求1所述的基于深度强化学习算法的高速公路监控方法,其特征在于,所述可变限速值确定步骤中,所述状态集包括某一路段的瓶颈区的车辆密度、上游区域的车辆密度和限速值,所述动作集包括不同限速值,且不同限速值均在路段允许的最高限速值和最低限速值之间。4.根据权利要求3所述的基于深度强化学习算法的高速公路监控方法,其特征在于,所述可变限速值确定步骤中,所述回报值根据某一路段的瓶颈区的车辆密度确定。5.根据权利要求1所述的基于深度强化学习算法的高速公路监控方法,其特征在于,所述可变限速值确定步骤中,从记忆池中选取经验样本时,采用TD误差计算经验样本被选取的概率。6.一种基于深度强化学习算法的高速公路监控...

【专利技术属性】
技术研发人员:徐延军贾百强胡超然陈建雄
申请(专利权)人:中远海运科技股份有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1