当前位置: 首页 > 专利查询>山东大学专利>正文

基于多视角多模态融合的自动驾驶方法及系统技术方案

技术编号:40020924 阅读:37 留言:0更新日期:2024-01-16 16:44
本发明专利技术提出了基于多视角多模态融合的自动驾驶方法及系统,涉及自动驾驶技术领域,通过自动驾驶感知网络处理多视角多模态的观测数据,生成全局特征向量和刹车分数;将全局特征向量、车辆行驶的当前位置和目标位置输入到路径点预测网络中,得到预测的路径点;基于预测的路径点、车辆速度信息和刹车分数,完成对车辆的执行控制;本发明专利技术通过由多视角语义分割模块、点云语义分割模块、多模态特征融合模块和超距相机模块四个模块组成的自动驾驶感知网络,对车辆周围交通环境进行全面感知,解决了车辆对车身两侧障碍物的漏检测和因没有正确识别交通信号灯而产生的违规行为,加强了对多个交通参与者行为的理解。

【技术实现步骤摘要】

本专利技术属于自动驾驶,尤其涉及基于多视角多模态融合的自动驾驶方法及系统


技术介绍

1、本部分的陈述仅仅是提供了与本专利技术相关的
技术介绍
信息,不必然构成在先技术。

2、目前,传统汽车产业以人工智能的发展为依托,正在大力研发无人驾驶技术;无人驾驶技术在减少驾驶员驾驶强度、提高驾驶安全性等方面的突出作用,使这项技术拥有着良好的发展前景。自动驾驶车辆的关键技术包括:感知、决策和控制;其中,感知是车辆将各类传感器采集到的数据进行收集、处理,并生成实时感知结果的过程。自动驾驶车辆需要在复杂的交通场景中完成对周围环境空间及时间上的感知,这就要求车辆具有对传感器输入进行场景理解的能力。

3、基于图像和基于激光雷达的端到端自动驾驶方法取得了较为理想的结果,同时也存在一定的弊端。这些研究主要针对交通参与者数量有限的场景,并假设场景中其他交通参与者的行为接近理想状态,缺乏对复杂交通场景的处理能力。

4、在复杂的交通场景下,如车辆闯红灯、车辆经过十字路口或行人从随机的遮挡区域横穿道路等,基于图像的方法因缺乏交通场景的3d信息而表现不佳。激本文档来自技高网...

【技术保护点】

1.基于多视角多模态融合的自动驾驶方法,其特征在于,包括:

2.如权利要求1所述的基于多视角多模态融合的自动驾驶方法,其特征在于,所述不同视角RGB图像,包括左视图、前视图和右视图。

3.如权利要求1所述的基于多视角多模态融合的自动驾驶方法,其特征在于,所述自动驾驶感知网络包括多视角语义分割模块、点云语义分割模块、基于注意力的多模态特征融合模块和超距相机模块。

4.如权利要求3所述的基于多视角多模态融合的自动驾驶方法,其特征在于,所述多视角语义分割模块,具体为:

5.如权利要求3所述的基于多视角多模态融合的自动驾驶方法,其特征在于,所述点云...

【技术特征摘要】

1.基于多视角多模态融合的自动驾驶方法,其特征在于,包括:

2.如权利要求1所述的基于多视角多模态融合的自动驾驶方法,其特征在于,所述不同视角rgb图像,包括左视图、前视图和右视图。

3.如权利要求1所述的基于多视角多模态融合的自动驾驶方法,其特征在于,所述自动驾驶感知网络包括多视角语义分割模块、点云语义分割模块、基于注意力的多模态特征融合模块和超距相机模块。

4.如权利要求3所述的基于多视角多模态融合的自动驾驶方法,其特征在于,所述多视角语义分割模块,具体为:

5.如权利要求3所述的基于多视角多模态融合的自动驾驶方法,其特征在于,所述点云语义分割模块的具体步骤为:

6.如权利要求3所述的基于多视角多模态融合的自动驾驶方法,其特征在于,所述基于注意力的多模态特征融合模块的具体步骤为:

【专利技术属性】
技术研发人员:刘春生孙金颖常发亮黄一鸣郝鹏辉刘辉郇恒强
申请(专利权)人:山东大学
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1