System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind() 多模态目标检测方法、装置、设备及存储介质制造方法及图纸_技高网

多模态目标检测方法、装置、设备及存储介质制造方法及图纸

技术编号:41068742 阅读:2 留言:0更新日期:2024-04-24 11:23
本发明专利技术涉及图像检测领域,公开了一种多模态目标检测方法、装置、设备及存储介质,该方法通过获取待检测点云数据以及待检测图像数据;分别对待检测点云数据和待检测图像数据进行特征提取,获得点云特征和图像特征;将点云特征和图像特征进行多模态特征融合,获得融合特征;对融合特征进行目标检测,获得目标检测结果。由于是通过将点云特征和图像特征进行多模态融合,可以充分利用点云和图像各自的特性,提高了目标检测的准确性和鲁棒性,解决了单独使用激光雷达或者相机难以应对真实复杂驾驶场景下的目标检测任务的问题。

【技术实现步骤摘要】

本专利技术涉及图像检测,尤其涉及一种多模态目标检测方法、装置、设备及存储介质


技术介绍

1、安全准确的3d目标检测是自主驾驶的核心技术,所有后续组件(如跟踪、预测和规划)在很大程度上取决于检测性能,其它交通参与者的感知错误可能会通过系统传播,导致自动驾驶车辆严重故障。为了防止这种错误,感知系统需要仔细设计,这仍然是一个具有挑战性的研究问题。

2、激光雷达与相机是目标检测领域常用的传感器,但是激光雷达获得的点云数据具有稀疏性并且不能提供纹理信息,因此难以胜任小目标检测的任务;相机拍摄的图像对光照变化敏感,难以应对复杂变化的真实驾驶环境。因此,单独使用激光雷达或者相机难以应对真实复杂驾驶场景下的目标检测任务。

3、上述内容仅用于辅助理解本专利技术的技术方案,并不代表承认上述内容是现有技术。


技术实现思路

1、本专利技术的主要目的在于提供了一种多模态目标检测方法、装置、设备及存储介质,旨在解决现有技术中单独的传感器难以应对真实复杂驾驶场景下的目标检测任务的技术问题。

2、为实现上述目的,本专利技术提供了一种多模态目标检测方法,所述方法包括以下步骤:

3、获取待检测点云数据以及待检测图像数据;

4、分别对所述待检测点云数据和所述待检测图像数据进行特征提取,获得点云特征和图像特征;

5、将所述点云特征和所述图像特征进行多模态特征融合,获得融合特征;

6、对所述融合特征进行目标检测,获得目标检测结果。

7、可选地,所述将所述点云特征和所述图像特征进行多模态特征融合,获得融合特征的步骤,包括:

8、对所述点云数特征行数据增强,获得增强点云特征;

9、通过学习对齐方法对所述图像特征和所述增强点云特征进行多模态特征融合,获得融合特征。

10、可选地,所述通过学习对齐方法对所述图像特征和所述增强点云特征进行多模态特征融合的步骤,包括:

11、将所述增强点云特征进行变换,获得所述增强点云特征的查询值;

12、将所述图像特征进行变换,获得所述图像特征的关键词和关键值;

13、基于交叉注意力机制对所述查询值和所述关键值进行聚合,获得聚合特征;

14、将所述聚合特征与所述图像特征进行多模态特征融合。

15、可选地,所述获取待检测点云数据以及待检测图像数据的步骤,包括:

16、通过第一设备获取初始点云数据,以及通过第二设备获取初始图像数据;

17、对所述初始点云数据和所述初始图像数据进行预处理,获得待检测点云数据和待检测图像数据。

18、可选地,所述对所述初始点云数据和所述初始图像数据进行预处理,获得待检测点云数据和待检测图像数据的步骤,包括:

19、对所述初始点云数据进行去噪、滤波和校准处理,获得待检测点云数据;

20、对所述初始图像数据进行去畸变、色彩校准和图像配准处理,获得待检测图像数据。

21、可选地,所述对所述融合特征进行目标检测,获得目标检测结果的步骤,包括:

22、将所述融合特征输入至目标检测框架中进行目标检测,获得目标检测结果。

23、可选地,所述将所述融合特征输入至目标检测框架中进行目标检测,获得目标检测结果的步骤之后,还包括:

24、根据所述目标检测结果确定目标位置;

25、通过跟踪算法对目标位置进行跟踪检测,获得目标的连续轨迹信息。

26、此外,为实现上述目的,本专利技术还提出一种多模态目标检测装置,所述多模态目标检测装置包括:

27、数据获取模块,用于获取待检测点云数据以及待检测图像数据;

28、特征提取模块,用于分别对所述待检测点云数据和所述待检测图像数据进行特征提取,获得点云特征和图像特征;

29、特征融合模块,用于将所述点云特征和所述图像特征进行多模态特征融合,获得融合特征;

30、目标检测模块,用于对所述融合特征进行目标检测,获得目标检测结果。

31、此外,为实现上述目的,本专利技术还提出一种多模态目标检测设备,所述设备包括:存储器、处理器及存储在所述存储器上并可在所述处理器上运行的多模态目标检测程序,所述多模态目标检测程序配置为实现如上文所述的多模态目标检测方法的步骤。

32、此外,为实现上述目的,本专利技术还提出一种存储介质,所述存储介质上存储有多模态目标检测程序,所述多模态目标检测程序被处理器执行时实现如上文所述的多模态目标检测方法的步骤。

33、本专利技术通过获取待检测点云数据以及待检测图像数据;分别对待检测点云数据和待检测图像数据进行特征提取,获得点云特征和图像特征;将点云特征和图像特征进行多模态特征融合,获得融合特征;对融合特征进行目标检测,获得目标检测结果。由于是通过将点云特征和图像特征进行多模态融合,可以充分利用点云和图像各自的特性,提高了目标检测的准确性和鲁棒性,解决了单独使用激光雷达或者相机难以应对真实复杂驾驶场景下的目标检测任务的问题。

本文档来自技高网
...

【技术保护点】

1.一种多模态目标检测方法,其特征在于,所述方法包括:

2.如权利要求1所述的多模态目标检测方法,其特征在于,所述将所述点云特征和所述图像特征进行多模态特征融合,获得融合特征的步骤,包括:

3.如权利要求2所述的多模态目标检测方法,其特征在于,所述通过学习对齐方法对所述图像特征和所述增强点云特征进行多模态特征融合的步骤,包括:

4.如权利要求1所述的多模态目标检测方法,其特征在于,所述获取待检测点云数据以及待检测图像数据的步骤,包括:

5.如权利要求4所述的多模态目标检测方法,其特征在于,所述对所述初始点云数据和所述初始图像数据进行预处理,获得待检测点云数据和待检测图像数据的步骤,包括:

6.如权利要求1所述的多模态目标检测方法,其特征在于,所述对所述融合特征进行目标检测,获得目标检测结果的步骤,包括:

7.如权利要求6所述的多模态目标检测方法,其特征在于,所述将所述融合特征输入至目标检测框架中进行目标检测,获得目标检测结果的步骤之后,还包括:

8.一种多模态目标检测装置,其特征在于,所述多模态目标检测装置包括:

9.一种多模态目标检测设备,其特征在于,所述设备包括:存储器、处理器及存储在所述存储器上并可在所述处理器上运行的多模态目标检测程序,所述多模态目标检测程序配置为实现如权利要求1至7中任一项所述的多模态目标检测方法的步骤。

10.一种存储介质,其特征在于,所述存储介质上存储有多模态目标检测程序,所述多模态目标检测程序被处理器执行时实现如权利要求1至7任一项所述的多模态目标检测方法的步骤。

...

【技术特征摘要】

1.一种多模态目标检测方法,其特征在于,所述方法包括:

2.如权利要求1所述的多模态目标检测方法,其特征在于,所述将所述点云特征和所述图像特征进行多模态特征融合,获得融合特征的步骤,包括:

3.如权利要求2所述的多模态目标检测方法,其特征在于,所述通过学习对齐方法对所述图像特征和所述增强点云特征进行多模态特征融合的步骤,包括:

4.如权利要求1所述的多模态目标检测方法,其特征在于,所述获取待检测点云数据以及待检测图像数据的步骤,包括:

5.如权利要求4所述的多模态目标检测方法,其特征在于,所述对所述初始点云数据和所述初始图像数据进行预处理,获得待检测点云数据和待检测图像数据的步骤,包括:

6.如权利要求1所述的多模态目标检测方法,其特征在于,所...

【专利技术属性】
技术研发人员:程刚王爽徐文东龚杰
申请(专利权)人:天眸嘉善光电科技有限公司
类型:发明
国别省市:

相关技术
    暂无相关专利
网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1