雷达与相机的数据融合方法、装置、电子设备及存储介质制造方法及图纸

本发明专利技术公开了一种雷达与相机的数据融合方法、装置、电子设备及存储介质，该方法包括：确定雷达连续采集的至少两帧目标雷达数据与相机连续采集的至少两帧候选相机数据，所述雷达的采集频率低于所述相机的采集频率；从所述至少两帧候选相机数据中确定与所述目标雷达数据匹配的目标相机数据，所述目标相机数据与所述目标雷达数据之间的目标采集时间差小于参考时间差；将所述目标雷达数据与所述目标相机数据进行融合处理，本方法，能够将不同时间维度的目标相机数据和目标雷达数据进行融合，从而提高了融合准确率，为雷达与视觉融合提供了数据基础。了数据基础。了数据基础。

【技术实现步骤摘要】
雷达与相机的数据融合方法、装置、电子设备及存储介质


[0001]本专利技术涉及多元传感器数据融合
，尤其涉及一种雷达与相机的数据融合方法、装置、电子设备及存储介质。

技术介绍

[0002]环境感知是智能识别中的关键技术，比如雷达障碍物识别、视觉摄像头识别等感知识别。
[0003]相关方案中，大多是基于单一维度的数据实现感知识别，比如通过相机能从视觉角度感知丰富的图像信息，通过雷达能在一定程度上克服因环境因素(比如光线、雾霾等)造成的感知识别不准确问题，但却无法获知丰富的图像信息，导致无法进行很好的感知。此外，由于相机与雷达的采集频率并不一致，造成数据融合时无法匹配，出现融误差。因此，如何充分利用雷达与相机的数据进行较好地融合变得尤为重要。

技术实现思路

[0004]本专利技术提供了一种雷达与相机的数据融合方法、装置、电子设备及存储介质，以解决毫米波雷达和相机视频识别数据不在同一时刻，造成同时采集的两类数据时空误差大而导致的标定和融合难的问题。
[0005]根据本专利技术的一方面，提供了一种雷达与相机的数据融合方法，该方法包括：
[0006]确定雷达连续采集的至少两帧目标雷达数据与相机连续采集的至少两帧候选相机数据，所述雷达的采集频率低于所述相机的采集频率；
[0007]从所述至少两帧候选相机数据中确定与所述目标雷达数据匹配的目标相机数据，所述目标相机数据与所述目标雷达数据之间的目标采集时间差小于参考时间差，所述参考时间差为所述至少两帧候选相机数据中剩余相机数据与所述目标雷达数据之间的采集时间差；
[0008]将所述目标雷达数据与所述目标相机数据进行融合处理。
[0009]根据本专利技术的另一方面，提供了一种雷达与相机的数据融合装置，该装置包括：
[0010]采集数据确定模块，用于确定雷达连续采集的至少两帧目标雷达数据与相机连续采集的至少两帧候选相机数据，所述雷达的采集频率低于所述相机的采集频率；
[0011]相机与雷达匹配模块，用于从所述至少两帧候选相机数据中确定与所述目标雷达数据匹配的目标相机数据，所述目标相机数据与所述目标雷达数据之间的目标采集时间差小于参考时间差，所述参考时间差为所述至少两帧候选相机数据中剩余相机数据与所述目标雷达数据之间的采集时间差；
[0012]融合处理模块，用于将所述目标雷达数据与所述目标相机数据进行融合处理。
[0013]根据本专利技术的另一方面，提供了一种电子设备，所述电子设备包括：
[0014]至少一个处理器；以及
[0015]与所述至少一个处理器通信连接的存储器；其中，
[0016]所述存储器存储有可被所述至少一个处理器执行的计算机程序，所述计算机程序被所述至少一个处理器执行，以使所述至少一个处理器能够执行本专利技术任一实施例所述的雷达与相机的数据融合方法。
[0017]根据本专利技术的另一方面，提供了一种计算机可读存储介质，所述计算机可读存储介质存储有计算机指令，所述计算机指令用于使处理器执行时实现本专利技术任一实施例所述的雷达与相机的数据融合方法。
[0018]本专利技术实施例的技术方案，通过低于相机采集频率的雷达连续采集至少两帧目标雷达数据，并通过高于相机采集频率的相机连续采集至少两帧候选相机数据，根据雷达采集的候选雷达数据与相机采集的候选目标数据的采集时间，通过预设条件，候选目标数据的采集时间与目标雷达数据的采集时间之差小于参考时间差确定与目标雷达数据匹配的目标相机数据，将目标雷达数据与目标相机数据进行融合处理，解决因为相机和雷达的采集频率不一致，造成的数据融合无法匹配，甚至出现融合误差的问题，能够将不同时间维度的目标相机数据和目标雷达数据进行融合，从而提高了融合准确率。
[0019]应当理解，本部分所描述的内容并非旨在标识本专利技术的实施例的关键或重要特征，也不用于限制本专利技术的范围。本专利技术的其它特征将通过以下的说明书而变得容易理解。
附图说明
[0020]为了更清楚地说明本专利技术实施例中的技术方案，下面将对实施例描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本专利技术的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
[0021]图1是根据本专利技术实施例一提供的一种雷达与相机的数据融合方法的流程图；
[0022]图2是根据本专利技术实施例提供的一种雷达与相机的数据融合系统框架图；
[0023]图3是根据本专利技术实施例一提供的一种雷达与相机的数据融合方法的相机数据处理流程图；
[0024]图4是根据本专利技术实施例二提供的一种雷达与相机的数据融合方法的流程图；
[0025]图5是根据本专利技术实施例二提供的一种雷达与相机的数据融合方法的雷达数据处理流程图；
[0026]图6是根据本专利技术实施例三提供的一种雷达与相机的数据融合装置的结构示意图；
[0027]图7是实现本专利技术实施例的一种雷达与相机的数据融合方法的电子设备的结构示意图。
具体实施方式
[0028]为了使本
的人员更好地理解本专利技术方案，下面将结合本专利技术实施例中的附图，对本专利技术实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本专利技术一部分的实施例，而不是全部的实施例。基于本专利技术中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都应当属于本专利技术保护的范围。
[0029]需要说明的是，本专利技术的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别类似的对象，而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换，以便这里描述的本专利技术的实施例能够以除了在这里图示或描述的那些以外的顺序实施。此外，术语“包括”和“具有”以及他们的任何变形，意图在于覆盖不排他的包含，例如，包含了一系列步骤或单元的过程、方法、系统、产品或设备不必限于清楚地列出的那些步骤或单元，而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。
[0030]实施例一
[0031]图1为本专利技术实施例一提供了一种雷达与相机的数据融合方法的流程图，本实施例可适用于不同时刻的雷达数据与相机数据融合的情况，该方法可以由雷达与相机的数据融合装置来执行，该雷达与相机的数据融合装置可以采用硬件和/或软件的形式实现，该雷达与相机的数据融合装置可配置于任何具有网络通信功能的电子设备中。如图1所示，该方法包括：
[0032]S110、确定雷达连续采集的至少两帧目标雷达数据与相机连续采集的至少两帧候选相机数据，所述雷达的采集频率低于所述相机的采集频率。
[0033]作为一种可选的但不限定的实现方式，确定雷达连续采集的至少两帧目标雷达数据与相机连续采集的至少两帧候选相机数据，可以包括步骤A1
‑
A2：
[0034]步骤A1、获取雷达连续采集的至少两帧目标雷达数据，并将至少两帧目标雷达数据存入雷本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种雷达与相机的数据融合方法，其特征在于，包括：确定雷达连续采集的至少两帧目标雷达数据与相机连续采集的至少两帧候选相机数据，所述雷达的采集频率低于所述相机的采集频率；从所述至少两帧候选相机数据中确定与所述目标雷达数据匹配的目标相机数据，所述目标相机数据与所述目标雷达数据之间的目标采集时间差小于参考时间差，所述参考时间差为所述至少两帧候选相机数据中剩余相机数据与所述目标雷达数据之间的采集时间差；将所述目标雷达数据与所述目标相机数据进行融合处理。2.根据权利要求1所述的方法，其特征在于，确定雷达连续采集的至少两帧目标雷达数据与相机连续采集的至少两帧候选相机数据，包括:获取雷达连续采集的至少两帧目标雷达数据，并将至少两帧目标雷达数据存入雷达数据输入总线，所述数据输入总线采用双链表结构；获取相机连续采集的至少两帧候选相机数据，将至少两帧候选相机数据转换到目标雷达数据对应的雷达坐标系后存入相机数据输入总线。3.根据权利要求1所述的方法，其特征在于，从所述至少两帧候选相机数据中确定与所述目标雷达数据匹配的目标相机数据，包括：将所述至少两帧候选相机数据按照采集时间依次插入到数据融合器链表；对于所述目标雷达数据，通过对数据融合器链表尾插遍历，从所述至少两帧候选相机数据中查找到满足预设数据筛选条件的候选相机数据，并确定与所述目标雷达数据匹配的目标相机数据；其中，所述预设数据筛选条件用于使查找到的目标相机数据与所述目标雷达数据之间的采集时间差小于参考时间差。4.根据权利要求3所述的方法，其特征在于，在从所述至少两帧候选相机数据中确定与所述目标雷达数据匹配的目标相机数据之后，还包括：将数据融合器链表中位于所述目标相机数据之前，且未与目标雷达数据匹配成功的候选相机数据进行删除。5.根据权利要求4所述的方法，其特征在于，所述数据融合器配置有用于对筛选出的目标相机数据进行存储的存储单元。6.根据权利要求1所述的方法，其特征在于，将所述目标雷达数据与所述目标相机数据进行融合处理，包括：确定目标雷达数据采集时间以及在目标雷达数据采集时间对应的雷达检测目标测量位置；依据所述雷达检测...

【专利技术属性】
技术研发人员：席国庆，宋清峰，
申请(专利权)人：南京慧尔视智能科技有限公司，
类型：发明
国别省市：