一种基于可变形传播的双目与激光雷达融合深度估计方法技术

技术编号:42340218 阅读:25 留言:0更新日期:2024-08-14 16:17
本发明专利技术公开了一种基于可变形传播的双目与激光雷达融合深度估计方法,涉及图像处理、多传感器融合、立体匹配、深度估计领域。包括稀疏激光雷达可变形视差传播模块和可学习的视差‑深度转换模块。可变形视差传播模块通过集成全局上下文和局部信息,计算传播权重,在可形变窗口内传播稀疏视差,有效地跨越遮挡和边界区域进行稀疏视差的扩展。利用扩展的视差特征和双目图像特征构建立体匹配的代价体,扩展的视差还用来指导立体匹配过程中的代价体聚合。使用coarse‑to‑fine的3D网络进行代价体聚合,生成稠密视差预测。引入轻量级网络,基于高频特征预测视差和深度空间的残差补偿三角测量误差。本发明专利技术保证计算效率的同时,提升了深度估计的精度。

【技术实现步骤摘要】

本专利技术涉及图像处理、多传感器融合、立体匹配、深度估计领域,尤其涉及一种基于可变形传播的双目与激光雷达融合深度估计方法


技术介绍

1、深度估计是一项基本的视觉任务,在自动驾驶、机器人、三维重建等应用中发挥重要作用。立体匹配是一种广泛应用于深度估计的方法,其目的是寻找两幅图像之间的稠密视差图,通过三角测量将视差图转换为深度图。但是立体匹配方法仅依靠图像信息,仍然面临诸如遮挡、无纹理区域和重复结构等挑战。最近的研究表明,激光雷达的稀疏视差可以用来指导挑战性场景下的立体匹配,将稀疏视差作为附加输入,送入神经网络进行处理。

2、立体匹配:输入是左右彩色图像,输出是视差。图12展示了双目立体匹配的基本原理。两个相机平行放置,即两个相机平面在同一平面上,且相机中心ol,or在同一高度,这样保证了空间3d点在左右图像的投影点处于同样的水平线上(只有横向坐标差,没有高度坐标差);相机焦距是f,双目基线是b,均已知。

3、如图12所示,p点是真实环境中的一个3d点,其经过相机成像分别落在左侧图像的pl像素上,以及右侧图像的pr像素上。视差d=xl本文档来自技高网...

【技术保护点】

1.一种基于可变形传播的双目与激光雷达融合深度估计方法,其特征在于,包括以下步骤:

2.如权利要求1所述的基于可变形传播的双目与激光雷达融合深度估计方法,其特征在于,输入包括立体相机的左右目彩色图像、与立体相机左目对齐的稀疏激光雷达视差图。

3.如权利要求1所述的基于可变形传播的双目与激光雷达融合深度估计方法,其特征在于,所述步骤1,结合全局上下文和局部信息计算传播权重和传播窗口形状,将稀疏视差传播到周围像素。

4.如权利要求1所述的基于可变形传播的双目与激光雷达融合深度估计方法,其特征在于,所述步骤1,包括以下步骤:

5.如权利要求1所述...

【技术特征摘要】

1.一种基于可变形传播的双目与激光雷达融合深度估计方法,其特征在于,包括以下步骤:

2.如权利要求1所述的基于可变形传播的双目与激光雷达融合深度估计方法,其特征在于,输入包括立体相机的左右目彩色图像、与立体相机左目对齐的稀疏激光雷达视差图。

3.如权利要求1所述的基于可变形传播的双目与激光雷达融合深度估计方法,其特征在于,所述步骤1,结合全局上下文和局部信息计算传播权重和传播窗口形状,将稀疏视差传播到周围像素。

4.如权利要求1所述的基于可变形传播的双目与激光雷达融合深度估计方法,其特征在于,所述步骤1,包括以下步骤:

5.如权利要求1所述的基于可变形传播的双目与激光雷达融合深度估计方法,其特征在于,所述步骤6,在低内存需求和低计算需求的情况下从视差中恢复深度。

6.如权利要求1所述的基于可变形传播的双目与激光雷达融合深度估计方法,其特征在于,所述步骤6,基于高频特征预...

【专利技术属性】
技术研发人员:李昂邹丹平胡安宁郁文贤
申请(专利权)人:上海交通大学
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1