图像处理方法、模型训练方法、电子设备及自动驾驶车辆技术

技术编号:33029865 阅读:61 留言:0更新日期:2022-04-15 09:05
本公开提供了一种图像处理方法、多任务处理模型的训练方法、装置、电子设备、存储介质以及程序产品,涉及自动驾驶技术领域,尤其涉及高精地图技术领域。具体实现方案为:对待处理图像进行处理,得到待处理图像的特征点、特征点描述子图和稠密描述子图;基于特征点和特征点描述子图,确定待处理图像与基准图像之间的匹配特征点对;以及基于稠密描述子图,确定待处理图像与基准图像之间的匹配像素对。处理图像与基准图像之间的匹配像素对。处理图像与基准图像之间的匹配像素对。

【技术实现步骤摘要】
图像处理方法、模型训练方法、电子设备及自动驾驶车辆


[0001]本公开涉及自动驾驶
,尤其涉及高精地图
,具体涉及图像处理方法、多任务处理模型的训练方法、装置、电子设备、存储介质以及程序产品。

技术介绍

[0002]高精度定位导航技术在自动驾驶车辆的安全行驶方面占有不可或缺的地位。在自动驾驶车辆横向和纵向精确定位、障碍物检测与碰撞避让、智能车速控制、路径规划及行为决策等方面均发挥着重要的作用。高精地图也称高精度地图,是自动驾驶汽车使用。高精地图,拥有精确的车辆位置信息和丰富的道路元素数据信息,可以帮助汽车预知路面复杂信息,如坡度、曲率、航向等,更好地规避潜在的风险。

技术实现思路

[0003]本公开提供了一种图像处理方法、多任务处理模型的训练方法、装置、电子设备、存储介质以及程序产品。
[0004]根据本公开的一方面,提供了一种图像处理方法,包括:对待处理图像进行处理,得到所述待处理图像的特征点、特征点描述子图和稠密描述子图;基于所述特征点和所述特征点描述子图,确定所述待处理图像与基准图像之间的匹配特征点对;以及基于所述稠密描述子图,确定所述待处理图像与所述基准图像之间的匹配像素对。
[0005]根据本公开的另一方面,提供了一种多任务处理模型的训练方法,包括:利用训练样本训练初始多任务处理模型,得到多任务处理模型,其中,所述训练样本包括第一样本图像、第二样本图像、所述第一样本图像与所述第二样本图像之间的匹配特征点对标签、所述第一样本图像与所述第二样本图像之间的匹配像素对标签,其中,所述匹配特征点对标签用于表征所述第一样本图像的特征点与所述第二样本图像的特征点之间的匹配关系,所述匹配像素对标签用于表征所述第一样本图像的像素点与所述第二样本图像的像素点之间的匹配关系。
[0006]根据本公开的另一方面,提供了一种图像处理装置,包括:处理模块,用于对待处理图像进行处理,得到所述待处理图像的特征点、特征点描述子图和稠密描述子图;第一确定模块,用于基于所述特征点和所述特征点描述子图,确定所述待处理图像与基准图像之间的匹配特征点对;以及第二确定模块,用于基于所述稠密描述子图,确定所述待处理图像与所述基准图像之间的匹配像素对。
[0007]根据本公开的另一方面,提供了一种多任务处理模型的训练装置,包括:训练模块,用于利用训练样本训练初始多任务处理模型,得到多任务处理模型,其中,所述训练样本包括第一样本图像、第二样本图像、所述第一样本图像与所述第二样本图像之间的匹配特征点对标签、所述第一样本图像与所述第二样本图像之间的匹配像素对标签,其中,所述匹配特征点对标签用于表征所述第一样本图像的特征点与所述第二样本图像的特征点之间的匹配关系,所述匹配像素对标签用于表征所述第一样本图像的像素点与所述第二样本
图像的像素点之间的匹配关系。
[0008]根据本公开的另一方面,提供了一种电子设备,包括:至少一个处理器;以及与所述至少一个处理器通信连接的存储器;其中,所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行如本公开的方法。
[0009]根据本公开的另一方面,提供了一种存储有计算机指令的非瞬时计算机可读存储介质,其中,所述计算机指令用于使所述计算机执行如本公开的方法。
[0010]根据本公开的另一方面,提供了一种计算机程序产品,包括计算机程序,所述计算机程序在被处理器执行时实现如本公开的方法。
[0011]根据本公开的另一方面,提供了一种自动驾驶车辆,包括如本公开的电子设备。
[0012]应当理解,本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征,也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。
附图说明
[0013]附图用于更好地理解本方案,不构成对本公开的限定。其中:
[0014]图1示意性示出了根据本公开实施例的可以应用图像处理方法及装置的示例性系统架构;
[0015]图2示意性示出了根据本公开实施例的图像处理方法的流程图;
[0016]图3示意性示出了根据本公开实施例的多任务处理模型的网络架构图;
[0017]图4A示意性示出了根据本公开另一实施例的多任务处理模型的网络架构图;
[0018]图4B示意性示出了根据本公开另一实施例的第一自注意力模块的网络架构图;
[0019]图4C示意性示出了根据本公开另一实施例的融合模块的网络架构图;
[0020]图4D示意性示出了根据本公开另一实施例的第二自注意力模块的网络架构图;
[0021]图5示意性示出了根据本公开实施例的图网络的网络架构图;
[0022]图6示意性示出了根据本公开实施例的确定匹配像素对的流程图;
[0023]图7示意性示出了根据本公开另一实施例的多任务处理模型的训练方法的流程图;
[0024]图8示意性示出了根据本公开实施例的图像处理装置的框图;
[0025]图9示意性示出了根据本公开另一实施例的多任务处理模型的训练装置的框图;以及
[0026]图10示意性示出了根据本公开实施例的适于实现图像处理方法的电子设备的框图。
具体实施方式
[0027]以下结合附图对本公开的示范性实施例做出说明,其中包括本公开实施例的各种细节以助于理解,应当将它们认为仅仅是示范性的。因此,本领域普通技术人员应当认识到,可以对这里描述的实施例做出各种改变和修改,而不会背离本公开的范围和精神。同样,为了清楚和简明,以下的描述中省略了对公知功能和结构的描述。
[0028]本公开提供了一种图像处理方法、多任务处理模型的训练方法、装置、电子设备、
存储介质以及程序产品。
[0029]根据本公开的实施例,提供了一种图像处理方法,包括:对待处理图像进行处理,得到所述待处理图像的特征点、特征点描述子图和稠密描述子图;基于所述特征点和所述特征点描述子图,确定所述待处理图像与基准图像之间的匹配特征点对;以及基于所述稠密描述子图,确定所述待处理图像与所述基准图像之间的匹配像素对。
[0030]本公开的技术方案中,所涉及的用户个人信息的收集、存储、使用、加工、传输、提供和公开等处理,均符合相关法律法规的规定,且不违背公序良俗。
[0031]图1示意性示出了根据本公开实施例的可以应用图像处理方法及装置的示例性系统架构。
[0032]需要注意的是,图1所示仅为可以应用本公开实施例的系统架构的示例,以帮助本领域技术人员理解本公开的
技术实现思路
,但并不意味着本公开实施例不可以用于其他设备、系统、环境或场景。
[0033]如图1所示,根据该实施例的系统架构100可以包括自动驾驶车辆101,网络102和服务器103。网络102用以在自动驾驶车辆101和服务器103之间提供通信链路的介质。网络102可以包括各种连接类型,例如无线通信链路。
[0034]用户可以使用自动驾本文档来自技高网
...

【技术保护点】

【技术特征摘要】
1.一种图像处理方法,包括:对待处理图像进行处理,得到所述待处理图像的特征点、特征点描述子图和稠密描述子图;基于所述特征点和所述特征点描述子图,确定所述待处理图像与基准图像之间的匹配特征点对;以及基于所述稠密描述子图,确定所述待处理图像与所述基准图像之间的匹配像素对。2.根据权利要求1所述的方法,其中,所述对待处理图像进行处理,得到所述待处理图像的特征点、特征点描述子图和稠密描述子图包括:将所述待处理图像输入至多任务处理模型中,得到所述待处理图像的特征点、特征点描述子图和稠密描述子图。3.根据权利要求2所述的方法,其中,所述多任务处理模型包括特征点提取分支、特征点描述子图计算分支和稠密描述子图计算分支;所述将待处理图像输入至多任务处理模型中,得到所述待处理图像的特征点、特征点描述子图和稠密描述子图包括:将所述待处理图像输入至所述特征点提取分支中,得到所述特征点;将所述待处理图像输入至所述特征点描述子图计算分支中,得到所述特征点描述子图;以及将所述待处理图像输入至所述稠密描述子图计算分支中,得到所述稠密描述子。4.根据权利要求2或3所述的方法,其中,所述多任务处理模型还包括特征点分类分支;所述方法还包括:将所述待处理图像输入至所述特征点分类分支中,得到特征点类别结果,以便基于所述特征点、所述特征点描述子图和所述特征点类别结果,确定所述待处理图像与所述基准图像之间的匹配特征点对。5.根据权利要求4所述的方法,其中,所述基于所述特征点和所述特征点描述子图,确定所述待处理图像与基准图像之间的匹配特征点对包括:基于所述特征点类别结果,对所述特征点进行筛选,确定目标特征点;以及基于所述目标特征点和所述特征点描述子图,确定所述待处理图像与所述基准图像之间的匹配特征点对。6.根据权利要求4所述的方法,其中,所述基于所述目标特征点和所述特征点描述子图,确定所述待处理图像与所述基准图像之间的匹配特征点对包括:基于所述目标特征点,从所述特征点描述子图中提取与所述目标特征点相匹配的特征点描述子;以及基于所述目标特征点和与所述目标特征点相匹配的特征点描述子,利用特征点匹配方法确定所述待处理图像与所述基准图像之间的匹配特征点对。7.根据权利要求3所述的方法,其中,所述特征点提取分支包括多个特征点提取子分支;所述将所述待处理图像输入至所述特征点提取分支中,得到所述特征点包括:将所述待处理图像分别输入至所述多个特征点提取子分支中,得到多个特征点评分图,其中,所述多个特征点评分图与所述多个特征点提取子分支一一对应;
将所述多个特征点评分图进行加权求和,得到目标特征点评分图;以及对所述目标特征点评分图进行插值处理,得到所述特征点。8.根据权利要求3所述的方法,其中,所述稠密描述子图包括高分辨率稠密描述子图和低分辨率稠密描述子图;所述稠密描述子图计算分支包括高分辨率稠密描述子图计算子分支和低分辨率稠密描述子图计算子分支;所述基于所述稠密描述子图,确定所述待处理图像与所述基准图像之间的匹配像素对包括:基于所述低分辨率稠密描述子图,确定所述待处理图像与所述基准图像之间的匹配候选像素对,其中,所述低分辨率稠密描述子图是利用所述低分辨率稠密描述子图计算子分支处理所述待处理图像得到的;以及基于所述高分辨率稠密描述子图,从所述候选像素对中确定所述待处理图像与所述基准图像之间的匹配像素对,其中,所述高分辨率稠密描述子图是利用所述高分辨率稠密描述子图计算子分支处理所述待处理图像得到的。9.根据权利要求3所述的方法,其中,所述特征点分类分支包括多个特征点分类子分支、融合模块、分类器,每个所述多个特征点分类子分支包括特征点分类提取模块、编码器和融合模块;所述将所述待处理图像输入至所述特征点分类分支中,得到特征点类别结果包括:将所述待处理图分别输入至所述多个特征点分类提取模块中,得到多个特征点类别特征图,其中,所述多个特征点类别特征图与多个特征点分类提取模块一一对应;针对所述多个特征点类别特征图中的每个特征点类别特征图,将所述特征点类别特征图输入至所述编码器中,得到多个编码后子特征点类别特征图,其中,所述多个编码后子特征点类别特征图与多个编码器一一对应;利用所述融合模块处理所述多个编码后子特征点类别特征图,得到融合后特征点类别图;以及利用所述分类器处理所述融合后特征点类别图,得到所述特征类别结果。10.根据权利要求8所述的方法,其中,所述高分辨率稠密描述子图计算子分支或低分辨率稠密描述子图计算子分支包括:级联的至少一个特征提取模块、全卷积模块;其中,所述特征提取模块包括:卷积层、池化层、或级联的卷积层和池化层;其中,所述全卷积模块包括级联的多个全卷积层。11.根据权利要求7所述的方法,其中,所述多个特征点提取子分支中的至少一个特征点提取子分支包括:级联的至少一个特征提取模块、卷积层;其中,所述特征提取模块包括:卷积层、池化层、或级联的卷积层和池化层。12.根据权利要求6所述的方法,其中,所述特征点描述子图计算分支包括:级联的至少一个特征提取模块和卷积层;其中,所述特征提取模块包括:卷积层、池化层、或级联的卷积层和池化层。13.根据权利要求1至12中任一项所述的方法,还包括:将所述基准图像输入至所述多任务处理模型中,得到基准特征点、基准特征点描述子图和基准稠密描述子图,以便基于所述特征点、所述特征点描述子图、所述基准特征点和所
述基准特征点描述子图,确定所述待处理图像与所述基准图像之间的匹配特征对,基于所述稠密描述子图和所述基准稠密描述子图,确定所述待处理图像与所述基准图像之间的匹配像素对。14.根据权利要求5所述的方法,其中,所述特征点匹配方法包括以下至少一项:最近邻匹配方法、交叉匹配方法、基于图网络的匹配方法。15.一种多任务处理模型的训练方法,包括:利用训练样本训练初始多任务处理模型,得到多任务处理模型,其中,所述训练样本包括第一样本图像、第二样本图像、所述第一样本图像与所述第二样本图像之间的匹配特征点对标签、所述第一样本图像与所述第二样本图像之间的匹配像素对标签,其中,所述匹配特征点对标签用于表征所述第一样本图像的特征点与所述第二样本图像的特征点之间的匹配关系,所述匹配像素对标签用于表征所述第一样本图像的像素点与所述第二样本图像的像素点之间的匹配关系。16.根据权利要求15所述的方法,其中,所述初始多任务处理模型包括初始特征点提取分支、初始特征点描述子图计算分支;所述利用训练样本训练初始多任务处理模型,得到多任务处理模型包括:利用所述第一样本图像、所述第二样本图像、所述第一样本图像与所述第二样本图像之间的匹配特征点对标签训练所述初始特征点提取分支、所述初始特征点描述子图计算分支,得到所述多任务处理模型中的初始特征点提取分支和特征点描述子图计算分支。17.根据权利要求15或16所述的方法,其中,所述初始多任务处理模型包括初始稠密描述子图计算分支;所述利用训练样本训练初始多任务处理模型,得到多任务处理模型包括:利用所述第一样本图像、所述第二样本图像、所述第一样本图像与所述第二样本图像之间的匹配像素对标签训练所述初始稠密描述子图计算分支,得到所述多任务处理模型中的稠密描述子图计算分支。18.根据权利要求15至17中任一项所述的方法,其中,所述初始多任务处理模型还包括初始特征点分类分支;所述利用训练样本训练初始多任务处理模型,得到多任务处理模型包括:利用目标样本图像、所述目标样本图像的特征点标签、所述目标样本图像的类别标签训练所述初始特征点分类分支,得到所述多任务处理模型的特征点分类分支,其中,所述目标样本图像包括以下至少一项:所述第一样本图像、所述第二样本图像;所述目标样本图像的所述特征点标签用于表征所述目标样本图像的像素点为特征点的概率值;所述目标...

【专利技术属性】
技术研发人员:何宇喆周尧侯深化彭亮万国伟
申请(专利权)人:阿波罗智能技术北京有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1