基于动态融合网络的目标跟踪方法、装置、设备及介质制造方法及图纸

技术编号:41296790 阅读:17 留言:0更新日期:2024-05-13 14:45
提供了一种基于动态融合网络的目标跟踪方法、装置、设备及存储介质,所述方法包括以下步骤:将RGB模态图像序列输入目标动态融合网络进行可见光限制特征加权计算,得到RGB模态特征数据;将热红外模态图像序列输入目标动态融合网络进行热红外限制特征加权计算,得到热红外模态特征数据;将所述RGB模态特征数据和所述热红外模态特征数据进行跨模态融合动态卷积,生成所述RGB模态特征数据对应的第一卷积特征集和所述热红外模态特征数据对应的第二卷积特征集;将所述第一卷积特征集和所述第二卷积特征集进行特征融合得到第三卷积特征集;对所述第三卷积特征集进行计算提取得到RGB跟踪结果和热红外跟踪结果。

【技术实现步骤摘要】

本公开涉及计算机视觉领域,尤其涉及一种基于动态融合网络的目标跟踪方法、装置、设备及介质


技术介绍

1、近年来,rgb-t(rbg-thermal)的目标跟踪技术受到广泛关注,rgb图像可以体现目标丰富的颜色、细节、纹理信息,但是容易受到光照影响;热红外(tir)图像能够体现物体的温度信息,不受光照影响,但是通常会缺失物体的细节和纹理信息。如何有效的利用rgb图像和tir图像的优势互补,提高目标跟踪的准确性和鲁棒性,成为研究的热点。随着深度学习技术的发展,深度神经网络被引入到rgb-t跟踪中,通过自动学习特征表示和相关模型,深度学习方法能够更加准确的捕捉目标的外观和运动特征,显著提高跟踪算法的准确性和鲁棒性。

2、目前rgb-t等多模态数据源的目标跟踪任务,常采用“动态卷积核”的方式,根据不同的输入图像序列,自适应的计算各模态的单一特征及模态间的共同特征,实现对各模态数据源贡献度的计算与优化。然而,在实际应用过程中会碰到如热交叉、目标隐藏、烟尘遮蔽等非合作现象,造成目标跟踪任务失败。当前已有的神经网络模型在解决rgb-t目标跟踪任务时处理粗暴,本文档来自技高网...

【技术保护点】

1.一种基于动态融合网络的目标跟踪方法,其中,所述方法包括以下步骤:

2.根据权利要求1所述的基于动态融合网络的目标跟踪方法,其中,在所述将RGB模态图像序列输入目标动态融合网络进行可见光限制特征提取和加权计算步骤之前,还包括以下步骤:

3.根据权利要求2所述的基于动态融合网络的目标跟踪方法,其中,所述利用所述m个第一训练子集数据和所述n个第二训练子集数据完成对初始动态融合网络进行网络训练的步骤,包括:

4.根据权利要求1所述的基于动态融合网络的目标跟踪方法,其中,所述将RGB模态图像序列输入目标动态融合网络进行可见光限制特征提取和加权计算的步骤,包括...

【技术特征摘要】

1.一种基于动态融合网络的目标跟踪方法,其中,所述方法包括以下步骤:

2.根据权利要求1所述的基于动态融合网络的目标跟踪方法,其中,在所述将rgb模态图像序列输入目标动态融合网络进行可见光限制特征提取和加权计算步骤之前,还包括以下步骤:

3.根据权利要求2所述的基于动态融合网络的目标跟踪方法,其中,所述利用所述m个第一训练子集数据和所述n个第二训练子集数据完成对初始动态融合网络进行网络训练的步骤,包括:

4.根据权利要求1所述的基于动态融合网络的目标跟踪方法,其中,所述将rgb模态图像序列输入目标动态融合网络进行可见光限制特征提取和加权计算的步骤,包括:

5.根据权利要求1或4所述的基于动态融合...

【专利技术属性】
技术研发人员:李聪健王文生田璟张道兵周浩然谢明理牟翰林张景华翟曜杨侃
申请(专利权)人:中国科学院空天信息创新研究院
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1