基于知识蒸馏和无监督训练方式的跨模态知识迁移方法技术

技术编号:40060231 阅读:32 留言:0更新日期:2024-01-16 22:34
本发明专利技术公开了一种基于知识蒸馏和无监督训练方式的跨模态知识迁移方法,采用知识蒸馏和无监督的训练方式对可见光模态和红外模态之间的相似信息进行最大化的提取,从而提升红外模态下目标跟踪的性能。提出的无监督的训练方式能够利用两个模态之间的共同信息,将可见光模态下有监督训练好的模型所具有的跟踪能力,通过知识蒸馏的方法,迁移到红外模态下来,提升该模态下模型的跟踪能力。本发明专利技术采用无监督训练方式,解决了某些模态下数据标注不足,从而严重限制模型性能的问题,并具有易拓展性。

【技术实现步骤摘要】

本专利技术属于目标跟踪,具体涉及一种基于知识蒸馏和无监督训练方式的跨模态知识迁移方法


技术介绍

1、近年来,cnn特征取代了早期手工设计的特征,用于红外跟踪的特征表示。然而,红外数据标注不足,不能进行大量、充分的有监督训练,严重限制了目标跟踪任务的性能。近期,无监督学习的迅速发展,为红外模态的训练提供了新的思路。对比学习的应用目前已经将无监督学习的性能显著提高,甚至可以与有监督学习相媲美。

2、但是,现有的无监督学习方式主要任务仍然是单一模态内部多个模型之间的知识蒸馏,目的在于以更小的模型实现更优越的性能。知识蒸馏的主要想法是学生模型模仿教师模型,从而取得相近甚至优于教师模型的性能。红外模态数据能有效应对天气变化、光照变化等挑战,但是因为缺乏颜色、纹理信息,更难应对遮挡、背景复杂等挑战。考虑到可见光模态与红外模态下目标跟踪模型性能的巨大差距,将两个模态的模型分别作为教师和学生,进行模态间的知识迁移,是一种有效提升红外模态下目标跟踪模型性能的方法。


技术实现思路

1、为了克服现有技术的不足,本专利本文档来自技高网...

【技术保护点】

1.一种基于知识蒸馏和无监督训练方式的跨模态知识迁移方法,其特征在于,包括如下步骤:

2.根据权利要求1所述的一种基于知识蒸馏和无监督训练方式的跨模态知识迁移方法,其特征在于,所述两个图像的相似信息包括场景一致性和目标一致性。

3.根据权利要求1所述的一种基于知识蒸馏和无监督训练方式的跨模态知识迁移方法,其特征在于,所述步骤2中伪标签的设定,有如下3种方法:

4.根据权利要求3所述的一种基于知识蒸馏和无监督训练方式的跨模态知识迁移方法,其特征在于,所述伪标签的公式表达有如下两种方式:

5.根据权利要求4所述的一种基于知识蒸馏和无监督训练方式...

【技术特征摘要】

1.一种基于知识蒸馏和无监督训练方式的跨模态知识迁移方法,其特征在于,包括如下步骤:

2.根据权利要求1所述的一种基于知识蒸馏和无监督训练方式的跨模态知识迁移方法,其特征在于,所述两个图像的相似信息包括场景一致性和目标一致性。

3.根据权利要求1所述的一种基于知识蒸馏和无监督训练方式的跨模态知识迁移方法,其特征在于,所述步骤2中伪标签的设定,有如下3种方法:

4.根据权利要求3所述的一种基于知识蒸馏和无监督训练方式的跨模态知识迁移方法,其特征在于,所述伪标签的公式表达有如下两种方式:

...

【专利技术属性】
技术研发人员:查宇飞李航飞孙静娴
申请(专利权)人:西北工业大学
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1