当前位置: 首页 > 专利查询>江南大学专利>正文

多模态图像融合模型训练方法、系统和多模态图像融合方法技术方案

技术编号:42845153 阅读:20 留言:0更新日期:2024-09-27 17:15
本发明专利技术提供一种多模态图像融合模型训练方法、系统和多模态图像融合方法,属于图像处理技术领域,训练方法包括将初始源图像对分别输入至教师网络和学生网络,以确定教师网络综合损失,以教师网络的综合损失和动态更新损失训练教师网络,将训练好的教师网络作为教师模型;确定学生网络的综合损失;初始源图像对输入至教师模型中,根据教师模型输出的缓冲特征图和第三融合图像以及学生网络输出的编码特征图和第二融合图像确定蒸馏损失,根据蒸馏损失以及学生网络的综合损失和动态更新损失训练学生网络,并将训练好的学生网络作为多模态图像融合模型。本发明专利技术的多模态图像融合模型以合理的损失函数处理源图像对,能够较好地保留融合结果细节信息。

【技术实现步骤摘要】

本专利技术属于图像处理,尤其涉及一种多模态图像融合模型训练方法、系统和多模态图像融合方法


技术介绍

1、多模态图像融合旨在融合由不同成像设备捕获到的不同模态源图像,得到的融合图像综合不同模态的优势,包含相较于源图像对更丰富的信息量,且能够在一定程度上抑制源图像中的噪声。多模态图像融合的融合图像可以广泛地用于促进多种下游任务,例如目标跟踪、目标检测、语义分割等,在实际应用中起到了重要作用。

2、传统的图像融合技术主要关注于单一模态的图像处理,以提高图像的清晰度或改善其表现形式。然而,这类方法通常无法处理或融合来自不同传感器的数据,如红外与可见光图像的融合,这限制了图像融合技术在实际应用中的广泛性和有效性。随着技术的进步,双模信息增强的图像融合方法应运而生。这种方法不仅关注传统的图像清晰度和视觉效果的提升,更重要的是,它能够处理并融合来自不同模态的信息,如红外图像与可见光图像的结合。红外图像能够显示物体的热分布情况,而可见光图像则提供丰富的颜色和细节信息。通过双模融合,可以在一个图像中同时获取温度信息和视觉细节,极大地增强了图像的信息量和应用价值本文档来自技高网...

【技术保护点】

1.一种多模态图像融合模型训练方法,其特征在于,包括:

2.根据权利要求1所述的多模态图像融合模型训练方法,其特征在于,所述根据第一融合图像确定教师网络的综合损失,包括:

3.根据权利要求1所述的多模态图像融合模型训练方法,其特征在于,所述根据教师网络的综合损失和动态更新损失训练教师网络,并将训练好的教师网络作为教师模型,包括:

4.根据权利要求1所述的多模态图像融合模型训练方法,其特征在于,所述根据第二融合图像确定学生网络的综合损失,包括:

5.根据权利要求1所述的多模态图像融合模型训练方法,其特征在于,所述确定学生网络的动态更新损失,包...

【技术特征摘要】

1.一种多模态图像融合模型训练方法,其特征在于,包括:

2.根据权利要求1所述的多模态图像融合模型训练方法,其特征在于,所述根据第一融合图像确定教师网络的综合损失,包括:

3.根据权利要求1所述的多模态图像融合模型训练方法,其特征在于,所述根据教师网络的综合损失和动态更新损失训练教师网络,并将训练好的教师网络作为教师模型,包括:

4.根据权利要求1所述的多模态图像融合模型训练方法,其特征在于,所述根据第二融合图像确定学生网络的综合损失,包括:

5.根据权利要求1所述的多模态图像融合模型训练...

【专利技术属性】
技术研发人员:徐天阳邓杨林程春阳许亚骏刘博刘杨超郜培军吴小俊
申请(专利权)人:江南大学
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1