一种基于跨模态动态注意力的多传感器边缘系统及方法技术方案

技术编号:44038858 阅读:31 留言:0更新日期:2025-01-15 01:16
本发明专利技术公开了一种基于跨模态动态注意力的多传感器边缘系统及方法,包括如下步骤:S1.获取基于多的传感器的环境数据和基于交互模块的多模态输入数据;S2.对获取的环境数据和多模态输入数据进行预处理后,进行特征提取,获得特征提取后的多模态特征数据;S3.对多模态特征数据进行时空维度增强;S4.基于步骤S3所获得的增强后的多模态特征数据,动态优化各模态资源的配置;S5.将动态优化后的各模态资源信息输入生成式模型中,生成输出结果。本发明专利技术所提供的方法不仅优化了数据处理流程,减少了数据传输延迟,还通过跨模态动态注意力机制实现了信息的高效整合与利用,增强了决策的精准度和鲁棒性。

【技术实现步骤摘要】

本专利技术属于边缘计算领域,是一种基于跨模态动态注意力的多传感器边缘系统及方法


技术介绍

1、尽管现有的多模态大模型已经在融合文本、图像、语音等多源数据方面取得了一定进展,它们在面对复杂情境下多模态信息的精细协调与互补利用上仍然面临重大挑战。这类模型通常受限于静态或预定义的模态交互机制,难以动态且灵活地根据实时输入内容的不同需求,在各类传感器数据之间实施有效的注意力分配。这一局限性严重阻碍了模型深入挖掘跨模态数据间的信息关联,限制了其创造高精度、高适应性跨模态输出的能力,尤其是在资源受限的边缘计算环境中。

2、在实际的工业应用场景中,需要在边缘设备上实时分析并整合来自多样传感器的海量数据,通过智能化地调节各模态间的注意力流动,确保在复杂、多变的应用场景下,能够精准捕捉并强化对任务至关重要的信息,同时促进不同模态信号之间的协同作用,增强大模型对深层信息的理解力和生成跨模态内容的质量。因此,探索如何在计算资源有限的条件下,研究和设计一种创新的基于跨模态动态注意力的多传感器边缘系统及方法,实现多模态数据的高效、智能融合具有重要的现实意义和应用价值。本文档来自技高网...

【技术保护点】

1.一种基于跨模态动态注意力的多传感器边缘计算方法,其特征在于,包括如下步骤:

2.根据权利要求1所述的一种基于跨模态动态注意力的多传感器边缘计算方法,其特征在于:步骤S2中所述特征提取和融合的方法为通过基于自注意力和交叉注意力的跨模态融合算法进行提取。

3.根据权利要求2所述的一种基于跨模态动态注意力的多传感器边缘计算方法,其特征基于:

4.根据权利要求1所述的一种基于跨模态动态注意力的多传感器边缘计算方法,其特征在于:所述步骤S3中对融合后的数据进行时空维度增强的方法为,引入时序注意力权重gti和情境向量st影响模态特征和权重,具体为:

...

【技术特征摘要】

1.一种基于跨模态动态注意力的多传感器边缘计算方法,其特征在于,包括如下步骤:

2.根据权利要求1所述的一种基于跨模态动态注意力的多传感器边缘计算方法,其特征在于:步骤s2中所述特征提取和融合的方法为通过基于自注意力和交叉注意力的跨模态融合算法进行提取。

3.根据权利要求2所述的一种基于跨模态动态注意力的多传感器边缘计算方法,其特征基于:

4.根据权利要求1所述的一种基于跨模态动态注意力的多传感器边缘计算方法,其特征在于:所述步骤s3中对融合后的数据进行时空维度增强的方法为,引入时序注意力权重gti和情境向量st影响模态特征和权重,具体为:

5.根据权...

【专利技术属性】
技术研发人员:贾庆生殷永旸魏伟张楷龙杜柏霖
申请(专利权)人:南京熊猫电子制造有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1