【技术实现步骤摘要】
本专利技术属于边缘计算领域,是一种基于跨模态动态注意力的多传感器边缘系统及方法。
技术介绍
1、尽管现有的多模态大模型已经在融合文本、图像、语音等多源数据方面取得了一定进展,它们在面对复杂情境下多模态信息的精细协调与互补利用上仍然面临重大挑战。这类模型通常受限于静态或预定义的模态交互机制,难以动态且灵活地根据实时输入内容的不同需求,在各类传感器数据之间实施有效的注意力分配。这一局限性严重阻碍了模型深入挖掘跨模态数据间的信息关联,限制了其创造高精度、高适应性跨模态输出的能力,尤其是在资源受限的边缘计算环境中。
2、在实际的工业应用场景中,需要在边缘设备上实时分析并整合来自多样传感器的海量数据,通过智能化地调节各模态间的注意力流动,确保在复杂、多变的应用场景下,能够精准捕捉并强化对任务至关重要的信息,同时促进不同模态信号之间的协同作用,增强大模型对深层信息的理解力和生成跨模态内容的质量。因此,探索如何在计算资源有限的条件下,研究和设计一种创新的基于跨模态动态注意力的多传感器边缘系统及方法,实现多模态数据的高效、智能融合具有重要的
...【技术保护点】
1.一种基于跨模态动态注意力的多传感器边缘计算方法,其特征在于,包括如下步骤:
2.根据权利要求1所述的一种基于跨模态动态注意力的多传感器边缘计算方法,其特征在于:步骤S2中所述特征提取和融合的方法为通过基于自注意力和交叉注意力的跨模态融合算法进行提取。
3.根据权利要求2所述的一种基于跨模态动态注意力的多传感器边缘计算方法,其特征基于:
4.根据权利要求1所述的一种基于跨模态动态注意力的多传感器边缘计算方法,其特征在于:所述步骤S3中对融合后的数据进行时空维度增强的方法为,引入时序注意力权重gti和情境向量st影响模态特征和权重,
...
【技术特征摘要】
1.一种基于跨模态动态注意力的多传感器边缘计算方法,其特征在于,包括如下步骤:
2.根据权利要求1所述的一种基于跨模态动态注意力的多传感器边缘计算方法,其特征在于:步骤s2中所述特征提取和融合的方法为通过基于自注意力和交叉注意力的跨模态融合算法进行提取。
3.根据权利要求2所述的一种基于跨模态动态注意力的多传感器边缘计算方法,其特征基于:
4.根据权利要求1所述的一种基于跨模态动态注意力的多传感器边缘计算方法,其特征在于:所述步骤s3中对融合后的数据进行时空维度增强的方法为,引入时序注意力权重gti和情境向量st影响模态特征和权重,具体为:
5.根据权...
【专利技术属性】
技术研发人员:贾庆生,殷永旸,魏伟,张楷龙,杜柏霖,
申请(专利权)人:南京熊猫电子制造有限公司,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。