基于文本指导的层级跨模态情感分析方法及相关装置制造方法及图纸

技术编号:43108869 阅读:19 留言:0更新日期:2024-10-26 09:50
本发明专利技术公开了一种基于文本指导的层级跨模态情感分析方法及相关装置。方法包括:通过单模态编码器编码处理各模态,构建掩码矩阵以反馈调整各模态的二级特征的权重值;对文本模态的特征进行多次自注意力运算,得到文本模态的不同层级特征向量并以其提供查询向量,结合非文本模态的特征向量执行多次超模态注意力任务,输出并跨模态融合各模态的目标特征向量,生成情感分析结果。在本发明专利技术中,通过掩码矩阵捕捉各模态间的差异和一致性,调整各模态的特征贡献,避免信息丢失;对文本模态的特征进行多次自注意力处理,分别将每次处理后的文本模态与非文本模态进行超模态注意力任务,促进多模态信息交互且减少模态间的噪声干扰,提高情感分析的可靠性。

【技术实现步骤摘要】

本专利技术涉及深度学习,尤其涉及一种基于文本指导的层级跨模态情感分析方法及相关装置


技术介绍

1、情绪作为个体对某一特定话题、人或事物产生的情感体验和反应,是人类心理活动中不可或缺的部分。情绪体验往往受到内在或外在刺激的影响,可以包括从基本的快乐、悲伤、愤怒、恐惧演变到更为复杂的情感变化。这些情绪不仅影响我们的日常生活,也在社交互动、职业发展、健康状况等方面扮演着至关重要的角色。在心理学和计算机科学的交叉领域中,情绪分析成为一个热门的研究主题。尤其是随着数字技术的发展,如文本、音频和视频等多模态数据的广泛应用,多模态情感分析逐渐受到关注。多模态情感分析在多个领域中有着广泛的应用,例如人机交互、社交媒体分析和系统推荐等。在人机交互领域中,多模态情感分析可以用于创建更加智能的交互方式,从语音、文字、表情等多个维度对用户情感进行分析,以提供更加个性化的服务。在社交媒体分析领域,多模态情感分析可以对论坛、小红书、抖音等社交平台上的文本、图片和视频进行分析,从而了解用户对某一事件或产品的情感态度。在系统推荐中,多模态情感分析可以通过对用户的历史行为、偏好和反馈进行本文档来自技高网...

【技术保护点】

1.一种基于文本指导的层级跨模态情感分析方法,其特征在于,所述方法包括:

2.根据权利要求1所述的层级跨模态情感分析方法,其特征在于,所述分别对各模态数据进行预处理,得到各模态的初始特征,并将所有模态的初始特征投影至同一维度上的步骤,包括:

3.根据权利要求1所述的层级跨模态情感分析方法,其特征在于,所述将各模态的初始特征分别输入至对应的单模态编码器中进行编码处理,得到各模态的二级特征,并基于各模态的二级特征构建掩码矩阵,通过所述掩码矩阵反馈调整各模态的二级特征的权重值,输出各模态的三级特征的步骤,包括:

4.根据权利要求3所述的层级跨模态情感分析方法...

【技术特征摘要】

1.一种基于文本指导的层级跨模态情感分析方法,其特征在于,所述方法包括:

2.根据权利要求1所述的层级跨模态情感分析方法,其特征在于,所述分别对各模态数据进行预处理,得到各模态的初始特征,并将所有模态的初始特征投影至同一维度上的步骤,包括:

3.根据权利要求1所述的层级跨模态情感分析方法,其特征在于,所述将各模态的初始特征分别输入至对应的单模态编码器中进行编码处理,得到各模态的二级特征,并基于各模态的二级特征构建掩码矩阵,通过所述掩码矩阵反馈调整各模态的二级特征的权重值,输出各模态的三级特征的步骤,包括:

4.根据权利要求3所述的层级跨模态情感分析方法,其特征在于,所述基于各模态的二级特征构建掩码矩阵,通过所述掩码矩阵反馈调整各模态的二级特征的权重值,输出各模态的三级特征的步骤,包括:

5.根据权利要求4所述的层级跨模态情感分析方法,其特征在于,

【专利技术属性】
技术研发人员:钟婷冯广周垣桦林健忠
申请(专利权)人:广东工业大学
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1