多模态会话情绪识别方法及装置、电子设备、存储介质制造方法及图纸

技术编号:41877135 阅读:19 留言:0更新日期:2024-07-02 00:29
本发明专利技术公开了一种多模态会话情绪识别方法及装置、电子设备、存储介质,包括:获取多模态情感会话样本;提取样本的多种模态特征;构建并训练深度神经网络模型,深度神经网络模型包括多级注意力模块、多流图神经网络模块、说话者上下文编码器模块以及分段条件随机场模块,多级注意力模块包括自注意力模块和跨模态注意力模块,多流图神经网络模块包含三个结构相同的模态流图神经网络模块,模态流图神经网络模块包括图构建模块、图变换网络模块、图卷积模块、图转化器模块以及双向MOGLSTM模块;采用训练好的深度神经网络模型对多模态情感会话进行情绪识别。本申请采用深度神经网络模型,充分利用多模态情绪信息,提高会话情绪识别的效果。

【技术实现步骤摘要】

本申请涉及会话情绪识别领域,尤其涉及一种多模态会话情绪识别方法及装置、电子设备、存储介质


技术介绍

1、由于中国老龄化进程的加速,空巢老人规模不断扩大,这一群体常常面临的孤独和心理健康问题已成为亟待解决的社会问题。面对传统心理咨询服务的高昂费用和家人无法提供陪伴的现实,很多空巢老人难以获得必要的心理关怀和支持。在此背景下,人工智能技术快速发展,为提供低成本、易于获取的心理支持服务创造了新的可能性。尤其是对话系统和情感计算领域的进步,使得开发能理解和回应人类情感的对话系统成为现实,对需要日常陪伴和心理支持的老年人群体具有重要意义。

2、情感感知能力是实现对话系统共情能力的基础。这一能力确保了系统能够准确地捕捉到用户的情绪变化,并根据这些变化提供相应的情感支持。为了进一步提升情感感知的准确性和效果,多模态情绪识别技术被引入到对话系统中。不同于传统的单模态情感识别,多模态情绪识别结合了来自面部表情、语音等多个模态的信息,提供了一种更全面、更鲁棒的方式来理解用户的情绪状态。这种技术的优势在于能够利用模态间的互补性,更准确地捕捉和解析复杂的人类情绪表达本文档来自技高网...

【技术保护点】

1.一种多模态会话情绪识别方法,其特征在于,包括:

2.根据权利要求1所述的方法,其特征在于,所述多模态特征提取包括:

3.根据权利要求1所述的方法,其特征在于,所述自注意力模块用于执行如下操作:

4.根据权利要求1所述的方法,其特征在于,所述跨模态注意力模块用于执行如下操作:

5.根据权利要求1所述的方法,其特征在于,所述图构建模块用于执行如下操作:

6.根据权利要求1所述的方法,其特征在于,所述图变换网络模块用于执行如下操作:

7.根据权利要求1所述的方法,其特征在于,所述图卷积模块用于执行如下操作:

...

【技术特征摘要】

1.一种多模态会话情绪识别方法,其特征在于,包括:

2.根据权利要求1所述的方法,其特征在于,所述多模态特征提取包括:

3.根据权利要求1所述的方法,其特征在于,所述自注意力模块用于执行如下操作:

4.根据权利要求1所述的方法,其特征在于,所述跨模态注意力模块用于执行如下操作:

5.根据权利要求1所述的方法,其特征在于,所述图构建模块用于执行如下操作:

6.根据权利要求1所述的方法,其特征在于,所述图变换网络模块用于执行如下操作:

7.根据权利要求1所述的方法,其特征在于,所述图卷积模块用于执行如下操作:

8.根据权利要求1所述...

【专利技术属性】
技术研发人员:张登辉郭永祥
申请(专利权)人:浙江树人学院
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1