多模态知识图谱处理方法、系统、电子设备及存储介质技术方案

技术编号:42933233 阅读:24 留言:0更新日期:2024-10-11 15:55
本发明专利技术涉及思政教育领域,具体为多模态知识图谱处理方法、系统、电子设备及存储介质,发明专利技术基于图像、视频、语音、文本不同模态数据训练得到目标检测网络、行为检测网络、语音识别网络、声音模型网络并构建知识图谱,从而可以通过扫描教师课程框架实现课程课件内容的自动丰富并通过反馈模块采集学生上课情况不断优化知识搜索过程,使生成的课程课件更受学生欢迎,同时,本发明专利技术通过知识搜索可以自动回答学生提出的问题,且问题提出与回答均不限于文本,能够提供给学生更加沉浸式体验,提升学生学习兴趣。

【技术实现步骤摘要】

本专利技术涉及思政教育领域,具体为多模态知识图谱处理方法、系统、电子设备及存储介质


技术介绍

1、思政教育在培养学生全面发展、提升教育教学质量、服务国家发展战略等方面具有重要意义,然而,在实际教学中也面临着一些问题和挑战,主要表现为教学内容和方式单一,学生产生抵触心理,课程时间有限,教师无法深入讲解,学生难以形成认知。


技术实现思路

1、有鉴于此,本专利技术的目的在于提供多模态知识图谱处理方法、系统、电子设备及存储介质以解决教学课程内容单一问题,同时节约教师课程课件制作时间,让教师有更多时间探索思政教育实践活动。

2、为实现上述目的,本专利技术提供如下技术方案:多模态知识图谱处理方法,包括:

3、s1. 基于不同模态知识数据,经知识抽取、知识融合、知识加工建立课程知识图谱;基于不同模态知识数据中的图像数据,经图像处理、数据标注,训练目标检测神经网络;基于不同模态知识数据中的视频数据,经数据处理、数据标注,训练行为检测神经网络;基于不同模态知识数据中的语音数据,经数据预处理、特征提取后本文档来自技高网...

【技术保护点】

1.多模态知识图谱处理方法,其特征在于:

2.根据权利要求1所述的多模态知识图谱处理方法,其特征在于:所述不同模态知识数据至少包括:教育教学资源、网络数据资源以及学校实地采集特色资源的图像、视频、语音、文本数据。

3.根据权利要求1所述的多模态知识图谱处理方法,其特征在于:教师课程框架语音数据包括:课程音频资料、教师口述课程框架。

4.根据权利要求3所述的多模态知识图谱处理方法,其特征在于:目标检测神经网络检测的目标类别至少包括:典型人物、典型事件。

5.根据权利要求4所述的多模态知识图谱处理方法,其特征在于:行为检测至少包括:点头、抬头。...

【技术特征摘要】

1.多模态知识图谱处理方法,其特征在于:

2.根据权利要求1所述的多模态知识图谱处理方法,其特征在于:所述不同模态知识数据至少包括:教育教学资源、网络数据资源以及学校实地采集特色资源的图像、视频、语音、文本数据。

3.根据权利要求1所述的多模态知识图谱处理方法,其特征在于:教师课程框架语音数据包括:课程音频资料、教师口述课程框架。

4.根据权利要求3所述的多模态知识图谱处理方法,其特征在于:目标检测神经网络检测的目标类别至少包括:典型人物、典型事件。

5.根据权利要求4所述的多模态知识图谱处理方法,其特征在于:行为检测至少包括:点头、抬头。

6.根据权利要求5所述的多模态知识图谱处理方法,其特征在于:知识补全设置知识搜索的深度以控制课程发散程度。

7.根据权利要求6所述的多模态知识图谱处理方法,其特征在于:s3学生提问的方式至少包括:语音、文本、图文方式。

8.根据权利要求7所述的多模态知识图谱处理方法,其特征在于:问题回答方式至少包括:语音作答、文本作答、图片作答、多媒体影音图像辅助作答以及以上方式的混合作答。

9.根据权利要求8所述的多模态知识图谱处理方法,其特征在于:语音作答时,当知识推理的答案涉及具体人物时,声音模型使用对应的人物声音进行问题回答,增强回答渲染力以及学生代入感,当知识推理的答案涉及具体事件时,问题回答时以对...

【专利技术属性】
技术研发人员:杨锐张骏泽丁敏鲍绍武尹金胡贵恒陈翠红范生万王佳佳曹旭娄建顺张胜男
申请(专利权)人:安徽工商职业学院
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1