一种基于知识增强的知识图谱问答方法技术

技术编号:40106761 阅读:28 留言:0更新日期:2024-01-23 18:32
本发明专利技术公开了一种基于知识增强的知识图谱问答方法,包括:将目标图像、目标问题输入到已训练完成的医学视觉语言模型中;将目标图像通过图像编码器编码得到目标图像特征,将目标问题通过文本编码器编码得到目标语言特征;基于目标图像特征与预训练后医学视觉语言模型的知识表示池中图像特征表示之间的相似度得分,结合知识表示池中的知识特征表示得到目标图像知识表示;基于跨模态注意力融合机制融合目标图像知识表示、目标图像特征和目标语言特征,以输出知识增强的多模态表示特征;将多模态表示特征输入到答案分类器中以输出与目标问题对应的医学回答;该知识图谱问答方法提高了医学视觉语言模型对输入问题的输出准确度。

【技术实现步骤摘要】

本专利技术涉及知识问答,尤其涉及一种基于知识增强的知识图谱问答方法


技术介绍

1、几年来,随着人工智能技术的飞速发展,深度学习在医学领域的应用大大增加。医疗信息化的快速发展以及医疗设备的更新迭代使得海量且类型多样的医学数据产生。在各种类型的医学数据中,医学图像和医学文本是医学数据里面比较重要和常见的两种模态的数据。医学图像包括x射线图像、核磁共振成像(mri)、ct图像、超声图像等影像数据,医学文本包括放射性图像报告、医生诊断报告等。因为各种通用领域视觉语言模型的出现以及这些模型在视觉和语言多模态任务上的出色表现,人们开始把视觉语言模型运用到医学领域上。医学视觉语言模型通过同时处理这两种模态的医学数据,能够挖掘两种数据之间的关系以及生成多模态特征表示,为医学领域的各种视觉语言任务提供支撑。

2、医学视觉语言模型对处理各种多模态视觉任务具有重要意义,这些任务涉及计算机视觉、自然语言处理以及医学等多个领域,如医学视觉问答任务。医学视觉问答任务是模型根据一张给定的医学图像,给出与输入的问题相匹配的正确答案。在医学领域,这对于医生和病人来说都很有意义本文档来自技高网...

【技术保护点】

1.一种基于知识增强的知识图谱问答方法,其特征在于,包括如下步骤:

2.根据权利要求1所述的基于知识增强的知识图谱问答方法,其特征在于,在步骤S2中,具体包括:

3.根据权利要求1所述的基于知识增强的知识图谱问答方法,其特征在于,利用掩码图像建模、掩码语言建模以及对比学习任务对预训练的医学视觉语言模型进行约束,以构建预训练医学视觉语言模型的总损失函数,具体为:

4.根据权利要求3所述的基于知识增强的知识图谱问答方法,其特征在于,在基于对比学习任务缩小同类数据的特征距离,扩大不同类数据的特征距离中,具体为:

5.根据权利要求3所述的基于知识增...

【技术特征摘要】

1.一种基于知识增强的知识图谱问答方法,其特征在于,包括如下步骤:

2.根据权利要求1所述的基于知识增强的知识图谱问答方法,其特征在于,在步骤s2中,具体包括:

3.根据权利要求1所述的基于知识增强的知识图谱问答方法,其特征在于,利用掩码图像建模、掩码语言建模以及对比学习任务对预训练的医学视觉语言模型进行约束,以构建预训练医学视觉语言模型的总损失函数,具体为:

4.根据权利要求3所述的基于知识增强的知识图谱问答方法,其特征在于,在基于对比学习任务缩小同类数据的特征距离,扩大不同类数据的特征距离中,具...

【专利技术属性】
技术研发人员:张信明凌海锋
申请(专利权)人:中国科学技术大学
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1