基于实体关系统计关联的文档关系抽取方法技术方案

技术编号:41196245 阅读:25 留言:0更新日期:2024-05-07 22:24
本发明专利技术公开了基于实体关系统计关联的文档关系抽取方法,所述方法包括:构建关系抽取模型,包括预训练语言模型和关系预测层;使用预训练语言模型编码文档,获得文档特征以及实体特征;对每个实体计算统计关系向量;把每对实体的实体特征和统计关系向量输入关系预测层,获得实体对的关系概率分布;计算关系分类损失函数,优化关系分类损失函数,训练关系抽取模型;使用关系抽取模型进行关系抽取。本发明专利技术发现对于文档关系抽取,其天然存在着很强的统计先验知识,本发明专利技术创新性地对每个实体与每种关系的统计关联进行计算,并作为先验知识引入深度学习模型中,提升模型性能。

【技术实现步骤摘要】

本专利技术涉及深度学习和自然语言处理领域,尤其涉及一种基于实体关系统计关联的文档关系抽取方法


技术介绍

1、关系抽取是信息抽取研究的重要方向,已逐步从句子级扩展到了文档级,与句子相比,文档通常蕴含更多的关系事实,通过文档关系抽取构建起来的医学知识图谱,可为医疗知识库构建、病历信息检索等提供更多的信息支持,能够更好地应用于语义搜索、知识问答、临床决策支持等场景中。

2、文档关系抽取中存在着丰富的先验知识,这些知识可以通过实体类型和关系类型之间的统计关联来建模。将这种统计先验知识注入关系抽取模型具有多重价值。首先,它可以为模型提供先验信息,从而降低模型在处理关系时犯下常识性错误的概率。通过利用大规模语料库中的统计数据,模型可以学习到不同实体类型之间的常见关系类型分布,以及关系类型的频率。这样的先验知识可以指导模型更加准确地预测和抽取文档中的关系。其次,统计先验知识可以提高模型的性能和鲁棒性。通过利用先验知识,模型能够更好地适应不同领域和语境中的关系抽取任务。它可以帮助模型更好地理解文档中的关系,从而提高模型在复杂场景下的表现。

3、因本文档来自技高网...

【技术保护点】

1.基于实体关系统计关联的文档关系抽取方法,其特征在于,所述方法包括:

2.根据权利要求1所述的基于实体关系统计关联的文档关系抽取方法,其特征在于,所述的对每个实体计算统计关系向量,具体做法如下:

3.根据权利要求1所述的基于实体关系统计关联的文档关系抽取方法,其特征在于,所述的使用预训练语言模型编码文档,获得文档特征以及实体特征,包括以下步骤:

4.根据权利要求2和3任一所述的基于实体关系统计关联的文档关系抽取方法,其特征在于,所述的把每对实体的实体特征和统计关系向量输入关系预测层,获得实体对的关系概率分布,包括以下步骤:

5.根据权利要...

【技术特征摘要】

1.基于实体关系统计关联的文档关系抽取方法,其特征在于,所述方法包括:

2.根据权利要求1所述的基于实体关系统计关联的文档关系抽取方法,其特征在于,所述的对每个实体计算统计关系向量,具体做法如下:

3.根据权利要求1所述的基于实体关系统计关联的文档关系抽取方法,其特征在于,所述的使用预训练语言模型编码文档,获得文档特征以及实体特征,包括以下步骤:

4.根据权利要求2和3任一所述的基于实体关系统计关联的文...

【专利技术属性】
技术研发人员:黄森黄双萍
申请(专利权)人:华南理工大学
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1