当前位置: 首页 > 专利查询>重庆大学专利>正文

一种基于注意力机制的稀疏医疗实体识别方法技术

技术编号:41194712 阅读:22 留言:0更新日期:2024-05-07 22:23
本发明专利技术提出了一种基于注意力机制的稀疏医疗实体识别方法,包括以下步骤:S1,通过BERT模型提取词向量并利用Bi‑LSTM进一步抽取特征;S2,使用Attention机制来提取词向量内部的深层联系;S3,依据每一个批次的实体稀疏程度特点动态调整集成学习中的实体类别权重及融合权重;S4,通过CRF层输出预测结果。本发明专利技术所提出的命名实体识别模型不仅能够动态地聚焦难以识别的样本从而提高学习效率,同时也引入了减少因子以减小稀疏实体在参数更新时带来的干扰。这使得模型在应对医疗命名实体识别中的不平衡实体数量和稀疏实体问题时,性能得到了显著提升。

【技术实现步骤摘要】

本专利技术涉及一种识别,特别是涉及一种基于注意力机制的稀疏医疗实体识别方法


技术介绍

1、在“互联网+医疗”的快速发展背景下,各类大数据检索平台纷纷推出在线医疗功能。用户可以检索相关健康话题以获取医疗知识。然而,尽管大部分平台可以根据用户的关键词快速反馈查询结果,但返回的信息往往庞大且杂乱,充斥着大量无关信息。这要求用户在海量信息中提取答案,从而影响了用户体验。因此,问答系统的存在变得必要。

2、问答系统通过对给定的自然语言问题进行语义理解和解析,利用知识库查询和推理得出答案。近年来,随着知识图谱技术的快速进步,基于知识图谱的问答系统取得了显著的进展,并在医疗、教育、金融等领域得到了广泛应用。命名实体识别是自然语言处理领域的一个关键任务。当用户提出问题时,系统首先需要通过命名实体识别问题中的实体,以便更精确地理解用户的问题。然而,当前的命名实体识别技术存在以下缺点:

3、(1)语料库和资源限制:实体识别的效果极大地受到训练和评估所用语料库及资源的影响。现有语料库规模可能较小,领域覆盖不全,或标注存在错误,这些问题都可能削弱模型的泛本文档来自技高网...

【技术保护点】

1.一种基于注意力机制的稀疏医疗实体识别方法,其特征在于,包括以下步骤:

2.根据权利要求1所述的基于注意力机制的稀疏医疗实体识别方法,其特征在于,在步骤S1中包括:

3.根据权利要求1所述的基于注意力机制的稀疏医疗实体识别方法,其特征在于,在步骤S3中包括:

4.根据权利要求1所述的基于注意力机制的稀疏医疗实体识别方法,其特征在于,还包括:

5.根据权利要求1所述的基于注意力机制的稀疏医疗实体识别方法,其特征在于,还包括:

6.根据权利要求5所述的基于注意力机制的稀疏医疗实体识别方法,其特征在于,最终的多分类损失的计算方法为:...

【技术特征摘要】

1.一种基于注意力机制的稀疏医疗实体识别方法,其特征在于,包括以下步骤:

2.根据权利要求1所述的基于注意力机制的稀疏医疗实体识别方法,其特征在于,在步骤s1中包括:

3.根据权利要求1所述的基于注意力机制的稀疏医疗实体识别方法,其特征在于,在步骤s3中包括:

4.根据权利要求1所述的基于注意力机制的稀疏医疗实体识别方法,其特征在于,还包括:

5.根据权利要求1所述的基于注意力机制的稀疏医疗实体识别方法,其特征在于,还包括:

6.根据权利要求5所述的基于注意力机制的稀...

【专利技术属性】
技术研发人员:万里何东元戴金成刘泳志
申请(专利权)人:重庆大学
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1