通过学习稳定表示空间的持续学习关系分类方法技术

技术编号:42490251 阅读:26 留言:0更新日期:2024-08-21 13:07
本发明专利技术公开了通过学习稳定表示空间的持续学习关系分类方法,包括以下步骤:获取医学药物数据,使用CRC模型作为基线模型进行训练;快速适应新关系;典型记忆样本选择;对所有关系进行平衡记忆回放:通过在平衡新的记忆集上进行提示调整来训练CRC模型;在平衡调整之后,再次应用记忆选择,以选择当前任务的最典型记忆样本;使用一个实例级的自对比学习目标来增强记忆实例的表示;构建关系分类后的医学药物知识图谱。本申请无需引入额外的参数或训练数据,缓解了CRC中的灾难性遗忘问题;基于提示的实例级对比目标,以生成高质量的实例嵌入。

【技术实现步骤摘要】

本专利技术属于人工智能,尤其涉及通过学习稳定表示空间的持续学习关系分类方法


技术介绍

1、关系分类(rc)是信息提取和知识管理中的一项基本任务,其定义是识别非结构化文本中提及的两个实体间的语义关系。例如,给定一个带有标注实体对(e1,e2)的句子x,rc旨在识别e1和e2之间的关系r;关系r和两个实体(e1,e2)构成了一个三元组r(e1,e2),用于自动构建知识图谱。在医学领域,使用关系分类构建知识图谱,整合医学文献、专家经验和临床数据,快速推导出患者可能患有的疾病类型。这不仅可以提高疾病诊断的准确性,从而提高医生的治疗效率,还可以对治疗方案的优化起到积极作用。

2、传统的rc方法是通过假设一组预定义的固定关系来构建的,这不能很好地处理现实生活中出现的新关系类型。为了应对这种情况,持续关系分类(crc)作为一种潜在解决方案出现,使模型能够在保持对旧关系准确评估的同时学习新关系。与传统关系分类相比,crc是通过一系列rc任务来学习关系知识的,其中数据分布随着任务的变化而逐步变化。

3、从本质上讲,在持续学习过程中,crc模型通常会本文档来自技高网...

【技术保护点】

1.通过学习稳定表示空间的持续学习关系分类方法,其特征在于,包括以下步骤:

2.根据权利要求1所述的通过学习稳定表示空间的持续学习关系分类方法,其特征在于,构建一个模板T(xi)来提示输入实例xi,除了保留其原始标记外,[MASK]标记被放入提示模板中,并利用它来预测目标关系;在模型中,为xi配备模板,并生成提示输入:

3.根据权利要求2所述的通过学习稳定表示空间的持续学习关系分类方法,其特征在于,采用提示调整来学习关系集中关系的语义;在基线模型中,使用额外可学习的关系嵌入作为虚拟回答词来扩展语言模型,具体来说,将关系r映射到其对应的虚拟词v,并通过平均r中所有构...

【技术特征摘要】

1.通过学习稳定表示空间的持续学习关系分类方法,其特征在于,包括以下步骤:

2.根据权利要求1所述的通过学习稳定表示空间的持续学习关系分类方法,其特征在于,构建一个模板t(xi)来提示输入实例xi,除了保留其原始标记外,[mask]标记被放入提示模板中,并利用它来预测目标关系;在模型中,为xi配备模板,并生成提示输入:

3.根据权利要求2所述的通过学习稳定表示空间的持续学习关系分类方法,其特征在于,采用提示调整来学习关系集中关系的语义;在基线模型中,使用额外可学习的关系嵌入作为虚拟回答词来扩展语言模型,具体来说,将关系r映射到其对应的虚拟词v,并通过平均r中所有构成词的词嵌入来初始化关系嵌入:

4.根据权利要求3所述的通过学习稳定表示空间的持续学习关系分类方法,其特征在于,在crc模型的范式中,在时间步骤k―1时,得到一个已经在k―1个任务上训练过的rc模型,即在即将到来的第k个任务上,采用两阶段学习方法来训练crc模型,包括对新关系的快速适应和对所有已见关系的平衡调整。

5.根据权利要求4所述的通过学习稳定表示空间的持续...

【专利技术属性】
技术研发人员:谭真庞宁赵翔曾维新肖卫东张鹏飞胡艳丽
申请(专利权)人:中国人民解放军国防科技大学
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1