【技术实现步骤摘要】
本专利技术涉及计算机,尤其涉及一种上下文关系检测方法、程序产品、电子设备及存储介质。
技术介绍
1、上下位关系检测是自然语言处理任务中较受关注的语义关系之一,对知识库与知识图谱的构建具有重要的意义。相关技术在进行上下位检测时需要基于标注数据训练一个上下位关系分类器,这样需要大量的标注数据,在零样本学习场景下,此类方法的性能会受到严重影响。
技术实现思路
1、有鉴于此,本专利技术实施例提供了一种上下文关系检测方法、程序产品、电子设备及存储介质。
2、本专利技术实施例的技术方案是这样实现的:
3、一方面,本专利技术实施例提供了一种上下文关系检测方法,该方法包括:
4、基于预训练语言模型对输入文本中的术语和上下文进行编码,得到上下文感知的文本向量;
5、基于多头注意力编码器对所述输入文本中的文本向量进行编码,得到所述输入文本中的每个术语的语义向量;
6、基于所述输入文本中的每个术语的语义向量,确定所述输入文本中的术语之间是否具有上下位关
7本文档来自技高网...
【技术保护点】
1.一种上下位关系检测方法,其特征在于,所述方法包括:
2.根据权利要求1所述的方法,其特征在于,所述基于预训练语言模型对输入文本中的术语和上下文进行编码之前,所述方法还包括:
3.根据权利要求1所述的方法,其特征在于,所述基于预训练模型对输入文本进行编码之前,所述方法还包括:
4.根据权利要求1所述的方法,其特征在于,所述基于所述输入文本中的每个术语的语义向量,确定所述输入文本中的术语之间是否具有上下位关系,包括:
5.根据权利要求4所述的方法,其特征在于,所述对术语两两进行基于上下位术语共性的属性分析,包括以下一项或
...
【技术特征摘要】
1.一种上下位关系检测方法,其特征在于,所述方法包括:
2.根据权利要求1所述的方法,其特征在于,所述基于预训练语言模型对输入文本中的术语和上下文进行编码之前,所述方法还包括:
3.根据权利要求1所述的方法,其特征在于,所述基于预训练模型对输入文本进行编码之前,所述方法还包括:
4.根据权利要求1所述的方法,其特征在于,所述基于所述输入文本中的每个术语的语义向量,确定所述输入文本中的术语之间是否具有上下位关系,包括:
5.根据权利要求4所述的方法,其特征在于,所述对术语两两进行基于上下位术语共性的属性分析,包括以下一项或多项:
6.根据权利要求5所述的方法,其特征在于,所述对两个术语进行语义向量的包含关系分析,包括:
7.根据权利要求5所述...
【专利技术属性】
技术研发人员:黄毅,杨喆,陈亚芹,
申请(专利权)人:中国移动通信有限公司研究院,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。