基于语义增强的信息识别方法、装置、设备及存储介质制造方法及图纸

技术编号:29526515 阅读:36 留言:0更新日期:2021-08-03 15:12
本申请涉及人工智能技术领域,揭示了一种基于语义增强的信息识别方法、装置、介质及设备,其中方法包括:获取待识别的文本信息及关键词;在预训练的词向量库中获取关键词的相似词;采用预设的上下文编码模型对相似词进行编码,得到相似词的隐藏向量,根据隐藏向量计算相似词的词向量权重,并计算得到关键词的语义增强信息;通过预设的门控模型分别计算语义增强信息和隐藏向量相对关键词语义理解的信息权重,根据信息权重计算关键词的语义特征参数,并计算语义特征参数对应的语义预测序列标签,对待识别的文本信息进行语义识别。从而实现了关键词的语义增强,平衡了上下文环境和语义增强信息的权重,对待识别的文本信息进行了准确识别。

【技术实现步骤摘要】
基于语义增强的信息识别方法、装置、设备及存储介质
本申请涉及到人工智能
,特别是涉及到一种基于语义增强的信息识别方法、装置、介质及设备。
技术介绍
目前,微博在国内社交媒体领域中占据着至关重要的部分,随着微博的日益普及,用户数据也日益增多,这些用户数据中的文本通常是简短和非正式的,即用户想要表达的信息隐藏在非结构化的帖子中,由于这些用户数据均为非结构化数据,从这些用户数据中提取信息存在着一定的障碍,如何有效地理解这些文本依然是一个具有挑战性的任务。命名实体识别(NamedEntityRecognition,NER)是一项发现信息实体并识别其相应类别的任务,被广泛应用于问答、主题建模、信息检索等领域,是很多应用程序中的重要组成部分,包括机器翻译、关系抽取、实体链接等,通常用于识别人、组织、位置、时间和数字表达式等内容。而随着人工智能的发展,NER也开始被应用于社交媒体领域。然而,命名实体通常只能代表预先设定好的专有名称中的一小部分,导致用户数据中的词汇难以被概括,并且,由于不同用户的表达习惯存在差异,社交媒体的文本往往不会严本文档来自技高网...

【技术保护点】
1.一种基于语义增强的信息识别方法,其特征在于,所述方法包括:/n获取待识别的文本信息,获取所述待识别的文本信息中的关键词;/n在预训练的词向量库中获取所述关键词的相似词;/n采用预设的上下文编码模型对所述相似词进行编码,得到所述相似词的隐藏向量,根据所述隐藏向量计算所述相似词的词向量权重,并根据所述相似词和所述词向量权重计算得到所述关键词的语义增强信息;/n通过预设的门控模型分别计算所述语义增强信息相对所述关键词语义理解的第一信息权重和所述隐藏向量相对所述关键词语义理解的第二信息权重,根据所述第一信息权重和所述第二信息权重计算所述关键词的语义特征参数,并通过所述预设的门控模型计算得到所述关键...

【技术特征摘要】
1.一种基于语义增强的信息识别方法,其特征在于,所述方法包括:
获取待识别的文本信息,获取所述待识别的文本信息中的关键词;
在预训练的词向量库中获取所述关键词的相似词;
采用预设的上下文编码模型对所述相似词进行编码,得到所述相似词的隐藏向量,根据所述隐藏向量计算所述相似词的词向量权重,并根据所述相似词和所述词向量权重计算得到所述关键词的语义增强信息;
通过预设的门控模型分别计算所述语义增强信息相对所述关键词语义理解的第一信息权重和所述隐藏向量相对所述关键词语义理解的第二信息权重,根据所述第一信息权重和所述第二信息权重计算所述关键词的语义特征参数,并通过所述预设的门控模型计算得到所述关键词的语义特征参数对应的语义预测序列标签;
根据所述关键词的语义预测序列标签对所述待识别的文本信息进行信息识别。


2.根据权利要求1所述的基于语义增强的信息识别方法,其特征在于,所述在预训练的词向量库中获取所述关键词的相似词的步骤,包括:
根据余弦相似度计算所述预训练的词向量库中的词语与所述关键词的语义相似性,按照所述语义相似性从高到低选取m个词语作为所述关键词的相似词,其中,m为正整数。


3.根据权利要求2所述的基于语义增强的信息识别方法,其特征在于,所述采用预设的上下文编码模型对所述相似词进行编码,得到所述相似词的隐藏向量的步骤,包括:
通过预设的词向量矩阵将一所述相似词映射为一词向量,将所述词向量输入至所述预设的上下文编码模型中,以使所述上下文编码模型对所述相似词进行编码,输出所述相似词的隐藏向量。


4.根据权利要求3所述的基于语义增强的信息识别方法,其特征在于,所述根据所述隐藏向量计算所述相似词的词向量权重的步骤,包括:
通过下式(1)计算所述相似词的词向量权重:
pi,j=softmax(hiei,j)(1)
式中,pi,j为所述相似词的词向量权重,hi为所述相似词的隐藏向量,ei,j为所述相似词ci,j对应的词向量,所述相似词的集合Ci={ci,1,ci,2,...,ci,j},1≤j≤m,1≤i≤K,K为所述待识别的文本信息中的关键词的个数;其中,hi的维度与ei,j相同。


5.根据权利要求4所述的基于语义增强的信息识别方法,其特征在于,所述根据所述相似词和所述词向量权重计算得到所述关键词的语义增强信息的步骤,包括:
通过下式(2)计算所述关键词的语义增强信息:



式中,vi为所述关键词的语义增强信息,1≤j≤m,1≤i≤K,K为所述待识别的文本信息中的关键词的个数。


6.根据权利要求1所述的基于语义增强的信息识别方法,其特征在于,所述通过预设的门控模型分别计算所述语义增强信息相对所述关键词语义理解...

【专利技术属性】
技术研发人员:孙超王健宗于凤英程宁
申请(专利权)人:平安科技深圳有限公司
类型:发明
国别省市:广东;44

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1