基于词语义关系与动态卷积神经网络的文本蕴含分析方法技术

本发明专利技术公开了一种基于词语义关系与动态卷积神经网络的文本蕴含分析方法。本发明专利技术包括如下步骤：步骤1对需要进行文本蕴含的文本进行初步的数据预处理，使用ConceptNet获取词语义关系，将词语义关系嵌入到数据预处理后的词向量中；步骤2通过对词向量进行卷积操作，生成文本蕴含所需要的语义特征图；步骤3对于卷积生成的语义特征图，使用动态k‑max次池化获取句子特征向量；步骤4对两个句子分别重复以上步骤，生成两个句子特征向量，最后通过蕴含分类器输出最后文本蕴含的结果。本发明专利技术采用的技术方案具有更好的鲁棒性和自适应能力。

Text implication analysis based on semantic relation and dynamic convolution neural network

【技术实现步骤摘要】
基于词语义关系与动态卷积神经网络的文本蕴含分析方法
本专利技术涉及文本蕴含领域，具体涉及一种基于词语义关系与动态卷积神经网络的文本蕴含分析方法。
技术介绍
文本蕴含是自然语言处理中的一个重要任务。其目标是判断是否可以从给定的前提句中合理地推断出假设句。如能从前提句中推理出假设句则推理关系为蕴含关系；如果前提句与假设句语义矛盾则推理关系为矛盾关系；如果前提句与假设句在语义上不相关则为中立关系。近些年来，随着深度学习的不断发展，使得研究员们可以方便的使用大型的标记好的数据集，例如SNLI和MultiNLI数据集)，这使得训练相当复杂的基于神经网络的模型变得可行。通常，这些模型往往不使用语言分析和特征工程。但是能取得较好结果。虽然已经证明神经网络使用大量训练数据进行建模在文本蕴含方面上非常有效，它们通常假设所有推论知识均可从提供的训练数据中学习到。但是，如果我们能利用到词汇级别的语义关系，这种语义关系应该有助于句子级别的文本蕴含。例如，前提句为有人在水壶里搅拌辣椒。假设句为有人在壶里搅拌辣椒。可以看到，在这个例子中，我们能从前提句推理出假设句本文档来自技高网...

【技术保护点】
1.基于词语义关系与动态卷积神经网络的文本蕴含分析方法，其特征在于包括如下步骤：/n步骤1、对需要进行文本蕴含分析的语料进行初步的数据预处理，使用ConceptNet获取词语义关系，将词语义关系嵌入到数据预处理后的词向量中；/n步骤2、对嵌入词语义关系的词向量进行卷积操作，生成文本蕴含所需要的语义特征图；/n步骤3、对于卷积生成的语义特征图，使用动态k-max次池化获取句子特征向量；/n步骤4、对两个句子分别重复步骤1-步骤3，生成两个句子特征向量，最后通过蕴含分类器输出最后文本蕴含分析的结果。/n

【技术特征摘要】
1.基于词语义关系与动态卷积神经网络的文本蕴含分析方法，其特征在于包括如下步骤：
步骤1、对需要进行文本蕴含分析的语料进行初步的数据预处理，使用ConceptNet获取词语义关系，将词语义关系嵌入到数据预处理后的词向量中；
步骤2、对嵌入词语义关系的词向量进行卷积操作，生成文本蕴含所需要的语义特征图；
步骤3、对于卷积生成的语义特征图，使用动态k-max次池化获取句子特征向量；
步骤4、对两个句子分别重复步骤1-步骤3，生成两个句子特征向量，最后通过蕴含分类器输出最后文本蕴含分析的结果。


2.根据权利要求1所述的基于词语义关系与动态卷积神经网络的文本蕴含分析方法，其特征在于步骤1具体实现如下：
1-1对于需要进行文本蕴含分析的语料，将前提句的文本数据使用GloVe词向量模型转换成向量的表示P，P＝{p1,p2,...,pn}，其中pi为第i个词的词向量表示形式，n为句子的长度；所述前提句与假设句的处理方式一致；
1-2将前提句和假设句的词向量进行关联建模，生成词的权重向量，其目的是让对推理有利的词获得更好的关系向量；其公式如下所示，
f(pi,qj)＝W1(pi)Tqj+b1



其中W1和b1是可学习的参数，pi,qj分别为前提句的第i个词的词向量和假设句的第j个词的词向量，aij为前提句的词权重向量；
1-3利用词权重向量，将ConceptNet生成的初始词关系向量处理成词语义关系向量；其公式如下所示，



其中，p′i为前提句第i个词的词语义关系向量，rij为使用ConceptNet生成的前提句第i个词与假设句第j个词的词关系；
1-4将词语义关系向量嵌入到原本的词向量中，W＝((p1,p′1),(p2,p′2),...,(pn,p′n))，其中W为前提句新的词向量矩阵。


3.根据权利要求2所述的基于词语义关系与动态卷积神经网络的文本蕴含分析方法，其...

【专利技术属性】
技术研发人员：张旻，吴鑫强，汤景凡，姜明，
申请(专利权)人：杭州电子科技大学，
类型：发明
国别省市：浙江;33