基于文本的关键词提取方法和计算机设备技术

本申请公开了一种基于文本的关键词提取方法和计算机设备，属于人工智能技术领域，用于高效的挖掘文本中的关键词。该方法采用了Seq2seq网络结构。该网络结构包括编码器和解码器以及具有注意力机制的神经网络模块对编码器的输出结果进行调整。该方法中将整个文本作为输入，使得神经网络能够了解文本的上下文信息。由于无需提取特征向量，免去了TextRank中从文本中抽象出特征的麻烦。由于无需主观的进行特征抽象，故此实现相对简单，关键词的提取在长文本和短文本中均适用，效果也比较稳定。此外，该方法输出的是向量而不是关键词，具有很好的泛化能力。进一步外，通过引入注意力机制，能够使得关键词挖掘更为准确。

Text-based keyword extraction method and computer equipment

【技术实现步骤摘要】
基于文本的关键词提取方法和计算机设备
本申请涉及人工智能
，特别涉及一种基于文本的关键词提取方法和计算机设备。
技术介绍
为了便于理解和检索，通常用一些关键词来表达文本的含义。由于不同词语表达语义的能力不同，故此不同词语对文本主旨的体现程度也不同。如何提取能够表达文本主旨的关键词是自然语言处理领域一个重要课题。同时关键词的提取，也广泛应用在内容推荐，语义搜索等领域。相关技术中用于刻画词语重要程度的指标有TF-IDF(termfrequency–inversedocumentfrequency，词频)，textRank(自动文摘算法)、分类等方法。其中，TF-IDF，基于对文档频率加权计算来统计词语对文本的重要性；textRank通过词汇的上下文关联统计计算词语的重要性；分类算法将对文本关键词的挖掘转化成分类问题，通过特征提取、Seq2seq神经网络训练、Seq2seq神经网络预测将文本的词语分为关键词和非关键词。然而上述方法都有各自的一些缺点，在实际应用中表现不尽人意。
技术实现思路
本申请实施例提供一种基于文本的关键词提取方法和计算机设备，用于智能的较为准确的提取关键。一方面，提供一种基于文本的关键词提取方法，所述方法包括：构造待分析文本的矩阵，该矩阵中包括按序排列的分词的词向量，其中，排列顺序为词向量在所述待分析文本中的顺序；将待分析文本的矩阵输入给预训练的Seq2seq(sequencetosequence，序列-序列)神经网络，得到输出矩阵，所述输出矩阵中包括至少一个输出向量；其中，所述Seq2seq神经网络是根据标注有关键词的语料训练得到的，且训练时，所述Seq2seq神经网络的输入时训练文本的矩阵，输出是训练文本对应的关键词构成的矩阵；其中关键词构成的矩阵中每个向量与关键词对应；根据输出向量和关键词的对应关系，确定所述待分析文本的关键词。可选的，所述Seq2seq神经网络中包括编码器、解码器和带有注意力机制的神经网络模块，所述编码器和解码器均为循环神经网络，所述带有注意力机制的神经网络模块用于调整所述编码器针对每个词向量的编码结果。可选的，将待分析文本的矩阵输入给预训练的Seq2seq神经网络，得到输出矩阵，包括：将所述待分析文本的矩阵中的词向量按照在所述待分析文本的顺序，依次输入给所述编码器获得每个输入的词向量的状态；将所述编码器的当前输入词向量以及所述当前输入词向量的上一词向量的状态输入给所述带有注意力机制的神经网络模块，得到所述上一词向量的权重参数；将所述上一词向量的权重参数和所述上一词向量的状态相乘，得到调整后的所述上一词向量的状态；将调整后的各词向量的状态依序输入给所述解码器，得到所述输出矩阵。可选的，所述带有注意力机制的神经网络模块包括依次串联的全连接层、随机失活层和归一化层softmax；所述全连接层用于处理输入的所述编码器的当前输入词向量以及所述当前输入词向量的上一词向量的状态；所述随机失活层用于处理所述全连接层的处理结果；所述softmax用于对所述随机失活层的处理结果进行归一化后得到所述上一词向量的权重参数。可选的，构造待分析文本的矩阵，包括：对待分析文本进行分词处理，得到各个分词；将各分词转化为词向量；将各分词的词向量按照分词在所述待分析文本中的顺序构造矩阵。可选的，根据输出向量和关键词的对应关系，确定所述待分析文本的关键词，包括：在关键词向量集合中查找与输出向量距离最近的向量；将查找到的向量对应的关键词确定为所述待分析文本的关键词。可选的，将查找到的向量对应的关键词确定为所述待分析文本的关键词，包括：针对从关键词向量集合中查找到的向量对应的每个关键词，若该关键词包含在所述待分析文本中，则将该关键词确定为所述待分析文本的关键词；若该关键词不包含在所述待分析文本中，则将该关键词丢弃。可选的，所述方法还包括：若所述待分析文本的关键词数量大于预设数量；则从所述待分析文本的关键词中剔除部分关键词以使剩余的关键词数量等于所述预设数量。可选的，所述方法还包括：若所述待分析文本的关键词数量小于预设数量；则从所述关键词向量集合中查找与所述待分析文本的关键词相似的关键词；将查找到的所述相似的关键词确定为所述待分析文本的新增关键词。第二方面，本申请实施例还提供一种基于文本的关键词提取装置，所述装置包括：文本矩阵构造单元，用于构造待分析文本的矩阵，该矩阵中包括按序排列的分词的词向量，其中，排列顺序为词向量在所述待分析文本中的顺序；输出矩阵确定单元，用于将待分析文本的矩阵输入给预训练的Seq2seq神经网络，得到输出矩阵，所述输出矩阵中包括至少一个输出向量；其中，所述Seq2seq神经网络是根据标注有关键词的语料训练得到的，且训练时，所述Seq2seq神经网络的输入时训练文本的矩阵，输出是训练文本对应的关键词构成的矩阵；其中关键词构成的矩阵中每个向量与关键词对应；关键词确定单元，用于根据输出向量和关键词的对应关系，确定所述待分析文本的关键词。可选的，所述Seq2seq神经网络中包括编码器、解码器和带有注意力机制的神经网络模块，所述编码器和解码器均为循环神经网络，所述带有注意力机制的神经网络模块用于调整所述编码器针对每个词向量的编码结果。可选的，输出矩阵确定单元，用于：将所述待分析文本的矩阵中的词向量按照在所述待分析文本的顺序，依次输入给所述编码器获得每个输入的词向量的状态；将所述编码器的当前输入词向量以及所述当前输入词向量的上一词向量的状态输入给所述带有注意力机制的神经网络模块，得到所述上一词向量的权重参数；将所述上一词向量的权重参数和所述上一词向量的状态相乘，得到调整后的所述上一词向量的状态；将调整后的各词向量的状态依序输入给所述解码器，得到所述输出矩阵。可选的，所述带有注意力机制的神经网络模块包括依次串联的全连接层、随机失活层和归一化层softmax；所述全连接层用于处理输入的所述编码器的当前输入词向量以及所述当前输入词向量的上一词向量的状态；所述随机失活层用于处理所述全连接层的处理结果；所述softmax用于对所述随机失活层的处理结果进行归一化后得到所述上一词向量的权重参数。可选的，文本矩阵构造单元，用于：对待分析文本进行分词处理，得到各个分词；将各分词转化为词向量；将各分词的词向量按照分词在所述待分析文本中的顺序构造矩阵。可选的，关键词确定单元，用于：在关键词向量集合中查找与输出向量距离最近的向量；将查找到的向量对应的关键词确定为所述待分析文本的关键词。可选的，关键词确定单元，用于：针对从关键词向量集合中查找到的向量对应的每个关键词，若该关键词包含在所述待分析文本中，则将该关键词确定为所述待分析文本的关键词；若该关键词不包含在所述待分析文本中，则将该关键词丢弃。可选的，所述装置还包括：过滤单元，用于若所述待分析文本的关键词数量大于预设数量；则从所述待分析文本的关键词中剔除部分关键词以使剩余的关键词数量等于所述预设数量。可选的，所述装置还包括：扩展单元，用于若所述待分析文本的关键词数量小于预设数量；则从所述关键词向量集合中查找与所述待分析文本的关键词相似的关键词；将查找到的所述相似的关键词确定为所述待分析文本的新增关键词。第三方面，提供一种计算机设备，包括存储器、处理器本文档来自技高网...

【技术保护点】
1.一种基于文本的关键词提取方法，其特征在于，所述方法包括：构造待分析文本的矩阵，该矩阵中包括按序排列的分词的词向量，其中，排列顺序为词向量在所述待分析文本中的顺序；将待分析文本的矩阵输入给预训练的Seq2seq神经网络，得到输出矩阵，所述输出矩阵中包括至少一个输出向量；其中，所述Seq2seq神经网络是根据标注有关键词的语料训练得到的，且训练时，所述Seq2seq神经网络的输入时训练文本的矩阵，输出是训练文本对应的关键词构成的矩阵；其中关键词构成的矩阵中每个向量与关键词对应；根据输出向量和关键词的对应关系，确定所述待分析文本的关键词。

【技术特征摘要】
1.一种基于文本的关键词提取方法，其特征在于，所述方法包括：构造待分析文本的矩阵，该矩阵中包括按序排列的分词的词向量，其中，排列顺序为词向量在所述待分析文本中的顺序；将待分析文本的矩阵输入给预训练的Seq2seq神经网络，得到输出矩阵，所述输出矩阵中包括至少一个输出向量；其中，所述Seq2seq神经网络是根据标注有关键词的语料训练得到的，且训练时，所述Seq2seq神经网络的输入时训练文本的矩阵，输出是训练文本对应的关键词构成的矩阵；其中关键词构成的矩阵中每个向量与关键词对应；根据输出向量和关键词的对应关系，确定所述待分析文本的关键词。2.根据权利要求1所述的方法，其特征在于，所述Seq2seq神经网络中包括编码器、解码器和带有注意力机制的神经网络模块，所述编码器和解码器均为循环神经网络，所述带有注意力机制的神经网络模块用于调整所述编码器针对每个词向量的编码结果。3.根据权利要求2所述的方法，其特征在于，将待分析文本的矩阵输入给预训练的Seq2seq神经网络，得到输出矩阵，包括：将所述待分析文本的矩阵中的词向量按照在所述待分析文本的顺序，依次输入给所述编码器获得每个输入的词向量的状态；将所述编码器的当前输入词向量以及所述当前输入词向量的上一词向量的状态输入给所述带有注意力机制的神经网络模块，得到所述上一词向量的权重参数；将所述上一词向量的权重参数和所述上一词向量的状态相乘，得到调整后的所述上一词向量的状态；将调整后的各词向量的状态依序输入给所述解码器，得到所述输出矩阵。4.根据权利要求3所述的方法，其特征在于，所述带有注意力机制的神经网络模块包括依次串联的全连接层、随机失活层和归一化层softmax；所述全连接层用于处理输入的所述编码器的...

【专利技术属性】
技术研发人员：李钊，
申请(专利权)人：腾讯科技深圳有限公司，
类型：发明
国别省市：广东,44