一种多轮问答语义生成方法、设备及介质技术

本申请公开了一种多轮问答语义生成方法、设备及介质，方法包括：获取本轮对话中的提问信息；将提问信息输入至预先构建的自然语言处理模型，预测本轮对话对应的第一历史上下文信息；获取与本轮相邻的上一轮对话对应的第二历史上下文信息；确定第一历史上下文信息与第二历史上下文信息之间的语义变化信息；根据语义变化信息与第一历史上下文信息，生成提问信息对应的答复信息。本申请实施例考虑到了历史上下文信息的先后顺序，并且又考虑到了经过本轮对话后语义的转化程度，使得多轮问答系统在闲聊多轮问答时，能根据人类语义的变化做出调整，提高了语义理解的准确率。提高了语义理解的准确率。提高了语义理解的准确率。

【技术实现步骤摘要】
一种多轮问答语义生成方法、设备及介质


[0001]本申请涉及智能自然语言处理
，尤其涉及一种多轮问答语义生成方法、设备及介质。

技术介绍

[0002]智能问答系统是指以一问一答形式，精确的定位网站用户所需要的提问知识，通过与网站用户进行交互，为网站用户提供个性化的信息服务。在智能问答系统的多轮问答中，如何让机器人充分理解上下文并进行回答，是能否做好多轮问答的关键。
[0003]目前，建模历史对话的方法主要分为两种。第一种方法是直接拼接对话历史，这种方法在一定程度上忽略了句子之间序列关系。另一种方法是多层次建模，先对每句话进行表示，再对整体进行表示，这种方法的问题在于对每句话进行生成时，忽略了其他句子的作用。
[0004]因此，在智能问答系统的多轮问答中，语义理解准确率低。

技术实现思路

[0005]本申请实施例提供一种多轮问答语义生成方法、设备及介质，用于解决在智能问答系统的多轮问答中，语义理解准确率低的问题。
[0006]本申请实施例采用下述技术方案：
[0007]一方面，本申请实施例提供了一种多轮问答语义生成方法，该方法包括：获取本轮对话中的提问信息；将所述提问信息输入至预先构建的自然语言处理模型，预测所述本轮对话对应的第一历史上下文信息；获取与所述本轮相邻的上一轮对话对应的第二历史上下文信息；确定所述第一历史上下文信息与所述第二历史上下文信息之间的语义变化信息；根据所述语义变化信息与所述第一历史上下文信息，生成所述提问信息对应的答复信息。
[0008]一个示例中，所述将所述提问信息输入至预先构建的自然语言处理模型，预测所述本轮对话对应的第一历史上下文信息，具体包括：确定所述自然语言处理模型为Transformer模型；将所述提问信息中的位置信息、段落信息以及单词信息嵌入所述Transformer模型中的编码器，确定所述提问信息对应的编码信息；获取所述本轮对话之前的每轮对话的历史上下文信息；将所述每轮对话的历史上下文信息与所述编码信息输入至预先构建的流式预测模型，生成所述本轮对话对应的第一历史上下文信息。
[0009]一个示例中，所述将所述每轮对话的历史上下文信息与所述编码信息输入至预先构建的流式预测模型，生成所述本轮对话对应的第一历史上下文信息，具体包括：确定所述每轮对话的历史上下文信息对应的标识信息；将所述标识信息与所述编码信息输入至预先构建的流式预测模型，生成所述本轮对话对应的第一历史上下文信息。
[0010]一个示例中，所述确定所述每轮对话的历史上下文信息对应的标识信息，具体包括：在所述每轮对话结束时，在所述每轮对话后增加对应的令牌信息，并将所述令牌信息作为所述每轮对话的历史上下文信息对应的标识信息。
[0011]一个示例中，所述确定所述第一历史上下文信息与所述第二历史上下文信息之间的语义变化信息，具体包括：确定所述第一历史上下文信息与所述第二历史上下文信息之间的差值信息；通过所述差值信息确定所述第一历史上下文信息与所述第二历史上下文信息之间的语义变化信息。
[0012]一个示例中，所述根据所述语义变化信息与所述第一历史上下文信息，生成所述提问信息对应的答复信息，具体包括：将所述语义变化信息与所述第一历史上下文信息输入至Softmax层；在所述Softmax层中，根据所述语义变化信息与所述第一历史上下文信息，生成所述提问信息对应的答复信息。
[0013]一个示例中，所述在所述Softmax层中，根据所述语义变化信息与所述第一历史上下文信息，生成所述提问信息对应的答复信息，具体包括：在所述Softmax层中，调用数据库；根据所述语义变化信息与所述第一历史上下文信息，在所述数据库中匹配所述提问信息对应的答复信息。
[0014]一个示例中，所述根据所述语义变化信息与所述第一历史上下文信息，在所述数据库中匹配所述提问信息对应的答复信息，具体包括：根据所述语义变化信息与所述第一历史上下文信息，对所述数据库中的词进行评分，确定所述提问信息对应的第一答复词；根据所述语义变化信息与所述第一答复词，确定所述提问信息对应的第二答复词；根据所述第一答复词与所述第二答复词，生成所述提问信息对应的答复信息。
[0015]另一方面，本申请实施例提供了一种多轮问答语义生成设备，包括：至少一个处理器；以及，与所述至少一个处理器通信连接的存储器；其中，所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够：获取本轮对话中的提问信息；将所述提问信息输入至预先构建的自然语言处理模型，预测所述本轮对话对应的第一历史上下文信息；获取与所述本轮相邻的上一轮对话对应的第二历史上下文信息；确定所述第一历史上下文信息与所述第二历史上下文信息之间的语义变化信息；根据所述语义变化信息与所述第一历史上下文信息，生成所述提问信息对应的答复信息。
[0016]另一方面，本申请实施例提供了一种多轮问答语义生成非易失性计算机存储介质，存储有计算机可执行指令，其特征在于，所述计算机可执行指令设置为：获取本轮对话中的提问信息；将所述提问信息输入至预先构建的自然语言处理模型，预测所述本轮对话对应的第一历史上下文信息；获取与所述本轮相邻的上一轮对话对应的第二历史上下文信息；确定所述第一历史上下文信息与所述第二历史上下文信息之间的语义变化信息；根据所述语义变化信息与所述第一历史上下文信息，生成所述提问信息对应的答复信息。
[0017]本申请实施例采用的上述至少一个技术方案能够达到以下有益效果：
[0018]本申请实施例通过在预先构建的自然语言处理模型中，不仅预测本轮对话对应的第一历史上下文信息，又获取与本轮相邻的上一轮对话对应的第二历史上下文信息，考虑到了历史上下文信息的先后顺序，并且又考虑到了经过本轮对话后语义的转化程度，使得多轮问答系统在闲聊多轮问答时，能根据人类语义的变化做出调整，提高了语义理解的准确率。
附图说明
[0019]为了更清楚地说明本申请的技术方案，下面将结合附图来对本申请的部分实施例进行详细说明，附图中：
[0020]图1为本申请实施例提供的一种多轮问答语义生成方法的流程示意图；
[0021]图2为本申请实施例提供的一种多轮问答语义生成设备的结构示意图。
具体实施方式
[0022]为使本申请的目的、技术方案和优点更加清楚，下面将结合具体实施例及相应的附图对本申请的技术方案进行清楚、完整地描述。显然，所描述的实施例仅是本申请一部分实施例，而不是全部的实施例。基于本申请中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本申请保护的范围。
[0023]下面参照附图来对本申请的一些实施例进行详细说明。
[0024]图1为本申请实施例提供的一种多轮问答语义生成方法的流程示意图。该方法可以应用于不同的业务领域。该流程可以由相应领域的计算设备执行，流程中的某些输入参数或者中间结果允许人工干预调节，以帮助提高准确本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种多轮问答语义生成方法，其特征在于，所述方法包括：获取本轮对话中的提问信息；将所述提问信息输入至预先构建的自然语言处理模型，预测所述本轮对话对应的第一历史上下文信息；获取与所述本轮相邻的上一轮对话对应的第二历史上下文信息；确定所述第一历史上下文信息与所述第二历史上下文信息之间的语义变化信息；根据所述语义变化信息与所述第一历史上下文信息，生成所述提问信息对应的答复信息。2.根据权利要求1所述的方法，其特征在于，所述将所述提问信息输入至预先构建的自然语言处理模型，预测所述本轮对话对应的第一历史上下文信息，具体包括：确定所述自然语言处理模型为Transformer模型；将所述提问信息中的位置信息、段落信息以及单词信息嵌入所述Transformer模型中的编码器，确定所述提问信息对应的编码信息；获取所述本轮对话之前的每轮对话的历史上下文信息；将所述每轮对话的历史上下文信息与所述编码信息输入至预先构建的流式预测模型，生成所述本轮对话对应的第一历史上下文信息。3.根据权利要求2所述的方法，其特征在于，所述将所述每轮对话的历史上下文信息与所述编码信息输入至预先构建的流式预测模型，生成所述本轮对话对应的第一历史上下文信息，具体包括：确定所述每轮对话的历史上下文信息对应的标识信息；将所述标识信息与所述编码信息输入至预先构建的流式预测模型，生成所述本轮对话对应的第一历史上下文信息。4.根据权利要求3所述的方法，其特征在于，所述确定所述每轮对话的历史上下文信息对应的标识信息，具体包括：在所述每轮对话结束时，在所述每轮对话后增加对应的令牌信息，并将所述令牌信息作为所述每轮对话的历史上下文信息对应的标识信息。5.根据权利要求1所述的方法，其特征在于，所述确定所述第一历史上下文信息与所述第二历史上下文信息之间的语义变化信息，具体包括：确定所述第一历史上下文信息与所述第二历史上下文信息之间的差值信息；通过所述差值信息确定所述第一历史上下文信息与所述第二历史上下文信息之间的语义变化信息。6.根据权利要求1所述的方法，其特征在于，所述根据所述语义变化信息与所述第一历史上下文信息，生成所述提问信息对应的答复信息，具体包括：将所述语义变化信息与...

【专利技术属性】
技术研发人员：冯卫森，尹青山，王建华，
申请(专利权)人：山东新一代信息产业技术研究院有限公司，
类型：发明
国别省市：