对话状态跟踪方法、系统及人机对话方法技术方案

本发明专利技术公开一种对话状态跟踪方法，应用于对话状态跟踪系统，对话状态跟踪系统包括输入编码模块，上下文感知槽嵌入模块，多跃点门控记忆网络和槽门分类器，该方法包括：输入编码模块将历史对话状态、当前对话语句作为输入，并输出所述输入中的每个字符的表示；上下文感知槽嵌入模块根据当前对话语句所对应的当前领域和当前槽确定上下文感知槽表示；多跃点门控记忆网络根据所述上下文感知槽表示查找相关值；槽门分类器确定所述相关值的类别。本发明专利技术使用记忆网络作为对话状态跟踪器的解码器。使用对话编码器为记忆网络的输入生成查询。将在最后跃点获得的注意力得分用作对话状态的概率分布，并将在最后跃点的查询用于对话状态门分类。

【技术实现步骤摘要】
对话状态跟踪方法、系统及人机对话方法
本专利技术涉及人工智能
，尤其涉及一种对话状态跟踪方法、系统及人机对话方法。
技术介绍
对话状态跟踪(DST，DialogueStateTracking)是面向任务的对话系统的关键部分，受到越来越多的关注。预期DST可以准确总结用户的意图并提取对话状态的紧凑表示形式。对话状态是一组领域-槽-值三元组，它记录了用户的所有条件，例如，train-leaveat-13：45(火车于13：45出发)表示用户想要订购在13:45出发的火车票。DST的传统方法依赖手工制定的规则和丰富的专家知识。最近，数据驱动的对话状态跟踪器实现了出色的性能改进。当前基于深度学习的模型可以分为两类：分类方法和生成方法。分类方法假设任务中预定义了所有本体，而对话状态跟踪程序只需要将DST视为分类问题。例如，对于火车领域中的预订日槽，它告诉我们火车何时发车，所有可能的值都可以提前知道。生成方法使用开放词汇的设置进行值搜索。他们假设可以从对话上下文中复制某些值，并且可以从公开词汇中提取所有值。但是，当需要复杂的推理才能获得正确答案时，生成方法就很难处理该问题了。
技术实现思路
本专利技术实施例提供一种对话状态跟踪方法、系统及人机对话方法，用于至少解决上述技术问题之一。第一方面，本专利技术实施例提供一种对话状态跟踪方法，应用于对话状态跟踪系统，所述对话状态跟踪系统包括输入编码模块，上下文感知槽嵌入模块，多跃点门控记忆网络和槽门分类器，所述方法包括：所述输入编码模块将历史对话状态、当前对话语句作为输入，并输出所述输入中的每个字符的表示；所述上下文感知槽嵌入模块根据当前对话语句所对应的当前领域和当前槽确定上下文感知槽表示；所述多跃点门控记忆网络根据所述上下文感知槽表示查找相关值；所述槽门分类器确定所述相关值的类别。第二方面，本专利技术实施例提供一种人机对话方法，采用本专利技术中任一实施例所述的对话状态跟踪方法进行对话状态跟踪。第三方面，本专利技术实施例提供一种对话状态跟踪系统，包括输入编码模块，上下文感知槽嵌入模块，多跃点门控记忆网络和槽门分类器，所述方法包括：所述输入编码模块，配置为将历史对话状态、当前对话语句作为输入，并输出所述输入中的每个字符的表示；所述上下文感知槽嵌入模块，配置为根据当前对话语句所对应的当前领域和当前槽确定上下文感知槽表示；所述多跃点门控记忆网络，配置为根据所述上下文感知槽表示查找相关值；所述槽门分类器，配置为确定所述相关值的类别。第四方面，本专利技术实施例提供一种存储介质，所述存储介质中存储有一个或多个包括执行指令的程序，所述执行指令能够被电子设备(包括但不限于计算机，服务器，或者网络设备等)读取并执行，以用于执行本专利技术上述任一项对话状态跟踪方法和/或人机对话方法。第五方面，提供一种电子设备，其包括：至少一个处理器，以及与所述至少一个处理器通信连接的存储器，其中，所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行本专利技术上述任一项对话状态跟踪方法和/或人机对话方法。第六方面，本专利技术实施例还提供一种计算机程序产品，所述计算机程序产品包括存储在存储介质上的计算机程序，所述计算机程序包括程序指令，当所述程序指令被计算机执行时，使所述计算机执行上述任一项对话状态跟踪方法和/或人机对话方法。本专利技术实施例的有益效果在于：使用记忆网络作为对话状态跟踪器的解码器。使用对话编码器为记忆网络的输入生成查询。将在最后跃点获得的注意力得分用作对话状态的概率分布，并将在最后跃点的查询用于对话状态门分类。附图说明为了更清楚地说明本专利技术实施例的技术方案，下面将对实施例描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图是本专利技术的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。图1为本专利技术的对话状态跟踪方法的一实施例的流程图；图2为本专利技术的对话状态跟踪系统的一实施例的示意图；图3为本专利技术的对话状态跟踪系统与TRADE在MultiWoz2.1的测试集上关于特定槽精度的对比示意图；图4为本专利技术中的对话状态跟踪系统使用不同数量的记忆跃点的具有和不具有门的联合精度对比示意图；图5为本专利技术中来自与<hotel-bookstay>相关的不同跃点的注意力得分；图6为本专利技术的电子设备的一实施例的结构示意图。具体实施方式为使本专利技术实施例的目的、技术方案和优点更加清楚，下面将结合本专利技术实施例中的附图，对本专利技术实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本专利技术一部分实施例，而不是全部的实施例。基于本专利技术中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本专利技术保护的范围。需要说明的是，在不冲突的情况下，本申请中的实施例及实施例中的特征可以相互组合。本专利技术可以在由计算机执行的计算机可执行指令的一般上下文中描述，例如程序模块。一般地，程序模块包括执行特定任务或实现特定抽象数据类型的例程、程序、对象、元件、数据结构等等。也可以在分布式计算环境中实践本专利技术，在这些分布式计算环境中，由通过通信网络而被连接的远程处理设备来执行任务。在分布式计算环境中，程序模块可以位于包括存储设备在内的本地和远程计算机存储介质中。在本专利技术中，“模块”、“装置”、“系统”等指应用于计算机的相关实体，如硬件、硬件和软件的组合、软件或执行中的软件等。详细地说，例如，元件可以、但不限于是运行于处理器的过程、处理器、对象、可执行元件、执行线程、程序和/或计算机。还有，运行于服务器上的应用程序或脚本程序、服务器都可以是元件。一个或多个元件可在执行的过程和/或线程中，并且元件可以在一台计算机上本地化和/或分布在两台或多台计算机之间，并可以由各种计算机可读介质运行。元件还可以根据具有一个或多个数据包的信号，例如，来自一个与本地系统、分布式系统中另一元件交互的，和/或在因特网的网络通过信号与其它系统交互的数据的信号通过本地和/或远程过程来进行通信。最后，还需要说明的是，在本文中，诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来，而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且，术语“包括”、“包含”，不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括……”限定的要素，并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。如图1所示，本专利技术的实施例提供一种对话状态跟踪方法，应用于对话状态跟踪系统，所述对话状态跟踪系统包括输入编码模块，上下文感知槽嵌入模块，多跃点门控记忆网络和槽门分类器，所述方法包括：S10本文档来自技高网...

【技术保护点】
1.一种对话状态跟踪方法，应用于对话状态跟踪系统，所述对话状态跟踪系统包括输入编码模块，上下文感知槽嵌入模块，多跃点门控记忆网络和槽门分类器，所述方法包括：/n所述输入编码模块将历史对话状态、当前对话语句作为输入，并输出所述输入中的每个字符的表示；/n所述上下文感知槽嵌入模块根据当前对话语句所对应的当前领域和当前槽确定上下文感知槽表示；/n所述多跃点门控记忆网络根据所述上下文感知槽表示查找相关值；/n所述槽门分类器确定所述相关值的类别。/n

【技术特征摘要】
1.一种对话状态跟踪方法，应用于对话状态跟踪系统，所述对话状态跟踪系统包括输入编码模块，上下文感知槽嵌入模块，多跃点门控记忆网络和槽门分类器，所述方法包括：
所述输入编码模块将历史对话状态、当前对话语句作为输入，并输出所述输入中的每个字符的表示；
所述上下文感知槽嵌入模块根据当前对话语句所对应的当前领域和当前槽确定上下文感知槽表示；
所述多跃点门控记忆网络根据所述上下文感知槽表示查找相关值；
所述槽门分类器确定所述相关值的类别。


2.根据权利要求1所述的方法，其中，所述当前对话语句包括响应于所述历史对话状态的响应语句和用户所说的新的对话语句。


3.根据权利要求2所述的方法，其中，所述输入编码模块将历史对话状态St-1、当前对话语句作为输入，并输出所述输入中的每个字符的表示包括：
预先根据所述历史对话状态生成历史对话序列；
将所述历史对话序列、响应语句和新的对话语句构成联合输入序列输入至所述输入编码模块；
所述输入编码模块输出所述联合输入中的每个字符的表示。


4.根据权利要求3所述的方法，其中，所述输入编码模块采用预训练BERT模块；
所述上下文感知槽嵌入模块根据当前对话语句所对应的当前领域和当前槽确定上下文感知槽表示通过以下公式实现：






其中，cj为上下文感知槽表示，Watt∈Rd×d和batt∈Rd是可训练的参数，d是向量的维数，sj是对应于第一预定字符的向量表示，hk是所述联合输入序列中第k个字符的向量表示，N是所述联合输入序列中字符的数量。


...

【专利技术属性】
技术研发人员：俞凯，徐子涵，陈志，陈露，朱苏，
申请(专利权)人：苏州思必驰信息科技有限公司，
类型：发明
国别省市：江苏;32