问题生成方法技术

本发明专利技术公开一种问题生成方法，包括：对阅读理解数据集中的阅读理解数据进行预处理；将问题生成数据输入至编码器，并获取编码器隐层状态；将相应于所述问题生成数据的问题输入至解码器，并获取解码器隐层状态；基于所述编码器隐层状态和所述解码器隐层状态确定预设词典中的词的生成概率；根据当前时刻的上下文向量、解码器隐层状态和解码器输入确定当前时刻的词生成概率；根据所述词的生成概率和所述当前时刻的词生成概率确定词的概率分布。本发明专利技术解决了现有技术中依赖于一个固定的词典，不能生成不在词典中的词，导致生成的问题不流畅的问题。

【技术实现步骤摘要】
问题生成方法
本专利技术涉及人工智能
，尤其涉及一种问题生成方法。
技术介绍
问题生成在人类智能的发展和人工智能系统的发展中都起着重要作用。在许多应用领域中，对问题生成的需求正在迅速增长。问题生成系统旨在根据给定的文本生成各种问题。在教育领域，提出好的问题对于评估学生知识和激励自我学习至关重要；在对话系统中，问题生成是机器人的很重要的一项技能，比如可以帮助机器人冷启动或者得到用户的信息从而进行更好的沟通；在阅读理解中，问题生成可以帮助人们自动生成问题，从而节省大量人力物力财力去标注数据。现有的问题生成任务的研究方法主要分为两类：基于规则的与基于神经网络的方法。基于规则的问题生成方法，需要大量的人力创建规则，生成的问题也具有固定形式，并且无法避免规则中的错误。与基于规则的方法比较而言，基于神经网络的问题生成方法更多的是数据驱动、支持端到端训练的形式，不依赖手工编写的规则。但是目前基于神经网络方法不能很好的处理未登录词(OOV)和词重复生成的现象。
技术实现思路
本专利技术实施例提供一种问题生成方法，至少解决上述技术问题之一。第一方面，本专利技术实施例提供一种问题生成方法，包括：对阅读理解数据集中的阅读理解数据进行预处理，以得到多条问题生成数据；将问题生成数据输入至编码器，并获取编码器隐层状态；将相应于所述问题生成数据的问题输入至解码器，并获取解码器隐层状态；基于所述编码器隐层状态和所述解码器隐层状态确定预设词典中的词的生成概率；根据当前时刻的上下文向量、解码器隐层状态和解码器输入确定当前时刻的词生成概率；根据所述词的生成概率和所述当前时刻的词生成概率确定词的概率分布，用于问题生成。第二方面，本专利技术实施例提供一种存储介质，所述存储介质中存储有一个或多个包括执行指令的程序，所述执行指令能够被电子设备(包括但不限于计算机，服务器，或者网络设备等)读取并执行，以用于执行本专利技术上述任一项问题生成方法。第三方面，提供一种电子设备，其包括：至少一个处理器，以及与所述至少一个处理器通信连接的存储器，其中，所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行本专利技术上述任一项问题生成方法。第四方面，本专利技术实施例还提供一种计算机程序产品，所述计算机程序产品包括存储在存储介质上的计算机程序，所述计算机程序包括程序指令，当所述程序指令被计算机执行时，使所述计算机执行上述任一项问题生成方法。本专利技术实施例的有益效果在于：通过根据当前时刻的上下文向量、解码器隐层状态和解码器输入确定当前时刻的词生成概率，从而既能从固定的词典中生成词，又能从编码器端拷贝词，解决了现有技术中依赖于一个固定的词典，不能生成不在词典中的词，导致生成的问题不流畅的问题。附图说明为了更清楚地说明本专利技术实施例的技术方案，下面将对实施例描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图是本专利技术的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。图1为本专利技术的问题生成方法的一实施例的流程图；图2为本专利技术的问题生成方法的另一实施例的流程图；图3为本专利技术的问题生成方法的又一实施例的流程图；图4为实施本专利技术的问题生成方法的一问题生成网络结构的示意图；图5为本专利技术的电子设备的一实施例的结构示意图。具体实施方式为使本专利技术实施例的目的、技术方案和优点更加清楚，下面将结合本专利技术实施例中的附图，对本专利技术实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本专利技术一部分实施例，而不是全部的实施例。基于本专利技术中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本专利技术保护的范围。需要说明的是，在不冲突的情况下，本申请中的实施例及实施例中的特征可以相互组合。本专利技术可以在由计算机执行的计算机可执行指令的一般上下文中描述，例如程序模块。一般地，程序模块包括执行特定任务或实现特定抽象数据类型的例程、程序、对象、元件、数据结构等等。也可以在分布式计算环境中实践本专利技术，在这些分布式计算环境中，由通过通信网络而被连接的远程处理设备来执行任务。在分布式计算环境中，程序模块可以位于包括存储设备在内的本地和远程计算机存储介质中。在本专利技术中，“模块”、“装置”、“系统”等指应用于计算机的相关实体，如硬件、硬件和软件的组合、软件或执行中的软件等。详细地说，例如，元件可以、但不限于是运行于处理器的过程、处理器、对象、可执行元件、执行线程、程序和/或计算机。还有，运行于服务器上的应用程序或脚本程序、服务器都可以是元件。一个或多个元件可在执行的过程和/或线程中，并且元件可以在一台计算机上本地化和/或分布在两台或多台计算机之间，并可以由各种计算机可读介质运行。元件还可以根据具有一个或多个数据包的信号，例如，来自一个与本地系统、分布式系统中另一元件交互的，和/或在因特网的网络通过信号与其它系统交互的数据的信号通过本地和/或远程过程来进行通信。最后，还需要说明的是，在本文中，诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来，而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且，术语“包括”、“包含”，不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括……”限定的要素，并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。如图1所示，本专利技术的实施例提供一种问题生成方法，包括：S10、对阅读理解数据集中的阅读理解数据进行预处理，以得到多条问题生成数据；S20、将问题生成数据输入至编码器，并获取编码器隐层状态；S30、将相应于所述问题生成数据的问题输入至解码器，并获取解码器隐层状态；S40、基于所述编码器隐层状态和所述解码器隐层状态确定预设词典中的词的生成概率；S50、根据当前时刻的上下文向量、解码器隐层状态和解码器输入确定当前时刻的词生成概率。示例性地，当前时刻的词生成概率由以下公式确定：其中，wh*，ws，wy和标量bptr是可学习参数，δ是sigmoid函数。S60、根据所述词的生成概率和所述当前时刻的词生成概率确定词的概率分布，用于问题生成。示例性地，词的概率分布由以下公式确定：其中，当w是一个未登陆词时，Pvacab(w)为0；当w没有出现在输入文本中时，那么为0。本专利技术实施例中通过根据当前时刻的上下文向量、解码器隐层状态和解码器输入确定当前时刻的词生成概率，从而既能从固定的词典中生成词，又能从编码器端拷贝词，解决了现有技术中依赖于一个固定的词典，不能生成不在词典中的词，导致生成的问题不流畅的问题如图2所示，为本文档来自技高网...

【技术保护点】
1.一种问题生成方法，包括：/n对阅读理解数据集中的阅读理解数据进行预处理，以得到多条问题生成数据；/n将问题生成数据输入至编码器，并获取编码器隐层状态；/n将相应于所述问题生成数据的问题输入至解码器，并获取解码器隐层状态；/n基于所述编码器隐层状态和所述解码器隐层状态确定预设词典中的词的生成概率；/n根据当前时刻的上下文向量、解码器隐层状态和解码器输入确定当前时刻的词生成概率；/n根据所述词的生成概率和所述当前时刻的词生成概率确定词的概率分布，用于问题生成。/n

【技术特征摘要】
1.一种问题生成方法，包括：
对阅读理解数据集中的阅读理解数据进行预处理，以得到多条问题生成数据；
将问题生成数据输入至编码器，并获取编码器隐层状态；
将相应于所述问题生成数据的问题输入至解码器，并获取解码器隐层状态；
基于所述编码器隐层状态和所述解码器隐层状态确定预设词典中的词的生成概率；
根据当前时刻的上下文向量、解码器隐层状态和解码器输入确定当前时刻的词生成概率；
根据所述词的生成概率和所述当前时刻的词生成概率确定词的概率分布，用于问题生成。


2.根据权利要求1所述的方法，其中，所述基于所述编码器隐层状态和所述解码器隐层状态确定预设词典中的词的生成概率包括：
根据所述编码器隐层状态和所述解码器隐层状态计算第一关联向量；
对所述第一关联向量进行softmax操作并归一化处理得到第一注意力分布；
根据所述第一注意力分布确定当前时刻的上下文向量；
根据所述当前时刻的上下文向量和所述解码器隐层状态确定预设词典中的词的生成概率。


3.根据权利要求2所述的方法，其中，所述当前时刻的词生成概率由以下公式确定：



其中，wh*，ws，wy和标量bptr是可学习参数，δ是sigmoid函数。


4.根据权利要求3所述的方法，其中，所述词的概率分布由以下公式确定：



其中，当w是一个未登陆词时，Pvacab(w)为0；当w没有出现在输入文本中时，那么为0。


5.根据权利要求1所述的方法，其中，所述基于所述编码器隐层状态和所述解码器隐层状态确定预设词典中的词的生成概率包括：
根据所述编码器隐层状态和所述解码器隐层状态计算第一关联向量；
对所述第一关联向量进行softmax操作并归一化处理得到第一注意力分布；
对当前时刻之前的多个第一注意力分布求和；
根据求和结果所述编码器隐层状态和所述解码器隐层状态计算第二关联向量；
对所述第二关联向量进行归一化得到第二注意力分布；
根据所述第二注意力分布确定当前时刻的第二上下文向量；
...

【专利技术属性】
技术研发人员：朱少华，缪庆亮，俞凯，
申请(专利权)人：苏州思必驰信息科技有限公司，
类型：发明
国别省市：江苏;32