问题语句的改写方法、装置、设备和存储介质制造方法及图纸

本申请涉及一种问题语句的改写方法、装置、设备和存储介质，该方法包括：分别对问题语句和历史语句进行双向编码，得到问题语句和历史语句中各单词的编码表示；基于长短期记忆网络和指针网络，根据编码表示确定当前时间步各单词的复制概率；根据复制概率确定当前时间步需要进行复制的目标单词；将下一时间步确定为当前时间步；继续执行基于长短期记忆网络和指针网络，根据编码表示确定当前时间步各单词的复制概率的步骤；直到确定完所有时间步需要进行复制的目标单词时，得到携带有关键历史信息的改写后的问题语句。采用本申请的方案，使基于问题语句得到的预测答案准确率更高。

Rewriting Method, Device, Equipment and Storage Medium of Question Statement

【技术实现步骤摘要】
问题语句的改写方法、装置、设备和存储介质
本申请涉及计算机
，特别是涉及一种问题语句的改写方法、装置、设备和存储介质。
技术介绍
随着计算机技术的发展，出现了自然语言处理(NaturalLanguageProcessing，NLP)技术。自然语言处理(NLP)技术实现了人们长期以来所追求的“用自然语言与计算机进行通信”，例如通过训练好的模型实现人机对话、智能语言翻译和对话阅读理解等等。但是，在问题语句不完整的情况下，传统的自然语言处理技术一般是通过已训练的问题改写模型对问题语句进行改写，得到较完整的问题语句。而在传统的自然语言处理技术中，问题改写模型通常是基于人工标注的问题标签进行监督训练得到的。由于人工标注的问题标签存在错误性、少量性等问题，使得问题改写模型输出的改写后的问题语句的准确率低。
技术实现思路
基于此，有必要针对上述技术问题，提供一种能够提高问题改写模型的改写准确率的问题改写模型的优化方法、装置、计算机可读存储介质和计算机设备，以及一种问题语句的改写方法、装置、计算机可读存储介质和计算机设备。一种问题改写模型的优化方法，包括：将训练数据输入问题改写模型；所述训练数据包括问题语句和历史语句；通过所述问题改写模型根据所述历史语句对所述问题语句进行改写，得到携带有关键历史信息的改写后的问题语句；将所述改写后的问题语句输入答案预测模型，得到所述改写后的问题语句的预测答案；根据所述预测答案和标准答案确定奖赏值，并基于所述奖赏值对所述问题改写模型进行优化；继续执行将训练数据输入问题改写模型的步骤；直到所述奖赏值符合收敛条件。一种问题改写模型的优化装置，所述装置包括：训练数据输入模块，用于将训练数据输入问题改写模型；所述训练数据包括问题语句和历史语句；问题语句改写模块，用于通过所述问题改写模型根据所述历史语句对所述问题语句进行改写，得到携带有关键历史信息的改写后的问题语句；预测答案获取模块，用于将所述改写后的问题语句输入答案预测模型，得到所述改写后的问题语句的预测答案；模型优化模块，用于根据所述预测答案和标准答案确定奖赏值，并基于所述奖赏值对所述问题改写模型进行优化；所述训练数据输入模块还用于继续执行将训练数据输入问题改写模型的步骤；直到所述奖赏值符合收敛条件。一种计算机可读存储介质，存储有计算机程序，所述计算机程序被处理器执行时，使得所述处理器执行如下步骤：将训练数据输入问题改写模型；所述训练数据包括问题语句和历史语句；通过所述问题改写模型根据所述历史语句对所述问题语句进行改写，得到携带有关键历史信息的改写后的问题语句；将所述改写后的问题语句输入答案预测模型，得到所述改写后的问题语句的预测答案；根据所述预测答案和标准答案确定奖赏值，并基于所述奖赏值对所述问题改写模型进行优化；继续执行将训练数据输入问题改写模型的步骤；直到所述奖赏值符合收敛条件。一种计算机设备，包括存储器和处理器，所述存储器存储有计算机程序，所述计算机程序被所述处理器执行时，使得所述处理器执行如下步骤：将训练数据输入问题改写模型；所述训练数据包括问题语句和历史语句；通过所述问题改写模型根据所述历史语句对所述问题语句进行改写，得到携带有关键历史信息的改写后的问题语句；将所述改写后的问题语句输入答案预测模型，得到所述改写后的问题语句的预测答案；根据所述预测答案和标准答案确定奖赏值，并基于所述奖赏值对所述问题改写模型进行优化；继续执行将训练数据输入问题改写模型的步骤；直到所述奖赏值符合收敛条件。上述问题改写模型的优化方法、装置、计算机可读存储介质和计算机设备，通过问题改写模型根据历史语句对问题语句进行改写，得到携带有关键历史信息的改写后的问题语句，使得改写后的问题语句的语义更加完整，成为不再依附于历史语句的独立句子。这样答案预测模型根据语义完整的改写后的问题语句可以得到准确率高的预测答案。根据预测答案与标准答案得到奖赏值，并基于奖赏值对问题改写模型进行优化，这样便可以提高问题改写模型后续生成的改写后的问题语句的准确率。继续执行将训练数据输入问题改写模型的步骤，直到奖赏值符合收敛条件时才完成训练。经过多次优化，使得最终优化得到的问题改写模型输出的改写后的问题语句的准确率高。一种问题语句的改写方法，包括：分别对问题语句和历史语句进行双向编码，得到所述问题语句和所述历史语句中各单词的编码表示；基于长短期记忆网络和指针网络，根据所述编码表示确定当前时间步各单词的复制概率；所述各单词的复制概率，是对相应的单词进行复制以得到改写后的问题语句的概率；根据所述复制概率确定当前时间步需要进行复制的目标单词；将下一时间步确定为当前时间步；继续执行基于长短期记忆网络和指针网络，根据所述编码表示确定当前时间步各单词的复制概率的步骤；直到确定完所有时间步需要进行复制的目标单词时，得到携带有关键历史信息的改写后的问题语句。一种问题语句的改写装置，所述装置包括：编码模块，用于分别对问题语句和历史语句进行双向编码，得到所述问题语句和所述历史语句中各单词的编码表示；复制概率确定模块，用于基于长短期记忆网络和指针网络，根据所述编码表示确定当前时间步各单词的复制概率；所述各单词的复制概率，是对相应的单词进行复制以得到改写后的问题语句的概率；目标单词确定模块，用于根据所述复制概率确定当前时间步需要进行复制的目标单词；时间步确定模块，用于将下一时间步确定为当前时间步；复制概率确定模块还用于继续执行基于长短期记忆网络和指针网络，根据所述编码表示确定当前时间步各单词的复制概率的步骤；直到确定完所有时间步需要进行复制的目标单词时，得到携带有关键历史信息的改写后的问题语句。一种计算机可读存储介质，存储有计算机程序，所述计算机程序被处理器执行时，使得所述处理器执行如下步骤：分别对问题语句和历史语句进行双向编码，得到所述问题语句和所述历史语句中各单词的编码表示；基于长短期记忆网络和指针网络，根据所述编码表示确定当前时间步各单词的复制概率；所述各单词的复制概率，是对相应的单词进行复制以得到改写后的问题语句的概率；根据所述复制概率确定当前时间步需要进行复制的目标单词；将下一时间步确定为当前时间步；继续执行基于长短期记忆网络和指针网络，根据所述编码表示确定当前时间步各单词的复制概率的步骤；直到确定完所有时间步需要进行复制的目标单词时，得到携带有关键历史信息的改写后的问题语句。一种计算机设备，包括存储器和处理器，所述存储器存储有计算机程序，所述计算机程序被所述处理器执行时，使得所述处理器执行如下步骤：分别对问题语句和历史语句进行双向编码，得到所述问题语句和所述历史语句中各单词的编码表示；基于长短期记忆网络和指针网络，根据所述编码表示确定当前时间步各单词的复制概率；所述各单词的复制概率，是对相应的单词进行复制以得到改写后的问题语句的概率；根据所述复制概率确定当前时间步需要进行复制的目标单词；将下一时间步确定为当前时间步；继续执行基于长短期记忆网络和指针网络，根据所述编码表示确定当前时间步各单词的复制概率的步骤；直到确定完所有时间步需要进行复制的目标单词时，得到携带有关键历史信息的改写后的问题语句。上述问题语句的改写方法、装置、计算机可读存储介质和计算机设备，对问题语句和历史语句进行双向编本文档来自技高网...

【技术保护点】
1.一种问题语句的改写方法，包括：分别对问题语句和历史语句进行双向编码，得到所述问题语句和所述历史语句中各单词的编码表示；基于长短期记忆网络和指针网络，根据所述编码表示确定当前时间步各单词的复制概率；所述各单词的复制概率，是对相应的单词进行复制以得到改写后的问题语句的概率；根据所述复制概率确定当前时间步需要进行复制的目标单词；将下一时间步确定为当前时间步；继续执行基于长短期记忆网络和指针网络，根据所述编码表示确定当前时间步各单词的复制概率的步骤；直到确定完所有时间步需要进行复制的目标单词时，得到携带有关键历史信息的改写后的问题语句。

【技术特征摘要】
1.一种问题语句的改写方法，包括：分别对问题语句和历史语句进行双向编码，得到所述问题语句和所述历史语句中各单词的编码表示；基于长短期记忆网络和指针网络，根据所述编码表示确定当前时间步各单词的复制概率；所述各单词的复制概率，是对相应的单词进行复制以得到改写后的问题语句的概率；根据所述复制概率确定当前时间步需要进行复制的目标单词；将下一时间步确定为当前时间步；继续执行基于长短期记忆网络和指针网络，根据所述编码表示确定当前时间步各单词的复制概率的步骤；直到确定完所有时间步需要进行复制的目标单词时，得到携带有关键历史信息的改写后的问题语句。2.根据权利要求1中所述的方法，其特征在于，所述基于长短期记忆网络和指针网络，根据所述编码表示确定当前时间步各单词的复制概率包括：基于长短期记忆网络，根据所述编码表示分别确定当前时间步从所述问题语句和所述历史语句中复制内容的第一复制概率；将当前时间步的隐式状态和所述编码表示输入指针网络，得到当前时间步各单词在所属语句中的第二复制概率；基于所述第一复制概率和所述第二复制概率确定各单词的复制概率。3.根据权利要求2中所述的方法，其特征在于，所述基于长短期记忆网络，根据所述编码表示分别确定当前时间步从所述问题语句和所述历史语句中复制内容的第一复制概率包括：将上一时间步的历史隐式状态、历史上下文向量和历史目标单词输入长短时记忆网络，得到当前时间步的隐式状态；根据所述隐式状态和所述编码表示并基于注意力机制，确定当前时间步的上下文向量；根据所述隐式状态、上下文向量和历史目标单词，分别确定当前时间步从所述问题语句和所述历史语句中复制内容的第一复制概率。4.根据权利要求1-3任一项所述的方法，所述方法还包括：发送所述改写后的问题语句至答案预测模型，得到所述改写后的问题语句的预测答案；基于根据所述预测答案和标准答案确定的奖赏值对改写策略进行优化。5.一种问题改写模型的优化方法，包括：将训练数据输入问题改写模型；所述训练数据包括问题语句和历史语句；通过所述问题改写模型根据所述历史语句对所述问题语句进行改写，得到携带有关键历史信息的改写后的问题语句；将所述改写后的问题语句输入答案预测模型，得到所述改写后的问题语句的预测答案；根据所述预测答案和标准答案确定奖赏值，并基于所述奖赏值对所述问题改写模型进行优化；继续执行将训练数据输入问题改写模型的步骤；直到所述奖赏值符合收敛条件。6.根据权利要求5所述的方法，其特征在于，所述通过所述问题改写模型根据所述历史语句对所述问题语句进行改写，得到携带有关键历史信息的改写后的问题语句包括：通过所述问题改写模型分别对所述问题语句和所述历史语句进行双向编码，得到所述问题语句和所述历史语句中各单词的编码表示；通过所述问题改写模型的长短期记忆网络和指针网络，根据所述编码表示确定当前时间步各单词的复制概率；所述各单词的复制概率，是对相应的单词进行复制以得到改写后的问题语句的概率；通过所述问题改写模型根据所述复制概率确定当前时间步需要进行复制的目标单词；将下一时间步确定为当前时间步；继续执行通过所述问题改写模型的长短期记忆网络和指针网络，根据所述编码表示确定当前时间步各单词的复制概率的步骤；直到确定完所有时间步需要进行复制的目标单词时，得到携带有关键历史信息的改写后的问题语句。7.根据权利要求6所述的方法，其特征在于，所述通过所述问题改写模型的长短期记忆网络和指针网络，根据所述编码表示确定当前时间步各单词的复制概率包括：通过所述问题改写模型的长短期记忆网络，根据所述编码表示分别确定当前时间步从所述问题语句和所述历史语句中复制内容的第一复制概率；通过所述问题改写模型将当前时间步的隐式状态和所述编码表示输入所述问题改写模型的指针网络，得到当前时间步各单词在所属语句中的第二复制概率；通过所述问题改写模型基于所述第一复制概率和所述第二复制概率，确定各单词的复制概率。8.根据权利要求7所述的方法，其特征在...

【专利技术属性】
技术研发人员：李倩，苏辉，牛成，
申请(专利权)人：腾讯科技深圳有限公司，
类型：发明
国别省市：广东,44