文本扩写方法、装置、电子设备和存储介质制造方法及图纸

本公开提供一种文本扩写方法、装置、电子设备和存储介质，所述方法包括：根据获取的共指实体集合获取第一实体对应的第一共指实体组，其中，所述第一实体为待扩写文本中的实体，所述第一共指实体组包括第一实体以及所述第一实体的共指实体；根据所述待扩写文本和所述第一共指实体组获取待扩写修改文本；根据所述待扩写修改文本和文本扩写模型的模型参数获取生成概率、复制概率和生成权重；根据所述生成概率、所述复制概率和所述生成权重获取解码概率，以得到所述待扩写文本的扩写结果，其中，所述第一实体对应的生成概率被设置为0。本公开的技术方案可以提高文本扩写的忠实度。开的技术方案可以提高文本扩写的忠实度。开的技术方案可以提高文本扩写的忠实度。

【技术实现步骤摘要】
文本扩写方法、装置、电子设备和存储介质


[0001]本公开涉及计算机
，尤其涉及一种文本扩写方法、装置、电子设备和非暂态计算机可读存储介质。

技术介绍

[0002]文本扩写技术是机器根据一段输入文本自动生成一段合法且与输入文本语义一致的文本的技术。通过文本扩写技术，可以扩充自动问答语料库，提高对话机器人的效果。
[0003]文本扩写的基本要求是扩写得到的文本不能和原始的输入文本的语义发生偏差。当前文本扩写使用的文本扩写方案通常很难保证扩写得到的文本和原始文本的语义保持一致，从而文本扩写的忠实度较低。
[0004]如何提高文本扩写的忠实度是当前亟需解决的技术问题。

技术实现思路

[0005]本公开提供一种文本扩写方法、装置、电子设备和非暂态计算机可读存储介质，用以解决扩写得到的文本与原始文本的语义不一致的问题，提高文本扩写的忠实度。
[0006]本公开提供一种文本扩写方法，包括：根据获取的共指实体集合获取第一实体对应的第一共指实体组，其中，所述第一实体为待扩写文本中的实体，所述第一共指实体组包括第一实体以及所述第一实体的共指实体；根据所述待扩写文本和所述第一共指实体组获取待扩写修改文本；根据所述待扩写修改文本和文本扩写模型的模型参数获取生成概率、复制概率和生成权重，其中，所述生成权重为获取解码概率时所述生成概率对应的权重，获取所述解码概率时所述复制概率对应的权重与所述生成权重的和为1；根据所述生成概率、所述复制概率和所述生成权重获取所述解码概率，以得到所述待扩写文本的扩写结果，其中，所述第一实体对应的生成概率被设置为0。
[0007]根据本公开提供的一种文本扩写方法，所述文本扩写模型的训练方法包括：获取第一样本扩写文本数据集，所述第一样本扩写文本数据集中的第一样本扩写文本数据包括作为输入文本的样本修改文本和对应的输出文本，所述样本修改文本根据历史扩写文本及其实体对应的共指实体组得到；采用所述第一样本扩写文本数据集对所述文本扩写模型进行训练，直到所述文本扩写模型收敛，得到所述文本扩写模型的模型参数，其中，所述文本扩写模型的模型参数包括生成概率参数和激活函数参数组。
[0008]根据本公开提供的一种文本扩写方法，所述文本扩写模型包括以下任一种模型：卷积神经网络CNN，循环神经网络RNN和Transformer。
[0009]根据本公开提供的一种文本扩写方法，所述根据获取的共指实体集合获取第一实体对应的第一共指实体组之前，所述方法还包括：获取所述共指实体集合；对所述待扩写文本进行实体识别，得到所述第一实体；根据所述第一实体在所述共指实体集合中匹配得到所述第一共指实体组。
[0010]根据本公开提供的一种文本扩写方法，所述获取所述共指实体集合之前，所述方
法还包括：获取第二样本扩写文本数据集，所述第二样本扩写文本数据集中的第二样本扩写文本数据包括历史扩写文本中的输入文本和对应的输出文本；获取各个第二样本扩写文本数据中的实体的共现频率；根据所述共现频率和频率阈值获取共指实体组，组成所述共指实体集合。
[0011]根据本公开提供的一种文本扩写方法，所述根据所述待扩写文本和所述第一共指实体组获取待扩写修改文本，包括：将所述第一共指实体组中的全部实体插入到所述待扩写文本中替换所述第一实体，形成所述待扩写修改文本。
[0012]根据本公开提供的一种文本扩写方法，所述根据所述待扩写修改文本和文本扩写模型的模型参数获取生成概率、复制概率和生成权重，包括；采用所述文本扩写模型对所述待扩写修改文本进行编码并基于编码结果得到解码数据，所述解码数据包括解码器隐藏序列、上下文向量和注意力向量；根据注意力向量获取所述复制概率；根据所述解码器隐藏序列、所述上下文向量和所述生成概率参数获取所述生成概率；根据所述解码器隐藏序列、所述上下文向量、所述待扩写修改文本的词向量和所述激活函数参数组获取所述生成权重。
[0013]根据本公开提供的一种文本扩写方法，根据以下公式获取所述解码概率：
[0014]P(w)＝p
gen
*P
vocab
(w)+(1
‑
p
gen
)*P
copy
(w)
[0015]其中，P(w)为解码概率，P
vocab
(w)为生成概率，P
cop
(w)为复制概率，p
gen
为生成权重，生成概率的计算公式为P
vocab
(w)＝softmax(W
b
s
t
+V
b
c
t
)，复制概率的计算公式为：生成权重的计算公式为其中，W
b和
V
b
是生成概率参数，激活函数参数组包括向量w
c
,w
s
,w
x
和标量b
c
，c
t
为解码器隐藏序列，s
t
为上下文向量，x
t
为词向量，为注意力向量。
[0016]本公开还提供一种文本扩写装置，包括：第一获取单元，用于根据获取的共指实体集合获取第一实体对应的第一共指实体组，其中，所述第一实体为待扩写文本中的实体，所述第一共指实体组包括第一实体以及所述第一实体的共指实体；第二获取单元，用于根据所述待扩写文本和所述第一共指实体组获取待扩写修改文本；第三获取单元，用于根据所述待扩写修改文本和文本扩写模型的模型参数获取生成概率、复制概率和生成权重，其中，所述生成权重为获取解码概率时所述生成概率对应的权重，获取所述解码概率时所述复制概率对应的权重与所述生成权重的和为1；解码单元，用于根据所述生成概率、所述复制概率和所述生成权重获取所述解码概率，以得到所述待扩写文本的扩写结果，其中，所述第一实体对应的生成概率被设置为0。
[0017]根据本公开提供的一种文本扩写装置，所述装置还包括训练单元，用于训练所述文本扩写模型，所述训练单元包括：获取子单元，用于获取第一样本扩写文本数据集，所述第一样本扩写文本数据集中的第一样本扩写文本数据包括作为输入文本的样本修改文本和对应的输出文本，所述样本修改文本根据历史扩写文本及其实体对应的共指实体组得到；训练子单元，用于采用所述第一样本扩写文本数据集对所述文本扩写模型进行训练，直到所述文本扩写模型收敛，得到所述文本扩写模型的模型参数，其中，所述文本扩写模型的模型参数包括生成概率参数和激活函数参数组。
[0018]根据本公开提供的一种文本扩写装置，所述装置还包括匹配单元，用于：获取所述共指实体集合，对所述待扩写文本进行实体识别，得到所述第一实体，根据所述第一实体在
所述共指实体集合中匹配得到所述第一共指实体组。
[0019]根据本公开提供的一种文本扩写装置，所述装置还包括挖掘单元，用于：获取第二样本扩写文本数据集，获取各个第二样本扩写文本数据中的实体的共现频率，根据所述共现频率和频率本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种文本扩写方法，其特征在于，所述方法包括：根据获取的共指实体集合获取第一实体对应的第一共指实体组，其中，所述第一实体为待扩写文本中的实体，所述第一共指实体组包括第一实体以及所述第一实体的共指实体；根据所述待扩写文本和所述第一共指实体组获取待扩写修改文本；根据所述待扩写修改文本和文本扩写模型的模型参数获取生成概率、复制概率和生成权重，其中，所述生成权重为获取解码概率时所述生成概率对应的权重，获取所述解码概率时所述复制概率对应的权重与所述生成权重的和为1；根据所述生成概率、所述复制概率和所述生成权重获取所述解码概率，以得到所述待扩写文本的扩写结果，其中，所述第一实体对应的生成概率被设置为0。2.根据权利要求1所述的方法，其特征在于，所述文本扩写模型的训练方法包括：获取第一样本扩写文本数据集，所述第一样本扩写文本数据集中的第一样本扩写文本数据包括作为输入文本的样本修改文本和对应的输出文本，所述样本修改文本根据历史扩写文本及其实体对应的共指实体组得到；采用所述第一样本扩写文本数据集对所述文本扩写模型进行训练，直到所述文本扩写模型收敛，得到所述文本扩写模型的模型参数，其中，所述文本扩写模型的模型参数包括生成概率参数和激活函数参数组。3.根据权利要求1所述的方法，其特征在于，所述文本扩写模型包括以下任一种模型：卷积神经网络CNN，循环神经网络RNN和Transformer。4.根据权利要求1所述的方法，其特征在于，所述根据获取的共指实体集合获取第一实体对应的第一共指实体组之前，所述方法还包括：获取所述共指实体集合；对所述待扩写文本进行实体识别，得到所述第一实体；根据所述第一实体在所述共指实体集合中匹配得到所述第一共指实体组。5.根据权利要求4所述的方法，其特征在于，所述获取所述共指实体集合之前，所述方法还包括：获取第二样本扩写文本数据集，所述第二样本扩写文本数据集中的第二样本扩写文本数据包括历史扩写文本中的输入文本和对应的输出文本；获取各个第二样本扩写文本数据中的实体的共现频率；根据所述共现频率和频率阈值获取共指实体组，组成所述共指实体集合。6.根据权利要求1所述的方法，其特征在于，所述根据所述待扩写文本和所述第一共指实体组获取待扩写修改文本，包括：将所述第一共指实体组中的全部实体插入到所述待扩写文本中替换所述第一实体，形成所述待扩写修改文本。7.根据权利要求2所述的方法，其特征在于，所述根据所述待扩写修改文本和文本扩写模型的模型参数获取生成概率、复制概率和生成权重，包括；采用所述文本扩写模型对所述待扩写修改文本进行编码并基于编码结果得到解码数据，所述解码数据包括解码器隐藏序列、上下文向量和注意力向量；根据注意力向量获取所述复制概率；根据所述解码器隐藏序列、所述上下文向量和所述生成概率参数获取所述生成概率；
根据所述解码器隐藏序列、所述上下文向量、所述待扩写修改文本的词向量和所述激活函数参数组获取所述生成权重。8.根据权利要求7所述的方法，其特征在于，根据以下公式获取所述解码概率：P(w)＝p
...

【专利技术属性】
技术研发人员：李浩然，
申请(专利权)人：北京京东尚科信息技术有限公司，
类型：发明
国别省市：