文本生成方法、装置、计算机设备及存储介质制造方法及图纸

本申请实施例提供了一种文本生成方法、装置、计算机设备及计算机可读存储介质，属于文本生成技术领域。本申请实施例在实现文本生成时，通过获取进行文本生成的初始文本和预设预测词汇，将初始文本和预设预测词汇分别进行词嵌入以将初始文本转化为第一词向量和将预设预测词汇转化为第二词向量，将第一词向量和第二词向量分别通过对应的卷积神经网络获得第一词向量的第一注意力矩阵和第二词向量的第二注意力矩阵，将第一注意力矩阵和第二注意力矩阵相乘以得到第三注意力矩阵，将第三注意力矩阵经归一化后与预设预测词汇进行匹配以生成预测文本，本申请实施例中由于卷积神经网络的并行计算特性，建立的文本生成模型具有较高的训练效率。

【技术实现步骤摘要】
文本生成方法、装置、计算机设备及存储介质
本申请涉及文本生成
，尤其涉及一种文本生成方法、装置、计算机设备及计算机可读存储介质。
技术介绍
文本生成是指在给定语言模型参数和文本片段的情况下，产生新的字符文本。传统文本生成模型基于循环神经网络，其中，循环神经网络(RecurrentNeuralNetwork,RNN)是一类以序列(Sequence)数据为输入，在序列的演进方向进行递归(Recursion)且所有节点(循环单元)按链式连接形成闭合回路的递归神经网络(RecursiveNeuralNetwork)，由于循环神经网络模型是以序列采取递归方式进行文本生成，在文本生成模型训练时的训练效率较低。
技术实现思路
本申请实施例提供了一种文本生成方法、装置、计算机设备及计算机可读存储介质，能够解决传统技术中文本生成模型训练时训练效率比较低的问题。第一方面，本申请实施例提供了一种文本生成方法，所述方法包括：获取进行文本生成的初始文本和预设预测词汇；将所述初始文本和所述预设预测词汇分别进行词嵌入以将所述初始文本转化为第一词向量和将所述预设预测词汇转化为第二词向量；将所述第一词向量和所述第二本文档来自技高网...

【技术保护点】
1.一种文本生成方法，其特征在于，所述方法包括：获取进行文本生成的初始文本和预设预测词汇；将所述初始文本和所述预设预测词汇分别进行词嵌入以将所述初始文本转化为第一词向量和将所述预设预测词汇转化为第二词向量；将所述第一词向量和所述第二词向量分别通过对应的卷积神经网络获得所述第一词向量的第一注意力矩阵和所述第二词向量的第二注意力矩阵；将所述第一注意力矩阵和所述第二注意力矩阵相乘以得到第三注意力矩阵；将所述第三注意力矩阵经归一化后与预设预测词汇进行匹配以生成预测文本。

【技术特征摘要】
1.一种文本生成方法，其特征在于，所述方法包括：获取进行文本生成的初始文本和预设预测词汇；将所述初始文本和所述预设预测词汇分别进行词嵌入以将所述初始文本转化为第一词向量和将所述预设预测词汇转化为第二词向量；将所述第一词向量和所述第二词向量分别通过对应的卷积神经网络获得所述第一词向量的第一注意力矩阵和所述第二词向量的第二注意力矩阵；将所述第一注意力矩阵和所述第二注意力矩阵相乘以得到第三注意力矩阵；将所述第三注意力矩阵经归一化后与预设预测词汇进行匹配以生成预测文本。2.根据权利要求1所述文本生成方法，其特征在于，所述将所述第一词向量和所述第二词向量分别通过对应的卷积神经网络获得所述第一词向量的第一注意力矩阵和所述第二词向量的第二注意力矩阵的步骤包括：通过第一卷积神经网络对所述第一词向量进行卷积并经归一化后得到所述第一词向量的第一词向量概率；通过所述第一卷积神经网络对所述第一词向量进行卷积以得到卷积第一词向量；将所述第一词向量概率和所述卷积第一词向量相乘以得到第一注意力矩阵；通过第二卷积神经网络对所述第二词向量进行卷积并经归一化后得到所述第二词向量的第二词向量概率；通过所述第二卷积神经网络对所述第二词向量进行卷积以得到卷积第二词向量；将所述第二词向量概率和所述卷积第二词向量相乘以得到第二注意力矩阵。3.根据权利要求2所述文本生成方法，其特征在于，所述通过第一卷积神经网络对所述第一词向量进行卷积并经归一化后得到所述第一词向量的第一词向量概率的步骤包括：通过第一卷积神经网络对所述第一词向量进行卷积并经归一化后捕捉所述第一词向量的短期信息与长期信息以得到第一词向量概率；所述通过第二卷积神经网络对所述第二词向量进行卷积并经归一化后得到所述第二词向量的第二词向量概率的步骤包括：通过第二卷积神经网络对所述第二词向量进行卷积并经归一化后捕捉所述第二词向量的短期信息与长期信息以得到第二词向量概率。4.根据权利要求1-3任一项所述文本生成方法，其特征在于，所述将所述第三注意力矩阵经归一化后与预设预测词汇进行匹配以生成预测...

【专利技术属性】
技术研发人员：金戈，徐亮，
申请(专利权)人：平安科技深圳有限公司，
类型：发明
国别省市：广东,44