文本生成方法、装置、计算机设备及计算机可读存储介质制造方法及图纸

本申请提供了一种文本生成方法及相关产品。其中，将初始文本输入至自然语言生成模型中，得到预测出的目标词；确定目标词对应的生成概率和复制概率，其中生成概率用于指示输出目标词的可能性，复制概率用于指示输出初始文本中对应目标词的初始词的可能性；根据生成概率和复制概率确定出目标词的目标概率，目标概率小于概率阈值时指示输出目标词，大于或等于概率阈值时指示输出初始词；根据目标概率和概率阈值，输出目标词或初始词为输出文本，并将输出文本输入至微调模型中，得到微调模型输出的广告文本。本申请能够更准确的根据初始文本生成对应的广告文本。生成对应的广告文本。生成对应的广告文本。

【技术实现步骤摘要】
文本生成方法、装置、计算机设备及计算机可读存储介质


[0001]本申请实施例涉及计算机
，具体涉及一种文本生成方法、装置、计算机设备及计算机可读存储介质。

技术介绍

[0002]随着网络技术的发展，广告投放已经成为一种较为常见的商业宣传方式，例如在网页端、客户端等不同端口进行广告投放，从而提升品牌知名度以及便于用户对商品进行购买。
[0003]现有的广告投放，往往是人工设置对应的广告词或者广告标语之后，按照预定的广告模板进行网络投放。
[0004]但是，这样的广告较为单一，难以达到预期的宣传效果。

技术实现思路

[0005]本申请实施例提供一种文本生成方法、装置、计算机设备及计算机可读存储介质，能够更准确的根据初始文本生成对应的广告文本。
[0006]第一方面，本申请实施例提供一种文本生成方法，方法包括：
[0007]将初始文本输入至自然语言生成模型中，得到自然语言生成模型预测出的目标词；
[0008]确定所述目标词对应的生成概率，并根据所述生成概率确定出所述目标词的复制概率，所述生成概率用于指示输出所述目标词的可能性，所述复制概率用于指示输出所述初始文本中对应所述目标词的初始词的可能性；
[0009]根据所述生成概率和所述复制概率确定出所述目标词的目标概率，所述目标概率小于概率阈值时指示输出所述目标词，所述目标概率大于或等于所述概率阈值时指示输出所述初始词；
[0010]根据所述目标概率和所述概率阈值，输出所述目标词或所述初始词为输出文本，并将所述输出文本和其他为输入文本的词输入至微调模型中，得到所述微调模型输出的广告文本。
[0011]第二方面，本申请实施例提供一种文本生成装置，装置包括：
[0012]输入模块，用于将初始文本输入至自然语言生成模型中，得到自然语言生成模型预测出的目标词；
[0013]第一确定模块，用于确定所述目标词对应的生成概率，并根据所述生成概率确定出所述目标词的复制概率，所述生成概率用于指示输出所述目标词的可能性，所述复制概率用于指示输出所述初始文本中对应所述目标词的初始词的可能性；
[0014]第二确定模块，用于根据所述生成概率和所述复制概率确定出所述目标词的目标概率，所述目标概率小于概率阈值时指示输出所述目标词，所述目标概率大于或等于所述概率阈值时指示输出所述初始词；
[0015]文本生成模块，用于根据所述目标概率和所述概率阈值，输出所述目标词或所述初始词为输出文本，并将所述输出文本和其他为输入文本的词输入至微调模型中，得到所述微调模型输出的广告文本。
[0016]第三方面，本申请实施例还提供一种计算机设备，包括存储器，处理器及存储在存储器上并可在处理器上运行的计算机程序，处理器调用存储器中的计算机程序时实现本申请实施例提供的任一种文本生成方法。
[0017]第四方面，本申请实施例还提供一种计算机可读存储介质，其上存储有计算机程序，计算机程序被处理器执行时实现本申请实施例提供的任一种文本生成方法。
[0018]第五方面，本申请实施例还提供一种计算机程序产品，包括计算机程序或指令，计算机程序或指令被处理器执行时实现本专利技术实施例所提供的任一种文本生成方法。
[0019]从以上内容可得出，本申请实施例具有以下的有益效果：
[0020]本申请实施例中，计算机设备通过将初始文本输入至自然语言生成模型中，得到自然语言生成模型预测出的目标词；确定目标词对应的生成概率，并根据生成概率确定出目标词的复制概率，其中，生成概率用于指示输出目标词的可能性，复制概率用于指示输出初始文本中对应目标词的初始词的可能性；根据生成概率和复制概率确定出目标词的目标概率，目标概率小于概率阈值时指示输出目标词，目标概率大于或等于概率阈值时指示输出初始词；根据目标概率和概率阈值，输出目标词或初始词为输出文本，并将输出文本和其他为输入文本的词输入至微调模型中，得到微调模型输出的广告文本。本申请实施例中，通过目标词的复制概率和生成概率共同确定出目标词的目标概率，从而更加准确的对目标词输出的概率进行评估，最终提高生成广告文本的准确性。
附图说明
[0021]为了更清楚地说明本申请实施例中的技术方案，下面将对实施例描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本申请的一些实施例，对于本领域技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
[0022]图1是本申请实施例中提供的文本生成方法的第一流程示意图；
[0023]图2是本申请实施例中自然语言模型的第一结构示意图；
[0024]图3是被申请实施例中自然语言模型的第二结构示意图；
[0025]图4是被申请实施例中通过自然语言生成模型和微调模型生成广告文本的示意图；
[0026]图5是本申请实施例中提供的文本生成方法的第二流程示意图；
[0027]图6是本申请实施例中提供的文本生成装置的结构示意图；
[0028]图7本申请实施例所涉及的计算机设备的结构示意图。
具体实施方式
[0029]下面将结合本申请实施例中的附图，对本申请实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本申请一部分实施例，而不是全部的实施例。基于本申请中的实施例，本领域技术人员在没有作出创造性劳动前提下所获得的所有其他实施
例，都属于本申请保护的范围。
[0030]在本申请实施例的描述中，需要理解的是，术语“第一”、“第二”用于区别不同对象，而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。限定有“第一”、“第二”的特征可以明示或者隐含地包括一个或者更多个所述特征，而不是用于描述特定顺序。此外，术语“包括”和“具有”以及它们任何变形，意图在于覆盖不排他的包含。
[0031]随着网络技术的发展，广告投放已经成为一种较为常见的商业宣传方式，例如在网页端、客户端等不同端口进行广告投放，从而提升品牌知名度以及便于用户对商品进行购买。
[0032]现有的广告投放，往往是人工设置对应的广告词或者广告标语之后，按照预定的广告模板进行网络投放。
[0033]但是，这样的广告较为单一，难以达到预期的宣传效果。
[0034]为了解决上述技术问题，本申请实施例提供了一种文本生成方法、装置、计算机设备及计算机可读存储介质。能够根据商品文本生成对应的广告文本。
[0035]以下结合附图分别进行详细说明。需说明的是，以下实施例的描述顺序不作为对实施例优选顺序的限定。虽然在流程图中示出了逻辑顺序，但是在某些情况下，可以以不同于附图所示的顺序执行所示出或描述的步骤。
[0036]需要说明的是，在本申请实施例中，本申请实施例中计算机设备可以作为执行主体，从而执行以下实施例对应的步骤，以及对数据进行处理。以下内容描述将对执行主体进行省略简化处理。
[0037]请参阅图1，图1是本申请实本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种文本生成方法，其特征在于，包括：将初始文本输入至自然语言生成模型中，得到所述自然语言生成模型预测出的目标词；确定所述目标词对应的生成概率，并根据所述生成概率确定出所述目标词的复制概率，所述生成概率用于指示输出所述目标词的可能性，所述复制概率用于指示输出所述初始文本中对应所述目标词的初始词的可能性；根据所述生成概率和所述复制概率确定出所述目标词的目标概率，所述目标概率小于概率阈值时指示输出所述目标词，所述目标概率大于或等于所述概率阈值时指示输出所述初始词；根据所述目标概率和所述概率阈值，输出所述目标词或所述初始词为输出文本，并将所述输出文本输入至微调模型中，得到所述微调模型输出的广告文本。2.根据权利要求1所述的文本生成方法，其特征在于，所述自然语言生成模型包括解码器，所述确定所述目标词对应的生成概率，包括：在预设时刻获取所述目标词对应的上下文向量、所述解码器的输入向量、所述解码器的状态向量；根据所述上下文向量、所述输入向量、所述状态向量确定出所述生成概率。3.根据权利要求2所述的文本生成方法，其特征在于，所述根据所述上下文向量、所述输入向量、所述状态向量确定出所述生成概率，包括：将所述上下文向量、所述输入向量、所述状态向量输入至生成概率计算公式中，所述生成概率计算公式如下：其中，P
fen
为生成概率，σ为sigmoid函数，w
h*
为第一参数，w
s
为第二学习参数，w
x
为第三学习参数，b
Ptr
为第四学习参数，T为时间，为上下文向量，x
t
为输入向量，s
t
为状态向量。4.根据权利要求2所述的文本生成方法，其特征在于，所述根据所述生成概率确定出所述目标词的复制概率，包括：在所述预设时刻确定出所述目标词在所述初始文本中对应的注意力分布；根据所述生成概率和所述注意力分布确定出所述目标词的复制概率。5.根据权利要求4所述的文本生成方法，其特征在于，所述根据所述生成概率和所述注意力分布确定出所述目标词的复制概率，包括：将所述生成概率和所述注意力分布输入至复制概率计算公式中，所述复制概率计算公式如下：其中，P
cop
为复制概率，P
gen
为生成概率，w为目标词，t为预设时刻，为注意力分布。6.根据权利要求1所述的文本生成方法，其特征在于，所述根据所述生成概率和所述复制概率确定出所述目标词的目标概率，包括：获取所述目标词在所述自然语言生成模型的词表中对应的分布概率；根据所述分布概率、所述生成概率、所述复制概率确定出所述目标概率。
7.根据权利要求6所述的文本生成方法，其特征在于，所述根据所述分布概率、所述生成概率、所述复制概率确定出所述目标概率，包括：将所述分布概率、所述生成概率、所述复制概率输入至目标概率计算公式中，所述目标概率计算公式如下：P
w
＝P
gen
P
vocab
(w)+P

【专利技术属性】
技术研发人员：徐明，贺宇凯，
申请(专利权)人：腾讯科技深圳有限公司，
类型：发明
国别省市：