文本生成方法及相关装置制造方法及图纸

技术编号:38250245 阅读:11 留言:0更新日期:2023-07-25 18:08
本发明专利技术公开了一种文本生成方法及相关装置,可以通过第一编码器对新闻文本进行特征提取,得到相应的第一特征;通过第一解码器对第一特征进行交叉注意力机制计算,得到对应的问题文本;将第一特征和问题文本融合,得到第二特征;通过第二解码器对第二特征进行交叉注意力机制计算,得到两条观点对立的观点文本。本发明专利技术可以基于第一编码器对新闻文本的内容进行充分理解后提取丰富的特征,然后基于第一解码器准确生成相应的问题文本,并且将问题文本与特征充分融合后,基于第二解码器生成相应的观点文本,如此得到的观点文本是对问题进行充分理解后得到的,生成问题文本和观点文本的准确性较高,且观点文本的对抗性清晰,易于区分。易于区分。易于区分。

【技术实现步骤摘要】
文本生成方法及相关装置


[0001]本专利技术涉及互联网领域,特别涉及一种文本生成方法及相关装置。

技术介绍

[0002]随着互联网的高速发展越来,越多的用户使用不同的社交网络平台进行用户之前的交互,创建讨论问题和对应的观点选项可以更快的让用户参与到新发生的事件中进行观点的分享和讨论,提高社区的用户活跃量。
[0003]目前的生成模型都是一步推理问题和选项,导致问题并没有经过内容理解。即,模型在还没有完全理解问题的情况下就输出观点选项,存在答非所问的情况。因此,如何准确生成讨论问题和对应的观点选项成为了本领域人员亟待解决的技术问题。

技术实现思路

[0004]鉴于上述问题,本专利技术提供一种文本生成方法及相关装置,可以准确生成问题文本和观点文本,有效解决现有技术中存在的问题。
[0005]第一方面,一种文本生成方法,包括:通过第一编码器对新闻文本进行特征提取,得到相应的第一特征;通过第一解码器对所述第一特征进行交叉注意力机制计算,得到对应的问题文本;将所述第一特征和所述问题文本融合,得到第二特征;通过第二解码器对所述第二特征进行交叉注意力机制计算,得到两条观点对立的观点文本,其中,所述观点文本是针对所述问题文本的观点。
[0006]结合第一方面,在某些可选的实施方式中,所述通过第一编码器对新闻文本进行特征提取,得到相应的第一特征,包括:通过所述第一编码器,对所述新闻文本的标题文本和内容文本进行特征提取,得到相应的所述第一特征和第一向量组,其中,所述第一向量组包括多个Q向量、多个K向量和多个V向量。
[0007]结合上一个实施方式,在某些可选的实施方式中,所述通过第一解码器对所述第一特征进行交叉注意力机制计算,得到对应的问题文本,包括:通过所述第一解码器对所述第一特征和所述第一向量组,进行所述交叉注意力机制计算,得到所述问题文本。
[0008]结合上一个实施方式,在某些可选的实施方式中,所述通过所述第一解码器对所述第一特征和所述第一向量组,进行所述交叉注意力机制计算,得到所述问题文本,包括:通过所述第一解码器对所述第一特征和所述第一向量组,进行所述交叉注意力机制计算后,进行集束搜索,得到所述问题文本。
[0009]结合第一方面,在某些可选的实施方式中,所述将所述第一特征和所述问题文本融合,得到第二特征,包括:
将所述问题文本转成对应的问题文本特征;将所述第一特征与所述问题文本特征进行拼接融合,得到所述第二特征。
[0010]结合第一方面,在某些可选的实施方式中,所述通过第二解码器对所述第二特征进行交叉注意力机制计算,得到两条观点对立的观点文本,包括:通过所述第二解码器对所述第二特征进行所述交叉注意力机制计算后,进行集束搜索,得到两条观点对立的所述观点文本。
[0011]第二方面,一种文本生成装置,包括:特征提取单元、第一计算单元、特征融合单元和第二计算单元;所述特征提取单元,用于通过第一编码器对新闻文本进行特征提取,得到相应的第一特征;所述第一计算单元,用于通过第一解码器对所述第一特征进行交叉注意力机制计算,得到对应的问题文本;所述特征融合单元,用于将所述第一特征和所述问题文本融合,得到第二特征;所述第二计算单元,用于通过第二解码器对所述第二特征进行交叉注意力机制计算,得到两条观点对立的观点文本,其中,所述观点文本是针对所述问题文本的观点。
[0012]结合第二方面,在某些可选的实施方式中,所述特征提取单元,包括:特征提取子单元;所述特征提取子单元,用于通过所述第一编码器,对所述新闻文本的标题文本和内容文本进行特征提取,得到相应的所述第一特征和第一向量组,其中,所述第一向量组包括多个Q向量、多个K向量和多个V向量。
[0013]第三方面,一种计算机可读存储介质,其上存储有程序,所述程序被处理器执行时实现上述任一项所述的文本生成方法。
[0014]第四方面,一种电子设备,所述电子设备包括至少一个处理器、以及与所述处理器连接的至少一个存储器、总线;其中,所述处理器、所述存储器通过所述总线完成相互间的通信;所述处理器用于调用所述存储器中的程序指令,以执行上述任一项所述的文本生成方法。
[0015]借由上述技术方案,本专利技术提供的一种文本生成方法及相关装置,可以通过第一编码器对新闻文本进行特征提取,得到相应的第一特征;通过第一解码器对所述第一特征进行交叉注意力机制计算,得到对应的问题文本;将所述第一特征和所述问题文本融合,得到第二特征;通过第二解码器对所述第二特征进行交叉注意力机制计算,得到两条观点对立的观点文本,其中,所述观点文本是针对所述问题文本的观点。由此可以看出,本专利技术可以基于第一编码器对新闻文本的内容进行充分理解后提取丰富的特征,然后基于第一解码器准确生成相应的问题文本,并且将问题文本与特征充分融合后,基于第二解码器生成相应的观点文本,如此得到的观点文本是对问题进行充分理解后得到的,生成问题文本和观点文本的准确性较高,且观点文本的对抗性清晰,易于区分。
[0016]上述说明仅是本专利技术技术方案的概述,为了能够更清楚了解本专利技术的技术手段,而可依照说明书的内容予以实施,并且为了让本专利技术的上述和其它目的、特征和优点能够更明显易懂,以下特举本专利技术的具体实施方式。
附图说明
[0017]通过阅读下文优选实施方式的详细描述,各种其他的优点和益处对于本领域普通技术人员将变得清楚明了。附图仅用于示出优选实施方式的目的,而并不认为是对本专利技术的限制。而且在整个附图中,用相同的参考符号表示相同的部件。在附图中:图1示出了本专利技术提供的第一种文本生成方法的流程图;图2示出了本专利技术提供的第二种文本生成方法的流程图;图3示出了本专利技术提供的第三种文本生成方法的流程图;图4示出了本专利技术提供的第四种文本生成方法的流程图;图5示出了本专利技术提供的第五种文本生成方法的流程图;图6示出了本专利技术提供的第六种文本生成方法的流程图;图7示出了本专利技术提供的一种实施例的示意图;图8示出了本专利技术提供的一种集束搜索的示意图;图9示出了本专利技术提供的一种文本生成装置的结构示意图;图10示出了本专利技术提供的一种电子设备的结构示意图。
具体实施方式
[0018]下面将参照附图更详细地描述本专利技术的示例性实施例。虽然附图中显示了本专利技术的示例性实施例,然而应当理解,可以以各种形式实现本专利技术而不应被这里阐述的实施例所限制。相反,提供这些实施例是为了能够更透彻地理解本专利技术,并且能够将本专利技术的范围完整的传达给本领域的技术人员。
[0019]如图1所示,本专利技术提供了一种文本生成方法,包括:S100、S200、S300和S400;S100、通过第一编码器对新闻文本进行特征提取,得到相应的第一特征;可选的,本专利技术所说的第一编码器可以理解为encoder编码器;新闻文本可以包括新闻标题和新闻内容。
[0020]可选的,本专利技术可以预先将新闻标题和新闻内容做拼接后,得到新闻文本,然后将新闻文本输入至encoder编码器中,从而获得encoder编码器输出的特征。以12层tran本文档来自技高网
...

【技术保护点】

【技术特征摘要】
1.一种文本生成方法,其特征在于,包括:通过第一编码器对新闻文本进行特征提取,得到相应的第一特征;通过第一解码器对所述第一特征进行交叉注意力机制计算,得到对应的问题文本;将所述第一特征和所述问题文本融合,得到第二特征;通过第二解码器对所述第二特征进行交叉注意力机制计算,得到两条观点对立的观点文本,其中,所述观点文本是针对所述问题文本的观点。2.根据权利要求1所述的方法,其特征在于,所述通过第一编码器对新闻文本进行特征提取,得到相应的第一特征,包括:通过所述第一编码器,对所述新闻文本的标题文本和内容文本进行特征提取,得到相应的所述第一特征和第一向量组,其中,所述第一向量组包括多个Q向量、多个K向量和多个V向量。3.根据权利要求2所述的方法,其特征在于,所述通过第一解码器对所述第一特征进行交叉注意力机制计算,得到对应的问题文本,包括:通过所述第一解码器对所述第一特征和所述第一向量组,进行所述交叉注意力机制计算,得到所述问题文本。4.根据权利要求3所述的方法,其特征在于,所述通过所述第一解码器对所述第一特征和所述第一向量组,进行所述交叉注意力机制计算,得到所述问题文本,包括:通过所述第一解码器对所述第一特征和所述第一向量组,进行所述交叉注意力机制计算后,进行集束搜索,得到所述问题文本。5.根据权利要求1所述的方法,其特征在于,所述将所述第一特征和所述问题文本融合,得到第二特征,包括:将所述问题文本转成对应的问题文本特征;将所述第一特征与所述问题文本特征进行拼接融合,得到所述第二特征。6.根据权利要求1所述的方法,其特征在于,所述通过第二...

【专利技术属性】
技术研发人员:颜子涵亓克娜王卿云
申请(专利权)人:北京搜狐新媒体信息技术有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1