提升机器写作质量的方法、系统、计算机设备及存储介质技术方案

技术编号:27469538 阅读:20 留言:0更新日期:2021-03-02 17:34
本申请公开了一种提升机器写作质量的方法、系统、计算机设备及存储介质。方法包括:BERT模型构建步骤:构建连贯性推理器BERT模型,并对所述连贯性推理器BERT模型进行训练;连贯性分数三元组获得步骤:对文章进行分句处理后输入训练后的所述连贯性推理器BERT模型获得连贯性分数,根据所述连贯性分数构建连贯性分数三元组;处理步骤:根据所述连贯性分数三元组构建分割点列表,根据所述分割点列表对所述文章进行处理。本发明专利技术充分利用提升机器写作质量的方法的优势,提供语句连贯性的置信度,语句的删除灵活可调整。语句的删除灵活可调整。语句的删除灵活可调整。

【技术实现步骤摘要】
提升机器写作质量的方法、系统、计算机设备及存储介质


[0001]本专利技术属于提升机器写作质量领域,具体涉及一种提升机器写作质量的方法、系统、计算机设备及存储介质。

技术介绍

[0002]自然语言生成,作为自然语言处理领域一个重要的研究分支,被广泛应用于机器翻译、文本生成(或称机器写作)等场景。同时,受到现有技术手段对自然语言语义挖掘的局限性,自然语言生成模型常常达不到令人满意的效果,典型的问题有重复文本、无意义文本、不连贯文本等,其中,文本不连贯的问题尤为突出。所以我们需要识别生成文本中的不连贯语句,并将其去除,使得机器写作系统能够在不浪费机器资源的情况下,输出语义连贯的文章,提升机器写作的质量。
[0003]CN2019101477256专利技术专利公开一种训练文本识别模型、文本连贯性识别方法及装置,其中训练文本识别模型的方法包括:获取第一训练文本和第二训练文本,第二训练文本为与第一训练文本对应的参考训练文本;从第一训练文本中提取第一训练特征信息,和,从第二训练文本中提取第二训练特征信息,第一训练特征信息为语序错乱的文本特征,第二训练特征信息为语序连贯的文本特征;利用第一训练特征信息以及第二训练特征信息对支持向量机模型进行训练,得到文本识别模型。本专利技术通过训练文本特征信息的提取形成文本识别模型可快速识别待识别文本的连贯性,明显提高了文本连贯性的识别效率,可替代人工识别文本连贯性,进而减少了人工大量的精力。
[0004]该技术的不足在于训练支持向量机模型需要输入经过人工标注的训练数据,该文本识别模型的效果很大程度上取决于人工标注的标准和质量。由于人力成本、标注标准等原因,该方法通常存在如下问题:1、相比于基于海量数据预训练的BERT模型来说,文本连贯性识别的准确性较低;2、由于标注数据集有限,该文本识别模型通用性较弱,通常只能在特定范围的文本集上正常工作。

技术实现思路

[0005]本申请实施例提供了一种提升机器写作质量的方法、系统、计算机设备及存储介质,以至少解决相关技术中主观因素影响的问题。
[0006]本专利技术提供了一种提升机器写作质量的方法,其中,包括:
[0007]BERT模型构建步骤:构建连贯性推理器BERT模型,并对所述连贯性推理器BERT模型进行训练;
[0008]连贯性分数三元组获得步骤:对文章进行分句处理后输入训练后的所述连贯性推理器BERT模型获得连贯性分数,根据所述连贯性分数构建连贯性分数三元组;
[0009]处理步骤:根据所述连贯性分数三元组构建分割点列表,根据所述分割点列表对所述文章进行处理。
[0010]上述方法,其中,所述BERT模型构建步骤包括:收集相关指定领域的语料,对所述
连贯性推理器BERT模型进行训练。
[0011]上述方法,其中,所述连贯性分数三元组获得步骤包括:
[0012]分句步骤:对输入的所述文章进行分句,得到所述文章的句子列表,其中,句子个数为T;
[0013]排列步骤:以一个句子为单位,采用滑动窗口将所有句子组成T-1个连续的句子对;
[0014]连贯性分数计算步骤:将所述句子对输入到训练后的所述推理器连贯性推理器BERT模型中,计算当前所述句子对的连贯性分数;
[0015]连贯性分数三元组输出步骤:根据所述连贯性分数构建所述连贯性分数三元组。
[0016]上述方法,其中,所述处理步骤包括:
[0017]识别文章分割点步骤:根据所述连贯性分数三元组的所述连贯性分数设置分割点;
[0018]分割点列表获得步骤:根据所述分割点构建所述分割点列表;
[0019]文章连贯性判断步骤:根据所述分割点列表对所述文章的连贯性进行判断并输出判断结果。
[0020]语句计算删除步骤:当所述判断结果为所述分割点列表不为空时,所述分割点将所述文章分成多个段落,通过所述分割点列表中各个所述分割点的下标,计算出各个所述段落包含的句子个数,如果所述段落的所述句子个数小于等于一阈值时,则删除所述段落中的所有语句。
[0021]本专利技术还提供一种提升机器写作质量的系统,其中,包括:
[0022]BERT模型构建模块,所述BERT模型构建模块构建连贯性推理器BERT模型,并对所述连贯性推理器BERT模型进行训练;
[0023]连贯性分数三元组获得模块,所述连贯性分数三元组获得模块对文章进行分句处理后输入训练后的所述连贯性推理器BERT模型获得连贯性分数,根据所述连贯性分数构建连贯性分数三元组;
[0024]处理模块,所述处理模块根据所述连贯性分数三元组构建分割点列表,根据所述分割点列表对所述文章进行处理。
[0025]上述系统,其中,所述BERT模型构建模块收集相关指定领域的语料,对所述连贯性推理器BERT模型进行训练。
[0026]上述系统,其中,所述连贯性分数三元组获得模块包括:
[0027]分句单元,所述分句单元对输入的所述文章进行分句,得到所述文章的句子列表,其中,句子个数为T;
[0028]排列单元,所述排列单元以一个句子为单位,采用滑动窗口将所有句子组成T-1个连续的句子对;
[0029]连贯性分数计算单元,所述连贯性分数计算单元将所述句子对输入到训练后的所述推理器连贯性推理器BERT模型中,计算当前所述句子对的连贯性分数;
[0030]连贯性分数三元组输出单元,所述连贯性分数三元组输出单元根据所述连贯性分数构建所述连贯性分数三元组。
[0031]上述系统,其中,所述处理模块包括:
[0032]识别文章分割点单元,所述识别文章分割点单元根据所述连贯性分数三元组的所述连贯性分数设置分割点;
[0033]分割点列表获得单元,所述分割点列表获得单元根据所述分割点构建所述分割点列表;
[0034]文章连贯性判断单元,所述文章连贯性判断单元根据所述分割点列表对所述文章的连贯性进行判断并输出判断结果。
[0035]语句计算删除单元,所述当所述判断结果为所述分割点列表不为空时,所述分割点将所述文章分成多个段落,通过所述分割点列表中各个所述分割点的下标,计算出各个所述段落包含的句子个数,如果所述段落的所述句子个数小于等于一阈值时,则删除所述段落中的所有语句。
[0036]本专利技术还提供一种计算机设备,包括存储器、处理器以及存储在所述存储器上并可在所述处理器上运行的计算机程序,所述处理器执行所述计算机程序时实现上述中任一项所述的一种提升机器写作质量的方法。
[0037]本专利技术还提供一种存储介质,其上存储有计算机程序,该程序被处理器执行时实现上述中任一项所述的一种提升机器写作质量的方法。
[0038]与现有技术相比,本专利技术的有益效果如下:
[0039]1.能够对机器写作生成的瑕疵文章进行“改造”,识别并删除其中的不连贯语句,不仅能提升机器写作的可读性,而且能避免放弃瑕疵文章而造成计算资源的浪费。
[0040]2.提供语句连贯性的置信度本文档来自技高网
...

【技术保护点】

【技术特征摘要】
1.一种提升机器写作质量的方法,其特征在于,包括:BERT模型构建步骤:构建连贯性推理器BERT模型,并对所述连贯性推理器BERT模型进行训练;连贯性分数三元组获得步骤:对文章进行分句处理后输入训练后的所述连贯性推理器BERT模型获得连贯性分数,根据所述连贯性分数构建连贯性分数三元组;处理步骤:根据所述连贯性分数三元组构建分割点列表,根据所述分割点列表对所述文章进行处理。2.如权利要求1所述的一种提升机器写作质量的方法,其特征在于,所述BERT模型构建步骤包括:收集相关指定领域的语料,对所述连贯性推理器BERT模型进行训练。3.如权利要求1所述的一种提升机器写作质量的方法,其特征在于,所述连贯性分数三元组获得步骤包括:分句步骤:对输入的所述文章进行分句,得到所述文章的句子列表,其中,句子个数为T;排列步骤:以一个句子为单位,采用滑动窗口将所有句子组成T-1个连续的句子对;连贯性分数计算步骤:将所述句子对输入到训练后的所述推理器连贯性推理器BERT模型中,计算当前所述句子对的连贯性分数;连贯性分数三元组输出步骤:根据所述连贯性分数构建所述连贯性分数三元组。4.如权利要求1所述的一种提升机器写作质量的方法,其特征在于,所述处理步骤包括:识别文章分割点步骤:根据所述连贯性分数三元组的所述连贯性分数设置分割点;分割点列表获得步骤:根据所述分割点构建所述分割点列表;文章连贯性判断步骤:根据所述分割点列表对所述文章的连贯性进行判断并输出判断结果。语句计算删除步骤:当所述判断结果为所述分割点列表不为空时,所述分割点将所述文章分成多个段落,通过所述分割点列表中各个所述分割点的下标,计算出各个所述段落包含的句子个数,如果所述段落的所述句子个数小于等于一阈值时,则删除所述段落中的所有语句。5.一种提升机器写作质量的系统,其特征在于,包括:BERT模型构建模块,所述BERT模型构建模块构建连贯性推理器BERT模型,并对所述连贯性推理器BERT模型进行训练;连贯性分数三元组获得模块,所述连贯性分数三元组获得模块对文章进行分句处理后输入训练后的所述连贯性推理器BERT模型...

【专利技术属性】
技术研发人员:尤莹卫海天
申请(专利权)人:北京明略昭辉科技有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1