文本信息的处理方法、装置、电子设备及介质制造方法及图纸

技术编号:37228077 阅读:35 留言:0更新日期:2023-04-20 23:11
本公开提供了一种文本信息的处理方法、装置、电子设备及介质,涉及人工智能技术领域,具体为自然语言处理领域。具体实现方案为:获取待处理的目标文本信息;根据预先确定的候选真实词语与候选逃逸词语之间的关联关系,识别所述目标文本信息中的目标逃逸词语,并对所述目标逃逸词语进行修改,将所述目标文本信息中的目标逃逸词语还原为目标真实词语;其中,所述关联关系根据逃逸文本信息和真实文本信息中词语的音素特征得到。本公开可以提高逃逸词语的识别准确率。的识别准确率。的识别准确率。

【技术实现步骤摘要】
文本信息的处理方法、装置、电子设备及介质


[0001]本公开涉及人工智能
,具体为自然语言处理
,尤其涉及一种文本信息的处理方法、装置、电子设备及介质,可应用于对文本信息中的逃逸词语进行识别和修改的场景。

技术介绍

[0002]知识实体是指包含在知识资产中智力劳动的价值是一个“实体”,其本质就是智力构思,即创造性思维。示例性的,知识实体可以是影视作品。在目前互联网环境中,存在在未获取到版权的情况下,使用拼音或谐音对知识实体的实体名称进行替换违规传播知识实体的行为。
[0003]纠正知识实体的违规传播行为对于保护知识产权,夯实创新基础,强化发展动力具有重要意义。

技术实现思路

[0004]本公开提供了一种文本信息的处理方法、装置、电子设备及介质。
[0005]根据本公开的一方面,提供了一种文本信息的处理方法,该方法包括:
[0006]获取待处理的目标文本信息;
[0007]根据预先确定的候选真实词语与候选逃逸词语之间的关联关系,识别所述目标文本信息中的目标逃逸词语,并对所述目标逃逸词语进行修改,将所述目标文本信息中的目标逃逸词语还原为目标真实词语;
[0008]其中,所述关联关系根据逃逸文本信息和真实文本信息中词语的音素特征得到。
[0009]根据本公开的另一方面,提供了一种文本信息的处理装置,包括:
[0010]文本信息获取模块,用于获取待处理的目标文本信息;
[0011]文本信息处理模块,用于根据预先确定的候选真实词语与候选逃逸词语之间的关联关系,识别所述目标文本信息中的目标逃逸词语,并对所述目标逃逸词语进行修改,将所述目标文本信息中的目标逃逸词语还原为目标真实词语;
[0012]其中,所述关联关系根据逃逸文本信息和真实文本信息中词语的音素特征得到。
[0013]根据本公开的另一方面,提供了一种电子设备,该电子设备包括:
[0014]至少一个处理器;以及
[0015]与所述至少一个处理器通信连接的存储器;其中,
[0016]所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行本公开任一实施例所述的文本信息的处理方法。
[0017]根据本公开的另一方面,提供了一种存储有计算机指令的非瞬时计算机可读存储介质,其中,所述计算机指令用于使计算机执行本公开任一实施例所述的文本信息的处理方法。
[0018]根据本公开的另一方面,提供了一种计算机程序产品,包括计算机程序,所述计算机程序在被处理器执行时实现本公开任一实施例所述的文本信息的处理方法。
[0019]根据本公开的技术,可以提高逃逸词语的识别准确性。
[0020]应当理解,本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征,也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。
附图说明
[0021]附图用于更好地理解本方案,不构成对本公开的限定。其中:
[0022]图1是根据本公开实施例提供的一种文本信息的处理方法的流程图;
[0023]图2是根据本公开实施例提供的另一种文本信息的处理方法的流程图;
[0024]图3是根据本公开实施例提供的另一种文本信息的处理方法的流程图;
[0025]图4是根据本公开实施例提供的另一种文本信息的处理方法的流程图;
[0026]图5A是根据本公开实施例提供的另一种文本信息的处理方法的流程图;
[0027]图5B是根据本公开实施例提供的另一种文本信息的处理方法的流程图;
[0028]图6是根据本公开实施例提供的一种文本信息的处理装置的结构示意图;
[0029]图7是用来实现本公开实施例的文本信息的处理方法的电子设备的框图。
具体实施方式
[0030]以下结合附图对本公开的示范性实施例做出说明,其中包括本公开实施例的各种细节以助于理解,应当将它们认为仅仅是示范性的。因此,本领域普通技术人员应当认识到,可以对这里描述的实施例做出各种改变和修改,而不会背离本公开的范围和精神。同样,为了清楚和简明,以下的描述中省略了对公知功能和结构的描述。
[0031]图1是根据本公开实施例提供的一种文本信息的处理方法的流程图,本公开实施例适用于在对违规传播知识实体的行为进行纠正的场景下,对文本信息中的逃逸词语进行识别和修改的情况。该方法可以由文本信息的处理装置来执行,该装置可以采用软件和/或硬件的方式实现,并可集成于承载文本信息的处理功能的电子设备中。如图1所示,本实施例的文本信息的处理方法可以包括:
[0032]S101,获取待处理的目标文本信息;
[0033]S102,根据预先确定的候选真实词语与候选逃逸词语之间的关联关系,识别所述目标文本信息中的目标逃逸词语,并对所述目标逃逸词语进行修改,将所述目标文本信息中的目标逃逸词语还原为目标真实词语;其中,所述关联关系根据逃逸文本信息和真实文本信息中词语的音素特征得到。
[0034]其中,待处理的目标文本信息是指需要进行逃逸词语识别的文本信息。目标文本信息中可能包括逃逸词语也可能不包括逃逸词语。目标文本信息中是否包括逃逸词语,根据实际情况确定,在这里不作限定。
[0035]其中,逃逸词语是相对真实词语而言的,逃逸词语一般根据真实词语的发音特点衍生得到。
[0036]逃逸词语一般用于规避目标文本信息传播的合规性检查。可以知道的是,相关技术大多基于关键词语对目标文本信息传播的合规性进行检查。以逃逸词语替换目标文本信
息中的真实词语,是躲避上述合规性检查的惯用手段。
[0037]基于候选真实词语与候选逃逸词语之间的关联关系,可以识别待处理的目标文本信息中是否包括目标逃逸词语。其中,关联关系根据逃逸文本信息和真实文本信息中词语的音素特征得到。其中,逃逸文本信息的描述对象与真实文本信息的描述对象相同,但是,逃逸文本信息中的具体文本内容与真实文本信息的具体文本内容存在差异。也就是说,真实文本信息与候选文本信息对同一对象的不同表达。
[0038]其中,音素特征用于反映真实文本信息和逃逸文本信息中词语的发音特点。真实文本信息与逃逸文本信息为构建关联关系的文本语料。可选的,真实文本信息为业内公认的常规表达。逃逸文本信息大多根据真实文本信息的发音特点衍生得到,候选真实词语和候选逃逸词语在真实文本信息和候选文本信息的词语中产生。候选真实词语与候选逃逸词语的音素特征存在关联。目标文本信息、真实文本信息和逃逸文本信息三种文本信息所属领域相同。
[0039]根据预先确定的候选真实词语与候选逃逸词语之间的关联关系,识别目标文本信息中的目标逃逸词语。可选的,将目标文本信息中的词语与候选逃逸词语进行匹配,将出现在目标文本信息中的候选逃逸词语确定为目标逃逸词语。
[0040]若候选真实词语与候选逃逸词语之间的关联关系确定,则已知候选逃逸词语的情况本文档来自技高网
...

【技术保护点】

【技术特征摘要】
1.一种文本信息的处理方法,所述方法包括:获取待处理的目标文本信息;根据预先确定的候选真实词语与候选逃逸词语之间的关联关系,识别所述目标文本信息中的目标逃逸词语,并对所述目标逃逸词语进行修改,将所述目标文本信息中的目标逃逸词语还原为目标真实词语;其中,所述关联关系根据逃逸文本信息和真实文本信息中词语的音素特征得到。2.根据权利要求1所述的方法,其中,所述候选真实词语与所述候选逃逸词语之间的关联关系,基于如下方式预先构建:分别对逃逸文本信息和真实文本信息进行分词处理,得到所述候选真实词语和所述候选逃逸词语;分别确定所述候选真实词语和所述候选逃逸词语的音素特征;基于所述候选真实词语和所述候选逃逸词语的音素特征,构建所述候选真实词语与所述候选逃逸词语之间的关联关系。3.根据权利要求2所述的方法,其中,基于所述候选真实词语和所述候选逃逸词语的音素特征,构建所述候选真实词语与所述候选逃逸词语之间的关联关系,包括:确定任一候选真实词语的音素特征与任一候选逃逸词语的音素特征之间的编辑距离;根据所述编辑距离,构建所述候选真实词语与所述候选逃逸词语之间的关联关系。4.根据权利要求2所述的方法,其中,所述分别确定所述候选真实词语和所述候选逃逸词语的音素特征,包括:确定所述候选真实词语和所述候选逃逸词语的拼音音节和拼音缩写;根据所述拼音音节和所述拼音缩写,确定所述候选真实词语和所述候选逃逸词语的音素特征。5.根据权利要求2所述的方法,其中,分别对逃逸文本信息和真实文本信息进行分词处理,得到所述候选真实词语和所述候选逃逸词语,包括:根据所述逃逸文本信息和所述真实文本信息中词语的词语类型,分别对所述逃逸文本信息和所述真实文本信息进行分词处理得到所述候选真实词语和候选逃逸词语。6.根据权利要求5所述的方法,其中,根据所述逃逸文本信息和所述真实文本信息中词语的词语类型,分别对所述逃逸文本信息和所述真实文本信息进行分词处理,包括:对所述逃逸文本信息和所述真实文本信息中的中文词语以单字粒度进行切分;对所述逃逸文本信息和所述真实文本信息中除了中文词语以外的其他词语进行语法检查,基于语法检查结果对除了中文词语以外的其他词语进行切分。7.根据权利要求1所述的方法,其中,根据预先确定的候选真实词语与候选逃逸词语之间的关联关系,识别所述目标文本信息中的目标逃逸词语,并对所述目标逃逸词语进行修改,将所述目标文本信息中的目标逃逸词语还原为目标真实词语,包括:根据所述目标文本信息中词语的词语类型,对所述目标文本信息进行分词处理,得到待处理的目标存疑词语;将与所述候选逃逸词语相匹配的所述目标存疑词语,确定为所述目标逃逸词语;基于所述预先确定的候选真实词语与所述候选逃逸词语之间的关联关系,将与所述目标逃逸词语关联的所述候选真实词语确定为目标真实词语;
基于所述目标真实词语对所述目标存疑词语进行修改,将所述目标文本信息中的目标逃逸词语还原为目标真实词语。8.根据权利要求1

7任一项所述的方法,其中,所述待处理的目标文本信息为知识实体名称。9.一种文本信息的处理装置,所述装置包括:文本信息获取模块,用于获取待处理的目标文本信息;文本信息处理模块,用于根据预先确定的候选真实词语与候选逃逸词语之间的关联关系,识别所述目标文本信息中的目标逃逸词语,并对所述目标逃逸词语进行修改,将所述目标文本信息中的目标逃逸词语还原为目标真实词语;其中,所...

【专利技术属性】
技术研发人员:姜涛石东升
申请(专利权)人:北京百度网讯科技有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1