文本识别方法、装置、电子设备及存储介质制造方法及图纸

技术编号:23162013 阅读:24 留言:0更新日期:2020-01-21 22:02
本申请示出了一种文本识别方法、装置、电子设备及存储介质,所述文本识别方法包括:获取待识别文本的基本特征集合;生成与待识别文本对应的文字文本;分别从待识别文本和文字文本中提取连续重复子序列特征;基于连续重复子序列特征和基本特征集合进行特征聚类,得到聚类结果,并基于聚类结果检测待识别文本是否为包含重复序列的文本。基于连续重复子序列特征及基本特征集合进行特征聚类,确定待识别文本的类型,由于基本特征集合能够体现霸屏、刷队类评论特殊符号多的特点,连续重复子序列特征能够体现霸屏、刷队类评论重复率高的特点,因此,本申请能够更加准确地识别出霸屏、刷队类垃圾评论文本。

Text recognition method, device, electronic equipment and storage medium

【技术实现步骤摘要】
文本识别方法、装置、电子设备及存储介质
本申请涉及计算机
,尤其涉及一种文本识别方法、装置、电子设备及存储介质。
技术介绍
当前技术中,社交平台中用户自由发表的评论极大地提升了用户的观看感受,连接了用户和作者,用户和用户之间的社交关系。然而一些用户发布的霸屏、刷队等垃圾评论严重影响了正常用户的体验。相关技术中的评论检测方法主要包括基于规则,基于词频、垃圾词汇分布特征以及基于评论语义分布特征三类方法。这些方法是实现霸屏、刷队、欺凌、低俗、滥发Spam等类别垃圾评论的通用检测方法。在需要检测出特定类别如霸屏、刷队类评论的应用场景下,仍然使用这些通用检测方法,准确率较低。
技术实现思路
为克服相关技术中存在的问题,本申请提供一种文本识别方法、装置、电子设备及存储介质。根据本申请的第一方面,提供一种文本识别方法,所述方法包括:获取待识别文本的基本特征集合,其中,所述基本特征集合为所述待识别文本所包含的文字和各预定类型符号的长度和占比特征的集合;生成与所述待识别文本对应的文字文本,其中,所本文档来自技高网...

【技术保护点】
1.一种文本识别方法,其特征在于,所述方法包括:/n获取待识别文本的基本特征集合,其中,所述基本特征集合为所述待识别文本所包含的文字和各预定类型符号的长度和占比特征的集合;/n生成与所述待识别文本对应的文字文本,其中,所述文字文本为包含所述待识别文本的文字、且不包含各预定类型符号的文本;/n分别从所述待识别文本和所述文字文本中提取连续重复子序列特征,其中,所述连续重复子序列特征用于表征相应文本中文字和各预定类型符号重复出现的信息;/n基于所述连续重复子序列特征和所述基本特征集合进行特征聚类,得到聚类结果,并基于所述聚类结果检测所述待识别文本是否为包含重复序列的文本。/n

【技术特征摘要】
1.一种文本识别方法,其特征在于,所述方法包括:
获取待识别文本的基本特征集合,其中,所述基本特征集合为所述待识别文本所包含的文字和各预定类型符号的长度和占比特征的集合;
生成与所述待识别文本对应的文字文本,其中,所述文字文本为包含所述待识别文本的文字、且不包含各预定类型符号的文本;
分别从所述待识别文本和所述文字文本中提取连续重复子序列特征,其中,所述连续重复子序列特征用于表征相应文本中文字和各预定类型符号重复出现的信息;
基于所述连续重复子序列特征和所述基本特征集合进行特征聚类,得到聚类结果,并基于所述聚类结果检测所述待识别文本是否为包含重复序列的文本。


2.根据权利要求1所述的文本识别方法,其特征在于,所述获取待识别文本的基本特征集合的步骤,包括:
计算所述待识别文本所包含的文字文本的长度以及连续特殊符号序列的最大长度,其中,所述连续特殊符号序列是由连续的特殊符号组成的序列,所述特殊符号为所述待识别文本中除汉字、字母和表情符号之外的符号;
根据所述文字文本的长度以及所述待识别文本的长度,计算所述待识别文本所包含文字文本的第一占比;
根据所述连续特殊符号序列的最大长度以及所述待识别文本的长度,计算所述连续特殊符号序列的第二占比;
将所述文字文本的长度、所述连续特殊符号序列的最大长度、所述第一占比以及所述第二占比确定为所述基本特征集合的元素。


3.根据权利要求1所述的文本识别方法,其特征在于,所述分别从所述待识别文本和所述文字文本中提取连续重复子序列特征的步骤,包括:
分别生成所述待识别文本和所述文字文本的字符序列;
当字符序列中存在连续的两个目标子序列之间长度和相似度均满足预设条件时,确定所述目标子序列为相应文本的连续重复相似子序列;
将相应文本中重复次数最大的连续重复相似子序列的重复次数、长度以及在相应文本中的占比,确定为相应文本的连续重复子序列特征。


4.根据权利要求3所述的文本识别方法,其特征在于,当字符序列中存在连续的两个目标子序列之间长度和相似度均满足预设条件时,确定所述目标子序列为相应文本的连续重复相似子序列的步骤,包括:
根据字符序列,按照预设规则生成多个后缀树序列以及与各所述后缀树序列对应的编码;
确定第一后缀树序列中自首位起长度为预设长度的第一目标子序列,以及第二后缀树序列中自首位起长度为所述预设长度的第二目标子序列;
当所述第一后缀树序列的编码与所述第二后缀树序列的编码之差绝对值等于所述预设长度,且...

【专利技术属性】
技术研发人员:刘春
申请(专利权)人:北京达佳互联信息技术有限公司
类型:发明
国别省市:北京;11

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1