文本分类方法、装置、电子设备和存储介质制造方法及图纸

技术编号:37614023 阅读:11 留言:0更新日期:2023-05-18 12:05
本发明专利技术实施例提供文本分类方法、装置、电子设备和存储介质,该方法包括:接收用户的预测请求;预测请求包括待预测文本和模型标识;从多个预测模型中确定与模型标识匹配的目标预测模型;从待预测文本中截取多个文字,并分别对多个文字进行转换,得到多个字典参数;将多个字典参数输入至目标预测模型中,通过目标预测模型根据多个字典参数预测待预测文本所属的目标类别信息;向用户返回针对预测请求的目标类别信息。本发明专利技术实施例通过预测模型实现文本类别的预测,可替代人工分类,从而大大提升分类效率,且预测模型是BERT模型,BERT模型所需的训练样本量可大大减小,训练出模型的准确性也有一定的提升。确性也有一定的提升。确性也有一定的提升。

【技术实现步骤摘要】
文本分类方法、装置、电子设备和存储介质


[0001]本专利技术涉及数据安全
,特别涉及一种文本分类方法、一种文本分类装置、一种电子设备和一种计算机可读存储介质。

技术介绍

[0002]随着信息化的深入发展,数据泄露事件频发,数据安全越发受到重视。为此,相关部门对数据实行分类分级保护,制定重要数据目录,加强对重要数据的保护。
[0003]分类分级的基础在于数据分类,分类的准确性就决定分级的结果。所有的数据通过任务的鉴定类别是不可能的,特别是对于企业内成百上千的文件,单凭人工是无法做分类分级管控的。因此,亟需一种准确高效的数据分类方法去实现以上的需求。

技术实现思路

[0004]鉴于上述问题,提出了本专利技术实施例以便提供一种克服上述问题或者至少部分地解决上述问题的文本分类方法。
[0005]本专利技术实施例还提供了一种文本分类装置、电子设备和存储介质,以保证上述方法的实施。
[0006]为了解决上述问题,本专利技术实施例公开了一种文本分类方法,应用于分类引擎系统,所述分类引擎系统包括多个预测模型,所述预测模型为训练好的BERT模型,所述方法包括:
[0007]接收用户的预测请求;所述预测请求包括待预测文本和模型标识;
[0008]从所述多个预测模型中确定与所述模型标识匹配的目标预测模型;
[0009]从所述待预测文本中截取多个文字,并分别对所述多个文字进行转换,得到多个字典参数;
[0010]将所述多个字典参数输入至所述目标预测模型中,通过所述目标预测模型根据所述多个字典参数预测所述待预测文本所属的目标类别信息;
[0011]向所述用户返回针对所述预测请求的目标类别信息。
[0012]可选地,所述目标预测模型具有多个类别信息的特征;所述通过所述目标预测模型根据所述多个字典参数预测所述待预测文本所属的目标类别信息,包括:
[0013]通过所述目标预测模型计算所述多个字典参数分别与所述多个类别信息的特征之间的相似值,得到多个相似值;
[0014]通过所述目标预测模型从所述多个相似值中确定最大的目标相似值;
[0015]通过所述目标预测模型将所述目标相似值所对应的类别信息确定为所述待预测文本所属的目标类别信息。
[0016]可选地,所述从所述待预测文本中截取多个文字,包括:
[0017]从所述待预测文本中截取排序靠前的预设数量的多个文字。
[0018]可选地,所述预测模型通过如下方式训练得到:
[0019]获取预设循环轮次,以及获取不同类别的样本文本;
[0020]对所述不同类别的样本文本进行处理,得到训练集和测试集;
[0021]获取预训练得到的初始模型;
[0022]按照所述预设循环轮次,将所述训练集输入至所述初始模型中进行循环训练,以及将所述测试集输入至所述初始模型中进行循环测试,直至完成所有所述预设循环轮次,获得所述预测模型。
[0023]可选地,所述按照所述预设循环轮次,将所述训练集输入至所述初始模型中进行循环训练,以及将所述测试集输入至所述初始模型中进行循环测试,直至完成所有所述预设循环轮次,获得所述预测模型,包括:
[0024]将所述训练集分成多个批次的样本文本;
[0025]在每个轮次中,将所述多个批次的样本文本依次输入至所述初始模型中进行训练,得到更新后的模型参数;
[0026]在每个轮次中,基于所述更新后的模型参数,将所述测试集中的各个样本文本依次输入至所述初始模型中进行测试,得到模型准确率;
[0027]在每个轮次中,判断当前轮次的模型准确率是否大于准确率阈值;
[0028]若是,则删除在先保存的预测模型,以保存当前轮次训练得到的预测模型,并将所述准确率阈值更新为所述当前轮次的模型准确率,并返回所述在每个轮次中,将所述多个批次的样本文本依次输入至所述初始模型中进行训练,得到更新后的模型参数的步骤;其中,保存格式为开放神经网络交换ONNX格式;
[0029]若否,则保留在先保存的预测模型,并返回所述在每个轮次中,将所述多个批次的样本文本依次输入至所述初始模型中进行训练,得到更新后的模型参数的步骤;
[0030]直至完成所有所述预设循环轮次时,将当前保存的预测模型作为最终的预测模型。
[0031]可选地,所述对所述不同类别的样本文本进行处理,得到训练集和测试集,包括:
[0032]针对同一类别的样本文本进行划分,得到用于训练的样本文本和用于测试的样本文本;
[0033]将不同类别的所述用于训练的样本文本进行合并,得到训练集,以及将不同类别的所述用于测试的样本文本进行合并,得到测试集。
[0034]可选地,所述方法还包括:
[0035]将训练完成的预测模型进行注册。
[0036]本专利技术实施例还公开了一种文本分类装置,应用于分类引擎系统,所述分类引擎系统包括多个预测模型,所述预测模型为训练好的BERT模型,所述装置包括:
[0037]预测请求接收模块,用于接收用户的预测请求;所述预测请求包括待预测文本和模型标识;
[0038]目标预测模型确定模块,用于从所述多个预测模型中确定与所述模型标识匹配的目标预测模型;
[0039]转换模块,用于从所述待预测文本中截取多个文字,并分别对所述多个文字进行转换,得到多个字典参数;
[0040]预测模块,用于将所述多个字典参数输入至所述目标预测模型中,通过所述目标
预测模型根据所述多个字典参数预测所述待预测文本所属的目标类别信息;
[0041]目标类别信息返回模块,用于向所述用户返回针对所述预测请求的目标类别信息。
[0042]可选地,所述目标预测模型具有多个类别信息的特征;所述预测模块包括:
[0043]相似值计算子模块,用于通过所述目标预测模型计算所述多个字典参数分别与所述多个类别信息的特征之间的相似值,得到多个相似值;
[0044]最大的目标相似值确定子模块,用于通过所述目标预测模型从所述多个相似值中确定最大的目标相似值;
[0045]目标类别信息确定子模块,用于通过所述目标预测模型将所述目标相似值所对应的类别信息确定为所述待预测文本所属的目标类别信息。
[0046]可选地,所述转换模块包括:
[0047]截取子模块,用于从所述待预测文本中截取排序靠前的预设数量的多个文字。
[0048]可选地,所述预测模型通过如下模块训练得到:
[0049]样本文本获取模块,用于获取预设循环轮次,以及获取不同类别的样本文本;
[0050]样本文本处理模块,用于对所述不同类别的样本文本进行处理,得到训练集和测试集;
[0051]初始模型获取模块,用于获取预训练得到的初始模型;
[0052]训练模块,用于按照所述预设循环轮次,将所述训练集输入至所述初始模型中进行循环训练,以及将所述测试集输入至所述初始模型中进行循环测试,直至本文档来自技高网
...

【技术保护点】

【技术特征摘要】
1.一种文本分类方法,其特征在于,应用于分类引擎系统,所述分类引擎系统包括多个预测模型,所述预测模型为训练好的BERT模型,所述方法包括:接收用户的预测请求;所述预测请求包括待预测文本和模型标识;从所述多个预测模型中确定与所述模型标识匹配的目标预测模型;从所述待预测文本中截取多个文字,并分别对所述多个文字进行转换,得到多个字典参数;将所述多个字典参数输入至所述目标预测模型中,通过所述目标预测模型根据所述多个字典参数预测所述待预测文本所属的目标类别信息;向所述用户返回针对所述预测请求的目标类别信息。2.根据权利要求1所述的方法,其特征在于,所述目标预测模型具有多个类别信息的特征;所述通过所述目标预测模型根据所述多个字典参数预测所述待预测文本所属的目标类别信息,包括:通过所述目标预测模型计算所述多个字典参数分别与所述多个类别信息的特征之间的相似值,得到多个相似值;通过所述目标预测模型从所述多个相似值中确定最大的目标相似值;通过所述目标预测模型将所述目标相似值所对应的类别信息确定为所述待预测文本所属的目标类别信息。3.根据权利要求1所述的方法,其特征在于,所述从所述待预测文本中截取多个文字,包括:从所述待预测文本中截取排序靠前的预设数量的多个文字。4.根据权利要求1所述的方法,其特征在于,所述预测模型通过如下方式训练得到:获取预设循环轮次,以及获取不同类别的样本文本;对所述不同类别的样本文本进行处理,得到训练集和测试集;获取预训练得到的初始模型;按照所述预设循环轮次,将所述训练集输入至所述初始模型中进行循环训练,以及将所述测试集输入至所述初始模型中进行循环测试,直至完成所有所述预设循环轮次,获得所述预测模型。5.根据权利要求4所述的方法,其特征在于,所述按照所述预设循环轮次,将所述训练集输入至所述初始模型中进行循环训练,以及将所述测试集输入至所述初始模型中进行循环测试,直至完成所有所述预设循环轮次,获得所述预测模型,包括:将所述训练集分成多个批次的样本文本;在每个轮次中,将所述多个批次的样本文本依次输入至所述初始模型中进行训练,得到更新后的模型参数;在每个轮次中,基于所述更新后的模型参数,将所述测试集中的各个样本文本依次输入至所述初始模型中进行测试,得到模型准确率;在每个轮次中,...

【专利技术属性】
技术研发人员:王奎举谢少飞喻波王志海韩振国安鹏
申请(专利权)人:北京明朝万达科技股份有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1