一种错别字检测方法、装置及设备制造方法及图纸

技术编号:27407993 阅读:15 留言:0更新日期:2021-02-21 14:22
本申请实施例公开了一种错别字检测方法、装置及设备,该方法包括:先获取待检测分句,将待检测分句输入到错别字检测模型中,得到错别字检测模型输出的待检测分句中各个原始字符对应的预测字符,将待检测分句中与预测字符不一致的原始字符确定为错别字。错别字检测模型是用于利用正向排序的待检测分句中的第1个到第m个原始字符得到第m个原始字符对应的第一预测结果,利用反向排序的待检测分句中第n个到第m个原始字符得到第m个原始字符对应的第二预测结果;根据第一预测结果以及第二预测结果得到对应的预测字符。通过将得到的两种预测结果进行融合,得到与原始字符对应的,较为准确的预测字符,能够提高错别字检测的准确性以及精确性。及精确性。及精确性。

【技术实现步骤摘要】
一种错别字检测方法、装置及设备


[0001]本申请涉及数据处理领域,具体涉及一种错别字检测方法、装置及设备。

技术介绍

[0002]在文本生成的过程中,可能存在着由于撰写错误所导致的错别字。错别字是在特定语境中或者是特定词汇中使用错误的字符,错别字具有对应的正确的字符。在对文本进行处理的过程中,为了从文本中获取较为准确的信息,需要确保文本的正确性。错别字会影响到文本的结构以及文本所表示的信息,在文本处理之前需要对文本中的错别字进行检测,以便对文本中的错别字进行修正。
[0003]目前,在通过神经网络模型对错别字进行检测的方法中,错别字检测的准确性较低。

技术实现思路

[0004]有鉴于此,本申请实施例提供一种错别字检测方法、装置及设备,能够提高错别字检测的准确性。
[0005]为解决上述问题,本申请实施例提供的技术方案如下:
[0006]一种错别字检测方法,所述方法包括:
[0007]获取待检测分句;
[0008]将所述待检测分句输入错别字检测模型,得到所述错别字检测模型输出的各个原始字符对应的预测字符;所述错别字检测模型用于利用正向排序的所述待检测分句中第1个到第m个原始字符得到所述第m个原始字符对应的第一预测结果,利用反向排序的所述待检测分句中第n个到第m个原始字符得到所述第m个原始字符对应的第二预测结果,根据所述第m个原始字符对应的第一预测结果以及第二预测结果得到所述待检测分句中第m个原始字符对应的预测字符;其中,n为所述待检测分句的字符数量,m的取值分别为1到n的整数;
[0009]将所述待检测分句中与对应的预测字符不一致的原始字符确定为错别字。
[0010]在一种可能的实现方式中,所述错别字检测模型具体用于:
[0011]提取所述待检测分句中各个原始字符的字特征;
[0012]利用正向排序的所述待检测分句中第1个到第m个原始字符的字特征,得到所述第m个原始字符对应的各个预测标签的第一概率值;
[0013]利用反向排序的所述待检测分句中第n个到第m个原始字符的字特征,得到所述第m个原始字符对应的各个预测标签的第二概率值;
[0014]将所述第m个原始字符对应的各个预测标签的第一概率值以及第二概率值进行融合,得到所述第m个原始字符对应的各个预测标签的第一总概率值;
[0015]将所述第一总概率值最大的预测标签确定为所述待检测分句中第m个原始字符对应的预测字符。
[0016]在一种可能的实现方式中,所述错别字检测模型具体用于:
[0017]提取所述待检测分句中各个原始字符的字特征;
[0018]利用正向排序的所述待检测分句中第1个到第m个原始字符的字特征,得到所述第m个原始字符对应的各个预测标签的第一概率值;
[0019]将所述第m个原始字符对应的各个预测标签的第一概率值乘以所述第m个原始字符对应的第一正向置信度得到所述第m个原始字符对应的各个预测标签的第三概率值;所述第一正向置信度取值为m/n;
[0020]利用反向排序的所述待检测分句中第n个到第m个原始字符的字特征,得到所述第m个原始字符对应的各个预测标签的第二概率值;
[0021]将所述第m个原始字符对应的各个预测标签的第二概率值乘以所述第m个原始字符对应的第一反向置信度得到所述第m个原始字符对应的各个预测标签的第四概率值;所述第一反向置信度取值为(n-m+1)/n;
[0022]将所述第m个原始字符对应的各个预测标签的第三概率值以及第四概率值进行融合,得到所述第m个原始字符对应的各个预测标签的第二总概率值;
[0023]将所述第二总概率值最大的预测标签确定为所述待检测分句中第m个原始字符对应的预测字符。
[0024]在一种可能的实现方式中,所述错别字检测模型的训练过程包括:
[0025]获取训练分句,其中,正向排序的所述训练分句中第1个到第i个字符对应的标签为所述第i个字符,反向排序的所述训练分句中第k个到第i个字符对应的标签为所述第i个字符;k为所述训练分句的字符数量,i的取值分别为1到k的整数;
[0026]将所述训练分句输入待训练错别字检测模型,以使所述待训练错别字检测模型利用正向排序的所述训练分句中第1个到第i个字符的字特征以及所述训练分句中第1个到第i个字符对应的标签,得到所述第i个字符对应的第一损失值,将所述训练分句中第1个到第k个字符的第一损失值相加得到正向损失值;利用反向排序的所述训练分句中第k个到第i个字符的字特征以及所述训练分句中第k个到第i个字符对应的标签,得到所述第i个字符对应的第二损失值,将所述训练分句中第1个到第k个字符的第二损失值相加得到反向损失值,将所述正向损失值以及所述反向损失值相加得到第一总损失值;
[0027]根据所述第一总损失值对所述待训练错别字检测模型进行调整,返回执行所述获取训练分句以及后续步骤,直到达到预设条件生成错别字检测模型。
[0028]在一种可能的实现方式中,所述错别字检测模型的训练过程包括:
[0029]获取训练分句,其中,正向排序的所述训练分句中第1个到第i个字符对应的标签为所述第i个字符,反向排序的所述训练分句中第k个到第i个字符对应的标签为所述第i个字符;k为所述训练分句的字符数量,i的取值分别为1到k的整数;
[0030]将所述训练分句输入待训练错别字检测模型,以使所述待训练错别字检测模型利用正向排序的所述训练分句中第1个到第i个字符的字特征以及所述训练分句中第1个到第i个字符对应的标签,得到所述第i个字符对应的第一损失值,将所述第i个字符对应的第一损失值乘以所述第i个字符对应的第二正向置信度得到所述第i个原始字符对应的第三损失值,将所述训练分句中第1个到第k个字符的第三损失值相加得到正向损失值;利用反向排序的所述训练分句中第k个到第i个字符的字特征以及所述训练分句中第k个到第i个字
符对应的标签,得到所述第i个字符对应的第二损失值,将所述第i个字符对应的第二损失值乘以所述第i个字符对应的第二反向置信度得到所述第i个原始字符对应的第四损失值,将所述训练分句中第1个到第k个字符的第四损失值相加得到反向损失值,将所述正向损失值以及所述反向损失值相加得到第二总损失值;所述第二正向置信度取值为i/k;所述第二反向置信度取值为(k-i+1)/k;
[0031]根据所述第二总损失值对所述待训练错别字检测模型进行调整,返回执行所述获取训练分句以及后续步骤,直到达到预设条件生成错别字检测模型。
[0032]在一种可能的实现方式中,所述方法还包括:
[0033]对所述待检测分句进行实体识别,识别所述待检测分句包括的特定术语;
[0034]将所述待检测分句中的特定术语替换为第一预设字符。
[0035]在一种可能的实现方式中,所述方法还包括:
[0036]利用正则表达式对所述待检测分句中的特定字符进行识别;
[0037]将所述待检测分句中的特定字符替换为本文档来自技高网
...

【技术保护点】

【技术特征摘要】
1.一种错别字检测方法,其特征在于,所述方法包括:获取待检测分句;将所述待检测分句输入错别字检测模型,得到所述错别字检测模型输出的各个原始字符对应的预测字符;所述错别字检测模型用于利用正向排序的所述待检测分句中第1个到第m个原始字符得到所述第m个原始字符对应的第一预测结果,利用反向排序的所述待检测分句中第n个到第m个原始字符得到所述第m个原始字符对应的第二预测结果,根据所述第m个原始字符对应的第一预测结果以及第二预测结果得到所述待检测分句中第m个原始字符对应的预测字符;其中,n为所述待检测分句的字符数量,m的取值分别为1到n的整数;将所述待检测分句中与对应的预测字符不一致的原始字符确定为错别字。2.根据权利要求1所述的方法,其特征在于,所述错别字检测模型具体用于:提取所述待检测分句中各个原始字符的字特征;利用正向排序的所述待检测分句中第1个到第m个原始字符的字特征,得到所述第m个原始字符对应的各个预测标签的第一概率值;利用反向排序的所述待检测分句中第n个到第m个原始字符的字特征,得到所述第m个原始字符对应的各个预测标签的第二概率值;将所述第m个原始字符对应的各个预测标签的第一概率值以及第二概率值进行融合,得到所述第m个原始字符对应的各个预测标签的第一总概率值;将所述第一总概率值最大的预测标签确定为所述待检测分句中第m个原始字符对应的预测字符。3.根据权利要求1所述的方法,其特征在于,所述错别字检测模型具体用于:提取所述待检测分句中各个原始字符的字特征;利用正向排序的所述待检测分句中第1个到第m个原始字符的字特征,得到所述第m个原始字符对应的各个预测标签的第一概率值;将所述第m个原始字符对应的各个预测标签的第一概率值乘以所述第m个原始字符对应的第一正向置信度得到所述第m个原始字符对应的各个预测标签的第三概率值;所述第一正向置信度取值为m/n;利用反向排序的所述待检测分句中第n个到第m个原始字符的字特征,得到所述第m个原始字符对应的各个预测标签的第二概率值;将所述第m个原始字符对应的各个预测标签的第二概率值乘以所述第m个原始字符对应的第一反向置信度得到所述第m个原始字符对应的各个预测标签的第四概率值;所述第一反向置信度取值为(n-m+1)/n;将所述第m个原始字符对应的各个预测标签的第三概率值以及第四概率值进行融合,得到所述第m个原始字符对应的各个预测标签的第二总概率值;将所述第二总概率值最大的预测标签确定为所述待检测分句中第m个原始字符对应的预测字符。4.根据权利要求2所述的方法,其特征在于,所述错别字检测模型的训练过程包括:获取训练分句,其中,正向排序的所述训练分句中第1个到第i个字符对应的标签为所述第i个字符,反向排序的所述训练分句中第k个到第i个字符对应的标签为所述第i个字符;k为所述训练分句的字符数量,i的取值分别为1到k的整数;
将所述训练分句输入待训练错别字检测模型,以使所述待训练错别字检测模型利用正向排序的所述训练分句中第1个到第i个字符的字特征以及所述训练分句中第1个到第i个字符对应的标签,得到所述第i个字符对应的第一损失值,将所述训练分句中第1个到第k个字符的第一损失值相加得到正向损失值;利用反向排序的所述训练分句中第k个到第i个字符的字特征以及所述训练分句中第k个到第i个字符对应的标签,得到所述第i个字符对应的第二损失值,将所述训练分句中第1个到第k个字...

【专利技术属性】
技术研发人员:顾文剑贾弼然蔡巍张霞
申请(专利权)人:沈阳东软智能医疗科技研究院有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1