文本处理方法、装置、设备及介质制造方法及图纸

技术编号:32361210 阅读:24 留言:0更新日期:2022-02-20 03:28
本公开提供了一种文本处理方法、装置、设备及介质,涉及人工智能领域,尤其涉及文本处理技术领域。实现方案为:基于待处理文本片段中目标位置处的字特征信息,确定目标位置所对应的多个备选字符中的每一个备选字符的第一概率值,其中,字特征信息至少基于待处理文本片段在目标位置处的上下文而确定;针对多个备选字符中的每一个备选字符,基于该备选字符和待处理文本片段中靠近目标位置的至少一个位置处的字符所构成的字符串,确定该备选字符的第二概率值;以及基于多个备选字符中的每一个备选字符的第一概率值和第二概率值,确定目标位置处的校正字符。位置处的校正字符。位置处的校正字符。

【技术实现步骤摘要】
文本处理方法、装置、设备及介质


[0001]本公开涉及人工智能
,尤其涉及文本处理
,具体涉及一种文本处理的方法、装置、电子设备、计算机可读存储介质和计算机程序产品。

技术介绍

[0002]人工智能是研究使计算机来模拟人的某些思维过程和智能行为(如学习、推理、思考、规划等)的学科,既有硬件层面的技术也有软件层面的技术。人工智能硬件技术一般包括如传感器、专用人工智能芯片、云计算、分布式存储、大数据处理等技术、人工智能软件技术主要包括计算机视觉技术、语音识别技术、自然语言处理技术以及机器学习/深度学习、大数据处理技术、知识图谱技术等几大方向。
[0003]在此部分中描述的方法不一定是之前已经设想到或采用的方法。除非另有指明,否则不应假定此部分中描述的任何方法仅因其包括在此部分中就被认为是现有技术。类似地,除非另有指明,否则此部分中提及的问题不应认为在任何现有技术中已被公认。

技术实现思路

[0004]本公开提供了一种文本处理的方法、装置、电子设备、计算机可读存储介质和计算机程序产品。
[0005]根据本公本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种文本处理方法,包括:基于待处理文本片段中目标位置处的字特征信息,确定所述目标位置所对应的多个备选字符中的每一个备选字符的第一概率值,其中,所述字特征信息至少基于所述待处理文本片段在所述目标位置处的上下文而确定;针对所述多个备选字符中的每一个备选字符,基于该备选字符和所述待处理文本片段中靠近所述目标位置的至少一个位置处的字符所构成的字符串,确定该备选字符的第二概率值;以及基于所述多个备选字符中的每一个备选字符的所述第一概率值和所述第二概率值,确定所述目标位置处的校正字符。2.根据权利要求1所述的方法,其中,所述确定该备选字符的第二概率值包括:响应于该备选字符和所述待处理文本片段中靠近所述目标位置的至少一个位置处的字符所构成的字符串为预存实体词,确定该备选字符的第二概率值为正数,其中,所述预存实体词为基于对待处理文本中除去所述待处理文本片段以外的其它片段所执行的实体词识别而确定。3.根据权利要求2所述的方法,其中,该备选字符的第二概率值与所述预存实体词在待处理文本的所述其它片段中应用的次数正相关。4.根据权利要求2或3所述的方法,还包括:响应于该备选字符和所述待处理文本片段中靠近所述目标位置的至少一个位置处的字符所构成的字符串不为预存实体词,确定该备选字符的第二概率值为零。5.根据权利要求1至4中任意一项所述的方法,还包括:在所述基于待处理文本片段中目标位置处的字特征信息,确定所述目标位置所对应的多个备选字符中的每一个备选字符的第一概率值之前,分别确定所述待处理文本片段的片段特征信息和多个参考文本片段中的每一者的片段特征信息,其中,所述多个参考文本片段与所述待处理文本片段来自同一待处理文本;基于所述待处理文本片段的片段特征信息和多个参考文本片段中的每一者的片段特征信息,确定所述待处理文本片段的整体特征信息;以及基于所述待处理文本片段的整体特征信息,确定所述待处理文本片段中的目标位置处的字特征信息。6.根据权利要求5所述的方法,其中,所述基于所述待处理文本片段的片段特征信息和多个参考文本片段中的每一者的片段特征信息,确定所述待处理文本片段的整体特征信息包括:利用多头注意力机制来确定所述待处理文本片段的整体特征信息。7.根据权利要求1至6中任意一项所述的方法,其中,所述待处理文本片段为待处理文本中的一句。8.一种文本处理装置,包括:第一确定单元,被配置用于基于待处理文本片段中目标位置处的字特征信息,确定所述目标位置所对应的多个备选字符中的每一个备选字符的第一概率值,其中,所述字特征信息至少基于所述待处理文本片段在所述目标位置处的上下文而确定;第二确定单元,被配置用于针对所述多个备选字...

【专利技术属性】
技术研发人员:张睿卿何中军李芝吴华
申请(专利权)人:北京百度网讯科技有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1