文本识别方法、文本识别网络的训练方法及装置制造方法及图纸

本公开提供了文本识别方法、文本识别网络的训练方法及装置，涉及图像处理技术领域，尤其涉及基于人工智能的文本识别技术领域。具体实现方案为：确定待识别图像对应的编码后的序列特征；基于所述编码后的序列特征和文本实例对应的字符特征，确定解码后的序列向量；基于所述解码后的序列向量，确定所述待识别图像中包括的文本；其中，所述文本实例包括预设的至少一个字符；所述字符包括字母、数字、符号、文字中至少一种。字中至少一种。字中至少一种。

【技术实现步骤摘要】
文本识别方法、文本识别网络的训练方法及装置


[0001]本公开涉及图像处理
，尤其涉及人工智能的文本识别方法、文本识别网络的训练方法及装置。

技术介绍

[0002]文本识别是指在现有的通过文字检测方法确定出图像中文本的位置，并找出其边界框之后，对图像中的文字进行识别，可以广泛应用于身份证识别、票据识别等业务场景，从而大幅度节省人工录入时间，并提高各种应用场景中的效率。

技术实现思路

[0003]本公开提供了一种文本识别方法、文本识别网络的训练方法及装置。
[0004]根据本公开的一方面，提供了一种文本识别方法，包括：
[0005]确定待识别图像对应的编码后的序列特征；
[0006]基于所述编码后的序列特征和文本实例对应的字符特征，确定解码后的序列向量；
[0007]基于所述解码后的序列向量，确定所述待识别图像中包括的文本；
[0008]其中，所述文本实例包括预设的至少一个字符。
[0009]根据本公开的另一方面，提供了一种文本识别网络的训练方法，所述文本识别网络包括编码子网络、译码子网络和输出子网络，所述方法包括：
[0010]基于所述编码子网络确定训练样本集中样本图像对应的编码后的序列样本特征；
[0011]以所述编码后的序列样本特征和文本实例样本对应的字符样本特征作为所述译码子网络的跨层注意力层的输入，将所述跨层注意力层的输出确定为解码后的样本序列向量；
[0012]将所述解码后的样本序列向量作为所述输出子网络的输入，根据所述输出子网络的输出，确定所述样本图像中包括的预测文本；
[0013]匹配所述样本图像包括的预测文本和所述样本图像包括的标注文本，基于匹配结果调整所述文本识别网络的参数；
[0014]其中，所述文本实例包括预设的至少一个字符；所述字符包括字母、数字、符号、文字中至少一种。
[0015]本公开第三方面提供一种文本识别装置，包括：
[0016]编码单元，用于确定待识别图像对应的编码后的序列特征；
[0017]译码单元，用于基于所述编码后的序列特征和文本实例对应的字符特征，确定解码后的序列向量；
[0018]输出单元，用于基于所述解码后的序列向量，确定所述待识别图像中包括的文本；
[0019]其中，所述文本实例包括预设的至少一个字符。
[0020]本公开第四方面提供一种文本识别网络的训练装置，包括：
[0021]第一确定单元，用于基于所述编码子网络确定训练样本集中样本图像对应的编码后的序列样本特征；
[0022]第二确定单元，用于以所述编码后的序列样本特征和文本实例样本对应的字符样本特征作为所述译码子网络的跨层注意力层的输入，将所述跨层注意力层的输出确定为解码后的样本序列向量；
[0023]第三确定单元，用于将所述解码后的样本序列向量作为所述输出子网络的输入，根据所述输出子网络的输出，确定所述样本图像中包括的预测文本；
[0024]调整单元，用于匹配所述样本图像包括的预测文本和所述样本图像包括的标注文本，基于匹配结果调整所述文本识别网络的参数；
[0025]其中，所述文本实例包括预设的至少一个字符；所述字符包括字母、数字、符号、文字中至少一种。
[0026]本公开第五方面提供一种电子设备，包括：至少一个处理器；以及与所述至少一个处理器通信连接的存储器；其中，所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行上述所述的文本识别方法或文本识别网络的训练方法。
[0027]本公开第六方面提供一种存储有计算机指令的非瞬时计算机可读存储介质，其中，所述计算机指令用于使所述计算机执行上述所述的文本识别方法或文本识别网络的训练方法。
[0028]本公开第七方面提供一种计算机程序产品，包括计算机程序/指令，所述计算机程序/指令在被处理器执行时实现上述所述的文本识别方法或文本识别网络的训练方法。
[0029]应当理解，本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征，也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。
附图说明
[0030]附图用于更好地理解本方案，不构成对本公开的限定。其中：
[0031]图1示出了本公开实施例提供的文本识别方法的一种可选流程示意图；
[0032]图2示出了本公开实施例提供的文本识别网络的训练方法的一种可选流程示意图；
[0033]图3示出了本公开实施例提供的文本识别网络的训练方法的另一种可选流程示意图；
[0034]图4示出了本公开实施例提供的文本识别方法的数据示意图；
[0035]图5示出了本公开实施例提供的基础子网络迁移的示意图；
[0036]图6示出了本公开实施例提供的文本识别装置的一种可选结构示意图；
[0037]图7示出了本公开实施例提供的文本识别网络的训练装置的一种可选结构示意图；
[0038]图8示出了可以用来实施本公开的实施例的示例电子设备的示意性框图。
具体实施方式
[0039]以下结合附图对本公开的示范性实施例做出说明，其中包括本公开实施例的各种
细节以助于理解，应当将它们认为仅仅是示范性的。因此，本领域普通技术人员应当认识到，可以对这里描述的实施例做出各种改变和修改，而不会背离本公开的范围和精神。同样，为了清楚和简明，以下的描述中省略了对公知功能和结构的描述。
[0040]文字检测技术是指确定出图像中文本的位置，并找出其边界框。它是很多视觉任务的前置步骤，比如文本识别和场景理解等，可以广泛应用于身份证识别、票据识别等业务场景，从而大幅度节省人工录入时间，并提高各种应用场景中的效率。自然场景的文字检测和通用目标检测相比有其特殊性，作为视觉主体目标的文字，其字体、大小、颜色、方向、形状等呈现出多样化的特征，相比于一般的目标检测难度更大。近些年来，文字检测技术得到了快速发展，文字检测模型预训练是一种提升模型效果的重要方法，尤其在缺少大量数据的真实的应用场景下。
[0041]现有文字检测预训练方法主要有两种方式，一是直接迁移在图像分类任务大规模数据集上训练过的模型到文字检测任务，一是在大规模合成的文字检测数据上训练后，再使用真实数据调优，这两种方式都能一定程度缓解真实数据过少的问题，但是由于预训练任务和合成的数据与真实场景下的检测任务还是存在巨大差异，无法充分挖掘文字的语义信息，并不能使效果达到最好。
[0042]文字检测方法主要有EAST[2]等算法，现有的文字检测预训练方法主要有两种方式，一是直接迁移在图像分类任务大规模数据集上训练过的模型到文字检测任务，一是在大规模合成的文字检测数据上训练后，再使用真实数据调优，这两种方式都能一定程度缓解真实数据过少的问题，但是由于预训练任务和合成的数据与真实场景下的检测任务还是存在巨大差异，无法充分挖掘文字的本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种文本识别方法，包括：确定待识别图像对应的编码后的序列特征；基于所述编码后的序列特征和文本实例对应的字符特征，确定解码后的序列向量；基于所述解码后的序列向量，确定所述待识别图像中包括的文本；其中，所述文本实例包括预设的至少一个字符；所述字符包括字母、数字、符号、文字中至少一种。2.根据权利要求1所述的方法，其中，所述确定待识别图像对应的编码后的序列特征包括：将待识别图像对应的图像矩阵转换为的一维向量；确定所述一维向量对应的特征为所述待识别图像的序列特征；对所述序列特征进行编码，确定所述待识别图像对应的编码后的序列特征。3.根据权利要求1所述的方法，其中，所述确定解码后的序列向量之前，所述方法还包括：获取所述文本实例对应的嵌入值，所述嵌入值为所述文本实例对应的字符特征；其中，不同的文本实例对应的嵌入值不同。4.根据权利要求1所述的方法，其中，所述基于所述解码后的序列向量，确定所述待识别图像中包括的文本，包括：将所述解码后的序列向量作为前馈子网络的输入，根据所述前馈子网络的输出，确定所述待识别图像包括的文本。5.根据权利要求1所述的方法，其中，所述基于所述解码后的序列向量，确定所述待识别图像中包括的文本之后，所述方法还包括：将所述解码后的序列向量与所述编码后的序列特征对应的向量相乘，得到乘积结果；基于所述乘积结果，确定所述文本在所述编码后的序列特征中的位置信息；基于所述文本在所述编码后的序列特征中的位置信息，确定所述文本在所述待识别图像的位置信息；基于所述文本在所述待识别图像的位置信息和所述待识别图像中包括的文本，按照所述文本在所述待识别图像中的顺序，输出所述待识别图像中包括的文本。6.一种文本识别网络的训练方法，其中，文本识别网络包括编码子网络、译码子网络和输出子网络，所述方法包括：基于所述编码子网络确定训练样本集中样本图像对应的编码后的序列样本特征；以所述编码后的序列样本特征和文本实例样本对应的字符样本特征作为所述译码子网络的跨层注意力层的输入，将所述跨层注意力层的输出确定为解码后的样本序列向量；将所述解码后的样本序列向量作为所述输出子网络的输入，根据所述输出子网络的输出，确定所述样本图像中包括的预测文本；匹配所述样本图像包括的预测文本和所述样本图像包括的标注文本，基于匹配结果调整所述文本识别网络的参数；其中，所述文本实例包括预设的至少一个字符；所述字符包括字母、数字、符号、文字中至少一种。7.根据权利要求6所述的方法，其中，所述文本识别网络还包括基础子网络；所述基于
所述编码子网络确定训练样本集中样本图像对应的编码后的序列样本特征，包括：所述基础子网络将所述样本图像对应的图像矩阵转换为表征所述样本图像的一维向量；所述样本图像的一维向量对应的特征为所述样本图像的序列样本特征；所述编码子网络对所述序列样本特征进行编码，确定训练样本集中样本图像对应的编码后的序列样本特征。8.根据权利要求6所述的方法，其中，所述确定解码后的样本序列向量之前，所述方法还包括：将所述文本实例样本输入至所述译码子网络的自注意力层，基于所述自注意力层的输出获取所述文本实例样本对应的嵌入值，所述嵌入值为所述文本实例样本对应的字符样本特征；其中，不同的文本实例样本对应的嵌入值不同。9.根据权利要求6所述的方法，其中，将所述解码后的样本序列向量作为所述输出子网络的输入，根据所述输出子网络的输出，确定所述样本图像中包括的预测文本，包括：将所述解码后的样本序列向量作为所述输出子网络包括的前馈子网络的输入，获取所述样本图像对应的至少一个预测类型；其中，所述样本图像对应的至少一个预测类型包括所述样本图像中包括的文本所对应的类型。10.根据权利要求6所述的方法，其中，匹配所述样本图像包括的预测文本和所述样本图像包括的标注文本，基于匹配结果调整所述文本识别网络的参数，包括：若所述预测文本和所述标注文本相同，则确定不调整所述文本识别网络的参数；若所述预测文本和所述标注文本不同，则基于所述样本图像的预测文本和所述样本图像的标注文本之间的差异，调整所述文本识别网络的参数。11.一种文本识别装置，包括：编码单元，用于确定待识别图像对应的编码后的序列特征；译码单元，用于基于所述编码后的序列特征和文本实例对应的字符特征，确定解码后的序列向量；输出单元，用于基于所述解码后的序列向量，确定所述待识别图像中包括的文本；其中，所述文本实例包括预设的至少一个字符；所...

【专利技术属性】
技术研发人员：张晓强，钦夏孟，章成全，姚锟，
申请(专利权)人：北京百度网讯科技有限公司，
类型：发明
国别省市：