语音识别模型训练方法及语音识别方法技术

本发明专利技术公开一种语音识别模型训练方法，包括：采用多语言样本集对语音识别模型进行预训练得到初始语音识别模型，所述多语言样本集中包括目标语言样本集；采用预先训练得到的语言分类器确定目标语言的后验概率；根据所述后验概率在基于所述多语言样本集进行训练过程中进行数据加权；至少根据数据加权结果训练所述初始语音识别模型；采用所述目标语言样本集对训练后的初始语音识别模型进行调整。本发明专利技术为了利用目标语言和源语言之间的相似性进行ASR训练，采用目标语言的后验概率对多语言样本集中的样本进行加权处理，从而在多语言数据集中找到与目标语言更相似的数据，以实现更好的适应性。

【技术实现步骤摘要】
语音识别模型训练方法及语音识别方法
本专利技术涉及语音识别
，尤其涉及一种语音识别模型训练方法及语音识别方法。
技术介绍
自动语音识别(ASR)是人机交互的入口，在研究界和行业界都引起了极大的关注。然而，训练最先进的语音识别系统通常需要成百上千小时的转录语音。尽管世界上有超过6000种语言，但其中大多数都遭受标注数据不足的困扰。对于许多语言，只有少数带标注的数据可用。为了解决资源短缺情况下的数据稀疏性问题，对于多语言ASR或多语言预训练，现有技术只需将来自不同语言的数据或根据多项分布的发声样本进行组合，以减轻数据不平衡。但是他们没有考虑语言之间的关系和相关性。
技术实现思路
本专利技术实施例提供一种语音识别模型训练方法及语音识别方法，用于至少解决上述技术问题之一。第一方面，本专利技术实施例提供一种语音识别模型训练方法，包括：采用多语言样本集对语音识别模型进行预训练得到初始语音识别模型，所述多语言样本集中包括目标语言样本集；采用预先训练得到的语言分类器确定目标语言的后验概率；根据所述后验概率在基于所述多语言样本集进行训练过程中进行数据加权；至少根据数据加权结果训练所述初始语音识别模型；采用所述目标语言样本集对训练后的初始语音识别模型进行调整。第二方面，本专利技术实施例提供一种语音识别方法，其特征在于，包括：接收待识别语料，所述待识别语料为目标语料；采用本专利技术所述的语音识别模型训练方法训练得到的语音识别模型对所述目标语料进行识别处理。第三方面，本专利技术实施例提供一种存储介质，所述存储介质中存储有一个或多个包括执行指令的程序，所述执行指令能够被电子设备(包括但不限于计算机，服务器，或者网络设备等)读取并执行，以用于执行本专利技术上述任一项语音识别方法。第四方面，提供一种电子设备，其包括：至少一个处理器，以及与所述至少一个处理器通信连接的存储器，其中，所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行本专利技术上述任一项语音识别方法。第五方面，本专利技术实施例还提供一种计算机程序产品，所述计算机程序产品包括存储在存储介质上的计算机程序，所述计算机程序包括程序指令，当所述程序指令被计算机执行时，使所述计算机执行上述任一项语音识别方法。本专利技术为了利用目标语言和源语言之间的相似性进行ASR训练，采用目标语言的后验概率对多语言样本集中的样本进行加权处理，从而在多语言数据集中找到与目标语言更相似的数据，以实现更好的适应性。附图说明为了更清楚地说明本专利技术实施例的技术方案，下面将对实施例描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图是本专利技术的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。图1为本专利技术的语音识别模型训练方法的一实施例的流程图；图2为本专利技术的语音识别模型训练方法的另一实施例的流程图；图3为本专利技术的语音识别模型训练方法的另一实施例的流程图；图4为本专利技术的语音识别模型训练方法的另一实施例的流程图；图5为本专利技术的语音识别模型训练方法的另一实施例的流程图；图6为本专利技术中的数据加权方法一实施例的示意图；图7为本专利技术中的长度扰动方法一实施例的示意图；图8为本专利技术的电子设备的一实施例的结构示意图。具体实施方式为使本专利技术实施例的目的、技术方案和优点更加清楚，下面将结合本专利技术实施例中的附图，对本专利技术实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本专利技术一部分实施例，而不是全部的实施例。基于本专利技术中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本专利技术保护的范围。需要说明的是，在不冲突的情况下，本申请中的实施例及实施例中的特征可以相互组合。本专利技术可以在由计算机执行的计算机可执行指令的一般上下文中描述，例如程序模块。一般地，程序模块包括执行特定任务或实现特定抽象数据类型的例程、程序、对象、元件、数据结构等等。也可以在分布式计算环境中实践本专利技术，在这些分布式计算环境中，由通过通信网络而被连接的远程处理设备来执行任务。在分布式计算环境中，程序模块可以位于包括存储设备在内的本地和远程计算机存储介质中。还需要说明的是，在本文中，诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来，而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且，术语“包括”、“包含”，不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括……”限定的要素，并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。如图1所示，本专利技术的实施例提供一种语音识别模型训练方法，包括：S10、采用多语言样本集对语音识别模型进行预训练得到初始语音识别模型，所述多语言样本集中包括目标语言样本集。示例性地，初始语音识别模型可以为端到端自动语音识别(ASR)模型。目标语言样本集为低资源语言，多语言样本集中的其它语言样本为丰富资源语言。S20、采用预先训练得到的语言分类器确定目标语言的后验概率。示例性地，采用语言分类器对目标语言的语料进行处理得到相应的后验概率。例如，将目标语言的所有语句分别输入至语言分类器得到每个语句的后验概率。S30、根据所述后验概率在基于所述多语言样本集进行训练过程中进行数据加权。S40、至少根据数据加权结果训练所述初始语音识别模型。示例性地，本实施例中的数据加权结果包括将语句输入至语言分类器之后得到的后验概率与多语言样本集中样本语句的乘积。S50、采用所述目标语言样本集对训练后的初始语音识别模型进行调整。本专利技术为了利用目标语言和源语言(多语言样本集中除去目标语言之外的语言)之间的相似性进行ASR训练，采用目标语言的后验概率对多语言样本集中的样本进行加权处理，从而在多语言数据集(多语言样本集)中找到与目标语言更相似的数据，以实现更好的适应性。在语句级别上获得语言之间相似性的直接方法是训练语言分类器。从模型的角度来看，来自分类器的目标语言的后验可以视为语言相似度，然后在多语言预训练中将其用作每个语句的权重。专利技术人在实现本专利技术的过程中发现，在直接采用后验概率进行数据加权处理时会导致不稳定的训练梯度，从而导致了较差的语音识别性能。为此本专利技术中通过对后验概率进行预处理得到权重值来对数据进行加权处理。在一些实施例中，根据所述后验概率在基于所述多语言样本集进行训练过程中进行数据加权，包括：对后验概率做如下预处理得到权重值：其中pi表示批次中第i个样本的目标语言的后验，n表示批次的大小；采用得到的权重值在多语言样本集中的语句进行加权处本文档来自技高网...

【技术保护点】
1.一种语音识别模型训练方法，包括：/n采用多语言样本集对语音识别模型进行预训练得到初始语音识别模型，所述多语言样本集中包括目标语言样本集；/n采用预先训练得到的语言分类器确定目标语言的后验概率；/n根据所述后验概率在基于所述多语言样本集进行训练过程中进行数据加权；/n至少根据数据加权结果训练所述初始语音识别模型；/n采用所述目标语言样本集对训练后的初始语音识别模型进行调整。/n

【技术特征摘要】
1.一种语音识别模型训练方法，包括：
采用多语言样本集对语音识别模型进行预训练得到初始语音识别模型，所述多语言样本集中包括目标语言样本集；
采用预先训练得到的语言分类器确定目标语言的后验概率；
根据所述后验概率在基于所述多语言样本集进行训练过程中进行数据加权；
至少根据数据加权结果训练所述初始语音识别模型；
采用所述目标语言样本集对训练后的初始语音识别模型进行调整。


2.根据权利要求1所述的方法，其特征在于，所述方法还包括：
对所述多语言样本集中的语料进行对齐处理；
根据对齐处理结果确定所述语料中的每个词在语料中的位置和边界；
根据所述位置和边界对所述语料进行数据增广；
所述至少根据数据加权结果训练所述初始语音识别模型，包括：
根据数据加权结果和数据增广结果训练所述初始化语音识别模型。


3.根据权利要求2所述的方法，其特征在于，根据所述位置和边界对所述语料进行数据增广，包括：根据所述位置和边界对所述语料进行长度扰动处理。


4.根据权利要求2或3所述的方法，其特征在于，所述根据数据加权结果和数据增广结果训练所述初始化语音识别模型，包括：
确定数据加权结果和数据增广结果所对应的新的多语言样本集；
从所述新的多语言样本集中获取第i子部分样本对所述初始化语音识别模型进行第i轮训练；<...

【专利技术属性】
技术研发人员：钱彦旻，周之恺，王巍，卢怡宙，
申请(专利权)人：思必驰科技股份有限公司，
类型：发明
国别省市：江苏;32