System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind()
【技术实现步骤摘要】
本申请涉及语音处理,更具体的说,是涉及一种语音识别方法、装置、设备及可读存储介质。
技术介绍
1、目前的语音识别模型有传统的语音识别模型和端到端语音识别模型,其中,传统的语音识别模型是声学模型和语言模型独立建模的,端到端语音识别模型具有声学和语言联合建模的优点,成为现阶段应用最广泛的语音识别模型。
2、语音识别应用场景包括很多个领域,比如教育、医疗、车载等等,因此,如何保证端到端语音识别模型在各领域的识别效果,成为本领域技术人员亟待解决的技术问题。
技术实现思路
1、鉴于上述问题,本申请提出了一种语音识别方法、装置、设备及可读存储介质。具体方案如下:
2、一种语音识别方法,所述方法包括:
3、获取待识别语音数据;
4、确定所述待识别语音数据的声学特征序列;
5、获取所述待识别语音数据所属领域的提示向量参数,所述提示向量参数是用于指示所述领域专有的语音识别信息;
6、将所述提示向量参数和所述声学特征序列,输入多领域语音识别模型,所述多领域语音识别模型对所述提示向量参数和所述声学特征序列进行编解码处理,得到所述语音数据的识别结果,所述多领域语音识别模型和所述提示向量参数是通过对端到端语音识别模型进行领域自适应训练得到的。
7、可选地,所述多领域语音识别模型,包括:编码器和解码器;所述编码器中包括n个编码块,所述解码器中包括n个解码块,所述编码块和所述解码块均包括注意力机制模块;
8、所述多领
9、所述编码器基于所述提示向量参数和所述声学特征序列进行编码处理,所述解码器基于所述提示向量参数和所述编码器的输出进行解码处理,得到所述语音数据的识别结果。
10、可选地,所述提示向量参数包括键提示向量参数和值提示向量参数,每个注意力机制模块的处理方式包括:
11、确定查询向量参数、键向量参数和值向量参数;
12、将所述键提示向量参数与所述键向量参数进行拼接,得到键拼接向量参数;
13、将所述值提示向量参数与所述值向量参数进行拼接,得到值拼接向量参数;
14、基于所述查询向量参数、所述键拼接向量参数和所述值拼接向量参数,计算所述注意力机制模块的输出。
15、可选地,所述编码块包括第一注意力机制模块,针对每个编码块的注意力机制模块,所述查询向量参数、键向量参数和值向量参数的确定方式,包括:
16、基于所述编码块的原始输入计算查询向量参数、键向量参数和值向量参数;
17、其中,第一个编码块的原始输入为所述待识别语音数据的声学特征序列,除所述第一个编码块之外的其他编码块的原始输入为其上一个编码块的输出。
18、可选地,所述解码块包括第二注意力机制模块和第三注意力机制模块,针对所述解码块的每个注意力机制模块,所述查询向量参数、键向量参数和值向量参数的确定方式,包括:
19、基于所述注意力机制模块的原始输入计算查询向量参数、键向量参数和值向量参数;
20、其中,第一个解码块的第二注意力机制模块的原始输入为已解码出的文本序列,第三注意力机制模块的原始解码输入为该解码块中第一注意力机制模块输出和所述编码器的输出;除所述第一个解码块之外的其他解码块的第二注意力机制模块的原始输入为其上一个解码块的输出,第三注意力机制模块的原始输入为该解码块中第二注意力机制模块的输出。
21、可选地,所述基于所述查询向量参数、所述键拼接向量参数和所述值拼接向量参数,计算所述注意力机制模块的输出,包括:
22、将所述查询向量参数与所述键拼接向量参数进行矩阵相乘,得到注意力机制的权重;
23、将所述注意力机制的权重与所述值拼接向量参数进行矩阵相乘,得到所述注意力机制模块的输出。
24、可选地,所述注意力机制模块为单头注意力机制模块或多头注意力机制模块中的每个注意力机制层。
25、可选地,所述对端到端语音识别模型进行领域自适应训练的方式包括:
26、获取各领域的语音识别训练数据,以及,各领域的初始提示向量参数;每个领域的语音识别训练数据包括所述领域的训练用语音的声学特征序列,以及与所述训练用语音对应的文本标注序列;
27、将各个领域的训练用语音的声学特征序列输入端到端语音识别模型,将各个领域的提示向量参数输入所述端到端语音识别模型中各注意力机制模块,得到所述端到端语音识别模型输出的结果;
28、根据所述端到端语音识别模型输出的结果以及所述训练用语音对应的文本标注序列,确定所述端到端语音识别模型的预测损失;
29、根据所述端到端语音识别模型的预测损失,对各个领域的提示向量参数进行更新,训练结束后得到所述多领域语音识别模型以及各个领域的提示向量参数。
30、一种语音识别装置,所述装置包括:
31、语音数据获取单元,用于获取待识别语音数据;
32、声学特征序列确定单元,用于确定所述待识别语音数据的声学特征序列;
33、提示向量参数获取单元,用于获取所述待识别语音数据所属领域的提示向量参数,所述提示向量参数是用于指示所述领域专有的语音识别信息;
34、识别单元,用于将所述提示向量参数和所述声学特征序列,输入多领域语音识别模型,所述多领域语音识别模型对所述提示向量参数和所述声学特征序列进行编解码处理,得到所述语音数据的识别结果,所述多领域语音识别模型和所述提示向量参数是通过对端到端语音识别模型进行领域自适应训练得到的。
35、可选地,所述多领域语音识别模型,包括:编码器和解码器;所述编码器中包括n个编码块,所述解码器中包括n个解码块,所述编码块和所述解码块均包括注意力机制模块;
36、所述识别单元,具体用于:
37、所述编码器基于所述提示向量参数和所述声学特征序列进行编码处理,所述解码器基于所述提示向量参数和所述编码器的输出进行解码处理,得到所述语音数据的识别结果。
38、可选地,所述提示向量参数包括键提示向量参数和值提示向量参数,所述注意力机制模块,包括:
39、确定单元,用于确定查询向量参数、键向量参数和值向量参数;
40、第一拼接单元,用于将所述键提示向量参数与所述键向量参数进行拼接,得到键拼接向量参数;
41、第二拼接单元,将所述值提示向量参数与所述值向量参数进行拼接,得到值拼接向量参数;
42、计算单元,用于基于所述查询向量参数、所述键拼接向量参数和所述值拼接向量参数,计算所述注意力机制模块的输出。
43、可选地,所述编码块包括第一注意力机制模块,针对每个编码块的注意力机制模块,所述确定单元,具体用于:
44、基于所述编码块的原始输入计算查询向量参数本文档来自技高网...
【技术保护点】
1.一种语音识别方法,其特征在于,所述方法包括:
2.根据权利要求1所述的方法,其特征在于,所述多领域语音识别模型,包括:编码器和解码器;所述编码器中包括N个编码块,所述解码器中包括N个解码块,所述编码块和所述解码块均包括注意力机制模块;
3.根据权利要求2所述的方法,其特征在于,所述提示向量参数包括键提示向量参数和值提示向量参数,每个注意力机制模块的处理方式包括:
4.根据权利要求3所述的方法,其特征在于,所述编码块包括第一注意力机制模块,针对每个编码块的注意力机制模块,所述查询向量参数、键向量参数和值向量参数的确定方式,包括:
5.根据权利要求3所述的方法,其特征在于,所述解码块包括第二注意力机制模块和第三注意力机制模块,针对所述解码块的每个注意力机制模块,所述查询向量参数、键向量参数和值向量参数的确定方式,包括:
6.根据权利要求3所述的方法,其特征在于,所述基于所述查询向量参数、所述键拼接向量参数和所述值拼接向量参数,计算所述注意力机制模块的输出,包括:
7.根据权利要求2所述的方法,其特征在于,所述
8.根据权利要求1所述的方法,其特征在于,所述对端到端语音识别模型进行领域自适应训练的方式包括:
9.一种语音识别装置,其特征在于,所述装置包括:
10.一种语音识别设备,其特征在于,包括存储器和处理器;
11.一种可读存储介质,其上存储有计算机程序,其特征在于,所述计算机程序被处理器执行时,实现如权利要求1至8中任一项所述的语音识别方法的各个步骤。
...【技术特征摘要】
1.一种语音识别方法,其特征在于,所述方法包括:
2.根据权利要求1所述的方法,其特征在于,所述多领域语音识别模型,包括:编码器和解码器;所述编码器中包括n个编码块,所述解码器中包括n个解码块,所述编码块和所述解码块均包括注意力机制模块;
3.根据权利要求2所述的方法,其特征在于,所述提示向量参数包括键提示向量参数和值提示向量参数,每个注意力机制模块的处理方式包括:
4.根据权利要求3所述的方法,其特征在于,所述编码块包括第一注意力机制模块,针对每个编码块的注意力机制模块,所述查询向量参数、键向量参数和值向量参数的确定方式,包括:
5.根据权利要求3所述的方法,其特征在于,所述解码块包括第二注意力机制模块和第三注意力机制模块,针对所述解码块的每个注意力机制模块,所述查询向量参数、...
【专利技术属性】
技术研发人员:马志强,李永超,孙磊,
申请(专利权)人:科大讯飞股份有限公司,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。