模型训练方法、语音识别方法、装置、存储介质及设备制造方法及图纸

技术编号:23606742 阅读:39 留言:0更新日期:2020-03-28 07:21
本发明专利技术实施例公开了模型训练方法、语音识别方法、装置、存储介质及设备。模型训练方法包括:将当前采样时刻对应的第一语音训练样本输入至第一声学神经网络模型中,得到当前采样时刻对应的至少两个第一损失函数,分别确定至少两个第一损失函数相对于上一个采样时刻的变化程度信息,根据变化程度信息确定至少两个第一损失函数分别对应的权重,并基于第一损失函数与权重计算拟合损失函数,利用拟合损失函数对第一声学神经网络模型进行反向传播。本发明专利技术实施例提供的技术方案,可以动态地调节各损失函数对应的权重,使得训练后得到的模型更加准确,在进行语音识别时,能够更加准确地识别出语音信息中包含的语音内容,且能够提升语音内容的识别率。

Model training method, speech recognition method, device, storage medium and equipment

【技术实现步骤摘要】
模型训练方法、语音识别方法、装置、存储介质及设备
本专利技术实施例涉及语音识别
,尤其涉及声学神经网络模型的训练方法、语音识别方法、装置、存储介质及设备。
技术介绍
随着人工智能技术的快速发展,人工神经网络得到了广泛的应用。人工神经网络又称神经网络,是一种模拟大脑神经突触联接的结构进行信息处理的模型。在语音识别领域,利用神经网络技术可以构建用于语音识别的声学神经网络模型,相比于传统的混合高斯模型以及隐马尔科夫模型等,具有很多优势。目前,声学神经网络模型的训练方案仍不够完善,需要改进。
技术实现思路
本专利技术实施例提供了声学神经网络模型的训练方法、语音识别方法、装置、存储介质及设备,可以优化现有的声学神经网络模型的训练方案。第一方面,本专利技术实施例提供了一种声学神经网络模型的训练方法,该方法包括:将当前采样时刻对应的第一语音训练样本输入至第一声学神经网络模型中,得到所述当前采样时刻对应的至少两个第一损失函数;分别确定所述至少两个第一损失函数相对于上一个采样时刻的变化程度信息;根据所述变本文档来自技高网...

【技术保护点】
1.一种声学神经网络模型的训练方法,其特征在于,包括:/n将当前采样时刻对应的第一语音训练样本输入至第一声学神经网络模型中,得到所述当前采样时刻对应的至少两个第一损失函数;/n分别确定所述至少两个第一损失函数相对于上一个采样时刻的变化程度信息;/n根据所述变化程度信息确定所述至少两个第一损失函数分别对应的权重,并基于所述至少两个第一损失函数与对应的权重计算拟合损失函数;/n利用所述拟合损失函数对所述第一声学神经网络模型进行反向传播,得到第二声学神经网络模型,以实现对所述第一声学神经网络模型的训练。/n

【技术特征摘要】
1.一种声学神经网络模型的训练方法,其特征在于,包括:
将当前采样时刻对应的第一语音训练样本输入至第一声学神经网络模型中,得到所述当前采样时刻对应的至少两个第一损失函数;
分别确定所述至少两个第一损失函数相对于上一个采样时刻的变化程度信息;
根据所述变化程度信息确定所述至少两个第一损失函数分别对应的权重,并基于所述至少两个第一损失函数与对应的权重计算拟合损失函数;
利用所述拟合损失函数对所述第一声学神经网络模型进行反向传播,得到第二声学神经网络模型,以实现对所述第一声学神经网络模型的训练。


2.根据权利要求1所述的方法,其特征在于,所述根据所述变化程度信息确定所述至少两个第一损失函数分别对应的权重,包括:
根据所述变化程度信息确定所述至少两个第一损失函数分别对应的权重,以使得对于所述至少两个第一损失函数中的任意两个第一损失函数来说,变化程度较大的第一损失函数对应的第一权重小于变化程度较小的第一损失函数对应的第二权重。


3.根据权利要求2所述的方法,其特征在于,所述至少两个第一损失函数分别对应的权重的和为1。


4.根据权利要求3所述的方法,其特征在于,所述根据所述变化程度信息确定所述至少两个第一损失函数分别对应的权重,包括:
采用预设分类函数对至少两个变化程度信息进行多分类处理,得到所述至少两个第一损失函数分别对应的权重。


5.根据权利要求4所述的方法,其特征在于,所述预设分类函数为归一化指数函数。


6.根据权利要求1所述的方法,其特征在于,所述第一声学神经网络模型基于编码-注意力-解码结构构建。


7.根据权利要求6所述的方法,其特征在于,所述至少两个第一损失函数包括连接时序分类CTC损失函数和注意力ATT损失函数。


8.根据权利要求1所述的方法,其特征在于,所述变化程度信息包括:第一损失函数与上一个采样时刻对应的第二损失函数的比值。


9.根据权利要求1所述的方法,其特征在于,所述基于所述至少两个第一损失函数与对应的权重计算拟合损失函数,包括:
根据所述至少两个第一损失函数对应的权重对所述至少两个第...

【专利技术属性】
技术研发人员:唐浩雨
申请(专利权)人:广州市百果园信息技术有限公司
类型:发明
国别省市:广东;44

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1