音频合成方法和装置、存储介质及电子设备制造方法及图纸

技术编号:31230130 阅读:29 留言:0更新日期:2021-12-08 10:00
本发明专利技术公开了一种音频合成方法和装置、存储介质及电子设备。其中,该方法包括:获取待处理的文本序列;将文本序列转换为抽象特征序列;将抽象特征序列输入具有单调性约束条件的权重分配网络,以得到抽象特征序列对应的语境向量,其中,权重分配网络是基于离散化的混合逻辑分布结构所构建的网络;获取与语境向量匹配的音频频谱信息;利用音频频谱信息合成与文本序列匹配的目标音频。本发明专利技术解决了由于音频合成模型不稳定造成的合成音频准确性较低的技术问题。技术问题。技术问题。

【技术实现步骤摘要】
音频合成方法和装置、存储介质及电子设备


[0001]本专利技术涉及计算机领域,具体而言,涉及一种音频合成方法和装置、存储介质及电子设备。

技术介绍

[0002]如今,为了提高人机交互效率,在越来越多的应用或业务中,开始使用合成音频来为用户提供定制化辅助服务,如使用合成音频来为用户播报新闻,或为用户提供地图导航服务等,从而实现解放用户的双手,无需用户再对触屏设备输入交互控制指令。
[0003]但目前相关技术提供的音频合成技术,不仅需要使用大量的语料对音频合成模型进行训练,而且训练出的音频合成模型还常常会出现漏读、重复读等问题,难以保证合成音频的稳定性,同时也难以保证所合成的音频的准确性。
[0004]针对上述的问题,目前尚未提出有效的解决方案。

技术实现思路

[0005]本专利技术实施例提供了一种音频合成方法和装置、存储介质及电子设备,以至少解决由于音频合成模型不稳定造成的合成音频准确性较低的技术问题。
[0006]根据本专利技术实施例的一个方面,提供了一种音频合成方法,包括:获取待处理的文本序列;将上述文本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种音频合成方法,其特征在于,包括:获取待处理的文本序列;将所述文本序列转换为抽象特征序列;将所述抽象特征序列输入具有单调性约束条件的权重分配网络,以得到所述抽象特征序列对应的语境向量,其中,所述权重分配网络是基于离散化的混合逻辑分布结构所构建的网络;获取与所述语境向量匹配的音频频谱信息;利用所述音频频谱信息合成与所述文本序列匹配的目标音频。2.根据权利要求1所述的方法,其特征在于,所述获取与所述语境向量匹配的音频频谱信息包括:在与所述权重分配网络连接的目标频谱生成网络中,获取与所述语境向量匹配的一个或至少两个音频帧的帧频谱信息,其中,所述目标频谱生成网络中配置有计时器,所述计时器用于对所述目标频谱生成网络中所生成的音频频谱信息进行切分,以生成各个音频帧各自对应的所述帧频谱信息。3.根据权利要求2所述的方法,其特征在于,在与所述权重分配网络连接的目标频谱生成网络中,获取与所述语境向量匹配的一个或至少两个音频帧的帧频谱信息包括:在所述目标频谱生成网络中依次执行以下操作,以生成所述帧频谱信息:获取当前从所述权重分配网络接收到的所述语境向量,以及在当前所要生成的当前音频帧之前的上一个音频帧的参考帧频谱信息;将所述语境向量及所述参考帧频谱信息输入第一预处理子网络和多层长短记忆网络中,以生成所述当前音频帧的当前帧频谱信息。4.根据权利要求1所述的方法,其特征在于,在所述获取待处理的文本序列之前,还包括:构建初始声学模型,其中,所述初始声学模型包括:用于提取特征的特征提取网络、初始权重分配网络、初始频谱生成网络;使用第一样本语料对所述初始声学模型进行预训练,直至达到第一生成收敛条件以得到参考声学模型,其中,所述第一生成收敛条件指示已生成的音频频谱信息与对应的标签频谱信息之间的差异小于第一阈值:使用第二样本语料对所述参考声学模型进行训练,直至得到第二生成收敛条件以得到目标声学模型,其中,所述第二生成收敛条件指示已生成的音频频谱信息与对应的标签频谱信息之间的差异小于第二阈值,所述第二样本语料的数量小于所述第一样本语料的数量,所述目标声学模型中包括完成训练的特征提取网络、所述权重分配网络及所述目标频谱生成网络。5.根据权利要求4所述的方法,其特征在于,在所述使用第二样本语料对所述参考声学模型进行训练的过程中,还包括:获取所述参考声学模型在训练过程中每次得到的频谱训练结果;在所述频谱训练结果指示调整所述参考声学模型中的各个模型参数的情况下,对处于非冻结状态下的权重分配网络和频谱生成网络中的网络参数进行更新,并对处于冻结状态下的所述特征提取网络中的网络参数保持。
6.根据权利要求4所述的方法,其特征在于,在所述构建初始声学模型之后,还包括:获取音源对象的发音表征向量;在对所述参考声学模型进行训练的过程中,将所述音源对象的所述发音表征向量加入到训练中的特征提取网络...

【专利技术属性】
技术研发人员:张泽旺
申请(专利权)人:腾讯科技深圳有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1