用于语音识别的系统和方法技术方案

用于语音识别的系统和方法。一种计算机实现的用于语音识别的方法，所述方法包括：接收语音音频帧；对接收的帧进行编码；从接收的帧的编码确定上下文向量；从所述上下文向量导出动作；响应于所述动作满足预定条件，从所述上下文向量导出令牌；以及基于所述令牌执行功能，其中所述功能包括文本输出或命令执行中的至少一个。至少一个。至少一个。

【技术实现步骤摘要】
用于语音识别的系统和方法


[0001]本文中说明的实施例涉及用于语音识别的系统和方法。

技术介绍

[0002]语音识别方法和系统接收语音音频并识别此类语音音频的内容，例如此类语音音频的文本内容。语音识别系统包括混合系统，并且可以包括声学模型(acoustic model,AM)、发音词典(pronunciation lexicon)和语言模型(language model,LM)来确定语音音频的内容，例如解码语音。早期的混合系统对于声学模型和/或语言模型利用了隐式马尔可夫模型(Hidden Markov Model,HMM)或类似的统计方法。后来的混合系统对于声学模型和/或语言模型中的至少一个利用了神经网络。这些系统可以称为深度语音识别系统。
[0003]还引入了具有端到端架构的语音识别系统。在这些系统中，可以使用其中可以认为隐含地集成了声学模型、发音词典和语言模型的单个神经网络。单个神经网络可以是递归神经网络。最近，对于语音识别系统使用了变换器(transformer)模型。变换器模型可以使用自注意力(selfr/>‑
a本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种计算机实现的用于语音识别的方法，所述方法包括：接收语音音频帧；对接收的帧进行编码；从接收的帧的编码确定上下文向量；从所述上下文向量导出动作；响应于所述动作满足预定条件，从所述上下文向量导出令牌；以及基于所述令牌执行功能，其中所述功能包括文本输出或命令执行中的至少一个。2.按照权利要求1所述的方法，其中通过代理导出所述动作，其中所述代理包括经训练的模型，并且其中导出所述动作包括：将所述上下文向量输入到所述经训练的模型中；从所述经训练的模型确定第一概率；将第一概率与预定阈值进行比较；以及基于所述比较设定所述动作。3.按照权利要求2所述的方法，其中从所述经训练的模型确定第一概率包括：将所述经训练的模型的输出与预定偏差相加；以及对相加的结果应用sigmoid函数，以获得第一概率。4.按照权利要求2或3所述的方法，其中所述代理包括深度神经网络。5.按照任意前述权利要求所述的方法，其中使用解码器神经网络的自注意力解码器层计算第一概率。6.按照权利要求5所述的方法，其中确定所述上下文向量包括使用从之前的语音音频帧确定的上下文向量。7.按照权利要求5或6所述的方法，其中确定所述上下文向量包括：确定第二概率，其中第二概率对应于所述自注意力解码器层的注意力权重。8.按照权利要求7所述的方法，其中确定所述上下文向量包括：将第二概率乘以编码器状态，所述编码器状态是从接收的语音音频帧导出的。9.按照权利要求5至8中的任意一项所述的方法，其中所述自注意力解码器层是包括多个注意力头的多头自注意力解码器层，并且其中使用所述多个注意力头中的注意力头计算停止概率。10.按照权利要求9所述的方法，其中确定所述上下文向量包括从所述多个注意力头中的每一个确定第一上下文向量，并且连结所确定的第一上下文向量以获得所述上下文向量。11.按照权利要求5至10中的任意一项所述的方法，包括将所确定的第二概率相加到累加器变量，并且其中响应于所述累加器变量满足第二条件，从所述上下文向量导出令牌；以及基于所述令牌执行功能，其中所述功能包括文本输出或命令执行中的至少一个。12.按照权利要求1所述的方法，其中所述动作对应于第三概率，其中所述动作是通过停止选择器导出的，所述停止选择器被配置为生成第三概率，其中第三概率表示应从所述上下文向量导出令牌的概率。
13.一种计算机实现的用于训练语音识别系统的方法，所述方法包括：对于包括语音音频帧和训练令牌的训练数据，对所述语音音频帧进行编码；从...

【专利技术属性】
技术研发人员：李沫含，R，
申请(专利权)人：株式会社东芝，
类型：发明
国别省市：