使用部分条件从输入序列生成目标序列制造技术

系统可以被配置为执行各种任务，例如将记录的语音转换为表示该语音的音素的序列，将字素的输入序列转换为音素的目标序列，将一种语言的词语的输入序列翻译为另一语言的词语的对应序列，或预测一种语言(例如，语言模型)的词语的输入序列之后的词语的目标序列。在语音识别器中，RNN系统可以用于实时地将语音转换为音素的目标序列，以使得甚至在用户完全说出整个语音输入之前就可以为用户生成并呈现语音的转写。

【技术实现步骤摘要】
【国外来华专利技术】使用部分条件从输入序列生成目标序列相关申请的交叉引用本申请主张2015年11月12日提交的美国临时申请第62/254,687号的优先权。该在先申请的公开内容被视为本申请的公开内容的一部分并且通过引用整体并入本申请的公开内容中。
本说明书总体上涉及用于使用神经网络生成输入序列的表示的系统、方法、装置和其他技术。
技术介绍
许多数据处理任务涉及将有序的输入序列转换成有序的输出序列。例如，机器翻译系统将一种语言的词语的输入序列翻译成另一种语言的词语的序列。作为另一示例，发音系统将字素的输入序列转唤成音素的目标序列。
技术实现思路
本说明书描述了被实现为在一个或多个位置的一个或多个计算机上的计算机程序的系统。所述系统是用于从输入序列生成目标序列的系统，所述目标序列包括在多个输出时间步中的每一个处的相应输出，所述输入序列包括在多个输入时间步中的每一个处的相应输入。特别地，所述系统可以用于在线序列转换，原因是系统以观察到的部分输入序列(即，而不是以整个输入序列为条件)和迄今生成的部分目标序列为条件选择目标序列中的当前输出。更特别地，对于由输入序列中的固定数量的输入时间步组成的每个块，所述系统使用编码本文档来自技高网...

【技术保护点】
1.一种用于从输入序列生成目标序列的方法，所述目标序列包括在多个输出时间步的每一个处的相应输出，所述输入序列包括在多个输入时间步的每一个处的相应输入，所述方法包括：对于所述输入序列中固定数量的输入时间步的每个块：使用编码器递归神经网络(RNN)来处理输入时间步的块中的每个输入，以生成输入的相应特征表示；以及使用转换器RNN来处理对于块中的输入的特征表示和在在前输出时间步处的在前输出，以选择对于紧随在前输出时间步的一个或多个输出时间步中的每一个的相应输出。

【技术特征摘要】
【国外来华专利技术】2015.11.12 US 62/254,6871.一种用于从输入序列生成目标序列的方法，所述目标序列包括在多个输出时间步的每一个处的相应输出，所述输入序列包括在多个输入时间步的每一个处的相应输入，所述方法包括：对于所述输入序列中固定数量的输入时间步的每个块：使用编码器递归神经网络(RNN)来处理输入时间步的块中的每个输入，以生成输入的相应特征表示；以及使用转换器RNN来处理对于块中的输入的特征表示和在在前输出时间步处的在前输出，以选择对于紧随在前输出时间步的一个或多个输出时间步中的每一个的相应输出。2.根据权利要求1所述的方法，其中，对于所述输入序列中的初始块，在在前输出时间步处的在前输出是占位符序列开始输出。3.根据权利要求1所述的方法，其中，使用转换器RNN来处理对于块中的输入的特征表示和在在前输出时间步处的在前输出以选择对于紧随在前输出时间步的一个或多个输出时间步中的每一个的相应输出包括：选择输出直到选择的输出是指定的块结束输出为止。4.根据权利要求3所述的方法，其中，使用转换器RNN来处理对于块中的输入的特征表示和在在前输出时间步处的在前输出包括：使用转换器RNN来处理对于块中的输入的特征表示和在前输出以选择对于紧随在前输出时间步的当前输出时间步的当前输出；当当前输出是指定的块结束输出时，限制以避免生成对于块的任何更多输出；以及当当前输出不是指定的块结束输出时：使用转换器RNN来处理对于块中的输入的特征表示和当前输出以选择对于紧随当前输出时间步的下一输出时间步的下一输出。5.根据权利要求1所述的方法，其中，使用转换器RNN来处理对于块中的输入的特征表示和在在前输出时间步处的在前输出以选择对于紧随在前输出时间步的一个或多个输出时间步中的每一个的相应输出包括：选择输出直到转换器RNN的中间输出的指定部分指示选择的输出是块中的最后一个为止。6.根据权利要求1所述的方法，其中，所述转换器RNN被配置为对于输入时间步的给定块并且为了选择对于给定输出时间步的输出：使用第一RNN子网络来处理在紧挨着给定输出时间步的在前输出时间步处的输出和对于紧挨着给定输出时间步的在前输出时间步的在前上下文向量，以更新第一RNN子网络的当前隐藏状态；使用上下文子网络来处理第一RNN子网络的更新的隐藏状态和对于输入时间步的给定块中的输入的特征表示，以确定当前上下文向量；使用第二RNN子网络来处理当前上下文向量和第一RNN子网络的更新的隐藏状态，以更新第二RNN子网络的当前隐藏状态；以及使用柔性最大值层来处理第二RNN子网络的当前隐藏状态，以生成对于可能的输出的库中的每个输出的相应分数。7.根据权利要求6所述的方法，其中，所述上下文子网络是RNN。8.根据任一前述权利要求所述的方法，其中，所述输入序列是语音序列，并且所述目标序列是表示所述语音序列的音素的序列。9.一种系统，包括一个或多个计算机和存储指令的一个或多个存储装置，当由所述一个或多个计算机执行时，所述指令能够操作成使所述一个或多个计算机执行用于从输入序列生成目标序列的操作，所述目标序列包括在多个输出时间步的每一个处的相应输出，所述输入序列包括在多个输入时间步的每一个处的相应输入，所述操作包括：对于所述输入序列中固定数量的输入时间步的每个块：使用编码器递归神经网络(RNN)来处理输入时间步的块中的每个输入，以生成输入的相应特征表示；以及使用转换器RNN来处理对于块中的输入的特征表示和在在前输出时间步处的在前输出，以选择对于紧随在前输出时间步的一个或多个输出时间步中的每一个的相应输出。10.根据权利要求9所述的系统，其中，对于所述输入序列中的初始块，在在前输出时间步处的在前输出是占位符序列开始输出。11.根据权利要求9所述的系统，其中，使用转换器RNN来处理对于块中的输入的特征表示和在在前输出时间步处的在...

【专利技术属性】
技术研发人员：N杰特利，QV勒，O文雅尔斯，S本吉奥，I苏特斯克弗，
申请(专利权)人：谷歌有限责任公司，
类型：发明
国别省市：美国,US