向量归约处理器制造技术

本申请涉及一种向量归约处理器。被配置为对元素的输入向量进行归约的向量归约电路包括多个单元电路，其中，除接收所述输入向量的指定的第一元素的指定的第一单元电路以外的所述多个单元电路中的每一个单元电路被配置为：接收所述输入向量的特定元素，从所述一个或多个单元电路中的另一个单元电路接收临时归约元素，使用所述特定元素和所述临时归约元素来执行归约操作，并提供使用所述特定元素和所述临时归约元素来执行所述归约操作的结果作为新的临时归约元素。所述向量归约电路也包括输出电路，所述输出电路被配置为提供与使用所述输入向量的最后元素来执行所述归约操作的结果相对应的新的临时归约元素以用于作为所述输入向量的归约而输出。

【技术实现步骤摘要】
向量归约处理器分案说明本申请属于申请日为2018年2月6日的中国专利技术专利申请No.201810118791.6的分案申请。
本说明书涉及一种在硬件中执行向量归约(vectorreduction)。
技术介绍
通常，向量归约是对输入向量的元素执行来产生标量输出或具有比输入向量更小的维数的输出向量的操作。例如，求和向量归约操作可以产生等于输入向量的元素之和的标量输出。在一些示例中，可以对输入向量的多个段执行相应的向量归约操作。分段向量归约操作产生其中每个元素为输入向量的段的归约的输出向量。例如，分段求和向量归约操作可以产生其中每个元素为输入向量的元素的段的和的输出向量。
技术实现思路
一般而言，本说明书描述计算向量归约的专用硬件电路。一般而言，本说明书中所描述的主题的一个创新性方面能够以被配置为对元素的输入向量进行归约的向量归约电路加以具体实现，所述向量归约电路包括多个单元电路(cell)，其中，除接收所述输入向量的指定的第一元素的指定的第一单元电路以外的所述多个单元电路中的每一个单元电路被配置为：接收所述输入向量的特定元素，从所述多个单元电路中的另一个单元电路接收临时归约元素，使用所述特定元素和所述临时归约元素来执行归约操作，以及提供使用所述特定元素和所述临时归约元素来执行所述归约操作的结果作为新的临时归约元素。所述向量归约电路包括输出电路，所述输出电路被配置为提供与使用所述输入向量的最后元素来执行所述归约操作的结果相对应的新的临时归约元素以用于作为所述输入向量的归约而输出。实施方式能够可选地包括以下特征中的一个或多个。在一些实施方式中，所述归约操作是最大值归约操作，并且使用所述特定元素和所述临时归约元素来执行所述归约操作包括：对所述特定元素和所述临时归约元素进行比较，以及至少基于所述比较并作为使用所述特定元素和所述临时归约元素来执行所述归约操作的结果，而确定所述特定元素和所述临时归约元素的最大值；所述归约操作是最小值归约操作，并且使用所述特定元素和所述临时归约元素来执行所述归约操作包括：对所述特定元素和所述临时归约元素进行比较，以及至少基于所述比较并作为使用所述特定元素和所述临时归约元素来执行所述归约操作的结果，而确定所述特定元素和所述临时归约元素的最小值。实施方式还能够可选地包括以下特征中的一个或多个。在一些实施方式中，所述归约操作是求和归约操作，并且使用所述特定元素和所述临时归约元素来执行所述归约操作包括：确定所述特定元素和所述临时归约元素的和，作为使用所述特定元素和所述临时归约元素来执行所述归约操作的结果；所述归约操作是乘积归约操作，并且使用所述特定元素和所述临时归约元素来执行所述归约操作包括：确定所述特定元素和所述临时归约元素的乘积，作为使用所述特定元素和所述临时归约元素来执行所述归约操作的结果。实施方式还能够可选地包括以下特征中的一个或多个。在一些实施方式中，所述归约操作是最大索引操作，并且使用所述特定元素和所述临时归约元素来执行所述归约操作包括：接收指示与所述临时归约元素相对应的索引的数据；对所述特定元素和所述临时归约元素进行比较；至少基于所述比较确定所述特定元素和所述临时归约元素的最大值；以及至少基于所述确定并作为使用所述特定元素和所述临时归约元素来执行所述归约操作的结果，而识别与所述特定元素相对应的索引或与所述临时归约元素相对应的索引中的一个。实施方式还能够可选地包括以下特征中的一个或多个。在一些实施方式中，所述归约操作是最小索引操作，并且使用所述特定元素和所述临时归约元素来执行所述归约操作包括：接收指示与所述临时归约元素相对应的索引的数据；对所述特定元素和所述临时归约元素进行比较；至少基于所述比较确定所述特定元素和所述临时归约元素的最小值；以及至少基于所述确定并作为使用所述特定元素和所述临时归约元素来执行所述归约操作的结果，而识别与所述特定元素相对应的索引或与所述临时归约元素相对应的索引中的一个。实施方式还能够可选地包括以下特征中的一个或多个。在一些实施方式中，所述输入向量的所述特定元素是在元素的交错输入中接收的；所述输入向量被识别为包括元素的多个段；所述输入向量的所述特定元素是所述输入向量的所述特定段的指定的最后元素，并且除接收所述输入向量的所述指定的第一元素的所述指定的第一单元电路以外的所述多个单元电路中的每一个单元电路被配置为：向所述输出电路并作为所述输入向量的所述特定分段的归约而提供使用所述输入向量的所述特定段的所述指定的最后元素和所述临时归约元素来执行所述归约操作的结果；提供使用所述输入向量的所述特定段的所述指定的最后元素和所述临时归约元素来执行所述归约操作的结果作为新的临时归约元素包括向所述多个单元电路中的另一个单元电路并作为所述新的临时归约元素提供占位符信号；所述输出电路被配置为提供多个元素用于作为所述输入向量的归约而输出，其中，所述多个元素中的每一个元素是与使用所述输入向量的段的指定的最后元素来执行所述归约操作的结果相对应的新的临时归约元素；所述输出电路被配置为提供包括所述多个元素的输出向量用于作为所述输入向量的归约而输出。实施方式还能够可选地包括以下特征中的一个或多个。在一些实施方式中，所述向量归约电路包括控制寄存器，所述控制寄存器被配置为接收元素的控制向量，其中，所述元素的所述控制向量指定所述输入向量的元素的所述多个段；提供使用所述特定元素和所述临时归约元素来执行所述归约操作的结果作为新的临时归约元素包括：接收与所述特定元素相对应的所述控制向量的特定元素；至少基于所述控制向量的所述特定元素来确定所述特定元素被指定为所述输入向量的特定段的最后元素；以及向所述输出电路并至少基于所述确定提供使用被指定为所述输入向量的所述特定段的最后元素的所述特定元素和所述临时归约元素来执行所述归约操作的结果，作为所述输入向量的所述特定段的归约。实施方式还能够可选地包括以下特征中的一个或多个。在一些实施方式中，提供使用所述特定元素和所述临时归约元素来执行所述归约操作的结果作为新的临时归约元素包括：接收与所述特定元素相对应的所述控制向量的特定元素；至少基于所述控制向量的所述特定元素来确定所述特定元素被指定为所述输入向量的特定段的最后元素；以及向所述多个单元电路中的另一个单元电路并至少基于所述确定提供占位符信号；提供使用所述特定元素和所述临时归约元素来执行所述归约操作的结果作为新的临时归约元素包括：接收与所述特定元素相对应的所述控制向量的特定元素；至少基于所述控制向量的所述特定元素来确定所述特定元素未被指定为所述输入向量的特定段的最后元素；以及至少基于所述确定，向所述多个单元电路中的另一个单元电路并作为新的临时性归约元素提供使用未被指定为所述输入向量的所述特定段的最后元素的所述特定元素和所述临时归约元素来执行所述归约操作的结果。实施方式还能够可选地包括以下特征中的一个或多个。在一些实施方式中，所述输出电路将所述输入向量的所述归约提供给被配置为计算向量或矩阵变换的变换电路本文档来自技高网...

【技术保护点】
1.一种由向量归约电路执行的方法，对于所述向量归约电路的多个单元电路中的每一个单元电路，所述方法包括：/n接收(1)输入向量的相应输入向量元素，(2)临时归约元素，所述临时归约元素是由所述多个单元电路中的先前单元电路执行的向量归约操作的输出或占位符信号，以及(3)在控制向量内的相应控制向量元素，所述控制向量对于所述多个单元电路中的每一个都具有对应的控制向量元素；/n使用所述相应输入向量元素和所述临时归约元素来计算结果；/n如果所述相应控制向量元素指示所述相应输入向量元素不是所述输入向量中的最后输入向量元素，则将所述结果提供给所述向量归约电路的所述多个单元电路中的下一个单元电路，所述结果是用于所述下一个单元电路的新的临时归约元素；以及/n如果所述相应控制向量元素指示所述相应输入向量元素是所述输入向量中的所述最后输入向量元素，则将所述结果提供给输出电路。/n

【技术特征摘要】
20170403 US 15/477,7911.一种由向量归约电路执行的方法，对于所述向量归约电路的多个单元电路中的每一个单元电路，所述方法包括：
接收(1)输入向量的相应输入向量元素，(2)临时归约元素，所述临时归约元素是由所述多个单元电路中的先前单元电路执行的向量归约操作的输出或占位符信号，以及(3)在控制向量内的相应控制向量元素，所述控制向量对于所述多个单元电路中的每一个都具有对应的控制向量元素；
使用所述相应输入向量元素和所述临时归约元素来计算结果；
如果所述相应控制向量元素指示所述相应输入向量元素不是所述输入向量中的最后输入向量元素，则将所述结果提供给所述向量归约电路的所述多个单元电路中的下一个单元电路，所述结果是用于所述下一个单元电路的新的临时归约元素；以及
如果所述相应控制向量元素指示所述相应输入向量元素是所述输入向量中的所述最后输入向量元素，则将所述结果提供给输出电路。


2.根据权利要求1所述的方法，其中，计算所述结果包括：
对所述相应输入向量元素和所述临时归约元素进行比较；以及
基于所述比较并作为所述结果，确定所述相应输入向量元素和所述临时归约元素的最大值。


3.根据权利要求1所述的方法，其中，计算所述结果包括：
对所述相应输入向量元素和所述临时归约元素进行比较；以及
基于所述比较并作为所述结果，确定所述相应输入向量元素和所述临时归约元素的最小值。


4.根据权利要求1所述的方法，其中，计算所述结果包括：
确定所述相应输入向量元素和所述临时归约元素的和，作为所述结果。


5.根据权利要求1所述的方法，其中，计算所述结果包括：
确定所述相应输入向量元素和所述临时归约元...

【专利技术属性】
技术研发人员：格雷戈里·米歇尔·索尔森，安德鲁·埃弗里特·菲尔普斯，奥利维尔·泰马姆，
申请(专利权)人：谷歌有限责任公司，
类型：发明
国别省市：美国;US