【技术实现步骤摘要】
【国外来华专利技术】
本公开总体上涉及用于人工智能的处理架构、设备和方法，并且尤其涉及人工神经网络硬件。
技术介绍
1、传感器融合是人工智能系统的一个重要应用。在这种系统中，许多不同的传感器(例如，音频、相机、惯性和其他类型的传感器)集成在智能可穿戴设备、增强现实耳机、无人机等设备上以及工业和汽车应用中。这些传感器生成各种数据，这些数据必须集成(融合)到一个共同的理解和表示中，以解决特定的任务。数据处理可能具有不同的复杂性，并需要不同的数据带宽。由于来自不同传感器的数据随着时间的推移而变化，处理和带宽要求也会发生变化。适应各种应用的这些变化，同时保持最小的能量消耗是具有挑战性的，并且没有被当前的解决方案很好地解决。
2、人工神经网络已经提出了几十年，最近被进一步开发为传统的存储程序数字计算机内的软件模拟和实际的专用电子硬件。典型的神经网络用具有不同强度互连的多层节点来响应于一组输入。硬件和软件神经网络都可以是自适应的，并且当提供具有已知良好输出的数据时，例如，通过训练，通过改变互连强度来改进其结果。
3、现代神经网络可能非常大，并且可能需要大量的能量。在某些应用中，需要实时处理来在有用的时间内提供有用的输出，特别是对于安全关键任务。此外，便携式设备中的应用仅具有有限的可用功率。因此，需要神经网络，以降低的功率和硬件需求提供有效、及时的处理。
技术实现思路
1、本公开的实施例尤其可以提供以降低的功率和带宽运行的神经网络。一些实施例包括为动态神经网络处理工作负载而设计的神经网络加速器
2、本公开的实施例包括一种实时计算系统；实时计算系统可以是模式匹配、机器学习、神经网络或人工智能系统。实时计算系统可以是神经网络加速器。根据本公开的实施例，实时计算系统包括硬件系统，该硬件系统连续监控可变输入，例如，传感器输入，并响应于可变输入产生监控信号，例如，中断信号。传感器输入可以包括单值、向量或值的阵列，例如，图像。
3、硬件系统可以是电子或光电计算系统。硬件系统的运算可以是固定的，或者可以通过存储的参数或固件来重新配置，例如，通过在硬件中存储变量值来控制和修改硬件的运算，或者在硬件计算或其他软件手段中提供变量。本公开的实施例可以提供一种硬件系统，该硬件系统包括内存矩阵乘法器阵列，每个乘法器是计算元件。每个计算元件包括由连接件连接的计算元件阵列，其中，每个计算元件包括控制电路、存储电路和运算电路。
4、根据本公开的实施例，一种计算元件阵列系统包括由连接件连接的计算元件阵列。每个计算元件包括控制电路、存储电路和运算电路。每个连接件都连接两个计算元件。对于计算元件阵列中的每个计算元件，存储电路可操作以输入来自一个连接件的包括数据值和目标标签的数据包，并存储数据包，运算电路可操作以对数据值执行运算，以形成经处理的数据值，目标标签指定计算元件，以对数据值执行运算，以及控制电路可操作以用由目标标签指定的计算元件识别计算元件，如果由目标标签识别的计算元件是计算元件，则使运算电路能够处理数据值，修改数据包，以包括经处理的数据值，并且能够在一个连接件上输出经修改的数据包。
5、目标标签可以包括设置在路由值有序列表中的一个或多个路由值。控制电路可操作以修改路由值有序列表中的路由值。控制电路可操作以从路由值有序列表中移除路由值。路由值有序列表可以包括路由值列表指针，并且控制电路可操作以改变路由值列表指针。一个或多个路由值可以是指定计算元件的非路由值，并且控制电路用非路由值识别计算元件。在一些实施例中，作为空集(空列表)的路由值列表等同于非路由值。计算元件可以包括描述计算元件的自标签。目标标签可以包括一个或多个计算元件规格。计算元件规格可以设置在计算元件有序列表中。计算元件规格可以是计算元件的识别或计算元件的功能的识别，例如，计算元件的运算或计算。控制电路可以通过将目标标签中的计算元件规格与自标签进行比较来识别计算元件。控制电路可操作以修改计算元件有序列表中的计算元件。控制电路可操作以从计算元件有序列表中移除计算元件。计算元件有序列表可以包括计算元件列表指针，并且控制电路可以用于改变计算元件列表指针。控制电路可操作以修改目标标签，从而向计算元件有序列表提供结束标签。目标标签可以指定多个计算元件，以对数据值依次执行运算。
6、该阵列可以是二维网格、二维阵列、圆环、环形、三维网格或三维阵列。
7、根据本公开的实施例，计算元件阵列系统包括连接到计算元件阵列中的一个或多个计算元件的数据控制电路。数据控制电路可操作以从计算元件阵列外部接收数据包，并从计算元件阵列中传输出数据包。数据控制电路可以由连接件连接到计算元件阵列中的一个或多个计算元件。数据控制电路可以通过总线连接到计算元件阵列中的一个或多个计算元件。数据控制电路可操作以从计算元件阵列接收数据包，并将数据包返回给计算元件阵列。数据控制电路可以连接到计算元件阵列中的一个或多个计算元件。
8、根据本公开的一些实施例，由数据控制电路从阵列中的计算元件接收的数据包包括结束标签或非路由值，并且数据控制电路可操作以响应于结束标签或非路由值从计算元件阵列中传输出数据值。根据本公开的一些实施例，由数据控制电路从阵列中的计算元件接收的数据包的目标标签不包括结束标签或非路由值，并且数据控制电路可操作以将数据值传输到阵列中的计算元件中。
9、根据一些实施例，连接件是双向连接件。根据一些实施例，连接件是单向连接件。根据实施例，一个或多个计算元件由连接件连接到两个、三个、四个或八个相邻的计算元件。根据一些实施例，一个或多个计算元件的存储电路可操作以接收来自一个、两个、三个、四个或八个相邻的计算元件的输入数据，可操作以将数据输出到一个、两个、三个、四个或八个相邻的计算元件，或者两者。
10、根据一些实施例，运算电路可操作以(i)计算矩阵向量积运算，(ii)计算加法，(iii)计算累加，(iv)计算乘法，(v)计算变换，(vi)执行滤波运算，(vii)执行表查找，或(viii)执行(i)-(vii)的任意组合。根据本公开的一些实施例，一个或多个计算元件是可配置的。根据本公开的一些实施例，一个或多个计算元件可操作以存储一个或多个配置变量。根据本公开的一些实施例，一个或多个配置变量包括自标签、计算常数或运算配置。
11、根据本公开的一些实施例，计算元件是(i)路由节点，(ii)存储器节点，(iii)可操作以执行路由传递，(iv)可操作以存储指定时间段的一个或多个数据值，或(v)(i)-(iv)的任意组合。
12、根据本公开的一些实施例，第一计算元件的运算电路可操作以执行第一运算，并且第二计算元件的运算电路可操作以执行不同于第一运算的第二运算。一个计算元件的运算电路可操作以执行两个或更多运算。控制电路可操作以响应于配置变量选择运算。
【技术保护点】
1.一种计算元件阵列系统，包括：
2.根据权利要求1所述的计算元件阵列系统，其中，所述目标标签包括设置在路由值有序列表中的一个或多个路由值。
3.根据权利要求2所述的计算元件阵列系统，其中，所述控制电路可操作以修改所述路由值有序列表中的所述路由值。
4.根据权利要求3所述的计算元件阵列系统，其中，所述控制电路可操作以从所述路由值有序列表中移除路由值，或者其中，所述路由值有序列表包括路由值列表指针，并且所述控制电路可操作以改变所述路由值列表指针。
5.根据权利要求2或权利要求3-5中任一项所述的计算元件阵列系统，其中，一个或多个路由值是指定所述计算元件的非路由值，并且所述控制电路用所述非路由值识别所述计算元件。
6.根据权利要求2或权利要求3-6中任一项所述的计算元件阵列系统，其中，所述计算元件包括描述所述计算元件的自标签，其中，所述目标标签包括一个或多个计算元件规格，并且其中，所述控制电路通过将所述目标标签中的所述计算元件规格与所述自标签进行比较来识别所述计算元件。
7.根据权利要求6所述的计算元件阵列系统，
8.根据权利要求6或7所述的计算元件阵列系统，其中，所述计算元件规格设置在计算元件有序列表中，并且所述控制电路可操作以修改所述计算元件有序列表中的所述计算元件。
9.根据权利要求7或权利要求7-8中任一项所述的计算元件阵列系统，其中，所述控制电路可操作以从所述计算元件有序列表中移除计算元件，或者其中，所述计算元件有序列表包括计算元件列表指针，并且所述控制电路可操作以改变所述计算元件列表指针。
10.根据权利要求1或权利要求2-9中任一项所述的计算元件阵列系统，其中，所述控制电路可操作以修改所述目标标签，从而向所述计算元件有序列表提供结束标签。
11.根据权利要求1或权利要求2-10中任一项所述的计算元件阵列系统，其中，所述目标标签指定多个计算元件，以对所述数据值依次执行运算。
12.根据权利要求1或权利要求2-11中任一项所述的计算元件阵列系统，其中，所述阵列是二维网格、二维阵列、三维网格、三维阵列、圆环或环形。
13.根据权利要求1或权利要求2-12中任一项所述的计算元件阵列系统，包括连接到所述计算元件阵列中的一个或多个计算元件的数据控制电路，其中，所述数据控制电路可操作以从所述计算元件阵列外部接收数据包，并从所述计算元件阵列中传输出数据包。
14.根据权利要求13所述的计算元件阵列系统，其中，所述数据控制电路由连接件连接到所述计算元件阵列中的一个或多个计算元件，或者其中，所述数据控制电路通过总线连接到所述计算元件阵列中的一个或多个计算元件。
15.根据权利要求13或14所述的计算元件阵列系统，其中，所述数据控制电路可操作以从所述计算元件阵列接收数据包，并将所述数据包返回到所述计算元件阵列。
16.根据权利要求13或权利要求14-15中任一项所述的计算元件阵列系统，其中，所述数据控制电路连接到所述计算元件阵列中的一个或多个计算元件。
17.根据权利要求13或权利要求14-16中任一项所述的计算元件阵列，其中，由所述数据控制电路从所述阵列中的计算元件接收的所述数据包包括结束标签或非路由值，并且所述数据控制电路可操作以从所述计算元件阵列中传输出所述数据值。
18.根据权利要求13或权利要求14-17中任一项所述的计算元件阵列，其中，由所述数据控制电路从所述阵列中的计算元件接收的数据包的所述目标标签不包括结束标签或非路由值，并且所述数据控制电路可操作以将所述数据值传输到所述阵列中的计算元件中。
19.根据权利要求1或权利要求2-18中任一项所述的计算元件阵列，其中，所述连接件是双向连接件。
20.根据权利要求1或权利要求2-19中任一项所述的计算元件阵列，其中，所述运算电路可操作以(i)计算矩阵向量积运算，(ii)计算加法，(iii)计算累加，(iv)计算乘法，(v)计算变换，(vi)执行滤波运算，(vii)执行表查找，或(viii)执行(i)-(vii)的任意组合。
21.根据权利要求1或权利要求2-20中任一项所述的计算元件阵列，其中，一个或多个计算元件是可配置的。
22.根据权利要求21所述的计算元件阵列，其中，一个或多个计算元件可操作以存储一个或多个配置变量。
23.根据权利要求21或22所述的计算元件阵列，其中，一个或多个配置变量包括自标签、计算常数或运算配置。
24....
【技术特征摘要】
【国外来华专利技术】
1.一种计算元件阵列系统，包括：
2.根据权利要求1所述的计算元件阵列系统，其中，所述目标标签包括设置在路由值有序列表中的一个或多个路由值。
3.根据权利要求2所述的计算元件阵列系统，其中，所述控制电路可操作以修改所述路由值有序列表中的所述路由值。
4.根据权利要求3所述的计算元件阵列系统，其中，所述控制电路可操作以从所述路由值有序列表中移除路由值，或者其中，所述路由值有序列表包括路由值列表指针，并且所述控制电路可操作以改变所述路由值列表指针。
5.根据权利要求2或权利要求3-5中任一项所述的计算元件阵列系统，其中，一个或多个路由值是指定所述计算元件的非路由值，并且所述控制电路用所述非路由值识别所述计算元件。
6.根据权利要求2或权利要求3-6中任一项所述的计算元件阵列系统，其中，所述计算元件包括描述所述计算元件的自标签，其中，所述目标标签包括一个或多个计算元件规格，并且其中，所述控制电路通过将所述目标标签中的所述计算元件规格与所述自标签进行比较来识别所述计算元件。
7.根据权利要求6所述的计算元件阵列系统，其中，所述一个或多个计算元件规格识别所述计算元件或所述计算元件的运算。
8.根据权利要求6或7所述的计算元件阵列系统，其中，所述计算元件规格设置在计算元件有序列表中，并且所述控制电路可操作以修改所述计算元件有序列表中的所述计算元件。
9.根据权利要求7或权利要求7-8中任一项所述的计算元件阵列系统，其中，所述控制电路可操作以从所述计算元件有序列表中移除计算元件，或者其中，所述计算元件有序列表包括计算元件列表指针，并且所述控制电路可操作以改变所述计算元件列表指针。
10.根据权利要求1或权利要求2-9中任一项所述的计算元件阵列系统，其中，所述控制电路可操作以修改所述目标标签，从而向所述计算元件有序列表提供结束标签。
11.根据权利要求1或权利要求2-10中任一项所述的计算元件阵列系统，其中，所述目标标签指定多个计算元件，以对所述数据值依次执行运算。
12.根据权利要求1或权利要求2-11中任一项所述的计算元件阵列系统，其中，所述阵列是二维网格、二维阵列、三维网格、三维阵列、圆环或环形。
13.根据权利要求1或权利要求2-12中任一项所述的计算元件阵列系统，包括连接到所述计算元件阵列中的一个或多个计算元件的数据控制电路，其中，所述数据控制电路可操作以从所述计算元件阵列外部接收数据包，并从所述计算元件阵列中传输出数据包。
14.根据权利要求13所述的计算元件阵列系统，其中，所述数据控制电路由连接件连接到所述计算元件阵列中的一个或多个计算元件，或者其中，所述数据控制电路通过总线连接到所述计算元件阵列中的一个或多个计算元件。
15.根据权利要求13或14所述的计算元件阵列系统，其中，所述数据控制电路可操作以从所述计算元件阵列接收数据包，并将所述数据包返回到所述计算元件阵列。
16.根据权利要求13或权利要求14-15中任一项所述的计算元件阵列系统，其中，所述数据控制电路连接到所述计算元件阵列中的一个或多个计算元件。
17.根据权利要求13或权利要求14-16中任一项所述的计算元件阵列，其中，由所述数据控制电路从所述阵列中的计算元件接收的所述数据包包括结束标签或非路由值，并且所述数据控制电路可操作以从所述计算元件阵列中传输出所述数据值。
18.根据权利要求13或权利要求14-17中任一项所述的计算元件阵列，其中，由所述数据控制电路从所述阵列中的计算元件接收的数据包的所述目标标签不包括结束标签或非路由值，并且所述数据控制电路可操作以将所述数据值传输到所述阵列中的计算元件中。
19.根据权利要求1或权利要求2-18中任一项所述的计算元件阵列，其中，所述连接件是双向连接件。
20.根据权利要求1或权利要求2-19中任一项所述的计算元件阵列，其中，所述运算电路可操作以(i)计算矩阵向量积运算，...
【专利技术属性】
技术研发人员：尼尔·摩奴·维杰亚兰加，
申请(专利权)人：辛塔拉股份公司，
类型：发明
国别省市：
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。