用于动态可编程分配方案的带交叉开关的高带宽存储系统技术方案

公开了用于动态可编程分配方案的带交叉开关的高带宽存储系统。系统包括耦合到多个存储器单元的处理器。多个存储器单元中的每一个包括请求处理单元和多个存储体。每个请求处理单元包括多个分解单元和交叉开关，交叉开关将多个分解单元中的每一个通信连接到多个存储体中的每一个。处理器包括多个处理元件和将多个处理元件通信连接到多个存储器单元的通信网络。多个处理元件中的至少第一处理元件包括控制逻辑单元和矩阵计算引擎。控制逻辑单元被配置为使用动态可编程分配方案来访问多个存储器单元。

【技术实现步骤摘要】
用于动态可编程分配方案的带交叉开关的高带宽存储系统专利技术背景使用神经网络可以解决一整类复杂的人工智能问题。由于这些问题通常是计算和数据密集型的，硬件解决方案通常有利于提高神经网络的性能。由于这些解决方案通常需要处理大量数据，因此基于存储器的操作的性能至关重要。在实现存储器访问性能和效率要求的同时，创建一个求解神经网络的硬件平台是一项技术挑战。因此，需要一种硬件平台，其具有能够有效执行神经网络处理所需的存储器操作的存储器访问和布局方案。附图简述在以下的详细描述和附图中公开了本专利技术的各种实施例。图1是示出使用神经网络解决人工智能问题的系统的实施例的框图。图2是示出使用神经网络解决人工智能问题的系统的实施例的框图。图3是示出使用神经网络解决人工智能问题的处理元件的实施例的框图。图4是示出用于执行存储器访问的过程的实施例的流程图。图5是示出用于响应存储器数据请求的过程的实施例的流程图。图6是示出用于响应部分存储器数据请求的过程的实施例的流程图。图7是示出用于执行存储器访问的过程的实施例的流程图本文档来自技高网...

【技术保护点】
1.一种系统，包括：/n多个存储器单元，其中所述多个存储器单元中的每一个包括请求处理单元和多个存储体，并且其中每个请求处理单元包括多个分解单元和交叉开关，所述交叉开关将所述多个分解单元中的每一个通信连接到所述多个存储体中的每一个；和/n耦合到所述多个存储器单元的处理器，其中所述处理器包括多个处理元件和将所述多个处理元件通信连接到所述多个存储器单元的通信网络，并且其中所述多个处理元件中的至少第一处理元件包括控制逻辑单元和矩阵计算引擎，并且所述控制逻辑单元被配置为使用动态可编程分配方案来访问所述多个存储器单元。/n

【技术特征摘要】
20191217 US 16/717,9981.一种系统，包括：
多个存储器单元，其中所述多个存储器单元中的每一个包括请求处理单元和多个存储体，并且其中每个请求处理单元包括多个分解单元和交叉开关，所述交叉开关将所述多个分解单元中的每一个通信连接到所述多个存储体中的每一个；和
耦合到所述多个存储器单元的处理器，其中所述处理器包括多个处理元件和将所述多个处理元件通信连接到所述多个存储器单元的通信网络，并且其中所述多个处理元件中的至少第一处理元件包括控制逻辑单元和矩阵计算引擎，并且所述控制逻辑单元被配置为使用动态可编程分配方案来访问所述多个存储器单元。


2.根据权利要求1所述的系统，其中，所述多个存储器单元中的每一个存储器单元的请求处理单元被配置成接收广播的存储器请求。


3.根据权利要求2所述的系统，其中，所述广播的存储器请求引用存储在所述多个存储器单元中的每一个存储器单元中的数据。


4.根据权利要求3所述的系统，其中，所述请求处理单元的分解单元被配置成将所广播的存储器请求分解成相应的多个部分请求。


5.根据权利要求4所述的系统，其中，所述多个存储器单元中的每一个存储器单元的请求处理单元被配置成确定所述相应的多个部分请求中的每一个部分请求是否对应于存储在与相应的请求处理单元相关联的多个存储体中的相应的存储体中的数据。


6.根据权利要求4所述的系统，其中，所述多个存储器单元中的每一个存储器单元的请求处理单元的交叉开关被配置为将对存储在所述多个存储体中的相应的存储体中的数据的部分请求引导至该相应的存储体，并从所述相应的存储体接收检索的数据有效载荷。


7.根据权利要求6所述的系统，其中，所述多个存储器单元中的每一个存储器单元的请求处理单元被配置成使用所述检索的数据有效载荷来准备部分响应，并将所准备的部分响应提供给所述多个处理元件中的处理元件。


8.根据权利要求7所述的系统，其中，所述准备的部分响应包括在多个部分响应中排序所述部分响应的对应序列标识符。


9.根据权利要求1所述的系统，其中，所述多个存储器单元包括北存储器单元、东存储器单元、南存储器单元和西存储器单元。


10.根据权利要求1所述的系统，其中，所述多个处理元件被布置成二维阵列，并且所述通信网络通信地包括连接所述多个处理元件的相应二维通信网络。


11.根据权利要求10所述的系统，其中，所述多个分解单元中的每个分解单元被配置为仅从位于所述二维阵列的同一行或同一列中的处理元件接收存储器请求，并且仅向位于所述二维阵列的同一行或同一列中的处理元件提供响应。


12.根据权利要求1所述的系统，其中，所述动态可编程分配方案利用与所述第一处理元件的工作负荷相关联的标识符。


13.根据权利要求11所述的系统，其中，所述多个处理元件中的两个或更多个处理元件共享所述标识符。

【专利技术属性】
技术研发人员：阿卜杜勒卡迪尔·乌特库·迪里尔，克里希纳库马尔·纳拉亚南·奈尔，阿努普·拉梅什·卡德科尔，阿拉温德·卡莱阿，奥利维亚·吴，潘卡杰·坎萨尔，
申请(专利权)人：脸谱公司，
类型：发明
国别省市：美国;US