有效地将神经网络映射到可编程逻辑设备的系统和方法技术方案

提供了用于将神经网络有效地映射到可编程逻辑设备(PLD)的系统和方法。用于将神经网络映射到FPGA的方法可以包括：接收定义所述PLD架构的数据结构；接收定义所述神经网络架构的数据结构；将所述PLD架构划分为多个层，每层具有与第一片外缓冲器相邻的起始原语和与第二片外缓冲器相邻的结束原语；将所述神经网络架构映射到多层中的一层或多层上，以使数据传输大小至少局部最小化；调度所述被映射的神经网络架构以在所述多个层中的一层或多层上执行；基于被调度和映射的神经网络架构输出执行序列。

【技术实现步骤摘要】
【国外来华专利技术】有效地将神经网络映射到可编程逻辑设备的系统和方法相关申请的交叉引用本公开要求于2018年10月12日提交的美国申请号16/159,580的优先权的权益，其全部内容通过引用合并于此。
技术介绍
在用于神经网络的执行方面，现场可编程门阵列(FPGA)和其他可编程逻辑设备(PLD)通常比常规处理硬件(例如中央处理器(CPU)，图形处理单元(GPU)或类似器件)更为有效。但是，FPGA和其他PLD的架构通常互不相同，并且通常针对特定的神经网络进行定制设计。因此，无法在未专门为这些神经网络设计的现有FPGA和其他PLD上有效地实现神经网络。
技术实现思路
鉴于前述内容，本公开的实施例提供了用于将神经网络有效地映射到现有PLD的计算机实现的系统和方法。本公开的系统和方法可以为在现有的PLD架构上实现新的神经网络的技术问题提供技术解决方案。本公开的系统和方法可以导致在现有的PLD架构上神经网络的有效的空间和时间执行。在一些实施例中，一种用于将神经网络映射到可编程逻辑设备(PLD)的系统可以包括被配置为存储指令的至少一个存储器和被配置为执行指令以本文档来自技高网...

【技术保护点】
1.一种用于将神经网络映射到可编程逻辑设备(PLD)的系统，包括：/n至少一个存储器，所述存储器被配置为存储指令；和/n至少一个处理器，所述处理器被配置为执行所述指令以使所述系统执行操作，包括：/n接收定义所述PLD架构的数据结构；/n接收定义所述神经网络架构的数据结构；/n将所述PLD架构划分为多个层，每一层具有与第一片外缓冲器相邻的起始原语和与第二片外缓冲器相邻的结束原语；/n将所述神经网络架构映射到多个层中的一层或多层上；/n调度所述被映射的神经网络架构以在所述多个层中的一层或多层上执行；和/n根据所述被调度和映射的神经网络架构输出执行序列。/n

【技术特征摘要】
【国外来华专利技术】20181012 US 16/159,5801.一种用于将神经网络映射到可编程逻辑设备(PLD)的系统，包括：
至少一个存储器，所述存储器被配置为存储指令；和
至少一个处理器，所述处理器被配置为执行所述指令以使所述系统执行操作，包括：
接收定义所述PLD架构的数据结构；
接收定义所述神经网络架构的数据结构；
将所述PLD架构划分为多个层，每一层具有与第一片外缓冲器相邻的起始原语和与第二片外缓冲器相邻的结束原语；
将所述神经网络架构映射到多个层中的一层或多层上；
调度所述被映射的神经网络架构以在所述多个层中的一层或多层上执行；和
根据所述被调度和映射的神经网络架构输出执行序列。


2.根据权利要求1所述的系统，其中，定义所述神经网络架构的所述数据结构包括计算图。


3.根据权利要求2所述的系统，其中，所述计算图包括多个原语和对其的输入。


4.根据权利要求2或3所述的系统，其中，所述操作还包括：根据一个或多个变换规则，将包括一个或多个原语的至少一个子图变换为至少一个其他子图。


5.根据权利要求2-4中的任一项所述的系统，其中，所述计算图包括至少一个嵌套模式。


6.根据权利要求1-5中的任一项所述的系统，其中，定义所述PLD架构的所述数据结构包括规范语言。


7.根据权利要求1-6中任一项所述的系统，其中划分所述PLD架构包括应用Dijkstra的算法。


8.根据权利要求1至7中的任一项所述的系统，其中，划分所述PLD架构包括：沿着所述PLD的原语生成可能的路径，所述可能的路径的起始和结束与在片外传输数据的总线相邻，每条路径包括所述多个层中的一层。


9.根据权利要求1至8中任一项所述的系统，其中将所述神经网络架构映射到所述多个层中的一层或多层包括生成所述神经网络的原语的可能的映射到所述多个层上，并选择具有数据传输大小局部最小化的可能的映射。


10.根据权利要求1至9中任一项所述的系统，其中调度所述映射的神经网络架构以供执行包括：为所述多个层中的一层或多层选择执行顺序，以使得所述数据传输大小至少局部地最小化。


11.根据权利要求10所述的系统，其中，选择所述执行顺序包括：生成所述多个层中的一层或多层的可能的执行顺序，以及选择具有所述数据传输大小局部最小化的可能的执行顺序。


12.根据权利要求10或11所述的系统，其中，选择所述执行顺序包括应用贪婪算法。


13.根据权利要求10至12中任一项所述的系统，其中所述执行顺序的至少一个步骤包括对片外存储器的部分写入和对片内存储器的部分写入。


14.根据权利要求1至13中的任一项所述的系统，其中，所述执行顺序包括用于输入到所述PLD的比特流。


15.根据权利要求1至14中任一项所述的系统，其中，所述PLD包括现场可编程门阵列(FPGA)。


16.一种用于将神经网络映射到可编程逻辑设备(PLD)的方法，包括：
接收定义所述PLD架构的数据结构；
接收定义所述神经网络架构的数据结...

【专利技术属性】
技术研发人员：陈国洋，张伟丰，
申请(专利权)人：阿里巴巴集团控股有限公司，
类型：发明
国别省市：开曼群岛;KY