用于可部署推理系统的存储器映射的神经网络加速器技术方案

提供了一种神经网络处理器系统，其包括至少一个神经网络处理核心、激活存储器、指令存储器和至少一个控制寄存器，神经网络处理核心被适配为实施神经网络计算、控制和通信原语。存储器映射被包括在内，存储器映射包括与激活存储器、指令存储器和至少一个控制寄存器中的每一个相对应的区域。另外，可操作地连接到神经网络处理器系统的接口被包括在内，该接口被适配为与主机通信并暴露存储器映射。适配为与主机通信并暴露存储器映射。适配为与主机通信并暴露存储器映射。

【技术实现步骤摘要】
【国外来华专利技术】用于可部署推理系统的存储器映射的神经网络加速器


[0001]本公开的实施例涉及用于神经推理的系统，更具体地，涉及用于可部署推理系统的存储器映射的神经网络加速器。

技术实现思路

[0002]根据本公开的实施例，用于系统的方法和计算机程序产品包括：神经网络处理器系统，包括至少一个神经网络处理核心、激活存储器、指令存储器和至少一个控制寄存器，神经网络处理核心被适配为实施神经网络计算、控制和通信原语；存储器映射，包括与激活存储器、指令存储器和至少一个控制寄存器中的每一个相对应的区域；可操作地连接到神经网络处理器系统的接口，该接口被适配为与主机通信并暴露存储器映射。
[0003]根据本公开的实施例，神经网络处理器被配置为经由接口接收神经网络描述，经由接口接收输入数据，并且经由接口提供输出数据。在一些实施例中，神经网络处理器系统经由接口暴露API，该API包括用于经由接口接收神经网络描述、经由接口接收输入数据以及经由接口提供输出数据的方法。在一些实施例中，接口包括AXI、PCIe、USB、以太网或火线接口。
[0004]在一些实施例中，该系本文档来自技高网...

【技术保护点】

【技术特征摘要】
【国外来华专利技术】1.一种系统，包括：神经网络处理器系统，包括：至少一个神经网络处理核心、激活存储器、指令存储器和至少一个控制寄存器，所述神经网络处理核心被适配为实施神经网络计算、控制和通信原语；存储器映射，包括与所述激活存储器、指令存储器和至少一个控制寄存器中的每一个相对应的区域，可操作地连接到所述神经网络处理器系统的接口，所述接口被适配为与主机通信并暴露所述存储器映射。2.根据权利要求1所述的系统，其中，所述神经网络处理器被配置为经由所述接口接收神经网络描述，经由所述接口接收输入数据，并且经由所述接口提供输出数据。3.根据权利要求2所述的系统，其中，所述神经网络处理器系统经由所述接口暴露API，所述API包括用于经由所述接口接收所述神经网络描述、经由所述接口接收输入数据以及经由所述接口提供输出数据的方法。4.根据权利要求1所述的系统，其中，所述接口包括AXI、PCIe、USB、以太网或火线接口。5.根据权利要求1所述的系统，还包括冗余神经网络处理核心，所述冗余神经网络处理核心被配置为与所述神经网络处理核心并行地计算神经网络模型。6.根据权利要求1所述的系统，其中，所述神经网络处理器系统被配置为提供神经网络模型的冗余计算。7.根据权利要求1所述的系统，其中，所述神经网络处理器系统被配置为提供硬件级冗余、软件级冗余和模型级冗余中的至少一个。8.根据权利要求2所述的系统，其中，所述神经网络处理器系统包括可编程固件，所述可编程固件可配置为处理所述输入数据和输出数据。9.根据权利要求8所述的系统，其中，所述处理包括缓冲。10.根据权利要求1所述的系统，其中，所述神经网络处理器系统包括非易失性存储器。11.根据权利要求10所述的系统，其中，所述神经网络处理器系统被配置为存储...

【专利技术属性】
技术研发人员：F，
申请(专利权)人：国际商业机器公司，
类型：发明
国别省市：