神经网络任务处理系统技术方案

本申请提供了一种神经网络任务处理系统，所述神经网络任务处理系统包括：n个计算装置，m个反向计算模块、控制模块和互联装置。

Neural network task processing system

【技术实现步骤摘要】
神经网络任务处理系统
本申请属于神经网络运算领域，尤其涉及一种神经网络任务处理系统。
技术介绍
数据处理是大部分算法需要经过的步骤或阶段，在计算机引入数据处理领域后，越来越多的数据处理通过计算机来实现，现有的算法中有计算设备在进行神经网络的数据计算时速度慢，效率低。申请内容有鉴于此，本申请提供一种神经网络任务处理系统，能够提高计算速度，并且运算性能高效。本申请提供一种神经网络任务处理系统，其特征在于，所述系统包括：n个计算装置，m个反向计算模块、控制模块和互联装置；所述控制模块通过所述互联装置与所述n个计算装置和m个反向计算模块连接和通信；所述计算装置，用于在执行神经网络正向计算；所述反向计算模块，用于执行神经网络反向计算。附图说明图1-1是本申请实施例提供的计算装置的另一种结构示意图。图1-2是本申请实施例提供的卷积计算指令的流程示意图。图2-1示意性示出了根据本申请实施例的多处理器的一种实施例示意图。图2-2示意性示出了根据本申请实施例的多处理器本文档来自技高网...

【技术保护点】
1.一种神经网络任务处理系统，其特征在于，所述系统包括：n个计算装置，m个反向计算模块、控制模块和互联装置；/n所述控制模块通过所述互联装置与所述n个计算装置和m个反向计算模块连接和通信；/n所述计算装置，用于在执行神经网络正向计算；/n所述反向计算模块，用于执行神经网络反向计算。/n

【技术特征摘要】
20170720 CN 20171059595111.一种神经网络任务处理系统，其特征在于，所述系统包括：n个计算装置，m个反向计算模块、控制模块和互联装置；
所述控制模块通过所述互联装置与所述n个计算装置和m个反向计算模块连接和通信；
所述计算装置，用于在执行神经网络正向计算；
所述反向计算模块，用于执行神经网络反向计算。


2.根据权利要求1所述的神经网络任务处理系统，其特征在于，
所述反向计算模块为通用处理器，所述通用处理器为：GPU、DSP或FPGA；
所述反向计算模块与所述存储器连接，所述反向计算模块与所述计算装置共享所述存储器。


3.根据权利要求1-2任意一项所述的神经网络任务处理系统，其特征在于，所述计算装置包括：寄存器单元、互联模块、运算单元、控制单元和数据访问单元；其中，
寄存器单元，用于存储运算指令、数据块的在存储介质的地址，运算指令对应的计算拓扑结构；
控制单元，用于从寄存器单元内提取运算指令，该运算指令对应的操作域以及该运算指令对应的第一计算拓扑结构，将该运算指令译码成执行指令，该执行指令用于控制运算单元执行运算操作，将该操作域传输至数据访问单元；
数据访问单元，用于提取该操作域对应的数据块，并将该数据块传输至互联模块；
互联模块、用于接收数据块，将该数据块发送至运算单元；
运算单元，用于该执行指令调用运算单元的计算器对该数据块执行运算操作得到运算结果；
所述运算单元包括：一个主运算单元和多个从运算单元，所述互联模块连接所述主运算单元和多个从运算单元，所述互联模块为：树状结构、环状结构、网格状结构、分级互连或总线结构。


4.根据权利要求3所述的神经网络任务处理系统，其特征在于，
所述运算单元包括：加法计算器、乘法计算器、比较器、激活运算器中的至少二种。


5.根据权利要求4任意一项所述的神经网络任务处理系统，其特征在于，
所述运算指令为卷积计算指令，所述计算指令包括：操作域和操作码；
所述卷积计算指令包括：卷积神经网络COMPUTE指令以及CONFIG指令；所述卷积神经网络COMPUTE指令包括：
卷积神经网络sigmoid指令，根据该指令，装置分别从存储器的指定地址取出指定大小的输入数据和卷积核，在卷积运算部件中做卷积操作，然后将输出结果做sigmoid激活；
卷积神经网络TanH指令，根据该指令，装置分别从存储器的指定地址取出指定大小的输入数据和卷积核，在卷积运算部件中做卷积操作，然后将输出结果做TanH激活；
卷积神经网络ReLU指令，根据该指令，装置分别从存储器的指定地址取出指定大小的输入数据和卷积核，在卷积运算部件中做卷积操作，然后将输出结果做ReLU激活；以及
卷积神经网络group指令，根据该指令，装置分别从存储器的指定地址取出指定大小的输入数据和卷积核，划分group之后，在卷积运算部件中做卷积操作，然后将输出结果做激活。


6.根据权利要求5所述的神经网络任务处理系统，其特征在于，所述运算指令还包括：
IO指令实现从外部存储空间读入计算需要的输入数据以及在计算完成后将数据存回至外部空间；
NOP指令负责清空当前装置内部所有控制信号缓存队列中的控制信号，保证NOP指令之前的所有指令全部指令完毕；
JUMP指令负责控制将要从指令存储单元读取的下一条指令地址的跳转，用来实现控制流的跳转；
MOVE指令负责将装置内部地址空间某一地址的数据搬运至装置内部地址空间的另一地址，该过程独立于运算单元，在执行过程中不占用运算单元的资源。


7.根据权利要求3所述的计算装置，其特征在于，
所述运算单元包括：一个主运算单元和多个从运算单元，所述互联模块连接所述主运算单元和多个从运算单元，所述互联模块为：树状结构、环状结构、网格...

【专利技术属性】
技术研发人员：陈天石，刘少礼，王在，胡帅，
申请(专利权)人：上海寒武纪信息科技有限公司，
类型：发明
国别省市：上海;31