一种计算装置及计算方法制造方法及图纸

本申请提供了一种计算装置，所述计算装置包括：存储器、寄存器单元、矩阵计算单元和控制单元。

【技术实现步骤摘要】
一种计算装置及计算方法
本申请属于神经网络运算领域，尤其涉及一种计算装置及计算方法。
技术介绍
数据处理是大部分算法需要经过的步骤或阶段，在计算机引入数据处理领域后，越来越多的数据处理通过计算机来实现，现有的算法中有计算设备在进行神经网络的数据计算时速度慢，效率低。申请内容有鉴于此，本申请提供一种计算装置，可提升计算装置的处理速度，提高效率。本申请提供一种计算装置，其特征在于，所述计算装置包括：存储器、寄存器单元、矩阵计算单元和控制单元；所述存储器，用于存储矩阵；所述寄存器单元，用于存储标量数据，所述标量数据至少包括：所述矩阵在所述存储器内的存储地址；所述控制单元，用于控制所述矩阵计算单元获取第一运算指令，所述第一运算指令包括执行所述指令所需的矩阵读取指示，所述所需的矩阵为至少一个矩阵，所述至少一个矩阵为长度相同的矩阵或长度不相同的矩阵；所述运算单元，用于依据所述矩阵读取指示向所述存储器发送读取命令；依据采用批量读取方式读取所述矩阵读取指示对应的矩阵，对该矩阵执行所述第一运算指令；本文档来自技高网...

【技术保护点】
1.一种计算装置，其特征在于，所述计算装置包括：存储器、寄存器单元、矩阵计算单元和控制单元；/n所述存储器，用于存储矩阵；/n所述寄存器单元，用于存储标量数据，所述标量数据至少包括：所述矩阵在所述存储器内的存储地址；/n所述控制单元，用于控制所述矩阵计算单元获取第一运算指令，所述第一运算指令包括执行所述指令所需的矩阵读取指示，所述所需的矩阵为至少一个矩阵，所述至少一个矩阵为长度相同的矩阵或长度不相同的矩阵；/n所述运算单元，用于依据所述矩阵读取指示向所述存储器发送读取命令；依据采用批量读取方式读取所述矩阵读取指示对应的矩阵，对该矩阵执行所述第一运算指令；/n所述存储器包括：/n数据划分模块，用...

【技术特征摘要】
20170720 CN 20171059595111.一种计算装置，其特征在于，所述计算装置包括：存储器、寄存器单元、矩阵计算单元和控制单元；
所述存储器，用于存储矩阵；
所述寄存器单元，用于存储标量数据，所述标量数据至少包括：所述矩阵在所述存储器内的存储地址；
所述控制单元，用于控制所述矩阵计算单元获取第一运算指令，所述第一运算指令包括执行所述指令所需的矩阵读取指示，所述所需的矩阵为至少一个矩阵，所述至少一个矩阵为长度相同的矩阵或长度不相同的矩阵；
所述运算单元，用于依据所述矩阵读取指示向所述存储器发送读取命令；依据采用批量读取方式读取所述矩阵读取指示对应的矩阵，对该矩阵执行所述第一运算指令；
所述存储器包括：
数据划分模块，用于根据数据划分策略将片内存储数据划分在不同区域，分别存储在片内存储介质和片外存储介质；
预先操作模块，用于在进行数据拼接时预先对片内存储数据的片内地址索引进行操作处理；
数据拼接模块，用于根据数据拼接策略将片内存储数据和片外输入数据拼接得到所述原始数据表示。


2.根据权利要求1所述的计算装置，其特征在于，所述矩阵读取指示包括：所述指令所需的矩阵的存储地址或所述指令所需矩阵的标识；
所述控制单元，用于控制所述运算单元依据所述标识从所述寄存器单元出采用单位读取方式读取所述标识对应的存储地址，控制所述运算单元向所述存储器发送读取所述存储地址的读取命令并采用批量读取方式获取所述矩阵。


3.根据权利要求1-2任意一项所述的计算装置，其特征在于，
所述运算单元，具体用于对该矩阵执行第一流水级的计算得到第一结果，将第一结果输入到第二流水级执行第二流水级得到第二结果，将所述第二结果输入到第三流水级执行第三流水级得到第三结果，将所述第三结果输入到所述存储器进行存储。


4.根据权利要求1-2任意一项所述的计算装置，其特征在于，所述计算装置还包括：
缓存单元，用于缓存待执行的运算指令；
所述控制单元，用于将待执行的运算指令缓存于所述缓存单元内。


5.根据权利要求1-2任意一项所述的计算装置，其特征在于，
所述控制单元，用于确定所述第一运算指令与所述第一运算指令之前的第二运算指令是否存在关联关系，如所述第一运算指令与所述第二运算指令存在关联关系，则将所述第一运算指令缓存与所述缓存单元内，在所述第二运算指令执行完毕后，从所述缓存单元提取所述第一运算指令传输至所述运算单元；
所述确定该第一运算指令与第一运算指令之前的第二运算指令是否存在关联关系包括：
依据所述第一运算指令提取所述第一运算指令中所需矩阵的第一存储地址区间，依据所述第二运算指令提取所述第二运算指令中所需矩阵的第二存储地址区间，如所述第一存储地址区间与所述第二存储地址区间具有重叠的区域，则确定所述第一运算指令与所述第二运算指令具有关联关系，如所述第一存储地址区间与所述第二存储地址区间不具有重叠的区域，则确定所述第一运算指令与所述第二运算指令不具有关联关系。


6.根据权利要求1-2任意一项所述的计算装置，其特征在于，
所述矩阵为m*n矩阵、1*n矩阵或m*1矩阵，其中m、n为大于等于2的整数；
所述存储介质为高速暂存存储器。


7.根据权利要求1所述的计算装置，其特征在于，所述计算装置还包括：
存储模块，用于存储搬运所述片内存储介质的所述片内存储数据和来自所述片外存储介质的所述片外输入数据；
所述存储模块采用读写端口分离，数据的读出和写入相互独立；
所述预先处理模块还包括：
片上处理子模块，用于运算处理所述片内存储数据；
片外处理子模块，用于运算处理外部输入数据处理；
所述外部输入数据包括所述片外输入数据、所述读写端口直接读入的数据；
所述存储模块还包括：
地址索引接口,用于根据片内地址索引来索引所述片内存储数据；
数据读出接口,用于已索引到的所述片内存储数据的输出出口；
数据写入接口,用于将要存储的数据根据写入地址写入相应存储位置。


8.根据权利要求1所述计算装置，其特征在于，所述数据划分模块还包括：
地址划分子模块，用于地址空间划分成为片外数据空间和片内数据空间；
数据替换子模块，用于根据数据替换策略在所述片内存储介质和片外存储介质之间进行数据替换；所述数据替换策略包括顺序替换、逆序替换以及随机替换；
所述数据划分策略包括定点数划分、浮点数划分；所述数据划分模块基于芯片中的一个或多个片上计算单元实现，所述片上计算单元发起读写请求并处理拼接得到的原始数据；
所述数据拼接模块还包括：
索引拼接子模块，用于片内片外数据传输的形式从原始数据表示转为全部或者部分...

【专利技术属性】
技术研发人员：陈天石，刘少礼，王在，胡帅，
申请(专利权)人：上海寒武纪信息科技有限公司，
类型：发明
国别省市：上海;31