一种运算装置和运算方法制造方法及图纸

技术编号:23191572 阅读:23 留言:0更新日期:2020-01-24 16:30
本公开涉及一种运算装置和运算方法,其中所述运算装置包括:多个运算模块,该多个运算模块通过并行执行相应的运算子命令完成网络模型的运算操作;其中,所述运算模块包括:至少一个运算单元,其配置为利用第一运算子数据执行第一运算子命令;存储单元,其至少用于存储所述第一运算子数据,该第一运算子数据包括用于执行所述第一运算子命令的数据。本公开实施例能够降低用于数据访问的带宽需求,且成本低。

An operation device and method

【技术实现步骤摘要】
一种运算装置和运算方法
本公开涉及数据处理
,尤其涉及一种运算装置、数据处理芯片、电子设备和运算方法。
技术介绍
现有技术中,涉及深度学习的网络模型中通常存在大量的运算,例如神经网络计算中有一些计算需要并行处理,例如正向运算、反向运算以及权值更新等过程都需要大量的并行运算。在传统的并行计算系统中,处理单元需要从访存开销太大的存储单元中读写数据,由于存在大量的并行运算,浙江会导致对带宽的需求很高,且造成巨大的能耗开销。
技术实现思路
本公开实施例提出了一种能够减低成本且降低带宽需求的技术方案,其中提出了一种运算装置、数据处理芯片、电子设备和运算方法。根据本公开的第一方面,提供了一种运算装置,其包括:多个运算模块,该多个运算模块通过并行执行相应的运算子命令完成网络模型的运算操作;其中,所述运算模块包括:至少一个运算单元,其配置为利用第一运算子数据执行第一运算子命令;存储单元,其至少用于存储所述第一运算子数据,该第一运算子数据包括用于执行所述第一运算子命令的数据;在本公开实施例中,至少本文档来自技高网...

【技术保护点】
1.一种运算装置,其特征在于,包括:多个运算模块,该多个运算模块通过并行执行相应的运算子命令完成网络模型的运算操作;其中,所述运算模块包括:/n至少一个运算单元,其配置为利用第一运算子数据执行第一运算子命令;/n存储单元,其至少用于存储所述第一运算子数据,该第一运算子数据包括用于执行所述第一运算子命令的数据。/n

【技术特征摘要】
1.一种运算装置,其特征在于,包括:多个运算模块,该多个运算模块通过并行执行相应的运算子命令完成网络模型的运算操作;其中,所述运算模块包括:
至少一个运算单元,其配置为利用第一运算子数据执行第一运算子命令;
存储单元,其至少用于存储所述第一运算子数据,该第一运算子数据包括用于执行所述第一运算子命令的数据。


2.根据权利要求1所述的运算装置,其特征在于,至少两个运算模块之间存在数据连接,并且其中一个运算模块配置为利用所述第一运算子数据和另一个运算模块的第二运算子数据执行所述第一运算子命令,其中所述第二运算子数据包括该另一个运算模块中的存储单元内存储的数据和/或该另一个运算模块中的运算单元所生成的数据。


3.根据权利要求1所述的运算装置,其特征在于,还包括控制模块,其配置为根据接收的运算命令和运算数据,为各所述运算模块分配对应的运算子命令以及运算子数据;
所述运算命令包括多个运算子命令,以及所述运算数据包括执行各所述运算子命令所需的运算子数据。


4.根据权利要求3所述的运算装置,其特征在于,所述控制模块包括:
第一分配单元,其配置为根据运算命令中的运算逻辑关系,将所述运算命令划分成多个运算子命令,并将该多个运算子命令对应分配至不同的运算模块进行运算;
第二分配单元,其配置为确定执行各所述运算子命令所需的运算子数据,并将所述运算子数据分配至对应的运算模块进行存储。


5.根据权利要求3所述的运算装置,其特征在于,所述控制模块还配置为根据各运算子命令之间的运算逻辑关系,选择性地连接各所述运算模块。


6.根据权利要求1所述的运算装置,其特征在于,所述运算单元包括网络处理器或者计算机设备。


7.根据权利要求1所述的运算装置,其特征在于,所述存储单元包括寄存器、寄存器堆以及存储器阵列中的至少一种。


8.一种数据处理芯...

【专利技术属性】
技术研发人员:不公告发明人
申请(专利权)人:上海寒武纪信息科技有限公司
类型:发明
国别省市:上海;31

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1