神经网络运算装置及方法制造方法及图纸

本公开提供了一种神经网络运算装置及方法。该神经网络运算装置包括：控制单元、存储单元、稀疏选择单元和神经网络运算单元；其中：控制单元，用于产生分别对应各个单元的微指令，并将微指令发送至相应单元；稀疏选择单元，用于根据控制单元下发的对应稀疏选择单元的微指令，依照其中的稀疏数据表示的位置信息，在存储单元存储的神经网络数据中选择与有效权值相对应的神经网络数据参与运算；以及神经网络运算单元，用于根据控制单元下发的对应神经网络运算单元的微指令，对稀疏选择单元选取的神经网络数据执行神经网络运算，得到运算结果。本公开可以提升神经网络运算装置处理不同数据类型的能力，加快神经网络运算速度的同时降低功耗。

Neural Network Operating Device and Method

【技术实现步骤摘要】
神经网络运算装置及方法
本公开涉及信息
，尤其涉及一种兼容通用神经网络数据、稀疏神经网络数据和离散神经网络数据的神经网络运算装置及方法。
技术介绍
人工神经网络(ANNs)，简称神经网络(NNs)，是一种模仿动物神经网络行为特征，进行分布式并行信息处理的算法数学模型。这种网络依靠系统的复杂程度，通过调整内部大量节点之间相互连接的关系，从而达到处理信息的目的。目前，神经网络在智能控制、机器学习等很多领域均获得长足发展。随着深度学习技术的不断发展，当前神经网络的模型规模越来越大，对运算性能以及访存带宽需求越来越高，已有的神经网络运算平台(CPU，GPU，传统神经网络加速器)已无法满足用户需求。为了提高神经网络运算平台的运算效率，在通用神经网络数据的基础上，发展出稀疏神经网络数据和离散神经网络数据。然而，目前的神经网络运算平台针对每一种类型的神经网络数据均需要设立单独的处理模块进行处理，造成计算资源紧张，并连带产生了访存带宽不够、功耗过高等问题。
技术实现思路
(一)要解决的技术问题鉴于上述技术问题，本公开提供了一种神经网络运算装置及方法，以提升神经网络数据处理的复用化程度，节省计算资源本文档来自技高网...

【技术保护点】
1.一种神经网络运算装置，其特征在于，包括：离散神经网络数据拆分单元、稀疏选择单元和神经网络运算单元；其中，所述离散神经网络数据拆分单元，用于根据神经网络数据中实数值的个数N，将神经网络数据的神经网络模型拆分成N个稀疏表示的子网络，每个子网络中只包含一种实数，其余权值都为0；所述稀疏选择单元，用于在所述子网络的神经网络数据中选择与有效权值相对应的神经网络数据参与运算；所述神经网络运算单元，用于对所述稀疏选择单元选取的所述神经网络数据执行神经网络运算，得到N个运算结果，并将N个子网络的运算结果求和，从而得到所述神经网络数据的神经网络运算结果。

【技术特征摘要】
1.一种神经网络运算装置，其特征在于，包括：离散神经网络数据拆分单元、稀疏选择单元和神经网络运算单元；其中，所述离散神经网络数据拆分单元，用于根据神经网络数据中实数值的个数N，将神经网络数据的神经网络模型拆分成N个稀疏表示的子网络，每个子网络中只包含一种实数，其余权值都为0；所述稀疏选择单元，用于在所述子网络的神经网络数据中选择与有效权值相对应的神经网络数据参与运算；所述神经网络运算单元，用于对所述稀疏选择单元选取的所述神经网络数据执行神经网络运算，得到N个运算结果，并将N个子网络的运算结果求和，从而得到所述神经网络数据的神经网络运算结果。2.根据权利要求1所述的神经网络运算装置，其特征在于，还包括：存储单元，用于存储所述神经网络数据。3.根据权利要求2所述的神经网络运算装置，其特征在于，所述存储单元还用于存储所述离散神经网络数据拆分单元获得的N个稀疏表示的子网络。4.根据权利要求1所述的神经网络运算装置，其特征在于，所述N＝2或4；当所述N等于2时，两个所述子网络合并为一稀疏神经网络数据。5.根据权利要求1-4任一项所述的神经网络运算装置，其特征在于，所述装置还包括：控制单元，用于产生分别对应所述稀疏选择单元和神经网络运算单元的微指令，并将微指令发送至所述稀疏选择单元和所述神经网络运算单元；其中，所述稀疏选择单元，用于根据所述控制单元下发的对应所述稀疏选择单元的微指令，根据所述子网络的稀疏数据表示的位置信息，在所述子网络的神经网络数据中选择与有效权值相对应的神经网络数据参与运算；所述神经网络运算单元，用于根据所述控制单元下发的对应神经网络运算单元的微指令进行运算。6.根据权利要求5所述的神经网络运算装置，其特征在于，所述控制单元还用于产生对应所述离散神经网络数据拆分单元的微指令，并将所述微指令发送至所述离散神经网...

【专利技术属性】
技术研发人员：陈天石，刘少礼，陈云霁，
申请(专利权)人：北京中科寒武纪科技有限公司，
类型：发明
国别省市：北京,11