运算装置制造方法及图纸

本公开涉及一种运算装置。所述运算装置可以包括处理器、内存控制器、存储单元以及多个运算节点，其中，处理器用于接收输入指令，内存控制器用于加载操作数到存储单元，运算节点用于根据输入指令以及操作数执行输入指令以实现输入指令对应的操作数。根据本公开的运算装置可以提高运算效率。

【技术实现步骤摘要】
运算装置
本公开涉及信息处理
，尤其涉及一种运算装置。
技术介绍
在人工智能
，神经网络算法是最近非常流行的一种机器学习算法，在各种领域中都取得了非常好的效果，比如图像识别，语音识别，自然语言处理等。随着神经网络算法的发展，算法的复杂度也越来越高，为了提高识别度，模型的规模也在逐渐增大。用GPU和CPU处理起这些大规模的模型，要花费大量的计算时间，并且耗电量很大。
技术实现思路
有鉴于此，本公开提出了一种运算装置，每一层运算节点接收到的输入指令的格式都是相同的，可以自动完成指令的分解、执行指令对应的操作。不同层的运算节点、不同规模的计算机上都具有相同的编程接口和指令集架构，能够执行相同格式的程序，层与层之间隐式装载数据，简化用户编程的复度性，且运算装置的扩展或者程序在不同运算装置之间的移植都非常容易。根据本公开的一方面，提供了一种运算装置，所述运算装置包括：多层运算节点，任意一个运算节点包括本地内存组件、处理器、下一层运算节点、以及内存控制器，所述处理器连接下一层运算节点和内存控制器，其中，所述处本文档来自技高网...

【技术保护点】
1.一种运算装置，其特征在于，所述运算装置包括：多层运算节点，任意一个运算节点包括本地内存组件、处理器、下一层运算节点、以及内存控制器，所述处理器连接下一层运算节点和内存控制器；/n其中，所述处理器用于接收输入指令，并对输入指令进行分解得到多个子指令，将所述多个子指令发送给所述下一层运算节点；所述内存控制器用于从所述任意一个运算节点的上一层运算节点的内存组件加载多个子指令对应的第一操作数中的第二操作数到所述本地内存组件；所述下一层运算节点用于根据所述多个子指令的运算符和所述多个子指令的第二操作数执行所述多个子指令；/n所述输入指令和多个子指令具有相同的格式。/n

【技术特征摘要】
20190427 CN 20191034702701.一种运算装置，其特征在于，所述运算装置包括：多层运算节点，任意一个运算节点包括本地内存组件、处理器、下一层运算节点、以及内存控制器，所述处理器连接下一层运算节点和内存控制器；
其中，所述处理器用于接收输入指令，并对输入指令进行分解得到多个子指令，将所述多个子指令发送给所述下一层运算节点；所述内存控制器用于从所述任意一个运算节点的上一层运算节点的内存组件加载多个子指令对应的第一操作数中的第二操作数到所述本地内存组件；所述下一层运算节点用于根据所述多个子指令的运算符和所述多个子指令的第二操作数执行所述多个子指令；
所述输入指令和多个子指令具有相同的格式。


2.根据权利要求1所述的运算装置，其特征在于，
所述输入指令和所述多个子指令都包括：运算符、操作数参数，所述操作数参数是指向指令的操作数的参数，所述操作数参数包括全局参数和局部参数，全局参数是表示指令对应的第一操作数的大小的参数，局部参数是表示指令的第二操作数在所述第一操作数中的起始位置和第二操作数的大小的参数；
所述内存控制器用于根据所述操作数参数从所述任意一个运算节点的上一层运算节点的内存组件加载多个子指令对应的第一操作数中的第二操作数到所述本地内存组件。


3.根据权利要求1或2所述的运算装置，其特征在于，
所述本地内存组件与所述任意一个运算节点的上一层运算节点和下一层运算节点的内存组件之间连接有数据通络，所述内存控制器连接所述数据通路。


4.根据权利要求3所述的运算装置，其特征在于，
所述处理器还用于根据多个子指令生成对应的多个控制信号，并将多个控制信号发送给内存控制器；
所述内存控制器根据每个控制信号控制所述数据通路，从上一层运算节点的内存组件中加载该控制信号对应的子指令的操作数到本地内存组件。


5.根据权利要求4所述的运算装置，其特征在于，
所述内存控制器包括第一内存控制器和第二内存控制器，第一内存控制器通过第二内存控制器连接数据通路，第一内存控制器还用于根据控制信号生成加载指令，将加载指令发送给第二内存控制器，第二内存控制器用于根据加载指令控制数据通路。


6.根据权利要求5所述的运算装置，其特征在于，
第一内存控制...

【专利技术属性】
技术研发人员：不公告发明人，
申请(专利权)人：中科寒武纪科技股份有限公司，
类型：发明
国别省市：北京;11