神经网络算子的划分方法、装置及划分设备制造方法及图纸

本发明专利技术实施例提供一种神经网络算子的划分方法、装置及划分设备，该方法包括：获取神经网络计算图中所有算子的属性信息；根据所述算子的属性信息，确定各个所述算子对应的处理器；将所述神经网络计算图划分为一个或多个计算子图，每个计算子图对应一种处理器；通过所述计算子图对应的处理器对各个所述计算子图进行处理。在本发明专利技术实施例中，可以根据算子的属性信息选择对应种类的处理器，利用选择的处理器对该算子进行处理，这样可以提高神经网络计算图的处理速度，避免由于特定种类的处理器对某些算子无法处理或者处理效率低导致神经网络计算图的处理速度较慢的问题。

Division method, device and equipment of neural network operator

【技术实现步骤摘要】
神经网络算子的划分方法、装置及划分设备
本专利技术实施例涉及网络通信
，具体涉及一种神经网络算子的划分方法、装置及划分设备。
技术介绍
神经网络由多种算子组成，算子可以看作是运算函数，比如卷积、池化(pooling)等。中央处理器(CentralProcessingUnit，CPU)虽然可以运行所有的算子，但是卷积、全连接(1024×4096)等计算量大，用CPU运行会非常慢、效率低。这时可以选择用专用的加速处理器(AcceleratedProcessingUnit，APU)运行。但APU往往支持的指令有限，有的特殊算子不能用APU运行。因此，如何进行神经网络算子的处理器分配是亟待解决的技术问题。
技术实现思路
本专利技术实施例的一个目的在于提供一种神经网络算子的划分方法、装置及划分设备，解决如何进行神经网络算子的处理器分配的问题。第一方面，提供一种神经网络算子的划分方法，包括：获取神经网络计算图中所有算子的属性信息；根据所述算子的属性信息，确定各个所述算子对应的处理器；本文档来自技高网...

【技术保护点】
1.一种神经网络算子的划分方法，其特征在于，包括：/n获取神经网络计算图中所有算子的属性信息；/n根据所述算子的属性信息，确定各个所述算子对应的处理器；/n将所述神经网络计算图划分为一个或多个计算子图，每个计算子图中的所有算子对应一种处理器；/n通过所述计算子图对应的处理器对各个所述计算子图进行处理。/n

【技术特征摘要】
1.一种神经网络算子的划分方法，其特征在于，包括：
获取神经网络计算图中所有算子的属性信息；
根据所述算子的属性信息，确定各个所述算子对应的处理器；
将所述神经网络计算图划分为一个或多个计算子图，每个计算子图中的所有算子对应一种处理器；
通过所述计算子图对应的处理器对各个所述计算子图进行处理。


2.根据权利要求1所述的方法，其特征在于，所述将所述神经网络计算图划分为一个或多个计算子图，每个计算子图中的所有算子对应一种处理器，包括：
根据所述算子的属性信息和所述神经网络计算图中各个算子之间的关联关系，将所述神经网络计算图划分为一个或多个计算子图，每个计算子图中的所有算子对应一种处理器。


3.根据权利要求2所述的方法，其特征在于，根据所述算子的属性信息和所述神经网络计算图中各个算子之间的关联关系，将所述神经网络计算图划分为一个或多个计算子图，包括：
按照神经网络计算图中各算子的处理顺序的反方向，遍历神经网络计算图中的各个算子；
根据所述算子的属性信息和所述神经网络计算图中各个算子之间的关联关系，按照预设的划分规则将神经网络计算图划分为一个或多个计算子图。


4.根据权利要求3所述的方法，其特征在于，所述预设的划分规则包括以下一项或多项组合：
如果作为子节点的算子与作为父节点的算子的属性信息相同，则将两算子划分为同一个计算子图；
如果一个计算子图具有多个作为父节点的算子，且多个作为父节点的算子的属性信息不相同，则将该计算子图单独划分进行处理；
如果一个子节点的父节点具有多个子节点，且该子节点不是该父节点的最后一个子分支节点时，则不对该父节点进行遍历，如果该子节点是该父节点的最后一个子分支节点时，则对该父节点进行遍历。


5.根据权利要求1所述的方法，其特征在于，所述通过所述计算子图对应的处理器对各个所述计算子图进行处理，包括：
根据所述神经网络计算图中各个算子之间的关联关系，确定各个计算子图之间的关联关系；<...

【专利技术属性】
技术研发人员：戚海涛，李涵，吴欣洋，张爱飞，丁瑞强，
申请(专利权)人：北京灵汐科技有限公司，
类型：发明
国别省市：北京;11