数据处理方法和相关产品技术

本申请涉及一种数据处理方法和相关产品。该方法包括：中央叶结构对第一运算数据进行拆分，得到多组第一运算子数据；所述中央叶结构在每个运算周期内将多组所述第一运算子数据分发至对应的节点叶结构；所述中央叶结构将第二运算数据发送至各所述节点叶结构；每个所述节点叶结构复用所述第二运算数据，对接收到的所述第一运算子数据进行卷积运算，得到多个部分和数据；其中，所述第一运算数据或所述第二运算数据包括语音数据、文本数据和图像数据中的至少一种。采用本方法能够降低处理器的能耗开销。

Data processing methods and related products

【技术实现步骤摘要】
数据处理方法和相关产品
本申请涉及计算机
，特别是涉及一种数据处理方法和相关产品。
技术介绍
随着神经网络技术的发展，深度学习框架(Caffe)已经广泛的得到应用。基于Caffe的神经网络模型应用在深度学习处理器进行数据处理时，能够对图像、语音和文本等数据进行处理，从而的到需要的识别结果。例如对图像进行识别从而得到图像特征，对语音进行识别从而得到控制指令等。随着神经网络的快速发展，神经网络在数据处理口过程中的数据量越来越大，大量的数据访存使得处理器进行数据处理过程中能效开销大。
技术实现思路
基于此，有必要针对上述技术问题，提供一种能够降低能耗开销的数据处理方法、装置、处理电路、处理器、芯片、板卡和电子设备。第一方面，本申请实施例提供一种数据处理方法，所述方法包括：中央叶结构对第一运算数据进行拆分，得到多组第一运算子数据；所述中央叶结构在每个运算周期内将多组所述第一运算子数据分发至对应的节点叶结构；所述中央叶结构将第二运算数据发送至各所述节点叶结构；每个所述节点叶结构复用所述第二运算数据，对接收到的所述第一运算子数据进行卷积运算，得到多个部分和数据；其中，所述第一运算数据或所述第二运算数据包括语音数据、文本数据和图像数据中的至少一种。在其中一个实施例中，所述中央叶结构将多个所述第一运算子数据分发至对应的节点叶结构，包括：所述中央叶结构通过互联总线将多组所述第一运算子数据，采用单播的形式分发至对应的各所述节点叶结构；>所述中央叶结构将所述第二运算数据发送至各所述节点叶结构，包括：所述中央叶结构通过互联总线将所述第二运算数据，采用广播的形式发送至各所述节点叶结构。在其中一个实施例中，所述第一运算数据为神经元数据，所述第二运算数据为权值数据；所述中央叶结构对第一运算数据进行拆分，得到多组第一运算子数据，包括：所述中央叶结构将所述神经元数据进行拆分，得到多组神经元子数据；所述每个所述节点叶结构复用所述第二运算数据，对接收到的所述第一运算子数据进行卷积运算，得到多个部分和数据，包括：所述每个所述节点叶结构在多个运算周期内，复用所述权值数据对接收到的不同所述神经元子数据进行卷积运算，得到每个运算周期的部分和数据。在其中一个实施例中，所述中央叶结构将所述神经元数据进行拆分，得到多组神经元子数据，包括：所述中央叶结构将所述神经元数据按照预设的神经元数据拆分方式进行拆分，得到多住神经元子数据；其中，所述神经元数据拆分方式包括卷积核Kx方向、卷积核Ky方向、输入特征图方向拆分、输出特征图方向拆分、输入特征图大小拆分和输出特征图大小拆分中的至少一个。在其中一个实施例中，所述第一运算数据为权值数据，所述第二运算数据为神经元数据；所述中央叶结构对第一运算数据进行拆分，得到多组第一运算子数据，包括：所述中央叶结构对所述权值数据进行拆分，得到多组权值子数据；所述每个所述节点叶结构复用所述第二运算数据，对接收到的所述第一运算子数据进行卷积运算，得到多个部分和数据，包括：每个所述节点叶结构在多个运算周期内，复用神经元对接收到不同的所述权值子数据和所述神经元数据进行卷积运算，得到多个部分和数据。在其中一个实施例中，所述神经元数据为表征同一个输出特征图的不同像素点的数据，或表征不同输出特征图的像素点的数据。第二方面，本申请实施例提供一种数据处理装置，所述装置包括：拆分模块，用于通过中央叶结构对第一运算数据进行拆分，得到多组第一运算子数据；分发模块，用于通过所述中央叶结构在每个运算周期内将多组所述第一运算子数据分发至对应的节点叶结构；每个所述节点叶结构与每组所述第一运算子数据对应；发送模块，用于通过所述中央叶结构将第二运算数据发送至各所述节点叶结构；处理模块，用于通过每个所述节点叶结构对接收到的所述第一运算子数据和所述第二运算数据进行卷积运算，得到多个部分和数据；其中，所述第一运算数据或所述第二运算数据包括语音数据、文本数据和图像数据中的至少一种。第三方面，本申请实施例提供一种处理电路，所述电路包括中央叶结构和多个节点叶结构；所述中央叶结构和每个所述节点叶结构通过互联总线连接；所述中央叶结构，用于对第一运算数据进行拆分，得到多组第一运算子数据；所述中央叶结构，用于在每个运算周期内将多组所述第一运算子数据分发至对应的节点叶结构；每个所述节点叶结构与每组所述第一运算子数据对应；所述中央叶结构，用于将第二运算数据发送至各所述节点叶结构；每个所述节点叶结构，用于对接收到的所述第一运算子数据和所述第二运算数据进行卷积运算，得到多个部分和数据；其中，所述第一运算数据或所述第二运算数据包括语音数据、文本数据和图像数据中的至少一种。第四方面，本申请实施例提供一种处理器，所述处理器包括上述实施例中的处理电路。第五方面，本申请实施例提供一种神经网络芯片，所述神经网络芯片包括述实施例中的处理器。第五方面，本申请实施例提供一种板卡，所述板卡包括：存储器件、接收装置和控制器件以及上述实施例中的神经网络芯片；其中，所述神经网络芯片与所述存储器件、所述控制器件以及所述接收装置分别连接；所述存储器件，用于存储数据；所述接收装置，用于实现所述芯片与外部设备之间的数据传输；所述控制器件，用于对所述芯片的状态进行监控。在一个实施例中，所述存储器件包括：多组存储单元，每一组所述存储单元与所述芯片通过总线连接，所述存储单元为：DDRSDRAM；所述芯片包括：DDR控制器，用于对每个所述存储单元的数据传输与数据存储的控制；所述接收装置为：标准PCIE接口。第六方面，本申请实施例提供一种电子设备，所述电子设备包括上述实施例中的芯片。上述数据处理方法、装置、处理电路、处理器、芯片、板卡和电子设备，通过中央叶结构对第一运算数据进行拆分，得到多组第一运算子数据，并在每个运算周期内将多组第一运算子数据分发至对应的节点叶结构，同时中央叶结构将第二运算数据发送至各节点叶结构，使得每个节点叶结构复用第二运算数据，对接收到的第一运算子数据进行卷积运算，得到多个部分和数据。该方法中，由于每个节点叶结构在多个运算周期内复用第二运算数据，对接收到的第一运算数据进行卷积运算，从而使得数据处理过程中，对数据访存需求量大大降低，进而极大的降低了处理器的能耗开销。由于第一运算数据或第二运算数据包括语音数据、文本数据和图像数据中的至少一种，该方法应用在语音处理、文本处理或者图像处理的过程中，能够极大的降低语音数据、文本数据和图像数据的访存量，进而提高了数据处理的效率，极大的降低了处理器的能耗开销。附图说明图1为一个实施例中计算机设备的内部结构图；图2为一个实施例提供的数据处理方法的流程示意图；图2a为一个实施例提供的卷积神经本文档来自技高网...

【技术保护点】
1.一种数据处理方法，其特征在于，所述方法包括：/n中央叶结构对第一运算数据进行拆分，得到多组第一运算子数据；/n所述中央叶结构在每个运算周期内将多组所述第一运算子数据分发至对应的节点叶结构；/n所述中央叶结构将第二运算数据发送至各所述节点叶结构；/n每个所述节点叶结构复用所述第二运算数据，对接收到的所述第一运算子数据进行卷积运算，得到多个部分和数据；/n其中，所述第一运算数据或所述第二运算数据包括语音数据、文本数据和图像数据中的至少一种。/n

【技术特征摘要】
1.一种数据处理方法，其特征在于，所述方法包括：
中央叶结构对第一运算数据进行拆分，得到多组第一运算子数据；
所述中央叶结构在每个运算周期内将多组所述第一运算子数据分发至对应的节点叶结构；
所述中央叶结构将第二运算数据发送至各所述节点叶结构；
每个所述节点叶结构复用所述第二运算数据，对接收到的所述第一运算子数据进行卷积运算，得到多个部分和数据；
其中，所述第一运算数据或所述第二运算数据包括语音数据、文本数据和图像数据中的至少一种。


2.根据权利要求1所述的方法，其特征在于，所述中央叶结构将多个所述第一运算子数据分发至对应的节点叶结构，包括：
所述中央叶结构通过互联总线将多组所述第一运算子数据，采用单播的形式分发至对应的各所述节点叶结构；
所述中央叶结构将所述第二运算数据发送至各所述节点叶结构，包括：
所述中央叶结构通过互联总线将所述第二运算数据，采用广播的形式发送至各所述节点叶结构。


3.根据权利要求2所述的方法，其特征在于，所述第一运算数据为神经元数据，所述第二运算数据为权值数据；
所述中央叶结构对第一运算数据进行拆分，得到多组第一运算子数据，包括：
所述中央叶结构将所述神经元数据进行拆分，得到多组神经元子数据；
所述每个所述节点叶结构复用所述第二运算数据，对接收到的所述第一运算子数据进行卷积运算，得到多个部分和数据，包括：
所述每个所述节点叶结构在多个运算周期内，复用所述权值数据对接收到的不同所述神经元子数据进行卷积运算，得到每个运算周期的部分和数据。


4.根据权利要求3所述的方法，其特征在于，所述中央叶结构将所述神经元数据进行拆分，得到多组神经元子数据，包括：
所述中央叶结构将所述神经元数据按照预设的神经元数据拆分方式进行拆分，得到多住神经元子数据；其中，所述神经元数据拆分方式包括卷积核Kx方向、卷积核Ky方向、输入特征图方向拆分、输出特征图方向拆分、输入特征图大小拆分和输出特征图大小拆分中的至少一个。


5.根据权利要求2所述的方法，其特征在于，所述第一运算数据为权值数据，所述第二运算数据为神经元数据；
所述中央叶结构对第一运算数据进行拆分，得到多组第一运算子数据，包括：
所述中央叶结构对所述权值数据进行拆分，得到多组权值子数据；
所述每个所述节点叶结构复用所述第二运算数据，对接收到的所述第一运算子数据进行卷积运算，得到多个部分和数据，包括：
每个所述节点叶结构在多个运算周期内，复用神经元对接收到不同的所述权值子数据和所述神经元数据进行卷积运算，得到多个部分和数据。


6.根据权利要求...

【专利技术属性】
技术研发人员：不公告发明人，
申请(专利权)人：上海寒武纪信息科技有限公司，
类型：发明
国别省市：上海;31