数据处理装置和控制方法制造方法及图纸

本发明专利技术公开一种数据处理装置和控制方法。提供一种实现与包含多个层的神经网络对应的计算的数据处理装置。处理单元包括多个处理器，该多个处理器通过流水线处理顺序地计算各个块的数据，每个块与一个层中的特征面的一部分对应。控制单元基于所述神经网络的结构信息确定所述块的数据的计算次序，并且向所述多个处理器发送控制所述计算次序的命令。

【技术实现步骤摘要】
数据处理装置和控制方法
本专利技术涉及数据处理装置和控制方法，尤其涉及使用神经网络的处理，例如，诸如用于识别对象数据中的特定模式的处理等处理。
技术介绍
使用神经网络的计算处理被应用于越来越多的领域。例如，深度学习的进步促使图像识别的精度的提高。卷积神经网络(CNN，ConvolutionalNeuralNetworks)通常被用于深度学习。使用诸如CNN等的神经网络的计算处理包括很多积和运算(product-sumoperation)，并且存在有效地实现这样的运算的需求。取决于处理的目的，也存在通过使用由各种方式构成的神经网络来实现操作的需求。因此，需要能够通过使用各种神经网络来有效地实现操作的数据处理装置，从而在诸如移动终端、车载设备等嵌入式系统中使用这样的神经网络。作为用于使用神经网络来有效地实现操作的配置，日本专利申请特开2017-156941披露了并行地实现如下处理：前一层中的池化处理，以及后一层中的归一化处理所需的统计处理。
技术实现思路
根据本专利技术的一实施例，一种实现与包含多个层的神经网络对应的计算的数据处理装置，包括：处理单元，其包括多个处理器，该多个处理器通过流水线处理顺序地计算各个块的数据，每个块与一个层中的特征面的一部分对应；以及控制单元，用于基于所述神经网络的结构信息确定所述块的数据的计算次序，并且向所述多个处理器发送控制所述计算次序的命令。根据本专利技术的另一实施例，一种用于实现与包含多个层的神经网络对应的计算的控制方法，包括：用多个处理器进行流水线处理以计算各个块的数据，每个块与一个层中的特征面的一部分对应；基于所述神经网络的结构信息确定所述块的数据的计算次序；以及向所述多个处理器发送控制所述计算次序的命令。根据下面对示例性实施例的描述(参照附图)，本专利技术的其他特征将变得清楚。附图说明图1是例示根据一实施例的数据处理器的示例的框图。图2是例示根据一实施例的数据处理装置的示例的框图。图3是例示根据一实施例的由数据处理装置实现的处理的流程图。图4是例示神经网络的结构的示例的图。图5是例示根据一实施例的由控制器实现的处理的流程图。图6是例示根据一实施例的由控制器实现的处理的流程图。图7是例示根据一实施例的控制命令的生成次序的图。图8A和8B是例示控制命令的格式及系数保持单元中的数据布置的图。图9A和9B是例示网络信息及各个处理层的处理参数的图。图10是例示根据一实施例的流水线处理的时序图。图11是例示根据一实施例的由控制器实现的处理的流程图。图12是例示根据一实施例的数据处理器的示例的框图。图13是例示神经网络的结构的示例的图。具体实施方式下面将参照附图详细地描述各实施例。应注意，这些实施例决不意图限制本专利技术请求保护的范围。这些实施例中描述了很多特征，但是并没有一项专利技术需要包含所有这些特征的限制，并且这些特征可以任意地组合。进一步地，在附图中，相同或相似的配置将被赋予相同的附图标记，且重复的描述将省略。日本专利申请特开2017-156941所披露的专利技术被配置，以便从离输入层侧最近的中间层开始、次序地以中间层经由中间层(intermediatelayer-by-intermediatelayer)为基础实现计算处理。然而，取决于神经网络的类型，通过改变计算处理中的处理次序，存在可更加有效地使用计算资源或存储资源的情形。根据本专利技术的一实施例，不论计算次序如何，都能够有效地实现使用神经网络的计算。<第一实施例>根据本专利技术一实施例的数据处理装置可实现与包括多个层的神经网络对应的计算。图2是例示数据处理装置200的硬件配置的框图，其是根据本专利技术一实施例的数据处理装置的配置的示例。将在后面详细描述的数据处理器205包括多个处理器和控制器，并且实现与包括多个层的神经网络对应的计算。图2中所示的数据处理装置200使用数据处理器205以对图像实现与神经网络对应的计算。例如，数据处理器205可通过使用由图像处理器209处理的、存储在RAM208中的图像及使用CNN的网络信息来实现如图5所示的流程图的处理，并且可将处理结果输出至数据存储单元202中。然而，数据处理器205可用于除图像处理以外的应用。换句话说，除数据处理器205以外，图2中所示的配置不是本专利技术绝对需要的。输入单元201是接受用户的指示或数据的设备。输入单元201例如可以是键盘、定点设备、按钮等。数据存储单元202可存储诸如图像数据等数据。数据存储单元202例如可以是硬盘、软盘、CD-ROM、CD-R、DVD、存储卡、CF卡、智能媒体卡(SmartMedia)、SD卡、记忆棒、xD图像卡(xD-PictureCard)、USB存储器等。数据存储单元202可存储程序或其它数据。请注意，RAM208(在后面描述)的一部分可用作数据存储单元202。通信单元203是用于在设备间进行通信地接口(I/F)。数据处理装置200可经由通信单元203与其它设备交换数据。请注意，数据处理装置200可将经由通信单元203连接的存储设备用作数据存储单元202。显示单元204是向用户等显示信息的设备。显示单元204例如可显示图像处理前或图像处理后的图像，或可显示诸如GUI等的其它图像。显示单元204例如可以是CRT或液晶显示器。显示单元204可以是通过线缆等连接至数据处理装置200的外部设备。请注意，输入单元201和显示单元204可以是相同的设备，例如，输入单元201和显示单元204可以是触摸屏设备。在这种情况下，触摸屏上的输入对应于输入单元201中的输入。CPU206整体地控制数据处理装置200的操作。另外，CPU206基于由数据处理器205生成的且存储在数据存储单元202中的处理结果实现诸如图像处理或图像识别处理等各种类型的处理。CPU206可将这些处理结果存储在RAM208中。ROM207和RAM208向CPU206提供由CPU206实现的处理所必需的程序、数据、操作区域等。由CPU206实现的处理所必需的程序可存储在数据存储单元202或ROM207中，并且可从数据存储单元202或ROM207加载到RAM208中。数据处理装置200可经由通信单元203接收程序。在这种情况下，在程序被第一次记录在数据存储单元202后便可加载到RAM208中，或者可从通信单元203将程序直接加载到RAM208中。无论哪种情况，CPU206可执行加载到RAM208中的程序。图像处理器209可对图像数据实现图像处理。例如，响应于CPU206的指示，图像处理器209可读出写入到数据存储单元202中的图像数据、调整像素值的范围、并将处理结果写入到RAM208中。总线210将上述的单元相互连接以便这些单元可相互地交换数据。图2所示的数据处理装置200在其内部包括上述的单元。然而，例如包括输入单元201、数据存储单元202和显示单本文档来自技高网...

【技术保护点】
1.一种实现与包含多个层的神经网络对应的计算的数据处理装置，包括：/n处理单元，其包括多个处理器，该多个处理器通过流水线处理顺序地计算各个块的数据，每个块与一个层中的特征面的一部分对应；以及/n控制单元，用于基于所述神经网络的结构信息确定所述块的数据的计算次序，并且向所述多个处理器发送控制所述计算次序的命令。/n

【技术特征摘要】
20190613 JP 2019-1105201.一种实现与包含多个层的神经网络对应的计算的数据处理装置，包括：
处理单元，其包括多个处理器，该多个处理器通过流水线处理顺序地计算各个块的数据，每个块与一个层中的特征面的一部分对应；以及
控制单元，用于基于所述神经网络的结构信息确定所述块的数据的计算次序，并且向所述多个处理器发送控制所述计算次序的命令。


2.根据权利要求1所述的数据处理装置，
其中，所述命令包括指示将要为其计算数据的块的信息。


3.根据权利要求2所述的数据处理装置，
其中，所述命令进一步包括指定处理参数的信息，该处理参数指示针对所述块的、由所述多个处理器使用的处理方法。


4.根据权利要求3所述的数据处理装置，
其中，所述指定处理参数的信息包括指定所述神经网络中将要处理的层的信息。


5.根据权利要求1所述的数据处理装置，
其中，所述多个处理器中的每一个具有能够保持两个或更多个所述命令的缓冲器。


6.根据权利要求1所述的数据处理装置，
其中，所述控制单元同时向所述多个处理器中的每一个发送所述命令。


7.根据权利要求1所述的数据处理装置，
其中，所述控制单元与所述多个处理器中的至少一个处理器的操作异步地向该至少一个处理器发送命令。


8.根据权利要求1所述的数据处理装置，
其中，控制单元在总线上向所述多个处理器发送所述命令。


9.根据权利要求1所述的数据处理装置，
其中，所述多个处理器中的每一个彼此异步地开始各个块的处理。


10.根据权利要求1至8中任意一项所述的数据处理装置，进一步包括：
缓冲器，其在所述多个处理器中的第一处理器和第二处理器之间提供，所述第一处理器的处理结果被传送至所述第二处理器，所述缓冲器暂时地存储所述处理结果。

...

【专利技术属性】
技术研发人员：有泉政博，
申请(专利权)人：佳能株式会社，
类型：发明
国别省市：日本;JP