神经网络加速控制方法、装置、电子设备及存储介质制造方法及图纸

本申请涉及计算机技术领域，提供一种神经网络加速控制方法、装置、电子设备及存储介质，应用于与任务处理器连接的加速器，其中方法包括：基于神经网络中当前层的参数，读取当前层的输入特征图和权重，执行所述当前层的计算，同时基于所述神经网络的参数文件，确定所述神经网络中下一层的参数，读取下一层的输入特征图和权重；所述当前层的计算结束后，将所述当前层的下一层更新为当前层，直至所述当前层为所述神经网络的最后一层；其中，所述参数文件预先存储在所述加速器的存储器中。本申请提供的方法、装置、电子设备及存储介质，节省了神经网络的整体运行时间，提高了神经网络的计算效率。

【技术实现步骤摘要】
神经网络加速控制方法、装置、电子设备及存储介质
本申请涉及计算机
，尤其涉及一种神经网络加速控制方法、装置、电子设备及存储介质。
技术介绍
神经网络算法在人工智能领域中得到了广泛的应用，尤其是在语音识别、图像处理和自动驾驶等细分领域。卷积神经网络算法在模型训练和应用需要大量的计算，但受限于器算法和计算本身的特性，传统的计算芯片已经无法满足计算需求，需要通过加速算法对神经网络进行加速。现有技术中，已有为GPU(GraphicsProcessingUnit,图形处理器)/DPU(DeeplearningProcessingUnit,深度学习处理器)/NPU(NeuralNetworkProcessingUnit，神经网络处理器)设计的神经网络加速算法，但是，此类神经网络加速算法基于处理器内部的指令集架构，采用串行工作方式执行神经网络计算指令，计算时间较长，计算效率低下。
技术实现思路
本申请提供一种神经网络加速控制方法、装置、电子设备及存储介质，节省了神经网络的整体运行时间，提高了神经网络的计算效率。本申请提供一种神经网络加速控制方法，应用于与任务处理器连接的加速器，所述方法包括：基于神经网络中当前层的参数，读取当前层的输入特征图和权重，执行所述当前层的计算，同时基于所述神经网络的参数文件，确定所述神经网络中下一层的参数，读取下一层的输入特征图和权重；所述当前层的计算结束后，将所述当前层的下一层更新为当前层，直至所述当前层为所述神经网络的最后一层；其中，所述参数文件预先存储在所述加速器的存储器中。根据本申请提供的一种神经网络加速控制方法，所述基于所述神经网络的参数文件，确定所述神经网络中下一层的参数，包括：基于所述神经网络中各层的计算顺序、当前层的序号以及所述参数文件中各层的参数，确定所述神经网络中下一层的参数。根据本申请提供的一种神经网络加速控制方法，所述参数包括地址参数和结构参数。根据本申请提供的一种神经网络加速控制方法，所述基于神经网络中当前层的参数，读取当前层的输入特征图和权重，执行所述当前层的计算，包括：基于所述当前层的地址参数，从所述任务处理器中读取当前层的输入特征图和权重；基于所述当前层的结构参数、所述当前层的输入特征图、所述当前层的权重以及上一层的输出结果，确定所述当前层的输出结果。根据本申请提供的一种神经网络加速控制方法，所述基于所述当前层的结构参数、所述输入特征图和权重以及上一层的输出结果，确定所述当前层的输出结果，之后还包括：将所述当前层的输出结果输出至所述任务处理器中。根据本申请提供的一种神经网络加速控制方法，所述神经网络为预先训练好的图像识别模型，所述图像识别模型的输入为待识别的图像，所述图像识别模型中每层的参数存储在所述参数文件中。本申请还提供一种神经网络加速控制装置，与任务处理器连接，包括：计算单元，用于基于神经网络中当前层的参数，读取当前层的输入特征图和权重，执行所述当前层的计算，同时基于所述神经网络的参数文件，确定所述神经网络中下一层的参数，读取下一层的输入特征图和权重；更新单元，用于所述当前层的计算结束后，将所述当前层的下一层更新为当前层，直至所述当前层为所述神经网络的最后一层；其中，所述参数文件预先存储在所述装置的存储器中。本申请还提供一种电子设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，所述处理器执行所述程序时实现如上述任一种所述神经网络加速控制方法的步骤。本申请还提供一种非暂态计算机可读存储介质，其上存储有计算机程序，该计算机程序被处理器执行时实现如上述任一种所述神经网络加速控制方法的步骤。本申请提供的神经网络加速控制方法、装置、电子设备及存储介质，通过将神经网络的参数文件预先存储在加速器的存储器中，在执行神经网络中当前层的计算的同时根据参数文件确定神经网络中下一层的参数，节省了神经网络的整体运行时间，并且该计算过程是根据预先存储的参数文件自动执行的，无需采用处理器内部的指令集架构进行指令译码和数据映射，提高了神经网络的计算效率。附图说明为了更清楚地说明本申请或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作一简单地介绍，显而易见地，下面描述中的附图是本申请的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。图1为本申请提供的神经网络加速控制方法的流程示意图；图2为本申请提供的当前层加速计算方法的流程示意图；图3为本申请提供的神经网络加速控制装置的结构示意图之一；图4为本申请提供的参数计算子单元的结构示意图；图5为本申请提供的神经网络加速控制装置的结构示意图之二；图6为本申请提供的电子设备的结构示意图。具体实施方式为使本申请实施例的目的、技术方案和优点更加清楚，下面将结合本申请实施例中的附图，对本申请实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本申请一部分实施例，而不是全部的实施例。基于本申请中的实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例，都属于本申请保护的范围。图1为本申请提供的神经网络加速控制方法的流程示意图，如图1所示，该方法应用于与任务处理器连接的加速器，包括：步骤110，基于神经网络中当前层的参数，读取当前层的输入特征图和权重，执行当前层的计算，同时基于神经网络的参数文件，确定神经网络中下一层的参数，读取下一层的输入特征图和权重；其中，参数文件预先存储在加速器的存储器中。具体地，神经网络为需要进行训练和/或应用的神经网络模型。神经网络可以为卷积神经网络、循环神经网络和长短时记忆神经网络等，本申请实施例对于神经网络的类型不作具体限定。任务处理器为包含中央处理器和内存等设备的处理系统，执行神经网络的训练任务和/或应用任务。加速器与任务处理器连接，用于对神经网络的计算进行加速。加速器包含存储器，存储器的类型可以为RAM(RandomAccessMemory，随机存取存储器)，也可以为其他类型的具备存储功能的存储器。可以采用离线的方式编辑所需要计算的神经网络的参数，以参数文件的形式预先存储在加速器的存储器中。当神经网络的计算启动后，加速器根据参数文件，确定神经网络中当前层的参数，并根据当前层的参数，从任务处理器的内存中读取当前层计算所需的数据，例如输入特征图和权重等，执行当前层的计算。与此同时，根据参数文件确定神经网络中下一层的参数，，读取下一层的输入特征图和权重。当前层为当前进行加速计算的层，可以为神经网络中的任一层，本申请实施例中对当前层的层数不作具体限定。步骤120，当前层的计算结束后，将当前层的下一层更新为当前层，直至当前层为神经网络的最后一层。具体地，当前层的计算结束后，加速器将下一层更新为当前层，由于已本文档来自技高网...

【技术保护点】
1.一种神经网络加速控制方法，其特征在于，应用于与任务处理器连接的加速器，所述方法包括：/n基于神经网络中当前层的参数，读取当前层的输入特征图和权重，执行所述当前层的计算，同时基于所述神经网络的参数文件，确定所述神经网络中下一层的参数，读取下一层的输入特征图和权重；/n所述当前层的计算结束后，将所述当前层的下一层更新为当前层，直至所述当前层为所述神经网络的最后一层；/n其中，所述参数文件预先存储在所述加速器的存储器中。/n

【技术特征摘要】
1.一种神经网络加速控制方法，其特征在于，应用于与任务处理器连接的加速器，所述方法包括：
基于神经网络中当前层的参数，读取当前层的输入特征图和权重，执行所述当前层的计算，同时基于所述神经网络的参数文件，确定所述神经网络中下一层的参数，读取下一层的输入特征图和权重；
所述当前层的计算结束后，将所述当前层的下一层更新为当前层，直至所述当前层为所述神经网络的最后一层；
其中，所述参数文件预先存储在所述加速器的存储器中。


2.根据权利要求1所述的神经网络加速控制方法，其特征在于，所述基于所述神经网络的参数文件，确定所述神经网络中下一层的参数，包括：
基于所述神经网络中各层的计算顺序、当前层的序号以及所述参数文件中各层的参数，确定所述神经网络中下一层的参数。


3.根据权利要求2所述的神经网络加速控制方法，其特征在于，所述参数包括地址参数和结构参数。


4.根据权利要求3所述的神经网络加速控制方法，其特征在于，所述基于神经网络中当前层的参数，读取当前层的输入特征图和权重，执行所述当前层的计算，包括：
基于所述当前层的地址参数，从所述任务处理器中读取当前层的输入特征图和权重；
基于所述当前层的结构参数、所述当前层的输入特征图、所述当前层的权重以及上一层的输出结果，确定所述当前层的输出结果。


5.根据权利要求4所述的神经网络加速控制方法，其特征在于，所述基于所述当前层的结构参数、所述当前层的输入特征图、所述当前层的权重以及上一层的输出结果，确定所述当前层的输出结果，之后还包括：
将所述当前层的输出结果输出至所述任务处理器中。


6.根据权利要求1至5任一项所述的神经网络加速控制方法，其特征在于，所述神经网络为预先训练好的图像识别模型，所述图像识别模型的输入为待识别的图像，所述图像识别模型中每层的参数存储在所述参数文件中。


7.一种神经网络加速控制装置，其特征在于，与任务处理器连接，包括：
计算单元，用于基于神经网络中当前层的参数，读取当前层的输入特征...

【专利技术属性】
技术研发人员：陈海波，邓新峰，
申请(专利权)人：深兰人工智能深圳有限公司，
类型：发明
国别省市：广东;44