能耗管控方法、装置、存储介质及电子设备制造方法及图纸

本申请实施例公开了一种神经网络处理器的能耗管控方法、装置、存储介质及电子设备，其中，本申请实施例确定神经网络模型的待运算网络，以及所述待运算网络的权重单元的原始权重值精度；根据功率降低量以及所述权重单元的原始权重值精度，确定出所述权重单元的目标权重值精度；通过所述神经网络处理器，将所述权重单元由所述原始权重值精度降低至所述目标权重值精度，神经网络处理器基于该低权重值精度进行计算时的功率也会降低，进而降低能量消耗。耗。耗。

【技术实现步骤摘要】
能耗管控方法、装置、存储介质及电子设备


[0001]本申请涉及电子设备
，具体涉及一种能耗管控方法、装置、存储介质及电子设备。

技术介绍

[0002]随着移动终端等电子设备的发展，移动终端上越来越多的场景需要应用到神经网络模型进行运算。而神经网络模型的运算可以由任何能够执行神经网络的处理器执行，例如GPU(Graphics Processing Unit，图形处理器)、DSP(Digital Signal Process，数字信号处理器)、NPU(Neural
‑
network Processing Unit，嵌入式神经网络处理器)、CPU(central processing unit，中央处理器)等。由于神经网络处理器的参数较多、运算量大，这些处理器在进行神经网络运算时，如何降低能耗成为亟待解决的问题。

技术实现思路

[0003]本申请实施例提供一种能耗管控方法、装置、存储介质及电子设备，能够降低神经网络处理器运算时的能耗。
[0004]第一方面，本申请实施例提供一种神经网络处理器的能耗管控方法，包括：
[0005]确定神经网络模型的待运算网络，以及所述待运算网络的权重单元的原始权重值精度；
[0006]根据功率降低量以及所述权重单元的原始权重值精度，确定出所述权重单元的目标权重值精度；
[0007]通过所述神经网络处理器，将所述权重单元由所述原始权重值精度降低至所述目标权重值精度。
[0008]第二方面，本申请实施例还提供一种神经网络处理器的能耗管控装置，包括：
[0009]数据获取模块，用于确定神经网络模型的待运算网络，以及所述待运算网络的权重单元的原始权重值精度；
[0010]精度确定模块，用于根据功率降低量以及所述权重单元的原始权重值精度，确定出所述权重单元的目标权重值精度；
[0011]精度调整模块，用于通过所述神经网络处理器，将所述权重单元由所述原始权重值精度降低至所述目标权重值精度。
[0012]第三方面，本申请实施例还提供一种计算机可读存储介质，其上存储有计算机程序，当所述计算机程序在计算机上运行时，使得所述计算机执行如本申请任一实施例提供的神经网络处理器的能耗管控方法。
[0013]第四方面，本申请实施例还提供一种电子设备，包括处理器和存储器，所述存储器有计算机程序，所述处理器通过调用所述计算机程序，用于执行如本申请任一实施例提供的神经网络处理器的能耗管控方法。
[0014]第五方面，本申请实施例还提供一种电子设备，包括：
[0015]第一处理器，用于确定神经网络模型的待运算网络，以及所述待运算网络的权重单元的原始权重值精度；
[0016]以及，根据功率降低量以及所述权重单元的原始权重值精度，确定出所述权重单元的目标权重值精度，并将所述目标权重值精度发送至第二处理器；
[0017]所述第二处理器，用于将所述权重单元由所述原始权重值精度降低至所述目标权重值精度。
[0018]本申请实施例提供的技术方案，确定出神经网络模型的待运算网络，以及待运算网络的所述权重单元的原始权重值精度，根据功率降低量以及所述权重单元的原始权重值精度确定出所述权重单元的目标权重值精度，然后，通过神经网络处理器将权重单元由原始权重值精度降低至该目标权重值精度。基于该方案，当需要降低神经网络处理器的能耗时，根据功率降低量可以确定出能够满足低功率要求的目标权重值精度，神经网络处理器以低于原始权重值精度的目标权重值精度进行计算，可以降低能量消耗。
附图说明
[0019]为了更清楚地说明本申请实施例中的技术方案，下面将对实施例描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本申请的一些实施例，对于本领域技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
[0020]图1为本申请实施例提供的神经网络处理器的能耗管控方法的第一种流程示意图。
[0021]图2为本申请提供的神经网络处理器的能耗管控方法中的浮点数精度调整方式示意图。
[0022]图3为本申请提供的神经网络处理器的能耗管控方法中的定点数精度调整方式示意图。
[0023]图4为本申请实施例提供的神经网络处理器的能耗管控装置的结构示意图。
[0024]图5为本申请实施例提供的电子设备的结构示意图。
具体实施方式
[0025]下面将结合本申请实施例中的附图，对本申请实施例中的技术方案进行清楚、完整地描述。显然，所描述的实施例仅仅是本申请一部分实施例，而不是全部的实施例。基于本申请中的实施例，本领域技术人员在没有付出创造性劳动前提下所获得的所有其他实施例，都属于本申请的保护范围。
[0026]在本文中提及“实施例”意味着，结合实施例描述的特定特征、结构或特性可以包含在本申请的至少一个实施例中。在说明书中的各个位置出现该短语并不一定均是指相同的实施例，也不是与其它实施例互斥的独立的或备选的实施例。本领域技术人员显式地和隐式地理解的是，本文所描述的实施例可以与其它实施例相结合。
[0027]本申请实施例提供一种神经网络处理器的能耗管控方法，该神经网络处理器的能耗管控方法的执行主体可以是本申请实施例提供的神经网络处理器的能耗管控装置，或者集成了该神经网络处理器的能耗管控装置的电子设备，其中该神经网络处理器的能耗管控
装置可以采用硬件或者软件的方式实现。
[0028]请参阅图1，图1为本申请实施例提供的神经网络处理器的能耗管控方法的第一种流程示意图。本申请实施例提供的神经网络处理器的能耗管控方法的具体流程可以如下：
[0029]101、确定神经网络模型的待运算网络，以及待运算网络的权重单元的原始权重值精度。
[0030]本申请实施例中的神经网络模型可以是任何包含有卷积层的神经网络模型，卷积层是指需要进行卷积运算的网络层。
[0031]神经网络处理器是可用于进行神经网络模型的运算的处理器，如GPU、DSP、NPU、CPU等。下文中以神经网络处理器为NPU为例对方案进行说明。
[0032]本申请实施例可以应用于设置有神经网络处理器的电子设备，其中，电子设备上除NPU之外，还可以设置有其他处理器，例如MCU(Microcontroller Unit，微控制单元)、CPU等。本申请实施例的101、102步骤可以由电子设备中的任一处理器执行，可以由电子设备上除NPU之外的其他处理器，如MCU或者CPU等执行，也可以由NPU执行。
[0033]例如，在一实施例中，确定神经网络模型的待运算网络之前，该方法还包括：当检测到电源管理事件时，根据电源管理事件确定是否触发低功率限制；当需要触发低功率限制时，根据电源管理事件确定功率降低量，并执行确定神经网络模型的待运算网络；当无需触发低功率限制时，通过神经网络处理器，以神经网络模型中权重单元的原始权重值精度进行运算。
[0034]该实施例中，本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种神经网络处理器的能耗管控方法，其特征在于，包括：确定神经网络模型的待运算网络，以及所述待运算网络的权重单元的原始权重值精度；根据功率降低量以及所述权重单元的原始权重值精度，确定出所述权重单元的目标权重值精度；通过所述神经网络处理器，将所述权重单元由所述原始权重值精度降低至所述目标权重值精度。2.如权利要求1所述的神经网络处理器的能耗管控方法，其特征在于，将所述权重单元由所述原始权重值精度降低至所述目标权重值精度之后，所述方法还包括：通过所述神经网络处理器，将调整权重值精度后的权重单元分配至所述目标权重值精度对应的运算电路进行运算。3.如权利要求1所述的神经网络处理器的能耗管控方法，其特征在于，根据功率降低量以及所述权重单元的原始权重值精度，确定出所述权重单元的目标权重值精度，包括：获取所述权重单元的最低权重值精度和原始权重值精度；根据功率降低量，以及所述权重单元的所述原始权重值精度和所述最低权重值精度，确定出所述权重单元的目标权重值精度。4.如权利要求3所述的神经网络处理器的能耗管控方法，其特征在于，根据功率降低量，以及所述权重单元的所述原始权重值精度和所述最低权重值精度，确定出所述权重单元的目标权重值精度，包括：根据所述功率降低量，以及所述权重单元的所述原始权重值精度，从预设精度调整信息与预设功率降低量之间的映射关系中，确定出所述权重单元的待调整权重值精度；若所述待调整权重值精度大于或等于所述最低权重值精度，则将所述待调整权重值精度作为目标权重值精度，若所述待调整权重值精度小于所述最低权重值精度，则将所述最低权重值精度作为目标权重值精度。5.如权利要求1所述的神经网络处理器的能耗管控方法，其特征在于，确定神经网络模型的待运算网络之前，还包括：当检测到电源管理事件时，根据所述电源管理事件确定是否触发低功率限制；当需要触发低功率限制时，根据所述电源管理事件确定功率降低量，并执行确定神经网络模型的待运算网络；当无需触发低功率限制时，通过所述神经网络处理器，以所述神经网络模型中权重单元的所述原始权重值精度进行运算。6.如权利要求3所述的神经网络处理器的能耗管控方法，其特征在于，根据功率降低量以及所述权重单元的原始权重值精度，确定出所述权重单元的目标权重值精度之前，所述方法还包括：获取所述神经网络模型的所述权重单元的权重值；根据所述权...

【专利技术属性】
技术研发人员：赵娟萍，
申请(专利权)人：OPPO广东移动通信有限公司，
类型：发明
国别省市：