量化运算方法及相关产品技术

本申请公开了一种量化运算方法及相关产品，应用于组合处理装置，该组合处理装置包括电子设备、接口装置、其他处理装置和存储装置，电子设备中可以包括一个或多个计算装置，该计算装置可以配置用于执行量化运算方法。采用本申请实施例，能够提升电子设备的处理效率。

【技术实现步骤摘要】
量化运算方法及相关产品
本申请涉及数据处理
，尤其涉及一种量化运算方法及相关产品。
技术介绍
随着信息技术的不断发展和人们日益增长的需求，人们对信息及时性的要求越来越高了。目前，电子设备对信息的获取以及处理均是基于通用处理器获得的。在实践中发现，这种电子设备基于通用处理器运行软件程序来处理信息的方式，受限于通用处理器的存储数据量较大，降低了数据处理效率。
技术实现思路
本申请实施例提供一种量化运算方法及相关产品，能够提升电子设备的处理效率。第一方面，本申请实施例提供了一种量化运算方法，所述方法包括：获取待运算数据；将所述待运算数据进行第一量化处理，得到指定待运算数据；将所述指定待运算数据进行神经网络运算，得到第一运算结果；将所述第一运算结果进行第二量化处理，得到第二运算结果。第二方面，本申请实施例还提供了一种量化运算装置，所述装置包括：获取单元，用于获取待运算数据；第一量化单元，用于将所述待运算数据进行第一量化处理，得到指定待运算数据；运算单元，用于将所述指定待运算数据进行神经网络运算，得到第一运算结果；第二量化单元，用于将所述第一运算结果进行第二量化处理，得到第二运算结果。第三方面，本申请实施例还提供了一种神经网络芯片，用于执行如第一方面所述的方法。第四方面，本申请实施例还提供了一种板卡，所述板卡包括：存储器件、接口装置和控制器件以及如第三方面所述的神经网络芯片；其中，所述神经网络芯片与所述存储器件、所述控制器件以及所述接口装置分别连接；所述存储器件，用于存储数据；所述接口装置，用于实现所述芯片与外部设备之间的数据传输；所述控制器件，用于对所述芯片的状态进行监控。第五方面，本申请实施例还提供了一种电子设备，所述电子设备用于执行如第一方面所述的方法，或者，所述电子设备包括如第三方面所述的神经网络芯片，或者，所述电子设备包括如第四方面所述的板卡。第六方面，本申请实施例提供了一种计算机可读存储介质，其中，上述计算机可读存储介质存储用于电子数据交换的计算机程序，其中，上述计算机程序使得计算机执行如本申请实施例第一方面中所描述的部分或全部步骤。第七方面，本申请实施例提供了一种计算机程序产品，其中，上述计算机程序产品包括存储了计算机程序的非瞬时性计算机可读存储介质，上述计算机程序可操作来使计算机执行如本申请实施例第一方面中所描述的部分或全部步骤。该计算机程序产品可以为一个软件安装包。采用本申请实施例，具备如下有益效果：可以看出，在本申请实施例的所涉及的量化运算方法及相关产品，获取待运算数据，将待运算数据进行第一量化处理，得到指定待运算数据，将指定待运算数据进行神经网络运算，得到第一运算结果，将第一运算结果进行第二量化处理，得到第二运算结果，如此，能够对待运算数据进行量化，将大幅度降低神经网络计算中间过程的数据存储量，节约神经网络的存储开销，提升了电子设备的处理效率。本申请的这些方面或其他方面在以下实施例的描述中会更加简明易懂。附图说明为了更清楚地说明本申请实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本申请的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。图1A为本申请实施例提供的一种量化运算方法的流程示意图；图1B为本申请实施例提供的一种量化模型与非量化模型之间的对比演示示意图；图1C为本申请实施例提供的另一种量化运算方法的流程示意图；图1D为本申请实施例提供的另一种量化运算方法的流程示意图；图2为本申请实施例提供的一种电子设备的结构示意图；图3是本申请实施例提供的一种量化运算装置的功能单元组成框图；图4是本申请实施例提供的一种组合处理装置的功能单元组成框图；图5是本申请实施例提供的一种板卡的功能单元组成框图。具体实施方式以下分别进行详细说明。本申请的说明书和权利要求书及所述附图中的术语“第一”、“第二”、“第三”和“第四”等是用于区别不同对象，而不是用于描述特定顺序。此外，术语“包括”和“具有”以及它们任何变形，意图在于覆盖不排他的包含。例如包含了一系列步骤或单元的过程、方法、系统、产品或设备没有限定于已列出的步骤或单元，而是可选地还包括没有列出的步骤或单元，或可选地还包括对于这些过程、方法、产品或设备固有的其它步骤或单元。在本文中提及“实施例”意味着，结合实施例描述的特定特征、结构或特性可以包含在本申请的至少一个实施例中。在说明书中的各个位置出现该短语并不一定均是指相同的实施例，也不是与其它实施例互斥的独立的或备选的实施例。本领域技术人员显式地和隐式地理解的是，本文所描述的实施例可以与其它实施例相结合。电子设备可以包括各种具有无线通信功能的手持设备、车载设备、无线耳机、计算设备或连接到无线调制解调器的其他处理设备，以及各种形式的用户设备(userequipment，UE)，移动台(mobilestation，MS)，终端设备(terminaldevice)等等，电子设备例如可以为智能手机、平板电脑、耳机盒等等。为方便描述，上面提到的设备统称为电子设备。上述电子设备可以应用于以下(包括但不限于)场景中：数据处理、机器人、电脑、打印机、扫描仪、电话、平板电脑、智能终端、手机、行车记录仪、导航仪、传感器、摄像头、云端服务器、相机、摄像机、投影仪、手表、耳机、移动存储、可穿戴设备等各类电子产品；飞机、轮船、车辆等各类交通工具；电视、空调、微波炉、冰箱、电饭煲、加湿器、洗衣机、电灯、燃气灶、油烟机等各类家用电器；以及包括核磁共振仪、B超、心电图仪等各类医疗设备。为了使本
的人员更好地理解本申请方案，下面将结合本申请实施例中的附图，对本申请实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本申请一部分实施例，而不是全部的实施例。基于本申请中的实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例，都属于本申请保护的范围。下面对本申请实施例进行详细介绍。请参阅图1A，图1A是本申请实施例提供的一种量化运算方法的流程示意图，101、获取待运算数据。其中，待运算数据可以存储在存储器或者外部器件中。在一个可能的示例中，所述待运算数据为以下至少一种：神经元数据，和/或，梯度数据，和/或，权值数据。具体实现中，待运算数据可以为神经元数据，或者，待运算数据可以为权值数据，或者，待运算数据可以为梯度数据，或者，待运算数据可以包括神经元数据和权值数据等等，在此不再列举。待运算数据可以为以下至少一种数据类型：定点数据、整型数据、离散型数据、连续型数据、幂次型数据、浮点型数据，数据表示的长度可为32位长度浮点数据，16位本文档来自技高网...

【技术保护点】
1.一种量化运算方法，其特征在于，所述方法包括：/n获取待运算数据；/n将所述待运算数据进行第一量化处理，得到指定待运算数据；/n将所述指定待运算数据进行神经网络运算，得到第一运算结果；/n将所述第一运算结果进行第二量化处理，得到第二运算结果。/n

【技术特征摘要】
1.一种量化运算方法，其特征在于，所述方法包括：
获取待运算数据；
将所述待运算数据进行第一量化处理，得到指定待运算数据；
将所述指定待运算数据进行神经网络运算，得到第一运算结果；
将所述第一运算结果进行第二量化处理，得到第二运算结果。


2.根据权利要求1所述的方法，其特征在于，所述待运算数据为以下至少一种：
神经元数据，和/或，梯度数据，和/或，权值数据。


3.根据权利要求1或2所述的方法，其特征在于，所述将所述待运算数据进行第一量化处理，得到指定待运算数据，包括：
将所述待运算数据中的部分或者全部数据输入到量化模型中，得到所述指定待运算数据，所述量化模型包括至少一个量化网络层，该量化网络层包括以下至少一种：分段函数、量化取值函数或者预设类型网络层。


4.根据权利要求3所述的方法，其特征在于，所述将所述待运算数据中的部分或者全部数据输入到量化模型中，得到所述指定待运算数据，包括：
确定与所述待运算数据对应的目标模型配置参数；
依据所述目标模型配置参数对所述量化模型进行配置，得到配置后的量化模型；
将所述待运算数据输入到配置后的量化模型中，得到所述指定待运算数据。


5.根据权利要求3或4所述的方法，其特征在于，所述预设类型网络层包括以下网络层中的至少一种：卷积层、全连接层、反卷积层、归一化层。


6.根据权利要求4所述的方法，其特征在于，所述目标模型配置...

【专利技术属性】
技术研发人员：不公告发明人，
申请(专利权)人：上海寒武纪信息科技有限公司，
类型：发明
国别省市：上海;31