异构智能处理量化装置、量化方法、电子设备及存储介质制造方法及图纸

本公开提供了一种异构智能处理量化装置，所述异构智能处理装置应用于异构智能处理器，所述异构智能处理器包括通用处理器和智能处理器，其中智能处理器包括控制电路和多个运算电路，所述异构智能处理量化装置包括：权值量化模块，用于对原始神经网络中的权值进行量化，使移位量化神经网络中的权值均为幂次数据，并重训练所述移位量化神经网络，使所述移位量化神经网络的精度与所述原始神经网络的精度相同；神经元量化模块，用于对所述原始神经网络中的神经元进行量化，使所述移位量化神经网络中神经元均被量化为定点数数据。可减少神经网络的存储开销，提升神经网络的数据处理效率。

Heterogeneous intelligent processing quantization device, quantization method, electronic equipment and storage medium

【技术实现步骤摘要】
异构智能处理量化装置、量化方法、电子设备及存储介质
本公开涉及移动终端
，尤其涉及一种异构智能处理量化装置、神经网络量化方法、电子设备及存储介质。
技术介绍
神经网络是一种模仿生物神经网络结构和功能的数学模型。神经网络被广泛应用到图形识别、语音识别、自然语音处理等领域中。然而随着神经网络的复杂度日益提升，神经网络内的数据在不断的增大，数据处理是神经网络中进行的必要步骤。而在移动终端中，当前大量正在使用的用于移动终端场景的GPU、CPU等硬件运算单元中均还是采用浮点数表示或定点数表示的神经网络，数据处理还是需要大量的浮点数乘法或定点数乘法计算，而计算时采用功耗消耗巨大的浮点数计算或定点数乘法计算，数据处理效率低、速度慢。
技术实现思路
本公开的主要目的在于提供一种异构智能处理量化装置、神经网络量化方法、电子设备及存储介质，可解决上述技术问题。为实现上述目的，本公开实施例第一方面提供一种异构智能处理器，所述异构智能处理装置应用于异构智能处理器，所述异构智能处理器包括通用处理器和智能处理器，其中智能处理器包括本文档来自技高网...

【技术保护点】
1.一种异构智能处理量化装置，其特征在于，所述异构智能处理装置应用于异构智能处理器，所述异构智能处理器包括通用处理器和智能处理器，其中智能处理器包括控制电路和多个运算电路，所述智能处理器用于将原始神经网络量化位移位量化神经网络，所述异构智能处理量化装置包括：/n权值量化模块，用于对原始神经网络中的权值进行量化，使移位量化神经网络中的权值均为幂次数据，并重训练所述移位量化神经网络，使所述移位量化神经网络的精度与所述原始神经网络的精度相同；/n神经元量化模块，用于对所述原始神经网络中的神经元进行量化，使所述移位量化神经网络中神经元均被量化为定点数数据。/n

【技术特征摘要】
1.一种异构智能处理量化装置，其特征在于，所述异构智能处理装置应用于异构智能处理器，所述异构智能处理器包括通用处理器和智能处理器，其中智能处理器包括控制电路和多个运算电路，所述智能处理器用于将原始神经网络量化位移位量化神经网络，所述异构智能处理量化装置包括：
权值量化模块，用于对原始神经网络中的权值进行量化，使移位量化神经网络中的权值均为幂次数据，并重训练所述移位量化神经网络，使所述移位量化神经网络的精度与所述原始神经网络的精度相同；
神经元量化模块，用于对所述原始神经网络中的神经元进行量化，使所述移位量化神经网络中神经元均被量化为定点数数据。


2.根据权利要求1所述的异构智能处理量化装置，其特征在于，所述权值量化模块包括：
第一获取子模块，用于获取所述原始神经网络中预设数量的权值；
计算子模块，用于计算所述原始神经网络中预设数量的每个权值与不同幂次位数据之间的欧式距离；
选择子模块，用于选择欧式距离最小的幂次位数据对应的幂次数据作为所述移位量化神经网络中的权值；
重训练模块，用于将权值限定在幂次数据中对所述移位量化神经网络进行重训练，直至所述移位量化神经网络的精度与所述原始神经网络的精度相同；
再次执行所述获取子模块、计算子模块、选择子模块和重训练模块，直至所述移位量化神经网络中的所有权值均为幂次数据。


3.根据权利要求1所述的异构智能处理量化装置，其特征在于，所述神经元量化模块包括：
第二获取子模块，用于获取所述神经元所在层的最大神经元；
系数确定子模块，用于基于所述最大神经元，确定所述神经元从所述原始神经网络的原始数表示转化为所述移位神经网络的定点数表示的缩放系数；
权值量化子模块，用于根据所述...

【专利技术属性】
技术研发人员：不公告发明人，
申请(专利权)人：中国科学院计算技术研究所，
类型：发明
国别省市：北京;11