数据量化方法及装置制造方法及图纸

数据量化的方法及装置。该数据量化的方法，实施于一处理器中，包括：接收一待量化数据；根据上述待量化数据的一分布计算出一量化参数；根据上述量化参数及上述待量化数据迭代地找出一最优量化步长；以及根据上述最优量化步长对上述待量化数据进行量化以获得一量化数据。

Data quantization method and device

Method and device for quantifying data. The method of quantitative data, including the implementation of a processor, to receive a quantitative data; calculate the quantization parameters according to the distribution of quantitative data; according to the quantitative parameters and the quantitative data to find an optimal iterative quantization step; and the optimal quantization step to quantify the quantitative data to according to the quantitative data obtained.

【技术实现步骤摘要】
数据量化方法及装置
本专利技术涉及一种神经网络的领域，更加具体地说涉及一种数据量化的方法及装置。
技术介绍
神经网络是一种以生物大脑为模型的计算机结构。在神经网络中，称为神经元的节点可互连并共同操作以处理输入数据。不同类型神经网络的例子包括但不局限于卷积神经网络(ConvolutionalNeuralNetworks)、循环神经网络(RecurrentNeuralNetworks)、深层信念网络(DeepBeliefNetworks)等神经网络。卷积神经网络包括一或多个卷积层的神经网络。卷积层通常稀疏连接至神经网络层。也就是说，卷积层中的每个节点从前面的神经网络层的一部分节点接收输入，并从输入产生激活。一般来说，卷积层具有根据每一节点的一组权重并藉由卷积已接收的输入产生激活的节点。在一些情况下，在卷积层中的节点可被配置为共享权重。也就是说，层中的所有节点或部分节点可被限制为具有与层中其他节点相同的权重。由于卷积层具有能依据在输入图像中像素数据的相对位置而从输入图像中提取特征的能力，因此卷积层被视为非常适合用于处理图像，例如图像识别领域。然而，卷积神经网络庞大的计算量和存储量使得一般的本文档来自技高网...

【技术保护点】
一种数据量化的方法，实施于处理器中，包括：接收待量化数据；根据上述待量化数据的分布计算出一量化参数；根据上述量化参数及上述待量化数据迭代地找出一最优量化步长；以及根据上述最优量化步长对上述待量化数据进行量化以获得量化数据。

【技术特征摘要】
1.一种数据量化的方法，实施于处理器中，包括：接收待量化数据；根据上述待量化数据的分布计算出一量化参数；根据上述量化参数及上述待量化数据迭代地找出一最优量化步长；以及根据上述最优量化步长对上述待量化数据进行量化以获得量化数据。2.如权利要求1所述的数据量化的方法，其中根据上述待量化数据的上述分布计算出上述量化参数包括：计算上述分布的均值及方差；以及根据上述均值、上述方差及一位长度计算出上述量化参数。3.如权利要求1所述的数据量化的方法，其中根据上述量化参数及上述待量化数据迭代地找出上述最优量化步长包括：根据包括上述量化参数及上述待量化数据的一量化误差函数迭代取得上述最优量化步长。4.如权利要求3所述的数据量化的方法，其中上述量化误差函数表示如下：其中Q(xi)系为上述量化数据，xi系为上述待量化数据，N为xi之的个数，Δ为上述最优量化步长；其中，当量化等级M为偶数时，g(xi)可表示为：当上述量化等级M为奇数时，g(xi)可表示为：其中，slop(xi)可表示为：5.如权利要求1所述的数据量化的方法，其中根据上述最优量化步长对上述待量化数据进行量化获得上述量化数据包括：根据上述最优量化步长确定上述待量化数据的定点型格式，上述定点型格式包括符号位位数、整数位位数及小数位位数。6.如权利要求5所述的数据量化的方法，其中上述整数位位数为m，上述小数位位数为n，其中m和n分别表示为：m＝log2((M-1)×Δ/2)n＝-log2(Δ)其中，M为量化等级，Δ为上述最优量化步长。7.如权利要求5所述的数据量化的方法，其中上述整数位位数为m，上述小数位位数为n，其中m和n分别表示为：m＝P-1-nn＝-log2(Δmin)其中，P为上述待量化数据的位数，Δmin为上述最优量化步长。8.如权利要求5所述的数据量化的方法，其中上述整数位位数为m，上述小数位位数为n，其中m和n分别表示为：m＝log2(max|Q0|，|QM|)n＝-log2(Δ)其中，Q0为初始量化位置，QM为终点量化位置，Δ为上述最优量化步长。9.如权利要求1所述的数据量化的方法，上述方法用于对卷积神经网络中每一卷积层的输入数据进行量化。10.如权利要求9所述的数据量化的方法，其中上述卷积神经网络中上述卷积层的上述输入数据包括图像数据、权重数据和/或偏置数据，其中采用均匀量化法对上述图像数据进行量化，采用非均匀量化法对上述权重数据和/或偏置数据进行量化。11.一种数据量化的装置，包括：一或多个处理器；以及一或多个计算机...

【专利技术属性】
技术研发人员：潘杰，王旭，
申请(专利权)人：上海兆芯集成电路有限公司，
类型：发明
国别省市：上海,31