一种数据处理设备以及一种数据处理方法技术

本申请实施例公开了一种数据处理设备，用于通过设置相互独立的参数确定模块和与参数确定模块耦合的神经网络计算模块，实现对数据的并行处理，减小了数据处理时延。本申请实施例方法包括：一种数据处理设备，所述数据处理设备包括：参数确定模块和耦合于所述参数确定模块的神经网络计算模块；所述参数确定模块，用于对第一数据进行参数计算，以得到用于第一神经网络计算的第一参数集合；所述神经网络计算模块，用于利用所述第一参数集合对所述第一数据进行所述第一神经网络计算，以得到计算结果；其中，所述参数确定模块的所述参数计算独立于所述神经网络计算模块的所述第一神经网络计算。

【技术实现步骤摘要】
【国外来华专利技术】一种数据处理设备以及一种数据处理方法
本申请涉及数据处理
，尤其涉及一种数据处理设备以及一种数据处理方法。
技术介绍
深度神经网络(deepneuralnetwork,DNN)可以用于图像分类、图像识别以及音频识别等领域，深度神经网络中一般处理器处理的数据为32位浮点格式(FP32)的数据，对处理器的运算能力和功耗要求很高。为避免处理器处理数据功耗过高，近年来研究者们提出了一种量化的神经网络计算方法，在此称为XNOR-Net，通过DNN将数据格式量化到较低的比特格式例如1bit后,再进行矩阵运算，从而完成DNN的帧数据处理流程。其中，神经网络的量化分为2部分，第一类是网络权重系数的量化,第二类是神经网络中每一层的输入和输出特征图(Featuremap)量化，矩阵运算的具体计算公式为：I为FP32的featuremap矩阵，FP32的权重矩阵为W，sign(I)为1bit量化后的每一层的Featuremap矩阵，sign(W)为1bit量化后的权重矩阵，α为一个标量值，K为量化参数，可以为一个二维矩阵，⊙表示矩阵点乘，表示矩本文档来自技高网...

【技术保护点】
一种数据处理设备，其特征在于，包括：参数确定模块和耦合于所述参数确定模块的神经网络计算模块；/n所述参数确定模块，用于对第一数据进行参数计算，以得到用于第一神经网络计算的第一参数集合；/n所述神经网络计算模块，用于利用所述第一参数集合对所述第一数据进行所述第一神经网络计算，以得到计算结果；其中，/n所述参数确定模块的所述参数计算独立于所述神经网络计算模块的所述第一神经网络计算。/n

【技术特征摘要】
【国外来华专利技术】一种数据处理设备，其特征在于，包括：参数确定模块和耦合于所述参数确定模块的神经网络计算模块；
所述参数确定模块，用于对第一数据进行参数计算，以得到用于第一神经网络计算的第一参数集合；
所述神经网络计算模块，用于利用所述第一参数集合对所述第一数据进行所述第一神经网络计算，以得到计算结果；其中，
所述参数确定模块的所述参数计算独立于所述神经网络计算模块的所述第一神经网络计算。


根据权利要求1所述的参数确定模块，其特征在于，所述参数确定模块，具体用于利用第二神经网络对所述第一数据进行所述参数计算，以得到所述第一参数集合。


根据权利要求1或2所述的参数确定模块，其特征在于，所述参数确定模块，具体用于：
对所述第一数据进行参数计算，得到第二参数集合；
将所述第二参数集合与第三参数集合进行处理得到所述第一参数集合，所述第三参数集合为所述参数确定模块计算出的历史参数集合。


根据权利要求1至3任一项所述的参数确定模块，其特征在于，所述对第一数据进行参数计算包括：将所述第一数据与预置的矩阵进行矩阵运算。


根据权利要求1至4中任一项所述的参数确定模块，其特征在于，当所述神经网络计算模块处于所述第一神经网络计算的状态时，所述参数确定模块能够用于对第二数据进行参数的计算，所述第二数据在时域上早于所述第一数据。


根据权利要求1至5中任一项所述的参数确定模块，其特征在于，所述第一参数集合包括：量化参数或所述量化参数的调整量或与所述量化参数相关联的参数；
所述第一神经网络计算是量化的神经网络计...

【专利技术属性】
技术研发人员：许若圣，
申请(专利权)人：华为技术有限公司，
类型：发明
国别省市：广东;44