【技术实现步骤摘要】
数据处理装置及相关产品
本申请涉及信息处理
,特别是涉及一种数据处理装置及相关产品。
技术介绍
随着神经网络的不断发展,在进行神经网络运算时,常常会对神经网络算法中输入数据的权值、输入数据进行乘法运算,获得神经网络的输出数据。在手机、汽车和人造卫星等移动端、低功耗场景中,通常采用量化神经网络(QuatizedNeuralNetwork,QNN)的方法,削减神经网络推导和训练过程中存储或计算的开销。量化神经网络是将32位浮点数表示的神经网络算法中的权值、输入数据,用极少位的bit位表示的方法。在一些特定的场景中,通过用1个bit位表示神经网络算法中的权值和输入数据的二值神经网络(BinarizedNeuralNetwork,BNN),乘法运算被简化为异或运算和累加运算,在执行二值神经网络算法时,运算芯片进行异或运算获取的运算结果需要先存储至存储芯片,再调用存储芯片中的运算结果,进行累加运算,获取乘法运算结果。在执行二值神经网络算法中,运算芯片需要多次向存储芯片存储异或运算结果,并多次调用存储芯片中异或存储 ...
【技术保护点】
1.一种数据处理装置,其特征在于,所述数据处理装置用于执行神经网络计算,所述数据处理装置包括:运算模块、存储模块和系统总线;所述运算模块与所述存储模块通过所述系统总线电连接;/n所述运算模块用于获取神经网络算法数据中的权值和输入数据,并根据所述权值和所述输入数据执行异或运算,得到异或运算结果,并通过所述系统总线将所述异或运算结果输出给所述存储模块;/n所述存储模块用于根据所述异或运算结果,获得并存储乘法运算结果。/n
【技术特征摘要】 【专利技术属性】
1.一种数据处理装置,其特征在于,所述数据处理装置用于执行神经网络计算,所述数据处理装置包括:运算模块、存储模块和系统总线;所述运算模块与所述存储模块通过所述系统总线电连接;
所述运算模块用于获取神经网络算法数据中的权值和输入数据,并根据所述权值和所述输入数据执行异或运算,得到异或运算结果,并通过所述系统总线将所述异或运算结果输出给所述存储模块;
所述存储模块用于根据所述异或运算结果,获得并存储乘法运算结果。
2.根据权利要求1所述装置,其特征在于,所述存储模块包括累加运算单元和存储单元;所述累加运算单元与所述存储单元电连接;所述累加运算单元通过所述系统总线与所述运算模块电连接;
所述累加运算单元用于获取所述运算模块输出的所述异或运算结果,并累加所述异或运算结果,得到所述乘法运算结果;
所述存储单元,用于存储所述乘法运算结果。
3.根据权利要求2所述装置,其特征在于,所述累加运算单元用于从所述存储单元中获取上一次的乘法运算结果,并将所述上一次的乘法运算结果与本次的异或运算结果累加,获取所述乘法运算结果。
4.根据权利要求3所述装置,其特征在于,
所述累加运算单元设置在所述存储单元内部;
或者,
所述累加运算单元设置在所述存储单元外部。
5.根据权利要求2-4任一项所述装置,其特征在于,所述存储单元包括多个存储器,所述存储器用于存储所述乘法运算结果。
6.根据权利要求1-4任一项所述装置,其特征在于,所述运算模块包括运算单元和缓存单元,所述运算单元与所述缓存单元电连接,所述缓存单元与所述存储模块通过所述系统总线连接;
所述缓存单元用于获取所述神经网络算法数据中的权值和输入数据;
所述运算单元用于从所述缓存单元中获取所述神经网络算法数据中的部分输入数据和对应的权值,并根据所述对应的权值对所述部分输入数据执行异或运算,得到所述异或运算结果,并将所述异或运算结果发送至所述缓存单元进行存储。
技术研发人员:不公告发明人,
申请(专利权)人:上海寒武纪信息科技有限公司,
类型:发明
国别省市:上海;31
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。