数据处理方法、装置、设备及存储介质制造方法及图纸

本申请提供一种数据处理方法、装置、设备及存储介质。该方法包括：获取神经网络的运算请求，所述运算请求中包括运算指令和多个初始数据；对所述多个初始数据进行格式转换处理，得到多个中间数据，所述中间数据的数据精度高于所述初始数据的数据精度，所述初始数据所需的存储空间小于所述中间数据所需的存储空间；根据所述运算指令，对所述多个中间数据进行运算处理，得到运算结果数据；根据所述运算结果数据确定目标数据，所述目标数据的数据格式与所述初始数据的数据格式相同。本申请的方法，解决了现有的浮点运算方法在减少精度不足引起的溢出错误，以及缓解舍入误差方面有所欠缺的问题。的问题。的问题。

【技术实现步骤摘要】
数据处理方法、装置、设备及存储介质


[0001]本申请涉及数据处理
，尤其涉及一种数据处理方法、装置、设备及存储介质。

技术介绍

[0002]在神经网络的训练和使用过程中，随着模型越来越大，加速训练和使用的需求越来越多。当前通常采用在IEEE浮点运算标准下执行神经网络的训练和使用，舍入误差在浮点运算中是不可避免的，在大规模、大尺度、长时程数值计算中，甚至在求解某些的小规模的病态问题时，舍入误差的累积效应都可能使得数值计算结果不精确。同时，浮点运算还是影响神经网络运行速度的因素之一。
[0003]现有的浮点运算方法，在减少精度不足引起的溢出错误，以及缓解舍入误差方面有所欠缺。

技术实现思路

[0004]本申请提供一种数据处理方法、装置、设备及存储介质，用以解决现有的浮点运算方法，在减少精度不足引起的溢出错误，以及缓解舍入误差方面有所欠缺的问题。
[0005]一方面，本申请提供一种数据处理方法，包括：
[0006]获取神经网络的运算请求，所述运算请求中包括运算指令和多个初始数据；r/>[0007]对本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种数据处理方法，其特征在于，包括：获取神经网络的运算请求，所述运算请求中包括运算指令和多个初始数据；对所述多个初始数据进行格式转换处理，得到多个中间数据，所述中间数据的数据精度高于所述初始数据的数据精度，所述初始数据所需的存储空间小于所述中间数据所需的存储空间；根据所述运算指令，对所述多个中间数据进行运算处理，得到运算结果数据；根据所述运算结果数据确定目标数据，所述目标数据的数据格式与所述初始数据的数据格式相同。2.根据权利要求1所述的方法，其特征在于，所述根据所述运算指令，对所述多个中间数据进行运算处理，得到运算结果数据，包括：根据所述运算指令和所述多个中间数据，确定至少一种基本运算类型、以及每种基本运算类型对应的运算对象，所述基本运算类型包括加减法和/或乘法，所述中间数据包括移码、符号位和有效数据；根据所述至少一种基本运算类型，对对应的运算对象进行运算处理，得到所述运算结果数据，所述运算结果数据包括整数部分和指数部分。3.根据权利要求2所述的方法，其特征在于，根据所述至少一种基本运算类型，对对应的运算对象进行运算处理，得到所述运算结果数据，包括：若所述至少一种基本运算类型包括加减法，则通过位移单元和算数逻辑单元对对应的运算对象进行处理，得到加减法运算结果，所述运算结果数据为所述加减法运算结果；或者，若所述至少一种基本运算类型包括乘法，则通过乘法单元对对应的运算对象进行处理，得到乘法运算结果，所述运算结果数据为所述乘法运算结果；或者，若所述至少一种基本运算类型包括加减法和乘法，则通过位移单元和算数逻辑单元对对应的运算对象进行处理，得到加减法运算结果，以及通过乘法单元对对应的运算对象进行处理，得到乘法运算结果，并根据所述加减法运算结果和所述乘法运算结果，确定所述运算结果数据。4.根据权利要求3所述的方法，其特征在于，通过位移单元和算数逻辑单元对对应的运算对象进行处理，得到加减法运算结果，包括：通过所述位移单元对所述运算对象进行预处理位移，得到指数一致的运算对象；通过所述算数逻辑单元对所述指数一致的运算对象进行加减逻辑运算，得到所述加减法运算结果。5.根据权利要求3所述的方法，其特征在于，通过乘法单元对对应的运算对象进行处理，得到乘法运算结果，包括：通过所述乘法单元对所述运算对象的有效数据进行相乘运算，得到整数部分的乘法运算结果；通过所述乘法单元对所述运算对象的移码进行加法运算，得到指数部分的加法运算结果；根据所述整数部分的乘法运算结果和所述指数部分的加法运算结果，确定所述乘法运算结果。...

【专利技术属性】
技术研发人员：冯雅妮，谢文婷，李源，孙方轩，连朔，
申请(专利权)人：西安紫光展锐科技有限公司，
类型：发明
国别省市：