【技术实现步骤摘要】
数据存储方法、装置、芯片、电子设备和板卡
本申请涉及计算机
，特别是涉及一种数据存储方法、装置、芯片、电子设备和板卡。
技术介绍
通常在神经网络模型进行数据处理的过程中，采用16位定点格式表示深度学习算法的神经元和权值数据，以此来节省数据带宽和存储器容量。当神经网络模型是可变位宽的模型时，每个网络层的神经元和权值的位宽可能不同，因此按照传统的方式将每个网络层按照各自原有的数据位宽依次进行存储，则运算单元在读取一组神经元时，可能是从中央叶结构(centraltile)的一行中的任意位置开始，或者运算单元进行一次计算的时候，读取的神经元数据可能分布在centraltile的两行，使得计算的复杂性较高，造成运算器的资源浪费，降低了资源利用率。
技术实现思路
基于此，有必要针对上述技术问题，提供一种能够降低计算复杂度的数据存储方法、装置、芯片、电子设备和板卡。第一方面，本申请实施例提供一种数据存储方法，所述方法包括：获取目标网络层的量化神经元位宽和量化权值位宽；其中，所述量化神经元位...
【技术保护点】
1.一种数据存储方法，其特征在于，应用于包括处理器的计算平台中，所述方法包括：/n获取目标网络层的量化神经元位宽和量化权值位宽；其中，所述量化神经元位宽为神经元数据经过量化后的数据位宽，所述量化权值位宽为权值数据经过量化后的数据位宽；其中，所述神经元数据包括语音数据、文本数据和图像数据中的至少一种；/n在所述量化神经元位宽和所述量化权值位宽中选择数据位宽大的作为目标数据位宽；/n根据所述目标数据位宽，从预设的待选位宽集合中确定存储数据位宽；其中，所述待选位宽集合中包括多个待选位宽；/n按照所述存储数据位宽对量化后的所述神经元数据和量化后的所述权值数据进行存储。/n
【技术特征摘要】
1.一种数据存储方法，其特征在于，应用于包括处理器的计算平台中，所述方法包括：
获取目标网络层的量化神经元位宽和量化权值位宽；其中，所述量化神经元位宽为神经元数据经过量化后的数据位宽，所述量化权值位宽为权值数据经过量化后的数据位宽；其中，所述神经元数据包括语音数据、文本数据和图像数据中的至少一种；
在所述量化神经元位宽和所述量化权值位宽中选择数据位宽大的作为目标数据位宽；
根据所述目标数据位宽，从预设的待选位宽集合中确定存储数据位宽；其中，所述待选位宽集合中包括多个待选位宽；
按照所述存储数据位宽对量化后的所述神经元数据和量化后的所述权值数据进行存储。
2.根据权利要求1所述的方法，其特征在于，所述根据所述目标数据位宽，从预设的待选位宽集合中确定存储数据位宽，包括：
将所述待选位宽集合中的每个待选位宽与所述目标数据位宽进行比较，将大于或等于所述目标数据位宽的所述待选位宽作为第一待选位宽集合；
将所述第一待选位宽集合中最小的所述待选位宽作为所述存储数据位宽。
3.根据权利要求2所述的方法，其特征在于，所述待选位宽集合包括：2比特、4比特、8比特和16比特。
4.根据权利要求3所述的方法，其特征在于，所述按照所述存储数据位宽对量化后的所述神经元数据和量化后的所述权值数据进行存储，包括：
当所述存储数据位宽为16比特时，将量化后的所述神经元数据和量化后的所述权值数据按照整行对齐的方式进行存储。
5.根据权利要求3所述的方法，其特征在于，所述按照所述存储数据位宽对量化后的所述神经元数据和量化后的所述权值数据进行存储，包...
【专利技术属性】
技术研发人员：不公告发明人，
申请(专利权)人：上海寒武纪信息科技有限公司，
类型：发明
国别省市：上海;31
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。