【技术实现步骤摘要】
数据压缩、数据解压方法、系统及人工智能AI芯片
[0001]本公开涉及深度学习
,具体而言,涉及一种数据压缩、数据解压方法、系统、电子设备、存储介质及人工智能(Artificial Intelligence,AI)芯片。
技术介绍
[0002]人工智能(Artificial Intelligence,AI)芯片是一种针对神经网络的专用处理芯片,相比传统芯片相比,具有更高算力及能效比。其中,功耗和带宽是衡量AI芯片性能的重要指标。
[0003]随着神经网络规模的不断增大,权重数据、计算过程产生的中间层数据量也在不断增加。由于芯片上的静态随机存取存储器(Static Random
‑
Access Memory,SRAM)的空间有限,使得神经网络运算所需的、所产生的数据需要存储在外部存储器中。因此,大量数据需要反复读写外部存储器,所产生的访存功耗和带宽给AI芯片的性能带来巨大挑战。
技术实现思路
[0004]有鉴于此,本公开至少提供一种数据压缩、数据解压方法、系统、电子设备、存储介质 ...
【技术保护点】
【技术特征摘要】
1.一种数据压缩方法,其特征在于,包括:获取神经网络中的特征数据;其中,所述特征数据包括神经网络中特征处理层对应的权重特征数据和/或输出特征数据;所述特征数据中包括至少一个预设数值;基于所述特征数据中各个维度位置的数值,生成所述特征数据对应的标记位数据;其中,所述标记位数据用于指示所述特征数据中非预设数值对应的维度位置;基于所述标记位数据、和所述特征数据中的所述非预设数值,生成所述特征数据对应的用于进行传输的压缩后特征数据。2.根据权利要求1所述的方法,其特征在于,在所述获取神经网络中的特征数据之后,所述方法还包括:沿着所述特征数据的宽度维度和/或高度维度,对所述特征数据进行分块处理,得到所述特征数据对应的多个局部特征数据;其中,所述局部特征数据对应的数据量小于或等于设置的第一预设数据量;所述基于所述特征数据中各个维度位置的数值,生成所述特征数据对应的标记位数据,包括:基于所述每个所述局部特征数据中各个维度位置的数值,生成所述局部特征数据对应的标记位数据;所述基于所述标记位数据、和所述特征数据中的所述非预设数值,生成所述特征数据对应的用于进行传输的压缩后特征数据,包括:基于所述局部特征数据对应的标记位数据、和所述局部特征数据中的所述非预设数值,生成所述局部特征数据对应的压缩后特征数据。3.根据权利要求1或2所述的方法,其特征在于,所述基于所述特征数据中各个维度位置的数值,生成所述特征数据对应的标记位数据,包括:针对所述特征数据中的每个维度位置,若位于所述维度位置上的数值为预设数值,确定所述维度位置对应的标记位为第一数值;若位于所述维度位置上的数值为非预设数值,确定所述维度位置对应的标记位为第二数值;基于所述特征数据中各个维度位置分别对应的标记位,生成所述特征数据对应的标记位数据。4.根据权利要求1~3任一所述的方法,其特征在于,所述基于所述标记位数据、和所述特征数据中的所述非预设数值,生成所述特征数据对应的用于进行传输的压缩后特征数据,包括:基于所述标记位数据中包括的第二数值,从所述特征数据中获取所述第二数值指示的维度位置处的非预设数值;将获取的所述非预设数值写入到压缩码流,得到写入操作后的压缩码流;基于所述写入操作后的压缩码流和所述标记位数据,生成所述特征数据对应的所述压缩后特征数据。5.根据权利要求1~4任一所述的方法,其特征在于,在所述生成所述特征数据对应的用于进行传输的压缩后特征数据之后,所述方法还包括:在确定所述压缩后特征数据的第一数据量小于所述特征数据对应的第二数据量的情况下,确定所述特征数据对应的数据传输模式为:传输所述压缩后特征数据的第一数据传
输模式;基于所述第一数据传输模式和确定的写入操作后的压缩码流对应的第三数据量,对码流头文件header进行写操作,生成更新后的header;基于所述更新后的header和所述压缩后特征数据,生成目标传输数据。6.根据权利要求1~5任一所述的方法,其特征在于,在所述生成所述特征数据对应的用于进行传输的压缩后特征数据之后,所述方法还包括:在确定所述压缩后特征数据的第一数据量大于或等于所述特征数据对应的第二数据量的情况下,确定所述特征数据对应的数据传输模式为:传输未压缩的所述特征数据的第二数据传输模式;基于所述第二数据传输模式,对所述header进行写操作,生成更新后的header;基于所述更新后的header和未压缩的所述特征数据,生成目标传输数据。7.根据权利要求1~6任一所述的方法,其特征在于,在所述获取神经网络中的特征数据之后,...
【专利技术属性】
技术研发人员:沈煜,胡英俊,
申请(专利权)人:上海阵量智能科技有限公司,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。