【技术实现步骤摘要】
激活数据的压缩和/或解压缩
[0001]专利技术背景
专利
[0002]本专利技术涉及激活数据的压缩和/或解压缩，并且更具体地涉及来自神经网络等的激活数据的压缩和/或解压缩。
[0003]相关技术描述
[0004]一种执行无损数据压缩的方式是将值转换为Golomb Rice代码。为了将数值转换为Golomb Rice代码，选择被称为除数的参数。要创建Golomb Rice代码，就将数值除以除数以生成两个部分。第一部分是商，其为数值将被除数整除的次数。第二部分是余数，其为在数值被除数整除之后的余量(如果有的话)。
[0005]Golomb Rice代码的示例在图1中示出。在图1所示的示例中，0与10之间的值被示出为Golomb Rice代码。Golomb Rice代码的第一部分，即商，以一进制格式表示。以此格式，数字由等于商值的
‘1’
的数量后跟停止位
‘0’
表示。例如，数字9的一进制部分为
‘
1110
’
，其为三个
‘1’
...
【技术保护点】
【技术特征摘要】
1.一种由处理元件执行的用于压缩神经网络的要写入到存储装置的激活数据的方法，其中所述激活数据由数据元素单元形成，每个单元包括多个数据元素并且每个数据元素具有数值，所述方法包括：在激活数据单元内形成多个数据元素组，每个组包括多个数据元素；识别在每个组内是否存在任何具有非零值的数据元素并且形成每个组的第一状态指示符，所述第一状态指示符指示所述组是否包含具有非零值的数据元素；在被识别为包含至少一个具有非零值的数据元素的每个数据元素组内形成多个子组；识别在每个子组内是否存在任何具有非零值的数据元素并且形成第二状态指示符，所述第二状态指示符指示对于每个子组，所述子组是否包含具有非零值的数据元素；对于包含具有非零值的数据元素的每个子组，形成所述子组的子组状态指示符，所述子组状态指示符指示所述子组内的哪些数据元素具有非零值；对所述数据单元中的数据元素的所述非零值进行编码；以及形成压缩数据集，所述压缩数据集包括所述第一状态指示符、任何第二状态指示符、任何子组状态指示符和所述编码的非零值。2.根据权利要求1所述的方法，其中所述数据元素组、所述数据元素子组和所述数据元素形成四叉树结构。3.根据权利要求1所述的方法，其中在所述压缩数据集内，所述第一状态指示符被分组为第一状态指示符集，所述第二状态指示符被分组为第二状态指示符集。4.根据权利要求3所述的方法，其中所述第一状态指示符、所述第二状态指示符和所述子组状态指示符按行优先次序或列优先次序中的一者布置在所述压缩数据集中。5.根据权利要求1所述的方法，其中对数据元素的所述非零值的所述编码包括对所述非零值进行增量编码，其中通过获取每个数据元素的实际值与所述数据元素的预测值之间的差值来执行所述增量编码。6.根据权利要求5所述的方法，其中所述数据单元包括数据元素的正方形数量，并且除了左上角数据元素之外，在数据元素正方形的左手边缘上的每个数据元素的预测值等于定位在预测的数据元素上方一个位置的所述数据元素的所述值。7.根据权利要求6所述的方法，其中针对所述数据元素正方形内的数据元素的预测是基于定位在所述数据元素左侧一个位置、在所述数据元素上方一个位置和在所述数据元素的左上角斜对地一个位置的所述数据元素的值的线性组合。8.根据权利要求5所述的方法，其中将所述增量编码的非零值编码为Golomb
‑
Rice代码，并且在将所述增量编码的非零值转换为Golomb...
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。