用于压缩激活数据的系统和方法技术方案

本公开涉及用于压缩激活数据的系统和方法。提供了一种用于调试经训练的神经网络的方法。将输入数据输入到所述经训练的神经网络，并且应用多个滤波器以生成多个激活数据通道。计算所述多个激活数据通道中的对应激活值之间的差，并且基于所计算的差来确定所述多个通道的次序。调试所述神经网络，使得所述神经网络将按所确定的次序输出激活数据通道。随后将所述激活数据通道的所述排序用于通过利用相邻通道中的激活数据值之间的相关性来压缩激活数据值。活数据值。活数据值。

【技术实现步骤摘要】
用于压缩激活数据的系统和方法
[0001]专利技术背景


[0002]本专利技术涉及一种调试经训练的神经网络的方法、一种压缩激活数据的方法、一种解压缩激活数据的方法以及相关联的数据处理系统。
[0003]相关技术的描述
[0004]在卷积神经网络中，在输入层处接收图像，并对输入图像应用滤波器，以在一个或多个中间层(有时也称为隐藏层)中生成一个或多个特征映射。滤波器包括权重值，这些权重值与输入图像的值进行卷积以生成特征映射。在后续中间层中，滤波器作用于来自先前层的特征映射。然后通过激活函数将卷积值变换成激活数据值。激活值形成激活数据，并且如果在中间层中存在由滤波器生成的多个特征映射，则这些特征映射形成激活数据通道。在中间层中依次处理特征映射，直到全连接层生成输出为止。
[0005]适于执行神经网络计算的专用处理器称为神经处理单元(NPU)。当NPU执行与神经网络相关的处理时，每个中间层处的激活数据量可能远大于NPU上的可用本地存储器。为了解决这个问题，可将激活值写入存储器并从存储器读取。从NPU跨总线对存储器进行写入和读取可能很慢。本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种由处理元件执行的压缩来自神经网络的激活数据的方法，所述方法包括：将输入数据输入到所述神经网络；向所述输入数据应用所述神经网络的一组滤波器以生成有序序列的激活数据通道，其中所述激活数据通道按已选择来减小相邻激活数据通道中的对应激活数据值之间的差的次序通过所述神经网络生成；以及压缩与激活数据通道相关联的值，其中所述压缩包括：计算与所述激活数据通道相关联的所述值与基于所述有序序列的通道中相邻通道中的对应值的所述值的预测之间的差，以及压缩所述值与所述值的所述预测之间的差。2.根据权利要求1所述的方法，其中与所述激活数据通道相关联的所述值是所述激活数据通道内的激活数据值。3.根据权利要求2所述的方法，其中所述激活数据值的所述预测是基于所述相邻通道中的对应激活数据值。4.根据权利要求2所述的方法，其中所述预测值是基于所述相邻通道中的对应激活数据值和相同激活数据通道中的一个或多个其他激活值的值。5.一种由处理元件执行的用于调试经训练的神经网络的方法，所述方法包括：将输入数据输入到所述经训练的神经网络，并且向所述输入数据应用所述神经网络的多个滤波器，以生成多个激活数据通道；计算所述多个激活数据通道中的对应激活值之间的差；基于所计算的差来确定所述多个通道的次序；以及调试所述神经网络，使得...

【专利技术属性】
技术研发人员：埃里克，
申请(专利权)人：ARM有限公司，
类型：发明
国别省市：