【技术实现步骤摘要】
技术介绍
1、本公开涉及处理数据。具体地但非唯一地，本公开涉及处理和存储权重，这些权重适合在使用包括多个计算资源的数据处理系统来处理神经网络时使用。本公开涉及用于结合处理器来处理和存储权重的方法和装置，具体地但非唯一地，被设计成实现卷积神经网络(cnn)的处理器。
2、相关技术说明
3、在神经网络的上下文中，“权重”是用于变换输入数据以产生输出数据的参数。这样，对于在神经网络或神经网络层中处理的每个输入，存在对应的权重。典型的神经网络将包含数百甚至数千个不同的权重值，其中每个权重值都需要在不同时间检索并且临时存储以实现神经网络。
4、为了实现典型的神经网络，当需要时由处理器从外部非暂态存储装置检索权重并且将其保持在处理器本地的存储器中。为了实现高的读取/写入速度，该本地存储器通常可以是与实现神经网络的处理单元相关联或形成该处理单元的一部分的缓冲器。该缓冲器或该缓冲器的用于存储权重的至少一部分可被称为权重缓冲器。由于与本地缓冲器或“处理器上”缓冲器相关联的高计算成本，权重缓冲器中的空间通常是有限的。因此，需要更有效地存储在处理由处理器实现的神经网络时使用的权重。
技术实现思路
1、根据第一方面，提供了一种数据处理系统，该数据处理系统包括：非暂态存储器，该非暂态存储器被配置为接收和存储定义权重内核的数据比特，所存储的数据比特适合用于处理神经网络中的数据；和数据处理单元，该数据处理单元被配置为：接收比特流，该比特流定义在神经网络中使用的权重内核，其中
2、根据第二方面，提供了一种计算机实现的方法，该计算机实现的方法包括：接收比特流，该比特流定义在神经网络中使用的权重内核，其中权重内核包括一个或多个非零值权重和一个或多个零值权重；生成掩码比特集合，其中掩码比特集合中的每个比特的位置对应于权重内核内的位置，并且其中掩码比特集合中的每个比特的值指示权重内核中的对应位置中的权重是零值权重还是非零值；以及将非零值权重和掩码比特集合传输到非暂态存储器以供存储。
3、根据第三方面，提供了一种包括非暂态计算机可读介质的制品，该非暂态计算机可读介质上存储有程序指令，这些程序指令在由设置在计算实例内的一个或多个处理器执行时使一个或多个处理器执行操作，这些操作包括：接收比特流，该比特流定义在神经网络中使用的权重内核，其中权重内核包括一个或多个非零值权重和一个或多个零值权重；生成掩码比特集合，其中掩码比特集合中的每个比特的位置对应于权重内核内的位置，并且其中掩码比特集合中的每个比特的值指示权重内核中的对应位置中的权重是零值权重还是非零值权重；以及将非零值权重和掩码比特集合传输到非暂态存储器以供存储。
4、根据第四方面，提供了一种计算机实现的方法，该计算机实现的方法包括：从非暂态存储器检索非零值权重集合和掩码比特集合，其中掩码比特集合中的每个比特的位置对应于权重内核内的位置，并且其中掩码比特集合中的每个比特的值指示权重内核中的对应位置中的权重是零值权重还是非零值权重；以及将非零值权重集合传输到乘法累加单元，用于与输入数据一起处理以形成输出数据，其中掩码比特集合用于指示非零值权重集合中的每个非零值权重在权重内核中的位置。
本文档来自技高网...【技术保护点】
1.一种数据处理系统，所述数据处理系统包括：
2.根据权利要求1所述的数据处理系统，其中所述比特流还包括编码比特，所述编码比特指示应用于所述比特流的编码的类型，并且其中所述数据处理单元被进一步配置为：
3.根据权利要求1所述的数据处理系统，其中所述数据处理系统是神经适应处理单元，其中所述非暂态存储器是权重缓冲器，并且其中所述数据处理单元是权重解码器。
4.根据权利要求1所述的数据处理系统，其中所述掩码比特集合相比于所述比特流中用于定义所述权重内核中的所述一个或多个非零值权重的比特数量包括更少的比特。
5.根据权利要求1所述的数据处理系统，所述数据处理系统还包括：
6.根据权利要求1所述的数据处理系统，所述数据处理系统还包括：
7.根据权利要求1所述的数据处理系统，其中所接收的比特流定义2/4稀疏权重编码的权重内核，其中深度维度中每四个权重中的两个权重是零值权重。
8.根据权利要求1所述的数据处理系统，其中所接收的比特流定义包括对称编码的权重的内核。
9.一种计算机实现的方法，所述计算机
10.一种计算机实现的方法，所述计算机实现的方法包括：
...【技术特征摘要】
1.一种数据处理系统，所述数据处理系统包括：
2.根据权利要求1所述的数据处理系统，其中所述比特流还包括编码比特，所述编码比特指示应用于所述比特流的编码的类型，并且其中所述数据处理单元被进一步配置为：
3.根据权利要求1所述的数据处理系统，其中所述数据处理系统是神经适应处理单元，其中所述非暂态存储器是权重缓冲器，并且其中所述数据处理单元是权重解码器。
4.根据权利要求1所述的数据处理系统，其中所述掩码比特集合相比于所述比特流中用于定义所述权重内核中的所述一个或多个非零值权重的比特数量包括更少的比特。...
【专利技术属性】
技术研发人员：约翰·维克菲尔德·布拉泽斯三世，
申请(专利权)人：Arm有限公司，
类型：发明
国别省市：
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。