一种基于ReRAM的权值矩阵处理方法及装置制造方法及图纸

本申请公开了一种基于ReRAM的权值矩阵处理方法及装置，该方法包括：获取忆阻器ReRAM的激活行数和激活列数；对权值矩阵进行非结构剪枝和压缩，获得压缩矩阵块，压缩矩阵块的行数小于等于激活行数，压缩矩阵块的列数小于等于激活列数，压缩矩阵块中同一行的每个权值对应的权值矩阵的行位置相同，压缩矩阵块中同一列的每个权值对应的权值矩阵的列位置相同。实施本申请，可以实现压缩矩阵块与ReRAM的匹配应用，提高了ReRAM的利用效率，有助于加速神经网络的运算。络的运算。络的运算。

【技术实现步骤摘要】
一种基于ReRAM的权值矩阵处理方法及装置


[0001]本申请涉及神经网络领域，尤其涉及一种基于ReRAM的权值矩阵处理方法及装置。

技术介绍

[0002]神经网络由于模型本身尺寸较大，而神经网络的模型尺寸的大小通常受到神经网络的权值矩阵的大小的影响，常采用剪枝算法对神经网络的权值矩阵进行剪枝操作以删除权值矩阵中冗余的元素(例如，小于预设阈值的权重)，可以实现在保证网络精度不下降的情况下减小网络的模型尺寸达到压缩模型的效果，以加速网络的推理过程。
[0003]常采用可变电阻式随机存储器(Resistive Random-Access Memory，ReRAM)存储神经网络的权值矩阵，相关技术中对权值矩阵进行剪枝时未考虑ReRAM激活行列数的硬件限制，导致经剪枝后的权值矩阵无法与基于ReRAM的加速器匹配应用。

技术实现思路

[0004]本申请公开了一种基于ReRAM的权值矩阵处理方法及装置，能够实现压缩矩阵与可变存储器ReRAM的匹配应用，提高了ReRAM的利用效率，有助于加速神经网络的运算。
>[0005]第一方本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种基于ReRAM的权值矩阵处理方法，其特征在于，所述方法包括：获取忆阻器ReRAM的激活行数和激活列数；对权值矩阵进行非结构剪枝和压缩，获得压缩矩阵块，所述压缩矩阵块的行数小于等于所述激活行数，所述压缩矩阵块的列数小于等于所述激活列数，所述压缩矩阵块中同一行的每个权值对应的所述权值矩阵的行位置相同，所述压缩矩阵块中同一列的每个权值对应的所述权值矩阵的列位置相同。2.根据权利要求1所述的方法，其特征在于，所述压缩矩阵块的数量为多个，所述对权值矩阵进行非结构剪枝和压缩，获得压缩矩阵块，包括：对所述权值矩阵进行非结构剪枝获得稀疏矩阵，所述稀疏矩阵中每列的非零权值的个数与所述压缩矩阵块的行数相同；对所述稀疏矩阵的各列进行处理，获得掩码矩阵，所述掩码矩阵由0和1组成，所述掩码矩阵中的各列属于多类，所述多类中的每类包括的列的数量相同，属于同一类的各列中非零元素的行位置相同；根据所述掩码矩阵训练所述权值矩阵，获得目标矩阵；所述目标矩阵在所述掩码矩阵的所述非零元素对应的位置上有非零权值；提取所述目标矩阵中属于所述每类中的各列的所述非零权值，获得多个压缩矩阵块。3.根据权利要求2所述的方法，其特征在于，所述对所述稀疏矩阵的各列进行处理后，还获得行索引信息和列索引信息，所述列索引信息包括所述每类中的各列在所述掩码矩阵中的列位置；所述行索引信息包括所述每类中的各列的所述非零元素在所述掩码矩阵中的行位置；所述提取所述目标矩阵中属于所述每类中的各列的所述非零权值，获得多个压缩矩阵块，包括：基于所述列索引信息将所述目标矩阵的各列进行重排，以使重排后的目标矩阵中属于同一类的各列排列在一起；根据所述行索引信息分别提取所述重排后的目标矩阵中所述每类中的非全零行，获得所述多个压缩矩阵块，所述压缩矩阵块的数量等于所述类的数量。4.根据权利要求2或3所述的方法，其特征在于，对所述稀疏矩阵的处理次数越多，所述每类包括的各列的非零权值的行位置分布的相似度越高。5.根据权利要求2-4任一项所述的方法，其特征在于，所述稀疏矩阵中权值为零的个数的占比大于等于稀疏度，所述稀疏度指示对所述权值矩阵进行非结构剪枝的程度。6.一种基于ReRAM的权值矩阵处理方法，其特征在于，该方法包括：存储压缩矩阵块至忆阻器ReRAM，所述压缩矩阵块的行数小于等于所述ReRAM的激活行数，所述压缩矩阵块的列数小于等于所述ReRAM的激活列数；所述压缩矩阵块是基于对权值矩阵进行非结构剪枝和压缩获得的；获取索引信息，所述索引信息包括所述压缩矩阵块中权值的位置映射信息；从图像数据中提取所述索引信息指示的行位置上的数据，以获得所述压缩矩阵块的每列对应的输入数据；所述图像数据为所述权值矩阵的每列对应的输入数据；将所述输入数据输入基于所述ReRAM的加速器中，获得所述压缩矩阵块的每列对应的输出数据；将所述每列对应的输出数据还原至所述索引信息指示的所述权值矩阵中正确的列位
置。7.根据权利要求6所述的方法，其特征在于，所述压缩矩阵块中同一行的每个权值对应的所述权值矩阵的行位置相同，所述压缩矩阵块中同一列的每个权值对应的所述权值矩阵的列位置相同。8.根据权利要求7所述的方法，其特征在于，所述索引信息包括行索引信息和列索引信息，所述行索引信息包括所述压缩矩阵块中每列中每个权值对应所述权值矩阵的行位置，所述列索引信息包括所述压缩矩阵中每列对应所述权值矩阵的列位置；所述从图像数据中提取所述索引信息指示的行位置上的数据，以获得所述压缩矩阵块的每列对应的输入数据，包括：从图像数据中提取所述行索引信息指示的行位置上的数据，以获得所述压缩矩阵块的每列对应的输入数据；所述将所述每列对应的输出数据还原至所述索引信息指示的所述权值矩阵中正确的列位...

【专利技术属性】
技术研发人员：蒋力，彭诗昊，崔晓松，陈云，
申请(专利权)人：华为技术有限公司，
类型：发明
国别省市：