一种面向液体状态机的神经形态处理器片上存储压缩方法技术

本发明专利技术公开了一种面向液体状态机的神经形态处理器片上存储压缩方法，首先将神经元的所有入度权值分成相等的组，之后所有非零权值传输到处理器存储器中相应的组里存储，然后使用高位地址生成标签，将一个权值与同组中其它权值区分开，和所有连接信息一并存储，片上存储器被组织为只读组相联缓存，在计算过程中，根据请求权值的索引，生成组号，访问目标组取出组中所有标签并与请求权值的标签进行比较，本发明专利技术通过利用液体状态机的稀疏性来压缩存储，可以降低处理器的功耗，也可以使单个处理器在不增加额外存储的情况具有更多的逻辑神经元以处理更复杂的任务，在不同权值数据宽度下，与无压缩的实现相比，CSSAC最多可使处理器存储减少14％‑55％，功耗减少5％‑46％。

【技术实现步骤摘要】
一种面向液体状态机的神经形态处理器片上存储压缩方法
本专利技术涉及面向液体状态机的神经形态处理器片上存储压缩方法
，具体为一种面向液体状态机的神经形态处理器中神经元之间的连接的权值的片上存储压缩方法。
技术介绍
脉冲神经网络和类脑处理器因其能模拟大脑神经元的行为和高能效的特点而受到广泛关注和迅速发展。作为脉冲神经网络的一种，液体状态机在图像识别和语音识别领域显示出了巨大的潜力。因为使用液体状态机来识别各种新型传感器的输出，例如动态视觉传感器(DVS)和动态音频传感器(DAS)，所产生的脉冲序列是很契合的。新兴传感器能够捕捉传感器视野范围内的动态变化并以脉冲序列的形式进行输出，而液体状态机可以直接处理这种脉冲序列。此外，与其它脉冲神经网络相比，液体状态机的训练更简单。液体状态机包含输入层，液体层和读出层，而它的训练只涉及它的读出层，并且读出层一般是单层全连接层的结构。此外，不同的读出层可以共享同一个通用的负责数据预处理的水库层，以完成不同的任务。在像TrueNorth和Loihi这样的类脑处理器中，所有的突触和权值都保留在处理器上存本文档来自技高网...

【技术保护点】
1.一种面向液体状态机的神经形态处理器片上存储压缩方法，其特征在于：包括以下步骤：/n步骤一：生成并初始化一个液体状态机网络，训练它的读出层的权值，直到网络的准确率收敛，之后保持读出层的权值不变，随机将一定比例的非零权值替换为液体层中的非零值，把这种操作定义为随机扰动；/n步骤二：对液体状态机的液体层网络进行前述的随机扰动实验，即按照一定的比例将网络中神经元的非零权值随机替换为另一个非零值，这个比例称为随机扰动率,然后使用扰动后的网络进行推理测试，得到网络的推理精度,通过尝试不同的随机扰动率，就可以获得无精度损失下的最大随机扰动率,这将作为之后确定压缩空间的依据；/n步骤三：在随机扰动实验之后...

【技术特征摘要】
1.一种面向液体状态机的神经形态处理器片上存储压缩方法，其特征在于：包括以下步骤：
步骤一：生成并初始化一个液体状态机网络，训练它的读出层的权值，直到网络的准确率收敛，之后保持读出层的权值不变，随机将一定比例的非零权值替换为液体层中的非零值，把这种操作定义为随机扰动；
步骤二：对液体状态机的液体层网络进行前述的随机扰动实验，即按照一定的比例将网络中神经元的非零权值随机替换为另一个非零值，这个比例称为随机扰动率,然后使用扰动后的网络进行推理测试，得到网络的推理精度,通过尝试不同的随机扰动率，就可以获得无精度损失下的最大随机扰动率,这将作为之后确定压缩空间的依据；
步骤三：在随机扰动实验之后，在软件上进行模拟存储实验，首先确定一个分组数，将一个神经元的原始的所有入度权值等分为若干组，同时片上存储器中的分组数也其保持一致，之后根据权值的高位地址生成将权值与组内其他权值唯一区别开来的数据标签，然后确定一个片上存储器的组内项数，此时就已经确定了片上存储器的大小以及组织形式，接着将原始权值中的非零权值和其生成的数据标签传输到片上存储器上，放入对应的组中，其中一部分权值可能因为受到存储的限制而被丢弃，统计这些被丢弃的权值的数量占据所有非零权值的数量的比重，并称之为丢弃率，特别需要注意的是，由于在方法中，这些被丢弃的权值在需要使用时将会被组内的其他权值代替，所以可以将这个丢弃率与前述随机扰动实验中得到的随机扰动率视作近似相等，由大到小，依次尝试不同的片上存储器的组内项数，组内项数越少代表压缩率越大，并统计该配置下的丢弃率，通过尝试可以找到不超过无精度损失最大随机扰动率下的最大压缩率，由此，就能够确定真实的硬件存储器上的分组数以及组内项数的实际大小了；
步骤四：将所有非零权值传输到片上存储器中对应的组中进行存储，并根据其原始...

【专利技术属性】
技术研发人员：王蕾，杨智杰，曲连华，龚锐，石伟，丁东，李石明，罗莉，铁俊波，徐炜遐，
申请(专利权)人：中国人民解放军国防科技大学，
类型：发明
国别省市：湖南;43