权重数据存储方法及装置、芯片、电子设备、可读介质制造方法及图纸

本公开提供了一种权重数据存储方法，应用于神经形态芯片，神经形态芯片包括片内存储结构和多个处理核，每个处理核包括多个神经元，该方法包括：将每个所述神经元对应的权重数据存储至片外存储结构，所述片外存储结构位于所述神经形态芯片外部；将每个所述神经元对应的权重索引信息存储至对应的所述片内存储结构；其中，所述神经元对应的所述权重索引信息用于在所述片外存储结构中索引所述神经元对应的所述权重数据。本公开还提供了一种权重数据存储装置、神经形态芯片、电子设备及计算机可读介质。介质。介质。

Weight data storage method and device, chip, electronic device, readable medium

【技术实现步骤摘要】
权重数据存储方法及装置、芯片、电子设备、可读介质


[0001]本公开涉及计算机
，特别涉及一种权重数据存储方法及装置、神经形态芯片、电子设备、计算机可读介质。

技术介绍

[0002]高性能的类脑计算技术和大脑仿真技术成为研究脑科学的重要手段，计算神经科学的发展对智能科学领域、认知科学领域、信息处理和人工智能等技术产生了重要的影响。完成人脑的基本功能需要数百万的神经元共同活动，要想更加精准地模拟脑功能需要更大规模的脑仿真系统。
[0003]在相关技术中，在神经形态芯片中，各个核心(也称为核或处理核)通常需要预先存储脉冲神经网络所需的权重矩阵，权重矩阵包含大量的神经元之间的连接权重，连接权重的存储精度通常较高，例如fp16，导致过多占用神经形态芯片的片内存储空间。

技术实现思路

[0004]本公开提供一种权重数据存储方法及装置、神经形态芯片、电子设备、计算机可读介质。
[0005]根据本公开的第一方面，本公开实施例提供了一种权重数据存储方法，应用于神经形态芯片，所述神经形态芯片包括片内存储结构和多个处理核，每个处理核包括多个神经元，所述权重数据存储方法包括：将每个所述神经元对应的权重数据存储至片外存储结构，所述片外存储结构位于所述神经形态芯片外部；以及，将每个所述神经元对应的权重索引信息存储至对应的所述片内存储结构；其中，所述神经元对应的所述权重索引信息用于在所述片外存储结构中索引所述神经元对应的所述权重数据。
[0006]在一些实施例中，多个所述处理核对应设置一所述片内存储结构，或者，每个所述处理核对应设置一所述片内存储结构。
[0007]在一些实施例中，所述权重索引信息包括所述神经元对应的权重数据在所述片外存储结构中的起始存储地址和长度信息。
[0008]在一些实施例中，所述片外存储结构包括多个存储区，每个存储区对应一所述神经元，每个存储区包括与至少一个权重数据配置区，每个权重数据配置区对应与所述神经元连接的一个目标处理核；所述将每个所述神经元对应的权重数据存储至片外存储结构包括：针对每个所述神经元，将该神经元和对应的目标处理核之间所对应权重数据存储至对应的存储区；在该神经元对应的存储区中，该神经元和对应的每个目标处理核之间所对应权重数据依次存储于对应的权重数据配置区；生成该神经元对应的所述权重索引信息。
[0009]在一些实施例中，所述将每个所述神经元对应的权重数据存储至片外存储结构包括：根据每个所述神经元对应的权重数据，生成每个所述神经元对应的权重数据包；将每个所述神经元对应的权重数据包存储至所述片外存储结构，并生成对应的所述权重索引信息。
[0010]在一些实施例中，所述权重数据包括连接标识信息以及权重信息；所述连接标识信息包括多个连接标识，每个所述连接标识对应与所述神经元连接的目标处理核中的一个目标神经元，多个连接标识包括至少一个第一连接标识和至少一个第二连接标识，所述第一连接标识表示所述神经元与所述目标处理核中的目标神经元之间具有连接权重，所述第二连接标识表示所述神经元与所述目标处理核中的目标神经元之间不具有连接权重；所述权重信息包括与所述第一连接标识对应的连接权重。
[0011]在一些实施例中，在通过存储区形式存储每个所述神经元对应的权重数据的情况下，所述权重数据配置区包括连接标识部分和权重部分；所述连接标识部分用于配置所述权重数据配置区对应的与所述神经元连接的目标处理核所对应的连接标识信息，所述权重部分用于配置该连接标识信息中与所述第一连接标识对应的连接权重。
[0012]在一些实施例中，在通过权重数据包形式存储每个所述神经元对应的权重数据的情况下，所述权重数据包包括：依次设置的包头部分、与所述神经元连接的每个目标处理核所对应的权重数据配置部分，每个目标处理核对应的权重数据配置部分包括连接标识部分和权重部分；所述包头部分用于配置与所述神经元连接的目标处理核的数量、与所述神经元连接的每个目标处理核的核标识以及对应的权重数据配置部分的长度信息；在每个目标处理核对应的权重数据配置部分中，所述连接标识部分用于配置与所述神经元连接的该目标处理核所对应的连接标识信息，所述权重部分用于配置与该连接标识信息中的所述第一连接标识对应的连接权重。
[0013]在一些实施例中，所述神经形态芯片用于运行脉冲神经网络；针对每个神经元，与该神经元连接的目标处理核均为该神经元所在当前处理核的前继处理核，或者，与该神经元连接的目标处理核均为该神经元所在当前处理核的后继处理核；所述前继处理核为当前处理核所在的网络结构层的前一层网络结构层中的处理核；所述后继处理核为当前处理核所在网络结构层的下一层网络结构层。
[0014]根据本公开的第二方面，本公开实施例提供了一种权重数据存储装置，应用于神经形态芯片，所述神经形态芯片包括片内存储结构和多个处理核，每个处理核包括多个神经元；所述权重数据存储装置包括：
[0015]第一存储执行模块，被配置为将每个所述神经元对应的权重数据存储至片外存储结构，所述片外存储结构位于所述神经形态芯片外部；以及
[0016]第二存储执行模块，被配置为将每个所述神经元对应的权重索引信息存储至对应的所述片内存储结构；
[0017]其中，所述神经元对应的所述权重索引信息用于在所述片外存储结构中索引所述神经元对应的所述权重数据。
[0018]根据本公开的第三方面，本公开实施例提供了一种神经形态芯片，该神经形态芯片包括多个处理核和权重数据存储装置，每个处理核包括多个神经元，所述权重数据存储装置包括上述的权重数据存储装置。
[0019]根据本公开的第四方面，本公开实施例提供了一种电子设备，包括：至少一个处理器；以及，与所述至少一个处理器通信连接的存储器；其中，所述存储器存储有可被所述至少一个处理器执行的一个或多个计算机程序，一个或多个所述计算机程序被所述至少一个处理器执行，以使所述至少一个处理器能够执行上述的权重数据存储方法。
[0020]根据本公开的第五方面，本公开实施例提供了一种计算机可读介质，其上存储有计算机程序，其中，所述计算机程序在被处理器执行时实现上述权重数据存储方法。
[0021]应当理解，本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征，也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。
附图说明
[0022]附图用来提供对本公开的进一步理解，并且构成说明书的一部分，与本公开的实施例一起用于解释本公开，并不构成对本公开的限制。通过参考附图对详细示例实施例进行描述，以上和其他特征和优点对本领域技术人员将变得更加显而易见，在附图中：
[0023]图1为本公开实施例的一种神经形态芯片的结构示意图；
[0024]图2为图1中一种处理核的结构示意图；
[0025]图3为本公开实施例提供的一种权重数据存储方法的流程图；
[0026]图4为图3中步骤S1的一种具体实现方式的流程图；
[0027]图5为片本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种权重数据存储方法，应用于神经形态芯片，所述神经形态芯片包括片内存储结构和多个处理核，每个处理核包括多个神经元，所述权重数据存储方法包括：将每个所述神经元对应的权重数据存储至片外存储结构，所述片外存储结构位于所述神经形态芯片外部；以及将每个所述神经元对应的权重索引信息存储至对应的所述片内存储结构；其中，所述神经元对应的所述权重索引信息用于在所述片外存储结构中索引所述神经元对应的所述权重数据。2.根据权利要求1所述的权重数据存储方法，其中多个所述处理核对应设置一所述片内存储结构，或者，每个所述处理核对应设置一所述片内存储结构。3.根据权利要求1所述的权重数据存储方法，其中所述权重索引信息包括所述神经元对应的权重数据在所述片外存储结构中的起始存储地址和长度信息。4.根据权利要求1所述的权重数据存储方法，其中所述片外存储结构包括多个存储区，每个存储区对应一所述神经元，每个存储区包括与至少一个权重数据配置区，每个权重数据配置区对应与所述神经元连接的一个目标处理核；所述将每个所述神经元对应的权重数据存储至片外存储结构包括：针对每个所述神经元，将该神经元和对应的目标处理核之间所对应权重数据存储至对应的存储区；在该神经元对应的存储区中，该神经元和对应的每个目标处理核之间所对应权重数据依次存储于对应的权重数据配置区；生成该神经元对应的所述权重索引信息。5.根据权利要求1所述的权重数据存储方法，其中所述将每个所述神经元对应的权重数据存储至片外存储结构包括：根据每个所述神经元对应的权重数据，生成每个所述神经元对应的权重数据包；将每个所述神经元对应的权重数据包存储至所述片外存储结构，并生成对应的所述权重索引信息。6.根据权利要求4或5所述的权重数据存储方法，其中所述权重数据包括连接标识信息以及权重信息；所述连接标识信息包括多个连接标识，每个所述连接标识对应与所述神经元连接的目标处理核中的一个目标神经元，多个连接标识包括至少一个第一连接标识和至少一个第二连接标识，所述第一连接标识表示所述神经元与所述目标处理核中的目标神经元之间具有连接权重，所述第二连接标识表示所述神经元与所述目标处理核中的目标神经元之间不具有连接权重；所述权重信息包括与所述第一连接标识对应的连接权重。7.根据权利要求6所述的权重数据存储方法，其中在通过存储区形式存储每个所述神经元对应的权重数据的情况下，所述权重数据配置区包括连接标识部分和权重部分；所述连接标识部分用于配置所述权重数据配置区对应的与所述神经元连接的目标处理核所对应的连接标识信息，所述权重部分用于配置该连接标识...

【专利技术属性】
技术研发人员：沈杨书，何伟，祝夭龙，
申请(专利权)人：北京灵汐科技有限公司，
类型：发明
国别省市：