执行与脉冲发放事件相关的存储器内处理操作以及相关方法、系统和装置制造方法及图纸

技术编号:33105176 阅读:14 留言:0更新日期:2022-04-16 23:48
描述了用于存储器内或近存储器处理的方法、设备和系统。可经由存储器系统处理脉冲神经网络中的脉冲发放事件。存储器系统可存储目的地神经元群组,且在脉冲神经网络(SNN)的一系列时间间隔中的每一时间间隔处,使来自相应源神经元的突触前尖峰事件群组通过,其中所述突触前尖峰事件群组随后存储在存储器中。突触前尖峰事件群组随后存储在存储器中。突触前尖峰事件群组随后存储在存储器中。

【技术实现步骤摘要】
【国外来华专利技术】执行与脉冲发放事件相关的存储器内处理操作以及相关方法、系统和装置
[0001]优先权要求
[0002]本申请要求2019年9月5日提交的用于“执行与脉冲发放事件相关的存储器内处理操作以及相关方法、系统和装置”的美国临时专利申请第62/896,261号的提交日的权益,且要求2020年5月29日提交的用于“执行与脉冲发放事件相关的存储器内处理操作以及相关方法、系统和装置”的美国专利申请第16/887,665号的提交日的权益,所述专利申请中的每一个的全部公开内容由此以引用的方式并入本文中。


[0003]本公开的实施例涉及存储器内处理,且更特定来说,涉及执行与脉冲神经网络(SNN)的脉冲发放事件相关的存储器内处理(PIM)操作。但更特定来说,一些实施例涉及用于在具存储器内处理能力的存储器装置内执行与SNN中的脉冲发放事件相关的PIM操作的方法,以及相关存储器装置、存储器系统和电子系统。

技术介绍

[0004]存储器装置通常作为计算机或其它电子系统中的内部基于半导体的集成电路来提供。存在许多不同类型的存储器,包含易失性和非易失性存储器。可在电力循环之后检索所存储信息的易失性存储器可尤其包含快闪存储器,所述快闪存储器包含NAND或NOR快闪存储器。易失性存储器可能需要电力以维持其数据(例如,主机数据、误差数据等)且包含随机存取存储器(RAM)、动态随机存取存储器(DRAM)、静态随机存取存储器(SRAM)、同步动态随机存取存储器(SDRAM)、内容可寻址存储器(CAM)和闸流晶体管随机存取存储器(TRAM)等。<br/>[0005]电子系统常常包含数个处理资源(例如,一或多个处理器),所述处理资源可检索并执行指令且将所执行指令的结果存储到合适的位置。处理器可包含例如可用以通过对数据(例如,一或多个运算数)执行运算来执行指令的数个功能单元,例如算术逻辑单元(ALU)电路、浮点单元(FPU)电路和组合逻辑块。如本文中所使用,运算可包含例如布尔运算,例如AND、OR、NOT、NOT、NAND、NOR和XOR、和/或其它运算(例如求逆、移位、算术、统计以及许多其它可能的运算)。例如,功能单元电路可用以经由数个运算对运算数执行算术运算,例如加法、减法、乘法和除法。
[0006]电子系统中的数个组件可涉及向功能单元电路提供指令以供执行。所述指令可例如由例如控制器和/或主机处理器的处理资源执行。数据(例如,可对其执行指令的数据)可存储于可由功能单元电路存取的存储器阵列中。指令和/或数据可从存储器阵列检索,且在功能单元电路开始对数据执行指令之前对其进行定序和/或缓冲。
[0007]在许多情况下,处理资源(例如,处理器和相关联功能单元电路)可在存储器阵列外部,且经由处理资源与存储器阵列之间的总线存取数据以执行指令集。可在存储器内处理器(PIM)装置中改进处理性能,其中处理器可实施于存储器内部和/或附近(例如,直接在
与存储器阵列相同的芯片上)。PIM装置可通过减少和消除外部通信来节省时间和/或节约电力。

技术实现思路

[0008]本公开的一或多个实施例包含一种用于处理脉冲发放事件的系统。例如,系统可包含配置成存储目的地神经元群组的存储器块,和配置成在SNN的一系列时间间隔中的每一时间间隔处使来自相应源神经元的突触前尖峰事件群组通过的尖峰信号滤波器。突触前尖峰事件群组随后存储于存储器块中。存储器块还配置成存储指针表,指针表配置成存储到存储于存储器块中的突触前尖峰事件群组中的每一个的指针,且在一系列时间间隔中的每一时间间隔处递增对应于每一指针的标记。
[0009]根据另一实施例,一种处理脉冲发放事件的方法包含:在SNN的一系列时间间隔的第一时间间隔处,从SNN的相应源神经元接收第一突触前尖峰事件,其中第一突触前尖峰事件包括相应源神经元标识;以及对具有至少部分地匹配存储器块中的目的地神经元的目的地突触标识的源神经元标识的第一突触前尖峰事件群组进行滤波。方法还包含:将第一突触前尖峰事件群组存储在存储器块中;以及将标记指派到存储器块中的指针表中指向第一突触前尖峰事件群组的指针,其中标记与SNN的一系列时间间隔中的时间间隔对应。
[0010]在又一实施例中,一种用于处理脉冲发放事件的系统可包含存储器块,存储器块包含配置成存储数个目的地神经元的数个传入连接的第一存储器阵列,数个传入连接中的每一个包含延迟值和传入神经元标识,其中数个传入连接中的每一个是基于延迟值分组在一起且其中延迟值中的每一个对应于脉冲神经网络(SNN)的一系列时间间隔中的时间间隔。存储器块还可包含配置成存储来自相应源神经元的数个突触前尖峰事件的第二存储器阵列,其中数个突触前尖峰事件中的每一个包含传入神经元标识,且数个突触前尖峰事件是通过SNN的一系列时间间隔中的时间间隔分组在一起。存储器块还可包含滤波器,其配置成确定对应于第一时间间隔的突触前尖峰事件的传入神经元标识与对应于第一时间间隔的传入连接的传入神经元标识之间的匹配。
[0011]根据另一实施例,一种处理脉冲发放事件的方法包含将目的地神经元的突触连接存储在第一存储器阵列处,突触连接中的每一个包含延迟值和传入神经元标识,其中突触连接中的每一个是基于延迟值分组在一起,且其中延迟值中的每一个对应于脉冲神经网络(SNN)的一系列时间间隔中的时间间隔。方法还可包含将来自相应源神经元的突触前尖峰事件存储在第二存储器阵列处,其中数个突触前尖峰事件中的每一个包含传入神经元标识,且数个突触前尖峰事件是通过SNN的一系列时间间隔中的时间间隔分组在一起。方法还可包含将第一时间间隔处的目的地神经元的突触连接的传入神经元标识与源神经元的传入神经元标识匹配,以及响应于匹配,在第二存储器阵列处产生对应于突触事件的位掩码的输出信号。
[0012]根据又一实施例,一种电子系统包括至少一个输入装置、至少一个输出装置、可操作地耦合到输入装置和输出装置的至少一个处理器装置,以及可操作地耦合到至少一个处理器装置的至少一个存储器装置。至少一个存储器装置包括:存储器单元阵列,其包括配置成存储突触权重的数个电阻式元件;驱动器,其配置成在SNN的一系列时间间隔中的每一时间间隔处经由耦合到数个电阻式元件的数条字线驱动脉冲发放事件;以及积分电路,其配
置成对耦合到电阻式元件的位线的输出电压进行积分。
附图说明
[0013]图1为根据本公开的数个实施例的包含存储器装置的系统的框图。
[0014]图2说明根据本公开的各种实施例的脉冲神经网络。
[0015]图3说明根据本公开的各种实施例的用于处理脉冲发放事件的存储器系统。
[0016]图4说明根据本公开的各种实施例的配置成滤波脉冲发放事件的滤波器。
[0017]图5说明根据本公开的各种实施例的用于处理脉冲发放事件的包含指针表的存储器系统。
[0018]图6说明根据本公开的各种实施例的用于处理脉冲发放事件的存储器系统。
[0019]图7说明根据本公开的各种实施例的脉冲神经网络(SNN)中的尖峰定时相依可塑性(STDP)规则本文档来自技高网
...

【技术保护点】

【技术特征摘要】
【国外来华专利技术】1.一种系统,其包括:存储器块,其配置成存储目的地神经元群组;尖峰信号滤波器,其配置成在脉冲神经网络(SNN)的一系列时间间隔中的每一时间间隔处使来自相应源神经元的突触前尖峰事件群组通过,其中所述突触前尖峰事件群组随后存储在所述存储器块中;以及指针表,其配置成:存储到存储于所述存储器块中的所述突触前尖峰事件群组中的每一个的指针;以及在所述系列时间间隔中的每一时间间隔处递增对应于每一指针的标记。2.根据权利要求1所述的系统,其中所述存储器块选自由单个存储器裸片和存储器拼片组成的群组。3.根据权利要求1所述的系统,其中所述存储器块为电阻式存储器阵列。4.根据权利要求1所述的系统,其中所述尖峰信号滤波器进一步配置成基于所述相应源神经元的源神经元标识至少部分地匹配所述目的地神经元的目的地突触标识而使突触前尖峰事件群组通过。5.根据权利要求1所述的系统,其中所述尖峰信号滤波器进一步配置成至少部分地基于突返事件而确定源神经元标识与目的地突触标识之间存在失配。6.根据权利要求1所述的系统,其中所述尖峰信号滤波器进一步配置成至少部分地基于未发生突返事件而确定源神经元标识与目的地突触标识之间存在匹配。7.根据权利要求1所述的系统,其中所述尖峰信号滤波器进一步配置成将经由所述存储器块中的一系列字线发射的位序列与存储在所述存储器块的位线上的一系列存储器元件上的位序列进行匹配。8.一种方法,其包括:在时间间隔期间从脉冲神经网络(SNN)的相应源神经元接收第一突触前尖峰事件,其中所述第一突触前尖峰事件包括相应源神经元标识;在所述时间间隔期间对具有至少部分地匹配存储器块中的目的地神经元的目的地突触标识的源神经元标识的所述第一突触前尖峰事件的群组进行滤波;在所述时间间隔期间将所述第一突触前尖峰事件的经滤波群组存储在所述存储器块中;以及在所述时间间隔期间将标记指派到所述存储器块中的指针表中指向所述第一突触前尖峰事件的所述群组的指针。9.根据权利要求8所述的方法,其进一步包括:在后续时间间隔期间递增所述指针表中的所述指针的所述标记;在所述后续时间间隔期间从所述SNN的相应源神经元接收第二突触前尖峰事件,其中所述第二突触前尖峰事件包括相应源神经元标识;在所述后续时间间隔期间对具有至少部分地匹配所述存储器块中的所述目的地神经元的目的地突触标识的源神经元标识的第二突触前尖峰事件群组进行滤波;在所述后续时间间隔期间将第二突触前尖峰事件的经滤波群组存储在所述存储器块中;以及在所述后续时间间隔期间将标记指派到所述存储器块中的所述指针表中指向所述第
二突触前尖峰事件群组的指针。10.根据权利要求8所述的方法,其进一步包括:在所述SNN的一系列时间间隔的每一时间间隔处递增对应于每一指针的每一标记。11.根据权利要求8所述的方法,其进一步包括:对具有完全匹配所述存储器块中的目的地神经元的所述目的地突触标识的源神经元标识的所述第一突触前尖峰事件的所述群组进行滤波。12.根据权利要求8所述的方法,其进一步包括:至少部分地基于突返事件确定所述源神经元标识与所述目的地突触标识之间存在失配。13.根据权利要求8所述的方法,其进一步包括:至少部分地基于未发生突返事件确定所述源神经元标识与所述目的地突触标识之间存在匹配。14.一种系统,其包括:存储器块,其包括:第一存储器阵列,其配置成存储:数个目的地神经元的数个传入连接,所述数个传入连接中的每一个包含延迟值和传入神经元标识,其中所述数个传入连接中的每一个是基于所述延迟值分组在一起,且其中所述延迟值中的每一个对应于脉冲神经网络(SNN)的一...

【专利技术属性】
技术研发人员:D
申请(专利权)人:美光科技公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1