当前位置: 首页 > 专利查询>重庆大学专利>正文

基于简化SDSP算法的轻量级片上学习方法、系统及处理器技术方案

技术编号:34866427 阅读:80 留言:0更新日期:2022-09-08 08:11
本发明专利技术属于微处理器技术领域,具体公开了一种基于简化SDSP算法的轻量级片上学习方法,用于脉冲神经网络的训练,包括:对输入图像进行速率编码,将静态帧图像转成脉冲形式,每个像素点看作突触前神经元;脉冲神经网络的输出层由泄露累积发射神经元组成,其中各神经元为突触后神经元,突触前神经元和突触后神经元采用全连接方式进行连接,其中突触前神经元发射的脉冲为突触前脉冲,突触后神经元发射的脉冲为突触后脉冲;在脉冲神经网络的训练中,依照基于突触后神经元的钙浓度Ca的简化脉冲驱动突触可塑性权重更新方法对各突触的权重进行更新。别发明专利技术还公开了基于该方法的系统和处理器。器。器。

【技术实现步骤摘要】
基于简化SDSP算法的轻量级片上学习方法、系统及处理器


[0001]本专利技术属于微处理器
,具体涉及一种基于简化SDSP算法的轻量级片上学习方法、系统及处理器。

技术介绍

[0002]脉冲神经网络(Spiking Neural Network,SNN)与传统的人工神经网络(Artificial Neural Network,ANN)相比具有更高的生物合理性,近年来成为神经形态类科学和人工智能领域的研究热点。与此同时,SNN低功耗、高计算效率的特点以及片上学习的能力,使其在边缘计算、移动设备等硬件资源有限、能耗要求严格的应用场景中得到越来越广泛法应用。STDP(脉冲时序依赖可塑性)是目前最流行的SNN学习算法,权重更新依赖于突触前脉冲和突触后脉冲发生的时间顺序,如果突触前脉冲到来的时间早于突触后脉冲,则认为突触前

突触后脉冲具有因果关联,其突触权重会加强;反之,若突触后脉冲早于突触前脉冲到来,则相应的突触权重减弱。除此之外,另一种高仿生度的SNN学习方法SDSP(脉冲驱动突触可塑性),被认为具有与STDP相似的学习能力本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.基于简化SDSP算法的轻量级片上学习方法,用于脉冲神经网络的训练,其特征在于,包括:对输入图像进行速率编码,将静态帧图像转成脉冲形式,每个像素点看作突触前神经元;脉冲神经网络的输出层由泄露累积发射神经元组成,其中各神经元为突触后神经元,突触前神经元和突触后神经元采用全连接方式进行连接,其中突触前神经元发射的脉冲为突触前脉冲,突触后神经元发射的脉冲为突触后脉冲;在脉冲神经网络的训练中,依照基于突触后神经元的钙浓度Ca的简化脉冲驱动突触可塑性权重更新方法对各突触的权重进行更新。2.根据权利要求1所述的方法,其特征在于,在基于突触后神经元钙浓度的简化脉冲驱动突触可塑性权重更新方法中,各突触的权重在突出前脉冲到来后更新,其权重更新方式如下:其中w
i
为突触权重,Δw为权重更新步长,亦称作学习率,Ca表示突触后神经元的钙浓度,θ1、θ2、θ3为权重更新的钙浓度阈值,有θ1<θ2<θ3。3.根据权利要求1所述的方法,其特征在于,所述钙浓度Ca会随着训练的推进行逐渐更新,若突触后神经元触发了脉冲,钙浓度Ca的值加1,否则钙浓度以时间常数τ
Ca
进行衰减。4.根据权利要求3所述的方法,其特征在于,所述钙浓度Ca的计算公式表示如下:其中Ca(t
i
)表示t
i
时刻突触后神经元的钙浓度,Ca(t
post
)表示t
post
时刻神经元的钙浓度,即突触后神经元前一个触发脉冲时刻的钙浓度,若神经元触发了脉冲,钙浓度Ca的值加1,之后,神经元钙浓度以指数进行衰减,τ
Ca
表示钙浓度衰减的时间常数。5.根据权利要求4所述的方法,其特征在于,所述钙浓度Ca的通过查表获得,钙浓度Ca的计算公式表示如下:Ca(t
i
)=Ca(t
post
)LUT
ca
[Δt
ca
]+1,其中,LUT
Ca
为钙浓度衰减的查找表,Δt
Ca
表示t
i
与t
post
之间的时间差。6.根据权利要求1所述的方法,其特征在于,所述突触后神经元的工作方式为,有脉冲输入时,膜电位迅速上升,无脉冲输入时,膜电位呈指数下降,膜电位若超过阈值,则发射脉冲,并恢复静息状态;其中神经元膜电位的公式表示如下:其中V(t
i
)表示t
i
时刻神经元的膜电位,V(t
prev
)表示t
prev
时刻神经元的膜电位,即前一突触前脉冲到来时神经元的...

【专利技术属性】
技术研发人员:陈思豪石匆田敏何俊贤王腾霄王海冰高灏然庹云鹏
申请(专利权)人:重庆大学
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1