隐层神经元自适应激活方法、装置和终端设备制造方法及图纸

技术编号:25399005 阅读:47 留言:0更新日期:2020-08-25 23:04
本发明专利技术实施例公开了一种隐层神经元自适应激活方法、装置和终端设备,应用于忆阻器脉冲神经网络,所述忆阻器脉冲神经网络中每一突触仅包含一个忆阻器,该方法包括:根据同一层中各个隐层神经元的输入电流计算平均输入电流;将所述平均输入电流注入到所述各个隐层神经元;根据预设的放电顺序规则控制相应的输入电流大于所述平均输入电流的隐层神经元依次放电;根据各个放电的隐层神经元的放电次序,确定所述各个放电的隐层神经元的激活值;利用所述激活值对应激活所述各个放电的隐层神经元。本方案所提供的隐层神经元自适应激活技术,实现了隐层神经元之间的侧向抑制;并且每一突触可以仅包含一个忆阻器,避免构造复杂的硬件连接网络。

【技术实现步骤摘要】
隐层神经元自适应激活方法、装置和终端设备
本专利技术涉及人工智能领域,尤其涉及一种隐层神经元自适应激活方法、装置和终端设备。
技术介绍
大数据时代,人工智能(artificialintelligence,AI)技术飞速发展。以忆阻器(Memristor)为物理基础、脉冲神经网络(SNNs,SpkingNeuralNetworks)为算法基础的忆阻器脉冲神经网络提供了一种高功效的类脑计算解决方案。忆阻器是一种两端口非易失性存储器件,其阻态可通过施加在其两端的电压或流经的电流改变,具有高集成密度和极低操作功耗;脉冲神经网络是一种生物启发的新型网络,通过具有时空信息的脉冲信号在神经元之间传递信息,在网络功效上有巨大潜力。由于被证明具有类似生物大脑中的突触可塑性(Spike-timing-dependentplasticity,STDP)特性,忆阻器可以作为突触单元应用于SNNs中,实现接近于生物大脑功效和性能的类脑计算系统。目前,隐层神经元之间实现侧向抑制需要额外引入一个抑制层神经元,使得计算过程更为复杂;并且采用两个忆阻器作为突触产生正负脉本文档来自技高网...

【技术保护点】
1.一种隐层神经元自适应激活方法,其特征在于,应用于忆阻器脉冲神经网络,所述忆阻器脉冲神经网络中每一突触仅包含一个忆阻器,该方法包括:/n根据同一层中各个隐层神经元的输入电流计算平均输入电流;/n将所述平均输入电流注入到所述各个隐层神经元;/n根据预设的放电顺序规则控制相应的输入电流大于所述平均输入电流的隐层神经元依次放电;/n根据各个放电的隐层神经元的放电次序,确定所述各个放电的隐层神经元的激活值;/n利用所述激活值对应激活所述各个放电的隐层神经元。/n

【技术特征摘要】
1.一种隐层神经元自适应激活方法,其特征在于,应用于忆阻器脉冲神经网络,所述忆阻器脉冲神经网络中每一突触仅包含一个忆阻器,该方法包括:
根据同一层中各个隐层神经元的输入电流计算平均输入电流;
将所述平均输入电流注入到所述各个隐层神经元;
根据预设的放电顺序规则控制相应的输入电流大于所述平均输入电流的隐层神经元依次放电;
根据各个放电的隐层神经元的放电次序,确定所述各个放电的隐层神经元的激活值;
利用所述激活值对应激活所述各个放电的隐层神经元。


2.根据权利要求1所述的隐层神经元自适应激活方法,其特征在于,所述预设的放电顺序规则包括:输入电流越大,越先放电。


3.根据权利要求1所述的隐层神经元自适应激活方法,其特征在于,所述激活值根据以下公式获取:


代表第l层第m个隐层神经元在第n个放电时对应的激活值,Nmax代表预设的允许放电的神经元的总数,τ代表预设的常数。


4.根据权利要求1所述的隐层神经元自适应激活方法,其特征在于,还包括:
当放电的隐层神经元的当前时刻激活状态小于等于预设的激活状态阈值时,更新所述放电的隐层神经元的当前时刻激活状态。


5.根据权利要求4所述的隐层神经元自适应激活方法,其特征在于,根据以下公式确定当前时刻激活状态:

vactive,1代表所述当前时刻激活状态,vactive,0代表前一时刻激活状态,δ代表预设的增量参数,δ>0,σ代表预设的衰减参数,0<σ<1,代表第l层第m个隐层神经元在第n个放电时对应的激活值,代表第l层第m-1个未放电的隐层神经元对应的激活值,trefractory,1代表当前时刻不应...

【专利技术属性】
技术研发人员:李楠李清江刘森李纪伟徐晖刁节涛陈长林宋兵王义楠刘海军于红旗李智炜王伟王玺步凯
申请(专利权)人:中国人民解放军国防科技大学
类型:发明
国别省市:湖南;43

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1