一种联想神经网络突触权值可塑的忆阻模型电路设计方法，基于改进压控(MVC)忆阻模型及类似神经突触功能的忆阻模型，设计出权值可塑的经验学习忆阻模型，使该忆阻模型具有经验学习和长期记忆的能力。忆阻器是纳米级尺寸、非易失性的两端无源性器件，因此将设计的经验学习忆阻模型作为突触运用在联想记忆神经网络中，并修改联想记忆神经网络的反馈规则，使该网络同时具有经验学习、长期记忆及自我增强学习等能力。本发明专利技术设计简单，丰富了忆阻及神经网络的功能，具有广阔的仿生应用前景。
【技术实现步骤摘要】
一种联想神经网络突触权值可塑的忆阻模型电路设计方法
本专利技术属于神经网络和电子信息科学领域，涉及联想神经网络、忆阻器模型及电路设计与仿真实现，特别是忆阻器模拟神经网络突触行为。
技术介绍
生物大脑有极高的容量，含有数以亿计的神经元细胞，同时，大脑在极短的时间里对于外界刺激的反应是准确而又迅速的。尽管大脑高速处理各种外界信息，但是其消耗的能量是极低的，所以学习和模拟大脑对于人工网络的发展具有十分重要的意义。虽然神经元细胞的数量众多，但是其中突触的数量更是神经元细胞的上万倍，因此人工突触的尺寸对于构建人工网络是非常重要的。生物突触具有可塑性，即突触的连接强度会随着自身的活动而发生变化，因此模拟神经系统突触可塑性对于构建高效低功耗的网络是十分必要的。美国加州大学伯克利分校蔡少棠于1971年从理论上证明了忆阻器的存在，美国惠普实验室在2008年物理上实现了忆阻器。忆阻器具有纳米级尺寸和低功耗的性质，所以近年来忆阻引起了广泛的关注，被大量运用于混沌电路、保密通信及神经网络等领域。忆阻一个重要的特性是忆阻值会随着其通过的电流而发生改变，这一特性与生物突触极为相似，因此忆阻作为突触被用于实现人工神经网络。不同材料的忆阻具备不同的性质，许多忆阻的特性都与生物突触相似或相近，如铟镓锌氧化物(IGZO)忆阻、聚乙烯醇(PVA)忆阻及改进压控(ModifiedVoltage-Controlled，MVC)忆阻等。这些忆阻具有部分记忆，遗忘及经验学习的功能。经验学习是指突触在重复的脉冲刺激下，其权值变化速率将会变快。记忆分为长期记忆和短期记忆，一部分记忆在去掉激励后会被较快地忘记，称这部分记忆为短周期记忆(Short-TermMemory,STM)；另一部分记忆能够被保留较长的时间，称这部分记忆为长周期记忆(Long-TermMemory,LTM)。目前尽管大量的忆阻模型被提出来，但是有很少的忆阻模型涉及到了经验学习和长周期记忆且用于神经网络中。
技术实现思路
本专利技术的目的是提出一种改进的忆阻模型，并作为突触用于联想神经网络电路设计及仿真。本专利技术为了实现具有经验学习和长周期记忆的忆阻联想网络，在改进忆阻器模型的基础上，设计出具有联想记忆及长周期记忆的忆阻模型作为人工突触。同时通过修改人工神经元的反馈规则，使得该联想记忆神经网络具有自我学习功能。本专利技术所述的一种联想神经网络突触权值可塑的忆阻模型电路设计方法，包括以下步骤：(S1)根据MVC忆阻模型及类似神经突触功能的忆阻模型，设计权值可塑的经验学习忆阻模型，使该模型具有经验学习、长周期记忆及遗忘的功能，MVC忆阻模型描述如下：i＝M-1v(1)(1)式和(2)式中，i和v分别表示MVC忆阻的电流与电压，M表示MVC忆阻的忆阻值。α表示|v|≤vth时M的变化速率，β表示|v|＞vth时M的变化速率，δ表示v＝0时M的变化速率，且符号α，β和δ均为常数。vth是电压阈值，RH为M最大值，RL为M最小值。(2)式中s是阶跃函数，可以表示为：(S2)调整(S1)中构建的经验学习忆阻模型的各关系式参数，使模型达到电路实现的标准。(S3)根据(S2)中确定参数的经验学习忆阻模型，设计出该模型的电路结构，并创建外围电路验证其性能。(S4)设计出带有全反馈的三个神经元组成的联想记忆神经网络，并将网络中的突触替换为(S1)中经验学习忆阻模型。(S5)设计(S4)中基于经验学习忆阻模型的联想神经网络的电路，并设计不同的输入脉冲序列，以验证该网络的经验学习、自主学习、长周期记忆和遗忘的功能。进一步地，本专利技术的具体步骤如下：步骤1：设计经验学习忆阻模型。经验学习忆阻模型可以用其伏安特性来描述：i＝w·v(4)式中i和v分别表示经验学习忆阻模型的电流与电压，w表示经验学习忆阻模型的忆导。ε是控制经验学习忆阻模型长期记忆的变量：τ是控制经验学习忆阻模型学习和遗忘速率的变量：β为|v|＞vth时w的变化速率，为当|v|≤vth时忆导w的变化速率，变量ε为v＝0时忆导w的收敛值即长期记忆，变量τ用于控制忆导w收敛速率。s是阶跃函数，wL为w的最小值，wH为w的最大值，vth是电压阈值。αu和αd分别代表长期记忆变量ε在|v|>vth或|v|<vth时的改变速率,εH和εL分别表示ε的最大值与最小值。γ为v≠0时τ的变化速率，τH和τL分别表示τ的最大值与最小值。当输入电压v低于阈值电压vth时，忆导w将会在一定时间里收敛到变量ε且当τ越大时忆阻的遗忘速率(收敛速率)越慢。忆阻存在物理界限，所以阶跃函数被用于保证忆导值在wL和wH之间变化。步骤2：在步骤1基础上利用MATLAB调整经验学习忆阻模型的参数，并MATLAB数值计算验证其性能。确定经验学习忆阻模型的所有参数，并在经验学习忆阻模型的两端加上周期电压检测经验学习忆阻模型是否具有“8”型的伏安紧磁滞回线，即是否具备忆阻器的基本性质。为了验证经验学习忆阻模型是否具有经验学习的能力，在经验学习忆阻模型两端加上间隔一段时间的两个周期脉冲，若在后一个脉冲下经验学习忆阻模型的忆导增量明显高于前一个脉冲下的忆导增量，则说明该模型具有经验学习能力。步骤3：在步骤2的基础上设计经验学习忆阻模型，并用PSpice(SimulationProgramwithIntegratedCircuitEmphasis)电路仿真软件验证其性能。根据步骤2得出的参数建立经验学习忆阻模型的PSpice电路封装。利用PSpice重复步骤2中在经验学习忆阻模型的两端加上周期电压及间隔一段时间的脉冲，验证经验学习忆阻模型的基本性质和功能。步骤4：设计出带有全反馈的三个神经元组成的联想神经网络并将其中突触替换为经验学习忆阻模型。单个神经元结构如图1所示，单个神经元将所有的输入信号求和，并将求和后的值输入到传递函数中以判定神经元是否能够输出和反馈，这里传递函数和反馈函数设置为(8)式，则神经元两端电压为(10)式。将三个神经元按照如图2所示连接构成联想记忆神经网络，将联想记忆神经网络中的突触按照图3所示替换为经验学习忆阻模型，并将该网络的反馈规则修改为(9)式，则单个神经元两端电压变为(11)式，这样即构成了带有全反馈的忆阻突触联想记忆神经网络。其中普通神经元反馈表达式为：其中ψ为正常数系数，设定ψ＝10。s(t)为神经元的阶跃激活函数，g(t)表示为单个神经元反馈信号，vout(t)表示为单个神经元输出信号。基于经验学习忆阻模型突触的全反馈神经元反馈表达式为：其中k为前向神经元的个数，ωij为第i个后向神经元和第j个前向神经元之间的连接权值。v∑(t)为所有连接到第i个后向神经元的k个输入信号加权和，且将v∑(t)作为神经元的反馈信号。普通神经元两端电压vij为：vij＝vj+vout＝vj+ψs(t)(10)基于经验学习忆阻模型突触的全反馈神经元两端电压vij为：步骤5：基于经验学习忆阻模型的联想记忆神经网络的PSpice电路构建及仿真。利用线性电阻、运算放大器TL082及经验学习忆阻模型按照步骤4实现联想记忆神经网络的电路构建。利用TL082、经验学习忆阻模型和线性电阻构成加权求和电路，将加权求和电路与TL082构成的比较器进行串联，同时将加权求和电路输出本文档来自技高网...
【技术保护点】
1.一种联想神经网络突触权值可塑的忆阻模型电路设计方法，其特征是包括以下步骤：(S1)根据MVC忆阻模型及类似神经突触功能的忆阻模型，设计权值可塑的经验学习忆阻模型：i＝M‑1v (1)
【技术特征摘要】
1.一种联想神经网络突触权值可塑的忆阻模型电路设计方法，其特征是包括以下步骤：(S1)根据MVC忆阻模型及类似神经突触功能的忆阻模型，设计权值可塑的经验学习忆阻模型：i＝M-1v(1)(1)式和(2)式中，i和v分别表示MVC忆阻的电流与电压，M表示MVC忆阻的忆阻值；α表示|v|≤vth时M的变化速率，β表示|v|＞vth时M的变化速率，δ表示v＝0时M的变化速率，且符号α，β和δ均为常数；vth是电压阈值，RH为M最大值，RL为M最小值；(2)式中s是阶跃函数，表示为：(S2)调整(S1)中构建的经验学习忆阻模型的各关系式参数，使模型达到电路实现的标准；(S3)根据(S2)中确定参数的经验学习忆阻模型，设计出该模型的电路结构，并创建外围电路验证其性能；(S4)设计出带有全反馈的三个神经元组成的联想记忆神经网络，并将网络中的突触替换为(S1)中经验学习忆阻模型；(S5)设计(S4)中基于经验学习忆阻模型的联想神经网络的电路，并设计不同的输入脉冲序列，以验证该网络的经验学习、自主学习、长周期记忆和遗忘的功能。2.根据权利要求1所述的一种联想神经网络突触权值可塑的忆阻模型电路设计方法，其特征是步骤(S1)经验学习忆阻模型设计是：经验学习忆阻模型用其伏安特性来描述：i＝w·v(4)式中i和v分别表示经验学习忆阻模型的电流与电压，w表示经验学习忆阻模型的忆导；ε是控制经验学习忆阻模型长期记忆的变量：τ是控制经验学习忆阻模型学习和遗忘速率的变量：β为|v|＞vth时w的变化速率，为当|v|≤vth时忆导w的变化速率，变量ε为v＝0时忆导w的收敛值即长期记忆，变量τ用于控制忆导w收敛速率；s是阶跃函数，wL为w的最小值，wH为w的最大值，vth是电压阈值；αu和αd分别代表长期记忆变量ε在|v|>vth或|v|<vth时的改变速率，εH和εL分别表示ε的最大值与最小值；γ为v≠0时τ的变化速率，τH和τL分别表示τ的最大值与最小值；当输入电压v低于阈值电压vth时，忆导w将会在一定时间里收敛到变量ε且当τ越大时忆阻的遗忘速率越慢；阶跃函数用于保证忆导值在wL和wH之间变...
【专利技术属性】
技术研发人员：张小红，龙克柳，
申请(专利权)人：江西理工大学，
类型：发明
国别省市：江西,36
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。