一种基于忆阻器单元的神经网络突触结构及其调节方法技术

技术编号:20390825 阅读:66 留言:0更新日期:2019-02-20 03:13
本发明专利技术涉及计算机与电子信息技术领域,具体涉及一种基于忆阻器单元的神经网络突触结构及其调节方法。本发明专利技术将多个忆阻器单元级联在一起作为一个电子突触(即级联忆阻器单元组),使用一种加权的映射规则将其电阻值映射到神经网络中的突触权值,并采用全调节或分步调节的方式来避免神经网络在学习过程中因忆阻器无法精确调节所带来的影响,从而使各类神经网络均可在基于忆阻器的系统上正常运行。本发明专利技术解决了电阻值到突触权值的映射问题与忆阻单元阻值变化的不确定性问题。

【技术实现步骤摘要】
一种基于忆阻器单元的神经网络突触结构及其调节方法
本专利技术涉及计算机与电子信息
,具体涉及一种基于忆阻器单元的神经网络突触结构及其调节方法。
技术介绍
突触是神经网络中连接不同神经元的中间结构,其权值通过相应的神经网络算法不断更新是神经网络信息处理的基础。忆阻器作为一种具有电阻可调特性的新型元器件,被认为是与电阻、电感和电容并列的4个基本电路元件之一。研究人员发现突触连接强度的变化规律和忆阻器的电学特性(其电导值受施加电信号的调节特性)有着相似的变化规律,因此单一忆阻器便可模拟一个突触的功能。与使用电子计算机(即传统的互补型金属氧化物半导体基的晶体管电路)来运行神经网络程序相比,忆阻单元能够大幅降低能耗,提高读写速度同时降低集成电路的复杂度。然而,忆阻器也具有其先天缺陷,首先作为模拟器件其电阻在电压的调控下是非线性的模拟量变化,并不能如数字器件一样精确地调整到期望到达的权值。目前大部分研究者采用将忆阻器的阻值一对一的映射到神经网络的权值,基于此种映射方法的神经网络无法做到精确调整权值,如何有效地将忆阻器电路中的各个忆阻器电阻值映射到神经网络矩阵中对应的突触权值,以达到运算精度、功耗的最佳结果,是非常关键的问题。目前,现有技术中基于忆阻器件的突触结构主要有:Prezioso,M.1等人用两个忆阻单元的差值来定义所用的神经网络中的权值,并且在调节的过程中只是给前一个忆阻单元施加激励电压,而保持后一个忆阻单元的电阻值不变,这样可以保证所有突触的权值都有相同的基准值。更新采用manhattan权值更新规则,也就是从而得到给需要调节的忆阻单元所需要施加的激励电压的幅值正负。LigangGao2等人的做法是采用程序控制下的激励电压(包括脉宽和幅值),并结合在程序中附加的写入验证步骤来逐步调节忆阻器的电阻,直到其电阻接近或者等于目标电阻值,从而使每一步的权值更新达到期望值从而使得神经网络能够正常运行。使用两个忆阻单元的差值来表示一个突触的权值,并采用Manhattan权值更新规则,由于没有从根本上解决突触权值调节的不精确性而导致只能实现简单的图像识别,因此无法完成比较复杂的神经网络功能。而通过加入写入验证步骤的技术,其增加了程序控制的复杂度,并且将本来可以快速完成的权值调节优势,转变为耗时的反复验证过程。
技术实现思路
针对上述存在问题或不足,为解决电阻值到突触权值的映射问题并且解决在激励电压的作用下忆阻单元阻值变化的不确定性问题,本专利技术提供了一种基于忆阻器单元的神经网络突触结构及其调节方法,通过忆阻器级联来实现忆阻器阻值到突触权值。一种基于忆阻器单元的神经网络突触结构,由n个忆阻器单元级联构成的级联忆阻器单元组。所述忆阻器单元的数量n由神经网络正常运行所需要突触权值的精确度来决定,使用级联的连接方式来组织各个忆阻单元在物理层面的连接方式,将各个忆阻单元的阻值按照如下公式进行预处理:其中,i指级联忆阻器单元组内第i个级联的忆阻器单元,Ri为级联忆阻器单元组中第i个单元的实时阻值,Rmid为级联忆阻器单元组中各个单元的阻值变化范围的中值,Rmin为级联忆阻器单元组中各个单元的阻值变化范围的最小值,wi为级联忆阻器单元组中第i个级联的忆阻器单元的阻值映射得到的数值。各忆阻器单元相同,Rmid和Rmin为定值。将上述预处理得到的数值按照如下公式进行算法层面的组织:W=round(wX,Y)*10X-1+round(wX-1,Y)*10X-2+…+round(wi,Y)*10i-1+…+round(w1,Y)*100+round(w-1,Y-1)*10-1+round(w-2,Y-2)*10-2+…+round(w-i,Y-i)*10-i+…+round(w-Y,0)*10-Y或W=round(wX,0)*10X-1+round(wX-1,0)*10X-2+…+round(wi,0)*10i-1+…+round(w1,0)*100+round(w-1,0)*10-1+round(w-2,0)*10-2+…+round(w-i,0)*10-i+…+round(w-Y,0)*10-Y其中,W为级联忆阻器单元组(即一个神经网络电子突触)的权值,X和Y分别为级联忆阻器单元组中对应表示权值整数和小数部分单元的数量,Y同时也是所表示权值的精确度;round(wi,Y-i)为表示对wi四舍五入保留Y-i位小数。按照上述方式组织完成的仿真突触使用两种调节方式进行突触权值的更新。第一种为全调节,即在权值更新的过程中级联的所有忆阻单元都参与调节,也就是通过施加电脉冲的操作来改变级联的各个忆阻单元的阻值。第二种为分步调节,即在权值的更新的过程中根据误差的变化情况,来判断需要调节的忆阻单元。具体为在程序运行的前期由于权值的变化较大,因此开始只对前述表示方法中的权值较高的位进行调节;在程序运行的后期,每个权值的更新已经较小,即学习过程接近完成,此时再开始对所有的单元施加电脉冲进行精细的调节,以尽快达到期望权值。误差大于5~20倍err_goal时视为前期,否则为后期,err_goal是程序中设定的程序结束的误差触发条件,当前误差小于该值时学习过程结束。本专利技术将多个忆阻器单元级联在一起作为一个电子突触(即级联忆阻器单元组),使用一种加权的映射规则将其电阻值映射到神经网络中的突触权值,并采用全调节或分步调节的方式来避免神经网络在学习过程中因忆阻器无法精确调节所带来的影响,从而使各类神经网络均可在基于忆阻器的系统上正常运行。综上所述,本专利技术解决了电阻值到突触权值的映射问题与忆阻单元阻值变化的不确定性问题。附图说明图1为现有技术中基于忆阻器件的神经网络突触结构图;图2为实施例采用的测试及控制系统;图3为实施例基于五个忆阻单元的神经网络突触结构图;图4为本专利技术突触结构的调制原理流程图;图5为实施例的神经网络在三种不同的学习模式在调节过程中对误差的容忍度测试。具体实施方式下面结合附图和实施例对本专利技术做进一步的详细的说明图2为实施例采用的测试以及控制系统,图中上方为3706A系统控制开关,它通过内部电路的连通和断开来选中需要操作的忆阻单元。2400接口用来连接Keithley2400SourceMeter数字万用表,以读取忆阻单元的阻值,其上还连接有产生激励电压的函数发生器接口,通过函数发生器产生的脉冲电压实现忆阻单元阻值的更新。图中的DUT为待控制的忆阻单元,在图中只显示了一个单元用以示意。图3为实施例制备的忆阻单元阵列,每个交叉点处是一个忆阻单元,两端连接着控制该单元的电路并接入系统控制开关,其中一排五个作为一个模拟的电子突触,通过程序控制施加写入电压Vwrite和读取电压Vread。虚线框中的五个忆阻器单元为本实施例的神经网络突触结构。具体的权值表示和更新细节见图4,通过计算机运行基于Iris数据集的BP神经网络确定权值表示所需要的精确度为包含整数位在内的共五位小数,因此需要五个忆阻单元级联来表示一个突触权值。将各个外部的控制单元与忆阻阵列连接完毕后经过各个单元的初始化操作之后就可以开始程序的运行,通过数字万用表依次读取到的各个忆阻单元阻值回传给电脑后依次标记为R1,R2,...R5,随后按照公式wi=(Ri-Rmid)/(Rmax-Rmin本文档来自技高网
...

【技术保护点】
1.一种基于忆阻器单元的神经网络突触结构,其特征在于:由n个忆阻器单元级联构成的级联忆阻器单元组,n由神经网络正常运行所需要突触权值的精确度来决定;将各个忆阻单元的阻值按照如下公式进行预处理:

【技术特征摘要】
1.一种基于忆阻器单元的神经网络突触结构,其特征在于:由n个忆阻器单元级联构成的级联忆阻器单元组,n由神经网络正常运行所需要突触权值的精确度来决定;将各个忆阻单元的阻值按照如下公式进行预处理:其中,i指级联忆阻器单元组内第i个级联的忆阻器单元,Ri为第i个级联的忆阻器单元的实时阻值,Rmid为级联忆阻器单元组中各个单元的阻值变化范围中值,Rmin为级联忆阻器单元组中各个单元的阻值变化范围最小值,wi为第i个级联的忆阻器单元的阻值映射得到的数值;各忆阻器单元相同,Rmid和Rmin为定值;将上述预处理得到的数值按照如下公式进行算法层面的组织:W=round(wX,Y)*10X-1+round(wX-1,Y)*10x-2+…+round(wi,Y)*10i-1+…+round(w1,Y)*100+round(w-1,Y-1)*10-1+round(w-2,Y-2)*10-2+…+round(w-i,Y-i)*10-i+…+round(w-Y,0)*10-Y或W=round(wX,0)*10X-1+round(wX-1,0)*10X-2+…+round...

【专利技术属性】
技术研发人员:帅垚乔石珺吴传贵罗文博王韬张万里彭赟潘忻强梁翔
申请(专利权)人:电子科技大学
类型:发明
国别省市:四川,51

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1