【技术实现步骤摘要】
本技术设计了一种基于加权和同步抖动算法的在线学习电路，并基于该在线学习电路设计了忆阻神经网络全电路，属于神经网络领域。
技术介绍
1、人工神经网络作为人工智能的重要分支，在类脑计算、图像处理与模式识别、智能控制等领域有着重要的应用。传统的神经网络大多采用软件实现，但冯诺依曼结构的计算机体系结构计算与存储相分离的特点，限制了神经网络的运算速度。神经网络的硬件实现具有并行计算能力，可以有效提升网络的运算速度。忆阻器是与电阻、电容、电感三类元件并列的第四类电子元件，具有记忆特性，非常适合用于神经网络中突触权值的存储和更新。自2008年hp实验室用tio2纳米材料制造出第一个物理忆阻器件以来，国内外学者提出了许多基于忆阻的神经网络电路实现方案。
2、目前为止，基于忆阻的神经网络主要分为忆阻桥突触神经网络和交叉杆阵列神经网络电路两大类。相对来说，交叉杆阵列神经网络电路结构较为简单。但是两类神经网络电路的难点均在于多层神经网络权值更新算法电路实现。目前这两类神经网络主要采用bp算法和rwc算法进行权值更新。对于bp神经网络电路实现，需要误差反向传播电路和非线性激活函数的求导电路，而这两种电路使得神经网络电路结构复杂，特别是非线性激活函数求导电路一般难以直接用模拟电路实现，很多研究学者采用数字存储的办法解决非线性激活函数求导问题，这样又增加了电路结构的复杂性；rwc算法通常被用来实现忆阻桥突触神经网络，但是该算法权值更新的表达式中只考虑误差变化量e的符号，没有考虑误差变化量e的数值，且每次权值调整的方向都是随机的，这导致收敛速度比
技术实现思路
1、鉴于上述所阐述的bp算法电路复杂和rwc算法收敛速度慢的问题，本专利技术要解决的问题是，基于忆阻器设计具有收敛速度较快、结构简单的权值更新算法电路的多层神经网络电路。
2、本专利技术提出的基于忆阻器的加权和同步抖动(wssp:weighted sum simultaneousperturbation)算法神经网络电路。当网络输入信号后，通过神经网络电路输出，计算网络的实际输出与标准输出的误差函数；然后，以相同的概率随机选择抖动符号，同时施加到网络的所有神经元的加权和输出电路上，再计算神经网络输出与标准输出的误差函数，最后计算施加抖动后的误差函数和没有施加抖动的误差函数的变化量，利用该变化量来更新网络的权值矩阵。相比bp算法神经网络，wssp算法神经网络不需要误差反向传播算法电路，也不存在非线性函数微分电路，电路现实简单；相比rwc算法神经网络，wssp算法神经网络不仅考虑到了误差变化量的符号，还考虑到了误差变化量的数值，从而解决了rwc算法电路收敛速度慢的问题。
本文档来自技高网...【技术保护点】
1.基于加权和同步抖动算法的忆阻神经网络全电路其特征在于，包括由双忆阻突触构成的神经元结构、基于WSSP算法的在线训练电路结构。神经元电路与在线训练电路构成的单层忆阻神经网络全电路。由单层忆阻神经网络全电路级联构成多层忆阻神经网络。
2.根据权利1所述的双忆阻突触神经元结构，其特征是：所述的双忆阻突触包括两个忆阻Ma和Mb反向连接，可实现正权值、负权值和零权值。由运放和电阻构成非线性激活函数电路。
3.根据权利1所述的基于WSSP算法的在线训练电路，其特征是：所述的WSSP算法是在加权和s处添加抖动信号，根据无抖动信号和添加抖动信号的误差之间的差值对权值进行更新。WSSP在线训练电路包含由LF398构成的采样保持结构、运算放大器构成的误差计算结构、CMOS传输门构成的阈值选择结构。
4.根据权利1所述的基于忆阻的单层神经网络全电路，其特征是：所述的单层神经网络忆阻全电路包括神经元电路、WSSP在线训练电路及反馈调节电路。基于忆阻的单层神经网络电路主要分为前向传播和反向调整两个过程，电路中的开关SW由CMOS传输门组成，由脉冲信号Vc控制。反向调
5.根据权利1所述的基于忆阻的多层神经网络全电路，其特征是：所述的多层神经网络全电路由单层网络电路级联而成，上一层的输出电压作为第二层的输入。每一层反向调整信号的由当前层的输入信号控制。
...【技术特征摘要】
1.基于加权和同步抖动算法的忆阻神经网络全电路其特征在于，包括由双忆阻突触构成的神经元结构、基于wssp算法的在线训练电路结构。神经元电路与在线训练电路构成的单层忆阻神经网络全电路。由单层忆阻神经网络全电路级联构成多层忆阻神经网络。
2.根据权利1所述的双忆阻突触神经元结构，其特征是：所述的双忆阻突触包括两个忆阻ma和mb反向连接，可实现正权值、负权值和零权值。由运放和电阻构成非线性激活函数电路。
3.根据权利1所述的基于wssp算法的在线训练电路，其特征是：所述的wssp算法是在加权和s处添加抖动信号，根据无抖动信号和添加抖动信号的误差之间的差值对权值进行更新。wssp在线训练电...
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。