当前位置: 首页 > 专利查询>西南大学专利>正文

高效忆阻神经网络原位训练系统技术方案

技术编号:39321201 阅读:28 留言:0更新日期:2023-11-12 16:01
本发明专利技术公开了一种高效忆阻神经网络原位训练系统,包括模型数据库、输入模块和模型编辑模块,针对输入数据从模型数据库中抽取与所述输入数据对应的忆阻神经网络处理模型,搭建并训练出优化后的忆阻神经网络原位训练模型,并交存储器存储备用。该忆阻神经网络原位训练模型采用了双忆阻阵列来表示网络权重,并通过Vteam忆阻器神经网络实现了对忆阻器非理想特性的模拟与仿真。通过实验仿真获得提出的原位训练方案的有效性及鲁棒性。通过硬件和神经网络训练相结合的优化算法,实现了高准确度高,简单操作的高效的忆阻神经网络原位训练。简单操作的高效的忆阻神经网络原位训练。简单操作的高效的忆阻神经网络原位训练。

【技术实现步骤摘要】
高效忆阻神经网络原位训练系统


[0001]本专利技术属于人工智能技术,特别是涉及一种基于忆阻神经网络的原位训练系统。

技术介绍

[0002]近年来,得益于计算能力的快速提升,基于人工智能技术的算法与应用取得了巨大的进步。然而存储墙以及摩尔定律问题的日益突出,基于传统冯诺依曼架构的计算平台展现出了一定的局限性。由于神经形态计算中存储与计算融合的特点,被认为是一种替代传统冯诺依曼结构的新方案。因此硬件实现神经网络的方案具备的低功耗和快速并行计算的能力而受到了广泛关注。在神经网络中,有大量的矩阵相乘运算,而基于忆阻的神经网络中,利用欧姆定律和基尔霍夫定律可以有效地实现矩阵的乘累加运算,同时神经网络的权重可以有效地存储在忆阻交叉阵列中。然而,现有的忆阻器通常具有大量的非理想特性,如器件到器件的变化,周期到周期变化,以及脉冲到脉冲的变化,这会导致忆阻神经网络权重编码的不确定,从而导致忆阻神经网络原位训练时灾难性的失败。因此针对原位训练中忆阻器电导更新难控制等问题,设计一种高效忆阻神经网络原位训练系统,系统将硬件和神经网络训练相结合来优化算法,实现高效的忆本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种高效忆阻神经网络原位训练系统,其特征在于:包括模型数据库、输入模块和模型编辑模块;所述模型数据库中存储有Vteam忆阻器神经网络和系列忆阻神经网络处理模型;所述输入模块用于:发送预处理后的输入数据给模型编辑模块;所述模型编辑模块用于:从模型数据库中抽取与所述输入数据对应的忆阻神经网络处理模型,并提取Vteam忆阻器神经网络,搭建并训练出优化后的忆阻神经网络原位训练模型,并交存储器存储备用。2.根据权利要求1所述的高效忆阻神经网络原位训练系统,其特征在于,所述输入模块中的预处理是指将输入信号进行模数转换得到具有所述输入信号特征的输入数据的过程。3.根据权利要求1所述的高效忆阻神经网络原位训练系统,其特征在于:在输入数据输入忆阻神经网络原位训练模型前,忆阻神经网络原位训练模型中的忆阻阵列模块需要进行初始化设置,初始化设置如下:(1)将所有忆阻器设置为低电导态;(2)初始化权重以2/N的间距从

1到1进行权重分割,每个区间的序号为(1,K);(3)判断当前重量所在区间K
l
,并计算出相应的脉冲数:当W
l
<0,确定当前权重所在区间K
l
,得到相应的脉冲数|K
l

(N+1)/2|并对负数组施加相应的增效脉冲,当W
l
>0,确定当前权重所在区间K
l
,得到相应的脉冲数K
l

(N+1)/2,并对正数组施加相应的电位脉冲,当W
l
=0,保持当前状态;其中,W
l
表示为第l层的权重,n
l
‑1表示为1

1层的神经元个数,N表示为初始化电导态,为了便于区分,K与N的定义类似,K
l
表示当前权重所属的权重区间编号;初始化后,对每一层的权重进行量化,量化后的权重编码成相应数量的脉冲,施加到忆阻阵列中。4.根据权利要求3所述的高效忆阻神经网络原位训练系统,其特征在于:所述忆阻器阵列为双忆阻器阵列,该双忆阻器阵列由两个结构完全一致的nxn忆阻交叉阵列并行组成,共同连接其前端神经元集,所述双忆阻器阵列的输出端连接其后端神经元集。5.根据权利要求4所述的高效忆阻神经网络原位训练系统,其特征在于,所述nxn忆阻交叉阵列中,所有忆阻器阵列单元都设置为Vteam忆阻器神经网络,所述Vteam忆阻器神经网络由Vteam忆阻器组成,并通过增加随机噪声对Vteam忆阻器的状态变量w进行更改;所述Vteam忆阻器的电压电流关系以及内部状态变量变化如公式1,公示2,所示;i(t)=G(w,v)v(t)
ꢀꢀꢀꢀ
(2)其中,w表示为忆阻器内部的状态变量,v(t)为施加在忆阻器两端的电压,i(t)表示为流经过忆阻器的电流,G(w,v)表示为忆阻器的电导,t为时间;所述Vteam忆阻器的状态变量的变化存在一个阈值电压,如公示3所示;
其中,k
off
、k
on
、α
on
、α
off
是常数,v
off
和v
on
是电压阈值;f
on
(w)和f
off
(w)是关于忆阻器状态变量w的窗函数,控制状态变量w变化速度,并限制状态变量w的值大小;所述状态变量w和电导G(w,v)的关系设置为指数关系,如公示4所示;所述Vteam忆阻器神经网络对通过增加随机噪声对Vteam忆阻器的状态变量w进行的更改如下;通过对控制变量w加入随机噪声,所述Vteam忆阻器能够实现忆阻器的非理想特性的随机变化;其中非理想特性包括器件到器件的变化、周期到周期变化和脉冲到脉冲的变化。6.根据权利要求4所述的高效忆阻...

【专利技术属性】
技术研发人员:王丽丹申思远郭明健段书凯
申请(专利权)人:西南大学
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1