一种基于权重调整的阻变存储器训练装置及训练方法制造方法及图纸

技术编号:40197657 阅读:19 留言:0更新日期:2024-01-27 00:01
本发明专利技术公开了一种基于权重调整的阻变存储器训练装置及训练方法。训练装置由阻变存储器阵列,内嵌的电导读写装置和外围电路组成。训练方法包括:使用反向传播算法分别计算每一层神经元的误差。之后对于网络的权重值使用权重调整规划图进行调整,其中权重规划图包括了对应的误差和权重所对应的权重调整更新量。本发明专利技术加快了网络训练速度的同时不影响训练精度,降低了训练功耗,通过阻变存储器读写器规避了存储器件的非线性带来的影响,特殊的脉冲施加方式提升了训练效率。

【技术实现步骤摘要】

本专利技术属于人工智能类脑计算的硬件领域,更具体地,涉及一种基于阻变存储器的神经网络快速学习方案。


技术介绍

1、基于互补金属氧化物半导体(cmos)的数字计算机在过去十几年中有了很大的进步,特别是在在晶体管集成技术等方面。在过去很长一段时间,集成电路上可容纳的晶体管数目每隔18个月便会增加一倍,半导体行业按照上述的摩尔定律发展了半个多世纪。然而随着新工艺的不断推出,晶体中的原子数量不断减少,现有的材料和技术越来越难以在更小的尺寸上布局原件,而且在更小的尺寸上,一些器件就不能简单地以半导体原件的物理知识进行分析,还需要结合量子力学理论,这样一来集成电路的设计就会更为复杂。此外,考虑到原子的尺寸,一些器件或者涂层的体积是无法缩小的,这样就进一步限制了集成电路的容纳晶体管数量。

2、而人工智能的发展也加大了对神经网络运算专用芯片的需求,目前的实现该算法的硬件平台(如cpu、gpu、fpga)都是基于存算分离的冯·诺依曼架构,冯·诺依曼架构由于主存与处理器分离的设计,导致数据在两者之间交互的过程中会占用大量时间,消耗大量能量,这种“存储墙”与“功耗墙本文档来自技高网...

【技术保护点】

1.一种基于权重调整的阻变存储器的训练装置上实现的训练方法,其特征在于,包括以下步骤:

2.根据权利要求1所述的一种基于权重调整的阻变存储器的训练装置上实现的训练方法,其特征在于:在步骤(1)所述的将阻变存储器的电导初始化为最小值Gmin的具体方法如下:

3.根据权利要求1所述的一种基于权重调整的阻变存储器的训练装置上实现的训练方法,其特征在于:步骤(1)中,所述的在阻变存储器阵列中部署神经网络的具体方法如下:

4.根据权利要求1所述的一种基于权重调整的阻变存储器的训练装置上实现的训练方法,其特征在于:在步骤(2)中,输入信号和阻变存储器的阵列中的权重...

【技术特征摘要】

1.一种基于权重调整的阻变存储器的训练装置上实现的训练方法,其特征在于,包括以下步骤:

2.根据权利要求1所述的一种基于权重调整的阻变存储器的训练装置上实现的训练方法,其特征在于:在步骤(1)所述的将阻变存储器的电导初始化为最小值gmin的具体方法如下:

3.根据权利要求1所述的一种基于权重调整的阻变存储器的训练装置上实现的训练方法,其特征在于:步骤(1)中,所述的在阻变存储器阵列中部署神经网络的具体方法如下:

4.根据权利要求1所述的一种基于权重调整的阻变存储器的训练装置上实现的训练方法,其特征在于:在步骤(2)中,输入信号和阻变存储器的阵列中的权重进行向量矩阵乘法的具体方法如下:

5.根据权利要求1所述一种基于权重...

【专利技术属性】
技术研发人员:陈凡胜刘醴琦李丽圆
申请(专利权)人:中国科学院上海技术物理研究所
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1