一种可片上学习的物理RC网络的实现装置及方法制造方法及图纸

本发明专利技术公开了一种可片上学习的物理RC网络的实现装置及方法，属于忆阻器类脑计算系统领域。本发明专利技术是基于下一代RC网络，对其进行硬件实现，解决了传统RC网络运算并行度不高。本发明专利技术的全硬件RC网络，不是简单权重映射后，再进行数据分类，还可以进行原位训练，这样可以提高网络因为器件的非线性导致的噪声的容忍程度，并且可以针对外界环境的变化，自适应的做出改变。做出改变。做出改变。

【技术实现步骤摘要】
一种可片上学习的物理RC网络的实现装置及方法


[0001]本专利技术涉及忆阻器类脑计算系统领域，具体涉及一种可片上学习的物理RC网络的实现装置及方法。

技术介绍

[0002]储备池(reservoir computing,RC)是RNN的一种简化形式。RC概念最初的提出是为了模拟生物大脑中具有大量循环连接的皮质纹状体系统处理视觉空间序列信息的过程。随后人们基于RNN的框架,构建了统一的RC计算框架.RC的核心是一个被称为“储池”的循环神经网络隐藏层。该网络能够将时序输入信号转换到高维空间中。经过高维转换后,输入信号的特征就可以更容易地通过简单线性回归方法有效读出。
[0003]忆阻器是近年广受关注的一种具有记忆功能的器件。由忆阻器器件构成的交叉阵列,可以通过欧姆定律和基尔霍夫定律,以存内计算的方式原位、并行、物理地完成矩阵向量乘运算,有效减少了计算过程中数据的搬运,从而具有功耗低、速度快的优点。本专利技术采用忆阻器阵列作为最后一层的权重，由于其存在非理想特性，因此本专利技术采用恒定脉冲的更新方式。最终得到一个完全由硬件电路构成并且支持原位训练的下一代RC网络。
[0004]由于忆阻器存在有非理想特性，因此采用固定脉冲更新权重，是最稳定的一种方式。SBP
‑
moment是一种片上学习的方法，但每次需要保存上一层所得到的误差值，需要大量的寄存器来存储浮点数据。

技术实现思路

[0005]针对现有技术的不足，本专利技术提出了一种可片上学习的物理RC网络的实现方法及装置。r/>[0006]本专利技术的目的可以通过以下技术方法实现：
[0007]一种可片上学习的物理RC网络的实现装置，包括：
[0008]信号输入电路，配置为接收输入信号；
[0009]储备池电路，所述储备池模块包括储备池单元，所述储备池单元中的每个储备池单元配置为接收所述输入信号且将所述输入信号通过模拟乘法器得到输入与输入之间的乘积，将模拟乘法器组成一个矩阵形状，所述模拟乘法器上方与左边采用相同的输入信号，结果取每一个乘法器矩阵的上三角部分，得到第一处理结果，将第一处理结果和所述输入信号通过向量拼接操作得到第二处理结果，再将第二处理结果与常量忆阻器阵列做矩阵乘法，进行降维操作，得到第三处理结果；
[0010]输出层单元，配置为将所述多个储备池单元的多个第三处理结果与权重矩阵相乘，得到第四处理结果，并将所述第四处理结果输出。
[0011]在一些公开中，所述输出层单元包括权重矩阵、反向传播电路、交叉熵电路和存储逻辑电路，通过多个第三处理结果经过权重矩阵，通过softmax电路输出类别概率，交叉熵电路计算输入概率的误差，来得到权重的更新符号，符号为正，对器件施加正向脉冲，权重
减少，符号为负，对器件施加反向脉冲，权重增加。
[0012]在一些公开中，所述交叉熵电路计算输入概率的误差，交叉熵公式如公式(1)(2)所示
[0013][0014][0015]其中公式(2)为softmax计算公式；交叉熵电路求对数，采用了等价替换原则；首先是对数l nx在x＝1处进行泰勒张开，如公式(3)所示；
[0016][0017]忽略高次项，取第一项。然后输出的误差电压经过比较器，与给定的阈值电压比较，比阈值电压小则输出低电平；最后的计数器是判断训练是否收敛，收敛则停止训练。
[0018]在一些公开中，所述反向传播电路：权重矩阵的更新方向取决于反向传播梯度的符号，首先，正向传播时，输入数据为第二处理结果，权重矩阵为G，由基尔霍夫定律得到输出电压向量为第三处理结果,再经公式2，得到最终输出概率；再由输出的概率经过交叉熵计算电路，得到误差值，因此反向传播的导数符号取决于，误差值对每一个权重的导数；
[0019]原理由公式(4)所示
[0020][0021]其中L为经过交叉熵得到的误差，为经过Softmax电路的输出，C为Softmax电路的输入，即为经过权重矩阵的输出，W为权重矩阵G，X为输入权重矩阵的数据，也就是第二处理结果,最终每个方向传播的符号取决于输入电压第二处理结果于softmax输出Y与目标标签的差值之间由逻辑电路得到的更新矩阵。
[0022]在一些公开中，所述交叉熵反向传播电路，计算每一个类别的误差时，通过添加一个阈值，来使得算法收敛速度加快，即高于这个阈值才进行更新；因此需要对公式(4)做一定修改。得到公式5；
[0023][0024]其中B为得到的差值，经过阈值比较后，得到误差更新情况，1为更新，0为不更新。
[0025]在一些公开中，所述存储逻辑电路目的是储存上一次的更新状态，通过采用两个忆阻器来存储一个权重的更新状态。
[0026]一种可片上学习的物理RC网络的实现方法，用于上述的一种可片上学习的物理RC
网络的实现装置，包括以下步骤：使用所述一种可片上学习的物理RC网络的实现装置进行推理计算操作；或者使用所述一种可片上学习的物理RC网络的实现装置进行训练计算操作。
[0027]所述推理计算操作包括：通过所述信号输入电路接收用于所述推理计算操作的输入信号；通过所述储备池电路将所述输入信号与将所述输入信号通过模拟乘法器得到输入与输入之间的乘积，将模拟乘法器组成一个矩阵形状，模拟乘法器上方与左边采用相同的输入信号，结果取每一个乘法器矩阵的上三角部分，得到第一处理结果，将第一处理结果和所述输入信号组合成第二处理结果，再将第二处理结果与常量忆阻器阵列做矩阵乘法，进行降维操作，得到第三处理结果；
[0028]通过所述输出层单元将所述多个第三处理结果与所述权重矩阵相乘，得到所述第四处理结果，并将所述第四处理结果输出。
[0029]所述训练计算操作包括：
[0030]通过所述信号输入电路接收用于所述训练计算操作的输入信号以及用于所述输入信号的标签值；
[0031]通过所述储备池电路将所述输入信号与将所述输入信号通过模拟乘法器得到输入与输入之间的乘积，将模拟乘法器组成一个矩阵形状，模拟乘法器上方与左边采用相同的输入信号，结果取每一个乘法器矩阵的上三角部分，得到第一处理结果，将第一处理结果和所述输入信号组合成第二处理结果，再将第二处理结果与常量忆阻器阵列做矩阵乘法，进行降维操作，得到第三处理结果；
[0032]通过所述输出层单元将所述多个第三处理结果与所述权重矩阵相乘，得到所述第四处理结果，并将所述第四处理结果输出；
[0033]根据所述多个第四处理结果与所述训练输入信号的标签值计算所述权重矩阵的误差，以更新所述权重矩阵；将更新后的权重矩阵写入所述输出层单元。
[0034]本专利技术的有益效果：RC网络目前，基本上是通过物理储层进行数据处理，得到数据之后才进行训练，数据处理与训练不在同一时间，并且需要大量的寄存器取储存历史状态。针对该问题，本专利技术是基于下一代RC网络提出的一种RC网络的实现装置，对其进行硬件实现，解决了传统RC网络运算并行度不高。本专利技术的全硬件RC网络，不是简单权重映射后，本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种可片上学习的物理RC网络的实现装置，其特征在于，包括：信号输入电路，配置为接收输入信号；储备池电路，所述储备池模块包括储备池单元，所述储备池单元中的每个储备池单元配置为接收所述输入信号且将所述输入信号通过模拟乘法器得到输入与输入之间的乘积，将模拟乘法器组成一个矩阵形状，所述模拟乘法器上方与左边采用相同的输入信号，结果取每一个乘法器矩阵的上三角部分，得到第一处理结果，将第一处理结果和所述输入信号通过向量拼接操作得到第二处理结果，再将第二处理结果与常量忆阻器阵列做矩阵乘法，进行降维操作，得到第三处理结果；输出层单元，配置为将所述多个储备池单元的多个第三处理结果与权重矩阵相乘，得到第四处理结果，并将所述第四处理结果输出。2.一种根据权利要求1所述的一种可片上学习的物理RC网络的实现装置，其特征在于，所述输出层单元包括权重矩阵、反向传播电路、交叉熵电路和存储逻辑电路，通过多个第三处理结果经过权重矩阵，通过softmax电路输出类别概率，交叉熵电路计算输入概率的误差，来得到权重的更新符号，符号为正，对器件施加正向脉冲，权重减少，符号为负，对器件施加反向脉冲，权重增加。3.根据权利要求2所述的一种RC网络的实现装置，其特征在于，所述交叉熵电路计算输入概率的误差，交叉熵公式如公式(1)(2)所示入概率的误差，交叉熵公式如公式(1)(2)所示其中公式(2)为softmax计算公式，L为最终得到的误差值，y为目标标签值，为公式(2)的输出结果；交叉熵电路求对数，采用了等价替换原则；首先是对数lnx在x＝1处进行泰勒张开，如公式(3)所示；x实际上是公式(2)的输出，但该公式只是表示对数可以进行泰勒张开，并不属于该系统公式；忽略高次项，取第一项；然后输出的误差电压经过比较器，与给定的阈值电压比较，比阈值电压小则输出低电平；最后的计数器是判断训练是否收敛，收敛则停止训练。4.根据权利要求2所述的一种可片上学习的物理RC网络的实现装置，其特征在于，所述反向传播电路包括：权重矩阵的更新方向取决于反向传播梯度的符号，首先，正向传播时，输入数据为第二处理结果，权重矩阵为G，由基尔霍夫定律得到输出电压向量为第三处理结果,再经公式2，得到最终输出概率；再由输出的概率经过交叉熵计算电路，得到误差值，因此反向传播的导数符号取决于，误差值对每一个权重的导数；原理由公式(4)所示
其中L为经过交叉熵得到的误差，为经过Softmax电路的输出，C为Softmax电路的输入，即为经过权重矩阵的输出，W为权重矩阵G，X为输入权重矩阵的数据，也就是第二处理结果,Y为标签值，该公式的所有变量数据均为矩阵形式
；
最终每个方向传播的符号取决于输入电压第二处理...

【专利技术属性】
技术研发人员：朱云来，方修全，吴祖恒，冯哲，徐祖雨，代月花，
申请(专利权)人：安徽大学，
类型：发明
国别省市：