一种用于优化忆阻器基神经网络的权值推理映射方法技术

本发明专利技术公开了一种用于优化忆阻器基神经网络的权值推理映射方法，首先根据忆阻器电导区间和权值区间求出权值映射参数C

【技术实现步骤摘要】
一种用于优化忆阻器基神经网络的权值推理映射方法


[0001]本专利技术涉及忆阻器基神经网络
，尤其涉及一种用于优化忆阻器基神经网络的权值推理映射方法。

技术介绍

[0002]在忆阻器基神经网络中，循环神经网络(RNN)独特的递归机制带来了片上面积的降低和算力的节省，但与此同时也造成了RNN难以全硬件推理和权值映射稳定性不高的问题，这是在实际应用中忆阻器基RNN系统的主要障碍之一，在硬件神经网络中，权值推理和映射过程是决定测试精度的重要部分。
[0003]传统的忆阻器基RNN只对最后一个循环时刻进行推理和映射，这种映射方式会造成很大的误差且不利于忆阻器基RNN的全硬件化实现。不仅如此，在较为复杂的递归神经网络中(如长短时记忆网络、门控循环单元等)，这种方式会导致训练过程中返回电压值不可控的问题，而且当时间维度越大，这个问题就越明显。

技术实现思路

[0004]本专利技术的目的是提供一种用于优化忆阻器基神经网络的权值推理映射方法，该方法解决了权值推理映射过程中的时序信息丢失问题，使RNN类算法(如GRU、LSTM等)得以全硬件实现，为硬件神经网络系统提供了新的思路。
[0005]本专利技术的目的是通过以下技术方案实现的：
[0006]一种用于优化忆阻器基神经网络的权值推理映射方法，所述方法包括：
[0007]步骤1、根据忆阻器电导区间和权值区间求出权值映射参数C
t
和信号输入转换参数θ；
[0008]步骤2、将权值矩阵按照权值映射参数C/>t
进行等比例放大，然后经过外围板卡电路映射到忆阻器阵列中；
[0009]步骤3、将输入忆阻器阵列的电压信号先按照信号输入转换参数θ进行等比例缩小，再输入步骤2映射完成的忆阻器阵列中，进行矩阵乘加运算；
[0010]步骤4、使用恒定电阻阵列将步骤3中忆阻器阵列运算输出的电流值转换为电压信号，将该电压信号与下一个时刻的电压信号相加作为下一个时刻的输入电压信号，以进行下一循环的权值推理映射过程。
[0011]由上述本专利技术提供的技术方案可以看出，上述方法解决了权值推理映射过程中的时序信息丢失问题，使RNN类算法(如GRU、LSTM等)得以全硬件实现，为硬件神经网络系统提供了新的思路。
附图说明
[0012]为了更清楚地说明本专利技术实施例的技术方案，下面将对实施例描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本专利技术的一些实施例，对于本
领域的普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他附图。
[0013]图1为本专利技术实施例提供的用于优化忆阻器基神经网络的权值推理映射方法流程示意图。
具体实施方式
[0014]下面结合本专利技术实施例中的附图，对本专利技术实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本专利技术一部分实施例，而不是全部的实施例，这并不构成对本专利技术的限制。基于本专利技术的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本专利技术的保护范围。
[0015]如图1所示为本专利技术实施例提供的用于优化忆阻器基神经网络的权值推理映射方法流程示意图，所述方法包括：
[0016]步骤1、根据忆阻器电导区间和权值区间求出权值映射参数C
t
和信号输入转换参数θ；
[0017]在该步骤中，具体是按照如下公式(1)和(2)求出权值映射参数C
t
和信号输入转换参数θ：
[0018][0019][0020]其中，为t时刻推理完成之后的权值矩阵的最大值减去最小值，代表了权值矩阵的取值范围；为t时刻忆阻器阵列中能达到的最大阻值减去最小阻值(单位为KΩ)。
[0021]步骤2、将权值矩阵按照权值映射参数C
t
进行等比例放大，然后经过外围板卡电路映射到忆阻器阵列中；
[0022]在该步骤中，具体采用如下公式(3)对权值矩阵进行处理：
[0023][0024]其中，为t时刻忆阻器阵列中第i行第j列的阻值；为t时刻推理完成的权值矩阵中第i行第j列的权值；C
t
为权值映射参数。
[0025]步骤3、将输入忆阻器阵列的电压信号先按照信号输入转换参数θ进行等比例缩小，再输入步骤2映射完成的忆阻器阵列中，进行矩阵乘加运算；
[0026]在该步骤中，具体采用如下公式(4)对输入忆阻器阵列的电压信号进行处理：
[0027][0028]其中，X
t
为输入忆阻器阵列的电压信号；θ为信号输入转换参数；为进行等比例缩放后的X
t
。
[0029]步骤4、使用恒定电阻阵列将步骤3中忆阻器阵列运算输出的电流值转换为电压信
号，将该电压信号与下一个时刻的电压信号相加作为下一个时刻的输入电压信号，以进行下一循环的权值推理映射过程。
[0030]在该步骤中，假设步骤2中映射完成了的忆阻器阵列列数为n，那么所采用的恒定电阻阵列大小为1
×
n。
[0031]由于忆阻器基RNN权值推理和映射的关键在于推理过程中信息的丢失和映射过程中鲁棒性过低，无法处理复杂的时序信息，进而无法解决复杂时序列问题。针对该问题，本专利技术实施例利用忆阻器由单元到阵列的几何拓扑理论，将输入电信号和权值矩阵按照不同参数等比例缩放，做循环归一化处理，从而解决推理映射过程中的时序信息丢失问题。
[0032]值得注意的是，本专利技术实施例中未作详细描述的内容属于本领域专业技术人员公知的现有技术。
[0033]以上所述，仅为本专利技术较佳的具体实施方式，但本专利技术的保护范围并不局限于此，任何熟悉本
的技术人员在本专利技术披露的技术范围内，可轻易想到的变化或替换，都应涵盖在本专利技术的保护范围之内。因此，本专利技术的保护范围应该以权利要求书的保护范围为准。本文
技术介绍
部分公开的信息仅仅旨在加深对本专利技术的总体
技术介绍
的理解，而不应当被视为承认或以任何形式暗示该信息构成已为本领域技术人员所公知的现有技术。
本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种用于优化忆阻器基神经网络的权值推理映射方法，其特征在于，所述方法包括：步骤1、根据忆阻器电导区间和权值区间求出权值映射参数C
t
和信号输入转换参数θ；步骤2、将权值矩阵按照权值映射参数C
t
进行等比例放大，然后经过外围板卡电路映射到忆阻器阵列中；步骤3、将输入忆阻器阵列的电压信号先按照信号输入转换参数θ进行等比例缩小，再输入步骤2映射完成的忆阻器阵列中，进行矩阵乘加运算；步骤4、使用恒定电阻阵列将步骤3中忆阻器阵列运算输出的电流值转换为电压信号，将该电压信号与下一个时刻的电压信号相加作为下一个时刻的输入电压信号，以进行下一循环的权值推理映射过程。2.根据权利要求1所述用于优化忆阻器基神经网络的权值推理映射方法，其特征在于，在步骤1中，具体是按照如下公式(1)和(2)求出权值映射参数C
t
和信号输入转换参数θ：和信号输入转换参数θ：其中，为t时刻推理完成之后的权值矩阵的最大...

【专利技术属性】
技术研发人员：吴祖恒，李威，冯哲，朱云来，徐祖雨，代月花，
申请(专利权)人：安徽大学，
类型：发明
国别省市：