循环神经网络的实现方法、系统、电子设备及存储介质技术方案

技术编号:31928269 阅读:26 留言:0更新日期:2022-01-15 13:15
本申请公开了一种循环神经网络的实现方法,应用于硅基光芯片,包括:接收激光发射器传输的光信号;其中,所述光信号由电光二极管对输入电信号转化得到;利用马赫曾德尔干涉仪MZI和激活函数拟合结构对所述光信号进行具有时间先后关系的循环神经网络计算,得到计算结果;其中,所述循环神经网络计算包括本状态的乘加运算、前一状态的反馈运算和本状态输入的乘加运算;通过所述循环神经网络的输出层输出所述计算结果。本申请能够提高循环神经网络的计算效率。本申请还公开了一种循环神经网络的实现系统、一种存储介质及一种电子设备,具有以上有益效果。以上有益效果。以上有益效果。

【技术实现步骤摘要】
循环神经网络的实现方法、系统、电子设备及存储介质


[0001]本申请涉及人工神经网络
,特别涉及循环神经网络的实现方法、系统、电子设备及存储介质。

技术介绍

[0002]循环神经网络(Recurrent Neural Network,RNN)是一类以序列数据为输入,在序列的演进方向进行递归且所有节点按链式连接的递归神经网络。蓄水池计算(Reservoir Computing,RC)又称储备池计算,是一类训练循环神经网络(RNNs)的简单、高效的新型计算模型。目前循环神经网络均在电学芯片实现,但是基于电学芯片的循环神经网络的运算效率较低。
[0003]因此,如何提高循环神经网络的计算效率是本领域技术人员目前需要解决的技术问题。

技术实现思路

[0004]本申请的目的是提供一种循环神经网络的实现方法、系统、一种存储介质及一种电子设备,能够提高循环神经网络的计算效率。
[0005]为解决上述技术问题,本申请提供一种循环神经网络的实现方法,应用于硅基光芯片,该循环神经网络的实现方法包括:接收激光发射器传输的光信号;其中,所述光信号由电光二极管对输入电信号转化得到;利用马赫曾德尔干涉仪MZI和激活函数拟合结构对所述光信号进行具有时间先后关系的循环神经网络计算,得到计算结果;其中,所述循环神经网络计算包括本状态的乘加运算、前一状态的反馈运算和本状态输入的乘加运算;通过所述循环神经网络的输出层输出所述计算结果。
[0006]可选的,在利用马赫曾德尔干涉仪MZI和激活函数拟合结构对所述光信号进行具有时间先后关系的循环神经网络计算之前,还包括:获取所述循环神经网络的激活函数;利用所述马赫曾德尔干涉仪MZI对所述激活函数进行光电转换得到所述激活函数拟合结构。
[0007]可选的,所述利用马赫曾德尔干涉仪MZI和激活函数拟合结构对所述光信号进行具有时间先后关系的循环神经网络计算,得到计算结果,包括:根据所述激活函数和所述光信号进行具有时间先后关系的循环神经网络计算,得到乘加运算矩阵;对所述乘加运算矩阵进行奇异值分解,得到第一矩阵U、第二矩阵V和第三矩阵W;利用所述马赫曾德尔干涉仪MZI生成所述第一矩阵U的MZI实现结构、所述第二矩阵V的MZI实现结构和所述第三矩阵W 的MZI实现结构;
利用所述第一矩阵U的MZI实现结构、所述第二矩阵V的MZI实现结构和所述第三矩阵W 的MZI实现结构生成所述计算结果。
[0008]可选的,所述循环神经网络为蓄水池网络;相应的,还包括:确定所述蓄水池网络中的每一节点的更新关联信息;其中,更新关联信息包括本节点状态更新对其他节点状态的影响,以及其他节点状态更新对本节点状态的影响;根据所述更新关联信息更新所述蓄水池网络中的每一所述节点的状态。
[0009]可选的,在利用马赫曾德尔干涉仪MZI和激活函数拟合结构对所述光信号进行具有时间先后关系的循环神经网络计算的过程中,还包括:利用目标公式更新所述蓄水池网络中的每一节点的状态;其中,所述目标公式为,为节点在t+1时刻的状态,F为激活函数,为所述光信号的权重,i为光信号,为蓄水池网络的权重,为节点在t时刻的状态,为偏移信息。
[0010]可选的,还包括:根据计时开关的当前时间选择对应的通路;其中,所述计时开关设置于所述蓄水池网络模型的波导通路选择器。
[0011]可选的,还包括:按照预设公式计算第t个状态和第t+1个状态的时间差,并根据所述时间差更新输入的光信号;其中,所述预设公式为,L为波导的长度,为折射率,c为光速。
[0012]本申请还提供了一种循环神经网络的实现系统,应用于硅基光芯片,该系统包括:输入模块,用于接收激光发射器传输的光信号;其中,所述光信号由电光二极管对输入电信号转化得到;计算模块,用于利用马赫曾德尔干涉仪MZI和激活函数拟合结构对所述光信号进行具有时间先后关系的循环神经网络计算,得到计算结果;其中,所述循环神经网络计算包括本状态的乘加运算、前一状态的反馈运算和本状态输入的乘加运算;输出模块,用于通过所述循环神经网络的输出层输出所述计算结果。
[0013]本申请还提供了一种存储介质,其上存储有计算机程序,所述计算机程序执行时实现上述蓄水池网络的实现方法执行的步骤。
[0014]本申请还提供了一种电子设备,包括存储器和硅基光芯片,所述存储器中存储有计算机程序,所述硅基光芯片调用所述存储器中的计算机程序时实现上述蓄水池网络的实现方法执行的步骤。
[0015]本申请提供了一种循环神经网络的实现方法,应用于硅基光芯片,包括:接收激光发射器传输的光信号;其中,所述光信号由电光二极管对输入电信号转化得到;利用马赫曾德尔干涉仪MZI和激活函数拟合结构对所述光信号进行具有时间先后关系的循环神经网络
计算,得到计算结果;其中,所述循环神经网络计算包括本状态的乘加运算、前一状态的反馈运算和本状态输入的乘加运算;通过所述循环神经网络的输出层输出所述计算结果。
[0016]本申请提供了一种基于硅基光芯片实现循环神经网络的方法,首先接收激光发射器发射的光信号,然后利用马赫曾德尔干涉仪MZI和激活函数拟合结构对所述光信号进行具有时间先后关系的循环神经网络计算得到计算结果。本申请完成了全光下的循环神经网络计算,具有高速高并行低功耗的优势,进而提高循环神经网络的计算效率。本申请同时还提供了一种循环神经网络的实现系统、一种存储介质和一种电子设备,具有上述有益效果,在此不再赘述。
附图说明
[0017]为了更清楚地说明本申请实施例,下面将对实施例中所需要使用的附图做简单的介绍,显而易见地,下面描述中的附图仅仅是本申请的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
[0018]图1为本申请实施例所提供的一种循环神经网络的实现方法的流程图图2为本申请实施例所提供的一种MZI的结构示意图;图3为本申请实施例所提供的一种蓄水池结构的示意图;图4为本申请实施例所提供的一种输入部分结构示意图;图5为本申请实施例所提供的一种V的MZI实现结构示意图;图6为本申请实施例所提供的一种W和U的MZI实现结构示意图;图7为本申请实施例所提供的一种激活函数tanh的分布曲线示意图;图8为本申请实施例所提供的一种光电转换实现三次方拟合结构示意图;图9为本申请实施例所提供的一种x状态更新结构示意图;图10为本申请实施例所提供的一种循环神经网络的实现系统的结构示意图。
具体实施方式
[0019]为使本申请实施例的目的、技术方案和优点更加清楚,下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本申请一部分实施例,而不是全部的实施例。基于本申请中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本申请保护的范围。
[0020]下面请参见图1,图1为本申请实施例所提供的一种循环神经网络的实现方法的流程图。
[本文档来自技高网
...

【技术保护点】

【技术特征摘要】
1.一种循环神经网络的实现方法,其特征在于,应用于硅基光芯片,包括:接收激光发射器传输的光信号;其中,所述光信号由电光二极管对输入电信号转化得到;利用马赫曾德尔干涉仪MZI和激活函数拟合结构对所述光信号进行具有时间先后关系的循环神经网络计算,得到计算结果;其中,所述循环神经网络计算包括本状态的乘加运算、前一状态的反馈运算和本状态输入的乘加运算;通过所述循环神经网络的输出层输出所述计算结果。2.根据权利要求1所述循环神经网络的实现方法,其特征在于,在利用马赫曾德尔干涉仪MZI和激活函数拟合结构对所述光信号进行具有时间先后关系的循环神经网络计算之前,还包括:获取所述循环神经网络的激活函数;利用所述马赫曾德尔干涉仪MZI对所述激活函数进行光电转换得到所述激活函数拟合结构。3.根据权利要求1所述循环神经网络的实现方法,其特征在于,所述利用马赫曾德尔干涉仪MZI和激活函数拟合结构对所述光信号进行具有时间先后关系的循环神经网络计算,得到计算结果,包括:根据所述激活函数和所述光信号进行具有时间先后关系的循环神经网络计算,得到乘加运算矩阵;对所述乘加运算矩阵进行奇异值分解,得到第一矩阵U、第二矩阵V和第三矩阵W;利用所述马赫曾德尔干涉仪MZI生成所述第一矩阵U的MZI实现结构、所述第二矩阵V的MZI实现结构和所述第三矩阵W 的MZI实现结构;利用所述第一矩阵U的MZI实现结构、所述第二矩阵V的MZI实现结构和所述第三矩阵W 的MZI实现结构生成所述计算结果。4.根据权利要求1所述循环神经网络的实现方法,其特征在于,所述循环神经网络为蓄水池网络;相应的,还包括:确定所述蓄水池网络中的每一节点的更新关联信息;其中,更新关联信息包括本节点状态更新对其他节点状态的影响,以及其他节点状态更新对本节点状态的影响;根据所述更新关联信息更新所述蓄水池网络中的每一所述节点的状...

【专利技术属性】
技术研发人员:吴睿振王凛
申请(专利权)人:苏州浪潮智能科技有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1