用于光学神经网络的设备和方法技术

本发明专利技术提供了一种光学神经网络，所述光学神经网络基于光子集成电路构造以执行神经形态计算。在光学神经网络中，使用一个或多个光学干涉单元实现矩阵乘法，光学干涉单元可以将任意加权矩阵乘法施加到输入光学信号的阵列。通过光学非线性单元实现非线性激励，光学非线性单元可以基于非线性光学效应，例如可饱和吸收。这些计算是用光学方式实现的，从而在光学神经网络中产生高计算速度，低功耗。

Equipment and Method for Optical Neural Networks

The present invention provides an optical neural network, which is constructed based on photonic integrated circuits to perform neuromorphological calculations. In optical neural networks, matrix multiplication is realized by using one or more optical interference units, which can apply arbitrary weighted matrix multiplication to the array of input optical signals. Nonlinear excitation can be realized by optical non-linear elements, which can be based on non-linear optical effects, such as saturable absorption. These calculations are carried out in an optical way, resulting in high computation speed and low power consumption in optical neural networks.

【技术实现步骤摘要】
【国外来华专利技术】用于光学神经网络的设备和方法相关申请交叉引用本申请要求2016年6月2日提交的、名称为“METHODSANDDESIGNOFOPTICALNEURALNETWORK(光学神经网络的方法和设计)”的美国申请号62,344,621的优先权，该申请通过引用被全文并入本文中。政府支持本专利技术根据由陆军研究办公室授权的合同号W911NF-13-D-0001在政府支持下完成。政府对本专利技术拥有某些权利。
技术介绍
对于大范围的任务，例如感知、通信、学习和决策制定，基于冯·诺依曼架构的现有计算机相比其生物对等物-中心神经系统通常更耗电且不太有效。随着与大数据处理关联的数据量的不断增大，开发能够快速和高效地学习、组合并分析大量信息的计算机是有益的。例如，语音识别软件(例如苹果公司的Siri)通常是在云端执行的，原因是所涉及的运算对于移动电话中的硬件通常太有挑战。解决冯·诺依曼计算架构的缺点的一种方法是开发人工神经网络(ANNW)。ANNW通常模拟大脑中的信号处理架构，近来已经受到广泛关注。ANNW能够大大地改善语音识别、可视对象识别、对象探测和许多其它领域，例如药物发现和基因组学。传统的人工神经网络通常使用电子架构，例如专用集成电路(ASIC)和现场可编程门阵列(FPGA)。然而，用这些硬件架构实现的运算速度和电源效率仍受电子时钟速率和欧姆损耗的限制。
技术实现思路
本技术的实施例大体上涉及人工神经网络。在一个示例中，用于实现人工神经网络的设备包括输入波导阵列，所述输入波导阵列接收第一阵列的光学信号。光学干涉单元与所述输入波导阵列光学通信，以执行所述第一阵列的光学信号到第二阵列的光学信号的线性变换。所述设备还包括光学非线性单元，所述光学非线性单元与所述光学干涉单元光学通信，以对所述第二阵列的光学信号执行非线性变换，以便生成第三阵列的光学信号。探测器阵列与所述光学非线性单元光学通信以探测所述第三阵列的光学信号。在另一示例中，用于人工神经网络计算的方法包括用输入波导阵列接收第一阵列的光学信号。所述方法还包括使用与所述输入波导阵列光学通信的光学干涉单元干涉所述第一阵列的光学信号，以将所述第一阵列的光学信号线性地变换成第二阵列的光学信号。所述方法还包括使用与所述光学干涉单元光学通信的光学非线性单元非线性地变换所述第二阵列的光学信号，以便生成第三阵列的光学信号。所述方法还包括探测所述第三阵列的光学信号。在又一示例中，光学神经网络包括输入波导阵列，所述输入波导阵列接收第一阵列的光学信号。所述网络还包括多个互连马赫-曾德干涉仪(MZI)，所述多个互连马赫-曾德干涉仪与所述输入波导阵列光学通信，以通过在所述第一阵列的光学信号中的干涉将所述第一阵列的光学信号线性地变换成第二阵列的光学信号。所述多个MZI中的每个MZI包括第一移相器，所述第一移相器被配置成改变所述MZI的分光比；以及第二移相器，所述第二移相器被配置成移动所述MZI的一个输出的相位。所述网络还包括可饱和吸收体阵列，所述可饱和吸收体阵列与所述多个互连MZI光学通信，以将所述第二阵列的光学信号非线性地变换成第三阵列的光学信号。所述可饱和吸收体阵列中的每个可饱和吸收体接收所述第二阵列的光学信号中的对应的光学信号。所述网络还包括探测器阵列，所述探测器阵列与所述光学非线性单元光学通信，以探测所述第三阵列的光学信号。应当认识到前述构思和在下面详细讨论的附加构思(如果这些构思并非相互不一致)的全部组合被认为是本文中公开的本专利技术主题的一部分。具体而言，出现在本公开结尾处的所声称的主题的所有组合被认为是本文中公开的本专利技术主题的一部分。还应当认识到在本文中明确使用的也可能出现在通过引用并入的任何公开中的术语应当被给予与本文中公开的具体构思最一致的含义。附图说明本领域技术人员将理解附图主要出于示意目的，不旨在限制本文中描述的本专利技术主题的范围。附图不一定是按比例绘制的；在一些情况下，本文中公开的本专利技术主题的各个方面可以被夸大地显示或者在附图中被放大，以促进对不同特征的理解。在附图中，相同的附图标记大体上指相同的特征(例如功能上相似和/或结构上相似的元件)。图1示出基于光子集成电路的光学神经网络的示意图。图2A和图2B示出可以用在光学神经网络中的光学干涉单元200的示意图，所述光学神经网络基本上类似于图1中示出的光学神经网络。图3示出可以用在光学神经网络中的控制电路的示意图，所述光学神经网络基本上类似于图1中示出的光学神经网络。图4A示出包括一个输入层、多个隐藏层和输出层的光学神经网络的示意图。图4B示出在图4A中示出的光学神经网络中的实施SVD分解的隐藏层的示意图。图4C示出在图4A中示出的光学神经网络中的使用马赫-曾德干涉仪(MZI)用于光学线性变换的隐藏层的示意图。图4D示出使用互连MZI并实施元音识别的光学神经网络的示意图。图5示出基于可饱和吸收的非线性单元的光学响应。图6A和图6B图示可以用于光学神经网络中的光学非线性单元的光学双稳态，所述光学神经网络基本上类似于图1中示出的光学神经网络。图7示出包括可调谐环形谐振器的光学非线性单元的示意图。图8示出包括马赫-曾德干涉仪的光学非线性单元的示意图。图9A-9D图示使用包括环形谐振器的光学非线性单元的光学神经网络。图10示出递归光学神经网络的示意图。图11A示出包括多列互连MZI的光学神经网络的示意图。图11B是用实验制造的5×5单元片上光学干涉单元的显微镜图像。图12示出在图11A和图11B中示出的神经网络上训练的简单的2维3类分类问题的决策边界。图13A示出用实验制造的22模片上光学干涉单元的光学显微照片。图13B是图13A中示出的光学神经网络的示意图示。图13C是在图13A中示出的光学神经网络中的MZI中使用的单个移相器的示意图示。图14A示出对于具有各个相位编码误差(σF)和光探测误差(σD)的元音识别问题的校正率。图14B-14E示出对于没有误差的训练矩阵的仿真和实验元音识别结果。具体实施方式综述光学神经网络(ONNW)提供了在微电子和混合光-电子实施方案中克服运算效率和功耗的局限性的有希望的方式。ONNW(一般称为人工神经网络)通常包括输入层、至少一个隐藏层和输出层。在每一层中，通过线性组合(例如矩阵乘法)、随后对线性组合的结果应用非线性激励函数来使得信息传播经过神经网络。在训练人工神经网络模型时，数据可以被供给到输入层中，通过前向传播步骤计算输出。然后，参数可以通过后向传播过程被优化。每个突触的加权参数(即矩阵的元)通过后向传播过程被优化。在ONNW中，线性变换(和某些非线性变换)可以以光速被执行，并且在光子网络中以超过100GHz的速率被探测，并且在一些情况下，具有最小的功耗。例如，普通透镜可以执行傅立叶变换，而没有任何功耗，某些矩阵运算也可以用光学方法执行，而不消耗功率。然而，由于缺少相位稳定性以及在网络中集成大量神经元(例如百万个神经元的数量级)的难度，用笨重的光学部件(例如光纤和透镜)实施这些变换可能是有挑战的。集成光子可以通过为大型、相位稳定的光学变换提供可扩展架构解决此问题。本文中描述的设备和方法使用基于光子集成电路的片上、相干光学神经形态计算技术。通常，神经形态计算技术中的运算可以被分解成一系列对输入光学信号的线性本文档来自技高网...

【技术保护点】
1.一种用于实施人工神经网络的设备，所述设备包括：输入波导阵列，所述输入波导阵列接收第一阵列的光学信号；光学干涉单元，所述光学干涉单元与所述输入波导阵列光学通信，以执行所述第一阵列的光学信号到第二阵列的光学信号的线性变换；以及输出波导阵列，所述输出波导阵列与所述光学干涉单元光学通信，以引导所述第二阵列的光学信号，其中，所述输入波导阵列中的至少一个输入波导与所述输出波导阵列中的每个输出波导通过所述光学干涉单元光学通信。

【技术特征摘要】
【国外来华专利技术】2016.06.02 US 62/344,6211.一种用于实施人工神经网络的设备，所述设备包括：输入波导阵列，所述输入波导阵列接收第一阵列的光学信号；光学干涉单元，所述光学干涉单元与所述输入波导阵列光学通信，以执行所述第一阵列的光学信号到第二阵列的光学信号的线性变换；以及输出波导阵列，所述输出波导阵列与所述光学干涉单元光学通信，以引导所述第二阵列的光学信号，其中，所述输入波导阵列中的至少一个输入波导与所述输出波导阵列中的每个输出波导通过所述光学干涉单元光学通信。2.根据权利要求1所述的设备，其中，所述光学干涉单元包括：多个互连马赫-曾德干涉仪(MZI)，所述多个互连MZI中的每个MZI包括：第一移相器，所述第一移相器被配置成改变所述MZI的分光比；以及第二移相器，所述第二移相器被配置成移动所述MZI的一个输出的相位。3.根据权利要求2所述的设备，其中，所述多个互连MZI被配置成通过奇异值分解(SVD)执行所述第一阵列的光学信号的线性变换。4.根据权利要求2的设备，其中，所述多个互连MZI包括：第一组MZI，所述第一组MZI执行所述第一阵列的光学信号的酉变换以生成第一阵列的变换后的光学信号；以及第二组MZI，所述第二组MZI与所述第一组MZI光学通信，所述第二阵列MZI中的每个MZI从所述第一阵列的变换后的光学信号接收相应的变换后的光学信号，并将第一输出传输到非线性单元，其中，所述第二阵列的MZI中的每个MZI的第二输出被光学阻挡，以便改变所述第一阵列的变换后的光学信号的总强度，并执行所述第一阵列的变换后的光学信号的非酉对角矩阵乘法。5.根据权利要求1所述的设备，其中，所述光学干涉单元包括：多个互连MZI，所述多个互连MZI执行所述第一阵列的光学信号的酉变换；以及光学衰减器或放大器的阵列，所述光学衰减器或放大器的阵列与所述多个MZI光学通信，以改变所述多个MZI之后所述第一阵列的光学信号的强度。6.根据权利要求1所述的设备，其中，所述光学干涉单元包括光子晶体网。7.根据权利要求6所述的设备，还包括涂布在所述光子晶体网中的至少一个光子晶体上的相变材料。8.根据权利要求1所述的设备，其中，所述光学干涉单元包括二维(2D)阵列的环形谐振器。9.根据权利要求1所述的设备，其中，所述第一阵列的光学信号包括第一数目的光学信号，所述第二阵列的光学信号包括第二数目的光学信号，并且所述第一数目与所述第二数目不同。10.根据权利要求1所述的设备，还包括：光学非线性单元，所述光学非线性单元与所述光学干涉单元光学通信，以对所述第二阵列的光学信号执行非线性变换，以便生成第三阵列的光学信号。11.根据权利要求10所述的设备，其中，所述光学非线性单元包括可饱和吸收体阵列，所述可饱和吸收体阵列中的每个可饱和吸收体被配置成吸收所述第二阵列的光学信号中的对应光学信号。12.根据权利要求10所述的设备，其中，所述光学非线性单元包括双稳态光学开关阵列，所述双稳态光学开关阵列中的每个双稳态光学开关接收所述第二阵列的光学信号中的对应光学信号。13.根据权利要求10所述的设备，其中，所述光学非线性单元包括环形谐振器阵列，所述环形谐振器阵列中的每个环形谐振器从所述干涉单元接收对应的第二光学信号。14.根据权利要求10所述的设备，还包括：探测器阵列，所述探测器阵列与所述光学非线性单元光学通信，以探测所述第三阵列的光学信号。15.根据权利要求14所述的设备，还包括：控制电路，所述控制电路操作地耦合到所述光学干涉单元、所述光学非线性单元和所述探测器阵列，以至少部分地基于由所述探测器阵列探测的所述第三阵列的光学信号，调节所述光学干涉单元或所述光学非线性单元中的至少一个的设置。16.根据权利要求14所述的设备，还包括：至少一个光学通道，所述至少一个光学通道与所述光学非线性单元光学通信，以将所述第三阵列的光学信号中的至少一部分引导回所述输入波导阵列。17.根据权利要求14所述的设备，其中，所述探测器阵列响应于探测到所述第三阵列的光学信号生成电信号阵列，所述设备还包括：光源，所述光源与所述输入波导阵列光学通信；以及反馈电路，所述反馈电路将电信号阵列传输到所述光源，所述光源基于所述电信号阵列...

【专利技术属性】
技术研发人员：N·C·哈里斯，J·J·卡罗兰，M·普拉布胡，D·R·英格朗德，S·斯基尔洛，沈怡晨，M·索贾西克，
申请(专利权)人：麻省理工学院，
类型：发明
国别省市：美国,US