具有突触重用的人工智能硬件制造技术

突触重用允许多个人工神经元与对应的多个人工突触和可变增益放大器相关联，从而相比于针对每个输入源具有专用路径的神经元，使用更少的空间和更少的组件来实现以及更少的功率来操作。为了降低信号冲突的可能性，以及允许对输入尖峰的独立控制和解释，路由器被配置成结合增益配置控制器将输入源连接到该多个人工神经元中的每人工神经元，该增益配置控制器被配置成基于时分方案以及在给定时间期间传送尖峰的输入源的标识来设置该多个可变增益放大器中的每可变增益放大器上的增益。益放大器中的每可变增益放大器上的增益。益放大器中的每可变增益放大器上的增益。

【技术实现步骤摘要】
【国外来华专利技术】具有突触重用的人工智能硬件

技术介绍

[0001]人工神经网络(ANN)用于人工智能应用中以使用仿照大脑中的结构建模的硬件和软件来模拟自然大脑的学习和识别能力。在神经网络中，可以通过被称为神经元的一系列连接的单元或节点通过模式识别“教导”各种算法来执行各种任务。这些神经元经由称为突触(synapses)的连接与神经网络中的其他神经元内部地共享输入和输出。当神经网络被训练时，各种神经元被训练成针对在这些突触上从各种其他神经元接收到的不同输入提供不同权重。
[0002]脉冲神经网络(Spiking Neural Network,SNN)是第三代ANN，其通过使用沿着给定突触的信息的定时动作电位(action potential)或“尖峰(spikes)”在两个神经元之间传递信息来对生物神经网络(即，动物的大脑)的行为进行建模。SNN被认为对于建模人工智能是更加生物现实，并且在计算上比ANN的早期代更强大，同时在集成为硬件(诸如超大规模集成(VLSI)电路)时提供噪声鲁棒的、低功率、低电压实现。
[0003]当以硬件对SNN建模时，为了实现SNN与较早世代ANN相比的丰富非线性动态，制造商通常需要使用多得多的晶体管(与S形神经元或基于感知器的ANN相比)，这可导致表达SNN所需的总存储器的增加和此类硬件实现的功率消耗的对应增加。由于突触的数量通常超过SNN中的神经元的数量，因此SNN可能需要大量的硬件组件(例如，晶体管)来实现，并且需要芯片上相应大量的空间来图案化和放置那些硬件组件。除了容纳组件的更大的空间要求之外，随着SNN的复杂性的扩展，额外的组件需要更多的电力来操作；导致庞大的、难以制造的、非常耗电的电路来实现SNN。

技术实现思路

[0004]根据本专利技术的一个实施例，提供一种电路，包括：多个人工神经元；多个人工突触，其中所述多个人工突触中的每个人工突触与所述多个人工神经元中的对应人工神经元相关联；多个可变增益放大器，其中所述多个可变增益放大器中的每一者与所述多个人工神经元中的对应一者相关联；路由器，所述路由器被配置成经由对应的可变增益放大器和对应的人工突触将多个输入源中的至少一者连接到所述多个人工神经元中的每一者；以及增益配置控制器，
[0005]被配置成基于时分方案和在给定时间期间传送尖峰的输入源的标识来设置所述多个可变增益放大器中的每一者上的增益，由此使用更少的空间、更少的组件来实现、以及更少的功率来操作，相比在输入源与其中定义的神经元之间包括多个专用路径的电路。
[0006]在一些方面，结合上述或下文描述的任何电路，连接到该多个人工神经元中的给定人工神经元的输入源的数目是基于时分方案和来自多个输入源的尖峰传输速率，以有利地降低共享传输路径上的信号冲突的可能性。
[0007]在一些方面，结合上述或下文描述的任何电路，所述路由器和所述增益配置控制器允许所述多个人工神经元中的第一人工神经元以第一增益从所述多个输入源中的第一输入源接收第一尖峰，并且允许所述多个人工神经元中的第二人工神经元以第二增益从所
述多个输入源中的所述第一输入源接收所述第一尖峰，其中所述第二增益与所述第一增益独立地设置，以有利地允许不同神经元彼此独立地解释输入源的效果。
[0008]在一些方面，结合上述或下文描述的任何电路，该路由器和增益配置控制器允许该多个人工神经元中的第一人工神经元在第一时间期间从该多个输入源中的第一输入源接收第一尖峰，并且允许该多个人工神经元中的第二人工神经元在该第一时间从该多个输入源中的第二输入源接收第二尖峰，以有利地允许不同神经元从不同信号源进行独立信号接收。
[0009]在一些方面中，结合上文或下文所描述的任何电路，所述多个输入源中的第一输入源以第一发射速率发射尖峰，且所述多个输入源中的第二输入源以不同于所述第一发射速率的第二发射速率发射尖峰，以有利地允许所述电路接受来自独立操作的输入源的输入。
[0010]在一些方面，结合上述或以下描述的任何电路，该路由器包括寄存器，该寄存器被配置成用于接收并存储来自该多个输入源的输入尖峰并且基于该时分方案来从该寄存器重传输入尖峰，以有利地降低共享传输路径上的信号冲突的可能性。
[0011]在一些方面中，结合上文或下文所描述的任何电路，经由共享时钟信号来控制路由器和增益配置控制器，以有利地对准路由器和增益配置控制器的操作。
[0012]在一些方面，结合上述或下述的任何电路，多个可变增益放大器中的每一个相对于对应的人工神经元被定位在对应的一个人工突触的上游，以有利地控制突触如何基于从中接收输入的源来解释输入。
[0013]在一些方面，结合上述或下文描述的任何电路，所述多个人工神经元、所述多个人工突触、所述多个可变增益放大器、所述路由器、以及所述增益配置控制器被定义在单个集成电路上，以有利地减少信号延迟，并充分利用所述电路所提供的空间使用的减少。
[0014]根据本专利技术的一个实施例，提供了一种方法，包括：训练脉冲神经网络(SNN)中的神经元；基于所述训练分配用于到所述神经元的输入源的时分方案；基于所述训练分配所述时分方案中用于所述神经元的增益；从所述输入源接收输入；基于所分配的增益和给定输入源设置给定神经元的给定增益，其中从所述给定输入源接收给定输入；以及根据所述增益将所述给定输入传送给所述给定神经元，由此操作包括神经元的电路，所述神经元使用共享传输路径来用于一个或多个输入源，其使用更少空间、更少组件来实现、以及更少功率来操作，相比对于其中定义的神经元包括若干到输入源的专用路径的电路。
[0015]在一些方面，结合上述或下文描述的任何方法，设置给定增益进一步包括：基于从其接收给定输入的给定输入源的标识来设置给定增益，以有利地允许神经元在使用共享传输路径时基于所述训练来向信号施加不同的权重。
[0016]在一些方面，结合上述或下文描述的任何方法，神经元中的第一神经元以第一增益从输入源中的第一输入源接收第一输入，并且神经元中的第二神经元以不同于第一增益的第二增益来接收第一输入，以有利地允许不同神经元彼此独立地解释输入源的效果。
[0017]在一些方面，结合上述或下文描述的任何方法，神经元中的第一神经元在第一时间从输入源中的第一输入源接收第一输入，并且神经元中的第二神经元在第一时间从输入源中的第二输入源接收第二输入，以有利地允许不同神经元从不同信号源进行独立信号接收。
[0018]在一些方面，结合以上或以下描述的任何方法，该方法进一步包括：将所接收的输入存储在寄存器中直到该时分方案中的对应时间，以有利地将基于时间的复用模式用于该共享传输路径。
[0019]在一些方面，结合上述或下文描述的任何方法，设置给定增益进一步包括：基于与从其接收到给定输入的给定输入源相关联的对应时间来设置给定增益，以有利地将基于时间的复用模式用于共享传输路径。
[0020]在一些方面，结合上述或以下描述的任何方法，该方法还包括：响应于从输入源中的一个输入源接收到两个输入尖峰，丢弃来自该一个输入源的两个输入尖峰中的本文档来自技高网...

【技术保护点】

【技术特征摘要】
【国外来华专利技术】1.一种电路，包括：多个人工神经元；多个人工突触，其中所述多个人工突触中的每一者与所述多个人工神经元中的对应的一者相关联；多个可变增益放大器，其中所述多个可变增益放大器中的每一者与所述多个人工神经元中的对应一者相关联；路由器，配置成经由相应的可变增益放大器和相应的人工突触将多个输入源中的至少一个输入源连接到所述多个人工神经元中的每一个人工神经元；以及增益配置控制器，被配置成基于时分方案和在给定时间期间传送尖峰的输入源的标识来设置所述多个可变增益放大器中的每一者上的增益。2.根据权利要求1所述的电路，其中，连接至所述多个人工神经元中的给定人工神经元的输入源的数量基于所述时分方案和来自所述多个输入源的尖峰传输速率。3.如权利要求1所述的电路，其中，所述路由器和所述增益配置控制器允许所述多个人工神经元中的第一人工神经元以第一增益从所述多个输入源中的第一输入源接收第一尖峰，并且允许所述多个人工神经元中的第二人工神经元以第二增益从所述多个输入源中的所述第一输入源接收所述第一尖峰，其中所述第二增益与所述第一增益独立地设置。4.如权利要求1所述的电路，其中，所述路由器和所述增益配置控制器允许所述多个人工神经元中的第一人工神经元在第一时间期间从所述多个输入源中的第一输入源接收第一尖峰，并且允许所述多个人工神经元中的第二人工神经元在所述第一时间从所述多个输入源中的第二输入源接收第二尖峰。5.根据权利要求1所述的电路，其中，所述多个输入源中的第一输入源以第一传输速率传输尖峰，并且所述多个输入源中的第二输入源以不同于所述第一传输速率的第二传输速率传输尖峰。6.如权利要求1所述的电路，其中，所述路由器包括寄存器，所述寄存器被配置用于接收并存储来自所述多个输入源的输入尖峰，并且基于所述时分方案从所述寄存器重传所述输入尖峰。7.根据权利要求1所述的电路，其中，经由共享时钟信号控制所述路由器和所述增益配置控制器。8.根据权利要求1所述的电路，其中，所述多个可变增益放大器中的每一个相对于对应的人工神经元被定位在对应的一个人工突触的上游。9.根据权利要求1所述的电路，其中，所述多个人工神经元、所述多个人工突触、所述多个可变增益放大器、所述路由器和所述增益配置控制器被限定在单个集成电路上。10.一种方法，包括：训练脉冲神经网络(SNN)中的神经元；基于所述训练为...

【专利技术属性】
技术研发人员：S，
申请(专利权)人：国际商业机器公司，
类型：发明
国别省市：