脉冲神经网络制造技术

一种用于对输入模式信号进行分类的脉冲神经网络，包括以硬件或硬件和软件的组合实现的多个脉冲神经元，与将该脉冲神经元互连以形成网络的多个突触元件。每个突触元件件适于接收突触输入信号并将权重应用于突触输入信号以生成突触输出信号，该突触元件被配置为调整每个突触元件施加的权重，并且脉冲神经元中的每个适于从突触元件中的一个或多个接收突触输出信号中的一个或多个，并响应于所接收的一个或多个突触输出信号生成时空脉冲序列输出信号。

【技术实现步骤摘要】
【国外来华专利技术】脉冲神经网络
本公开一般涉及组成脉冲神经网络。本公开更具体地但非专门地涉及组成由脉冲神经元构建的模式识别器，以及一种用于使用独特的响应方法以组成方式构建脉冲神经网络的系统和方法。
技术介绍
自动信号识别(ASR)是指通过识别信号的构成特征来识别信号。ASR被用于一系列的应用中，例如在语音/话音识别系统中识别说话人语音和口语、在心电图(ECG)中识别心律失常、在运动控制系统中确定手势的形状，等等。ASR通常通过表征输入信号的短样本中存在的模式来执行，并因此准确的模式识别能力是有效ASR系统的基础。测量一些物理量以导出用于ASR系统的输入信号可能需要融合来自多种类型传感器的数据。例如，使用手持输入装置识别手势可能需要融合来自加速度计的数据以测量运动，以及融合来自陀螺仪的数据以测量取向。组合来自这两个传感器的数据使得能够在三维空间中检测手势。一般来说，数据融合是指整合从不同的并且可能是异质的来源收集的数据，以便降低对来自那些单独来源的数据的解释的不确定性。重要的是，在融合过程期间，不同输入信号中的基本特征在经融合的信号中得到充分表现。模式识别和融合通常使用微处理器和/或数字信号处理器执行，两者都实现了存储程序架构。这种架构对于分析流式数据来说是本质上是低效的。在单个处理器上，模式的提取和识别是顺序进行的。这是因为模式提取和识别是按照通用的简单指令集(例如RISC或CISC指令集)来实现的，从而导致针对信号样本中的每个模式的冗长的执行次序。输入信号中的复杂模式需要使用更复杂的信号处理算法，在需要来自模式识别引擎的实时响应的系统中，这就进一步需要为处理器使用更高的时钟频率。在功率受约束的装置(诸如便携式电子装置、可穿戴装置等)中，这是不可行的。此外，由于顺序的执行范式，微处理器上的模式识别操作的延迟和功率消耗随着模式的复杂性和清单增加而大大增加。输入信号中噪声的存在进一步增加了分析的复杂性，并对性能和效率产生不利影响。数据融合是微处理器的非原生操作。这意味着在输入信号或数据流可被融合之前，其信息内容必须被提取，并且此后与来自其他流的对应内容组合。因此，在微处理器实现方式中，用于融合的每个输入信号/数据源都由独立的模式识别管道单独处理，之后由基于规则的框架来组合不同的模式识别结果。这种方法需要为每个输入信号或数据流多次调用模式识别基础结构，从而导致功率消耗的增加。此外，用于模式识别的负载存储架构微处理器和数字信号处理器(DSP)的局限性意味着，随着模式复杂性增加，识别这些模式的功率和延迟成本也增加。尽管延迟成本可以通过提高时钟频率来缓解，但这是以进一步增加功率消耗为代价实现的。类似地，融合的质量受限于对输入信号进行的处理和ASR的复杂性、被融合的信号数量以及微处理器或DSP的计算能力。处理的顺序性质降低了基于融合的ASR的吞吐量，因此，随着信号中模式的复杂性增加，使用微处理器或DSP可以融合的输入信号的数量减少。人工神经网络已被提议作为微处理器实现方式的替代方案。脉冲神经网络(SNN)是为许多不同应用实现ASR的一种有希望的手段。SNN以一个或多个精确定时的(电压)脉冲的形式，而不是以整数或实值矢量的形式编码信息。用于模式分类的计算在模拟域和时间域中有效执行。出于这个原因，SNN通常在硬件中实现为全定制的混合信号集成电路。这使得它们能够以比它们的人工神经网络对应物低若干个数量级的能耗进行模式分类，此外还具有较小的网络规模。SNN由通过突触互连的脉冲神经元的网络组成，该突触决定了脉冲神经元之间的连接强度。这种强度表示为权重，权重调节突触前神经元的输出对突触后神经元的输入的影响。通常，这些权重是在训练过程中设置的，该训练过程涉及将网络暴露于大量的标记输入数据中，并逐渐调整突触的权重直到实现期望的网络输出。然而，实际上，这些大量的标记数据可能根本不存在。此外，以单一的方式训练大型多层网络是耗时的，因为网络规模导致了复杂的优化问题，由于需要在网络的若干层上反向传播误差，因此该问题的解决方案在计算上是昂贵的。为了确定误差的的目的，脉冲神经网络通常依靠学习规则，该学习规则基于由突触连接的两个神经元的相对激发时间(firingtime)。常见的学习规则被称为脉冲定时依赖可塑性或STDP。尽管这种方法使得能够潜在地在无监督的情况下训练SNN来设置突触的权重，但其本身是不稳定的。这是因为STDP以在单独突触处的权重调整为目标，并且缺乏在网络级平衡突触权重的机制。因此，STDP过程可能是不稳定的，并产生分歧的突触权重配置。尽管可以通过平衡网络中由突触形成的兴奋性和抑制性连接的量值和分布来缓解该问题，但该过程难以实现并需要详尽的搜索以产生稳定、收敛的权重配置。脉冲神经网络也可以用传统的反向传播方法进行训练。然而，由于跨网络不同层的神经元之间的复杂的因果的关系，因此这些技术在应用于深层、多层网络时在计算上是昂贵的。
技术实现思路
为了解决以上讨论的现有技术的缺点，根据本公开的一个方面，提出了一种用于对输入模式信号进行分类的脉冲神经网络，包括以硬件或硬件和软件的组合实现的多个脉冲神经元，与将该脉冲神经元互连以形成网络的多个突触元件。每个突触元件适于接收突触输入信号并将权重应用于突触输入信号以生成突触输出信号，该突触元件被配置为调整每个突触元件施加的权重，并且脉冲神经元中的每个适于从突触元件中的一个或多个接收突触输出信号中的一个或多个，并响应于所接收的一个或多个突触输出信号生成时空脉冲序列输出信号。脉冲神经网络包括第一子网络，该第一子网络包括脉冲神经元的第一子集，其被连接以从突触元件的第一子集接收突触输出信号。第一子网络适于响应于施加到突触元件的第一子集的子网络输入模式信号，从脉冲神经元的第一子集生成子网络输出模式信号，并且通过在所述子网络输入模式信号的训练集上训练所述子网络来配置所述突触元件的第一子集的所述权重，使得子网络输出模式信号对于训练集的每个独特的子网络输入模式信号都是不同的。在一个实施例中，每个不同的子网络输出模式信号之间的距离大于预定的阈值，该距离是通过输出模式度量进行测量的。脉冲神经元和突触元件可以被配置为使得：通过输出模式度量进行测量的在所述子网络的两个输出模式信号之间的相应距离对于所述训练集的所有子网络输入模式信号被最大化，所述子网络的两个输出模式信号响应于两个相应的不同子网络输入模式信号而生成。每个相应距离可以被最大化，直到输出模式信号至少满足区分输入模式信号的特征所需的第一最小灵敏度阈值。特征是输入模式信号的任何特性，该特性使得能够识别该信号和/或该信号内的所关注模式。模式可以由一个或多个特征组成。例如，ECG输入信号中的相关特征可以是表征心跳不同阶段的各种时变振幅，对于音频输入信号，相关特征可以是音频信号被采样的每个离散时间间隔内的信号的频率内容，或者对于图像输入信号，相关特征可以是图像中存在的基本形状和线条。本文中提供了附加示例。在脉冲神经网络中，脉冲神经元中的每个被配置为调整神经元对所接收的一个或多个突触输出信号的响应。脉冲可由脉冲神经元在一个本文档来自技高网...

【技术保护点】
1.一种用于对输入模式信号进行分类的脉冲神经网络，包括以硬件或硬件和软件的组合实现的多个脉冲神经元，与将所述脉冲神经元互连以形成所述网络的多个突触元件，/n其中每个突触元件适于接收突触输入信号并向所述突触输入信号施加权重以生成突触输出信号，所述突触元件被配置为调整每个突触元件施加的所述权重，以及/n其中所述脉冲神经元中的每个适于从所述突触元件中的一个或多个接收所述突触输出信号中的一个或多个，并响应于所接收的一个或多个突触输出信号生成时空脉冲序列输出信号，/n其中所述脉冲神经网络包括第一子网络，所述第一子网络包括所述脉冲神经元的第一子集，所述脉冲神经元的第一子集被连接以从所述突触元件的第一子集接收突触输出信号，/n其中所述第一子网络适于响应于施加到所述突触元件的第一子集的子网络输入模式信号，从所述脉冲神经元的第一子集生成子网络输出模式信号，以及/n其中，通过在所述子网络输入模式信号的训练集上训练所述子网络来配置所述突触元件的第一子集的所述权重，使得所述子网络输出模式信号对于所述训练集的每个独特的子网络输入模式信号都是不同的。/n

【技术特征摘要】
【国外来华专利技术】20181118 US 62/768,9271.一种用于对输入模式信号进行分类的脉冲神经网络，包括以硬件或硬件和软件的组合实现的多个脉冲神经元，与将所述脉冲神经元互连以形成所述网络的多个突触元件，
其中每个突触元件适于接收突触输入信号并向所述突触输入信号施加权重以生成突触输出信号，所述突触元件被配置为调整每个突触元件施加的所述权重，以及
其中所述脉冲神经元中的每个适于从所述突触元件中的一个或多个接收所述突触输出信号中的一个或多个，并响应于所接收的一个或多个突触输出信号生成时空脉冲序列输出信号，
其中所述脉冲神经网络包括第一子网络，所述第一子网络包括所述脉冲神经元的第一子集，所述脉冲神经元的第一子集被连接以从所述突触元件的第一子集接收突触输出信号，
其中所述第一子网络适于响应于施加到所述突触元件的第一子集的子网络输入模式信号，从所述脉冲神经元的第一子集生成子网络输出模式信号，以及
其中，通过在所述子网络输入模式信号的训练集上训练所述子网络来配置所述突触元件的第一子集的所述权重，使得所述子网络输出模式信号对于所述训练集的每个独特的子网络输入模式信号都是不同的。


2.根据权利要求1所述的脉冲神经网络，其中每个不同的子网络输出模式信号之间的距离大于预定阈值，所述距离是通过输出模式度量进行测量的。


3.根据前述权利要求中任一项所述的脉冲神经网络，其中所述脉冲神经元和突触元件被配置为使得：通过输出模式度量进行测量的在所述子网络的两个输出模式信号之间的相应距离对于所述训练集的所有子网络输入模式信号被最大化，所述子网络的两个输出模式信号响应于两个相应的不同子网络输入模式信号而生成。


4.根据权利要求3所述的脉冲神经网络，其中每个相应距离被最大化，直到所述输出模式信号至少满足区分所述输入模式信号的特征所需的第一最小灵敏度阈值。


5.根据前述权利要求中任一项所述的脉冲神经网络，其中所述脉冲神经元中的每个被配置为调整所述神经元对所述所接收的一个或多个突触输出信号的响应。


6.根据前述权利要求中任一项所述的脉冲神经网络，其中脉冲由所述脉冲神经元在一个或多个激发时间生成，并且其中所述突触元件的子集和/或所述神经元的子集被配置为使得：为两个不同的子网络输入模式信号而激发的所述神经元的子集的两组激发时间的并集对于所述训练集的所有子网络输入模式信号被最小化。


7.根据权利要求6所述的脉冲神经网络，其中使每个并集最小化，直到所述输出模式信号至少满足区分所述输入模式信号的特征所需的第二最小灵敏度阈值。


8.根据前述权利要求中任一项所述的脉冲神经网络，其中所述网络包括第二子网络，所述第二子网络包括所述脉冲神经元的第二子集，所述脉冲神经元的第二子集被连接以从所述突触元件的第二子集接收突触输出，
其中所述第二子网络适于接收施加到所述突触元件的第二子集的第二子网络输入模式信号，并从所述神经元的第二子集生成对应的第二子网络输出模式信号，以及
其中调整所述突触元件的第二子集的配置，使得所述第二子网络输出模式信号对于所述第二子网络输入模式信号中的每个独特特征都是不同的，
其中所述网络包括第三子网络，所述第三子网络包括所述脉冲神经元的第三子集，所述脉冲神经元的第三子集连接以从所述突触元件的第三子集接收突触输出，
其中所述第一子网络输出模式信号和所述第二子网络输出模式信号是所述第三子网络的输入模式信号，以及
其中调整所述突触元件的第三子集的配置，使得所述第三子网络输出模式信号对于来自所述第一子网络和所述第二子网络两者的所述输入模式信号中的每个独特特征与它们的独特组合都是不同的，使得来自所述第一子网络和所述第二子网络两者的所述输入模式信号中存在的所述特征由所述第三子网络编码。


9.根据权利要求6所述的脉冲神经网络，其中所述第三子网络的突触元件被配置为使得：根据所述特定输入模式的重要性对来自所述第一子网络和所述第二子网络的所述输入模式信号进行加权。


10.根据前述权利要求中任一项所述的脉冲神经网络，其中所述网络包括突触元件和脉冲神经元的多个子网络，为此，所述子网络输出模式信号对于所述子网络输入模式信号中的每个独特特征都是不同的，
其中所述网络能够被划分为在所述网络中具有特定相继次序的多个层，以及
其中所述...

【专利技术属性】
技术研发人员：S·S·库马尔，A·齐亚约，
申请(专利权)人：因纳特拉纳米系统有限公司，
类型：发明
国别省市：荷兰;NL