神经网络中突触活性的自调节阈值制造技术

提供了神经网络中的突触活性的自调节阈值。在各个实施例中，对于人工神经网络内的多个神经元中的每一个，确定与经由具有非零突触权重的突触而连接至神经元的活跃输入相对应的重叠值。确定多个神经元中其重叠超过神经网络的激活阈值的那些神经元的计数。将该计数与预定神经元活性目标进行比较。调节神经网络的激活阈值以达到预定神经元活性目标。

Self-regulation threshold of synaptic activity in neural networks

【技术实现步骤摘要】
【国外来华专利技术】神经网络中突触活性的自调节阈值本专利技术是在国防高级研究项目机构(DARPA)授予的合同编号N66001-15-C-4034下由政府支持完成的。政府对本专利技术具有一定权利。
技术介绍
本公开的实施例涉及人工神经网络，并且更具体地，涉及神经网络中的神经元活性的自调节阈值。
技术实现思路
根据本公开的实施例，提供了用于对神经网络进行自调节的方法和计算机程序产品。在各个实施例中，对于人工神经网络内的多个神经元中的每一个，确定与经由具有非零突触权重的突触而连接至神经元的活跃输入相对应的重叠值。确定多个神经元中其重叠超过所述神经网络的激活阈值的那些神经元的计数。将该计数与预定神经元活性目标进行比较。调节神经网络的激活阈值以达到预定神经元活性目标。附图说明现在将参考附图仅通过示例的方式描述本公开的实施例，在附图中：图1示出了根据本公开的实施例的示例性突触阵列。图2示出了根据本公开的实施例的动态调节突触活性阈值的方法。图3是根据本公开的实施例的阈值操作的示意图。图4示出了根据本公开的实施例的对神经网络进本文档来自技高网...

【技术保护点】
1.一种方法，包括：/n针对人工神经网络内的多个神经元中的每一个神经元，确定与经由具有非零突触权重的突触而连接至所述神经元的活跃输入相对应的重叠值；/n确定所述多个神经元中其重叠超过所述神经网络的激活阈值的那些神经元的计数；/n将所述计数与预定神经元活性目标进行比较；以及/n调节所述神经网络的所述激活阈值以达到所述预定神经元活性目标。/n

【技术特征摘要】
【国外来华专利技术】20170824 US 15/685,1521.一种方法，包括：
针对人工神经网络内的多个神经元中的每一个神经元，确定与经由具有非零突触权重的突触而连接至所述神经元的活跃输入相对应的重叠值；
确定所述多个神经元中其重叠超过所述神经网络的激活阈值的那些神经元的计数；
将所述计数与预定神经元活性目标进行比较；以及
调节所述神经网络的所述激活阈值以达到所述预定神经元活性目标。


2.根据权利要求1所述的方法，其中调节所述阈值包括：
当所述计数小于所述预定神经元活性目标时，递减所述阈值。


3.根据权利要求1所述的方法，其中所述阈值是预定的。


4.根据权利要求1所述的方法，其中确定所述重叠值包括将突触权重应用于所述输入。


5.根据权利要求4所述的方法，其中，所述将所述突触权重应用于所述输入包括所述突触权重与所述输入的相乘及其结果的求和。


6.根据权利要求4所述的方法，其中所述突触权重是二进制的。


7.根据权利要求1所述的方法，其中，所述多个神经元中的每一个神经元在所述人工神经网络的一个层内。


8.根据权利要求1所述的方法，其中，所述多个神经元中的每一个神经元在所述人工神经网络的一个空间区域内。


9.根据权利要求1所述的方法，其中，所述神经网络包括层级时间记忆。


10.根据权利要求1所述的方法，其中所述预定神经元活性目标对应于所述多个神经元的约10％或更少。


11.根据权利要求1所述的方法，其中所述活跃输入对应于稀疏分布式表示。


12.一种系统，包括：
计算节点，包括计算机可读存储介质，所述计算机可读存储介质具有实现的程序指令，所述程序指令能够由所述计算节点的处理器执行以使所述处理器执行包括以下步骤的方法：
针对人工神经网络内的多个神经元中的每一个神经元，确定与经由具有非零突触权重的突触而连接至所述神经元的活跃输入相对应的重叠值；
确定所述多个神经元中其重叠超过所述神经网络的激活阈值的那些神经元的计数；
将所述计数与预定神经元活性目标进行比较；
调节所述神经网络的所述激活阈值以达到所述预定神经元活性目标。


13.一种用于对神经网络进行自调节的计算机程序产品，所述计算机程序产品包括具有实现的程序指令的计算机可读存储介质，所述程序指令能够由处理器执行以使所述处理器执行包括以下步骤的方法：
针对人工神经网络内的多个神经元中的每一个神经元，确定与经由具有非零突触权重的突触而连接至所述神经元的活跃输入之和相...

【专利技术属性】
技术研发人员：JC斯科特，AS奥兹坎，
申请(专利权)人：国际商业机器公司，
类型：发明
国别省市：美国;US