构造和操作人工循环神经网络制造技术

用于构造和操作循环人工神经网络的方法、系统和装置——包括编码在计算机存储介质上的计算机程序。在一方面，一种用于构造模仿目标大脑组织的人工循环神经网络的节点的方法。所述方法包括：设置所述人工循环神经网络中的节点的总数目；设置所述人工循环神经网络中的所述节点的种类和子种类的数目；设置每个种类和子种类中的节点的结构属性，其中当所述节点组合输入时，所述结构属性将计算的时间和空间整合确定为时间的函数；设置每个种类和子种类中的节点的功能属性，其中所述功能属性将激活、整合和响应函数确定为时间的函数；设置每个种类和子种类的节点中的节点的数目；设置每个种类和子种类的节点中的每个节点的结构多样性水平以及每个种类和子种类的节点中的每个节点的功能多样性水平；设置每个节点的定向；以及设置所述人工循环神经网络中的每个节点的空间布置，其中所述空间布置确定在所述人工循环神经网络中哪些节点处于通信中。工循环神经网络中哪些节点处于通信中。工循环神经网络中哪些节点处于通信中。

【技术实现步骤摘要】
【国外来华专利技术】构造和操作人工循环神经网络
[0001]优先权要求
[0002]本申请要求享有2019年12月11日提交的第62/946,733号美国专利申请的优先权，该美国专利申请的全部内容通过引用并入本文。


[0003]本说明书涉及用于构造和操作充当“神经突触计算机(neurosynaptic computer)”的循环人工神经网络的方法和过程。神经突触计算机基于模仿大脑中的计算的计算范例。神经突触计算机可以使用符号计算机语言，该符号计算机语言将信息处理为由一组层级决策组成的认知算法。神经突触计算机可以接受广泛的数据类型的输入、将该数据转换为二进制代码以用于输入、将该二进制代码编码为感觉代码(sensory code)、通过使用大脑处理单元模拟对该感觉输入的响应来处理该感觉代码、对在神经代码中做出的决策进行编码、以及对该神经代码进行解码以生成目标输出。描述了一个用于计算的范例以及适配(adapt)此新的范例以用于循环人工神经网络的构造和操作的方法和过程。计算范例基于神经代码——一种符号计算机语言。该神经代码对由大脑处理单元做出的一组决策进行编码，并且可以被用来表示认知算法的结果。神经突触计算机可以以在常规数字计算机上运行的软件来实施，并且可以以在神经形态计算架构上运行的硬件来实施。神经突触计算机可以被用于计算、存储和通信，并且适用于开发广泛的科学、工程和商业应用。

技术实现思路

[0004]本说明书描述了与构造和操作循环人工神经网络相关的技术。
[0005]一般而言，在本说明书中所描述的主题的一个创新方面可以被体现在读取包括多个节点和边缘的人工循环神经网络的输出的方法，所述边缘连接所述节点，所述方法包括：识别一个或多个相对复杂的根拓扑元素(rot topological element)，每个所述相对复杂的根拓扑元素包括所述人工循环神经网络中的所述节点和边缘的一个子集；识别多个相对较简单的拓扑元素，每个所述相对较简单的拓扑元素包括所述人工循环神经网络中的所述节点和边缘的一个子集，其中识别的相对较简单的拓扑元素与所述相对复杂的根拓扑元素中的至少一个处于层级关系(hierarchical relationship)；生成数字的集合，其中所述数字中的每个表示所述相对复杂的根拓扑元素和所述相对较简单的拓扑元素中的一个相应的拓扑元素在一个窗(window)期间是否是有效的(active，活动的)；以及输出所述数字的集合。
[0006]这种以及其他一般方法和系统可以包括以下特征中的一个或多个。识别所述相对复杂的根拓扑元素可以包括：当所述循环神经网络在对输入作出响应时，确定所述相对复杂的根拓扑元素是有效的。识别与所述相对复杂的根拓扑元素处于层级关系的所述相对较简单的拓扑元素可以包括：将输入数据集输入到所述循环神经网络中；以及确定所述相对较简单的拓扑元素的活动或不活动与所述相对复杂的根拓扑元素的活动相关。所述方法还可以包括定义用于确定一个拓扑元素是否是有效的标准。用于确定所述拓扑元素是否是有
效的标准可以基于包括在所述拓扑元素中的节点或边缘的活动。所述方法还可以包括定义用于确定所述人工循环神经网络中的边缘是否是有效的标准。识别与所述相对复杂的根拓扑元素处于层级关系的所述相对较简单的拓扑元素可以包括：将所述相对复杂的根拓扑元素分解为拓扑元素的集合。识别与所述相对复杂的根拓扑元素处于层级关系的所述相对较简单的拓扑元素可以包括：形成所述相对复杂的根拓扑元素被分解成的拓扑元素的列表；将所述列表从所述拓扑元素中的最复杂的拓扑元素到所述拓扑元素中的最不复杂的拓扑元素排序(sort)；以及从所述拓扑元素中的最复杂的拓扑元素开始，基于关于所述相对复杂的根拓扑元素的信息内容，从所述列表中选择用于在所述数字的集合中表示的所述相对较简单的拓扑元素。
[0007]从所述列表中选择用于在所述数字的集合中表示的所述拓扑元素中的更复杂的拓扑元素可以包括：确定从所述列表中选择的所述相对较简单的拓扑元素是否足以确定所述相对复杂的根拓扑元素；以及响应于确定从所述列表中选择的所述相对较简单的拓扑元素足以确定所述相对复杂的根拓扑元素，不从所述列表中选择另外的相对较简单的拓扑元素。
[0008]一般而言，在本说明书中所描述的主题的另一个创新方面可以被体现在读取包括多个节点和边缘的人工循环神经网络的输出的方法，所述边缘形成所述节点之间的连接。所述方法可以包括：定义待要从所述人工循环神经网络读取的计算结果。定义所述计算结果可以包括：定义用于确定所述人工循环神经网络中的所述边缘是否是有效的标准，以及定义多个拓扑元素，每个所述拓扑元素包括所述人工循环神经网络中的所述边缘的一个真子集，以及定义用于确定所定义的拓扑元素中的每个是否是有效的标准。用于确定所定义的拓扑元素中的每个是否是有效的所述标准基于包括在所定义的拓扑元素中的相应的拓扑元素中的边缘的活动。一个有效的拓扑元素指示已完成一个对应的计算结果。
[0009]这种以及其他一般方法和系统可以包括以下特征中的一个或多个。所述方法还可以包括：从所述人工循环神经网络读取完成的计算结果。
[0010]所述方法还可以包括：从所述人工循环神经网络读取未完成的计算结果。读取一个未完成的计算结果可以包括读取包括在所述拓扑元素中的一个对应的拓扑元素中的所述边缘的活动，其中所述边缘的所述活动不满足用于确定所述拓扑元素中的所述对应的拓扑元素是有效的标准。所述方法还可以包括：估计一个计算结果的完成百分比，其中估计所述完成百分比包括确定包括在所述拓扑元素中的一个对应的拓扑元素中的所述边缘的有效分数。用于确定所述人工循环神经网络中的所述边缘是否是有效的所述标准包括：对于一个给定的边缘要求：由连接到该边缘的一个节点生成的一个尖峰；所述尖峰由所述边缘传输到一个接收节点；以及所述接收节点生成对传输的尖峰的响应。
[0011]用于确定所述人工循环神经网络中的所述边缘是否是有效的所述标准包括一个时间窗，在所述时间窗中将生成和传输所述尖峰并且所述接收节点将生成所述响应。用于确定所述人工循环神经网络中的所述边缘是否是有效的所述标准包括一个时间窗，在所述时间窗中，两个节点通过边缘尖峰连接，而不管所述两个节点中哪个首先出现尖峰。用于确定所述人工循环神经网络中的所述边缘是否是有效的不同标准可以被应用于所述边缘中的不同的边缘。定义待要从所述人工循环神经网络读取的计算结果还可以包括构造所述人工循环神经网络的功能图表，包括：定义时间箱(time bin)的集合；创建所述人工循环神经
网络的多个功能图表，其中每个功能图表仅包括在所述时间箱中的一个相应的时间箱内有效的节点；以及基于所述人工循环神经网络的所述功能图表中的所述边缘中的有效边缘来定义所述多个拓扑元素。
[0012]该还可以包括：将在所述功能图表中的第一功能图表中定义的第一拓扑元素与在所述功能图表中的第二功能图表中定义的第二拓扑元素组合。所述功能图表中的所述第一功能图表和所述第二功能图表可以包括在所述时间箱中的不同时间箱内有效的节点。所述方法还可以包括：在所述计算结果中包括一个或本文档来自技高网...

【技术保护点】

【技术特征摘要】
【国外来华专利技术】1.一种用于构造模仿目标大脑组织的人工循环神经网络的节点的方法，所述方法包括：设置所述人工循环神经网络中的节点的总数目；设置所述人工循环神经网络中的所述节点的种类和子种类的数目；设置每个种类和子种类中的节点的结构属性，其中当所述节点组合输入时，所述结构属性将计算的时间和空间整合确定为时间的函数；设置每个种类和子种类中的节点的功能属性，其中所述功能属性将激活、整合和响应函数确定为时间的函数；设置每个种类和子种类的节点中的节点的数目；设置每个种类和子种类的节点中的每个节点的结构多样性水平以及每个种类和子种类的节点中的每个节点的功能多样性水平；设置每个节点的定向；以及设置所述人工循环神经网络中的每个节点的空间布置，其中所述空间布置确定在所述人工循环神经网络中哪些节点处于通信中。2.根据权利要求1所述的方法，其中所述人工循环神经网络中的节点的总数目模仿所述目标大脑组织的一个同等大小的部分的神经元的总数目。3.根据权利要求1至2中任一项所述的方法，其中节点的所述结构属性包括所述节点的分支形态和在所述节点内信号的振幅和形状，其中信号的所述振幅和形状是根据接收突触在所述分支形态上的位置设置的。4.根据权利要求1至3中任一项所述的方法，其中节点的所述功能属性包括所述节点的阈下和阈上尖峰行为。5.根据权利要求1至4中任一项所述的方法，其中所述人工循环神经网络中的所述节点的种类和子种类的数目模仿所述目标...

【专利技术属性】
技术研发人员：H，
申请(专利权)人：英艾特股份公司，
类型：发明
国别省市：