本发明专利技术涉及神经元计算领域，尤其涉及一种神经形态计算装置。所述装置包括神经元状态存储器、神经元互连存储器、控制器、物理神经元、外部神经元激励输入单元和外部神经元激活输出单元，通过神经元状态存储器保存神经网络系统中所有神经元的生物状态，通过神经元互连存储器保存神经网络系统中所有神经元的互连状态；所述装置以Δt时间间隔周期性工作，在Δt时间内，完成神经元状态存储器中所有神经元状态的更新：控制器读取神经元互连状态，依次配置物理神经元为对应虚拟神经元，物理神经元根据配置信息主动从状态存储器中获取数据，完成相应计算，并最终更新相应神经元的状态。本装置可以实现灵活、通用和任意规模神经网络的计算。算。算。
【技术实现步骤摘要】
一种神经形态计算装置
[0001]本专利技术涉及神经元计算领域，尤其涉及一种神经形态计算装置(或称为神经元计算机)。
技术介绍
[0002]1936年，英国数学家艾伦
·
图灵提出一种抽象的计算模型来代替人类进行数学运算，该计算模型被称为图灵机(Turing Machine)。图灵机非常简单，由三部分组成：(1)无限长的纸带用于保存数据内容、(2)读写头用于读取纸带内容并更新纸带内容、(3)控制器按照特定程序规则决定读写头的具体操作方式。
[0003]经过近100年的发展，如今，图灵机已成为大多数现代计算机系统的基础计算模型，从微型嵌入式计算机到大型超级计算机，所有现代计算机系统都属于图灵机。图灵机计算模型的核心功能是实现数学运算，数学运算的规则以程序的形式存储，因此，图灵机是一种“按照程序规则更新数据”的计算系统。
[0004]神经网络是一种模拟人类大脑神经系统的数学抽象模型，可以通过把神经网络数学模型分解成图灵机可运行程序的方式，在图灵计算机中实现神经网络模型的运算。然而，图灵计算机“按照程序规则更新数据”的计算方式会引入大量程序控制等额外操作，计算效率低下。
[0005]除了传统图灵计算机方案，近年来也出现一些神经形态专用计算方案，例如IBM TrueNorth、Intel Loihi以及清华Tianjic等。
[0006]现有神经形态计算方案，在物理上构建了一个由神经元及其互连组成的计算系统，例如，IBM TrueNorth是由1百万个神经元相互连接而成的神经形态计算系统；清华大学Tianjic是由4万个神经元相互连接而成的神经形态计算系统。
[0007]现有计算方案的一大缺陷是拥有有限的神经元规模，大于物理神经元规模的神经网络无法在该神经形态计算系统中运行，只能通过扩展的方式来运行(例如合并多个计算系统来实现更大规模的计算)。
[0008]由于人脑神经系统的规模十分庞大，人类大脑约由1000亿个神经元组成，每个神经元包含1000～10000个突触。如果按照现有技术方案实现人脑规模神经形态计算系统，相关系统将变得十分庞大而几乎不可能实现。
技术实现思路
[0009]为了解决上述问题，本专利技术提出一种神经形态计算装置来实现规模不受限的神经网络计算。
[0010]为实现上述目的，本专利技术提供了一种神经形态计算装置，包括神经元状态存储器、神经元互连存储器、控制器、物理神经元、外部神经元激励输入单元和外部神经元激活输出单元，
[0011]所述神经元状态存储器和所述神经元互连存储器共同实现神经网络的数据化存
储，神经网络中的每个神经元对应一个虚拟神经元，其中，所述神经元状态存储器用于保存每个虚拟神经元的神经元状态信息，所述神经元互连存储器用于保存每个虚拟神经元的神经元互连信息；
[0012]所述物理神经元用于实现多种神经元模型的计算；
[0013]所述控制器用于：周期性地从神经元互连存储器读取虚拟神经元的神经元互连信息，根据虚拟神经元的先后顺序，依次配置物理神经元内的神经元模型为对应虚拟神经元，启动物理神经元计算直到所有虚拟神经元遍历完成；
[0014]所述外部神经元激励输入单元用于连接外部神经网络系统，接收并存储来自外部神经元的激励信息，并最终被物理神经元所使用；
[0015]所述外部神经元激活输出单元用于连接外部神经网络系统，接收并存储来自内部神经元的激活信息，并最终被外部神经网络系统所使用。
[0016]进一步的，所述物理神经元包括虚拟神经元状态缓存模块、虚拟神经元状态读写模块、虚拟神经元控制模块、突触计算模块、树突计算模块以及胞体计算模块；其中，所述虚拟神经元控制模块用于接收来自所述控制器的配置信息，并根据配置信息配置所述虚拟神经元状态读写模块为相应的互连模式，配置突触计算模块、树突计算模块以及胞体计算模块为相应的功能模式；
[0017]在配置完成后，所述虚拟神经元状态读写模块、所述虚拟神经元状态缓存模块、所述突触计算模块、所述树突计算模块和所述胞体计算模块组成数据计算通路，所述虚拟神经元状态读写模块从所述神经元状态存储器读取输入神经元状态信息，从所述外部神经元激励输入单元读取激励输入，并把输入神经元状态和激励输入存储在所述虚拟神经元状态缓存中；
[0018]所述突触计算模块从所述虚拟神经元状态缓存中获取计算所需数据，按照功能模式完成突触计算，并把计算结果传递给所述树突计算模块；所述树突计算模块获得数据后，按照功能模式完成树突计算，并把计算结果传递给所述胞体计算模块；所述胞体计算模块获得数据后，按照功能模式完成胞体计算，并把计算结果传递给所述虚拟神经元状态读写模块；最后，所述虚拟神经元状态读写模块获得来自胞体计算的计算结果，并把该计算结果更新到所述神经元状态存储器或所述外部神经元激活输出单元。
[0019]进一步的，神经元的状态指神经元模型的生物状态，包含如下信息：(1)轴突脉冲信息，代表某个时刻神经元是否被激活输出0、1或－1的脉冲；(2)膜电位，代表某个时刻神经元的膜电位；(3)突触权重，代表神经元间互连的权重。
[0020]进一步的，所述虚拟神经元的先后顺序以输入神经元是否完成更新为标准，也即所有输入神经元都完成更新的神经元先进行计算。
[0021]进一步的，所述神经形态计算装置动态更新神经网络中所有神经元的状态数据，其实现方法为：在正常工作状态下，神经网络中所有神经元的状态数据以Δt时间间隔周期性更新：外部输入神经元以Δt时间间隔发送激励信息；在Δt时间间隔内，神经网络所有神经元的状态完成更新；最终，以Δt时间间隔输出激活信息给外部输出神经元。
[0022]进一步的，所述激励信息包括轴突脉冲信息和膜电位信息；所述激活信息包括轴突脉冲信息和膜电位信息。
[0023]进一步的，所述神经元状态存储器和所述神经元互连存储器为同一存储器的两个
功能区块，或为两个独立的存储器。
[0024]进一步的，所述神经元状态存储器、神经元互连存储器、控制器、外部神经元激励输入单元和外部神经元激活输出单元和所述物理神经元通过系统总线连接。
[0025]进一步的，所述神经形态计算装置包括一个或多个物理神经元。
[0026]进一步的，所述神经形态计算装置包括一个或多个控制器，或一个多核控制器。
[0027]本专利技术实现了如下技术效果：
[0028]本专利技术的神经形态计算装置(简称神经元计算机)是一种基于神经网络数据化存储，以Δt时间间隔为周期，完成外部神经元激励输入、神经元状态更新以及外部神经元激活输出的计算系统，具备神经元存储与神经元计算所分离、神经元状态与神经元互连所分离以及物理神经元自主运算等特点，可以实现灵活、通用和任意规模神经网络的计算。
附图说明
[0029]图1是现有技术的神经网络模型；
[0030]图2是本专利技术的神经网络的数据化存储示意图；
[0031]图3是本专利技术的神经网络数据的动本文档来自技高网...
【技术保护点】
【技术特征摘要】
1.一种神经形态计算装置，其特征在于，包括神经元状态存储器、神经元互连存储器、控制器、物理神经元、外部神经元激励输入单元和外部神经元激活输出单元，所述神经元状态存储器和所述神经元互连存储器共同实现神经网络的数据化存储，神经网络中的每个神经元对应一个虚拟神经元，其中，所述神经元状态存储器用于保存每个虚拟神经元的神经元状态信息，所述神经元互连存储器用于保存每个虚拟神经元的神经元互连信息；所述物理神经元用于实现多种神经元模型的计算；所述控制器用于：周期性地从神经元互连存储器读取虚拟神经元的神经元互连信息，根据虚拟神经元的先后顺序，依次配置物理神经元内的神经元模型为对应虚拟神经元，启动物理神经元计算直到所有虚拟神经元遍历完成；所述外部神经元激励输入单元用于连接外部神经网络系统，接收并存储来自外部神经元的激励信息，并最终被物理神经元所使用；所述外部神经元激活输出单元用于连接外部神经网络系统，接收并存储来自内部神经元的激活信息，并最终被外部神经网络系统所使用。2.如权利要求1所述的神经形态计算装置，其特征在于，所述物理神经元包括虚拟神经元状态缓存模块、虚拟神经元状态读写模块、虚拟神经元控制模块、突触计算模块、树突计算模块以及胞体计算模块；其中，所述虚拟神经元控制模块用于接收来自所述控制器的配置信息，并根据配置信息配置所述虚拟神经元状态读写模块为相应的互连模式，配置突触计算模块、树突计算模块以及胞体计算模块为相应的功能模式；在配置完成后，所述虚拟神经元状态读写模块、所述虚拟神经元状态缓存模块、所述突触计算模块、所述树突计算模块和所述胞体计算模块组成数据计算通路，所述虚拟神经元状态读写模块从所述神经元状态存储器读取输入神经元状态信息，从所述外部神经元激励输入单元读取激励输入，并把输入神经元状态和激励输入存储在所述虚拟神经元状态缓存中；所述突触计算模块从所述虚拟神经元状态缓存中获取计算所需数据，按照功能模式完成突触计算，并把计算结果传递给所述树突计算模块；所述树突计算模块获得数据后，按照功能模式完成树突计算，并把计算结果传递给...
【专利技术属性】
技术研发人员：罗闳訚，何日辉，周志新，汤梦饶，
申请(专利权)人：厦门壹普智慧科技有限公司，
类型：发明
国别省市：
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。