当前位置: 首页 > 专利查询>清华大学专利>正文

神经网络及其信息处理方法、信息处理系统技术方案

技术编号:18427044 阅读:12 留言:0更新日期:2018-07-12 02:10
一种神经网络及其信息处理方法、信息处理系统。该神经网络包括逐一连接的N层神经元层,除第一层神经元层外,其余各层神经元层的各个神经元包括m个树突单元和一个海马单元;其中,所述树突单元包括阻值渐变器件,所述海马单元包括阻值突变器件,且所述m个树突单元可分别设置有不同的阈值电压或电流;以及第n层神经元层的神经元分别与第n+1层神经元层的神经元的所述m个树突单元相连接;其中,N为大于等于3的整数,m为大于1的整数,n为大于等于1且小于N的整数。该神经网络可以通过树突单元过滤掉大部分非关键信息,从而减少了神经网络的信息处理量,降低了神经网络运算的功耗,提高了神经网络对关键信息的处理效率。

【技术实现步骤摘要】
神经网络及其信息处理方法、信息处理系统
本公开实施例涉及一种神经网络及其信息处理方法、信息处理系统。
技术介绍
随着信息技术的高速发展,神经网络在语音和图像识别等很多领域都取得了令人瞩目的成果。但是,随着神经网络能力的不断加强,对计算资源的需求也越来越高,而数据处理单元和数据存储单元分离的冯诺依曼架构对信息的处理能力已经远远落后于信息涌现的速度,从而成为了制约其发展的瓶颈。因此,在生物神经网络的启发下,数据处理单元和数据存储单元融合在一起的分布式信息处理系统(即人工神经网络)成为了解决冯诺依曼架构的数据处理瓶颈的最有效的途径之一。
技术实现思路
本公开至少一实施例提供一种神经网络,包括逐一连接的N层神经元层,除第一层神经元层外,其余各层神经元层的各个神经元包括m个树突单元和一个海马单元。所述树突单元包括阻值渐变器件,所述海马单元包括阻值突变器件,且所述m个树突单元可以分别设置有不同的阈值电压或电流;以及第n层神经元层的神经元分别与第n+1层神经元层的神经元的所述m个树突单元相连接;其中,N为大于等于3的整数,m为大于1的整数,n为大于等于1且小于N的整数。例如,在本公开一实施例提供的神经网络中,所述m个树突单元可进行不同的串并联组合连接且与所述海马单元串联连接。例如,在本公开一实施例提供的神经网络中,所述m个树突单元的输出符合如下表达式:其中,a表示非线性系数,即所述树突单元的阈值电压或电流。例如,在本公开一实施例提供的神经网络中,所述海马单元的输出振荡频率符合如下表达式:其中,c表示所述海马单元的阈值电压或电流,sigmoid函数表示为:其中,z=x-c。例如,在本公开一实施例提供的神经网络中,所述第n层神经元层和所述第n+1层神经元层之间通过突触单元连接。例如,在本公开一实施例提供的神经网络中,所述突触单元包括忆阻器阵列。本公开至少一实施例还提供一种信息处理系统,包括本公开任一实施提供的神经网络以及输入单元、输出单元、反向传播单元和驱动器。所述输入单元配置为将数据信号处理为所述神经网络所需的输入信号;所述输出单元配置为对所述神经网络输出的输出结果进行处理并发送至所述反向传播单元;所述反向传播单元配置为对所述神经网络的突触单元的参数进行优化;所述驱动器配置为通过信号线向所述神经网络施加电压信号。本公开至少一实施例还提供一种本公开任一实施提供的神经网络的信息处理方法,包括:将第n+1层神经元层的各个神经元的输入信号分为m组,并分别发送至所述各个神经元的m个树突单元;通过所述m个树突单元分别对所述m组输入信号进行非线性过滤操作;将经过所述非线性过滤操作后的输入信号进行数据处理后发送至所述海马单元进行进一步的数据处理。例如,在本公开一实施例提供的信息处理方法中,所述非线性过滤操作包括:对所述m个树突单元分别设置阈值电压或电流;当所述输入信号大于所述阈值电压或电流时,对所述输入信号进行运算;当所述输入信号小于所述阈值电压或电流时,不对所述输入信号进行运算。例如,本公开一实施例提供的信息处理方法还包括:当所述海马单元对所述树突单元的输出进行数据处理后,通过轴突单元向第n+2层神经元层传输信号。例如,本公开一实施例提供的信息处理方法还包括:当所述树突单元进行数据处理后,关闭所述输入信号,使所述树突单元和海马单元恢复初始状态。例如,本公开一实施例提供的信息处理方法还包括:通过所述突触单元计算出所述第n+1层神经元层的各个神经元的输入信号。附图说明为了更清楚地说明本公开实施例的技术方案,下面将对实施例的附图作简单地介绍,显而易见地,下面描述中的附图仅仅涉及本公开的一些实施例,而非对本公开的限制。图1A为一种生物神经元单元的示意图;图1B为一个神经元的信息处理模型的示意图;图1C为一种树突结构的示意图;图2A为本公开一实施例提供的一种神经网络10的示意图;图2B为图2A所示的神经网络10的树突单元对数据进行分级处理的示意图;图3为图2A中所示的神经元的电路结构图;图4为本公开一实施例提供的一种阻值渐变器件的电学特性曲线图;图5为本公开一实施例提供的一种阻值突变器件的电学特性曲线图;图6为图2A中所示的神经网络10的一种忆阻器阵列的示意图;图7A为图2A中所示的神经网络10的另一种忆阻器阵列的示意图;图7B为图7A中所示的忆阻器阵列的一个忆阻器单元的连接关系图;图8A为图2A中所示的神经网络10的电路结构图;图8B为图8A中所示的电路结构的工作时序图;图9为本公开另一实施例提供的一种信息处理系统的示意框图;图10为图2A中所示的神经网络10的信息处理方法的流程图;图11为图10中所示的信息处理方法中的非线性过滤操作的流程图。具体实施方式为使本公开实施例的目的、技术方案和优点更加清楚,下面将结合本公开实施例的附图,对本公开实施例的技术方案进行清楚、完整地描述。显然,所描述的实施例是本公开的一部分实施例,而不是全部的实施例。基于所描述的本公开的实施例,本领域普通技术人员在无需创造性劳动的前提下所获得的所有其他实施例,都属于本公开保护的范围。除非另外定义,本公开使用的技术术语或者科学术语应当为本公开所属领域内具有一般技能的人士所理解的通常意义。本公开中使用的“第一”、“第二”以及类似的词语并不表示任何顺序、数量或者重要性,而只是用来区分不同的组成部分。同样,“一个”、“一”或者“该”等类似词语也不表示数量限制,而是表示存在至少一个。“包括”或者“包含”等类似的词语意指出现该词前面的元件或者物件涵盖出现在该词后面列举的元件或者物件及其等同,而不排除其他元件或者物件。“连接”或者“相连”等类似的词语并非限定于物理的或者机械的连接,而是可以包括电性的连接,不管是直接的还是间接的。“上”、“下”、“左”、“右”等仅用于表示相对位置关系,当被描述对象的绝对位置改变后,则该相对位置关系也可能相应地改变。下面,将参照附图详细描述根据本公开的各个实施例。需要注意的是,在附图中,将相同的附图标记赋予基本上具有相同或类似结构和功能的组成部分,并且将省略关于它们的重复描述。例如人的大脑主要依靠神经元和在神经元之间进行信息传递的突触来实现信息的传递和处理。神经元是大脑神经系统处理信息的基本单元,其可以用于接收、整合、过滤、存储和传递信息等,从而使人的各种机能活动有规律的进行,以适应内、外环境的变化。图1A示出了一种生物神经元单元,图1B示出了一个神经元的信息处理模型,图1C示出了一种树突结构。神经元是神经网络的基本组成单元,其可以对信息进行传递、过滤和整合等。如图1A所示,在神经元内,由一个神经元传出的信号通过轴突,首先到达轴突末梢,使轴突末梢中的囊泡产生变化从而释放神经递质,该神经递质通过突触的间隙进入到另一个神经元的树突中,树突上的受体能够接受神经递质从而改变细胞体的膜向离子的通透性,使细胞膜内外离子的浓度产生变化,进而使细胞体内外的电位产生变化。由此,信息就由一个神经元传输到另一个神经元中。在信息传递过程中,一些轴突在轴突末梢可以形成多个分支,来自轴突主支上的电位动作可以在各个分支上同时继续传递,最终到达不同的目标神经元,从而轴突可以实现多个神经元之间的通信。另一方面,在神经网络结构上,不同神经元的轴突末梢的分支可以到达同一个神经元本文档来自技高网...

【技术保护点】
1.一种神经网络,包括逐一连接的N层神经元层,除第一层神经元层外,其余各层神经元层的各个神经元包括m个树突单元和一个海马单元;其中,所述树突单元包括阻值渐变器件,所述海马单元包括阻值突变器件,且所述m个树突单元可分别设置有不同的阈值电压或电流;以及第n层神经元层的神经元分别与第n+1层神经元层的神经元的所述m个树突单元相连接;其中,N为大于等于3的整数,m为大于1的整数,n为大于等于1且小于N的整数。

【技术特征摘要】
1.一种神经网络,包括逐一连接的N层神经元层,除第一层神经元层外,其余各层神经元层的各个神经元包括m个树突单元和一个海马单元;其中,所述树突单元包括阻值渐变器件,所述海马单元包括阻值突变器件,且所述m个树突单元可分别设置有不同的阈值电压或电流;以及第n层神经元层的神经元分别与第n+1层神经元层的神经元的所述m个树突单元相连接;其中,N为大于等于3的整数,m为大于1的整数,n为大于等于1且小于N的整数。2.根据权利要求1所述的神经网络,其中,所述m个树突单元可进行不同的串并联组合连接且与所述海马单元串联连接。3.根据权利要求1或2任一所述的神经网络,其中,所述m个树突单元的输出符合如下表达式:其中,a表示非线性系数,即所述树突单元的阈值电压或电流。4.根据权利要求1或2任一所述的神经网络,其中,所述海马单元的输出振荡频率符合如下表达式:其中,c表示所述海马单元的阈值电压或电流,sigmoid函数表示为:其中,z=x-c。5.根据权利要求1所述的神经网络,其中,所述第n层神经元层和所述第n+1层神经元层之间通过突触单元连接。6.根据权利要求5所述的神经网络,其中,所述突触单元包括忆阻器阵列。7.一种信息处理系统,包括权利要求1-6任一所述的神经网络以及输入单元、输出单元、反向传播单元和驱动器;其中,所述输入单元配置为将数据信号处理为所述神经...

【专利技术属性】
技术研发人员:李辛毅吴华强钱鹤高滨宋森张清天
申请(专利权)人:清华大学
类型:发明
国别省市:北京,11

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1