当前位置: 首页 > 专利查询>清华大学专利>正文

输入权重拓展的神经元信息处理方法和系统技术方案

技术编号:15618531 阅读:39 留言:0更新日期:2017-06-14 04:01
本发明专利技术涉及一种输入权重拓展的神经元信息处理方法和系统,所述方法包括:将预设数量的连续的神经元确定为协同组,将最后一个神经元确定为有效神经元,将剩余神经元确定为协同神经元;所述协同组中的第一个协同神经元,根据接收的前端神经元信息,获取第一个协同神经元的横向累加中间信息;所述协同组中后续的各协同神经元,依次获取所述各协同神经元的横向累加中间信息,并将最后一个协同神经元的横向累加中间信息确定为横向累加信息;所述有效神经元根据接收的前端神经元信息、读取的所述有效神经元的当前神经元信息和所述横向累加信息,获取协同输出信息并输出所述协同输出信息。本发明专利技术拓展了输入权重类型,提高了神经网络的信息处理能力。

【技术实现步骤摘要】
输入权重拓展的神经元信息处理方法和系统
本专利技术涉及人工神经网络
,特别是涉及输入权重拓展的神经元信息处理方法和系统。
技术介绍
如今的人工神经网络研究绝大多数仍是在冯·诺依曼计算机软件并搭配高性能GPGPU(GeneralPurposeGraphicProcessingUnits通用图形处理单元)平台中实现的,整个过程的硬件开销、能耗和信息处理速度都不容乐观。为此,近几年神经形态计算领域迅猛发展,即采用硬件电路直接构建神经网络从而模拟大脑的功能,试图实现大规模并行、低能耗、可支撑复杂模式学习的计算平台。然而,传统的神经形态系统中,单个神经元权重存储器的物理空间的数量有限,在单个神经元的输入信号的数量大于所述物理空间的数量时,导致有的输入信号对应的权重信息只能利用现有的权重,对于某些对于参数较为敏感的神经网络来说,极大的影响了神经元的应用性能。
技术实现思路
本专利技术的实施例提供一种输入权重拓展的神经元信息处理方法和系统,可以扩展神经元的应用性能。所述方法包括:将预设数量的连续的神经元确定为协同组,将所述协同组中最后一个神经元确定为有效神经元,将所述协同组中除所述有效神经元外的神经元确定为协同神经元;所述协同组中的第一个协同神经元,根据接收的前端神经元信息,获取第一个协同神经元的横向累加中间信息;所述协同组中后续的各协同神经元,依次根据接收的前端神经元信息,和前端协同神经元的横向累加中间信息,获取所述各协同神经元的横向累加中间信息,并将所述协同组中最后一个协同神经元的横向累加中间信息确定为横向累加信息;所述有效神经元根据接收的前端神经元信息、读取的所述有效神经元的当前神经元信息和所述横向累加信息,获取协同输出信息;所述有效神经元输出所述协同输出信息。在其中一个实施例中,所述将所述协同组中最后一个神经元确定为有效神经元,将所述协同组中除所述有效神经元外的神经元确定为协同神经元,包括:设置所述协同组内神经元的发放使能标识,所述发放使能标识包括允许发放数据或不允许发放数据,将所述有效神经元的发放使能标识设置为允许发放数据,并将所有所述协同神经元的发放使能标识设置为不允许发放数据。在其中一个实施例中,所述前端神经元信息包括:前端神经元输出信息、前端神经元与当前神经元的连接权重索引;所述协同组中的第一个协同神经元,根据接收的前端神经元信息,获取第一个协同神经元的横向累加中间信息,包括:协同组中的第一个协同神经元,根据所述前端神经元与当前神经元的连接权重索引,读取前端神经元与当前神经元的连接权重;根据所述前端神经元与当前神经元的连接权重、所述前端神经元信息,获取第一个协同神经元的横向累加中间信息;所述协同组中后续的各协同神经元,依次根据接收的前端神经元信息,和前端协同神经元的横向累加中间信息,获取所述各协同神经元的横向累加中间信息,包括:所述协同组中的后续协同神经元,依次根据所述前端神经元与当前神经元的连接权重索引,读取前端神经元与当前神经元的连接权重;根据所述前端神经元与当前神经元的连接权重、所述前端神经元信息,和前端协同神经元的横向累加中间信息,获取所述各协同神经元的横向累加中间信息。在其中一个实施例中,所述将预设数量的连续的神经元确定为协同组,将所述协同组中最后一个神经元确定为有效神经元,将所述协同组中除所述有效神经元外的神经元确定为协同神经元,包括:将预设数量的连续的人工神经元确定为人工协同组,将所述人工协同组中最后一个人工神经元确定为人工有效神经元,将所述人工协同组中除所述人工有效神经元外的人工神经元确定为人工协同神经元;或将预设数量的连续的脉冲神经元确定为脉冲协同组,将所述脉冲协同组中最后一个脉冲神经元确定为脉冲有效神经元,将所述脉冲协同组中除所述脉冲有效神经元外的脉冲神经元确定为脉冲协同神经元。在其中一个实施例中,当所述协同组为脉冲协同组时,所述当前神经元信息包括历史膜电位信息;在所述有效神经元输出所述协同输出信息的步骤之后,所述方法还包括:更新所述脉冲有效神经元的所述历史膜电位信息。在其中一个实施例中,通过将预设数量的连续的神经元确定为协同组,只将所述协同组中的最后一个神经元的信息进行输出,剩余神经元只将信息进行累加后迭加至后端的神经元,将协同组内的所有神经元等效于一个有效的节点,多个输入对应一个有效输出,可以充分利用所述多个输入的权重信息,打破了现有的神经元输入权重类型有限的缺点,提高了神经网络的信息处理能力。在其中一个实施例中,通过设置发放使能标识,将神经元设置为允许发放数据或不允许发放数据,将预设数量的连续的神经元组成一个协同组,可根据需求灵活的组成协同组。在其中一个实施例中,通过接收的前端神经元信息中的前端神经元与当前神经元的连接权重索引,读取前端神经元与当前神经元的连接权重后,用于计算横向累加中间信息,将一个协同组中的各协同神经元的权重信息进行了充分利用,并在有效神经元输出的协同输出信息中,将各协同神经元的权重信息进行了体现,相当于将有效神经元的权重信息进行了扩展,从而提高了神经网络的信息处理能力。在其中一个实施例中,将预设数量的连续的人工神经元确定为人工协同组,或将预设数量的连续的脉冲神经元确定为脉冲协同组,在人工神经网络或脉冲神经网络中,都可以确定协同组,进行单个神经元输入权重的扩展,提高人工神经网络或脉冲神经网络的信息处理能力。在其中一个实施例中,在脉冲协同组中,脉冲有效神经元输出协同输出信息后,将所述脉冲有效神经元的历史膜电位信息进行更新,以便整个协同组完成后续的信息处理,而脉冲协同神经元不更新历史膜电位信息,在后续的信息处理中,完成权重拓展的功能,通过脉冲协同组,提高整个脉冲神经网络的信息处理能力。本专利技术还提供一种输入权重拓展的神经元信息处理系统,包括:协同组确定模块,用于将预设数量的连续的神经元确定为协同组,将所述协同组中最后一个神经元确定为有效神经元,将所述协同组中除所述有效神经元外的神经元确定为协同神经元;横向累加信息获取模块,用于所述协同组中后续的各协同神经元,依次根据接收的前端神经元信息,和前端协同神经元的横向累加中间信息,获取所述各协同神经元的横向累加中间信息,并将所述协同组中最后一个协同神经元的横向累加中间信息确定为横向累加信息;协同输出信息获取模块,用于所述有效神经元根据接收的前端神经元信息、读取的所述有效神经元的当前神经元信息和所述横向累加信息,获取协同输出信息;协同输出信息输出模块,用于所述有效神经元输出所述协同输出信息。在其中一个实施例中,所述协同组确定模块,用于设置所述协同组内神经元的发放使能标识,所述发放使能标识包括允许发放数据或不允许发放数据,将所述有效神经元的发放使能标识设置为允许发放数据,并将所有所述协同神经元的发放使能标识设置为不允许发放数据。在其中一个实施例中,所述前端神经元信息包括:前端神经元输出信息、前端神经元与当前神经元的连接权重索引;所述横向累加信息获取模块,用于协同组中的第一个协同神经元,根据所述前端神经元与当前神经元的连接权重索引,读取前端神经元与当前神经元的连接权重;根据所述前端神经元与当前神经元的连接权重、所述前端神经元信息,获取第一个协同神经元的横向累加中间信息;所述协同组中的后续协同神经元,依次根据所述前端神经本文档来自技高网...
输入权重拓展的神经元信息处理方法和系统

【技术保护点】
一种输入权重拓展的神经元信息处理方法,其特征在于,所述方法包括:将预设数量的连续的神经元确定为协同组,将所述协同组中最后一个神经元确定为有效神经元,将所述协同组中除所述有效神经元外的神经元确定为协同神经元;所述协同组中的第一个协同神经元,根据接收的前端神经元信息,获取第一个协同神经元的横向累加中间信息;所述协同组中后续的各协同神经元,依次根据接收的前端神经元信息,和前端协同神经元的横向累加中间信息,获取所述各协同神经元的横向累加中间信息,并将所述协同组中最后一个协同神经元的横向累加中间信息确定为横向累加信息;所述有效神经元根据接收的前端神经元信息、读取的所述有效神经元的当前神经元信息和所述横向累加信息,获取协同输出信息;所述有效神经元输出所述协同输出信息。

【技术特征摘要】
1.一种输入权重拓展的神经元信息处理方法,其特征在于,所述方法包括:将预设数量的连续的神经元确定为协同组,将所述协同组中最后一个神经元确定为有效神经元,将所述协同组中除所述有效神经元外的神经元确定为协同神经元;所述协同组中的第一个协同神经元,根据接收的前端神经元信息,获取第一个协同神经元的横向累加中间信息;所述协同组中后续的各协同神经元,依次根据接收的前端神经元信息,和前端协同神经元的横向累加中间信息,获取所述各协同神经元的横向累加中间信息,并将所述协同组中最后一个协同神经元的横向累加中间信息确定为横向累加信息;所述有效神经元根据接收的前端神经元信息、读取的所述有效神经元的当前神经元信息和所述横向累加信息,获取协同输出信息;所述有效神经元输出所述协同输出信息。2.根据权利要求1所述的输入权重拓展的神经元信息处理方法,其特征在于,所述将所述协同组中最后一个神经元确定为有效神经元,将所述协同组中除所述有效神经元外的神经元确定为协同神经元,包括:设置所述协同组内神经元的发放使能标识,所述发放使能标识包括允许发放数据或不允许发放数据,将所述有效神经元的发放使能标识设置为允许发放数据,并将所有所述协同神经元的发放使能标识设置为不允许发放数据。3.根据权利要求1所述的输入权重拓展的神经元信息处理方法,其特征在于:所述前端神经元信息包括:前端神经元输出信息、前端神经元与当前神经元的连接权重索引;所述协同组中的第一个协同神经元,根据接收的前端神经元信息,获取第一个协同神经元的横向累加中间信息,包括:协同组中的第一个协同神经元,根据所述前端神经元与当前神经元的连接权重索引,读取前端神经元与当前神经元的连接权重;根据所述前端神经元与当前神经元的连接权重、所述前端神经元信息,获取第一个协同神经元的横向累加中间信息;所述协同组中后续的各协同神经元,依次根据接收的前端神经元信息,和前端协同神经元的横向累加中间信息,获取所述各协同神经元的横向累加中间信息,包括:所述协同组中的后续协同神经元,依次根据所述前端神经元与当前神经元的连接权重索引,读取前端神经元与当前神经元的连接权重;根据所述前端神经元与当前神经元的连接权重、所述前端神经元信息,和前端协同神经元的横向累加中间信息,获取所述各协同神经元的横向累加中间信息。4.根据权利要求1所述的输入权重拓展的神经元信息处理方法,其特征在于,所述将预设数量的连续的神经元确定为协同组,将所述协同组中最后一个神经元确定为有效神经元,将所述协同组中除所述有效神经元外的神经元确定为协同神经元,包括:将预设数量的连续的人工神经元确定为人工协同组,将所述人工协同组中最后一个人工神经元确定为人工有效神经元,将所述人工协同组中除所述人工有效神经元外的人工神经元确定为人工协同神经元;或将预设数量的连续的脉冲神经元确定为脉冲协同组,将所述脉冲协同组中最后一个脉冲神经元确定为脉冲有效神经元,将所述脉冲协同组中除所述脉冲有效神经元外的脉冲神经元确定为脉冲协同神经元。5.根据权利要求4所述的输入权重拓展的神经元信息处理方法,其特征在于:当所述协同组为...

【专利技术属性】
技术研发人员:裴京邓磊施路平吴臻志李国齐
申请(专利权)人:清华大学
类型:发明
国别省市:北京,11

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1