当前位置: 首页 > 专利查询>清华大学专利>正文

神经元权重信息处理方法和系统技术方案

技术编号:15691603 阅读:98 留言:0更新日期:2017-06-24 04:56
本发明专利技术涉及一种神经元权重信息处理方法和系统,所述方法包括:接收前端神经元的神经元输出信息,以及与所述神经元输出信息对应的权重索引;根据所述权重索引,读取权重索引信息对应关系,获取权重信息,所述权重索引信息对应关系为权重索引和权重信息之间的对应关系;根据所述权重信息和所述神经元输出信息,获取所述前端神经元的输入信息。神经元之间不再将权重信息直接传递,而是将权重信息的索引进行传递,不但节省了网络之间的传递信息量,并且可以更加灵活的改变权重信息的设置。提高了神经元网络的信息处理能力。

Neuron weight information processing method and system

The invention relates to a neuron weight information processing method and system, the method comprises: receiving front-end neuron output information of neurons, and the corresponding neuron output information index; according to the weight index, weight index information read relationship to obtain the weight information, the corresponding index information for the relationship between weight index and weight information; according to the weight information and the outputs of information, input information obtained by the front-end neurons. No longer will the weight of information between neurons directly, but the weight of the index of information transfer, not only saves the amount of information transmission network, and can change the weight information of more flexible settings. It improves the information processing ability of the neural network.

【技术实现步骤摘要】
神经元权重信息处理方法和系统
本专利技术涉及人工神经网络
,特别是涉及神经元权重信息处理方法和系统。
技术介绍
如今的人工神经网络研究绝大多数仍是在冯·诺依曼计算机软件并搭配高性能GPGPU(GeneralPurposeGraphicProcessingUnits通用图形处理单元)平台中实现的,整个过程的硬件开销、能耗和信息处理速度都不容乐观。为此,近几年神经形态计算领域迅猛发展,即采用硬件电路直接构建神经网络从而模拟大脑的功能,试图实现大规模并行、低能耗、可支撑复杂模式学习的计算平台。然而,传统的神经形态系统中,将神经网络中各神经元之间的连接和权重信息进行绑定时,每一个神经元之间的连接都需要传递相应的权重信息,占据了较多的硬件处理资源,硬件对于网络性能的约束很大,并且权重信息降低了神经元的处理能力,限制了神经元的灵活性,不适合通用的神经网络的硬件框架。
技术实现思路
基于此,有必要针对神经元与权重信息一一对应配置并传递,降低了神经元信息处理能力的问题,提供一种神经元权重信息处理方法和系统,所述方法包括:接收前端神经元的神经元输出信息,以及与所述神经元输出信息对应的权重索引;根据所述权重索引,读取权重索引信息对应关系,获取权重信息,所述权重索引信息对应关系为权重索引和权重信息之间的对应关系;根据所述权重信息和所述神经元输出信息,获取所述前端神经元的输入信息。在其中一个实施例中,所述前端神经元,包括人工神经元或脉冲神经元。在其中一个实施例中,所述权重索引,包括与所述权重索引对应的权重信息的存储地址。在其中一个实施例中,所述接收前端神经元的神经元输出信息,以及与所述神经元输出信息对应的权重索引,包括:接收前端神经元输出的路由信息,所述路由信息包括前端神经元输出的神经元输出信息,以及与所述神经元输出信息对应的权重索引;解析所述路由信息,获取所述神经元输出信息和所述权重索引。在其中一个实施例中,所述权重信息,包括:根据预设的权重取值范围和初始权重信息,利用权重约化算法计算出的所述权重信息。在其中一个实施例中,在根据所述权重信息和所述神经元输出信息,获取所述前端神经元的输入信息的步骤之后,所述方法还包括:根据所述前端神经元的输入信息和读取的当前神经元信息,根据神经元输出算法,计算当前神经元输出信息;确定所述当前神经元输出信息的目的信息,并根据所述目的信息查找目的索引对应关系,获取所述目的信息的权重索引,所述目的索引对应关系包括目的信息和权重索引之间的对应关系;输出所述当前神经元输出信息和所述权重索引。在其中一个实施例中,当前神经元接收的前端神经元的输出信息中,携带前端神经元与当前神经元之间的权重信息的权重索引,当前神经元根据接收到的权重索引信息读取权重信息后,根据不同的神经元模型进行相应的运算处理,获取前端神经元的输入信息。神经元之间不再将权重信息直接传递,而是将权重信息的索引进行传递,不但节省了网络之间的传递信息量,并且可以更加灵活的改变各个神经元的权重信息的设置,提高了神经元网络的信息处理能力。在其中一个实施例中,权重索引的使用,不但适用于人工神经网络,也适用于脉冲神经网络,提高了人工神经网络和脉冲神经网络的信息处理能力。在其中一个实施例中,采用权重信息的存储地址作为其索引信息,可以使接收到索引信息的神经元直接利用存储地址信息查询到权重信息,提高权重信息的提取效率,进而提高整个神经元网络的信息处理效率。在其中一个实施例中,将权重索引和神经元输出信息,设置于路由信息中进行传送,充分利用了现有的路由数据,提高了神经元之间的信息使用效率。在其中一个实施例中,根据预设的权重取值范围,利用权重约化算法计算出的权重信息,其权重值在预设的取值范围之内,且为预设的取值范围的有限个离散值,减少了用于存储权重信息的硬件的存储空间,并且保持了权重信息的精度。在其中一个实施例中,当前神经元计算出当前神经元的输出信息后,根据输出信息的目的神经元,查找对应的权重索引后,输出所述当前神经元输出信息和所述权重索引。当前神经元将权重索引发送至后端的神经元,将权重索引信息在神经网络中进行了完整的传递,提高了神经网络的信息处理能力。本专利技术还提供一种神经元权重信息处理系统,包括:前端神经元输出信息接收模块,用于接收前端神经元的神经元输出信息,以及与所述神经元输出信息对应的权重索引;权重信息获取模块,用于根据所述权重索引,读取权重索引信息对应关系,获取权重信息,所述权重索引信息对应关系为权重索引和权重信息之间的对应关系;前端神经元输入信息获取模块,用于根据所述权重信息和所述神经元输出信息,获取所述前端神经元的输入信息。在其中一个实施例中,所述前端神经元,包括人工神经元或脉冲神经元。在其中一个实施例中,所述权重索引,包括与所述权重索引对应的权重信息的存储地址。在其中一个实施例中,所述前端神经元输出信息接收模块,包括:路由信息接收单元,用于接收前端神经元输出的路由信息,所述路由信息包括前端神经元输出的神经元输出信息,以及与所述神经元输出信息对应的权重索引;路由信息解析单元,用于解析所述路由信息,获取所述神经元输出信息和所述权重索引。在其中一个实施例中,所述权重信息,包括:根据预设的权重取值范围和初始权重信息,利用权重约化算法计算出的所述权重信息。在其中一个实施例中,还包括:当前神经元输出信息获取模块,用于根据所述前端神经元的输入信息和读取的当前神经元信息,根据神经元输出算法,计算当前神经元输出信息;权重索引确定模块,用于确定所述当前神经元输出信息的目的信息,并根据所述目的信息查找目的索引对应关系,获取所述目的信息的权重索引,所述目的索引对应关系包括目的信息和权重索引之间的对应关系;权重索引发送模块,用于输出所述当前神经元输出信息和所述权重索引。在其中一个实施例中,当前神经元接收的前端神经元的输出信息中,携带前端神经元与当前神经元之间的权重信息的权重索引,当前神经元根据接收到的权重索引信息读取权重信息后,根据不同的神经元模型进行相应的运算处理,获取前端神经元的输入信息。神经元之间不再将权重信息直接传递,而是将权重信息的索引进行传递,不但节省了网络之间的传递信息量,并且可以更加灵活的改变各个神经元的权重信息的设置,提高了神经元网络的信息处理能力。在其中一个实施例中,权重索引的使用,不但适用于人工神经网络,也适用于脉冲神经网络,提高了人工神经网络和脉冲神经网络的信息处理能力。在其中一个实施例中,采用权重信息的存储地址作为其索引信息,可以使接收到索引信息的神经元直接利用存储地址信息查询到权重信息,提高权重信息的提取效率,进而提高整个神经元网络的信息处理效率。在其中一个实施例中,将权重索引和神经元输出信息,设置于路由信息中进行传送,充分利用了现有的路由数据,提高了神经元之间的信息使用效率。在其中一个实施例中,根据预设的权重取值范围,利用权重约化算法计算出的权重信息,其权重值在预设的取值范围之内,减少了用于存储权重信息的硬件的存储空间,并且保持了权重信息的精度。在其中一个实施例中,当前神经元计算出用于输出的当前神经元的输出信息后,根据输出信息的目的神经元,查找对应的权重索引后,输出所述当前神经元输出信息和所述权重索引。当前神经元将权重索引发送至后端的神本文档来自技高网...
神经元权重信息处理方法和系统

【技术保护点】
一种神经元权重信息处理方法,其特征在于,所述方法包括:接收前端神经元的神经元输出信息,以及与所述神经元输出信息对应的权重索引;根据所述权重索引,读取权重索引信息对应关系,获取权重信息,所述权重索引信息对应关系为权重索引和权重信息之间的对应关系;根据所述权重信息和所述神经元输出信息,获取所述前端神经元的输入信息。

【技术特征摘要】
1.一种神经元权重信息处理方法,其特征在于,所述方法包括:接收前端神经元的神经元输出信息,以及与所述神经元输出信息对应的权重索引;根据所述权重索引,读取权重索引信息对应关系,获取权重信息,所述权重索引信息对应关系为权重索引和权重信息之间的对应关系;根据所述权重信息和所述神经元输出信息,获取所述前端神经元的输入信息。2.根据权利要求1所述的神经元权重信息处理方法,其特征在于:所述前端神经元,包括人工神经元或脉冲神经元。3.根据权利要求1所述的神经元权重信息处理方法,其特征在于:所述权重索引,包括与所述权重索引对应的权重信息的存储地址。4.根据权利要求1所述的神经元权重信息处理方法,其特征在于,所述接收前端神经元的神经元输出信息,以及与所述神经元输出信息对应的权重索引,包括:接收前端神经元输出的路由信息,所述路由信息包括前端神经元输出的神经元输出信息,以及与所述神经元输出信息对应的权重索引;解析所述路由信息,获取所述神经元输出信息和所述权重索引。5.根据权利要求1所述的神经元权重信息处理方法,其特征在于,所述权重信息,包括:根据预设的权重取值范围和初始权重信息,利用权重约化算法计算出的所述权重信息。6.根据权利要求1所述的神经元权重信息处理方法,其特征在于,在根据所述权重信息和所述神经元输出信息,获取所述前端神经元的输入信息的步骤之后,所述方法还包括:根据所述前端神经元的输入信息和读取的当前神经元信息,根据神经元输出算法,计算当前神经元输出信息;确定所述当前神经元输出信息的目的信息,并根据所述目的信息查找目的索引对应关系,获取所述目的信息的权重索引,所述目的索引对应关系包括目的信息和权重索引之间的对应关系;输出所述当前神经元输出信息和所述权重索引。7.一种神经元权重信息处理系统,其特...

【专利技术属性】
技术研发人员:裴京施路平田雷吴臻志邓磊
申请(专利权)人:清华大学
类型:发明
国别省市:北京,11

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1