自适应泄漏值神经元信息处理方法和系统技术方案

本发明专利技术涉及一种自适应泄漏值神经元信息处理方法和系统，所述方法包括：接收前端脉冲神经元输出信息；读取当前脉冲神经元信息，所述当前脉冲神经元信息包括自适应膜电位泄漏信息；根据所述前端脉冲神经元输出信息和所述当前脉冲神经元信息，计算当前脉冲神经元输出信息；根据所述当前脉冲神经元输出信息，更新所述自适应膜电位泄漏信息；输出所述当前脉冲神经元输出信息。本发明专利技术所提供的自适应泄漏值神经元信息处理系统，利用自适应的膜电位泄漏信息参与当前脉冲神经元输出信息的计算，并利用计算出的当前脉冲神经元输出信息更新所述自适应膜电位信息参与下一个时间步的计算，在神经网络的灵敏度和稳定性之间达到很好的平衡作用。

Adaptive leakage value neuron information processing method and system

The invention relates to an adaptive leakage value of neuron information processing method and system, wherein the method comprises: receiving front-end outputs pulse information; read the information of the current pulse of the neurons, the neuronal membrane potential pulse information including adaptive leakage information; according to the front end pulse neuron output information and the current information of neurons, neural computing the output information of the current pulse; according to the current pulse outputs information, updating the adaptive membrane potential information leakage; the output current pulse outputs information. The present invention provides adaptive leakage value neuron information processing system, information leakage in the calculation output information of current pulses using neuron membrane potential adaptive, and the current pulse output information updating the adaptive neuron membrane potential information in a time step is calculated, a good balance between nerve the sensitivity and stability of network.

【技术实现步骤摘要】
自适应泄漏值神经元信息处理方法和系统
本专利技术涉及人工神经网络
，特别是涉及自适应泄漏值神经元信息处理方法和系统。
技术介绍
如今的人工神经网络研究绝大多数仍是在冯·诺依曼计算机软件并搭配高性能GPGPU(GeneralPurposeGraphicProcessingUnits通用图形处理单元)中实现的，整个过程的硬件开销、能耗和信息处理速度都不容乐观。为此，近几年神经形态计算领域迅猛发展，即采用硬件电路直接构建神经网络从而模拟大脑的功能，试图实现大规模并行、低能耗、可支撑复杂模式学习的计算平台。然而，传统的脉冲神经元信息处理方法，利用历史膜电位作为泄漏值，用于计算当前脉冲神经元输出信息，导致神经网络在对于输入响应的灵敏度和稳定性方面无法做到很好的平衡。
技术实现思路
基于此，有必要针对神经网络如何解决灵敏度和稳定性之间的平衡的问题，提供一种自适应泄漏值神经元信息处理方法和系统，其中，所述方法包括：接收前端脉冲神经元输出信息；读取当前脉冲神经元信息，所述当前脉冲神经元信息包括自适应膜电位泄漏信息；根据所述前端脉冲神经元输出信息和所述当前脉冲神经元信息，计算当前脉冲神经元输出信息；根据所述当前脉冲神经元输出信息，更新所述自适应膜电位泄漏信息；输出所述当前脉冲神经元输出信息。在其中一个实施例中，所述前端脉冲神经元输出信息，包括：前端脉冲神经元输出的脉冲尖端信息、前端神经元与当前神经元的连接权重索引；所述当前脉冲神经元信息，还包括：当前时间窗宽度、当前时间窗内脉冲尖端信息序列、历史膜电位信息；则根据所述前端脉冲神经元输出信息和所述当前脉冲神经元信息，计算当前脉冲神经元输出信息，包括：根据所述前端神经元与当前神经元的连接权重索引，读取前端神经元与当前神经元的连接权重；根据所述前端脉冲神经元输出的脉冲尖端信息，和所述当前时间窗内脉冲尖端信息序列，更新所述当前时间窗内脉冲尖端信息序列，获取当前时间窗内脉冲尖端信息更新序列；根据所述当前时间窗宽度、所述当前时间窗内脉冲尖端信息更新序列，通过衰减函数计算前端脉冲神经元输入信息；根据所述前端脉冲神经元输入信息、所述前端脉冲神经元与当前脉冲神经元的连接权重、所述历史膜电位信息、所述自适应膜电位泄漏信息，通过脉冲神经元计算模型，计算当前脉冲神经元输出信息。在其中一个实施例中，在所述根据所述前端脉冲神经元输出信息和所述当前脉冲神经元信息，计算当前脉冲神经元输出信息的步骤之后在，在所述输出所述当前脉冲神经元输出信息的步骤之前，所述方法还包括：获取阈值电位；将所述当前脉冲神经元输出信息和所述阈值电位进行比较，根据比较结果确定发放触发标志信息，所述发放触发标志信息包括：发放触发或发放不触发；当所述发放触发标志信息为发放触发时，复位不应期计时器，并更新所述历史膜电位信息为预设的复位膜电位信息。在其中一个实施例中，还包括：当所述发放触发标志信息为发放不触发时，读取不应期宽度和不应期计时器的当前时间步；根据所述不应期宽度和所述不应期计时器的当前时间步，判断当前时间是否在不应期内，若当前时间在所述不应期内，将所述不应期计时器累加计时一个时间步，不更新所述历史膜电位信息；若当前时间不在应期内，将所述不应期计时器累加计时一个时间步，并更新所述历史膜电位信息为所述当前脉冲神经元输出信息。在其中一个实施例中，所述获取阈值电位，包括：读取随机阈值掩模电位、阈值偏置和随机阈值；将所述随机阈值和所述随机阈值掩模电位进行按位与操作，获取阈值随机叠加量；根据所述阈值随机叠加量和所述阈值偏置，确定所述阈值电位。在其中一个实施例中，根据所述当前脉冲神经元输出信息，更新所述自适应膜电位泄漏信息，包括：读取静息膜电位信息和泄漏值缩放因子；根据所述静息膜电位信息、所述泄漏值缩放因子和所述当前脉冲神经元输出信息，更新所述自适应膜电位泄漏信息。在其中一个实施例中，所述输出所述当前脉冲神经元输出信息，包括：读取发放使能标识，所述发放使能标识包括允许发放数据或不允许发放数据；当所述发放使能标识为允许发放数据时，读取所述发放触发标志信息，当所述发放触发标志信息为发放触发时；输出所述当前脉冲神经元输出信息。本专利技术所提供的自适应泄漏值神经元信息处理方法，利用自适应的膜电位泄漏信息参与当前脉冲神经元输出信息的计算，并利用计算出的当前脉冲神经元输出信息更新所述自适应膜电位信息参与下一个时间步的计算。与传统的固定泄漏值不同，自适应泄漏值的设定方式，每个时间步的泄漏值与上一个时间步的膜电位相关，使得神经网络均有一定的柔性，若当前时间步的膜电位大，则下个时间步的泄漏值衰减的多，若当前时间步的膜电位小，则下个时间步的泄漏值衰减的少，不会出现泄漏值衰减到底导致的脉冲神经元丧失响应能力，也不会出现泄漏值衰减过慢导致的对于输入的响应过于灵敏，在神经网络的灵敏度和稳定性之间达到很好的平衡作用。在其中一个实施例中，根据所述前端脉冲神经元输出的脉冲尖端信息，和所述当前时间窗内脉冲尖端信息序列，更新所述当前时间窗内脉冲尖端信息序列，获取当前时间窗内脉冲尖端信息更新序列，根据所述当前时间窗宽度、所述前端脉冲神经元与当前脉冲神经元的连接权重，通过衰减函数计算前端脉冲神经元输入信息，可以支持具有时间深度的时空脉冲神经网络模型，相比于时间深度仅仅为一的神经网络技术方案，可以大大提高脉冲神经网络的时空信息编码能力，丰富脉冲神经网络的应用空间。在其中一个实施例中，通过设置发放使能标识和发放触发标志，确定当前脉冲神经元输出信息，使得脉冲神经元的输出的可控性更高，发放使能标志可以配置有的神经元不允许发放数据，而只用作中间辅助计算神经元，这对于一些需要多神经元协作完成的功能是非常必要的。在其中一个实施例中，通过读取随机阈值掩模电位和阈值偏置，并接收配置寄存器给出的配置值，确定所述阈值电位，使得神经元发放脉冲尖端信息具有一定概率的随机性。在其中一个实施例中，通过设置泄漏值缩放因子，使得神经元自适应泄漏值更加可控，也进一步提高了神经网络灵敏度和稳定性之间的平衡。本专利技术还提供一种自适应泄漏值神经元信息处理系统，包括：前端脉冲神经元输出信息接收模块，用于接收前端脉冲神经元输出信息；当前脉冲神经元信息读取模块，用于读取当前脉冲神经元信息，所述当前脉冲神经元信息包括自适应膜电位泄漏信息；当前脉冲神经元输出信息计算模块，用于根据所述前端脉冲神经元输出信息和所述当前脉冲神经元信息，计算当前脉冲神经元输出信息；自适应膜电位泄漏信息更新模块，用于根据所述当前脉冲神经元输出信息，更新所述自适应膜电位泄漏信息；当前脉冲神经元信息输出模块，用于输出所述当前脉冲神经元输出信息。在其中一个实施例中，所述前端脉冲神经元输出信息，包括：前端脉冲神经元输出的脉冲尖端信息、前端神经元与当前神经元的连接权重索引；所述当前脉冲神经元信息，还包括：当前时间窗宽度、当前时间窗内脉冲尖端信息序列、历史膜电位信息；所述当前脉冲神经元输出信息计算模块，包括：脉冲神经元连接权重读取单元，用于根据所述前端神经元与当前神经元的连接权重索引，读取前端神经元与当前神经元的连接权重；时间窗内脉冲尖端信息序列更新单元，用于根据所述前端脉冲神经元输出的脉冲尖端信息，和所述当前时间窗内脉冲尖端信息序列，更新所述当前时间窗内脉冲尖本文档来自技高网...

【技术保护点】
一种自适应泄漏值神经元信息处理方法，其特征在于，所述方法包括：接收前端脉冲神经元输出信息；读取当前脉冲神经元信息，所述当前脉冲神经元信息包括自适应膜电位泄漏信息；根据所述前端脉冲神经元输出信息和所述当前脉冲神经元信息，计算当前脉冲神经元输出信息；根据所述当前脉冲神经元输出信息，更新所述自适应膜电位泄漏信息；输出所述当前脉冲神经元输出信息。

【技术特征摘要】
1.一种自适应泄漏值神经元信息处理方法，其特征在于，所述方法包括：接收前端脉冲神经元输出信息；读取当前脉冲神经元信息，所述当前脉冲神经元信息包括自适应膜电位泄漏信息；根据所述前端脉冲神经元输出信息和所述当前脉冲神经元信息，计算当前脉冲神经元输出信息；根据所述当前脉冲神经元输出信息，更新所述自适应膜电位泄漏信息；输出所述当前脉冲神经元输出信息。2.根据权利要求1所述的自适应泄漏值神经元信息处理方法，其特征在于：所述前端脉冲神经元输出信息，包括：前端脉冲神经元输出的脉冲尖端信息、前端神经元与当前神经元的连接权重索引；所述当前脉冲神经元信息，还包括：当前时间窗宽度、当前时间窗内脉冲尖端信息序列、历史膜电位信息；则根据所述前端脉冲神经元输出信息和所述当前脉冲神经元信息，计算当前脉冲神经元输出信息，包括：根据所述前端神经元与当前神经元的连接权重索引，读取前端神经元与当前神经元的连接权重；根据所述前端脉冲神经元输出的脉冲尖端信息，和所述当前时间窗内脉冲尖端信息序列，更新所述当前时间窗内脉冲尖端信息序列，获取当前时间窗内脉冲尖端信息更新序列；根据所述当前时间窗宽度、所述当前时间窗内脉冲尖端信息更新序列，通过衰减函数计算前端脉冲神经元输入信息；根据所述前端脉冲神经元输入信息、所述前端脉冲神经元与当前脉冲神经元的连接权重、所述历史膜电位信息、所述自适应膜电位泄漏信息，通过脉冲神经元计算模型，计算当前脉冲神经元输出信息。3.根据权利要求1所述的自适应泄漏值神经元信息处理方法，其特征在于，在所述根据所述前端脉冲神经元输出信息和所述当前脉冲神经元信息，计算当前脉冲神经元输出信息的步骤之后，在所述输出所述当前脉冲神经元输出信息的步骤之前，所述方法还包括：获取阈值电位；将所述当前脉冲神经元输出信息和所述阈值电位进行比较，根据比较结果确定发放触发标志信息，所述发放触发标志信息包括：发放触发或发放不触发；当所述发放触发标志信息为发放触发时，复位不应期计时器，并更新所述历史膜电位信息为预设的复位膜电位信息。4.根据权利要求3所述的自适应泄漏值神经元信息处理方法，其特征在于，还包括：当所述发放触发标志信息为发放不触发时，读取不应期宽度和不应期计时器的当前时间步；根据所述不应期宽度和所述不应期计时器的当前时间步，判断当前时间是否在不应期内，若当前时间在所述不应期内，将所述不应期计时器累加计时一个时间步，不更新所述历史膜电位信息；若当前时间不在应期内，将所述不应期计时器累加计时一个时间步，并更新所述历史膜电位信息为所述当前脉冲神经元输出信息。5.根据权利要求3所述的自适应泄漏值神经元信息处理方法，其特征在于，所述获取阈值电位，包括：读取随机阈值掩模电位、阈值偏置和随机阈值；将所述随机阈值和所述随机阈值掩模电位进行按位与操作，获取阈值随机叠加量；根据所述阈值随机叠加量和所述阈值偏置，确定所述阈值电位。6.根据权利要求1至5中任一项所述的自适应泄漏值神经元信息处理方法，其特征在于，根据所述当前脉冲神经元输出信息，更新所述自适应膜电位泄漏信息，包括：读取静息膜电位信息和泄漏值缩放因子；根据所述静息膜电位信息、所述泄漏值缩放因子和所述当前脉冲神经元输出信息，更新所述自适应膜电位泄漏信息。7.根据权利要求3所述的自适应泄漏值神经元信息处理方法，其特征在于，所述输出所述当前脉冲神经元输出信息，包括：读取发放使能标识，所述发放使能标识包括允许发放数据或不允许发放数据；当所述发放使能标识为允许发放数据时，读取所述发放触发标志信息，当所述发放触发标志信息为发放触发时；输出所述当前脉冲神经元输出信息。8.一种自适应泄漏值神经元信息处理系统，其特征在于，包括：前端脉冲神经元输出信息接收模块，用于接收前端脉冲神经元输出信息；当前脉冲神经元信息读取模块，用于读取当前脉冲神经元信息，所述当前脉冲神经元信息...

【专利技术属性】
技术研发人员：裴京，邓磊，施路平，吴臻志，李国齐，
申请(专利权)人：清华大学，
类型：发明
国别省市：北京,11