脉冲神经网络输入信号编码方法、系统、装置及存储介质制造方法及图纸

本发明专利技术公开了一种脉冲神经网络输入信号编码方法、系统、装置及存储介质，方法包括：确定输入图像中各个像素点的第一像素值；根据第一像素值确定首脉冲发射时间、总脉冲数量以及脉冲间隔，其中，首脉冲发射时间与第一像素值呈负相关关系，总脉冲数量与第一像素值呈正相关关系，脉冲间隔与第一像素值呈负相关关系；根据首脉冲发射时间、总脉冲数量以及脉冲间隔对像素点进行脉冲编码得到第一脉冲序列；将各像素点对应的第一脉冲序列作为输入信号输入到脉冲神经网络的处理层。本发明专利技术提高了脉冲神经网络的识别灵活性，提高了脉冲神经网络的识别准确性，减少了编码的脉冲数量，降低了脉冲神经网络的整体功耗，可广泛应用于神经网络技术领域。术领域。术领域。

Pulse neural network input signal coding method, system, device and storage medium

【技术实现步骤摘要】
脉冲神经网络输入信号编码方法、系统、装置及存储介质


[0001]本专利技术涉及神经网络
，尤其是一种脉冲神经网络输入信号编码方法、系统、装置及存储介质。

技术介绍

[0002]当前时代，信息量和数据量正在以指数级方式不断增长，对于计算系统的大规模信息处理能力有着越来越高的要求，传统的冯
·
诺依曼架构已经逐渐难以满足如今时代的需求。而随着人工智能、深度学习等领域的兴起，研究人员将目光放向了新兴领域——类脑计算。人的大脑中有着超过900亿个神经元细胞和107个神经突触，日常功耗仅为20w左右，基于冯
·
诺依曼架构的计算机功耗则是大脑的10
‑
20倍，图形处理器更是达到了100倍以上。因此，类脑计算机有着突破传统冯
·
诺依曼架构、提升信息处理能力的潜力。
[0003]脉冲神经网络(Spiking Neuron Network,SNN)是“第三代神经网络”，也是类脑计算架构的基础。SNN是采取异步、事件驱动的方式工作，通过脉冲来进行信息的传递，包含着时间、空间、频率、相位等大量信息，有着强大的计算能力和潜力。目前已经有很多基于此的神经形态平台被开发出来：2014年IBM开发了TrueNorth芯片，实现了非冯
·
诺依曼、低功耗、高度并行、可扩展架构，包含100万个数字神经元和2.56亿个突触。2018年Intel推出了Loihi芯片，在解决LASSO优化问题上，其能量延迟积与传统CPU相比优化了三个数量级以上。2020年清华大学推出的Tianji芯片，成功实现了无人自行车的实时物体检测、跟踪、避障和平衡控制，标志着我国类脑相关的研究又登上了一个新台阶。
[0004]信息编码是脉冲神经网络中的关键一环，它是将网络的输入转换成脉冲的过程。当人受到外界刺激，如声音、光、气味等时，神经元会产生动作电位的变化即发射脉冲。但是生物学上对于将刺激转换成脉冲的具体方式仍然是个有争议的问题，目前SNN中主流的两类信息编码方式是频率编码和时间编码。频率编码是通过神经元的脉冲频率来传递信息的，由于其编码机制的简单性，多年来一直是神经科学和脉冲神经网络的主要形式。时间编码是通过神经元的脉冲时间来传递信息的。有实验研究表明，大脑允许视网膜通过神经群发出的第一个尖峰来快速可靠地传输新的空间信息。
[0005]现有技术中的频率编码方式和时间编码方式都存在着缺点：频率编码得到的脉冲数量过多，大量未被利用的脉冲在脉冲传递的过程中损失掉，从而导致脉冲神经网络的整体功耗过大；时间编码对于每个像素点仅编码出一个脉冲，因此容易受到噪声的干扰，影响了脉冲神经网络的识别准确性。

技术实现思路

[0006]本专利技术的目的在于至少一定程度上解决现有技术中存在的技术问题之一。
[0007]为此，本专利技术实施例的一个目的在于提供一种脉冲神经网络输入信号编码方法，该方法提高了脉冲神经网络的识别灵活性和准确性，降低了脉冲神经网络的整体功耗。
[0008]本专利技术实施例的另一个目的在于提供一种脉冲神经网络输入信号编码系统。
[0009]为了达到上述技术目的，本专利技术实施例所采取的技术方案包括：
[0010]第一方面，本专利技术实施例提供了一种脉冲神经网络输入信号编码方法，包括以下步骤：
[0011]确定输入图像中各个像素点的第一像素值；
[0012]根据所述第一像素值确定首脉冲发射时间、总脉冲数量以及脉冲间隔，其中，所述首脉冲发射时间与所述第一像素值呈负相关关系，所述总脉冲数量与所述第一像素值呈正相关关系，所述脉冲间隔与所述第一像素值呈负相关关系；
[0013]根据所述首脉冲发射时间、所述总脉冲数量以及所述脉冲间隔对所述像素点进行脉冲编码得到第一脉冲序列；
[0014]将各所述像素点对应的第一脉冲序列作为输入信号输入到脉冲神经网络的处理层。
[0015]进一步地，在本专利技术的一个实施例中，所述脉冲神经网络包括输入层和所述处理层，所述输入层包括多个输入神经元，所述处理层包括数量相同的多个兴奋性神经元和多个抑制性神经元，所述兴奋性神经元与所述抑制性神经元一一对应，各所述输入神经元的输出端均与所述兴奋性神经元的输入端连接，各所述兴奋性神经元的输入端均与所述输入神经元的输出端连接，所述兴奋性神经元的输出端与对应的抑制性神经元的输入端连接，所述抑制性神经元的输出端与非对应的兴奋性神经元的输入端连接，所述输入神经元用于对各所述像素点进行脉冲编码得到所述第一脉冲序列，并将所述第一脉冲序列输入到各所述兴奋性神经元，所述兴奋性神经元用于根据所述第一脉冲序列生成兴奋性脉冲，并将所述兴奋性脉冲输入到对应的抑制性神经元，所述抑制性神经元用于根据所述兴奋性脉冲生成抑制性脉冲，并将所述抑制性脉冲反馈至非对应的兴奋性神经元，所述脉冲神经网络在训练过程中更新优化所述输入神经元、所述兴奋性神经元以及所述抑制性神经元之间的连接权重。
[0016]进一步地，在本专利技术的一个实施例中，所述脉冲神经网络还包括输出层，所述输出层用于统计所述兴奋性神经元的兴奋度，并根据所述兴奋度确定输入图像的分类结果，所述兴奋度根据所述兴奋性神经元的脉冲触发情况确定。
[0017]进一步地，在本专利技术的一个实施例中，所述首脉冲发射时间通过下式确定：
[0018]spiketime＝(1
‑
pixel/pixel_max)*timewindow
[0019]其中，spiketime表示首脉冲发射时间，pixel表示对应像素点的第一像素值，pixel_max表示所有像素点的第一像素值的最大值，timewindow表示对应像素点的编码时间窗口。
[0020]进一步地，在本专利技术的一个实施例中，所述总脉冲数量通过下式确定：
[0021]number＝Nmax*(e
pixel/pixel_max
‑
1)/(e
‑
1)
[0022]其中，number表示总脉冲数量，Nmax表示预设的最大脉冲数，pixel表示对应像素点的第一像素值，pixel_max表示所有像素点的第一像素值的最大值。
[0023]进一步地，在本专利技术的一个实施例中，所述脉冲间隔通过下式确定：
[0024]ISI＝(Nmax
‑
number)*q
[0025]其中，ISI表示脉冲间隔，number表示总脉冲数量，Nmax表示预设的最大脉冲数，q表示预设的时间常数。
[0026]进一步地，在本专利技术的一个实施例中，所述根据所述首脉冲发射时间、所述总脉冲数量以及所述脉冲间隔对所述像素点进行脉冲编码得到第一脉冲序列这一步骤，其具体包括：
[0027]根据所述首脉冲发射时间确定首个脉冲的发射时间；
[0028]根据首个脉冲的发射时间和所述脉冲间隔依次确定剩余脉冲的发射时间，所述剩余脉冲的数量为所述总脉冲数量减1；
[0029]根据所述首个脉冲的发射时间、所述剩余本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种脉冲神经网络输入信号编码方法，其特征在于，包括以下步骤：确定输入图像中各个像素点的第一像素值；根据所述第一像素值确定首脉冲发射时间、总脉冲数量以及脉冲间隔，其中，所述首脉冲发射时间与所述第一像素值呈负相关关系，所述总脉冲数量与所述第一像素值呈正相关关系，所述脉冲间隔与所述第一像素值呈负相关关系；根据所述首脉冲发射时间、所述总脉冲数量以及所述脉冲间隔对所述像素点进行脉冲编码得到第一脉冲序列；将各所述像素点对应的第一脉冲序列作为输入信号输入到脉冲神经网络的处理层。2.根据权利要求1所述的一种脉冲神经网络输入信号编码方法，其特征在于：所述脉冲神经网络包括输入层和所述处理层，所述输入层包括多个输入神经元，所述处理层包括数量相同的多个兴奋性神经元和多个抑制性神经元，所述兴奋性神经元与所述抑制性神经元一一对应，各所述输入神经元的输出端均与所述兴奋性神经元的输入端连接，各所述兴奋性神经元的输入端均与所述输入神经元的输出端连接，所述兴奋性神经元的输出端与对应的抑制性神经元的输入端连接，所述抑制性神经元的输出端与非对应的兴奋性神经元的输入端连接，所述输入神经元用于对各所述像素点进行脉冲编码得到所述第一脉冲序列，并将所述第一脉冲序列输入到各所述兴奋性神经元，所述兴奋性神经元用于根据所述第一脉冲序列生成兴奋性脉冲，并将所述兴奋性脉冲输入到对应的抑制性神经元，所述抑制性神经元用于根据所述兴奋性脉冲生成抑制性脉冲，并将所述抑制性脉冲反馈至非对应的兴奋性神经元，所述脉冲神经网络在训练过程中更新优化所述输入神经元、所述兴奋性神经元以及所述抑制性神经元之间的连接权重。3.根据权利要求2所述的一种脉冲神经网络输入信号编码方法，其特征在于：所述脉冲神经网络还包括输出层，所述输出层用于统计所述兴奋性神经元的兴奋度，并根据所述兴奋度确定输入图像的分类结果，所述兴奋度根据所述兴奋性神经元的脉冲触发情况确定。4.根据权利要求1所述的一种脉冲神经网络输入信号编码方法，其特征在于，所述首脉冲发射时间通过下式确定：spiketime＝(1
‑
pixel/pixel_max)*timewindow其中，spiketime表示首脉冲发射时间，pixel表示对应像素点的第一像素值，pixel_max表示所有像素点的第一像素值的最大值，timewindow表示对应像素点的编码时间窗口。5.根据权利要求1所述的一种脉冲神经网络输入信号编码方法，其特征...

【专利技术属性】
技术研发人员：周才屯，虞志益，肖山林，
申请(专利权)人：中山大学，
类型：发明
国别省市：