【技术实现步骤摘要】
本专利技术涉及计算机科学人工智能，尤其涉及一种脉冲神经网络训练方法、识别系统搭建方法及识别系统。
技术介绍
1、脉冲神经网络(snn)作为第三代神经网络，结合了经典人工神经网络(ann)与实体生物神经的特征。与经典神经网络不同的是，脉冲神经网络在层间信息的传递过程中采用0-1编码的方式来模拟生物大脑的时空信息传递。基于上述特征，脉冲神经网络具备更加丰富的神经动力学特征、更加多样的稀疏编码形式以及连续时序特征。
2、由于0-1编码的限制，导致脉冲神经网络层间传递存在信息截断和损失，造成脉冲神经网络梯度反传不准确，网络收敛速度慢，信息表征能力受限的问题。针对该问题，部分方法采用人工神经网络转化脉冲神经网络的方法提高收敛速度，但是该方法所需时间帧数较大，实用性存在难度。部分方法采用线性近似梯度的方式表示反传梯度，但是该方法和真实0-1分布的梯度仍存在一定信息损失，导致精度有限。部分方法利用批归一化的方式改善脉冲神经网络的整体放电率，丰富脉冲神经网络层间的信息表达，但是该方法基于高斯分布的假设且计算量较大。
技术实现思路
1、本专利技术提供了一种脉冲神经网络训练方法、识别系统搭建方法及识别系统，能够解决现有技术中脉冲神经网络的信息表达能力和放电率均较低的技术问题。
2、根据本专利技术的一方面，提供了一种脉冲神经网络训练方法，所述方法包括：
3、s10、对待训练的脉冲神经网络的信息熵分布进行最优化处理，以使脉冲神经网络的信息熵最大；
4、s20
5、s30、对输入的脉冲数据进行前向传播，并基于脉冲神经网络中每一个神经元的膜电压、脉冲放电阈值和脉冲神经网络的总层数得到脉冲神经网络的信息熵损失；
6、s40、获取脉冲神经网络的交叉熵损失；
7、s50、基于脉冲神经网络的信息熵损失和脉冲神经网络的交叉熵损失得到脉冲神经网络的整体损失；
8、s60、基于脉冲神经网络的整体损失进行反向传播，得到更新后的脉冲神经网络；
9、s70、判断是否完成n组脉冲数据的迭代，若是，完成脉冲神经网络的训练，否则，将另一组脉冲数据输入更新后的脉冲神经网络，并转至s30。
10、优选的，在s10中，对待训练的脉冲神经网络的信息熵分布进行最优化处理，以使脉冲神经网络的信息熵最大包括：对待训练的脉冲神经网络的信息熵分布进行最优化处理，以使脉冲神经网络的放电分布满足下式，从而使脉冲神经网络的信息熵最大：
11、
12、式中，u为神经元的膜电压，vth为脉冲放电阈值，p(u)为放电概率。
13、优选的，在s30中，基于脉冲神经网络中每一个神经元的膜电压、脉冲放电阈值和脉冲神经网络的总层数得到脉冲神经网络的信息熵损失包括：
14、s31、基于脉冲神经网络中每一个神经元的膜电压获取每一层神经元的平均膜电压；
15、s32、基于脉冲神经网络中每一层神经元的平均膜电压、脉冲放电阈值和脉冲神经网络的总层数得到脉冲神经网络的信息熵损失。
16、优选的，在s32中，通过下式得到脉冲神经网络的信息熵损失：
17、
18、式中，loss信息熵为脉冲神经网络的信息熵损失，为第l层神经元的平均膜电压，l为脉冲神经网络的总层数。
19、优选的，在s50中，通过下式得到脉冲神经网络的整体损失：
20、loss整体＝loss信息熵+loss交叉熵；
21、式中，loss整体为脉冲神经网络的整体损失，loss交叉熵为脉冲神经网络的交叉熵损失。
22、根据本专利技术的另一方面，提供了一种脉冲神经网络识别系统搭建方法，所述方法包括：
23、对浮点型的脉冲神经网络的权重进行定点量化，转换为0-1编码的脉冲神经网络；
24、在类脑开发平台上对0-1编码的脉冲神经网络进行交叉编译，得到与类脑开发平台相适配的脉冲神经网络；
25、将与类脑开发平台相适配的脉冲神经网络烧录至类脑开发平台上，以完成脉冲神经网络识别系统搭建；
26、其中，浮点型的脉冲神经网络为采用上述任一方法训练得到的脉冲神经网络。
27、根据本专利技术的又一方面，提供了一种脉冲神经网络识别系统，所述系统采用上述搭建方法进行搭建。
28、应用本专利技术的技术方案，通过对待训练的脉冲神经网络的信息熵分布进行最优化处理，完成信息熵约束，以使脉冲神经网络的信息熵最大，从而提升了脉冲神经网络整体的放电率，提高了脉冲神经网络的信息表达能力，进而提高了脉冲神经网络的训练精度和收敛速度，有效改善了脉冲神经网络的训练效果，可以获得更准确和更深层的脉冲神经网络。同时，还形成了一套适配现有主流类脑开发平台的高精度脉冲神经网络识别系统，实现了脉冲神经网络的目标识别场景下的使用需求。
本文档来自技高网...【技术保护点】
1.一种脉冲神经网络训练方法，其特征在于，所述方法包括：
2.根据权利要求1所述的方法，其特征在于，在S10中，对待训练的脉冲神经网络的信息熵分布进行最优化处理，以使脉冲神经网络的信息熵最大包括：对待训练的脉冲神经网络的信息熵分布进行最优化处理，以使脉冲神经网络的放电分布满足下式，从而使脉冲神经网络的信息熵最大：
3.根据权利要求1或2所述的方法，其特征在于，在S30中，基于脉冲神经网络中每一个神经元的膜电压、脉冲放电阈值和脉冲神经网络的总层数得到脉冲神经网络的信息熵损失包括：
4.根据权利要求3所述的方法，其特征在于，在S32中，通过下式得到脉冲神经网络的信息熵损失：
5.根据权利要求1-4中任一所述的方法，其特征在于，在S50中，通过下式得到脉冲神经网络的整体损失：
6.一种脉冲神经网络识别系统搭建方法，其特征在于，所述方法包括：
7.一种脉冲神经网络识别系统，其特征在于，所述系统采用权利要求6所述的搭建方法进行搭建。
【技术特征摘要】
1.一种脉冲神经网络训练方法，其特征在于，所述方法包括：
2.根据权利要求1所述的方法，其特征在于，在s10中，对待训练的脉冲神经网络的信息熵分布进行最优化处理，以使脉冲神经网络的信息熵最大包括：对待训练的脉冲神经网络的信息熵分布进行最优化处理，以使脉冲神经网络的放电分布满足下式，从而使脉冲神经网络的信息熵最大：
3.根据权利要求1或2所述的方法，其特征在于，在s30中，基于脉冲神经网络中每一个神经元的膜电压、脉冲放电阈值和脉...
【专利技术属性】
技术研发人员：陈元培，马喆，黄旭辉，郭宇飞，刘晓德，
申请(专利权)人：航天科工集团智能科技研究院有限公司，
类型：发明
国别省市：
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。