System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind()
【技术实现步骤摘要】
本申请涉及神经网络,特别是涉及一种脉冲神经网络训练方法、装置、电子设备及存储介质。
技术介绍
1、近年来,脉冲神经网络(spiking neural network,snn)因为具有时空信息处理能力强、节能、低功耗等优点,受到了研究人员的广泛关注。但训练高性能的深度脉冲神经网络用于实际的分类,检测等任务,仍然是一个具有挑战性的问题。
2、目前主要采用的训练方式为:训练一个人工神经网络(artificial neuralnetwork,ann),建立人工神经网络和脉冲神经网络之间的转换算法,通过转换算法得到训练完成的脉冲神经网络。但是因为转换过程中存在很大的转换误差,需要进一步通过较长的仿真时间来补偿该转换误差,训练完成的脉冲神经网络需要更长的时间才能达到与人工神经网络相当的精度,从而降低了实际应用的效率。
技术实现思路
1、本申请实施例的目的在于提供一种脉冲神经网络训练方法、装置、电子设备及存储介质,以消除转换误差,提高脉冲神经网络的应用效率。具体技术方案如下:
2、第一方面,本申请实施例提供了一种脉冲神经网络训练方法,所述方法包括:
3、获取已训练的人工神经网络中的网络参数;其中,所述已训练的人工神经网络是基于样本图像和基于激活函数对所述样本图像进行处理得到的结果训练得到的,所述激活函数是基于所述待训练脉冲神经网络中的神经元的输出脉冲速率函数,以及所述神经元的输出脉冲速率与所述激活函数的输出激活值之间的映射关系确定的;
4、将所述已
5、可选的,所述激活函数的确定方式,包括:
6、根据所述待训练脉冲神经网络中的神经元的输入脉冲速率的加权和与时间总步长,构建所述神经元的输出脉冲速率函数;
7、根据所述输出脉冲速率函数的输出脉冲速率与所述激活函数的输出激活值之间的映射关系,确定待训练人工神经网络的激活函数关于所述神经元的输入脉冲速率的加权和与时间总步长的关系,得到所述待训练人工神经网络的激活函数。
8、可选的,所述已训练的人工神经网络的训练方式,包括:
9、获取所述样本图像,并将所述样本图像输入待训练人工神经网络,基于所述激活函数对所述样本图像进行处理,得到预测任务结果;
10、基于所述预测任务结果和所述激活函数,采用近似梯度下降方式,调整所述待训练人工神经网络的网络参数;
11、返回所述将所述样本图像输入所述待训练人工神经网络,基于所述激活函数对所述样本图像进行处理,得到预测任务结果的步骤,直至所述人工神经网络训练结束,得到所述已训练的人工神经网络。
12、可选的,在得到所述目标脉冲神经网络之后,所述方法还包括:
13、获取待处理图像;
14、将所述待处理图像输入所述目标脉冲神经网络,获得所述目标脉冲神经网络中每个神经元的当前电位和历史放电总电位;
15、基于每个神经元的当前电位和历史放电总电位,控制每个神经元输出所述待处理图像对应的脉冲。
16、可选的,所述基于每个神经元的当前电位和历史放电总电位,控制每个神经元输出所述待处理图像对应的脉冲的步骤,包括:
17、若神经元的当前电位大于预设电位阈值,则控制该神经元输出所述待处理图像对应的正向脉冲;
18、若神经元的当前电位小于0,且该神经元的历史放电总电位大于等于所述预设电位阈值,则控制该神经元输出所述待处理图像对应的反向脉冲;
19、否则,则拒绝控制该神经元输出所述待处理图像对应的脉冲。
20、可选的,所述基于每个神经元的当前电位和历史放电总电位,控制每个神经元输出所述待处理图像对应的脉冲的步骤,包括:
21、若神经元的当前电位大于预设电位阈值,则基于该神经元的当前电位包含的脉冲数进行移位操作,得到所述待处理图像对应的该神经元的第一位移脉冲,并控制该神经元输出所述第一位移脉冲;
22、若神经元的当前电位小于0,且该神经元的历史放电总电位大于等于所述预设电位阈值,则基于该神经元的当前电位的反向电位包含的脉冲数以及该神经元的历史放电总电位包含的脉冲数进行移位操作,得到所述待处理图像对应的该神经元的第二位移脉冲,并控制该神经元输出所述第二位移脉冲;
23、否则,则拒绝控制该神经元输出所述待处理图像对应的脉冲。
24、可选的,所述待处理图像为多个,在所述控制每个神经元输出所述待处理图像对应的脉冲的步骤之后,所述方法还包括:
25、根据所述脉冲确定多个待处理图像中相同位置的像素点对应的光强变化;
26、基于所述光强变化确定所述多个待处理图像中的目标的属性信息。
27、可选的,所述方法应用于脉冲相机或脉冲相机模拟装置;
28、所述脉冲相机或所述脉冲相机模拟装置的处理器为神经形态处理器。
29、第二方面,本申请实施例提供了一种脉冲神经网络训练装置,所述装置包括:
30、参数获取模块,用于获取已训练的人工神经网络中的网络参数;其中,所述已训练的人工神经网络是基于样本图像和基于激活函数对所述样本图像进行处理得到的结果训练得到的,所述激活函数是基于所述待训练脉冲神经网络中的神经元的输出脉冲速率函数,以及所述神经元的输出脉冲速率与所述激活函数的输出激活值之间的映射关系确定的;
31、参数转换模块,用于将所述已训练的人工神经网络中的网络参数转换为所述待训练脉冲神经网络的参数,得到已训练的目标脉冲神经网络。
32、可选的,所述激活函数的确定方式,包括:
33、根据所述待训练脉冲神经网络中的神经元的输入脉冲速率的加权和与时间总步长,构建所述神经元的输出脉冲速率函数;
34、根据所述输出脉冲速率函数的输出脉冲速率与所述激活函数的输出激活值之间的映射关系,确定待训练人工神经网络的激活函数关于所述神经元的输入脉冲速率的加权和与时间总步长的关系,得到所述待训练人工神经网络的激活函数。
35、可选的,所述已训练的人工神经网络的训练方式,包括:
36、获取所述样本图像,并将所述样本图像输入待训练人工神经网络,基于所述激活函数对所述样本图像进行处理,得到预测任务结果;
37、基于所述预测任务结果和所述激活函数,采用近似梯度下降方式,调整所述待训练人工神经网络的网络参数;
38、返回所述将所述样本图像输入所述待训练人工神经网络,基于所述激活函数对所述样本图像进行处理,得到预测任务结果的步骤,直至所述人工神经网络训练结束,得到所述已训练的人工神经网络。
39、可选的,所述装置还包括:
40、待处理图像获取模块,用于获取待处理图像;
41、电位获取模块,用于将所述待处理图像输入所述目标脉冲神经网络,获得所述目标脉冲神经网络中每个本文档来自技高网...
【技术保护点】
1.一种脉冲神经网络训练方法,其特征在于,所述方法包括:
2.根据权利要求1所述的方法,其特征在于,所述激活函数的确定方式,包括:
3.根据权利要求1所述的方法,其特征在于,所述已训练的人工神经网络的训练方式,包括:
4.根据权利要求1所述的方法,其特征在于,在得到所述目标脉冲神经网络之后,所述方法还包括:
5.根据权利要求4所述的方法,其特征在于,所述基于每个神经元的当前电位和历史放电总电位,控制每个神经元输出所述待处理图像对应的脉冲的步骤,包括:
6.根据权利要求4所述的方法,其特征在于,所述基于每个神经元的当前电位和历史放电总电位,控制每个神经元输出所述待处理图像对应的脉冲的步骤,包括:
7.根据权利要求4-6任一项所述的方法,其特征在于,所述待处理图像为多个,在所述控制每个神经元输出所述待处理图像对应的脉冲的步骤之后,所述方法还包括:
8.根据权利要求4-6任一项所述的方法,其特征在于,所述方法应用于脉冲相机或脉冲相机模拟装置;
9.一种脉冲神经网络训练装置,其特征在于,所述装
10.一种电子设备,其特征在于,包括:
11.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质内存储有计算机程序,所述计算机程序被处理器执行时实现权利要求1-8任一所述的方法。
...【技术特征摘要】
1.一种脉冲神经网络训练方法,其特征在于,所述方法包括:
2.根据权利要求1所述的方法,其特征在于,所述激活函数的确定方式,包括:
3.根据权利要求1所述的方法,其特征在于,所述已训练的人工神经网络的训练方式,包括:
4.根据权利要求1所述的方法,其特征在于,在得到所述目标脉冲神经网络之后,所述方法还包括:
5.根据权利要求4所述的方法,其特征在于,所述基于每个神经元的当前电位和历史放电总电位,控制每个神经元输出所述待处理图像对应的脉冲的步骤,包括:
6.根据权利要求4所述的方法,其特征在于,所述基于每个神经元的当前电位和历史放电总电位,控制...
【专利技术属性】
技术研发人员:仵赛飞,张渊,谢迪,浦世亮,
申请(专利权)人:杭州海康威视数字技术股份有限公司,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。