一种脉冲卷积神经网络中卷积核训练的方法及装置制造方法及图纸

一种脉冲卷积神经网络中卷积核训练的方法及装置，其中方法包括：获取第一计数器的第一计数值和第二计数器的第二计数值，其中，第一计数值为一个训练周期内输入脉冲信号的个数，第二计数值为一个训练周期内输出神经元发出输出脉冲信号的个数，若第二计数值大于训练阈值，则根据第一计数值调整忆阻突触阵列中输出神经元对应的忆阻突触的权重，以及根据第二计数值提高输出神经元的阈值。该方法中脉冲卷积神经网络中的突触和神经元基于忆阻器实现，通过对输入脉冲信号和输出脉冲信号的频率进行统计，动态地调节突触权重和神经元的阈值，可实现特定输入下基于频率学习规则的卷积核训练。训练。训练。

【技术实现步骤摘要】
一种脉冲卷积神经网络中卷积核训练的方法及装置


[0001]本申请涉及神经网络
，尤其涉及一种脉冲卷积神经网络中卷积核训练的方法及装置。

技术介绍

[0002]近年来，基于深度学习的神经网络(deep neural networks，DNN)已经在诸多方面取得了显著的成果，如图像识别、自然语义处理、自动驾驶等，但是这种基于深度学习的神经网络仅仅借鉴了大脑的拓扑结构，利用数学的方法对大脑进行建模，将需要处理的各种情况通过一定的编码方式转换成数字信息，再用包含不同数值的矩阵对这些信息进行处理(包括矩阵的运算、结果的归一化、数据的映射等)，最终得到一组包含识别结果信息的数据。在整个过程中，包含不同数值的矩阵即人工突触网络，矩阵中的每一个数值即为突触权重。
[0003]这种基于深度学习的神经网络在原理上与生物大脑仍有较大出入，属于第二代人工神经网络，在编码方式、功能实现上与生物大脑还有相当的距离。为了获得更接近生物大脑功能的计算方式，实现类脑计算，研究者们提出了下一代的人工神经网络——脉冲神经网络(spiking neural networ本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种脉冲卷积神经网络中卷积核训练的方法，其特征在于，所述方法应用于脉冲卷积神经网络中的卷积层；针对每个训练周期，所述方法包括：获取第一计数器的第一计数值和第二计数器的第二计数值；所述第一计数值为所述训练周期内输入脉冲信号的个数，所述输入脉冲信号经忆阻突触阵列输入到输出神经元，所述输入脉冲信号用于控制所述输出神经元的膜电位升高；所述第二计数值为所述训练周期内所述输出神经元发出输出脉冲信号的个数，所述输出神经元在膜电位大于所述输出神经元的阈值时发出所述输出脉冲信号；若所述第二计数值大于训练阈值，则根据所述第一计数值，调整所述忆阻突触阵列中所述输出神经元对应的忆阻突触的权重。2.根据权利要求1所述的方法，其特征在于，根据所述第一计数值，调整所述忆阻突触阵列中所述输出神经元对应的M个忆阻突触的权重，包括：若所述第一计数值小于设定阈值，则减小所述忆阻突触的权重；若所述第一计数值大于或等于设定阈值，则增大所述忆阻突触的权重。3.根据权利要求1或2所述的方法，其特征在于，所述输出神经元为阈值可调神经元；所述方法还包括：若所述第二计数值大于所述训练阈值，则根据所述第二计数值，提高所述输出神经元的阈值，所述阈值用于控制所述输出神经元输出脉冲信号。4.根据权利要求3所述的方法，其特征在于，所述输出神经元的阈值还受所述输出神经元发出输出脉冲信号的历史、以及其他输出神经元发出输出脉冲信号控制。5.根据权利要求1至4中任一项所述的方法，其特征在于，所述方法还包括：当所述训练周期结束，清零所述第一计数器的第一计数值和所述第二计数器的第二计数值。6.根据权利要求1至5中任一项所述的方法，其特征在于，所述忆阻突触阵列中的各个忆阻突触由非易失性忆阻器组成，所述输出神经元由易失性忆阻器和相关的电路模块组成。7.一种脉冲卷积神经网络中卷积核训练的装置，其特征在于，所述装置包括输入信号产生模块、信号发生器、忆阻突触、输出神经元、第一计数器、第二计数器和训练信号产生模块；其中，所述输入信号产生模块，用于对输入信息进行脉冲编码，生成输入脉冲信息，并将所述输入脉冲信息发送给所述信号发生器；所述信号发生器，用于根据所述输入脉冲信息，生成输入脉冲信号，并将所述输入脉冲信号输入到所述忆阻突触和所述第一计数器；所述忆阻突触，用于将处理后所述输入脉冲信号输入到所述输出神经元，所述输入脉冲信号用于控制所述输出神经元的膜电位升高；所述输出神经元，用于在当膜...

【专利技术属性】
技术研发人员：郭新，黄鹤鸣，王侃文，王童，廖健行，程捷，
申请(专利权)人：华为技术有限公司，
类型：发明
国别省市：