【技术实现步骤摘要】
构建神经网络的方法及装置、神经网络、电子装置及设备
[0001]本申请涉及人工智能
,尤其涉及类脑计算
,特别涉及神经网络、 构建神经网络的方法及装置、电子装置、电子设备及计算设备。
技术介绍
[0002]人类的大脑结构复杂,能够完成各种高级认知相关的任务。基于对人脑的层次化 结构的认识而提出的人工神经网络(Artificial Neural Networks,ANN)模型在计算机 视觉、自然语言处理等领域取得了非常大的进步。
[0003]目前,以脉冲神经网络(Spiking Neural Networks,SNN)模型为代表的类脑计算也 获得了一定进展。区别于人工神经网络以浮点型数值传递和处理信息的机制,脉冲神 经网络通过离散脉冲信号进行信息交互,仿生性更好,在硬件芯片实现时具备低能耗、 计算存储一体化等优势。而具有深度结构的深度脉冲神经网络,作为对具有浅层结构 的浅层脉冲神经网络的拓展,具有更好的信息处理能力。
[0004]在训练深度脉冲神经网络时,通常利用误差反向传播算法更新网络权重和/或偏 ...
【技术保护点】
【技术特征摘要】
1.一种构建神经网络的方法,其特征在于,所述神经网络包括强分类器,所述强分类器包括N个第一弱分类器,N为正整数;当所述强分类器的分类结果不满足要求时,确定第N+1个第一弱分类器,所述第N+1个第一弱分类器是M个第二弱分类器中的优胜分类器,M为正整数;将所述第N+1个第一弱分类器集成到所述强分类器中。2.根据权利要求1所述的方法,其特征在于,至少一个所述第二弱分类器,其构成包括:基础弱分类器、和已经训练的分类器所包含的至少一层网络。3.根据权利要求2所述的方法,其特征在于,所述已经训练的分类器包括:所述N个第一弱分类器中的一个或多个、和/或所述M个第二弱分类器中已经训练的一个或多个。4.根据权利要求2所述的方法,其特征在于,所述M≤N+1,所述M个第二弱分类器中的第M1个第二弱分类器,其构成所包括的已经训练的分类器包括:M
‑
1个所述第一弱分类器中的第M1
‑
1个第一弱分类器。5.根据权利要求2至4任一项所述的方法,其特征在于,所述确定第N+1个第一弱分类器包括:使用样本数据训练所述M个第二弱分类器,其中,训练过程中,所述第二弱分类器所包含的已经训练的分类器的所包含的至少一层网络的参数为冻结状态。6.根据权利要求5所述的方法,其特征在于,所述确定第N+1个第一弱分类器包括:所述训练所述M个第二弱分类器的所述样本数据设置有学习权重,所述学习权重根据所述N个第一弱分类器中的至少一个的分类结果生成。7.根据权利要求1至5任一项所述的方法,其特征在于,还包括:当所述第N+1个第一弱分类器的分类结果不满足弱分类器的要求时,增加该第N+1个第一弱分类器的复杂度。8.根据权利要求1至6任一项所述的方法,其特征在于,所述将所述第N+1个第一弱分类器集成到所述强分类器中,还包括:所述第N+1个第一弱分类器设置有集成权重,所述集成权重根据所述第N+1个第一弱分类器的分类结果、生成序数、和/或样本数据的分类标签数生成。9.根据权利要求7所述的方法,其特征在于,将所述第N+1个第一弱分类器集成到所述强分类器中之后,还包括:当所述强分类器的分类结果满足要求时,从所述N+1个第一弱分类器中,根据所述集成权重,从大到小依次提取不同的第一弱分类器,当所提取的所述N+1个第一弱分类器中的P个第一弱分类器构成的强分类器的分类结果满足要求时,所述P个第一弱分类器所构成的强分类器作为所构建的神经网络。10.一种神经网络,其特征在于,所述神经网络包括强分类器,所述强分类器包括N个第一弱分类器,N为正整数;当所述强分类器的分类结果不满足要求时,所述强分类器还包括第N+1个第一弱分类器,所述第N+1个第一弱分类器是M个第二弱分类器中的优胜分类器,M为正整数。11.根据权利要求10所述的神经网络,其特征在于,至少一个所述第二弱分类器,其构成包括:基础弱分类器、和已经训练的分类器所包含的至少一层网络。12.根据权利要求11所述的神经网络,其特征在于,所述已经训练的分类器包括:所述N个第一弱分类器中的一个或多个、和/或所述M个第二弱分类器中已经训练的一个或多个。
13.根据权利要求11所述的神经网络,其特征在于,所述M≤N+1,所述M个第二弱分类器中的第M1个第二弱分类器,其构成所包括的已经训练的分类器包括:M
‑
1个所述第一弱分类器中的第M1
‑
1个第一弱分类器。14.根据权利要求10所述的神经网络,其特征在于,所述第N+1个第一弱分类器设置有集成权重,所述集成权重根据所述第N+1个第一弱分类器的分类结果、生成序数、和样本数据的分类标签数生成。15.根据权利要求10所述的神经网络,其特征在于,训练所述M个第二弱分类器的样本数据设置有学习权重,所述学习权重根据所...
【专利技术属性】
技术研发人员:王跃明,申江荣,蒋磊,牛洪蛟,
申请(专利权)人:华为技术有限公司,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。