一种可编程硬件BP神经元处理器制造技术

本新型实用涉及一种可编程硬件BP神经网络中的神经元处理器，是由运算器、权值存储器、误差传递因子存储器、专用寄存器组、控制寄存器组、微控制器、权值个数计数器、层数计数器及训练批次计数器构成。所述说的神经元处理器用于执行BP神经网络各层单个节点的运算。通过对控制寄存器进行编程设置，微控制器可以控制运算器执行三种不同的BP神经网络在神经元节点上的运算，其中所述说的BP神经网络学习算法指三种典型的学习算法，即BP标准算法、附加动量项算法及学习速率自适应调节算法。多个神经元处理器串联可实现流水运算，具有灵活性高，实用性强的特点，适合用于嵌入式硬件BP神经网络应用领域。（*该技术在2020年保护过期，可自由使用*）

【技术实现步骤摘要】

本技术涉及神经网络硬件实现领域，特别涉及BP神经网络运算的硬件实现，具体是指BP神经网络中的神经元处理器。
技术介绍
人工神经网络在智能控制、模式识别等领域中应用广泛，其中BP神经网络的应用最为广泛，BP神经网络的学习算法有多种，以满足不同的应用需求。但是传统的基于通用处理器的软件实现方法存在的主要问题并行程度较低，特别是在嵌入式应用领域，计算速度无法满足现场的实时性需求。神经网络的硬件实现可满足并行计算的要求，但硬件实现存在灵活性差的问题。本技术装置通过对神经元处理器的控制寄存器组进行编程设置，实现三种典型的BP神经网络在神经元节点上的运算。多个神经元处理器串联可实现流水运算，既满足并行计算的要求，又提高了灵活性和适用性。
技术实现思路
本技术要解决的问题是在嵌入式应用领域，硬件BP神经网络中单个神经元节点在不同运算阶段的运算以及实现不同学习算法的问题。具有可编程的特点，灵活性高，适用性强。本技术提供的一种可编程硬件BP神经元处理器是由局部数据总线1、专用寄存器组2、控制寄存器组3、运算器4、权值存储器5、误差传递因子存储器6、权值个数计数器7、层数计数器8、训练批次计数器9、微控制器10和外部控制总线11组成。其中专用寄存器组2、控制寄存器组3、运算器4、权值存储器5、误差传递因子存储器6分别与局部数据总线1相连；微控制器10通过微控制信号线L1、L2、L3、L4、L5、L6、L7、L8分别与专用寄存器组2、控制寄存器组3、运算器4、训练批次计数器9、层数计数器8、误差传递因子存储器6、权值存储器5、权值个数计数器7相连；运算器4与权值存储器5之间，运算器4与误差传递因子存储器6之间通过独立的总线相连。在具体使用中，本技术所述的可编程硬件BP神经元处理器12在外部总控制器13的控制下，接收外部数据存储器14的数据，并将计算结果传给外部的激励函数电路15，激励函数输出的结果存储在外部数据存储器14中。常用的BP神经网络通常由输入层、若干个隐层和输出层构成，每层有若干个神经元节点。其中所述的运算器可以执行输入层、各隐层和输出层单个节点的计算，总层数最多可达8个.其中包括各输入层神经元净输入计算net，输出层误差计算erroro，各隐层误差计算errorh，各层误差传递因子计算δ和各层权值调整量计算ΔW。其中所述的各层权值调整量计算ΔW与具体的学习算法有关，本新型实用可以实现BP标准算法、附加动量项算法及学习速率自适应调节算法这三种典型的学习算法。所述的权值存储器用于存放各输入节点到当前计算层该神经元节点的连接权值ωij及输出层的期望值di，不同层的计算所涉及的权值是不同的，可通过外部存器调入。同-->时在各层权值调整量计算阶段还用于存放权值调整量ΔW。所述的误差传递因子存储器用于存储运算器执行误差传递因子计算产生的的误差传递因子δ。控制寄存器组中由一个控制字寄存器和八个各层神经元个数寄存器构成，其中的控制字寄存器含三类控制信息，包括三位学习算法类型编码、四位BP网络层数以及一位工作方式位。每个神经元个数寄存器存放一层的的神经元个数。工作方式位用于指示运算器是工作在正常运算状态还是工作在训练状态。通过对控制寄储器组的编程设置，可满足不同规模、不同学习算法的选择。所述的专用寄存组由四个寄存器构成，每个寄存器存储计算过程中要使用的一个参数，其中包括学习速率η、附加动量算法中的附加动量系数α，学习速率自适应调节算法中的学习速率调整因子β(0＜β＜1)，γ(γ＞1)。所述的权值个数计数器用于统计运算器在各层运算的循环运算次数。当权值计数器为零时，本阶段的运算结束。所述的层数计数器用于统计运算器当前计算的是哪一层的数据。当层数计数器为零时，整个计算完毕。所述的微控制器产生微控制信号完成初始化工作及控制运算器完成不同阶段运算操作。微控制器在接收到外部总控制器的初始化控制信号后，从外部数据存储器依次调入数据，写入控制寄存器组、专用寄存器组和权值存储器，并将控制寄存器中的输入层神经元个数值赋给权值个数计数器。完成初始化工作后，微控制器通过控制字寄存器的工作方式位选择进入正常运算状态还是训练状态。在正常运算状态下，微控制器控制运算器完成神经元净输入计算，并将计算结果输出至外部的激励函数电路；在训练状态下，微控制器控制运算器依次完成各层神经元净输入计算net，输出层误差计算erroro，各层误差传递因子计算δ，各隐层误差计算errorh，根据控制字寄存器中的学习算法类型编码选择不同类型的学习算法完成各层权值调整量计算ΔW。权值计数器为减1计数，每计算一次，微控制器控制权值计数器执行减1操作。当权值计数值器的值为零时，微控制器从控制寄存器组中取出下一层计算所需的神经元个数，赋给权值个数计数器后开始下一阶段计算。层数计数器可进行加减1计数，在前馈运算时每计算完一层减1，当层数计数器为零时，整个运算结束；在误差反传运算时每计算完一层加1，当层数计数器值等于第1隐层时，微控制器向外部的总控制器发送计算完毕控制信号，并等待总控制器新的运算控制信号。附图说明图1为本技术的可编程硬件BP神经元处理器结构示意图图2为本技术的可编程硬件BP神经元处理器与外部部件的结构示意图图3为本技术的可编程硬件BP神经元处理器专用寄存器组示意图图4为本技术的可编程硬件BP神经元处理器控制寄存器组示意图图1中，1是局部数据总线，2是专用寄存器组，3是控制寄存器组，4是运算器，5是权值存储器，6是误差传递因子存储器，7是权值个数计数器，8是层数计数器，9是训练批次计数器，10是微控制器，11是外部控制总线。图2中，12是可编程硬件BP神经元处理器，13是外部总控制器，14是外部数据存-->储器，15是激励函数电路。图3中，数字代表专用寄存器组自上而下的层间编码。图4中，数字代表控制寄存器组自上而下的层间编码。具体实施方式本技术提供的一种可编程硬件BP神经元处理器12由局部数据总线1、专用寄存器组2、控制寄存器组3、运算器4、权值存储器5、误差传递因子存储器6、权值个数计数器7、层数计数器8、训练批次计数器9、微控制器10和外部控制总线11构成。所述的专用寄存器组2、控制寄存器组3、运算器4、权值存储器5、误差传递因子存储器6分别与局部数据总线1有连接。所述的微控制器10与专用寄存器组2、控制寄存器组3、运算器4、训练批次计数器9、层数计数器8、误差传递因子存储器6、权值存储器5、权值个数计数器7有连接。所述的控制寄存器组3由控制字寄存器20和八个各层神经元个数寄存器21～28构成。所述的专用寄存器组2由学习速率寄存器η15、附加动量算法中的附加动量系数寄存器α17，学习速率自适应调节算法中的学习速率调整因子寄存器β18(0＜β＜1)，学习速率自适应调节算法中的学习速率调整因子寄存器γ19(γ＞1)构成。所述的一种可编程硬件BP神经元处理器12工作在两种状态，正常运算状态和训练状态。微控制器10从外部数据存储器14依次调入学习算法类型编码、BP网络层数及工作方式位构成的控制字数据写入控制字寄存器组3、调入与BP网络层次及每层神经元个数的数据写入神经元个数寄存器21～28，根据控制字寄存器20中的工作方式位，判本文档来自技高网...

【技术保护点】
１．一种可编程硬件ＢＰ神经元处理器，其特征在于处理器是由局部数据总线（１）、专用寄存器组（２）、控制寄存器组（３）、运算器（４）、权值存储器（５）、误差传递因子存储器（６）、权值个数计数器（７）、层数计数器（８）、训练批次计数器（９）、微控制器（１０）和外部控制总线（１１）组成，其中专用寄存器组（２）、控制寄存器组（３）、运算器（４）、权值存储器（５）、误差传递因子存储器（６）分别与局部数据总线（１）相连；微控制器（１０）通过微控制信号线Ｌ１、Ｌ２、Ｌ３、Ｌ４、Ｌ５、Ｌ６、Ｌ７、Ｌ８分别与专用寄存器组（２）、控制寄存器组（３）、运算器（４）、训练批次计数器（９）、层数计数器（８）、误差传递因子存储器（６）、权值存储器（５）、权值个数计数器（７）相连；运算器（４）与权值存储器（５）之间，运算器（４）与误差传递因子存储器（６）之间通过独立的总线相连。

【技术特征摘要】
1.一种可编程硬件BP神经元处理器，其特征在于处理器是由局部数据总线(1)、专用寄存器组(2)、控制寄存器组(3)、运算器(4)、权值存储器(5)、误差传递因子存储器(6)、权值个数计数器(7)、层数计数器(8)、训练批次计数器(9)、微控制器(10)和外部控制总线(11)组成，其中专用寄存器组(2)、控制寄存器组(3)、运算器(4)、权值存储器(5)、误差传递因子存储器(6)分别与局部数据总线(1)相连；微控制器(10)通过微控制信号线L1、L2、L3、L4、L5、L6、L7、L8分别与专用寄存器组(2)、控制寄存器组(3)、运算器(4)、训练批次计数器(9)、层数计数器(8)、误差传递因子存储器(6)、权值存储器(5)、权值个数计数器...

【专利技术属性】
技术研发人员：黄晞，
申请(专利权)人：福建师范大学，
类型：实用新型
国别省市：35