BP神经网络结构优化方法技术

技术编号:9642756 阅读:166 留言:0更新日期:2014-02-07 01:46
本发明专利技术提供了一种BP神经网络结构优化方法,包括如下步骤:(a)首先确定输入层神经元数目(Nin)和输出神经元数(Nout);(b)利用所述输入层神经元数目和所述输出神经元数确定所述神经网络的隐含层单元数(Nhid)的取值范围;及(c)获得所述取值范围中各值的最小均方误差(Mse),并以所述最小均方误差所对应的所述隐含层单元数(Nhid)为最佳隐含层单元数(Nhid)。本发明专利技术通过采取的在确定范围内比较均方误差来寻找最佳隐含层单元数,解决了设计三层BP神经网络结构的盲目性,避免了大量的无范围地试凑,不仅简化了繁琐的试凑过程和节省大量的训练时间,而且更具有科学性和实用性。

【技术实现步骤摘要】
【专利摘要】本专利技术提供了一种BP神经网络结构优化方法,包括如下步骤:(a)首先确定输入层神经元数目(Nin)和输出神经元数(Nout);(b)利用所述输入层神经元数目和所述输出神经元数确定所述神经网络的隐含层单元数(Nhid)的取值范围;及(c)获得所述取值范围中各值的最小均方误差(Mse),并以所述最小均方误差所对应的所述隐含层单元数(Nhid)为最佳隐含层单元数(Nhid)。本专利技术通过采取的在确定范围内比较均方误差来寻找最佳隐含层单元数,解决了设计三层BP神经网络结构的盲目性,避免了大量的无范围地试凑,不仅简化了繁琐的试凑过程和节省大量的训练时间,而且更具有科学性和实用性。【专利说明】BP神经网络结构优化方法
本专利技术涉及智能计算领域,尤其涉及对三层BP人工神经网络隐含层单元数确定方法的优化设计。
技术介绍
随着科学技术的飞速发展,人工神经网络也迅速发展,它是智能领域中的一个重要组成部分,BP神经网络是人工智能网络中的一个典型算法,是目前研究最为成熟的神经网络结构之一,因其具有超强的自学习、自组织、自适应、联想记忆及容错能力,在信号处理、模式识别、机器控制、专家系统等、故障诊断、预测等领域中有广泛地应用。而且它本身具有很强的非线性映射能力,解决一些非线性问题更是它最突出的特点,有一个隐含层的BP网络可以逼近任何一个闭区间内的连续函数。因此三层BP神经网络是应用最为广泛的神经网络模型。 然而,BP神经网络在应用时仍存在一个难以突破的问题:难以快速精确地确定最优的隐含层单元数。目前BP神经网络单隐含层单元数确定方法主要有经验公式法和试凑法,但通过经验公式法确定的隐含层单元数并不一定是最佳的单元数,而通过试凑法确定没有一定的范围,导致训练过程繁琐又费时。
技术实现思路
为了解决三层BP神经网络隐含层单元数确定方法没有确定的理论依据,导致盲目设计BP神经网络结构,耗费大量的时间和精力确定隐含层单元数的问题。为此,本专利技术旨在提供一种能够快速且精确确定最佳隐含层单元数的优化方法。由此,本专利技术提供了一种BP神经网络结构优化方法,包括如下步骤:(a)首先确定输入层神经元数目(Nin)和输出神经元数(Nwt) ; (b)利用所述输入层神经元数目和所述输出神经元数确定所述神经网络的隐含层单元数(Nhid)的取值范围?’及U)获得所述取值范围中各值的最小均方误差(Mse),并以所述最小均方误差所对应的所述隐含层单元数(Nhid)为最佳隐含层单元数(Nhid)。一些实施例中,以经验公式为基础确定的隐含层单元数的取值范围Ii1 ( Nhid ( n2,H1为隐含层单元数最小取值,n2为隐含层单元数最大取值。一些实施例中,所述经验公式为 Nhid = 1g2Nin, Nhid ( p/ ,和Nhid ( 2Nin+l,其中p是训练样本集的总体数目,5≤R ( 10。一些实施例中,首先确定一个三层BP神经网络模型,然后通过训练所构建的网络模型得到所述网络模型的所述均方误差(Mse)。一些实施例中,所述步骤(C)包括如下步骤:(Cl)根据所述取值范围中的最小取值U1)确定所述隐含层单元数为,以确定一个三层BP神经网络模型,并且通过训练所构建的网络模型得到相应的第一均方误差(Mse1) ;(c2)令所述隐含层单元数为Nhid =叫+1,按照步骤(c2)得到相应的第二均方误差(Mse2);及((:3)比较第一均方误差(Mse1)和所述第二均方误差(Mse2)的大小,若第一均方误差(Mse1)小于所述第二均方误差(Mse2),则令所述隐含层单元数(Nhid)为与所述第一均方误差(Mse1)对应的所述最小值U1X若所述第二均方误差(Mse2)小于所述第一均方误差(Mse1),则令所述隐含层单元数(Nhid)为与所述第二均方误差(Mse2)对应的所述最小值(叫+1)。一些实施例中,所述步骤(c3)中,若所述第二均方误差(Mse2)小于所述第一均方误差(Mse1),则将所述第二均方误差(Mse2)赋值给所述第一均方误差(Mse1)后保存所述第一均方误差(Mse1)的值,再令所述隐含层单元数(Nhid)为与所述第一均方误差(Mse1)对应的所述最小值U1X一些实施例中,还包括步骤(c4),比较所述隐含层单元数Nhid和所述隐含单元数最大取值(n2)的大小,如果Nhid < n2则返回步骤(c2),并依次循环直到满足条件Nhid≥n2,退出循环。本专利技术通过采取的在确定范围内比较均方误差来寻找最佳隐含层单元数,解决了设计三层BP神经网络结构的盲目性,避免了大量的无范围地试凑,不仅简化了繁琐的试凑过程和节省大量的训练时间,而且更具有科学性和实用性。结合附图,根据下文的通过示例说明本专利技术主旨的描述可清楚本专利技术的其它方面和优点。【专利附图】【附图说明】结合附图,通过下文详细说明,可更清楚地理解本专利技术的上述及其他特征和优点,其中:图1为根据本专利技术实施例的BP神经网络结构优化方法所应用的三层BP神经网络结构示意图;及图2为根据本专利技术实施例的BP神经网络结构优化方法的流程图。【具体实施方式】参见本专利技术实施例的附图,下文将更详细地描述本专利技术。然而,本专利技术可以以许多不同形式实现,并且不应解释为受在此提出之实施例的限制。相反,提出这些实施例是为了达成充分及完整公开,并且使本
的技术人员完全了解本专利技术的范围。这些附图中,为清楚起见,可能对层及区域的尺寸及相对尺寸进行了放大或变形。应理解,本专利技术的描述/图示为单个单元的部分可存在于两个或两个以上的物理上独立但合作实现所描述/图示之功能的实体。此外,描述/图示为两个或两个以上物理上独立的部分可集成入一个单独的物理上实体以进行所描述/图示的功能。现参考附图详细说明根据本专利技术实施例的BP神经网络结构优化方法。请参阅图1,图1所示为三层BP神经网络结构示意图。三层BP神经网络由输入层、隐含层和输出层组成,各层神经元单元数都可根据不同应用情况设定。在输入层和输出层神经元数确定的条件下,参照图2BP神经网络隐含层单元数确定优化方法流程图来确定隐含层单元数的数量。本专利技术以BP神经网络训练后得到的均方误差Mse作为选取最佳隐含层单元数的性能评价参数【权利要求】1.一种BP神经网络结构优化方法,其特征在于,包括如下步骤: Ca)首先确定输入层神经元数目(Nin)和输出神经元数(Nrat); (b)利用所述输入层神经元数目和所述输出神经元数确定所述神经网络的隐含层单元数(Nhid)的取值范围;及 (c)获得所述取值范围中各值的最小均方误差(Mse),并以所述最小均方误差所对应的所述隐含层单元数(Nhid)为最佳隐含层单元数(Nhid)。2.根据权利I所述的优化方法,其特征在于,以经验公式为基础确定的隐含层单元数的取值范围Ii1 ( Nhid ( n2,H1为隐含层单元数最小取值,n2为隐含层单元数最大取值。3.根据权利2所述的优化方法,其特征在于,所述经验公式为Nhid= 1g2Nin, Nhid ( p/,和NhidS 2Nin+l,其中P是训练样本集的总体数目,5≤R≤10。4.根据权利3述的优化方法,其特征在于,首先确定一个三层BP神经网络模型,然后通过训练所构建的网络模型得到所述网络模型的本文档来自技高网
...

【技术保护点】
一种BP神经网络结构优化方法,其特征在于,包括如下步骤:(a)首先确定输入层神经元数目(Nin)和输出神经元数(Nout);(b)利用所述输入层神经元数目和所述输出神经元数确定所述神经网络的隐含层单元数(Nhid)的取值范围;及(c)获得所述取值范围中各值的最小均方误差(Mse),并以所述最小均方误差所对应的所述隐含层单元数(Nhid)为最佳隐含层单元数(Nhid)。

【技术特征摘要】

【专利技术属性】
技术研发人员:叶明星戴志军焦斌
申请(专利权)人:上海电机学院
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1