一种神经网络构建方法技术

本发明专利技术提供了一种神经网络构建方法，包括获取神经网络生成参数，所述生成参数包括神经元聚类数、神经元密集程度参数、分布空间大小参数和神经元总数；根据所述神经网络生成参数生成神经网络，所述神经网络满足下述公式x(n+1)＝W1u(n+1)+W2x(n)+W3y(n)；计算所述神经网络的状态变换矩阵W2，所述状态变换矩阵用于根据所述神经网络的当前内部状态获取所述神经网络的下一刻内部状态；使用预设训练集训练所述神经网络，在训练过程中得到输入输出映射矩阵，所述输入输出映射矩阵能够根据输入唯一确定输出。本发明专利技术从神经网络的架构生成、状态变换矩阵设定的角度构建出了完整的神经网络，其连接结构相较于现有技术得到的神经网络与生物学网络更为近似。

A Method of Constructing Neural Network

【技术实现步骤摘要】
一种神经网络构建方法
本专利技术涉及数据处理领域，尤其涉及一种神经网络构建方法。
技术介绍
神经网络的构建是基于神经网络应用的前提，近十年来，模拟生物神经网络的类生物神经网络系统在辨识、决断和预测等领域均有卓越的表现。类生物神经网络通过模拟生物神经网络而具备较好的智能性和自适应性，但是通常神经网络中个神经元的完全随机连接导致了神经网络内部的耦合度高，动力学特性不足，从而导致了神经网络的自适应性难移提高并且输出误差难以减小。
技术实现思路
为了解决上述技术问题，本专利技术提出了一种神经网络构建方法。本专利技术具体是以如下技术方案实现的：一种神经网络构建方法，包括：获取神经网络生成参数，所述生成参数包括神经元聚类数、神经元密集程度参数、分布空间大小参数和神经元总数；根据所述神经网络生成参数生成神经网络，所述神经网络满足下述公式x(n+1)＝W1u(n+1)+W2x(n)+W3y(n)；其中，x、y分别为输入和输出，W1,W2,W3分别为所述神经网络当前输入、当前神经网络状态、当前输出到下一个神经网络状态之间的转换矩阵；计算所述神经网络的状态变换矩阵W2，所述状态变换矩阵用于根据所述神经网络的当前内部状态获取所述神经网络的下一刻内部状态；使用预设训练集训练所述神经网络，在训练过程中得到输入输出映射矩阵，所述输入输出映射矩阵能够根据输入唯一确定输出。进一步地，所述计算所述神经网络的状态变换矩阵W2包括：选取靠近矩形布局图中心的基础神经元作为参考点，计算其它神经元与所述参考点的距离；按照升序排列各个神经元，所述神经元在排序结果中的位置即为所述神经元在状态变换矩阵W2中的编号；为每个基础神经元设置聚类中心编号，确定各个神经元所属的聚类的编号；计算具有互连关系的神经元之间的连接强度，并根据所述连接强度得到状态变换矩阵W2。进一步地，可以根据公式Ci＝argmin(d(Ni,Zc))得到各个神经元所属的聚类的编号，其中Ci标识神经元Ni所属聚类的编号，Zc为聚类编号为c的基础神经元的坐标，d(Ni,Zc)为神经元Ni与基础神经元Zc的坐标之间的距离。进一步地，所述状态变换矩阵W2计算方法为：计算任意两个神经元Ni，Nj之间的相互关系；根据所述相互关系得到与所述两个神经元Ni，Nj相关的状态变换矩阵W2的元素值wij。进一步地，若所述两个神经元Ni，Nj坐标相同，则其相互关系为一类关系；若所述两个神经元Ni，Nj坐标不同但是属于相同聚类，则其相互关系为二类关系，否则为三类关系。进一步地，所述根据所述相互关系得到与所述两个神经元Ni，Nj相关的状态变换矩阵W2的元素值wij包括：获取一类关系对应的连接强度参量变化区间α∈[-t1,t1]，二类关系对应的连接强度参量变化区间β∈[-t2,t2]，三类关系对应的连接强度参量变化区间γ∈[-t3,t3]；根据相互关系确定元素值其中进一步地，还包括对于状态变换矩阵W2进行调整，具体包括：计算得到的状态变换矩阵W2对应的谱半径max|λi|，λi为状态变换矩阵W2的特征值。调节α,β,γ的值，使得状态变换矩阵W2对应的谱半径小于1。本专利技术实施例提供本专利技术实施例公开了一种神经网络构建方法，从神经网络的架构生成、状态变换矩阵设定的角度构建出了完整的神经网络，这种神经网络的动力学特性可调，并且相较于现有技术动力学特征更强，并且神经元之间的耦合度较低，能够有更加智能化的表现。附图说明为了更清楚地说明本专利技术实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本专利技术的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其它附图。图1是本专利技术实施例提供的一种神经网络构建方法流程图；图2是本专利技术实施例提供的神经网络生成方法流程图；图3是本专利技术实施例提供的得到基础神经元的方法流程图；图4是本专利技术实施例提供的生成神经网络的方法流程图；图5是本专利技术实施例提供的计算所述神经网络的状态变换矩阵W2的方法流程图。具体实施方式为了使本
的人员更好地理解本专利技术方案，下面将结合本专利技术实施例中的附图，对本专利技术实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本专利技术一部分的实施例，而不是全部的实施例。基于本专利技术中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都应当属于本专利技术保护的范围。需要说明的是，本专利技术的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别类似的对象，而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换，以便这里描述的本专利技术的实施例能够以除了在这里图示或描述的那些以外的顺序实施。此外，术语“包括”和“具有”以及他们的任何变形，意图在于覆盖不排他的包含，例如，包含了一系列步骤或单元的过程、方法、系统、产品或设备不必限于清楚地列出的那些步骤或单元，而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。本专利技术实施例公开了一种神经网络构建方法，如图1所示，所述方法包括：S101.获取神经网络生成参数，所述生成参数包括神经元聚类数、神经元密集程度参数、分布空间大小参数和神经元总数。具体地，所述神经元聚类数、神经元密集程度参数、分布空间大小参数和神经元总数均属于已知参量，其具体内容视用户的需求而定。S102.根据所述神经网络生成参数生成神经网络，所述神经网络满足下述公式x(n+1)＝W1u(n+1)+W2x(n)+W3y(n)；其中，x、y分别为输入和输出，W1,W2,W3分别为所述神经网络当前输入、当前神经网络状态、当前输出到下一个神经网络状态之间的转换矩阵。具体地，W1,W2,W3并不因神经网络的学习过程而变化，并且W1,W3均与W2有关。事实上，神经网络的W1,W2,W3三个自身参数矩阵内容相关，确定状态变换矩阵W2即可得到唯一确定的神经网络，在神经网络的实际学习和使用过程中，并不需要知晓W1,W3的实际数值。状态变换矩阵W2为表征神经网络构造的内部参数。S103.计算所述神经网络的状态变换矩阵W2，所述状态变换矩阵用于根据所述神经网络的当前内部状态获取所述神经网络的下一刻内部状态。S104.使用预设训练集训练所述神经网络，在训练过程中得到输入输出映射矩阵，所述输入输出映射矩阵能够根据输入唯一确定输出。神经网络的输入和输出存在唯一确定关系Y＝WoutX，只需要使用现有技术中的神经网络训练方法确定输入输出映射矩阵Wout即可。为了得到满足下述公式x(n+1)＝W1u(n+1)+W2x(n)+W3y(n)的神经网络，本专利技术实施例进一步提供了神经网络生成方法，如图2所示，包括：S1021.根据所述神经元聚类数得到基础神经元。S1022.根据预设生成规则以所述基础神经元为聚类中心生成神经网络，所述神经网络中神经元的个数与所述神经元总数相同，所述神经网络中每个神经元与其相邻的神经元均双向互联，所述神经网络中每个神经元以预设概率与自身连接。其中，所述神经网络中每个神经元以预设概率与自身连接的含义为：所述神经网络中存在自反馈连接的神经元个数与占总神经元个数的比值为预设概率。S1023.设置与所述神本文档来自技高网...

【技术保护点】
1.一种神经网络构建方法，其特征在于，包括：获取神经网络生成参数，所述生成参数包括神经元聚类数、神经元密集程度参数、分布空间大小参数和神经元总数；根据所述神经网络生成参数生成神经网络，所述神经网络满足下述公式x(n+1)＝W1u(n+1)+W2x(n)+W3y(n)；其中，x、y分别为输入和输出，W1,W2,W3分别为所述神经网络当前输入、当前神经网络状态、当前输出到下一个神经网络状态之间的转换矩阵；计算所述神经网络的状态变换矩阵W2，所述状态变换矩阵用于根据所述神经网络的当前内部状态获取所述神经网络的下一刻内部状态；使用预设训练集训练所述神经网络，在训练过程中得到输入输出映射矩阵，所述输入输出映射矩阵能够根据输入唯一确定输出。

【技术特征摘要】
1.一种神经网络构建方法，其特征在于，包括：获取神经网络生成参数，所述生成参数包括神经元聚类数、神经元密集程度参数、分布空间大小参数和神经元总数；根据所述神经网络生成参数生成神经网络，所述神经网络满足下述公式x(n+1)＝W1u(n+1)+W2x(n)+W3y(n)；其中，x、y分别为输入和输出，W1,W2,W3分别为所述神经网络当前输入、当前神经网络状态、当前输出到下一个神经网络状态之间的转换矩阵；计算所述神经网络的状态变换矩阵W2，所述状态变换矩阵用于根据所述神经网络的当前内部状态获取所述神经网络的下一刻内部状态；使用预设训练集训练所述神经网络，在训练过程中得到输入输出映射矩阵，所述输入输出映射矩阵能够根据输入唯一确定输出。2.根据权利要求1所述的方法，其特征在于：所述计算所述神经网络的状态变换矩阵W2包括：选取靠近矩形布局图中心的基础神经元作为参考点，计算其它神经元与所述参考点的距离；按照升序排列各个神经元，所述神经元在排序结果中的位置即为所述神经元在状态变换矩阵W2中的编号；为每个基础神经元设置聚类中心编号，确定各个神经元所属的聚类的编号；计算具有互连关系的神经元之间的连接强度，并根据所述连接强度得到状态变换矩阵W2。3.根据权利要求1所述的方法，其特征在于：可以根据公式Ci＝argmin(d(Ni,Zc)...

【专利技术属性】
技术研发人员：金涛，江浩，
申请(专利权)人：浙江新铭智能科技有限公司，
类型：发明
国别省市：浙江,33