一种自生成神经网络构建方法技术

一种自生成神经网络构建方法，包括如下步骤：步骤1，加入刺激信号；步骤2，评估神经元输出强度，确定该神经元的连接方向，不断形成网络连接，最终生成初始网络；步骤3，计算连向目标神经元的位置与概率；步骤4，判断当前网络生成过程是否停止，如果是，则转入步骤5，否则转入步骤2继续；步骤5，通过寻优算法，优化网络连接；步骤6，判断是否还需要加入刺激，如果否，则结束，否则转入步骤1；本发明专利技术提出的网络为自生成的网络，可有效减小人为主观因素影响，此外本网络的生成过程与生物神经理论为基础，为进一步探索神经脑，从而实现真正的智能带来可能。

【技术实现步骤摘要】

本专利技术属于神经网络计算
，涉及面向软件建模方法和硬件实现的神经网 络自生成方法，特别涉及。
技术介绍
计算机发展到今天，无论是计算能力还是功耗在性能上都得到了本质上的提升。 但随着人们需求的多样化，当下的计算机结构暴露的问题也越累越多。自然界提供的信息 处理问题有结构性和非结构性两种。结构性问题是指可用数学语言清楚而严格地描述，且 可将问题的实现算法公式化，并映射到计算机程序，然后由计算机条指令处理。在求解这类 问题时，传统的冯诺依曼机的能力远远超过人类。而非结构性问题是指无法用算法描述的 问题，人们难以把自己的认识翻译成机器指令或仅能极其粗略地进行。因此，传统计算机在 进行诸如图象处理与景物分析、语言识别与理解、智能机器人控制时，则与人类能力相差甚 远，甚至无能为力。 神经网络的发展大致可分为三个阶段。1947~1969年为初期，在这期间科学家们 提出了许多神经元模型和学习规则，如MP模型、HEBB学习规则和感知器等。1970~1986年为 过渡期，在此期间，Hopfield教授对网络引入能量函数的概念，给出了网络的稳定性判据， 提出了用于联想记忆和优化计算的途径。1987年至今为发展期，形成神经网络发展的一个 高潮。代表性的有CNN(卷积神经网络）和RNN(循环神经网络）。当下人工神经网络在图像识 另IJ、语音识别等方向取得了很大的成功。但其结构决定了它无法实现生物体一样的智能。 现代人工神经网或者脉冲神经网设计中一个最大缺陷就是神经网不能自组织，自 生长。而是需要外部系统干预才能够改变自身状态。比如神经元之间的连接关系，权值调整 等等。这就注定了这种方式不能像生物神经元一样根据外部的刺激自我生长，修复，也就无 法实现自学习功能。因此要彻底改变人工神经网的局限性，就必须让人工神经网具备自组 织，自生长功能。 现已知的生物神经网络模型有:Kohonen神经网络模型，每个神经元结构相同，但 受刺激后，产生连接权值不同，在外界刺激下，不断接收信号，不断执行聚类过程，形成经 验;Hebb学习规则，神经网络的学习过程最终是发生在神经元之间的突触部位，突触的联结 强度随着突触前后神经元的活动而变化，变化的量与两个神经元的活性之和成正比。神经 网络生成规则可分为两个阶段，生长阶段:未成熟神经细胞柔弱的轴突在刺激信号的引导 下，试探地穿行于正处于发育阶段的大脑之中。一旦轴突的末端找到了其正确的栖息地，它 就开始与周围神经元细胞建立尽可能广泛的突触联系，以便传导信息。成熟阶段:脊椎动物 出生后早期发育中的一个特征是，神经连接的消除。由于生长阶段建立的广泛连接，并不是 所有连接都是高效的。在外部信号的长期刺激下，正确的信息传递会使链接会变的更加稳 固，反之则萎缩分离。
技术实现思路
为了克服上述现有技术的缺点，本专利技术的目的在于提供一种自生成神经网络构建 方法，将生物神经模型的特点和适当的启发式算法映射到硅基电路上，使神经网络可以通 过该模型自生成和自组织，避免了人工神经网络的缺点。 为了实现上述目的，本专利技术采用的技术方案是： -种自生成神经网络构建方法，包括如下步骤： 步骤1，加入刺激信号； 步骤2,评估神经元输出强度，确定该神经元的连接方向，不断形成网络连接，最终 生成初始网络； 步骤3,计算连向目标神经元的位置与概率； 步骤4,判断当前网络生成过程是否停止，如果是，则转入步骤5,否则转入步骤2继 续； 步骤5，通过寻优算法，优化网络连接； 步骤6,判断是否还需要加入刺激，如果否，则结束，否则转入步骤1。 所述神经网络中的神经元具备对输入进行运算然后输出的功能，神经元和神经元 之间能够通过连接进行信号传递，神经元在接收到输入信号时，对输入信号进行运算并存 储相关信息;所述神经元位置在空间布局上呈规则的二维排列，同时给每个神经元一个确 定的坐标值。 通过修改代码，使得神经元具备阈值判断和发射脉冲的功能，即具备输入运算然 后输出的功能，该部分代码是一个可以改变计算模式的黑盒子； 所述输入信号指当前神经元接收到的来自其他神经元的输出信号，所述运算为阈 值判断，即输出值超出某个范围，则输出为1;存储的相关信息指每个神经元的输入输出信 号和阈值判断值，即将每个神经元看作一个可计算、可存储的单元。 本专利技术中，网络初始神经元数量可设定为49,最终大小设定为10000。刺激信号为静态的0，1信息，通过输入转换模块，将静态的0，1信息输入转变为动 态脉冲信号，即输入为1时，不断发射脉冲，为〇时，不产生脉冲，从而使整个网络的生成过程 由静态过程转化为动态过程。 所述步骤2中，根据神经元输出强度，确定该神经元的连接方向的规则如下： 每20个时钟周期统计一次该神经元输出的变化，则该神经元的输出在该20个时钟 周期内变化了Μ次，0 < Μ < 20，如果Μ为0，则不产生连线;若Μ为1到5，则连向该神经元周边距 离为1范围内的神经元;如果Μ为6到10，则连向该神经元周边距离为2范围内的神经元;如果 Μ为11到15,则连向该神经元周边距离为3范围内的神经元；如果Μ为16到20,则连向该神经 元周边距离为4范围内的神经元。 在连接范围内，该神经元连向被连接神经元的概率如下：其中i和j表示被连接神经元的横坐标和纵坐标，kij为连向被连接神经元的连线数 量，求和是指对连接范围内所有被连接神经元的连线数量或者横坐标值相加。 所述步骤4中，通过如下任一方式判断信号是否到达输出： 方式一，判断输出神经元的输出在20个时钟周期内是否发生变化，变化则说明到 达输出； 方式二，观察输出神经元，看是否有连线连向它，如有，则说明信号已到达输出； 当所有的输出神经元中，超过设定个数的输出神经元有脉冲输出，则说明网络生 成完成。 所述步骤5中，寻优算法为遗传算法、遍历算法或退火算法，以其中任意设定的神 经元的输出作为参考量，通过算法，去除网络中冗余部分。具体地，设定A个神经元的输出作 为参考量，当检测到有B个神经元的输出在变化，则停止网络的生成，进入减线阶段;从头开 始遍历每一条连接线，每删除一条，观察该A个神经元的输出是否发生变化，如果发生变化， 则不删除该条连线，如果不变，则认为该线段对系统不产生影响，为冗余部分，将其删除，一 直进行该过程，直到遍历完所有连线，则计算完成。 所述步骤6中，判断是否还需要加入刺激的具体依据是:输出神经元中的变化的神 经元数量达到设定值。 相比于传统的只可改变神经元的权值的神经网络，本专利技术提出了一种网络整体可 变的方式，即连接方式、神经元的计算单元、连接权重均是可变的，本专利技术提出的网络为自 生成的网络，与传统的神经网络全部为人为设定的实现方式完全不同，可有效减小人为主 观因素影响。此外本网络的生成过程与生物神经理论为基础，为进一步探索神经脑，从而实 现真正的智能带来可能。【附图说明】 图1是当处于中心处的神经元输出值为8~11时，其可能连向的周围神经元的位 置，如图所示有25个神经元。图2是网络构建的流程图。【具体实施方式】下面结合附图和实施例详细说明本专利技术的实施方式。生物神经网经过了漫长的进化过程，才形成了异常复杂、规模庞大的神经网络系 统。生物学家对生物神经网的研究工作已经进行了上百年本文档来自技高网...

【技术保护点】
一种自生成神经网络构建方法，其特征在于，包括如下步骤：步骤1，加入刺激信号；步骤2，评估神经元输出强度，确定该神经元的连接方向，不断形成网络连接，最终生成初始网络；步骤3，计算连向目标神经元的位置与概率；步骤4，判断当前网络生成过程是否停止，如果是，则转入步骤5，否则转入步骤2继续；步骤5，通过寻优算法，优化网络连接；步骤6，判断是否还需要加入刺激，如果否，则结束，否则转入步骤1。

【技术特征摘要】

【专利技术属性】
技术研发人员：何虎，许志恒，马海林，王玉哲，王旭，
申请(专利权)人：清华大学，
类型：发明
国别省市：北京;11