受大脑抑制反馈机制启发的人工神经网络构建方法及系统技术方案

本发明专利技术提供一种受大脑抑制反馈机制启发的人工神经网络构建方法及系统，所述构建方法包括：将多个参考样本的人工神经网络中的神经元区分为兴奋性神经元和抑制性神经元；通过抑制性反馈对抑制性神经元进行抑制，得到抑制性反馈神经网络；将抑制性反馈神经网络重组为闭环神经网络，用于针对当前样本的反馈学习确定决策规则本发明专利技术通过引入神经科学中的兴奋性和抑制性神经元的概念，可优化整体神经网络的性能；进一步通过引入抑制反馈后的闭环系统可提高鲁棒性能。

Construction Method and System of Artificial Neural Networks Inspired by Brain Inhibitory Feedback Mechanism

The invention provides an artificial neural network construction method and system inspired by the brain inhibition feedback mechanism. The construction method includes: dividing the neurons in the artificial neural network of multiple reference samples into excitatory neurons and inhibitory neurons; suppressing the inhibitory neurons by the inhibitory feedback to obtain the inhibitory feedback neural network; and feeding the inhibitory feedback spirit. The network is reconstructed into a closed-loop neural network to determine decision rules for feedback learning of current samples. By introducing the concepts of excitatory and inhibitory neurons in neuroscience, the performance of the whole neural network can be optimized; furthermore, the robust performance can be improved by introducing a closed-loop system with suppressed feedback.

【技术实现步骤摘要】
受大脑抑制反馈机制启发的人工神经网络构建方法及系统本申请要求于2018年11月12日提交中国专利局、申请号为201811341201.2、专利技术名称为“受大脑抑制反馈机制启发的人工神经网络”的中国专利申请的优先权，其全部内容通过引用结合在本申请中。
本专利技术属于计算机科学中的人工神经网络及脑神经科学领域
，具体涉及一种受大脑抑制反馈机制启发的人工神经网络构建方法及系统。
技术介绍
人工神经网络是上世纪中后期在人工智能领域兴起的一种技术。它在一定程度上对人脑神经元细胞进行了数学上的抽象，建立了信息科学意义上的神经元模型，并对这些神经元按照一定的连接，形成了不同的网络结构。随着人工神经网络的深入研究，该技术已经获得了重要的应用价值，在多个领域已表现出了出色的效果。人工神经网络模型的出现最早见于1943年的WarrenMcCulloch与WalterPitts基于数学和逻辑算法提出的McCulloch-Pitts(MP)模型。该模型通过神经递质传播该神经元的兴奋和抑制信息。类似于生物神经网络的神经元，MP模型中的神经元也同时接受其它神经元的输入，该输入通常是其它神经元输出通过一定权重的线性叠加。类似于生物神经元的激活，MP模型中也定义了一定形式的激活函数，当神经元的输入满足激活函数的条件，它便被激活或者类似于生物神经元的“放电”，并输出给网络中的其它神经元。把许多个这样的神经元按照一定的层次结构连接起来，就可以得到各种形式的多层人工神经网络。自MP模型之后，来自神经科学和计算机科学的科学家们对人工神经网络的概念和方法进行了不断地推进。1949年Hebb等人在神经生物学领域提出了突触学习，该规则指出神经元之间突触联系是可变的假说。在该规则中，两个神经元的突触的联接强度当两个神经元对刺激处于同时相应的一致性而增强，当神经元所处对激励不同时响应的不一致性而减弱。依据Hebb学习理论，Rochester，Holland和IBM公司的研究人员合作，在IBM701计算机上用网络学习经验改变强度的方式来模拟Hebb学习，并取得了成功。后来，人工智能的主要创始人之一，Minsky仔细分析了以感知器为代表的神经网络系统的功能及局限后，于1969年出版了《Perceptron》一书，指出感知器不能实现XOR逻辑函数问题，并且不能解决高阶谓词问题。这些研究直接否定了早期的人工神经网络，并给后续一些年的人工神经网络发展带来很大的负面影响。然而，到了上世纪80年代，各种人工神经网络技术陆续出现。1982年，J.J.Hopfield提出了Hopfield神经网格模型和连续时间的Hopfield神经网络模型，进一步推进了神经网络的新模型和方法的研究。1984年，Hinton等人用模拟退火算法提出了Boltzman机模型，给出了多层网络的训练方法。而到了1986年，Rumelhart,Hinton,Williams发展了BP算法，该算法被广泛的应用到后来的多层神经网络，乃至当前影响最大的深度学习技术。2006年，Hinton等人提出了深度置信神经网络(DBN)的概念，并给出了逐层非监督学习的训练方法，从此，对人工神经网络的研究进一步飞跃至深度学习时代。经过10几年的发展，深度学习算法遍地开花，出现了多种不同的神经网络，除深度置信网络外，还包括卷积神经网络、反复神经网络、限制波尔兹曼积、自动编解码等多种变种。其中，卷积神经网络在层次上更类似于人脑的视觉通路层状结构，而其中的局部卷积，感受野等概念，更和人类的神经元特性非常相近。从一定意义上说，卷积神经网络是目前为止最类脑的人工神经网络。虽然人工神经网络中的神经元和人脑中的神经元有着共同的名字和相似的特征，两者的区别也非常明显。前者具有特定且相对简单的数学模型，而后者的模型相对复杂得多；前者在神经网络中的种类比较单一，而后者种类更多，其中包括兴奋性和抑制性两大类不同的神经元；前者通过数学的方法不断学习神经元之间连接的权重，后者对应的是一系列突触学习规则。
技术实现思路
为了解决现有技术中的上述问题，即为了优化人工神经网络的结构，改善现有人工神经网络的性能，本专利技术提供了一种受大脑抑制反馈机制启发的人工神经网络构建方法及系统。为实现上述目的，本专利技术提供了如下方案：一种受大脑抑制反馈机制启发的人工神经网络构建方法，所述构建方法包括：将多个参考样本的人工神经网络中的神经元区分为兴奋性神经元和抑制性神经元；通过抑制性反馈对抑制性神经元进行抑制，得到抑制性反馈神经网络；将抑制性反馈神经网络重组为闭环神经网络，用于针对当前样本的反馈学习确定决策规则。优选地，所述通过抑制性反馈对抑制性神经元进行抑制，得到抑制性反馈神经网络，具体包括：建立含有抑制性反馈单元的数学模型，确定反馈学习规则；根据所述反馈学习规则，对抑制性神经元进行抑制，得到抑制性反馈神经网络。优选地，所述建立含有抑制性反馈单元的数学模型，确定反馈学习规则，具体包括：基于抑制性反馈单元的输入和输出的函数关系，建立网络前向数学模型；根据网络前向数学模型，确定反馈函数；其中，所述反馈函数的反馈向量基于隐层和抑制性神经元之间的连接权重、以及抑制性神经元向量确定；基于所述反馈函数，根据输入和反馈获得该神经元的输出；确定反馈学习的学习规则；在所述规则中，反馈量基于隐层和输出层之间的连接权重和输出层确定。优选地，所述对抑制性神经元进行抑制作用，分为前向抑制和反馈抑制；其中，前向抑制是信息通过神经网络正向流动，对抑制性输出的神经元起到抑制作用；反馈抑制是信息反向流动，通过抑制性神经元反作用于抑制性神经元的输入神经元，对输入神经元起到抑制作用。优选地，在所述数学模型中，抑制性神经元的输入为兴奋性神经元的输入和抑制性神经元的输出。优选地，所述兴奋性神经元提供正的输出，对所述兴奋性神经元输出的神经元起到激励作用，所述兴奋性神经元激活兴奋性神经元和抑制性神经元；所述抑制性神经元提供负的输出，对所述抑制性神经元输出的神经元起到抑制作用，所述抑制性神经元能抑制兴奋性神经元的激活。优选地，所述决策规则包括快速决策、有偏决策及反复决策；其中，快速决策是在前向无反馈的条件下，确定决策结果；有偏决策是先入为主地假定样本属于某一类的先验，经过输入神经元和反馈后共同输出的决策结果；反复决策是依次考虑样本属于某一类的先验，最后融合多个分类决策结果给出最终的结果。为解决上述技术问题，本专利技术还提供了如下方案：一种受大脑抑制反馈机制启发的人工神经网络构建系统，所述构建系统包括：区分单元，用于将多个参考样本的人工神经网络中的神经元区分为兴奋性神经元和抑制性神经元；抑制性反馈单元，用于通过抑制性反馈对抑制性神经元进行抑制，得到抑制性反馈神经网络；结构重组单元，用于将抑制性反馈神经网络重组为闭环神经网络，用于针对当前样本的反馈学习确定决策规则。优选地，所述抑制性反馈单元包括：建模模块，用于建立含有抑制性反馈单元的数学模型，确定反馈学习规则；抑制模块，用于根据所述反馈学习规则，对抑制性神经元进行抑制，得到抑制性反馈神经网络。优选地，所述建模模块包括：建模子模块，用于基于抑制性反馈单元的输入和输出的函数关系，建立网络前向数学模型；函数确定子模块，用于根据网络前向数学模型，确定反馈函数；其中，所本文档来自技高网...

【技术保护点】
1.一种受大脑抑制反馈机制启发的人工神经网络构建方法，其特征在于，所述构建方法包括：将多个参考样本的人工神经网络中的神经元区分为兴奋性神经元和抑制性神经元；通过抑制性反馈对抑制性神经元进行抑制，得到抑制性反馈神经网络；将抑制性反馈神经网络重组为闭环神经网络，用于针对当前样本的反馈学习确定决策规则。

【技术特征摘要】
2018.11.12 CN 20181134120121.一种受大脑抑制反馈机制启发的人工神经网络构建方法，其特征在于，所述构建方法包括：将多个参考样本的人工神经网络中的神经元区分为兴奋性神经元和抑制性神经元；通过抑制性反馈对抑制性神经元进行抑制，得到抑制性反馈神经网络；将抑制性反馈神经网络重组为闭环神经网络，用于针对当前样本的反馈学习确定决策规则。2.根据权利要求1所述的受大脑抑制反馈机制启发的人工神经网络构建方法，其特征在于，所述通过抑制性反馈对抑制性神经元进行抑制，得到抑制性反馈神经网络，具体包括：建立含有抑制性反馈单元的数学模型，确定反馈学习规则；根据所述反馈学习规则，对抑制性神经元进行抑制，得到抑制性反馈神经网络。3.根据权利要求2所述的受大脑抑制反馈机制启发的人工神经网络构建方法，其特征在于，所述建立含有抑制性反馈单元的数学模型，确定反馈学习规则，具体包括：基于抑制性反馈单元的输入和输出的函数关系，建立网络前向数学模型；根据网络前向数学模型，确定反馈函数；其中，所述反馈函数的反馈向量基于隐层和抑制性神经元之间的连接权重、以及抑制性神经元向量确定；基于所述反馈函数，根据输入和反馈获得该神经元的输出；确定反馈学习的学习规则；在所述规则中，反馈量基于隐层和输出层之间的连接权重和输出层确定。4.根据权利要求2所述的受大脑抑制反馈机制启发的人工神经网络构建方法，其特征在于，所述对抑制性神经元进行抑制作用，分为前向抑制和反馈抑制；其中，前向抑制是信息通过神经网络正向流动，对抑制性输出的神经元起到抑制作用；反馈抑制是信息反向流动，通过抑制性神经元反作用于抑制性神经元的输入神经元，对输入神经元起到抑制作用。5.根据权利要求2所述的受大脑抑制反馈机制启发的人工神经网络构建方法，其特征在于，在所述数学模型中，抑制性神经元的输入为兴奋性神经元的输入和抑制性神经元的输出。6.根据权利要求1所述的受大脑抑制反馈机制启发的人工神经网络构建方法，其...

【专利技术属性】
技术研发人员：白俊，曾毅，赵宇轩，
申请(专利权)人：中国科学院自动化研究所，
类型：发明
国别省市：北京,11