【技术实现步骤摘要】
面向开放环境模式识别的结构发育型神经网络优化方法
[0001]本专利技术涉及开放环境下模式识别
,尤其涉及一种面向开放环境模式识别的结构发育型神经网络优化方法。
技术介绍
[0002]人工智能在现实世界中运行时往往暴露在开放环境的非稳态信息流中,需要拥有持续学习的能力,即整合新知识,同时保留以前学习到的经验,通常被认为是未来通用人工智能所必需的属性之一。然而,目前主流的先进深度学习模型通常依赖于一次性可用的完整训练集,当要学习新知识时,由于新信息会覆盖之前学习过的知识,往往会导致灾难性遗忘,难以在非稳态环境中持续学习。因此,近年来持续学习问题重新吸引了大量的关注,但是当前持续学习方法大多仍然集中在监督学习的问题上,而开放环境往往缺少先验信息和外部监督信息,大量的数据通常没有类别标签,每个数据被赋予了类别标签,因而目前持续学习方法通常与开放环境的特性是相违背的。
[0003]无监督持续学习旨在从非稳态的无标记数据流中学习,其中数据的分布或者类别的数量随着时间变化。然而,神经网络模型在无监督持续学习中往往会面临稳定
【技术保护点】
【技术特征摘要】
1.一种面向开放环境模式识别的结构发育型神经网络优化方法,其特征在于,步骤包括:获取待识别图像或文本数据流输入至结构发育型神经网络中进行学习以及分类;所述结构发育型神经网络在结构发育与参数调整时,根据获胜神经元的信息饱和度调控神经元参数以及分裂时机,并不断调整竞争获胜神经元的信息饱和度,所述信息饱和度根据神经元获胜频次以及信息承载量计算得到,当神经元的信息饱和度达到预设饱和阈值时分裂出新的神经元;所述结构发育型神经网络在结构发育过程中,设置神经元分裂的抑制机制,在神经元信息饱和度达到饱和后,判别是否生成新的神经元,如果神经元生成不成功,则将造成抑制神经元生成的目标神经元作为获胜神经元,并调整目标神经元的属性。2.根据权利要求1所述的面向开放环境模式识别的结构发育型神经网络优化方法,其特征在于,在所述结构发育型神经网络的发育过程中,根据所处发育阶段以及输入信号调整获胜神经元的属性和横向连接,其中根据所述信息饱和度确定神经元的发育阶段,所述神经元的发育阶段根据信息饱和度分为未成熟阶段、成熟阶段和父元阶段。3.根据权利要求2所述的面向开放环境模式识别的结构发育型神经网络优化方法,其特征在于,当神经元刚生成时,将初始饱和度设置为父元的信息饱和度变化量,如果没有父元,则设置为未成熟神经元信息饱和度变化量的最大值S
r
/4,其中S
r
∈(0,1)是信息饱和度的重置阈值;从神经元生成到信息饱和度达到重置阈值的阶段为未成熟阶段,未成熟神经元继承父元的类别表示;当信息饱和度超过所述重置阈值,判定神经元进入成熟阶段,神经元成熟后独立表示一个类别;当信息饱和度达到饱和阈值,获胜神经元分裂生成新的神经元,获胜神经元为新神经元的父元,新神经元为获胜神经元的子元,此时获胜神经元进入父元阶段。4.根据权利要求3所述的面向开放环境模式识别的结构发育型神经网络优化方法,其特征在于,获胜神经元n
k
关于输入信号x
i
的信息饱和度的变化量Δs
k,i
根据输入信号x
i
与获胜神经元n
k
的相似度o
k,j
确定得到,所述相似度o
k,j
采用高斯径向基函数计算得到,即为:其中,d()为计算输入信号x
i
与当前获胜神经元n
k
的中心矢量μ
k
的距离函数,σ
k
为当前神经元n
k
的覆盖域参数。5.根据权利要求4所述的面向开放环境模式识别的结构发育型神经网络优化方法,其特征在于,信息饱和度s
k
的更新计算公式为:s
k
′
=s
k
+Δs
k,i
其中,s
k
′
为更新后的信息饱和度,s
k
为更新前的信息饱和度,S
r
为重置阈值,且a=(1
‑
S
r
)为比例系数,a与S
r
为负相关,在神经元未成熟时信息饱和度变化量Δs
k,i
与S
r
正相关,成熟时Δs
k,i
与S
r
负相关。6.根据权利要求1所述的面向开放环境模式识别的结构发育型神经网络优化方法,其
特征在于,所述结构发育型神经网络中,新的神经元均是以当前输入信号为中心矢量,当获胜神经元的所述信息饱和度达到饱和阈值、获胜神经元分裂出新的神经元时,新神经元的覆盖域参数初始化为子元与父元中心矢量之间的距离的三分之一,信...
【专利技术属性】
技术研发人员:谢海斌,丁智勇,庄东晔,李鹏,彭耀仟,江川,丁语嫣,
申请(专利权)人:中国人民解放军国防科技大学,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。