一种正交增量的随机配置网络建模方法技术

本发明专利技术公开了一种正交增量的随机配置网络建模方法，包括：初始化正交随机配置网络学习所需要的参数，构造正交形式的监督机制选取候选节点；从上述新增候选节点中选出最佳隐层节点，找到其对应的最佳隐层参数，代入节点输出向量构造地评估输出权值。本发明专利技术避免了原始随机配置网络的冗余节点，提高了网络紧致性。同时，在正交随机配置网络的框架下，不需要复杂的再训练过程，仅以构造法的形式就可以得到当前节点的全局最优解。

【技术实现步骤摘要】
一种正交增量的随机配置网络建模方法
本专利技术涉及神经网络模型
，特别涉及一种正交增量的随机配置网络建模方法。
技术介绍
目前，支持向量机、人工神经网络等机器学习算法已成功应用于流程工业、金融、机器人等领域，特别是具有近似非线性映射的人工神经网络。从结构上看，神经网络一般可细分为递归神经网络、对称连接网络和前馈神经网络。前馈神经网络结构简单、收敛速度快的优点，使其的应用与研究都更为广泛。传统的前馈神经网络训练算法通常采用梯度下降法，然而这种方法费时、对初始参数敏感且容易险入局部极小值。为了解决这些问题，人们把目光投向随机算法，它通过随机分配网络参数子集，将模型求解转化为一个更简单的优化问题，使实现更加容易，人为干预更少，由此衍生出多种随机权值网络。随机配置网络作为近年来出现的一种先进的单隐层随机权值网络，大量的回归和分类试验都证实它在紧凑性、快速学习和泛化性能等方面具有明显的优势。具体地，它可以自适应选择隐层节点参数范围，然后通过监督机制随机分配隐层节点参数，生成新的隐层节点。然而由于其随机性，即使采用监督机制，原始随机配本文档来自技高网...

【技术保护点】
1.一种正交增量的随机配置网络建模方法，其特征在于，包括以下步骤：/n步骤一，初始化正交随机配置网络学习所需要的参数，构造正交形式的监督机制，将满足约束的隐层节点选为新增候选节点；/n步骤二，从上述新增候选节点中找出最佳隐层参数，最佳节点输出转化为其对应的最佳正交向量，并构造地评估输出权值。/n

【技术特征摘要】
1.一种正交增量的随机配置网络建模方法，其特征在于，包括以下步骤：
步骤一，初始化正交随机配置网络学习所需要的参数，构造正交形式的监督机制，将满足约束的隐层节点选为新增候选节点；
步骤二，从上述新增候选节点中找出最佳隐层参数，最佳节点输出转化为其对应的最佳正交向量，并构造地评估输出权值。


2.根据权利要求1所述的正交增量的随机配置网络建模方法，其特征在于，所述步骤一包括：
给定N个样本，其中样本输入X＝{x1,x2,…,xN},样本输出为T＝{t1,t2,…,tN},初始化正交随机配置网络学习所需要的参数，包括最大隐层节点数Lmax、最大配置次数Tmax、期望容差ε、范围参数λ、隐层参数随机配置范围Υ:＝{λmin:Δλ:λmax}、一个极小的正数σ、初始残差e0＝T、激活函数g(x)，当前网络隐层节点数L＝1,2,3,…,Lmax；
加入第L个节点时，给定一个非负序列rL,0＝L/(L+1)，令序列μL,0＝(1-rL,0)/(L+1)；在可调范围[-λmin,λmin]内随机生成Tmax对隐层参数，即输入权值wL和偏置bL；
构造隐层节点的正交监督机制：
ξL,q＝<eL-1,q,vL>2/||vL||2-(1-rL,0-μL,0)||eL-1,q||2,q＝1,2,…,m；
其中，eL-1为上一次迭代的残差，vL是第L次迭代中满足∥vL∥>σ的新增节点正交向量，其计算形式如下：
节点隐层输出T为矩阵或向量的转置；
计算该节点的正交向量：
若L＝1，v1＝h1；
若L>...

【专利技术属性】
技术研发人员：代伟，裴诗雨，董良，刘毅，王光辉，张政煊，杨春雨，
申请(专利权)人：中国矿业大学，
类型：发明
国别省市：江苏;32