【技术实现步骤摘要】
一种基于一致正则化的在线超限学习机目标识别方法及系统
本专利技术涉及图像分类、目标识别
,具体涉及一种基于一致正则化的在线超限学习机目标识别方法及系统。
技术介绍
超限学习机(extremelearningmachine,ELM)是一种高效、泛化、最初以单隐层前馈神经网络为基础的神经网络学习算法。超限学习机理论的提出受生物学习启发并试图解释回答生物神经元在学习过程中是否需要调整的基本问题。在其提出后不久,哈佛大学、斯坦福大学、麻省理工大学、IBM沃森等知名研究机构相继在鼠的嗅觉系统、猴的视觉系统以及人的感知系统中得到直接或间接验证。超限学习机理论的核心内容为:具有非线性分段连续响应的隐层节点的单隐层前馈神经网络,可以不需调整隐层节点参数即可任意逼近连续目标函数。通过超限学习机理论分析证明,单隐层前馈神经网络的训练可以转化为对特定线性系统最小二乘解的求解,以解析式的矩阵运算代替传统的迭代式梯度下降,从而使得应用超限学习机原理训练随机神经网络,具备计算快速可满足实时学习、待人工设定的学习参量少、准确度高和泛化能力良好等突出 ...
【技术保护点】
1.一种基于一致正则化的在线超限学习机目标识别方法,其特征在于,包括进行基于单隐层前馈神经网络的分类器的学习和训练的下述步骤:/nS1、获取训练图像,针对训练图像进行特征提取,得到相应的图像特征集,并将图像特征集随机划分为多个特征子集;/nS2、对所划分的特征子集,分别生成对应的近邻特征样本;/nS3、将一致正则化约束引入在线超限学习目标优化函数,随机生成首先单隐层前馈神经网络的隐层节点参数,选取任一特征子集及其邻近样本进行初始化网络权重生成,基于剩余特征子集进行网络权重的迭代更新以完成基于单隐层前馈神经网络的分类器的学习与训练。/n
【技术特征摘要】
1.一种基于一致正则化的在线超限学习机目标识别方法,其特征在于,包括进行基于单隐层前馈神经网络的分类器的学习和训练的下述步骤:
S1、获取训练图像,针对训练图像进行特征提取,得到相应的图像特征集,并将图像特征集随机划分为多个特征子集;
S2、对所划分的特征子集,分别生成对应的近邻特征样本;
S3、将一致正则化约束引入在线超限学习目标优化函数,随机生成首先单隐层前馈神经网络的隐层节点参数,选取任一特征子集及其邻近样本进行初始化网络权重生成,基于剩余特征子集进行网络权重的迭代更新以完成基于单隐层前馈神经网络的分类器的学习与训练。
2.根据权利要求1所述的种基于一致正则化的在线超限学习机目标识别方法,其特征在于,步骤S1中进行特征提取时采用的方法为梯度直方图、主成分分析、预先完成训练的深度卷积网络中的一种,且得到相应的图像特征集的维度低于原始训练图像的维度。
3.根据权利要求2所述的种基于一致正则化的在线超限学习机目标识别方法,其特征在于,所述预先完成训练的深度卷积网络为CNN-15深度卷积网络模型,且预先训练CNN-15深度卷积网络模型时采用的训练损失函数如下式所示:
上式中,lcos表示训练损失函数,λ1和λ2为权重系数,R0为一致正则化项,R1为交叉熵正则化项,yi为标签,p(yi|xi)为模型预测输出,l为样本个数,其中:
其中,C为类别数目,pc为类别均匀分布,为类别预测分布,p(y|x)为模型预测输出,H为熵。
4.根据权利要求1所述的种基于一致正则化的在线超限学习机目标识别方法,其特征在于,步骤S2中对所划分的特征子集生成对应的近邻特征样本具体是指:基于平滑性假设,针对特征子集中的每一个特征向量,将与该特征向量所对应的标签满足下式的特征向量视为近邻特征样本,并构造高斯分布的偏移量并加入到特征子集的数据中,从而得到每一个特征子集生成对应的所有近邻特征样本;
上式中,F(xi)为样本特征,F(xj)为样本特征,l为权重系数,xi为样本,xj为样本,δ为偏移量常数系数。
5.根据权利要求1所述的种基于一致正则化的在线超限学习机目标识别方法,其特征在于,步骤S3中将一致正则化约束引入在线超限学习目标优化函数得到的目标函数为:
上式中,H,分别对应于原始输入特征及其对应...
【专利技术属性】
技术研发人员:徐昕,曾宇骏,呼晓畅,方强,周思航,施逸飞,
申请(专利权)人:中国人民解放军国防科技大学,
类型:发明
国别省市:湖南;43
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。