一种基于超限隐特征学习模型的图像分类与重建方法技术

技术编号:21454824 阅读:22 留言:0更新日期:2019-06-26 05:03
本发明专利技术公开了一种基于超限隐特征学习模型的图像分类与重建方法,采用了一种数据重构策略进行特征学习,高效学习原始感知数据与相应的高级语义转换关系。具体地说,ELM和ELM‑AE(基于ELM的自编码器)被统一在一个学习模型中,该模型具有图像分类能力和图像重建能力,且能够更好地揭示原始图像数据和高级语义之间的潜在关系,减少信息丢失,提高图像分类精度并具备优异的图像数据重建能力。ELF(超限隐特征学习模型)继承了ELM和ELM‑AE的优点,并且可以在保护原始数据信息的情况下得到良好的图像分类和图像重建效果。此外,使用了一种基于交错方向法的高效算法来求解优化ELF模型,进一步提升了ELF模型的精度。

【技术实现步骤摘要】
一种基于超限隐特征学习模型的图像分类与重建方法
本专利技术涉及图像分类和智能优化
,更具体地说,涉及一种基于超限隐特征学习模型的图像分类与重建方法。
技术介绍
在机器学习和计算机视觉领域,提取图像富有鉴别力的紧凑表达可有效揭示隐藏在数据中潜在的重要信息,能够将高层语义数据和原始数据无缝连接,机器学习模型的性能很大程度上依赖于所使用的特征,因此得到研究者的极大关注。最近的研究证明了多层神经网络可以从数据学习得到多层抽象特征,能够显著提高机器视觉模型的性能。作为一种单隐层前馈神经网络的高效学习算法,ELM(ExtremeLearningMachine,超限学习机)在理论研究和实际应用中获得了大量关注。不同于其他传统的学习算法,如反向传播神经网络,ELM的一个明显的特征是其输入层到隐藏层的权值随机生成,且独立于训练数据不需要调参。而需要调整优化的参数是连接隐含层和输出层的输出权重矩阵,可得到最优的输出权重矩阵的解析解。理论研究证明了ELM的学习能力、逼近能力和泛化能力。同时,ELM在多种应用场景下展现了良好的学习准确性和速度,如半监督学习、无监督学习、降维、领域自适应和代价敏感学习应用场景。以往基于ELM的工作主要侧重于分类和回归问题,而忽略了其特征学习能力。Kasun等人提出了一种以基于ELM的自编码器(ELM-AE)作为构建单元的多层ELM(ML-ELM)网络架构。ML-ELM进行分层无监督学习,并叠加在ELM自动编码器上,得到多层神经网络。Tang等人通过随机生成的隐藏权值将自身特征提取和监督特征分类连接起来,开发了一种新的分层ELM(H-ELM)。为提高ELM的特征学习能力,通过引入具体任务的先验信息,设计了一种条件随机特征映射方法。然而,经典的ELM方式直接使用单一输出权重矩阵β将隐含层输出H转换成相应的目标标签矩阵T。这种策略可能过于僵化,难以有效发掘原始观测数据与高级语义之间的潜在关系。
技术实现思路
为解决上述技术问题,本专利技术提供一种基于超限隐特征学习模型的图像分类与重建方法。为实现上述目的,本专利技术所采用的具体技术方案如下:一种超限隐特征学习模型的构建方法,包括如下步骤:S1:模型训练阶段,获取图像数据信息,所述图像数据信息包括用于进行模型训练的图像数据矩阵Xtrain、相应的标签矩阵Ttrain,以及超限学习机的隐藏节点根据所述图像数据矩阵Xtrain输出的隐含层输出矩阵Htrain;信息;S2:根据超限学习机和基于超限学习机的自编码器,为所述超限隐特征学习模型设置图像数据输入通道、超限学习机图像分类输出通道以及基于超限学习机的自编码器的图像输出重建通道;S3:基于Xtrain、Ttrain以及Htrain建立所述超限学习机图像分类输出通道和所述图像输出重建通道的联合超限隐特征优化学习模型;S4:利用交错方向法对所述联合超限隐特征优化学习模型的模型参数进行更新,得到所述超限学习机图像分类输出通道和所述图像输出重建通道的优化模型参数;S5:根据所述优化模型参数构建所述超限隐特征学习模型;S6:模型测试阶段,将待识别的图像样本数据信息输入所述超限隐特征学习模型的图像数据输入通道;S7:从所述超限学习机图像分类输出通道得到所述图像样本数据的分类结果,并从所述图像输出重建通道得到所述图像样本数据的重建数据信息。可选的,所述超限学习机图像分类输出通道的模型为:ttest=htestQTR;所述图像输出重建通道的模型为:x′test=htestQTP;其中,htest表示超限学习机的隐藏节点根据所述图像数据输入通道输入的测试样本xtest得到的隐含层输出向量,Q表示隐特征变换矩阵,R表示数据分类矩阵,P表示数据重建矩阵,ttest表示测试样本xtest的预测标签矩阵,x′test表示图像输出重建通道重建的测试样本。可选的,所述联合超限隐特征优化学习模型为:s.t.Xtrain=HtrainQTP+E,QTR=β,PTP=I;其中,α、λ以及γ表示惩罚参数,E表示误差矩阵,β表示输出权重矩阵,表示矩阵Frobenius范数的平方,即矩阵元素的平方和。可选的,步骤S4中引入辅助变量得到联合超限隐特征优化学习模型的增广拉格朗日函数模型,所述增广拉格朗日函数模型为:s.t.PTP=I;其中,μ表示惩罚参数,Y1和Y2表示拉格朗日乘子,E表示误差矩阵,表示矩阵Frobenius范数的平方,即矩阵元素的平方和,<·>表示矩阵的内积运算;步骤S4中基于所述增广拉格朗日函数模型利用交错方向法依次更新β、P、Q、R、E、Y1、Y2以及μ,直到收敛时停止优化,并将当前确定的Q和R作为所述超限学习机图像分类输出通道的优化模型参数,将当前确定的Q和P作为所述图像输出重建通道的优化模型参数。本专利技术提供出了一种基于超限隐特征学习模型的图像分类与重建方法,采用了一种数据重构策略进行特征学习,考虑所得到的数据特征的重建能力,通过学习一个隐特征空间,将超限学习机与基于超限学习机的自编码器纳入一个联合学习模型中,能够更好地揭示原始图像数据和高级语义之间的潜在关系,减少信息丢失,提高图像分类精度并具备优异的图像数据重建能力。附图说明下面将结合附图及实施例对本专利技术作进一步说明,附图中:图1为本实施例提供的超限隐特征学习模型的网络构架图;图2(a)为ORL数据集中的人像示意图;图2(b)为Yale数据集中的人像示意图;图3为ORL数据的图像重建能力示意图;图4为Yale数据的图像重建能力示意图;图5-1为ELF模型在ORL数据集上的收敛曲线;图5-2为ELF模型在Yale数据集上的收敛曲线。具体实施方式为了使本专利技术要解决的技术问题、技术方案和优点更加清楚,下面将结合附图及具体实施例进行详细描述,应当理解,此处所描述的具体实施例仅仅用以解释本专利技术,并不用于限定本专利技术。本实施例提供了一种基于超限隐特征学习模型的图像分类与重建方法,包括如下步骤:S1:训练阶段,具体的,获取用于进行模型训练的图像数据集样本数为N,维度为d,隐含层输入权值向量wi和隐层节点偏移量bi,进行随机赋值,其大小范围是[-1,+1],将训练样本集输入输入层,隐含层节点数为L。得到隐含层输出矩阵其中第j个样本的隐含层输出为i取1,2…L,G(·)为激活函数,可选Sigmoid函数作为激活函数。Xtrain对应的标签矩阵为C为训练数据集的类别数量。S2:根据超限学习机和基于超限学习机的自编码器,为超限隐特征学习模型设置图像数据输入通道、超限学习机图像分类输出通道以及基于超限学习机的自编码器的图像输出重建通道。S3:基于Xtrain、Ttrain以及Htrain建立超限学习机图像分类输出通道和所述图像输出重建通道的联合超限隐特征优化学习模型。本实施例中建立的联合超限隐特征优化学习模型为:s.t.Xtrain=HtrainQTP+E,QTR=β,PTP=I;其中,α、λ以及γ表示惩罚参数,E表示误差矩阵,β表示输出权重矩阵,表示矩阵Frobenius范数的平方,即矩阵元素的平方和。S4:利用交错方向法对联合超限隐特征优化学习模型的模型参数进行更新,得到超限学习机图像分类输出通道和图像输出重建通道的优化模型参数。可选的,步骤S4中可以引入辅助变量得到联合超限隐特本文档来自技高网
...

【技术保护点】
1.一种基于超限隐特征学习模型的图像分类与重建方法,其特征在于,包括如下步骤:S1:模型训练阶段,获取图像数据信息,所述图像数据信息包括用于进行模型训练的图像数据矩阵Xtrain、相应的标签矩阵Ttrain,以及超限学习机的隐藏节点根据所述图像数据矩阵Xtrain输出的隐含层输出矩阵Htrain;S2:根据超限学习机和基于超限学习机的自编码器,为所述超限隐特征学习模型设置图像数据输入通道、超限学习机图像分类输出通道以及基于超限学习机的自编码器的图像输出重建通道;S3:基于Xtrain、Ttrain以及Htrain建立所述超限学习机图像分类输出通道和所述图像输出重建通道的联合超限隐特征优化学习模型;S4:利用交错方向法对所述联合超限隐特征优化学习模型的模型参数进行更新,得到所述超限学习机图像分类输出通道和所述图像输出重建通道的优化模型参数;S5:根据所述优化模型参数构建所述超限隐特征学习模型;S6:模型测试阶段,将待识别的图像样本数据信息输入所述超限隐特征学习模型的图像数据输入通道;S7:从所述超限学习机图像分类输出通道得到所述图像样本数据的分类结果,并从所述图像输出重建通道得到所述图像样本数据的重建数据信息。...

【技术特征摘要】
1.一种基于超限隐特征学习模型的图像分类与重建方法,其特征在于,包括如下步骤:S1:模型训练阶段,获取图像数据信息,所述图像数据信息包括用于进行模型训练的图像数据矩阵Xtrain、相应的标签矩阵Ttrain,以及超限学习机的隐藏节点根据所述图像数据矩阵Xtrain输出的隐含层输出矩阵Htrain;S2:根据超限学习机和基于超限学习机的自编码器,为所述超限隐特征学习模型设置图像数据输入通道、超限学习机图像分类输出通道以及基于超限学习机的自编码器的图像输出重建通道;S3:基于Xtrain、Ttrain以及Htrain建立所述超限学习机图像分类输出通道和所述图像输出重建通道的联合超限隐特征优化学习模型;S4:利用交错方向法对所述联合超限隐特征优化学习模型的模型参数进行更新,得到所述超限学习机图像分类输出通道和所述图像输出重建通道的优化模型参数;S5:根据所述优化模型参数构建所述超限隐特征学习模型;S6:模型测试阶段,将待识别的图像样本数据信息输入所述超限隐特征学习模型的图像数据输入通道;S7:从所述超限学习机图像分类输出通道得到所述图像样本数据的分类结果,并从所述图像输出重建通道得到所述图像样本数据的重建数据信息。2.如权利要求1所述的基于超限隐特征学习模型的图像分类与重建方法,其特征在于,所述超限学习机图像分类输出通道的模型为:ttest=htestQTR;...

【专利技术属性】
技术研发人员:郭坦胡昊谭晓衡杨柳梁志芳熊炼
申请(专利权)人:重庆邮电大学
类型:发明
国别省市:重庆,50

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1