基于流形学习线性化的高光谱图像特征提取算法制造技术

一种基于流形学习线性化的高光谱图像特征提取算法，属于高光谱图像数据处理与应用技术领域。本发明专利技术针对流形学习算法无泛化能力的不足，提出了一种改进的流形学习线性化算法。所述方法包括如下步骤：一、计算初步降维结果和拉普拉斯矩阵；二、构建矩阵方程组常数项矩阵和系数矩阵；三、计算特征转换矩阵；四、通过特征转换矩阵计算最终降维结果。本发明专利技术针对LPP、NPE和LLTSA线性化流形学习算法中全局线性映射的假设在很多时候不成立的不足，在原有的代价函数中加入了偏离原流形学习算法结果的惩罚项，并且舍去了原目标函数中的约束项，将最优特征转换矩阵的求解转换为一个矩阵方程组的求解问题。该方法适用于高光谱图像的特征提取。

【技术实现步骤摘要】
基于流形学习线性化的高光谱图像特征提取方法
本专利技术属于高光谱图像数据处理与应用
，涉及一种高光谱图像特征提取方法，具体涉及一种基于流形学习线性化的高光谱图像特征提取方法。
技术介绍
高光谱图像是信息量巨大的数据立方体，每个像元都对应一条包含上百个波段的谱线，这为人们研究物质与光谱曲线之间的关系提供了可能。但是高光谱数据存在数据冗余和维数灾难问题，人们有迫切的需求去消除高光谱数据的这种信息的冗余性。高光谱数据的这种冗余性主要是高光谱数据波段间的相关性造成的，降维是一种重要的预处理方法，尽管像PCA(PrincipalComponentAnalysis)和LDA(LinearDiscriminantAnalysis)这样的线性降维方法实现简单，但是高光谱图像具有非线性特性，流形学习方法可以更好地挖掘高光谱数据的非线性结构，提高数据分析能力。经典的流形学习方法有LE(LaplacianEgenmap)、LLE(LocallyLinearEmbedding)和LTSA(LocalTangentSpaceAlignment)方法，可用于高光谱图像的特征提取方法。但是经典流形学习方法如LE无泛化能力，当有新的高光谱样本数据出现时，只有把新的样本数据和原有的样本数据结合在一起再一次地进行整体的学习才能够得到新样本数据的降维结果。当新的样本数据的个数相比于原有的样本数据的个数显得很少的时候，显然这样重复大规模的计算会大大增加方法的时间复杂度。从高光谱分类需求来说，流形学习方法必须具备泛化能力，因为很多时候无法将训练数据和待分类的测试数据放在一起进行学习，对于这种情况，待分类的测试数据必须要通过泛化方法映射到低维的特征空间，否则将无法在低维的特征空间对新的高光谱数据进行分类。线性降维方法如PCA等虽然在处理具有非线性的数据效果不佳，但是它们却能够获得一个全局的映射函数，因而具备泛化能力。为此很多学者对流形学习线性化来解决流形学习无泛化能力的问题。其中非常典型的就是对LE、LLE、LTSA的线性化，分别得到LPP(Localitypreservingprojections)、NPE(NeighborhoodPreservingEmbedding)、LLTSA(LinearLocalTangentSpaceAlignment)。流形学习方法具备统一的框架，对于如LE、LLE和LTSA等基于谱分解的流形学习方法而言，最优的降维结果Y*都可以通过下面的最优化问题来求解：其中tr(·)是求矩阵的迹运算符，L为拉普拉斯矩阵，B是约束矩阵。LPP、NPE和LLTSA都假设降维过程中存在一个全局的线性映射：Y＝VTX(2)，使得式(1)中的优化问题转变为：获得了最优的线性映射矩阵V*之后，不论是新的样本还是旧的样本，都可以通过式(2)映射到降维空间。但是式(2)这个假设在很多时候是不成立的。为了获得全局的线性映射，这些方法其实是对原本方法的局部保持特性做了一定的妥协。
技术实现思路
本专利技术针对流形学习方法无泛化能力的不足，提出了一种改进的流形学习线性化方法，并将其用于高光谱图像的特征提取方法。本专利技术的目的是通过以下技术方案实现的：为了使得线性化的过程尽可能不要牺牲原流形学习方法保持局部特性的能力，本专利技术在原有的代价函数中加入了偏离原流形学习方法结果的惩罚项，使得式(3)中的优化问题转变为：其中YL是已经学习了的降维结果，α是惩罚系数，可以通过LE、LLE、LTSA或其他任何一种效果良好但是不具备泛化能力的流形学习方法获得。相比于式(3)，式(4)不再需要添加约束项VTXBXTV＝I，这使得优化问题的搜索域得到了拓宽，可以获得比传统降维方法更好的降维效果。这种泛化方法是基于YL已知去求取一个线性化映射矩阵V的过程，是一种全局的线性回归方法。原有的流形学习方法都是通过特征分解来获得最优的降维结果，本专利技术提出的改进方法通过求解一个矩阵方程来获得最优的降维结果。这里给出对(4)中的优化问题的求解过程：代价函数g(V)对V求导得：其中A＝αI+L。于是式(4)中的最优化问题变为一个求解矩阵方程的问题：[XAXT]V＝αXYLT(7)。等价于下面的线性方程组问题:所以有：式(9)是一个函数表达式，其中vec(·)是矩阵向量化运算符，对于vec(B)，即将D×d维的矩阵转换为D×d维列向量。avec(·)是向量矩阵化运算符。对于D×d维的矩阵，vec(·)的运算规则为将矩阵每一行的元素转换为一个d维的列向量，并且将每行转换后的列向量依行号排成一个D×d维列向量，avec(·)则是其逆运算，即将D×d维的列向量转换为D×d维矩阵。对(9)进一步化简得：V＝(XAXT)-1B(10)。本专利技术提供的基于流形学习线性化的高光谱图像特征提取方法，具体步骤如下：步骤一：计算初步降维结果和拉普拉斯矩阵。给定高光谱数据集X，X是D×N维矩阵，D是数据维数，N是样本个数，d是降维维数，执行如LE、LLE以及LTSA方法中的某一种流形学习方法，得到这种方法的初步降维结果YL和拉普拉斯矩阵L，其中YL是d×N维矩阵，L是N×N维矩阵。步骤二：构建矩阵方程组常数项矩阵和系数矩阵。LPP、NPE和LLTSA等线性化的流形学习通常都要通过对N×N维的拉普拉斯矩阵L特征分解来获取最优的特征转换矩阵，计算量大，本步骤的创新点在于将最优特征转换矩阵的求解转换为一个矩阵方程组的求解问题。矩阵方程组如式(7)所示，这里给出常数项矩阵和系数矩阵的构建公式：1)构建D×d维的矩阵方程组常数项矩阵B：B＝αXYLT，其中α是一个为正数的惩罚系数，默认可设置为1。2)构建D×D维的矩阵方程组系数矩阵C：C＝X(αI+L)XT，其中，I是N×N维的单位矩阵。步骤三：计算特征转换矩阵。矩阵方程组的求解过程中，通常要对矩阵进行向量化以及对向量进行矩阵化运算，而且还涉及到矩阵的Kronecker积，这些运算使得矩阵方程组的求解时间大消耗的内存空间也大。本步骤的创新点在于将矩阵方程组求解的问题化简为两个矩阵相乘来实现，实现方便，方法复杂度小。1)对方程组系数矩阵C进行求逆得到矩阵H：H＝C-1；2)通过矩阵H和方程组常数项矩阵B相乘得特征转换矩阵V：V＝HB。步骤四：通过特征转换矩阵计算最终降维结果：Y＝VTX，其中，Y是最终的降维结果。本专利技术的有益效果在于：1、这种方法是一种全局的线性回归方法，可以使得任何一种不具备泛化能力的流形学习方法通过该方法进行线性化之后，获得泛化能力，并能可以获得比传统降维方法更好的特征提取效果。2、针对LPP、NPE和LLTSA线性化流形学习方法中全局线性映射的假设在很多时候不成立的不足，在原有的代价函数中加入了偏离原流形学习方法结果的惩罚项，并且舍去了原目标函数中的约束项，这使得优化问题的搜索域得到了拓展，可以获得比传统降维方法更好的降维效果。附图说明图1为本专利技术步骤流程图；图2为本专利技术中的高光谱图像数据的特征散点图；图3为基于本专利技术的特征提取之后的高光谱图像的分类精度。具体实施方式下面结合附图对本专利技术的技术方案作进一步的说明，但并不局限如此，凡是对本专利技术技术方案进行修改或者等同替换，而不脱离本专利技术技术方案的精神和范围，均应涵盖在本专利技术的保护范围中。本专利技术本文档来自技高网...

【技术保护点】
一种基于流形学习线性化的高光谱图像特征提取算法，其特征在于所述高光谱图像特征提取算法步骤如下：一、给定高光谱数据集X，通过流形学习算法获得初步降维结果YL和拉普拉斯矩阵L，其中X是D×N维矩阵，D是数据维数，N是样本个数，YL是d×N维矩阵，L是N×N维矩阵，d是降维维数；二、构建矩阵方程组常数项矩阵B和系数矩阵C：1)构建D×d维的矩阵方程组常数项矩阵B：B＝αXYLT，其中，α是一个为正数的惩罚系数；2)构建D×D维的矩阵方程组系数矩阵C：C＝X(αI+L)XT，其中，I是N×N维的单位矩阵；三、计算特征转换矩阵：1)对矩阵方程组系数矩阵C进行求逆得到矩阵H：H＝C‑1；2)通过矩阵H和矩阵方程组常数项矩阵B相乘得特征转换矩阵V：V＝HB；四、通过特征转换矩阵计算最终降维结果：Y＝VTX，其中，Y是最终的降维结果。

【技术特征摘要】
1.一种基于流形学习线性化的高光谱图像特征提取方法，其特征在于所述高光谱图像特征提取方法步骤如下：一、给定高光谱数据集X，通过流形学习方法获得初步降维结果YL和拉普拉斯矩阵L，其中X是D×N维矩阵，D是数据维数，N是样本个数，YL是d×N维矩阵，L是N×N维矩阵，d是降维维数；二、构建矩阵方程组常数项矩阵B和系数矩阵C：1)构建D×d维的矩阵方程组常数项矩阵B：B...

【专利技术属性】
技术研发人员：张淼，赖镇洲，刘攀，沈毅，
申请(专利权)人：哈尔滨工业大学，
类型：发明
国别省市：黑龙江;23