CN111914893A - 一种基于熵正则非负矩阵分解模型的高光谱解混方法及系统 - Google Patents
一种基于熵正则非负矩阵分解模型的高光谱解混方法及系统 Download PDFInfo
- Publication number
- CN111914893A CN111914893A CN202010586657.6A CN202010586657A CN111914893A CN 111914893 A CN111914893 A CN 111914893A CN 202010586657 A CN202010586657 A CN 202010586657A CN 111914893 A CN111914893 A CN 111914893A
- Authority
- CN
- China
- Prior art keywords
- entropy
- abundance
- iteration
- hyperspectral
- regular
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 147
- 239000011159 matrix material Substances 0.000 title claims abstract description 69
- 238000000354 decomposition reaction Methods 0.000 title claims abstract description 25
- 238000004422 calculation algorithm Methods 0.000 claims description 56
- 238000005457 optimization Methods 0.000 claims description 22
- 238000001228 spectrum Methods 0.000 claims description 9
- 230000005484 gravity Effects 0.000 claims description 8
- 230000003190 augmentative effect Effects 0.000 claims description 5
- 238000000605 extraction Methods 0.000 claims description 5
- 238000000926 separation method Methods 0.000 claims description 4
- 230000003595 spectral effect Effects 0.000 description 14
- 238000004458 analytical method Methods 0.000 description 12
- 229910052500 inorganic mineral Inorganic materials 0.000 description 10
- 239000011707 mineral Substances 0.000 description 10
- XLYOFNOQVPJJNP-UHFFFAOYSA-N water Substances O XLYOFNOQVPJJNP-UHFFFAOYSA-N 0.000 description 10
- 238000004364 calculation method Methods 0.000 description 8
- BERDEBHAJNAUOM-UHFFFAOYSA-N copper(I) oxide Inorganic materials [Cu]O[Cu] BERDEBHAJNAUOM-UHFFFAOYSA-N 0.000 description 7
- LBJNMUFDOHXDFG-UHFFFAOYSA-N copper;hydrate Chemical compound O.[Cu].[Cu] LBJNMUFDOHXDFG-UHFFFAOYSA-N 0.000 description 7
- 239000010426 asphalt Substances 0.000 description 5
- 238000002474 experimental method Methods 0.000 description 5
- 239000002184 metal Substances 0.000 description 5
- 229910052751 metal Inorganic materials 0.000 description 5
- 239000011435 rock Substances 0.000 description 5
- 239000002689 soil Substances 0.000 description 5
- 239000000126 substance Substances 0.000 description 5
- 229910001595 Buddingtonite Inorganic materials 0.000 description 4
- 229910052836 andradite Inorganic materials 0.000 description 4
- GUJOJGAPFQRJSV-UHFFFAOYSA-N dialuminum;dioxosilane;oxygen(2-);hydrate Chemical compound O.[O-2].[O-2].[O-2].[Al+3].[Al+3].O=[Si]=O.O=[Si]=O.O=[Si]=O.O=[Si]=O GUJOJGAPFQRJSV-UHFFFAOYSA-N 0.000 description 4
- YGANSGVIUGARFR-UHFFFAOYSA-N dipotassium dioxosilane oxo(oxoalumanyloxy)alumane oxygen(2-) Chemical compound [O--].[K+].[K+].O=[Si]=O.O=[Al]O[Al]=O YGANSGVIUGARFR-UHFFFAOYSA-N 0.000 description 4
- 229910052901 montmorillonite Inorganic materials 0.000 description 4
- 229910052627 muscovite Inorganic materials 0.000 description 4
- FDKCTEWMJWRPDS-UHFFFAOYSA-N dialuminum;trimagnesium;trisilicate Chemical compound [Mg+2].[Mg+2].[Mg+2].[Al+3].[Al+3].[O-][Si]([O-])([O-])[O-].[O-][Si]([O-])([O-])[O-].[O-][Si]([O-])([O-])[O-] FDKCTEWMJWRPDS-UHFFFAOYSA-N 0.000 description 3
- 229910052852 dumortierite Inorganic materials 0.000 description 3
- 150000002739 metals Chemical class 0.000 description 3
- 229910000273 nontronite Inorganic materials 0.000 description 3
- 229910052832 pyrope Inorganic materials 0.000 description 3
- 238000007619 statistical method Methods 0.000 description 3
- 244000025254 Cannabis sativa Species 0.000 description 2
- 241000209504 Poaceae Species 0.000 description 2
- 230000000052 comparative effect Effects 0.000 description 2
- 230000003247 decreasing effect Effects 0.000 description 2
- 238000010586 diagram Methods 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 239000000284 extract Substances 0.000 description 2
- 238000012880 independent component analysis Methods 0.000 description 2
- 238000011423 initialization method Methods 0.000 description 2
- 229910001705 kalinite Inorganic materials 0.000 description 2
- GNHOJBNSNUXZQA-UHFFFAOYSA-J potassium aluminium sulfate dodecahydrate Chemical compound O.O.O.O.O.O.O.O.O.O.O.O.[Al+3].[K+].[O-]S([O-])(=O)=O.[O-]S([O-])(=O)=O GNHOJBNSNUXZQA-UHFFFAOYSA-J 0.000 description 2
- 238000004088 simulation Methods 0.000 description 2
- 238000012360 testing method Methods 0.000 description 2
- 241000022852 Letis Species 0.000 description 1
- 238000013459 approach Methods 0.000 description 1
- 238000013398 bayesian method Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 238000007405 data analysis Methods 0.000 description 1
- 230000001419 dependent effect Effects 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- -1 forests Substances 0.000 description 1
- 238000009472 formulation Methods 0.000 description 1
- 239000000203 mixture Substances 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000011002 quantification Methods 0.000 description 1
- 238000011160 research Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/213—Feature extraction, e.g. by transforming the feature space; Summarisation; Mappings, e.g. subspace methods
- G06F18/2133—Feature extraction, e.g. by transforming the feature space; Summarisation; Mappings, e.g. subspace methods based on naturality criteria, e.g. with non-negative factorisation or negative correlation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F17/00—Digital computing or data processing equipment or methods, specially adapted for specific functions
- G06F17/10—Complex mathematical operations
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F17/00—Digital computing or data processing equipment or methods, specially adapted for specific functions
- G06F17/10—Complex mathematical operations
- G06F17/16—Matrix or vector computation, e.g. matrix-matrix or matrix-vector multiplication, matrix factorization
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02A—TECHNOLOGIES FOR ADAPTATION TO CLIMATE CHANGE
- Y02A40/00—Adaptation technologies in agriculture, forestry, livestock or agroalimentary production
- Y02A40/10—Adaptation technologies in agriculture, forestry, livestock or agroalimentary production in agriculture
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Mathematical Physics (AREA)
- Pure & Applied Mathematics (AREA)
- Computational Mathematics (AREA)
- Mathematical Optimization (AREA)
- Mathematical Analysis (AREA)
- General Engineering & Computer Science (AREA)
- Databases & Information Systems (AREA)
- Algebra (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Software Systems (AREA)
- Artificial Intelligence (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Bioinformatics & Computational Biology (AREA)
- Evolutionary Computation (AREA)
- Life Sciences & Earth Sciences (AREA)
- Evolutionary Biology (AREA)
- Computing Systems (AREA)
- Image Analysis (AREA)
- Complex Calculations (AREA)
Abstract
本发明公开了一种基于熵正则非负矩阵分解模型的高光谱解混方法及系统,所述方法包括:获取待解混高光谱数据;从信息熵角度对丰度施加正则,通过最小化熵来去除丰度的随机性;步骤2,采用乘性迭代方法或投影梯度方法,对熵正则的非负矩阵分解模型进行求解,完成高光谱数据解混。针对传统的NMF模型用于LMM框架且有极大的解空间的技术问题,本发明从信息熵的角度提出一种对丰度施加正则的方法,能够促进丰度的稀疏性进而缩减NMF的解空间,从而避免模型得到一些不合实际的解。
Description
技术领域
本发明属于高光谱解混技术领域,特别涉及一种基于熵正则非负矩阵分解模型的高光谱解混方法及系统。
背景技术
遥感采集的高光谱图像(HSI)中存在着大量的混合像元,这对于以HSI为基础的应用工程是一个严峻的考验。为了解决这个问题,高光谱解混(HU)问题被提出,它旨在将图像中每一个混合像素点的光谱分解为一组纯物质光谱(称为端元)以及不同端元的分布比例(称为丰度);HU在高光谱数据分析占据着重要的位置。
常见的HU方法包括:统计方法、稀疏回归方法和几何法。其中,统计方法将HU问题重新整理为一个统计推断问题,其中代表性方法包括独立成分分析(ICA),非独立成分分析(DECA),贝叶斯方法等。尽管统计方法在求解高度混合的HU问题时能够得到更精确的解,但是这类方法的计算复杂度十分惊人。对于稀疏解混方法,他们假设HSI中的端元都在某一个预先已知的巨大光谱库中,这就使得HU问题转变成一个稀疏回归问题。然而作为先验的巨大光谱库在实际应用中是很难获得的,这使得这类方法的应用具有很大的局限性。
几何法中,混合像元可从微观和宏观两个尺度来进行建模,分别得到线性混合模型(LMM)和非线性混合模型(NMM)。从LMM的角度来看,端元在不同区域上是各向同性分布的,而在NMM中,端元在每个像素点中的混合方式更为复杂紧密。与NMM相比,LMM具有很好的简洁性和可解释性,这使得它的使用更为广泛。给定谱带数为L、像素点个数为N的HSI,LMM假定每一个像素点的光谱是由r个端元性组合而成,其相应的比例丰度组合系数,并且还被可加性噪声污染:
为了使模型具有物理意义,非负性约束(见(1-2))及加和为1约束(见(1-3)))被限制在丰度熵,具体来说为:
ak≥0,k=1,…,p, (1-2)
在带有上述两个约束的LMM框架下,所有的混合像素和纯像素(只包含一种物质的像素点)都位于一个有端元作为定点的低维单纯形的凸包中。
目前,非负矩阵分解(NMF)被广泛用与求解LMM框架下的HU问题。NMF旨在求解将一个已知矩阵表示为两个非负矩阵乘积的最佳方法。由于端元和丰度自然满足非负性约束,NMF很适合用来求解HU问题。传统的NMF模型是不完备的并且有着极大的解空间,这使得模型会得到一些不合实际的解;易陷入局部最优解的陷阱,从而易产生虚假端元,影响高光谱解混的稳定性和精度,不能够充分利用高光谱数据,降低遥感精度,进而影响高光谱遥感技术定量化的研究和应用。
综上,亟需一种新的基于熵正则非负矩阵分解模型的高光谱解混方法及系统。
发明内容
本发明的目的在于提供一种基于熵正则非负矩阵分解模型的高光谱解混方法及系统,以解决上述存在的一个或多个技术问题。针对传统的NMF模型用于LMM框架且有极大的解空间的技术问题,本发明从信息熵的角度提出一种对丰度施加正则的方法,能够促进丰度的稀疏性进而缩减NMF的解空间,从而避免模型得到一些不合实际的解。
为达到上述目的,本发明采用以下技术方案:
本发明的一种基于熵正则非负矩阵分解模型的高光谱解混方法,包括以下步骤:
步骤1,获取待解混高光谱数据;从信息熵角度对丰度施加正则,通过最小化熵来去除丰度的随机性;其中,熵正则的非负矩阵分解模型表示为:
式中,是待解混高光谱数据;表示r个端元;表示丰度;制重建误差和稀疏正则项和比重;Tr(·)表示矩阵的迹;Alog(AT)表示每个像素点丰度熵的和;参数δ控制丰度加和为1约束的影响程度;1表示元素均为1的矩阵,下标表示矩阵的大小;||·||F表示Frobenius范数;
步骤2,采用乘性迭代方法或投影梯度方法,对熵正则的非负矩阵分解模型进行求解,完成高光谱数据解混。
本发明的进一步改进在于,步骤2中,采用乘性迭代方法,对熵正则的非负矩阵分解模型进行求解的具体步骤包括:
然后初始化M和A;
本发明的进一步改进在于,步骤2中,初始化M和A的方法包括:
初始化M的方法包括:在(0,1)区间中随机生成,或者从观测数据中随机选取;或者,采用非监督的端元提取算法来确定端元并将其作为M的初值;
初始化A的方法包括:在决定端元M之后,丰度A由全约束最小二乘法或变量分离的增广拉格朗日稀疏解混法来进行初始化。
本发明的进一步改进在于,步骤2中,采用投影梯度方法,对熵正则的非负矩阵分解模型进行求解的具体步骤包括:
然后,初始化Mk和Ak,取k=0;
用公式Mk+1=PGM(Mk,Ak)和Ak+1=PGM(Mk+1,Ak)进行迭代,取k=k+1;
本发明的进一步改进在于,熵正则的非负矩阵分解模型中,
本发明的进一步改进在于,在前10次迭代中,令α=0,用于提升模型的鲁棒性。
本发明的一种基于熵正则非负矩阵分解模型的高光谱解混系统,包括:
丰度正则化模块,用于获取待解混高光谱数据;从信息熵角度对丰度施加正则,通过最小化熵来去除丰度的随机性;其中,熵正则的非负矩阵分解模型表示为:
式中,是待解混高光谱数据;表示r个端元;表示丰度;控制重建误差和稀疏正则项和比重;Tr(·)表示矩阵的迹;Alog(AT)表示每个像素点丰度熵的和;参数δ控制丰度加和为1约束的影响程度;1表示元素均为1的矩阵,下标表示矩阵的大小;||·||F表示Frobenius范数;
求解优化模块,用于采用乘性迭代方法或投影梯度方法,对熵正则的非负矩阵分解模型进行求解,完成高光谱数据解混。
本发明的进一步改进在于,求解优化模块中,采用乘性迭代方法,对熵正则的非负矩阵分解模型进行求解的具体步骤包括:
然后初始化M和A;
本发明的进一步改进在于,求解优化模块中,初始化M和A的方法包括:
初始化M的方法包括:在(0,1)区间中随机生成,或者从观测数据中随机选取;或者,采用非监督的端元提取算法来确定端元并将其作为M的初值;
初始化A的方法包括:在决定端元M之后,丰度A由全约束最小二乘法或变量分离的增广拉格朗日稀疏解混法来进行初始化。
本发明的进一步改进在于,步骤2中,采用投影梯度方法,对熵正则的非负矩阵分解模型进行求解的具体步骤包括:
然后,初始化Mk和Ak,取k=0;
用公式Mk+1=PGM(Mk,Ak)和Ak+1=PGM(Mk+1,Ak)进行迭代,取k=k+1;
与现有技术相比,本发明具有以下有益效果:
本发明提出了一种简单、高效的高光谱解混方法,该方法在NMF的基础上引入熵正则,通过最小化熵去除丰度的随机性,从而丰度的稀疏性可以被控制,NMF的解空间得以缩小,有利于在优化过程中避开性质不好的局部最优点,并从一定程度上缓解了NMF目标函数非凸所带来的问题。本发明的方法可以提升高光谱解混的可靠性和精确性,能够更好地利用高光谱数据。
另外,为了更容易地设置正则化参数,本发明提出了一个自适应调节参数的策略,这种设置权重参数的方法能够使熵正则对稀疏的丰度产生更大的影响,从而得到更精确的估计。本发明所提出方法中有两个参数:λ和δ,其中δ控制ASC的影响力度,λ平衡数据拟合项与稀疏惩罚项之间的比重。直观来看,λ应该依赖于真实丰度的稀疏性,而对不同的像素点来说,他们对应的真实丰度也是不同的。对于丰度更为稀疏的像素点而言,它应该更多地受到正则项的影响来保证最终结果的稀疏性。在这个思路的基础上,本发明引入了一种能够在优化过程中自适应地调整参数λ的策略,它根据上一次迭代中熵正则的大小,来为本次迭代中每个像素点安排不同的取值。
本发明中,如果α=0,那么权重参数恒等于γ,模型将失去自适应调整参数的功能。这种设置权重参数的方法能够使熵正则对稀疏的丰度产生更大的影响,从而得到更精确的估计。然而,这样的策略对初值和前几次迭代结果十分敏感,因此本发明在前10次迭代中令α=0,以此来提升模型的鲁棒性。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案,下面对实施例或现有技术描述中所需要使用的附图做简单的介绍;显而易见地,下面描述中的附图是本发明的一些实施例,对于本领域普通技术人员来说,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1是本发明实施例中,由ERNMF-MU估计的Samson中岩石、树林和水三种端元的丰度对比示意图;
图2是本发明实施例中,由ERNMF-PG估计的Samson中岩石、树林和水三种端元的丰度对比示意图;
图3是本发明实施例中,由ERNMF-MU估计的Samson中岩石、树林和水三种端元信号以及数据库中对应的参考信号对比示意图;
图4是本发明实施例中,由ERNMF-PG估计的Samson中岩石、树林和水三种端元信号以及数据库中对应的参考信号对比示意图;
图5是本发明实施例中,由ERNMF-MU估计的JasperRidge中树林、水、土壤和公路四种端元的丰度对比示意图;
图6是本发明实施例中,由ERNMF-PG估计的JasperRidge中树林、水、土壤和公路四种端元的丰度对比示意图;
图7是本发明实施例中,由ERNMF-MU估计的JasperRidge中树林、水、土壤和公路四种端元信号以及数据库中对应的参考信号对比示意图;
图8是本发明实施例中,由ERNMF-PG估计的JasperRidge中树林、水、土壤和公路四种端元信号以及数据库中对应的参考信号对比示意图;
图9是本发明实施例中,由ERNMF-MU估计的Urban中柏油公路、草地、树林、屋顶、金属和土地六种端元的丰度对比示意图;
图10是本发明实施例中,由ERNMF-PG估计的Urban中柏油公路、草地、树林、屋顶、金属和土地六种端元的丰度对比示意图;
图11是本发明实施例中,由ERNMF-MU估计的Urban中柏油公路、草地、树林、屋顶、金属和土地六种端元信号以及数据库中对应的参考信号示意图;
图12是本发明实施例中,由ERNMF-PG估计的Urban中柏油公路、草地、树林、屋顶、金属和土地六种端元信号以及数据库中对应的参考信号对比示意图;
图13是本发明实施例中,由ERNMF-MU估计的Cuprite中“#1Alunit”,“#2Andradite”,“#3Buddingtonite”,“#4Dumortierite”,“#5Kaolinite1”,“#6Kaolinite2”,“#7Muscovite”,“#8Montmorillonite”,“#9Nontronite”,“#10Pyrope”,“#11Sphene”,“#12Chalcedony”12种矿物的丰度对比示意图;
图14是本发明实施例中,由ERNMF-PG估计的Cuprite中“#1Alunit”,“#2Andradite”,“#3Buddingtonite”,“#4Dumortierite”,“#5Kaolinite1”,“#6Kaolinite2”,“#7Muscovite”,“#8Montmorillonite”,“#9Nontronite”,“#10Pyrope”,“#11Sphene”,“#12Chalcedony”12种矿物的丰度对比示意图;
图15是本发明实施例中,由ERNMF-MU估计的Cuprite中“#1Alunit”,“#2Andradite”,“#3Buddingtonite”,“#4Dumortierite”,“#5Kaolinite1”,“#6Kaolinite2”,“#7Muscovite”,“#8Montmorillonite”,“#9Nontronite”,“#10Pyrope”,“#11Sphene”,“#12Chalcedony”12种矿物信号以及数据库中对应的参考信号对比示意图;
图16是本发明实施例中,由ERNMF-PG估计的Cuprite中“#1Alunit”,“#2Andradite”,“#3Buddingtonite”,“#4Dumortierite”,“#5Kaolinite1”,“#6Kaolinite2”,“#7Muscovite”,“#8Montmorillonite”,“#9Nontronite”,“#10Pyrope”,“#11Sphene”,“#12Chalcedony”12种矿物信号以及数据库中对应的参考信号对比示意图。
具体实施方式
为使本发明实施例的目的、技术效果及技术方案更加清楚,下面结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述;显然,所描述的实施例是本发明一部分实施例。基于本发明公开的实施例,本领域普通技术人员在没有做出创造性劳动的前提下所获得的其它实施例,都应属于本发明保护的范围。
本发明实施例的一种基于熵正则非负矩阵分解模型的高光谱解混方法,具体包括以下步骤:
步骤1,获取待解混高光谱数据的端元和丰度;从信息熵角度对丰度施加正则,给出熵正则的非负矩阵分解模型,通过最小化熵来去除丰度的随机性;此阶段丰度的稀疏度可以被控制,解空间得以缩小,有利于在优化过程中避开性质不好的局部点。
在步骤1中,熵正则的非负矩阵分解模型表示为:
式中,是待解混高光谱数据;表示r个端元;表示丰度;控制重建误差和稀疏正则项和比重;Tr(·)表示矩阵的迹;Alog(AT)表示每个像素点丰度熵的和;参数δ控制丰度加和为1约束的影响程度;1表示元素均为1的矩阵,下标表示矩阵的大小;||·||F表示Frobenius范数。
步骤2,针对熵正则的非负矩阵分解模型优化问题,提出两种求解算法:乘性迭代法和投影梯度法。对这两种算法,本发明详细说明了其算法流程,并对算法的收敛性进行了分析,此外,本发明还给出了算法的复杂度分析。最后,本发明讨论了一些在算法的实现过程中可能遇到的问题。具体步骤如下:
步骤2.1:乘性迭代方法和投影梯度方法
凭借其简约和高效的特性,被广泛应用于求解非负矩阵分解(NMF)优化问题。在这一步中,将在这两种方法的基础上推导两种求解所提出的熵正则的非负矩阵分解(ERNMF)的算法:
步骤2.1.1:乘性迭代算法
推导出的乘性迭代公式如下:
本发明将所提出的乘性迭代算法的具体过程整理在表2-1中,
表2-1.ERNMF的乘性迭代算法
本发明实施例中,采用乘性迭代方法,对熵正则的非负矩阵分解模型进行求解的具体步骤包括:
步骤2.1.2:投影梯度算法
关于M和A同时最小化(1-1)是一个非凸优化问题因此难以处理,这里考虑交替非负最小二乘方法,它把原问题分解为两个如下的子问题:
在这个优化框架下,交替固定一个矩阵并去更新另一个。为了满足非负约束,本发明采用投影梯度方法来求解每一个子问题。投影梯度法是经典梯度方法的推广,它首先在负梯度方向寻找一个更新值,再将其投影到一个合适的集合中。在本发明的模型中,用函数max(0,x)来保证更新的值是非负的。具体来说,投影梯度框架的更新公式如下:
其中,Δg(M,Ak)=g(Mk+1,Ak)-g(Mk,Ak)。为了找到最小的满足(2-7)的整数mk,本发明将作为试探步长来决定新的步长应该增加还是减少。对于本发明提出的ERNMF模型,设置β1=0.1,以及σ1=0.01。由于在0元素处将收敛到无穷,为了使得(2-6b)有意义,令为一个和A大小相同的矩阵并在(2-6b)改为计算它和的对应元素乘积。如果本发明令并定义0*∞=0。这样定义不仅能够使更新公式有意义,还有利于算法收敛到一个合理的值上,这些将在收敛性分析部分详细说明。综上所述,本发明将满足非负约束来最小化函数f(x)的投影梯度方法的具体过程展示在表2-2中。对ERNMF的投影梯度算法的具体流程则在表2-3中展示。
表2-2.投影梯度方法(PGM)
表2-3.ERNMF的投影梯度算法
本发明实施例中,采用投影梯度方法,对熵正则的非负矩阵分解模型进行求解的具体步骤包括:
然后,初始化M0,A0,并取k=0,M0,A0的初始化方法与乘性迭代方法相同。进一步的,用公式Mk+1=PGM(Mk,Ak)和Ak+1=PGM(Mk+1,Ak)进行迭代,取k=k+1;重复上述迭代过程,直至满足与乘性迭代方法相同的停机准则时停止迭代,并得到最终结果最后输出端元估计值丰度估计值
本发明实施例中所提出方法中有两个参数:λ和δ,其中δ控制ASC的影响力度,λ平衡数据拟合项与稀疏惩罚项之间的比重。直观来看,λ应该依赖于真实丰度的稀疏性。而对不同的像素点来说,他们对应的真实丰度也是不同的。对于丰度更为稀疏的像素点而言,它应该更多地受到正则项的影响来保证最终结果的稀疏性。在这个思路的基础上,本发明引入了一种能够在优化过程中自适应地调整参数λ的策略,它根据上一次迭代中熵正则的大小,来为本次迭代中每个像素点安排不同的取值。具体来说,设为第k次迭代中所有权重参数,每一个定义为
其中r为端元个数;是第i个像素点处在第k-1次迭代中丰度的熵;γ用于控制总的权重;α决定了上次迭代结果对的影响程度。注意到,如果α=0,那么权重参数恒等于γ,模型将失去自适应调整参数的功能。这种设置权重参数的方法能够使熵正则对稀疏的丰度产生更大的影响,从而得到更精确的估计。然而,这样的策略对初值和前几次迭代结果十分敏感,因此本发明在前10次迭代中令α=0,以此来提升模型的鲁棒性。
步骤2.2:算法的收敛性分析是检验算法性能中的重要一环,此步骤将给出两种算法的收敛性分析。
步骤2.2.1:乘性迭代算法的收敛性分析
对于乘性迭代算法,本发明证明了在忽略高阶误差项的前提下,其目标函数是非增的。严谨的表述为如下定理:
定理2.1设X是一个非负矩阵,序列{(Mk,Ak),k=0,1,...}由(2-4a)和(2-4b)在非负初值(M0,A0)下给出。若Ak满足:
则
g(Mk+1,Ak)≤g(Mk,Ak) (2-9a)
g(Mk+1,Ak+1)≤g(Mk+1,Ak)+h(Ak+1) (2-9b)
步骤2.2.2:投影梯度法的收敛性分析
本发明将投影梯度算法的收敛性结论整理为如下两个定理:
定理2.2设算法2-2中的f(x)是连续可微的(在本文定义的意义下),{xk}是算法2-2产生的序列,则{xk}的每一个极限点都是f(x)的驻点。
(2-11)说明就是优化问题(1-1)的一个驻点。因此,这两个定理就保证了由算法2-3产生的序列的任意极限点都是驻点。现在唯一的问题就在于是否存在极限点。对于有界的序列,它至少存在一个极限点。因此只要由算法2-2和2-3产生的序列不发散,那么极限点是一定存在的。事实上,在实际问题中,端元信号和丰度都是有界的(一般取值为[0,1]中的实数),因此这样的收敛性结果对于实际问题是足够的。
综上,由乘性迭代算法的收敛性分析可知,本发明的目标是最小化损失函数,因此问题的关键在于,损失函数在由乘性梯度法所定义的序列处是否为递减的,对这个问题从理论上给出了肯定的回答:目标函数在忽略一个高阶误差项下是非增的。由投影梯度算法的收敛性分析可知,该算法产生的序列的任意极限点都是驻点,所以问题的关键就在于是否存在极限点。对于有界的序列,它至少存在一个极限点。因此只要由算法产生的序列不发散,那么极限点是一定存在的。事实上,在实际问题中,端元信号和丰度都是有界的(一般取值为[0,1]中的实数),因此这样的收敛性结果对于实际问题是足够的。
步骤2.3:两种方法的复杂度分析
投影梯度算法的计算量主要集中在寻找最优步长上,这使得它的复杂度在迭代初始和末尾处相差巨大,因此本发明将聚焦点放在乘性迭代算法中每一次迭代的计算量上。在(2-4a)和(2-4b)的基础上,本发明将每一步迭代的浮点计算次数列在表3-1中。为了加以比较,本发明还计算了由乘性迭代算法求解标准NMF的计算次数。
表3-1.由乘性迭代算法求解NMF和ERNMF每一次迭代中的浮点计算
在实际情况中,r和L都远小于N,这使得N在复杂度中占据主导位置。从表3-1中可知,ERNMF比标准NMF多出来的计算量仅体现在更新在A的过程中。在每一次迭代中,ERNMF仅比标准NMF多出4rN次计算,这说明由乘性迭代算法求解的ERNMF和NMF的计算量在同一个数量级上。
本发明实施例中,还包括:
步骤3,讨论一些实现上的问题;
步骤3.1:选取合适的初值;
初始化在很大程度上影响着HU问题的结果。一般而言,对于端元M有两种常见的初始化方法。第一种是在(0,1)区间中随机生成,或者从观测数据中随机选取。第二种是采用非监督的端元提取算法来确定端元并将其作为M的初值。这些算法主要包括VCA,N-FINDR,SGA等。除了这两种策略,Wang等人还介绍了基于光谱信息偏差和正交子空间投影的方法来初始化M。这两种方法通过从观测数据中按照一定约束来选取端元的初值。在决定端元M之后,丰度A可以由全约束最小二乘法(FCLS)或变量分离的增广拉格朗日稀疏解混法(SUnSAL)来进行初始化。这两种方法都可以保证初始化的丰度A满足ANC和ASC。
步骤3.2:选择合适的参数;
本发明所提出方法中有两个参数:λ和δ,其中δ控制ASC的影响力度,λ平衡数据拟合项与稀疏惩罚项之间的比重。直观来看,λ应该依赖于真实丰度的稀疏性。而对不同的像素点来说,他们对应的真实丰度也是不同的。对于丰度更为稀疏的像素点而言,它应该更多地受到正则项的影响来保证最终结果的稀疏性。在这个思路的基础上,本发明引入了一种能够在优化过程中自适应地调整参数λ的策略,它根据上一次迭代中熵正则的大小,来为本次迭代中每个像素点安排不同的取值。具体来说,设为第k次迭代中所有权重参数,每一个定义为
其中第i个像素点处在第k-1次迭代中丰度的熵;γ用于控制总的权重;α决定了上次迭代结果对的影响程度。注意到,如果α=0,那么权重参数恒等于γ,模型将失去自适应调整参数的功能。这种设置权重参数的方法能够使熵正则对稀疏的丰度产生更大的影响,从而得到更精确的估计。然而,这样的策略对初值和前几次迭代结果十分敏感,因此本发明在前10次迭代中令α=0,以此来提升模型的鲁棒性。
步骤3.3:设定合适的停机准则
对算2-1和算法2-3,本发明采用相同的停机准则,它包括两部分。首先是最大迭代次数,本发明在实验中将其设置为1000。其次为拟合项在相邻两次迭代中的变差,即:
其中阈值η在本发明的实验中设置为10-7。一旦两种停机准则中的任意一个满足,算法都将停止。
步骤4,做一系列包括模拟数据和真实数据的实验来展示所提出方法的高效性。
综上所述,为了使求解的丰度具有最小的不确定性,本发明在本文中提出丰度的熵正则NMF方法来求解HU问题,具体包括以下阶段和步骤:
阶段1-从信息熵角度对丰度施加正则,给出熵正则的非负矩阵分解模型,通过最小化熵来去除丰度的随机性;此阶段丰度的稀疏度可以被控制,解空间得以缩小,有利于在优化过程中避开性质不好的局部点。
阶段2-针对优化问题,提出了两种求解算法:乘性迭代法和投影梯度法。具体过程分为以下三个步骤:
步骤2.1:给出两种求解算法的具体优化过程。乘性迭代方法和投影梯度方法凭借其简约和高效的特性,被广泛应用于求解NMF优化问题。在这两种方法的基础上推导两种求解所提出的熵正则的非负矩阵分解(ERNMF)的算法。
步骤2.2:给出所提出两种算法的收敛性分析。
步骤2.3:给出所提出两种算法的复杂度分析。
阶段3-讨论一些实现上的问题。已知目标函数在忽略高阶误差项后是非增的,然而,如果初值和驻点相距较远,高阶误差项将会过大以至于无法被忽略,从而初始化对于乘性迭代算法是至关重要的。参数的值决定了正则项的影响力度,参数过小会导致正则项几乎不起作用,过大又会造成模型忽视数据拟合项,因此参数的选取对于模型的表现也十分重要。此外,停机准则会影响算法能否准确地在收敛处停止,依然是不容忽视的问题。具体过程分为以下三个步骤:
步骤3.1:选取合适的初值。
步骤3.2:选择合适的参数。
步骤3.3:设定合适的停机准则。
阶段4-做一系列包括模拟数据和真实数据的实验来展示所提出方法的高效性。
本发明的工作原理:在NMF的基础上引入熵正则通过最小化熵来去除丰度的随机性,从而丰度的稀疏性可以被控制,NMF的解空间得以缩小,有利于在优化过程中避开性质不好的局部最优点。乘性迭代方法和投影梯度方法凭借其简约和高效的特性,被广泛应用于求解NMF优化问题。本发明在这两种方法的基础上推导两种求解所提出的ERNMF的算法。该方法通过选取合适的初值,来控制高阶误差项;选择合适的初值来控制正则项的影响力度;并且给定适当的停机准则来保证算法的有效性。使用该方法进行了一系列包括模拟数据和真实数据的实验,实验结果表明,本发明所提出的模型和算法更为高效可靠。
本发明方法的实施例验证:
本发明实施例中,在真实数据中,本发明利用四组真实高光谱数据来评估所提出的方法,分别为Samson,JasperRidge,urban和Cuprite。
(1)在Samson图像中有952×952个像素点,每一个像素点由156条波长跨度为401nm到889nm的光谱带记录,光谱分辨率达到3.13nm。因为原始图像过于巨大,本发明从(252,332)像素点处开始选取了一个95×95的局部片段作为实验数据。Samson中有三种物质:岩石、树林和水。由ERNMF-MU和ERNMF-PG估计得到的丰度展示在图1和2中,估计的端元展示在图3和4中。表1展示了不同方法得到的SAD结果。
从结果可以看出,本发明所提出的ERNMF确实较为精确提取出了Samson中的三种物质及其丰度。表1的结果表明,从SAD的数据上看,ERNMF-PG有着绝对优势,ERNMF-MU的表现也很出众。这些结果充分证明了模型的准确性。
表1.Samson数据集下不同方法得到的SAD结果
(2)JasperRidge的原始图像包含512×614个像素点,跨越波长从380nm到2500nm的224条光谱带,光谱分辨率达到9.46nm。这里仅适用从(105,268)像素点开始的100×100的小窗口作为实验数据。本发明去除噪声谱带(1-3,108-112,154-166,220-224)从而得到198条谱带的版本。这组数据中有四种端元:树林、水、土壤和公路。由ERNMF-MU和ERNMF-PG估计得到的丰度展示在图5和6中,估计的端元展示在图7和8中,表2展示了不同方法得到的SAD结果。
表2.JasperRidge数据集下不同方法得到的SAD结果
从结果可以看出,ERNMF模型能够精确地提取并定位Jasper Ridge中的4种端元,估计得到的光谱信号和数据库中的参考信号也十分接近。从SAD的结果来看,ERNMF-PG和ERNMF-MU占据最优和次优的位置,并且明显好于其他方法。所有实验结果再一次证明模型具有较好的精确性。
(3)Urban的原始数据集包含210条跨度从400nm到2500nm的光谱带,光谱分辨率为10nm。在移除噪声光谱带1-4,76,87,101-111,136-153和198-210后,图像还剩下162条光谱带。Urban图像中包含6中不同的主要物质:柏油公路、草地、树林、屋顶、金属和土地。图9和10展示了由ERNMF-MU和ERNMF-PG估计得到的丰度。图11和12展示了ERNMF模型提取的端元以及数据库中的参考信号。表3中展示了不同方法的SAD结果,其中最小和次小的结果分别用加粗字体和下滑线标记。
表3.Urban数据集下不同方法得到的SAD结果
(4)Cuprite是高光谱解混研究中最常用的测试数据集,它包含224条跨度从370nm到2480nm的光谱带。在移除噪音谱带后(1–3,104–113,148–167,221–224),本发明将包含剩下87条谱带和250×190像素点的图像作为实验数据。图像中包含14种矿物,由于有些矿物的成分十分相似,本发明将端元个数减少为12,具体为以下矿物:“#1Alunit,”“#2Andradite,”“#3Buddingtonite,”“#4Dumortierite,”“#5Kaolinite1,”“#6Kaolinite2,”“#7Muscovite,”“#8Montmorillonite,”“#9Nontronite,”“#10Pyrope,”“#11Sphene,”“#12Chalcedony”。图13和14展示了估计的丰度,提取的端元展示在图15和16中。表4展示了不同方法得到的SAD结果。
由于Cuprite中的矿物种类远超过12种,其中很多矿物含量很少,还有些矿物成分很接近,因此得到的估计光谱信号和参考信号并不能完全吻合,这也是不同解混方法的结果接近的原因。从SAD结果来看,ERNMF-PG稍好于其他方法。这说明熵正则对提取端元的确有帮助。
表4.Cuprite数据集下不同方法得到的SAD结果
综合上述实施例验证可知,本发明是一种基于熵正则非负矩阵分解模型的高光谱解混方法,为了使求解的丰度具有最小的不确定性,本发明在本文中提出丰度的熵正则NMF方法来求解HU问题,该方法能够促进丰度的稀疏性进而缩减NMF的解空间,并从一定程度上缓解了NMF目标函数非凸所带来的问题;还可以提升高光谱解混的可靠性和精确性,能够更好地利用高光谱数据。本发明实施例实验结果充分说明,和其他现有高光谱解混方法相比,本发明所提出的模型和方法更为高效可靠。
以上实施例仅用以说明本发明的技术方案而非对其限制,尽管参照上述实施例对本发明进行了详细的说明,所属领域的普通技术人员依然可以对本发明的具体实施方式进行修改或者等同替换,这些未脱离本发明精神和范围的任何修改或者等同替换,均在申请待批的本发明的权利要求保护范围之内。
Claims (10)
3.根据权利要求2所述的一种基于熵正则非负矩阵分解模型的高光谱解混方法,其特征在于,步骤2中,初始化M和A的方法包括:
初始化M的方法包括:在(0,1)区间中随机生成,或者从观测数据中随机选取;或者,采用非监督的端元提取算法来确定端元并将其作为M的初值;
初始化A的方法包括:在决定端元M之后,丰度A由全约束最小二乘法或变量分离的增广拉格朗日稀疏解混法来进行初始化。
6.根据权利要求5所述的一种基于熵正则非负矩阵分解模型的高光谱解混方法,其特征在于,在前10次迭代中,令α=0,用于提升模型的鲁棒性。
9.根据权利要求8所述的一种基于熵正则非负矩阵分解模型的高光谱解混系统,其特征在于,求解优化模块中,初始化M和A的方法包括:
初始化M的方法包括:在(0,1)区间中随机生成,或者从观测数据中随机选取;或者,采用非监督的端元提取算法来确定端元并将其作为M的初值;
初始化A的方法包括:在决定端元M之后,丰度A由全约束最小二乘法或变量分离的增广拉格朗日稀疏解混法来进行初始化。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010586657.6A CN111914893B (zh) | 2020-06-24 | 2020-06-24 | 一种基于熵正则非负矩阵分解模型的高光谱解混方法及系统 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010586657.6A CN111914893B (zh) | 2020-06-24 | 2020-06-24 | 一种基于熵正则非负矩阵分解模型的高光谱解混方法及系统 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN111914893A true CN111914893A (zh) | 2020-11-10 |
CN111914893B CN111914893B (zh) | 2023-09-12 |
Family
ID=73226586
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010586657.6A Active CN111914893B (zh) | 2020-06-24 | 2020-06-24 | 一种基于熵正则非负矩阵分解模型的高光谱解混方法及系统 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN111914893B (zh) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113723348A (zh) * | 2021-09-10 | 2021-11-30 | 中国石油大学(华东) | 一种基于丰度稀疏约束的高光谱混合像元分解方法 |
CN113792254A (zh) * | 2021-08-17 | 2021-12-14 | 大连理工大学 | 一种引入空间稀疏约束的多被试fMRI数据Tucker分解方法 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6665438B1 (en) * | 1999-05-05 | 2003-12-16 | American Gnc Corporation | Method for hyperspectral imagery exploitation and pixel spectral unmixing |
CN102314685A (zh) * | 2011-07-23 | 2012-01-11 | 北京航空航天大学 | 一种基于随机投影的高光谱图像稀疏解混方法 |
CN109085131A (zh) * | 2018-07-12 | 2018-12-25 | 重庆邮电大学 | 基于丰度稀疏和端元正交性约束nmf的高光谱解混方案 |
CN109241843A (zh) * | 2018-08-02 | 2019-01-18 | 南京理工大学 | 空谱联合多约束优化非负矩阵解混方法 |
CN110428369A (zh) * | 2019-06-20 | 2019-11-08 | 中国地质大学(武汉) | 基于信息熵的chnmf遥感图像解混算法 |
-
2020
- 2020-06-24 CN CN202010586657.6A patent/CN111914893B/zh active Active
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6665438B1 (en) * | 1999-05-05 | 2003-12-16 | American Gnc Corporation | Method for hyperspectral imagery exploitation and pixel spectral unmixing |
CN102314685A (zh) * | 2011-07-23 | 2012-01-11 | 北京航空航天大学 | 一种基于随机投影的高光谱图像稀疏解混方法 |
CN109085131A (zh) * | 2018-07-12 | 2018-12-25 | 重庆邮电大学 | 基于丰度稀疏和端元正交性约束nmf的高光谱解混方案 |
CN109241843A (zh) * | 2018-08-02 | 2019-01-18 | 南京理工大学 | 空谱联合多约束优化非负矩阵解混方法 |
CN110428369A (zh) * | 2019-06-20 | 2019-11-08 | 中国地质大学(武汉) | 基于信息熵的chnmf遥感图像解混算法 |
Non-Patent Citations (2)
Title |
---|
宋晓瑞;吴玲达;孟祥利;: "利用稳健非负矩阵分解实现无监督高光谱解混", 中国图象图形学报, no. 04 * |
邓承志;张国荣;张绍泉;徐晨光;李?;田伟;汪胜前;: "光谱加权稀疏非负矩阵分解高光谱图像解混", 南昌工程学院学报, no. 06 * |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113792254A (zh) * | 2021-08-17 | 2021-12-14 | 大连理工大学 | 一种引入空间稀疏约束的多被试fMRI数据Tucker分解方法 |
CN113792254B (zh) * | 2021-08-17 | 2024-05-28 | 大连理工大学 | 一种引入空间稀疏约束的多被试fMRI数据Tucker分解方法 |
CN113723348A (zh) * | 2021-09-10 | 2021-11-30 | 中国石油大学(华东) | 一种基于丰度稀疏约束的高光谱混合像元分解方法 |
Also Published As
Publication number | Publication date |
---|---|
CN111914893B (zh) | 2023-09-12 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Mialon et al. | Graphit: Encoding graph structure in transformers | |
CN104952050B (zh) | 基于区域分割的高光谱图像自适应解混方法 | |
Thurau et al. | Descriptive matrix factorization for sustainability adopting the principle of opposites | |
Mua’ad Abu-Faraj et al. | Deep Machine Learning to Enhance ANN Performance: Fingerprint Classifier Case Study | |
Vincent-Cuaz et al. | Semi-relaxed Gromov-Wasserstein divergence with applications on graphs | |
CN111914893A (zh) | 一种基于熵正则非负矩阵分解模型的高光谱解混方法及系统 | |
CN104463223B (zh) | 基于空谱信息丰度约束的高光谱图像组稀疏解混方法 | |
CN103150577B (zh) | 基于粒子群优化的高光谱遥感影像自适应波段选择方法 | |
Yuan et al. | Hyperspectral image classification based on regularized sparse representation | |
CN111161199A (zh) | 一种空谱融合的高光谱影像混合像元低秩稀疏分解方法 | |
CN111008644B (zh) | 基于局部动态能量函数fcn-crf模型的生态变化监测方法 | |
CN106067165B (zh) | 基于聚类化稀疏随机场的高光谱图像去噪方法 | |
Li et al. | Sparsity-constrained coupled nonnegative matrix–tensor factorization for hyperspectral unmixing | |
Xiong et al. | NMF-SAE: An interpretable sparse autoencoder for hyperspectral unmixing | |
CN114937173A (zh) | 一种基于动态图卷积网络的高光谱图像快速分类方法 | |
Liu et al. | A bilateral branch learning paradigm for short term wind power prediction with data of multiple sampling resolutions | |
CN114331976A (zh) | 一种基于多级张量先验约束的高光谱异常检测方法 | |
Pednault | Transform regression and the kolmogorov superposition theorem | |
Kong et al. | Regularized multiple sparse Bayesian learning for hyperspectral target detection | |
CN114596482B (zh) | 一种基于扩展多线性混合模型的高光谱图像非线性解混方法 | |
Qian et al. | Model‐Inspired Deep Neural Networks for Hyperspectral Unmixing | |
Sigurdsson et al. | Blind Nonlinear Hyperspectral Unmixing Using an $\ell_ {q} $ Regularizer | |
Amini et al. | Non-smooth regularization: Improvement to learning framework through extrapolation | |
Cawley et al. | A greedy training algorithm for sparse least-squares support vector machines | |
Liu et al. | Decomposition of mixed pixels based on bayesian self-organizing map and gaussian mixture model |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |