CN107977951B - 基于耦合张量分解的多光谱与高光谱图像融合方法 - Google Patents
基于耦合张量分解的多光谱与高光谱图像融合方法 Download PDFInfo
- Publication number
- CN107977951B CN107977951B CN201711419401.0A CN201711419401A CN107977951B CN 107977951 B CN107977951 B CN 107977951B CN 201711419401 A CN201711419401 A CN 201711419401A CN 107977951 B CN107977951 B CN 107977951B
- Authority
- CN
- China
- Prior art keywords
- spatial resolution
- image
- hyperspectral image
- multispectral
- matrix
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000354 decomposition reaction Methods 0.000 title claims abstract description 20
- 238000007500 overflow downdraw method Methods 0.000 title claims abstract description 7
- 230000008878 coupling Effects 0.000 title claims abstract description 6
- 238000010168 coupling process Methods 0.000 title claims abstract description 6
- 238000005859 coupling reaction Methods 0.000 title claims abstract description 6
- 239000011159 matrix material Substances 0.000 claims abstract description 29
- 230000003595 spectral effect Effects 0.000 claims abstract description 22
- 238000001228 spectrum Methods 0.000 claims abstract description 9
- 230000015556 catabolic process Effects 0.000 claims abstract description 8
- 238000006731 degradation reaction Methods 0.000 claims abstract description 8
- 238000005070 sampling Methods 0.000 claims abstract description 6
- 238000000034 method Methods 0.000 abstract description 13
- 238000001514 detection method Methods 0.000 abstract description 2
- 230000004927 fusion Effects 0.000 description 11
- 238000011156 evaluation Methods 0.000 description 8
- 238000004088 simulation Methods 0.000 description 5
- 230000000694 effects Effects 0.000 description 4
- 238000005516 engineering process Methods 0.000 description 3
- 238000000513 principal component analysis Methods 0.000 description 3
- 230000007547 defect Effects 0.000 description 2
- 238000006467 substitution reaction Methods 0.000 description 2
- 238000011426 transformation method Methods 0.000 description 2
- 238000003384 imaging method Methods 0.000 description 1
- 238000002347 injection Methods 0.000 description 1
- 239000007924 injection Substances 0.000 description 1
- 230000014759 maintenance of location Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/50—Image enhancement or restoration using two or more images, e.g. averaging or subtraction
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/40—Scaling of whole images or parts thereof, e.g. expanding or contracting
- G06T3/4053—Scaling of whole images or parts thereof, e.g. expanding or contracting based on super-resolution, i.e. the output image resolution being higher than the sensor resolution
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10032—Satellite or aerial image; Remote sensing
- G06T2207/10036—Multispectral image; Hyperspectral image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20212—Image combination
- G06T2207/20221—Image fusion; Image merging
Landscapes
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Image Processing (AREA)
- Image Analysis (AREA)
Abstract
本发明公开了一种基于耦合张量分解的多光谱与高光谱图像融合方法,主要解决现有技术中空间信息模糊和光谱扭曲的问题。其步骤为:(1)分别输入低空间分辨率的高光谱图像、高空间分辨率的多光谱图像、光谱退化矩阵和正则参数;(2)将低空间分辨率的高光谱图像进行空间上采样;(3)将上采样低空间分辨率的高光谱图像利用高阶奇异值分解算法进行Tucker分解;(4)将高空间分辨率的多光谱图像进行Tucker分解;(5)将步骤(3)得到的因子矩阵与步骤(4)得到的核心张量沿各个模相乘得到高空间分辨率的高光谱图像。本发明能获得准确的空间和光谱信息,可用于目标检测与识别、地物分类等遥感领域。
Description
技术领域
本发明属于图像处理技术领域,更进一步涉及遥感图像中的多光谱与高光谱图像融合方法,可用于目标检测与识别和地物分类等遥感领域。
背景技术
由于光学传感器成像的物理限制,遥感卫星通常只能获得低空间分辨率的高光谱图像和高空间分辨率的多光谱图像。高光谱图像具有较多的光谱信息,但空间分辨率较低;多光谱图像空间分辨率较高,具有较多的空间信息,但光谱信息较少缺乏。为了得到高空间分辨率的高光谱图像,人们采用多光谱与高光谱图像融合技术,分别利用多光谱图像中的空间细节与高光谱图像的光谱信息,最终得到空间细节清晰,光谱信息丰富的高空间分辨率的高光谱图像,从而获得更好的视觉效果。
目前,多光谱图像与高光谱图像融合技术主要可以分为两类:一类是基于成分替代的方法,例如主成分分析法PCA。由于基于成分替代的方法原理简单,操作简单,因此得到广泛应用。但是这类方法会产生严重的光谱扭曲。另一类是基于注入的方法,例如小波变换法。这类方法大大减小了融合图像的光谱扭曲度,但是容易产生空间效应。
发明内容
本发明的目的在于针对上述已有技术的不足,提出一种基于耦合张量分解的多光谱与高光谱图像融合方法,以提高高光谱图像的空间分辨率,并较好的保持光谱特征。
为实现上述目的,具体步骤包括如下:
1、一种基于耦合张量分解的多光谱与高光谱图像融合方法,包括以下步骤:
(1)输入图像和矩阵:
(1a)分别输入低空间分辨率高光谱图像L∈Rh×w×B和高空间分辨率多光谱图像Y∈RH×W×b,h和w为低空间分辨率高光谱图像的高和宽,B为低分辨率高光谱图像的波段数,H和W为高空间分辨率多光谱图像的高和宽,b为高空间分辨率多光谱图像的波段数;
(1b)输入光谱退化矩阵D;
(1c)设定正则参数λ。
(2)将低空间分辨率高光谱图像L进行空间上采样,使得空间尺寸变为H×W,得到上采样的低空间分辨率高光谱图像X∈RH×W×B。
(3)将上采样的低空间分辨率高光谱图像X进行Tucker分解,得到核心张量G和因子矩阵T1,T2和T3:
(3a)构建目标方程:
X=G×1T1×2T2×3T3
(3b)利用高阶奇异值分解算法对步骤(3a)中的目标方程进行求解。
(4)将高空间分辨率多光谱图像Y进行Tucker分解,得到核心张量C:
(4a)构建目标方程:
Y=C×1T1×2T2×3T3D
其中,T3D=DT3。
(4b)将步骤(4a)中的目标方程变形为:
其中,T表示矩阵的转置。
(4c)将矩阵C(3)沿模3折叠得到核心张量C:
(5)将核心张量C与因子矩阵T1,T2和T3分别沿模1,模2和模3相乘,得到高空间分辨率高光谱图像Z:
Z=C×1T1×2T2×3T3
本发明与现有的技术相比具有以下优点:
第一,本发明将张量分解引入到多光谱图像与高光谱图像融合领域来,克服了现有技术中空间结构和光谱结构保持性能较差的不足,使得本发明可以获得较为准确的空间信息和光谱结构,有利于后续图像处理技术的使用。
第二,本发明采用高阶奇异值分解算法对低空间分辨率高光谱图像进行分解,减小了矩阵初始化对融合结果的影响,使得本发明对噪声更加鲁棒,融合结果更加稳定。
本发明的效果可结合以下附图详细说明。
附图说明
图1为本发明对低空间分辨率高光谱图像和高空间分辨率多光谱图像融合的流程图。
图2为本发明对低空间分辨率高光谱图像和高空间分辨率多光谱图像融合的结果对比图。
具体实施方法
以下结合附图为本发明做进一步详细描述:
参照图1,本发明的具体实施方式如下:
步骤1.输入图像,矩阵和正则参数。
(1a)分别输入低空间分辨率高光谱图像L∈Rh×w×B和高空间分辨率多光谱图像Y∈RH×W×b,h和w为低空间分辨率高光谱图像的高和宽,B为低分辨率高光谱图像的波段数,H和W为高空间分辨率多光谱图像的高和宽,b为高空间分辨率多光谱图像的波段数;
本发明实施例中,采用在华盛顿地区拍摄的低空间分辨率的高光谱和高空间分辨率的多光谱图像,低空间分辨率的高光谱图像大小为64×64×191,高空间分辨率的全色图像大小为256×256×6。
(1b)输入光谱退化矩阵D;
光谱退化矩阵D为谱间下采样矩阵,表示最终得到的高空间分辨率的多光谱图像与高空间分辨率的全色图像之间的光谱退化关系。
其中,AB×B为基矩阵,该矩阵对角线元素为1,其余元素为0,B为高光谱图像的波段数,w=[w1,w2,w3,w4,w5,w6]为行向量,w1,w2,w3,w4,w5,w6分别为各个波段的权值系数,本发明实施例中,高光谱图像的波段数B=191,则空间退化矩阵D的大小为6×191。
(1c)设定正则参数λ
λ=0.5。
步骤2.将低空间分辨率高光谱图像L进行空间上采样,使得空间尺寸变为H×W,得到上采样的低空间分辨率高光谱图像X∈RH×W×B。
步骤3.将上采样的低空间分辨率高光谱图像X进行Tucker分解,得到核心张量G和因子矩阵T1,T2和T3:
(3a)构建目标方程:
X=G×1T1×2T2×3T3
(3b)利用高阶奇异值分解算法对步骤(3a)中的目标方程进行求解。
(4)将高空间分辨率多光谱图像Y进行Tucker分解,得到核心张量C:
(4a)构建目标方程:
Y=C×1T1×2T2×3T3D
其中,T3D=DT3。
(4b)将步骤(4a)中的目标方程变形为:
其中,T表示矩阵的转置。
(4c)将矩阵C(3)沿模3折叠得到核心张量C:
式,(·)-1表示矩阵的逆。
(5)将核心张量C与因子矩阵T1,T2和T3分别沿模1,模2和模3相乘,得到高空间分辨率高光谱图像Z:
Z=C×1T1×2T2×3T3
本发明的效果可以通过以下仿真进一步说明。
1.仿真环境:
MATLAB R2014a,Intel(R)Core(TM)i5-3470CPU 3.00GHz,Window 7。
2.仿真内容:
仿真1,用本发明对在华盛顿地区拍摄的低空间分辨率的高光谱和高空间分辨率的多光谱图像进行融合,并选取第70个波段进行对比,结果如图2所示,其中:
图2(a)是低空间分辨率的高光谱图像,大小为64×64,
图2(b)是高空间分辨率的多光谱图像,大小为256×256,
图2(c)是一幅参考图像,大小为256×256,
图2(d)为采用本发明对图2(a)和图2(b)进行融合后获得的高空间分辨率的高光谱图像,大小为256×256。
由图2可见,图2(d)的空间纹理信息相比于图2(a)有明显提高,尤其在道路等细节部分,边缘变得清晰,由此可见,本发明能够对图2(a)和图2(b)进行较好的融合。
仿真2,为了证明本发明的效果,分别用本发明的方法和现有技术PCA变换法、GS变换法对图2(a)和图2(b)的待融合图像进行融合,并对融合结果进行客观指标评价,评价指标如下:
1)相关系数CC,表示光谱信息的保留程度,结果在区间[0,1],相关系数越接近1,表示融合结果与参考图像越相似。
2)整体图像质量指数UIQI,表示融合图像与参考图像的接近程度,越接近1,融合结果越好。
3)光谱弧度SAM,表示光谱的扭曲程度,越接近0,融合结果越好。
根据上述评价指标对本发明与现有技术的融合结果从客观评价指标上进行评价,结果如表1。
表1.各类方法融合结果的客观评价
由表1可见,本发明的整体图像质量指数UIQI大于现有技术的评价值,相关系数CC平均值上均大于现有技术的评价值,另外本发明的光谱弧度SAM均小于其他现有技术,由此可以看出本发明的客观评价指标均优于现有技术的客观评价指标。
Claims (1)
1.一种基于耦合张量分解的多光谱与高光谱图像融合方法,包括以下步骤:
(1)输入图像和矩阵:
(1a)分别输入低空间分辨率高光谱图像L∈Rh×w×B和高空间分辨率多光谱图像Y∈RH ×W×b,h和w为低空间分辨率高光谱图像的高和宽,B为低分辨率高光谱图像的波段数,H和W为高空间分辨率多光谱图像的高和宽,b为高空间分辨率多光谱图像的波段数;
(1b)输入光谱退化矩阵D;
(1c)设定正则参数λ;
(2)将低空间分辨率高光谱图像L进行空间上采样,使得空间尺寸变为H×W,得到上采样的低空间分辨率高光谱图像X∈RH×W×B;
(3)将上采样的低空间分辨率高光谱图像X进行Tucker分解,得到核心张量G和因子矩阵T1,T2和T3:
(3a)构建目标方程:
X=G×1T1×2T2×3T3
其中,IH×H,IW×W和IB×B均为单位矩阵,尺寸分别为H×H,W×W和B×B;subject to表示T1 TT1=IH×H,为X=G×1T1×2T2×3T3的约束条件,×1,×2和×3分别表示沿模1,模2,模3相乘;
(3b)利用高阶奇异值分解算法对步骤(3a)中的目标方程进行求解;
(4)将高空间分辨率多光谱图像Y进行Tucker分解,得到核心张量C:
(4a)构建目标方程:
Y=C×1T1×2T2×3T3D
其中,T3D=DT3;
(4b)将步骤(4a)中的目标方程变形为:
其中,T表示矩阵的转置;
(4c)将矩阵C(3)沿模3折叠得到核心张量C:
(5)将核心张量C与因子矩阵T1,T2和T3分别沿模1,模2和模3相乘,得到高空间分辨率高光谱图像Z:
Z=C×1T1×2T2×3T3。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201711419401.0A CN107977951B (zh) | 2017-12-25 | 2017-12-25 | 基于耦合张量分解的多光谱与高光谱图像融合方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201711419401.0A CN107977951B (zh) | 2017-12-25 | 2017-12-25 | 基于耦合张量分解的多光谱与高光谱图像融合方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN107977951A CN107977951A (zh) | 2018-05-01 |
CN107977951B true CN107977951B (zh) | 2020-08-07 |
Family
ID=62007681
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201711419401.0A Active CN107977951B (zh) | 2017-12-25 | 2017-12-25 | 基于耦合张量分解的多光谱与高光谱图像融合方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN107977951B (zh) |
Families Citing this family (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109143151B (zh) * | 2018-08-16 | 2022-07-12 | 南京航空航天大学 | 部分阵元损坏的均匀面阵张量重构方法及信源定位方法 |
CN109785281B (zh) * | 2018-12-31 | 2022-09-13 | 南京理工大学 | 基于光谱映射的灰度调幅的pansharpening方法 |
CN111369487B (zh) * | 2020-05-26 | 2020-09-18 | 湖南大学 | 一种高光谱和多光谱图像融合方法、系统及介质 |
CN111882511B (zh) * | 2020-07-09 | 2024-09-06 | 广东海洋大学 | 基于积分增强梯度迭代神经网络的多源遥感图像融合方法 |
CN112102218B (zh) * | 2020-09-25 | 2023-07-07 | 北京师范大学 | 一种生成高空间分辨率多光谱影像的融合方法 |
CN113112591B (zh) * | 2021-04-15 | 2022-08-26 | 宁波甬矩空间信息技术有限公司 | 基于耦合稀疏张量分解的多时相遥感影像时空谱融合方法 |
CN113421216B (zh) * | 2021-08-24 | 2021-11-12 | 湖南大学 | 一种高光谱融合计算成像方法及系统 |
CN116402726B (zh) * | 2023-06-08 | 2023-08-22 | 四川工程职业技术学院 | 一种高光谱-多光谱图像的去噪融合方法 |
Family Cites Families (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8923392B2 (en) * | 2011-09-09 | 2014-12-30 | Adobe Systems Incorporated | Methods and apparatus for face fitting and editing applications |
CN103714572B (zh) * | 2013-12-06 | 2016-08-17 | 北京航空航天大学 | 基于光谱重构的三步高光谱图像融合方法 |
CN104867124B (zh) * | 2015-06-02 | 2017-10-24 | 西安电子科技大学 | 基于对偶稀疏非负矩阵分解的多光谱与全色图像融合方法 |
CN106845517B (zh) * | 2016-12-14 | 2020-03-20 | 西北大学 | 一种基于Tucker分解的光谱张量降维及分类方法 |
-
2017
- 2017-12-25 CN CN201711419401.0A patent/CN107977951B/zh active Active
Non-Patent Citations (1)
Title |
---|
LOW-RANK TENSOR DECOMPOSITION BASED ANOMALY DETECTION FOR HYPERSPECTRAL IMAGERY;Shuangjiang Li等;《ICIP 2015》;20151231;第4525-4529页 * |
Also Published As
Publication number | Publication date |
---|---|
CN107977951A (zh) | 2018-05-01 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN107977951B (zh) | 基于耦合张量分解的多光谱与高光谱图像融合方法 | |
Fan et al. | Spatial–spectral total variation regularized low-rank tensor decomposition for hyperspectral image denoising | |
CN109697697B (zh) | 基于优化启发的神经网络的光谱成像系统的重构方法 | |
CN104867124B (zh) | 基于对偶稀疏非负矩阵分解的多光谱与全色图像融合方法 | |
CN111260576B (zh) | 一种基于去噪三维卷积自编码网络的高光谱解混算法 | |
CN104112263B (zh) | 基于深度神经网络的全色图像与多光谱图像融合的方法 | |
Rao et al. | A residual convolutional neural network for pan-shaprening | |
Fu et al. | Adaptive spatial-spectral dictionary learning for hyperspectral image restoration | |
CN111145131A (zh) | 一种基于多尺度生成式对抗网络的红外和可见光图像融合方法 | |
CN114119444B (zh) | 一种基于深度神经网络的多源遥感图像融合方法 | |
CN102842124B (zh) | 基于矩阵低秩分解的多光谱图像与全色图像融合方法 | |
CN102982517B (zh) | 基于光谱与空间局部相关的遥感影像融合方法 | |
CN113327218B (zh) | 一种基于级联网络的高光谱与全色图像融合方法 | |
CN101950415B (zh) | 一种基于形状语义模型约束的人脸超分辨率处理方法 | |
CN108520495B (zh) | 基于聚类流形先验的高光谱图像超分辨重建方法 | |
CN107507135A (zh) | 基于编码光圈和靶标的图像重构方法 | |
CN108182449A (zh) | 一种高光谱图像分类方法 | |
CN106447630A (zh) | 基于概率矩阵分解的高光谱图像锐化方法 | |
CN106920214A (zh) | 空间目标图像超分辨率重建方法 | |
CN114998167B (zh) | 一种基于空间-光谱联合低秩的高光谱与多光谱图像融合方法 | |
CN115861083B (zh) | 一种多尺度和全局特征的高光谱与多光谱遥感融合方法 | |
CN111696043A (zh) | 一种三维fsrcnn的高光谱图像超分辨率重建算法 | |
CN115760814A (zh) | 一种基于双耦合深度神经网络的遥感图像融合方法及系统 | |
CN109859153B (zh) | 一种基于自适应光谱-空间梯度稀疏正则化的多光谱图像融合方法 | |
Qu et al. | Fusion of hyperspectral and panchromatic images using an average filter and a guided filter |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |