CN117635450A - 一种基于尺度自适应变换的sfim融合方法及装置 - Google Patents

一种基于尺度自适应变换的sfim融合方法及装置 Download PDF

Info

Publication number
CN117635450A
CN117635450A CN202311271292.8A CN202311271292A CN117635450A CN 117635450 A CN117635450 A CN 117635450A CN 202311271292 A CN202311271292 A CN 202311271292A CN 117635450 A CN117635450 A CN 117635450A
Authority
CN
China
Prior art keywords
image
scale
full
multispectral
color
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202311271292.8A
Other languages
English (en)
Inventor
林向阳
曲小飞
王红钢
谢广奇
李蕊
戎家琦
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Institute of Remote Sensing Information
Original Assignee
Beijing Institute of Remote Sensing Information
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Institute of Remote Sensing Information filed Critical Beijing Institute of Remote Sensing Information
Priority to CN202311271292.8A priority Critical patent/CN117635450A/zh
Publication of CN117635450A publication Critical patent/CN117635450A/zh
Pending legal-status Critical Current

Links

Landscapes

  • Image Processing (AREA)

Abstract

本发明公开了一种基于尺度自适应变换的SFIM融合方法及装置,该方法包括:获取全色影像和多光谱影像;对所述全色影像和所述多光谱影像进行处理,得到全色影像和多光谱影像的尺度比例;根据所述尺度比例自适应地构造不同尺度的卷积核;根据所述不同尺度的卷积核对所述全色影像进行迭代降质,得到降质全色影像;将所述降质全色影像和所述多光谱影像上采样至全色尺度,得到上采样全色影像和上采样多光谱影像;对所述上采样全色影像和所述上采样多光谱影像进行融合,得到融合图像。本发明方法能够有效地改善SFIM的融合效果,并且不受全色多光谱尺度差异的影像,能够自适应地完成不同尺度差异的全色多光谱影像的融合。

Description

一种基于尺度自适应变换的SFIM融合方法及装置
技术领域
本发明涉及遥感图像处理技术领域,尤其涉及一种基于尺度自适应变换的SFIM融合方法及装置。
背景技术
由于硬件条件的限制,光学遥感相机无法获取同时具备高空间分辨率、高光谱分辨率的遥感影像。现在主流卫星的设计方式都是空谱分离,即以全色影像(Pan)主要存储空间信息,以多光谱影像(Mss)主要存储光谱信息,这样即可以在硬件设计指标的最大范围之内获取尽可能多的信息。这一限制也形成了光学遥感影像空谱分离的特点。
但是在地面应用的时候,对遥感影像的分辨率,包括空间分辨率与光谱分辨率的追求没有极限。如何在硬件受限的情况下获取同时具备高空间分辨率与高光谱分辨率的影像一直是研究的热点。针对这个问题,结合遥感影像空谱分离的特点,发展了一大批优秀的融合算法。目前影像融合的方法也大致可以分为两类,一类是多分辨率分析,二是成分变换方法。多分辨率分析方法利用多尺度分解的方法通过全色影像来锐化多光谱影像,典型的方法有Brovey,SFIM(smoothing filter-based intensity modulation,基于平滑滤波亮度调节融合方法),NBU_PanSharp,Wavelets等。成分变换方法的一般可以分为三步,1)将多光谱转换到另一空间,2)利用全色影像替换信息量最丰富的分量,3)逆变换得到融合影像。典型的成分变换方法包括HIS、GS、PCA等。
在这些方法中,SFIM算法由于其计算效率高,融合效果好一直受到人们的青睐。但是SFIM算法出现的比较早,主要针对全色多光谱尺度差异是4倍的影像所研发。其在最新卫星上进行应用的时候虽然具有良好的光谱信息保持能力,但是其空间信息融入度较差。其原因主要在于新发射的遥感卫星的全色多光谱尺度差异较为丰富处理,除了常见的4倍差异之外,还有2.7倍(资源三号),8倍(高分六号)等等,在利用SFIM方法进行融合的时候,单一卷积核对于不同尺度的遥感影像的高频信息并未被完全滤除。导致影像的融合结果效果不好,使得融合影像产生偏色、模糊失真等情况。
发明内容
本发明所要解决的技术问题在于,提供一种基于尺度自适应变换的SFIM融合方法及装置,适应不同全色多光谱尺度差异的卫星影像融合,该方法能够自适应地处理不同尺度差异的全色多光谱影像,迭代滤除全色影像中的空间信息,以确保在做比值变换的时候与多光谱影像中的清晰度保持一致。该方法能够有效地改善SFIM的融合效果,并且不受全色多光谱尺度差异的影响,能够自适应地完成不同尺度差异的全色多光谱影像的融合。
为了解决上述技术问题,本发明实施例第一方面公开了一种基于尺度自适应变换的SFIM融合方法,所述方法包括:
S1,获取全色影像和多光谱影像;
S2,对所述全色影像和所述多光谱影像进行处理,得到全色影像和多光谱影像的尺度比例;
S3,根据所述尺度比例自适应地构造不同尺度的卷积核;
S4,根据所述不同尺度的卷积核对所述全色影像进行迭代降质,得到降质全色影像;
S5,将所述降质全色影像和所述多光谱影像上采样至全色尺度,得到上采样全色影像和上采样多光谱影像;
S6,对所述上采样全色影像和所述上采样多光谱影像进行融合,得到融合图像。
作为一种可选的实施方式,本发明实施例第一方面中,所述对所述全色影像和所述多光谱影像进行处理,得到全色影像和多光谱影像的尺度比例,包括:
S21,对所述全色影像和所述多光谱影像的地理信息进行检测,得到所述全色影像和所述多光谱影像的地理重叠范围;
S22,根据所述地理重叠范围,对所述全色影像和所述多光谱影像进行计算,得到全色影像重叠区域的像素坐标和多光谱影像重叠区域的像素坐标;
S23,对所述全色影像重叠区域的像素坐标和多光谱影像重叠区域的像素坐标进行处理,得到全色影像和多光谱影像的尺度比例。
作为一种可选的实施方式,本发明实施例第一方面中,所述对所述全色影像重叠区域的像素坐标和多光谱影像重叠区域的像素坐标进行处理,得到全色影像和多光谱影像的尺度比例,包括:
利用全色影像和多光谱影像的尺度比例计算模型,对所述全色影像重叠区域的像素坐标和多光谱影像重叠区域的像素坐标进行处理,得到全色影像和多光谱影像的尺度比例;
所述全色影像和多光谱影像的尺度比例计算模型为:
其中,Panoverlap(x0,y0,x1,y1)为全色影像重叠区域的像素坐标,Mssoverlap(x0,y0,x1,y1)为多光谱影像重叠区域的像素坐标,(x0,y0)为左上角点坐标,(x1,y1)为右下角点坐标,ratio为全色影像和多光谱影像的尺度比例。
作为一种可选的实施方式,本发明实施例第一方面中,所述根据所述尺度比例自适应地构造不同尺度的卷积核,包括:
S31,对所述尺度比例进行处理,得到尺度整数数量因子;
S32,对所述尺度比例进行处理,得到尺度浮点型因子;
S33,对所述尺度整数数量因子和所述尺度浮点型因子进行判断,如果所述尺度整数数量因子和所述尺度浮点型因子相等,则利用高斯金字塔方法构造不同尺度的卷积核;如果所述尺度整数数量因子和所述尺度浮点型因子不相等,则将所述尺度整数数量因子加1,得到优化尺度整数数量因子;
S34,根据所述优化尺度整数数量因子自适应地构造不同尺度的卷积核。
作为一种可选的实施方式,本发明实施例第一方面中,所述根据所述优化尺度整数数量因子自适应地构造不同尺度的卷积核,包括:
S341,根据所述优化尺度整数数量因子确定需要构建的尺度层数N;
S342,第1~(N-1)层,设置高斯卷积核标准差为σ=1.6;
S343,第N层,设置高斯卷积核标准差为:
σ=(convNumsDouble-convNumsInt)*1.6
其中,convNumsDouble为尺度浮点型因子,convNumsInt为优化尺度整数数量因子;
S344,利用所述高斯卷积核标准差,构造不同尺度的卷积核。
作为一种可选的实施方式,本发明实施例第一方面中,所述根据所述不同尺度的卷积核对所述全色影像进行迭代降质,得到降质全色影像,包括:
S41,根据所述不同尺度的卷积核设置降采样的比例;
S42,根据所述降采样的比例对所述全色影像进行迭代降质,得到降质全色影像。
作为一种可选的实施方式,本发明实施例第一方面中,所述将所述降质全色影像和所述多光谱影像上采样至全色尺度,得到上采样全色影像和上采样多光谱影像,包括:
利用上采样计算模型,对所述降质全色影像和所述多光谱影像上采样至全色尺度,得到上采样全色影像和上采样多光谱影像;
所述上采样计算模型为:
其中,Q11=(x1,y1),Q12=(x1,y2),Q21=(x2,y1),Q22=(x2,y2),且这四个点为上采样的目标点p(x,y)周围的点。
本发明实施例第二方面公开了一种基于尺度自适应变换的SFIM融合装置,所述装置包括:
数据获取模块,用于获取全色影像和多光谱影像;
尺度比例计算模块,用于对所述全色影像和所述多光谱影像进行处理,得到全色影像和多光谱影像的尺度比例;
卷积核计算模块,用于根据所述尺度比例自适应地构造不同尺度的卷积核;
降质模块,用于根据所述不同尺度的卷积核对所述全色影像进行迭代降质,得到降质全色影像;
上采样模块,用于将所述降质全色影像和所述多光谱影像上采样至全色尺度,得到上采样全色影像和上采样多光谱影像;
融合模块,用于对所述上采样全色影像和所述上采样多光谱影像进行融合,得到融合图像。
作为一种可选的实施方式,本发明实施例第二方面中,所述对所述全色影像和所述多光谱影像进行处理,得到全色影像和多光谱影像的尺度比例,包括:
S21,对所述全色影像和所述多光谱影像的地理信息进行检测,得到所述全色影像和所述多光谱影像的地理重叠范围;
S22,根据所述地理重叠范围,对所述全色影像和所述多光谱影像进行计算,得到全色影像重叠区域的像素坐标和多光谱影像重叠区域的像素坐标;
S23,对所述全色影像重叠区域的像素坐标和多光谱影像重叠区域的像素坐标进行处理,得到全色影像和多光谱影像的尺度比例。
作为一种可选的实施方式,本发明实施例第二方面中,所述对所述全色影像重叠区域的像素坐标和多光谱影像重叠区域的像素坐标进行处理,得到全色影像和多光谱影像的尺度比例,包括:
利用全色影像和多光谱影像的尺度比例计算模型,对所述全色影像重叠区域的像素坐标和多光谱影像重叠区域的像素坐标进行处理,得到全色影像和多光谱影像的尺度比例;
所述全色影像和多光谱影像的尺度比例计算模型为:
其中,Panoverlap(x0,y0,x1,y1)为全色影像重叠区域的像素坐标,Mssoverlap(x0,y0,x1,y1)为多光谱影像重叠区域的像素坐标,(x0,y0)为左上角点坐标,(x1,y1)为右下角点坐标,ratio为全色影像和多光谱影像的尺度比例。
作为一种可选的实施方式,本发明实施例第二方面中,所述根据所述尺度比例自适应地构造不同尺度的卷积核,包括:
S31,对所述尺度比例进行处理,得到尺度整数数量因子;
S32,对所述尺度比例进行处理,得到尺度浮点型因子;
S33,对所述尺度整数数量因子和所述尺度浮点型因子进行判断,如果所述尺度整数数量因子和所述尺度浮点型因子相等,则利用高斯金字塔方法构造不同尺度的卷积核;如果所述尺度整数数量因子和所述尺度浮点型因子不相等,则将所述尺度整数数量因子加1,得到优化尺度整数数量因子;
S34,根据所述优化尺度整数数量因子自适应地构造不同尺度的卷积核。
作为一种可选的实施方式,本发明实施例第二方面中,所述根据所述优化尺度整数数量因子自适应地构造不同尺度的卷积核,包括:
S341,根据所述优化尺度整数数量因子确定需要构建的尺度层数N;
S342,第1~(N-1)层,设置高斯卷积核标准差为σ=1.6;
S343,第N层,设置高斯卷积核标准差为:
σ=(convNumsDouble-convNumsInt)*1.6
其中,convNumsDouble为尺度浮点型因子,convNumsInt为优化尺度整数数量因子;
S344,利用所述高斯卷积核标准差,构造不同尺度的卷积核。
作为一种可选的实施方式,本发明实施例第二方面中,所述根据所述不同尺度的卷积核对所述全色影像进行迭代降质,得到降质全色影像,包括:
S41,根据所述不同尺度的卷积核设置降采样的比例;
S42,根据所述降采样的比例对所述全色影像进行迭代降质,得到降质全色影像。
作为一种可选的实施方式,本发明实施例第二方面中,所述将所述降质全色影像和所述多光谱影像上采样至全色尺度,得到上采样全色影像和上采样多光谱影像,包括:
利用上采样计算模型,对所述降质全色影像和所述多光谱影像上采样至全色尺度,得到上采样全色影像和上采样多光谱影像;
所述上采样计算模型为:
其中,Q11=(x1,y1),Q12=(x1,y2),Q21=(x2,y1),Q22=(x2,y2),且这四个点为上采样的目标点p(x,y)周围的点。
本发明第三方面公开了另一种基于尺度自适应变换的SFIM融合装置,所述装置包括:
存储有可执行程序代码的存储器;
与所述存储器耦合的处理器;
所述处理器调用所述存储器中存储的所述可执行程序代码,执行本发明实施例第一方面公开的基于尺度自适应变换的SFIM融合方法中的部分或全部步骤。
本发明第四方面公开了一种计算机可存储介质,所述计算机可存储介质存储有计算机指令,所述计算机指令被调用时,用于执行本发明实施例第一方面公开的基于尺度自适应变换的SFIM融合方法中的部分或全部步骤。
与现有技术相比,本发明实施例具有以下有益效果:
为了适应不同全色多光谱尺度差异的卫星影像融合,本发明针对性地提出了一种尺度自适应变换的SFIM融合改进方法。该方法能够自适应地处理不同尺度差异的全色多光谱影像,迭代滤除全色影像中的空间信息,以确保在融合时与多光谱影像中的清晰度保持一致。该方法能够有效地改善SFIM的融合效果,并且不受全色多光谱尺度差异的影响,能够自适应地完成不同尺度差异的全色多光谱影像的融合。
附图说明
为了更清楚地说明本发明实施例中的技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1是本发明实施例公开的一种基于尺度自适应变换的SFIM融合方法的流程示意图;
图2是本发明实施例公开的一种基于尺度自适应变换的SFIM融合装置的结构示意图;
图3是本发明实施例公开的另一种基于尺度自适应变换的SFIM融合装置的结构示意图。
具体实施方式
为了使本技术领域的人员更好地理解本发明方案,下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
本发明的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别不同对象,而不是用于描述特定顺序。此外,术语“包括”和“具有”以及它们任何变形,意图在于覆盖不排他的包含。例如包含了一系列步骤或单元的过程、方法、装置、产品或设备没有限定于已列出的步骤或单元,而是可选地还包括没有列出的步骤或单元,或可选地还包括对于这些过程、方法、产品或设备固有的其他步骤或单元。
在本文中提及“实施例”意味着,结合实施例描述的特定特征、结构或特性可以包含在本发明的至少一个实施例中。在说明书中的各个位置出现该短语并不一定均是指相同的实施例,也不是与其它实施例互斥的独立的或备选的实施例。本领域技术人员显式地和隐式地理解的是,本文所描述的实施例可以与其它实施例相结合。
本发明公开了一种基于尺度自适应变换的SFIM融合方法及装置,该方法包括:获取全色影像和多光谱影像;对所述全色影像和所述多光谱影像进行处理,得到全色影像和多光谱影像的尺度比例;根据所述尺度比例自适应地构造不同尺度的卷积核;根据所述不同尺度的卷积核对所述全色影像进行迭代降质,得到降质全色影像;将所述降质全色影像和所述多光谱影像上采样至全色尺度,得到上采样全色影像和上采样多光谱影像;对所述上采样全色影像和所述上采样多光谱影像进行融合,得到融合图像。本发明方法能够有效地改善SFIM的融合效果,并且不受全色多光谱尺度差异的影像,能够自适应地完成不同尺度差异的全色多光谱影像的融合。以下分别进行详细说明。
实施例一
请参阅图1,图1是本发明实施例公开的一种基于尺度自适应变换的SFIM融合方法的流程示意图。其中,图1所描述的基于尺度自适应变换的SFIM融合方法应用于遥感图像处理领域,自适应地处理不同尺度差异的全色多光谱影像,迭代滤除全色影像中的空间信息,以确保在做比值变换的时候与多光谱影像中的清晰度保持一致,本发明实施例不做限定。如图1所示,该基于尺度自适应变换的SFIM融合方法可以包括以下操作:
S1,获取全色影像和多光谱影像;
可选的,对多光谱图像进行双线性插值,使其和全色图像的尺度一致;
对插值后的多光谱图像,采用最小二乘法拟合出低分辨率的全色图像;
panLR=X·γ
其中,panLR为低分辨率全色图像,X为插值后多光谱图像,γ为回归系数向量。
S2,对所述全色影像和所述多光谱影像进行处理,得到全色影像和多光谱影像的尺度比例;
S3,根据所述尺度比例自适应地构造不同尺度的卷积核;
S4,根据所述不同尺度的卷积核对所述全色影像进行迭代降质,得到降质全色影像;
S5,将所述降质全色影像和所述多光谱影像上采样至全色尺度,得到上采样全色影像和上采样多光谱影像;
S6,对所述上采样全色影像和所述上采样多光谱影像进行融合,得到融合图像。
可选的,所述对所述全色影像和所述多光谱影像进行处理,得到全色影像和多光谱影像的尺度比例,包括:
S21,对所述全色影像和所述多光谱影像的地理信息进行检测,得到所述全色影像和所述多光谱影像的地理重叠范围;
S22,根据所述地理重叠范围,对所述全色影像和所述多光谱影像进行计算,得到全色影像重叠区域的像素坐标和多光谱影像重叠区域的像素坐标;
S23,对所述全色影像重叠区域的像素坐标和多光谱影像重叠区域的像素坐标进行处理,得到全色影像和多光谱影像的尺度比例。
地理信息主要包括:rpb和地理六系数。地理信息进行检测为本领域的现有技术,本实施例不做限制。
可选的,所述对所述全色影像重叠区域的像素坐标和多光谱影像重叠区域的像素坐标进行处理,得到全色影像和多光谱影像的尺度比例,包括:
利用全色影像和多光谱影像的尺度比例计算模型,对所述全色影像重叠区域的像素坐标和多光谱影像重叠区域的像素坐标进行处理,得到全色影像和多光谱影像的尺度比例;
所述全色影像和多光谱影像的尺度比例计算模型为:
其中,Panoverlap(x0,y0,x1,y1)为全色影像重叠区域的像素坐标,Mssoverlap(x0,y0,x1,y1)为多光谱影像重叠区域的像素坐标,(x0,y0)为左上角点坐标,(x1,y1)为右下角点坐标,ratio为全色影像和多光谱影像的尺度比例。
可选的,所述根据所述尺度比例自适应地构造不同尺度的卷积核,包括:
S31,对所述尺度比例进行处理,得到尺度整数数量因子;
S32,对所述尺度比例进行处理,得到尺度浮点型因子;
S33,对所述尺度整数数量因子和所述尺度浮点型因子进行判断,如果所述尺度整数数量因子和所述尺度浮点型因子相等,则利用高斯金字塔方法构造不同尺度的卷积核;如果所述尺度整数数量因子和所述尺度浮点型因子不相等,则将所述尺度整数数量因子加1,得到优化尺度整数数量因子;
S34,根据所述优化尺度整数数量因子自适应地构造不同尺度的卷积核。
可选的,所述根据所述优化尺度整数数量因子自适应地构造不同尺度的卷积核,包括:
S341,根据所述优化尺度整数数量因子确定需要构建的尺度层数N;
S342,第1~(N-1)层,设置高斯卷积核标准差为σ=1.6;
S343,第N层,设置高斯卷积核标准差为:
σ=(convNumsDouble-convNumsInt)*1.6
其中,convNumsDouble为尺度浮点型因子,convNumsInt为优化尺度整数数量因子;
S344,利用所述高斯卷积核标准差,构造不同尺度的卷积核。
可选的,所述根据所述不同尺度的卷积核对所述全色影像进行迭代降质,得到降质全色影像,包括:
S41,根据所述不同尺度的卷积核设置降采样的比例;
S42,根据所述降采样的比例对所述全色影像进行迭代降质,得到降质全色影像。
可选的,所述将所述降质全色影像和所述多光谱影像上采样至全色尺度,得到上采样全色影像和上采样多光谱影像,包括:
利用上采样计算模型,对所述降质全色影像和所述多光谱影像上采样至全色尺度,得到上采样全色影像和上采样多光谱影像;
所述上采样计算模型为:
其中,Q11=(x1,y1),Q12=(x1,y2),Q21=(x2,y1),Q22=(x2,y2),且这四个点为上采样的目标点p(x,y)周围的点。
实施例二
本发明实施例提供的一种尺度自适应变换的SFIM融合改进方法,包括以下步骤:
步骤S101,计算全色影像和多光谱影像的尺度比例:
光学遥感卫星影像由于光谱分离的特点,全色影像与多光谱影像的尺度大小一般是不一致的,这也是需要进行全色影像与多光谱影像融合的主要原因。此外在实际成像的过程中全色影像与多光谱影像的比例一般不会是严格的设计值,且不同的卫星设计的比例也可能不同,因此第一步首先需要计算全色影像与多光谱影像的尺度比例。
根据输入的全色影像与多光谱影像判断其是否存在地理信息,若是存在地理信息,则通过地理信息计算全色影像与多光谱影像在地理上的重叠范围。根据地理重叠范围再反算至全色影像与多光谱影像的像素坐标上,分别得到全色影像与多光谱影像重叠的区域的像素坐标:
Panoverlap(x0,y0,x1,y1)
Mssoverlap(x0,y0,x1,y1)
其中,(x0,y0)为左上角点坐标,(x1,y1)为右下角点坐标,ratio为全色影像和多光谱影像的尺度比例:
步骤S102,根据尺度比例自适应地构造不同尺度的卷积核:
在步骤S101中计算得到全色影像与多光谱影像的尺度比例之后,即可以构造不同尺度的卷积核。在SFIM方法中,最关键的步骤之一即为全色影像的降质处理,在经典的SFIM方法中采用均值卷积核的方法进行降质处理,也有相关的改进算法采用高斯卷积核进行处理。但是无论是采用均值卷积或者高斯卷积核都需要事先给定相关的卷积核,这样针对不同的卫星需要设计不同的卷积核,并且一般是根据设计值给定的,并没有考虑到卫星在成像过程中发生的尺度变化的情况。此外,随着全色多光谱尺度差异变大,单一的卷积核已经很难适应大尺度差异的全色多光谱融合的情况。因此本发明参考高斯金字塔自适应地构建不同尺度的卷积核,以获取最优的效果。并且针对高斯金字塔只能够构建2n个卷积核进行了改进,首先计算需要构造卷积核的尺度整数数量convNumsInt:
convNumsInt=log2(ratio)
其次计算需要构造卷积核尺度的浮点型量convNumsDouble:
convNumsDouble=log2(ratio)
如果convNumsInt=convNumsDouble,则说明尺度差异刚好为2n,可以通过传统的高斯金字塔的方式构造多尺度卷积核,但是如果不相等,则表明尺度差异并不为2n,则需要构建的尺度层数为:convNumsInt=convNumsInt+1。
即此即自适应地确定了需要构建的尺度数量。根据尺度数量构建不同层的卷积核。参考高斯金字塔,本发明选用高斯卷积核。其中在前convNumsInt-1层以内,高斯卷积核都选用标准差σ=1.6。其中高斯卷积核的表示如下:
在上式中,(x,y)表示所述高斯滤波核内任一点的坐标,(x′,y′)为所述高斯滤波核中心点的坐标,σ为高斯滤波参数,f(x,y)为滤波输出。
如果convNumsInt≠convNumsDouble,在第convNumsInt层,需要估算不同的标准差,估算方式为:
σ=(convNumsDouble-convNumsInt)*1.6
如果convNumsInt=convNumsDouble,在第convNumsInt层,标准差为σ=1.6。
除了标准差σ不一样,最后一层的卷积核的构造方式与前几层一致,都采用高斯卷积核的方式。
步骤S103利用构造好卷积核对全色影像进行迭代降质:
可选的,进行迭代降质之前,首先对多光谱图像进行双线性内插,使其具有和全色图像相同的尺度;
然后对插值后的多光谱图像进行PCA变换:
Y=AX
其中:X为多光谱图像数据,Y为主成分数据,A为多光谱的协方差矩阵CX的特征向量构成的正交矩阵。
根据多光谱图像PCA变换得到的第一主成分的均值、方差,调整全色图像的灰度值,得到新的全色图像,即进行图像的直方图匹配:
式中,σpca1和σpan为多光谱图像第一主成分、全色图像的标准差;upca1和upan为多光谱图像第一主成分、全色图像的均值,pannew为新的全色图像,pan为原全色图像。
经过调整全色图像的灰度值,得到新的全色图像,对新的全色图像进行后续的处理和融合,将获得更好的融合效果。
接下来的处理将针对新的全色图像进行。
在步骤S102中已经自适应地计算出需要构造卷积层数与不同层数所对应的卷积核,本步骤即根据上一步骤的计算结果对新的全色影像进行迭代降质,每一层使用对应的卷积核进行卷积,卷积完成之后进行降采样处理,前convNumsInt-1层降采样的比例都为2。基于计算效率与降采样效果考虑,本发明采用双线性重采样方式,公式如下所示:
其中,Q11=(x1,y1),Q12=(x1,y2),Q21=(x2,y1),Q22=(x2,y2),且这四个点为上采样的目标点p(x,y)周围的点。
如果convNumsInt≠convNumsDouble,在第convNumsInt层的降采样比例为:
ratiolast=(convNumsDouble-convNumsInt)*2
如果convNumsInt=convNumsDouble,在第convNumsInt层降采样比例为2。
最后一层进行卷积并且降采样之后即完成了新的全色影像的降质处理,此时全色影像的尺度与清晰度与多光谱影像保持一致。
步骤S104将降质后的全色影像与多光谱影像上采样至全色尺度:
经过S101~S103步骤的计算,已经可以得到与多光谱尺度与清晰度保持一致的降质全色影像,此时需要将降质全色影像与多光谱影像都上采样至全色尺度,即融合的尺度。上采样的重采样方法基于计算效率与重采样的效果的考虑同样选用前述步骤所提到的双线性重采样模型。
经过该步骤之后,即可以得到全色尺度上的原始全色影像Pan,降质全色影像Pan′,以及上采样的多光谱影像Mss′,此时即可以进行最后的融合操作。
步骤S105通过比值法进行全色与多光谱的融合,得到最终的融合结果。
SFIM模型认为:
其中,Fusion是融合结果。Pan和Pan′的比值只保留了高分辨率图像的边缘细节信息,而基本消除了光谱与对比度信息。SFIM模型可以被视为是在低分辨率图像中添加了高分辨率细节,其融合结果与高分辨率图像的光谱差异无关,SFIM模型具有较好的色彩保持能力。但是SFIM的关键在于较优降质全色影像的生成。根据本发明提出的自适应变换的降质方法可以适应不同的卫星,适应不同比例尺差异的全色和多光谱影像,能够自适应地获取较优的降质全色影像,有效改进传统SFIM方法。
可选的,可以利用改进的SFIM方法,融合全色与多光谱影像数据,得到最终的融合结果。所述改进的SFIM方法为:
利用公式:
式中,I是从多光谱图像中提取的亮度分量,k1,k2,…,kk为每个波段的调整系数,Band1,Band2,…,Bandk为多光谱影像的各个波段,Band1SFIM,Band2SFIM,…,BandkSFIM为融合后的多光谱影像的各个波段,p为全色影像数据,p′(k)为多光谱影像数据各波段的全色降质影像数据。
可选的,可以采用如下方法对多光谱影像进行处理:
首先对多光谱图像进行双线性内插,使其具有和全色图像相同的尺度;
然后对插值后的多光谱图像进行PCA变换:
Y=AX
其中:X为多光谱图像数据,Y为主成分数据,A为多光谱的协方差矩阵CX的特征向量构成的正交矩阵。
根据多光谱图像PCA变换得到的第一主成分的均值、方差,调整全色图像的灰度值,得到新的全色图像,即进行图像的直方图匹配:
式中,σpca1和σpan为多光谱图像第一主成分、全色图像的标准差;upca1和upan为多光谱图像第一主成分、全色图像的均值。
将新的全色图像和第一主成分分别进行小波分解,本实施例分解采用的是冗余方向提升小波变换,分解层数为3层。低频分量取对应位置系数的均值作为融合系数,其表达式为:
式中,和/>分别为多光谱图像第一主成分、全色图像和融合图像的低频分量在(m,n)处的系数。
高频分量取两者相应位置处系数绝对值较大的系数作为融合系数,如下所示:
式中,和/>分别为多光谱图像第一主成分、全色图像和融合图像在第j分解层,k方向上的高频分量(m,n)处的系数,且j=1,2,3,k代表水平、垂直和对角线方向。
根据一致性原则重新调整融合小波系数,即如果某位置处的融合系数的3×3邻域空间内有超过6个系数是来自全色图像,则该位置相应调整为全色图像的小波系数;相应地,如果邻域空间内多数是来自多光谱图像的第一主成分系数,则做出类似的调整;
根据得到的融合小波系数,进行相应的小波逆变换,获得融合后的主成分分量;
将上面得到的融合图像分量作为第一主成分,在此基础上进行PCA逆变换,即可获得融合图像:
F=ATYnew
其中,Ynew是第一主成分被替换后的多光谱主成分数据,AT为PCA变换矩阵的转置,F为融合后的多光谱图像。
其中,冗余方向提升小波变换在提升小波变换的基础上进行,在预测和更新的步骤中,预测和更新算子的选取直接影响着分解的有效性,根据自适应方向提升小波变换的描述,中的算子可以在z域改善为:
这里θv是最强的方向相关性角,采用Sinc插值技术获取相邻两个整数像素之间的子像素值,在计算pe(m,n)和uh(m,n)时采用平均算法:
其中αi、βj是第i、j个子像素的值。这样可以提高计算效率并节省运算内存,以获得更多的方向信息,而不是只有最强方向上的一个。
传统的小波变换中的“分解”步骤对输入图像进行了下采样步骤,为了消除其所带来的吉布斯现象,使用“复制”的方式替代下采样步骤,即奇数多项和偶数多项都与源图像一致,称之为冗余提升小波变换(RDL-WT)。
这里的I代表源图像。经过RDL-WT将源图像分解为四个系数矩阵,包括一个基层矩阵和三个细节层矩阵。
可选的,另一种多光谱与全色图像的融合方法的具体步骤如下:
1、首先对多光谱图像进行双线性插值,使其和全色图像的尺度一致;
2、利用插值后的多光谱图像,采用最小二乘法拟合出低分辨率的全色图像;
panLR=X·γ
其中,panLR为低分辨率全色图像,X为插值后多光谱图像,γ为回归系数向量:
γ=(XT·X)-1·X·panLR
3、将拟合出的低分辨全色图像作为GS1,对多光谱图像进行GS变换(一种经典的图像变换方法):
式中,GST为GS的第T分量;XT-1为原多光谱的第T-1波段分量,波段均值为:
式中,R和C分别为原图像的行、列数,参数Φ(XT-1,GSi)为:
其中,σ(XT-1,GSi)为波段XT-1和波段GSi的协方差。
4、将高分辨的全色图像和低分辨的全色图像进行直方图匹配,使其具有相同的均值和方差:
式中,和σpan为低分辨率全色图像、高分辨率全色图像的标准差。upanLR和upan为低分辨率全色图像、高分辨率全色图像的均值。
5、将拟合出的低分辨全色图像进行1级8个方向的NSCT(非采样的轮廓波变换)分解,匹配后的高分辨率分别进行3级8,2,2个方向的NSCT分解。将多光谱的低频子带图像作为融合后的低频子带图像,将高分辨率全色图像的2,3级NSCT分解图像作为融合后的2,3级NSCT分解图像,然后将1级8个方向的子带图像按基于窗口区域能量的融合规则进行融合:
首先计算基于窗口区域(5×5)内的相关系数:
当相关系数CXY(m,n)≤a(a取0.85)时,说明两者的相关性比较低,根据区域能量的大小选取融合系数,区域能量的计算公式如下:
其中,w(i,j)是大小为5×5的低通滤波模板,当相关系数CXY(m,n)>a(a取0.85)时,说明两者的相关系数比较高,根据窗口的能量选取融合规则,如下所示:
CF(m,n)=S(m,n)·CX(m,n)+(1-S(m,n))·CY(m,n)
6、将融合后的子带图像进行NSCT逆变换,得到包含低分辨率全色图像的低频信息和高分辨率全色图像高频信息的融合后全色图像;
7、将融合后的全色图像替换GS1,进行GS逆变换,即可获得融合多光谱图像。GS逆变换的公式如下:
/>
可选的,在融合之后,可以采用如下方法对融合多光谱图像进行增强,改善融合结果的质量,具体为:
获取待增强的融合多光谱图像,使用TV范数模型将融合多光谱图像分解为只包含结构信息的基础层和只包含细节与噪声的细节层,并分别增强,而TV模型的正则项系数由估计的噪声水平进行自适应给出;
基础层处理:使用Retinex模型将基础层分解为光照分量和反射分量,利用非线性Sigmoid变换处理光照分量以拉伸对比度,突出细节,使用伽马校正调节反射分量均衡化;
细节层处理:使用高斯滤波器去除细节层多余的噪声,提升细节层质量。
利用训练好的融合多光谱图像增强模型对所述待增强的融合多光谱图像基础层和细节层分别进行处理,得到增强的融合多光谱图像。
可选的,输入的融合多光谱图像I(x,y)为两层的叠加:
I(x,y)=Ibase(x,y)+Idetail(x,y)
其中基础层为Ibase(x,y),细节层为Idetail(x,y),通过最小化以下目标函数得到基础层
其中,第1项为和纹理成分相适应的差分项,用于保留有意义的结构,第2项是基于总变差的正则化项,▽代表梯度运算符,λ为全局噪声估计值σ的3倍,λ=3σ。
全局噪声估计σ为
其中*表示卷积运算符,W和H分别为图像I(x,y)的宽度和高度,N为卷积模板:
细节层为:
Idetail(x,y)=I(x,y)-Ibase(x,y)
实施例三
请参阅图2,图2是本发明实施例公开的一种基于尺度自适应变换的SFIM融合装置的结构示意图。其中,图2所描述的基于尺度自适应变换的SFIM融合装置应用于遥感图像处理领域,自适应地处理不同尺度差异的全色多光谱影像,迭代滤除全色影像中的空间信息,以确保在做比值变换的时候与多光谱影像中的清晰度保持一致,本发明实施例不做限定。如图2所示,该基于尺度自适应变换的SFIM融合装置可以包括以下操作:
S301,数据获取模块,用于获取全色影像和多光谱影像;
S302,尺度比例计算模块,用于对所述全色影像和所述多光谱影像进行处理,得到全色影像和多光谱影像的尺度比例;
S303,卷积核计算模块,用于根据所述尺度比例自适应地构造不同尺度的卷积核;
S304,降质模块,用于根据所述不同尺度的卷积核对所述全色影像进行迭代降质,得到降质全色影像;
S305,上采样模块,用于将所述降质全色影像和所述多光谱影像上采样至全色尺度,得到上采样全色影像和上采样多光谱影像;
S306,融合模块,用于对所述上采样全色影像和所述上采样多光谱影像进行融合,得到融合图像。
实施例四
请参阅图3,图3是本发明实施例公开的另一种基于尺度自适应变换的SFIM融合装置的结构示意图。其中,图3所描述的基于尺度自适应变换的SFIM融合装置应用于遥感图像处理领域,自适应地处理不同尺度差异的全色多光谱影像,迭代滤除全色影像中的空间信息,以确保在做比值变换的时候与多光谱影像中的清晰度保持一致,本发明实施例不做限定。如图3所示,该基于尺度自适应变换的SFIM融合装置可以包括以下操作:
存储有可执行程序代码的存储器401;
与存储器401耦合的处理器402;
处理器402调用存储器401中存储的可执行程序代码,用于执行实施例一、实施例二所描述的基于尺度自适应变换的SFIM融合方法中的步骤。
实施例五
本发明实施例公开了一种计算机可读存储介质,其存储用于电子数据交换的计算机程序,其中,该计算机程序使得计算机执行实施例一、实施例二所描述的基于尺度自适应变换的SFIM融合方法中的步骤。
以上所描述的装置实施例仅是示意性的,其中作为分离部件说明的模块可以是或者也可以不是物理上分开的,作为模块显示的部件可以是或者也可以不是物理模块,即可以位于一个地方,或者也可以分布到多个网络模块上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。本领域普通技术人员在不付出创造性的劳动的情况下,即可以理解并实施。
通过以上的实施例的具体描述,本领域的技术人员可以清楚地了解到各实施方式可借助软件加必需的通用硬件平台的方式来实现,当然也可以通过硬件。基于这样的理解,上述技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来,该计算机软件产品可以存储在计算机可读存储介质中,存储介质包括只读存储器(Read-Only Memory,ROM)、随机存储器(Random Access Memory,RAM)、可编程只读存储器(Programmable Read-only Memory,PROM)、可擦除可编程只读存储器(ErasableProgrammable Read Only Memory,EPROM)、一次可编程只读存储器(One-timeProgrammable Read-Only Memory,OTPROM)、电子抹除式可复写只读存储器(Electrically-Erasable Programmable Read-Only Memory,EEPROM)、只读光盘(CompactDisc Read-Only Memory,CD-ROM)或其他光盘存储器、磁盘存储器、磁带存储器、或者能够用于携带或存储数据的计算机可读的任何其他介质。
最后应说明的是:本发明实施例公开的一种基于尺度自适应变换的SFIM融合方法及装置所揭露的仅为本发明较佳实施例而已,仅用于说明本发明的技术方案,而非对其限制;尽管参照前述实施例对本发明进行了详细的说明,本领域的普通技术人员应当理解;其依然可以对前述各项实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换;而这些修改或替换,并不使相应的技术方案的本质脱离本发明各项实施例技术方案的精神和范围。

Claims (10)

1.一种基于尺度自适应变换的SFIM融合方法,其特征在于,所述方法包括:
S1,获取全色影像和多光谱影像;
S2,对所述全色影像和所述多光谱影像进行处理,得到全色影像和多光谱影像的尺度比例;
S3,根据所述尺度比例自适应地构造不同尺度的卷积核;
S4,根据所述不同尺度的卷积核对所述全色影像进行迭代降质,得到降质全色影像;
S5,将所述降质全色影像和所述多光谱影像上采样至全色尺度,得到上采样全色影像和上采样多光谱影像;
S6,对所述上采样全色影像和所述上采样多光谱影像进行融合,得到融合图像。
2.根据权利要求1所述的基于尺度自适应变换的SFIM融合方法,其特征在于,所述对所述全色影像和所述多光谱影像进行处理,得到全色影像和多光谱影像的尺度比例,包括:
S21,对所述全色影像和所述多光谱影像的地理信息进行检测,得到所述全色影像和所述多光谱影像的地理重叠范围;
S22,根据所述地理重叠范围,对所述全色影像和所述多光谱影像进行计算,得到全色影像重叠区域的像素坐标和多光谱影像重叠区域的像素坐标;
S23,对所述全色影像重叠区域的像素坐标和多光谱影像重叠区域的像素坐标进行处理,得到全色影像和多光谱影像的尺度比例。
3.根据权利要求2所述的基于尺度自适应变换的SFIM融合方法,其特征在于,所述对所述全色影像重叠区域的像素坐标和多光谱影像重叠区域的像素坐标进行处理,得到全色影像和多光谱影像的尺度比例,包括:
利用全色影像和多光谱影像的尺度比例计算模型,对所述全色影像重叠区域的像素坐标和多光谱影像重叠区域的像素坐标进行处理,得到全色影像和多光谱影像的尺度比例;
所述全色影像和多光谱影像的尺度比例计算模型为:
其中,Panoverlap(x0,y0,x1,y1)为全色影像重叠区域的像素坐标,Mssoverlap(x0,y0,x1,y1)为多光谱影像重叠区域的像素坐标,(x0,y0)为左上角点坐标,(x1,y1)为右下角点坐标,ratio为全色影像和多光谱影像的尺度比例。
4.根据权利要求1所述的基于尺度自适应变换的SFIM融合方法,其特征在于,所述根据所述尺度比例自适应地构造不同尺度的卷积核,包括:
S31,对所述尺度比例进行处理,得到尺度整数数量因子;
S32,对所述尺度比例进行处理,得到尺度浮点型因子;
S33,对所述尺度整数数量因子和所述尺度浮点型因子进行判断,如果所述尺度整数数量因子和所述尺度浮点型因子相等,则利用高斯金字塔方法构造不同尺度的卷积核;如果所述尺度整数数量因子和所述尺度浮点型因子不相等,则将所述尺度整数数量因子加1,得到优化尺度整数数量因子;
S34,根据所述优化尺度整数数量因子自适应地构造不同尺度的卷积核。
5.根据权利要求4所述的基于尺度自适应变换的SFIM融合方法,其特征在于,所述根据所述优化尺度整数数量因子自适应地构造不同尺度的卷积核,包括:
S341,根据所述优化尺度整数数量因子确定需要构建的尺度层数N;
S342,第1~(N-1)层,设置高斯卷积核标准差为σ=1.6;
S343,第N层,设置高斯卷积核标准差为:
σ=(convNumsDouble-convNumsInt)*1.6
其中,convNumsDouble为尺度浮点型因子,convNumsInt为优化尺度整数数量因子;
S344,利用所述高斯卷积核标准差,构造不同尺度的卷积核。
6.根据权利要求1所述的基于尺度自适应变换的SFIM融合方法,其特征在于,所述根据所述不同尺度的卷积核对所述全色影像进行迭代降质,得到降质全色影像,包括:
S41,根据所述不同尺度的卷积核设置降采样的比例;
S42,根据所述降采样的比例对所述全色影像进行迭代降质,得到降质全色影像。
7.根据权利要求1所述的基于尺度自适应变换的SFIM融合方法,其特征在于,所述将所述降质全色影像和所述多光谱影像上采样至全色尺度,得到上采样全色影像和上采样多光谱影像,包括:
利用上采样计算模型,对所述降质全色影像和所述多光谱影像上采样至全色尺度,得到上采样全色影像和上采样多光谱影像;
所述上采样计算模型为:
其中,Q11=(x1,y1),Q12=(x1,y2),Q21=(x2,y1),Q22=(x2,y2),且这四个点为上采样的目标点p(x,y)周围的点。
8.一种基于尺度自适应变换的SFIM融合装置,其特征在于,所述装置包括:
数据获取模块,用于获取全色影像和多光谱影像;
尺度比例计算模块,用于对所述全色影像和所述多光谱影像进行处理,得到全色影像和多光谱影像的尺度比例;
卷积核计算模块,用于根据所述尺度比例自适应地构造不同尺度的卷积核;
降质模块,用于根据所述不同尺度的卷积核对所述全色影像进行迭代降质,得到降质全色影像;
上采样模块,用于将所述降质全色影像和所述多光谱影像上采样至全色尺度,得到上采样全色影像和上采样多光谱影像;
融合模块,用于对所述上采样全色影像和所述上采样多光谱影像进行融合,得到融合图像。
9.一种基于尺度自适应变换的SFIM融合装置,其特征在于,所述装置包括:
存储有可执行程序代码的存储器;
与所述存储器耦合的处理器;
所述处理器调用所述存储器中存储的所述可执行程序代码,执行如权利要求1-7任一项所述的基于尺度自适应变换的SFIM融合方法。
10.一种计算机可存储介质,其特征在于,所述计算机可存储介质存储有计算机指令,所述计算机指令被调用时,用于执行如权利要求1-7任一项所述的基于尺度自适应变换的SFIM融合方法。
CN202311271292.8A 2023-09-28 2023-09-28 一种基于尺度自适应变换的sfim融合方法及装置 Pending CN117635450A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202311271292.8A CN117635450A (zh) 2023-09-28 2023-09-28 一种基于尺度自适应变换的sfim融合方法及装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202311271292.8A CN117635450A (zh) 2023-09-28 2023-09-28 一种基于尺度自适应变换的sfim融合方法及装置

Publications (1)

Publication Number Publication Date
CN117635450A true CN117635450A (zh) 2024-03-01

Family

ID=90017162

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202311271292.8A Pending CN117635450A (zh) 2023-09-28 2023-09-28 一种基于尺度自适应变换的sfim融合方法及装置

Country Status (1)

Country Link
CN (1) CN117635450A (zh)

Similar Documents

Publication Publication Date Title
US8867858B2 (en) Method and system for generating an output image of increased pixel resolution from an input image
US8693771B2 (en) Method for pan-sharpening panchromatic and multispectral images using dictionaries
Cao et al. Image Super-Resolution via Adaptive $\ell _ {p}(0< p< 1) $ Regularization and Sparse Representation
US8457429B2 (en) Method and system for enhancing image signals and other signals to increase perception of depth
JPH06245113A (ja) ノイズ及び他のアーティファクトを除去して画像をより向上させるための装置
CN111882504B (zh) 图像中颜色噪声的处理方法、系统、电子设备和存储介质
CN115170410A (zh) 融合小波变换和注意力机制的图像增强方法及装置
Hu et al. Noise robust single image super-resolution using a multiscale image pyramid
Villar-Corrales et al. Deep learning architectural designs for super-resolution of noisy images
Ma et al. Learning-based image restoration for compressed images
US20150324953A1 (en) Method and apparatus for performing single-image super-resolution
Hsu et al. Wavelet pyramid recurrent structure-preserving attention network for single image super-resolution
Goto et al. Learning-based super-resolution image reconstruction on multi-core processor
Wang et al. Brightness perceiving for recursive low-light image enhancement
Adler et al. A shrinkage learning approach for single image super-resolution with overcomplete representations
Mandal et al. Employing structural and statistical information to learn dictionary (s) for single image super-resolution in sparse domain
CN117635450A (zh) 一种基于尺度自适应变换的sfim融合方法及装置
CN115760638A (zh) 一种基于深度学习的端到端去模糊超分辨率的方法
CN114612297A (zh) 高光谱图像超分辨率重建方法及装置
CN114926452A (zh) 一种基于NSST和β散度非负矩阵分解的遥感图像融合方法
Oh et al. Super-resolution texture synthesis using stochastic PAR/NL model
Lin et al. An iterative enhanced super-resolution system with edge-dominated interpolation and adaptive enhancements
Nawaz et al. Image super resolution by sparse linear regression and iterative back projection
Liu et al. Image restoration via wavelet-based low-rank tensor regularization
Din et al. Smart embedded system based on demosaicking for enhancement of surveillance systems

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination