CN113421190A - 一种超分辨率方法、装置、计算机设备及存储介质 - Google Patents

一种超分辨率方法、装置、计算机设备及存储介质 Download PDF

Info

Publication number
CN113421190A
CN113421190A CN202110707844.XA CN202110707844A CN113421190A CN 113421190 A CN113421190 A CN 113421190A CN 202110707844 A CN202110707844 A CN 202110707844A CN 113421190 A CN113421190 A CN 113421190A
Authority
CN
China
Prior art keywords
resolution
image
super
sar image
sar
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202110707844.XA
Other languages
English (en)
Other versions
CN113421190B (zh
Inventor
李岩山
胥帆
周李
陈世富
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shenzhen University
Original Assignee
Shenzhen University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Shenzhen University filed Critical Shenzhen University
Priority to CN202110707844.XA priority Critical patent/CN113421190B/zh
Publication of CN113421190A publication Critical patent/CN113421190A/zh
Application granted granted Critical
Publication of CN113421190B publication Critical patent/CN113421190B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00—Geometric image transformations in the plane of the image
    • G06T3/40—Scaling of whole images or parts thereof, e.g. expanding or contracting
    • G06T3/4053—Scaling of whole images or parts thereof, e.g. expanding or contracting based on super-resolution, i.e. the output image resolution being higher than the sensor resolution
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00—Geometric image transformations in the plane of the image
    • G06T3/40—Scaling of whole images or parts thereof, e.g. expanding or contracting
    • G06T3/4046—Scaling of whole images or parts thereof, e.g. expanding or contracting using neural networks

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Artificial Intelligence (AREA)
  • Evolutionary Computation (AREA)
  • Computational Linguistics (AREA)
  • Molecular Biology (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Health & Medical Sciences (AREA)
  • Data Mining & Analysis (AREA)
  • General Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Image Processing (AREA)
  • Image Analysis (AREA)

Abstract

本申请实施例属于图像处理技术领域，涉及一种应用于SAR图像的超分辨率方法、装置、计算机设备及存储介质。此外，本申请还涉及区块链技术，用户的目标超分辨率图像可存储于区块链中。本申请对传统的SAR图像超分辨率网络进行改进，引入可见光图像进行特征融合，利用可见光图像丰富的高频纹理特征引导SAR图像特征的重构，从而实现当放大倍数较大时也能很好的恢复出SAR图像原有的图像纹理特征。

Description

一种超分辨率方法、装置、计算机设备及存储介质
技术领域
本申请涉及图像处理技术领域，尤其涉及一种应用于SAR图像的超分辨率方法、装置、计算机设备及存储介质。
背景技术
SAR(Synthetic Aperture Radar,SAR)是一种主动式微波对地观测的遥感成像设备，其工作原理是由机载或星载的SAR系统对地表空间进行扫描并回收纵横方向的回波信息，由此得到二维SAR图像。该系统一般由卫星、飞机或无人机等设备进行搭载然后进行拍摄。由于SAR具有全天时、全天候和一定程度的穿透能力的特点，SAR图像在军事侦察、海洋监测、农作物监测和地球资源勘测等各种遥感观测领域都有着广泛的应用。
但是，由于SAR传感器设备本身因素，SAR成像硬件系统理论上的限制无法达到期望应用的分辨率要求，在图像成像的过程中系统固有的误差和外界环境的影响因素，如系统噪声、设备相对运动形式、几何变形和模糊、大气扰动等造成图像质量的进一步退化。这些因素导致SAR图像分辨率的下降及信息的丢失，限制了其在各个领域的应用。所以如何提高SAR图像的分辨率一直是SAR图像处理领域的重要研究热点和难点问题之一。
现有一种提高SAR图像分辨率的方法，即采用基于深度学习的图像超分辨率技术来提高SAR图像的分辨率。
然而，申请人发现现有SAR图像超分辨率技术随着放大倍数的提高而性能严重退化，已经成为其发展的瓶颈。主要是因为高分辨率SAR图像降采样之后映射到高分辨率SAR图像的解空间极大，而且低分辨率SAR图像超分辨率模型性能自然受到限制，难以恢复出真实细致的纹理，由此可见，传统的提高SAR图像分辨率方法存在难以恢复出真实细致的纹理的问题。
发明内容
本申请实施例的目的在于提出一种应用于SAR图像的超分辨率方法、装置、计算机设备及存储介质，以解决传统的提高SAR图像分辨率方法存在难以恢复出真实细致的纹理的问题。
为了解决上述技术问题，本申请实施例提供一种应用于SAR图像的超分辨率方法，采用了如下所述的技术方案：
读取训练集数据库，在所述训练集数据库中获取由当前场景的高分辨率光学图像、与同一SAR图像相对应的低分辨率SAR图像以及高分辨率SAR图像组成的训练图像集；
根据残差学习模块对所述低分辨率SAR图像进行特征提取操作，得到SAR图像特征；
对所述高分辨率光学图像进行所述特征提取操作，得到光学图像特征，并将所述光学图像特征其映射到所述SAR图像特征；
根据所述光学图像特征、所述低分辨率SAR图像以及所述高分辨率SAR图像对待训练的SAR图像超分辨率网络进行训练操作，得到训练好的SAR图像超分辨率网络；
接收携带有原始低分辨率SAR图像的超分辨率请求；
将所述原始低分辨率SAR图像输入至所述训练好的SAR图像超分辨率网络进行超分辨率操作，得到目标超分辨率图像。
为了解决上述技术问题，本申请实施例还提供一种应用于SAR图像的超分辨率装置，采用了如下所述的技术方案：
训练图像获取模块，用于读取训练集数据库，在所述训练集数据库中获取由当前场景的高分辨率光学图像、与同一SAR图像相对应的低分辨率SAR图像以及高分辨率SAR图像组成的训练图像集；
特征提取模块，用于根据残差学习模块对所述低分辨率SAR图像进行特征提取操作，得到SAR图像特征；
光学图像引导模块，用于对所述高分辨率光学图像进行所述特征提取操作，得到光学图像特征，并将所述光学图像特征其映射到所述SAR图像特征；
网络训练模块，用于根据所述光学图像特征、所述低分辨率SAR图像以及所述高分辨率SAR图像对待训练的SAR图像超分辨率网络进行训练操作，得到训练好的SAR图像超分辨率网络；
请求接收模块，用于接收携带有原始低分辨率SAR图像的超分辨率请求；
超分辨率模块，用于将所述原始低分辨率SAR图像输入至所述训练好的SAR图像超分辨率网络进行超分辨率操作，得到目标超分辨率图像。
为了解决上述技术问题，本申请实施例还提供一种计算机设备，采用了如下所述的技术方案：
包括存储器和处理器，所述存储器中存储有计算机可读指令，所述处理器执行所述计算机可读指令时实现如上所述的应用于SAR图像的超分辨率方法的步骤。
为了解决上述技术问题，本申请实施例还提供一种计算机可读存储介质，采用了如下所述的技术方案：
所述计算机可读存储介质上存储有计算机可读指令，所述计算机可读指令被处理器执行时实现如上所述的应用于SAR图像的超分辨率方法的步骤。
与现有技术相比，本申请实施例主要有以下有益效果：
本申请提供了一种应用于SAR图像的超分辨率方法，包括：读取训练集数据库，在所述训练集数据库中获取由当前场景的高分辨率光学图像、与同一SAR图像相对应的低分辨率SAR图像以及高分辨率SAR图像组成的训练图像集；根据残差学习模块对所述低分辨率SAR图像进行特征提取操作，得到SAR图像特征；对所述高分辨率光学图像进行所述特征提取操作，得到光学图像特征，并将所述光学图像特征其映射到所述SAR图像特征；根据所述光学图像特征、所述低分辨率SAR图像以及所述高分辨率SAR图像对待训练的SAR图像超分辨率网络进行训练操作，得到训练好的SAR图像超分辨率网络；接收携带有原始低分辨率SAR图像的超分辨率请求；将所述原始低分辨率SAR图像输入至所述训练好的SAR图像超分辨率网络进行超分辨率操作，得到目标超分辨率图像。本申请对传统的SAR图像超分辨率网络进行改进，引入可见光图像进行特征融合，利用可见光图像丰富的高频纹理特征引导SAR图像特征的重构，从而实现当放大倍数较大时也能很好的恢复出SAR图像原有的图像纹理特征。
附图说明
为了更清楚地说明本申请中的方案，下面将对本申请实施例描述中所需要使用的附图作一个简单介绍，显而易见地，下面描述中的附图是本申请的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
图1是本申请实施例一提供的应用于SAR图像的超分辨率方法的实现流程图；
图2是本申请实施例一提供的OGRN概要图；
图3是本申请实施例一提供的OGRN网络框架图；
图4是本申请实施例二提供的应用于SAR图像的超分辨率装置的结构示意图：
图5是根据本申请的计算机设备的一个实施例的结构示意图。
具体实施方式
除非另有定义，本申请所使用的所有的技术和科学术语与属于本申请的技术领域的技术人员通常理解的含义相同；本申请中在申请的说明书中所使用的术语只是为了描述具体的实施例的目的，不是旨在于限制本申请；本申请的说明书和权利要求书及上述附图说明中的术语“包括”和“具有”以及它们的任何变形，意图在于覆盖不排他的包含。本申请的说明书和权利要求书或上述附图中的术语“第一”、“第二”等是用于区别不同对象，而不是用于描述特定顺序。
在本申请中提及“实施例”意味着，结合实施例描述的特定特征、结构或特性可以包含在本申请的至少一个实施例中。在说明书中的各个位置出现该短语并不一定均是指相同的实施例，也不是与其它实施例互斥的独立的或备选的实施例。本领域技术人员显式地和隐式地理解的是，本申请所描述的实施例可以与其它实施例相结合。
为了使本技术领域的人员更好地理解本申请方案，下面将结合附图，对本申请实施例中的技术方案进行清楚、完整地描述。
如图1所示，示出了本申请实施例一提供的应用于SAR图像的超分辨率方法的实现流程图，为了便于说明，仅示出与本申请相关的部分。
上述的应用于SAR图像的超分辨率方法，包括以下步骤：
步骤S101：读取训练集数据库，在训练集数据库中获取由当前场景的高分辨率光学图像、与同一SAR图像相对应的低分辨率SAR图像以及高分辨率SAR图像组成的训练图像集；
步骤S102：根据残差学习模块对低分辨率SAR图像进行特征提取操作，得到SAR图像特征；
步骤S103：对高分辨率光学图像进行特征提取操作，得到光学图像特征，并将光学图像特征其映射到SAR图像特征；
步骤S104：根据光学图像特征、低分辨率SAR图像以及高分辨率SAR图像对待训练的SAR图像超分辨率网络进行训练操作，得到训练好的SAR图像超分辨率网络；
步骤S105：接收携带有原始低分辨率SAR图像的超分辨率请求；
步骤S106：将原始低分辨率SAR图像输入至训练好的SAR图像超分辨率网络进行超分辨率操作，得到目标超分辨率图像。
在本申请实施例中，图2示出了本申请实施例一提供的OGRN(Optical GuidanceResidual Networks,SAR图像超分辨率网络)概要图，其中，SAR_LR、SAR_SR和SAR_HR分别表示低分辨率SAR图像、OGRN输出的高分辨率SAR图像和真实的高分辨率SAR图像，Op_HR代表高分辨率光学图像。
在本申请实施例中，OGRN网络框架图见图3，由四个部分组成：特征提取部分、上采样部分、光学图像引导以及超分辨率重建部分。
特征提取部分按照数据进入网络的位置深浅可细分为初级特征提取部分和深度特征提取部分。初级特征部分由一个卷积层组成，负责初始特征提取。给定一张低分辨率SAR图像输入ILR，可以通过此部分获得SAR图像浅层特征F0：
F0＝H1(ILR)
其中，H1(·)代表初级特征提取操作。然后，将提取的特征F0送入到深度特征提取部分。考虑到残差学习的方式不仅极大地增加了网络深度以提高超分辨率性能，而且有效地解决了网络加深时的梯度消失与梯度爆炸问题。因此，该网络通过级联T个残差块(ResBlock)组成一个具有强大的非线性映射功能的深度提取部分以获得SAR图像深层特征，表示为：
Ft＝RBt(RBt-1(…RB1(F0))…),t∈{1,…,T}
其中，Ft是第t个残差块的输出特征，RBt(·)为第t个残差块的映射函数。RBt(·)表示为：
RBt＝Conv(δ(Conv(F0))),t∈{1,…,T}
其中，Conv是3×3卷积层操作，δ为非线性激活层ReLu函数。为了更好地将低分辨率SAR图像和高分辨率SAR图像所共有的低频信息在网络内快速传递，从而降低超分辨率难度，本章引入了跳跃连接，表示为：
Fres＝Ft+F0
接着，本申请通过上采样部分对特征提取部分输出的特征Ft进行尺度放大以便于得到光学图像引导：
Fup＝fup(Fres)
其中，Fup为上采样部分输出SAR图像特征，fup为上采样函数。fup将输入的特征维度由H×W×C·r2重新排列为rH×rW×C，其中r为放大倍数，具体表示为：
fup＝PS(WupFdown+bup)
其中，PS是一个周期重组算子，Wup，bup分别为卷积层的权值和偏置。
然后，将Fup送入到光学图像引导部分。鉴于SAR图像和光学图像的空间结构差异导致两者的特征分布不同，因此很难直接融合这两种不同模态图像特征来生成高分辨率SAR图像。为了解决这个问题，对输入的同一场景的光学图像经卷积层提取出光学图像特征并映射到SAR图像空间：这一步的操作表示为：
Fop＝H2(Conv(IOptical))
其中，Conv是表示3×3卷积层操作，H2(·)代表卷积层对光学图像IOptical的特征映射功能函数，FOp表示光学图像引导部分输出的特征。
再将Fup与Fop进行拼接操作以获得光学图像对SAR图像超分辨率的指导信息：
Ffusion＝[Fup,FOp]
其中，[]表示拼接操作。传统的基于浅层学习的图像超分辨率算法在获得所有图像块后，通过平均处理的方式对重叠部分进行组合，以此重建出对应的高分辨率图像。该操作等价于利用卷积层处理所得到的一组特征图，因此本网络的重建部分表示为：
ISR＝Conv(Ffusion)
其中，ISR是最终输出的高分辨率SAR图像。
在本申请实施例中，在训练时，OGRN使用包含SAR图像和同一场景的高分辨率光学图像的数据集进行训练。给定一个包含N对的低分辨率SAR图像ILR、对应的高分辨率SAR图像IHR和同一场景的高分辨率光学图像IOP的训练集，训练目的是使其输出的高分辨率SAR图像与真实的高分辨率SAR图像之间的差异越小，表达为：
Figure BDA0003132078040000081
其中，Θ表示OGRN的参数集，即所有的卷积层的权重和偏置矩阵；
Figure BDA0003132078040000082
表示在光学图像引导下的将低分辨率SAR图像映射到高分辨率SAR图像的OGRN网络模型。
在本申请实施例中，在测试阶段，OGRN送到原有的光学图像支路的数据是对输入的低分辨率SAR图像进行通道扩增和插值上采样得到的结果，其表达为：
IOp_test＝fexpand(fbicucic(ILR))
其中，fexpand为通道扩增操作，fbicubic表示双三次上采样插值函数[16]。因此，OGRN在测试阶段只需要输入低分辨率的SAR图像，就可以通过训练优化的参数集Θ计算得到高分辨率SAR图像，其表达式为：
ISR＝fOGRN(ILR|IOp_test；Θ)
其中，fOGRN(ILR|IOptest；Θ)表示在光学图像引导下的将低分辨率SAR图像映射到高分辨率SAR图像的SAR图像超分辨率网络模型。
在本申请实施例中，提出了一种基于残差学习的光学图像引导的SAR图像超分辨率算法，通过对同一场景的高分辨率光学图像映射处理来引导在大尺度放大倍数的情况下严重缺乏高频信息的SAR图像超分辨率重建过程。首先分析了同一场景的光学图像进行引导的可行性；然后将光学图像经过卷积层提取出特征信息并将其映射到SAR图像空间；同时，提出了一种SAR图像到光学图像的残差学习模块，用于提取低分辨率SAR图像的图像特征，然后与光学图像特征进行融合并训练其与高分辨率SAR图像的映射关系，基于该学习到的映射关系的解空间，引导SAR图像在上采样重建过程中特征的重构，以此提高光学图像引导的SAR图像超分辨率网络的性能。
在本申请实施例中，提供了一种应用于SAR图像的超分辨率方法，包括：读取训练集数据库，在训练集数据库中获取由当前场景的高分辨率光学图像、与同一SAR图像相对应的低分辨率SAR图像以及高分辨率SAR图像组成的训练图像集；根据残差学习模块对低分辨率SAR图像进行特征提取操作，得到SAR图像特征；对高分辨率光学图像进行特征提取操作，得到光学图像特征，并将光学图像特征其映射到SAR图像特征；根据光学图像特征、低分辨率SAR图像以及高分辨率SAR图像对待训练的SAR图像超分辨率网络进行训练操作，得到训练好的SAR图像超分辨率网络；接收携带有原始低分辨率SAR图像的超分辨率请求；将原始低分辨率SAR图像输入至训练好的SAR图像超分辨率网络进行超分辨率操作，得到目标超分辨率图像。本申请对传统的SAR图像超分辨率网络进行改进，引入可见光图像进行特征融合，利用可见光图像丰富的高频纹理特征引导SAR图像特征的重构，从而实现当放大倍数较大时也能很好的恢复出SAR图像原有的图像纹理特征。
需要强调的是，为进一步保证上述目标超分辨率图像的私密和安全性，上述目标超分辨率图像还可以存储于一区块链的节点中。
本申请所指区块链是分布式数据存储、点对点传输、共识机制、加密算法等计算机技术的新型应用模式。区块链(Blockchain)，本质上是一个去中心化的数据库，是一串使用密码学方法相关联产生的数据块，每一个数据块中包含了一批次网络交易的信息，用于验证其信息的有效性(防伪)和生成下一个区块。区块链可以包括区块链底层平台、平台产品服务层以及应用服务层等。
本申请可用于众多通用或专用的计算机系统环境或配置中。例如：个人计算机、服务器计算机、手持设备或便携式设备、平板型设备、多处理器系统、基于微处理器的系统、置顶盒、可编程的消费电子设备、网络PC、小型计算机、大型计算机、包括以上任何系统或设备的分布式计算环境等等。本申请可以在由计算机执行的计算机可执行指令的一般上下文中描述，例如程序模块。一般地，程序模块包括执行特定任务或实现特定抽象数据类型的例程、程序、对象、组件、数据结构等等。也可以在分布式计算环境中实践本申请，在这些分布式计算环境中，由通过通信网络而被连接的远程处理设备来执行任务。在分布式计算环境中，程序模块可以位于包括存储设备在内的本地和远程计算机存储介质中。
本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程，是可以通过计算机可读指令来指令相关的硬件来完成，该计算机可读指令可存储于一计算机可读取存储介质中，该计算机可读指令在执行时，可包括如上述各方法的实施例的流程。其中，前述的存储介质可为磁碟、光盘、只读存储记忆体(Read-Only Memory，ROM)等非易失性存储介质，或随机存储记忆体(Random Access Memory，RAM)等。
应该理解的是，虽然附图的流程图中的各个步骤按照箭头的指示依次显示，但是这些步骤并不是必然按照箭头指示的顺序依次执行。除非本申请中有明确的说明，这些步骤的执行并没有严格的顺序限制，其可以以其他的顺序执行。而且，附图的流程图中的至少一部分步骤可以包括多个子步骤或者多个阶段，这些子步骤或者阶段并不必然是在同一时刻执行完成，而是可以在不同的时刻执行，其执行顺序也不必然是依次进行，而是可以与其他步骤或者其他步骤的子步骤或者阶段的至少一部分轮流或者交替地执行。
实施例二
进一步参考图4，作为对上述图1所示方法的实现，本申请提供了一种应用于SAR图像的超分辨率装置的一个实施例，该装置实施例与图1所示的方法实施例相对应，该装置具体可以应用于各种电子设备中。
如图4所示，本实施例的应用于SAR图像的超分辨率装置100包括：训练图像获取模块110、特征提取模块120、光学图像引导模块130、网络训练模块140、请求接收模块150以及超分辨率模块160。其中：
训练图像获取模块110，用于读取训练集数据库，在训练集数据库中获取由当前场景的高分辨率光学图像、与同一SAR图像相对应的低分辨率SAR图像以及高分辨率SAR图像组成的训练图像集；
特征提取模块120，用于根据残差学习模块对低分辨率SAR图像进行特征提取操作，得到SAR图像特征；
光学图像引导模块130，用于对高分辨率光学图像进行特征提取操作，得到光学图像特征，并将光学图像特征其映射到SAR图像特征；
网络训练模块140，用于根据光学图像特征、低分辨率SAR图像以及高分辨率SAR图像对待训练的SAR图像超分辨率网络进行训练操作，得到训练好的SAR图像超分辨率网络；
请求接收模块150，用于接收携带有原始低分辨率SAR图像的超分辨率请求；
超分辨率模块160，用于将原始低分辨率SAR图像输入至训练好的SAR图像超分辨率网络进行超分辨率操作，得到目标超分辨率图像。
在本申请实施例中，图2示出了本申请实施例一提供的OGRN(Optical GuidanceResidual Networks,SAR图像超分辨率网络)概要图，其中，SAR_LR、SAR_SR和SAR_HR分别表示低分辨率SAR图像、OGRN输出的高分辨率SAR图像和真实的高分辨率SAR图像，Op_HR代表高分辨率光学图像。
在本申请实施例中，OGRN网络框架图见图3，由四个部分组成：特征提取部分、上采样部分、光学图像引导以及超分辨率重建部分。
特征提取部分按照数据进入网络的位置深浅可细分为初级特征提取部分和深度特征提取部分。初级特征部分由一个卷积层组成，负责初始特征提取。给定一张低分辨率SAR图像输入ILR，可以通过此部分获得SAR图像浅层特征F0：
F0＝H1(ILR)
其中，H1(·)代表初级特征提取操作。然后，将提取的特征F0送入到深度特征提取部分。考虑到残差学习的方式不仅极大地增加了网络深度以提高超分辨率性能，而且有效地解决了网络加深时的梯度消失与梯度爆炸问题。因此，该网络通过级联T个残差块(ResBlock)组成一个具有强大的非线性映射功能的深度提取部分以获得SAR图像深层特征，表示为：
Ft＝RBt(RBt-1(…RB1(F0))…),t∈{1,…,T}
其中，Ft是第t个残差块的输出特征，RBt(·)为第t个残差块的映射函数。RBt(·)表示为：
RBt＝Conv(δ(Conv(F0))),t∈{1,…,T}
其中，Conv是3×3卷积层操作，δ为非线性激活层ReLu函数。为了更好地将低分辨率SAR图像和高分辨率SAR图像所共有的低频信息在网络内快速传递，从而降低超分辨率难度，本章引入了跳跃连接，表示为：
Fres＝Ft+F0
接着，本申请通过上采样部分对特征提取部分输出的特征Ft进行尺度放大以便于得到光学图像引导：
Fup＝fup(Fres)
其中，Fup为上采样部分输出SAR图像特征，fup为上采样函数。fup将输入的特征维度由H×W×C·r2重新排列为rH×rW×C，其中r为放大倍数，具体表示为：
fup＝PS(WupFdown+bup)
其中，PS是一个周期重组算子，Wup，bup分别为卷积层的权值和偏置。
然后，将Fup送入到光学图像引导部分。鉴于SAR图像和光学图像的空间结构差异导致两者的特征分布不同，因此很难直接融合这两种不同模态图像特征来生成高分辨率SAR图像。为了解决这个问题，对输入的同一场景的光学图像经卷积层提取出光学图像特征并映射到SAR图像空间：这一步的操作表示为：
Fop＝H2(Conv(IOptical))
其中，Conv是表示3×3卷积层操作，H2(·)代表卷积层对光学图像IOptical的特征映射功能函数，FOp表示光学图像引导部分输出的特征。
再将Fup与Fop进行拼接操作以获得光学图像对SAR图像超分辨率的指导信息：
Ffusion＝[Fup,FOp]
其中，[]表示拼接操作。传统的基于浅层学习的图像超分辨率算法在获得所有图像块后，通过平均处理的方式对重叠部分进行组合，以此重建出对应的高分辨率图像。该操作等价于利用卷积层处理所得到的一组特征图，因此本网络的重建部分表示为：
ISR＝Conv(Ffusion)
其中，ISR是最终输出的高分辨率SAR图像。
在本申请实施例中，在训练时，OGRN使用包含SAR图像和同一场景的高分辨率光学图像的数据集进行训练。给定一个包含N对的低分辨率SAR图像ILR、对应的高分辨率SAR图像IHR和同一场景的高分辨率光学图像IOP的训练集，训练目的是使其输出的高分辨率SAR图像与真实的高分辨率SAR图像之间的差异越小，表达为：
Figure BDA0003132078040000131
其中，Θ表示OGRN的参数集，即所有的卷积层的权重和偏置矩阵；
Figure BDA0003132078040000132
表示在光学图像引导下的将低分辨率SAR图像映射到高分辨率SAR图像的OGRN网络模型。
在本申请实施例中，在测试阶段，OGRN送到原有的光学图像支路的数据是对输入的低分辨率SAR图像进行通道扩增和插值上采样得到的结果，其表达为：
IOp_test＝fexpand(fbicucic(ILR))
其中，fexpand为通道扩增操作，fbicubic表示双三次上采样插值函数[16]。因此，OGRN在测试阶段只需要输入低分辨率的SAR图像，就可以通过训练优化的参数集Θ计算得到高分辨率SAR图像，其表达式为：
ISR＝fOGRN(ILR|IOp_test；Θ)
其中，fOGRN(ILR|IOptest；Θ)表示在光学图像引导下的将低分辨率SAR图像映射到高分辨率SAR图像的SAR图像超分辨率网络模型。
在本申请实施例中，提出了一种基于残差学习的光学图像引导的SAR图像超分辨率算法，通过对同一场景的高分辨率光学图像映射处理来引导在大尺度放大倍数的情况下严重缺乏高频信息的SAR图像超分辨率重建过程。首先分析了同一场景的光学图像进行引导的可行性；然后将光学图像经过卷积层提取出特征信息并将其映射到SAR图像空间；同时，提出了一种SAR图像到光学图像的残差学习模块，用于提取低分辨率SAR图像的图像特征，然后与光学图像特征进行融合并训练其与高分辨率SAR图像的映射关系，基于该学习到的映射关系的解空间，引导SAR图像在上采样重建过程中特征的重构，以此提高光学图像引导的SAR图像超分辨率网络的性能。
在本申请实施例中，提供了一种应用于SAR图像的超分辨率装置，包括：训练图像获取模块110，用于读取训练集数据库，在训练集数据库中获取由当前场景的高分辨率光学图像、与同一SAR图像相对应的低分辨率SAR图像以及高分辨率SAR图像组成的训练图像集；特征提取模块120，用于根据残差学习模块对低分辨率SAR图像进行特征提取操作，得到SAR图像特征；光学图像引导模块130，用于对高分辨率光学图像进行特征提取操作，得到光学图像特征，并将光学图像特征其映射到SAR图像特征；网络训练模块140，用于根据光学图像特征、低分辨率SAR图像以及高分辨率SAR图像对待训练的SAR图像超分辨率网络进行训练操作，得到训练好的SAR图像超分辨率网络；请求接收模块150，用于接收携带有原始低分辨率SAR图像的超分辨率请求；超分辨率模块160，用于将原始低分辨率SAR图像输入至训练好的SAR图像超分辨率网络进行超分辨率操作，得到目标超分辨率图像。本申请对传统的SAR图像超分辨率网络进行改进，引入可见光图像进行特征融合，利用可见光图像丰富的高频纹理特征引导SAR图像特征的重构，从而实现当放大倍数较大时也能很好的恢复出SAR图像原有的图像纹理特征。
为解决上述技术问题，本申请实施例还提供计算机设备。具体请参阅图5，图5为本实施例计算机设备基本结构框图。
所述计算机设备200包括通过系统总线相互通信连接存储器210、处理器220、网络接口230。需要指出的是，图中仅示出了具有组件210-230的计算机设备200，但是应理解的是，并不要求实施所有示出的组件，可以替代的实施更多或者更少的组件。其中，本技术领域技术人员可以理解，这里的计算机设备是一种能够按照事先设定或存储的指令，自动进行数值计算和/或信息处理的设备，其硬件包括但不限于微处理器、专用集成电路(Application Specific Integrated Circuit，ASIC)、可编程门阵列(Field－Programmable Gate Array，FPGA)、数字处理器(Digital Signal Processor，DSP)、嵌入式设备等。
所述计算机设备可以是桌上型计算机、笔记本、掌上电脑及云端服务器等计算设备。所述计算机设备可以与用户通过键盘、鼠标、遥控器、触摸板或声控设备等方式进行人机交互。
所述存储器210至少包括一种类型的可读存储介质，所述可读存储介质包括闪存、硬盘、多媒体卡、卡型存储器(例如，SD或DX存储器等)、随机访问存储器(RAM)、静态随机访问存储器(SRAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、可编程只读存储器(PROM)、磁性存储器、磁盘、光盘等。在一些实施例中，所述存储器210可以是所述计算机设备200的内部存储单元，例如该计算机设备200的硬盘或内存。在另一些实施例中，所述存储器210也可以是所述计算机设备200的外部存储设备，例如该计算机设备200上配备的插接式硬盘，智能存储卡(Smart Media Card,SMC)，安全数字(Secure Digital,SD)卡，闪存卡(Flash Card)等。当然，所述存储器210还可以既包括所述计算机设备200的内部存储单元也包括其外部存储设备。本实施例中，所述存储器210通常用于存储安装于所述计算机设备200的操作系统和各类应用软件，例如应用于SAR图像的超分辨率方法的计算机可读指令等。此外，所述存储器210还可以用于暂时地存储已经输出或者将要输出的各类数据。
所述处理器220在一些实施例中可以是中央处理器(Central Processing Unit，CPU)、控制器、微控制器、微处理器、或其他数据处理芯片。该处理器220通常用于控制所述计算机设备200的总体操作。本实施例中，所述处理器220用于运行所述存储器210中存储的计算机可读指令或者处理数据，例如运行所述应用于SAR图像的超分辨率方法的计算机可读指令。
所述网络接口230可包括无线网络接口或有线网络接口，该网络接口230通常用于在所述计算机设备200与其他电子设备之间建立通信连接。
本申请提供的计算机设备，对传统的SAR图像超分辨率网络进行改进，引入可见光图像进行特征融合，利用可见光图像丰富的高频纹理特征引导SAR图像特征的重构，从而实现当放大倍数较大时也能很好的恢复出SAR图像原有的图像纹理特征。
本申请还提供了另一种实施方式，即提供一种计算机可读存储介质，所述计算机可读存储介质存储有计算机可读指令，所述计算机可读指令可被至少一个处理器执行，以使所述至少一个处理器执行如上述的应用于SAR图像的超分辨率方法的步骤。
本申请提供的计算机可读存储介质，对传统的SAR图像超分辨率网络进行改进，引入可见光图像进行特征融合，利用可见光图像丰富的高频纹理特征引导SAR图像特征的重构，从而实现当放大倍数较大时也能很好的恢复出SAR图像原有的图像纹理特征。
通过以上的实施方式的描述，本领域的技术人员可以清楚地了解到上述实施例方法可借助软件加必需的通用硬件平台的方式来实现，当然也可以通过硬件，但很多情况下前者是更佳的实施方式。基于这样的理解，本申请的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质(如ROM/RAM、磁碟、光盘)中，包括若干指令用以使得一台终端设备(可以是手机，计算机，服务器，空调器，或者网络设备等)执行本申请各个实施例所述的方法。
显然，以上所描述的实施例仅仅是本申请一部分实施例，而不是全部的实施例，附图中给出了本申请的较佳实施例，但并不限制本申请的专利范围。本申请可以以许多不同的形式来实现，相反地，提供这些实施例的目的是使对本申请的公开内容的理解更加透彻全面。尽管参照前述实施例对本申请进行了详细的说明，对于本领域的技术人员来而言，其依然可以对前述各具体实施方式所记载的技术方案进行修改，或者对其中部分技术特征进行等效替换。凡是利用本申请说明书及附图内容所做的等效结构，直接或间接运用在其他相关的技术领域，均同理在本申请专利保护范围之内。

Claims (10)

1.一种应用于SAR图像的超分辨率方法，其特征在于，包括下述步骤：
读取训练集数据库，在所述训练集数据库中获取由当前场景的高分辨率光学图像、与同一SAR图像相对应的低分辨率SAR图像以及高分辨率SAR图像组成的训练图像集；
根据残差学习模块对所述低分辨率SAR图像进行特征提取操作，得到SAR图像特征；
对所述高分辨率光学图像进行所述特征提取操作，得到光学图像特征，并将所述光学图像特征其映射到所述SAR图像特征；
根据所述光学图像特征、所述低分辨率SAR图像以及所述高分辨率SAR图像对待训练的SAR图像超分辨率网络进行训练操作，得到训练好的SAR图像超分辨率网络；
接收携带有原始低分辨率SAR图像的超分辨率请求；
将所述原始低分辨率SAR图像输入至所述训练好的SAR图像超分辨率网络进行超分辨率操作，得到目标超分辨率图像。
2.根据权利要求1所述的应用于SAR图像的超分辨率方法，其特征在于，所述SAR图像超分辨率网络由特征提取部分、上采样部分、光学图像引导以及超分辨率重建部分组成。
3.根据权利要求1所述的应用于SAR图像的超分辨率方法，其特征在于，所述网络训练操作的训练目的表示为：
Figure FDA0003132078030000011
其中，Θ表示SAR图像超分辨率网络的参数集，即所有的卷积层的权重和偏置矩阵；
Figure FDA0003132078030000012
表示在光学图像引导下的将所述低分辨率SAR图像映射到所述高分辨率SAR图像的SAR图像超分辨率网络模型。
4.根据权利要求1所述的应用于SAR图像的超分辨率方法，其特征在于，所述SAR图像超分辨率网络的损失函数为：
Figure FDA0003132078030000021
其中，GOGRN表示所述SAR图像超分辨率网络训练时网络所学习到的映射函数；Θ表示所述网络训练操作过程要优化的网络参数，||·||1表示L1范数。
5.根据权利要求1所述的应用于SAR图像的超分辨率方法，其特征在于，所述目标超分辨率图像表示为：
ISR＝fOGRN(ILR|IOp_test；Θ)
其中，fOGRN(ILR|IOptest；Θ)表示在光学图像引导下的将所述低分辨率SAR图像映射到所述高分辨率SAR图像的SAR图像超分辨率网络模型。
6.根据权利要求1所述的应用于SAR图像的超分辨率方法，其特征在于，在所述接收携带有原始低分辨率SAR图像的超分辨率请求的步骤之后，还包括下述步骤：
对所述原始低分辨率SAR图像进行通道扩增操作以及插值上采样操作，得到适用于所述超分辨率操作的原始光学图像。
7.一种应用于SAR图像的超分辨率装置，其特征在于，包括：
训练图像获取模块，用于读取训练集数据库，在所述训练集数据库中获取由当前场景的高分辨率光学图像、与同一SAR图像相对应的低分辨率SAR图像以及高分辨率SAR图像组成的训练图像集；
特征提取模块，用于根据残差学习模块对所述低分辨率SAR图像进行特征提取操作，得到SAR图像特征；
光学图像引导模块，用于对所述高分辨率光学图像进行所述特征提取操作，得到光学图像特征，并将所述光学图像特征其映射到所述SAR图像特征；
网络训练模块，用于根据所述光学图像特征、所述低分辨率SAR图像以及所述高分辨率SAR图像对待训练的SAR图像超分辨率网络进行训练操作，得到训练好的SAR图像超分辨率网络；
请求接收模块，用于接收携带有原始低分辨率SAR图像的超分辨率请求；
超分辨率模块，用于将所述原始低分辨率SAR图像输入至所述训练好的SAR图像超分辨率网络进行超分辨率操作，得到目标超分辨率图像。
8.根据权利要求7所述的应用于SAR图像的超分辨率装置，其特征在于，其特征在于，所述SAR图像超分辨率网络由特征提取部分、上采样部分、光学图像引导以及超分辨率重建部分组成。
9.一种计算机设备，包括存储器和处理器，所述存储器中存储有计算机可读指令，所述处理器执行所述计算机可读指令时实现如权利要求1至6中任一项所述的应用于SAR图像的超分辨率方法的步骤。
10.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质上存储有计算机可读指令，所述计算机可读指令被处理器执行时实现如权利要求1至6中任一项所述的应用于SAR图像的超分辨率方法的步骤。
CN202110707844.XA 2021-06-24 2021-06-24 一种超分辨率方法、装置、计算机设备及存储介质 Active CN113421190B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202110707844.XA CN113421190B (zh) 2021-06-24 2021-06-24 一种超分辨率方法、装置、计算机设备及存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202110707844.XA CN113421190B (zh) 2021-06-24 2021-06-24 一种超分辨率方法、装置、计算机设备及存储介质

Publications (2)

Publication Number Publication Date
CN113421190A true CN113421190A (zh) 2021-09-21
CN113421190B CN113421190B (zh) 2023-03-24

Family

ID=77716565

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202110707844.XA Active CN113421190B (zh) 2021-06-24 2021-06-24 一种超分辨率方法、装置、计算机设备及存储介质

Country Status (1)

Country Link
CN (1) CN113421190B (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
TWI832787B (zh) * 2022-07-22 2024-02-11 聯發科技股份有限公司 從低解析度圖像生成高解析度圖像以實現盲超解析度

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20120081535A1 (en) * 2010-09-30 2012-04-05 Olympus Corporation Sample observation device for generating super resolution image
CN103927741A (zh) * 2014-03-18 2014-07-16 中国电子科技集团公司第十研究所 增强目标特征的sar图像合成方法
CN103955701A (zh) * 2014-04-15 2014-07-30 浙江工业大学 多层次结合的多视合成孔径雷达图像目标识别方法
CN110163802A (zh) * 2019-05-20 2019-08-23 电子科技大学 一种基于神经网络的sar图像超分辨方法
CN110807734A (zh) * 2019-10-30 2020-02-18 河南大学 一种sar图像超分辨率重建方法
CN112488924A (zh) * 2020-12-21 2021-03-12 深圳大学 一种图像超分辨率模型训练方法、重建方法及装置
CN112767243A (zh) * 2020-12-24 2021-05-07 深圳大学 一种高光谱图像超分辨率的实现方法及系统

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20120081535A1 (en) * 2010-09-30 2012-04-05 Olympus Corporation Sample observation device for generating super resolution image
CN103927741A (zh) * 2014-03-18 2014-07-16 中国电子科技集团公司第十研究所 增强目标特征的sar图像合成方法
CN103955701A (zh) * 2014-04-15 2014-07-30 浙江工业大学 多层次结合的多视合成孔径雷达图像目标识别方法
CN110163802A (zh) * 2019-05-20 2019-08-23 电子科技大学 一种基于神经网络的sar图像超分辨方法
CN110807734A (zh) * 2019-10-30 2020-02-18 河南大学 一种sar图像超分辨率重建方法
CN112488924A (zh) * 2020-12-21 2021-03-12 深圳大学 一种图像超分辨率模型训练方法、重建方法及装置
CN112767243A (zh) * 2020-12-24 2021-05-07 深圳大学 一种高光谱图像超分辨率的实现方法及系统

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
闵雷等: "变分贝叶斯框架中的多帧图像盲超分辨", 《光电工程》 *
高昭昭等: "基于卷积神经网络的单帧毫米波图像超分辨算法", 《电子信息对抗技术》 *

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
TWI832787B (zh) * 2022-07-22 2024-02-11 聯發科技股份有限公司 從低解析度圖像生成高解析度圖像以實現盲超解析度

Also Published As

Publication number Publication date
CN113421190B (zh) 2023-03-24

Similar Documents

Publication Publication Date Title
CN112598762B (zh) 三维车道线信息生成方法、装置、电子设备和介质
EP2458872B1 (en) Adaptive method and system for encoding digital images for the internet
US10970938B2 (en) Method and apparatus for generating 3D information
CN108230235B (zh) 一种视差图生成系统、方法及存储介质
CN110211046B (zh) 一种基于生成对抗网络的遥感图像融合方法、系统和终端
CN107657586A (zh) 一种基于深度残差网络的单照片超分辨增强方法
CN112927234A (zh) 点云语义分割方法、装置、电子设备和可读存储介质
CN113421190B (zh) 一种超分辨率方法、装置、计算机设备及存储介质
CN115375868B (zh) 地图显示和遥感地图显示方法、计算设备以及存储介质
CN101739670B (zh) 非局部均值空域时变图像滤波方法
EP3875901A1 (en) Planning method and apparatus for surveying and mapping sampling points, control terminal and storage medium
Jiang et al. Efficient ℓq regularisation algorithm with range–azimuth decoupled for SAR imaging
CN113421217A (zh) 可行驶区域检测方法和装置
Ma et al. Super-resolution geomagnetic reference map reconstruction based on dictionary learning and sparse representation
CN103076608A (zh) 轮廓增强的聚束式合成孔径雷达成像方法
CN105160630A (zh) 一种光学超分辨率图像重建方法
CN115393826A (zh) 三维车道线生成方法、装置、电子设备和计算机可读介质
CN114723640B (zh) 障碍物信息生成方法、装置、电子设备和计算机可读介质
CN113902744B (zh) 基于轻量级网络的图像检测方法、系统、设备和存储介质
CN116402693A (zh) 一种基于遥感技术的市政工程图像处理方法及装置
CN115170418B (zh) 符合退化的低秩高维图像填充模型及其填充方法与系统
CN113688928B (zh) 图像匹配方法、装置、电子设备和计算机可读介质
CN110378904A (zh) 对点云数据进行分割的方法和装置
CN115293992A (zh) 基于无监督权重深度模型的偏振图像去雾方法及装置
CN114548405A (zh) 基于ViT的深度学习神经网络数据增强方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant