CN113643183A - 非匹配遥感图像弱监督学习超分辨率重建方法及系统 - Google Patents

非匹配遥感图像弱监督学习超分辨率重建方法及系统 Download PDF

Info

Publication number
CN113643183A
CN113643183A CN202111195140.5A CN202111195140A CN113643183A CN 113643183 A CN113643183 A CN 113643183A CN 202111195140 A CN202111195140 A CN 202111195140A CN 113643183 A CN113643183 A CN 113643183A
Authority
CN
China
Prior art keywords
image
network
resolution
loss
trained
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202111195140.5A
Other languages
English (en)
Other versions
CN113643183B (zh
Inventor
方乐缘
吴洁
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hunan University
Original Assignee
Hunan University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hunan University filed Critical Hunan University
Priority to CN202111195140.5A priority Critical patent/CN113643183B/zh
Publication of CN113643183A publication Critical patent/CN113643183A/zh
Application granted granted Critical
Publication of CN113643183B publication Critical patent/CN113643183B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00—Geometric image transformations in the plane of the image
    • G06T3/40—Scaling of whole images or parts thereof, e.g. expanding or contracting
    • G06T3/4053—Scaling of whole images or parts thereof, e.g. expanding or contracting based on super-resolution, i.e. the output image resolution being higher than the sensor resolution
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00—Image enhancement or restoration
    • G06T5/50—Image enhancement or restoration using two or more images, e.g. averaging or subtraction

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • General Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • Biophysics (AREA)
  • Computational Linguistics (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Computation (AREA)
  • Artificial Intelligence (AREA)
  • Biomedical Technology (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Health & Medical Sciences (AREA)
  • Image Analysis (AREA)
  • Image Processing (AREA)

Abstract

本发明公开了一种非匹配遥感图像弱监督学习超分辨率重建方法及系统，包括：输入高空间分辨率图像和与高空间分辨率图像不匹配成对的低空间分辨率图像，对预设的循环生成对抗网络进行训练，结合预设的第一损失函数进行反向传播得到训练好的循环生成对抗网络；对高空间分辨率图像利用双三次插值下采样后输入至训练好的循环生成对抗网络中的第一网络，生成与高空间分辨率图像匹配的第一伪图像；根据低空间分辨率图像、第一伪图像和高空间分辨率图像对预设的超分网络进行训练，结合预设的第二损失函数进行反向传播得到训练好的超分网络；获取低空间分辨率测试图像，输入至训练好的超分网络中的超分辨率重建网络，得到重建后的超分辨率图像。

Description

非匹配遥感图像弱监督学习超分辨率重建方法及系统
技术领域
本发明属于遥感图像处理技术领域，特别涉及一种非匹配遥感图像弱监督学习超分辨率重建方法及系统。
背景技术
遥感图像的空间分辨率越大，图像内容越丰富，能为目标分割、检测等任务提供更有用的信息。但能获取高空间分辨率遥感图像的卫星较少，通过改进卫星硬件设备提升图像的空间分辨率，需要较高的成本。图像超分辨率重建技术可以使用图像处理等软件方式提升图像的分辨率，降低了技术成本，因此遥感图像超分辨率重建具有重要的研究意义。
随着深度学习技术的发展，基于卷积神经网络的超分辨率算法取得了较好的效果。但大部分基于卷积神经网络的超分算法都需要成对匹配的高空间分辨率与低空间分辨率数据进行训练。对于遥感卫星而言，很难获取相同场景下不同空间分辨率的成对图像。现有方法通常使用双三次插值等简单的降质模型合成成对数据集，但这类降质方法并不满足包含噪声、模糊、压缩损失等复杂变化情形下真实的降质过程，在处理真实低空间分辨率遥感图像时效果不佳。
生成对抗网络的方法可以通过生成器与判别器的博弈，生成与目标域相同分布的数据，使重建图像具有良好的视觉效果。但由于缺少先验信息对生成结果进行约束，生成对抗网络的方法易产生假纹理、伪影和不真实的物体等问题，不满足遥感图像中目标的特有形态，对后续的识别、分类等任务造成不好的影响。
在自然图像超分问题中，图像域转换被用于模拟图像退化过程，进而获取匹配的训练数据，为图像超分辨率提供监督。不同于自然图像的域转换问题，由于卫星上遥感传感器设备不同以及遥感图像中主要包含的场景存在巨大差异，不同卫星图像的数据分布差异很大，图像域转换造成合成的低空间分辨率数据出现内容、颜色等偏差。因此，遥感图像域转换需要在学习真实分辨率退化过程的同时，保留输入卫星图像的风格和内容。
发明内容
针对以上技术问题，本发明提供一种非匹配遥感图像弱监督学习超分辨率重建方法及系统。
本发明解决其技术问题采用的技术方案是：
非匹配遥感图像弱监督学习超分辨率重建方法，方法包括以下步骤：
步骤S100：输入高空间分辨率图像和与高空间分辨率图像不匹配成对的低空间分辨率图像，对预设的循环生成对抗网络进行训练，得到训练后的循环生成对抗网络，结合预设的第一损失函数对训练后的循环生成对抗网络进行反向传播，更新训练后的循环生成对抗网络的网络参数并累计第一迭代次数，当第一迭代次数达到预设的第一迭代次数阈值时完成训练，得到训练好的循环生成对抗网络；
步骤S200：对高空间分辨率图像利用双三次插值下采样后输入至训练好的循环生成对抗网络中的第一网络，生成与高空间分辨率图像匹配的第一伪图像；
步骤S300：根据与高空间分辨率图像不匹配成对的低空间分辨率图像、第一伪图像和高空间分辨率图像对预设的超分网络进行训练，得到训练后的超分网络，结合预设的第二损失函数对训练后的超分网络进行反向传播，更新训练后的超分网络的网络参数并累计第二迭代次数，当第二迭代次数达到预设的第二迭代次数阈值时完成训练，得到训练好的超分网络；
步骤S400：获取低空间分辨率测试图像，将低空间分辨率测试图像输入至训练好的超分网络中的超分辨率重建网络，得到重建后的超分辨率图像。
优选地，预设的循环生成对抗网络包括第一网络
Figure 453091DEST_PATH_IMAGE001
、第二网络
Figure 42335DEST_PATH_IMAGE002
、第一判别器网络
Figure 228597DEST_PATH_IMAGE003
和第二判别器网络
Figure 154965DEST_PATH_IMAGE004
，步骤S100包括：
步骤S110：对高空间分辨率图像
Figure 874397DEST_PATH_IMAGE005
使用双三次插值进行4倍下采样，得到第一图像
Figure 228018DEST_PATH_IMAGE006
；
步骤S120：第一图像
Figure 901576DEST_PATH_IMAGE007
经过第一网络
Figure 631634DEST_PATH_IMAGE001
得到第二伪图像
Figure 707038DEST_PATH_IMAGE008
，第二伪图像
Figure 231560DEST_PATH_IMAGE009
经过第二网络
Figure 392414DEST_PATH_IMAGE002
得到第二图像
Figure 660584DEST_PATH_IMAGE010
；
步骤S130：与高空间分辨率图像不匹配成对的低空间分辨率图像
Figure 89029DEST_PATH_IMAGE011
经过第二网络
Figure 50032DEST_PATH_IMAGE002
得到第三图像
Figure 698182DEST_PATH_IMAGE012
，第三图像
Figure 504464DEST_PATH_IMAGE013
经过第一网络
Figure 554460DEST_PATH_IMAGE001
得到第四图像
Figure 420785DEST_PATH_IMAGE014
；
步骤S140：与高空间分辨率图像不匹配成对的低空间分辨率图像
Figure 556231DEST_PATH_IMAGE015
经过第一网络
Figure 166204DEST_PATH_IMAGE001
得到第五图像
Figure 569241DEST_PATH_IMAGE016
，第一图像
Figure 872046DEST_PATH_IMAGE017
经过第二网络
Figure 229209DEST_PATH_IMAGE018
得到第六图像
Figure 642873DEST_PATH_IMAGE019
；
步骤S150：将第二伪图像
Figure 401882DEST_PATH_IMAGE020
作为第一负样本，与高空间分辨率图像不匹配成对的低空间分辨率图像
Figure 875589DEST_PATH_IMAGE021
作为第一正样本，训练第一判别器网络
Figure 720048DEST_PATH_IMAGE022
；
步骤S160：将第三图像
Figure 671823DEST_PATH_IMAGE023
作为第二负样本，第一图像
Figure 49453DEST_PATH_IMAGE024
作为第二正样本，训练第二判别器网络
Figure 694061DEST_PATH_IMAGE025
，得到训练后的循环生成对抗网络；
步骤S170：根据第一图像
Figure 25816DEST_PATH_IMAGE026
、第二伪图像
Figure 781282DEST_PATH_IMAGE027
、第二图像
Figure 249304DEST_PATH_IMAGE028
、第三图像
Figure 64813DEST_PATH_IMAGE029
、第四图像
Figure 883865DEST_PATH_IMAGE030
、第五图像
Figure 443022DEST_PATH_IMAGE031
和第六图像
Figure 529664DEST_PATH_IMAGE032
，结合预设的第一损失函数对训练后的循环生成对抗网络进行反向传播，更新训练后的循环生成对抗网络的网络参数并累计第一迭代次数，当第一迭代次数达到预设的第一迭代次数阈值时完成训练，得到训练好的循环生成对抗网络。
优选地，步骤S170包括：
步骤S171：根据第一图像
Figure 984917DEST_PATH_IMAGE033
、第二图像
Figure 415898DEST_PATH_IMAGE034
、第四图像
Figure 388533DEST_PATH_IMAGE035
和低空间分辨率图像
Figure 362305DEST_PATH_IMAGE036
得到循环一致性损失；
步骤S172：根据第五图像
Figure 988459DEST_PATH_IMAGE037
、低空间分辨率图像
Figure 906736DEST_PATH_IMAGE038
、第六图像
Figure 683062DEST_PATH_IMAGE039
和第一图像
Figure 104816DEST_PATH_IMAGE040
得到恒等损失；
步骤S173：使用VGG19网络分别对第二伪图像
Figure 72510DEST_PATH_IMAGE041
、第一图像
Figure 946925DEST_PATH_IMAGE042
、第三图像
Figure 792521DEST_PATH_IMAGE043
和低空间分辨率图像
Figure 209727DEST_PATH_IMAGE044
进行特征提取，得到第一特征
Figure 708842DEST_PATH_IMAGE045
、第二特征
Figure 211499DEST_PATH_IMAGE046
、第三特征
Figure 454261DEST_PATH_IMAGE047
和第四特征
Figure 224509DEST_PATH_IMAGE048
，根据第一特征
Figure 894524DEST_PATH_IMAGE049
、第二特征
Figure 884477DEST_PATH_IMAGE050
、第三特征
Figure 665351DEST_PATH_IMAGE051
和第四特征
Figure 57150DEST_PATH_IMAGE052
得到感知损失；
步骤S174：根据低空间分辨率图像
Figure 898067DEST_PATH_IMAGE053
和第二伪图像
Figure 375315DEST_PATH_IMAGE054
，结合第一判别器网络
Figure 959881DEST_PATH_IMAGE055
得到第一网络
Figure 728158DEST_PATH_IMAGE056
与第一判别器网络
Figure 739976DEST_PATH_IMAGE057
之间的对抗损失；
步骤S175：根据第三图像
Figure 438942DEST_PATH_IMAGE058
和第一图像
Figure 827198DEST_PATH_IMAGE059
，结合第二判别器网络
Figure 928009DEST_PATH_IMAGE060
得到第二网络
Figure 110729DEST_PATH_IMAGE061
与第二判别器网络
Figure 562570DEST_PATH_IMAGE060
之间的对抗损失；
步骤S176：根据循环一致性损失、恒等损失、感知损失、第一网络
Figure 488938DEST_PATH_IMAGE062
与第一判别器网络
Figure 942790DEST_PATH_IMAGE063
之间的对抗损失和第二网络
Figure 561991DEST_PATH_IMAGE064
与第二判别器网络
Figure 235549DEST_PATH_IMAGE065
之间的对抗损失得到第一损失值，根据第一损失值对训练后的循环生成对抗网络进行反向传播，更新训练后的循环生成对抗网络的网络参数并累计第一迭代次数，当第一迭代次数达到预设的第一迭代次数阈值时完成训练，得到训练好的循环生成对抗网络。
优选地，根据循环一致性损失、恒等损失、感知损失、第一网络与第一判别器网络之间的对抗损失和第二网络与第二判别器网络之间的对抗损失得到第一损失值具体为：
Figure 965607DEST_PATH_IMAGE067
其中，
Figure 775431DEST_PATH_IMAGE068
Figure 565533DEST_PATH_IMAGE069
Figure 726387DEST_PATH_IMAGE071
Figure 994557DEST_PATH_IMAGE072
Figure 423002DEST_PATH_IMAGE073
其中，
Figure 384005DEST_PATH_IMAGE074
为预设的第一损失函数的权重参数，
Figure 766576DEST_PATH_IMAGE075
，
Figure 104016DEST_PATH_IMAGE076
为第一网络，
Figure 154012DEST_PATH_IMAGE077
为第二网络，
Figure 20337DEST_PATH_IMAGE078
为第一判别器网络，
Figure 421362DEST_PATH_IMAGE079
为第二判别器网络，
Figure 405236DEST_PATH_IMAGE080
为第一图像，
Figure 168793DEST_PATH_IMAGE081
为第二伪图像，
Figure 206019DEST_PATH_IMAGE082
为第二图像，
Figure 94341DEST_PATH_IMAGE083
为第三图像，
Figure 242425DEST_PATH_IMAGE084
为第四图像，
Figure 1434DEST_PATH_IMAGE085
为第五图像，
Figure 475141DEST_PATH_IMAGE086
为第六图像，
Figure 319600DEST_PATH_IMAGE087
为第一特征、
Figure 271375DEST_PATH_IMAGE088
为第二特征、
Figure 649005DEST_PATH_IMAGE089
为第三特征和
Figure 28034DEST_PATH_IMAGE090
为第四特征，
Figure 359789DEST_PATH_IMAGE091
为循环一致性损失，
Figure 115255DEST_PATH_IMAGE092
为恒等损失，
Figure 848856DEST_PATH_IMAGE093
为感知损失，
Figure 664365DEST_PATH_IMAGE094
为对抗损失。
优选地，预设的超分网络包括超分辨率重建网络
Figure 483417DEST_PATH_IMAGE095
、第三判别网络
Figure 776995DEST_PATH_IMAGE096
、边缘提取网络
Figure 863637DEST_PATH_IMAGE097
、边缘判别网络
Figure 850048DEST_PATH_IMAGE098
、退化网络
Figure 156395DEST_PATH_IMAGE099
和退化判别网络
Figure 253664DEST_PATH_IMAGE100
，步骤S300包括：
步骤S310：将第一伪图像输入至超分辨率重建网络
Figure 696278DEST_PATH_IMAGE101
，生成伪超分辨率图像
Figure 853590DEST_PATH_IMAGE102
；
步骤S320：将低空间分辨率图像
Figure 647234DEST_PATH_IMAGE103
输入至超分辨率重建网络
Figure 282614DEST_PATH_IMAGE101
，生成第七图像
Figure 343849DEST_PATH_IMAGE104
；
步骤S330：将第七图像
Figure 672062DEST_PATH_IMAGE105
作为第三负样本，高空间分辨率图像
Figure 687423DEST_PATH_IMAGE106
作为第三正样本，训练第三判别网络
Figure 392074DEST_PATH_IMAGE107
；
步骤S340：使用边缘提取网络
Figure 809280DEST_PATH_IMAGE108
提取第七图像
Figure 308394DEST_PATH_IMAGE109
的边缘信息
Figure 811051DEST_PATH_IMAGE110
，对低空间分辨率图像
Figure 788234DEST_PATH_IMAGE111
进行双三次插值后得到第八图像，根据边缘提取网络
Figure 824061DEST_PATH_IMAGE112
提取第八图像的边缘信息
Figure 494077DEST_PATH_IMAGE113
，将第八图像的边缘信息
Figure 484029DEST_PATH_IMAGE114
作为第四正样本，第七图像
Figure 264904DEST_PATH_IMAGE115
的边缘信息
Figure 656702DEST_PATH_IMAGE116
作为第四负样本，训练边缘判别网络
Figure 497619DEST_PATH_IMAGE117
；
步骤S350：第七图像
Figure 974868DEST_PATH_IMAGE118
输入至退化网络
Figure 559433DEST_PATH_IMAGE119
得到退化图像
Figure 304273DEST_PATH_IMAGE120
，将退化图像
Figure 316091DEST_PATH_IMAGE121
作为第五负样本，低空间分辨率图像
Figure 15057DEST_PATH_IMAGE122
作为第五正样本，训练退化判别网络
Figure 403313DEST_PATH_IMAGE123
，得到训练后的超分网络；
步骤S360：根据伪超分辨率图像
Figure 504124DEST_PATH_IMAGE124
、高空间分辨率图像
Figure 686844DEST_PATH_IMAGE125
、第八图像的边缘信息
Figure 138685DEST_PATH_IMAGE126
、第七图像
Figure 65052DEST_PATH_IMAGE127
的边缘信息
Figure 518905DEST_PATH_IMAGE128
、低空间分辨率图像
Figure 279051DEST_PATH_IMAGE129
和退化图像
Figure 77242DEST_PATH_IMAGE130
，结合预设的第二损失函数对训练后的超分网络进行反向传播，更新训练后的超分网络的网络参数并累计第二迭代次数，当第二迭代次数达到预设的第二迭代次数阈值时完成训练，得到训练好的超分网络。
优选地，步骤S360包括：
步骤S361：根据伪超分辨率图像
Figure 417088DEST_PATH_IMAGE131
和高空间分辨率图像
Figure 617125DEST_PATH_IMAGE132
得到伪图像重建损失；
步骤S362：根据第八图像的边缘信息
Figure 282593DEST_PATH_IMAGE133
和第七图像
Figure 568081DEST_PATH_IMAGE134
的边缘信息
Figure 475732DEST_PATH_IMAGE135
得到边缘保留损失；
步骤S363：根据低空间分辨率图像
Figure 530275DEST_PATH_IMAGE136
和退化图像
Figure 101065DEST_PATH_IMAGE137
得到退化一致性损失；
步骤S364：根据高空间分辨率图像
Figure 873849DEST_PATH_IMAGE138
和第七图像
Figure 821076DEST_PATH_IMAGE139
得到重建图像的对抗损失；
步骤S365：根据伪图像重建损失、边缘保留损失、退化一致性损失和重建图像的对抗损失得到第二损失值，根据第二损失值对训练后的超分网络进行反向传播，更新训练后的超分网络的网络参数并累计第二迭代次数，当第二迭代次数达到预设的第二迭代次数阈值时完成训练，得到训练好的超分网络。
优选地，步骤S365中根据伪图像重建损失、边缘保留损失、退化一致性损失和重建图像的对抗损失得到第二损失值，具体为：
Figure 871072DEST_PATH_IMAGE141
其中，
Figure 2976DEST_PATH_IMAGE142
Figure 731898DEST_PATH_IMAGE144
Figure 981351DEST_PATH_IMAGE146
Figure 10487DEST_PATH_IMAGE147
其中，
Figure 923079DEST_PATH_IMAGE148
为预设的第二损失函数的权重参数，
Figure 670456DEST_PATH_IMAGE149
，
Figure 959486DEST_PATH_IMAGE150
为伪超分辨率图像，
Figure 843128DEST_PATH_IMAGE151
为高空间分辨率图像，
Figure 926622DEST_PATH_IMAGE152
为第八图像的边缘信息，
Figure 895715DEST_PATH_IMAGE153
为第七图像
Figure 486971DEST_PATH_IMAGE154
的边缘信息，
Figure 225120DEST_PATH_IMAGE155
为低空间分辨率图像，
Figure 745094DEST_PATH_IMAGE156
为退化图像，
Figure 201483DEST_PATH_IMAGE157
为伪图像重建损失，
Figure 832315DEST_PATH_IMAGE158
为退化一致性损失，
Figure 690550DEST_PATH_IMAGE159
为边缘保留损失，
Figure 381425DEST_PATH_IMAGE160
为重建图像的对抗损失，
Figure 59532DEST_PATH_IMAGE161
为超分辨率重建网络，
Figure 992590DEST_PATH_IMAGE162
为第三判别网络，
Figure 705331DEST_PATH_IMAGE163
为边缘提取网络，
Figure 567108DEST_PATH_IMAGE164
为退化网络，
Figure 998089DEST_PATH_IMAGE165
为退化判别网络，
Figure 970725DEST_PATH_IMAGE166
为边缘判别网络。
非匹配遥感图像弱监督学习超分辨率重建系统，系统包括：
循环生成对抗网络训练模块，用于输入高空间分辨率图像和与高空间分辨率图像不匹配成对的低空间分辨率图像，对预设的循环生成对抗网络进行训练，得到训练后的循环生成对抗网络，结合预设的第一损失函数对训练后的循环生成对抗网络进行反向传播，更新训练后的循环生成对抗网络的网络参数并累计第一迭代次数，当第一迭代次数达到预设的第一迭代次数阈值时完成训练，得到训练好的循环生成对抗网络；
第一伪图像生成模块，用于对高空间分辨率图像利用双三次插值下采样后输入至训练好的循环生成对抗网络中的第一网络，生成与高空间分辨率图像匹配的第一伪图像；
超分网络训练模块，用于根据与高空间分辨率图像不匹配成对的低空间分辨率图像、第一伪图像和高空间分辨率图像对预设的超分网络进行训练，得到训练后的超分网络，结合预设的第二损失函数对训练后的超分网络进行反向传播，更新训练后的超分网络的网络参数并累计第二迭代次数，当第二迭代次数达到预设的第二迭代次数阈值时完成训练，得到训练好的超分网络；
超分辨率图像生成模块，用于获取低空间分辨率测试图像，将低空间分辨率测试图像输入至训练好的超分网络中的超分辨率重建网络，得到重建后的超分辨率图像。
计算机设备，包括存储器和处理器，存储器存储有计算机程序，处理器执行计算机程序时实现上述方法的步骤。
计算机可读存储介质，其上存储有计算机程序，计算机程序被处理器执行时实现上述方法的步骤。
上述非匹配遥感图像弱监督学习超分辨率重建方法及系统，首先输入高空间分辨率图像
Figure 537972DEST_PATH_IMAGE167
与其不匹配成对的低空间分辨率图像
Figure 305071DEST_PATH_IMAGE168
，对预设的循环生成对抗网络进行训练，通过循环生成对抗网络进行图像域转换，引入预设的第一损失函数，使得循环生成对抗网络的训练更加准确，利用双三次插值下采样与训练好的循环生成对抗网络中的第一网络模型生成与高空间分辨率图像
Figure 957769DEST_PATH_IMAGE169
匹配的第一伪图像；采用第一伪图像与匹配的高空间分辨率图像
Figure 498210DEST_PATH_IMAGE170
联合监督学习超分网络，使用生成对抗网络作为超分网络中的超分辨率重建网络的基础架构模型，并引入预设的第二损失函数为超分辨率重建网络提供约束，使重建图像具有真实的纹理细节，图像内容能更好的被表达，将低分辨率测试图像输入训练好的超分网络中的超分辨率重建网络，得到重建后的超分辨率图像
Figure 919964DEST_PATH_IMAGE171
。不依赖成对匹配的高分辨率与低分辨率图像，可以利用非匹配的数据进行遥感图像超分辨率重建，具有较强的灵活性和普适性，重建结果具有较丰富的纹理细节信息以及更好的表达能力。
附图说明
图1为本发明一实施例提供的方法的基本流程示意图；
图2是本发明一实施例提出的残差块示意图；
图3是本发明一实施例提出的判别网络示意图；
图4是本发明一实施例提出的超分辨率重建网络
Figure 389122DEST_PATH_IMAGE172
示意图；
图5是本发明一实施例提出的RRDB模块示意图；
图6是本发明一实施例提出的退化网络
Figure 529117DEST_PATH_IMAGE173
示意图；
图7是本发明一实施例方法和其他现有方法的第一组超分辨率重建结果对比示意图，其中，(a)为BICUBIC方法结果，(b)为ZSSR方法结果，(c)为ESRGAN方法结果， (d)为DRN方法结果，(e)为RRDBNet方法结果，(f)本发明方法结果；
图8是本发明一实施例方法和其他现有方法的第二组超分辨率重建结果对比示意图，其中，(a)为BICUBIC方法结果，(b)为ZSSR方法结果，(c)为ESRGAN方法结果，(d)为DRN方法结果，(e)为RRDBNet方法结果，(f)本发明方法结果。
具体实施方式
为了使本技术领域的人员更好地理解本发明的技术方案，下面结合附图对本发明作进一步的详细说明。
在一个实施例中，如图1所示，非匹配遥感图像弱监督学习超分辨率重建方法，方法包括以下步骤：
步骤S100：输入高空间分辨率图像和与高空间分辨率图像不匹配成对的低空间分辨率图像，对预设的循环生成对抗网络进行训练，得到训练后的循环生成对抗网络，结合预设的第一损失函数对训练后的循环生成对抗网络进行反向传播，更新训练后的循环生成对抗网络的网络参数并累计第一迭代次数，当第一迭代次数达到预设的第一迭代次数阈值时完成训练，得到训练好的循环生成对抗网络；
步骤S200：对高空间分辨率图像利用双三次插值下采样后输入至训练好的循环生成对抗网络中的第一网络，生成与高空间分辨率图像匹配的第一伪图像；
步骤S300：根据与高空间分辨率图像不匹配成对的低空间分辨率图像、第一伪图像和高空间分辨率图像对预设的超分网络进行训练，得到训练后的超分网络，结合预设的第二损失函数对训练后的超分网络进行反向传播，更新训练后的超分网络的网络参数并累计第二迭代次数，当第二迭代次数达到预设的第二迭代次数阈值时完成训练，得到训练好的超分网络；
步骤S400：获取低空间分辨率测试图像，将低空间分辨率测试图像输入至训练好的超分网络中的超分辨率重建网络，得到重建后的超分辨率图像。
具体地，输入高空间分辨率图像
Figure 843554DEST_PATH_IMAGE174
与其不匹配成对的低空间分辨率图像
Figure 385394DEST_PATH_IMAGE175
，对预设的循环生成对抗网络进行训练，通过循环生成对抗网络进行图像域转换，引入预设的第一损失函数使得循环生成对抗网络的训练更加准确，利用双三次插值下采样与训练好的循环生成对抗网络中的第一网络模型生成与高空间分辨率图像
Figure 759875DEST_PATH_IMAGE176
匹配的伪低空间分辨率图像即第一伪图像；采用第一伪图像与匹配的高空间分辨率图像
Figure 387165DEST_PATH_IMAGE177
联合监督学习超分网络，使用生成对抗网络作为超分网络中的超分辨率重建网络的基础架构模型，并引入预设的第二损失函数为超分辨率重建网络提供约束，使重建图像具有真实的纹理细节，图像内容能更好的被表达，将低分辨率测试图像输入训练好的超分网络中的超分辨率重建网络，得到重建后的超分辨率图像
Figure 3829DEST_PATH_IMAGE178
。不依赖成对匹配的高分辨率与低分辨率图像，可以利用非匹配的数据进行遥感图像超分辨率重建，具有较强的灵活性和普适性，重建结果具有较丰富的纹理细节信息以及更好的表达能力。
在一个实施例中，预设的循环生成对抗网络包括第一网络
Figure 665755DEST_PATH_IMAGE001
、第二网络
Figure 211137DEST_PATH_IMAGE002
、第一判别器网络
Figure 60144DEST_PATH_IMAGE003
和第二判别器网络
Figure 981964DEST_PATH_IMAGE004
，步骤S100包括：
步骤S110：对高空间分辨率图像
Figure 498396DEST_PATH_IMAGE005
使用双三次插值进行4倍下采样，得到第一图像
Figure 214679DEST_PATH_IMAGE006
；
步骤S120：第一图像
Figure 285403DEST_PATH_IMAGE007
经过第一网络
Figure 532886DEST_PATH_IMAGE001
得到第二伪图像
Figure 638246DEST_PATH_IMAGE008
，第二伪图像
Figure 525430DEST_PATH_IMAGE009
经过第二网络
Figure 614609DEST_PATH_IMAGE002
得到第二图像
Figure 612652DEST_PATH_IMAGE010
；
步骤S130：与高空间分辨率图像不匹配成对的低空间分辨率图像
Figure 103676DEST_PATH_IMAGE011
经过第二网络
Figure 161762DEST_PATH_IMAGE002
得到第三图像
Figure 472658DEST_PATH_IMAGE012
，第三图像
Figure 772927DEST_PATH_IMAGE013
经过第一网络
Figure 118457DEST_PATH_IMAGE001
得到第四图像
Figure 347444DEST_PATH_IMAGE014
；
步骤S140：与高空间分辨率图像不匹配成对的低空间分辨率图像
Figure 411215DEST_PATH_IMAGE015
经过第一网络
Figure 16640DEST_PATH_IMAGE001
得到第五图像
Figure 216677DEST_PATH_IMAGE016
，第一图像
Figure 616566DEST_PATH_IMAGE017
经过第二网络
Figure 902054DEST_PATH_IMAGE018
得到第六图像
Figure 809705DEST_PATH_IMAGE019
；
步骤S150：将第二伪图像
Figure 864248DEST_PATH_IMAGE020
作为第一负样本，与高空间分辨率图像不匹配成对的低空间分辨率图像
Figure 435038DEST_PATH_IMAGE021
作为第一正样本，训练第一判别器网络
Figure 207822DEST_PATH_IMAGE022
；
步骤S160：将第三图像
Figure 155049DEST_PATH_IMAGE023
作为第二负样本，第一图像
Figure 64099DEST_PATH_IMAGE024
作为第二正样本，训练第二判别器网络
Figure 71370DEST_PATH_IMAGE025
，得到训练后的循环生成对抗网络；
步骤S170：根据第一图像
Figure 65871DEST_PATH_IMAGE026
、第二伪图像
Figure 315324DEST_PATH_IMAGE027
、第二图像
Figure 78881DEST_PATH_IMAGE028
、第三图像
Figure 257052DEST_PATH_IMAGE029
、第四图像
Figure 738849DEST_PATH_IMAGE030
、第五图像
Figure 27879DEST_PATH_IMAGE031
和第六图像
Figure 911522DEST_PATH_IMAGE032
，结合预设的第一损失函数对训练后的循环生成对抗网络进行反向传播，更新训练后的循环生成对抗网络的网络参数并累计第一迭代次数，当第一迭代次数达到预设的第一迭代次数阈值时完成训练，得到训练好的循环生成对抗网络。
具体地，第一网络
Figure 260594DEST_PATH_IMAGE179
、第二网络
Figure 229688DEST_PATH_IMAGE180
由16个残差块组成，残差块结构如图2所示，残差块包括卷积层COV和Relu层，卷积核的尺寸为
Figure 820944DEST_PATH_IMAGE181
，通道数为64。第一判别器网络
Figure 559092DEST_PATH_IMAGE182
、第二判别器网络
Figure 79067DEST_PATH_IMAGE183
结构如图3所示，包括5层卷积层，四层BN层以及四层Relu层，所有卷积层的卷积核尺寸为
Figure 269877DEST_PATH_IMAGE184
，第1、2、3、4层的卷积层通道数分别为64、128、256、512，步长为2，最后一层卷积层通道数为1，步长为1。
在一个实施例中，步骤S170包括：
步骤S171：根据第一图像
Figure 900709DEST_PATH_IMAGE033
、第二图像
Figure 758944DEST_PATH_IMAGE034
、第四图像
Figure 184240DEST_PATH_IMAGE035
和低空间分辨率图像
Figure 127925DEST_PATH_IMAGE036
得到循环一致性损失；
步骤S172：根据第五图像
Figure 326563DEST_PATH_IMAGE037
、低空间分辨率图像
Figure 39304DEST_PATH_IMAGE038
、第六图像
Figure 901081DEST_PATH_IMAGE039
和第一图像
Figure 66483DEST_PATH_IMAGE040
得到恒等损失；
步骤S173：使用VGG19网络分别对第二伪图像
Figure 39118DEST_PATH_IMAGE041
、第一图像
Figure 871945DEST_PATH_IMAGE042
、第三图像
Figure 904623DEST_PATH_IMAGE043
和低空间分辨率图像
Figure 557321DEST_PATH_IMAGE044
进行特征提取，得到第一特征
Figure 832183DEST_PATH_IMAGE045
、第二特征
Figure 519516DEST_PATH_IMAGE046
、第三特征
Figure 723095DEST_PATH_IMAGE047
和第四特征
Figure 863090DEST_PATH_IMAGE048
，根据第一特征
Figure 177527DEST_PATH_IMAGE049
、第二特征
Figure 719367DEST_PATH_IMAGE050
、第三特征
Figure 93848DEST_PATH_IMAGE051
和第四特征
Figure 721138DEST_PATH_IMAGE052
得到感知损失；
步骤S174：根据低空间分辨率图像
Figure 337802DEST_PATH_IMAGE053
和第二伪图像
Figure 734148DEST_PATH_IMAGE054
，结合第一判别器网络
Figure 279530DEST_PATH_IMAGE055
得到第一网络
Figure 394117DEST_PATH_IMAGE056
与第一判别器网络
Figure 315937DEST_PATH_IMAGE057
之间的对抗损失；
步骤S175：根据第三图像
Figure 566789DEST_PATH_IMAGE058
和第一图像
Figure 283073DEST_PATH_IMAGE059
，结合第二判别器网络
Figure 884955DEST_PATH_IMAGE060
得到第二网络
Figure 843422DEST_PATH_IMAGE061
与第二判别器网络
Figure 214360DEST_PATH_IMAGE060
之间的对抗损失；
步骤S176：根据循环一致性损失、恒等损失、感知损失、第一网络
Figure 101545DEST_PATH_IMAGE062
与第一判别器网络
Figure 190723DEST_PATH_IMAGE063
之间的对抗损失和第二网络
Figure 188766DEST_PATH_IMAGE064
与第二判别器网络
Figure 414211DEST_PATH_IMAGE065
之间的对抗损失得到第一损失值，根据第一损失值对训练后的循环生成对抗网络进行反向传播，更新训练后的循环生成对抗网络的网络参数并累计第一迭代次数，当第一迭代次数达到预设的第一迭代次数阈值时完成训练，得到训练好的循环生成对抗网络。
在一个实施例中，根据循环一致性损失、恒等损失、感知损失、第一网络与第一判别器网络之间的对抗损失和第二网络与第二判别器网络之间的对抗损失得到第一损失值具体为：
Figure 737877DEST_PATH_IMAGE185
其中，
Figure 48772DEST_PATH_IMAGE068
Figure 349041DEST_PATH_IMAGE069
Figure 694572DEST_PATH_IMAGE186
Figure 923559DEST_PATH_IMAGE187
Figure 721751DEST_PATH_IMAGE073
其中，
Figure 327176DEST_PATH_IMAGE074
为预设的第一损失函数的权重参数，
Figure 527213DEST_PATH_IMAGE075
，
Figure 927101DEST_PATH_IMAGE076
为第一网络，
Figure 212589DEST_PATH_IMAGE077
为第二网络，
Figure 854661DEST_PATH_IMAGE078
为第一判别器网络，
Figure 909204DEST_PATH_IMAGE079
为第二判别器网络，
Figure 745573DEST_PATH_IMAGE080
为第一图像，
Figure 518357DEST_PATH_IMAGE081
为第二伪图像，
Figure 200006DEST_PATH_IMAGE082
为第二图像，
Figure 374635DEST_PATH_IMAGE083
为第三图像，
Figure 116326DEST_PATH_IMAGE084
为第四图像，
Figure 376406DEST_PATH_IMAGE085
为第五图像，
Figure 360280DEST_PATH_IMAGE086
为第六图像，
Figure 389416DEST_PATH_IMAGE087
为第一特征、
Figure 567588DEST_PATH_IMAGE088
为第二特征、
Figure 49385DEST_PATH_IMAGE089
为第三特征和
Figure 338415DEST_PATH_IMAGE090
为第四特征，
Figure 222057DEST_PATH_IMAGE091
为循环一致性损失，
Figure 571130DEST_PATH_IMAGE092
为恒等损失，
Figure 540223DEST_PATH_IMAGE093
为感知损失，
Figure 865900DEST_PATH_IMAGE094
为对抗损失。
具体地，
Figure 869628DEST_PATH_IMAGE188
为利用卷积神经网络VGG19第五个最大池化层前的第四个卷积层之前的网络进行特征提取。每一轮迭代后，通过反向传播算法训练循环生成对抗网络
Figure 389602DEST_PATH_IMAGE189
，重复迭代直至迭代次数达到预设的第一迭代次数阈值时判定完成训练。由于遥感图像的目标形态特殊以及不同遥感图像内容差异较大，直接在遥感图像上应用图像域转换易造成合成数据中目标内容的失真。因此提出了基于感知损失的域转换，即加入了
Figure 845991DEST_PATH_IMAGE190
，保留图像中的目标形态不被改变，
Figure 476824DEST_PATH_IMAGE191
用于避免生成结果与输入之间产生颜色差异，对抗损失
Figure 69479DEST_PATH_IMAGE192
用于使生成网络输出与目标域相同的数据分布，循环一致性损失
Figure 760355DEST_PATH_IMAGE193
用于使生成器的输出与输入结构上保持一致，本实施中，预设的第一迭代次数为25000次。
在一个实施例中，预设的超分网络包括超分辨率重建网络
Figure 704040DEST_PATH_IMAGE095
、第三判别网络
Figure 637099DEST_PATH_IMAGE096
、边缘提取网络
Figure 349840DEST_PATH_IMAGE097
、边缘判别网络
Figure 946037DEST_PATH_IMAGE098
、退化网络
Figure 377019DEST_PATH_IMAGE099
和退化判别网络
Figure 349654DEST_PATH_IMAGE100
，步骤S300包括：
步骤S310：将第一伪图像输入至超分辨率重建网络
Figure 182481DEST_PATH_IMAGE101
，生成伪超分辨率图像
Figure 949579DEST_PATH_IMAGE102
；
步骤S320：将低空间分辨率图像
Figure 867857DEST_PATH_IMAGE103
输入至超分辨率重建网络
Figure 142718DEST_PATH_IMAGE101
，生成第七图像
Figure 564472DEST_PATH_IMAGE104
；
步骤S330：将第七图像
Figure 768052DEST_PATH_IMAGE105
作为第三负样本，高空间分辨率图像
Figure 908046DEST_PATH_IMAGE106
作为第三正样本，训练第三判别网络
Figure 488063DEST_PATH_IMAGE107
；
步骤S340：使用边缘提取网络
Figure 29903DEST_PATH_IMAGE108
提取第七图像
Figure 404383DEST_PATH_IMAGE109
的边缘信息
Figure 31674DEST_PATH_IMAGE110
，对低空间分辨率图像
Figure 648338DEST_PATH_IMAGE111
进行双三次插值后得到第八图像，根据边缘提取网络
Figure 44684DEST_PATH_IMAGE112
提取第八图像的边缘信息
Figure 590066DEST_PATH_IMAGE113
，将第八图像的边缘信息
Figure 704652DEST_PATH_IMAGE114
作为第四正样本，第七图像
Figure 360893DEST_PATH_IMAGE115
的边缘信息
Figure 877325DEST_PATH_IMAGE116
作为第四负样本，训练边缘判别网络
Figure 593608DEST_PATH_IMAGE117
；
步骤S350：第七图像
Figure 195491DEST_PATH_IMAGE118
输入至退化网络
Figure 177395DEST_PATH_IMAGE119
得到退化图像
Figure 548333DEST_PATH_IMAGE120
，将退化图像
Figure 435518DEST_PATH_IMAGE121
作为第五负样本，低空间分辨率图像
Figure 259117DEST_PATH_IMAGE122
作为第五正样本，训练退化判别网络
Figure 522739DEST_PATH_IMAGE123
，得到训练后的超分网络；
步骤S360：根据伪超分辨率图像
Figure 748184DEST_PATH_IMAGE124
高空间分辨率图像
Figure 806270DEST_PATH_IMAGE125
、第八图像的边缘信息
Figure 382745DEST_PATH_IMAGE126
、第七图像
Figure 683014DEST_PATH_IMAGE127
的边缘信息
Figure 762966DEST_PATH_IMAGE128
、低空间分辨率图像
Figure 257532DEST_PATH_IMAGE129
和退化图像
Figure 55724DEST_PATH_IMAGE130
，结合预设的第二损失函数对训练后的超分网络进行反向传播，更新训练后的超分网络的网络参数并累计第二迭代次数，当第二迭代次数达到预设的第二迭代次数阈值时完成训练，得到训练好的超分网络。
在一个实施例中，步骤S360包括：
步骤S361：根据伪超分辨率图像
Figure 661149DEST_PATH_IMAGE131
和高空间分辨率图像
Figure 595607DEST_PATH_IMAGE132
得到伪图像重建损失；
步骤S362：根据第八图像的边缘信息
Figure 261074DEST_PATH_IMAGE133
和第七图像
Figure 546562DEST_PATH_IMAGE134
的边缘信息
Figure 188634DEST_PATH_IMAGE135
得到边缘保留损失；
步骤S363：根据低空间分辨率图像
Figure 243177DEST_PATH_IMAGE136
和退化图像
Figure 79546DEST_PATH_IMAGE137
得到退化一致性损失；
步骤S364：根据高空间分辨率图像
Figure 586751DEST_PATH_IMAGE138
和第七图像
Figure 533978DEST_PATH_IMAGE139
得到重建图像的对抗损失；
步骤S365：根据伪图像重建损失、边缘保留损失、退化一致性损失和重建图像的对抗损失得到第二损失值，根据第二损失值对训练后的超分网络进行反向传播，更新训练后的超分网络的网络参数并累计第二迭代次数，当第二迭代次数达到预设的第二迭代次数阈值时完成训练，得到训练好的超分网络。
具体地，本实施中，超分辨率重建网络
Figure 849553DEST_PATH_IMAGE194
网络如图4所示，输入先经过一个
Figure 715878DEST_PATH_IMAGE195
的卷积层，用于提取低分辨率特征
Figure 349860DEST_PATH_IMAGE196
，提取的特征
Figure 959832DEST_PATH_IMAGE196
经过23个RDDB模块(密集残差块)，得到特征
Figure 723389DEST_PATH_IMAGE197
，RDDB模块如图5所示，每个密集残差块由3个稠密块组成，特征
Figure 901561DEST_PATH_IMAGE197
经过
Figure 524303DEST_PATH_IMAGE195
的卷积层并与特征
Figure 672388DEST_PATH_IMAGE196
进行相加，得到特征
Figure 556030DEST_PATH_IMAGE198
，使用最近邻上采样将特征
Figure 905103DEST_PATH_IMAGE198
进行4倍放大，最后经过2个
Figure 874196DEST_PATH_IMAGE195
的卷积层得到最终的输出，其中，RDDB模块中的卷积层卷积核尺寸为
Figure 199873DEST_PATH_IMAGE195
。边缘提取网络
Figure 203601DEST_PATH_IMAGE199
为DexiNed（边缘提取稠密网络），用于提取
Figure 457996DEST_PATH_IMAGE200
与
Figure 914385DEST_PATH_IMAGE201
的边缘信息，防止重建图像中出现错误的纹理信息，并能够对图像的纹理、细节信息进行有效表达。退化网络
Figure 545218DEST_PATH_IMAGE202
的结构如图6所示，卷积层的卷积核尺寸为
Figure 544398DEST_PATH_IMAGE195
，池化层为最大池化，步长为2，残差块如图2所示，退化网络中包含20个残差块。退化判别网络
Figure 359907DEST_PATH_IMAGE203
、边缘判别网络
Figure DEST_PATH_IMAGE204
的网络结构如图3所示。
在一个实施例中，步骤S365中根据伪图像重建损失、边缘保留损失、退化一致性损失和重建图像的对抗损失得到第二损失值，具体为：
Figure 208652DEST_PATH_IMAGE205
其中，
Figure 377596DEST_PATH_IMAGE142
Figure DEST_PATH_IMAGE206
Figure 496862DEST_PATH_IMAGE207
Figure DEST_PATH_IMAGE208
其中，
Figure 889797DEST_PATH_IMAGE148
为预设的第二损失函数的权重参数，
Figure 320778DEST_PATH_IMAGE149
，
Figure 791949DEST_PATH_IMAGE150
为伪超分辨率图像，
Figure 359196DEST_PATH_IMAGE151
为高空间分辨率图像，
Figure 391874DEST_PATH_IMAGE152
为第八图像的边缘信息，
Figure 310152DEST_PATH_IMAGE153
为第七图像
Figure 820899DEST_PATH_IMAGE154
的边缘信息，
Figure 508232DEST_PATH_IMAGE155
为低空间分辨率图像，
Figure 711811DEST_PATH_IMAGE156
为退化图像，
Figure 851806DEST_PATH_IMAGE157
为伪图像重建损失，
Figure 930358DEST_PATH_IMAGE158
为退化一致性损失，
Figure 472198DEST_PATH_IMAGE159
为边缘保留损失，
Figure 846678DEST_PATH_IMAGE160
为重建图像的对抗损失，
Figure 473969DEST_PATH_IMAGE161
为超分辨率重建网络，
Figure 326518DEST_PATH_IMAGE162
为第三判别网络，
Figure 988444DEST_PATH_IMAGE163
为边缘提取网络，
Figure 533826DEST_PATH_IMAGE164
为退化网络，
Figure 648412DEST_PATH_IMAGE165
为退化判别网络，
Figure 803188DEST_PATH_IMAGE166
为边缘判别网络。
具体地，每一轮迭代后，通过反向传播算法训练超分网络中的
Figure DEST_PATH_IMAGE209
，重复迭代直至迭代次数达到预设的第二迭代次数阈值时判定完成训练。通过退化网络引入退化一致性损失
Figure DEST_PATH_IMAGE210
对解空间进行约束，防止超分网络重建出不真实的目标；通过边缘检测网络提取图像边缘信息，增加边缘保留损失
Figure DEST_PATH_IMAGE211
的约束，可以保留输入图像的边缘、纹理信息，防止超分网络重建结果中出现假纹理。
在训练和测试阶段，本实施中用到的数据集为DOTA数据集（航空图像目标检测的大规模数据集）与RRSSRD数据集（基于参考图像的遥感超分数据集）。从DOTA数据集中挑选出空间分辨率位于0.1m与0.2m之间的图像，作为高空间分辨率图像，共544张。将RRSSRD中的参考图像（空间分辨率为0.6m）作为低空间分辨率图像，共4046张。
本实施中提出的方法与5种方法进行对比，包括双三次插值BICUBIC、ZSSR（Zero-shot Super Resolution，零样本学习超分辨率网络）、ESRGAN（Enhanced Super-Resolution Generative Adversarial Networks，增强型超分辨率生成对抗网络）、DRN（Dual Regression Networks for Single Image Super-Resolution，双回归超分辨率网络）与RRDBNet（Residual in Residual Dense Network，残差密集超分辨率网络）。具体结果如图7、图8所示，图7为某马路的采样图片，图8为某村庄的采样图片，其中(a)为双三次插值BICUBIC方法结果、 (b)为ZSSR方法结果、 (c)为ESRGAN方法结果、 (d)为DRN方法结果 、(e)为RRDBNet方法结果、 (f)本发明方法结果。从重建结果可以看出，本方法的重建的图像更清晰，目标的边缘、纹理信息较为丰富，具有更好的视觉效果。
和现有技术相比，本发明主要具有以下优点：第一，本发明使用不同卫星拍摄的数据进行遥感图像超分辨率重建，不依赖成对匹配的数据集，降低了对特定降质过程的依赖，具有更强的普适性和灵活性；第二，本发明使用感知损失对图像域转换过程进行改进，在学习真实第一网络的同时，保持合成图像的内容与风格不被改变。第三，本发明通过引入了退化一致性损失和边缘保留损失，对超分网络的生成结果解的空间进行了合理约束，使重建图像具有真实的纹理细节，图像内容能更好的被表达。
在一个实施例中，非匹配遥感图像弱监督学习超分辨率重建系统，系统包括：
循环生成对抗网络训练模块，用于输入高空间分辨率图像和与高空间分辨率图像不匹配成对的低空间分辨率图像，对预设的循环生成对抗网络进行训练，得到训练后的循环生成对抗网络，结合预设的第一损失函数对训练后的循环生成对抗网络进行反向传播，更新训练后的循环生成对抗网络的网络参数并累计第一迭代次数，当第一迭代次数达到预设的第一迭代次数阈值时完成训练，得到训练好的循环生成对抗网络；
伪图像生成模块，用于对高空间分辨率图像利用双三次插值下采样后输入至训练好的循环生成对抗网络中的第一网络，生成与高空间分辨率图像匹配的第一伪图像；
超分网络训练模块，用于根据与高空间分辨率图像不匹配成对的低空间分辨率图像、第一伪图像和高空间分辨率图像对预设的超分网络进行训练，得到训练后的超分网络，结合预设的第二损失函数对训练后的超分网络进行反向传播，更新训练后的超分网络的网络参数并累计第二迭代次数，当第二迭代次数达到预设的第二迭代次数阈值时完成训练，得到训练好的超分网络；
超分辨率图像生成模块，用于获取低空间分辨率测试图像，将低空间分辨率测试图像输入至训练好的超分网络中的超分辨率重建网络，得到重建后的超分辨率图像。
关于非匹配遥感图像弱监督学习超分辨率重建系统的具体限定可以参见上文中对于非匹配遥感图像弱监督学习超分辨率重建方法的限定，在此不再赘述。上述非匹配遥感图像弱监督学习超分辨率重建系统中的各个模块可全部或部分通过软件、硬件及其组合来实现。上述各模块可以硬件形式内嵌于或独立于计算机设备中的处理器中，也可以以软件形式存储于计算机设备中的存储器中，以便于处理器调用执行以上各个模块对应的操作。
在一个实施例中，一种计算机设备，包括存储器和处理器，存储器存储有计算机程序，处理器执行计算机程序时实现非匹配遥感图像弱监督学习超分辨率重建方法的步骤。
在一个实施例中，一种计算机可读存储介质，其上存储有计算机程序，计算机程序被处理器执行时实现非匹配遥感图像弱监督学习超分辨率重建方法的步骤。
本领域内的技术人员应明白，本申请的实施例可提供为方法、系统、或计算机程序产品。因此，本申请可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且，本申请可采用在一个或多个其中包含有计算机可用程序代码的计算机可读存储介质（包括但不限于磁盘存储器、CD-ROM、光学存储器等）上实施的计算机程序产品的形式。本申请是参照根据本申请实施例的方法、设备（系统）、和计算机程序产品的流程图和／或方框图来描述的。应理解可由计算机程序指令实现流程图和／或方框图中的每一流程和／或方框、以及流程图和／或方框图中的流程和／或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器，使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和／或方框图一个方框或多个方框中指定的功能的装置。这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中，使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品，该指令装置实现在流程图一个流程或多个流程和／或方框图一个方框或多个方框中指定的功能。这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上，使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理，从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和／或方框图一个方框或多个方框中指定的功能的步骤。
以上对本发明所提供的一种非匹配遥感图像弱监督学习超分辨率重建及系统进行了详细介绍。本文中应用了具体个例对本发明的原理及实施方式进行了阐述，以上实施例的说明只是用于帮助理解本发明的核心思想。应当指出，对于本技术领域的普通技术人员来说，在不脱离本发明原理的前提下，还可以对本发明进行若干改进和修饰，这些改进和修饰也落入本发明权利要求的保护范围内。

Claims (10)

1.非匹配遥感图像弱监督学习超分辨率重建方法，其特征在于，所述方法包括以下步骤：
步骤S100：输入高空间分辨率图像和与所述高空间分辨率图像不匹配成对的低空间分辨率图像，对预设的循环生成对抗网络进行训练，得到训练后的循环生成对抗网络，结合预设的第一损失函数对所述训练后的循环生成对抗网络进行反向传播，更新所述训练后的循环生成对抗网络的网络参数并累计第一迭代次数，当所述第一迭代次数达到预设的第一迭代次数阈值时完成训练，得到训练好的循环生成对抗网络；
步骤S200：对所述高空间分辨率图像利用双三次插值下采样后输入至所述训练好的循环生成对抗网络中的第一网络，生成与所述高空间分辨率图像匹配的第一伪图像；
步骤S300：根据与所述高空间分辨率图像不匹配成对的低空间分辨率图像、所述第一伪图像和所述高空间分辨率图像对预设的超分网络进行训练，得到训练后的超分网络，结合预设的第二损失函数对训练后的超分网络进行反向传播，更新所述训练后的超分网络的网络参数并累计第二迭代次数，当所述第二迭代次数达到预设的第二迭代次数阈值时完成训练，得到训练好的超分网络；
步骤S400：获取低空间分辨率测试图像，将所述低空间分辨率测试图像输入至所述训练好的超分网络中的超分辨率重建网络，得到重建后的超分辨率图像。
2.根据权利要求1所述的方法，其特征在于，预设的循环生成对抗网络包括第一网络
Figure 225336DEST_PATH_IMAGE001
、第二网络
Figure 676040DEST_PATH_IMAGE002
、第一判别器网络
Figure 277922DEST_PATH_IMAGE003
和第二判别器网络
Figure 737854DEST_PATH_IMAGE004
，步骤S100包括：
步骤S110：对高空间分辨率图像
Figure 108792DEST_PATH_IMAGE005
使用双三次插值进行4倍下采样，得到第一图像
Figure 995977DEST_PATH_IMAGE006
；
步骤S120：所述第一图像
Figure 819576DEST_PATH_IMAGE007
经过所述第一网络
Figure 581734DEST_PATH_IMAGE001
得到第二伪图像
Figure 807179DEST_PATH_IMAGE008
，所述第二伪图像
Figure 865265DEST_PATH_IMAGE009
经过所述第二网络
Figure 441739DEST_PATH_IMAGE002
得到第二图像
Figure 243473DEST_PATH_IMAGE010
；
步骤S130：与所述高空间分辨率图像不匹配成对的低空间分辨率图像
Figure 323425DEST_PATH_IMAGE011
经过所述第二网络
Figure 614729DEST_PATH_IMAGE002
得到第三图像
Figure 810259DEST_PATH_IMAGE012
，所述第三图像
Figure 274739DEST_PATH_IMAGE013
经过所述第一网络
Figure 350142DEST_PATH_IMAGE001
得到第四图像
Figure 140244DEST_PATH_IMAGE014
；
步骤S140：与所述高空间分辨率图像不匹配成对的低空间分辨率图像
Figure 35518DEST_PATH_IMAGE015
经过所述第一网络
Figure 569268DEST_PATH_IMAGE001
得到第五图像
Figure 233599DEST_PATH_IMAGE016
，所述第一图像
Figure 929022DEST_PATH_IMAGE017
经过所述第二网络
Figure 75707DEST_PATH_IMAGE018
得到第六图像
Figure 147569DEST_PATH_IMAGE019
；
步骤S150：将所述第二伪图像
Figure 197564DEST_PATH_IMAGE020
作为第一负样本，与所述高空间分辨率图像不匹配成对的低空间分辨率图像
Figure 63889DEST_PATH_IMAGE021
作为第一正样本，训练所述第一判别器网络
Figure 933756DEST_PATH_IMAGE022
；
步骤S160：将所述第三图像
Figure 809308DEST_PATH_IMAGE023
作为第二负样本，所述第一图像
Figure 713810DEST_PATH_IMAGE024
作为第二正样本，训练所述第二判别器网络
Figure 751037DEST_PATH_IMAGE025
，得到训练后的循环生成对抗网络；
步骤S170：根据所述第一图像
Figure 872314DEST_PATH_IMAGE026
、所述第二伪图像
Figure 285978DEST_PATH_IMAGE027
、所述第二图像
Figure 44986DEST_PATH_IMAGE028
、所述第三图像
Figure 253114DEST_PATH_IMAGE029
、所述第四图像
Figure 97573DEST_PATH_IMAGE030
、第五图像
Figure 314928DEST_PATH_IMAGE031
和第六图像
Figure 928443DEST_PATH_IMAGE032
，结合预设的第一损失函数对所述训练后的循环生成对抗网络进行反向传播，更新所述训练后的循环生成对抗网络的网络参数并累计第一迭代次数，当所述第一迭代次数达到预设的第一迭代次数阈值时完成训练，得到训练好的循环生成对抗网络。
3.根据权利要求2所述的方法，其特征在于，步骤S170包括：
步骤S171：根据所述第一图像
Figure 573051DEST_PATH_IMAGE033
、所述第二图像
Figure 403341DEST_PATH_IMAGE034
、所述第四图像
Figure 158808DEST_PATH_IMAGE035
和所述低空间分辨率图像
Figure 892409DEST_PATH_IMAGE036
得到循环一致性损失；
步骤S172：根据所述第五图像
Figure 707918DEST_PATH_IMAGE037
、所述低空间分辨率图像
Figure 261390DEST_PATH_IMAGE038
、所述第六图像
Figure 820547DEST_PATH_IMAGE039
和所述第一图像
Figure 408655DEST_PATH_IMAGE040
得到恒等损失；
步骤S173：使用VGG19网络分别对所述第二伪图像
Figure 395065DEST_PATH_IMAGE041
、所述第一图像
Figure 199948DEST_PATH_IMAGE042
、所述第三图像
Figure 297217DEST_PATH_IMAGE043
和所述低空间分辨率图像
Figure 739831DEST_PATH_IMAGE044
进行特征提取，得到第一特征
Figure 897143DEST_PATH_IMAGE045
、第二特征
Figure 425207DEST_PATH_IMAGE046
、第三特征
Figure 326167DEST_PATH_IMAGE047
和第四特征
Figure 888866DEST_PATH_IMAGE048
，根据所述第一特征
Figure 217080DEST_PATH_IMAGE049
、所述第二特征
Figure 730975DEST_PATH_IMAGE050
、所述第三特征
Figure 170047DEST_PATH_IMAGE051
和所述第四特征
Figure 587253DEST_PATH_IMAGE052
得到感知损失；
步骤S174：根据所述低空间分辨率图像
Figure 86367DEST_PATH_IMAGE053
和所述第二伪图像
Figure 589024DEST_PATH_IMAGE054
，结合所述第一判别器网络
Figure 831786DEST_PATH_IMAGE055
得到第一网络
Figure 369078DEST_PATH_IMAGE056
与第一判别器网络
Figure 39094DEST_PATH_IMAGE057
之间的对抗损失；
步骤S175：根据所述第三图像
Figure 262003DEST_PATH_IMAGE058
和所述第一图像
Figure 308456DEST_PATH_IMAGE059
，结合所述第二判别器网络
Figure 700254DEST_PATH_IMAGE060
得到第二网络
Figure 541171DEST_PATH_IMAGE061
与第二判别器网络
Figure 752841DEST_PATH_IMAGE060
之间的对抗损失；
步骤S176：根据所述循环一致性损失、所述恒等损失、所述感知损失、第一网络
Figure 337406DEST_PATH_IMAGE062
与第一判别器网络
Figure 583711DEST_PATH_IMAGE063
之间的对抗损失和第二网络
Figure 595529DEST_PATH_IMAGE064
与第二判别器网络
Figure 58609DEST_PATH_IMAGE065
之间的对抗损失得到第一损失值，根据所述第一损失值对所述训练后的循环生成对抗网络进行反向传播，更新所述训练后的循环生成对抗网络的网络参数并累计第一迭代次数，当所述第一迭代次数达到预设的第一迭代次数阈值时完成训练，得到训练好的循环生成对抗网络。
4.根据权利要求3所述的方法，其特征在于，根据所述循环一致性损失、所述恒等损失、所述感知损失、所述第一网络与第一判别器网络之间的对抗损失和所述第二网络与第二判别器网络之间的对抗损失得到第一损失值具体为：
Figure 181286DEST_PATH_IMAGE067
其中，
Figure 547676DEST_PATH_IMAGE068
Figure 730396DEST_PATH_IMAGE069
Figure 916658DEST_PATH_IMAGE071
Figure 843025DEST_PATH_IMAGE072
Figure 63922DEST_PATH_IMAGE073
其中，
Figure 417543DEST_PATH_IMAGE074
为预设的第一损失函数的权重参数，
Figure 589636DEST_PATH_IMAGE075
，
Figure 319695DEST_PATH_IMAGE076
为第一网络，
Figure 395098DEST_PATH_IMAGE077
为第二网络，
Figure 919621DEST_PATH_IMAGE078
为第一判别器网络，
Figure 80475DEST_PATH_IMAGE079
为第二判别器网络，
Figure 286328DEST_PATH_IMAGE080
为第一图像，
Figure 340872DEST_PATH_IMAGE081
为第二伪图像，
Figure 410197DEST_PATH_IMAGE082
为第二图像，
Figure 182981DEST_PATH_IMAGE083
为第三图像，
Figure 130208DEST_PATH_IMAGE084
为第四图像，
Figure 39258DEST_PATH_IMAGE085
为第五图像，
Figure 46528DEST_PATH_IMAGE086
为第六图像，
Figure 41029DEST_PATH_IMAGE087
为第一特征、
Figure 791948DEST_PATH_IMAGE088
为第二特征、
Figure 555504DEST_PATH_IMAGE089
为第三特征和
Figure 232211DEST_PATH_IMAGE090
为第四特征，
Figure 448429DEST_PATH_IMAGE091
为循环一致性损失，
Figure 3038DEST_PATH_IMAGE092
为恒等损失，
Figure 886680DEST_PATH_IMAGE093
为感知损失，
Figure 235753DEST_PATH_IMAGE094
为对抗损失。
5.根据权利要求4所述的方法，其特征在于，预设的超分网络包括超分辨率重建网络
Figure 204846DEST_PATH_IMAGE095
、第三判别网络
Figure 297567DEST_PATH_IMAGE096
、边缘提取网络
Figure 35716DEST_PATH_IMAGE097
、边缘判别网络
Figure 54225DEST_PATH_IMAGE098
、退化网络
Figure 510614DEST_PATH_IMAGE099
和退化判别网络
Figure 141447DEST_PATH_IMAGE100
，步骤S300包括：
步骤S310：将所述第一伪图像输入至所述超分辨率重建网络
Figure 999682DEST_PATH_IMAGE101
，生成伪超分辨率图像
Figure 424978DEST_PATH_IMAGE102
；
步骤S320：将所述低空间分辨率图像
Figure 368663DEST_PATH_IMAGE103
输入至所述超分辨率重建网络
Figure 803187DEST_PATH_IMAGE101
，生成第七图像
Figure 515928DEST_PATH_IMAGE104
；
步骤S330：将所述第七图像
Figure 876240DEST_PATH_IMAGE105
作为第三负样本，所述高空间分辨率图像
Figure 41642DEST_PATH_IMAGE106
作为第三正样本，训练第三判别网络
Figure 14277DEST_PATH_IMAGE107
；
步骤S340：使用边缘提取网络
Figure 847104DEST_PATH_IMAGE108
提取所述第七图像
Figure 879782DEST_PATH_IMAGE109
的边缘信息
Figure 532480DEST_PATH_IMAGE110
，对所述低空间分辨率图像
Figure 308806DEST_PATH_IMAGE111
进行双三次插值后得到第八图像，根据所述边缘提取网络
Figure 996139DEST_PATH_IMAGE112
提取所述第八图像的边缘信息
Figure 698254DEST_PATH_IMAGE113
，将所述第八图像的边缘信息
Figure 838248DEST_PATH_IMAGE114
作为第四正样本，所述第七图像
Figure 152686DEST_PATH_IMAGE115
的边缘信息
Figure 694526DEST_PATH_IMAGE116
作为第四负样本，训练边缘判别网络
Figure 803427DEST_PATH_IMAGE117
；
步骤S350：所述第七图像
Figure 430718DEST_PATH_IMAGE118
输入至退化网络
Figure 548846DEST_PATH_IMAGE119
得到退化图像
Figure 945193DEST_PATH_IMAGE120
，将所述退化图像
Figure 989110DEST_PATH_IMAGE121
作为第五负样本，所述低空间分辨率图像
Figure 103696DEST_PATH_IMAGE122
作为第五正样本，训练退化判别网络
Figure 25516DEST_PATH_IMAGE123
，得到训练后的超分网络；
步骤S360：根据所述伪超分辨率图像
Figure 276369DEST_PATH_IMAGE124
、所述高空间分辨率图像
Figure 992652DEST_PATH_IMAGE125
、所述第八图像的边缘信息
Figure 860114DEST_PATH_IMAGE126
、所述第七图像
Figure 54466DEST_PATH_IMAGE127
的边缘信息
Figure 690984DEST_PATH_IMAGE128
、所述低空间分辨率图像
Figure 76703DEST_PATH_IMAGE129
和所述退化图像
Figure 165882DEST_PATH_IMAGE130
，结合预设的第二损失函数对训练后的超分网络进行反向传播，更新所述训练后的超分网络的网络参数并累计第二迭代次数，当所述第二迭代次数达到预设的第二迭代次数阈值时完成训练，得到训练好的超分网络。
6.根据权利要求5所述的方法，其特征在于，步骤S360包括：
步骤S361：根据所述伪超分辨率图像
Figure 163925DEST_PATH_IMAGE131
和所述高空间分辨率图像
Figure 389370DEST_PATH_IMAGE132
得到伪图像重建损失；
步骤S362：根据所述第八图像的边缘信息
Figure 713035DEST_PATH_IMAGE133
和所述第七图像
Figure 758352DEST_PATH_IMAGE134
的边缘信息
Figure 560086DEST_PATH_IMAGE135
得到边缘保留损失；
步骤S363：根据所述低空间分辨率图像
Figure 905616DEST_PATH_IMAGE136
和所述退化图像
Figure 656576DEST_PATH_IMAGE137
得到退化一致性损失；
步骤S364：根据所述高空间分辨率图像
Figure 454768DEST_PATH_IMAGE138
和所述第七图像
Figure 60193DEST_PATH_IMAGE139
得到重建图像的对抗损失；
步骤S365：根据所述伪图像重建损失、所述边缘保留损失、所述退化一致性损失和所述重建图像的对抗损失得到第二损失值，根据所述第二损失值对训练后的超分网络进行反向传播，更新所述训练后的超分网络的网络参数并累计第二迭代次数，当所述第二迭代次数达到预设的第二迭代次数阈值时完成训练，得到训练好的超分网络。
7.根据权利要求6所述的方法，其特征在于，步骤S365中根据所述伪图像重建损失、所述边缘保留损失、所述退化一致性损失和所述重建图像的对抗损失得到第二损失值，具体为：
Figure 260230DEST_PATH_IMAGE141
其中，
Figure 660118DEST_PATH_IMAGE142
Figure 945606DEST_PATH_IMAGE144
Figure 89143DEST_PATH_IMAGE146
Figure 143686DEST_PATH_IMAGE147
其中，
Figure 478590DEST_PATH_IMAGE148
为预设的第二损失函数的权重参数，
Figure 251374DEST_PATH_IMAGE149
，
Figure 933022DEST_PATH_IMAGE150
为所述伪超分辨率图像，
Figure 779756DEST_PATH_IMAGE151
为所述高空间分辨率图像，
Figure 646081DEST_PATH_IMAGE152
为所述第八图像的边缘信息，
Figure 109423DEST_PATH_IMAGE153
为所述第七图像
Figure 594762DEST_PATH_IMAGE154
的边缘信息，
Figure 623898DEST_PATH_IMAGE155
为所述低空间分辨率图像，
Figure 300605DEST_PATH_IMAGE156
为所述退化图像，
Figure 782402DEST_PATH_IMAGE157
为伪图像重建损失，
Figure 71432DEST_PATH_IMAGE158
为退化一致性损失，
Figure 955074DEST_PATH_IMAGE159
为边缘保留损失，
Figure 304147DEST_PATH_IMAGE160
为重建图像的对抗损失，
Figure 273240DEST_PATH_IMAGE161
为超分辨率重建网络，
Figure 897119DEST_PATH_IMAGE162
为第三判别网络，
Figure 274749DEST_PATH_IMAGE163
为边缘提取网络，
Figure 919357DEST_PATH_IMAGE164
为退化网络，
Figure 251112DEST_PATH_IMAGE165
为退化判别网络，
Figure DEST_PATH_IMAGE166
为边缘判别网络。
8.非匹配遥感图像弱监督学习超分辨率重建系统，其特征在于，所述系统包括：
循环生成对抗网络训练模块，用于输入高空间分辨率图像和与所述高空间分辨率图像不匹配成对的低空间分辨率图像，对预设的循环生成对抗网络进行训练，得到训练后的循环生成对抗网络，结合预设的第一损失函数对所述训练后的循环生成对抗网络进行反向传播，更新所述训练后的循环生成对抗网络的网络参数并累计第一迭代次数，当所述第一迭代次数达到预设的第一迭代次数阈值时完成训练，得到训练好的循环生成对抗网络；
伪图像生成模块，用于对所述高空间分辨率图像利用双三次插值下采样后输入至所述训练好的循环生成对抗网络中的第一网络，生成与所述高空间分辨率图像匹配的第一伪图像；
超分网络训练模块，用于根据所述与所述高空间分辨率图像不匹配成对的低空间分辨率图像、所述第一伪图像和所述高空间分辨率图像对预设的超分网络进行训练，得到训练后的超分网络，结合预设的第二损失函数对训练后的超分网络进行反向传播，更新所述训练后的超分网络的网络参数并累计第二迭代次数，当所述第二迭代次数达到预设的第二迭代次数阈值时完成训练，得到训练好的超分网络；
超分辨率图像生成模块，用于获取低空间分辨率测试图像，将所述低空间分辨率测试图像输入至所述训练好的超分网络中的超分辨率重建网络，得到重建后的超分辨率图像。
9.计算机设备，包括存储器和处理器，所述存储器存储有计算机程序，其特征在于，所述处理器执行所述计算机程序时实现权利要求1至7中任一项所述的方法的步骤。
10.计算机可读存储介质，其上存储有计算机程序，其特征在于，所述计算机程序被处理器执行时实现权利要求1至7中任一项所述的方法的步骤。
CN202111195140.5A 2021-10-14 2021-10-14 非匹配遥感图像弱监督学习超分辨率重建方法及系统 Active CN113643183B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202111195140.5A CN113643183B (zh) 2021-10-14 2021-10-14 非匹配遥感图像弱监督学习超分辨率重建方法及系统

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202111195140.5A CN113643183B (zh) 2021-10-14 2021-10-14 非匹配遥感图像弱监督学习超分辨率重建方法及系统

Publications (2)

Publication Number Publication Date
CN113643183A true CN113643183A (zh) 2021-11-12
CN113643183B CN113643183B (zh) 2021-12-21

Family

ID=78426749

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202111195140.5A Active CN113643183B (zh) 2021-10-14 2021-10-14 非匹配遥感图像弱监督学习超分辨率重建方法及系统

Country Status (1)

Country Link
CN (1) CN113643183B (zh)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN115170399A (zh) * 2022-09-08 2022-10-11 中国人民解放军国防科技大学 多目标场景图像分辨率提升方法、装置、设备和介质
CN115936985A (zh) * 2022-12-01 2023-04-07 华中光电技术研究所(中国船舶集团有限公司第七一七研究所) 一种基于高阶退化循环生成对抗网络的图像超分辨率重建方法

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109859107A (zh) * 2019-02-12 2019-06-07 广东工业大学 遥感图像超分辨率方法、装置、设备及可读存储介质
CN110119780A (zh) * 2019-05-10 2019-08-13 西北工业大学 基于生成对抗网络的高光谱图像超分辨重建方法
CN111179172A (zh) * 2019-12-24 2020-05-19 浙江大学 基于无人机航拍数据的遥感卫星超分辨率实现方法、装置、电子设备及存储介质
CN111179177A (zh) * 2019-12-31 2020-05-19 深圳市联合视觉创新科技有限公司 图像重建模型训练方法、图像重建方法、设备及介质
US20200364562A1 (en) * 2019-05-14 2020-11-19 Robert Bosch Gmbh Training system for training a generator neural network
CN113284046A (zh) * 2021-05-26 2021-08-20 中国电子科技集团公司第五十四研究所 基于无高分辨率参考图的遥感图像增强和复原方法及网络

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109859107A (zh) * 2019-02-12 2019-06-07 广东工业大学 遥感图像超分辨率方法、装置、设备及可读存储介质
CN110119780A (zh) * 2019-05-10 2019-08-13 西北工业大学 基于生成对抗网络的高光谱图像超分辨重建方法
US20200364562A1 (en) * 2019-05-14 2020-11-19 Robert Bosch Gmbh Training system for training a generator neural network
CN111179172A (zh) * 2019-12-24 2020-05-19 浙江大学 基于无人机航拍数据的遥感卫星超分辨率实现方法、装置、电子设备及存储介质
CN111179177A (zh) * 2019-12-31 2020-05-19 深圳市联合视觉创新科技有限公司 图像重建模型训练方法、图像重建方法、设备及介质
CN113284046A (zh) * 2021-05-26 2021-08-20 中国电子科技集团公司第五十四研究所 基于无高分辨率参考图的遥感图像增强和复原方法及网络

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
JI, HONG, ET AL: "《Vehicle detection in remote sensing images leveraging on simultaneous super-resolution》", 《IEEE GEOSCIENCE AND REMOTE SENSING LETTERS 17.4》 *
袁飘逸: "《基于深度学习的图像超分辨率重建算法研究》", 《中国优秀博硕士学位论文全文数据库(硕士)信息科技辑》 *

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN115170399A (zh) * 2022-09-08 2022-10-11 中国人民解放军国防科技大学 多目标场景图像分辨率提升方法、装置、设备和介质
CN115936985A (zh) * 2022-12-01 2023-04-07 华中光电技术研究所(中国船舶集团有限公司第七一七研究所) 一种基于高阶退化循环生成对抗网络的图像超分辨率重建方法

Also Published As

Publication number Publication date
CN113643183B (zh) 2021-12-21

Similar Documents

Publication Publication Date Title
Liu et al. Decoupled spatial-temporal transformer for video inpainting
Jiao et al. Local stereo matching with improved matching cost and disparity refinement
Vasluianu et al. NTIRE 2023 image shadow removal challenge report
CN113643183B (zh) 非匹配遥感图像弱监督学习超分辨率重建方法及系统
Kolesnikov et al. PixelCNN models with auxiliary variables for natural image modeling
Fu et al. Edge-aware deep image deblurring
Zhao et al. ADRN: Attention-based deep residual network for hyperspectral image denoising
Kasem et al. Spatial transformer generative adversarial network for robust image super-resolution
Prajapati et al. Direct unsupervised super-resolution using generative adversarial network (DUS-GAN) for real-world data
Rivadeneira et al. Thermal image super-resolution challenge-pbvs 2021
CN112836602B (zh) 基于时空特征融合的行为识别方法、装置、设备及介质
Vasluianu et al. Shadow removal with paired and unpaired learning
CN117635418B (zh) 生成对抗网络的训练方法、双向图像风格转换方法和装置
CN114283058A (zh) 基于对抗网络和最大互信息优化的图像超分辨率重建方法
Liu et al. Facial image inpainting using multi-level generative network
Wang et al. Mars image super-resolution based on generative adversarial network
Zhao et al. Saan: Semantic attention adaptation network for face super-resolution
CN112785540B (zh) 一种扩散加权图像的生成系统及方法
Jiang et al. Haze relevant feature attention network for single image dehazing
CN117237219A (zh) 一种协同双重协调遥感影像云遮挡缺失重建方法和系统
Paola et al. Correction of Banding Errors in Satellite Images With Generative Adversarial Networks (GAN)
Yang et al. Underwater image restoration for seafloor targets with hybrid attention mechanisms and conditional generative adversarial network
Kulikajevas et al. Auto-refining 3d mesh reconstruction algorithm from limited angle depth data
Jeon et al. A restoration method of single image super resolution using improved residual learning with squeeze and excitation blocks
Dargahi et al. Single image super-resolution by cascading parallel-structure units through a deep-shallow CNN

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant