CN114998148A - 一种图像修复方法、装置及设备 - Google Patents
一种图像修复方法、装置及设备 Download PDFInfo
- Publication number
- CN114998148A CN114998148A CN202210680058.XA CN202210680058A CN114998148A CN 114998148 A CN114998148 A CN 114998148A CN 202210680058 A CN202210680058 A CN 202210680058A CN 114998148 A CN114998148 A CN 114998148A
- Authority
- CN
- China
- Prior art keywords
- image
- feature map
- target
- model
- repaired
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 92
- 238000010606 normalization Methods 0.000 claims abstract description 184
- 238000010586 diagram Methods 0.000 claims abstract description 68
- 238000012549 training Methods 0.000 claims abstract description 65
- 230000008439 repair process Effects 0.000 claims abstract description 43
- 238000000605 extraction Methods 0.000 claims description 155
- 230000007547 defect Effects 0.000 claims description 107
- 230000004927 fusion Effects 0.000 claims description 90
- 238000009499 grossing Methods 0.000 claims description 52
- 238000012545 processing Methods 0.000 claims description 28
- 238000004590 computer program Methods 0.000 claims description 20
- 238000005259 measurement Methods 0.000 claims description 17
- 230000008569 process Effects 0.000 claims description 11
- 238000013507 mapping Methods 0.000 abstract description 6
- 238000013527 convolutional neural network Methods 0.000 description 17
- 230000006870 function Effects 0.000 description 10
- 230000000694 effects Effects 0.000 description 7
- 238000004891 communication Methods 0.000 description 6
- 230000002950 deficient Effects 0.000 description 6
- 230000003287 optical effect Effects 0.000 description 6
- 230000009471 action Effects 0.000 description 4
- 230000004913 activation Effects 0.000 description 3
- 238000013528 artificial neural network Methods 0.000 description 2
- 230000009286 beneficial effect Effects 0.000 description 2
- 238000013480 data collection Methods 0.000 description 2
- 230000007246 mechanism Effects 0.000 description 2
- 239000013307 optical fiber Substances 0.000 description 2
- 230000000644 propagated effect Effects 0.000 description 2
- 239000004065 semiconductor Substances 0.000 description 2
- 239000013598 vector Substances 0.000 description 2
- 241000699670 Mus sp. Species 0.000 description 1
- 238000003491 array Methods 0.000 description 1
- 230000014509 gene expression Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 230000000873 masking effect Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000000750 progressive effect Effects 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/77—Retouching; Inpainting; Scratch removal
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/40—Scaling of whole images or parts thereof, e.g. expanding or contracting
- G06T3/4038—Image mosaicing, e.g. composing plane images from plane sub-images
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20081—Training; Learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20084—Artificial neural networks [ANN]
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Biophysics (AREA)
- Evolutionary Computation (AREA)
- Artificial Intelligence (AREA)
- Biomedical Technology (AREA)
- Health & Medical Sciences (AREA)
- Computational Linguistics (AREA)
- Data Mining & Analysis (AREA)
- Life Sciences & Earth Sciences (AREA)
- General Health & Medical Sciences (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- General Engineering & Computer Science (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Image Analysis (AREA)
Abstract
本申请公开了一种图像修复方法、装置及设备,获取待修复图像,将待修复图像输入空间归一化模型,以使空间归一化模型对待修复图像进行空间归一化操作,获得待修复图像对应的归一化特征图。进而,将待修复图像对应的归一化特征图输入图像修复模型,以使图像修复模型对待修复图像对应的归一化特征图进行修复,获取图像修复模型输出的修复后的图像。其中,空间归一化模型和图像修复模型均为训练完成之后的模型。空间归一化模型仅用于将待修复图像进映射到归一化空间,图像修复模型仅用于对归一化空间的归一化特征图进行图像修复。如此,通过空间归一化模型和图像修复模型分集解耦的方式,能够大大降低图像修复的难度,有效提升图像修复的效率。
Description
技术领域
本申请涉及图像处理领域,具体涉及一种图像修复方法、装置及设备。
背景技术
图像修复的主要目的是修复图像中的残缺部分。目前,现有的图像修复方法是直接将有缺陷的图像输入图像修复模型中,获得图像修复模型输出的修复后的图像,这种图像修复方法的难度较高且效率较低。
因此,如何提供一种难度较低且效率较高的图像修复方式是亟待解决的问题。
发明内容
有鉴于此,本申请实施例提供一种图像修复方法、装置及设备,能够降低图像修复的难度且提高图像修复的效率。
为解决上述问题,本申请实施例提供的技术方案如下:
第一方面,本申请实施例提供一种图像修复方法,所述方法包括:
获取待修复图像;
将待修复图像输入空间归一化模型,以使所述空间归一化模型对所述待修复图像进行空间归一化操作,获得所述待修复图像对应的归一化特征图;
将所述待修复图像对应的归一化特征图输入图像修复模型,以使所述图像修复模型对所述待修复图像对应的归一化特征图进行修复,获取所述图像修复模型输出的修复后的图像;
其中,所述空间归一化模型和所述图像修复模型均为训练完成之后的模型。
第二方面,本申请实施例提供一种图像修复装置,所述装置包括:
第一获取模块,用于获取待修复图像;
第二获取模块,用于将待修复图像输入空间归一化模型,以使所述空间归一化模型对所述待修复图像进行空间归一化操作,获得所述待修复图像对应的归一化特征图;
第三获取模块,用于将所述待修复图像对应的归一化特征图输入图像修复模型,以使所述图像修复模型对所述待修复图像对应的归一化特征图进行修复,获取所述图像修复模型输出的修复后的图像;
其中,所述空间归一化模型和所述图像修复模型均为训练完成之后的模型。
第三方面,本申请实施例提供一种电子设备,包括:
一个或多个处理器;
存储装置,其上存储有一个或多个程序,
当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现如上述任一实施例所述的图像修复方法。
第四方面,本申请实施例提供一种计算机可读介质,其上存储有计算机程序,其中,所述程序被处理器执行时实现如上述任一实施例所述的图像修复方法。
第五方面,本申请实施例提供一种计算机程序产品,所述计算机程序产品包括计算机程序/指令,所述计算机程序/指令被处理器执行时实现如上述任一实施例所述的图像修复方法。
由此可见,本申请实施例具有如下有益效果:
本申请实施例提供一种图像修复方法、装置及设备,先获取待修复图像,将待修复图像输入空间归一化模型,以使空间归一化模型对待修复图像进行空间归一化操作,获得待修复图像对应的归一化特征图。进而,将待修复图像对应的归一化特征图输入图像修复模型,以使图像修复模型对待修复图像对应的归一化特征图进行修复,获取图像修复模型输出的修复后的图像。其中,空间归一化模型和图像修复模型均为训练完成之后的模型。在本申请实施例中,空间归一化模型仅用于将待修复图像进映射到归一化空间。图像修复模型的输入为恒定归一化空间的归一化特征图,即图像修复模型仅用于对归一化空间的归一化特征图进行图像修复。如此,通过空间归一化模型和图像修复模型分集解耦的方式,能够大大降低图像修复的难度,有效提升图像修复的效率和效果。
附图说明
图1为本申请实施例提供的一种示例性应用场景的框架示意图;
图2为本申请实施例提供的一种空间归一化模型训练方法的流程图;
图3为本申请实施例提供的一种空间归一化模型的结构示意图;
图4为本申请实施例提供的一种图像修复模型训练方法的流程图;
图5为本申请实施例提供的一种图像修复模型的结构示意图;
图6为本申请实施例提供的一种图像修复方法的流程图;
图7为本申请实施例提供的一种图像修复装置的结构示意图;
图8为本申请实施例提供的一种电子设备的基本结构的示意图。
具体实施方式
为使本申请的上述目的、特征和优点能够更加明显易懂,下面结合附图和具体实施方式对本申请实施例作进一步详细的说明。
为了便于理解和解释本申请实施例提供的技术方案,下面将先对本申请的背景技术进行说明。
图像修复的主要目的是修复图像中的残缺部分。发明人在对传统的图像修复方法进行研究后发现,现有的图像修复方法是直接将有缺陷的图像输入图像修复模型中,获得图像修复模型输出的修复后的图像。但是这种图像修复方法的难度较高且效率较低。例如,当图像修复模型输出的修复后的图像存在波纹、扭曲等失真情况时,难以确定具体问题所在,使得图像修复的难度高且效率低。
因此,如何提供一种难度较低且效率较高的图像修复方式是亟待解决的问题。
基于此,本申请实施例提供了一种图像修复方法、装置及设备,先获取待修复图像,将待修复图像输入空间归一化模型,以使空间归一化模型对待修复图像进行空间归一化操作,获得待修复图像对应的归一化特征图。进而,将待修复图像对应的归一化特征图输入图像修复模型,以使图像修复模型对待修复图像对应的归一化特征图进行修复,获取图像修复模型输出的修复后的图像。其中,空间归一化模型和图像修复模型均为训练完成之后的模型。在本申请实施例中,空间归一化模型仅用于将待修复图像进映射到归一化空间。图像修复模型的输入为恒定归一化空间的归一化特征图,即图像修复模型仅用于对归一化空间的归一化特征图进行图像修复。如此,通过空间归一化模型和图像修复模型分集解耦的方式,能够大大降低图像修复的难度,有效提升图像修复的效率和效果。
为了便于理解本申请实施例提供的图像修复方法,下面结合图1所示的场景示例进行说明。参见图1所示,该图为本申请实施例提供的示例性应用场景的框架示意图。
在实际应用中,先获取待修复图像,待修复图像为有缺陷的图像。将待修复图像输入空间归一化模型,以使空间归一化模型对待修复图像进行空间归一化操作,将待修复图像映射到归一化空间,获得待修复图像对应的归一化特征图。进而,将得到的待修复图像对应的归一化特征图输入图像修复模型,以使图像修复模型对待修复图像对应的归一化特征图进行修复,获取图像修复模型输出的修复后的图像。
其中,空间归一化模型和图像修复模型均为预先训练完成之后的模型。
为了便于理解本申请,下面先结合附图对本申请实施例提供的一种空间归一化模型训练方法进行说明。
参见图2所示,该图为本申请实施例提供的一种空间归一化模型训练方法的流程图。参见图3所示,该图为本申请实施例提供的一种空间归一化模型的结构示意图,如图3所示,该空间归一化模型可以包括残差模块、N+1个显著特征提取模块、N+1个差异特征提取模块、以及N个增强特征提取模块。其中,图3中的“M”模块为显著特征提取模块,“-”模块为差异特征提取模块,“+”模块为增强特征提取模块。
结合图3所示的空间归一化模型结构,如图2所示,该空间归一化模型训练方法可以包括S201-S207:
S201:将至少一个缺陷图像输入残差模块,获取每个缺陷图像分别对应的原始特征图。
先获取至少一个原图图像,对每个原图图像进行缺陷处理之后,获取缺陷图像。在训练空间归一化模型时,采用缺陷图像作为输入图像。作为一种可选示例,缺陷处理可为掩膜处理。
在一个或多个实施例中,当缺陷图像当缺陷图像为多个时,多个缺陷图像的种类为至少两种。缺陷图像的种类由对应的原图图像的种类确定。例如,同一人的多张人脸图像是同类图像,具有相似性。不同人的人脸图像是不同种类的图像,不具有相似性。
在获取缺陷图像之后,将缺陷图像输入空间归一化模型的残差模块中,以使残差模块对缺陷图像进行特征提取,获取每个缺陷图像分别对应的原始特征图。进而,后续会在原始特征图的基础上进行进一步的图像处理。
作为一种可选示例,残差模块为Resnet18网络。可以理解的是,基于Resnet18网络得到的原始特征图为4倍下采样的特征图。
S202:将第i-1个目标融合特征图输入第i个显著特征提取模块,获取第i个目标显著特征图;i的取值为1至N的正整数,i的初始取值为1且当i的取值为1时,第i-1个目标融合特征图为目标原始特征图,目标原始特征图为目标缺陷图像对应的原始特征图,目标缺陷图像分别为至少一个缺陷图像中的每一个。
为了便于叙述,将至少一个缺陷图像中的每一个缺陷图像表示为目标缺陷图像。在获取每个缺陷图像分别对应的原始特征图之后,目标缺陷图像对应有目标原始特征图。后续将以目标原始特征图为例进行说明。
显著特征提取模块能够形成一种类注意力机制,用于提取特征图的显著特征。显著特征提取模块的数量为N个。当i的取值为1,使用第1个显著特征提取模块对第i-1个目标融合特征图中的显著特征进行提取。其中,第i-1个目标融合特征图为目标原始特征图。即将目标原始特征图输入第1个显著特征提取模块,获取第1个目标显著特征图。当i的取值不为1时,第i-1个目标融合特征图为通过S204得到的。
作为一种可选示例,显著特征提取模块由1层1*1的卷积神经网络、2层全连接层以及激活函数层(例如sigmoid函数)组成。
S203:将第i-1个目标融合特征图和第i个目标显著特征图输入第i个增强特征提取模块,获取第i个目标增强特征图,将第i-1个目标融合特征图和第i个目标显著特征图输入第i个差异特征提取模块,获取第i个目标差异特征图。
考虑到对特征图中的显著特征的进一步强化,作为一种可选示例,利用增强特征提取模块实现第i-1个目标融合特征图和第i个目标显著特征图的相加操作(即两个特征图中对应位置处的像素值相加)。如此,能够利用增强特征提取模块对特征图上的显著特征进行进一步的增强处理,强化特征图中的显著特征。
例如,当i的取值为1时,在获取第1个目标显著特征图时,将目标原始特征图和获得的第1个目标显著特征图输入第1个增强特征提取模块中(如图3所示的“+”模块),获得第1个增强特征提取模块输出的第1个目标增强特征图。
考虑到特征图中的显著特征容易被模型捕捉到,而细微差异化的特征容易被显著特征掩盖。因此,作为一种可选示例,利用差异特征提取模块实现第i-1个目标融合特征图和第i个目标显著特征图之间的相减操作(即两个特征图中对应位置处的像素值相减)。如此,能够利用差异特征提取模块提取输入特征图之间的差异特征,进而可以从差异特征中捕捉更加有区分性的特征。
例如,当i的取值为1时,在获取第1个目标显著特征图时,将目标原始特征图和获得的第1个目标显著特征图输入第1个差异特征提取模块中(如图3所示的“-”模块),获得第1个差异特征提取模块输出的第1个目标差异特征图。
S204:将第i个目标增强特征图和第i个目标差异特征图进行拼接,获取第i个目标融合特征图,重复执行将第i-1个目标融合特征图输入第i个显著特征提取模块,获取第i个目标显著特征图以及后续步骤,直至i的取值为N。
在得到第i个目标增强特征图和第i个目标差异特征图之后,将第i个目标增强特征图和第i个目标差异特征图进行拼接,获取第i个目标融合特征图。进而,重复执行S202-S204,直至i的取值为N。
例如,当i的取值为1时,能够获取第1个目标融合特征图。进而,i=i+1,i取值为2,在获取第1个目标融合特征图之后,执行S202中将第1个目标融合特征图输入第2个显著特征提取模块,获取第2个目标显著特征图。进一步,将第1个目标融合特征图和第2个目标显著特征图输入第2个增强特征提取模块,获取第2个目标增强特征图,将第1个目标融合特征图和第2个目标显著特征图输入第2个差异特征提取模块,获取第2个目标差异特征图。将第2个目标增强特征图和第2个目标差异特征图进行拼接,获取第2个目标融合特征图。如此,重复执行S202-S204直至i的取值为N,能够获取N个目标增强特征图、N个目标差异特征图以及N个目标融合特征图。
每个特征融合模块包括一个显著特征提取模块、一个差异特征提取模块以及一个增强特征提取模块可以组成特征融合模块。每个特征融合模块均用于对特征图进行进一步的特征提取。则N个显著特征提取模块、N个差异特征提取模块以及N个增强特征提取模块可以组成N个串联的特征融合模块。
S205:将第N个目标融合特征图输入第N+1个显著特征提取模块,获取第N+1个目标显著特征图,将第N个目标融合特征图和第N+1个目标显著特征图输入第N+1个差异特征提取模块,获取第N+1个目标差异特征图。
空间归一化模型包括第N+1个显著特征提取模块和第N+1个差异特征提取模块。如图3所示,在获取第N个目标融合特征图之后,将第N个目标融合特征图输入第N+1个显著特征提取模块,获取第N+1个目标显著特征图。进而,将第N个目标融合特征图和和第N+1个目标显著特征图输入第N+1个差异特征提取模块,获取第N+1个目标差异特征图。
其中,第N+1个目标差异特征图可以看作是最终得到的特征图。
S206:将N个目标增强特征图以及第N+1个目标差异特征图组成目标缺陷图像对应的目标特征图集。
在获得第N+1个目标差异特征图之后,将经过N个增强特征提取模块所得到的N个目标增强特征图以及第N+1个目标差异特征图确定为目标缺陷图像对应的目标特征图集。
在一种可能的实现方式中,在S205之后,还可获得空间归一化模型输出的预测的归一化特征图,具体包括:
将N个目标增强特征图以及第N+1个目标差异特征图进行拼接,获得目标缺陷图像对应的目标预测归一化特征图。
具体实施时,如图3所示,空间归一化模型还包括连接模块,将N个目标增强特征图以及第N+1个目标差异特征图输入连接模块中,以使连接模块对N个目标增强特征图以及第N+1个目标差异特征图进行拼接,获得目标缺陷图像对应的目标预测归一化特征图。
目标预测归一化特征图即为空间归一化模型输出的目标缺陷图像对应的预测归一化特征图。如此,当输入空间归一化模型的缺陷图像为至少一个时,可获取各个缺陷图像对应的预测归一化特征图。
可以理解的是,由于不同的缺陷图像的尺寸等的不同,在对缺陷图像进行修复之前,需要利用空间归一化模型将缺陷图像映射到同一个归一化空间。即本申请实施例中的归一化指的是特征空间上的归一化。例如,将不同的缺陷图像的维度进行统一,使得最终获得的每个缺陷图像对应的预测归一化特征图的维度相同。如此,便于将同维度的预测归一化特征图统一输入到后续的图像修复模型中。
S207:根据各个缺陷图像分别对应的特征图集,获取第一损失值,基于第一损失值训练残差模块、N+1个显著特征提取模块、N+1个差异特征提取模块以及N个增强特征提取模块,直至达到第一预设条件。
在获得每个缺陷图像对应的特征图集,即每个缺陷图像对应的N个增强特征图以及第N+1个差异特征图之后,根据各个缺陷图像分别对应的特征图集,获取第一损失值。并基于第一损失值训练残差模块、N+1个显著特征提取模块、N+1个差异特征提取模块以及N个增强特征提取模块,直至达到第一预设条件。当未达到第一预设条件时,重复执行S201以及后续步骤,直至达到第一预设条件。
作为一种可选示例,第一预设条件可为达到第一预设训练次数或第一损失值达到第一预设值。可以理解的是,本申请实施例对第一预设训练次数和第一预设值不进行限定,可根据实际情况进行设定。
在一种可能的实现方式中,本申请实施例提供了一种S207中根据各个缺陷图像分别对应的特征图集,获取第一损失值的具体实施方式,具体请参见下文A1-A3。
基于S201-S207的内容可知,可设计合适的空间归一化模型,并对空间归一化模型进行训练。空间归一化模型独立于图像修复模型,训练完成的空间归一化模型能够为图像修复模型提供不同图像对应的归一化特征图。如此,通过空间归一化模型和图像修复模型分集解耦的方式,能够大大降低图像修复的难度,有效提升图像修复的效率和效果。
作为一种可选示例,如图3所示,空间归一化模型还包括损失模块。在一个或多个实施例中,对抗网络损失模块和距离度量损失模块。
基于此,在一种可能的实现方式中,本申请实施例提供了一种S207中根据各个缺陷图像分别对应的特征图集,获取第一损失值的具体实施方式,包括:
A1:将各个缺陷图像分别对应的特征图集输入对抗网络损失模块中,获取对抗网络损失值。
其中,对抗网络损失值可称为GAN损失值。在实际应用中,将各个缺陷图像分别对应的特征图集输入对抗网络损失模块中,可以获取对抗网络损失模块输出的对抗网络损失值。
A2:将各个缺陷图像分别对应的特征图集输入距离度量损失模块中,获取距离度量损失值。
当缺陷图像的种类为至少两类时,需要确保相似图像(即同类图像)在归一化空间的距离远远小于与不相似图像(即不同种类图像)之间的距离,即需要使得同类样本的特征向量距离小,异类样本的特征向量距离大。基于此,本申请实施例中的损失模块还包括距离度量损失模块。将各个缺陷图像分别对应的特征图集输入距离度量损失模块中,能够获取距离度量损失值。利用距离度量损失值训练空间归一化模型,能够实现相似图片在归一化空间的距离远远小于与不相似图片之间的距离。
A3:对抗网络损失值和距离度量损失值组成第一损失值。
在获取对抗网络损失值和距离度量损失值之后,由对抗网络损失值和距离度量损失值组成第一损失值。由此,可利用第一损失值对空间归一化模型中的残差模块、N+1个显著特征提取模块、N+1个差异特征提取模块以及N个增强特征提取模块等进行训练。
基于A1-A3的内容可知,利用对抗网络损失值和距离度量损失值组成的第一损失值训练空间归一化模型,能够使得训练完成的空间归一化模型满足提取归一化特征图的需求,且能够确保输入的相似图像在归一化空间的距离远远小于与不相似图像之间的距离。
在训练空间归一化模型时,还需训练图像修复模型。空间归一化模型和图像修复模型彼此独立训练,串联连接。
为了便于理解本申请,下面继续结合附图对本申请实施例提供的一种图像修复模型训练方法进行说明。
参见图4所示,该图为本申请实施例提供的一种图像修复模型训练方法的流程图。参见图5所示,该图为本申请实施例提供的一种图像修复模型的结构示意图。如图5所示,该图像修复模型包括第一分支模型和第二分支模型。
结合图5所示的图像修复模型结构,如图4所示,图像修复模型训练方法可以包括S401-S404:
S401:将目标预测归一化特征图输入第一分支模型,以使第一分支模型对目标预测归一化特征图进行细节修复,获取目标预测细节特征图。
在上述空间归一化模型训练方法的实施例中,能够获得目标缺陷图像对应的目标预测归一化特征图。在获得目标预测归一化特征图之后,利用目标预测归一化特征图训练图像修复模型。
具体实施时,将目标预测归一化特征图输入第一分支模型,以使第一分支模型对目标预测归一化特征图进行细节修复,获取目标预测细节特征图。可以理解的是,第一分支模型用于对目标预测归一化特征图进行细节修复,得到的目标预测细节特征图能够体现缺陷图像的细节特征,为细粒度的特征图。
作为一种可选示例,如图5所示,第一分支模型包括两个门控卷积神经网络和上下文注意层。第一个门控卷积神经网络和上下文注意层串联连接,进而再串联连接另一个门控卷积神经网络。目标预测归一化特征图先输入第一个门控卷积神经网络中,得到第一个门控卷积神经网络输出的特征后,将第一个门控卷积神经网络输出的特征输入上下文注意层中。进而,将上下文注意层输出的特征输入第二个门控卷积神经网络中,获得目标预测细节特征图。
在一个或多个实施例中,上下文注意层由采用2层1*1卷积神经网络和两层全连接层与激活函数层(如sigmoid激活函数)组成。
S402:将目标预测归一化特征图输入第二分支模型,以使第二分支模型对目标预测归一化特征图进行粗糙修复,获取目标预测轮廓特征图。
另外,在获得目标预测归一化特征图之后,同时将目标预测归一化特征图输入第二分支模型,以使第二分支模型对目标预测归一化特征图进行粗糙修复,获取目标预测轮廓特征图。可以理解的是,第二分支模型能够学习一种动态特征选择机制,用于对目标预测归一化特征图进行粗糙修复,得到的目标预测轮廓特征图能够体现缺陷图像的轮廓特征,为粗粒度的特征图。
作为一种可选示例,如图5所示,第二分支模型包括门控卷积神经网络和空洞卷积神经网络。门控卷积神经网络和空洞卷积神经网络串联连接。目标预测归一化特征图先输入门控卷积神经网络中,得到门控卷积神经网络输出的特征后,进而将门控卷积神经网络输出的特征输入空洞卷积神经网络,得到目标预测轮廓特征图。
S403:将目标预测细节特征图和目标预测轮廓特征图进行拼接,获取目标原图图像对应的目标预测图像。
在获得目标预测细节特征图和目标预测轮廓特征图之后,将目标预测细节特征图和目标预测轮廓特征图进行拼接,获取目标原图图像对应的目标预测图像。
目标预测图像为对目标原图图像修复后得到的图像。由此,获得的目标预测图像中既能体现细节特征也能体现轮廓特征,能够使得对目标预测归一化特征图的修复精度较高。
作为一种可选示例,图像修复模型还包括连接模块。基于此,在实际应用中,将目标预测细节特征图和目标预测轮廓特征图输入连接模块中,以使连接模块对目标预测细节特征图和目标预测轮廓特征图进行拼接,获取目标原图图像对应的目标预测图像。
S404:基于各个原图图像以及每个原图图像对应的预测图像获取第二损失值,基于第二损失值训练第一分支模型和第二分支模型,直至达到第二预设条件。
获取目标原图图像对应的目标预测图像之后,当原图图像为至少一个时,可获取各个原图图像以及每个原图图像对应的预测图像。进而,基于各个原图图像以及每个原图图像对应的预测图像获取第二损失值,并基于第二损失值训练第一分支模型和第二分支模型,直至达到第二预设条件。当未达到第二预设条件时,重复执行S401以及后续步骤,直至达到第二预设条件。
作为一种可选示例,第二预设条件可为达到第二预设训练次数或第二损失值达到第二预设值。可以理解的是,本申请实施例对第二预设训练次数和第二预设值不进行限定,可根据实际情况进行设定。
基于S401-404的内容可知,可设计图像修复模型,并对图像修复模型进行训练。图像修复模型独立于空间归一化模型,图像修复模型与空间归一化模型串联连接。训练完成的空间归一化模型结合训练完成的图像修复模型能够用于实现缺陷图像的修复,获得修复后的图像。如此,通过空间归一化模型和图像修复模型分集解耦的方式,能够大大降低图像修复的难度,有效提升图像修复的效率和效果。
作为一种可选示例,如图5所示,图像修复模型还包括平滑处理模块。在一个或多个实施例中,平滑处理模块为门控卷积神经网络,例如6层门控卷积神经网络。
在一种可能的实现方式中,本申请实施例提供了一种S403中将目标预测细节特征图和目标预测轮廓特征图进行拼接,获取目标原图图像对应的目标预测图像的具体实施方式,包括:
B1:将目标预测细节特征图和目标预测轮廓特征图进行拼接,获取目标拼接特征图。
如图5所示,在实际应用中,将目标预测细节特征图和目标预测轮廓特征图输入连接模块中,以使连接模块对目标预测细节特征图和目标预测轮廓特征图进行拼接,获取目标拼接特征图。
B2:将目标拼接特征图输入平滑处理模块中,以使平滑处理模块对目标拼接特征图进行平滑处理操作,获取目标原图图像对应的目标预测图像。
将目标拼接特征图输入平滑处理模块中,获取目标原图图像对应的目标预测图像。平滑处理模块用于对目标拼接特征图进行平滑处理操作,以消除目标拼接特征图中的一些毛刺,使得获得的目标预测图像的修复效果更好。
在一种可能的实现方式中,本申请实施例提供了一种S404中基于各个原图图像以及每个原图图像对应的预测图像获取第二损失值,基于第二损失值训练第一分支模型和第二分支模型,直至达到第二预设条件的具体实施方式,包括:
基于各个原图图像以及每个原图图像对应的预测图像获取第二损失值,基于第二损失值训练第一分支模型、第二分支模型以及平滑处理模块,直至达到第二预设条件。
可以理解的是,当图像修复模型中还包括平滑处理模块时,在基于第二损失值训练图像修复模型时,具体为基于第二损失值训练第一分支模型、第二分支模型以及平滑处理模块。
基于上述实施例提供的一种空间归一化模型训练方法和一种图像修复模型训练方法,在获取训练完成的空间归一化模型和图像修复模型之后,本申请实施例还提供了一种图像修复方法。
参见图6所示,该图为本申请实施例提供的一种图像修复方法的流程图,如图6所示,该方法可以包括S601-S603:
S601:获取待修复图像。
待修复图像为缺陷图像,需要利用本申请实施例提供的训练完成的空间归一化模型和图像修复模型对其进行修复。
S602:将待修复图像输入空间归一化模型,以使空间归一化模型对待修复图像进行空间归一化操作,获得待修复图像对应的归一化特征图。
先将待修复图像输入空间归一化模型,使得空间归一化模型对待修复图像进行空间归一化操作,将待修复图像映射到归一化空间,获得待修复图像对应的归一化特征图。
在一种可能的实现方式中,基于训练完成的空间归一化模型,本申请实施例提供了一种将待修复图像输入空间归一化模型,以使空间归一化模型对待修复图像进行空间归一化操作,获得待修复图像对应的归一化特征图的具体实施方式,具体请见下文C1-C6。
S603:将待修复图像对应的归一化特征图输入图像修复模型,以使图像修复模型对待修复图像对应的归一化特征图进行修复,获取图像修复模型输出的修复后的图像。
空间归一化模型和图像修复模型串联使用。在获得待修复图像对应的归一化特征图后,将待修复图像对应的归一化特征图输入图像修复模型。图像修复模型用于对待修复图像对应的归一化特征图进行修复,最终获得图像修复模型输出的修复后的图像。
在一种可能的实现方式中,本申请实施例提供了一种将待修复图像对应的归一化特征图输入图像修复模型,以使图像修复模型对待修复图像对应的归一化特征图进行修复,获取图像修复模型输出的修复后的图像的具体实施方式,具体请见下文D1-D3。
基于上述S601-S603的相关内容可知,本申请实施例提供一种图像修复方法,先获取待修复图像,将待修复图像输入空间归一化模型,以使空间归一化模型对待修复图像进行空间归一化操作,获得待修复图像对应的归一化特征图。进而,将待修复图像对应的归一化特征图输入图像修复模型,以使图像修复模型对待修复图像对应的归一化特征图进行修复,获取图像修复模型输出的修复后的图像。其中,空间归一化模型和图像修复模型均为训练完成之后的模型。在本申请实施例中,空间归一化模型仅用于将待修复图像进映射到归一化空间。图像修复模型的输入为恒定归一化空间的归一化特征图,即图像修复模型仅用于对归一化空间的归一化特征图进行图像修复。如此,通过空间归一化模型和图像修复模型分集解耦的方式,能够大大降低图像修复的难度,有效提升图像修复的效率和效果。
如上述空间归一化模型训练方法的实施例所述,空间归一化模型包括残差模块、N+1个显著特征提取模块、N+1个差异特征提取模块以及N个增强特征提取模块。
在一种可能的实现方式中,基于训练完成的空间归一化模型,本申请实施例提供了一种S602中将待修复图像输入空间归一化模型,以使空间归一化模型对待修复图像进行空间归一化操作,获得待修复图像对应的归一化特征图的具体实施方式,包括:
C1:将待修复图像输入残差模块,获取待修复图像对应的原始特征图。
在获取待修复图像之后,将缺陷图像输入空间归一化模型的残差模块中,以使残差模块对缺陷图像进行特征提取,获取待修复图像对应的原始特征图。
C2:将第i-1个融合特征图输入第i个显著特征提取模块,获取第i个显著特征图;i的取值为1至N的正整数,i的初始取值为1且当i的取值为1时,第i-1个融合特征图为待修复图像对应的原始特征图。
例如,当i的取值为1,使用第1个显著特征提取模块对第i-1个融合特征图中的显著特征进行提取。其中,第i-1个融合特征图为待修复图像对应的原始特征图。即将待修复图像对应的原始特征图输入第1个显著特征提取模块,获取第1个显著特征图。当i的取值不为1时,第i-1个融合特征图为通过C4得到的融合特征图。
C3:将第i-1个融合特征图和第i个显著特征图输入第i个增强特征提取模块,获取第i个增强特征图,将第i-1个融合特征图和第i个显著特征图输入第i个差异特征提取模块,获取第i个差异特征图。
例如,当i的取值为1时,在获取第1个显著特征图时,将待修复图像对应的原始特征图和获得的第1个显著特征图输入第1个增强特征提取模块中,获得第1个增强特征提取模块输出的第1个增强特征图。
另外,在获取第1个显著特征图时,将待修复图像对应的原始特征图和获得的第1个显著特征图输入第1个差异特征提取模块中,获得第1个差异特征提取模块输出的第1个差异特征图。
C4:将第i个增强特征图和第i个差异特征图进行拼接,获取第i个融合特征图,重复执行将第i-1个融合特征图输入第i个显著特征提取模块,获取第i个显著特征图以及后续步骤,直至i的取值为N。
在得到第i个增强特征图和第i个差异特征图之后,将第i个增强特征图和第i个差异特征图进行拼接,获取第i个融合特征图。进而,重复执行C1-C4,直至i的取值为N。
例如,当i的取值为1时,能够获取第1个融合特征图。进而,i=i+1,i取值为2,在获取第1个融合特征图之后,执行C2中将第1个融合特征图输入第2个显著特征提取模块,获取第2个显著特征图。进一步,将第1个融合特征图和第2个显著特征图输入第2个增强特征提取模块,获取第2个增强特征图,将第1个融合特征图和第2个显著特征图输入第2个差异特征提取模块,获取第2个差异特征图。将第2个增强特征图和第2个差异特征图进行拼接,获取第2个融合特征图。如此,重复执行C2-C4直至i的取值为N,能够获取N个增强特征图、N个差异特征图以及N个融合特征图。
C5:将第N个融合特征图输入第N+1个显著特征提取模块,获取第N+1个显著特征图,将第N个融合特征图和第N+1个显著特征图输入第N+1个差异特征提取模块,获取第N+1个差异特征图。
在获取第N个融合特征图之后,将第N个融合特征图输入第N+1个显著特征提取模块,获取第N+1个显著特征图。进而,将第N个融合特征图和和第N+1个显著特征图输入第N+1个差异特征提取模块,获取第N+1个差异特征图。
C6:将N个增强特征图以及第N+1个差异特征图进行拼接,获得待修复图像对应的归一化特征图。
在一种可能的实现方式中,空间归一化模型还包括连接模块,将N个增强特征图以及第N+1个差异特征图输入连接模块中,以使连接模块对N个增强特征图以及第N+1个差异特征图进行拼接,获得待修复图像对应的归一化特征图。
基于C1-C6的内容可知,可利用训练完成的空间归一化模型将待修复图像映射到归一化空间,获得待修复图像对应的归一化特征图。
如上述实施例所述,图像修复模型包括第一分支模型和第二分支模型。
基于此,在一种可能的实现方式中,本申请实施例提供了一种S603中将待修复图像对应的归一化特征图输入图像修复模型,以使图像修复模型对待修复图像对应的归一化特征图进行修复,获取图像修复模型输出的修复后的图像的具体实施方式,包括:
D1:将待修复图像对应的归一化特征图输入第一分支模型,以使第一分支模型对待修复图像对应的归一化特征图进行细节修复,获取修复后的细节特征图。
D2:将待修复图像对应的归一化特征图输入第二分支模型,以使第二分支模型对待修复图像对应的归一化特征图进行粗糙修复,获取修复后的轮廓特征图。
将待修复图像对应的归一化特征图分别输入第一分支模型和第二分支模型,以获取修复后的细节特征图和修复后的轮廓特征图。
D3:将修复后的细节特征图和修复后的轮廓特征图进行拼接,获取修复后的图像。
需要说明的是,D1-D3和上述实施例中的S401-S403类似,D1-D3的技术详情可参考上述实施例,这里不再赘述。
当图像修复模型还包括平滑处理模块时,在一种可能的实现方式中,本申请实施例提供了一种D3中将修复后的细节特征图和修复后的轮廓特征图进行拼接,获取修复后的图像的具体实施方式,包括:
E1:将修复后的细节特征图和修复后的轮廓特征图进行拼接,获取拼接特征图。
E2:将拼接特征图输入平滑处理模块中,以使平滑处理模块对拼接特征图进行平滑处理操作,获得修复后的图像。
可以理解的是,利用平滑处理模块可消除拼接特征图中的一些毛刺,使得获得的修复后的图像的修复效果更好。
基于上述方法实施例提供的一种图像修复方法,本申请实施例还提供了一种图像修复装置,下面将结合附图对图像修复装置进行说明。
参见图7所示,该图为本申请实施例提供的一种图像修复装置的结构示意图。如图7所示,该图像修复装置包括:
第一获取单元701,用于获取待修复图像;
第二获取单元702,用于将待修复图像输入空间归一化模型,以使所述空间归一化模型对所述待修复图像进行空间归一化操作,获得所述待修复图像对应的归一化特征图;
第三获取单元703,用于将所述待修复图像对应的归一化特征图输入图像修复模型,以使所述图像修复模型对所述待修复图像对应的归一化特征图进行修复,获取所述图像修复模型输出的修复后的图像;
其中,所述空间归一化模型和所述图像修复模型均为训练完成之后的模型。
在一种可能的实现方式中,所述空间归一化模型包括残差模块、N+1个显著特征提取模块、N+1个差异特征提取模块以及N个增强特征提取模块,所述装置还包括空间归一化模型训练单元,所述空间归一化模型训练单元,包括:
第一输入子单元,用于将至少一个缺陷图像输入所述残差模块,获取每个缺陷图像分别对应的原始特征图;
第二输入子单元,用于将第i-1个目标融合特征图输入第i个显著特征提取模块,获取第i个目标显著特征图;i的取值为1至N的正整数,所述i的初始取值为1且当所述i的取值为1时,所述第i-1个目标融合特征图为目标原始特征图,所述目标原始特征图为目标缺陷图像对应的原始特征图,所述目标缺陷图像分别为至少一个缺陷图像中的每一个;
第三输入子单元,用于将所述第i-1个目标融合特征图和所述第i个目标显著特征图输入第i个增强特征提取模块,获取第i个目标增强特征图,将所述第i-1个目标融合特征图和所述第i个目标显著特征图输入第i个差异特征提取模块,获取第i个目标差异特征图;
第一拼接子单元,用于将所述第i个目标增强特征图和所述第i个目标差异特征图进行拼接,获取第i个目标融合特征图,重复执行所述将第i-1个目标融合特征图输入第i个显著特征提取模块,获取第i个目标显著特征图以及后续步骤,直至所述i的取值为N;
第四输入子单元,用于将第N个目标融合特征图输入第N+1个显著特征提取模块,获取第N+1个目标显著特征图,将所述第N个目标融合特征图和所述第N+1个目标显著特征图输入第N+1个差异特征提取模块,获取第N+1个目标差异特征图;
组成子单元,用于将N个目标增强特征图以及所述第N+1个目标差异特征图组成所述目标缺陷图像对应的目标特征图集;
第一训练子单元,用于根据各个缺陷图像分别对应的特征图集,获取第一损失值,基于所述第一损失值训练所述残差模块、所述N+1个显著特征提取模块、所述N+1个差异特征提取模块以及所述N个增强特征提取模块,直至达到第一预设条件。
在一种可能的实现方式中,当所述缺陷图像为多个时,所述多个缺陷图像的种类为至少两种;所述空间归一化模型还包括对抗网络损失模块和距离度量损失模块;所述训练子单元,包括:
第一获取子单元,用于将各个缺陷图像分别对应的特征图集输入对抗网络损失模块中,获取对抗网络损失值;
第二获取子单元,用于将各个缺陷图像分别对应的特征图集输入距离度量损失模块中,获取距离度量损失值;
所述对抗网络损失值和所述距离度量损失值组成第一损失值。
在一种可能的实现方式中,所述装置还包括:
拼接单元,用于将N个目标增强特征图以及所述第N+1个目标差异特征图进行拼接,获得所述目标缺陷图像对应的目标预测归一化特征图;
所述目标缺陷图像由目标原图图像通过缺陷处理后获得;所述图像修复模型包括第一分支模型和第二分支模型,所述装置还包括图像修复模型训练单元,所述图像修复模型训练单元,包括:
第三获取子单元,用于将所述目标预测归一化特征图输入第一分支模型,以使所述第一分支模型对所述目标预测归一化特征图进行细节修复,获取目标预测细节特征图;
第四获取子单元,用于将所述目标预测归一化特征图输入所述第二分支模型,以使所述第二分支模型对所述目标预测归一化特征图进行粗糙修复,获取目标预测轮廓特征图;
第五获取子单元,用于将所述目标预测细节特征图和所述目标预测轮廓特征图进行拼接,获取所述目标原图图像对应的目标预测图像;
第二训练子单元,用于基于各个原图图像以及每个原图图像对应的预测图像获取第二损失值,基于所述第二损失值训练所述第一分支模型和所述第二分支模型,直至达到第二预设条件。
在一种可能的实现方式中,所述图像修复模型还包括平滑处理模块,所述第五获取子单元,包括:
第二拼接子单元,用于将所述目标预测细节特征图和所述目标预测轮廓特征图进行拼接,获取目标拼接特征图;
第六获取子单元,用于将所述目标拼接特征图输入所述平滑处理模块中,以使所述平滑处理模块对所述目标拼接特征图进行平滑处理操作,获取所述目标原图图像对应的目标预测图像;
所述第二训练子单元,具体用于:
基于各个原图图像以及每个原图图像对应的预测图像获取第二损失值,基于所述第二损失值训练所述第一分支模型、所述第二分支模型以及所述平滑处理模块,直至达到第二预设条件。
在一种可能的实现方式中,所述空间归一化模型包括残差模块、N+1个显著特征提取模块、N+1个差异特征提取模块以及N个增强特征提取模块;所述第二获取单元702,包括:
第五输入子单元,用于将待修复图像输入所述残差模块,获取所述待修复图像对应的原始特征图;
第六输入子单元,用于将第i-1个融合特征图输入第i个显著特征提取模块,获取第i个显著特征图;i的取值为1至N的正整数,所述i的初始取值为1且当所述i的取值为1时,所述第i-1个融合特征图为所述待修复图像对应的原始特征图;
第七输入子单元,用于将所述第i-1个融合特征图和所述第i个显著特征图输入第i个增强特征提取模块,获取第i个增强特征图,将所述第i-1个融合特征图和所述第i个显著特征图输入第i个差异特征提取模块,获取第i个差异特征图;
第三拼接子单元,用于将所述第i个增强特征图和所述第i个差异特征图进行拼接,获取第i个融合特征图,重复执行所述将第i-1个融合特征图输入第i个显著特征提取模块,获取第i个显著特征图以及后续步骤,直至所述i的取值为N;
第八输入子单元,用于将第N个融合特征图输入第N+1个显著特征提取模块,获取第N+1个显著特征图,将所述第N个融合特征图和所述第N+1个显著特征图输入第N+1个差异特征提取模块,获取第N+1个差异特征图;
第四拼接子单元,用于将N个增强特征图以及所述第N+1个差异特征图进行拼接,获得所述待修复图像对应的归一化特征图。
在一种可能的实现方式中,所述图像修复模型包括第一分支模型和第二分支模型,所述第三获取单元703,包括:
第一修复子单元,用于将所述待修复图像对应的归一化特征图输入所述第一分支模型,以使所述第一分支模型对所述待修复图像对应的归一化特征图进行细节修复,获取修复后的细节特征图;
第二修复子单元,用于将所述待修复图像对应的归一化特征图输入所述第二分支模型,以使所述第二分支模型对所述待修复图像对应的归一化特征图进行粗糙修复,获取修复后的轮廓特征图;
第五拼接子单元,用于将所述修复后的细节特征图和所述修复后的轮廓特征图进行拼接,获取修复后的图像。
在一种可能的实现方式中,所述图像修复模型还包括平滑处理模块,所述第五拼接子单元,包括:
第六拼接子单元,用于将所述修复后的细节特征图和所述修复后的轮廓特征图进行拼接,获取拼接特征图;
第九输入子单元,用于将所述拼接特征图输入所述平滑处理模块中,以使所述平滑处理模块对所述拼接特征图进行平滑处理操作,获得修复后的图像。
基于上述方法实施例提供的一种图像修复方法,本申请还提供一种电子设备,包括:一个或多个处理器;存储装置,其上存储有一个或多个程序,当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现上述任一实施例所述的图像修复方法。
下面参考图8,其示出了适于用来实现本申请实施例的电子设备1300的结构示意图。本申请实施例中的终端设备可以包括但不限于诸如移动电话、笔记本电脑、数字广播接收器、PDA(Personal Digital Assistant,个人数字助理)、PAD(portable androiddevice,平板电脑)、PMP(Portable Media Player,便携式多媒体播放器)、车载终端(例如车载导航终端)等等的移动终端以及诸如数字TV(television,电视机)、台式计算机等等的固定终端。图8示出的电子设备仅仅是一个示例,不应对本申请实施例的功能和使用范围带来任何限制。
如图8所示,电子设备1300可以包括处理装置(例如中央处理器、图形处理器等)1301,其可以根据存储在只读存储器(ROM)1302中的程序或者从存储装置1306加载到随机访问存储器(RAM)1303中的程序而执行各种适当的动作和处理。在RAM1303中,还存储有电子设备1300操作所需的各种程序和数据。处理装置1301、ROM 1302以及RAM 1303通过总线1304彼此相连。输入/输出(I/O)接口1305也连接至总线1304。
通常,以下装置可以连接至I/O接口1305:包括例如触摸屏、触摸板、键盘、鼠标、摄像头、麦克风、加速度计、陀螺仪等的输入装置1306;包括例如液晶显示器(LCD)、扬声器、振动器等的输出装置1307;包括例如磁带、硬盘等的存储装置1306;以及通信装置1309。通信装置1309可以允许电子设备1300与其他设备进行无线或有线通信以交换数据。虽然图8示出了具有各种装置的电子设备1300,但是应理解的是,并不要求实施或具备所有示出的装置。可以替代地实施或具备更多或更少的装置。
特别地,根据本申请的实施例,上文参考流程图描述的过程可以被实现为计算机软件程序。例如,本申请的实施例包括一种计算机程序产品,其包括承载在非暂态计算机可读介质上的计算机程序,该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中,该计算机程序可以通过通信装置1309从网络上被下载和安装,或者从存储装置1306被安装,或者从ROM1302被安装。在该计算机程序被处理装置1301执行时,执行本申请实施例的方法中限定的上述功能。
本申请实施例提供的电子设备与上述实施例提供的图像修复方法属于同一发明构思,未在本实施例中详尽描述的技术细节可参见上述实施例,并且本实施例与上述实施例具有相同的有益效果。
基于上述方法实施例提供的一种图像修复方法,本申请实施例提供一种计算机可读介质,其上存储有计算机程序,其中,所述程序被处理器执行时实现如上述任一实施例所述的图像修复方法。
需要说明的是,本申请上述的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本申请中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本申请中,计算机可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读信号介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括但不限于:电线、光缆、RF(射频)等等,或者上述的任意合适的组合。
在一些实施方式中,客户端、服务器可以利用诸如HTTP(HyperText TransferProtocol,超文本传输协议)之类的任何当前已知或未来研发的网络协议进行通信,并且可以与任意形式或介质的数字数据通信(例如,通信网络)互连。通信网络的示例包括局域网(“LAN”),广域网(“WAN”),网际网(例如,互联网)以及端对端网络(例如,ad hoc端对端网络),以及任何当前已知或未来研发的网络。
上述计算机可读介质可以是上述电子设备中所包含的;也可以是单独存在,而未装配入该电子设备中。
上述计算机可读介质承载有一个或者多个程序,当上述一个或者多个程序被该电子设备执行时,使得该电子设备执行上述图像修复方法。
可以以一种或多种程序设计语言或其组合来编写用于执行本申请的操作的计算机程序代码,上述程序设计语言包括但不限于面向对象的程序设计语言—诸如Java、Smalltalk、C++,还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中,远程计算机可以通过任意种类的网络——包括局域网(LAN)或广域网(WAN)—连接到用户计算机,或者,可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。
附图中的流程图和框图,图示了按照本申请各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,该模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
描述于本申请实施例中所涉及到的单元可以通过软件的方式实现,也可以通过硬件的方式来实现。其中,单元/模块的名称在某种情况下并不构成对该单元本身的限定,例如,语音数据采集模块还可以被描述为“数据采集模块”。
本文中以上描述的功能可以至少部分地由一个或多个硬件逻辑部件来执行。例如,非限制性地,可以使用的示范类型的硬件逻辑部件包括:现场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、片上系统(SOC)、复杂可编程逻辑设备(CPLD)等等。
在本申请的上下文中,机器可读介质可以是有形的介质,其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备,或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
根据本申请的一个或多个实施例,【示例一】提供了一种图像修复方法,所述方法包括:
获取待修复图像;
将待修复图像输入空间归一化模型,以使所述空间归一化模型对所述待修复图像进行空间归一化操作,获得所述待修复图像对应的归一化特征图;
将所述待修复图像对应的归一化特征图输入图像修复模型,以使所述图像修复模型对所述待修复图像对应的归一化特征图进行修复,获取所述图像修复模型输出的修复后的图像;
其中,所述空间归一化模型和所述图像修复模型均为训练完成之后的模型。
根据本申请的一个或多个实施例,【示例二】提供了一种图像修复方法,所述空间归一化模型包括残差模块、N+1个显著特征提取模块、N+1个差异特征提取模块以及N个增强特征提取模块,所述空间归一化模型的训练过程,包括:
将至少一个缺陷图像输入所述残差模块,获取每个缺陷图像分别对应的原始特征图;
将第i-1个目标融合特征图输入第i个显著特征提取模块,获取第i个目标显著特征图;i的取值为1至N的正整数,所述i的初始取值为1且当所述i的取值为1时,所述第i-1个目标融合特征图为目标原始特征图,所述目标原始特征图为目标缺陷图像对应的原始特征图,所述目标缺陷图像分别为至少一个缺陷图像中的每一个;
将所述第i-1个目标融合特征图和所述第i个目标显著特征图输入第i个增强特征提取模块,获取第i个目标增强特征图,将所述第i-1个目标融合特征图和所述第i个目标显著特征图输入第i个差异特征提取模块,获取第i个目标差异特征图;
将所述第i个目标增强特征图和所述第i个目标差异特征图进行拼接,获取第i个目标融合特征图,重复执行所述将第i-1个目标融合特征图输入第i个显著特征提取模块,获取第i个目标显著特征图以及后续步骤,直至所述i的取值为N;
将第N个目标融合特征图输入第N+1个显著特征提取模块,获取第N+1个目标显著特征图,将所述第N个目标融合特征图和所述第N+1个目标显著特征图输入第N+1个差异特征提取模块,获取第N+1个目标差异特征图;
将N个目标增强特征图以及所述第N+1个目标差异特征图组成所述目标缺陷图像对应的目标特征图集;
根据各个缺陷图像分别对应的特征图集,获取第一损失值,基于所述第一损失值训练所述残差模块、所述N+1个显著特征提取模块、所述N+1个差异特征提取模块以及所述N个增强特征提取模块,直至达到第一预设条件。
根据本申请的一个或多个实施例,【示例三】提供了一种图像修复方法,当所述缺陷图像为多个时,所述多个缺陷图像的种类为至少两种;所述空间归一化模型还包括对抗网络损失模块和距离度量损失模块;所述根据各个缺陷图像分别对应的特征图集,获取第一损失值,包括:
将各个缺陷图像分别对应的特征图集输入对抗网络损失模块中,获取对抗网络损失值;
将各个缺陷图像分别对应的特征图集输入距离度量损失模块中,获取距离度量损失值;
所述对抗网络损失值和所述距离度量损失值组成第一损失值。
根据本申请的一个或多个实施例,【示例四】提供了一种图像修复方法,所述方法还包括:
将N个目标增强特征图以及所述第N+1个目标差异特征图进行拼接,获得所述目标缺陷图像对应的目标预测归一化特征图;
所述目标缺陷图像由目标原图图像通过缺陷处理后获得;所述图像修复模型包括第一分支模型和第二分支模型,所述图像修复模型的训练过程,包括:
将所述目标预测归一化特征图输入第一分支模型,以使所述第一分支模型对所述目标预测归一化特征图进行细节修复,获取目标预测细节特征图;
将所述目标预测归一化特征图输入所述第二分支模型,以使所述第二分支模型对所述目标预测归一化特征图进行粗糙修复,获取目标预测轮廓特征图;
将所述目标预测细节特征图和所述目标预测轮廓特征图进行拼接,获取所述目标原图图像对应的目标预测图像;
基于各个原图图像以及每个原图图像对应的预测图像获取第二损失值,基于所述第二损失值训练所述第一分支模型和所述第二分支模型,直至达到第二预设条件。
根据本申请的一个或多个实施例,【示例五】提供了一种图像修复方法,所述图像修复模型还包括平滑处理模块,所述将所述目标预测细节特征图和所述目标预测轮廓特征图进行拼接,获取所述目标原图图像对应的目标预测图像,包括:
将所述目标预测细节特征图和所述目标预测轮廓特征图进行拼接,获取目标拼接特征图;
将所述目标拼接特征图输入所述平滑处理模块中,以使所述平滑处理模块对所述目标拼接特征图进行平滑处理操作,获取所述目标原图图像对应的目标预测图像;
所述基于各个原图图像以及每个原图图像对应的预测图像获取第二损失值,基于所述第二损失值训练所述第一分支模型和所述第二分支模型,直至达到第二预设条件,包括:
基于各个原图图像以及每个原图图像对应的预测图像获取第二损失值,基于所述第二损失值训练所述第一分支模型、所述第二分支模型以及所述平滑处理模块,直至达到第二预设条件。
根据本申请的一个或多个实施例,【示例六】提供了一种图像修复方法,所述空间归一化模型包括残差模块、N+1个显著特征提取模块、N+1个差异特征提取模块以及N个增强特征提取模块;所述将待修复图像输入空间归一化模型,以使所述空间归一化模型对所述待修复图像进行空间归一化操作,获得所述待修复图像对应的归一化特征图,包括:
将待修复图像输入所述残差模块,获取所述待修复图像对应的原始特征图;
将第i-1个融合特征图输入第i个显著特征提取模块,获取第i个显著特征图;i的取值为1至N的正整数,所述i的初始取值为1且当所述i的取值为1时,所述第i-1个融合特征图为所述待修复图像对应的原始特征图;
将所述第i-1个融合特征图和所述第i个显著特征图输入第i个增强特征提取模块,获取第i个增强特征图,将所述第i-1个融合特征图和所述第i个显著特征图输入第i个差异特征提取模块,获取第i个差异特征图;
将所述第i个增强特征图和所述第i个差异特征图进行拼接,获取第i个融合特征图,重复执行所述将第i-1个融合特征图输入第i个显著特征提取模块,获取第i个显著特征图以及后续步骤,直至所述i的取值为N;
将第N个融合特征图输入第N+1个显著特征提取模块,获取第N+1个显著特征图,将所述第N个融合特征图和所述第N+1个显著特征图输入第N+1个差异特征提取模块,获取第N+1个差异特征图;
将N个增强特征图以及所述第N+1个差异特征图进行拼接,获得所述待修复图像对应的归一化特征图。
根据本申请的一个或多个实施例,【示例七】提供了一种图像修复方法,所述图像修复模型包括第一分支模型和第二分支模型,所述将所述待修复图像对应的归一化特征图输入图像修复模型,以使所述图像修复模型对所述待修复图像对应的归一化特征图进行修复,获取所述图像修复模型输出的修复后的图像,包括:
将所述待修复图像对应的归一化特征图输入所述第一分支模型,以使所述第一分支模型对所述待修复图像对应的归一化特征图进行细节修复,获取修复后的细节特征图;
将所述待修复图像对应的归一化特征图输入所述第二分支模型,以使所述第二分支模型对所述待修复图像对应的归一化特征图进行粗糙修复,获取修复后的轮廓特征图;
将所述修复后的细节特征图和所述修复后的轮廓特征图进行拼接,获取修复后的图像。
根据本申请的一个或多个实施例,【示例八】提供了一种图像修复方法,所述图像修复模型还包括平滑处理模块,所述将所述修复后的细节特征图和所述修复后的轮廓特征图进行拼接,获取修复后的图像,包括:
将所述修复后的细节特征图和所述修复后的轮廓特征图进行拼接,获取拼接特征图;
将所述拼接特征图输入所述平滑处理模块中,以使所述平滑处理模块对所述拼接特征图进行平滑处理操作,获得修复后的图像。
根据本申请的一个或多个实施例,【示例九】提供了一种图像修复装置,所述装置包括:
第一获取单元,用于获取待修复图像;
第二获取单元,用于将待修复图像输入空间归一化模型,以使所述空间归一化模型对所述待修复图像进行空间归一化操作,获得所述待修复图像对应的归一化特征图;
第三获取单元,用于将所述待修复图像对应的归一化特征图输入图像修复模型,以使所述图像修复模型对所述待修复图像对应的归一化特征图进行修复,获取所述图像修复模型输出的修复后的图像;
其中,所述空间归一化模型和所述图像修复模型均为训练完成之后的模型。
根据本申请的一个或多个实施例,【示例十】提供了一种图像修复装置,所述空间归一化模型包括残差模块、N+1个显著特征提取模块、N+1个差异特征提取模块以及N个增强特征提取模块,所述装置还包括空间归一化模型训练单元,所述空间归一化模型训练单元,包括:
第一输入子单元,用于将至少一个缺陷图像输入所述残差模块,获取每个缺陷图像分别对应的原始特征图;
第二输入子单元,用于将第i-1个目标融合特征图输入第i个显著特征提取模块,获取第i个目标显著特征图;i的取值为1至N的正整数,所述i的初始取值为1且当所述i的取值为1时,所述第i-1个目标融合特征图为目标原始特征图,所述目标原始特征图为目标缺陷图像对应的原始特征图,所述目标缺陷图像分别为至少一个缺陷图像中的每一个;
第三输入子单元,用于将所述第i-1个目标融合特征图和所述第i个目标显著特征图输入第i个增强特征提取模块,获取第i个目标增强特征图,将所述第i-1个目标融合特征图和所述第i个目标显著特征图输入第i个差异特征提取模块,获取第i个目标差异特征图;
第一拼接子单元,用于将所述第i个目标增强特征图和所述第i个目标差异特征图进行拼接,获取第i个目标融合特征图,重复执行所述将第i-1个目标融合特征图输入第i个显著特征提取模块,获取第i个目标显著特征图以及后续步骤,直至所述i的取值为N;
第四输入子单元,用于将第N个目标融合特征图输入第N+1个显著特征提取模块,获取第N+1个目标显著特征图,将所述第N个目标融合特征图和所述第N+1个目标显著特征图输入第N+1个差异特征提取模块,获取第N+1个目标差异特征图;
组成子单元,用于将N个目标增强特征图以及所述第N+1个目标差异特征图组成所述目标缺陷图像对应的目标特征图集;
第一训练子单元,用于根据各个缺陷图像分别对应的特征图集,获取第一损失值,基于所述第一损失值训练所述残差模块、所述N+1个显著特征提取模块、所述N+1个差异特征提取模块以及所述N个增强特征提取模块,直至达到第一预设条件。
根据本申请的一个或多个实施例,【示例十一】提供了一种图像修复装置,当所述缺陷图像为多个时,所述多个缺陷图像的种类为至少两种;所述空间归一化模型还包括对抗网络损失模块和距离度量损失模块;所述训练子单元,包括:
第一获取子单元,用于将各个缺陷图像分别对应的特征图集输入对抗网络损失模块中,获取对抗网络损失值;
第二获取子单元,用于将各个缺陷图像分别对应的特征图集输入距离度量损失模块中,获取距离度量损失值;
所述对抗网络损失值和所述距离度量损失值组成第一损失值。
根据本申请的一个或多个实施例,【示例十二】提供了一种图像修复装置,所述装置还包括:
拼接单元,用于将N个目标增强特征图以及所述第N+1个目标差异特征图进行拼接,获得所述目标缺陷图像对应的目标预测归一化特征图;
所述目标缺陷图像由目标原图图像通过缺陷处理后获得;所述图像修复模型包括第一分支模型和第二分支模型,所述装置还包括图像修复模型训练单元,所述图像修复模型训练单元,包括:
第三获取子单元,用于将所述目标预测归一化特征图输入第一分支模型,以使所述第一分支模型对所述目标预测归一化特征图进行细节修复,获取目标预测细节特征图;
第四获取子单元,用于将所述目标预测归一化特征图输入所述第二分支模型,以使所述第二分支模型对所述目标预测归一化特征图进行粗糙修复,获取目标预测轮廓特征图;
第五获取子单元,用于将所述目标预测细节特征图和所述目标预测轮廓特征图进行拼接,获取所述目标原图图像对应的目标预测图像;
第二训练子单元,用于基于各个原图图像以及每个原图图像对应的预测图像获取第二损失值,基于所述第二损失值训练所述第一分支模型和所述第二分支模型,直至达到第二预设条件。
根据本申请的一个或多个实施例,【示例十三】提供了一种图像修复装置,所述图像修复模型还包括平滑处理模块,所述第五获取子单元,包括:
第二拼接子单元,用于将所述目标预测细节特征图和所述目标预测轮廓特征图进行拼接,获取目标拼接特征图;
第六获取子单元,用于将所述目标拼接特征图输入所述平滑处理模块中,以使所述平滑处理模块对所述目标拼接特征图进行平滑处理操作,获取所述目标原图图像对应的目标预测图像;
所述第二训练子单元,具体用于:
基于各个原图图像以及每个原图图像对应的预测图像获取第二损失值,基于所述第二损失值训练所述第一分支模型、所述第二分支模型以及所述平滑处理模块,直至达到第二预设条件。
根据本申请的一个或多个实施例,【示例十四】提供了一种图像修复装置,所述空间归一化模型包括残差模块、N+1个显著特征提取模块、N+1个差异特征提取模块以及N个增强特征提取模块;所述第二获取单元,包括:
第五输入子单元,用于将待修复图像输入所述残差模块,获取所述待修复图像对应的原始特征图;
第六输入子单元,用于将第i-1个融合特征图输入第i个显著特征提取模块,获取第i个显著特征图;i的取值为1至N的正整数,所述i的初始取值为1且当所述i的取值为1时,所述第i-1个融合特征图为所述待修复图像对应的原始特征图;
第七输入子单元,用于将所述第i-1个融合特征图和所述第i个显著特征图输入第i个增强特征提取模块,获取第i个增强特征图,将所述第i-1个融合特征图和所述第i个显著特征图输入第i个差异特征提取模块,获取第i个差异特征图;
第三拼接子单元,用于将所述第i个增强特征图和所述第i个差异特征图进行拼接,获取第i个融合特征图,重复执行所述将第i-1个融合特征图输入第i个显著特征提取模块,获取第i个显著特征图以及后续步骤,直至所述i的取值为N;
第八输入子单元,用于将第N个融合特征图输入第N+1个显著特征提取模块,获取第N+1个显著特征图,将所述第N个融合特征图和所述第N+1个显著特征图输入第N+1个差异特征提取模块,获取第N+1个差异特征图;
第四拼接子单元,用于将N个增强特征图以及所述第N+1个差异特征图进行拼接,获得所述待修复图像对应的归一化特征图。
根据本申请的一个或多个实施例,【示例十五】提供了一种图像修复装置,所述图像修复模型包括第一分支模型和第二分支模型,所述第三获取单元,包括:
第一修复子单元,用于将所述待修复图像对应的归一化特征图输入所述第一分支模型,以使所述第一分支模型对所述待修复图像对应的归一化特征图进行细节修复,获取修复后的细节特征图;
第二修复子单元,用于将所述待修复图像对应的归一化特征图输入所述第二分支模型,以使所述第二分支模型对所述待修复图像对应的归一化特征图进行粗糙修复,获取修复后的轮廓特征图;
第五拼接子单元,用于将所述修复后的细节特征图和所述修复后的轮廓特征图进行拼接,获取修复后的图像。
根据本申请的一个或多个实施例,【示例十六】提供了一种图像修复装置,所述图像修复模型还包括平滑处理模块,所述第五拼接子单元,包括:
第六拼接子单元,用于将所述修复后的细节特征图和所述修复后的轮廓特征图进行拼接,获取拼接特征图;
第九输入子单元,用于将所述拼接特征图输入所述平滑处理模块中,以使所述平滑处理模块对所述拼接特征图进行平滑处理操作,获得修复后的图像。
根据本申请的一个或多个实施例,【示例十七】提供了一种电子设备,包括:
一个或多个处理器;
存储装置,其上存储有一个或多个程序,
当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现如上述任一所述的图像修复方法。
根据本申请的一个或多个实施例,【示例十八】提供了一种计算机可读介质,其上存储有计算机程序,其中,所述程序被处理器执行时实现如上述任一所述的图像修复方法。
根据本申请的一个或多个实施例,【示例十九】提供了一种计算机程序产品,所述计算机程序产品包括计算机程序/指令,所述计算机程序/指令被处理器执行时实现如上述任一项所述的图像修复方法。
需要说明的是,本说明书中各个实施例采用递进的方式描述,每个实施例重点说明的都是与其他实施例的不同之处,各个实施例之间相同相似部分互相参见即可。对于实施例公开的系统或装置而言,由于其与实施例公开的方法相对应,所以描述的比较简单,相关之处参见方法部分说明即可。
应当理解,在本申请中,“至少一个(项)”是指一个或者多个,“多个”是指两个或两个以上。“和/或”,用于描述关联对象的关联关系,表示可以存在三种关系,例如,“A和/或B”可以表示:只存在A,只存在B以及同时存在A和B三种情况,其中A,B可以是单数或者复数。字符“/”一般表示前后关联对象是一种“或”的关系。“以下至少一项(个)”或其类似表达,是指这些项中的任意组合,包括单项(个)或复数项(个)的任意组合。例如,a,b或c中的至少一项(个),可以表示:a,b,c,“a和b”,“a和c”,“b和c”,或“a和b和c”,其中a,b,c可以是单个,也可以是多个。
还需要说明的是,在本文中,诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。
结合本文中所公开的实施例描述的方法或算法的步骤可以直接用硬件、处理器执行的软件模块,或者二者的结合来实施。软件模块可以置于随机存储器(RAM)、内存、只读存储器(ROM)、电可编程ROM、电可擦除可编程ROM、寄存器、硬盘、可移动磁盘、CD-ROM、或技术领域内所公知的任意其它形式的存储介质中。
对所公开的实施例的上述说明,使本领域专业技术人员能够实现或使用本申请。对这些实施例的多种修改对本领域的专业技术人员来说将是显而易见的,本文中所定义的一般原理可以在不脱离本申请的精神或范围的情况下,在其它实施例中实现。因此,本申请将不会被限制于本文所示的这些实施例,而是要符合与本文所公开的原理和新颖特点相一致的最宽的范围。
Claims (12)
1.一种图像修复方法,其特征在于,所述方法包括:
获取待修复图像;
将待修复图像输入空间归一化模型,以使所述空间归一化模型对所述待修复图像进行空间归一化操作,获得所述待修复图像对应的归一化特征图;
将所述待修复图像对应的归一化特征图输入图像修复模型,以使所述图像修复模型对所述待修复图像对应的归一化特征图进行修复,获取所述图像修复模型输出的修复后的图像;
其中,所述空间归一化模型和所述图像修复模型均为训练完成之后的模型。
2.根据权利要求1所述的方法,其特征在于,所述空间归一化模型包括残差模块、N+1个显著特征提取模块、N+1个差异特征提取模块以及N个增强特征提取模块,所述空间归一化模型的训练过程,包括:
将至少一个缺陷图像输入所述残差模块,获取每个缺陷图像分别对应的原始特征图;
将第i-1个目标融合特征图输入第i个显著特征提取模块,获取第i个目标显著特征图;i的取值为1至N的正整数,所述i的初始取值为1且当所述i的取值为1时,所述第i-1个目标融合特征图为目标原始特征图,所述目标原始特征图为目标缺陷图像对应的原始特征图,所述目标缺陷图像分别为至少一个缺陷图像中的每一个;
将所述第i-1个目标融合特征图和所述第i个目标显著特征图输入第i个增强特征提取模块,获取第i个目标增强特征图,将所述第i-1个目标融合特征图和所述第i个目标显著特征图输入第i个差异特征提取模块,获取第i个目标差异特征图;
将所述第i个目标增强特征图和所述第i个目标差异特征图进行拼接,获取第i个目标融合特征图,重复执行所述将第i-1个目标融合特征图输入第i个显著特征提取模块,获取第i个目标显著特征图以及后续步骤,直至所述i的取值为N;
将第N个目标融合特征图输入第N+1个显著特征提取模块,获取第N+1个目标显著特征图,将所述第N个目标融合特征图和所述第N+1个目标显著特征图输入第N+1个差异特征提取模块,获取第N+1个目标差异特征图;
将N个目标增强特征图以及所述第N+1个目标差异特征图组成所述目标缺陷图像对应的目标特征图集;
根据各个缺陷图像分别对应的特征图集,获取第一损失值,基于所述第一损失值训练所述残差模块、所述N+1个显著特征提取模块、所述N+1个差异特征提取模块以及所述N个增强特征提取模块,直至达到第一预设条件。
3.根据权利要求2所述的方法,其特征在于,当所述缺陷图像为多个时,所述多个缺陷图像的种类为至少两种;所述空间归一化模型还包括对抗网络损失模块和距离度量损失模块;所述根据各个缺陷图像分别对应的特征图集,获取第一损失值,包括:
将各个缺陷图像分别对应的特征图集输入对抗网络损失模块中,获取对抗网络损失值;
将各个缺陷图像分别对应的特征图集输入距离度量损失模块中,获取距离度量损失值;
所述对抗网络损失值和所述距离度量损失值组成第一损失值。
4.根据权利要求2所述的方法,其特征在于,所述方法还包括:
将N个目标增强特征图以及所述第N+1个目标差异特征图进行拼接,获得所述目标缺陷图像对应的目标预测归一化特征图;
所述目标缺陷图像由目标原图图像通过缺陷处理后获得;所述图像修复模型包括第一分支模型和第二分支模型,所述图像修复模型的训练过程,包括:
将所述目标预测归一化特征图输入第一分支模型,以使所述第一分支模型对所述目标预测归一化特征图进行细节修复,获取目标预测细节特征图;
将所述目标预测归一化特征图输入所述第二分支模型,以使所述第二分支模型对所述目标预测归一化特征图进行粗糙修复,获取目标预测轮廓特征图;
将所述目标预测细节特征图和所述目标预测轮廓特征图进行拼接,获取所述目标原图图像对应的目标预测图像;
基于各个原图图像以及每个原图图像对应的预测图像获取第二损失值,基于所述第二损失值训练所述第一分支模型和所述第二分支模型,直至达到第二预设条件。
5.根据权利要求4所述的方法,其特征在于,所述图像修复模型还包括平滑处理模块,所述将所述目标预测细节特征图和所述目标预测轮廓特征图进行拼接,获取所述目标原图图像对应的目标预测图像,包括:
将所述目标预测细节特征图和所述目标预测轮廓特征图进行拼接,获取目标拼接特征图;
将所述目标拼接特征图输入所述平滑处理模块中,以使所述平滑处理模块对所述目标拼接特征图进行平滑处理操作,获取所述目标原图图像对应的目标预测图像;
所述基于各个原图图像以及每个原图图像对应的预测图像获取第二损失值,基于所述第二损失值训练所述第一分支模型和所述第二分支模型,直至达到第二预设条件,包括:
基于各个原图图像以及每个原图图像对应的预测图像获取第二损失值,基于所述第二损失值训练所述第一分支模型、所述第二分支模型以及所述平滑处理模块,直至达到第二预设条件。
6.根据权利要求1所述的方法,其特征在于,所述空间归一化模型包括残差模块、N+1个显著特征提取模块、N+1个差异特征提取模块以及N个增强特征提取模块;所述将待修复图像输入空间归一化模型,以使所述空间归一化模型对所述待修复图像进行空间归一化操作,获得所述待修复图像对应的归一化特征图,包括:
将待修复图像输入所述残差模块,获取所述待修复图像对应的原始特征图;
将第i-1个融合特征图输入第i个显著特征提取模块,获取第i个显著特征图;i的取值为1至N的正整数,所述i的初始取值为1且当所述i的取值为1时,所述第i-1个融合特征图为所述待修复图像对应的原始特征图;
将所述第i-1个融合特征图和所述第i个显著特征图输入第i个增强特征提取模块,获取第i个增强特征图,将所述第i-1个融合特征图和所述第i个显著特征图输入第i个差异特征提取模块,获取第i个差异特征图;
将所述第i个增强特征图和所述第i个差异特征图进行拼接,获取第i个融合特征图,重复执行所述将第i-1个融合特征图输入第i个显著特征提取模块,获取第i个显著特征图以及后续步骤,直至所述i的取值为N;
将第N个融合特征图输入第N+1个显著特征提取模块,获取第N+1个显著特征图,将所述第N个融合特征图和所述第N+1个显著特征图输入第N+1个差异特征提取模块,获取第N+1个差异特征图;
将N个增强特征图以及所述第N+1个差异特征图进行拼接,获得所述待修复图像对应的归一化特征图。
7.根据权利要求1所述的方法,其特征在于,所述图像修复模型包括第一分支模型和第二分支模型,所述将所述待修复图像对应的归一化特征图输入图像修复模型,以使所述图像修复模型对所述待修复图像对应的归一化特征图进行修复,获取所述图像修复模型输出的修复后的图像,包括:
将所述待修复图像对应的归一化特征图输入所述第一分支模型,以使所述第一分支模型对所述待修复图像对应的归一化特征图进行细节修复,获取修复后的细节特征图;
将所述待修复图像对应的归一化特征图输入所述第二分支模型,以使所述第二分支模型对所述待修复图像对应的归一化特征图进行粗糙修复,获取修复后的轮廓特征图;
将所述修复后的细节特征图和所述修复后的轮廓特征图进行拼接,获取修复后的图像。
8.根据权利要求7所述的方法,其特征在于,所述图像修复模型还包括平滑处理模块,所述将所述修复后的细节特征图和所述修复后的轮廓特征图进行拼接,获取修复后的图像,包括:
将所述修复后的细节特征图和所述修复后的轮廓特征图进行拼接,获取拼接特征图;
将所述拼接特征图输入所述平滑处理模块中,以使所述平滑处理模块对所述拼接特征图进行平滑处理操作,获得修复后的图像。
9.一种图像修复装置,其特征在于,所述装置包括:
第一获取单元,用于获取待修复图像;
第二获取单元,用于将待修复图像输入空间归一化模型,以使所述空间归一化模型对所述待修复图像进行空间归一化操作,获得所述待修复图像对应的归一化特征图;
第三获取单元,用于将所述待修复图像对应的归一化特征图输入图像修复模型,以使所述图像修复模型对所述待修复图像对应的归一化特征图进行修复,获取所述图像修复模型输出的修复后的图像;
其中,所述空间归一化模型和所述图像修复模型均为训练完成之后的模型。
10.一种电子设备,其特征在于,包括:
一个或多个处理器;
存储装置,其上存储有一个或多个程序,
当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现如权利要求1-8中任一所述的图像修复方法。
11.一种计算机可读介质,其特征在于,其上存储有计算机程序,其中,所述程序被处理器执行时实现如权利要求1-8中任一所述的图像修复方法。
12.一种计算机程序产品,其特征在于,所述计算机程序产品包括计算机程序/指令,所述计算机程序/指令被处理器执行时实现如权利要求1-8任一项所述的图像修复方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210680058.XA CN114998148A (zh) | 2022-06-16 | 2022-06-16 | 一种图像修复方法、装置及设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210680058.XA CN114998148A (zh) | 2022-06-16 | 2022-06-16 | 一种图像修复方法、装置及设备 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN114998148A true CN114998148A (zh) | 2022-09-02 |
Family
ID=83035071
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202210680058.XA Pending CN114998148A (zh) | 2022-06-16 | 2022-06-16 | 一种图像修复方法、装置及设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN114998148A (zh) |
-
2022
- 2022-06-16 CN CN202210680058.XA patent/CN114998148A/zh active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110298413B (zh) | 图像特征提取方法、装置、存储介质及电子设备 | |
CN110413812B (zh) | 神经网络模型的训练方法、装置、电子设备及存储介质 | |
CN112184738A (zh) | 一种图像分割方法、装置、设备及存储介质 | |
CN110826567B (zh) | 光学字符识别方法、装置、设备及存储介质 | |
CN112330788A (zh) | 图像处理方法、装置、可读介质及电子设备 | |
CN111325704A (zh) | 图像修复方法、装置、电子设备及计算机可读存储介质 | |
CN113327318B (zh) | 图像显示方法、装置、电子设备和计算机可读介质 | |
CN111028279A (zh) | 点云数据处理方法及装置、电子设备和存储介质 | |
CN112381717A (zh) | 图像处理方法、模型训练方法、装置、介质及设备 | |
WO2023179310A1 (zh) | 图像修复方法、装置、设备、介质及产品 | |
CN112418249A (zh) | 掩膜图像生成方法、装置、电子设备和计算机可读介质 | |
CN115578570A (zh) | 图像处理方法、装置、可读介质及电子设备 | |
CN113592033B (zh) | 油罐图像识别模型训练方法、油罐图像识别方法和装置 | |
CN114399814A (zh) | 一种基于深度学习的遮挡物移除和三维重建方法 | |
WO2023179291A1 (zh) | 图像修复方法、装置、设备、介质及产品 | |
CN114998149A (zh) | 图像修复模型的训练方法及图像修复方法、装置及设备 | |
CN115760607A (zh) | 图像修复方法、装置、可读介质以及电子设备 | |
CN114821540B (zh) | 车位检测方法、装置、电子设备和计算机可读介质 | |
CN113222144B (zh) | 图像修复模型的训练方法及图像修复方法、装置及设备 | |
CN114998148A (zh) | 一种图像修复方法、装置及设备 | |
CN113688928B (zh) | 图像匹配方法、装置、电子设备和计算机可读介质 | |
CN115063335A (zh) | 特效图的生成方法、装置、设备及存储介质 | |
CN110209851B (zh) | 模型训练方法、装置、电子设备及存储介质 | |
CN112070888A (zh) | 图像生成方法、装置、设备和计算机可读介质 | |
CN112528970A (zh) | 路牌检测方法、装置、设备和计算机可读介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |