CN110895801A - 图像处理方法、装置、设备及存储介质 - Google Patents
图像处理方法、装置、设备及存储介质 Download PDFInfo
- Publication number
- CN110895801A CN110895801A CN201911122511.XA CN201911122511A CN110895801A CN 110895801 A CN110895801 A CN 110895801A CN 201911122511 A CN201911122511 A CN 201911122511A CN 110895801 A CN110895801 A CN 110895801A
- Authority
- CN
- China
- Prior art keywords
- image
- images
- sample
- target
- motion
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000003672 processing method Methods 0.000 title claims abstract description 24
- 230000004927 fusion Effects 0.000 claims abstract description 79
- 238000000034 method Methods 0.000 claims abstract description 40
- 238000012545 processing Methods 0.000 claims abstract description 20
- 238000013527 convolutional neural network Methods 0.000 claims description 73
- 238000012549 training Methods 0.000 claims description 41
- 238000004891 communication Methods 0.000 claims description 18
- 238000004590 computer program Methods 0.000 claims description 10
- 238000004088 simulation Methods 0.000 description 9
- 238000013528 artificial neural network Methods 0.000 description 8
- 238000010586 diagram Methods 0.000 description 8
- 230000008569 process Effects 0.000 description 7
- 230000009471 action Effects 0.000 description 3
- 230000008859 change Effects 0.000 description 3
- 238000013135 deep learning Methods 0.000 description 2
- 230000005484 gravity Effects 0.000 description 2
- 238000013507 mapping Methods 0.000 description 2
- 238000007781 pre-processing Methods 0.000 description 2
- 230000000007 visual effect Effects 0.000 description 2
- 230000009286 beneficial effect Effects 0.000 description 1
- DGLFSNZWRYADFC-UHFFFAOYSA-N chembl2334586 Chemical compound C1CCC2=CN=C(N)N=C2C2=C1NC1=CC=C(C#CC(C)(O)C)C=C12 DGLFSNZWRYADFC-UHFFFAOYSA-N 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 230000006870 function Effects 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 210000002569 neuron Anatomy 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 238000005070 sampling Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/73—Deblurring; Sharpening
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/50—Image enhancement or restoration using two or more images, e.g. averaging or subtraction
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20212—Image combination
- G06T2207/20221—Image fusion; Image merging
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- General Health & Medical Sciences (AREA)
- Molecular Biology (AREA)
- Biophysics (AREA)
- Computational Linguistics (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- Artificial Intelligence (AREA)
- Biomedical Technology (AREA)
- Computing Systems (AREA)
- General Engineering & Computer Science (AREA)
- Life Sciences & Earth Sciences (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Health & Medical Sciences (AREA)
- Image Analysis (AREA)
- Image Processing (AREA)
Abstract
本发明实施例提供了一种图像处理方法、装置、设备及存储介质，该方法包括：获取多个样本图像，每个样本图像中均包括目标运动对象，目标运动对象在每个样本图像中的位置不同；确定对多个样本图像进行图像融合的权重信息，其中，权重信息用于指示每个样本图像在图像融合时所占的权重，权重与图像融合所需模拟的运动状态相关联；根据权重信息对多个样本图像进行图像融合，得到目标图像。如此，能够提高去运动模糊得到图像的图像质量。
Description
技术领域
本发明涉及图像处理技术领域，特别是涉及一种图像处理方法、装置、设备及存储介质。
背景技术
由于拍摄设备和被拍摄目标并不总是处于相对静止状态，运动模糊常见于图像和视频中。由于拍摄时拍摄设备和被拍摄目标之间有相对运动而造成的图像模糊称之为运动模糊，当拍摄时存在运动模糊而得到的图像称之为运动模糊图像。
对运动模糊图像进行去运动模糊处理，以得到该运动模糊图像对应的清晰图像，该清晰图像可以理解为图像质量、图像清晰度高于该运动模糊图像的图像，一般采用基于深度学习的去运动模糊方式，具体地可以是构建初始卷积神经网络，然后通过大量清晰图像和运动模糊图像对该初始卷积神经网络进行训练，使该初始卷积神经网络学习运动模糊图像与清晰图像之间的映射关系，得到训练好的卷积神经网络。待对运动模糊图像进行去模糊时，将该运动模糊图像输入该训练好的卷积神经网络，该训练好的卷积神经网络输出该运动模糊图像对应的清晰图像，以消除运动模糊。
训练卷积神经网络是基于深度学习的去运动模糊方式的重要过程，而得到训练卷积神经网络所使用的清晰图像和运动模糊图像，也可以理解为去运动模糊的预处理过程是训练卷积神经网络的重要方面，也是影响训练得到的卷积神经网络性能的重要因素。
发明内容
本发明实施例的目的在于提供一种图像处理方法、装置、设备及存储介质，以提高去运动模糊得到图像的图像质量。具体技术方案如下：
第一方面，本发明实施例提供了一种图像处理方法，包括：
获取多个样本图像，每个所述样本图像中均包括目标运动对象，所述目标运动对象在每个所述样本图像中的位置不同；
确定对多个所述样本图像进行图像融合的权重信息，其中，所述权重信息用于指示每个所述样本图像在图像融合时所占的权重，所述权重与图像融合所需模拟的运动状态相关联；
根据所述权重信息对多个所述样本图像进行图像融合，得到目标图像，其中，所述目标图像中的所述目标运动对象处于运动模糊状态。
可选的，所述根据所述权重信息对多个所述样本图像进行图像融合，得到目标图像，包括：
根据所述权重信息，针对多个所述样本图像的各个像素点，计算多个所述样本图像中所述像素点的像素值的加权平均值，并将所述加权平均值作为所述目标图像对应像素点的像素值。
可选的，所述获取多个样本图像，包括：
获取多个连续帧图像，所述连续帧图像包括处于相同运动序列下连续的图像；
针对各个所述连续帧图像，将所述连续帧图像作为所述样本图像。
可选的，所述获取多个样本图像，包括：
获取多个间隔帧图像，所述间隔帧图像包括处于相同运动序列下，存在间隔的图像；
针对各个所述间隔帧图像，将所述间隔帧图像作为多个所述样本图像。
可选的，所述获取多个间隔帧图像，包括：
根据预设采集帧率，获取多个采集图像，其中，所述目标运动对象在相邻两个所述采集图像中的位置之间的差别小于预设值；
从多个所述采集图像中选取存在间隔的多个间隔采集图像；
针对各个间隔采集图像，将所述间隔采集图像作为所述间隔帧图像。
可选的，在所述根据所述权重信息对多个所述样本图像进行图像融合，得到目标图像之后，所述方法还包括：
利用多个所述目标图像以及各个所述目标图像对应的所述样本图像，对预设卷积神经网络进行训练，得到训练好的卷积神经网络，所述训练好的卷积神经网络用于在将待处理图像输入所述训练好的卷积神经网络后，输出所述待处理图像对应的清晰图像，所述清晰图像的图像质量高于所述待处理图像。
可选的，所述获取多个样本图像，包括：
从去运动模糊数据集中获取多个所述样本图像；
在所述根据所述权重信息对多个所述样本图像进行图像融合，得到目标图像之后，所述方法还包括：
将所述目标图像添加至所述去运动模糊数据集，得到更新后的去运动模糊数据集；
所述利用多个所述目标图像以及各个所述目标图像对应的所述样本图像，对预设卷积神经网络进行训练，得到训练好的卷积神经网络，包括：
从更新后的去运动模糊数据集中获取多个所述目标图像以及各个所述目标图像对应的所述样本图像；
利用多个所述目标图像以及各个所述目标图像对应的所述样本图像，对所述预设卷积神经网络进行训练，得到所述训练好的卷积神经网络。
第二方面，本发明实施例提供了一种图像处理装置，包括：
获取模块，用于获取多个样本图像，每个所述样本图像中均包括目标运动对象，所述目标运动对象在每个所述样本图像中的位置不同；
确定模块，用于确定对多个所述样本图像进行图像融合的权重信息，其中，所述权重信息用于指示每个所述样本图像在图像融合时所占的权重，所述权重与图像融合所需模拟的运动状态相关联；
融合模块，用于根据所述权重信息对多个所述样本图像进行图像融合，得到目标图像，其中，所述目标图像中的所述目标运动对象处于运动模糊状态。
第三方面，本发明实施例提供了一种电子设备，包括处理器、通信接口、存储器和通信总线，其中，所述处理器，所述通信接口，所述存储器通过所述通信总线完成相互间的通信；
所述存储器，用于存放计算机程序；
所述处理器，用于执行所述存储器上所存放的程序时，实现第一方面所述方法的方法步骤。
第四方面，本发明实施例提供了一种计算机可读存储介质，所述计算机可读存储介质内存储有计算机程序，所述计算机程序被处理器执行时实现第一方面所述方法的方法步骤。
本发明实施例提供的图像处理方法、装置、设备及存储介质，可以基于多个样本图像，根据每个样本图像在图像融合时所占的权重，对多个样本图像进行图像融合，得到目标图像，以模拟多种不同情况的运动模糊，提高对运动模糊模拟的多样性，丰富训练用于去运动模糊的卷积神经网络时所使用的样本图像。如此，使得基于目标图像和目标图像对应的样本图像训练得到的卷积神经网络能够更好的实现对运动模糊图像的去运动模糊，能够提高去运动模糊得到图像的图像质量。当然，实施本发明的任一产品或方法必不一定需要同时达到以上所述的所有优点。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
图1为本发明实施例提供的图像处理方法的流程图；
图2(a)为本发明实施例提供的一个样本图像示意图；
图2(b)为本发明实施例提供的另一个样本图像示意图；
图2(c)为本发明实施例提供的另一个样本图像示意图；
图2(d)为本发明实施例提供的图2(a)、图2(b)以及图2(c)进行图像融合得到的目标图像示意图；
图3为本发明实施例提供的图像处理装置的一种结构示意图；
图4(a)为本发明实施例提供的图像处理装置的另一种结构示意图；
图4(b)为本发明实施例提供的图像处理装置的另一种结构示意图；
图5为本发明实施例提供的一种电子设备的结构示意图。
具体实施方式
下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。
基于深度学习的去运动模糊方式中，是基于大量清晰图像和运动模糊图像训练用于去运动模糊的卷积神经网络，其中，清晰图像是图像质量高于运动模糊图像的图像。得到训练卷积神经网络所使用的清晰图像和运动模糊图像，也可以理解为去运动模糊的预处理过程是训练卷积神经网络的重要方面。但是，同一条件下通过同一采集设备无法同时获取清晰图像以及该清晰图像对应的运动模糊图像，一般情况下是通过模拟运动模糊的方式，模拟得到采集到的图像对应的运动模糊图像，可以看出，模拟运动模糊以得到训练卷积神经网络过程中所使用的运动模糊图像是去运动模糊过程的重要方面。
现有方式中一般是通过卷积的方式生成运动模糊图像，具体地使用不同的卷积核与待模拟的清晰图像进行卷积，以模拟不同的运动模糊，得到不同的运动模糊图像。但是，自然界的运动模糊多种多样，卷积核仅能模拟有限种运动模糊的情况。另外，现有方式忽略了真实场景下拍摄设备和被拍摄目标之间运动的变化性，忽略了真实运动模糊的复杂性。如此，会导致现有用于训练卷积神经网络的运动模糊图像不全面，影响训练的用于去运动模糊的卷积神经网路的性能。且现有方式中，基本上都是基于采集设备采集到的图像模拟运动模糊，进而训练用于去运动模糊的卷积神经网络，而采集设备采集到的图像的图像质量会受限于采集设备的性能、采集环境等，如此，会影响训练的卷积神经网络的性能。
本发明实施例中为了提高训练的卷积神经网络的性能，提高通过训练的卷积神经网络去运动模糊得到的图像的图像质量，本发明实施例提供了一种图像处理方法。本发明实施例提供的图像处理方法可以应用于电子设备。具体地，电子设备可以为终端、处理器等等。
本发明实施例提供了一种图像处理方法，如图1所示，可以包括：
S101，获取多个样本图像，每个样本图像中均包括目标运动对象，目标运动对象在每个样本图像中的位置不同。
S102，确定对多个样本图像进行图像融合的权重信息，其中，权重信息用于指示每个样本图像在图像融合时所占的权重，权重与图像融合所需模拟的运动状态相关联。
S103，根据权重信息对多个样本图像进行图像融合，得到目标图像，其中，目标图像中的目标运动对象处于运动模糊状态。
本发明实施例中，基于多个样本图像，根据每个样本图像在融合时所占的权重，对多个样本图像进行图像融合，得到目标图像，以模拟多种不同情况的运动模糊，提高对运动模糊模拟的多样性，丰富训练用于去运动模糊的卷积神经网络时所使用的样本图像。如此，使得基于目标图像和目标图像对应的样本图像训练得到的卷积神经网络能够更好的实现对运动模糊图像的去运动模糊，能够提高去运动模糊得到图像的图像质量。
参考图1，对本发明实施例提供的图像处理方法进行详细说明。本发明实施例提供的图像处理方法可以包括如下步骤。
S101，获取多个样本图像。
每个样本图像中均包括目标运动对象，目标运动对象在每个样本图像中的位置不同。
也可以理解为，目标运动对象处于运动状态。目标运动对象在每个样本图像中的位置不同，即目标运动对象在每个样本图像中的位置相对于样本图像中固定的静止物体的位置是不同的。
多个样本图像可以理解为处于相同运动序列的图像。其中，处于相同运动序列可以理解为针对同一目标运动对象运动的图像。例如，可以为通过采集设备采集到的一段视频中的多个图像帧，或者电脑生成图像中的针对同一目标运动对象运动的图像，等等。
一种可实现方式中，样本图像可以为目标视频中设定时长内的图像帧，设定时长可以根据实际情况来确定，例如，目标视频1秒内的图像帧。
另一种可实现方式中，样本图像可以为边缘清晰的生成图像。其中，边缘清晰的生成图像可以包括动漫、游戏等电脑生成图像。
一种可选的实施例中，S101：获取多个样本图像，可以包括：
获取多个连续帧图像。
连续帧图像包括处于相同运动序列下连续的图像；针对各个连续帧图像，将连续帧图像作为样本图像。
例如，可以是通过采集设备采集到的一段视频中的连续多个图像帧，或者电脑生成图像中的针对目标运动对象的连续的多个图像，等等。
另一种可选的实施例中，S101：获取多个样本图像，可以包括：
获取多个间隔帧图像。
间隔帧图像包括处于相同运动序列下，存在间隔的图像；针对各个间隔帧图像，将间隔帧图像作为多个样本图像。
其中，间隔可以是1个图像，或者多个图像。多个间隔帧图像中两两之间的间隔可以相同，也可以不同。
例如，间隔帧图像可以是通过采集设备采集到的一段视频中的多个有间隔的图像帧，或者电脑生成图像中的针对目标运动对象的多个有间隔的图像，等等。
S102，确定对多个样本图像进行图像融合的权重信息。
其中，权重信息用于指示每个样本图像在图像融合时所占的权重，权重与图像融合所需模拟的运动状态相关联。
本发明实施例中，每个样本图像在融合时所占的权重可以为任意值，可以根据图像融合所需模拟的运动状态确定每个样本图像在图像融合时所占的权重。
例如，待模拟目标运动对象在匀速运动状态下对应的运动模糊图像，各个样本图像在图像融合时所占的权重可以相同。待模拟目标运动对象在变速运动状态下对应的运动模糊图像，样本图像在图像融合时所占的权重可以不相同，其中，可以是各个样本图像在图像融合时所占的比重均不相同，可以是部分样本图像在图像融合时所占的比重不相同，等等。
一种可实现方式中，权重信息可以理解为权重比，即各个样本图像在进行图像图像融合时所占比重的比值。如多个样本图像包括图像1、图像2和图像3，对应的权重信息为权重比1:1:1，1:2:3，1:1:2等等。
S103，根据权重信息对多个样本图像进行图像融合，得到目标图像。
一种可选的实施例中，根据权重信息对多个样本图像进行图像融合，得到目标图像，包括：
根据权重信息，针对多个样本图像的各个像素点，计算多个样本图像中像素点的像素值的加权平均值，并将加权平均值作为目标图像对应像素点的像素值。
如多个样本图像包括图像1、图像2和图像3。则分别将图像1、图像2和图像3各个像素点的像素值按照权重比相加除以3，可以分别得到进行图像融合后的目标图像的对应各个像素点的像素值。如针对第1行第1列，图像1中第1行第1列的像素值为1，图像2中第1行第1列的像素值为1，图像3中第1行第1列的像素值为1，若权重比为1:1:1，则通过(1*1+1*1+1*1)/3＝1，即权重比为1:1:1时，对应得到的目标图像中第1行第1列的像素值为1，依次可以得到各个像素点的像素值，即可得到目标图像。若权重比为1:2:3，则通过(1*1+2*1+3*1)/3＝2，即权重比为1:2:3时，对应得到的目标图像中第1行第1列的像素值为2，依次可以得到各个像素点的像素值，即可得到目标图像。
本发明实施例中，可以基于多个样本图像，根据每个样本图像在图像融合时所占的权重，对多个样本图像进行图像融合，得到目标图像，以模拟多种不同情况的运动模糊，提高对运动模糊模拟的多样性，丰富训练用于去运动模糊的卷积神经网络时所使用的样本图像。如此，使得基于目标图像和目标图像对应的样本图像训练得到的卷积神经网络能够更好的实现对运动模糊图像的去运动模糊，能够提高去运动模糊得到图像的图像质量。
一种可实现方式中，多个样本图像包括获取到的多个连续帧图像，如图2(a)、图2(b)和图2(c)为通过采集设备采集到的连续三帧图像，可以将该三帧图像作为样本图像。
可以按照权重比1:1:1将该连续三帧图像进行图像融合，可以得到如图2(d)所示的图像，该图像可以理解为图像融合后得到的目标图像，这种情况，可以模拟拍摄设备与被拍摄目标处于相对匀速运动状态下拍摄的运动模糊图像。
可以按照权重比1:2:3或1:1:2将该连续三帧图像进行图像融合，这种情况，可以模拟拍摄设备与被拍摄目标处于相对变速运动状态下拍摄的运动模糊图像。具体地，可以按照权重比1:2:3将该连续三帧图像进行图像融合，这种情况，可以模拟拍摄设备与被拍摄目标处于相对减速运动状态下拍摄的运动模糊图像。
一种可实现方式中，获取多个间隔帧图像，可以包括：
根据预设采集帧率，获取多个采集图像，从多个采集图像中选取存在间隔的多个间隔采集图像；针对各个间隔采集图像，将间隔采集图像作为间隔帧图像。
其中，目标运动对象在相邻两个采集图像中的位置之间的差别小于预设值。
预设值可以根据实际情况来确定。采集帧率可以理解为单位时间内采集到的图像的个数，如每秒采集240帧图像，则可以理解采集帧率为240fps。
可以理解，当采集帧率较高时，如每秒采集240帧图像，采集到的多帧图像之间的变化一般比较小，这种情况下，可以通过有间隔的多帧图像进行模拟运动模糊。
如采集到的图像包括240帧图像，如帧1，帧2，帧3，…直至帧240，可以选取第30，60，90，120，150帧图像，假设图像中的目标运动对象在1s内运动是匀速的，可以将选取的五帧图像取平均，即按照1：1：1：1：1的权重比进行图像融合，可以模拟目标运动对象在匀速状态下的运动模糊图像；可以选取第1，10，40，80帧图像，按照1：1：1：2的权重比进行图像融合，可以模拟目标运动对象在变速状态下的运动模糊图像。
本发明实施例中，根据权重比对多个样本图像进行图像融合，可以理解为通过多帧短曝光模拟长曝光下的运动模糊，通过修改不同的权重比，可以模拟拍摄设备与被拍摄目标之间相对运动的不同情况，如不同速度变化情况，如此可以得到更接近真实的运动模糊图像。
本发明一种可选的实施例中，在步骤S103：根据权重信息对多个样本图像进行图像融合，得到目标图像之后，还可以包括：
利用多个目标图像以及各个目标图像对应的样本图像，对预设卷积神经网络进行训练，得到训练好的卷积神经网络。
其中，训练好的卷积神经网络用于在将待处理图像输入训练好的卷积神经网络后，输出待处理图像对应的清晰图像，清晰图像的图像质量高于待处理图像。
在训练过程中，可以将一个目标图像以及该目标图像对应的一个样本图像作为一个样本对，目标图像对应的一个样本图像可以是多个样本图像中的一个。
一种可实现方式中，针对各个样本对，样本图像可以理解为参考真值，预设卷积神经网络可以包括待测参数，将样本对输入预设卷积神经网络，调整待测参数，以使样本图像对应的目标图像通过预设卷积神经网络后的输出无限逼近于该样本图像，如预设卷积神经网络的输出与初样本图像之间的代价函数收敛时，确定待测参数，得到的包括确定的待测参数的卷积神经网络即为训练好的卷积神经网络，该训练好的卷积神经网络可以用于针对运动模糊图像进行去模糊。待测参数可以包括隐藏层层数，隐藏层神经元的数量等等。
本发明实施例中，目标图像为将对多个样本图像进行图像融合后得到的图像，该图像可以理解为运动模糊图像，多个样本图像中的任一样本图像均可以理解为该目标图像对应的清晰图像，即该清晰图像的图像质量高于目标图像的图像。利用多个目标图像以及各个目标图像对应的样本图像，对预设卷积神经网络进行训练，也可以理解为使卷积神经网络学习清晰图像与运动模糊图像的映射关系，如此可以得到训练好的用于去运动模糊的卷积神经网络。
一种可实现方式中，输入运动模糊图像为B1，B2为B1的降采样结果，B2的长宽为B1长宽的1/2，B3是B2的降采样结果，B3的长宽为B2的1/2。B3经过最小尺度的网络后输出去运动模糊图像I3；I3经过上采样(长宽变为I3两倍)后与B2进行组合(cancat拼接)，拼接后结果经过中等尺度的网络后输出去运动模糊图像I2；I2经过上采样(长宽变为I2两倍)后与B3进行组合(cancat拼接)，拼接后经过最大尺度的网络后输出最终去运动模糊图像I3。其中，最小尺度的网络、中等尺度的网络以及最大尺度的网络可以理解为将对不同尺度图像进行去运动模糊的网络，如最小尺度的网络可以理解为对最小尺度的图像进行去运动模糊的网络，得到该最小尺度的图像对应的去运动模糊图像；最小尺度、中等尺度以及最大尺度是相对的，即最大尺度大于中等尺度，中等尺度大于最小尺度。
将I1、I2、I3分别与对应尺寸的无运动模糊图像降采样结果进行比对，如将I1与B1对应的无运动模糊图像进行比对，将I2与B1对应的无运动模糊图像进行1/2降采样后的图像进行比对，将I3与B1对应的无运动模糊图像进行1/2降采样后、再进行1/2降采样后的图像进行比对，计算均方误差(Mean Square Error，MSE)值。网络根据MSE值调整网络参数。经过不断训练，网络去运动模糊能力不断提升，将运动模糊图像输入训练好的网络后，网络可以输出该运动模糊图像对应的去运动模糊图像，去运动模糊图像的图像质量高于运动模糊图像的图像质量，也可以理解为该运动模糊图像对应的清晰图像。
一种可选的实施例中，步骤S101：获取多个样本图像，可以包括：
从去运动模糊数据集中获取多个样本图像。
本发明实施例中可以构建去运动模糊数据集，例如，可以通过采集多个样本图像添加至去运动模糊数据集中；或者可以将动漫、游戏等电脑生成图像添加至该去运动模糊数据集中。待通过对多个样本图像进行图像融合得到目标图像以运动模糊时，从去运动模糊数据集中获取多个样本图像。
本发明实施例中在于去运动模糊数据集中加入、游戏等边缘清晰的电脑生成图像，因为采集设备采集到的图像、视频很难完全不存在运动模糊，而动漫、游戏或其他电脑生成图像有很清晰的轮廓，在去运动模糊数据集中加入这些数据后，通过从去运动模糊数据集获取样本图像而训练的用于去运动模糊的卷积神经网络，可以有效提升去运动模糊后图像边缘的清晰度。
在步骤S103：根据权重信息对多个样本图像进行图像融合，得到目标图像之后，还可以包括：
将目标图像添加至去运动模糊数据集，得到更新后的去运动模糊数据集。
利用多个目标图像以及各个目标图像对应的样本图像，对预设卷积神经网络进行训练，得到训练好的卷积神经网络，可以包括：
从更新后的去运动模糊数据集中获取多个目标图像以及各个目标图像对应的样本图像；利用多个目标图像以及各个目标图像对应的样本图像，对预设卷积神经网络进行训练，得到训练好的卷积神经网络。
且本发明实施例中可以不断更新去运动模糊数据集中，使得训练用于去运动模糊的卷积神经网络所使用的训练样本更加丰富。
本发明在数据集中加入了动漫、游戏等边缘清晰的电脑生成图像，去运动模糊后图像边缘更清晰。根据多个样本图像进行图像融合的权重信息，对多个样本图像进行图像融合，可以模拟被拍摄目标相对拍摄设备的运动速度变化；对于运动变化小的图像，可以对等间隔或非等间隔图像进行相同权重比或不同权重比叠加，模拟了真实运动模糊的复杂性，更接近真实运动模糊，如此，使得基于这些清晰图像和运动模糊图像训练得到的卷积神经网络能够更好的实现对运动模糊图像的去运动模糊，使去运动模糊图像的视觉效果更好，提高去运动模糊后图像的图像质量。
基于上述实施例提供的图像处理方法，可以得到用于去运动模糊的卷积神经网络，可以利用训练好的卷积神经网络可以对待处理图像进行去运动模糊，以得到图像质量高于待处理图像的清晰图像。
获取待处理图像，将待处理图像输入至上述实施例训练得到的用于去运动模糊的卷积神经网络，得到待处理图像对应的清晰图像，清晰图像的图像质量高于待处理图像。
基于训练得到用于去运动模糊的卷积神经网络，将待处理图像输入该卷积神经网络，可以提高输出的去运动模糊图像的图像质量，提高去运动模糊的图像视觉效果，输出的待处理图像对应的清晰图像的图像质量显著提高，输出图像边缘清晰度明显提高。
对应于上述实施例提供的图像处理方法，本发明实施例提供了一种图像处理装置，如图3所示，可以包括：
获取模块301，用于获取多个样本图像，每个样本图像中均包括目标运动对象，目标运动对象在每个样本图像中的位置不同。
确定模块302，用于确定对多个样本图像进行图像融合的权重信息，其中，权重信息用于指示每个样本图像在图像融合时所占的权重，权重与图像融合所需模拟的运动状态相关联。
融合模块303，用于根据权重信息对多个样本图像进行图像融合，得到目标图像，其中，目标图像中的目标运动对象处于运动模糊状态。
本发明实施例中，可以基于多个样本图像，根据每个样本图像在图像融合时所占的权重，对多个样本图像进行图像融合，得到目标图像，以模拟多种不同情况的运动模糊，提高对运动模糊模拟的多样性，丰富训练用于去运动模糊的卷积神经网络时所使用的样本图像。如此，使得基于目标图像和目标图像对应的样本图像训练得到的卷积神经网络能够更好的实现对运动模糊图像的去运动模糊，能够提高去运动模糊得到图像的图像质量。
可选的，融合模块303，具体用于根据权重信息，针对多个样本图像的各个像素点，计算多个样本图像中像素点的像素值的加权平均值，并将加权平均值作为目标图像对应像素点的像素值。
可选的，获取模块301，具体用于获取多个连续帧图像，连续帧图像包括处于相同运动序列下连续的图像；针对各个连续帧图像，将连续帧图像作为样本图像。
可选的，获取模块301，具体用于获取多个间隔帧图像，间隔帧图像包括处于相同运动序列下，存在间隔的图像；针对各个间隔帧图像，将间隔帧图像作为多个样本图像。
可选的，获取模块301，具体用于根据预设采集帧率，获取多个采集图像，其中，目标运动对象在相邻两个采集图像中的位置之间的差别小于预设值；从多个采集图像中选取存在间隔的多个间隔采集图像；针对各个间隔采集图像，将间隔采集图像作为间隔帧图像。
可选的，如图4(a)所示，该装置还包括：
训练模块304，用于利用多个目标图像以及各个目标图像对应的样本图像，对预设卷积神经网络进行训练，得到训练好的卷积神经网络，训练好的卷积神经网络用于在将待处理图像输入训练好的卷积神经网络后，输出待处理图像对应的清晰图像，清晰图像的图像质量高于待处理图像。
可选的，获取模块301，具体用于从去运动模糊数据集中获取多个样本图像。
如图4(b)，该装置还包括：
添加模块305，用于在根据权重信息对多个样本图像进行图像融合，得到目标图像之后，将目标图像添加至去运动模糊数据集，得到更新后的去运动模糊数据集。
训练模块304，具体用于从更新后的去运动模糊数据集中获取多个目标图像以及各个目标图像对应的样本图像；利用多个目标图像以及各个目标图像对应的样本图像，对预设卷积神经网络进行训练，得到训练好的卷积神经网络。
本发明实施例提供的图像处理装置是应用上述图像处理方法的装置，则上述图像处理方法的所有实施例均适用于该装置，且均能达到相同或相似的有益效果。
对应于上述实施例提供的图像处理方法，本发明实施例还提供了一种电子设备，如图5所示，包括处理器501、通信接口502、存储器503和通信总线504，其中，处理器501，通信接口502，存储器503通过通信总线504完成相互间的通信。
存储器503，用于存放计算机程序；
处理器501，用于执行存储器503上所存放的程序时，实现上述图像处理方法的方法步骤。
本发明实施例中，基于多个样本图像，根据每个样本图像在图像融合时所占的权重，对多个样本图像进行图像融合，得到目标图像，以模拟多种不同情况的运动模糊，提高对运动模糊模拟的多样性，丰富训练用于去运动模糊的卷积神经网络时所使用的样本图像。如此，使得基于目标图像和目标图像对应的样本图像训练得到的卷积神经网络能够更好的实现对运动模糊图像的去运动模糊，能够提高去运动模糊得到图像的图像质量。
上述电子设备提到的通信总线可以是外设部件互连标准(Peripheral ComponentInterconnect，PCI)总线或扩展工业标准结构(Extended Industry StandardArchitecture，EISA)总线等。该通信总线可以分为地址总线、数据总线、控制总线等。为便于表示，图中仅用一条粗线表示，但并不表示仅有一根总线或一种类型的总线。
通信接口用于上述电子设备与其他设备之间的通信。
存储器可以包括随机存取存储器(Random Access Memory，RAM)，也可以包括非易失性存储器(Non-Volatile Memory，NVM)，例如至少一个磁盘存储器。可选的，存储器还可以是至少一个位于远离前述处理器的存储装置。
上述的处理器可以是通用处理器，包括中央处理器(Central Processing Unit，CPU)、网络处理器(Network Processor，NP)等；还可以是数字信号处理器(Digital SignalProcessing，DSP)、专用集成电路(Application Specific Integrated Circuit，ASIC)、现场可编程门阵列(Field-Programmable Gate Array，FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件。
对应于上述实施例提供的图像处理方法，本发明实施例提供了一种计算机可读存储介质，计算机可读存储介质内存储有计算机程序，计算机程序被处理器执行时实现上述图像处理方法的方法步骤。
本发明实施例中，基于多个样本图像，根据每个样本图像在图像融合时所占的权重，对多个样本图像进行图像融合，得到目标图像，以模拟多种不同情况的运动模糊，提高对运动模糊模拟的多样性，丰富训练用于去运动模糊的卷积神经网络时所使用的样本图像。如此，使得基于目标图像和目标图像对应的样本图像训练得到的卷积神经网络能够更好的实现对运动模糊图像的去运动模糊，能够提高去运动模糊得到图像的图像质量。
在本发明提供的又一实施例中，对应于上述实施例提供的图像处理方法，还提供了一种包含指令的计算机程序产品，当其在计算机上运行时，使得计算机执行上述图像处理方法的方法步骤。
本发明实施例中，基于多个样本图像，根据每个样本图像在图像融合时所占的权重，对多个样本图像进行图像融合，得到目标图像，以模拟多种不同情况的运动模糊，提高对运动模糊模拟的多样性，丰富训练用于去运动模糊的卷积神经网络时所使用的样本图像。如此，使得基于目标图像和目标图像对应的样本图像训练得到的卷积神经网络能够更好的实现对运动模糊图像的去运动模糊，能够提高去运动模糊得到图像的图像质量。
需要说明的是，在本文中，诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来，而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。
本说明书中的各个实施例均采用相关的方式描述，各个实施例之间相同相似的部分互相参见即可，每个实施例重点说明的都是与其他实施例的不同之处。尤其，对于装置、电子设备、存储介质实施例以及计算机程序产品而言，由于其基本相似于方法实施例，所以描述的比较简单，相关之处参见方法实施例的部分说明即可。
以上所述仅为本发明的较佳实施例而已，并非用于限定本发明的保护范围。凡在本发明的精神和原则之内所作的任何修改、等同替换、改进等，均包含在本发明的保护范围内。
Claims (10)
1.一种图像处理方法，其特征在于，包括：
获取多个样本图像，每个所述样本图像中均包括目标运动对象，所述目标运动对象在每个所述样本图像中的位置不同；
确定对多个所述样本图像进行图像融合的权重信息，其中，所述权重信息用于指示每个所述样本图像在图像融合时所占的权重，所述权重与图像融合所需模拟的运动状态相关联；
根据所述权重信息对多个所述样本图像进行图像融合，得到目标图像，其中，所述目标图像中的所述目标运动对象处于运动模糊状态。
2.根据权利要求1所述的方法，其特征在于，所述根据所述权重信息对多个所述样本图像进行图像融合，得到目标图像，包括：
根据所述权重信息，针对多个所述样本图像的各个像素点，计算多个所述样本图像中所述像素点的像素值的加权平均值，并将所述加权平均值作为所述目标图像对应像素点的像素值。
3.根据权利要求1所述的方法，其特征在于，所述获取多个样本图像，包括：
获取多个连续帧图像，所述连续帧图像包括处于相同运动序列下连续的图像；
针对各个所述连续帧图像，将所述连续帧图像作为所述样本图像。
4.根据根据权利要求1所述的方法，其特征在于，所述获取多个样本图像，包括：
获取多个间隔帧图像，所述间隔帧图像包括处于相同运动序列下，存在间隔的图像；
针对各个所述间隔帧图像，将所述间隔帧图像作为多个所述样本图像。
5.根据权利要求4所述方法，其特征在于，所述获取多个间隔帧图像，包括：
根据预设采集帧率，获取多个采集图像，其中，所述目标运动对象在相邻两个所述采集图像中的位置之间的差别小于预设值；
从多个所述采集图像中选取存在间隔的多个间隔采集图像；
针对各个间隔采集图像，将所述间隔采集图像作为所述间隔帧图像。
6.根据权利要求1至5任一项所述的方法，其特征在于，在所述根据所述权重信息对多个所述样本图像进行图像融合，得到目标图像之后，所述方法还包括：
利用多个所述目标图像以及各个所述目标图像对应的所述样本图像，对预设卷积神经网络进行训练，得到训练好的卷积神经网络，所述训练好的卷积神经网络用于在将待处理图像输入所述训练好的卷积神经网络后，输出所述待处理图像对应的清晰图像，所述清晰图像的图像质量高于所述待处理图像。
7.根据权利要求6所述的方法，其特征在于，所述获取多个样本图像，包括：
从去运动模糊数据集中获取多个所述样本图像；
在所述根据所述权重信息对多个所述样本图像进行图像融合，得到目标图像之后，所述方法还包括：
将所述目标图像添加至所述去运动模糊数据集，得到更新后的去运动模糊数据集；
所述利用多个所述目标图像以及各个所述目标图像对应的所述样本图像，对预设卷积神经网络进行训练，得到训练好的卷积神经网络，包括：
从更新后的去运动模糊数据集中获取多个所述目标图像以及各个所述目标图像对应的所述样本图像；
利用多个所述目标图像以及各个所述目标图像对应的所述样本图像，对所述预设卷积神经网络进行训练，得到所述训练好的卷积神经网络。
8.一种图像处理装置，其特征在于，包括：
获取模块，用于获取多个样本图像，每个所述样本图像中均包括目标运动对象，所述目标运动对象在每个所述样本图像中的位置不同；
确定模块，用于确定对多个所述样本图像进行图像融合的权重信息，其中，所述权重信息用于指示每个所述样本图像在图像融合时所占的权重，所述权重与图像融合所需模拟的运动状态相关联；
融合模块，用于根据所述权重信息对多个所述样本图像进行图像融合，得到目标图像，其中，所述目标图像中的所述目标运动对象处于运动模糊状态。
9.一种电子设备，其特征在于，包括处理器、通信接口、存储器和通信总线，其中，所述处理器，所述通信接口，所述存储器通过所述通信总线完成相互间的通信；
所述存储器，用于存放计算机程序；
所述处理器，用于执行所述存储器上所存放的程序时，实现权利要求1-7任一所述方法的方法步骤。
10.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质内存储有计算机程序，所述计算机程序被处理器执行时实现权利要求1-7任一所述方法的方法步骤。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201911122511.XA CN110895801A (zh) | 2019-11-15 | 2019-11-15 | 图像处理方法、装置、设备及存储介质 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201911122511.XA CN110895801A (zh) | 2019-11-15 | 2019-11-15 | 图像处理方法、装置、设备及存储介质 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| CN110895801A true CN110895801A (zh) | 2020-03-20 |
Family
ID=69786667
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN201911122511.XA Pending CN110895801A (zh) | 2019-11-15 | 2019-11-15 | 图像处理方法、装置、设备及存储介质 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN110895801A (zh) |
Cited By (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| WO2022027818A1 (zh) * | 2020-08-07 | 2022-02-10 | 深圳先进技术研究院 | 数据批处理方法及其批处理装置、存储介质 |
Citations (7)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN102930566A (zh) * | 2012-09-25 | 2013-02-13 | 哈尔滨工业大学 | 一种静止背景中单向运动目标的离散退化图像构造方法 |
| CN102930565A (zh) * | 2012-09-25 | 2013-02-13 | 哈尔滨工业大学 | 一种静止背景中折返运动目标的离散退化图像构造方法 |
| CN108416752A (zh) * | 2018-03-12 | 2018-08-17 | 中山大学 | 一种基于生成式对抗网络进行图像去运动模糊的方法 |
| CN108629743A (zh) * | 2018-04-04 | 2018-10-09 | 腾讯科技（深圳）有限公司 | 图像的处理方法、装置、存储介质和电子装置 |
| CN109087256A (zh) * | 2018-07-19 | 2018-12-25 | 北京飞搜科技有限公司 | 一种基于深度学习的图像去模糊方法及系统 |
| CN109727201A (zh) * | 2017-10-30 | 2019-05-07 | 富士通株式会社 | 信息处理设备、图像处理方法以及存储介质 |
| KR20190114340A (ko) * | 2018-03-29 | 2019-10-10 | 한국과학기술원 | 이미지 디블러링(Deblurring) 네트워크 처리방법 및 시스템 |
-
2019
- 2019-11-15 CN CN201911122511.XA patent/CN110895801A/zh active Pending
Patent Citations (7)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN102930566A (zh) * | 2012-09-25 | 2013-02-13 | 哈尔滨工业大学 | 一种静止背景中单向运动目标的离散退化图像构造方法 |
| CN102930565A (zh) * | 2012-09-25 | 2013-02-13 | 哈尔滨工业大学 | 一种静止背景中折返运动目标的离散退化图像构造方法 |
| CN109727201A (zh) * | 2017-10-30 | 2019-05-07 | 富士通株式会社 | 信息处理设备、图像处理方法以及存储介质 |
| CN108416752A (zh) * | 2018-03-12 | 2018-08-17 | 中山大学 | 一种基于生成式对抗网络进行图像去运动模糊的方法 |
| KR20190114340A (ko) * | 2018-03-29 | 2019-10-10 | 한국과학기술원 | 이미지 디블러링(Deblurring) 네트워크 처리방법 및 시스템 |
| CN108629743A (zh) * | 2018-04-04 | 2018-10-09 | 腾讯科技（深圳）有限公司 | 图像的处理方法、装置、存储介质和电子装置 |
| CN109087256A (zh) * | 2018-07-19 | 2018-12-25 | 北京飞搜科技有限公司 | 一种基于深度学习的图像去模糊方法及系统 |
Non-Patent Citations (2)
| Title |
|---|
| SEUNGJUN NAH等: "Deep Multi-scale Convolutional Neural Network for Dynamic Scene Deblurring", 《ARXIV》 * |
| 胡玲玲: "单幅自然图像复原算法研究", 《中国优秀博硕士学位论文全文数据库(硕士) 信息科技辑》 * |
Cited By (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| WO2022027818A1 (zh) * | 2020-08-07 | 2022-02-10 | 深圳先进技术研究院 | 数据批处理方法及其批处理装置、存储介质 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| Lv et al. | Attention guided low-light image enhancement with a large scale low-light simulation dataset | |
| CN107330956B (zh) | 一种漫画手绘图无监督上色方法及装置 | |
| Ignatov et al. | Dslr-quality photos on mobile devices with deep convolutional networks | |
| CN113992861B (zh) | 一种图像处理方法及图像处理装置 | |
| US9615039B2 (en) | Systems and methods for reducing noise in video streams | |
| CN110675336A (zh) | 一种低照度图像增强方法及装置 | |
| CN110969589A (zh) | 基于多流注意对抗网络的动态场景模糊图像盲复原方法 | |
| Wang et al. | Improved scheme of estimating motion blur parameters for image restoration | |
| CN111695421B (zh) | 图像识别方法、装置及电子设备 | |
| CN110148088B (zh) | 图像处理方法、图像去雨方法、装置、终端及介质 | |
| CN112348828A (zh) | 基于神经网络的实例分割方法和装置以及存储介质 | |
| Abiko et al. | Single image reflection removal based on GAN with gradient constraint | |
| CN112509144A (zh) | 人脸图像处理方法、装置、电子设备及存储介质 | |
| CN111275625B (zh) | 一种图像去模糊方法、装置及电子设备 | |
| CN115880177A (zh) | 聚合上下文和增强细节的全分辨率低照度图像增强方法 | |
| CN112801890B (zh) | 一种视频处理方法、装置及设备 | |
| CN110895801A (zh) | 图像处理方法、装置、设备及存储介质 | |
| CN114358204A (zh) | 基于自监督的无参考图像质量评估方法及系统 | |
| Chambe et al. | HDR-LFNet: inverse tone mapping using fusion network | |
| CN108734712B (zh) | 背景分割的方法、装置及计算机存储介质 | |
| Tiwari | A pattern classification based approach for blur classification | |
| CN114742774A (zh) | 融合局部和全局特征的无参考图像质量评价方法及系统 | |
| CN109978920A (zh) | 一种目标跟踪方法及目标跟踪设备 | |
| CN113014928B (zh) | 一种补偿帧生成方法及装置 | |
| CN113935910A (zh) | 一种基于深度学习的图像模糊长度测量方法 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| RJ01 | Rejection of invention patent application after publication |
Application publication date: 20200320 |
|
| RJ01 | Rejection of invention patent application after publication |