发明内容
本发明实施例提供一种图像处理方法、装置及可读存储介质,以解决目前对图像的修复工作主要依靠人工逐帧修复,造成的修复时间长且修复费用较高的问题。
本发明实施例的第一方面,提供了一种图像处理方法,包括:
将待修复图像组中的至少一个图像块分别输入目标光流网络,以获得与每个所述图像块分别对应的光流图;所述待修复图像组包含多帧时间上连续且尺寸相同的待修复图像,所述图像块包含目标待修复图像和除所述目标待修复图像之外的另一帧待修复图像,所述目标光流网络为对预先构建的光流网络进行训练后得到的;
根据每个所述图像块分别对应的光流图,将每个所述图像块包含的另一帧待修复图像的信息转化到所述目标待修复图像,以获得每个转化后的所述目标待修复图像;
将所述目标待修复图像和每个所述转化后的所述目标待修复图像输入目标融合网络,以获得修复后的所述目标待修复图像。
可选的,所述根据每个所述图像块分别对应的光流图,将每个所述图像块包含的另一帧待修复图像的信息转化到所述目标待修复图像,以获得每个转化后的所述目标待修复图像,包括:
根据所述图像块中的另一帧图像上的目标像素点的坐标与所述目标像素点在所述目标待修复图像上的坐标之间的差值等于所述目标像素点在所述图像块对应的光流图上的值,将每个所述图像块包含的另一帧待修复图像的信息转化到所述目标待修复图像,以获得每个转化后的所述目标待修复图像。
可选的,在所述将待修复图像组中的至少一个图像块输入目标光流网络之前,还包括:
对预先收集的原始训练视频集按照时间顺序进行切帧处理,获得多个原始帧图像,并对所述多个原始帧图像按照预设的帧图像个数进行分组获得至少一组原始帧图像;
对每组原始帧图像进行干扰处理,获得待修复图像组样本集,所述待修复图像组样本集包括至少一组待修复图像组样本。
可选的,在所述对每组原始帧图像进行干扰处理,获得待修复图像组样本集之后,还包括:
通过光流训练样本对所述预先构建的光流网络进行训练,获得第一光流网络;
将所述待修复图像组样本输入预先构建的融合网络进行训练,获得第一融合网络;
将所述第一光流网络作为所述目标光流网络、以及将所述第一融合网络作为所述目标融合网络。
可选的,在所述将所述待修复图像组样本输入预先构建的融合网络进行训练,获得第一融合网络之后,还包括:
将所述待修复图像组样本中的至少一个图像块样本分别输入所述第一光流网络,以获得与每个所述图像块样本分别对应的光流图;所述待修复图像组样本包含多帧时间上连续且尺寸相同的待修复图像样本,所述图像块样本包含目标待修复图像样本和除所述目标待修复图像样本之外的另一帧待修复图像样本;
根据每个所述图像块样本分别对应的光流图,将每个所述图像块样本包含的另一帧待修复图像样本的信息转化到所述目标待修复图像样本,以获得每个转化后的所述目标待修复图像样本;
将所述目标待修复图像样本和每个所述转化后的所述目标待修复图像样本输入第一融合网络,以对所述第一光流网络和第一融合网络进行训练,获得第二光流网络和第二融合网络;
将所述第二光流网络作为所述目标光流网络、以及将所述第二融合网络作为所述目标融合网络。
可选的,所述将所述目标待修复图像和每个所述转化后的所述目标待修复图像输入目标融合网络,以获得修复后的所述目标待修复图像,包括:
将所述目标待修复图像和每个所述转化后的所述目标待修复图像输入所述目标融合网络,以采用所述目标融合网络的参数对所述目标待修复图像和每个转化后的所述目标待修复图像进行融合,获得修复后的所述目标待修复图像。
本发明实施例的第二方面,提供了一种图像处理装置,包括:
第一获得模块,用于将待修复图像组中的至少一个图像块分别输入目标光流网络,以获得与每个所述图像块分别对应的光流图;所述待修复图像组包含多帧时间上连续且尺寸相同的待修复图像,所述图像块包含目标待修复图像和除所述目标待修复图像之外的另一帧待修复图像,所述目标光流网络为对预先构建的光流网络进行训练后得到的;
转化模块,用于根据每个所述图像块分别对应的光流图,将每个所述图像块包含的另一帧待修复图像的信息转化到所述目标待修复图像,以获得每个转化后的所述目标待修复图像;
第二获得模块,用于将所述目标待修复图像和每个所述转化后的所述目标待修复图像输入目标融合网络,以获得修复后的所述目标待修复图像。
可选的,所述转化模块,具体用于根据所述图像块中的另一帧图像上的目标像素点的坐标与所述目标像素点在所述目标待修复图像上的坐标之间的差值等于所述目标像素点在所述图像块对应的光流图上的值,将每个所述图像块包含的另一帧待修复图像的信息转化到所述目标待修复图像,以获得每个转化后的所述目标待修复图像。
可选的,还包括:
第三获得模块,用于对预先收集的原始训练视频集按照时间顺序进行切帧处理,获得多个原始帧图像,并对所述多个原始帧图像按照预设的帧图像个数进行分组获得至少一组原始帧图像;
第四获得模块,用于对每组原始帧图像进行干扰处理,获得待修复图像组样本集,所述待修复图像组样本集包括至少一组待修复图像组样本。
可选的,所述第四获得模块,还用于通过光流训练样本对所述预先构建的光流网络进行训练,获得第一光流网络;将所述待修复图像组样本输入预先构建的融合网络进行训练,获得第一融合网络;将所述第一光流网络作为所述目标光流网络、以及将所述第一融合网络作为所述目标融合网络。
可选的,所述第四获得模块,还用于将所述待修复图像组样本中的至少一个图像块样本分别输入所述第一光流网络,以获得与每个所述图像块样本分别对应的光流图;所述待修复图像组样本包含多帧时间上连续且尺寸相同的待修复图像样本,所述图像块样本包含目标待修复图像样本和除所述目标待修复图像样本之外的另一帧待修复图像样本;根据每个所述图像块样本分别对应的光流图,将每个所述图像块样本包含的另一帧待修复图像样本的信息转化到所述目标待修复图像样本,以获得每个转化后的所述目标待修复图像样本;将所述目标待修复图像样本和每个所述转化后的所述目标待修复图像样本输入第一融合网络,以对所述第一光流网络和第一融合网络进行训练,获得第二光流网络和第二融合网络;将所述第二光流网络作为所述目标光流网络、以及将所述第二融合网络作为所述目标融合网络。
可选的,所述第二获得模块,具体用于将所述目标待修复图像和每个所述转化后的所述目标待修复图像输入所述目标融合网络,以采用所述目标融合网络的参数对所述目标待修复图像和每个转化后的所述目标待修复图像进行融合,获得修复后的所述目标待修复图像。
本发明实施例的第三方面,提供了一种计算机可读存储介质,所述计算机可读存储介质上存储计算机程序,所述计算机程序被处理器执行时实现上述所述的图像处理方法的步骤。
本发明的第四方面,提供了一种图像处理装置,包括处理器、存储器及存储在所述存储器上并可在所述处理器上运行的计算机程序,所述计算机程序被所述处理器执行时实现上述所述的图像处理方法的步骤。
针对在先技术,本发明具备如下优点:
通过将待修复图像组中的至少一个图像块分别输入目标光流网络,以获得每个图像块分别对应的光流图,根据每个图像块分别对应的光流图,每个所述图像块包含的另一帧待修复图像的信息转化到所述目标待修复图像,以获得每个转化后的所述目标待修复图像,将所述目标待修复图像和每个所述转化后的所述目标待修复图像输入目标融合网络,以获得修复后的所述目标待修复图像。从而解决了现有技术中通过人工修复视频造成的修复时间长且费用高的问题,实现了对被破坏的视频进行快速修复且修复价格较低。
上述说明仅是本发明技术方案的概述,为了能够更清楚了解本发明的技术手段,而可依照说明书的内容予以实施,并且为了让本发明的上述和其它目的、特征和优点能够更明显易懂,以下特举本发明的具体实施方式。
具体实施方式
为使本发明的上述目的、特征和优点能够更加明显易懂,下面结合附图和具体实施方式对本发明作进一步详细的说明。
应当理解,此处所描述的具体实施例仅用以解释本发明,仅仅是本发明一部分实施例,而不是全部的实施例,并不用于限定本发明。
参照图1,图1为本发明实施例提供的一种图像处理方法的步骤流程图,本实施例的图像处理方法适用于无需通过人工修复,即可以实现对需要修复的视频图像进行修复的情况。本实施例的方法包括如下步骤:
S110、将待修复图像组中的至少一个图像块分别输入目标光流网络,以获得与每个图像块分别对应的光流图。
其中,待修复图像组包含多帧时间上连续且尺寸相同的待修复图像,每个图像块包含目标待修复图像和除目标待修复图像之外的另一帧待修复图像,每个图像块中包含的另一帧待修复图像各不相同,目标光流网络为对预先构建的光流网络进行训练后得到的,需要说明的是,获得的光流图的尺寸与待修复图像组中包含的待修复图像的尺寸相同。
举例来说,如果待修复图像组包含7帧时间上连续且尺寸相同的待修复图像,如果目标待修复图像为第4帧,那么第4帧与第5帧可以组成第图像块1,第4帧与第6帧可以组成图像块2,那么第4帧与第7帧可以组成图像块3,第4帧与第1帧可以组成图像块4,那么第4帧与第2帧可以组成图像块5,第4帧与第3帧组成图像块6,一共可以组成6个图像块。例如将第4帧与第5帧组成的一个图像块输入目标光流网络,就可以通过目标光流网络输出图像块1对应的光流图,第4帧与第6帧组成的一个图像块2输入目标光流网络,就可以通过目标光流网络输出图像块2对应的光流图,依次类推,就可以分别通过目标光流网络输出其余各个图像块分别对应的光流图。
需要说明的是,图像块对应的光流图表示该图像块中的目标待修复图像上的像素点的坐标在该图像块中的另一帧图像的坐标系上的位移。例如对于第4帧和第5帧组成的图像块来说,该图像块对应的光流图表示第4帧图像上的像素点的坐标在第5帧图像坐标系上的位移。该图像块对应的光流图的尺寸与输入到目标光流网络的第4帧和第5帧图像的尺寸相同。
S120、根据每个图像块分别对应的光流图,将每个图像块包含的另一帧待修复图像的信息转化到目标待修复图像,以获得每个转化后的目标待修复图像。
其中,得到每个图像块对应的光流图后,可以根据每个图像块分别对应的光流图,将每个图像块包含的另一帧待修复图像的信息转化到目标待修复图像,以获得每个转化后的目标待修复图像。
结合上述介绍,可以根据第1个图像块对应的光流图,将5帧图像的信息转化到第4帧图像,以获得1个转化后的第4帧图像,同样可以第2个图像块对应的光流图,将6帧图像的信息转化到第4帧图像,以获得1个转化后的第4帧图像,依次类推,将第7帧图像的信息转化到第4帧图像得到1个转化后的第4帧图像,将第1帧图像转化到第4帧图像,以获得1个转化后的第4帧图像,将第2帧图像的信息转化到第4帧图像,以获得1个转化后的第4帧图像,将第3帧图像的信息转化到第4帧图像,以获得1个转化后的第4帧图像,一共得到6个转化后的第4帧图像。
S130、将目标待修复图像和每个转化后的目标待修复图像输入目标融合网络,以获得修复后的目标待修复图像。
结合上述介绍,则可以将第4帧图像和6个转化后的第4帧图像输入目标融合网络,通过目标融合网络输出修复后的第4帧图像。
本实施例提供的图像处理方法,通过将待修复图像组中的至少一个图像块分别输入目标光流网络,以获得每个图像块分别对应的光流图,根据每个图像块分别对应的光流图,每个图像块包含的另一帧待修复图像的信息转化到目标待修复图像,以获得每个转化后的目标待修复图像,将目标待修复图像和每个转化后的目标待修复图像输入目标融合网络,以获得修复后的目标待修复图像。从而解决了现有技术中通过人工修复视频造成的修复时间长且费用高的问题,能够实现以较低的价格快速的对被破坏的视频进行修复。
为了更详细介绍图1所示实施例,在此结合图2介绍图像处理的整体流程,参照图2,图2为本发明实施例提供的一种图像处理方法的步骤流程图,本实施例的方法包括如下步骤:
S210、对预先收集的原始训练视频集按照时间顺序进行切帧处理,获得多个原始帧图像,并对多个原始帧图像按照预设的帧图像个数进行分组获得至少一组原始帧图像。
可以按照预设的帧图像个数对预先收集的原始训练视频集包括的多个原始帧图像进行分组,例如预先收集600余个高清的原始训练视频集,将每个原始训练视频集按照时间顺序进行切帧处理,共获得350000个原始帧图像,如果预设的帧图像个数为7个(也即每组原始帧图像包括7帧相邻图像),则可以获得50000组原始帧图像。
S220、对每组原始帧图像进行干扰处理,获得待修复图像组样本集,待修复图像组样本集包括至少一组待修复图像组样本。
对每组原始帧图像进行干扰处理,干扰处理例如可以是对每组原始帧图像增加高斯噪声以在原始帧图像上产生白点以及在每个原始帧图像上随机产生大小尺寸的划痕。可以将原始帧图像分辨率固定到256×256大小。对50000组原始帧图像进行干扰处理后,可以获得待修复图像组样本集,待修复图像组样本集包括至少一组待修复图像组样本,例如待修复图像组样本集包括干扰处理后的50000组待修复图像组样本。
S230、通过光流训练样本对预先构建的光流网络进行训练,获得第一光流网络。
光流训练样本可以为“flying chairs”训练样本。flying chairs”训练样本是指专用于训练光流网络的数据集,该训练样本集为本领域技术人员所知悉的数据集,故在此不做详细介绍。
S240、将待修复图像组样本输入预先构建的融合网络进行训练,获得第一融合网络。
其中,将待修复图像组样本输入预先构建的融合网络进行训练,需要先将待修复图像组样本中至少一个图像块样本分别输入第一光流网络,以获得与每个图像块样本分别对应的光流图;待修复图像组样本包含多帧时间上连续且尺寸相同的待修复图像样本,图像块样本包含目标待修复图像样本和除目标待修复图像样本之外的另一帧待修复图像样本;根据每个图像块样本分别对应的光流图,将每个图像块样本包含的另一帧待修复图像样本的信息转化到目标待修复图像样本,以获得每个转化后的目标待修复图像样本;将目标待修复图像样本和每个转化后的目标待修复图像样本输入预先构建的融合网络,以对预先构建的融合网络进行训练,获得第一融合网络。需要说明的是,对预先构建的融合网络训练时,需要固定第一光流网络,即保持第一光流网络的参数保持不变,也即在保持第一光流网络的前提下,对预先构建的融合网络进行训练。例如,采用干扰处理后的一组帧图像(干扰处理后的一组帧图像即为待修复图像组样本)对预先构建的融合网络进行训练,如果该修复图像组样本包括7帧图像,以第4帧图像为目标待修复的图像(也即需要修复的图像),可以将第4帧与第5帧组成第图像块1,第4帧与第6帧可以组成图像块2,那么第4帧与第7帧可以组成图像块3,第4帧与第1帧可以组成图像块4,那么第4帧与第2帧可以组成图像块5,第4帧与第3帧组成图像块6,一共可以组成6个图像块。例如将图像块1输入第一光流网络,就可以通过第一光流网络输出图像块1对应的光流图1,将第4帧与第6帧组成的一个图像块2输入第一光流网络,就可以通过第一光流网络输出图像块2对应的光流图2,依次类推,就可以分别通过第一光流网络输出图像块3对应的光流图3、图像块4对应的光流图4、图像块5对应的光流图5以及图像块6对应的光流图6。从而可以根据光流图1将第5帧图像的信息转化到第4帧图像上,获得转化后的第4帧图像,将该转化后的第4帧图像作为图像1;根据光流图2将第6帧图像的信息转化到第4帧图像上,获得转化后的第4帧图像,将该转化后的第4帧图像作为图像2;以此类推,可以获得图像3、图像4、图像5、图像6,之后固定第一光流网络,将图像1、图像2、图像3、图像4、图像5、图像6和第4帧图像(需要修复的图像)输入预先构建的融合网络,由预先构建的融合网络输出一帧图像,输出的该帧图像即为对第4帧图像修复后的图像,输出的该帧图像可以与未经干扰处理的原始的第4帧图像进行比较,如果输出的该帧图像越接近未经干扰处理的原始的第4帧图像,则表示训练融合网络越接近收敛。
需要说明的是,如果采用干扰处理后的一组帧图像对预先构建的融合网络训练后获得第一次训练后的融合网络,可以接着采用干扰处理后的另一组待修复图像组样本对第一次训练后的融合网络训练继续训练获得第二次训练后的融合网络,依次类推,可以不断的对融合网络进行训练获得第n次训练后的融合网络,随着训练的进行,通过第n次训练后的融合网络输出的图像会越来越接近未经干扰处理的原始帧图像,直到训练到收敛,即可以获得第一融合网络。
可以将第一光流网络作为目标光流网络,将第一融合网络作为目标融合网络。
可选的,在将待修复图像组样本输入预先构建的融合网络进行训练,获得第一融合网络之后,还可以对由第一光流网络和第一融合网络组成的整个网络进行端到端训练,以对第一光流网络的参数和第一融合网络的参数进行微调,具体可以包括以下步骤:
将待修复图像组样本中的至少一个图像块样本分别输入第一光流网络,以获得与每个图像块样本分别对应的光流图;待修复图像组样本包含多帧时间上连续且尺寸相同的待修复图像样本,图像块样本包含目标待修复图像样本和除目标待修复图像样本之外的另一帧待修复图像样本;根据每个图像块样本分别对应的光流图,将每个图像块样本包含的另一帧待修复图像样本的信息转化到目标待修复图像样本,以获得每个转化后的目标待修复图像样本;将目标待修复图像样本和每个转化后的目标待修复图像样本输入第一融合网络,以对第一光流网络和第一融合网络进行训练,获得第二光流网络和第二融合网络;将第二光流网络作为目标光流网络、以及将第二融合网络作为目标融合网络。
通过对第一光流网络和第一融合网络进行端到端训练,可以实现对第一光流网络的相关参数进行微调,获得第二光流网络,以及对第一融合网络的相关参数进行微调,获得第二融合网络。
需要说明的是,对第一光流网络和第一融合网络进行端到端训练的过程与对预先构建的融合网络进行训练的过程相同或相似,为避免重复,此处不再举例介绍。
S250、将待修复图像组中的至少一个图像块分别输入目标光流网络,以获得与每个图像块分别对应的光流图。
待修复图像组即为需要修复的图像组,在选取的待修复图像组中选取一帧作为目标待修复图像,从待修复图像组中除目标待修复图像之外的其他帧中选取另一帧,把该两帧(目标待修复图像和选取的另一帧待修复图像)作为一个图像块输入目标光流网络,通过目标光流网络输出1个与该图像块对应的光流图。如果待修复图像组包含第1帧至第7帧时间上连续且尺寸相同的待修复图像,如果以第4帧为目标待修复图像,则可以将第4帧与第5帧组成第图像块1,第4帧与第6帧可以组成图像块2,那么第4帧与第7帧可以组成图像块3,第4帧与第1帧可以组成图像块4,那么第4帧与第2帧可以组成图像块5,第4帧与第3帧组成图像块6,一共可以组成6个图像块,将6个图像块分别输入目标光流网络,则可以获得6个光流图,一个光流图对应一个图像块,例如图像块1对应光流图1、图像块2对应光流图2、图像块3对应光流图3、图像块4对应光流图4、图像块5对应光流图5、图像块6对应光流图6。
需要说明的是,获得与每个图像块分别对应的光流图可以通过如下方式实现:如果输入的是第4帧和第5帧组成的图像块1,目标光流网络先对第4帧和第5帧进行下采样获得第4帧和第5帧图像的多尺度的特征图,再对多尺度的特征图进行上采样获得该图像块1(第4帧和第5帧组成的图像块)对应的光流图1。
具体的,例如,目标光流网络先对第4帧和第5帧进行卷积计算获得一个和原图尺寸相同的特征图(原图尺寸即指第4帧待修复图像的尺寸或第5帧待修复图像的尺寸),再对获得的和原图尺寸相同的特征图进行池化和卷积操作得到
原图尺寸的特征图,再对
原图尺寸的特征图进行池化和卷积操作得到
原图尺寸的下采样特征图,对
原图尺寸的下采样特征图进行池化和卷积操作得到
原图尺寸的下采样特征图,对
原图尺寸的下采样特征图进行池化和卷积操作得到
原图尺寸的下采样特征图。之后将
原图尺寸的下采样特征图进行上采样得到
原图尺寸的上采样特征图,再将
原图尺寸的上采样特征图和
尺寸的下采样特征图进行融合得到融合后的
原图尺寸的特征图,将融合后的
原图尺寸的特征图进行上采样得到
原图尺寸的上采样特征图,再将得到
原图尺寸的上采样特征图和
原图尺寸的下采样特征图进行融合得到
原图尺寸的特征图,以此类推,最终可以获得和原图尺寸相同的光流图1。
S260、根据图像块中的另一帧图像上的目标像素点的坐标与目标像素点在目标待修复图像上的坐标之间的差值等于目标像素点在图像块对应的光流图上的值,将每个图像块包含的另一帧待修复图像的信息转化到目标待修复图像,以获得每个转化后的目标待修复图像。
以图像块1为例,目标待修复图像为第4帧,第5帧图像为另一帧图像,可以根据第5帧图像上的目标像素点的坐标(x1,y1)与目标像素点在第4帧图像上的坐标(x,y)之间的差值等于目标像素点在图像块1对应的光流图1上的值,将图像块1包含的第5帧图像的信息转化到第4帧图像上,以获得转化后的第4帧图像。例如,目标像素点在第5帧图像上的坐标为(x1=15,y1=20),目标像素点在第4帧上的坐标(x,y),目标像素点在光流图1上的坐标为(Δx=5,Δy=10),则可以确定目标像素点在第4帧的坐标为(x=x1-Δx=10,y=y1-Δy=10)。目标像素点为需要修复的区域上的某一个像素点,根据上述坐标关系可以确定需要修复的区域上的其他像素点的坐标,从而将第5帧图像转化到第4帧图像上得到一个转化后的待修复图像。
S270、将目标待修复图像和每个转化后的目标待修复图像输入目标融合网络,以采用目标融合网络的参数对目标待修复图像和每个转化后的目标待修复图像进行融合,获得修复后的目标待修复图像。
目标融合网络的参数例如包括卷积核的大小、卷积层数、通道数。例如,卷积核大小为7×7,卷积层数为4,第一个卷积层到第四个卷积层的通道数依次是32、64、32、3。其中,目标融合网络的参数为对预先构建的融合网络进行训练后得到的,也即对预先构建的融合网络进行训练后得到目标融合网络的参数。
需要说明的是,由于光流预测存在着误差,即通过目标光流网络输出的光流图与输入目标光流网络的图像存在误差,且存在目标遮挡等问题,转化后的目标待修复图像可能会出现空洞等问题,目标融合网络可以剔除转化后的目标待修复图像中的无效的信息后,再采用目标融合网络的参数对目标待修复图像和每个转化后的目标待修复图像进行融合,从而使目标融合网络输出更清晰的修复后的目标待修复图像。
可以采用与S250至S270中提供的方法,将待修复图像组中的其他需要修复的图像进行修复,从而完成对待修复图像组中的所有需要修复的图像的修复。
本实施例提供的图像处理方法,通过将待修复图像组中的至少一个图像块分别输入目标光流网络,以获得每个图像块分别对应的光流图,根据每个图像块分别对应的光流图,每个图像块包含的另一帧待修复图像的信息转化到目标待修复图像,以获得每个转化后的目标待修复图像,将目标待修复图像和每个转化后的目标待修复图像输入目标融合网络,以获得修复后的目标待修复图像,从而解决了现有技术中通过人工修复视频造成的修复时间长且费用高的问题,实现了对被破坏的视频进行快速修复且修复价格较低。
图3为本发明实施例提供的一种图像处理装置的结构示意图,本实施提供图像处理装置通常通过软件和/或硬件的形式来实现。参照图3,本发明实施例提供的图像处理装置300可以包括:第一获得模块310、转化模块320和第二获得模块330。
第一获得模块310用于将待修复图像组中的至少一个图像块分别输入目标光流网络,以获得与每个图像块分别对应的光流图;待修复图像组包含多帧时间上连续且尺寸相同的待修复图像,图像块包含目标待修复图像和除目标待修复图像之外的另一帧待修复图像,目标光流网络为对预先构建的光流网络进行训练后得到的;
转化模块320用于根据每个图像块分别对应的光流图,将每个图像块包含的另一帧待修复图像的信息转化到目标待修复图像,以获得每个转化后的目标待修复图像;
第二获得模块330用于将目标待修复图像和每个转化后的目标待修复图像输入目标融合网络,以获得修复后的目标待修复图像。
本实施例提供的图像处理装置,通过将待修复图像组中的至少一个图像块分别输入目标光流网络,以获得每个图像块分别对应的光流图,根据每个图像块分别对应的光流图,每个图像块包含的另一帧待修复图像的信息转化到目标待修复图像,以获得每个转化后的目标待修复图像,将目标待修复图像和每个转化后的目标待修复图像输入目标融合网络,以获得修复后的目标待修复图像。从而解决了现有技术中通过人工修复视频造成的修复时间长且费用高的问题,实现了对被破坏的视频进行快速修复且修复价格较低。
可选的,转化模块320具体用用于根据图像块中的另一帧图像上的目标像素点的坐标与目标像素点在目标待修复图像上的坐标之间的差值等于目标像素点在图像块对应的光流图上的值,将每个图像块包含的另一帧待修复图像的信息转化到目标待修复图像,以获得每个转化后的目标待修复图像。
可选的,参照图4,图4为本发明实施例提供的另一种图像处理装置的结构示意图,图像处理装置300还可以包括:
第三获得模块410,用于对预先收集的原始训练视频集按照时间顺序进行切帧处理,获得多个原始帧图像,并对多个原始帧图像按照预设的帧图像个数进行分组获得至少一组原始帧图像;
第四获得模块420,用于对每组原始帧图像进行干扰处理,获得待修复图像组样本集,待修复图像组样本集包括至少一组待修复图像组样本。
可选的,第四获得模块420还用于通过光流训练样本对预先构建的光流网络进行训练,获得第一光流网络;将待修复图像组样本输入预先构建的融合网络进行训练,获得第一融合网络;将第一光流网络作为目标光流网络、以及将第一融合网络作为目标融合网络。
可选的,第四获得模块420,还用于将待修复图像组样本中的至少一个图像块样本分别输入第一光流网络,以获得与每个图像块样本分别对应的光流图;待修复图像组样本包含多帧时间上连续且尺寸相同的待修复图像样本,图像块样本包含目标待修复图像样本和除目标待修复图像样本之外的另一帧待修复图像样本;根据每个图像块样本分别对应的光流图,将每个图像块样本包含的另一帧待修复图像样本的信息转化到目标待修复图像样本,以获得每个转化后的目标待修复图像样本;将目标待修复图像样本和每个转化后的目标待修复图像样本输入第一融合网络,以对第一光流网络和第一融合网络进行训练,获得第二光流网络和第二融合网络;将第二光流网络作为目标光流网络、以及将第二融合网络作为目标融合网络。
可选的,第二获得模块330具体用于将目标待修复图像和每个转化后的目标待修复图像输入目标融合网络,以采用目标融合网络的参数对目标待修复图像和每个转化后的目标待修复图像进行融合,获得修复后的目标待修复图像。
此外,参照图5,图5为本发明实施例提供的一种对待修复图像进行修复后的效果示意图,图5的左半部分表示的为未修复的图像,该未修复的图像上有划痕和噪声,图5的右半部分表示的为修复后的图像,修复后的图像去除了划痕和噪声,使修复后的图像更加清晰。
另外,本发明实施例还提供一种图像处理装置,该图像处理装置包括处理器,存储器以及存储在存储器上并可在处理器上运行的计算机程序,该计算机程序被处理器执行时实现上述实施例的图像处理方法实施例的各个过程,且能达到相同的技术效果,为避免重复,这里不再赘述。
本发明实施例还提供一种计算机可读存储介质,计算机可读存储介质上存储有计算机程序,该计算机程序被处理器执行时实现上述的图像处理方法实施例的各个过程,且能达到相同的技术效果,为避免重复,这里不再赘述。其中,的计算机可读存储介质,可以为只读存储器(Read-Only Memory,简称ROM)、随机存取存储器(Random Access Memory,简称RAM)、磁碟或者光盘等。
本发明实施例还提供了一种计算机程序,该计算机程序可以存储在云端或本地的存储介质上。在该计算机程序被计算机或处理器运行时用于执行本发明实施例的图像处理方法的相应步骤,并且用于实现根据本发明实施例的图像处理装置中的相应模块。
本说明书中的各个实施例均采用递进的方式描述,每个实施例重点说明的都是与其他实施例的不同之处,各个实施例之间相同相似的部分互相参见即可。
本领域技术人员易于想到的是:上述各个实施例的任意组合应用都是可行的,故上述各个实施例之间的任意组合都是本发明的实施方案,但是由于篇幅限制,本说明书在此就不一一详述了。
在此提供的图像处理方法不与任何特定计算机、虚拟系统或者其它设备固有相关。各种通用系统也可以与基于在此的示教一起使用。根据上面的描述,构造具有本发明方案的系统所要求的结构是显而易见的。此外,本发明也不针对任何特定编程语言。应当明白,可以利用各种编程语言实现在此描述的本发明的内容,并且上面对特定语言所做的描述是为了披露本发明的最佳实施方式。
在此处所提供的说明书中,说明了大量具体细节。然而,能够理解,本发明的实施例可以在没有这些具体细节的情况下实践。在一些实例中,并未详细示出公知的方法、结构和技术,以便不模糊对本说明书的理解。
类似地,应当理解,为了精简本发明并帮助理解各个发明方面中的一个或多个,在上面对本发明的示例性实施例的描述中,本发明的各个特征有时被一起分组到单个实施例、图、或者对其的描述中。然而,并不应将该公开的方法解释成反映如下意图:即所要求保护的本发明要求比在每个权利要求中所明确记载的特征更多的特征。更确切地说,如权利要求书所反映的那样,发明方面在于少于前面公开的单个实施例的所有特征。因此,遵循具体实施方式的权利要求书由此明确地并入该具体实施方式,其中每个权利要求本身都作为本发明的单独实施例。
本领域那些技术人员可以理解,可以对实施例中的设备中的模块进行自适应性地改变并且把它们设置在与该实施例不同的一个或多个设备中。可以把实施例中的模块或单元或组件组合成一个模块或单元或组件,以及此外可以把它们分成多个子模块或子单元或子组件。除了这样的特征和/或过程或者单元中的至少一些是相互排斥之外,可以采用任何组合对本说明书(包括伴随的权利要求、摘要和附图)中公开的所有特征以及如此公开的任何方法或者设备的所有过程或单元进行组合。除非另外明确陈述,本说明书(包括伴随的权利要求、摘要和附图)中公开的每个特征可以由提供相同、等同或相似目的的替代特征来代替。
此外,本领域的技术人员能够理解,尽管在此所述的一些实施例包括其它实施例中所包括的某些特征而不是其它特征,但是不同实施例的特征的组合意味着处于本发明的范围之内并且形成不同的实施例。例如,在权利要求书中,所要求保护的实施例的任意之一都可以以任意的组合方式来使用。
本发明的各个部件实施例可以以硬件实现,或者以在一个或者多个处理器上运行的软件模块实现,或者以它们的组合实现。本领域的技术人员应当理解,可以在实践中使用微处理器或者数字信号处理器(DSP)来实现根据本发明实施例的图像处理方法中的一些或者全部部件的一些或者全部功能。本发明还可以实现为用于执行这里所描述的方法的一部分或者全部的设备或者装置程序(例如,计算机程序和计算机程序产品)。这样的实现本发明的程序可以存储在计算机可读介质上,或者可以具有一个或者多个信号的形式。这样的信号可以从因特网网站上下载得到,或者在载体信号上提供,或者以任何其他形式提供。
应该注意的是上述实施例对本发明进行说明而不是对本发明进行限制,并且本领域技术人员在不脱离所附权利要求的范围的情况下可设计出替换实施例。在权利要求中,不应将位于括号之间的任何参考符号构造成对权利要求的限制。单词“包含”不排除存在未列在权利要求中的元件或步骤。位于元件之前的单词“一”或“一个”不排除存在多个这样的元件。本发明可以借助于包括有若干不同元件的硬件以及借助于适当编程的计算机来实现。在列举了若干装置的单元权利要求中,这些装置中的若干个可以是通过同一个硬件项来具体体现。单词第一、第二、以及第三等的使用不表示任何顺序。可将这些单词解释为名称。