CN115409719A - 数据处理方法、装置、终端设备及计算机可读存储介质 - Google Patents
数据处理方法、装置、终端设备及计算机可读存储介质 Download PDFInfo
- Publication number
- CN115409719A CN115409719A CN202110591684.7A CN202110591684A CN115409719A CN 115409719 A CN115409719 A CN 115409719A CN 202110591684 A CN202110591684 A CN 202110591684A CN 115409719 A CN115409719 A CN 115409719A
- Authority
- CN
- China
- Prior art keywords
- data
- processing
- feature
- image
- processed
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000003672 processing method Methods 0.000 title abstract description 20
- 238000012545 processing Methods 0.000 claims abstract description 137
- 238000000034 method Methods 0.000 claims abstract description 43
- 238000005070 sampling Methods 0.000 claims abstract description 31
- 238000000605 extraction Methods 0.000 claims abstract description 22
- 238000007499 fusion processing Methods 0.000 claims abstract description 20
- 230000008569 process Effects 0.000 claims abstract description 18
- 238000012549 training Methods 0.000 claims description 32
- 238000004590 computer program Methods 0.000 claims description 19
- 238000007906 compression Methods 0.000 claims description 17
- 230000006835 compression Effects 0.000 claims description 16
- 238000012360 testing method Methods 0.000 claims description 13
- 238000013527 convolutional neural network Methods 0.000 claims description 7
- 230000007246 mechanism Effects 0.000 claims description 7
- 230000004927 fusion Effects 0.000 claims description 5
- 230000006837 decompression Effects 0.000 abstract description 13
- 230000006870 function Effects 0.000 description 11
- 238000010586 diagram Methods 0.000 description 9
- 230000004044 response Effects 0.000 description 5
- 238000004422 calculation algorithm Methods 0.000 description 4
- 230000000694 effects Effects 0.000 description 4
- 230000005540 biological transmission Effects 0.000 description 3
- 230000008878 coupling Effects 0.000 description 3
- 238000010168 coupling process Methods 0.000 description 3
- 238000005859 coupling reaction Methods 0.000 description 3
- 238000005457 optimization Methods 0.000 description 3
- 238000004364 calculation method Methods 0.000 description 2
- 238000004891 communication Methods 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 238000011084 recovery Methods 0.000 description 2
- ORILYTVJVMAKLC-UHFFFAOYSA-N Adamantane Natural products C1C(C2)CC3CC1CC2C3 ORILYTVJVMAKLC-UHFFFAOYSA-N 0.000 description 1
- 208000037170 Delayed Emergence from Anesthesia Diseases 0.000 description 1
- 230000003213 activating effect Effects 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000003993 interaction Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000011176 pooling Methods 0.000 description 1
- 238000007781 pre-processing Methods 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/73—Deblurring; Sharpening
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/70—Denoising; Smoothing
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10016—Video; Image sequence
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20081—Training; Learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20084—Artificial neural networks [ANN]
Landscapes
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Image Processing (AREA)
Abstract
本申请适用于数据处理技术领域,提供了一种数据处理方法、装置、终端设备及计算机可读存储介质,方法包括:获取待处理数据,待处理数据包括多帧图像;对待处理数据进行去模糊处理、降采样处理和特征提取处理,得到第一特征数据;对第一特征数据进行特征对齐处理和特征融合处理,得到第二特征数据;对第二特征数据进行特征重建处理和上采样处理,得到重建上采样结果;将重建上采样结果与多帧图像中的参考图像进行叠加处理,得到去压缩模糊图像。本申请能够减小去压缩模糊处理过程中的计算量及去压缩模糊图像的噪声,使得去压缩模糊图像的纹理结构更为精确,提高图像数据去压缩模糊处理效率。
Description
技术领域
本申请属于数据处理技术领域,尤其涉及一种数据处理方法、装置、终端设备及计算机可读存储介质。
背景技术
随着科学技术的发展,图像、视频数据逐渐成为了人们生活中最重要的信息传播载体。
在进行图像、视频传输的过程中,由于图像、视频的信息量大,所占用的存储空间较大。因此,人们通常会在传输时对图像或视频数据进行压缩,减小数据传输成本。然而,压缩处理会给图像、视频数据带来一定的压缩噪声,使得压缩后的图像、视频的清晰度下降等。
相关的图像、视频优化处理方法存在计算量大、处理效率较低、处理后的视频、图像数据的噪声较大、纹理结构不精确等问题。
发明内容
本申请实施例提供了一种数据处理方法、装置、终端设备及计算机可读存储介质,可以解决相关的图像、视频优化处理方法存在计算量大、处理效率较低、处理后的视频、图像数据的噪声较大、纹理结构不精确等问题。
第一方面,本申请实施例提供了一种数据处理方法,包括:
获取待处理数据,待处理数据包括多帧图像,多帧图像为采用互不相同的图像大小压缩比例对图像大小相同的多个原始图像进行压缩得到的;
对待处理数据进行去模糊处理、降采样处理和特征提取处理,得到第一特征数据;
对第一特征数据进行特征对齐处理和特征融合处理,得到第二特征数据;
对第二特征数据进行特征重建处理和上采样处理,得到重建上采样结果;
将重建上采样结果与多帧图像中的参考图像进行叠加处理,得到去压缩模糊图像。
第二方面,本申请实施例提供了一种数据处理装置,包括:
第一获取模块,用于获取待处理数据,待处理数据包括多帧图像,多帧图像为采用互不相同的图像大小压缩比例对图像大小相同的多个原始图像进行压缩得到的;
提取模块,用于对待处理数据进行去模糊处理、降采样处理和特征提取处理,得到第一特征数据;
融合处理模块,用于对第一特征数据进行特征对齐处理和特征融合处理,得到第二特征数据;
重建模块,用于对第二特征数据进行特征重建处理和上采样处理,得到重建上采样结果;
叠加处理模块,用于将重建上采样结果与多帧图像中的参考图像进行叠加处理,得到去压缩模糊图像。
第三方面,本申请实施例提供了一种终端设备,终端设备包括存储器、处理器以及存储在存储器中并可在处理器上运行的计算机程序,处理器执行计算机程序时实现如上述第一方面中任一项的数据处理方法。
第四方面,本申请实施例提供了一种计算机可读存储介质,计算机可读存储介质存储有计算机程序,计算机程序被处理器执行时实现如上述第一方面中任一项的数据处理方法。
第五方面,本申请实施例提供了一种计算机程序产品,当计算机程序产品在终端设备上运行时,使得终端设备执行上述第一方面中任一项的数据处理方法。
本申请实施例通过多次特征提取得到待处理数据对应的第二特征数据,并对第二特征数据进行特征重建处理和上采样处理,得到重建上采样结果,将重建上采样结果与待处理数据中的参考图像进行叠加处理,得到去压缩模糊图像,减小了去压缩模糊处理过程中的计算量及去压缩模糊图像的噪声,使得去压缩模糊图像的纹理结构更为精确,提高了图像数据去压缩模糊处理效率。
可以理解的是,上述第二方面至第五方面的有益效果可以参见上述第一方面中的相关描述,在此不再赘述。
附图说明
为了更清楚地说明本申请实施例中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1是本申请实施例提供的数据处理方法的流程示意图;
图2是本申请实施例提供的数据处理方法的去压缩模糊图像的示意图;
图3是本申请实施例提供的数据处理方法步骤S102的流程示意图;
图4是本申请实施例提供的已训练的分级注意力网络模型的结构示意图;
图5是本申请实施例提供的基于已训练的分级注意力网络模型或EDVR模型获得的去压缩模糊图像的另一示意图;
图6是本申请实施例提供的数据处理方法步骤S105的流程示意图;
图7是本申请实施例提供的数据处理装置的结构示意图;
图8是本申请实施例提供的终端设备的结构示意图。
具体实施方式
以下描述中,为了说明而不是为了限定,提出了诸如特定系统结构、技术之类的具体细节,以便透彻理解本申请实施例。然而,本领域的技术人员应当清楚,在没有这些具体细节的其它实施例中也可以实现本申请。在其它情况中,省略对众所周知的系统、装置、电路以及方法的详细说明,以免不必要的细节妨碍本申请的描述。
应当理解,当在本申请说明书和所附权利要求书中使用时,术语“包括”指示所描述特征、整体、步骤、操作、元素和/或组件的存在,但并不排除一个或多个其它特征、整体、步骤、操作、元素、组件和/或其集合的存在或添加。
还应当理解,在本申请说明书和所附权利要求书中使用的术语“和/或”是指相关联列出的项中的一个或多个的任何组合以及所有可能组合,并且包括这些组合。
如在本申请说明书和所附权利要求书中所使用的那样,术语“如果”可以依据上下文被解释为“当...时”或“一旦”或“响应于确定”或“响应于检测到”。类似地,短语“如果确定”或“如果检测到[所描述条件或事件]”可以依据上下文被解释为意指“一旦确定”或“响应于确定”或“一旦检测到[所描述条件或事件]”或“响应于检测到[所描述条件或事件]”。
另外,在本申请说明书和所附权利要求书的描述中,术语“第一”、“第二”、“第三”等仅用于区分描述,而不能理解为指示或暗示相对重要性。
在本申请说明书中描述的参考“一个实施例”或“一些实施例”等意味着在本申请的一个或多个实施例中包括结合该实施例描述的特定特征、结构或特点。由此,在本说明书中的不同之处出现的语句“在一个实施例中”、“在一些实施例中”、“在其他一些实施例中”、“在另外一些实施例中”等不是必然都参考相同的实施例,而是意味着“一个或多个但不是所有的实施例”,除非是以其他方式另外特别强调。术语“包括”、“包含”、“具有”及它们的变形都意味着“包括但不限于”,除非是以其他方式另外特别强调。
本申请实施例提供的数据处理方法可以应用于手机、平板电脑、笔记本电脑等终端设备上,本申请实施例对终端设备的具体类型不作任何限制。
图1示出了本申请提供的数据处理方法的示意性流程图,作为示例而非限定,该方法可以应用于上述笔记本电脑中。
S101、获取待处理数据,待处理数据包括多帧图像,多帧图像为采用互不相同的图像大小压缩比例对图像大小相同的多个原始图像进行压缩得到的。
其中,多帧图像可以是视频中帧数连续的若干个图像,在此不作限定。
具体地,获取需要进行去模糊处理的待处理数据。其中,待处理数据不限于多帧图像。
例如,设定待处理数据为多组由5帧连续图像构成的组合。以多帧图像作为输入数据,可以减少在实际对包含多帧图像数据进行去模糊处理的过程中,出现的图像闪烁问题。
S102、对待处理数据进行去模糊处理、降采样处理和特征提取处理,得到第一特征数据。
具体地,对待处理数据进行预处理,提取待处理数据的第一特征数据。其中,预处理方式包括但不限于去模糊处理、降采样处理及特征提取处理。
S103、对第一特征数据进行特征对齐处理和特征融合处理,得到第二特征数据。
具体地,将提取到的待处理数据的第一特征数据进行特征对齐处理,并将对齐处理后的第一特征数据进行特征融合处理,得到融合处理后的第二特征数据。
S104、对第二特征数据进行特征重建处理和上采样处理,得到重建上采样结果。
具体地,通过已训练的网络模型对第二特征数据进行特征重建处理和上采样处理(即对融合后的特征数据进行进一步优化),得到对应的重建上采样结果。其中,上述网络模型包括但不限于分级注意力网络模型。
通过特征重建处理和上采样处理,能够减少在对包含多帧图像数据进行去模糊处理后,产生的纹理细节扭曲、不精确等问题。
S105、将重建上采样结果与多帧图像中的参考图像进行叠加处理,得到去压缩模糊图像。
具体地,将上述网络模型输出的重建上采样结果与多帧图像中的参考图像进行叠加处理,使得重建上采样结果与多帧图像中的参考图像融合,提高图像数据的清晰度,得到去压缩模糊图像。参考图像是指从多帧图像中选取的满足预设条件的一帧图像数据。预设条件可根据实际需求进行具体设定。
本实施例通过多次特征提取得到待处理数据的第二特征数据,并对第二特征数据进行特征重建处理和上采样处理,得到重建上采样结果,将重建上采样结果与待处理数据中的参考图像进行叠加处理,得到去压缩模糊图像,减小了去压缩模糊处理过程中的计算量及去压缩模糊图像的噪声,使得去压缩模糊图像的纹理结构更为精确,提高了图像数据去压缩模糊处理效率。
如图2所示,提供了一种数据处理方法的去压缩模糊图像的示意图。
如图3所示,在一个实施例中,步骤S102,包括:
S1021、将待处理数据输入去模糊网络中进行去模糊处理,输出第一特征信息;
其中,去模糊网络中存储由去模糊算法,采用去模糊算法对待处理数据进行处理,得到第一特征信息,去模糊算法可以是DeblurGAN、SRN-DeblurNet、DeblurGAN-v2、EDVR、PSS-NSC等。
S1022、对第一特征信息进行N倍下采样处理,得到下采样特征信息,N为大于1的整数;
S1023、通过多个堆叠的残差模块对下采样特征信息进行特征提取处理,得到第一特征数据。
具体地,将待处理数据输入去模糊网络中,对待处理数据进行去模糊处理,输出第一特征信息,对第一特征信息进行N倍的下采样处理,得到下采样特征信息,并通过多个堆叠的残差模块对下采样特征信息进行特征提取处理,得到待处理数据的第一特征数据。其中,第一特征信息的分辨率与待处理数据的分辨率一致。
其中,设定去模糊网络模型的网络结构与基于可形变卷积的视频恢复、去模糊、超分网络模型(EDVR)中去模糊处理模块的结构相同,设定特征通道数为128。下采样处理的倍数N和堆叠的残差模块的个数可根据实际需求及进行具体设定,其中N为大于1的整数。
在本实施例中,为提高特征提取效率,减小模型的计算量,可设定下采样处理的倍数N为4。堆叠的残差模块的个数为5。
通过多重的特征提取处理,减小了对多帧图像进行去模糊处理的计算量,提高了处理效率。
在一个实施例中,步骤S103,包括:
通过金字塔级联和可变形模块对第一特征数据进行特征对齐处理,得到第二特征信息;
通过特征融合模块对第二特征信息进行特征融合处理,得到第二特征数据。
具体地,通过金字塔级联和可变形(PyramidCascading andDeformableconvolution,PCD)模块对第一特征数据进行特征对齐处理,得到第二特征信息。通过特征融合模块对第二特征信息进行特征融合处理,得到融合后的第二特征数据,以提高去压缩模糊图像中纹理结构的准确性。其中,上述可变形模块的结构具体与基于可形变卷积的视频恢复、去模糊、超分网络模型中的特征对齐模块的结构相同。
在一个实施例中,对第二特征数据进行特征重建处理和上采样处理,得到重建上采样结果,包括:
将第二特征数据输入已训练的分级注意力网络模型进行特征重建处理,输出重建结果;
对重建结果进行N倍上采样处理,得到重建上采样结果。
具体地,通过已训练的分级注意力网络模型对第二特征数据进行特征重建处理时,对第二特征数据进行优化,使优化后的第二特征数据更接近于多帧图像与中间帧相邻距离更近的图像帧的特征数据,获得输出的重建结果,进一步减少去模糊处理的过程中出现的闪烁问题,并再次对重建结果进行N倍上采样处理,得到重建上采样结果,使得上采样处理后的重建上采样结果与输入的待处理数据的分辨率一致)。
在一个实施例中,已训练的分级注意力网络模型包括分级卷积神经网络模型和通道注意力机制模型。
具体地,已训练的分级注意力网络模型包括分级卷积神经网络模型和通道注意力机制模型。设定已训练的分级注意力网络模型中采用L1函数作为损失函数,采用Adam优化器实现回归网络的优化。
具体地,已训练的分级注意力网络模型中的损失函数L1可表示为:
其中,p表示已训练的分级注意力网络模型的输出结果;y表示已训练的分级注意力网络模型的输入数据。H表示输出结果的高,W表示输出结果的宽,C表示已训练的分级注意力网络模型的通道数。
如图4所示,提供了一种已训练的分级注意力网络模型的结构示意图。
图4中,所提供的已训练的分级注意力网络模型为:由1个卷积神经网络模型分别与1个分级卷积神经网络模型、一个通道注意力机制模型和另1个卷积神经网络模型顺次连接构成的模型。其中,通道注意力机制模型包括平均池化层、线性激活函数(linearSigmoid)、线性整流函数(Rectified Linear Unit,ReLU)和特征融合函数(concat)。
即:已训练的分级注意力网络模型的结构与基于可形变卷积的视频恢复、去模糊、超分网络模型EDVR中的框架类似,大部分模块的参数设定与EDVR模型的参数相同。区别点在于:已训练的分级注意力网络模型中的用于重建的模块是分级卷积和通道注意力机制构建的残差块堆叠24次构成,以此缩减了模型的参数量,进而减小了模型的计算量。
表1
表1提供了一种基于已训练的分级注意力网络模型或EDVR模型进行去模糊处理的效果对比表,具体为:以训练数据集为Reds训练集,测试数据集为Reds测试集,基于已训练的分级注意力网络模型与EDVR模型,生成处理结果为1280x720px的视频帧的效果对比表。根据表1可以看出,在已训练的分级注意力网络模型的参数量小于EDVR模型的情况下,已训练的分级注意力网络模型的去模糊处理的效果更好,推理速度更快。
如图5所示,提供了一种基于已训练的分级注意力网络模型或EDVR模型获得的去压缩模糊图像的另一示意图。
如图6所示,在一个实施例中,步骤S105,包括:
S1051、从多帧图像中选取满足预设条件的参考图像;
S1052、对重建上采样结果与参考图像进行叠加处理,得到去压缩模糊图像。
具体地,从多帧图像中选取满足预设条件的参考图像,将重建上采样结果与参考图像进行叠加处理,得到去压缩模糊图像。
具体地,预设条件可根据实际情况进行具体设定,例如设定以多帧图像中的中间帧图像作为参考图像;或者,以多帧图像中的最初一帧图像作为参考图像。
在一个实施例中,获取待处理数据之前,上述方法还包括:
获取多个模糊图像和多个清晰图像,多个模糊图像和多个清晰图像一一对应;
将多个模糊图像划分为多组训练数据和测试数据集,采用互不相同的多个图像大小压缩比例对多组训练数据进行压缩处理,得到训练数据集,每组训练数据包含多帧连续模糊图像;
根据训练数据集、测试数据集和多个清晰图像对未训练的分级注意力网络模型进行训练,得到已训练的分级注意力网络模型。
具体地,获取多个模糊图像数据和一一对应的多个清晰图像数据,将多个模糊图像划分为多组训练数据和测试数据集(测试数据集包含多组测试数据,每组测试数据包含多帧连续模糊图像,每组训练数据包含多帧连续模糊图像)。(其中,训练数据组中的多帧连续模糊图像的帧数,根据待处理数据中图像数据的帧数进行具体设定;例如,设定待处理图像为5帧连续图像时,对应的每组训练数据包含5帧连续模糊图像),基于互不相同的多个图像大小压缩比例,通过多媒体处理工具(如ffmpeg)对多组训练数据进行压缩处理,得到对应的训练数据集。并以多个清晰图像数据为标签,通过训练数据集和测试数据集对分级注意力网络模型进行训练,得到已训练后的分级注意力网络模型。其中,清晰图像是指未经过模糊处理或压缩处理的清晰度高的图像数据。模糊图像是指经过融合处理后的清晰度低的图像数据。
具体地,训练过程中,多帧连续模糊图像中的中间帧模糊图像作为参考模糊图像,并对参考模糊图像进行裁剪,将裁剪后的参考模糊图像作为输入数据输入至分级注意力网络模型,以与参考模糊图像对应的清晰图像作为标签,对分级注意力网络模型进行训练。
本实施例通过以互不相同的多个图像大小压缩比例对模糊图像进行压缩处理后的训练数据集进行训练,得到的已训练后的分级注意力网络模型,提高了已训练后的分级注意力网络模型的泛化性能,使得已训练后的分级注意力网络模型能够消除由不同图像大小压缩比例带来的压缩噪声。
应理解,上述实施例中各步骤的序号的大小并不意味着执行顺序的先后,各过程的执行顺序应以其功能和内在逻辑确定,而不应对本申请实施例的实施过程构成任何限定。
对应于上文实施例的数据处理方法,图7示出了本申请实施例提供的数据处理装置的结构框图,为了便于说明,仅示出了与本申请实施例相关的部分。
参照图7,该数据处理装置100包括:
第一获取模块101,用于获取待处理数据,待处理数据包括多帧图像,多帧图像为采用互不相同的图像大小压缩比例对图像大小相同的多个原始图像进行压缩得到的;
提取模块102,用于对待处理数据进行去模糊处理、降采样处理和特征提取处理,得到第一特征数据;
融合处理模块103,用于对第一特征数据进行特征对齐处理和特征融合处理,得到第二特征数据;
重建模块104,用于对第二特征数据进行特征重建处理和上采样处理,得到重建上采样结果;
叠加处理模块105,用于将重建上采样结果与多帧图像中的参考图像进行叠加处理,得到去压缩模糊图像。
在一个实施例中,提取模块102包括:
去模糊处理单元,用于将待处理数据输入去模糊网络中进行去模糊处理,输出第一特征信息;
第一下采样处理单元,用于对第一特征信息进行N倍下采样处理,得到下采样特征信息,N为大于1的整数;
特征提取单元,用于通过多个堆叠的残差模块对下采样特征信息进行特征提取处理,得到第一特征数据。
在一个实施例中,融合处理模块103包括:
特征对齐处理单元,用于通过金字塔级联和可变形模块对第一特征数据进行特征对齐处理,得到第二特征信息;
特征融合处理单元,用于通过特征融合模块对第二特征信息进行特征融合处理,得到第二特征数据。
在一个实施例中,重建模块104包括:
特征重建处理单元,用于将第二特征数据输入已训练的分级注意力网络模型进行特征重建处理,输出重建结果;
第二下采样处理单元,用于对重建结果进行N倍上采样处理,得到重建上采样结果。
在一个实施例中,已训练的分级注意力网络模型包括分级卷积神经网络模型和通道注意力机制模型。
在一个实施例中,叠加处理模块105包括:
选取单元,用于从多帧图像中选取满足预设条件的参考图像;
叠加处理单元,用于对重建上采样结果与参考图像进行叠加处理,得到去压缩模糊图像。
在一个实施例中,数据处理装置还包括:
获取模块,用于获取多个模糊图像和多个清晰图像,多个模糊图像和多个清晰图像一一对应;
压缩处理模块,用于将多个模糊图像划分为多组训练数据和测试数据集,采用互不相同的多个图像大小压缩比例对多组训练数据进行压缩处理,得到训练数据集,每组训练数据包含多帧连续模糊图像;
训练模块,用于根据训练数据集、测试数据集和多个清晰图像对未训练的分级注意力网络模型进行训练,得到已训练的分级注意力网络模型。
本实施例通过多次特征提取得到待处理数据对应的第二特征数据,并对第二特征数据进行特征重建处理和上采样处理,得到重建上采样结果,将重建上采样结果与待处理数据中的参考图像进行叠加处理,得到去压缩模糊图像,减小了去压缩模糊处理过程中的计算量及去压缩模糊图像的噪声,使得去压缩模糊图像的纹理结构更为精确,提高了图像数据去压缩模糊处理效率。
需要说明的是,上述装置/单元之间的信息交互、执行过程等内容,由于与本申请方法实施例基于同一构思,其具体功能及带来的技术效果,具体可参见方法实施例部分,此处不再赘述。
图8为本实施例提供的终端设备的结构示意图。如图8所示,该实施例的终端设备8包括:至少一个处理器80(图8中仅示出一个)、存储器81以及存储在存储器81中并可在至少一个处理器80上运行的计算机程序82,处理器80执行计算机程序82时实现上述任意各个数据处理方法实施例中的步骤。
终端设备8可以是桌上型计算机、笔记本、掌上电脑及云端服务器等计算设备。该终端设备可包括,但不仅限于,处理器80、存储器81。本领域技术人员可以理解,图8仅仅是终端设备8的举例,并不构成对终端设备8的限定,可以包括比图示更多或更少的部件,或者组合某些部件,或者不同的部件,例如还可以包括输入输出设备、网络接入设备等。
所称处理器80可以是中央处理单元(Central Processing Unit,CPU),该处理器80还可以是其他通用处理器、数字信号处理器(Digital Signal Processor,DSP)、专用集成电路(Application Specific Integrated Circuit,ASIC)、现成可编程门阵列(Field-Programmable Gate Array,FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。
存储器81在一些实施例中可以是终端设备8的内部存储单元,例如终端设备8的硬盘或内存。存储器81在另一些实施例中也可以是终端设备8的外部存储设备,例如终端设备8上配备的插接式硬盘,智能存储卡(Smart Media Card,SMC),安全数字卡(SecureDigital,SD),闪存卡(Flash Card)等。进一步地,存储器81还可以既包括终端设备8的内部存储单元也包括外部存储设备。存储器81用于存储操作系统、应用程序、引导装载程序(BootLoader)、数据以及其他程序等,例如计算机程序的程序代码等。存储器81还可以用于暂时地存储已经输出或者将要输出的数据。
所属领域的技术人员可以清楚地了解到,为了描述的方便和简洁,仅以上述各功能单元、模块的划分进行举例说明,实际应用中,可以根据需要而将上述功能分配由不同的功能单元、模块完成,即将装置的内部结构划分成不同的功能单元或模块,以完成以上描述的全部或者部分功能。实施例中的各功能单元、模块可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中,上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。另外,各功能单元、模块的具体名称也只是为了便于相互区分,并不用于限制本申请的保护范围。上述系统中单元、模块的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。
本申请实施例还提供了一种计算机可读存储介质,计算机可读存储介质存储有计算机程序,计算机程序被处理器执行时实现可实现上述各个方法实施例中的步骤。
本申请实施例提供了一种计算机程序产品,当计算机程序产品在移动终端上运行时,使得移动终端执行时实现可实现上述各个方法实施例中的步骤。
集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本申请实现上述实施例方法中的全部或部分流程,可以通过计算机程序来指令相关的硬件来完成,的计算机程序可存储于一计算机可读存储介质中,该计算机程序在被处理器执行时,可实现上述各个方法实施例的步骤。其中,计算机程序包括计算机程序代码,计算机程序代码可以为源代码形式、对象代码形式、可执行文件或某些中间形式等。计算机可读介质至少可以包括:能够将计算机程序代码携带到拍照装置/终端设备的任何实体或装置、记录介质、计算机存储器、只读存储器(ROM,Read-Only Memory)、随机存取存储器(RAM,Random Access Memory)、电载波信号、电信信号以及软件分发介质。例如U盘、移动硬盘、磁碟或者光盘等。在某些司法管辖区,根据立法和专利实践,计算机可读介质不可以是电载波信号和电信信号。
在上述实施例中,对各个实施例的描述都各有侧重,某个实施例中没有详述或记载的部分,可以参见其它实施例的相关描述。
本领域普通技术人员可以意识到,结合本文中所公开的实施例描述的各示例的单元及算法步骤,能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟以硬件还是软件方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本申请的范围。
在本申请所提供的实施例中,应该理解到,所揭露的装置/网络设备和方法,可以通过其它的方式实现。例如,以上所描述的装置/网络设备实施例仅仅是示意性的,例如,模块或单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通讯连接可以是通过一些接口,装置或单元的间接耦合或通讯连接,可以是电性,机械或其它的形式。
作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
以上实施例仅用以说明本申请的技术方案,而非对其限制;尽管参照前述实施例对本申请进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本申请各实施例技术方案的精神和范围,均应包含在本申请的保护范围之内。
Claims (10)
1.一种数据处理方法,其特征在于,包括:
获取待处理数据,所述待处理数据包括多帧图像,所述多帧图像为采用互不相同的图像大小压缩比例对图像大小相同的多个原始图像进行压缩得到的;
对所述待处理数据进行去模糊处理、降采样处理和特征提取处理,得到第一特征数据;
对所述第一特征数据进行特征对齐处理和特征融合处理,得到第二特征数据;
对所述第二特征数据进行特征重建处理和上采样处理,得到重建上采样结果;
将所述重建上采样结果与所述多帧图像中的参考图像进行叠加处理,得到去压缩模糊图像。
2.如权利要求1所述的方法,其特征在于,所述对所述待处理数据进行去模糊处理、降采样处理和特征提取处理,得到第一特征数据,包括:
将所述待处理数据输入去模糊网络中进行去模糊处理,输出第一特征信息;
对所述第一特征信息进行N倍下采样处理,得到下采样特征信息,所述N为大于1的整数;
通过多个堆叠的残差模块对所述下采样特征信息进行特征提取处理,得到第一特征数据。
3.如权利要求2所述的方法,其特征在于,所述对所述第一特征数据进行特征对齐处理和特征融合处理,得到第二特征数据,包括:
通过金字塔级联和可变形模块对所述第一特征数据进行特征对齐处理,得到第二特征信息;
通过特征融合模块对所述第二特征信息进行特征融合处理,得到第二特征数据。
4.如权利要求3所述的方法,其特征在于,所述对所述第二特征数据进行特征重建处理和上采样处理,得到重建上采样结果,包括:
将所述第二特征数据输入已训练的分级注意力网络模型进行特征重建处理,输出重建结果;
对所述重建结果进行N倍上采样处理,得到重建上采样结果。
5.如权利要求4所述的方法,其特征在于,所述已训练的分级注意力网络模型包括分级卷积神经网络模型和通道注意力机制模型。
6.如权利要求5所述的方法,其特征在于,所述将所述重建上采样结果与所述多帧图像中的参考图像进行叠加处理,得到去压缩模糊图像,包括:
从所述多帧图像中选取满足预设条件的参考图像;
对所述重建上采样结果与所述参考图像进行叠加处理,得到去压缩模糊图像。
7.如权利要求1至6任一项所述的方法,其特征在于,所述获取待处理数据之前,所述方法还包括:
获取多个模糊图像和多个清晰图像,所述多个模糊图像和所述多个清晰图像一一对应;
将所述多个模糊图像划分为多组训练数据和测试数据集,采用互不相同的多个图像大小压缩比例对所述多组训练数据进行压缩处理,得到训练数据集,每组训练数据包含多帧连续模糊图像;
根据所述训练数据集、所述测试数据集和所述多个清晰图像对未训练的分级注意力网络模型进行训练,得到已训练的分级注意力网络模型。
8.一种数据处理装置,其特征在于,包括:
第一获取模块,用于获取待处理数据,所述待处理数据包括多帧图像,所述多帧图像为采用互不相同的图像大小压缩比例对图像大小相同的多个原始图像进行压缩得到的;
提取模块,用于对所述待处理数据进行去模糊处理、降采样处理和特征提取处理,得到第一特征数据;
融合处理模块,用于对所述第一特征数据进行特征对齐处理和特征融合处理,得到第二特征数据;
重建模块,用于对所述第二特征数据进行特征重建处理和上采样处理,得到重建上采样结果;
叠加处理模块,用于将所述重建上采样结果与所述多帧图像中的参考图像进行叠加处理,得到去压缩模糊图像。
9.一种终端设备,其特征在于,所述终端设备包括存储器、处理器以及存储在所述存储器中并可在所述处理器上运行的计算机程序,所述处理器执行所述计算机程序时实现如权利要求1至7任一项所述的方法。
10.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质存储有计算机程序,所述计算机程序被处理器执行时实现如权利要求1至7任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110591684.7A CN115409719A (zh) | 2021-05-28 | 2021-05-28 | 数据处理方法、装置、终端设备及计算机可读存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110591684.7A CN115409719A (zh) | 2021-05-28 | 2021-05-28 | 数据处理方法、装置、终端设备及计算机可读存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN115409719A true CN115409719A (zh) | 2022-11-29 |
Family
ID=84154794
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110591684.7A Pending CN115409719A (zh) | 2021-05-28 | 2021-05-28 | 数据处理方法、装置、终端设备及计算机可读存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN115409719A (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116233626A (zh) * | 2023-05-05 | 2023-06-06 | 荣耀终端有限公司 | 图像处理方法、装置及电子设备 |
-
2021
- 2021-05-28 CN CN202110591684.7A patent/CN115409719A/zh active Pending
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116233626A (zh) * | 2023-05-05 | 2023-06-06 | 荣耀终端有限公司 | 图像处理方法、装置及电子设备 |
CN116233626B (zh) * | 2023-05-05 | 2023-09-15 | 荣耀终端有限公司 | 图像处理方法、装置及电子设备 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11861816B2 (en) | System and method for detecting image forgery through convolutional neural network and method for providing non-manipulation detection service using the same | |
CN108921806B (zh) | 一种图像处理方法、图像处理装置及终端设备 | |
CN112862681B (zh) | 一种超分辨率方法、装置、终端设备及存储介质 | |
CN107563974B (zh) | 图像去噪方法、装置、电子设备及存储介质 | |
US20230252605A1 (en) | Method and system for a high-frequency attention network for efficient single image super-resolution | |
CN112602088A (zh) | 提高弱光图像的质量的方法、系统和计算机可读介质 | |
CN111932480A (zh) | 去模糊视频恢复方法、装置、终端设备以及存储介质 | |
CN111709879B (zh) | 图像处理方法、图像处理装置及终端设备 | |
CN112700460A (zh) | 图像分割方法及系统 | |
CN116071279A (zh) | 图像处理方法、装置、计算机设备和存储介质 | |
CN115409719A (zh) | 数据处理方法、装置、终端设备及计算机可读存储介质 | |
CN114758145A (zh) | 一种图像脱敏方法、装置、电子设备及存储介质 | |
CN111582353B (zh) | 一种图像特征检测方法、系统、设备以及介质 | |
CN110880160B (zh) | 图片帧超分方法、装置、终端设备及计算机可读存储介质 | |
CN110738625B (zh) | 图像重采样方法、装置、终端及计算机可读存储介质 | |
CN111083479A (zh) | 一种视频帧预测方法、装置及终端设备 | |
US20230060988A1 (en) | Image processing device and method | |
CN113658050A (zh) | 一种图像的去噪方法、去噪装置、移动终端及存储介质 | |
CN113727050B (zh) | 面向移动设备的视频超分辨率处理方法、装置、存储介质 | |
CN112487943B (zh) | 关键帧去重的方法、装置和电子设备 | |
CN111383171A (zh) | 一种图片处理方法、系统及终端设备 | |
CN112995488B (zh) | 高解析度视频图像处理方法、装置及电子设备 | |
CN115631115B (zh) | 基于递归Transformer的动态图像复原方法 | |
CN113111891B (zh) | 一种图像重建方法、装置、终端设备和存储介质 | |
KR102337745B1 (ko) | 이중 도메인 뉴럴 네트워크 기반 영상 내 모아레 무늬 제거 장치 및 방법 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |