CN108921806A - 一种图像处理方法、图像处理装置及终端设备 - Google Patents
一种图像处理方法、图像处理装置及终端设备 Download PDFInfo
- Publication number
- CN108921806A CN108921806A CN201810889714.0A CN201810889714A CN108921806A CN 108921806 A CN108921806 A CN 108921806A CN 201810889714 A CN201810889714 A CN 201810889714A CN 108921806 A CN108921806 A CN 108921806A
- Authority
- CN
- China
- Prior art keywords
- image
- encoding encoder
- processed
- mentioned
- convolution self
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000012545 processing Methods 0.000 title claims abstract description 23
- 238000003672 processing method Methods 0.000 title claims abstract description 20
- 238000012549 training Methods 0.000 claims abstract description 115
- 238000000034 method Methods 0.000 claims abstract description 77
- 238000005070 sampling Methods 0.000 claims abstract description 68
- 230000008569 process Effects 0.000 claims abstract description 47
- 238000004590 computer program Methods 0.000 claims description 23
- 230000004927 fusion Effects 0.000 claims description 20
- 238000001514 detection method Methods 0.000 claims description 10
- 230000006870 function Effects 0.000 description 16
- 238000010586 diagram Methods 0.000 description 12
- 238000003062 neural network model Methods 0.000 description 12
- 238000004364 calculation method Methods 0.000 description 5
- 238000004422 calculation algorithm Methods 0.000 description 4
- 230000000694 effects Effects 0.000 description 4
- 230000004044 response Effects 0.000 description 4
- 238000004891 communication Methods 0.000 description 3
- 238000010168 coupling process Methods 0.000 description 3
- 238000005859 coupling reaction Methods 0.000 description 3
- 238000013528 artificial neural network Methods 0.000 description 2
- 230000008878 coupling Effects 0.000 description 2
- 238000013461 design Methods 0.000 description 2
- 230000005611 electricity Effects 0.000 description 2
- 238000000605 extraction Methods 0.000 description 2
- 239000000203 mixture Substances 0.000 description 2
- 238000001228 spectrum Methods 0.000 description 2
- 230000008859 change Effects 0.000 description 1
- 230000010485 coping Effects 0.000 description 1
- 238000012937 correction Methods 0.000 description 1
- 230000001419 dependent effect Effects 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 230000007613 environmental effect Effects 0.000 description 1
- 238000005242 forging Methods 0.000 description 1
- 238000003780 insertion Methods 0.000 description 1
- 230000037431 insertion Effects 0.000 description 1
- 238000009434 installation Methods 0.000 description 1
- 239000000463 material Substances 0.000 description 1
- 210000004218 nerve net Anatomy 0.000 description 1
- 238000005192 partition Methods 0.000 description 1
- 238000007670 refining Methods 0.000 description 1
- 238000000926 separation method Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/73—Deblurring; Sharpening
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/50—Image enhancement or restoration using two or more images, e.g. averaging or subtraction
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20212—Image combination
- G06T2207/20221—Image fusion; Image merging
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- General Health & Medical Sciences (AREA)
- General Engineering & Computer Science (AREA)
- Biophysics (AREA)
- Computational Linguistics (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- Artificial Intelligence (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- Biomedical Technology (AREA)
- Life Sciences & Earth Sciences (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Health & Medical Sciences (AREA)
- Compression Or Coding Systems Of Tv Signals (AREA)
- Image Processing (AREA)
- Image Analysis (AREA)
Abstract
本申请提供了一种图像处理方法、图像处理装置及终端设备,所述方法包括:获取待处理图像;检测所述待处理图像是否为模糊图像;若为模糊图像,则对所述待处理图像进行第一预设倍数的下采样,得到第一图像;将所述第一图像输入至训练后的第一卷积自编码器,得到第二图像,所述第二图像的图像清晰度大于所述第一图像的图像清晰度;对所述第二图像进行所述第一预设倍数的上采样,并与所述待处理图像进行融合,得到第三图像;将所述第三图像输入至训练后的第二卷积自编码器,得到最终处理图像,所述最终处理图像为图像清晰度大于或等于所述预设清晰度的图像。本申请给出了一种泛化能力较好的提高图像清晰度的方法。
Description
技术领域
本申请属于图像处理技术领域,尤其涉及一种图像处理方法、图像处理装置、终端设备及计算机可读存储介质。
背景技术
通常情况下,在用户使用终端设备(比如,手机)拍摄图像时,会由于拍摄时手部的抖动或者拍摄对象的运动,而使得拍摄出的图像较为模糊。传统的去除图像模糊(即提高图像清晰度)的方法是预先统计自然图像的统计特性,以获取自然图像的先验知识,然后基于预先获取的先验知识,提高待处理图像的图像清晰度,比如目前常用的基于零范数先验的图像去模糊算法和基于拉普拉斯先验的图像去模糊算法等。但是,用户的拍摄环境较为复杂,传统的基于先验知识去除图像模糊的方法泛化能力并不太好。
发明内容
有鉴于此,本申请提供了一种图像处理方法、图像处理装置、终端设备及计算机可读存储介质,给出了一种泛化能力较好的提高图像清晰度的方法。
本申请第一方面提供了一种图像处理方法,包括:
获取待处理图像;
检测上述待处理图像是否为模糊图像,上述模糊图像为图像清晰度小于预设清晰度的图像;
若上述待处理图像为模糊图像,则:
对上述待处理图像进行第一预设倍数的下采样,得到第一图像;
将上述第一图像输入至训练后的第一卷积自编码器,得到第二图像,上述第二图像的图像清晰度大于上述第一图像的图像清晰度;
对上述第二图像进行上述第一预设倍数的上采样,并与上述待处理图像进行融合,得到第三图像;
将上述第三图像输入至训练后的第二卷积自编码器,得到最终处理图像,上述最终处理图像为图像清晰度大于或等于上述预设清晰度的图像。
本申请第二方面提供了一种图像处理装置,包括:
图像获取模块,用于获取待处理图像;
模糊检测模块,用于检测上述待处理图像是否为模糊图像,上述模糊图像为图像清晰度小于预设清晰度的图像;
第一下采样模块,用于若上述待处理图像为模糊图像,则对上述待处理图像进行第一预设倍数的下采样,得到第一图像;
第一清晰度模块,用于将上述第一图像输入至训练后的第一卷积自编码器,得到第二图像,上述第二图像的图像清晰度大于上述第一图像的图像清晰度;
第一融合模块,用于对上述第二图像进行上述第一预设倍数的上采样,并与上述待处理图像进行融合,得到第三图像;
第二清晰度模块,用于将上述第三图像输入至训练后的第二卷积自编码器,得到最终处理图像,上述最终处理图像为图像清晰度大于或等于上述预设清晰度的图像。
本申请第三方面提供了一种终端设备,包括存储器、处理器以及存储在上述存储器中并可在上述处理器上运行的计算机程序,上述处理器执行上述计算机程序时实现如上述第一方面方法的步骤。
本申请第四方面提供了一种计算机可读存储介质,上述计算机可读存储介质存储有计算机程序,上述计算机程序被处理器执行时实现如上述第一方面方法的步骤。
本申请第五方面提供了一种计算机程序产品,上述计算机程序产品包括计算机程序,上述计算机程序被一个或多个处理器执行时实现如上述第一方面方法的步骤。
由上可见,本申请提供了一种图像处理方法。首先,获取待处理图像,比如用户通过手机摄像头所拍摄的图像,并检测该待处理图像是否为模糊图像,上述模糊图像为图像清晰度小于预设清晰度的图像,若检测到该待处理图像为模糊图像,则对该待处理图像进行第一预设倍数的下采样,得到第一图像;其次,将该第一图像输入至训练后的第一卷积自编码器,得到第二图像,该第一卷积自编码器为预先训练的用于提高图像清晰度的神经网络模型;然后,对上述第二图像进行上述第一预设倍数的上采样,并与上述待处理图像进行融合,得到第三图像;最后,将上述第三图像输入至训练后的第二卷积自编码器,得到最终处理图像,该第二卷积自编码器为预先训练的用于提高图像清晰度的神经网络模型,上述最终处理图像为图像清晰度大于或等于上述预设清晰度的图像。因此,本申请所提供的提高图像清晰度的方法是通过预先训练的神经网络模型(即训练后的第一卷积自编码器和训练后的第二卷积自编码器)实现的,在预先训练用于提高图像清晰度的神经网络模型时,若训练样本足够多,则训练后的神经网络模型能够学习到更多的导致图像模糊的图像特征,因此,利用训练后的神经网络模型对模糊图像进行处理相比于传统的基于先验知识对模糊图像进行处理的泛化能力更强。并且,本申请所提供的技术方案是在不同尺度上提高待处理图像的图像清晰度(即,首先对待处理图像进行下采样,得到第一图像,提高下采样后的第一图像的图像清晰度,得到第二图像,然后再对第二图像进行上采样并与待处理图像融合,得到第三图像,最后提高第三图像的图像清晰度,得到最终处理图像),因此,可以比单尺度去模糊效果更好,泛化能力更强。
附图说明
为了更清楚地说明本申请实施例中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动性的前提下,还可以根据这些附图获得其它的附图。
图1是本申请实施例一提供的一种图像处理方法的实现流程示意图;
图2是本申请实施例一提供的第一卷积自编码器的训练过程的实现流程示意图;
图3是本申请实施例一提供的第一卷积自编码器的训练过程示意图;
图4是本申请实施例一提供的第二卷积自编码器的训练过程的实现流程示意图;
图5是本申请实施例一提供的第二卷积自编码器的训练过程示意图;
图6是本申请实施例二提供的另一种图像处理方法的实现流程示意图;
图7是本申请实施例二提供的第三卷积自编码器以及第一卷积自编码器的训练过程示意图;
图8是本申请实施例三提供的一种图像处理装置的结构示意图;
图9是本申请实施例四提供的终端设备的结构示意图。
具体实施方式
以下描述中,为了说明而不是为了限定,提出了诸如特定系统结构、技术之类的具体细节,以便透彻理解本申请实施例。然而,本领域的技术人员应当清楚,在没有这些具体细节的其它实施例中也可以实现本申请。在其它情况中,省略对众所周知的系统、装置、电路以及方法的详细说明,以免不必要的细节妨碍本申请的描述。
本申请实施例提供的图像处理方法可以适用于终端设备,示例性地,上述终端设备包括但不限于:智能手机、平板电脑、学习机、智能穿戴设备等。
应当理解,当在本说明书和所附权利要求书中使用时,术语“包括”指示所描述特征、整体、步骤、操作、元素和/或组件的存在,但并不排除一个或多个其它特征、整体、步骤、操作、元素、组件和/或其集合的存在或添加。
还应当理解,在此本申请说明书中所使用的术语仅仅是出于描述特定实施例的目的而并不意在限制本申请。如在本申请说明书和所附权利要求书中所使用的那样,除非上下文清楚地指明其它情况,否则单数形式的“一”、“一个”及“该”意在包括复数形式。
还应当进一步理解,在本申请说明书和所附权利要求书中使用的术语“和/或”是指相关联列出的项中的一个或多个的任何组合以及所有可能组合,并且包括这些组合。
如在本说明书和所附权利要求书中所使用的那样,术语“如果”可以依据上下文被解释为“当...时”或“一旦”或“响应于确定”或“响应于检测到”。类似地,短语“如果确定”或“如果检测到[所描述条件或事件]”可以依据上下文被解释为意指“一旦确定”或“响应于确定”或“一旦检测到[所描述条件或事件]”或“响应于检测到[所描述条件或事件]”。
具体实现中,本申请实施例中描述的终端设备包括但不限于诸如具有触摸敏感表面(例如,触摸屏显示器和/或触摸板)的移动电话、膝上型计算机或平板计算机之类的其它便携式设备。还应当理解的是,在某些实施例中,上述设备并非便携式通信设备,而是具有触摸敏感表面(例如,触摸屏显示器和/或触摸板)的台式计算机。
在接下来的讨论中,描述了包括显示器和触摸敏感表面的终端设备。然而,应当理解的是,终端设备可以包括诸如物理键盘、鼠标和/或控制杆的一个或多个其它物理用户接口设备。
终端设备支持各种应用程序,例如以下中的一个或多个:绘图应用程序、演示应用程序、文字处理应用程序、网站创建应用程序、盘刻录应用程序、电子表格应用程序、游戏应用程序、电话应用程序、视频会议应用程序、电子邮件应用程序、即时消息收发应用程序、锻炼支持应用程序、照片管理应用程序、数码相机应用程序、数字摄影机应用程序、web浏览应用程序、数字音乐播放器应用程序和/或数字视频播放器应用程序。
可以在终端设备上执行的各种应用程序可以使用诸如触摸敏感表面的至少一个公共物理用户接口设备。可以在应用程序之间和/或相应应用程序内调整和/或改变触摸敏感表面的一个或多个功能以及终端上显示的相应信息。这样,终端的公共物理架构(例如,触摸敏感表面)可以支持具有对用户而言直观且透明的用户界面的各种应用程序。另外,在本申请的描述中,术语“第一”、“第二”等仅用于区分描述,而不能理解为指示或暗示相对重要性。为了说明本申请上述的技术方案,下面通过具体实施例来进行说明。
实施例一
下面对本申请实施例一提供的一种图像处理方法进行描述,请参阅附图1,本申请实施例一中的图像处理方法包括:
在步骤S101中,获取待处理图像;
在本申请实施例中,首先获取待处理图像。其中,该待处理图像可以是终端设备启动相机或摄像机后,摄像头所采集的图像,比如,用户启动终端设备中的相机应用程序,点击拍摄按钮后所拍摄的图像;或者,可以是用户通过其他应用程序接收的图像,比如,用户在微信中接收到的其他微信联系人所发送的图像;或者,也可以是用户从互联网上下载的图像,比如,用户通过公共运营商网络在浏览器中下载的图像;或者,还可以是视频中的某一帧图像,比如,用户所观看的动画片或者电视剧中的其中一帧图像。此处可以对待处理图像的来源不作限定。
此外,在本申请实施例中,若对上述待处理图像的来源不作限定,则该步骤S101所获取的待处理图像的图像尺寸可能是千差万别的,而本申请实施例的后续步骤中需要利用训练后的神经网络模型(即后续步骤S104中的第一卷积自编码器以及步骤S106中的第二卷积自编码器)对该步骤S101所获取的待处理图像进行处理,通常情况下,训练后的神经网络模型只能对图像尺寸(该图像尺寸包括图像宽度方向上像素点个数以及高度方向上像素点个数,通常用“宽度方向上像素点个数×高度方向上像素点个数”来表示)固定的图像进行处理,因此,在获取到待处理图像之后,为了保证后续步骤中的神经网络模型能够对该待处理图像进行正确处理,可以在该步骤S101之后,判断该待处理图像的图像尺寸是否为后续步骤中的神经网络模型能够处理的图像尺寸,若不是后续步骤中的神经网络模型能够处理的图像尺寸,则需要对该步骤S101所获取的待处理图像进行尺寸修正,比如旋转、裁剪、插值和/或下采样等等,以使得该步骤所获取的待处理图像的图像尺寸修正为后续步骤中的神经网络模型能够处理的图像尺寸。
另外,在本申请实施例中,也可以对该步骤S101所获取的待处理图像的来源进行限定,比如限定该步骤所获取的待处理图像为终端设备的摄像头所采集的图像。通常情况下,终端设备的摄像头的型号在出厂之前就已经固定,因此出厂后的某一终端设备的摄像头所采集的图像的图像尺寸也是固定的,因此,可以预先训练第一卷积自编码器以及第二卷积自编码器,使得部署在该终端设备中的第一卷积自编码器和第二卷积自编码器能够对该终端设备的摄像头所采集的图像进行处理。在这种情况下,可以不需要对该步骤S101所获取的待处理图像的图像尺寸进行修正,可直接执行后续步骤S102。
在步骤S102中,检测上述待处理图像是否为模糊图像,上述模糊图像为图像清晰度小于预设清晰度的图像;
在本申请实施例中,需要在获取到待处理图像之后,检测该待处理图像是否为模糊图像,若检测到该待处理图像是模糊图像,则利用训练后的第一卷积自编码器以及训练后的第二卷积自编码器对该待处理图像进行处理。上述检测上述待处理图像是否为模糊图像,可以包括:
计算上述待处理图像的图像清晰度,上述图像清晰度计算公式为:
其中,上述待处理图像为M×N的图像,f(x,y)为上述待处理图像在像素点为(x,y)处的灰度值;
若计算出的上述待处理图像的图像清晰度小于上述预设清晰度,则确定该待处理图像为模糊图像。其中,在本申请实施例中,图像清晰度的计算公式还可以为拉普拉斯梯度函数或者灰度方差函数等等,本申请对图像清晰度的计算公式不作限定。
此外,检测上述待处理图像是否为模糊图像,还可以通过计算待处理图像的频谱,判断该待处理图像的频谱中的低频分量与高频分量的能量比值是否达到预设能量比(其中,该预设能量比可以通过上述预设清晰度计算得到),如果达到预设能量比,则确定该待处理图像为模糊图像。本申请实施例对模糊图像的检测方法也不作限定。
在步骤S103中,若上述待处理图像为模糊图像,则将上述待处理图像进行第一预设倍数的下采样,得到第一图像;
在本申请实施例中,如果在步骤S102中检测到上述待处理图像为模糊图像,则首先对该待处理图像进行第一预设倍数的下采样,比如,对该待处理图像进行2倍下采样或者3倍下采样等,得到第一图像。本申请实施例对上述第一预设倍数的取值不作限定。
在步骤S104中,将上述第一图像输入至训练后的第一卷积自编码器中,得到第二图像,上述第二图像的图像清晰度大于上述第一图像的图像清晰度;
在本申请实施例中,上述第一卷积自编码器为在终端设备出厂之前就已部署在终端设备中的卷积自编码器,用于提高输入至该第一卷积自编码器的图像的图像清晰度。示例性地,上述第一卷积自编码器的训练过程可以如图2所示,包括步骤S201-S205:
在步骤S201中,从样本数据库中选取任一模糊样本图像以及该模糊样本图像所对应的清晰样本图像,其中,上述样本数据库中包含有多个模糊样本图像以及各个模糊样本图像所对应的清晰样本图像;
在本申请实施例中,需要利用样本数据库中的各个样本图像预先训练第一卷积自编码器,其中,该样本数据库中包含有多个模糊样本图像(每个模糊样本图像的图像清晰度均小于上述预设清晰度)以及各个模糊样本图像所对应的清晰样本图像(每个清晰样本图像的图像清晰度均大于或等于上述预设清晰度)。如图3所示的样本数据库301中,包含有3个样本图像组3011、3012以及3013,每个样本图像组均由模糊样本图像以及相应的清晰样本图像组成,在附图3中,样本图像组3011是由模糊样本图像A以及相应的清晰样本图像A1组成,样本图像组3012是由模糊样本图像B以及相应的清晰样本图像B1组成,样本图像组3013是由模糊样本图像C以及相应的清晰样本图像C1组成。在本申请实施例中,样本数据库中的各个模糊样本图像与其相应的清晰样本图像具有相同的图像内容。
从样本数据库中选取任意一模糊样本图像以及相应地清晰样本图像作为第一卷积自编码器的训练图像,如图3所示,利用模糊样本图像A以及清晰样本图像A1训练第一卷积自编码器。
在步骤S202中,对上述模糊样本图像以及上述清晰样本图像分别进行上述第一预设倍数的下采样,得到第一模糊样本图像以及第一清晰样本图像;
在本申请实施例中,在选取了任意一模糊样本图像以及相应的清晰样本图像之后,需要首先对步骤S201所选取的模糊样本图像以及清晰样本图像进行第一预设倍数的下采样,如图3所示,将模糊样本图像A以及清晰样本图像A1分别进行第一预设倍数的下采样,从而得到第一模糊样本图像以及第一清晰样本图像。
在步骤S203中,将上述第一模糊样本图像输入至初始的第一卷积自编码器中,以使得该初始的第一卷积自编码器提高上述第一模糊样本图像的图像清晰度,得到该初始的第一卷积自编码器输出的第一生成图像;
在本申请实施例中,首先建立初始的第一卷积自编码器,将步骤S202获取的第一模糊样本图像输入至该初始的第一卷积自编码器中,以使得该初始的第一卷积自编码器输出第一生成图像。
在步骤S204中,将上述第一生成图像以及上述第一清晰样本图像进行相似度匹配,并判断上述第一生成图像与上述第一清晰样本图像的相似度是否大于预设的第一相似度阈值;
在本申请实施例中,可以分别提取步骤S203所获取的第一生成图像以及步骤S202所获取的第一清晰样本图像的图像特征,比如纹理特征、颜色特征、亮度特征和/或缘边特征等,将上述第一生成图像以及上述第一清晰样本图像的图像特征进行相似度匹配,并判断上述第一生成图像以及上述第一清晰样本图像的相似度是否大于预设的第一相似度阈值。
在步骤S205中,不断调整当前的第一卷积自编码器的各个参数,直至当前的第一卷积自编码器输出的第一生成图像与上述第一清晰样本图像的相似度大于上述第一相似度阈值为止,则将该当前的第一卷积自编码器作为训练后的第一卷积自编码器。
通常情况下,初始的第一卷积自编码器所输出的第一生成图像与第一清晰度样本图像的相似度往往比较小,因此,需要调整该初始的第一卷积自编码器的各个参数,常用的调整参数的方法有随机梯度下降算法(Stochastic Gradient Descent,SGD)、动力更新算法(Momentum update)等等,并再次将步骤S202所获取的第一模糊样本图像输入至参数调整后的第一卷积自编码器中,并再次将该参数调整后的第一卷积自编码器所输出的第一生成图像与步骤S202所获取的第一清晰样本图像进行相似度匹配,不断调整当前的第一卷积自编码器的各个参数,直至当前的第一卷积自编码器所输出的第一生成图像与上述第一清晰样本图像的相似度大于预设的第一相似度阈值为止,则将该当前的第一卷积自编码器作为训练后的第一卷积自编码器。
上述步骤S201-S205提供了第一卷积自编码器的训练过程,即,通过选取样本数据库中的任意一模糊样本图像以及相应的清晰样本图像实现对第一卷积自编码器的训练。此外,在本申请实施例中,也可以从样本数据库中选取多个模糊样本图像以及相应的清晰样本图像实现对第一卷积自编码器的训练,下面利用附图3来阐述通过选取样本数据库中的多个模糊样本图像以及相应的清晰样本图像来训练第一卷积自编码器的训练过程:
如图3所示,首先,选取样本数据库301中的多个模糊样本图像及其对应的清晰样本图像,比如,选取模糊样本图像A、模糊样本图像B以及对应的清晰样本图像A1、清晰样本图像B1来训练第一卷积自编码器;其次,依据所选取的多个模糊样本图像以及对应的清晰样本图像,获取当前的第一卷积自编码器的生成正确率,具体地,可以将所选取的模糊样本图像A输入至当前的第一卷积自编码器中,并判断当前的第一卷积自编码器所输出的图像是否与清晰样本图像A1的相似度大于预设的第一相似度阈值,并将模糊样本图像B输入至当前的第一卷积自编码器中,并判断当前的第一卷积自编码器所输出的图像是否与清晰样本图像B1的相似度大于预设的第一相似度阈值,统计相似度大于预设的第一相似度阈值的模糊样本图像所占的比例,并将该比例确定为当前的第一卷积自编码器的生成正确率;最后,不断调整当前的第一卷积自编码器的各个参数,直至当前的第一卷积自编码器的生成正确率达到预设正确率为止。
在获取到训练后的第一卷积自编码器之后,将步骤S103所得到的第一图像输入至训练后的第一卷积自编码器中,得到第二图像。
在步骤S105中,将上述第二图像进行上述第一预设倍数的上采样,并与上述待处理图像进行融合,得到第三图像;
在本申请实施例中,将上述第二图像进行上述第一预设倍数的上采样,得到上采样后的图像,该上采样后的图像与步骤S101所获取的待处理图像的图像尺寸相同,因此,可以将该上采样后的图像与该待处理图像进行图像融合。具体地,该图像融合的方法可以为将该上采样后的图像与上述待处理图像的各个像素点的像素值进行加权平均运算,从而得到第三图像,此外,在本申请实施例中,也可以采用其他常见的图像融合算法,本申请对此不作限定。
在步骤S106中,将上述第三图像输入至训练后的第二卷积自编码器,得到最终处理图像,上述最终处理图像为图像清晰度大于或等于上述预设清晰度的图像;
在本申请实施例中,上述第二卷积自编码器为在终端设备出厂之前就已部署在终端设备中的卷积自编码器。示例性地,上述第二卷积自编码器的训练过程可以如图4所示,包括步骤S401-S404:
在步骤S401中,对上述训练后的第一卷积自编码器根据选取的上述模糊样本图像所输出的第一生成图像进行上述第一预设倍数的上采样,并与上述模糊样本图像进行融合,得到融合样本图像;
在本申请实施例中,可以在得到训练后的第一卷积自编码器之后,依据该训练后的第一卷积自编码器训练第二卷积自编码器。如图3所示,训练后的第一卷积自编码器是根据所选取的模糊样本图像A以及清晰样本图像A1训练得到的,因此,在附图5所示的第二卷积自编码器的训练过程示意图中,依然依据所选取的模糊样本图像A以及清晰样本图像A1来训练第二卷积自编码器,首先,获取该训练后的第一卷积自编码器根据模糊样本图像A所输出的第一生成图像,并将该第一生成图像进行第一预设倍数的上采样,并与所选取的模糊样本图像A进行图像融合,得到融合样本图像。
在步骤S402中,将上述融合样本图像输入至初始的第二卷积自编码器中,以使得该初始的第二卷积自编码器提高上述融合样本图像的图像清晰度,得到该初始的第二卷积自编码器输出的第二生成图像;
在本申请实施例中,首先建立初始的第二卷积自编码器,将步骤S401获取的融合样本图像输入至该初始的第二卷积自编码器中,以使得该初始的第二卷积自编码器输出第二生成图像。
在步骤S403中,将上述第二生成图像以及所选取上述清晰样本图像进行相似度匹配,并判断上述第二生成图像与上述清晰样本图像的相似度是否大于预设的第二相似度阈值;
在本申请实施例中,可以分别提取步骤S402所获取的第二生成图像以及步骤S201所选取的清晰样本图像的图像特征,比如纹理特征、颜色特征、亮度特征和/或缘边特征等,将上述第二生成图像以及上述清晰样本图像的图像特征进行相似度匹配,并判断上述第二生成图像以及上述清晰样本图像的相似度是否大于预设的第二相似度阈值。
在步骤S404中,不断调整当前的第二卷积自编码器的各个参数,直至当前的第二卷积自编码器输出的第二生成图像与上述清晰样本图像的相似度大于上述第二相似度阈值为止,则将该当前的第二卷积自编码器作为训练后的第一卷积自编码器。
通常情况下,初始的第二卷积自编码器所输出的第二生成图像与清晰度样本图像的相似度往往比较小,因此,需要调整该初始的第二卷积自编码器的各个参数,并再次将步骤S401所获取的融合样本图像输入至参数调整后的第二卷积自编码器中,并再次将该参数调整后的第二卷积自编码器所输出的第二生成图像与步骤S201所选取的清晰样本图像进行相似度匹配,不断调整当前的第二卷积自编码器的各个参数,直至当前的第二卷积自编码器所输出的第二生成图像与上述清晰样本图像的相似度大于预设的第二相似度阈值为止,则将该当前的第二卷积自编码器作为训练后的第二卷积自编码器。其中,该第二相似度阈值可以与上述第一相似度阈值相同,也可以与上述第一相似度阈值不相同,本申请对此不作限定。
此外,若训练后的第一卷积自编码器是通过样本数据库中多个模糊样本图像以及对应的清晰样本图像训练得到的,则上述训练后的第二卷积自编码器也可以通过多个模糊样本图像以及对应的清晰样本图像训练得到。下面利用附图5阐述通过选取样本数据库中的多个模糊样本图像以及相应的清晰样本图像来训练第二卷积自编码器的训练过程:
假设训练后的第一卷积自编码器是通过样本数据库中的多个模糊样本图像以及对应的清晰样本图像训练得到的,比如,通过模糊样本图像A、模糊样本图像B以及对应的清晰样本图像A1、清晰样本图像B1训练得到训练后的第一卷积自编码器。则可以依据所选取模糊样本图像A、B以及对应的清晰样本图像A1、B1,获取当前的第二卷积自编码器的生成正确率,具体地,可以将模糊样本图像A输入至训练后的第一卷积自编码器中,得到该训练后的第一卷积自编码器根据模糊样本图像A输出的图像,并对该训练后的第一卷积自编码器输出的图像进行第一预设倍数的上采样并与模糊样本图像A进行图像融合,将融合后的图像输入至当前的第二卷积自编码器,并判断当前的第二卷积自编码器所输出的图像是否与清晰样本图像A1的相似度大于预设的第二相似度阈值,同样地,将模糊样本图像B输入至训练后的第一卷积自编码器中,得到该训练后的第一卷积自编码器根据模糊样本图像B输出的图像,并对该训练后的第一卷积自编码器输出的图像进行第一预设倍数的上采样并与模糊样本图像B进行图像融合,将融合后的图像输入至当前的第二卷积自编码器,并判断当前的第二卷积自编码器所输出的图像是否与清晰样本图像B1的相似度大于预设的第二相似度阈值,统计相似度大于预设的第二相似度阈值的模糊样本图像所占的比例,并将该比例确定为当前的第二卷积自编码器的生成正确率;最后,不断调整当前的第二卷积自编码器的各个参数,直至当前的第二卷积自编码器的生成正确率达到预设正确率为止。
本申请上述所限定的第二卷积自编码器在训练过程中所使用的样本数据库中的样本图像与第一卷积自编码器在训练过程中所使用的样本图像是一致的。此外,在本申请实施例中,训练第二卷积自编码器的样本图像也可以与训练第一卷积自编码器的样本图像不一致,本申请对此不作限定。
在获取到训练后的第二卷积自编码器之后,将步骤S105所得到的第三图像输入至训练后的第二卷积自编码器中,得到最终处理图像。
本申请实施例一提供了一种提高图像清晰度的方法,该方法是通过预先训练的神经网络模型(即训练后的第一卷积自编码器和训练后的第二卷积自编码器)实现的,在预先训练用于提高图像清晰度的神经网络模型时,若训练样本足够多,则训练后的神经网络模型能够学习到更多的导致图像模糊的图像特征,因此,利用训练后的神经网络模型对模糊图像进行处理相比于传统的基于先验知识对模糊图像进行处理的泛化能力更强。并且,本申请所提供的技术方案是在不同尺度上提高待处理图像的图像清晰度的(即,首先对待处理图像进行下采样,得到第一图像,提高下采样后的第一图像的图像清晰度,得到第二图像,然后再对第二图像进行上采样并与待处理图像融合,得到第三图像,最后提高第三图像的图像清晰度,得到最终处理图像),因此,可以比单尺度去模糊效果更好,泛化能力更强。
实施例二
下面对本申请实施例二提供的另一种图像处理方法进行描述,请参阅附图6,本申请实施例二的图像处理方法包括:
在步骤S601中,获取待处理图像;
在步骤S602中,检测上述待处理图像是否为模糊图像,上述模糊图像为图像清晰度小于预设清晰度的图像;
在步骤S603中,若上述待处理图像为模糊图像,则将上述待处理图像进行第一预设倍数的下采样,得到第一图像;
本申请实施例二中的步骤S601-S603与实施例一中的步骤S101-S103执行方式相同,具体可参见实施例一的描述,此处不再赘述。
在步骤S604中,对上述待处理图像进行第二预设倍数的下采样,得到第四图像,上述第二预设倍数为上述第一预设倍数的N倍,N为大于1的整数;
本申请实施例一所提供的方案中,仅仅只对待处理图像进行了一次下采样,而本申请实施例二所提供的方案中,对待处理图像进行了两次下采样,即分别对待处理图像进行第一预设倍数与第二预设倍数的下采样,其中,该第二预设倍数为上述第一预设倍数的N倍,N为大于1的整数,比如,第二预设倍数为4倍,第一预设倍数为2倍。
在步骤S605中,将上述第四图像输入至训练后的第三卷积自编码器中,得到第五图像,上述第五图像的图像清晰度大于上述第四图像的图像清晰度;
在本申请实施例中,需要首先训练上述第三卷积自编码器,其中,该第三卷积自编码器的训练过程与实施例一中的第一卷积自编码器的训练过程相似,具体可参见本申请实施例一的描述或者本申请实施例二的后续描述。
在步骤S606中,将上述第五图像进行N倍的上采样,并与上述第一图像进行融合,得到融合后的图像,将该融合后的图像作为更新后的第一图像;
在本申请实施例中,将上述第五图像进行上采样,使得上采样后的图像的图像尺寸与上述步骤S603所获取的第一图像的图像尺寸相同,并将该上采样后的图像与上述第一图像进行图像融合,得到融合后的图像,并更新上述步骤S603所获取的第一图像,将上述第一图像更新为该融合后的图像。
在步骤S607中,将上述更新后的第一图像输入至训练后的第一卷积自编码器中,得到第二图像,上述第二图像的图像清晰度大于上述第一图像的图像清晰度;
在步骤S608中,将上述第二图像进行上述第一预设倍数的上采样,并与上述待处理图像进行融合,得到第三图像;
在步骤S609中,将上述第三图像输入至训练后的第二卷积自编码器,得到最终处理图像,上述最终处理图像为图像清晰度大于或等于上述预设清晰度的图像;
本申请实施例二中的步骤S607-S609与实施例一中的步骤S104-S106执行方式相同,具体可参见实施例一的描述。其中,本申请实施例二中的第一卷积自编码器与实施例一中的第一卷积自编码器的训练过程可以不同。为了详细描述本申请实施例二中的第三卷积自编码器以及第一卷积自编码器的训练过程,下面利用附图7进行详细说明。
在本申请实施例二中,训练第一卷积自编码器、第二卷积自编码器以及第三卷积自编码器的样本图像可以完全相同。如图7所示,假设从样本数据库中选取模糊样本图像A以及对应的清晰样本图像A1对第一卷积自编码器、第二卷积自编码器以及第三卷积自编码器进行训练。首先,对模糊样本图像A以及清晰样本图像A1分别进行第二预设倍数的下采样,得到第二模糊样本图像以及第二清晰样本图像,将该第二模糊样本图像输入至初始的第三卷积自编码器中,计算该初始的第三卷积自编码器所输出的第三生成图像与上述第二清晰样本图像的相似度,不断调整当前的第三卷积自编码器的各个参数,直至当前的第三卷积自编码器所输出的第三生成图像与上述第二清晰样本图像的相似度大于预设的第三相似度阈值为止,则将该当前的第三卷积自编码器确定为训练后的第三卷积自编码器。
在得到训练后的第三卷积自编码器之后,利用该训练后的第三卷积自编码器训练第一卷积自编码器。首先,对模糊样本图像A以及清晰样本图像A1分别进行第一预设倍数的下采样,得到第一模糊样本图像以及第一清晰样本图像,并将该训练后的第三卷积自编码器根据第二模糊样本图像所输出的第三生成图像进行N倍的上采样,将N倍上采样后的图像与上述第一模糊样本图像进行图像融合,得到融合后的图像,将该融合后的图像输入至初始的第一卷积自编码器中,计算该初始的第一卷积自编码器所输出的图像与上述第一清晰样本图像的相似度,不断调整当前的第一卷积自编码器的各个参数,直至当前的第一卷积自编码器所输出的图像与上述第一清晰样本图像的相似度大于预设的第一相似度阈值为止,则将该当前的第一卷积自编码器确定为训练后的第一卷积自编码器。其中,该第一相似度阈值可以与上述第三相似度阈值相同,也可以与上述第三相似度阈值不相同,本申请对此不作限定。
在得到训练后的第一卷积自编码器之后,利用该训练后的第一卷积自编码器训练第二卷积自编码器,其中,本申请实施例二中的第二卷积自编码器的训练过程与实施例一中的第二卷积自编码器的训练过程相同,具体可参见实施例一的描述,此处不再赘述。
此外,在本申请实施例中,也可以从样本数据库中选取多个模糊样本图像及其相应的清晰样本图像对第一卷积自编码器、第二卷积自编码器以及第三卷积自编码器进行训练。
本申请实施例二与实施例一相同,提供了一种提高图像清晰度的方法,然而,本申请实施例一所提供的提高图像清晰度的方法是在两个尺度上提高待处理图像的图像清晰度(即,首先对待处理图像进行第一预设倍数的下采样,得到第一图像,提高第一图像的图像清晰度,得到第二图像,然后再对第二图像进行上采样并与待处理图像融合,得到第三图像,最后提高第三图像的图像清晰度,得到最终处理图像),而本申请实施例二所提供的提高图像清晰度的方法是在三个尺度上提高待处理图像的图像清晰度(即,首先对待处理图像进行第一预设倍数以及第二预设倍数的下采样,分别得到第一图像以及第四图像,提高第四图像的图像清晰度,得到第五图像,然后对第五图像进行上采样并与第一图像融合,提高融合后的图像的图像清晰度,得到第二图像,将第二图像上采样并与待处理图像融合,得到第三图像,最后提高第三图像的图像清晰度,得到最终处理图像),因此,本申请实施例二相比于实施例一可实现更好的去模糊效果,泛化能力也会进一步增强。
应理解,上述实施例中各步骤的序号的大小并不意味着执行顺序的先后,各过程的执行顺序应以其功能和内在逻辑确定,而不应对本申请实施例的实施过程构成任何限定。
实施例三
本申请实施例三提供了一种图像处理装置,为便于说明,仅示出与本申请相关的部分,如图8所示图像处理装置800包括,
图像获取模块801,用于获取待处理图像;
模糊检测模块802,用于检测上述待处理图像是否为模糊图像,上述模糊图像为图像清晰度小于预设清晰度的图像;
第一下采样模块803,用于若上述待处理图像为模糊图像,则对上述待处理图像进行第一预设倍数的下采样,得到第一图像;
第一清晰度模块804,用于将上述第一图像输入至训练后的第一卷积自编码器,得到第二图像,上述第二图像的图像清晰度大于上述第一图像的图像清晰度;
第一融合模块805,用于对上述第二图像进行上述第一预设倍数的上采样,并与上述待处理图像进行融合,得到第三图像;
第二清晰度模块806,用于将上述第三图像输入至训练后的第二卷积自编码器,得到最终处理图像,上述最终处理图像为图像清晰度大于或等于上述预设清晰度的图像。
可选地,上述模糊检测模块802,包括
清晰度计算单元,用于计算上述待处理图像的图像清晰度,上述图像清晰度计算公式为:
其中,上述待处理图像为M×N的图像,f(x,y)为上述待处理图像在像素点为(x,y)处的灰度值;
模糊确定单元,用于若计算出的上述待处理图像的图像清晰度小于上述预设清晰度,则确定上述待处理图像为模糊图像。
可选地,上述第一融合模块805具体用于:
对上述第二图像进行上述第一预设倍数的上采样,得到上采样后的图像,将上述上采样后的图像与上述待处理图像的各个像素点进行加权平均运算,得到第三图像。
可选地,上述图像处理装置800,还包括:
第二下采样模块,用于对上述待处理图像进行第二预设倍数的下采样,得到第四图像,上述第二预设倍数为上述第一预设倍数的N倍,N为大于1的整数;
第三清晰度模块,用于将上述第四图像输入至训练后的第三卷积自编码器,得到第五图像,上述第五图像的图像清晰度大于上述第四图像的图像清晰度;
第二融合模块,用于对上述第五图像进行N倍的上采样,并与上述第一图像进行融合,得到融合后的图像,将上述融合后的图像作为更新后的第一图像;
相应地,上述第一清晰度模块804具体用于:
将上述更新后的第一图像输入至训练后的第一卷积自编码器,得到第二图像。
可选地,利用训练模块训练上述第一卷积自编码器,该训练模块包括:
训练图像选取单元,用于从样本数据库中选取任一模糊样本图像以及上述模糊样本图像所对应的清晰样本图像,其中,上述样本数据库中包含有多个模糊样本图像以及各个模糊样本图像所对应的清晰样本图像;
训练图像下采样单元,用于对上述模糊样本图像以及上述清晰样本图像分别进行上述第一预设倍数的下采样,得到第一模糊样本图像以及第一清晰样本图像;
第一生成图像获取单元,用于将上述第一模糊样本图像输入至初始的第一卷积自编码器中,以使得上述初始的第一卷积自编码器提高上述第一模糊样本图像的图像清晰度,得到上述初始的第一卷积自编码器输出的第一生成图像;
第一判别单元,用于将上述第一生成图像以及上述第一清晰样本图像进行相似度匹配,并判断上述第一生成图像与上述第一清晰样本图像的相似度是否大于预设的第一相似度阈值;
第一参数调整单元,用于不断调整当前的第一卷积自编码器的各个参数,直至当前的第一卷积自编码器输出的第一生成图像与上述第一清晰样本图像的相似度大于上述第一相似度阈值为止,则将该当前的第一卷积自编码器作为训练后的第一卷积自编码器。
可选地,上述训练模块还用于训练上述第二卷积自编码器,该训练模块还包括:
第一生成图像上采样单元,用于对上述训练后的第一卷积自编码器根据选取的上述模糊样本图像所输出的第一生成图像进行上述第一预设倍数的上采样,并与上述模糊样本图像进行融合,得到融合样本图像;
第二生成图像获取单元,用于将上述融合样本图像输入至初始的第二卷积自编码器中,以使得上述初始的第二卷积自编码器提高上述融合样本图像的图像清晰度,得到上述初始的第二卷积自编码器输出的第二生成图像;
第二判别单元,用于将上述第二生成图像以及所选取的上述清晰样本图像进行相似度匹配,并判断上述第二生成图像与上述清晰样本图像的相似度是否大于预设的第二相似度阈值;
第二参数调整单元,用于不断调整当前的第二卷积自编码器的各个参数,直至当前的第二卷积自编码器输出的第二生成图像与上述清晰样本图像的相似度大于上述第二相似度阈值为止,则将该当前的第二卷积自编码器作为训练后的第一卷积自编码器。
需要说明的是,上述装置/单元之间的信息交互、执行过程等内容,由于与本申请方法实施例基于同一构思,其具体功能及带来的技术效果,具体可参见方法实施例部分,此处不再赘述。
实施例四
图9是本申请实施例四提供的终端设备的示意图。如图9所示,该实施例的终端设备9包括:处理器90、存储器91以及存储在上述存储器91中并可在上述处理器90上运行的计算机程序92。上述处理器90执行上述计算机程序92时实现上述各个方法实施例中的步骤,例如图1所示的步骤S101至S106。或者,上述处理器90执行上述计算机程序92时实现上述各装置实施例中各模块/单元的功能,例如图8所示模块801至806的功能。
示例性的,上述计算机程序92可以被分割成一个或多个模块/单元,上述一个或者多个模块/单元被存储在上述存储器91中,并由上述处理器90执行,以完成本申请。上述一个或多个模块/单元可以是能够完成特定功能的一系列计算机程序指令段,该指令段用于描述上述计算机程序92在上述终端设备9中的执行过程。例如,上述计算机程序92可以被分割成图像获取模块、模糊检测模块、第一下采样模块、第一清晰度模块、第一融合模块以及第二清晰度模块,各模块具体功能如下:
获取待处理图像;
检测上述待处理图像是否为模糊图像,上述模糊图像为图像清晰度小于预设清晰度的图像;
若上述待处理图像为模糊图像,则:
对上述待处理图像进行第一预设倍数的下采样,得到第一图像;
将上述第一图像输入至训练后的第一卷积自编码器,得到第二图像,上述第二图像的图像清晰度大于上述第一图像的图像清晰度;
对上述第二图像进行上述第一预设倍数的上采样,并与上述待处理图像进行融合,得到第三图像;
将上述第三图像输入至训练后的第二卷积自编码器,得到最终处理图像,上述最终处理图像为图像清晰度大于或等于上述预设清晰度的图像。
上述终端设备9可以是智能手机、平板电脑、学习机、智能穿戴设备等计算设备。上述终端设备可包括,但不仅限于,处理器90、存储器91。本领域技术人员可以理解,图9仅仅是终端设备9的示例,并不构成对终端设备9的限定,可以包括比图示更多或更少的部件,或者组合某些部件,或者不同的部件,例如上述终端设备还可以包括输入输出设备、网络接入设备、总线等。
所称处理器90可以是中央处理单元(Central Processing Unit,CPU),还可以是其它通用处理器、数字信号处理器(Digital Signal Processor,DSP)、专用集成电路(Application Specific Integrated Circuit,ASIC)、现场可编程门阵列(Field-Programmable Gate Array,FPGA)或者其它可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。
上述存储器91可以是上述终端设备9的内部存储单元,例如终端设备9的硬盘或内存。上述存储器91也可以是上述终端设备9的外部存储设备,例如上述终端设备9上配备的插接式硬盘,智能存储卡(Smart Media Card,SMC),安全数字(Secure Digital,SD)卡,闪存卡(Flash Card)等。进一步地,上述存储器91还可以既包括上述终端设备9的内部存储单元也包括外部存储设备。上述存储器91用于存储上述计算机程序以及上述终端设备所需的其它程序和数据。上述存储器91还可以用于暂时地存储已经输出或者将要输出的数据。
所属领域的技术人员可以清楚地了解到,为了描述的方便和简洁,仅以上述各功能单元、模块的划分进行举例说明,实际应用中,可以根据需要而将上述功能分配由不同的功能单元、模块完成,即将上述装置的内部结构划分成不同的功能单元或模块,以完成以上描述的全部或者部分功能。实施例中的各功能单元、模块可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中,上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。另外,各功能单元、模块的具体名称也只是为了便于相互区分,并不用于限制本申请的保护范围。上述系统中单元、模块的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。
在上述实施例中,对各个实施例的描述都各有侧重,某个实施例中没有详述或记载的部分,可以参见其它实施例的相关描述。
本领域普通技术人员可以意识到,结合本文中所公开的实施例描述的各示例的单元及算法步骤,能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟以硬件还是软件方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本申请的范围。
在本申请所提供的实施例中,应该理解到,所揭露的装置/终端设备和方法,可以通过其它的方式实现。例如,以上所描述的装置/终端设备实施例仅仅是示意性的,例如,上述模块或单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通讯连接可以是通过一些接口,装置或单元的间接耦合或通讯连接,可以是电性,机械或其它的形式。
上述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外,在本申请各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。
上述集成的模块/单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本申请实现上述实施例方法中的全部或部分流程,也可以通过计算机程序来指令相关的硬件来完成,上述的计算机程序可存储于一计算机可读存储介质中,该计算机程序在被处理器执行时,可实现上述各个方法实施例的步骤。其中,上述计算机程序包括计算机程序代码,上述计算机程序代码可以为源代码形式、对象代码形式、可执行文件或某些中间形式等。上述计算机可读介质可以包括:能够携带上述计算机程序代码的任何实体或装置、记录介质、U盘、移动硬盘、磁碟、光盘、计算机存储器、只读存储器(ROM,Read-Only Memory)、随机存取存储器(RAM,Random Access Memory)、电载波信号、电信信号以及软件分发介质等。需要说明的是,上述计算机可读介质包含的内容可以根据司法管辖区内立法和专利实践的要求进行适当的增减,例如在某些司法管辖区,根据立法和专利实践,计算机可读介质不包括电载波信号和电信信号。
以上上述实施例仅用以说明本申请的技术方案,而非对其限制;尽管参照前述实施例对本申请进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本申请各实施例技术方案的精神和范围,均应包含在本申请的保护范围之内。
Claims (10)
1.一种图像处理方法,其特征在于,包括:
获取待处理图像;
检测所述待处理图像是否为模糊图像,所述模糊图像为图像清晰度小于预设清晰度的图像;
若所述待处理图像为模糊图像,则:
对所述待处理图像进行第一预设倍数的下采样,得到第一图像;
将所述第一图像输入至训练后的第一卷积自编码器,得到第二图像,所述第二图像的图像清晰度大于所述第一图像的图像清晰度;
对所述第二图像进行所述第一预设倍数的上采样,并与所述待处理图像进行融合,得到第三图像;
将所述第三图像输入至训练后的第二卷积自编码器,得到最终处理图像,所述最终处理图像为图像清晰度大于或等于所述预设清晰度的图像。
2.如权利要求1所述的图像处理方法,其特征在于,所述检测所述待处理图像是否为模糊图像,包括:
计算所述待处理图像的图像清晰度,所述图像清晰度计算公式为:
其中,所述待处理图像为M×N的图像,f(x,y)为所述待处理图像在像素点为(x,y)处的灰度值;
若计算出的所述待处理图像的图像清晰度小于所述预设清晰度,则确定所述待处理图像为模糊图像。
3.如权利要求1所述的图像处理方法,其特征在于,所述对所述第二图像进行所述第一预设倍数的上采样,并与所述待处理图像进行融合,得到第三图像,包括:
对所述第二图像进行所述第一预设倍数的上采样,得到上采样后的图像,将所述上采样后的图像与所述待处理图像的各个像素点进行加权平均运算,得到第三图像。
4.如权利要求1至3中任一项所述的图像处理方法,其特征在于,若所述待处理图像为模糊图像,在所述将所述第一图像输入至训练后的第一卷积自编码器,得到第二图像的步骤之前,还包括:
对所述待处理图像进行第二预设倍数的下采样,得到第四图像,所述第二预设倍数为所述第一预设倍数的N倍,N为大于1的整数;
将所述第四图像输入至训练后的第三卷积自编码器,得到第五图像,所述第五图像的图像清晰度大于所述第四图像的图像清晰度;
对所述第五图像进行N倍的上采样,并与所述第一图像进行融合,得到融合后的图像,将所述融合后的图像作为更新后的第一图像;
相应地,所述将所述第一图像输入至训练后的第一卷积自编码器,得到第二图像,包括:
将所述更新后的第一图像输入至训练后的第一卷积自编码器,得到第二图像。
5.如权利要求1至3中任一项所述的图像处理方法,其特征在于,所述第一卷积自编码器的训练过程包括:
从样本数据库中选取任一模糊样本图像以及所述模糊样本图像所对应的清晰样本图像,其中,所述样本数据库中包含有多个模糊样本图像以及各个模糊样本图像所对应的清晰样本图像;
对所述模糊样本图像以及所述清晰样本图像分别进行所述第一预设倍数的下采样,得到第一模糊样本图像以及第一清晰样本图像;
将所述第一模糊样本图像输入至初始的第一卷积自编码器中,以使得所述初始的第一卷积自编码器提高所述第一模糊样本图像的图像清晰度,得到所述初始的第一卷积自编码器输出的第一生成图像;
将所述第一生成图像以及所述第一清晰样本图像进行相似度匹配,并判断所述第一生成图像与所述第一清晰样本图像的相似度是否大于预设的第一相似度阈值;
不断调整当前的第一卷积自编码器的各个参数,直至当前的第一卷积自编码器输出的第一生成图像与所述第一清晰样本图像的相似度大于所述第一相似度阈值为止,则将该当前的第一卷积自编码器作为训练后的第一卷积自编码器。
6.如权利要求5所述的图像处理方法,其特征在于,所述第二卷积自编码器的训练过程包括:
对所述训练后的第一卷积自编码器根据选取的上述模糊样本图像所输出的第一生成图像进行所述第一预设倍数的上采样,并与所述模糊样本图像进行融合,得到融合样本图像;
将所述融合样本图像输入至初始的第二卷积自编码器中,以使得所述初始的第二卷积自编码器提高所述融合样本图像的图像清晰度,得到所述初始的第二卷积自编码器输出的第二生成图像;
将所述第二生成图像以及所选取的所述清晰样本图像进行相似度匹配,并判断所述第二生成图像与所述清晰样本图像的相似度是否大于预设的第二相似度阈值;
不断调整当前的第二卷积自编码器的各个参数,直至当前的第二卷积自编码器输出的第二生成图像与所述清晰样本图像的相似度大于所述第二相似度阈值为止,则将该当前的第二卷积自编码器作为训练后的第一卷积自编码器。
7.一种图像处理装置,其特征在于,包括:
图像获取模块,用于获取待处理图像;
模糊检测模块,用于检测所述待处理图像是否为模糊图像,所述模糊图像为图像清晰度小于预设清晰度的图像;
第一下采样模块,用于若所述待处理图像为模糊图像,则对所述待处理图像进行第一预设倍数的下采样,得到第一图像;
第一清晰度模块,用于将所述第一图像输入至训练后的第一卷积自编码器,得到第二图像,所述第二图像的图像清晰度大于所述第一图像的图像清晰度;
第一融合模块,用于对所述第二图像进行所述第一预设倍数的上采样,并与所述待处理图像进行融合,得到第三图像;
第二清晰度模块,用于将所述第三图像输入至训练后的第二卷积自编码器,得到最终处理图像,所述最终处理图像为图像清晰度大于或等于所述预设清晰度的图像。
8.一种图像处理装置,其特征在于,所述模糊检测模块,包括
清晰度计算单元,用于计算所述待处理图像的图像清晰度,所述图像清晰度计算公式为:
其中,所述待处理图像为M×N的图像,f(x,y)为所述待处理图像在像素点为(x,y)处的灰度值;
模糊确定单元,用于若计算出的所述待处理图像的图像清晰度小于所述预设清晰度,则确定所述待处理图像为模糊图像。
9.一种终端设备,包括存储器、处理器以及存储在所述存储器中并可在所述处理器上运行的计算机程序,其特征在于,所述处理器执行所述计算机程序时实现如权利要求1至6任一项所述方法的步骤。
10.一种计算机可读存储介质,所述计算机可读存储介质存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现如权利要求1至6任一项所述方法的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201810889714.0A CN108921806B (zh) | 2018-08-07 | 2018-08-07 | 一种图像处理方法、图像处理装置及终端设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201810889714.0A CN108921806B (zh) | 2018-08-07 | 2018-08-07 | 一种图像处理方法、图像处理装置及终端设备 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN108921806A true CN108921806A (zh) | 2018-11-30 |
CN108921806B CN108921806B (zh) | 2020-08-07 |
Family
ID=64393737
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201810889714.0A Active CN108921806B (zh) | 2018-08-07 | 2018-08-07 | 一种图像处理方法、图像处理装置及终端设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN108921806B (zh) |
Cited By (19)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109685750A (zh) * | 2018-12-14 | 2019-04-26 | 厦门美图之家科技有限公司 | 图像增强方法及计算设备 |
CN109858380A (zh) * | 2019-01-04 | 2019-06-07 | 广州大学 | 可扩展手势识别方法、装置、系统、手势识别终端和介质 |
CN110033413A (zh) * | 2018-12-29 | 2019-07-19 | 阿里巴巴集团控股有限公司 | 客户端的图像处理方法、装置、电子设备、计算机可读介质 |
CN110136091A (zh) * | 2019-04-12 | 2019-08-16 | 深圳云天励飞技术有限公司 | 图像处理方法及相关产品 |
CN110992283A (zh) * | 2019-11-29 | 2020-04-10 | Oppo广东移动通信有限公司 | 图像处理方法、图像处理装置、电子设备和可读存储介质 |
CN111083359A (zh) * | 2019-12-06 | 2020-04-28 | Oppo广东移动通信有限公司 | 图像处理方法及其装置、电子设备和计算机可读存储介质 |
CN111340722A (zh) * | 2020-02-20 | 2020-06-26 | Oppo广东移动通信有限公司 | 图像处理方法、处理装置、终端设备及可读存储介质 |
WO2020192499A1 (zh) * | 2019-03-28 | 2020-10-01 | 杭州海康威视数字技术股份有限公司 | 一种图像处理方法及设备 |
CN111861959A (zh) * | 2020-07-15 | 2020-10-30 | 广东欧谱曼迪科技有限公司 | 一种超长景深超宽动态图像合成算法 |
CN112053306A (zh) * | 2020-10-10 | 2020-12-08 | 哈尔滨工业大学 | 基于深度多块网络的图像去模糊方法 |
CN112118457A (zh) * | 2019-06-20 | 2020-12-22 | 腾讯科技(深圳)有限公司 | 直播数据处理方法、装置、可读存储介质和计算机设备 |
US10909700B2 (en) | 2019-04-02 | 2021-02-02 | Samsung Electronics Co., Ltd. | Display apparatus and image processing method thereof |
CN112419179A (zh) * | 2020-11-18 | 2021-02-26 | 北京字跳网络技术有限公司 | 修复图像的方法、装置、设备和计算机可读介质 |
CN112686289A (zh) * | 2020-12-24 | 2021-04-20 | 微梦创科网络科技(中国)有限公司 | 图片分类方法和装置 |
CN113012064A (zh) * | 2021-03-10 | 2021-06-22 | 腾讯科技(深圳)有限公司 | 图像处理方法、装置、设备及存储介质 |
CN113313635A (zh) * | 2020-02-26 | 2021-08-27 | 阿里巴巴集团控股有限公司 | 图像处理方法、模型训练方法、装置及设备 |
CN113436137A (zh) * | 2021-03-12 | 2021-09-24 | 北京世纪好未来教育科技有限公司 | 一种图像清晰度识别方法、装置、设备及介质 |
CN113516592A (zh) * | 2020-04-10 | 2021-10-19 | 阿里巴巴集团控股有限公司 | 图像处理方法、模型训练方法、装置及设备 |
CN113673396A (zh) * | 2021-08-10 | 2021-11-19 | 佛山市海天(高明)调味食品有限公司 | 一种孢子发芽率计算方法、装置及存储介质 |
Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104408061A (zh) * | 2014-10-29 | 2015-03-11 | 深圳市中兴移动通信有限公司 | 相册管理方法和装置 |
CN104680491A (zh) * | 2015-02-28 | 2015-06-03 | 西安交通大学 | 一种基于深度神经网络的图像非均匀运动模糊去除方法 |
CN105389780A (zh) * | 2015-10-28 | 2016-03-09 | 维沃移动通信有限公司 | 一种图像处理方法及移动终端 |
CN106570028A (zh) * | 2015-10-10 | 2017-04-19 | 比亚迪股份有限公司 | 移动终端及模糊图像的删除方法和装置 |
CN107578054A (zh) * | 2017-09-27 | 2018-01-12 | 北京小米移动软件有限公司 | 图像处理方法及装置 |
CN107833193A (zh) * | 2017-11-20 | 2018-03-23 | 长沙全度影像科技有限公司 | 一种基于refinement‑network深度学习模型的单透镜全局图像复原方法 |
CN108109121A (zh) * | 2017-12-18 | 2018-06-01 | 深圳市唯特视科技有限公司 | 一种基于卷积神经网络的人脸模糊快速消除方法 |
CN108241821A (zh) * | 2016-12-23 | 2018-07-03 | 北京三星通信技术研究有限公司 | 图像处理设备和方法 |
-
2018
- 2018-08-07 CN CN201810889714.0A patent/CN108921806B/zh active Active
Patent Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104408061A (zh) * | 2014-10-29 | 2015-03-11 | 深圳市中兴移动通信有限公司 | 相册管理方法和装置 |
CN104680491A (zh) * | 2015-02-28 | 2015-06-03 | 西安交通大学 | 一种基于深度神经网络的图像非均匀运动模糊去除方法 |
CN106570028A (zh) * | 2015-10-10 | 2017-04-19 | 比亚迪股份有限公司 | 移动终端及模糊图像的删除方法和装置 |
CN105389780A (zh) * | 2015-10-28 | 2016-03-09 | 维沃移动通信有限公司 | 一种图像处理方法及移动终端 |
CN108241821A (zh) * | 2016-12-23 | 2018-07-03 | 北京三星通信技术研究有限公司 | 图像处理设备和方法 |
CN107578054A (zh) * | 2017-09-27 | 2018-01-12 | 北京小米移动软件有限公司 | 图像处理方法及装置 |
CN107833193A (zh) * | 2017-11-20 | 2018-03-23 | 长沙全度影像科技有限公司 | 一种基于refinement‑network深度学习模型的单透镜全局图像复原方法 |
CN108109121A (zh) * | 2017-12-18 | 2018-06-01 | 深圳市唯特视科技有限公司 | 一种基于卷积神经网络的人脸模糊快速消除方法 |
Cited By (23)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109685750A (zh) * | 2018-12-14 | 2019-04-26 | 厦门美图之家科技有限公司 | 图像增强方法及计算设备 |
CN110033413A (zh) * | 2018-12-29 | 2019-07-19 | 阿里巴巴集团控股有限公司 | 客户端的图像处理方法、装置、电子设备、计算机可读介质 |
CN110033413B (zh) * | 2018-12-29 | 2023-08-18 | 阿里巴巴集团控股有限公司 | 客户端的图像处理方法、装置、设备、计算机可读介质 |
CN109858380A (zh) * | 2019-01-04 | 2019-06-07 | 广州大学 | 可扩展手势识别方法、装置、系统、手势识别终端和介质 |
WO2020192499A1 (zh) * | 2019-03-28 | 2020-10-01 | 杭州海康威视数字技术股份有限公司 | 一种图像处理方法及设备 |
US10909700B2 (en) | 2019-04-02 | 2021-02-02 | Samsung Electronics Co., Ltd. | Display apparatus and image processing method thereof |
CN110136091A (zh) * | 2019-04-12 | 2019-08-16 | 深圳云天励飞技术有限公司 | 图像处理方法及相关产品 |
CN112118457A (zh) * | 2019-06-20 | 2020-12-22 | 腾讯科技(深圳)有限公司 | 直播数据处理方法、装置、可读存储介质和计算机设备 |
CN112118457B (zh) * | 2019-06-20 | 2022-09-09 | 腾讯科技(深圳)有限公司 | 直播数据处理方法、装置、可读存储介质和计算机设备 |
CN110992283A (zh) * | 2019-11-29 | 2020-04-10 | Oppo广东移动通信有限公司 | 图像处理方法、图像处理装置、电子设备和可读存储介质 |
CN111083359A (zh) * | 2019-12-06 | 2020-04-28 | Oppo广东移动通信有限公司 | 图像处理方法及其装置、电子设备和计算机可读存储介质 |
CN111340722A (zh) * | 2020-02-20 | 2020-06-26 | Oppo广东移动通信有限公司 | 图像处理方法、处理装置、终端设备及可读存储介质 |
CN113313635A (zh) * | 2020-02-26 | 2021-08-27 | 阿里巴巴集团控股有限公司 | 图像处理方法、模型训练方法、装置及设备 |
CN113516592A (zh) * | 2020-04-10 | 2021-10-19 | 阿里巴巴集团控股有限公司 | 图像处理方法、模型训练方法、装置及设备 |
CN111861959A (zh) * | 2020-07-15 | 2020-10-30 | 广东欧谱曼迪科技有限公司 | 一种超长景深超宽动态图像合成算法 |
CN112053306A (zh) * | 2020-10-10 | 2020-12-08 | 哈尔滨工业大学 | 基于深度多块网络的图像去模糊方法 |
CN112419179A (zh) * | 2020-11-18 | 2021-02-26 | 北京字跳网络技术有限公司 | 修复图像的方法、装置、设备和计算机可读介质 |
CN112686289A (zh) * | 2020-12-24 | 2021-04-20 | 微梦创科网络科技(中国)有限公司 | 图片分类方法和装置 |
CN113012064A (zh) * | 2021-03-10 | 2021-06-22 | 腾讯科技(深圳)有限公司 | 图像处理方法、装置、设备及存储介质 |
CN113012064B (zh) * | 2021-03-10 | 2023-12-12 | 腾讯科技(深圳)有限公司 | 图像处理方法、装置、设备及存储介质 |
CN113436137A (zh) * | 2021-03-12 | 2021-09-24 | 北京世纪好未来教育科技有限公司 | 一种图像清晰度识别方法、装置、设备及介质 |
CN113673396A (zh) * | 2021-08-10 | 2021-11-19 | 佛山市海天(高明)调味食品有限公司 | 一种孢子发芽率计算方法、装置及存储介质 |
CN113673396B (zh) * | 2021-08-10 | 2024-07-26 | 佛山市海天(高明)调味食品有限公司 | 一种孢子发芽率计算方法、装置及存储介质 |
Also Published As
Publication number | Publication date |
---|---|
CN108921806B (zh) | 2020-08-07 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN108921806A (zh) | 一种图像处理方法、图像处理装置及终端设备 | |
CN109118447A (zh) | 一种图片处理方法、图片处理装置及终端设备 | |
CN108256555A (zh) | 图像内容识别方法、装置及终端 | |
CN107038561A (zh) | 一种业务数据处理方法、装置及客户端 | |
CN109101931A (zh) | 一种场景识别方法、场景识别装置及终端设备 | |
CN111932463B (zh) | 图像处理方法、装置、设备及存储介质 | |
CN109120862A (zh) | 高动态范围图像获取方法、装置及移动终端 | |
CN109345553A (zh) | 一种手掌及其关键点检测方法、装置和终端设备 | |
CN107832836A (zh) | 无模型深度增强学习探索方法及装置 | |
US10134149B2 (en) | Image processing | |
CN110088799A (zh) | 图像处理设备和图像处理方法 | |
CN107613202A (zh) | 一种拍摄方法及移动终端 | |
CN110266994A (zh) | 一种视频通话方法、视频通话装置及终端 | |
CN111984803B (zh) | 多媒体资源处理方法、装置、计算机设备及存储介质 | |
CN110457963A (zh) | 显示控制方法、装置、移动终端及计算机可读存储介质 | |
CN106096043A (zh) | 一种拍照方法和移动终端 | |
CN111367407A (zh) | 智能眼镜交互方法、智能眼镜交互装置及智能眼镜 | |
CN110363814A (zh) | 一种视频处理方法、装置、电子装置和存储介质 | |
CN110033016A (zh) | 数字键盘识别模型的训练方法、数字键盘识别方法及系统 | |
CN107798716A (zh) | 图像效果提取 | |
CN102915230B (zh) | 一种用户界面生成方法、装置及电子设备 | |
CN103716685B (zh) | 图标识别系统、服务器和方法 | |
CN108805095A (zh) | 图片处理方法、装置、移动终端及计算机可读存储介质 | |
CN108875901A (zh) | 神经网络训练方法以及通用物体检测方法、装置和系统 | |
CN116229188A (zh) | 图像处理显示方法、分类模型的生成方法及其设备 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |