CN111163265A - 图像处理方法、装置、移动终端及计算机存储介质 - Google Patents
图像处理方法、装置、移动终端及计算机存储介质 Download PDFInfo
- Publication number
- CN111163265A CN111163265A CN201911423541.4A CN201911423541A CN111163265A CN 111163265 A CN111163265 A CN 111163265A CN 201911423541 A CN201911423541 A CN 201911423541A CN 111163265 A CN111163265 A CN 111163265A
- Authority
- CN
- China
- Prior art keywords
- image
- face region
- super
- mobile terminal
- face
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000012545 processing Methods 0.000 title claims abstract description 30
- 238000003672 processing method Methods 0.000 title claims abstract description 19
- 238000000034 method Methods 0.000 claims abstract description 33
- 238000004590 computer program Methods 0.000 claims description 19
- 238000013528 artificial neural network Methods 0.000 claims description 10
- 238000001514 detection method Methods 0.000 claims description 9
- 230000004927 fusion Effects 0.000 claims description 9
- 238000013135 deep learning Methods 0.000 claims description 7
- 230000002194 synthesizing effect Effects 0.000 claims description 7
- 238000000354 decomposition reaction Methods 0.000 claims description 5
- 238000010276 construction Methods 0.000 claims description 4
- 238000003825 pressing Methods 0.000 claims description 4
- 238000004364 calculation method Methods 0.000 abstract description 5
- 238000010586 diagram Methods 0.000 description 8
- 238000012549 training Methods 0.000 description 5
- 238000004422 calculation algorithm Methods 0.000 description 4
- 238000012805 post-processing Methods 0.000 description 4
- 238000013461 design Methods 0.000 description 3
- 230000006870 function Effects 0.000 description 3
- 230000001788 irregular Effects 0.000 description 2
- 238000002156 mixing Methods 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 230000011218 segmentation Effects 0.000 description 2
- 238000006467 substitution reaction Methods 0.000 description 2
- 238000004458 analytical method Methods 0.000 description 1
- 238000013527 convolutional neural network Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000018109 developmental process Effects 0.000 description 1
- 230000001815 facial effect Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000005498 polishing Methods 0.000 description 1
- 230000011514 reflex Effects 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/61—Control of cameras or camera modules based on recognised objects
- H04N23/611—Control of cameras or camera modules based on recognised objects where the recognised objects include parts of the human body
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/40—Scaling of whole images or parts thereof, e.g. expanding or contracting
- G06T3/4053—Scaling of whole images or parts thereof, e.g. expanding or contracting based on super-resolution, i.e. the output image resolution being higher than the sensor resolution
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/80—Camera processing pipelines; Components thereof
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- General Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- Molecular Biology (AREA)
- Biophysics (AREA)
- Computational Linguistics (AREA)
- Artificial Intelligence (AREA)
- Evolutionary Computation (AREA)
- General Health & Medical Sciences (AREA)
- Biomedical Technology (AREA)
- Computing Systems (AREA)
- General Engineering & Computer Science (AREA)
- Life Sciences & Earth Sciences (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Health & Medical Sciences (AREA)
- Image Analysis (AREA)
- Image Processing (AREA)
Abstract
本发明公开了一种图像处理方法、装置、移动终端及计算机存储介质，该方法在移动终端上执行，包括：获取移动终端的图像采集装置所采集的至少一张图像，其中，至少一张图像中包括人脸区域；基于至少一张图像中的人脸区域，构建超分辨率重构人脸区域；将超分辨率重构人脸区域与至少一张图像中的第一图像进行融合，得到融合后的图像。由此可见，本发明实施例在对移动终端采集到的人脸图像进行处理时，基于采集到的人脸图像中的人脸区域构建超分辨率重构人脸区域，能够提高输出图像的人脸区域的清晰度，满足用户对人像的需求，并且在对图像进行处理时，构建人脸区域的清晰图像而不是构建全图的清晰图像，减小了计算量，提高了处理的效率。
Description
技术领域
本发明实施例涉及图像处理领域，并且更具体地，涉及一种图像处理方法、装置、移动终端及计算机存储介质。
背景技术
随着移动终端的发展和普及，越来越多的人开始使用诸如智能电话等移动终端进行人像拍摄。
用户在使用移动终端进行人像拍摄时，一种处理方式是可以对所拍摄的人像进行磨皮等处理，以将人像的脸部瑕疵消除，但是这种方式会使得图像变得模糊，无法保证图像清晰。另一种处理方式是可以使用超分辨率重建，但是超分辨率重建的运算量巨大，在移动终端上需要较长的时间，处理效率过低，用户体验差。
发明内容
本发明提供了一种图像处理方法、装置、移动终端及计算机存储介质，能够在移动终端对人像进行快速处理，且保证了人像的清晰度。
根据本发明的第一方面，提供了一种图像处理方法，所述方法在移动终端上执行，所述方法包括：
获取所述移动终端的图像采集装置所采集的至少一张图像，其中，所述至少一张图像中包括人脸区域；
基于所述至少一张图像中的人脸区域，构建超分辨率重构人脸区域；
将所述超分辨率重构人脸区域与所述至少一张图像中的第一图像进行融合，得到融合后的图像。
在一种实现方式中，所述基于所述至少一张图像中的人脸区域，构建超分辨率重构人脸区域，包括：将所述至少一张图像的人脸区域输入至训练好的基于深度学习的超分辨率重建神经网络，得到与所述人脸区域对应的超分辨率重构人脸区域。
在一种实现方式中，所述至少一张图像包括所述第一图像和第二图像，所述第二图像的数量为至少一个，
所述基于所述至少一张图像中的人脸区域，构建超分辨率重构人脸区域，包括：
将所述第二图像中的人脸区域与所述第一图像中的人脸区域进行区域对齐；
将对齐后的各个人脸区域进行合成，得到所述超分辨率重构人脸区域。
在一种实现方式中，将所述第二图像中的人脸区域与所述第一图像中的人脸区域进行区域对齐包括：将所述第二图像和所述第一图像进行多层高斯金字塔分解；逐层地找到所述第一图像的每一层高斯金字塔中的像素在所述第二图像中的对应位置。
在一种实现方式中，所述将所述超分辨率重构人脸区域与所述至少一张图像中的第一图像进行融合，得到融合后的图像，包括：将所述超分辨率重构人脸区域中的人脸掩膜对应区域与所述第一图像进行泊松融合，得到所述融合后的图像。
在一种实现方式中，所述获取所述移动终端的图像采集装置所采集的至少一张图像，包括：获取所述移动终端的用户按下快门的一次操作，根据所述一次操作由所述图像采集装置采集所述至少一张图像。
在一种实现方式中，在所述构建超分辨率重构人脸区域之前，还包括：通过人脸检测，确定所述至少一张图像中的人脸区域。
在一种实现方式中，所述方法还包括：对所述融合后的图像进行美颜操作，得到输出图像，其中所述美颜操作包括磨皮。
在一种实现方式中，所述人脸区域为矩形的包围盒。
第二方面，提供了一种图像处理装置，所述装置用于实现前述第一方面或任一实现方式所述方法的步骤，所述装置位于移动终端上，所述装置包括：
获取模块，用于获取所述移动终端的图像采集装置所采集的至少一张图像，其中，所述至少一张图像中包括人脸区域；
构建模块，用于基于所述至少一张图像中的人脸区域，构建超分辨率重构人脸区域；
融合模块，用于将所述超分辨率重构人脸区域与所述至少一张图像中的第一图像进行融合，得到融合后的图像。
第三方面，提供了一种图像处理装置，包括存储器、处理器及存储在所述存储器上且在所述处理器上运行的计算机程序，所述处理器执行所述计算机程序时实现前述第一方面或任一实现方式所述方法的步骤。
第四方面，提供了一种移动终端，包括：
图像采集装置；以及
第二方面或者第三方面所述的图像处理装置。
第五方面，提供了一种计算机存储介质，其上存储有计算机程序，所述计算机程序被处理器执行时实现前述第一方面或任一实现方式所述方法的步骤。
由此可见，本发明实施例在对移动终端采集到的人脸图像进行处理时，基于采集到的人脸图像中的人脸区域构建超分辨率重构人脸区域，能够提高输出图像的人脸区域的清晰度，满足用户对人像的需求，并且在对图像进行处理时，构建人脸区域的清晰图像而不是构建全图的清晰图像，减小了计算量，提高了处理的效率。
附图说明
通过结合附图对本发明实施例进行更详细的描述，本发明的上述以及其它目的、特征和优势将变得更加明显。附图用来提供对本发明实施例的进一步理解，并且构成说明书的一部分，与本发明实施例一起用于解释本发明，并不构成对本发明的限制。在附图中，相同的参考标号通常代表相同部件或步骤。
图1是本发明实施例的电子设备的一个示意性框图；
图2是本发明实施例的图像处理方法的一个示意性流程图；
图3是本发明实施例的得到超分辨率重构人脸区域的一例；
图4是本发明实施例的得到超分辨率重构人脸区域的另一例；
图5是本发明实施例的图像处理方法的一个示意图；
图6是本发明实施例的超分辨率重构人脸区域的眼部区域的一个示意图；
图7是本发明实施例的图像处理装置的一个示意性框图；
图8是本发明实施例的图像处理装置的另一个示意性框图。
具体实施方式
为了使得本发明的目的、技术方案和优点更为明显，下面将参照附图详细描述根据本发明的示例实施例。显然，所描述的实施例仅仅是本发明的一部分实施例，而不是本发明的全部实施例，应理解，本发明不受这里描述的示例实施例的限制。基于本发明中描述的本发明实施例，本领域技术人员在没有付出创造性劳动的情况下所得到的所有其它实施例都应落入本发明的保护范围之内。
本发明实施例可以应用于电子设备，图1所示为本发明实施例的电子设备的一个示意性框图。图1所示的电子设备10包括一个或更多个处理器102、一个或更多个存储装置104、输入装置106、输出装置108、图像传感器110以及一个或更多个非图像传感器114，这些组件通过总线系统112和/或其它形式互连。应当注意，图1所示的电子设备10的组件和结构只是示例性的，而非限制性的，根据需要，所述电子设备也可以具有其他组件和结构。
所述处理器102可以包括中央处理单元(Central Processing Unit，CPU)1021和图形处理单元(Graphics Processing Unit，GPU)1022或者具有数据处理能力和/或指令执行能力的其它形式的处理单元，例如现场可编程门阵列(Field－Programmable GateArray，FPGA)或进阶精简指令集机器(Advanced RISC(Reduced Instruction SetComputer)Machine，ARM)等，并且处理器102可以控制所述电子设备10中的其它组件以执行期望的功能。
所述存储装置104可以包括一个或更多个计算机程序产品，所述计算机程序产品可以包括各种形式的计算机可读存储介质，例如易失性存储器1041和/或非易失性存储器1042。所述易失性存储器1041例如可以包括随机存取存储器(Random Access Memory，RAM)和/或高速缓冲存储器(cache)等。所述非易失性存储器1042例如可以包括只读存储器(Read-Only Memory，ROM)、硬盘、闪存等。在所述计算机可读存储介质上可以存储一个或更多个计算机程序指令，处理器102可以运行所述程序指令，以实现各种期望的功能。在所述计算机可读存储介质中还可以存储各种应用程序和各种数据，例如所述应用程序使用和/或产生的各种数据等。
所述输入装置106可以是用户用来输入指令的装置，并且可以包括键盘、鼠标、麦克风和触摸屏等中的一个或更多个。
所述输出装置108可以向外部(例如用户)输出各种信息(例如图像或声音)，并且可以包括显示器、扬声器等中的一个或更多个。
所述图像传感器110可以拍摄用户期望的图像(例如照片、视频等)，并且将所拍摄的图像存储在所述存储装置104中以供其它组件使用。
当注意，图1所示的电子设备10的组件和结构只是示例性的，尽管图1示出的电子设备10包括多个不同的装置，但是根据需要，其中的一些装置可以不是必须的，其中的一些装置的数量可以更多等等，本发明对此不限定。
示例性地，图1中的电子设备10可以是移动终端，如智能电话、平板电脑、可穿戴设备等便携式电子设备，本发明对此不限定。
图2是本发明实施例的图像处理方法的一个示意性流程图。图2所示的方法在移动终端上执行，其中移动终端例如可以是智能电话、平板电脑、可穿戴设备等。图2所示的方法可以包括：
S10，获取所述移动终端的图像采集装置所采集的至少一张图像，其中，所述至少一张图像中包括人脸区域；
S20，基于所述至少一张图像中的人脸区域，构建超分辨率重构人脸区域；
S30，将所述超分辨率重构人脸区域与所述至少一张图像中的第一图像进行融合，得到融合后的图像。
示例性地，移动终端的图像采集装置可以包括摄像头，如可以是前置摄像头或后置摄像头，其中，图像采集装置的数量可以为多个，例如双摄或三摄或四摄等等。
示例性地，S10中，用户可以手持移动终端，将图像采集装置对准需要采集的人脸，通过按下快门来完成采集。
示例性地，S10可以包括：获取所述移动终端的用户按下快门的一次操作，根据所述一次操作由所述图像采集装置采集所述至少一张图像。
作为一例，用户按下快门一次，采集一张图像。
作为另一例，用户按下快门一次，采集多张图像。例如，可以采集4-64张，应当理解，本发明实施例对该数量不作限定，例如可以为2或3也可以或大于64的其他数量，等等。这样，在用户按下快门的同时一次性采集多张图像，便于之后对图像的处理。
可选地，在S10之后在S20之前，可以包括：通过人脸检测，确定至少一张图像中的人脸区域。
例如，可以采用深度学习的方法预先训练人脸检测网络。其中，人脸检测网络可以为区域卷积神经网络(Region Convolutional Neural Network，R-CNN)，或也可以称为目标检测网络。
其中，人脸区域可以是矩形的包围盒(bounding box)。矩形是具有长和宽的规则形状。
本发明实施例中，至少一张图像包括第一图像，在人脸检测的步骤中，可以对第一图像进行实例分割(Instance segmentation)，在得到第一图像中人脸区域的同时，得到该人脸区域中的人脸掩膜(mask)。
可理解，若至少一张图像为一张图像，则第一图像为该至少一张图像。若至少一张图像为多张图像，则第一图像为其中之一，例如第一图像可以是至少一张图像中的第一帧图像，或者可选地，第一图像可以是至少一张图像中的任意一帧图像。作为一种实现方式，可以采用预定的算法计算至少一张图像中每一张图像的清晰度，并可以选择清晰度最高的那一帧为第一图像。
其中，人脸mask是指人脸区域中的人脸的那部分，其一般为不规则的形状，该人脸mask中的任一像素都属于人脸像素。
示例性地，作为一例，S20可以包括：将至少一张图像的人脸区域输入至训练好的基于深度学习的超分辨率重建神经网络，得到与人脸区域对应的超分辨率重构人脸区域。
本发明实施例中，超分辨率重构人脸区域也可以称为高清人脸区域、或超分辨率人脸区域、或重构人脸区域等等，其相比于S10中采集到的至少一张图像中的人脸区域而言，具有更高的分辨率，具有更高的清晰度。例如，超分辨率重构人脸区域与至少一张图像中的人脸区域具有相同的大小，但是超分辨率重构人脸区域包含更多的像素点。
可以将至少一张图像中的一张图像或若干张图像的人脸区域输入至训练好的基于深度学习的超分辨率重建神经网络，得到与人脸区域对应的超分辨率重构人脸区域。举例来说，可以将第一图像的人脸区域输入至超分辨率重建神经网络，得到与人脸区域对应的超分辨率重构人脸区域，如图3所示。
可理解，超分辨率重建神经网络是基于训练数据预先训练好的。训练数据可以包括由移动终端采集的多张原始(RAW)图像，以及由其他高清采集装置采集的清晰图像作为标签。其中高清采集装置可以为单反相机或者人像镜头等。其中，作为标签的清晰图像可以包括JPG图像。进一步地，可以通过训练得到超分辨率重建神经网络。另外，由于RAW图像与JPG图像是不对齐的，因此在训练时，可以利用CoBi Loss进行训练，以提高超分辨率重建神经网络的精度、准确度。
示例性地，作为另一例，至少一张图像包括第一图像和第二图像，第二图像的数量为至少一个。可以理解为，至少一张图像中除第一图像之外的都为第二图像；或者可以理解为，从至少一张图像中选取其中的第一图像和若干第二图像执行S20。
将S20可以包括：将第二图像中的人脸区域与第一图像中的人脸区域进行区域对齐；将对齐后的各个人脸区域进行合成，得到超分辨率重构人脸区域。
考虑到不同帧的人脸图像中的人脸区域是不对齐的，因此可以通过光流亚像素配准算法对人像区域进行对齐。示例性地，可以将第二图像和第一图像进行多层高斯金字塔分解；逐层地找到第一图像的每一层高斯金字塔中的像素在第二图像中的对应位置。
以4层高斯金字塔为例，参照图4，可以首先将第二图像和第一图像进行4层高斯金字塔分解，即nlevel＝4。然后从顶层开始(即图4中1层)进行逐层地匹配。
针对第二图像中当前层的像素T(x,y)，找到在第一图像中当前层的像素I(x+u+u0,y+v+v0)，使得差异D(u,v)最小，其中，D(u,v)满足：
随后，可以以上一层的偏移二倍值为下一层的搜索起点起点，即令
在下一层继续寻找，直到完成第四层的寻找，即在第4层，找到第二图像中的每一个像素在第一图像中的对应位置，使得两者之间的差异最小。
这样，该过程先在金字塔顶层(即第i＝1层)匹配，然后i+1层以i层的结果为起点继续估计偏移，从粗到细估计。这样就能找到第二图像中每一块在另外的第一图像的对应位置，完成配准。
随后，将对齐之后的人脸区域进行合成，可以得到超分辨率重构人脸区域。可理解，由于硬件等限制，移动终端的图像采集装置采集的像素是一定的，也就是说，至少一张图像的人脸区域所包含的像素的数量是有限制的，本发明实施例通过将第二图像与第一图像的人脸区域进行对齐和合成，从而得到的人脸区域的像素的数量更多，使得更清晰，可理解，第二图像的数量可以更多，如3张，如63张等，这样清晰人脸图像可以包括更多数量的像素点。作为一个示例，如图5所示，超分辨率重构人脸区域包含更多的像素点。
示例性地，作为另一例，至少一张图像包括第一图像和第二图像，第二图像的数量为至少一个。S20可以包括：将第二图像中的人脸区域与第一图像中的人脸区域进行区域对齐；将对齐后的各个人脸区域进行合成，得到合成人脸区域；将合成人脸区域输入至训练好的基于深度学习的超分辨率重建神经网络，得到对应的超分辨率重构人脸区域。该实现方式可以理解为是上述两个实施例的结合，具体实现可以参数上面的描述，这里不再赘述。
举例来说，如图5示出了人脸区域的一个人眼局部，其中图6(a)表示至少一种图像中的其中一张图像的人脸区域的眼部区域，图6(b)表示超分辨率重构人脸区域的眼部区域，可以看出相比于图6(a)来说，图6(b)更加清晰。
示例性地，S30可以包括：将S20得到的超分辨率重构人脸区域中的人脸掩膜对应区域与第一图像进行泊松融合，得到融合后的图像。
如前所述，人脸掩膜对应区域可以是不规则形状，其中的每一像素点均属于人脸像素点，通过泊松融合(Poisson Blending)，以超分辨率重构人脸区域中的人脸掩膜对应区域为前景，以第一图像为背景，应用拉普拉斯卷积核、求解泊松方程等，得到融合后的图像。这样，S30中，将S20得到的超分辨率重构人脸区域中的人脸掩膜对应区域融合到第一图像中，而不是将整个超分辨率重构人脸区域融合到第一图像中，避免超分辨率重构人脸区域的边界与第一图像之间的不匹配、不连续等现象出现。
现在返回图5，示出了图2所示的方法的一例，图5的最左侧由用户手持移动终端，拍摄至少一张图像(如3张)，通过人脸检测确定每张图像中的人脸区域(矩形框)。如图5下侧的一行所示，将三张图像(一张第一图像和两张第二图像)的人脸区域进行对齐、合成得到超分辨率重构人脸区域，并且超分辨率重构人脸区域比第一图像(或第二图像)的人脸区域包含更多的像素点。随后再将超分辨率重构人脸区域的人脸掩膜对应区域融合到第一图像得到融合后的图像。
示例性地，S30之后，可以将融合后的图像作为输出图像呈现在移动终端的显示器，以便用户查看。或者，可选地，可以对融合后的图像进行一定的后处理，得到输出图像，然后再将输出图像呈现在移动终端的显示器，以便用户查看。
其中，后处理可以包括美颜操作，也就是说可以对融合后的图像进行美颜操作，得到输出图像，其中美颜操作包括磨皮。可理解，后处理可以包括其他操作，如提高亮度等，这里不再罗列。
由此可见，本发明实施例在对移动终端采集到的人脸图像进行处理时，基于采集到的人脸图像中的人脸区域构建超分辨率重构人脸区域，能够提高输出图像的人脸区域的清晰度，满足用户对人像的需求，并且在对图像进行处理时，构建人脸区域的清晰图像而不是构建全图的清晰图像，减小了计算量，提高了处理的效率。
一般地，移动终端的用户在拍摄人像时，更加倾向于对人像的清晰度的要求，对背景的要求较低甚至没有要求。而且一般用户在查看人像时，只关注人脸的拍摄状态而基本不会关注背景的拍摄状态，因此本发明实施例针对人脸区域构建超分辨率重构人脸区域，能够满足用户对人像的高需求，同时不对背景进行复杂处理能够极大地减小计算量，能够在用户拍摄完之后的很短时间即产生输出图像，提升了用户体验。
图7是本发明实施例的图像处理装置的一个示意性框图。图7所示的装置20包括：获取模块21、构建模块22和融合模块23。
获取模块21，用于获取所述移动终端的图像采集装置所采集的至少一张图像，其中，所述至少一张图像中包括人脸区域；
构建模块22，用于基于所述至少一张图像中的人脸区域，构建超分辨率重构人脸区域；
融合模块23，用于将所述超分辨率重构人脸区域与所述至少一张图像中的第一图像进行融合，得到融合后的图像。
本发明实施例中，图7所示的装置20位于移动终端上，例如装置20可以为移动终端的一部分。
示例性地，构建模块22可以具体用于：将所述至少一张图像的人脸区域输入至训练好的基于深度学习的超分辨率重建神经网络，得到与所述人脸区域对应的超分辨率重构人脸区域。
示例性地，所述至少一张图像包括所述第一图像和第二图像，所述第二图像的数量为至少一个。构建模块22可以具体用于：将所述第二图像中的人脸区域与所述第一图像中的人脸区域进行区域对齐；将对齐后的各个人脸区域进行合成，得到所述超分辨率重构人脸区域。
其中，构建模块22将所述第二图像中的人脸区域与所述第一图像中的人脸区域进行区域对齐包括：将所述第二图像和所述第一图像进行多层高斯金字塔分解；逐层地找到所述第一图像的每一层高斯金字塔中的像素在所述第二图像中的对应位置。
示例性地，融合模块23可以具体用于：将所述超分辨率重构人脸区域中的人脸掩膜对应区域与所述第一图像进行泊松融合，得到所述融合后的图像。
示例性地，获取模块21可以具体用于：获取所述移动终端的用户按下快门的一次操作，根据所述一次操作由所述图像采集装置采集所述至少一张图像。
示例性地，还可以包括人脸检测模块，用于：通过人脸检测，确定所述至少一张图像中的人脸区域。
示例性地，还可以包括后处理模块，用于：对所述融合后的图像进行美颜操作，得到输出图像，其中所述美颜操作包括磨皮。
示例性地，还可以包括输出模块，用于将输出图像呈现在显示器上。
示例性地，人脸区域为矩形的包围盒。
图7所示的装置20能够实现前述图2所示的图像处理方法，为避免重复，这里不再赘述。
本领域普通技术人员可以意识到，结合本文中所公开的实施例描述的各示例的单元及算法步骤，能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟以硬件还是软件方式来执行，取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能，但是这种实现不应认为超出本发明的范围。
另外，本发明实施例还提供了另一种图像处理装置，包括存储器、处理器及存储在所述存储器上且在所述处理器上运行的计算机程序，处理器执行所述程序时实现前述图2所示的图像处理方法的步骤。
如图8所示，该装置30可以包括存储器310和处理器320。
存储器310存储用于实现根据本发明实施例的图像处理方法中的相应步骤的计算机程序代码。
处理器320用于运行存储器310中存储的计算机程序代码，以执行根据本发明实施例的图像处理方法的相应步骤。
示例性地，在所述计算机程序代码被处理器320运行时执行以下步骤：获取所述移动终端的图像采集装置所采集的至少一张图像，其中，所述至少一张图像中包括人脸区域；基于所述至少一张图像中的人脸区域，构建超分辨率重构人脸区域；将所述超分辨率重构人脸区域与所述至少一张图像中的第一图像进行融合，得到融合后的图像。
另外，本发明实施例还提供了一种电子设备，该电子设备可以为图1所示的电子设备10，或者，该电子设备可以包括图7或图8所示的图像处理装置。该电子设备可以实现前述图2所示的图像处理方法。
其中，该电子设备可以为移动终端，该移动终端包括图像采集装置；以及图7或图8所示的图像处理装置。示例性地，该移动终端还包括显示器，用于显示输出图像。其中，显示器可以为可触摸的液晶显示屏(Liquid Crystal Display，LCD)。
另外，本发明实施例还提供了一种计算机存储介质，其上存储有计算机程序。当所述计算机程序由处理器执行时，可以实现前述图2所示的图像处理方法的步骤。例如，该计算机存储介质为计算机可读存储介质。
在一个实施例中，所述计算机程序指令在被计算机或处理器运行时使计算机或处理器执行以下步骤：获取所述移动终端的图像采集装置所采集的至少一张图像，其中，所述至少一张图像中包括人脸区域；基于所述至少一张图像中的人脸区域，构建超分辨率重构人脸区域；将所述超分辨率重构人脸区域与所述至少一张图像中的第一图像进行融合，得到融合后的图像。
计算机存储介质例如可以包括智能电话的存储卡、平板电脑的存储部件、个人计算机的硬盘、只读存储器(ROM)、可擦除可编程只读存储器(EPROM)、便携式紧致盘只读存储器(CD-ROM)、USB存储器、或者上述存储介质的任意组合。计算机可读存储介质可以是一个或多个计算机可读存储介质的任意组合。
另外，本发明实施例还提供了一种计算机程序产品，其包含指令，当该指令被计算机所执行时，使得计算机执行上述图2中任一所示的图像处理方法的步骤。
由此可见，本发明实施例提供了一种图像处理方法、图像处理装置、移动终端及计算机存储介质，在对移动终端采集到的人脸图像进行处理时，基于采集到的人脸图像中的人脸区域构建超分辨率重构人脸区域，能够提高输出图像的人脸区域的清晰度，满足用户对人像的需求，并且在对图像进行处理时，构建人脸区域的清晰图像而不是构建全图的清晰图像，减小了计算量，提高了处理的效率。
尽管这里已经参考附图描述了示例实施例，应理解上述示例实施例仅仅是示例性的，并且不意图将本发明的范围限制于此。本领域普通技术人员可以在其中进行各种改变和修改，而不偏离本发明的范围和精神。所有这些改变和修改意在被包括在所附权利要求所要求的本发明的范围之内。
本领域普通技术人员可以意识到，结合本文中所公开的实施例描述的各示例的单元及算法步骤，能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟以硬件还是软件方式来执行，取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能，但是这种实现不应认为超出本发明的范围。
在本申请所提供的几个实施例中，应该理解到，所揭露的设备和方法，可以通过其它的方式实现。例如，以上所描述的设备实施例仅仅是示意性的，例如，所述单元的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式，例如多个单元或组件可以结合或者可以集成到另一个设备，或一些特征可以忽略，或不执行。
在此处所提供的说明书中，说明了大量具体细节。然而，能够理解，本发明的实施例可以在没有这些具体细节的情况下实践。在一些实例中，并未详细示出公知的方法、结构和技术，以便不模糊对本说明书的理解。
类似地，应当理解，为了精简本发明并帮助理解各个发明方面中的一个或多个，在对本发明的示例性实施例的描述中，本发明的各个特征有时被一起分组到单个实施例、图、或者对其的描述中。然而，并不应将该本发明的方法解释成反映如下意图：即所要求保护的本发明要求比在每个权利要求中所明确记载的特征更多的特征。更确切地说，如相应的权利要求书所反映的那样，其发明点在于可以用少于某个公开的单个实施例的所有特征的特征来解决相应的技术问题。因此，遵循具体实施方式的权利要求书由此明确地并入该具体实施方式，其中每个权利要求本身都作为本发明的单独实施例。
本领域的技术人员可以理解，除了特征之间相互排斥之外，可以采用任何组合对本说明书(包括伴随的权利要求、摘要和附图)中公开的所有特征以及如此公开的任何方法或者设备的所有过程或单元进行组合。除非另外明确陈述，本说明书(包括伴随的权利要求、摘要和附图)中公开的每个特征可以由提供相同、等同或相似目的的替代特征来代替。
此外，本领域的技术人员能够理解，尽管在此所述的一些实施例包括其它实施例中所包括的某些特征而不是其它特征，但是不同实施例的特征的组合意味着处于本发明的范围之内并且形成不同的实施例。例如，在权利要求书中，所要求保护的实施例的任意之一都可以以任意的组合方式来使用。
本发明的各个部件实施例可以以硬件实现，或者以在一个或者多个处理器上运行的软件模块实现，或者以它们的组合实现。本领域的技术人员应当理解，可以在实践中使用微处理器或者数字信号处理器(Digital Signal Processing，DSP)来实现根据本发明实施例的物品分析设备中的一些模块的一些或者全部功能。本发明还可以实现为用于执行这里所描述的方法的一部分或者全部的装置程序(例如，计算机程序和计算机程序产品)。这样的实现本发明的程序可以存储在计算机可读介质上，或者可以具有一个或者多个信号的形式。这样的信号可以从因特网网站上下载得到，或者在载体信号上提供，或者以任何其他形式提供。
应该注意的是上述实施例对本发明进行说明而不是对本发明进行限制，并且本领域技术人员在不脱离所附权利要求的范围的情况下可设计出替换实施例。在权利要求中，不应将位于括号之间的任何参考符号构造成对权利要求的限制。单词“包含”不排除存在未列在权利要求中的元件或步骤。位于元件之前的单词“一”或“一个”不排除存在多个这样的元件。本发明可以借助于包括有若干不同元件的硬件以及借助于适当编程的计算机来实现。在列举了若干装置的单元权利要求中，这些装置中的若干个可以是通过同一个硬件项来具体体现。单词第一、第二、以及第三等的使用不表示任何顺序。可将这些单词解释为名称。
以上所述，仅为本发明的具体实施方式或对具体实施方式的说明，本发明的保护范围并不局限于此，任何熟悉本技术领域的技术人员在本发明揭露的技术范围内，可轻易想到变化或替换，都应涵盖在本发明的保护范围之内。本发明的保护范围应以权利要求的保护范围为准。
Claims (12)
1.一种图像处理方法，其特征在于，所述方法在移动终端上执行，所述方法包括：
获取所述移动终端的图像采集装置所采集的至少一张图像，其中，所述至少一张图像中包括人脸区域；
基于所述至少一张图像中的人脸区域，构建超分辨率重构人脸区域；
将所述超分辨率重构人脸区域与所述至少一张图像中的第一图像进行融合，得到融合后的图像。
2.根据权利要求1所述的方法，其特征在于，所述基于所述至少一张图像中的人脸区域，构建超分辨率重构人脸区域，包括：
将所述至少一张图像的人脸区域输入至训练好的基于深度学习的超分辨率重建神经网络，得到与所述人脸区域对应的超分辨率重构人脸区域。
3.根据权利要求1所述的方法，其特征在于，所述至少一张图像包括所述第一图像和第二图像，所述第二图像的数量为至少一个，
所述基于所述至少一张图像中的人脸区域，构建超分辨率重构人脸区域，包括：
将所述第二图像中的人脸区域与所述第一图像中的人脸区域进行区域对齐；
将对齐后的各个人脸区域进行合成，得到所述超分辨率重构人脸区域。
4.根据权利要求3所述的方法，其特征在于，将所述第二图像中的人脸区域与所述第一图像中的人脸区域进行区域对齐包括：
将所述第二图像和所述第一图像进行多层高斯金字塔分解；
逐层地找到所述第一图像的每一层高斯金字塔中的像素在所述第二图像中的对应位置。
5.根据权利要求1所述的方法，其特征在于，所述将所述超分辨率重构人脸区域与所述至少一张图像中的第一图像进行融合，得到融合后的图像，包括：
将所述超分辨率重构人脸区域中的人脸掩膜对应区域与所述第一图像进行泊松融合，得到所述融合后的图像。
6.根据权利要求1所述的方法，其特征在于，所述获取所述移动终端的图像采集装置所采集的至少一张图像，包括：
获取所述移动终端的用户按下快门的一次操作，根据所述一次操作由所述图像采集装置采集所述至少一张图像。
7.根据权利要求1所述的方法，其特征在于，在所述构建超分辨率重构人脸区域之前，还包括：
通过人脸检测，确定所述至少一张图像中的人脸区域。
8.根据权利要求1至7中任一项所述的方法，其特征在于，所述方法还包括：
对所述融合后的图像进行美颜操作，得到输出图像，其中所述美颜操作包括磨皮。
9.一种图像处理装置，其特征在于，所述装置位于移动终端上，所述装置包括：
获取模块，用于获取所述移动终端的图像采集装置所采集的至少一张图像，其中，所述至少一张图像中包括人脸区域；
构建模块，用于基于所述至少一张图像中的人脸区域，构建超分辨率重构人脸区域；
融合模块，用于将所述超分辨率重构人脸区域与所述至少一张图像中的第一图像进行融合，得到融合后的图像。
10.一种图像处理装置，包括存储器、处理器及存储在所述存储器上且在所述处理器上运行的计算机程序，其特征在于，所述处理器执行所述计算机程序时实现权利要求1至8中任一项所述方法的步骤。
11.一种移动终端，其特征在于，包括：
图像采集装置；以及
权利要求9或10所述的图像处理装置。
12.一种计算机存储介质，其上存储有计算机程序，其特征在于，所述计算机程序被处理器执行时实现权利要求1至8中任一项所述方法的步骤。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201911423541.4A CN111163265A (zh) | 2019-12-31 | 2019-12-31 | 图像处理方法、装置、移动终端及计算机存储介质 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201911423541.4A CN111163265A (zh) | 2019-12-31 | 2019-12-31 | 图像处理方法、装置、移动终端及计算机存储介质 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| CN111163265A true CN111163265A (zh) | 2020-05-15 |
Family
ID=70560610
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN201911423541.4A Pending CN111163265A (zh) | 2019-12-31 | 2019-12-31 | 图像处理方法、装置、移动终端及计算机存储介质 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN111163265A (zh) |
Cited By (8)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN111709878A (zh) * | 2020-06-17 | 2020-09-25 | 北京百度网讯科技有限公司 | 人脸超分辨率实现方法、装置、电子设备及存储介质 |
| CN111784611A (zh) * | 2020-07-03 | 2020-10-16 | 厦门美图之家科技有限公司 | 人像美白方法、装置、电子设备和可读存储介质 |
| CN111798399A (zh) * | 2020-07-10 | 2020-10-20 | 北京字节跳动网络技术有限公司 | 一种图像处理方法、装置以及电子设备 |
| CN112184584A (zh) * | 2020-09-29 | 2021-01-05 | 北京达佳互联信息技术有限公司 | 图像处理方法、装置、电子设备及存储介质 |
| CN112991208A (zh) * | 2021-03-11 | 2021-06-18 | Oppo广东移动通信有限公司 | 图像处理方法及装置、计算机可读介质和电子设备 |
| CN113537086A (zh) * | 2021-07-20 | 2021-10-22 | 科大讯飞股份有限公司 | 图像识别方法、装置、电子设备和存储介质 |
| CN114972020A (zh) * | 2022-04-13 | 2022-08-30 | 北京字节跳动网络技术有限公司 | 一种图像处理方法、装置、存储介质及电子设备 |
| WO2023036084A1 (zh) * | 2021-09-07 | 2023-03-16 | 华为技术有限公司 | 一种图像处理方法及相关装置 |
Citations (8)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN109190520A (zh) * | 2018-08-16 | 2019-01-11 | 广州视源电子科技股份有限公司 | 一种超分辨率重建人脸图像方法及装置 |
| CN109461495A (zh) * | 2018-11-01 | 2019-03-12 | 腾讯科技（深圳）有限公司 | 一种医学图像的识别方法、模型训练的方法及服务器 |
| CN109711364A (zh) * | 2018-12-29 | 2019-05-03 | 成都视观天下科技有限公司 | 一种人脸图像超分辨重建方法、装置及计算机设备 |
| CN110070511A (zh) * | 2019-04-30 | 2019-07-30 | 北京市商汤科技开发有限公司 | 图像处理方法和装置、电子设备及存储介质 |
| CN110288530A (zh) * | 2019-06-28 | 2019-09-27 | 北京金山云网络技术有限公司 | 一种对图像进行超分辨率重建的处理方法及装置 |
| CN110310229A (zh) * | 2019-06-28 | 2019-10-08 | Oppo广东移动通信有限公司 | 图像处理方法、图像处理装置、终端设备及可读存储介质 |
| CN110428366A (zh) * | 2019-07-26 | 2019-11-08 | Oppo广东移动通信有限公司 | 图像处理方法和装置、电子设备、计算机可读存储介质 |
| US20190347769A1 (en) * | 2017-01-12 | 2019-11-14 | Nec Corporation | Information processing device, information processing method and storage medium |
-
2019
- 2019-12-31 CN CN201911423541.4A patent/CN111163265A/zh active Pending
Patent Citations (8)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20190347769A1 (en) * | 2017-01-12 | 2019-11-14 | Nec Corporation | Information processing device, information processing method and storage medium |
| CN109190520A (zh) * | 2018-08-16 | 2019-01-11 | 广州视源电子科技股份有限公司 | 一种超分辨率重建人脸图像方法及装置 |
| CN109461495A (zh) * | 2018-11-01 | 2019-03-12 | 腾讯科技（深圳）有限公司 | 一种医学图像的识别方法、模型训练的方法及服务器 |
| CN109711364A (zh) * | 2018-12-29 | 2019-05-03 | 成都视观天下科技有限公司 | 一种人脸图像超分辨重建方法、装置及计算机设备 |
| CN110070511A (zh) * | 2019-04-30 | 2019-07-30 | 北京市商汤科技开发有限公司 | 图像处理方法和装置、电子设备及存储介质 |
| CN110288530A (zh) * | 2019-06-28 | 2019-09-27 | 北京金山云网络技术有限公司 | 一种对图像进行超分辨率重建的处理方法及装置 |
| CN110310229A (zh) * | 2019-06-28 | 2019-10-08 | Oppo广东移动通信有限公司 | 图像处理方法、图像处理装置、终端设备及可读存储介质 |
| CN110428366A (zh) * | 2019-07-26 | 2019-11-08 | Oppo广东移动通信有限公司 | 图像处理方法和装置、电子设备、计算机可读存储介质 |
Cited By (13)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US11710215B2 (en) | 2020-06-17 | 2023-07-25 | Beijing Baidu Netcom Science And Technology Co., Ltd. | Face super-resolution realization method and apparatus, electronic device and storage medium |
| CN111709878A (zh) * | 2020-06-17 | 2020-09-25 | 北京百度网讯科技有限公司 | 人脸超分辨率实现方法、装置、电子设备及存储介质 |
| CN111784611A (zh) * | 2020-07-03 | 2020-10-16 | 厦门美图之家科技有限公司 | 人像美白方法、装置、电子设备和可读存储介质 |
| CN111784611B (zh) * | 2020-07-03 | 2023-11-03 | 厦门美图之家科技有限公司 | 人像美白方法、装置、电子设备和可读存储介质 |
| CN111798399A (zh) * | 2020-07-10 | 2020-10-20 | 北京字节跳动网络技术有限公司 | 一种图像处理方法、装置以及电子设备 |
| CN111798399B (zh) * | 2020-07-10 | 2024-04-30 | 抖音视界有限公司 | 一种图像处理方法、装置以及电子设备 |
| CN112184584A (zh) * | 2020-09-29 | 2021-01-05 | 北京达佳互联信息技术有限公司 | 图像处理方法、装置、电子设备及存储介质 |
| CN112184584B (zh) * | 2020-09-29 | 2024-05-21 | 北京达佳互联信息技术有限公司 | 图像处理方法、装置、电子设备及存储介质 |
| CN112991208A (zh) * | 2021-03-11 | 2021-06-18 | Oppo广东移动通信有限公司 | 图像处理方法及装置、计算机可读介质和电子设备 |
| CN112991208B (zh) * | 2021-03-11 | 2024-05-07 | Oppo广东移动通信有限公司 | 图像处理方法及装置、计算机可读介质和电子设备 |
| CN113537086A (zh) * | 2021-07-20 | 2021-10-22 | 科大讯飞股份有限公司 | 图像识别方法、装置、电子设备和存储介质 |
| WO2023036084A1 (zh) * | 2021-09-07 | 2023-03-16 | 华为技术有限公司 | 一种图像处理方法及相关装置 |
| CN114972020A (zh) * | 2022-04-13 | 2022-08-30 | 北京字节跳动网络技术有限公司 | 一种图像处理方法、装置、存储介质及电子设备 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN111163265A (zh) | 图像处理方法、装置、移动终端及计算机存储介质 | |
| CN108898567B (zh) | 图像降噪方法、装置及系统 | |
| JP6803899B2 (ja) | 画像処理方法、画像処理装置および電子機器 | |
| CN108875523B (zh) | 人体关节点检测方法、装置、系统和存储介质 | |
| JP6411505B2 (ja) | 全焦点画像を生成するための方法および装置 | |
| CN106650662B (zh) | 目标对象遮挡检测方法及装置 | |
| CN105323425B (zh) | 融合图像系统中的场景运动校正 | |
| CN109416727B (zh) | 一种人脸图像中眼镜去除方法及装置 | |
| US9367753B2 (en) | Method and system for recognizing information on a card | |
| WO2017107700A1 (zh) | 一种实现图像配准的方法及终端 | |
| CN108230245B (zh) | 图像拼接方法、图像拼接装置及电子设备 | |
| JP6688277B2 (ja) | プログラム、学習処理方法、学習モデル、データ構造、学習装置、および物体認識装置 | |
| CN108876804B (zh) | 抠像模型训练和图像抠像方法、装置和系统及存储介质 | |
| CN107079141A (zh) | 用于三维视频的图像拼接 | |
| US20210295467A1 (en) | Method for merging multiple images and post-processing of panorama | |
| US20210097651A1 (en) | Image processing method and apparatus, electronic device, and storage medium | |
| CN110782424B (zh) | 图像融合方法、装置、电子设备及计算机可读存储介质 | |
| CN110062157B (zh) | 渲染图像的方法、装置、电子设备和计算机可读存储介质 | |
| CN108200335A (zh) | 基于双摄像头的拍照方法、终端及计算机可读存储介质 | |
| CN111008935A (zh) | 一种人脸图像增强方法、装置、系统及存储介质 | |
| CN109840885B (zh) | 图像融合方法及相关产品 | |
| CN108776800B (zh) | 一种图像处理方法、移动终端及计算机可读存储介质 | |
| US20170351932A1 (en) | Method, apparatus and computer program product for blur estimation | |
| CN110022430A (zh) | 图像虚化方法、装置、移动终端及计算机可读存储介质 | |
| TW201506761A (zh) | 依據深度資訊之影像處理方法及系統，及其電腦程式產品 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| RJ01 | Rejection of invention patent application after publication |
Application publication date: 20200515 |
|
| RJ01 | Rejection of invention patent application after publication |