CN110310247B - 图像处理方法、装置、终端及计算机可读存储介质 - Google Patents
图像处理方法、装置、终端及计算机可读存储介质 Download PDFInfo
- Publication number
- CN110310247B CN110310247B CN201910608495.9A CN201910608495A CN110310247B CN 110310247 B CN110310247 B CN 110310247B CN 201910608495 A CN201910608495 A CN 201910608495A CN 110310247 B CN110310247 B CN 110310247B
- Authority
- CN
- China
- Prior art keywords
- image
- face
- person
- face image
- age
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000003672 processing method Methods 0.000 title claims abstract description 22
- 230000009466 transformation Effects 0.000 claims abstract description 66
- 238000012545 processing Methods 0.000 claims abstract description 27
- 230000008439 repair process Effects 0.000 claims abstract description 4
- 238000000034 method Methods 0.000 claims description 29
- 230000001815 facial effect Effects 0.000 claims description 26
- 238000006243 chemical reaction Methods 0.000 claims description 21
- 238000004590 computer program Methods 0.000 claims description 21
- 230000008569 process Effects 0.000 claims description 15
- 230000007547 defect Effects 0.000 claims description 6
- 230000004927 fusion Effects 0.000 abstract description 5
- 230000005012 migration Effects 0.000 abstract description 5
- 238000013508 migration Methods 0.000 abstract description 5
- 238000005516 engineering process Methods 0.000 abstract description 4
- 238000010586 diagram Methods 0.000 description 7
- 230000006870 function Effects 0.000 description 6
- 238000012549 training Methods 0.000 description 4
- 230000008878 coupling Effects 0.000 description 3
- 238000010168 coupling process Methods 0.000 description 3
- 238000005859 coupling reaction Methods 0.000 description 3
- 230000000694 effects Effects 0.000 description 3
- 238000004891 communication Methods 0.000 description 2
- 230000009467 reduction Effects 0.000 description 2
- 238000011160 research Methods 0.000 description 2
- 206010027145 Melanocytic naevus Diseases 0.000 description 1
- 208000007256 Nevus Diseases 0.000 description 1
- 238000003491 array Methods 0.000 description 1
- 238000013527 convolutional neural network Methods 0.000 description 1
- 230000003247 decreasing effect Effects 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 210000001508 eye Anatomy 0.000 description 1
- 210000004709 eyebrow Anatomy 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 210000001331 nose Anatomy 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
Images
Classifications
-
- G06T3/053—
-
- G06T5/77—
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10004—Still image; Photographic image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30196—Human being; Person
- G06T2207/30201—Face
Landscapes
- Image Processing (AREA)
Abstract
本申请属于计算机技术领域，尤其涉及一种图像处理方法、装置、终端及计算机可读存储介质，其中，所述图像处理方法包括：获取第一目标人物的待处理人脸图像和所述第一目标人物的引导图像；获取所述待处理人脸图像中所述第一目标人物的第一人物背景信息和所述引导图像中所述第一目标人物的第二人物背景信息；根据所述引导图像、所述第一人物背景信息和所述第二人物背景信息，利用预先建立的人脸修复模型和预先建立的年龄变换模型对所述待处理人脸图像进行修复处理，得到修复后的人脸图像，避免了人脸图像进行修复时因为直接进行图像融合或风格迁移等原因导致的图像失真，提高了人脸图像的修复质量。
Description
技术领域
本申请属于计算机技术领域，尤其涉及一种图像处理方法、装置、终端及计算机可读存储介质。
背景技术
人脸修复是对存在污损的人脸图像、存在缺失的人脸图像或者低分辨率的人脸图像进行修复，使其还原为更清晰、细节更多的高分辨率人脸图像的过程。
然而，目前在对人脸图像进行修复时，有可能会使修复后的人脸图像出现失真，无法保证修复后的人脸图像的图像质量。
发明内容
本申请实施例提供一种图像处理方法、装置、终端及计算机可读存储介质，可以解决人脸图像进行修复时存在图像失真的技术问题。
本申请实施例第一方面提供一种图像处理方法，包括：
获取第一目标人物的待处理人脸图像和所述第一目标人物的引导图像；所述引导图像为分辨率大于第一预设阈值的高分辨率图像；
获取所述待处理人脸图像中所述第一目标人物的第一人物背景信息和所述引导图像中所述第一目标人物的第二人物背景信息；所述第一人物背景信息和所述第二人物背景信息包括年龄信息；
根据所述引导图像、所述第一人物背景信息和所述第二人物背景信息，利用预先建立的人脸修复模型和预先建立的年龄变换模型对所述待处理人脸图像进行修复处理，得到修复后的人脸图像。
本申请实施例第二方面提供一种图像处理装置，包括：
第一获取单元，用于获取第一目标人物的待处理人脸图像和所述第一目标人物的引导图像；所述引导图像为分辨率大于第一预设阈值的高分辨率图像；
第二获取单元，用于获取所述待处理人脸图像中所述第一目标人物的第一人物背景信息和所述引导图像中所述第一目标人物的第二人物背景信息；所述第一人物背景信息和所述第二人物背景信息包括年龄信息；
修复单元，用于根据所述引导图像、所述第一人物背景信息和所述第二人物背景信息，利用预先建立的人脸修复模型和预先建立的年龄变换模型对所述待处理人脸图像进行修复处理，得到修复后的人脸图像。
本申请实施例第三方面提供一种终端，包括存储器、处理器以及存储在存储器中并可在处理器上运行的计算机程序，处理器执行计算机程序时实现上述方法的步骤。
本申请实施例第四方面提供一种计算机可读存储介质，计算机可读存储介质存储有计算机程序，计算机程序被处理器执行时实现上述方法的步骤。
本申请实施例中，通过获取第一目标人物的待处理人脸图像和所述第一目标人物的引导图像，并获取所述待处理人脸图像中所述第一目标人物的第一人物背景信息和所述引导图像中所述第一目标人物的第二人物背景信息，使得修复后的人脸图像为根据所述引导图像、所述第一人物背景信息和所述第二人物背景信息利用人脸修复模型和年龄变换模型对所述待处理人脸图像进行修复处理得到的人脸图像，避免了人脸图像进行修复时因为直接进行图像融合或风格迁移等原因导致的图像失真，提高了人脸图像的修复质量。
附图说明
为了更清楚地说明本申请实施例的技术方案，下面将对实施例中所需要使用的附图作简单地介绍，应当理解，以下附图仅示出了本申请的某些实施例，因此不应被看作是对范围的限定，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他相关的附图。
图1是本申请实施例提供的一种图像处理方法的实现流程示意图；
图2是本申请实施例提供的一种图像处理方法步骤103的第一具体实现流程示意图；
图3是本申请实施例提供的一种图像处理效果的第一示意图；
图4是本申请实施例提供的一种图像处理方法步骤103的第二具体实现流程示意图；
图5是本申请实施例提供的一种图像处理效果的第二示意图；
图6是本申请实施例提供的一种人脸修复模型的建立流程示意图；
图7是本申请实施例提供的一种年龄变换模型的建立流程示意图；
图8是本申请实施例提供的一种图像处理方法步骤103的第三具体实现流程示意图；
图9是本申请实施例提供的图像处理装置的结构示意图；
图10是本申请实施例提供的终端的结构示意图。
具体实施方式
为了使本申请的目的、技术方案及优点更加清楚明白，以下结合附图及实施例，对本申请进行进一步详细说明。应当理解，此处所描述的具体实施例仅仅用以解释本申请，并不用于限定本申请。同时，在本申请的描述中，术语“第一”、“第二”等仅用于区分描述，而不能理解为指示或暗示相对重要性。
应当理解，当在本说明书和所附权利要求书中使用时，术语“包括”指示所描述特征、整体、步骤、操作、元素和/或组件的存在，但并不排除一个或多个其它特征、整体、步骤、操作、元素、组件和/或其集合的存在或添加。
还应当理解，在此本申请说明书中所使用的术语仅仅是出于描述特定实施例的目的而并不意在限制本申请。如在本申请说明书和所附权利要求书中所使用的那样，除非上下文清楚地指明其它情况，否则单数形式的“一”、“一个”及“该”意在包括复数形式。
还应当进一步理解，在本申请说明书和所附权利要求书中使用的术语“和/或”是指相关联列出的项中的一个或多个的任何组合以及所有可能组合，并且包括这些组合。
目前，进行人脸修复时，可以通过图像融合或者风格迁移的方式对存在污损、缺失或低分辨率的人脸图像进行修复。然而，由于通常无法找到合适的同龄图像进行图像修复，因此，容易使得修复后的人脸图像出现失真的问题。
例如，对于一些时间跨度比较久的照片，有可能因为保存不当导致该照片中人物的脸部存在污损或缺失的问题，或者该照片有可能受当时拍摄技术的影响存在分辨率较低的问题，若要找到该照片人物(第一目标人物)同一时期的高分辨率图像对其进行图像融合或者风格迁移，以还原该照片污损或缺失的部分或提高该照片的分辨率，则在找该高分辨率图像时可能存在一定困难，并且有可能无法实现。而使用该照片人物其他时期的高分辨率图像对其进行图像融合或者风格迁移，则有可能会使得修复后的人脸图像出现失真的问题。
基于这些问题，本申请实施例提供一种图像处理方法、装置、终端及计算机可读存储介质，为了说明本申请的技术方案，下面通过具体实施例来进行说明。
如图1示出了本申请实施例提供的一种图像处理方法的实现流程示意图，该方法应用于终端，可以由终端上配置的图像处理装置执行，适用于需要提高人脸修复质量的情形。其中，该终端可以为智能手机、平板电脑、个人电脑(PC)、学习机等智能终端，所述图像处理方法可以包括步骤101至步骤103。
步骤101，获取第一目标人物的待处理人脸图像和第一目标人物的引导图像；其中，引导图像为分辨率大于第一预设阈值的高分辨率图像。
本申请实施例中，待处理人脸图像为图像中人物的脸部存在污损或缺失的问题，或者该图像存在分辨率较低的问题的图像，引导图像为图像中的人物包含第一目标人物且分辨率大于第一预设阈值的高分辨率图像。
其中，该第一目标人物可以包括一个或多个人物，同时该引导图像中的人物还可以包含除第一目标人物以外的人物，为了方便描述，本申请实施例中，以第一目标人物仅包括一个人物为例，进行说明。
在本申请实施例中，上述第一预设阈值可以根据实际应用场景进行设定，也可以根据实践经验进行设定，本申请对此不做限制。
步骤102，获取待处理人脸图像中第一目标人物的第一人物背景信息和引导图像中第一目标人物的第二人物背景信息；第一人物背景信息和第二人物背景信息包括年龄信息。
在本申请的一些实施方式中，第一人物背景信息和第二人物背景信息不仅可以包括年龄信息，第一人物背景信息还可以包括第一目标人物在拍摄待处理人脸图像时学历、工作经历、兴趣爱好等信息。第二人物背景信息还可以包括第一目标人物在拍摄引导图像时的年龄、学历、工作经历、兴趣爱好和性格等信息。
需要说明的是，由于一个人的长相不仅仅和年龄大小有关系，还会和这个人的整个人生经历有关系，例如，获得的学历、从事的工作、兴趣爱好和性格有关系，因此，在进行年龄变换时，不仅仅需要考虑变换前的年龄大小和变换后的年龄大小，还要考虑变换前的年龄大小对应的学历、工作经历、兴趣爱好和性格等信息以及变换后的年龄大小对应的学历、工作经历、兴趣爱好和性格等信息，以便进行年龄变换后得到的图像更加准确。
步骤103，根据引导图像、第一人物背景信息和第二人物背景信息，利用预先建立的人脸修复模型和预先建立的年龄变换模型对待处理人脸图像进行修复处理，得到修复后的人脸图像。
在获取了引导图像、第一人物背景信息和第二人物背景信息，即可利用预先建立的人脸修复模型和预先建立的年龄变换模型对待处理人脸图像进行修复处理，得到修复后的人脸图像。
本申请实施例中，通过获取第一目标人物的待处理人脸图像和第一目标人物的引导图像，并获取待处理人脸图像中第一目标人物的第一人物背景信息和引导图像中第一目标人物的第二人物背景信息，使得修复后的人脸图像为根据引导图像、第一人物背景信息和第二人物背景信息利用人脸修复模型和年龄变换模型对待处理人脸图像进行修复处理得到的人脸图像。由于该修复后的人脸图像使用到了年龄变换模型对图像进行年龄变换为与待处理人脸图像同一时期的图像，因此，该引导图像可以不需要使用与待处理人脸图像中的第一目标人物同一时期的高分辨率图像，而只需要该引导图像为包含第一目标人物的高分辨率图像即可，所以，该引导图像可以比较容易的获取到(例如，可以在需要进行待处理的人脸图像的修复是，直接现场对第一目标人物拍摄一张高分辨率图像作为引导图像即可)，解决了一些老旧照片只有孤本情况下的修复问题，同时，因为使用了年龄变换模型对图像进行年龄变换，因此，也可以避免对人脸图像进行修复时导致的图像失真，提高了人脸图像的修复质量。
在本申请的一些实施方式中，上述步骤103中，当引导图像中第一目标人物的年龄大小与待处理人脸图像中第一目标人物的年龄大小不相同时，可以先利用年龄变换模型根据引导图像与待处理人脸图像中第一目标人物的年龄差以及第一人物背景信息和第二人物背景信息对引导图像进行年龄变换处理，得到年龄变换后的引导图像，并且该年龄变换后的引导图像中第一目标人物的年龄大小与待处理人脸图像中第一目标人物的年龄大小相同，此时，再利用年龄变换后的引导图像对待处理人脸图像中的第一目标人物进行修复，即可得到与待处理人脸图像对应的修复后的人脸图像。
例如，如图2所示，上述步骤103中，根据引导图像、第一人物背景信息和第二人物背景信息，利用预先建立的人脸修复模型和预先建立的年龄变换模型对待处理人脸图像进行修复处理，得到修复后的人脸图像可以包括：步骤201至步骤202。
步骤201，将引导图像、第一人物背景信息和第二人物背景信息输入预先建立的年龄变换模型，得到年龄变换模型输出的年龄变换处理后的引导图像。
步骤202，将年龄变换处理后的引导图像和待处理人脸图像输入预先建立的人脸修复模型，得到人脸修复模型输出的修复后的人脸图像。
例如，如图3所示，将引导图像3a，以及第一人物背景信息：高中学历、爱好打篮球、性格内向，第二人物背景信息：硕士学历、在科研单位做一名研究员、性格内向，输入预先建立的年龄变换模型，得到年龄变换模型输出的年龄变换处理后的引导图像3b，该年龄变换后的引导图像3b中第一目标人物的年龄大小与待处理人脸图像3c中第一目标人物的年龄大小相同，此时，将年龄变换处理后的引导图像3b和待处理人脸图像3c输入预先建立的人脸修复模型，即可得到人脸修复模型输出的修复后的人脸图像3d。
另外，在本申请的一些实施方式中，还可以先利用引导图像和人脸修复模型对待处理人脸图像进行修复处理之后，得到待年龄变换图像，再利用年龄变换模型对待年龄变换图像进行年龄变换，得到最终的修复后的人脸图像。
例如，如图4所示，上述步骤103中，根据引导图像、第一人物背景信息和第二人物背景信息，利用预先建立的人脸修复模型和预先建立的年龄变换模型对待处理人脸图像进行修复处理，得到修复后的人脸图像可以包括：步骤401至步骤402。
步骤401，将引导图像和待处理人脸图像输入预先建立的人脸修复模型，得到人脸修复模型输出的待年龄变换图像。
步骤402，将待年龄变换图像、第一人物背景信息和第二人物背景信息输入预先建立的年龄变换模型，得到年龄变换模型输出的修复后的人脸图像。
例如，如图5所示，可以将引导图像5a和待处理人脸图像5b输入预先建立的人脸修复模型，得到人脸修复模型输出的待年龄变换图像5c，再将待年龄变换图像5c，第一人物背景信息：高中学历、爱好打篮球、性格内向，第二人物背景信息：硕士学历、在科研单位做一名研究员、性格内向，输入预先建立的年龄变换模型，得到年龄变换模型输出的修复后的人脸图像5d。
也就是说，在引导图像中第一目标人物的年龄大小与待处理人脸图像中第一目标人物的年龄大小不相同时，可以对引导图像进行年龄变换处理，使得引导图像中的第一目标人物为与待处理人脸图像中的第一目标人物为处于同一时期的同一个人；也可以不对引导图像进行年龄变换处理，而是对人脸修复模型输出的待年龄变换图像进行年龄变换处理。
需要说明的是，在本申请的一些实施方式中，在上述步骤201或者上述步骤402之前，可以先判断引导图像中第一目标人物的年龄大小与待处理人脸图像中第一目标人物的年龄大小是否相同，并且在引导图像中第一目标人物的年龄大小与待处理人脸图像中第一目标人物的年龄大小不相同时，才利用年龄变换模型对引导图像或者待年龄变换图像进行年龄变换处理，否则，可以直接利用引导图像和预先建立的人脸修复模型对待处理人脸图像进行修复处理，得到人脸修复模型输出的修复后的人脸图像，或者直接将待年龄变换图像作为修复后的人脸图像。
其中，在判断引导图像中第一目标人物的年龄大小与待处理人脸图像中第一目标人物的年龄大小是否相同时，可以利用相关技术中的年龄预估模型分别对引导图像中第一目标人物的年龄大小和待处理人脸图像中第一目标人物的年龄大小进行识别，以确定引导图像中第一目标人物的年龄大小与待处理人脸图像中第一目标人物的年龄大小是否相同。
在本申请的一些实施方式中，如图6所示，上述人脸修复模型的建立可以包括：步骤601至步骤604。
步骤601，获取第二目标人物的待修复人脸图像样本，并获取第二目标人物的引导图像样本以及与待修复人脸图像样本对应的标准图像；标准图像为与待修复人脸图像样本具有相同内容并且不存在待修复缺陷的人脸图像。
步骤602，将待修复人脸图像样本和引导图像样本输入至待训练的人脸修复模型，得到待训练的人脸修复模型输出的第一待鉴别人脸图像。
步骤603，计算第一待鉴别人脸图像与标准图像的第一相似度。
步骤604，若第一相似度小于第二预设阈值，则调整待训练的人脸修复模型的参数，直至第一相似度大于或等于第二预设阈值时，得到训练好的人脸修复模型。
其中，上述第二目标人物的待修复人脸图像样本是指存在污损、缺失或者图像分辨率较低的待修复缺陷的人脸图像。上述引导图像样本是指包含第二目标人物且分辨率大于第一预设阈值的高分辨率图像。
上述引导图像样本中第二目标人物的年龄与待修复人脸图像样本中第二目标人物的年龄相同。上述标准图像主要用于与人脸修复模型输出的第一待鉴别人脸图像进行对比，以判断人脸修复模型输出的第一待鉴别人脸图像的修复效果是否符合要求，因此，标准图像为与待修复人脸图像样本具有相同内容并且不存在待修复缺陷的人脸图像。
由于上述引导图像样本中第二目标人物的年龄与待修复人脸图像样本中第二目标人物的年龄相同，因此，在上述待训练的人脸修复模型完成训练时，其输出的第一待鉴别人脸图像应当不存在失真，即，第一待鉴别人脸图像与标准图像之间的第一相似度应当大于或等于第二预设阈值。因此，在第一相似度大于或等于第二预设阈值时，表示待训练的人脸修复模型已经训练完成。其中，该人脸修复模型可以为卷积神经网络模型。
需要说明的是，上述的获取的第二目标人物的待修复人脸图像样本、引导图像样本和标准图像可以为多个第二目标人物的待修复人脸图像样本、引导图像样本和标准图像。并且，为了保证人脸修复模型的精度，在对人脸修复模型进行训练时，可以依次使用每个第二目标人物的待修复人脸图像样本、引导图像样本和标准图像对该人脸修复模型进行训练，直至使用预设数量的第二目标人物的待修复人脸图像样本、引导图像样本和标准图像对其进行训练之后，或者，人脸修复模型每次生成的第一待鉴别人脸图像与标准图像之间的第一相似度均大于或等于第二预设阈值时，完成人脸修复模型的训练。
在本申请的一些实施方式中，如图7所示，上述年龄变换模型的建立可以包括：步骤701至步骤705。
步骤701，获取第三目标人物在第一年龄段的第一人脸图像样本和在第二年龄段的第二人脸图像样本。
其中，该第一年龄段和第二年龄段互补重合，并且，由于本申请实施例中，进行年龄变换的过程，一般是进行减龄变换，因此，该第一人脸图像样本和第二人脸图像样本中可以仅包括第一年龄段大于第二年龄段的人脸图像样本，也可以同时包括第一年龄段大于第二年龄段的人脸图像样本以及第一年龄段小于第二年龄段的人脸图像样本。
当第一人脸图像样本和第二人脸图像样本中仅包括第一年龄段大于第二年龄段的人脸图像样本时，训练得到的年龄变换模型为只能进行减龄变换的模型；当第一人脸图像样本和第二人脸图像样本中同时包括第一年龄段大于第二年龄段的人脸图像样本以及第一年龄段小于第二年龄段的人脸图像样本时，则训练得到的年龄变换模型为既可以进行增龄变换又可以进行减龄变换的模型。
步骤702，获取第一人脸图像样本中第三目标人物的第一人物背景信息样本和第二人脸图像样本中第三目标人物的第二人物背景信息样本。
同样的，在本申请实施例中，第一人物背景信息样本和第二人物背景信息样本均可以包括年龄、学历、工作经历、兴趣爱好和性格等信息。
步骤703，将第一人脸图像样本、第一人物背景信息样本和第二人物背景信息样本输入至待训练的年龄变换模型，得到待训练的年龄变换模型生成的第二待鉴别人脸图像。
步骤704，计算第二待鉴别人脸图像与第二人脸图像样本的第二相似度。
步骤705，若第二相似度小于第三预设阈值，则调整待训练的年龄变换模型的参数，直至第一相似度大于或等于第三预设阈值时，得到训练好的年龄变换模型。
本申请实施例中，上述第三目标人物的第一人脸图像样本、第二人脸图像样本、第一人物背景信息样本和第二人物背景信息样本可以包括多个第三目标人物的第一人脸图像样本、第二人脸图像样本、第一人物背景信息样本和第二人物背景信息样本。并且，为了保证人脸修复模型的精度，在对年龄变换模型进行训练时，可以依次使用每个第三目标人物的第一人脸图像样本、第二人脸图像样本、第一人物背景信息样本和第二人物背景信息样本对该年龄变换模型进行训练，直至使用预设数量的第三目标人物的第一人脸图像样本、第二人脸图像样本、第一人物背景信息样本和第二人物背景信息样本对其进行训练之后，或者，年龄变换模型每次生成的第二待鉴别人脸图像与第二人脸图像样本之间的第二相似度均大于或等于第三预设阈值时，完成年龄变换模型的训练。
其中，该年龄变换模型可以为生成对抗网络模型。
例如，上述步骤703至步骤705可以包括：将第一人脸图像样本、第一人物背景信息样本和第二人物背景信息样本输入至待训练生成对抗网络中的生成网络，得到生成网络生成的第三待鉴别人脸图像；接着，将第三待鉴别人脸图像以及第二人脸图像样本输入至待训练生成对抗网络中的鉴别网络，生成鉴别结果，并将鉴别结果输入至待训练生成对抗网络中的生成网络，对生成网络的参数进行调整，直至鉴别网络无法鉴别出生成网络生成的第三待鉴别人脸图像是否是真实数据时，得到训练好的生成对抗网络，并将训练好的生成对抗网络作为年龄变换模型。该年龄变换模型用户将第一年龄段的人脸图像变换至第二年龄段的人脸图像。
为了进一步地避免修复后的人脸图像出现较大失真，如图6所示，在本申请的一些实施方式中，上述步骤103中，利用预先建立的人脸修复模型和预先建立的年龄变换模型对待处理人脸图像进行修复处理，得到修复后的人脸图像，还可以包括：步骤801至步骤803。
步骤801，检测待处理人脸图像的模糊程度。
例如，检测待处理人脸图像的分辨率是否小于第四预设，若小于第四预设阈值，则确定该待处理人脸图像为模糊程度较高的待处理人脸图像。
步骤802，根据模糊程度从预先建立的多个人脸修复模型中确定目标人脸修复模型。
例如，待处理人脸图像的模糊程度较高时，若利用高分辨率的引导图像将其修复为高分辨率的修复后的人脸图像时，则有可能会在修复后的人脸图像中遗留大量的引导图像的信息，使得修复后的人脸图像因为与引导图像过于相似而出现失真，因此，当待处理人脸图像的模糊程度较高时，可以选择只对较大的人脸特征(例如，眼睛、眉毛、鼻子等人脸特征)进行修复的人脸修复模型(目标人脸修复模型)对其进行人脸修复；而当待处理人脸图像的模糊程度较低时，则可以对待处理人脸图像进行更多细节上的修复，例如，对人脸脸颊部分的凹凸细节、斑痣等细节信息进行修复。
步骤803，利用目标人脸修复模型和预先建立的年龄变换模型对待处理人脸图像进行修复处理，得到修复后的人脸图像。
在确定好用于对目标人脸修复模型之后，即可利用目标人脸修复模型和预先建立的年龄变换模型对待处理人脸图像进行修复处理，得到修复后的人脸图像。
在上述各个实施方式中，在得到修复后的人脸图像之后还可以去除修复后的人脸图像的图像背景。
在本申请实施例中，由于在进行人脸图像的修复过程中，并没有对图像背景进行修复，因此，为了使得修复后的图像更加自然，可以在得到修复后的人脸图像之后去除修复后的人脸图像的图像背景。
当然，在本申请的一些实施方式中，还可以在得到修复后的人脸图像之前去除修复后的人脸图像的图像背景。
需要说明的是，对于前述的各方法实施例，为了简单描述，故将其都表述为一系列的动作组合，但是本领域技术人员应该知悉，本申请并不受所描述的动作顺序的限制，在本申请的一些实施方式中，某些步骤可以采用其它顺序进行。
图9示出了本申请实施例提供的一种图像处理装置900的结构示意图，包括第一获取单元901、第二获取单元902以及修复单元903。
第一获取单元901，用于获取第一目标人物的待处理人脸图像和第一目标人物的引导图像；引导图像为分辨率大于第一预设阈值的高分辨率图像。
第二获取单元902，用于获取待处理人脸图像中第一目标人物的第一人物背景信息和引导图像中第一目标人物的第二人物背景信息；第一人物背景信息和第二人物背景信息包括年龄信息。
修复单元903，用于根据引导图像、第一人物背景信息和第二人物背景信息，利用预先建立的人脸修复模型和预先建立的年龄变换模型对待处理人脸图像进行修复处理，得到修复后的人脸图像。
需要说明的是，为描述的方便和简洁，上述描述的图像处理装置900的具体工作过程，可以参考上述图1至图8中描述的方法的对应过程，在此不再赘述。
如图10所示，本申请提供一种用于实现上述图像处理方法的终端，包括：处理器11、存储器12、一个或多个输入设备13(图10中仅示出一个)和一个或多个输出设备14(图10中仅示出一个)。处理器11、存储器12、输入设备13和输出设备14通过总线15连接。
应当理解，在本申请实施例中，所称处理器11可以是中央处理单元(CentralProcessing Unit，CPU)，该处理器还可以是其他通用处理器、数字信号处理器(DigitalSignal Processor，DSP)、专用集成电路(Application Specific Integrated Circuit，ASIC)、现场可编程门阵列(Field-Programmable Gate Array，FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。
输入设备13可以包括虚拟键盘、触控板、指纹采传感器(用于采集用户的指纹信息和指纹的方向信息)、麦克风等，输出设备14可以包括显示器、扬声器等。
存储器12可以包括只读存储器和随机存取存储器，并向处理器11提供指令和数据。存储器12的一部分或全部还可以包括非易失性随机存取存储器。例如，存储器12还可以存储设备类型的信息。
上述存储器12存储有计算机程序，上述计算机程序可在上述处理器11上运行，例如，上述计算机程序为图像处理方法的程序。上述处理器11执行上述计算机程序时实现上述图像处理方法实施例中的步骤，例如图1所示的步骤101至步骤103。或者，上述处理器11执行上述计算机程序时实现上述各装置实施例中各模块/单元的功能，例如图9所示单元901至903的功能。
上述计算机程序可以被分割成一个或多个模块/单元，上述一个或者多个模块/单元被存储在上述存储器12中，并由上述处理器11执行，以完成本申请。上述一个或多个模块/单元可以是能够完成特定功能的一系列计算机程序指令段，该指令段用于描述上述计算机程序在上述进行图像处理的终端中的执行过程。例如，上述计算机程序可以被分割成第一获取单元、第二获取单元和修复单元，各单元具体功能如下：
第一获取单元，用于获取第一目标人物的待处理人脸图像和第一目标人物的引导图像；引导图像为分辨率大于第一预设阈值的高分辨率图像；
第二获取单元，用于获取待处理人脸图像中第一目标人物的第一人物背景信息和引导图像中第一目标人物的第二人物背景信息；第一人物背景信息和第二人物背景信息包括年龄信息；
修复单元，用于根据引导图像、第一人物背景信息和第二人物背景信息，利用预先建立的人脸修复模型和预先建立的年龄变换模型对待处理人脸图像进行修复处理，得到修复后的人脸图像。
所属领域的技术人员可以清楚地了解到，为了描述的方便和简洁，仅以上述各功能单元、模块的划分进行举例说明，实际应用中，可以根据需要而将上述功能分配由不同的功能单元、模块完成，即将上述装置的内部结构划分成不同的功能单元或模块，以完成以上描述的全部或者部分功能。实施例中的各功能单元、模块可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个单元中，上述集成的单元既可以采用硬件的形式实现，也可以采用软件功能单元的形式实现。另外，各功能单元、模块的具体名称也只是为了便于相互区分，并不用于限制本申请的保护范围。上述系统中单元、模块的具体工作过程，可以参考前述方法实施例中的对应过程，在此不再赘述。
在上述实施例中，对各个实施例的描述都各有侧重，某个实施例中没有详述或记载的部分，可以参见其它实施例的相关描述。
本领域普通技术人员可以意识到，结合本文中所公开的实施例描述的各示例的单元及算法步骤，能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟以硬件还是软件方式来执行，取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能，但是这种实现不应认为超出本申请的范围。
在本申请所提供的实施例中，应该理解到，所揭露的装置/终端和方法，可以通过其它的方式实现。例如，以上所描述的装置/终端实施例仅仅是示意性的，例如，上述模块或单元的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式，例如多个单元或组件可以结合或者可以集成到另一个系统，或一些特征可以忽略，或不执行。另一点，所显示或讨论的相互之间的耦合或直接耦合或通讯连接可以是通过一些接口，装置或单元的间接耦合或通讯连接，可以是电性，机械或其它的形式。
上述作为分离部件说明的单元可以是或者也可以不是物理上分开的，作为单元显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外，在本申请各个实施例中的各功能单元可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现，也可以采用软件功能单元的形式实现。
上述集成的模块/单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读取存储介质中。基于这样的理解，本申请实现上述实施例方法中的全部或部分流程，也可以通过计算机程序来指令相关的硬件来完成，上述的计算机程序可存储于一计算机可读存储介质中，该计算机程序在被处理器执行时，可实现上述各个方法实施例的步骤。其中，上述计算机程序包括计算机程序代码，上述计算机程序代码可以为源代码形式、对象代码形式、可执行文件或某些中间形式等。上述计算机可读介质可以包括：能够携带上述计算机程序代码的任何实体或装置、记录介质、U盘、移动硬盘、磁碟、光盘、计算机存储器、只读存储器(Read-Only Memory，ROM)、随机存取存储器(RandomAccess Memory，RAM)、电载波信号、电信信号以及软件分发介质等。需要说明的是，上述计算机可读介质包含的内容可以根据司法管辖区内立法和专利实践的要求进行适当的增减，例如在某些司法管辖区，根据立法和专利实践，计算机可读介质不包括电载波信号和电信信号。
以上上述实施例仅用以说明本申请的技术方案，而非对其限制；尽管参照前述实施例对本申请进行了详细的说明，本领域的普通技术人员应当理解：其依然可以对前述各实施例所记载的技术方案进行修改，或者对其中部分技术特征进行等同替换；而这些修改或者替换，并不使相应技术方案的本质脱离本申请各实施例技术方案的精神和范围，均应包含在本申请的保护范围之内。
Claims (8)
1.一种图像处理方法，其特征在于，包括：
获取第一目标人物的待处理人脸图像和所述第一目标人物的引导图像；所述引导图像为分辨率大于第一预设阈值的高分辨率图像；
获取所述待处理人脸图像中所述第一目标人物的第一人物背景信息和所述引导图像中所述第一目标人物的第二人物背景信息；所述第一人物背景信息和所述第二人物背景信息包括年龄信息；
根据所述引导图像、所述第一人物背景信息和所述第二人物背景信息，利用预先建立的人脸修复模型和预先建立的年龄变换模型对所述待处理人脸图像进行修复处理，得到修复后的人脸图像；
所述根据所述引导图像、所述第一人物背景信息和所述第二人物背景信息，利用预先建立的人脸修复模型和预先建立的年龄变换模型对所述待处理人脸图像进行修复处理，得到修复后的人脸图像，包括：
将所述引导图像、所述第一人物背景信息和所述第二人物背景信息输入所述预先建立的年龄变换模型，得到所述年龄变换模型输出的年龄变换处理后的引导图像；将所述年龄变换处理后的引导图像和所述待处理人脸图像输入预先建立的人脸修复模型，得到所述人脸修复模型输出的修复后的人脸图像；
或者，
所述根据所述引导图像、所述第一人物背景信息和所述第二人物背景信息，利用预先建立的人脸修复模型和预先建立的年龄变换模型对所述待处理人脸图像进行修复处理，得到修复后的人脸图像，包括：
将所述引导图像和所述待处理人脸图像输入预先建立的人脸修复模型，得到所述人脸修复模型输出的待年龄变换图像；将所述待年龄变换图像、所述第一人物背景信息和所述第二人物背景信息输入所述预先建立的年龄变换模型，得到所述年龄变换模型输出的修复后的人脸图像。
2.如权利要求1所述的图像处理方法，其特征在于，所述人脸修复模型的建立包括：
获取第二目标人物的待修复人脸图像样本，并获取所述第二目标人物的引导图像样本以及与所述待修复人脸图像样本对应的标准图像；所述标准图像为与所述待修复人脸图像样本具有相同内容并且不存在待修复缺陷的人脸图像；
将所述待修复人脸图像样本和所述引导图像样本输入至待训练的人脸修复模型，得到所述待训练的人脸修复模型输出的第一待鉴别人脸图像；
计算所述第一待鉴别人脸图像与所述标准图像的第一相似度；
若所述第一相似度小于第二预设阈值，则调整所述待训练的人脸修复模型的参数，直至所述第一相似度大于或等于所述第二预设阈值时，得到训练好的人脸修复模型。
3.如权利要求2所述的图像处理方法，其特征在于，所述年龄变换模型的建立包括：
获取第三目标人物在第一年龄段的第一人脸图像样本和在第二年龄段的第二人脸图像样本；
获取所述第一人脸图像样本中第三目标人物的第一人物背景信息样本和所述第二人脸图像样本中第三目标人物的第二人物背景信息样本；
将所述第一人脸图像样本、第一人物背景信息样本和第二人物背景信息样本输入至待训练的年龄变换模型，得到所述待训练的年龄变换模型生成的第二待鉴别人脸图像；
计算所述第二待鉴别人脸图像与所述第二人脸图像样本的第二相似度；
若所述第二相似度小于第三预设阈值，则调整所述待训练的年龄变换模型的参数，直至所述第一相似度大于或等于所述第三预设阈值时，得到训练好的年龄变换模型。
4.如权利要求1-3任意一项所述的图像处理方法，其特征在于，所述利用预先建立的人脸修复模型和预先建立的年龄变换模型对所述待处理人脸图像进行修复处理，得到修复后的人脸图像，包括：
检测所述待处理人脸图像的模糊程度；
根据所述模糊程度从预先建立的多个人脸修复模型中确定目标人脸修复模型；
利用所述目标人脸修复模型和所述预先建立的年龄变换模型对所述待处理人脸图像进行修复处理，得到修复后的人脸图像。
5.如权利要求1所述的图像处理方法，其特征在于，在所述得到修复后的人脸图像之后包括：
去除所述修复后的人脸图像的图像背景。
6.一种图像处理装置，其特征在于，包括：
第一获取单元，用于获取第一目标人物的待处理人脸图像和所述第一目标人物的引导图像；所述引导图像为分辨率大于第一预设阈值的高分辨率图像；
第二获取单元，用于获取所述待处理人脸图像中所述第一目标人物的第一人物背景信息和所述引导图像中所述第一目标人物的第二人物背景信息；所述第一人物背景信息和所述第二人物背景信息包括年龄信息；
修复单元，用于根据所述引导图像、所述第一人物背景信息和所述第二人物背景信息，利用预先建立的人脸修复模型和预先建立的年龄变换模型对所述待处理人脸图像进行修复处理，得到修复后的人脸图像；
其中，所述修复单元在根据所述引导图像、所述第一人物背景信息和所述第二人物背景信息，利用预先建立的人脸修复模型和预先建立的年龄变换模型对所述待处理人脸图像进行修复处理，得到修复后的人脸图像时，用于：
将所述引导图像、所述第一人物背景信息和所述第二人物背景信息输入所述预先建立的年龄变换模型，得到所述年龄变换模型输出的年龄变换处理后的引导图像；将所述年龄变换处理后的引导图像和所述待处理人脸图像输入预先建立的人脸修复模型，得到所述人脸修复模型输出的修复后的人脸图像；
或者，用于：
将所述引导图像和所述待处理人脸图像输入预先建立的人脸修复模型，得到所述人脸修复模型输出的待年龄变换图像；将所述待年龄变换图像、所述第一人物背景信息和所述第二人物背景信息输入所述预先建立的年龄变换模型，得到所述年龄变换模型输出的修复后的人脸图像。
7.一种终端，包括存储器、处理器以及存储在所述存储器中并可在所述处理器上运行的计算机程序，其特征在于，所述处理器执行所述计算机程序时实现如权利要求1至5任意一项所述方法的步骤。
8.一种计算机可读存储介质，所述计算机可读存储介质存储有计算机程序，其特征在于，所述计算机程序被处理器执行时实现如权利要求1至5任意一项所述方法的步骤。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201910608495.9A CN110310247B (zh) | 2019-07-05 | 2019-07-05 | 图像处理方法、装置、终端及计算机可读存储介质 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201910608495.9A CN110310247B (zh) | 2019-07-05 | 2019-07-05 | 图像处理方法、装置、终端及计算机可读存储介质 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN110310247A CN110310247A (zh) | 2019-10-08 |
| CN110310247B true CN110310247B (zh) | 2021-06-01 |
Family
ID=68078426
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN201910608495.9A Active CN110310247B (zh) | 2019-07-05 | 2019-07-05 | 图像处理方法、装置、终端及计算机可读存储介质 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN110310247B (zh) |
Families Citing this family (7)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN111145080B (zh) * | 2019-12-02 | 2023-06-23 | 北京达佳互联信息技术有限公司 | 一种图像生成模型的训练方法、图像生成方法及装置 |
| CN111127345B (zh) * | 2019-12-06 | 2024-02-02 | Oppo广东移动通信有限公司 | 图像处理方法及装置、电子设备及计算机可读存储介质 |
| CN111028170B (zh) * | 2019-12-09 | 2023-11-24 | Oppo广东移动通信有限公司 | 图像处理方法、图像处理装置、电子设备和可读存储介质 |
| CN111105370B (zh) * | 2019-12-09 | 2023-10-20 | Oppo广东移动通信有限公司 | 图像处理方法、图像处理装置、电子设备和可读存储介质 |
| CN111126568B (zh) * | 2019-12-09 | 2023-08-08 | Oppo广东移动通信有限公司 | 图像处理方法及装置、电子设备及计算机可读存储介质 |
| CN112528897B (zh) * | 2020-12-17 | 2023-06-13 | Oppo（重庆）智能科技有限公司 | 人像的年龄估测方法、装置、计算机设备及存储介质 |
| CN113706502B (zh) * | 2021-08-26 | 2023-09-05 | 重庆紫光华山智安科技有限公司 | 一种人脸图像质量评估方法及装置 |
Citations (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN108269245A (zh) * | 2018-01-26 | 2018-07-10 | 深圳市唯特视科技有限公司 | 一种基于新型生成对抗网络的眼部图像修复方法 |
| CN109360170A (zh) * | 2018-10-24 | 2019-02-19 | 北京工商大学 | 基于高级特征的人脸修复方法 |
| CN109961407A (zh) * | 2019-02-12 | 2019-07-02 | 北京交通大学 | 基于人脸相似性的人脸图像修复方法 |
Family Cites Families (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN102027505A (zh) * | 2008-07-30 | 2011-04-20 | 泰塞拉技术爱尔兰公司 | 使用脸部检测的自动脸部和皮肤修饰 |
| TWI432010B (zh) * | 2010-10-22 | 2014-03-21 | Silicon Motion Inc | 電子系統和疤痕影像修補方法 |
-
2019
- 2019-07-05 CN CN201910608495.9A patent/CN110310247B/zh active Active
Patent Citations (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN108269245A (zh) * | 2018-01-26 | 2018-07-10 | 深圳市唯特视科技有限公司 | 一种基于新型生成对抗网络的眼部图像修复方法 |
| CN109360170A (zh) * | 2018-10-24 | 2019-02-19 | 北京工商大学 | 基于高级特征的人脸修复方法 |
| CN109961407A (zh) * | 2019-02-12 | 2019-07-02 | 北京交通大学 | 基于人脸相似性的人脸图像修复方法 |
Non-Patent Citations (2)
| Title |
|---|
| Partially occluded face completion and recognition;Yue Deng et al;《2009 16th IEEE International Conference on Image Processing (ICIP)》;20100217;4145-4148 * |
| 基于图像的年龄估计与人脸年龄图像重构;胡斓;《中国优秀硕士学位论文全文数据库（电子期刊）信息科技辑》;20070615;全文 * |
Also Published As
| Publication number | Publication date |
|---|---|
| CN110310247A (zh) | 2019-10-08 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN110310247B (zh) | 图像处理方法、装置、终端及计算机可读存储介质 | |
| CN110826519B (zh) | 人脸遮挡检测方法、装置、计算机设备及存储介质 | |
| CN107169454B (zh) | 一种人脸图像年龄估算方法、装置及其终端设备 | |
| CN108701216B (zh) | 一种人脸脸型识别方法、装置和智能终端 | |
| WO2021169637A1 (zh) | 图像识别方法、装置、计算机设备及存储介质 | |
| CN109359539B (zh) | 注意力评估方法、装置、终端设备及计算机可读存储介质 | |
| CN109829396B (zh) | 人脸识别运动模糊处理方法、装置、设备及存储介质 | |
| CN109117773B (zh) | 一种图像特征点检测方法、终端设备及存储介质 | |
| CN108416343B (zh) | 一种人脸图像识别方法及装置 | |
| CN109416727A (zh) | 一种人脸图像中眼镜去除方法及装置 | |
| CN110222607B (zh) | 人脸关键点检测的方法、装置及系统 | |
| CN109063678B (zh) | 脸部图像识别的方法、装置及存储介质 | |
| CN111008935B (zh) | 一种人脸图像增强方法、装置、系统及存储介质 | |
| CN111222380B (zh) | 一种活体检测方法、装置、及其识别模型训练方法 | |
| CN111079764A (zh) | 一种基于深度学习的低照度车牌图像识别方法及装置 | |
| CN108573192B (zh) | 匹配人脸的眼镜试戴方法和装置 | |
| CN111488810A (zh) | 人脸识别方法、装置、终端设备及计算机可读介质 | |
| CN111680573A (zh) | 人脸识别方法、装置、电子设备和存储介质 | |
| CN112329663B (zh) | 一种基于人脸图像序列的微表情时刻检测方法及装置 | |
| CN111488779A (zh) | 视频图像超分辨率重建方法、装置、服务器及存储介质 | |
| CN111860057A (zh) | 人脸图像模糊和活体检测方法、装置、存储介质及设备 | |
| CN111652242B (zh) | 图像处理方法、装置、电子设备及存储介质 | |
| CN113435408A (zh) | 人脸活体检测方法、装置、电子设备及存储介质 | |
| CN115116117A (zh) | 一种基于多模态融合网络的学习投入度数据的获取方法 | |
| CN112001285B (zh) | 一种美颜图像的处理方法、装置、终端和介质 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |