CN109272473B - 一种图像处理方法及移动终端 - Google Patents

Abstract

本发明提供了一种图像处理方法及移动终端。该方法包括：识别目标图像中人脸的脸型类型和五官类型，确定与脸型类型以及五官类型匹配的第一妆容类型；确定人脸对应的目标用户，基于目标用户的妆容喜好，确定第二妆容类型；根据第一妆容类型和第二妆容类型，确定目标妆容类型；基于目标妆容类型，对目标图像中的人脸进行上妆处理。本发明能够结合用户的脸型和五官类型以及用户对妆容的爱好需求，来对图像中的人脸进行上妆处理，从而避免用户从系统提供的多种妆容中不断尝试而导致的挑选合适妆容耗时较长的问题。

Description

一种图像处理方法及移动终端

技术领域

本发明涉及图像处理技术领域，尤其涉及一种图像处理方法及移动终端。

背景技术

随着科技的不断发展，目前的移动终端普遍具有对拍摄的人脸图像的上妆功能，移动终端的相机功能可以提供多种妆容来供用户选择，然后，利用用户选择的妆容对拍摄的图像中的人脸进行上妆。

但是，用户选择的妆容并不一定会适合用户，那么用户需要多次尝试才可以找到适合自己的妆容来对人脸区域进行上妆处理。

发明人在实现本发明的过程中发现，相关技术对图像的人脸进行上妆的方案普遍存在着用户挑选合适妆容的耗时较长，以及推荐的妆容难以满足用户上妆需求的问题。

发明内容

本发明实施例提供一种图像处理方法及移动终端，以解决相关技术对图像的人脸进行上妆的方案所存在的用户挑选合适妆容的耗时较长，以及推荐的妆容难以满足用户上妆需求的问题。

为了解决上述技术问题，本发明是这样实现的：

第一方面，本发明实施例提供了一种图像处理方法，应用于移动终端，所述方法包括：

识别目标图像中人脸的脸型类型和五官类型，确定与所述脸型类型以及所述五官类型匹配的第一妆容类型；

确定所述人脸对应的目标用户，基于所述目标用户的妆容喜好，确定第二妆容类型；

根据所述第一妆容类型和所述第二妆容类型，确定目标妆容类型；

基于所述目标妆容类型，对所述目标图像中的人脸进行上妆处理。

第二方面，本发明实施例还提供了一种移动终端，所述移动终端包括：

识别模块，用于识别目标图像中人脸的脸型类型和五官类型；

第一确定模块，用于确定与所述脸型类型以及所述五官类型匹配的第一妆容类型；

第二确定模块，用于确定所述人脸对应的目标用户；

第三确定模块，用于基于所述目标用户的妆容喜好，确定第二妆容类型；

第四确定模块，用于根据所述第一妆容类型和所述第二妆容类型，确定目标妆容类型；

上妆模块，用于基于所述目标妆容类型，对所述目标图像中的人脸进行上妆处理。

第三方面，本发明实施例还提供了一种移动终端，包括：存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序，所述计算机程序被所述处理器执行时实现所述的图像处理方法的步骤。

第四方面，本发明实施例还提供了一种计算机可读存储介质，所述计算机可读存储介质上存储有计算机程序，所述计算机程序被处理器执行时实现所述的图像处理方法的步骤。

本发明实施例通过识别人脸的五官类型和脸型类型，从而确定与五官类型以及该脸型类型均匹配的第一妆容类型，此外，还可以根据该人脸对应的目标用户平时对妆容的喜好，来确定第二妆容类型，最终确定的目标妆容类型结合了用户的脸型和五官类型以及用户对妆容的爱好需求，从而可以避免用户从系统提供的多种妆容中不断尝试而导致的挑选合适妆容耗时较长的问题。并且，由于本发明提供的目标妆容类型参考了用户对妆容的喜好，从而可以满足用户的上妆需求。

附图说明

为了更清楚地说明本发明实施例的技术方案，下面将对本发明实施例的描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动性的前提下，还可以根据这些附图获得其他的附图。

图1是本发明第一实施例的图像处理方法的流程图；

图2是本发明第二实施例的图像处理方法的流程图；

图3是本发明第三实施例的图像处理方法的流程图；

图4是本发明一个实施例的移动终端的框图；

图5是本发明另一个实施例的移动终端的硬件结构示意图。

具体实施方式

下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。

第一实施例

参照图1，示出了本发明一个实施例的图像处理方法的流程图，应用于移动终端，所述方法具体可以包括如下步骤：

步骤101，识别目标图像中人脸的脸型类型和五官类型；

其中，脸型类型包括但不限于圆形脸、心形脸、瓜子脸、菱形脸、国字脸等等形状的脸型类型。

五官包括双眼、眉毛、鼻子、耳朵和嘴巴这五个器官。因此，这里的五官类型表示上述五官中每个器官的类型。例如双眼类型可以包括但不限于双眼皮大眼睛、双眼皮小眼睛、丹凤眼、单眼皮等；鼻子类型可以包括但不限于高鼻梁大鼻翼、塌鼻梁小鼻翼、高鼻梁小鼻翼、塌鼻梁大鼻翼等等。对于眉毛、耳朵、嘴巴同样根据各个器官的形状区别而有很多种类型，这里不再赘述。

本步骤，就需要识别出目标图像中人脸的脸型类型、五官类型(包括双眼类型、眉毛类型、鼻子类型、耳朵类型和嘴巴类型)。

其中，目标图像可以是摄像头采集的预览图像。该摄像头可以是二维摄像头，也可以是三维摄像头，如果是二维摄像头则目标图像为二维图像，如果是三维摄像头则目标图像为三维图像。

步骤102，确定与所述脸型类型以及所述五官类型匹配的第一妆容类型；

可选地，在一个实施例中，本发明实施例可以预先配置脸型类型和五官类型的组合，与妆容类型的对应关系。

其中，在该对应关系中脸型类型和五官类型的六种类型的组合与妆容类型相对应，其中，该组合中任意一种人脸特征的类型的变化，都可以使得该组合发生变化。

上述六种人脸特征的类型组合包括但不限于：

组合1：柳叶眉、双眼皮大眼睛、欧美立体鼻、元宝形耳朵、樱桃小嘴、瓜子脸；

组合2：剑眉、双眼皮大眼睛、欧美立体鼻、元宝形耳朵、樱桃小嘴、瓜子脸；

组合3：柳叶眉、单眼皮小眼睛、宽鼻翼、元宝形耳朵、樱桃小嘴、瓜子脸；

组合4：半截眉、双眼皮大眼睛、欧美立体鼻、元宝形耳朵、大嘴巴、瓜子脸；……多种人脸特征的不同类型组合还包括很多，不胜枚举。

举例来说该对应关系可以包括但不限于：

脸型类型1、双眼类型1、眉毛类型1、鼻子类型1、耳朵类型1和嘴巴类型1这六个类型的组合对应于妆容类型1；

脸型类型1、双眼类型2、眉毛类型1、鼻子类型1、耳朵类型1和嘴巴类型1这六个类型的组合对应于妆容类型2；

脸型类型1、双眼类型1、眉毛类型3、鼻子类型1、耳朵类型1和嘴巴类型1这六个类型的组合对应于妆容类型3；

脸型类型4、双眼类型1、眉毛类型1、鼻子类型1、耳朵类型1和嘴巴类型1这六个类型的组合对应于妆容类型5……等等。

其中，预先设置的妆容类型包括但不限于烟熏妆、裸妆、淡妆、搞怪妆等等。

上述不同组合对应的妆容类型可以相同或不同。

也就是说，该对应关系可以包括一对一的对应关系(即每一种组合对应一种妆容类型)，和/或，多对一的对应关系(即多种组合可以对应同一个妆容类型)，和/或，一对多的对应关系(即一种组合可以对应多种妆容类型)。

那么在执行步骤102时，可以根据预先设置的脸型类型和五官类型的组合，与妆容类型的对应关系，确定与所述脸型类型以及所述五官类型匹配的第一妆容类型。

例如该目标图像中人脸的脸型类型为脸型类型1、双眼类型为双眼类型1、眉毛类型为眉毛类型3、鼻子类型为鼻子类型1、耳朵类型为耳朵类型1、嘴巴类型为嘴巴类型1，那么根据上述对应关系可知，这六个类型的组合对应于妆容类型3，因此，这里的第一妆容类型为妆容类型3。

此外，每一种妆容类型又可以包括多种具体的妆容。以淡妆为例，其妆容可以包括以下几种：

第一种：棕色眉、桃色眼影、粉色嘴唇、淡粉色腮红。

第二种：黑色眉、棕色眼影、淡粉色嘴唇、假睫毛、淡粉色腮红。

还包括其他，这里不再列举。

步骤103，确定所述人脸对应的目标用户；

其中，可以通过对目标图像中的人脸区域进行特征识别，来确定用户身份，从而确定目标用户。

步骤104，基于所述目标用户的妆容喜好，确定第二妆容类型；

其中，本发明实施例可以对目标用户在拍照时所选用过的妆容进行统计、机器学习等，从而可以确定该目标用户比较喜欢使用的妆容所属的妆容类型，即第二妆容类型。

另外，需要说明的是，上述第一妆容类型的数量可以是一个或多个，此外，第二妆容类型的数量也可以是一个或多个。

步骤105，根据所述第一妆容类型和所述第二妆容类型，确定目标妆容类型；

其中，在根据第一妆容类型和第二妆容类型确定本次需要采用的目标妆容类型时，可以将第一妆容类型和第二妆容类型中相同的妆容类型确定为目标妆容类型；也可以将第一妆容类型和第二妆容类型的全部妆容类型确定为目标妆容类型；还可以通过判断第一妆容类型和第二妆容类型的妆容差异大小，如果差异大于预设阈值，则将第一妆容类型和第二妆容类型均确定为目标妆容类型，若差异小于或等于预设阈值，则从第一妆容类型和第二妆容类型构成的妆容类型集合中随机选择一种或多种妆容类型并确定为目标妆容类型。

依据第一妆容类型和第二妆容类型来确定目标妆容类型的方法并不限于上述举例，还可以包括其他方法来确定，这里不再赘述。

步骤106，基于所述目标妆容类型，对所述目标图像中的人脸进行上妆处理。

其中，可以将属于目标妆容类型的多种妆容推送并显示在图像预览界面，目标用户可以从推送的多种妆容中选择本次需要使用的目标妆容，然后，本发明实施例的方法可以对目标图像中的人脸区域进行上妆处理。

其中，由于本发明实施例的妆容是根据五官类型以及脸型类型而确定出来的，因此，这里的上妆区域包括但不限于五官、脸颊等。

此外，本发明实施例也可以将属于目标妆容类型的多种妆容均进行上妆。具体而言，即将该多种妆容中的每个妆容依次显示在目标图像中的人脸区域的上妆区域，形成上妆处理后的效果。即，对目标图像中的人脸区域使用每种妆容依次进行一次上妆处理，循环显示上妆效果。用户从而可以选取最终拍照需要使用的妆容。其中，对于多种妆容的上妆顺序可以按照任意原则设置，这里不再限定。

本发明实施例通过识别人脸的五官类型和脸型类型，从而确定与五官类型以及该脸型类型均匹配的第一妆容类型，此外，还可以根据该人脸对应的目标用户平时对妆容的喜好，来确定第二妆容类型，最终确定的目标妆容类型结合了用户的脸型和五官类型以及用户对妆容的爱好需求，从而可以避免用户从系统提供的多种妆容中不断尝试而导致的挑选合适妆容耗时较长的问题。并且，由于本发明提供的目标妆容类型参考了用户对妆容的喜好，从而可以满足用户的上妆需求。

第二实施例

在第一实施例的基础上，在执行步骤101时，可以通过图2所示的方法来实现：

步骤201，对二维RGB图像进行人脸特征识别，确定多个特征点；

其中，可以检测二维RGB图像中的人脸特征，从而确定该图像中的多种人脸特征点。例如五官以及脸型的特征点。

其中，移动终端可以具有3D摄像头，本发明实施例的方法可以首先控制3D摄像头对用户人脸进行拍照，从而可以得到三维图像，即，目标图像。

当然，如果该摄像头为2D摄像头，则目标图像为二维RGB图像，那么可以生成对应该二维RGB图像的深度图像、对应该二维RGB图像的三维点云图。

然后，对三维人脸图像进行信息提取，得到二维RGB图像、与二维RGB图像对应的深度图像、与该二维GRB图像对应的三维点云图。

具体而言，可以对目标图像标注人脸区域，并对人脸区域中每个像素点的RGB值进行提取，得到二维RGB图像；

此外，还可以对人脸区域提取深度信息(即被拍摄人脸区域与移动终端3D摄像头之间的距离)，从而得到人脸深度图像。深度图像的像素值反映了场景中物体到相机的距离；

另外，还可以利用该人脸深度图像来进行3D建模，从而得到三维人脸模型，即三维点云图。

步骤202，根据所述二维RGB图像、与所述二维RGB图像对应的深度图像以及三维点云图，确定所述多个特征点中的目标特征点、以及所述目标特征点待纠正至的目标定位；

其中，由于步骤201识别的多个特征点中存在位置识别错误的特征点，因此，为了提升对人脸五官以及脸型的识别准确度，可以利用所述二维RGB图像、所述深度图像以及所述三维点云图来确定步骤201中识别的多个特征点中哪些是位置识别错误的特征点，即目标特征点，以及确定该目标特征点的在二维RGB图像中的准确定位，即目标定位。其中，目标特征点的数量可以是一个或多个。

人脸特征点的识别，主要目的在于利用识别的特征点来勾画人脸特征的轮廓，其中，人脸特征的种类至少包括六类，分别为双眼特征、眉毛特征、鼻子特征、耳朵特征、嘴巴特征和脸型特征，其中，双眼特征、眉毛特征、鼻子特征、耳朵特征、嘴巴特征可以统称为五官特征。

因此，步骤201识别的多个特征点为机器认为属于上述各种人脸特征的特征点，但是，机器识别的属于任意一种人脸特征的特征点都可能存在定位错误的特征点，因此，当这里的目标特征点为多个时，这多个目标特征点可以属于不同种的人脸特征的特征点。例如鼻子的某个特征点位置识别错误，眼睛的某个特征点位置识别错误。

步骤203，将所述二维RGB图像中的所述目标特征点从原始定位修改至所述目标定位；

其中，由于步骤202已经确定了定位识别错误的目标特征点的准确定位，即目标定位，因此，可以将二维RGB图像中的目标特征点从其在二维RGB图像中的原始定位，修改至目标定位。

步骤204，根据所述二维RGB图像中修改定位后的多个特征点，确定多种人脸特征的轮廓。

其中，可以对经过步骤203处理后的，属于上述列举的各种人脸特征的多个特征点(包括步骤201识别准确的不需要纠正定位的特征点，以及步骤201识别错误，经过步骤203纠正过定位的特征点)分别进行连接勾画，从而确定多种人脸特征的轮廓，即该二维RGB图像中双眼的轮廓、鼻子的轮廓、眉毛的轮廓、嘴巴的轮廓、耳朵的轮廓、脸型的轮廓。

步骤205，确定所述多种人脸特征的轮廓中脸型特征的轮廓；

其中，可以从步骤204确定的多种人脸特征的轮廓中确定出脸型特征勾画出的轮廓。

步骤206，确定与所述脸型特征的轮廓相匹配的脸型类型；

其中，本发明实施例可以设置脸型类型与脸型轮廓之间的对应关系，其中，一个脸型类型可以对应多种脸型轮廓，那么通过将脸型特征的轮廓与该对应关系中的各个脸型轮廓进行匹配，将匹配度大于预设阈值的脸型轮廓所对应的脸型类型，确定为与该脸型特征的轮廓匹配的脸型类型。

步骤207，确定所述多种人脸特征的轮廓中五官特征的五个轮廓；

其中，可以从步骤204确定的多种人脸特征的轮廓中确定出五官特征，即眼睛特征、鼻子特征、眉毛特征、嘴巴特征、耳朵特征，这五类特征的特征点勾画出的轮廓，从而有五个轮廓。

步骤208，确定与所述五官特征的五个轮廓分别匹配的五官类型。

与步骤206类似，本发明实施例预先配置了眉毛的不同轮廓与该眉毛的不同类型之间的对应关系；此外，还预先配置了眼睛的不同轮廓与眼睛的不同类型之间的对应关系；此外，还预先配置了鼻子的不同轮廓与鼻子的不同类型之间的对应关系；此外，还预先配置了耳朵的不同轮廓与耳朵的不同类型之间的对应关系；此外，还预先配置了嘴巴的不同轮廓与嘴巴的不同类型之间的对应关系。那么借助于上述对应关系，就可以查找到与目标图像中五官特征的五个轮廓分别匹配的五官类型，即眉毛类型、眼睛类型、鼻子类型、耳朵类型，嘴巴类型。

在本发明实施例中，通过对二维RGB图像进行人脸特征点识别，从而确定多个候选特征点，再利用人脸图像的深度图像以及三维点云图来对该多个候选特征点中位置识别错误的目标特征点进行位置纠正，从而能够利用纠正位置的特征点来在二维RGB图像中确定出多种人脸特征的轮廓，使得对人脸图像中人脸特征的识别更加准确，那么基于纠正过定位后的多种人脸特征的轮廓所确定的脸型类型和五官类型也更加准确，使得上妆处理的位置准确，上妆效果好。还能够避免因为人脸特征点位置识别错误，导致化妆时对人脸特征的化妆位置出现偏差，化妆效果差的问题。

可选地，在一个实施例中，在执行步骤202时，可以通过以下子步骤来实现：

S21，根据所述二维RGB图像和与所述二维RGB图像对应的深度图像，确定所述多个特征点中的目标特征点；

S22，根据所述二维RGB图像和与所述二维RGB图像对应的三维点云图，确定所述目标特征点待纠正至的目标二维定位；

相应的，在执行步骤203时，则可以将所述二维RGB图像中的所述目标特征点从原始二维定位修改至所述目标二维定位。

这样，本发明实施例中，由于基于二维RGB图像所确定的人脸特征点存在定位错误的特征点，本发明实施例基于所述二维RGB图像和对应的深度图像，来确定多个特征点中定位错误的目标特征点，以及根据所述二维RGB图像和对应的三维点云图，来确定所述目标特征点待纠正至的目标二维定位，在纠正错误特征点的定位时，参考了图像的深度信息和三维点云图，使得纠正后的特征点定位更加准确。

可选地，在执行S21时，可以通过方法1、方法2以及其他未列举的方法来实现：

方法1：首先，在所述二维RGB图像的多个特征点中，确定对应不同种人脸特征的多个特征点组；然后，针对多个特征点组中任意一个目标特征点组，确定所述目标特征点组内的特征点构成的目标轮廓；最后，将该目标轮廓与该目标特征点组对应的目标人脸特征的预设轮廓进行匹配，确定偏离预设轮廓的目标特征点。

对于步骤在所述二维RGB图像的多个特征点中，确定对应不同种人脸特征的多个特征点组。也就是说，可以对在二维RGB图像中识别到的多个特征点进行分类分组，将属于同一个人脸特征的特征点分为一组，例如属于双眼的特征点为一个特征点组、属于眉毛的特征点为一个特征点组…属于脸型的特征点为一个特征点组。这样，就可以得到对应不同种人脸特征的多个特征点组。

对于步骤针对多个特征点组中任意一个目标特征点组，确定所述目标特征点组内的特征点构成的目标轮廓。例如脸型的多个特征点，将该多个特征点进行连接勾画，从而确定识别到的该脸型的多个特征点构成的脸型轮廓。

对于步骤将该目标轮廓与该目标特征点组对应的目标人脸特征的预设轮廓进行匹配，确定偏离预设轮廓的目标特征点。其中，本发明实施例预先学习了各种人脸特征的轮廓，从而构成不同种人脸特征的轮廓库。以脸型这一人脸特征为例，其预设轮廓可以包括圆脸轮廓、心形脸轮廓、瓜子脸轮廓、菱形脸、国字脸轮廓等等。那么这里可以将确定的脸型轮廓与预设的属于脸型的所有预设轮廓进行匹配，确定与该脸型轮廓匹配的目标预设轮廓(例如圆脸轮廓)，并确定该脸型轮廓中与该目标预设轮廓偏离度大于预设阈值的目标特征点。

由于步骤201识别的特征点中存在定位错误的特征点，例如将鼻子左边的某个特征点(48号特征点)识别为脸型的特征点，显然，该鼻子左边的特征点与目标预设轮廓之间的偏差一定比较大，所以，可以确定该鼻子旁边的该特征点不是脸型的特征点，需要进行纠正。

这样，本发明实施例的方法可以借助于将识别到的人脸特征的特征点构成的轮廓与该人脸特征的预设轮廓进行匹配的方式，来确定识别到的人脸特征的特征点中远远偏离预设轮廓的目标特征点，该目标特征点即为步骤201中定位错误的特征点，需要位置纠正。

方法2：首先，在所述二维RGB图像的所述多个特征点中，确定对应不同种人脸特征的多个特征点组；然后，根据与所述二维RGB图像对应的深度图像，确定所述多个特征点中每个特征点的深度信息；最后，针对所述二维RGB图像中的每个特征点组，确定同一特征点组内深度信息与所述同一特征点组内的其他特征点的深度信息的差值大于预设深度阈值的目标特征点。

对于步骤在所述二维RGB图像的所述多个特征点中，确定对应不同种人脸特征的多个特征点组；也就是说，可以对在二维RGB图像中识别到的多个特征点进行分类分组，将属于同一个人脸特征的特征点分为一组，例如属于双眼的特征点为一个特征点组、属于眉毛的特征点为一个特征点组…属于脸型的特征点为一个特征点组。这样，就可以得到对应不同种人脸特征的多个特征点组。

对于步骤根据与所述二维RGB图像对应的深度图像，确定所述多个特征点中每个特征点的深度信息；其中，可以利用深度图像中对应步骤201中识别到的多个特征点的像素值，来确定步骤201识别到每个特征点的深度信息。

对于步骤针对所述二维RGB图像中的每个特征点组，确定同一特征点组内深度信息与所述同一特征点组内的其他特征点的深度信息的差值大于预设深度阈值的目标特征点。其中，由于该深度信息表达了该特征点与摄像头之间的距离，而属于同一人脸特征的多个特征点与摄像头之间的距离应该是接近的。例如脸型的多个特征点与摄像头之间的距离应该是差不多的，例如该距离在10cm～12cm之间，因此，脸型的不同特征点的深度值之间的差值会小于或等于2cm。如果步骤201中存在定位错误的脸型的特征点，例如上述48号特征点，那么该48号特征点与识别到该脸型的不同特征点的深度值之间的差值一定会大于2cm，所以，本发明实施例的方法可以通过确定同一特征点组(例如脸型的多个特征点)内深度信息与其他特征点(这里的其他特征点是脸型的多个特征点中除该目标特征点之外的特征点)的深度信息的差值大于预设深度阈值(例如2cm)的目标特征点。这里可以确定步骤201识别到的48号特征点是需要进行位置纠正的。

这样，本发明实施例利用属于同一个人脸特征的各个特征点之间的深度值是差不多的技术点，来识别出各个人脸特征的特征点中定位错误的目标特征点，提升了人脸特征的识别准确率。

可选地，在一个实施例中，在执行步骤S22时，可以通过以下方式来实现：

在所述二维RGB图像的多个特征点中，确定对应不同种人脸特征的多个特征点组；

也就是说，可以对在二维RGB图像中识别到的多个特征点进行分类分组，将属于同一种人脸特征的特征点分为一组，例如属于双眼的特征点为一个特征点组、属于眉毛的特征点为一个特征点组…属于脸型的特征点为一个特征点组。这样，就可以得到对应不同种人脸特征的多个特征点组。

在所述目标特征点所属的目标人脸特征的目标特征点组中，确定与所述目标特征点对称的理论特征点；

由于人脸的每个人脸特征都是理论对称的，对称轴可以理解为额头中心、鼻子中心、嘴巴中心构成的直线，从而将人脸分为互相对称的左右脸。

那么步骤201在识别人脸特征点时，其所识别到的任意一个人脸特征的多个特征点中，除处于所述对称轴上的特征点之外的其他特征点都是一对一对的，以上述直线为对称轴对称的。

例如步骤201识别到的属于脸型的特征点组包括1号～50号特征点，其中，1号～25号特征点分布在右脸，26号～50号特征点分布在左脸，这两组特征点以上述直线为对称轴一一对称。例如，系统认为与48号特征点对称的特征点为23号特征点。

继续以上述示例举例，这里48号特征点为定位错误的目标特征点，为鼻子左边的特征点，即左脸中鼻子左边的特征点，但是系统以为该48号特征点为与右脸脸型的23号特征点以上述直线为对称轴而对称。所以，二维RGB图像中的23号特征点为目标特征点(48号特征点)的理论特征点。即理论对称的特征点。这里之所以称作理论对称点，原因在于23号特征点和48号特征点实际上并不对称。其中，23号特征点为定位准确的特征点。

在所述三维点云图的多个三维定位点中，确定与所述理论特征点对称的目标三维定位点；

其中，在三维点云图中描述了三维人脸图像的任意一个像素点的三维坐标(x,y,z)，其中，该三维点云图中任意一个像素点的三维坐标的x,y坐标值为该像素点在二维RGB图像中的x,y坐标值，而该像素点的z坐标值，则表示该像素点的深度值，即深度图像中该像素点的像素值。

三维点云图中任意一个像素点的三维坐标值都是三维人脸图像的准确坐标值，并且，三维点云图中还标注了步骤201识别到的所有特征点，以上述脸型特征的特征点为例，三维点云图中标注了1号～50号特征点的三维定位。因此，可以在该三维点云图中的多个三维定位点(即所有像素点的定位)中查找，与上述理论对称点，即23号特征点的三维坐标对称的目标三维坐标，即目标三维定位点。其中，三维点云图中不同三维坐标的对称轴为头部的上述额头中心、鼻子中心、嘴巴中心构成的对称轴的横切面，该横切面将头部从头部到底部劈成左右两半。三维头像的对称轴属于公知常识，且在确定三维点云图中的对称点时，都是以上述横切面为对称面来确定的，这里不再赘述。

这样，本步骤就可以从三维点云图中确定出实际与23号特征点对称的左脸型的目标三维坐标，该目标三维坐标(例如m(x1,y1,z1))为48号特征点(例如n(x2,y2))纠正后的准确定位。将所述目标三维定位点的二维坐标确定为所述目标定位点待纠正至的目标二维定位。

例如，可以将m(x1,y1,z1)的二维坐标(x1,y1)确定为48号特征点纠正后的目标二维定位。

这样，本发明实施例通过在二维RGB图像中确定与目标特征点对称的理论特征点，并在三维点云图中查找与该理论特征点实际对称的准确三维坐标，从而将目标特征点的二维定位纠正至该三维坐标的二维坐标点，提升人脸特征的识别准确度。

第三实施例

参照图3示出了本发明另一个实施例的图像处理方法的流程图，具体可以包括如下步骤：

步骤301，针对用户对拍摄的人脸图像选择的妆容进行机器学习，生成用户与喜欢的妆容类型的第一对应关系，以及所述用户与人脸特征的第二对应关系；

其中，可以用户多次使用本发明实施例的方法进行人脸图像的上妆拍照处理后，本发明实施例的方法可以对用户每次选择的妆容进行记录并学习，从而确定该用户喜欢使用的妆容类型，生成用户与喜欢的妆容类型的第一对应关系。

此外，本发明实施例通过对拍照的用户的人脸特征进行识别从而可以确定用户的身份，这样，也会生成用户与人脸特征之间的对应关系。

步骤302，识别目标图像中人脸的脸型类型和五官类型；

具体参照上述步骤101的具体阐述，这里不再赘述。

步骤303，确定与所述脸型类型以及所述五官类型匹配的第一妆容类型；

具体参照上述步骤102的具体阐述，这里不再赘述。

步骤304，对所述目标图像进行人脸特征识别，确定目标人脸特征；

其中，该人脸特征包括但不限于脸型特征、眼睛特征、眉毛特征、鼻子特征、嘴巴特征、耳朵特征等等。

步骤305，在所述第二对应关系中查找所述目标人脸特征对应的目标用户；

其中，可以在第二对应关系中查找人脸特征与该目标人脸特征匹配度大于预设匹配度阈值的一组对应关系，然后，将组对应关系中的用户确定为本次进行拍照的目标用户。

步骤306，在所述第一对应关系中，查找所述目标用户喜欢的第二妆容类型；

其中，由于用户的身份已经确定为目标用户，因此，可以在上述第一对应关系中查找目标用户对应的喜欢的妆容类型，即第二妆容类型。

步骤307，根据所述第一妆容类型和所述第二妆容类型，确定目标妆容类型；

具体参照上述步骤105的具体阐述，这里不再赘述。

步骤308，基于所述目标妆容类型，对所述目标图像中的人脸进行上妆处理。

具体参照上述步骤106的具体阐述，这里不再赘述。

这样，本发明实施例通过预先对拍摄上妆图像的用户选择的妆容进行学习，从而可以确定使用过本发明实施例的方法拍照后的每个用户喜欢的妆容类型，以及每个用户的人脸特征，那么当一个用户使用本发明实施例的方法来进行上妆处理时，则可以通过识别预览图像中的人脸特征来确定用户身份，并确定该用户平时喜欢使用的妆容类型，从而进行上妆推荐或上妆处理。

参照图4，示出了本发明一个实施例的移动终端的框图。

图4所示移动终端包括：

识别模块401，用于识别目标图像中人脸的脸型类型和五官类型；

第一确定模块402，用于确定与所述脸型类型以及所述五官类型匹配的第一妆容类型；

第二确定模块403，用于确定所述人脸对应的目标用户；

第三确定模块404，用于基于所述目标用户的妆容喜好，确定第二妆容类型；

第四确定模块405，用于根据所述第一妆容类型和所述第二妆容类型，确定目标妆容类型；

上妆模块406，用于基于所述目标妆容类型，对所述目标图像中的人脸进行上妆处理。

可选地，所述识别模块401包括：

识别子模块，用于对二维RGB图像进行人脸特征识别，确定多个特征点；

第一确定子模块，用于根据所述二维RGB图像、与所述二维RGB图像对应的深度图像以及三维点云图，确定所述多个特征点中的目标特征点、以及所述目标特征点待纠正至的目标定位；

修改子模块，用于将所述二维RGB图像中的所述目标特征点从原始定位修改至所述目标定位；

第二确定子模块，用于根据所述二维RGB图像中修改定位后的多个特征点，确定多种人脸特征的轮廓；

第三确定子模块，用于确定所述多种人脸特征的轮廓中脸型特征的轮廓；

第四确定子模块，用于确定与所述脸型特征的轮廓相匹配的脸型类型；

第五确定子模块，用于确定所述多种人脸特征的轮廓中五官特征的五个轮廓；

第六确定子模块，用于确定与所述五官特征的五个轮廓分别匹配的五官类型。

可选地，所述第一确定子模块包括：

第一确定单元，用于根据所述二维RGB图像和与所述二维RGB图像对应的深度图像，确定所述多个特征点中的目标特征点；

第二确定单元，用于根据所述二维RGB图像和与所述二维RGB图像对应的三维点云图，确定所述目标特征点待纠正至的目标二维定位；

所述修改子模块，还用于将所述二维RGB图像中的所述目标特征点从原始二维定位修改至所述目标二维定位。

可选地，所述第一确定单元包括：

第一确定子单元，用于在所述二维RGB图像的所述多个特征点中，确定对应不同种人脸特征的多个特征点组；

第二确定子单元，用于根据与所述二维RGB图像对应的深度图像，确定所述多个特征点中每个特征点的深度信息；

第三确定子单元，用于针对所述二维RGB图像中的每个特征点组，确定同一特征点组内深度信息与所述同一特征点组内的其他特征点的深度信息的差值大于预设深度阈值的目标特征点。

可选地，所述第二确定单元包括：

第四确定子单元，用于在所述二维RGB图像的多个特征点中，确定对应不同种人脸特征的多个特征点组；

第五确定子单元，用于在所述目标特征点所属的目标人脸特征的目标特征点组中，确定与所述目标特征点对称的理论特征点；

第六确定子单元，用于在所述三维点云图的多个三维定位点中，确定与所述理论特征点对称的目标三维定位点；

第七确定子单元，用于将所述目标三维定位点的二维坐标确定为所述目标定位点待纠正至的目标二维定位。

可选地，所述第一确定模块402，还用于根据预先设置的脸型类型和五官类型的组合，与妆容类型的对应关系，确定与所述脸型类型以及所述五官类型匹配的第一妆容类型。

可选地，所述移动终端还包括：

生成模块，用于针对用户对拍摄的人脸图像选择的妆容进行机器学习，生成用户与喜欢的妆容类型的第一对应关系，以及所述用户与人脸特征的第二对应关系；

所述第二确定模块403，还用于对所述目标图像进行人脸特征识别，确定目标人脸特征，在所述第二对应关系中查找所述目标人脸特征对应的目标用户；

所述第三确定模块404，还用于在所述第一对应关系中，查找所述目标用户喜欢的第二妆容类型。

本发明实施例提供的移动终端能够实现上述任意一个方法实施例中移动终端实现的各个过程，为避免重复，这里不再赘述。

图5为实现本发明各个实施例的一种移动终端的硬件结构示意图，

该移动终端600包括但不限于：射频单元601、网络模块602、音频输出单元603、输入单元604、传感器605、显示单元606、用户输入单元607、接口单元608、存储器609、处理器610、以及电源611等部件。本领域技术人员可以理解，图5中示出的移动终端结构并不构成对移动终端的限定，移动终端可以包括比图示更多或更少的部件，或者组合某些部件，或者不同的部件布置。在本发明实施例中，移动终端包括但不限于手机、平板电脑、笔记本电脑、掌上电脑、车载终端、可穿戴设备、以及计步器等。

处理器610，用于识别目标图像中人脸的脸型类型和五官类型，确定与所述脸型类型以及所述五官类型匹配的第一妆容类型；确定所述人脸对应的目标用户，基于所述目标用户的妆容喜好，确定第二妆容类型；根据所述第一妆容类型和所述第二妆容类型，确定目标妆容类型；基于所述目标妆容类型，对所述目标图像中的人脸进行上妆处理。

本发明实施例通过识别人脸的五官类型和脸型类型，从而确定与五官类型以及该脸型类型均匹配的第一妆容类型，此外，还可以根据该人脸对应的目标用户平时对妆容的喜好，来确定第二妆容类型，最终确定的目标妆容类型结合了用户的脸型和五官类型以及用户对妆容的爱好需求，从而可以避免用户从系统提供的多种妆容中不断尝试而导致的挑选合适妆容耗时较长的问题。并且，由于本发明提供的目标妆容类型参考了用户对妆容的喜好，从而可以满足用户的上妆需求。

应理解的是，本发明实施例中，射频单元601可用于收发信息或通话过程中，信号的接收和发送，具体的，将来自基站的下行数据接收后，给处理器610处理；另外，将上行的数据发送给基站。通常，射频单元601包括但不限于天线、至少一个放大器、收发信机、耦合器、低噪声放大器、双工器等。此外，射频单元601还可以通过无线通信系统与网络和其他设备通信。

移动终端通过网络模块602为用户提供了无线的宽带互联网访问，如帮助用户收发电子邮件、浏览网页和访问流式媒体等。

音频输出单元603可以将射频单元601或网络模块602接收的或者在存储器609中存储的音频数据转换成音频信号并且输出为声音。而且，音频输出单元603还可以提供与移动终端600执行的特定功能相关的音频输出(例如，呼叫信号接收声音、消息接收声音等等)。音频输出单元603包括扬声器、蜂鸣器以及受话器等。

输入单元604用于接收音频或视频信号。输入单元604可以包括图形处理器(Graphics Processing Unit，GPU)6041和麦克风6042，图形处理器6041对在视频捕获模式或图像捕获模式中由图像捕获装置(如摄像头)获得的静态图片或视频的图像数据进行处理。处理后的图像帧可以显示在显示单元606上。经图形处理器6041处理后的图像帧可以存储在存储器609(或其它存储介质)中或者经由射频单元601或网络模块602进行发送。麦克风6042可以接收声音，并且能够将这样的声音处理为音频数据。处理后的音频数据可以在电话通话模式的情况下转换为可经由射频单元601发送到移动通信基站的格式输出。

移动终端600还包括至少一种传感器605，比如光传感器、运动传感器以及其他传感器。具体地，光传感器包括环境光传感器及接近传感器，其中，环境光传感器可根据环境光线的明暗来调节显示面板6061的亮度，接近传感器可在移动终端600移动到耳边时，关闭显示面板6061和/或背光。作为运动传感器的一种，加速计传感器可检测各个方向上(一般为三轴)加速度的大小，静止时可检测出重力的大小及方向，可用于识别移动终端姿态(比如横竖屏切换、相关游戏、磁力计姿态校准)、振动识别相关功能(比如计步器、敲击)等；传感器605还可以包括指纹传感器、压力传感器、虹膜传感器、分子传感器、陀螺仪、气压计、湿度计、温度计、红外线传感器等，在此不再赘述。

显示单元606用于显示由用户输入的信息或提供给用户的信息。显示单元606可包括显示面板6061，可以采用液晶显示器(Liquid Crystal Display，LCD)、有机发光二极管(Organic Light-Emitting Diode,OLED)等形式来配置显示面板6061。

用户输入单元607可用于接收输入的数字或字符信息，以及产生与移动终端的用户设置以及功能控制有关的键信号输入。具体地，用户输入单元607包括触控面板6071以及其他输入设备6072。触控面板6071，也称为触摸屏，可收集用户在其上或附近的触摸操作(比如用户使用手指、触笔等任何适合的物体或附件在触控面板6071上或在触控面板6071附近的操作)。触控面板6071可包括触摸检测装置和触摸控制器两个部分。其中，触摸检测装置检测用户的触摸方位，并检测触摸操作带来的信号，将信号传送给触摸控制器；触摸控制器从触摸检测装置上接收触摸信息，并将它转换成触点坐标，再送给处理器610，接收处理器610发来的命令并加以执行。此外，可以采用电阻式、电容式、红外线以及表面声波等多种类型实现触控面板6071。除了触控面板6071，用户输入单元607还可以包括其他输入设备6072。具体地，其他输入设备6072可以包括但不限于物理键盘、功能键(比如音量控制按键、开关按键等)、轨迹球、鼠标、操作杆，在此不再赘述。

进一步的，触控面板6071可覆盖在显示面板6061上，当触控面板6071检测到在其上或附近的触摸操作后，传送给处理器610以确定触摸事件的类型，随后处理器610根据触摸事件的类型在显示面板6061上提供相应的视觉输出。虽然在图5中，触控面板6071与显示面板6061是作为两个独立的部件来实现移动终端的输入和输出功能，但是在某些实施例中，可以将触控面板6071与显示面板6061集成而实现移动终端的输入和输出功能，具体此处不做限定。

接口单元608为外部装置与移动终端600连接的接口。例如，外部装置可以包括有线或无线头戴式耳机端口、外部电源(或电池充电器)端口、有线或无线数据端口、存储卡端口、用于连接具有识别模块的装置的端口、音频输入/输出(I/O)端口、视频I/O端口、耳机端口等等。接口单元608可以用于接收来自外部装置的输入(例如，数据信息、电力等等)并且将接收到的输入传输到移动终端600内的一个或多个元件或者可以用于在移动终端600和外部装置之间传输数据。

存储器609可用于存储软件程序以及各种数据。存储器609可主要包括存储程序区和存储数据区，其中，存储程序区可存储操作系统、至少一个功能所需的应用程序(比如声音播放功能、图像播放功能等)等；存储数据区可存储根据手机的使用所创建的数据(比如音频数据、电话本等)等。此外，存储器609可以包括高速随机存取存储器，还可以包括非易失性存储器，例如至少一个磁盘存储器件、闪存器件、或其他易失性固态存储器件。

处理器610是移动终端的控制中心，利用各种接口和线路连接整个移动终端的各个部分，通过运行或执行存储在存储器609内的软件程序和/或模块，以及调用存储在存储器609内的数据，执行移动终端的各种功能和处理数据，从而对移动终端进行整体监控。处理器610可包括一个或多个处理单元；优选的，处理器610可集成应用处理器和调制解调处理器，其中，应用处理器主要处理操作系统、用户界面和应用程序等，调制解调处理器主要处理无线通信。可以理解的是，上述调制解调处理器也可以不集成到处理器610中。

移动终端600还可以包括给各个部件供电的电源611(比如电池)，优选的，电源611可以通过电源管理系统与处理器610逻辑相连，从而通过电源管理系统实现管理充电、放电、以及功耗管理等功能。

另外，移动终端600包括一些未示出的功能模块，在此不再赘述。

优选的，本发明实施例还提供一种移动终端，包括处理器610，存储器609，存储在存储器609上并可在所述处理器610上运行的计算机程序，该计算机程序被处理器610执行时实现上述实施例的图像处理方法实施例的各个过程，且能达到相同的技术效果，为避免重复，这里不再赘述。

本发明实施例还提供一种计算机可读存储介质，计算机可读存储介质上存储有计算机程序，该计算机程序被处理器执行时实现上述实施例的图像处理方法实施例的各个过程，且能达到相同的技术效果，为避免重复，这里不再赘述。其中，所述的计算机可读存储介质，如只读存储器(Read-Only Memory，简称ROM)、随机存取存储器(Random AccessMemory，简称RAM)、磁碟或者光盘等。

需要说明的是，在本文中，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者装置不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者装置所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括该要素的过程、方法、物品或者装置中还存在另外的相同要素。

通过以上的实施方式的描述，本领域的技术人员可以清楚地了解到上述实施例方法可借助软件加必需的通用硬件平台的方式来实现，当然也可以通过硬件，但很多情况下前者是更佳的实施方式。基于这样的理解，本发明的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质(如ROM/RAM、磁碟、光盘)中，包括若干指令用以使得一台终端(可以是手机，计算机，服务器，空调器，或者网络设备等)执行本发明各个实施例所述的方法。

上面结合附图对本发明的实施例进行了描述，但是本发明并不局限于上述的具体实施方式，上述的具体实施方式仅仅是示意性的，而不是限制性的，本领域的普通技术人员在本发明的启示下，在不脱离本发明宗旨和权利要求所保护的范围情况下，还可做出很多形式，均属于本发明的保护之内。

Claims (9)

1.一种图像处理方法，应用于移动终端，其特征在于，所述方法包括：

识别目标图像中人脸的脸型类型和五官类型，确定与所述脸型类型以及所述五官类型匹配的第一妆容类型；

确定所述人脸对应的目标用户，基于所述目标用户的妆容喜好，确定第二妆容类型；

根据所述第一妆容类型和所述第二妆容类型，确定目标妆容类型；

基于所述目标妆容类型，对所述目标图像中的人脸进行上妆处理；

所述识别目标图像中人脸的脸型类型和五官类型，包括：

对二维RGB图像进行人脸特征识别，确定多个特征点；

根据所述二维RGB图像、与所述二维RGB图像对应的深度图像以及三维点云图，确定所述多个特征点中的目标特征点、以及所述目标特征点待纠正至的目标定位；

将所述二维RGB图像中的所述目标特征点从原始定位修改至所述目标定位；

根据所述二维RGB图像中修改定位后的多个特征点，确定多种人脸特征的轮廓；

确定所述多种人脸特征的轮廓中脸型特征的轮廓；

确定与所述脸型特征的轮廓相匹配的脸型类型；

确定所述多种人脸特征的轮廓中五官特征的五个轮廓；

确定与所述五官特征的五个轮廓分别匹配的五官类型。

2.根据权利要求1所述的方法，其特征在于，所述根据所述二维RGB图像、与所述二维RGB图像对应的深度图像以及三维点云图，确定所述多个特征点中的目标特征点、以及所述目标特征点待纠正至的目标定位，包括：

根据所述二维RGB图像和与所述二维RGB图像对应的深度图像，确定所述多个特征点中的目标特征点；

根据所述二维RGB图像和与所述二维RGB图像对应的三维点云图，确定所述目标特征点待纠正至的目标二维定位；

所述将所述二维RGB图像中的所述目标特征点从原始定位修改至所述目标定位，包括：

将所述二维RGB图像中的所述目标特征点从原始二维定位修改至所述目标二维定位。

3.根据权利要求2所述的方法，其特征在于，所述根据所述二维RGB图像和与所述二维RGB图像对应的深度图像，确定所述多个特征点中的目标特征点，包括：

在所述二维RGB图像的所述多个特征点中，确定对应不同种人脸特征的多个特征点组；

根据与所述二维RGB图像对应的深度图像，确定所述多个特征点中每个特征点的深度信息；

针对所述二维RGB图像中的每个特征点组，确定同一特征点组内深度信息与所述同一特征点组内的其他特征点的深度信息的差值大于预设深度阈值的目标特征点。

4.根据权利要求2所述的方法，其特征在于，所述根据所述二维RGB图像和与所述二维RGB图像对应的三维点云图，确定所述目标特征点待纠正至的目标二维定位，包括：

在所述二维RGB图像的多个特征点中，确定对应不同种人脸特征的多个特征点组；

在所述目标特征点所属的目标人脸特征的目标特征点组中，确定与所述目标特征点对称的理论特征点；

在所述三维点云图的多个三维定位点中，确定与所述理论特征点对称的目标三维定位点；

将所述目标三维定位点的二维坐标确定为所述目标定位点待纠正至的目标二维定位。

5.根据权利要求1所述的方法，其特征在于，所述确定与所述脸型类型以及所述五官类型匹配的第一妆容类型，包括：

根据预先设置的脸型类型和五官类型的组合，与妆容类型的对应关系，确定与所述脸型类型以及所述五官类型匹配的第一妆容类型。

6.根据权利要求1所述的方法，其特征在于，所述识别目标图像中人脸的脸型类型和五官类型之前，所述方法还包括：

针对用户对拍摄的人脸图像选择的妆容进行机器学习，生成用户与喜欢的妆容类型的第一对应关系，以及所述用户与人脸特征的第二对应关系；

所述确定所述人脸对应的目标用户，包括：

对所述目标图像进行人脸特征识别，确定目标人脸特征；

在所述第二对应关系中查找所述目标人脸特征对应的目标用户；

所述基于所述目标用户的妆容喜好，确定第二妆容类型，包括：

在所述第一对应关系中，查找所述目标用户喜欢的第二妆容类型。

7.一种移动终端，其特征在于，所述移动终端包括：

识别模块，用于识别目标图像中人脸的脸型类型和五官类型；

第一确定模块，用于确定与所述脸型类型以及所述五官类型匹配的第一妆容类型；

第二确定模块，用于确定所述人脸对应的目标用户；

第三确定模块，用于基于所述目标用户的妆容喜好，确定第二妆容类型；

第四确定模块，用于根据所述第一妆容类型和所述第二妆容类型，确定目标妆容类型；

上妆模块，用于基于所述目标妆容类型，对所述目标图像中的人脸进行上妆处理；

所述识别模块包括：

识别子模块，用于对二维RGB图像进行人脸特征识别，确定多个特征点；

第一确定子模块，用于根据所述二维RGB图像、与所述二维RGB图像对应的深度图像以及三维点云图，确定所述多个特征点中的目标特征点、以及所述目标特征点待纠正至的目标定位；

修改子模块，用于将所述二维RGB图像中的所述目标特征点从原始定位修改至所述目标定位；

第二确定子模块，用于根据所述二维RGB图像中修改定位后的多个特征点，确定多种人脸特征的轮廓；

第三确定子模块，用于确定所述多种人脸特征的轮廓中脸型特征的轮廓；

第四确定子模块，用于确定与所述脸型特征的轮廓相匹配的脸型类型；

第五确定子模块，用于确定所述多种人脸特征的轮廓中五官特征的五个轮廓；

第六确定子模块，用于确定与所述五官特征的五个轮廓分别匹配的五官类型。

8.一种移动终端，其特征在于，包括：存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序，所述计算机程序被所述处理器执行时实现如权利要求1至6中任一项所述的图像处理方法的步骤。

9.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质上存储有计算机程序，所述计算机程序被处理器执行时实现如权利要求1至6中任一项所述的图像处理方法中的步骤。

Images