CN112102154A - 图像处理方法、装置、电子设备和存储介质 - Google Patents

图像处理方法、装置、电子设备和存储介质 Download PDF

Info

Publication number
CN112102154A
CN112102154A CN202010845602.2A CN202010845602A CN112102154A CN 112102154 A CN112102154 A CN 112102154A CN 202010845602 A CN202010845602 A CN 202010845602A CN 112102154 A CN112102154 A CN 112102154A
Authority
CN
China
Prior art keywords
image
target
face
value
skin color
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202010845602.2A
Other languages
English (en)
Other versions
CN112102154B (zh
Inventor
孙昊
李甫
李鑫
林天威
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Baidu Netcom Science and Technology Co Ltd
Original Assignee
Beijing Baidu Netcom Science and Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Baidu Netcom Science and Technology Co Ltd filed Critical Beijing Baidu Netcom Science and Technology Co Ltd
Priority to CN202010845602.2A priority Critical patent/CN112102154B/zh
Priority claimed from CN202010845602.2A external-priority patent/CN112102154B/zh
Publication of CN112102154A publication Critical patent/CN112102154A/zh
Priority to JP2021079945A priority patent/JP7174803B2/ja
Priority to US17/332,520 priority patent/US11741684B2/en
Priority to EP21179254.4A priority patent/EP3872700A3/en
Priority to KR1020210107383A priority patent/KR102507149B1/ko
Application granted granted Critical
Publication of CN112102154B publication Critical patent/CN112102154B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G06T3/04—
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/20—Image preprocessing
    • G06V10/25—Determination of region of interest [ROI] or a volume of interest [VOI]
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00—Geometric image transformation in the plane of the image
    • G06T3/60—Rotation of a whole image or part thereof
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/10—Segmentation; Edge detection
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/10—Segmentation; Edge detection
    • G06T7/11—Region-based segmentation
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/90—Determination of colour characteristics
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/74—Image or video pattern matching; Proximity measures in feature spaces
    • G06V10/75—Organisation of the matching processes, e.g. simultaneous or sequential comparisons of image or video features; Coarse-fine approaches, e.g. multi-scale approaches; using context analysis; Selection of dictionaries
    • G06V10/758—Involving statistics of pixels or of feature values, e.g. histogram matching
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/77—Processing image or video features in feature spaces; using data integration or data reduction, e.g. principal component analysis [PCA] or independent component analysis [ICA] or self-organising maps [SOM]; Blind source separation
    • G06V10/772—Determining representative reference patterns, e.g. averaging or distorting patterns; Generating dictionaries
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00—Scenes; Scene-specific elements
    • G06V20/20—Scenes; Scene-specific elements in augmented reality scenes
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16—Human faces, e.g. facial parts, sketches or expressions
    • G06V40/161—Detection; Localisation; Normalisation
    • G06V40/162—Detection; Localisation; Normalisation using pixel segmentation or colour matching
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/20—Special algorithmic details
    • G06T2207/20081—Training; Learning
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/30—Subject of image; Context of image processing
    • G06T2207/30196—Human being; Person
    • G06T2207/30201—Face

Abstract

本申请公开了图像处理方法、装置、电子设备和存储介质，属于计算机领域，具体涉及人工智能中计算视觉、图像处理、人脸识别、深度学习技术。实现方案：对待处理的人脸图像进行肤色识别，确定人脸图像中人脸的目标肤色；若风格迁移模型集中未包含与目标肤色对应的风格迁移模型，则利用任一风格迁移模型对人脸图像进行处理，获取人脸图像对应的参考变换图像，并根据目标肤色，将参考图像中目标区域中各像素点的色调值、饱和度值及明度值进行调整，获取与目标肤色匹配的目标变换图像。由此，当待处理的人脸图像中人脸的目标肤色未有对应的风格迁移模型时，可通过利用已有风格迁移模型，对各种肤色用户进行风格变换处理，扩大了应用范围。

Description

图像处理方法、装置、电子设备和存储介质
技术领域
本申请涉及计算机领域，具体涉及人工智能中计算视觉、图像处理、人脸识别、深度学习技术，尤其涉及一种图像处理方法、装置、电子设备和存储介质。
背景技术
目前，图像风格变换是比较常见的一种图像处理方式，比如将真人图像变换为卡通图像等。
相关技术中，由于目前的风格变换图像训练数据多为浅色皮肤，从而导致训练生成的模型进行人脸风格变换处理时，生成的变换图像的人脸也为浅肤色，即目前的风格变换模型，只能对肤色为浅色系的用户进行处理，使用范围受限。
发明内容
本申请提供一种图像处理方法、装置、电子设备和存储介质。
根据本申请的一方面，提供了一种图像处理方法，包括：
对待处理的人脸图像进行肤色识别，以确定所述人脸的目标肤色；
若风格迁移模型集中未包含与所述目标肤色对应的风格迁移模型，则利用任一风格迁移模型对所述人脸图像进行处理，以获取所述人脸图像对应的参考变换图像；
对所述参考变换图像进行解析，以获取所述参考变换图像中各像素点的色调值、饱和度值及明度值；
根据所述参考变换图像中各像素点的色调值、饱和度值及明度值，确定所述参考变换图像中的目标区域；
根据所述目标肤色，将所述目标区域中各像素点的色调值、饱和度值及明度值进行调整，以获取与所述目标肤色匹配的目标变换图像。
根据本申请的另一方面，提供了一种图像处理装置，包括：
识别模块，用于对待处理的人脸图像进行肤色识别，以确定所述人脸的目标肤色；
变换模块，用于当风格迁移模型集中未包含与所述目标肤色对应的风格迁移模型时，利用任一风格迁移模型对所述人脸图像进行处理，以获取所述人脸图像对应的参考变换图像；
解析模块，用于对所述参考变换图像进行解析，以获取所述参考变换图像中各像素点的色调值、饱和度值及明度值；
第一确定模块，用于根据所述参考变换图像中各像素点的色调值、饱和度值及明度值，确定所述参考变换图像中的目标区域；以及
调整模块，用于根据所述目标肤色，将所述目标区域中各像素点的色调值、饱和度值及明度值进行调整，以获取与所述目标肤色匹配的目标变换图像。
根据本申请的另一方面，提供了一种电子设备，包括：
至少一个处理器；以及
与所述至少一个处理器通信连接的存储器；其中，
所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行上述一方面实施例所述的图像处理方法。
根据本申请另一方面，提供了一种存储有计算机指令的非瞬时计算机可读存储介质，其上存储有计算机程序，所述计算机指令用于使所述计算机执行上述一方面实施例所述的图像处理方法。
上述可选方式所具有的其他效果将在下文中结合具体实施例加以说明。
附图说明
附图用于更好地理解本方案，不构成对本申请的限定。其中：
图1为本申请实施例提供的一种图像处理方法的流程示意图；
图2为本申请实施例提供的另一种图像处理方法的流程示意图；
图3为本申请实施例提供的一种剪枝处理前后的效果示意图；
图4为本申请实施例提供的另一种图像处理方法的流程示意图；
图5为本申请实施例提供的一种凸包图像的示意图；
图6为本申请实施例提供的另一种图像处理方法的流程示意图；
图7为本申请实施例提供的另一种图像处理方法的流程示意图；
图8为本申请实施例提供的一种图像处理装置的结构示意图；
图9为根据本申请实施例的图像处理方法的电子设备的框图。
具体实施方式
以下结合附图对本申请的示范性实施例做出说明，其中包括本申请实施例的各种细节以助于理解，应当将它们认为仅仅是示范性的。因此，本领域普通技术人员应当认识到，可以对这里描述的实施例做出各种改变和修改，而不会背离本申请的范围和精神。同样，为了清楚和简明，以下的描述中省略了对公知功能和结构的描述。
下面参考附图描述本申请实施例的图像处理方法、装置、电子设备和存储介质。
图1为本申请实施例提供的一种图像处理方法的流程示意图。
本申请实施例的图像处理方法，可由本申请实施例提供的图像处理装置执行，该装置可配置于电子设备中，以实现基于待处理的人脸图像中人脸的肤色，调整参考变换图像中目标区域内像素点的色调值、饱和度值及明度值，使得目标变换图像中人脸肤色与待处理的人脸图像中人脸肤色匹配。
如图1所示，该图像处理方法包括：
步骤101，对待处理的人脸图像进行肤色识别，以确定人脸图像包含的人脸的目标肤色。
本实施例中，待处理的人脸图像可以是电子设备的摄像头拍摄的人脸图像，或者从拍摄的图像中提取的人脸图像，也可以是从视频的视频帧中提取的人脸图像。
在进行肤色识别时，可以先进行人脸检测，确定人脸区域，然后获取人脸区域中各像素点的像素值，并计算人脸区域中所有像素点的平均像素值，然后根据预先设定的各种肤色对应的像素值范围，确定当前待处理的人脸图像中人脸区域中所有像素点的平均像素值，所属的像素值范围，从而将所属的像素值范围对应的肤色，确定为待处理的人脸图像中包含的人脸的肤色，这里称为目标肤色。
或者，也可根据用户输入的待处理的人脸图像的肤色信息，确定人脸图像中包含的人脸的目标肤色。
再或者，也可利用预先训练好的肤色识别模型，对待处理的人脸图像进行肤色识别，以确定人像图像中人脸的目标肤色。
步骤102，若风格迁移模型集中未包含与目标肤色对应的风格迁移模型，则利用任一风格迁移模型对人脸图像进行处理，以获取人脸图像对应的参考变换图像。
本实施例中，风格迁移模型集中包括至少一种肤色对应的风格迁移模型。其中，某肤色对应的风格迁移模型用于将人脸为该肤色的人脸图像转换为另一种风格且同肤色的图像，比如卡通图像等。比如，与A肤色对应的风格迁移模型可将肤色为A的人脸图像，转换为卡通图像，该卡通图像的肤色与肤色A相同或接近。
在获取待处理的人脸图像包含的人脸的目标肤色后，根据风格迁移模型集中各风格迁移模型与肤色之间的对应关系，确定风格迁移模型中是否包含与目标肤色对应的风格迁移模型。如果包含与目标肤色对应的风格迁移模型，则利用该风格迁移模型对人脸图像进行处理，获取与目标肤色匹配的目标变换图像。如果风格迁移模型集中未包含与目标肤色对应的风格迁移模型，则利用任一风格迁移模型对人脸图像进行处理，获取该人脸图像对应的变换图像，这里称为参考变换图像。
比如，待处理的人脸图像中包含的人脸的肤色为黑色，风格迁移模型集中不包括与黑色对应的风格迁移模型，由于浅色系训练数据较高，风格迁移模型中包括浅色系对应的风格迁移模型，则利用浅色系对应的风格迁移模型对待处理的人脸图像进行处理，获取人脸图像对应的肤色为浅色系的参考变换图像。
步骤103，对参考变换图像进行解析，以获取参考变换图像中各像素点的色调值、饱和度值及明度值。
为了便于调整，本实施例中，可将参考变换图像转换到HSV颜色空间，然后获取参考变换图像中各个像素点的色调值、饱和度值和明度值。其中，色调值用于表示色彩；饱和度值表示颜色接近光谱色的程度；明度值用于表示颜色明亮的程度。
步骤104，根据参考变换图像中各像素点的色调值、饱和度值及明度值，确定参考变换图像中的目标区域。
在实际应用中，不同肤色的变换图像中，眼睛、鼻子、嘴巴大致相同，因此，本实施例中，可只对脸上的皮肤以及身上露出来的皮肤肤色进行调整，眼睛、嘴巴、鼻子等不做调整。
在具体实现时，可以进行人脸检测，确定眼睛、嘴巴、鼻子所在的区域，将人脸中除这些区域以外的脸部区域作为目标区域。
可见，这里目标区域可包括参考变换图像中除眼睛、鼻子、嘴巴等以外的脸部区域，以及身上露出来的区域等。
步骤105，根据目标肤色，将目标区域中各像素点的色调值、饱和度值及明度值进行调整，以获取与目标肤色匹配的目标变换图像。
本实施例中，可根据目标肤色，确定目标肤色对应的色调值、饱和度值及明度值，然后将目标区域中各像素点的色调值、饱和度值及明度值，调整为目标肤色对应的色调值、饱和度及明度值，从而获取与目标肤色匹配的目标变换图像。
由此，当未有与待处理的人脸图像的肤色对应的风格迁移模型时，可利用已有的风格迁移模型对人脸图像进行处理，得到参考变换图像，然后对参考变换图像中目标区域进行调整，得到与待处理人脸图像肤色匹配的变换图像。
本申请实施例的图像处理方法，通过首先对待处理的人脸图像进行肤色识别，以确定人脸图像包含的人脸的目标肤色，如果风格迁移模型集中未包含与目标肤色对应的风格迁移模型，则利用任一风格迁移模型对人脸图像进行处理，以获取人脸图像对应的参考变换图像，然后对参考变换图像进行解析，以获取参考变换图像中各像素点的色调值、饱和度值及明度值，之后根据参考变换图像中各像素点的色调值、饱和度值及明度值，确定参考变换图像中的目标区域，再根据目标肤色，将目标区域中各像素点的色调值、饱和度值及明度值进行调整，以获取与目标肤色匹配的目标变换图像。由此，当风格迁移模型集中未包含与目标肤色对应的风格迁移模型时，通过基于待处理的人脸图像中人脸的肤色，对利用已有风格迁移模型获取的参考变换图像中的目标区域中各像素点的色调值、饱和度值及明度值进行调整，使得目标变换图像与待处理的人脸图像中人脸肤色匹配，从而可以对各种肤色用户进行风格变换处理，扩大了应用范围。
为了提高目标区域的准确性，在本申请的一个实施例中，还可利用如下方式，确定参考变换图像中的目标区域。
具体地，可预先设定参考变换图像中人脸肤色的色调值对应的范围，这里称为第一范围，饱和度值的第二范围和明度值的第三范围。在获取参考变换图像后，根据参考变换图像中每个像素点的色调值、饱和度值和明度值，确定参考变换图像中色调值在第一范围、饱和度值在第二范围、且明度值在第三范围内的像素点，将这些像素点确定为目标区域内的像素点，即这些像素点所组成的区域为目标区域。
或者，可以定义参考变换图像中人脸肤色对应的上边界的色调值、饱和度值及明度值，以及下边界的色调值、饱和度值及明度值，将位于上边界与下边界之间的区域，作为目标区域。比如，定义上边界为H,S,V＝[10,15,210]，下边界为H,S,V＝[25,95,255]，参考变换图像中位于这两个颜色之间的区域，即为目标区域。
本申请实施例中，在根据参考变换图像中各像素点的色调值、饱和度值及明度值，确定参考变换图像中的目标区域时，通过将参考变换图像中，色调值在第一范围、饱和度值在第二范围、且明度值在第三范围内的像素点，确定为目标区域内的像素点。由此，通过根据色调值、饱和度值和明度值的范围，确定目标区域，提高了目标区域的准确性。
为了进一步提高目标区域的准确性，在本申请的一个实施例中，在根据色调值、饱和度值和明度值的范围，确定参考图像中属于目标区域内的像素点之后，可进一步对目标区域内的像素点进行剪枝处理，以获取更加精准的目标区域。下面结合图2进行说明，图2为本申请实施例提供的另一种图像处理方法的流程示意图。
如图2所示，上述将参考变换图像中，色调值在第一范围、饱和度值在第二范围、且明度值在第三范围内的像素点，确定为目标区域内的像素点之后，还包括：
步骤201，获取目标区域内的各像素点的平均色调值、平均饱和度值及平均明度值。
本实施例中，根据目标区域内每个像素点的色调值，计算出目标区域内所有像素点的色调值的总和，然后将色调值的总和除以目标区域内像素点的数量，得到目标区域内各像素点的平均色调值。
同样地，根据目标区域内每个像素点的饱和度值，计算出目标区域内所有像素点的饱和度值的总和，然后将饱和度值的总和除以目标区域内像素点的数量，得到各像素点的平均饱和度值。
同样地，根据目标区域内每个像素点的明度值，计算出目标区域内所有像素点的明度值的总和，然后将明度值的总和除以目标区域内像素点的数量，得到各像素点的平均明度值。
步骤202，根据预设的误差值、平均色调值、平均饱和度值及平均明度值，确定目标色调范围、目标饱和度范围及目标明度范围。
本实施例中，可预设一个误差值，该误差值包括色调的误差值、饱和度的误差值和明度的误差值。然后，根据色调的误差值和平均色调值，确定目标色调范围，其中，平均色调值在目标色调范围内；根据饱和度的误差值和平均饱和度值，确定目标饱和度范围，其中，平均饱和度值在目标饱和度范围内；根据明度的误差值和平均明度值，确定目标明度范围，其中，平均明度值在目标明度范围内。
其中，平均色调值、平均饱和度值及平均明度值的上下浮动范围对应各自的误差值，即目标色调范围、目标饱和度范围及目标明度范围的上限与下限之间的差值为对应的误差值。
作为一个示例，可将平均色调值减去色调的二分之一的误差值得到的差值，作为目标色调范围的下限，将平均色调值加上色调的二分之一的误差值得到的和值，作为目标色调范围的上限。同样地，可将平均饱和度值减去饱和度的二分之一的误差值得到的差值，作为目标饱和度范围的下限，将平均饱和度值加上饱和度的二分之一的误差值得到的和值，作为目标饱和度范围的上限。同样地，可将平均明度值减去明度的二分之一的误差值得到的差值，作为目标明度范围的下限，将平均明度值加上明度的二分之一的误差值得到和值，作为目标明度范围的上限。
作为另一示例，可将平均色调值减去色调的三分之二的误差值得到的差值，作为目标色调范围的下限，将平均色调值加上色调的三分之一的误差值得到的和值，作为目标色调范围的上限。
比如，预设的误差值为(hΔ,sΔ,vΔ)，其中，hΔ表示色调的误差值、sΔ表示饱和度的误差值、vΔ表示明度的误差值，
Figure BDA0002642953860000082
表示平均色调值、
Figure BDA0002642953860000083
表示平均饱和度值、
Figure BDA0002642953860000081
表示平均明度值。那么，目标色调的范围可以为
Figure BDA0002642953860000084
目标饱和度范围为
Figure BDA0002642953860000085
目标明度范围为
Figure BDA0002642953860000086
需要说明的是，上述目标色调范围、目标饱和度范围及目标明度范围的上限与下限的确定方法仅是示例。
步骤203，基于目标色调范围、目标饱和度范围及目标明度范围，对目标区域内的像素点进行剪枝处理。
在确定目标色调范围、目标饱和度范围和目标明度范围后，可将目标区域内色调值在目标色调范围、饱和度值在目标饱和度范围、且明度值在目标区域内的像素点，作为新的目标区域内的像素点。由此，通过目标色调范围、目标饱和度范围及目标明度范围，将目标区域内的一些像素点筛选出去，确定需要调整的新的目标区域。
在确定新的目标区域后，根据待处理的人脸图像中包含的人脸的目标肤色，对新的目标区域中各像素点的色调值、饱和度值及明度值进行调整，使得调整后的目标变换图像中人脸的肤色与目标肤色匹配。
在实际应用中，参考变换图像中，可能人脸周围的头发、灯光在人脸区域造成的阴影等也属于目标区域。因此，可在确定目标区域后，通过确定目标色调范围、目标饱和度范围及目标明度范围，基于目标色调范围、目标饱和度范围及目标明度范围，对目标区域内的像素点进行剪枝处理，将保留的像素点所在的区域，作为新的目标区域，然后对新的目标区域内各像素点的色调值、饱和度值及明度值进行调整。
图3为本申请实施例提供的一种剪枝处理前后的效果示意图。图3中左侧为剪枝处理前的人脸图像的示意图，右侧为剪枝处理后的人脸图像的示意图。通过图3可以看出，剪枝处理后确定需要调整肤色的人脸区域更加精准。
本申请实施例中，在将参考变换图像中，色调值在第一范围、饱和度值在第二范围、且明度值在第三范围内的像素点，确定为目标区域内的像素点之后，可根据预设的误差值、平均色调值、平均饱和度值及平均明度值，确定目标色调范围、目标饱和度范围及目标明度范围，然后基于目标色调范围、目标饱和度范围及目标明度范围，对目标区域内的像素点进行剪枝处理，之后对剪枝处理后保留的像素点的色调值、饱和度值和明度值进行调整，获取与目标肤色匹配的目标变换图像。由此，通过对目标区域内的像素点进行剪枝处理，获取更加精确的需要调整肤色的区域进行肤色调整，进一步提高了图像处理效果。
为了提高参考变换图像的效果，在本申请的一个实施例中，可利用待处理的人脸图像的凸包图像，通过风格迁移模型，得到参考变换图像。下面结合图4进行说明，图4为本申请实施例提供的另一种图像处理方法的流程示意图。
如图4所示，上述利用任一风格迁移模型对人脸图像进行处理，以获取人脸图像对应的参考变换图像，包括：
步骤401，将人脸图像进行预处理，以获取人脸图像对应的凸包图像。
本实施例中，在利用风格迁移模型集中任一风格迁移模型对待处理的人脸图像进行处理之前，可对人脸图像进行预处理。
具体地，可对人脸图像进行关键点检测，获取人脸中五官的关键点位置，然后根据关键点位置得到五官的凸包图，然后为凸包图添加不同的颜色，得到将一张图像，该图像为凸包图像。其中，凸包图像可表征五官的位置和大小，并通过颜色的变化，来表征睁眼、闭眼、张嘴、闭嘴的状态。
图5为本申请实施例提供的一种凸包图像的示意图。由图5可以看出，凸包图像中包括眉毛、鼻子、眼睛、嘴巴等。
步骤402，利用任一风格迁移模型，对凸包图像及人脸图像进行处理，以获取人脸图像对应的参考变换图像。
本实施例中，将凸包图像和人脸图像输入至选择的风格迁移模型中，具体而言，凸包图像和人脸图像均为RGB三通道图像，将两种图像形成的6维矩阵输入至风格迁移模型中，风格迁移模型利用凸包图像准确定位人脸图像中人脸的五官位置，以使风格迁移模型对人脸图像中的五官进行变换，得到人脸图像对应的参考变换图像。
本申请实施例中，在利用任一风格迁移模型对人脸图像进行处理，以获取人脸图像对应的参考变换图像时，可将人脸图像进行预处理，以获取人脸图像对应的凸包图像，然后利用任一风格迁移模型，对凸包图像及人脸图像进行处理，以获取人脸图像对应的参考变换图像。由此，在利用风格迁移模型对人脸图像进行处理时，结合人脸图像对应的凸包图像，通过凸包图像帮助风格迁移模型准确定位人脸图像中五官的位置，从而可以提高风格迁移模型的处理效率和参考变换图像的效果。
上述实施例描述了，当风格迁移模型集中未包含某肤色对应的风格迁移模型时，可先利用风格迁移模型集中任一风格迁移模型对人脸图像进行处理，得到参考变换图像，然后再对参考变换进行肤色调整，得到与该肤色匹配的目标变换图像。
为了进一步提高对人脸肤色为目标肤色的人脸图像的处理效率和效果，在本申请的一个实施例中，可在利用上述方法对目标肤色的人脸图像进行处理，得到大量目标肤色的变换图像后，利用这些人脸图像和变换图像，训练得到与目标肤色对应的风格迁移模型，以利用该风格迁移模型对肤色为目标肤色的人脸图像进行处理。下面结合图6进行说明，图6为本申请实施例提供的另一种图像处理方法的流程示意图。
如图6所述，在获取与目标肤色匹配的目标变换图像之后，还包括：
步骤601，若与目标肤色匹配的目标变换图像的数量大于第一阈值，则获取与目标肤色对应的人脸图像集及变换图像集。
本实施例中，可获取与目标肤色匹配的目标变换图像后，判断与目标肤色匹配的目标变换图像的数量是否大于第一阈值。如果与目标肤色匹配的目标变换图像的数量大于第一阈值，则利用肤色为目标肤色的人脸图像构成人脸图像集，利用与人脸图像对应的目标变换图像构成变换图像集。
步骤602，利用人脸图像集及变换图像集，对初始风格迁移模型进行训练，以获取与目标肤色对应的目标风格迁移模型。
本实施例中，初始风格迁移模型可为对抗网络，包括生成器与判别器。
在具体训练时，为了降低模型训练的难度，可先对人脸图像集中的人脸图像进行预处理，获取人脸图像对应的凸包图像。
由于凸包图像可表征五官的位置和大小，并通过颜色的变化表征睁眼、闭眼、张嘴、闭嘴的状态，相当于初始风格迁移模型直接知道当前的睁眼、张嘴状态，而不需要让模型被动去学习。通过这种方式，显著的提高了模型的生成效果和收敛速度。
在获取人脸图像的凸包图像后，将凸包图像和人脸图像输入至生成器，生成参考图像，比如二次元图像等。之后，将参考图像输入至判别器，以使判别器判别参考图像为真实图像的概率，为了便于区分称为第一概率。然后，可通过根据第一概率与0的差异，对生成器和判别器进行修正。
由于参考图像是由生成器生成的图像，因此参考图像属于真实图像的概率为0％。可见，第一概率越大，说明参考图像被识别为真实图像的概率越高，但参考图像是生成图像，说明当前判别器的判断准确性越差，由此，对判别器进行修正；第一概率越小，说明参考图像被识别为真实图像的概率越低，生成器生成的变换图像的效果越差，那么对生成器进行修正。
同时，可将变换图像集中的变换图像，输入至判别器，由判别器判别变换图像是真实的，还是由生成器生成的。为了便于区分，这里将变换图像集中变换图像输入至判别器，判别器输出的概率称为第二概率。之后，根据第二概率与0之间的差异，对判别器进行修正。由于变换图像集中的图像是由生成器生成的，那么第二概率越大，说明判别器识别的判别效果越差，则对判别器进行修正。
在具体实现时，可对初始风格迁移模型进行深度学习，得到与目标肤色对应的风格迁移模型。
在获取与目标肤色对应的风格迁移模型后，可将该风格迁移模型添加至风格迁移模型集中，若待处理的人脸图像包含的人脸肤色为目标肤色，那么利用与目标肤色对应的风格迁移模型对人脸图像进行处理，得到对应的变换图像。
比如，通过利用人脸图像集和变换图像集，训练得到深色系肤色对应风格迁移模型。在视频级二次元图像的应用场景中，针对视频中检测到的人脸图像，可以先进行肤色识别，确定检测到的人脸图像中人脸的肤色，如果人脸肤色为深色系，那么调用风格迁移模型集中深色系肤色对应的风格迁移模型对人脸图像进行处理，得到深色系肤色的二次元图像；如果人脸肤色为浅色系，那么调用浅色系肤色对应的风格迁移模型对人脸图像进行处理，得到浅色系肤色对应的二次元图像。
同时，对检测到的人脸进行跟踪，因为跟踪的耗时很小，可以避免每帧都进行耗时很大的肤色识别。当跟踪跟丢时，对检测到的人脸重新进行肤色识别，然后再调用对应的模型进行处理。由此，在视频级二次元图像生成时，可以自适应的进行肤色识别，然后生成对应肤色的二次元图像。
在视频级图像风格变换时，可能需要在多个风格迁移模型之间来回切换，对风格迁移模型的GPU显存占用要求更高。
例如，之前只有一个风格迁移模型，显存占用是1G，那么增加到两个风格迁移模型之后，显存占用就会增加到2G。因此，为了减少显存占用，可对风格迁移模型做进一步的精度量化，若风格迁移模型之前采用的是基于float32的存储和计算，可改为float16存储和计算。然后，基于float16模型再做进一步的细调，保证图像处理效果不下降。由此，通过精度量化，风格迁移模型存储减少了一倍，所有处理都基于float16进行计算，使得占用显存减少了一半。
本申请实施例中，在获取与目标肤色匹配的目标变换图像之后，若与目标肤色匹配的目标变换图像的数量大于第一阈值，则获取与目标肤色对应的人脸图像集及变换图像集，然后利用人脸图像集及变换图像集，对初始风格迁移模型进行训练，以获取与目标肤色对应的目标风格迁移模型。由此，当待处理的人脸图的肤色为目标肤色时，可以利用目标风格迁移模型，对人脸图像进行处理，获取肤色为目标肤色的变换图像，从而提高了目标肤色的人脸图像的处理效率和处理效果。
在实际应用中，人脸图像通常有一定的背景，为了提高图像处理效果，在本申请的一个实施例中，在对待处理的人脸图像进行肤色识别之前，可利用人脸分割模型，对待处理图像进行人脸分割，得到人脸区域和背景区域，然后从待处理图像中获取待处理的人脸区域。
或者，也可利用人脸检测算法，从待处理图像中定位人脸位置，得到人脸位置框，然后根据人脸位置框，将人脸区域从待处理图像中截取出来，舍弃掉背景区域。
进一步地，在获取待处理的人脸图像时，可过滤掉人脸区域尺寸小于预设尺寸的图像。这是因为风格迁移模型通常指定其处理的图像的尺寸。
比如，风格迁移模型处理人脸图像时，人脸图像需要缩放到256*256像素大小，可过滤掉人脸尺寸小于100的人脸图像，因为如果人脸面积过小，图像放大后人脸会模糊，会影响处理效果。
另外，在对待处理图像进行人脸分割前，还可以根据图像尺寸，对图像进行筛选，获取尺寸满足要求的待处理图像。
比如，图像需要缩放到256*256的大小，再输入风格迁移模型进行处理，可过滤掉图像尺寸小于256的图像，因为如果待处理图像本身就小于256，人脸图像的面积必然小于256，那么将待处理的人脸图像放大，会导致图像模糊，影响模型处理效果。
本申请实施例中，在对待处理的人脸图像进行肤色识别之前，还可利用人脸分割模型，对待处理图像进行人脸分割，以获取待处理的人脸图像。由此，通过对待处理图像进行人脸分割，将待处理图像中背景舍弃，获取人脸图像，以仅对人脸图像进行处理，可以提高图像处理效果。
在实际应用中，拍摄的人脸图像中人脸可能不正脸，存在一定的旋转角度。为了方便处理，在本申请的一个实施例中，在通过人脸分割从待处理图像中获取人脸图像后，还可将旋转角度较大的人脸进行旋转处理。下面结合图7进行说明，图7为本申请实施例提供的另一种图像处理方法的流程示意图。
如图7所示，在利用人脸分割模型，对待处理图像进行人脸分割以获取待处理的人脸图像之后，还包括：
步骤701，确定人脸图像中人脸的旋转角度。
在实际应用中，人在自拍或者被拍摄时，头可能是会向左歪或向右歪，从而导致人脸存在一定的旋转角度。本实施例中，可检测人脸图像中人脸中轴线相对竖直方向的旋转角度。
步骤702，如果旋转角度大于或等于第二阈值，则将人脸进行旋转处理，以使旋转后的人脸的旋转角度小于第二阈值。
本实施例中，判断人脸图像中人脸的旋转角度是否大于或等于第二阈值。如果旋转角度大于或等于第二阈值，则将人脸向竖直方向旋转，使旋转后人脸的旋转角度小于第二阈值。具体地，可将人脸至少旋转，步骤701中检测到人脸的旋转角度与第二阈值的差值的角度。
其中，第二阈值可以根据实际需要设定。
比如，第二阈值为45度，人脸图像中人脸的旋转角度为70度，那么70度-45度＝25度，需要将人脸至少旋转25度，以使旋转后的人脸角度小于45度。在实际应用中，为了方便处理，可使旋转处理后的人脸的旋转角度为0。
在对人脸图像中的人脸进行旋转处理后，对人脸图像再进行肤色识别，确定目标肤色等后续处理。
本申请实施例中，在利用人脸分割模型，对待处理图像进行人脸分割以获取待处理的人脸图像之后，还可确定人脸图像中人脸的旋转角度，如果旋转角度大于或等于第二阈值，则将人脸进行旋转处理，以使旋转后的人脸的旋转角度小于第二阈值。由此，在经过人脸分割得到待处理的人脸图像后，如果人脸图像中人脸的旋转角度较大时，通过对人脸进行旋转处理，待旋转后的人脸的旋转角度满足条件后，再对人脸图像进行处理，从而提高了图像处理效果。
为了实现上述实施例，本申请实施例还提出一种图像处理装置。图8为本申请实施例提供的一种图像处理装置的结构示意图。
如图8所示，该图像处理装置800包括：识别模块810、变换模块820、解析模块830、第一确定模块840以及调整模块850。
识别模块810，用于对待处理的人脸图像进行肤色识别，以确定人脸图像包含的人脸的目标肤色；
变换模块820，用于当风格迁移模型集中未包含与目标肤色对应的风格迁移模型时，利用任一风格迁移模型对人脸图像进行处理，以获取人脸图像对应的参考变换图像；
解析模块830，用于对参考变换图像进行解析，以获取参考变换图像中各像素点的色调值、饱和度值及明度值；
第一确定模块840，用于根据参考变换图像中各像素点的色调值、饱和度值及明度值，确定参考变换图像中的目标区域；以及
调整模块850，用于根据目标肤色，将目标区域中各像素点的色调值、饱和度值及明度值进行调整，以获取与目标肤色匹配的目标变换图像。
在本申请实施例一种可能的实现方式中，上述第一确定模块840，具体用于：
将参考变换图像中，色调值在第一范围、饱和度值在第二范围、且明度值在第三范围内的像素点，确定为目标区域内的像素点。
在本申请实施例一种可能的实现方式中，该装置还可包括：
第一获取模块，用于获取目标区域内的各像素点的平均色调值、平均饱和度值及平均明度值；；
第二确定模块，用于根据预设的误差值、平均色调值、平均饱和度值及平均明度值，确定目标色调范围、目标饱和度范围及目标明度范围；以及；
剪枝模块，用于基于目标色调范围、目标饱和度范围及目标明度范围，对目标区域内的像素点进行剪枝处理。
在本申请实施例一种可能的实现方式中，上述变换模块820，包括：
第一处理单元，用于将人脸图像进行预处理，以获取人脸图像对应的凸包图像；以及
第二处理单元，用于利用任一风格迁移模型，对凸包图像及人脸图像进行处理，以获取人脸图像对应的参考变换图像。
在本申请实施例一种可能的实现方式中，该装置还可包括：
第二获取模块，用于当与目标肤色匹配的目标变换图像的数量大于第一阈值时，获取与目标肤色对应的人脸图像集及变换图像集；以及；
训练模块，用于利用人脸图像集及变换图像集，对初始风格迁移模型进行训练，以获取与目标肤色对应的目标风格迁移模型。
在本申请实施例一种可能的实现方式中，该装置还可包括：
分割模块，用于利用人脸分割模型，对待处理图像进行人脸分割，以获取待处理的人脸图像。
在本申请实施例一种可能的实现方式中，该装置还可包括：
第三确定模块，用于确定人脸图像中人脸的旋转角度；以及；
旋转处理模块，用于当旋转角度大于或等于第二阈值时，将人脸进行旋转处理，以使旋转后的人脸的旋转角度小于第二阈值。
需要说明的是，前述图像处理方法实施例的解释说明，也适用于该实施例的图像处理装置，故在此不再赘述。
本申请实施例的图像处理装置，通过首先对待处理的人脸图像进行肤色识别，以确定人脸图像包含的人脸的目标肤色，如果风格迁移模型集中未包含与目标肤色对应的风格迁移模型，则利用任一风格迁移模型对人脸图像进行处理，以获取人脸图像对应的参考变换图像，然后对参考变换图像进行解析，以获取参考变换图像中各像素点的色调值、饱和度值及明度值，之后根据参考变换图像中各像素点的色调值、饱和度值及明度值，确定参考变换图像中的目标区域，再根据目标肤色，将目标区域中各像素点的色调值、饱和度值及明度值进行调整，以获取与目标肤色匹配的目标变换图像。由此，当风格迁移模型集中未包含与目标肤色对应的风格迁移模型时，通过基于待处理的人脸图像中人脸的肤色，对利用已有风格迁移模型获取的参考变换图像中的目标区域中各像素点的色调值、饱和度值及明度值进行调整，使得目标变换图像与待处理的人脸图像中人脸肤色匹配，从而可以对各种肤色用户进行风格变换处理，扩大了应用范围。
根据本申请的实施例，本申请还提供了一种电子设备和一种可读存储介质。
如图9所示，是根据本申请实施例的图像处理方法的电子设备的框图。电子设备旨在表示各种形式的数字计算机，诸如，膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置，诸如，个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例，并且不意在限制本文中描述的和/或者要求的本申请的实现。
如图9所示，该电子设备包括：一个或多个处理器901、存储器902，以及用于连接各部件的接口，包括高速接口和低速接口。各个部件利用不同的总线互相连接，并且可以被安装在公共主板上或者根据需要以其它方式安装。处理器可以对在电子设备内执行的指令进行处理，包括存储在存储器中或者存储器上以在外部输入/输出装置(诸如，耦合至接口的显示设备)上显示GU I的图形信息的指令。在其它实施方式中，若需要，可以将多个处理器和/或多条总线与多个存储器和多个存储器一起使用。同样，可以连接多个电子设备，各个设备提供部分必要的操作(例如，作为服务器阵列、一组刀片式服务器、或者多处理器系统)。图9中以一个处理器901为例。
存储器902即为本申请所提供的非瞬时计算机可读存储介质。其中，所述存储器存储有可由至少一个处理器执行的指令，以使所述至少一个处理器执行本申请所提供的图像处理方法。本申请的非瞬时计算机可读存储介质存储计算机指令，该计算机指令用于使计算机执行本申请所提供的图像处理方法。
存储器902作为一种非瞬时计算机可读存储介质，可用于存储非瞬时软件程序、非瞬时计算机可执行程序以及模块，如本申请实施例中的图像处理方法对应的程序指令/模块(例如，附图8所示的识别模块810、变换模块820、解析模块830、第一确定模块840以及调整模块850)。处理器901通过运行存储在存储器902中的非瞬时软件程序、指令以及模块，从而执行服务器的各种功能应用以及数据处理，即实现上述方法实施例中的图像处理方法。
存储器902可以包括存储程序区和存储数据区，其中，存储程序区可存储操作系统、至少一个功能所需要的应用程序；存储数据区可存储根据图像处理电子设备的使用所创建的数据等。此外，存储器902可以包括高速随机存取存储器，还可以包括非瞬时存储器，例如至少一个磁盘存储器件、闪存器件、或其他非瞬时固态存储器件。在一些实施例中，存储器902可选包括相对于处理器901远程设置的存储器，这些远程存储器可以通过网络连接至图像处理方法的电子设备。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。
图像处理方法的电子设备还可以包括：输入装置903和输出装置904。处理器901、存储器902、输入装置903和输出装置904可以通过总线或者其他方式连接，图9中以通过总线连接为例。
输入装置903可接收输入的数字或字符信息，以及产生与图像处理方法的电子设备的用户设置以及功能控制有关的键信号输入，例如触摸屏、小键盘、鼠标、轨迹板、触摸板、指示杆、一个或者多个鼠标按钮、轨迹球、操纵杆等输入装置。输出装置904可以包括显示设备、辅助照明装置(例如，LED)和触觉反馈装置(例如，振动电机)等。该显示设备可以包括但不限于，液晶显示器(LCD)、发光二极管(LED)显示器和等离子体显示器。在一些实施方式中，显示设备可以是触摸屏。
此处描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、专用ASIC(专用集成电路)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括：实施在一个或者多个计算机程序中，该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释，该可编程处理器可以是专用或者通用可编程处理器，可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令，并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
这些计算程序(也称作程序、软件、软件应用、或者代码)包括可编程处理器的机器指令，并且可以利用高级过程和/或面向对象的编程语言、和/或汇编/机器语言来实施这些计算程序。如本文使用的，术语“机器可读介质”和“计算机可读介质”指的是用于将机器指令和/或数据提供给可编程处理器的任何计算机程序产品、设备、和/或装置(例如，磁盘、光盘、存储器、可编程逻辑装置(PLD))，包括，接收作为机器可读信号的机器指令的机器可读介质。术语“机器可读信号”指的是用于将机器指令和/或数据提供给可编程处理器的任何信号。
为了提供与用户的交互，可以在计算机上实施此处描述的系统和技术，该计算机具有：用于向用户显示信息的显示装置(例如，CRT(阴极射线管)或者LCD(液晶显示器)监视器)；以及键盘和指向装置(例如，鼠标或者轨迹球)，用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互；例如，提供给用户的反馈可以是任何形式的传感反馈(例如，视觉反馈、听觉反馈、或者触觉反馈)；并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如，作为数据服务器)、或者包括中间件部件的计算系统(例如，应用服务器)、或者包括前端部件的计算系统(例如，具有图形用户界面或者网络浏览器的用户计算机，用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如，通信网络)来将系统的部件相互连接。通信网络的示例包括：局域网(LAN)、广域网(WAN)和互联网。
计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器，又称为云计算服务器或云主机，是云计算服务体系中的一项主机产品，以解决了传统物理主机与VPS(VirtualPrivate Server,虚拟专用服务器)服务中，存在的管理难度大，业务扩展性弱的缺陷。
根据本申请实施例的技术方案，当风格迁移模型集中未包含与目标肤色对应的风格迁移模型时，通过基于待处理的人脸图像中人脸的肤色，对利用已有风格迁移模型获取的参考变换图像中的目标区域中各像素点的色调值、饱和度值及明度值进行调整，使得目标变换图像与待处理的人脸图像中人脸肤色匹配，从而可以对各种肤色用户进行风格变换处理，扩大了应用范围。
应该理解，可以使用上面所示的各种形式的流程，重新排序、增加或删除步骤。例如，本发申请中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行，只要能够实现本申请公开的技术方案所期望的结果，本文在此不进行限制。
上述具体实施方式，并不构成对本申请保护范围的限制。本领域技术人员应该明白的是，根据设计要求和其他因素，可以进行各种修改、组合、子组合和替代。任何在本申请的精神和原则之内所作的修改、等同替换和改进等，均应包含在本申请保护范围之内。

Claims (16)

1.一种图像处理方法，包括：
对待处理的人脸图像进行肤色识别，以确定所述人脸图像包含的人脸的目标肤色；
若风格迁移模型集中未包含与所述目标肤色对应的风格迁移模型，则利用任一风格迁移模型对所述人脸图像进行处理，以获取所述人脸图像对应的参考变换图像；
对所述参考变换图像进行解析，以获取所述参考变换图像中各像素点的色调值、饱和度值及明度值；
根据所述参考变换图像中各像素点的色调值、饱和度值及明度值，确定所述参考变换图像中的目标区域；以及
根据所述目标肤色，将所述目标区域中各像素点的色调值、饱和度值及明度值进行调整，以获取与所述目标肤色匹配的目标变换图像。
2.如权利要求1所述的方法，其中，所述根据所述参考变换图像中各像素点的色调值、饱和度值及明度值，确定所述参考变换图像中的目标区域，包括：
将所述参考变换图像中，色调值在第一范围、饱和度值在第二范围、且明度值在第三范围内的像素点，确定为所述目标区域内的像素点。
3.如权利要求2所述的方法，其中，在所述确定为所述目标区域内的像素点之后，还包括：
获取所述目标区域内的各像素点的平均色调值、平均饱和度值及平均明度值；
根据预设的误差值、所述平均色调值、平均饱和度值及平均明度值，确定目标色调范围、目标饱和度范围及目标明度范围；以及
基于所述目标色调范围、目标饱和度范围及目标明度范围，对所述目标区域内的像素点进行剪枝处理。
4.如权利要求1所述的方法，其中，所述利用任一风格迁移模型对所述人脸图像进行处理，以获取所述人脸图像对应的参考变换图像，包括：
将所述人脸图像进行预处理，以获取所述人脸图像对应的凸包图像；以及
利用所述任一风格迁移模型，对所述凸包图像及所述人脸图像进行处理，以获取所述人脸图像对应的参考变换图像。
5.如权利要求1所述的方法，其中，在所述获取与所述目标肤色匹配的目标变换图像之后，还包括：
若与所述目标肤色匹配的目标变换图像的数量大于第一阈值，则获取与所述目标肤色对应的人脸图像集及变换图像集；以及
利用所述人脸图像集及变换图像集，对初始风格迁移模型进行训练，以获取与所述目标肤色对应的目标风格迁移模型。
6.如权利要求1-5任一所述的方法，其中，在所述对待处理的人脸图像进行肤色识别之前，还包括：
利用人脸分割模型，对待处理图像进行人脸分割，以获取所述待处理的人脸图像。
7.如权利要求6所述的方法，其中，在所述利用人脸分割模型，对待处理图像进行人脸分割以获取所述待处理的人脸图像之后，还包括：
确定所述人脸图像中人脸的旋转角度；以及
如果所述旋转角度大于或等于第二阈值，则将所述人脸进行旋转处理，以使旋转后的人脸的旋转角度小于所述第二阈值。
8.一种图像处理装置，包括：
识别模块，用于对待处理的人脸图像进行肤色识别，以确定所述人脸图像包含的人脸的目标肤色；
变换模块，用于当风格迁移模型集中未包含与所述目标肤色对应的风格迁移模型时，利用任一风格迁移模型对所述人脸图像进行处理，以获取所述人脸图像对应的参考变换图像；
解析模块，用于对所述参考变换图像进行解析，以获取所述参考变换图像中各像素点的色调值、饱和度值及明度值；
第一确定模块，用于根据所述参考变换图像中各像素点的色调值、饱和度值及明度值，确定所述参考变换图像中的目标区域；以及
调整模块，用于根据所述目标肤色，将所述目标区域中各像素点的色调值、饱和度值及明度值进行调整，以获取与所述目标肤色匹配的目标变换图像。
9.如权利要求8所述的装置，其中，所述第一确定模块，具体用于：
将所述参考变换图像中，色调值在第一范围、饱和度值在第二范围、且明度值在第三范围内的像素点，确定为所述目标区域内的像素点。
10.如权利要求9所述的装置，还包括：
第一获取模块，用于获取所述目标区域内的各像素点的平均色调值、平均饱和度值及平均明度值；
第二确定模块，用于根据预设的误差值、所述平均色调值、平均饱和度值及平均明度值，确定目标色调范围、目标饱和度范围及目标明度范围；以及
剪枝模块，用于基于所述目标色调范围、目标饱和度范围及目标明度范围，对所述目标区域内的像素点进行剪枝处理。
11.如权利要求8所述的装置，其中，所述变换模块，包括：
第一处理单元，用于将所述人脸图像进行预处理，以获取所述人脸图像对应的凸包图像；以及
第二处理单元，用于利用所述任一风格迁移模型，对所述凸包图像及所述人脸图像进行处理，以获取所述人脸图像对应的参考变换图像。
12.如权利要求8所述的装置，还包括：
第二获取模块，用于当与所述目标肤色匹配的目标变换图像的数量大于第一阈值时，获取与所述目标肤色对应的人脸图像集及变换图像集；以及
训练模块，用于利用所述人脸图像集及变换图像集，对初始风格迁移模型进行训练，以获取与所述目标肤色对应的目标风格迁移模型。
13.如权利要求8-12任一所述的装置，还包括：
分割模块，用于利用人脸分割模型，对待处理图像进行人脸分割，以获取所述待处理的人脸图像。
14.如权利要求13所述的装置，还包括：
第三确定模块，用于确定所述人脸图像中人脸的旋转角度；以及
旋转处理模块，用于当所述旋转角度大于或等于第二阈值时，将所述人脸进行旋转处理，以使旋转后的人脸的旋转角度小于所述第二阈值。
15.一种电子设备，包括：
至少一个处理器；以及
与所述至少一个处理器通信连接的存储器；其中，
所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行权利要求1-7中任一项所述的图像处理方法。
16.一种存储有计算机指令的非瞬时计算机可读存储介质，所述计算机指令用于使所述计算机执行权利要求1-7中任一项所述的图像处理方法。
CN202010845602.2A 2020-08-20 2020-08-20 图像处理方法、装置、电子设备和存储介质 Active CN112102154B (zh)

Priority Applications (5)

Application Number Priority Date Filing Date Title
CN202010845602.2A CN112102154B (zh) 2020-08-20 图像处理方法、装置、电子设备和存储介质
JP2021079945A JP7174803B2 (ja) 2020-08-20 2021-05-10 画像処理方法、装置、電子機器及び記憶媒体
US17/332,520 US11741684B2 (en) 2020-08-20 2021-05-27 Image processing method, electronic device and storage medium for performing skin color recognition on a face image
EP21179254.4A EP3872700A3 (en) 2020-08-20 2021-06-14 Image processing method, apparatus, electronic device, and storage medium
KR1020210107383A KR102507149B1 (ko) 2020-08-20 2021-08-13 이미지 처리 방법, 장치, 전자 기기 및 저장 매체

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202010845602.2A CN112102154B (zh) 2020-08-20 图像处理方法、装置、电子设备和存储介质

Publications (2)

Publication Number Publication Date
CN112102154A true CN112102154A (zh) 2020-12-18
CN112102154B CN112102154B (zh) 2024-04-26

Family

ID=

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112767238A (zh) * 2020-12-31 2021-05-07 北京字跳网络技术有限公司 图像处理方法、装置、电子设备及存储介质
CN114742697A (zh) * 2022-03-31 2022-07-12 杭州缦图摄影有限公司 一种人脸肤色单值风格化的方法
CN114742697B (zh) * 2022-03-31 2024-05-03 杭州海马体摄影有限公司 一种人脸肤色单值风格化的方法

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8698796B2 (en) * 2009-11-16 2014-04-15 Sony Corporation Image processing apparatus, image processing method, and program
CN107862663A (zh) * 2017-11-09 2018-03-30 广东欧珀移动通信有限公司 图像处理方法、装置、可读存储介质和计算机设备
CN107862657A (zh) * 2017-10-31 2018-03-30 广东欧珀移动通信有限公司 图像处理方法、装置、计算机设备及计算机可读存储介质
WO2019100282A1 (zh) * 2017-11-23 2019-05-31 深圳和而泰智能控制股份有限公司 一种人脸肤色识别方法、装置和智能终端
CN110489634A (zh) * 2018-05-10 2019-11-22 合刃科技（武汉）有限公司 一种造型信息推荐方法、装置、系统及终端设备
WO2020034481A1 (zh) * 2018-08-13 2020-02-20 深圳市商汤科技有限公司 一种图像风格转换方及装置、设备、存储介质
CN111063008A (zh) * 2019-12-23 2020-04-24 北京达佳互联信息技术有限公司 一种图像处理方法、装置、设备及存储介质

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8698796B2 (en) * 2009-11-16 2014-04-15 Sony Corporation Image processing apparatus, image processing method, and program
CN107862657A (zh) * 2017-10-31 2018-03-30 广东欧珀移动通信有限公司 图像处理方法、装置、计算机设备及计算机可读存储介质
CN107862663A (zh) * 2017-11-09 2018-03-30 广东欧珀移动通信有限公司 图像处理方法、装置、可读存储介质和计算机设备
WO2019100282A1 (zh) * 2017-11-23 2019-05-31 深圳和而泰智能控制股份有限公司 一种人脸肤色识别方法、装置和智能终端
CN110489634A (zh) * 2018-05-10 2019-11-22 合刃科技（武汉）有限公司 一种造型信息推荐方法、装置、系统及终端设备
WO2020034481A1 (zh) * 2018-08-13 2020-02-20 深圳市商汤科技有限公司 一种图像风格转换方及装置、设备、存储介质
CN111063008A (zh) * 2019-12-23 2020-04-24 北京达佳互联信息技术有限公司 一种图像处理方法、装置、设备及存储介质

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
罗岱;陶洋;杨刚;: "基于面部特征约束的人脸纹理映射及变形", 计算机工程与应用, no. 06, 23 May 2017 (2017-05-23) *
魏玮;马军福;: "自适应的快速人脸肤色转移", 中国图象图形学报, no. 02, 16 February 2016 (2016-02-16) *

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112767238A (zh) * 2020-12-31 2021-05-07 北京字跳网络技术有限公司 图像处理方法、装置、电子设备及存储介质
WO2022142875A1 (zh) * 2020-12-31 2022-07-07 北京字跳网络技术有限公司 图像处理方法、装置、电子设备及存储介质
CN114742697A (zh) * 2022-03-31 2022-07-12 杭州缦图摄影有限公司 一种人脸肤色单值风格化的方法
CN114742697B (zh) * 2022-03-31 2024-05-03 杭州海马体摄影有限公司 一种人脸肤色单值风格化的方法

Also Published As

Publication number Publication date
EP3872700A2 (en) 2021-09-01
JP2021119535A (ja) 2021-08-12
EP3872700A3 (en) 2021-12-15
US20210286975A1 (en) 2021-09-16
US11741684B2 (en) 2023-08-29
KR102507149B1 (ko) 2023-03-07
JP7174803B2 (ja) 2022-11-17
KR20210107566A (ko) 2021-09-01

Similar Documents

Publication Publication Date Title
KR102469295B1 (ko) 깊이를 사용한 비디오 배경 제거
US11908244B2 (en) Human posture detection utilizing posture reference maps
CN111783647B (zh) 人脸融合模型的训练方法、人脸融合方法、装置及设备
Qian et al. A robust real-time face tracking algorithm
CN112102153B (zh) 图像的卡通化处理方法、装置、电子设备和存储介质
US11741684B2 (en) Image processing method, electronic device and storage medium for performing skin color recognition on a face image
CN111598818A (zh) 人脸融合模型训练方法、装置及电子设备
CN112529073A (zh) 模型训练方法、姿态估计方法、装置及电子设备
CN112270745B (zh) 一种图像生成方法、装置、设备以及存储介质
CN111612820A (zh) 多目标跟踪方法、特征提取模型的训练方法和装置
CN110619628A (zh) 一种人脸图像质量评估方法
CN111753908A (zh) 图像分类方法和装置及风格迁移模型训练方法和装置
CN111832745A (zh) 数据增广的方法、装置及电子设备
US11868523B2 (en) Eye gaze classification
CN111709873A (zh) 图像转换模型生成器的训练方法和装置
WO2022135574A1 (zh) 肤色检测方法、装置、移动终端和存储介质
CN111768356A (zh) 一种人脸图像融合方法、装置、电子设备及存储介质
CN113553909A (zh) 用于皮肤检测的模型训练方法、皮肤检测方法
CN112686965A (zh) 一种肤色检测方法、装置、移动终端和存储介质
CN112561879A (zh) 模糊度评价模型训练方法、图像模糊度评价方法及装置
CN113469085B (zh) 人脸活体检测方法、装置、电子设备及存储介质
CN112381927A (zh) 图像生成的方法、装置、设备以及存储介质
CN111768485A (zh) 三维图像的关键点标注方法、装置、电子设备及存储介质
CN112102154B (zh) 图像处理方法、装置、电子设备和存储介质
CN112200169B (zh) 用于训练模型的方法、装置、设备以及存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant