CN112767241A - 图像处理方法及其装置 - Google Patents

图像处理方法及其装置 Download PDF

Info

Publication number
CN112767241A
CN112767241A CN202110134894.3A CN202110134894A CN112767241A CN 112767241 A CN112767241 A CN 112767241A CN 202110134894 A CN202110134894 A CN 202110134894A CN 112767241 A CN112767241 A CN 112767241A
Authority
CN
China
Prior art keywords
interest
skin
color
human body
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202110134894.3A
Other languages
English (en)
Other versions
CN112767241B (zh
Inventor
田园
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Dajia Internet Information Technology Co Ltd
Original Assignee
Beijing Dajia Internet Information Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Dajia Internet Information Technology Co Ltd filed Critical Beijing Dajia Internet Information Technology Co Ltd
Priority to CN202110134894.3A priority Critical patent/CN112767241B/zh
Publication of CN112767241A publication Critical patent/CN112767241A/zh
Application granted granted Critical
Publication of CN112767241B publication Critical patent/CN112767241B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/04Context-preserving transformations, e.g. by using an importance map
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/40Analysis of texture
    • G06T7/41Analysis of texture based on statistical description of texture
    • G06T7/44Analysis of texture based on statistical description of texture using image operators, e.g. filters, edge density metrics or local histograms
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/90Determination of colour characteristics
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/70Multimodal biometrics, e.g. combining information from different biometric modalities
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30196Human being; Person
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30196Human being; Person
    • G06T2207/30201Face

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Human Computer Interaction (AREA)
  • Multimedia (AREA)
  • Probability & Statistics with Applications (AREA)
  • Image Analysis (AREA)
  • Image Processing (AREA)

Abstract

本公开提供一种图像处理方法以及其装置。所述图像处理方法可包括以下步骤:获取包括感兴趣对象的图像;提取所述感兴趣对象的美颜相关参数;以及根据提取的美颜相关参数对目标人物的裸露皮肤进行美颜处理。根据本公开,可将人体皮肤的肤色和纹理替换为用户想要的肤色和纹理,同时降低了手动调整到期望美颜效果的难度,提升了用户的美颜体验。

Description

图像处理方法及其装置
技术领域
本公开涉及图像识别技术领域,尤其涉及一种用于替换人体裸露皮肤的图像处理方法以及其装置。
背景技术
近来,由于美颜技术可提升图像或视频中的人物容颜,因此在图像处理领域得到了广泛的应用。目前,无论是在线视频美颜还是静态图像美颜,都是在对视频帧或图像进行人脸检测后以默认的美颜效果对视频帧或图像中的人脸进行美颜,但是这样可能导致美颜后的视频或图像不自然。此外,随着用户对美颜需求的提升,现有的美颜效果可能达不到用户的美化需求,从而影响用户的使用体验。
发明内容
本公开提供一种图像处理方法以及其装置,以至少解决用户难以将图像中的人体皮肤任意调整到期望的美颜效果的问题。
根据本公开实施例的第一方面,提供一种图像处理方法,所述方法可包括以下步骤:获取包括感兴趣对象的图像;提取所述感兴趣对象的美颜相关参数;以及根据提取的美颜相关参数对目标人物的裸露皮肤进行美颜处理。
可选地,所述感兴趣对象可以为人体或者非人体。
可选地,所述美颜相关参数可包括纹理特征和色彩特征中的至少一个。
可选地,在所述感兴趣对象为人体的情况下,提取所述感兴趣对象的美颜相关参数的步骤可包括提取所述感兴趣对象的不同部位的裸露皮肤部分的纹理特征和色彩特征。
可选地,所述方法还可包括:通过对所述图像进行人脸识别来确定所述感兴趣对象为人体还是非人体。
可选地,提取所述感兴趣对象的不同部位的裸露皮肤部分的纹理特征和色彩特征的步骤可包括:检测所述感兴趣对象的人脸关键点和人体关键点,以确定所述不同部位;利用肤色检测算法来识别所述感兴趣对象的裸露皮肤部分;利用局部二元模式算法来提取所述不同部位的裸露皮肤部分的纹理特征;以及利用颜色矩来提取所述不同部位的裸露皮肤部分的色彩特征。
可选地,在所述感兴趣对象为非人体的情况下,提取所述感兴趣对象的美颜相关参数的步骤可包括:通过对所述图像进行滤波处理来识别所述感兴趣对象的纹理特征;利用颜色矩来提取所述感兴趣对象的色彩特征。
可选地,根据提取的美颜相关参数对目标人物的裸露皮肤进行美颜处理的步骤可包括:识别所述目标人物的人脸关键点和人体关键点;利用肤色检测算法来识别所述目标人物的裸露皮肤部分;将提取的所述感兴趣对象的不同部位的纹理特征和色彩特征对齐地应用于所述目标人物的相应部位的裸露皮肤上。
可选地,所述方法还可包括:获取目标人脸信息;在目标视频或目标图像中搜索与所述目标人脸信息相匹配的人物;以及将该人物确定为所述目标人物。
根据本公开实施例的第二方面,提供一种图像处理装置,所述装置可包括:获取模块,被配置为获取包括感兴趣对象的图像;特征提取模块,被配置为提取所述感兴趣对象的美颜相关参数;以及应用模块,被配置为根据提取的美颜相关参数对目标人物的裸露皮肤进行美颜处理。
可选地,所述感兴趣对象可以为人体或者非人体。
可选地,所述美颜相关参数可包括纹理特征和色彩特征中的至少一个。
可选地,特征提取模块可被配置为在所述感兴趣对象为人体的情况下,提取所述感兴趣对象的不同部位的裸露皮肤部分的纹理特征和色彩特征。
可选地,所述装置还可包括确定模块。确定模块可被配置为通过对所述图像进行人脸识别来确定所述感兴趣对象为人体还是非人体。
可选地,特征提取模块可被配置为:检测所述感兴趣对象的人脸关键点和人体关键点,以确定所述不同部位;利用肤色检测算法来识别所述感兴趣对象的裸露皮肤部分;利用局部二元模式算法来提取所述不同部位的裸露皮肤部分的纹理特征;利用颜色矩来提取所述不同部位的裸露皮肤部分的色彩特征。
可选地,在所述感兴趣对象为非人体的情况下,特征提取模块可被配置为:通过对所述图像进行滤波处理来识别所述感兴趣对象的纹理特征;以及利用颜色矩来提取所述感兴趣对象的色彩特征。
可选地,应用模块可被配置为:识别所述目标人物的人脸关键点和人体关键点;利用肤色检测算法来识别所述目标人物的裸露皮肤部分;将提取的所述感兴趣对象的不同部位的纹理特征和色彩特征对齐地应用于所述目标人物的相应部位的裸露皮肤上。
可选地,确定模块可被配置为:获取目标人脸信息;在目标视频或目标图像中搜索与所述目标人脸信息相匹配的人物;以及将该人物确定为所述目标人物。
根据本公开实施例的第三方面,提供一种电子设备,所述电子设备可包括:至少一个处理器;至少一个存储计算机可执行指令的存储器,其中,所述计算机可执行指令在被所述至少一个处理器运行时,促使所述至少一个处理器执行如上所述的图像处理方法。
根据本公开实施例的第四方面,提供一种存储指令的计算机可读存储介质,当所述指令被至少一个处理器运行时,促使所述至少一个处理器执行如上所述的图像处理方法。
根据本公开实施例的第五方面,提供一种计算机程序产品,所述计算机程序产品中的指令被电子装置中的至少一个处理器运行以执行如上所述的图像处理方法。
本公开的实施例提供的技术方案至少带来以下有益效果:
根据本公开的实施例,通过扫描提取不同人物或物体的纹理特征和色彩特征,将提取的特征替换到视频或图像中的人体皮肤,实现了美颜个性化,同时也解决了人体各部位(诸如手、腿等)的美化问题,从而降低了用户手动调整到理想美颜效果的难度,提高了用户美颜体验。
应当理解的是,以上的一般描述和后文的细节描述仅是示例性和解释性的,并不能限制本公开。
附图说明
此处的附图被并入说明书中并构成本说明书的一部分,示出了符合本公开的实施例,并与说明书一起用于解释本公开的原理,并不构成对本公开的不当限定。
图1是根据本公开的实施例的图像处理方法的流程图;
图2是根据本公开的另一实施例的图像处理方法的流程图;
图3是根据本公开的另一实施例的图像处理方法的流程图;
图4是根据本公开的实施例的图像处理装置的框图;
图5是根据本公开的实施例的图像处理设备的结构示意图;
图6是根据本公开的实施例的电子设备的框图;
在整个附图中,应注意,相同的参考标号用于表示相同或相似的元件、特征和结构。
具体实施方式
提供参照附图的以下描述以帮助对由权利要求及其等同物限定的本公开的实施例的全面理解。包括各种特定细节以帮助理解,但这些细节仅被视为是示例性的。因此,本领域的普通技术人员将认识到在不脱离本公开的范围和精神的情况下,可对描述于此的实施例进行各种改变和修改。此外,为了清楚和简洁,省略对公知的功能和结构的描述。
以下描述和权利要求中使用的术语和词语不限于书面含义,而仅由发明人用来实现本公开的清楚且一致的理解。因此,本领域的技术人员应清楚,本公开的各种实施例的以下描述仅被提供用于说明目的而不用于限制由权利要求及其等同物限定的本公开的目的。
需要说明的是,本公开的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别类似的对象,而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换,以便这里描述的本公开的实施例能够以除了在这里图示或描述的那些以外的顺序实施。以下实施例中所描述的实施方式并不代表与本公开相一致的所有实施方式。相反,它们仅是与如所附权利要求书中所详述的、本公开的一些方面相一致的装置和方法的例子。
在此需要说明的是,在本公开中出现的“若干项之中的至少一项”均表示包含“该若干项中的任意一项”、“该若干项中的任意多项的组合”、“该若干项的全体”这三类并列的情况。例如“包括A和B之中的至少一个”即包括如下三种并列的情况:(1)包括A;(2)包括B;(3)包括A和B。又例如“执行步骤一和步骤二之中的至少一个”,即表示如下三种并列的情况:(1)执行步骤一;(2)执行步骤二;(3)执行步骤一和步骤二。
在相关技术中,用户可从固定的美颜效果模式中选择一种美颜效果来进行美颜。或者可通过人脸识别、性别识别等对不同年龄、不同性别的人调节美颜细条项力度。例如,可通过检测人脸以一定的美颜强度对存在的人脸进行美颜,通常基于年龄的美颜技术先通过对人脸面部的纹理复杂度进行分析以计算出年龄,再根据年龄值来调整美颜强度。然而,对于上述技术,单一的美颜参数并不能应对所有人的需求,此外,手动调节给用户带来不便。
为了解决美颜个性化问题,在本公开中,可通过提取其他对象(例如,喜欢的明星)的色彩和纹理特征,然后将提取的色彩和纹理特征替换到将被美颜的人物。此外,本公开不仅能美颜人脸,而且也能美化人体的其他部位,从而避免了手动调整到理想美颜效果的难度。
在下文中,根据本公开的各种实施例,将参照附图对本公开的方法、装置以及系统进行详细描述。
在下文中描述的各种方法可由电子装置执行。根据本公开的各种实施例的电子装置可包括如下中的至少一个:例如,智能电话,平板个人计算机(PC),移动电话,视频电话,电子书阅读器(e-book reader),桌上型PC,膝上型PC,上网本计算机,工作站,服务器,个人数字助理(PDA),便携式多媒体播放器(PMP),运动图像专家组(MPEG-1或MPEG-2)音频层3(MP3)播放器,相机和可穿戴装置等。
图1是根据本公开的实施例的图像处理方法的流程图。
参照图1,在步骤S101,获取包括感兴趣对象的图像。可通过相机即时拍摄带有感兴趣对象的图像,或者从图像库中导入感兴趣的图像。例如,包括感兴趣对象的图像可以是用户遇到化有自己喜欢的妆容的人后即时拍摄下的图像或者先前存储的某位明星的照片。这里,感兴趣对象可位于图像的中心。由于用户想要将感兴趣的人或物的某些特征替换到人的皮肤上,因此拍摄的对象一般位于图像的中心位置。
根据本公开的实施例,感兴趣对象可以为人体或者非人体。例如,感兴趣对象可以是喜欢的某位明星、桌子或者杯子等。然而,上述示例仅是示例性的,本公开不限于此。
在步骤S102,提取所述感兴趣对象的美颜相关参数。根据本公开的实施例,美颜相关参数可包括纹理特征和色彩特征中的至少一个。这里,色彩特征可包括颜色(诸如RGB)特征、饱和度、亮度等特征。此外,特征还可包括清晰度特征、肤色特征和妆容特征等。妆容特征可指化妆的效果(诸如口红、腮红、眼影、脸部高光、脸部阴影等)。肤色特征可包括唇色等。
在本公开中,可根据感兴趣对象的类型来不同地提取美颜相关参数。具体地,在感兴趣对象为人体的情况下,可提取感兴趣对象的不同部位的裸露皮肤部分的纹理特征、色彩特征和肤色特征等。在感兴趣对象为非人体的情况下,可提取感兴趣对象的纹理特征和色彩特征等。
作为示例,在感兴趣对象为人体的情况下,可首先检测感兴趣对象的人脸关键点和人体关键点,以确定人体的不同部位。例如,根据人脸关键点可确定出嘴、额头、眼睛、鼻子、眉毛等外部轮廓,可根据人体关键点确定出四肢等外部轮廓。然后,可利用肤色检测算法来识别感兴趣对象的裸露皮肤部分。例如,肤色检测YCbCr颜色空间是一种常用的肤色检测的色彩模型,其中,Y代表亮度,Cr代表光源中的红色分量,Cb代表光源中的蓝色分量,人体皮肤的颜色集中在色度的较小区域内。肤色的CbCr平面分布在近似椭圆的区域内,通过判断当前像素点的CbCr值是否落在肤色分布的椭圆区域内,即可确定当前像素是否属于肤色。例如,可使用HSV肤色检测来确定出人体裸露皮肤部分。接下来,可利用局部二元模式算法来提取不同部位的裸露皮肤部分的纹理特征,并利用颜色矩来提取不同部位的裸露皮肤部分的色彩特征。颜色矩是一种简单有效的颜色特征表示方法,有一阶矩(均值,mean)、二阶矩(方差,variance)和三阶矩(斜度,skewness)等,由于颜色信息主要分布于低阶矩中,所以用一阶矩,二阶矩和三阶矩足以表达图像的颜色分布,颜色矩已证明可有效地表示图像中的颜色分布。
可选地,可利用人脸特征算法LAB来提取人体的裸露皮肤部分的纹理特征,可利用RGB颜色空间来提取人体的裸露皮肤的色彩特征。然而,上述示例仅是示例性的,本公开不限于此。
作为另一示例,在感兴趣对象为非人体的情况下,可通过对包含感兴趣对象的图像进行滤波处理来识别感兴趣对象的纹理特征。例如,通过高斯滤波或低通滤波处理来获取低频信息或高频信息,然后基于低频信息或高频信息来提取非人体的纹理特征。然后可利用颜色矩来提取感兴趣对象的色彩特征。可选地,通过RGB颜色空间的不同通道将图像分离,然后将一定范围图像提取出来,从而获得感兴趣对象的色彩信息。然而,上述示例仅是示例性的,本公开不限于此。
在步骤S103,根据提取的美颜相关参数对目标人物的裸露皮肤进行美颜处理。这里,目标人物可指想要替换皮肤的人物。
在感兴趣对象为人体的情况下,可首先识别目标人物的人脸关键点和人体关键点,然后利用肤色检测算法来识别目标人物的裸露皮肤部分,从而确定出将被替换的裸露皮肤部分。接下来,可将提取的感兴趣对象的不同部位的纹理特征和色彩特征对齐地应用于目标人物的相应部位的裸露皮肤上。例如,可根据人脸关键点和人体关键点,对目标人物的相应位置填充相应的纹理和色彩,然后通过线性光或Overlay等方法进行融合,从而完成对人体皮肤的替换。例如,在感兴趣对象为人体的情况下,可将感兴趣对象的五官部位的口红、腮红、眼影、脸部高光、脸部阴影等对齐地应用于目标人物的相应五官位置,并且将感兴趣对象的四肢等部位的皮肤纹理、阴影、色彩等对齐地应用于目标人物的相应四肢等部位。
在感兴趣对象为非人体的情况下,可首先识别目标人物的人脸关键点和人体关键点,然后利用肤色检测算法来识别目标人物的裸露皮肤部分,从而确定出将被替换的裸露皮肤部分。接下来,可将提取的感兴趣对象的纹理特征和/或色彩特征填充到目标人物的对应部位的裸露皮肤部分。
在替换为皮肤后,可将处理后的图像上传分享或者保存本地。
此外,上述图像处理方法也可应用于直播场景中。例如,在直播过程中,当用户想要替换直播中的某人的皮肤时,用户可导入包括感兴趣对象的图像或者即时拍摄包括感兴趣对象的图像,然后将提取的美颜相关参数或特征应用于该人的皮肤。
根据本公开的实施例,可将视频或图像中的人体皮肤随意替换为想要的效果,同时也解决了人体各部位(诸如手、腿等)的美化问题,从而降低了用户手动调整到理想美颜效果的难度,提高了用户美颜体验。
图2是根据本公开的另一实施例的图像处理方法的流程图。
参照图2,在步骤S201,获取包括感兴趣对象的图像。感兴趣对象为人体或者非人体。例如,感兴趣对象可以是喜欢的某位明星、桌子或者杯子等。
在步骤S202,对获取的图像进行人脸识别。例如,可采用基于人脸特征点的识别算法、基于整幅人脸图像的识别算法、基于模板的识别算法、利用神经网络进行识别的算法对图像进行人脸识别。
在步骤S203,确定感兴趣对象为人体还是非人体。在识别到人脸时,确定感兴趣对象为人体,在未来识别到人脸时,确定感兴趣对象为非人体。
在识别到人脸时,进行到步骤S204。在未识别到人脸时,进行到步骤S205。
在步骤S204,提取感兴趣对象的不同部位的裸露皮肤部分的美颜相关参数。美颜相关参数可包括纹理特征和色彩特征中的至少一个。这里,色彩特征可包括颜色(诸如RGB)特征、饱和度、亮度等特征。此外,特征还可包括清晰度特征、肤色特征和妆容特征等。妆容特征可指化妆的效果(诸如口红、腮红、眼影、脸部高光、脸部阴影等)。肤色特征可包括唇色等。
作为示例,可检测感兴趣对象的人脸关键点和人体关键点,以确定人体不同部位。可利用肤色检测算法来识别感兴趣对象的裸露皮肤部分。可利用局部二元模式算法来提取人体不同部位的裸露皮肤部分的纹理特征。可利用颜色矩来提取人体不同部位的裸露皮肤部分的色彩特征。例如,可首先检测感兴趣对象的人脸关键点和人体关键点,以确定人体的不同部位。例如,根据人脸关键点可确定出嘴、额头、眼睛、鼻子、眉毛等外部轮廓,可根据人体关键点确定出四肢等外部轮廓。然后,可利用肤色检测算法来识别感兴趣对象的裸露皮肤部分。例如,肤色检测YCbCr颜色空间是一种常用的肤色检测的色彩模型,其中,Y代表亮度,Cr代表光源中的红色分量,Cb代表光源中的蓝色分量,人体皮肤的颜色集中在色度的较小区域内。肤色的CbCr平面分布在近似椭圆的区域内,通过判断当前像素点的CbCr值是否落在肤色分布的椭圆区域内,即可确定当前像素是否属于肤色。例如,可使用HSV肤色检测来确定出人体裸露皮肤部分。接下来,可利用局部二元模式算法来提取不同部位的裸露皮肤部分的纹理特征,并利用颜色矩来提取不同部位的裸露皮肤部分的色彩特征。颜色矩是一种简单有效的颜色特征表示方法,有一阶矩(均值,mean)、二阶矩(方差,variance)和三阶矩(斜度,skewness)等,由于颜色信息主要分布于低阶矩中,所以用一阶矩,二阶矩和三阶矩足以表达图像的颜色分布,颜色矩已证明可有效地表示图像中的颜色分布。
可选地,可利用人脸特征算法LAB来提取人体的裸露皮肤部分的纹理特征,可利用RGB颜色空间来提取人体的裸露皮肤的色彩特征。然而,上述示例仅是示例性的,本公开不限于此。
在步骤S205,提取感兴趣对象的美颜相关参数。美颜相关参数可包括纹理特征和色彩特征中的至少一个。在提取物体的特征时,可直接提取物体的纹理和色彩特征。
作为示例,可通过对图像进行滤波处理来识别感兴趣对象的纹理特征,然后利用颜色矩来提取感兴趣对象的色彩特征。例如,可通过对包含感兴趣对象的图像进行滤波处理来识别感兴趣对象的纹理特征。例如,通过高斯滤波或低通滤波处理来获取低频信息或高频信息,然后基于低频信息或高频信息来提取非人体的纹理特征。然后可利用颜色矩来提取感兴趣对象的色彩特征。可选地,通过RGB颜色空间的不同通道将图像分离,然后将一定范围图像提取出来,从而获得感兴趣对象的色彩信息。然而,上述示例仅是示例性的,本公开不限于此。
在步骤S206,在目标视频或目标图像中搜索与目标人脸信息相匹配的人物,并将该人物确定为目标人物。目标人物可以是一个人或多个人。
作为示例,可首先获取将被替换皮肤的用户的人脸信息,然后在待处理的视频或图像中搜索与该人脸信息相匹配的人物,即可锁定目标人物。例如,当用户想对某段视频或某张图像中的本人的皮肤进行替换时,可基于该用户的应用账号来锁定视频或图像中的本人。
可选地,在视频或图像中包括多个人物时,可响应于用户对其中一个或多个人物的选择来确定目标人物。
在步骤S207,将提取的美颜相关参数应用于目标人物的裸露皮肤。
在感兴趣对象为人体的情况下,可首先识别目标人物的人脸关键点和人体关键点,然后利用肤色检测算法来识别目标人物的裸露皮肤部分,从而确定出将被替换的裸露皮肤部分。接下来,可将提取的感兴趣对象的不同部位的纹理特征和色彩特征对齐地应用于目标人物的相应部位的裸露皮肤上。例如,可根据人脸关键点和人体关键点,对目标人物的相应位置填充相应的纹理和色彩,然后通过线性光或Overlay等方法进行融合,从而完成对人体皮肤的替换。例如,在感兴趣对象为人体的情况下,可将感兴趣对象的五官部位的口红、腮红、眼影、脸部高光、脸部阴影等对齐地应用于目标人物的相应五官位置,并且将感兴趣对象的四肢等部位的皮肤纹理、阴影、色彩等对齐地应用于目标人物的相应四肢等部位。
在感兴趣对象为非人体的情况下,可首先识别目标人物的人脸关键点和人体关键点,然后利用肤色检测算法来识别目标人物的裸露皮肤部分,从而确定出将被替换的裸露皮肤部分。接下来,可将提取的感兴趣对象的纹理特征和/或色彩特征填充到目标人物的对应部位的裸露皮肤部分。
在替换为皮肤后,可将处理后的图像上传分享或者保存本地。
图3是根据本公开的另一实施例的图像处理方法的流程图。
参照图3,可通过相机拍摄或图像导入的方式来获取包括感兴趣对象的图像。可通过相机即时拍摄带有感兴趣对象的图像,或者从图像库中导入感兴趣的图像。例如,包括感兴趣对象的图像可以是用户遇到化有自己喜欢的妆容的人后即时拍摄下的图像或者先前存储的某位明星的照片。
对获取的图像进行人脸识别,在识别到人脸的情况下,表示用户想要替换成图像中的人物皮肤的纹理和色彩特征以及妆容特征。此时,可首先检测感兴趣对象的人脸关键点和人体关键点,以确定人体的不同部位。例如,根据人脸关键点可确定出嘴、额头、眼睛、鼻子、眉毛等外部轮廓,可根据人体关键点确定出四肢等外部轮廓。然后,可利用肤色检测算法来识别感兴趣对象的裸露皮肤部分。例如,肤色检测YCbCr颜色空间是一种常用的肤色检测的色彩模型,其中,Y代表亮度,Cr代表光源中的红色分量,Cb代表光源中的蓝色分量,人体皮肤的颜色集中在色度的较小区域内。肤色的CbCr平面分布在近似椭圆的区域内,通过判断当前像素点的CbCr值是否落在肤色分布的椭圆区域内,即可确定当前像素是否属于肤色。例如,可使用HSV肤色检测来确定出人体裸露皮肤部分。接下来,可利用局部二元模式算法来提取不同部位的裸露皮肤部分的纹理特征,并利用颜色矩来提取不同部位的裸露皮肤部分的色彩特征。
在未识别到人脸的情况下,表示用户想要替换图像中的物体的纹理和色彩特征。此时,可通过对包含感兴趣对象的图像进行滤波处理来识别感兴趣对象的纹理特征。例如,通过高斯滤波或低通滤波处理来获取低频信息或高频信息,然后基于低频信息或高频信息来提取非人体的纹理特征。然后可利用颜色矩来提取感兴趣对象的色彩特征。可选地,通过RGB颜色空间的不同通道将图像分离,然后将一定范围图像提取出来,从而获得感兴趣对象的色彩信息。
可通过应用账号来锁定目标人物。例如,当用户想对某段视频或某张图像中的本人的皮肤进行替换时,可基于该用户的应用账号来锁定视频或图像中的本人。可选地,可获取非本人的人脸信息,从视频或图像中找到与该人脸信息相匹配的人物,然后对找到的人物的皮肤进行替换。
在锁定目标人物后,可将上述提取的特征融合覆盖在目标人物的裸露皮肤上。可根据人脸和人体关键点,对目标人物的相应位置,填充纹理及色彩。可通过线性光、Overlay等方法进行融合。
可将处理后的视频或图像上传至服务器或者存储在本地。
图4是根据本公开的实施例的图像处理装置的框图。图4所示的图像处理装置可以是电子设备(诸如移动电话)的一部分,或者作为独立的电子设备。
参照图4,图像处理装置400可包括获取模块401、特征提取模块402和应用模块403。图像处理装置400中的每个模块可由一个或多个模块来实现,并且对应模块的名称可根据模块的类型而变化。在各种实施例中,可省略图像处理装置400中的一些模块,或者还可包括另外的模块。此外,根据本公开的各种实施例的模块/元件可被组合以形成单个实体,并且因此可等效地执行相应模块/元件在组合之前的功能。
获取模块401可获取包括感兴趣对象的图像。这里,感兴趣对象可以为人体或者非人体。
特征提取模块402可提取感兴趣对象的美颜相关参数。这里,美颜相关参数可包括纹理特征和色彩特征中的至少一个。然而,上述示例仅是示例性的,本公开不限于此。
在感兴趣对象为人体的情况下,特征提取模块402可提取感兴趣对象的不同部位的裸露皮肤部分的纹理特征和色彩特征。具体地,特征提取模块402可检测感兴趣对象的人脸关键点和人体关键点,以确定人体不同部位,利用肤色检测算法来识别感兴趣对象的裸露皮肤部分,利用局部二元模式算法来提取人体不同部位的裸露皮肤部分的纹理特征,利用颜色矩来提取不同部位的裸露皮肤部分的色彩特征。
另外,在感兴趣对象为非人体的情况下,特征提取模块402可通过对获取的图像进行滤波处理来识别其中感兴趣对象的纹理特征,并利用颜色矩来提取所述感兴趣对象的色彩特征。
应用模块403可将提取的特征应用于目标人物的裸露皮肤。
在感兴趣对象为人体的情况下,应用模块403可识别目标人物的人脸关键点和人体关键点,利用肤色检测算法来识别目标人物的裸露皮肤部分,将提取的感兴趣对象的不同部位的纹理特征和色彩特征对齐地应用于目标人物的相应部位的裸露皮肤上。
作为另一种实施例方式,图像处理装置400还可确定模块(未示出)。确定模块可通过对获取的图像进行人脸识别来确定感兴趣对象为人体还是非人体,使得特征提取模块402根据感兴趣对象的类型来执行不同的提取操作。
此外,确定模块可用于确定目标人物。具体地,确定模块可获取目标人脸信息,在目标视频或目标图像中搜索与所述目标人脸信息相匹配的人物,然后将该人物确定为所述目标人物。
图5是本公开实施例的硬件运行环境的图像处理设备的结构示意图。
如图5所示,图像处理设备500可包括:处理组件501、通信总线502、网络接口503、输入输出接口504、存储器505以及电源组件506。其中,通信总线502用于实现这些组件之间的连接通信。输入输出接口504可以包括视频显示器(诸如,液晶显示器)、麦克风和扬声器以及用户交互接口(诸如,键盘、鼠标、触摸输入装置等),可选地,输入输出接口504还可包括标准的有线接口、无线接口。网络接口503可选的可包括标准的有线接口、无线接口(如无线保真接口)。存储器505可以是高速的随机存取存储器,也可以是稳定的非易失性存储器。存储器505可选的还可以是独立于前述处理组件501的存储装置。
本领域技术人员可以理解,图5中示出的结构并不构成对视频编辑设备500的限定,可包括比图示更多或更少的部件,或者组合某些部件,或者不同的部件布置。
如图5所示,作为一种存储介质的存储器505中可包括操作系统、数据存储模块、网络通信模块、用户接口模块、图像处理程序以及数据库。
在图5所示的图像处理设备500中,网络接口503主要用于与外部设备/终端进行数据通信;输入输出接口504主要用于与用户进行数据交互;图像处理设备500中的处理组件501、存储器505可被设置在图像处理设备500中,图像处理设备500通过处理组件501调用存储器505中存储的图像处理程序,执行本公开实施例提供的图像处理方法。
处理组件501可以包括至少一个处理器,存储器505中存储有计算机可以执行指令集合,当计算机可以执行指令集合被至少一个处理器执行时,执行根据本公开实施例的图像处理方法。此外,处理组件501可执行编码操作和解码操作等。然而,上述示例仅是示例性的,本公开不限于此。
处理组件501可获取包括感兴趣对象的图像。
处理组件501可提取图像中的感兴趣对象的美颜相关参数。
处理组件501可将提取的美颜相关参数应用于目标人物的裸露皮肤。
在感兴趣对象为人体的情况下,处理组件501可提取感兴趣对象的不同部位的裸露皮肤部分的特征,诸如纹理特特征和色彩特征。
处理组件501可通过对获取的图像进行人脸识别来确定感兴趣对象为人体还是非人体。
处理组件501可检测感兴趣对象的人脸关键点和人体关键点,以确定人体不同部位,利用肤色检测算法来识别感兴趣对象的裸露皮肤部分,利用局部二元模式算法来提取人体不同部位的裸露皮肤部分的纹理特征,利用颜色矩来提取人体不同部位的裸露皮肤部分的色彩特征。
在感兴趣对象为非人体的情况下,处理组件501可通过对获取的图像进行滤波处理来识别感兴趣对象的纹理特征,利用颜色矩来提取感兴趣对象的色彩特征。
处理组件501可识别目标人物的人脸关键点和人体关键点,利用肤色检测算法来识别目标人物的裸露皮肤部分,将提取的感兴趣对象的不同部位的纹理特征和色彩特征对齐地应用于目标人物的相应部位的裸露皮肤上。
处理组件501可获取目标人脸信息,在目标视频或目标图像中搜索与目标人脸信息相匹配的人物,将该人物确定为目标人物。
图像处理设备500可经由输入输出接口504接收或输出视频或图像。例如,用户可经由输入输出接口504将视频或图像输入至处理组件501,或者用户可经由输入输出接口504显示处理后的视频或图像。
作为示例,图像处理设备500可以是PC计算机、平板装置、个人数字助理、智能手机、或其他能够执行上述指令集合的装置。这里,图像处理设备500并非必须是单个的电子设备,还可以是任何能够单独或联合执行上述指令(或指令集)的装置或电路的集合体。图像处理设备500还可以是集成控制系统或系统管理器的一部分,或者可以被配置为与本地或远程(例如,经由无线传输)以接口互联的便携式电子设备。
在图像处理设备500中,处理组件501可包括中央处理器(CPU)、图形处理器(GPU)、可编程逻辑装置、专用处理器系统、微控制器或微处理器。作为示例而非限制,处理组件501还可以包括模拟处理器、数字处理器、微处理器、多核处理器、处理器阵列、网络处理器等。
处理组件501可运行存储在存储器中的指令或代码,其中,存储器505还可以存储数据。指令和数据还可以经由网络接口503而通过网络被发送和接收,其中,网络接口503可以采用任何已知的传输协议。
存储器505可以与处理器集成为一体,例如,将RAM或闪存布置在集成电路微处理器等之内。此外,存储器505可包括独立的装置,诸如,外部盘驱动、存储阵列或任何数据库系统可以使用的其他存储装置。存储器和处理器可以在操作上进行耦合,或者可以例如通过I/O端口、网络连接等互相通信,使得处理器能够读取存储在存储器中的文件。
根据本公开的实施例,可提供一种电子设备。图6是根据本公开实施例的电子设备的框图,该电子设备600可包括至少一个存储器602和至少一个处理器601,所述至少一个存储器602存储有计算机可执行指令集合,当计算机可执行指令集合被至少一个处理器601执行时,执行根据本公开实施例的图像处理方法。
处理器601可包括中央处理器(CPU)、图形处理器(GPU)、可编程逻辑装置、专用处理器系统、微控制器或微处理器。作为示例而非限制,处理器601还可包括模拟处理器、数字处理器、微处理器、多核处理器、处理器阵列、网络处理器等。
作为一种存储介质的存储器602可包括操作系统、数据存储模块、网络通信模块、用户接口模块、图像处理程序以及数据库。
存储器602可与处理器801集成为一体,例如,可将RAM或闪存布置在集成电路微处理器等之内。此外,存储器602可包括独立的装置,诸如,外部盘驱动、存储阵列或任何数据库系统可使用的其他存储装置。存储器和处理器可在操作上进行耦合,或者可例如通过I/O端口、网络连接等互相通信,使得处理器能够读取存储在存储器中的文件。
此外,电子设备600还可包括视频显示器(诸如,液晶显示器)和用户交互接口(诸如,键盘、鼠标、触摸输入装置等)。电子设备600的所有组件可经由总线和/或网络而彼此连接。
作为示例,电子设备600可以是PC计算机、平板装置、个人数字助理、智能手机、或其他能够执行上述指令集合的装置。这里,电子设备600并非必须是单个的电子设备,还可以是任何能够单独或联合执行上述指令(或指令集)的装置或电路的集合体。电子设备600还可以是集成控制系统或系统管理器的一部分,或者可被配置为与本地或远程(例如,经由无线传输)以接口互联的便携式电子设备。
本领域技术人员可理解,图6中示出的结构并不构成对的限定,可包括比图示更多或更少的部件,或者组合某些部件,或者不同的部件布置。
根据本公开的实施例,还可提供一种存储指令的计算机可读存储介质,其中,当指令被至少一个处理器运行时,促使至少一个处理器执行根据本公开的图像处理方法。这里的计算机可读存储介质的示例包括:只读存储器(ROM)、随机存取可编程只读存储器(PROM)、电可擦除可编程只读存储器(EEPROM)、随机存取存储器(RAM)、动态随机存取存储器(DRAM)、静态随机存取存储器(SRAM)、闪存、非易失性存储器、CD-ROM、CD-R、CD+R、CD-RW、CD+RW、DVD-ROM、DVD-R、DVD+R、DVD-RW、DVD+RW、DVD-RAM、BD-ROM、BD-R、BD-R LTH、BD-RE、蓝光或光盘存储器、硬盘驱动器(HDD)、固态硬盘(SSD)、卡式存储器(诸如,多媒体卡、安全数字(SD)卡或极速数字(XD)卡)、磁带、软盘、磁光数据存储装置、光学数据存储装置、硬盘、固态盘以及任何其他装置,所述任何其他装置被配置为以非暂时性方式存储计算机程序以及任何相关联的数据、数据文件和数据结构并将所述计算机程序以及任何相关联的数据、数据文件和数据结构提供给处理器或计算机使得处理器或计算机能执行所述计算机程序。上述计算机可读存储介质中的计算机程序可在诸如客户端、主机、代理装置、服务器等计算机设备中部署的环境中运行,此外,在一个示例中,计算机程序以及任何相关联的数据、数据文件和数据结构分布在联网的计算机系统上,使得计算机程序以及任何相关联的数据、数据文件和数据结构通过一个或多个处理器或计算机以分布式方式存储、访问和执行。
根据本公开的实施例中,还可提供一种计算机程序产品,该计算机程序产品中的指令可由计算机设备的处理器执行以完成上述图像处理方法。
本领域技术人员在考虑说明书及实践这里公开的发明后,将容易想到本公开的其它实施方案。本申请旨在涵盖本公开的任何变型、用途或者适应性变化,这些变型、用途或者适应性变化遵循本公开的一般性原理并包括本公开未公开的本技术领域中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的,本公开的真正范围和精神由下面的权利要求指出。
应当理解的是,本公开并不局限于上面已经描述并在附图中示出的精确结构,并且可在不脱离其范围进行各种修改和改变。本公开的范围仅由所附的权利要求来限制。

Claims (10)

1.一种图像处理方法,其特征在于,所述方法包括:
获取包括感兴趣对象的图像;
提取所述感兴趣对象的美颜相关参数;以及
根据提取的美颜相关参数对目标人物的裸露皮肤进行美颜处理。
2.根据权利要求1所述的方法,其特征在于,所述感兴趣对象为人体或者非人体。
3.根据权利要求1所述的方法,其特征在于,所述美颜相关参数包括纹理特征和色彩特征中的至少一个。
4.根据权利要求2所述的方法,其特征在于,在所述感兴趣对象为人体的情况下,提取所述感兴趣对象的美颜相关参数的步骤包括提取所述感兴趣对象的不同部位的裸露皮肤部分的纹理特征和色彩特征。
5.根据权利要求4所述的方法,其特征在于,提取所述感兴趣对象的不同部位的裸露皮肤部分的纹理特征和色彩特征的步骤包括:
检测所述感兴趣对象的人脸关键点和人体关键点,以确定所述不同部位;
利用肤色检测算法来识别所述感兴趣对象的裸露皮肤部分;
利用局部二元模式算法来提取所述不同部位的裸露皮肤部分的纹理特征;
利用颜色矩来提取所述不同部位的裸露皮肤部分的色彩特征。
6.根据权利要求2所述的方法,其特征在于,在所述感兴趣对象为非人体的情况下,提取所述感兴趣对象的美颜相关参数的步骤包括:
通过对所述图像进行滤波处理来识别所述感兴趣对象的纹理特征;
利用颜色矩来提取所述感兴趣对象的色彩特征。
7.根据权利要求4所述的方法,其特征在于,根据提取的美颜相关参数对目标人物的裸露皮肤进行美颜处理的步骤包括:
识别所述目标人物的人脸关键点和人体关键点;
利用肤色检测算法来识别所述目标人物的裸露皮肤部分;
将提取的所述感兴趣对象的不同部位的纹理特征和色彩特征对齐地应用于所述目标人物的相应部位的裸露皮肤上。
8.一种图像处理装置,其特征在于,所述装置包括:
获取模块,被配置为获取包括感兴趣对象的图像;
特征提取模块,被配置为提取所述感兴趣对象的美颜相关参数;以及
应用模块,被配置为根据提取的美颜相关参数对目标人物的裸露皮肤进行美颜处理。
9.一种电子设备,其特征在于,包括:
至少一个处理器;
至少一个存储计算机可执行指令的存储器,
其中,所述计算机可执行指令在被所述至少一个处理器运行时,促使所述至少一个处理器执行如权利要求1-7中的任一项权利要求所述的图像处理方法。
10.一种存储指令的计算机可读存储介质,其特征在于,当所述指令被至少一个处理器运行时,促使所述至少一个处理器执行如权利要求1-7中的任一项权利要求所述的图像处理方法。
CN202110134894.3A 2021-01-29 2021-01-29 图像处理方法及其装置 Active CN112767241B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202110134894.3A CN112767241B (zh) 2021-01-29 2021-01-29 图像处理方法及其装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202110134894.3A CN112767241B (zh) 2021-01-29 2021-01-29 图像处理方法及其装置

Publications (2)

Publication Number Publication Date
CN112767241A true CN112767241A (zh) 2021-05-07
CN112767241B CN112767241B (zh) 2024-06-21

Family

ID=75704998

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202110134894.3A Active CN112767241B (zh) 2021-01-29 2021-01-29 图像处理方法及其装置

Country Status (1)

Country Link
CN (1) CN112767241B (zh)

Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107231529A (zh) * 2017-06-30 2017-10-03 努比亚技术有限公司 图像处理方法、移动终端及存储介质
CN107862274A (zh) * 2017-10-31 2018-03-30 广东欧珀移动通信有限公司 美颜方法、装置、电子设备和计算机可读存储介质
CN108984081A (zh) * 2018-07-06 2018-12-11 北京微播视界科技有限公司 一种搜索页面交互方法、装置、终端及存储介质
CN109167936A (zh) * 2018-10-29 2019-01-08 Oppo广东移动通信有限公司 一种图像处理方法、终端及存储介质
CN109325926A (zh) * 2018-09-30 2019-02-12 武汉斗鱼网络科技有限公司 自动滤镜实现方法、存储介质、设备及系统
CN109614902A (zh) * 2018-11-30 2019-04-12 深圳市脸萌科技有限公司 人脸图像处理方法、装置、电子设备及计算机存储介质
CN110602394A (zh) * 2019-09-06 2019-12-20 北京达佳互联信息技术有限公司 一种视频拍摄方法、装置及电子设备
CN111160976A (zh) * 2019-12-30 2020-05-15 北京达佳互联信息技术有限公司 资源分配方法、装置、电子设备及存储介质
CN112087652A (zh) * 2020-08-03 2020-12-15 北京达佳互联信息技术有限公司 视频的制作方法、共享方法、装置、电子设备及存储介质
CN112135059A (zh) * 2020-09-30 2020-12-25 北京字跳网络技术有限公司 拍摄方法、装置、电子设备和存储介质

Patent Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107231529A (zh) * 2017-06-30 2017-10-03 努比亚技术有限公司 图像处理方法、移动终端及存储介质
CN107862274A (zh) * 2017-10-31 2018-03-30 广东欧珀移动通信有限公司 美颜方法、装置、电子设备和计算机可读存储介质
CN108984081A (zh) * 2018-07-06 2018-12-11 北京微播视界科技有限公司 一种搜索页面交互方法、装置、终端及存储介质
CN109325926A (zh) * 2018-09-30 2019-02-12 武汉斗鱼网络科技有限公司 自动滤镜实现方法、存储介质、设备及系统
CN109167936A (zh) * 2018-10-29 2019-01-08 Oppo广东移动通信有限公司 一种图像处理方法、终端及存储介质
CN109614902A (zh) * 2018-11-30 2019-04-12 深圳市脸萌科技有限公司 人脸图像处理方法、装置、电子设备及计算机存储介质
CN110602394A (zh) * 2019-09-06 2019-12-20 北京达佳互联信息技术有限公司 一种视频拍摄方法、装置及电子设备
CN111160976A (zh) * 2019-12-30 2020-05-15 北京达佳互联信息技术有限公司 资源分配方法、装置、电子设备及存储介质
CN112087652A (zh) * 2020-08-03 2020-12-15 北京达佳互联信息技术有限公司 视频的制作方法、共享方法、装置、电子设备及存储介质
CN112135059A (zh) * 2020-09-30 2020-12-25 北京字跳网络技术有限公司 拍摄方法、装置、电子设备和存储介质

Also Published As

Publication number Publication date
CN112767241B (zh) 2024-06-21

Similar Documents

Publication Publication Date Title
CN109359592B (zh) 视频帧的处理方法、装置、电子设备及存储介质
Gupta et al. Image colorization using similar images
Yeh et al. Personalized photograph ranking and selection system
CN106682632B (zh) 用于处理人脸图像的方法和装置
CN113763296B (zh) 图像处理方法、设备以及介质
US9478054B1 (en) Image overlay compositing
CN108701217A (zh) 一种人脸肤色识别方法、装置和智能终端
US20140177955A1 (en) System and method for adaptive skin tone detection
KR102045575B1 (ko) 스마트 미러 디스플레이 장치
US9799099B2 (en) Systems and methods for automatic image editing
CN105224929A (zh) 一种查找人脸照片的方法
CN106815803B (zh) 图片的处理方法及装置
US9117275B2 (en) Content processing device, integrated circuit, method, and program
CN113329261B (zh) 视频处理方法及装置
CN112785488A (zh) 一种图像处理方法、装置、存储介质及终端
US20220375223A1 (en) Information generation method and apparatus
CN113240760A (zh) 一种图像处理方法、装置、计算机设备和存储介质
CN113453027B (zh) 直播视频、虚拟上妆的图像处理方法、装置及电子设备
CN112950453B (zh) 图像处理方法和图像处理装置
CN109241930B (zh) 用于处理眉部图像的方法和装置
KR102594093B1 (ko) 딥러닝 기술을 활용한 피부과 시술 추천 시스템 및 방법
CN109646950B (zh) 一种应用于游戏场景中图像处理方法、装置及终端
KR102531572B1 (ko) 사용자를 위한 영상 메이킹 플랫폼 생성 방법
CN112767241B (zh) 图像处理方法及其装置
CN111383289A (zh) 图像处理方法、装置、终端设备及计算机可读存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant