CN109063560B - 图像处理方法、装置、计算机可读存储介质和终端 - Google Patents
图像处理方法、装置、计算机可读存储介质和终端 Download PDFInfo
- Publication number
- CN109063560B CN109063560B CN201810687841.2A CN201810687841A CN109063560B CN 109063560 B CN109063560 B CN 109063560B CN 201810687841 A CN201810687841 A CN 201810687841A CN 109063560 B CN109063560 B CN 109063560B
- Authority
- CN
- China
- Prior art keywords
- eye
- triangulation
- key point
- determining
- mesh
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000003672 processing method Methods 0.000 title claims abstract description 29
- 238000003860 storage Methods 0.000 title claims abstract description 19
- 230000000694 effects Effects 0.000 claims abstract description 124
- 230000001131 transforming effect Effects 0.000 claims abstract description 17
- 238000000034 method Methods 0.000 claims description 41
- 210000000744 eyelid Anatomy 0.000 claims description 32
- 230000009466 transformation Effects 0.000 claims description 14
- 210000000720 eyelash Anatomy 0.000 claims description 7
- 238000001514 detection method Methods 0.000 description 18
- 210000004709 eyebrow Anatomy 0.000 description 15
- 238000010586 diagram Methods 0.000 description 10
- 230000008569 process Effects 0.000 description 10
- 230000001815 facial effect Effects 0.000 description 6
- 230000006870 function Effects 0.000 description 6
- 238000004891 communication Methods 0.000 description 5
- 210000003128 head Anatomy 0.000 description 4
- 230000004048 modification Effects 0.000 description 4
- 238000012986 modification Methods 0.000 description 4
- 230000033001 locomotion Effects 0.000 description 3
- 238000004519 manufacturing process Methods 0.000 description 3
- 239000000203 mixture Substances 0.000 description 3
- 230000004044 response Effects 0.000 description 3
- 230000009471 action Effects 0.000 description 2
- 230000004075 alteration Effects 0.000 description 2
- 230000003796 beauty Effects 0.000 description 2
- 230000008859 change Effects 0.000 description 2
- 238000006243 chemical reaction Methods 0.000 description 2
- 238000003708 edge detection Methods 0.000 description 2
- 210000000887 face Anatomy 0.000 description 2
- 238000003825 pressing Methods 0.000 description 2
- 230000001133 acceleration Effects 0.000 description 1
- 238000007792 addition Methods 0.000 description 1
- 238000004590 computer program Methods 0.000 description 1
- 238000000354 decomposition reaction Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000003909 pattern recognition Methods 0.000 description 1
- 230000001737 promoting effect Effects 0.000 description 1
- 230000006798 recombination Effects 0.000 description 1
- 238000005215 recombination Methods 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T15/00—3D [Three Dimensional] image rendering
- G06T15/04—Texture mapping
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/16—Human faces, e.g. facial parts, sketches or expressions
- G06V40/161—Detection; Localisation; Normalisation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T11/00—2D [Two Dimensional] image generation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T17/00—Three dimensional [3D] modelling, e.g. data description of 3D objects
- G06T17/20—Finite element generation, e.g. wire-frame surface description, tesselation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/40—Scaling of whole images or parts thereof, e.g. expanding or contracting
- G06T3/4007—Scaling of whole images or parts thereof, e.g. expanding or contracting based on interpolation, e.g. bilinear interpolation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/16—Human faces, e.g. facial parts, sketches or expressions
- G06V40/168—Feature extraction; Face representation
- G06V40/171—Local features and components; Facial parts ; Occluding parts, e.g. glasses; Geometrical relationships
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/18—Eye characteristics, e.g. of the iris
- G06V40/193—Preprocessing; Feature extraction
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Health & Medical Sciences (AREA)
- Oral & Maxillofacial Surgery (AREA)
- General Health & Medical Sciences (AREA)
- Multimedia (AREA)
- Human Computer Interaction (AREA)
- Computer Graphics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Geometry (AREA)
- Software Systems (AREA)
- Ophthalmology & Optometry (AREA)
- Image Processing (AREA)
- Processing Or Creating Images (AREA)
Abstract
本公开公开一种图像处理方法、图像处理装置、图像处理硬件装置、计算机可读存储介质和图像处理终端。其中,该图像处理方法包括:识别人脸图像上的眼部关键点;插值得到辅助关键点;其中,所述辅助关键点与所述眼部关键点形成所述人脸图像上眼部预定位置处的第一三角剖分网格;根据所述第一三角剖分网格将眼妆效果图像变换到眼部预定位置处。本公开实施例可以解决由于不同人、在眼睛不同状态下时三角剖分网格形状差距较大的问题,从而实现不同人、在眼睛不同状态下都能够较好地为眼部添加预期眼妆效果图的技术效果,从而提高了用户体验效果。
Description
技术领域
本公开涉及一种图像技术领域,特别是涉及一种图像处理方法、装置、计算机可读存储介质和终端。
背景技术
近年来,人们越来越重视容貌的美丑,整形美容学科迅速发展。但人脸整容存在很大的风险性,医生不知整容后的结果到底是什么样的,而通过对人脸进行虚拟的不同程度的部件整形,可以解决上述问题。
在人脸图像变形方面,目前比较成熟的是人脸图像网格方法,这种方法包括三角剖分法。三角剖分方法的思路是在源图像和目标图像上标注若干对应的特征点,按照特征点把整张图像分割成若干块三角形区域。为了避免剖分出形状不优的三角形,Delaunay三角剖分通常为人们所使用。
对此,提供一种可获得良好用户体验效果的图像处理方法是亟需解决的技术问题。
发明内容
本公开解决的技术问题是提供一种图像处理方法,以至少部分地解决如何提高用户体验效果的技术问题。此外,还提供一种图像处理装置、图像处理硬件装置、计算机可读存储介质和图像处理终端。
为了实现上述目的,根据本公开的一个方面,提供以下技术方案:
一种图像处理方法,包括:
识别人脸图像上的眼部关键点;
插值得到辅助关键点;其中,所述辅助关键点与所述眼部关键点形成所述人脸图像上眼部预定位置处的第一三角剖分网格;
根据所述第一三角剖分网格将眼妆效果图像变换到眼部预定位置处。
进一步地,所述眼妆效果图像包括眼睫毛、双眼皮、单眼皮、眼影、眼线中的至少一个。
进一步地,所述识别人脸图像上的眼部关键点之前,还包括:
响应于用户对所述眼妆效果图像的选定事件,检测所述人脸图像。
进一步地,所述插值得到辅助关键点,包括:
获取标准模板上对应的第二三角剖分网格;其中,所述眼妆效果图像绘制在所述标准模板上;
根据所述第二三角剖分网格确定所述第一三角剖分网格上的所述辅助关键点;其中,所述第一三角剖分网格和第二三角剖分网格中对应三角形之间的相似度在第一预设误差范围内。
进一步地,根据所述第二三角剖分网格确定所述第一三角剖分网格上的所述辅助关键点,包括:
根据所述第二三角剖分网格确定第三连线与第四连线之间的第一夹角;其中,所述第三连线为所述第二眼部关键点与第三眼部关键点之间的连线,所述第二眼部关键点和第三眼部挂件的相邻;第四连线为所述第二眼部关键点与第二辅助关键点之间的连线;所述第二眼部关键点、第三眼部关键点和第二辅助关键点为所述第一三角剖分网格中第二三角形的三个顶点;
根据所述第二三角剖分网格确定第三连线与第四连线之间的第二夹角;其中,所述第三连线为所述第二眼部关键点与第三眼部关键点之间的连线,所述第二眼部关键点和第三眼部关键点相邻;第四连线为所述第二眼部关键点与第二辅助关键点之间的连线;所述第三眼部关键点、第四眼部关键点和第二辅助关键点为所述第二三角剖分网格中第二三角形的三个顶点;
根据所述第一夹角、第二夹角以及所述第二三角剖分网格确定所述第一辅助关键点。
进一步地,根据所述第二三角剖分网格确定所述第一三角剖分网格中第一连线与第二连线之间的第一夹角,包括:
确定所述第二三角剖分网格上与所述第一三角形对应的第一对应三角形;
确定所述第一夹角;其中,所述第一夹角与所述第一对应三角形上对应于所述第一夹角的第一对应夹角之间的第一差值在第二预设误差范围内。
进一步地,根据所述第二三角剖分网格确定第三连线与第四连线之间的第二夹角,包括:
确定所述第二三角剖分网格上与所述第二三角形对应的第二对应三角形;
确定所述第二夹角;其中,所述第二夹角与所述第二对应三角形上对应于所述第二夹角的第二对应夹角之间的第二差值在第二预设误差范围内。
进一步地,根据所述第一夹角、第二夹角以及所述第二三角剖分网格确定所述第一辅助关键点和第二辅助关键点,包括:
确定所述第一连线与所述第二三角剖分网格中对应于第一连线的第一对应连线之间的第一比例;
根据所述第一比例以及所述第一夹角确定所述第一辅助关键点。
进一步地,根据所述第一夹角、第二夹角以及所述第二三角剖分网格确定所述第一辅助关键点和第二辅助关键点,包括:
确定所述第三连线与所述第二三角剖分网格中对应于第三连线的边之间的第二比例;
根据所述第二比例以及所述第二夹角确定所述第二辅助关键点。
进一步地,所述第二预设误差范围的最小值为0。
进一步地,还包括:
根据所述眼部关键点确定所述人脸图像上眼睛的开合程度;
根据所述开合程度确定所述第一差值和所述第二差值。
进一步地,根据所述开合程度确定所述第一差值和所述第二差值,包括:
在所述开合程度达到预设最大值时,所述第一差值和第二差值设置为所述第二预设误差范围的最小值;
在所述开合程度达到预设最小值时,所述第一差值和第二差值设置为所述第二预设误差范围的最大值。
进一步地,所述第二三角剖分网格中的三角形为等边三角形。
进一步地,根据所述第一三角剖分网格将眼妆效果图像变换到眼部预定位置处,包括:
确定所述第一三角剖分网格与所述第二三角剖分网格之间的对应关系;
根据所述对应关系将第二三角剖分网格中的所述眼妆效果图像变换至所述第一三角剖分网格中所述人脸图像上的眼部预定位置处。
为了实现上述目的,根据本公开的另一个方面,还提供以下技术方案:
一种图像处理装置,包括:
识别模块,用于识别人脸图像上的眼部关键点;
插值模块,用于插值得到辅助关键点;其中,所述辅助关键点与所述眼部关键点形成所述人脸图像上眼部预定位置处的第一三角剖分网格;
变换模块,用于根据所述第一三角剖分网格将眼妆效果图像变换到眼部预定位置处。
进一步地,所述眼妆效果图像包括眼睫毛、双眼皮、单眼皮、眼影、眼线中的至少一个。
进一步地,所述识别模块之前,还包括:
响应模块,用于响应于用户对所述眼妆效果图像的选定事件,检测所述人脸图像。
进一步地,所述插值模块,包括:
获取子模块,用于获取标准模板上对应的第二三角剖分网格;其中,所述眼妆效果图像绘制在所述标准模板上;
第一确定子模块,用于根据所述第二三角剖分网格确定所述第一三角剖分网格上的所述辅助关键点;其中,所述第一三角剖分网格和第二三角剖分网格中对应三角形之间的相似度在第一预设误差范围内。
进一步地,所述第一确定子模块,包括:
第二确定子模块,用于根据所述第二三角剖分网格确定第三连线与第四连线之间的第一夹角;其中,所述第三连线为所述第二眼部关键点与第三眼部关键点之间的连线,所述第二眼部关键点和第三眼部挂件的相邻;第四连线为所述第二眼部关键点与第二辅助关键点之间的连线;所述第二眼部关键点、第三眼部关键点和第二辅助关键点为所述第一三角剖分网格中第二三角形的三个顶点;
第三确定子模块,用于根据所述第二三角剖分网格确定第三连线与第四连线之间的第二夹角;其中,所述第三连线为所述第二眼部关键点与第三眼部关键点之间的连线,所述第二眼部关键点和第三眼部关键点相邻;第四连线为所述第二眼部关键点与第二辅助关键点之间的连线;所述第三眼部关键点、第四眼部关键点和第二辅助关键点为所述第二三角剖分网格中第二三角形的三个顶点;
第四确定子模块,用于根据所述第一夹角、第二夹角以及所述第二三角剖分网格确定所述第一辅助关键点。
进一步地,所述第二确定子模块,包括:
第五确定子模块,用于确定所述第二三角剖分网格上与所述第一三角形对应的第一对应三角形;
第六确定子模块,用于确定所述第一夹角;其中,所述第一夹角与所述第一对应三角形上对应于所述第一夹角的第一对应夹角之间的第一差值在第二预设误差范围内。
进一步地,所述第三确定子模块,包括:
第七确定子模块,用于确定所述第二三角剖分网格上与所述第二三角形对应的第二对应三角形;
第八确定子模块,用于确定所述第二夹角;其中,所述第二夹角与所述第二对应三角形上对应于所述第二夹角的第二对应夹角之间的第二差值在第二预设误差范围内。
进一步地,所述第四确定子模块,包括:
第九确定子模块,用于确定所述第一连线与所述第二三角剖分网格中对应于第一连线的第一对应连线之间的第一比例;
第十确定子模块,用于根据所述第一比例以及所述第一夹角确定所述第一辅助关键点。
进一步地,所述第四确定子模块,包括:
第十一确定子模块,用于确定所述第三连线与所述第二三角剖分网格中对应于第三连线的边之间的第二比例;
第十二确定子模块,用于根据所述第二比例以及所述第二夹角确定所述第二辅助关键点。
进一步地,所述第二预设误差范围的最小值为0。
进一步地,还包括:
第一确定模块,用于根据所述眼部关键点确定所述人脸图像上眼睛的开合程度;
第二确定模块,用于根据所述开合程度确定所述第一差值和所述第二差值。
进一步地,所述第二确定模块,包括:
第一设置子模块,用于在所述开合程度达到预设最大值时,所述第一差值和第二差值设置为所述第二预设误差范围的最小值;
第二设置子模块,用于在所述开合程度达到预设最小值时,所述第一差值和第二差值设置为所述第二预设误差范围的最大值。
进一步地,所述第二三角剖分网格中的三角形为等边三角形。
进一步地,所述变换模块,包括:
第十三确定子模块,用于确定所述第一三角剖分网格与所述第二三角剖分网格之间的对应关系;
变换子模块,用于根据所述对应关系将第二三角剖分网格中的所述眼妆效果图像变换至所述第一三角剖分网格中所述人脸图像上的眼部预定位置处。
为了实现上述目的,根据本公开的又一个方面,还提供以下技术方案:
一种图像处理硬件装置,包括:
存储器,用于存储非暂时性计算机可读指令;以及
处理器,用于运行所述计算机可读指令,使得所述处理器执行时实现根据上述任一图像处理方法技术方案中所述的步骤。
为了实现上述目的,根据本公开的又一个方面,还提供以下技术方案:
一种计算机可读存储介质,用于存储非暂时性计算机可读指令,当所述非暂时性计算机可读指令由计算机执行时,使得所述计算机执行上述任一图像处理方法技术方案中所述的步骤。
为了实现上述目的,根据本公开的又一个方面,还提供以下技术方案:
一种图像处理终端,包括上述任一图像处理装置。
本公开实施例提供一种图像处理方法、图像处理装置、图像处理硬件装置、计算机可读存储介质和图像处理终端。其中,该图像处理方法包括识别人脸图像上的眼部关键点;插值得到辅助关键点;其中,所述辅助关键点与所述眼部关键点形成所述人脸图像上眼部预定位置处的第一三角剖分网格;根据所述第一三角剖分网格将眼妆效果图像变换到眼部预定位置处。本公开实施例通过采取该技术方案,可以根据人脸眼部关键点,在人脸眼部周围插值得到辅助关键点,并根据人脸眼部关键点和辅助关键点构成的三角剖分网格将标准眼妆效果图像变换在人脸眼部预定位置处,以解决由于不同人、在眼睛不同状态下时三角剖分网格形状差距较大的问题,从而实现不同人、在眼睛不同状态下都能够较好地为眼部添加预期眼妆效果图的技术效果,从而提高了用户体验效果。
上述说明仅是本公开技术方案的概述,为了能更清楚了解本公开的技术手段,而可依照说明书的内容予以实施,并且为让本公开的上述和其他目的、特征和优点能够更明显易懂,以下特举较佳实施例,并配合附图,详细说明如下。
附图说明
图1为根据本公开一个实施例的图像处理方法的流程示意图;
图2为图1所示实施例中步骤S2的流程示意图;
图3为图2所示实施例中步骤S22的流程示意图;
图4为根据本公开一个实施例的图像处理装置的结构示意图;
图5为根据本公开一个实施例的图像处理硬件装置的结构示意图;
图6为根据本公开一个实施例的计算机可读存储介质的结构示意图;
图7为根据本公开一个实施例的图像处理终端的结构示意图。
具体实施方式
以下通过特定的具体实例说明本公开的实施方式,本领域技术人员可由本说明书所揭露的内容轻易地了解本公开的其他优点与功效。显然,所描述的实施例仅仅是本公开一部分实施例,而不是全部的实施例。本公开还可以通过另外不同的具体实施方式加以实施或应用,本说明书中的各项细节也可以基于不同观点与应用,在没有背离本公开的精神下进行各种修饰或改变。需说明的是,在不冲突的情况下,以下实施例及实施例中的特征可以相互组合。基于本公开中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本公开保护的范围。
需要说明的是,下文描述在所附权利要求书的范围内的实施例的各种方面。应显而易见,本文中所描述的方面可体现于广泛多种形式中,且本文中所描述的任何特定结构及/或功能仅为说明性的。基于本公开,所属领域的技术人员应了解,本文中所描述的一个方面可与任何其它方面独立地实施,且可以各种方式组合这些方面中的两者或两者以上。举例来说,可使用本文中所阐述的任何数目个方面来实施设备及/或实践方法。另外,可使用除了本文中所阐述的方面中的一或多者之外的其它结构及/或功能性实施此设备及/或实践此方法。
还需要说明的是,以下实施例中所提供的图示仅以示意方式说明本公开的基本构想,图式中仅显示与本公开中有关的组件而非按照实际实施时的组件数目、形状及尺寸绘制,其实际实施时各组件的型态、数量及比例可为一种随意的改变,且其组件布局型态也可能更为复杂。
另外,在以下描述中,提供具体细节是为了便于透彻理解实例。然而,所属领域的技术人员将理解,可在没有这些特定细节的情况下实践所述方面。
已有技术中,在对眼部进行美妆时,通常是将源图像(人脸图像)和目标图像(眼妆效果图像所在的标准模板)均采用眼部关键点和眉毛关键点结合起来,形成三角剖分网格,并基于两者的三角剖分网格上对应位置处的三角形,将目标图像变换到源图像上。但是这种方式最大的问题在于,每个人的眉毛形状不同,尤其有些人的眉毛上某一部位会存在上挑严重的情况,也即该部位上的眉毛关键点与其他部位的眉毛关键点的位置差变化较大,会导致眼部关键点和眉毛关键点形成的三角剖分网格中,上挑严重的关键点与眼部关键点形成的三角形的形状与其他三角形的形状差异较大,也就造成与标准模板上的三角剖分网格中位置对应的三角形之间的形状不对应,且差别较大,而眼妆效果图又是基于标准模板上的三角剖分网格进行绘制的,因此在根据三角剖分原理将眼妆效果图像变换到人脸图像上的眼部预定位置处时,容易造成畸变;且对眼睛进行在线美妆时,由于眼睛的状态时刻在改变,眼睛与眉毛之间的位置关系也在不停的变化,尤其在变化剧烈时(如用户挑眉时),无法使眼妆效果图像在人脸图像上随着眼睛状态的变化而动态调整,会影响用户体验。
因此,为了解决如何提高用户体验效果的技术问题,本公开实施例提供一种图像处理方法。如图1所示,该图像处理方法主要包括如下步骤S1至步骤S3。其中:
步骤S1:识别人脸图像上的眼部关键点。
其中,人脸图像可以是通过人脸识别得到的离线人脸图像,也可以是在线识别的人脸图像,本公开对此不作限定。其中,眼部关键点可以是通过人脸特征关键点检测得到的眼部位置处的关键点,例如左、右眼角处的两个关键点;上眼睑上分布的一个或多个关键点;下眼睑上分布的一个或多个关键点。眼部关键点可以用于标识出眼睛轮廓。
步骤S2:插值得到辅助关键点;其中,所述辅助关键点与所述眼部关键点形成所述人脸图像上眼部预定位置处的第一三角剖分网格。
其中,三角剖分是指在人脸图像上标注若干对应的关键点,按照关键点把整张人脸图像分割成若干块三角形区域,而该若干块三角形区域连接形成一三角剖分网格,插值得到的辅助关键点和眼部关键点为该三角剖分网格中三角形区域上的顶点。在眼部关键点已知的情况下,可以根据实际需求利用三角剖分方法插值得到辅助关键点。在该第一三角剖分网格中,眼部关键点或辅助关键点可以为一个三角形区域的顶点,也可以同时为两个相邻三角形区域的顶点,或者同时为三个相邻三角形区域的顶点,具体根据眼部关键点或辅助关键点在第一三角剖分网格中的位置决定。
步骤S3:根据所述第一三角剖分网格将眼妆效果图像变换到眼部预定位置处。
其中,眼妆效果图像可以为系统预置的图像,眼妆效果图像是预先经过三角剖分后的,在将眼妆效果图像变换到人脸图像上的眼部预定位置处时,可以通过三角剖分得到的对应三角形之间的关系,将眼妆效果图像变换到人脸图像上眼部预定位置处。
为了便于理解,下面以具体实施例对图像处理的过程进行详细说明。
本实施例中,用户通过图像处理系统为自己或者他人的人脸图像进行在线或者离线进行眼部美妆时,可以从图像处理系统预设的多个标准模板中选择自己喜欢的眼妆效果图像,并通过拖拽或者按下相应按钮的方式触发眼妆效果图像与人脸图像的变换过程。当然,在其他实施例中,也可以是图像处理系统自动对人脸图像进行眼部美妆,本公开对此不做限制。图像处理系统首先获取待处理的人脸图像,之后再对人脸图像进行人脸检测。在检测到人脸区域后,对人脸进行关键点检测,并得到人脸图像上的眼部关键点。
在一实施例中,可以将人脸图像上的所有关键点都检测出来,包括眉毛、鼻子、嘴巴、眼睛、脸外轮廓等多处部位的关键点。在另一实施例中,也可以只将眼部预定位置的关键点检测出来。
在一实施例中,眼部关键点可以包括左、右眼角处的两个关键点,上眼睑最高处的一个关键点以及该关键点左右两边的两个关键点,下眼睑最低处的一个关键点以及该关键点左右两边的两个关键点,总共可以为8个关键点。当然,在其他实施例中,可以根据实际需要以及所采用的人脸关键点的检测方法得到更少或者更多的眼部关键点,本公开在此不做限制。
在检测出眼部关键点之后,可以根据三角剖分的原理以及用户所选择的眼妆效果图像插值得到辅助关键点。辅助关键点的位置可以基于眼部关键点的位置来选择,辅助关键点可以选择在眼部轮廓周围,例如在上眼皮、下眼皮以及眼角横向延长线上,其与眼部关键点共同形成第一三角剖分网格。第一三角剖分网格包括多个三角形,每个三角形的顶点为眼部关键点或辅助关键点。由于辅助关键点位于上眼皮、下眼皮或者眼角横向延长线上,人脸图像上眉毛的挑眉动作等不会使得第一三角剖分网格中三角形发生较大的形变,因此在根据第一三角剖分网格将眼妆效果图像变换到眼部预定位置处时,不会产生类似已有技术中的畸变,大大提高了用户体验效果。
本实施例通过采取上述技术方案,可以根据人脸眼部关键点,在人脸眼部周围插值得到辅助关键点,并根据人脸眼部关键点和辅助关键点构成的三角剖分网格将标准眼妆效果图像变换在人脸眼部预定位置处,以解决由于不同人、在眼睛不同状态下时三角剖分网格形状差距较大的问题,从而实现不同人、在眼睛不同状态下都能够较好地为眼部贴上预期眼妆效果图的技术效果,从而提高了用户体验效果。
在一个可选的实施例中,眼妆效果图像包括眼睫毛、双眼皮、单眼皮、眼影、眼线中的至少一个。
该可选的实施例中,可以通过图像处理系统为人脸图像自动变换眼睫毛、双眼皮、单眼皮、眼影、眼线等中的至少一个,且变换后的效果与标准模板上的效果一样,不会产生畸变,大大提高了用户体验效果。
在一个可选的实施例中,步骤S1即识别人脸图像上的眼部关键点之前还可以包括:
响应于用户对所述眼妆效果图像的选定事件,检测所述人脸图像。
在该可选的实施例中,图像处理系统可以预先提供多种眼妆效果图像,眼妆效果图像是设计在图像处理系统预置的标准模板上的。用户可以通过图像处理系统为人脸图像增加眼妆效果。用户在选定了图像处理系统提供的某个眼妆效果图像后,图像处理系统可以先获取用户待增加眼妆效果的图片或者视频帧。用户可以通过图像处理系统提供的接口上传包括人脸图像的图片,并对图片上的人脸图像进行离线处理,或者通过摄像头实时获取用户的头像视频帧,并对头像视频帧进行在线处理。无论是离线处理还是在线处理,在用户选定了眼妆效果图像后,从图片或者视频帧检测人脸图像。检测人脸图像的过程就是判断待检测图片或视频帧中是否存在人脸,如果存在则返回人脸的大小、位置等信息。人脸图像的检测方法包括很多种,例如肤色检测、运动检测、边缘检测等等,相关的模型也有很多,本公开对此不做限制。任何人脸图像的检测方法都可以与本公开的实施例相结合,以完成人脸图像的检测。此外,如果检测到当前图片或视频帧中存在多个人脸,则对每个人脸都生成人脸图像。
该可选的实施例中,以用户选定眼妆效果图像为触发事件,执行图像处理,以便给用户指定的人脸图像添加眼妆效果图像,可以为用户增添趣味性,并且提供了用户体验效果。
在一个可选的实施例中,如图2所示,步骤S2即插值得到辅助关键点的步骤可以包括:
步骤S21:获取标准模板上对应的第二三角剖分网格;其中,所述眼妆效果图像绘制在所述标准模板上;
步骤S22:根据所述第二三角剖分网格确定所述第一三角剖分网格上的所述辅助关键点;其中,所述第一三角剖分网格和第二三角剖分网格中对应三角形之间的相似度在第一预设误差范围内。
该可选的实施例中,眼妆效果图像是绘制在图像处理系统的标准模板上的。标准模板包括标准人脸图像,且该本标准人脸图像被预先进行过三角剖分,形成有第二三角剖分网格。也就是说,眼妆效果图像是对应绘制在第二三角剖分网格中的。
为了将眼妆效果图像变换到所检测到的人脸图像上去,且为了尽量避免变换后由于检测到的人脸图像与标准模板上的标准人脸图像之间的差别,而导致眼妆效果图像发生畸变,在获得辅助关键点时,可以基于标准模板上的第二三角剖分网格来确定,使得第一三角剖分网格和第二三角剖分网格中对应三角形尽可能相似,也即两者的相似度控制在第一预设误差范围内。对应三角形是指检测到的人脸图像上的某一部位上的三角形与标准人脸图像上对应部位处的三角形。以右眼为例,检测到的人脸图像上以外眼角上的眼部关键点、外眼角横向延伸线上辅助关键点以及该辅助关键点上方的另一辅助关键点构成三角形a,标准人脸图像上以外眼角上的眼部关键点、外眼角横向延伸线上辅助关键点以及该辅助关键点上方的另一辅助关键点构成三角形b,那么三角形a和三角形b为对应三角形。第一预设误差范围越小,第一三角剖分网格与第二三角剖分网格中对应三角形越相似,第一预设误差范围的值可以基于实际情况进行设置,本公开在此不做限制。
该可选的实施例中,通过辅助关键点的选择,使得第一三角剖分网格和第二三角剖分网格中对应三角形尽可能相似,这样在将第二三角剖分网格上绘制眼妆效果图像添加到第一三角剖分网格所在的人脸图像的眼部位置处时,不会因为人脸图像上眼睛的差异或者眼睛状态的不同而造成眼妆效果图像的畸变,提高了用户体验效果。
在一个可选的实施例中,如图3所示,步骤S22即根据所述第二三角剖分网格确定所述第一三角剖分网格上的所述辅助关键点的步骤可以包括:
步骤S31:根据所述第二三角剖分网格确定所述第一三角剖分网格中第一连线与第二连线之间的第一夹角;其中,所述第一连线为第一眼部关键点和第二眼部关键点之间的连线,第一眼部关键点和第二眼部关键点相邻;第二连线为所述第二眼部关键点和第一辅助关键点之间的连线;所述第一眼部关键点、第二眼部关键点和第一辅助关键点为所述第一三角剖分网格中第一三角形的三个顶点;
步骤S32:根据所述第二三角剖分网格确定第三连线与第四连线之间的第二夹角;其中,所述第三连线为所述第二眼部关键点与第三眼部关键点之间的连线,所述第二眼部关键点和第三眼部挂件的相邻;第四连线为所述第二眼部关键点与第二辅助关键点之间的连线;所述第二眼部关键点、第三眼部关键点和第二辅助关键点为所述第一三角剖分网格中第二三角形的三个顶点;
步骤S33:根据所述第一夹角、第二夹角以及所述第二三角剖分网格确定所述第一辅助关键点和第二辅助关键点。
该可选的实施例中,根据第一三角剖分网格和第二三角剖分网格中对应三角形尽可能相似的原理确定辅助关键点时,可以先确定第二三角剖分网格中各个三角形的顶角的大小,进而根据相似三角形中对应角度相等的原理确定第一三角剖分网格中对应顶角的大小。最终在第一三角剖分网格中各个三角形的顶角大小确定、且眼部关键点作为三角形的顶点确定的情况下,确定辅助关键点。
例如,第一三角剖分网格中的第一三角形和第二三角形为相邻三角形,且第一三角形的两个顶点为检测得到的眼部关键点,分别为第一眼部关键点和第二眼部关键点,第一三角形的另一个顶点为待确定的第一辅助关键点,第一三角形中第一连线为第一眼部关键点和第二眼部关键点之间的连线,第二连线为第二眼部关键点和第一辅助关键点之间的连线。第二三角形与第一三角形相邻,其中两个顶点为辅助关键点,分别为第一辅助关键点和第二辅助关键点,而另一个顶点为第二眼部关键点,即与第一三角形具有共同的顶点。
第二三角形网格中具有与第一三角形和第二三角形对应的两个三角形,与第一三角形对应的第一对应三角形的两个顶点为标准人脸图像上的眼部关键点,其可以在建立标准模板,并对其三角剖分时通过关键点检测方法检测得到,另一个顶点为在眼部轮廓周围所选取的第一对应辅助关键点,其选取的原则可以根据实际情况而定,例如基于第二三角形为等边三角形或等腰三角形的原则选择第一对应辅助关键点等。与第二三角形对应的第二对象三角形与第一对应三角形共有两个顶点,分别为第一对应三角形中的一个眼部关键点和第一对应辅助关键点,而另一个顶点为选取的第二对应辅助关键点,选取原理同第一对应辅助关键点。
第二三角剖分网格是预先建立好的,也就是说第二三角剖分网格中的对应辅助关键点都是预先选取并定义好的。那么在确定第一三角剖分网格上的辅助关键点时,只要确定了第二三角剖分网格中对应三角形的两个夹角后,就可以确定上述提到的第一三角形剖分网格中第一三角形和第二三角形中的第一夹角和第二夹角。
在第二三角剖分网格确定的情况下,根据相似三角形的原理,根据第一夹角、第二夹角以及第二三角剖分网格可以确定出第一辅助关键点和第二辅助关键点。那么第一三角剖分网格中的其他三角形中的辅助关键点也可以根据相同的原理确定。
在一个可选的实施例中,步骤S31即根据所述第二三角剖分网格确定第一连线与第二连线之间的第一夹角的步骤可以包括:
确定所述第二三角剖分网格上与所述第一三角形对应的第一对应三角形;
确定所述第一夹角;其中,所述第一夹角与所述第一对应三角形上对应于所述第一夹角的角度之间的第一差值在第二预设误差范围内。
该可选的实施例中,第一三角剖分网格和第二三角剖分网格具有对应的三角形,即人脸图像中对应部位的三角形几乎或者完全对应相似,那么在第二三角形剖分网格已经确定的情况下,先确定与第一三角剖分网格中的第一三角形对应的第一对应三角形,进而可以根据三角形相似原理以及第一对应三角形确定第一三角形中第一夹角的大小。例如,在第一三角形和第一对应三角形完全相似的情况下,可以使得第一夹角与第一对应三角形中对应的第一对应夹角的第一差值为0。当然,在实际操作中,可能很难做到第一三角形网格和第二三角形剖分网格中各个对应三角形都完全相似,做到尽可能相似也能达到相同的效果。因此,可以在确定第一夹角时,使得第一夹角与第一对应夹角之间具有一定的误差,而只要控制该误差在第二预设误差范围内即可。第二预设误差范围可以根据实际情况下设定,例如第二预设误差范围可以在[0,ɑ]之间,ɑ可以为20度,具体在此不做限制。
在一个可选的实施例中,步骤S32即根据所述第二三角剖分网格确定第三连线与第四连线之间的第二夹角的步骤可以包括:
确定所述第二三角剖分网格上与所述第二三角形对应的第二对应三角形;
确定所述第二夹角;其中,所述第二夹角与所述第二对应三角形上对应于所述第二夹角的第二对应夹角之间的第二差值在第二预设误差范围内。
该可选的实施例中,第二夹角的确定方式与第一夹角类似。由于第一三角剖分网格和第二三角剖分网格具有对应的三角形,即人脸图像中对应部位的三角形几乎或者完全对应相似,那么在第二三角形剖分网格已经确定的情况下,先确定与第一三角剖分网格中的第二三角形对应的第二对应三角形,进而可以根据三角形相似原理以及第二对应三角形确定第二三角形中第二夹角的大小。例如,在第二三角形和第二对应三角形完全相似的情况下,可以使得第二夹角与第二对应三角形中对应的第二对应夹角的第一差值为0。当然,在实际操作中,可能很难做到第一三角形网格和第二三角形剖分网格中各个对应三角形都完全相似,做到尽可能相似也能达到相同的效果。因此,可以在确定第二夹角时,使得第二夹角与第二对应夹角之间具有一定的误差,而只要控制该误差在第二预设误差范围内即可。第二预设误差范围可以根据实际情况下设定,例如第二预设误差范围可以在[0,ɑ]之间,ɑ可以为20度,具体在此不做限制。
在一个可选的实施例中,步骤S33即根据所述第一夹角、第二夹角以及所述第二三角剖分网格确定所述第一辅助关键点和第二辅助关键点的步骤可以包括:
确定所述第一连线与所述第二三角剖分网格中对应于第一连线的边之间的第一比例;
根据所述第一比例以及所述第一夹角确定所述第一辅助关键点。
该可选的实施例中,根据三角形相似原理,在一条边以及该边上的一个夹角确定的情况下,形成该夹角的另一条边可以根据相似三角形之间对应边之间的比例来确定。
例如,本实施例中,第一连线为第一三角剖分网格中第一三角形上两个眼部关键点之间的连线,因此第一连线的长度确定;与第一三角形对应的第一对应三角形上与第一连线对应的边的长度也是确定的,也即第一连线和与之对应边之间的第一比例可以确定。因此可以根据相似三角形的原理、第一比例以及第一连线上第一夹角的大小确定第一辅助关键点的确切位置。
在一个可选的实施例中,步骤S33即根据所述第一夹角、第二夹角以及所述第二三角剖分网格确定所述第一辅助关键点和第二辅助关键点的步骤可以包括:
确定所述第三连线与所述第二三角剖分网格中对应于第三连线的边之间的第二比例;
根据所述第二比例以及所述第二夹角确定所述第二辅助关键点。
该可选的实施例中,与第一辅助关键点的确定方式类似,可以根据三角形相似原理,在一条边以及该边上的一个夹角确定的情况下,形成该夹角的另一条边可以根据相似三角形之间对应边之间的比例来确定。
例如,本实施例中,第三连线为第一三角剖分网格中第二三角形上一个眼部关键点和第一辅助关键点之间的连线,因此在确定了第一辅助关键点之后,第三连线的长度确定;与第二三角形对应的第二对应三角形上与第三连线对应的边的长度也是确定的,也即第三连线和与之对应边之间的第二比例可以确定。因此可以根据相似三角形的原理、第二比例以及第三连线上第二夹角的大小确定第二辅助关键点的确切位置。
在一个可选的实施例中,第二预设误差范围的最小值为0。
该可选的实施例中,在第一三角剖分网格与第二三角剖分网格中,对应三角形之间尽可能保持相似的情况下,能够使得眼妆效果图像被变换到人脸图像上时,效果达到最佳,此时可以认为第一三角形和对应的第一对应三角形之间完全相似,那么第一夹角与第一对应夹角之间的误差为0;第二三剑侠和对应的第二对应三角形之间也完全相似,那么第二夹角和第二对应夹角之间的误差也0。通常情况下,标准模板上标准人脸图像上的眼睛始终是睁开状态,而在实际应用过程中,由于检测到的人脸图像上的眼睛状态是不停变化的,某一时刻处于睁开状态,某一时刻可能处于闭合状态,因此例如在闭合状态下,第一三角剖分网格与第二三角剖分网格中对应三角形之间的相似度可能无法达到完全相似,因此两者对应角度之间的误差也不为0。当然,为了保证效果,误差可以保持在第二预设误差范围内。
在一个可选的实施例中,图像处理方法还可以包括:
根据所述眼部关键点确定所述人脸图像上眼睛的开合程度;
根据所述开合程度确定所述第一差值和所述第二差值。
该可选的实施例中,通常情况下,图像处理系统所预先建立的标准模板上的标准人脸图像中,眼睛是完全睁开的状态,可以设定这种状态下眼睛的开合程度最大,而在眼睛闭合状态下可以认为开合程度最小。因此,可以以标准模板为准,检测到的人脸图像上眼睛的开合程度与标准人脸图像上眼睛的开合程度一致时,可以设定为第一三角剖分网格与第二三角剖分网格中对应三角形最为相似,那么对应夹角之间的误差也最小,也即第一差值和第二差值最小,而检测到的人脸图像上眼睛的开合程度越小,第一三角剖分网格与第二三角剖分网格中对应三角形之间的相似度越小,那么对应夹角之间的误差也越大,也即第一差值和第二差值越大。需要注意的是,第一差值和第二差值可以相等,也可以不相等,只要保证两者都在第二预设误差范围内即可。
眼睛的开合程度可以通过眼部关键点的位置来确定。例如,通过眼部关键点中纵坐标最大的眼睑上的眼部关键点和眼角上的眼部关键点之间纵坐标之差来确定,差值越大,可以认为开合程度越大,差值越小,开合程度越小。
在一可选实施例中,根据所述开合程度确定所述第一差值和所述第二差值的步骤可以包括:
在所述开合程度达到预设最大值时,所述第一差值和第二差值设置为所述第二预设误差范围的最小值;
在所述开合程度达到预设最小值时,所述第一差值和第二差值设置为所述第二预设误差范围的最大值。
该可选的实施例中,检测到的人脸图像上眼睛的开合程度最大,也即与标准模板中眼睛的开合程度一致时,可以将第一三角剖分网格中各个三角形的夹角大小设置成与第二三角剖分网格中对应三角形中对应夹角大小的差值为第二预设误差范围的最小值,,即第一三角剖分网格与第二三角剖分网格中对应三角形最为相似;而检测到的人脸图像上眼睛的开合程度最小的情况下,可以将第一三角剖分网格中各个三角形的夹角大小设置成与第二三角剖分网格中对应三角形中对应夹角大小的差值为第二预设误差范围的最大值,即第一三角剖分网格与第二三角剖分网格中对应三角形之间的相似误差达到最大值。因此,可以在人脸图像上眼睛处于完全睁开的状态时,可以将第一差值和第二差值设置为最小值。而人脸图像上眼睛处于闭合状态时,可以将第一差值和第二差值设置为最大值。
在一可选实施例中,所述第二三角剖分网格中的三角形为等边三角形。
该可选的实现方式中,标准模板上的第二三角剖分网格中的三角形均为等边三角形,也即三角形的各个夹角均为60度。那么第一三角剖分网格上对应的三角形中,以眼部关键点为顶点的夹角可以设置为60度加上一个误差,该误差在第二预设误差范围内,且该误差根据检测到的人脸图像上眼睛的开合程度的不同而不同。这种情况下,采用本实施例的图像处理方法,可以使得眼妆效果图像的变换达到很好的效果,不容易产生畸变。
在一可选实施例中,步骤S3即根据所述第一三角剖分网格将眼妆效果图像变换到眼部预定位置处可以包括:
确定所述第一三角剖分网格与所述第二三角剖分网格之间的对应关系;
根据所述对应关系以及所述第二三角剖分网格中的图像变换所述第一三角剖分网格中的图像。
该可选的实现方式中,辅助关键点确定后,也即在人脸图像上的眼部预定位置处形成了第一三角剖分网格。那么在将标准模板上的眼妆效果图像变换到检测到人脸图像上时,可以通过第一三角剖分网格与第二三角剖分网格之间的对应关系,也即三角形之间各个顶点坐标的对应关系,并将第二三角剖分网格中各个三角形区域内的图像根据坐标对应关系变换到第一三角剖分网格中对应三角形区域中,实现眼妆效果图像的变换。
在上文中,虽然按照上述的顺序描述了图像处理方法实施例中的各个步骤,本领域技术人员应清楚,本公开实施例中的步骤并不必然按照上述顺序执行,其也可以倒序、并行、交叉等其他顺序执行,而且,在上述步骤的基础上,本领域技术人员也可以再加入其他步骤,这些明显变型或等同替换的方式也应包含在本公开的保护范围之内,在此不再赘述。
下面为本公开装置实施例,本公开装置实施例可用于执行本公开方法实施例实现的步骤,为了便于说明,仅示出了与本公开实施例相关的部分,具体技术细节未揭示的,请参照本公开方法实施例。
为了解决如何提高用户体验效果的技术问题,本公开实施例提供一种图像处理装置。该装置可以执行上述图像处理方法实施例中所述的步骤。如图4所示,该装置主要包括:识别模块41、插值模块42和变换模块43。其中,识别模块41用于识别人脸图像上的眼部关键点;插值模块42用于插值得到辅助关键点;其中,所述辅助关键点与所述眼部关键点形成所述人脸图像上眼部预定位置处的第一三角剖分网格;变换模块43用于根据所述第一三角剖分网格将眼妆效果图像变换到眼部预定位置处。
其中,人脸图像可以是通过人脸识别得到的离线人脸图像,也可以是在线识别的人脸图像,本公开对此不作限定。其中,眼部关键点可以是通过人脸特征关键点检测得到的眼部位置处的关键点,例如左、右眼角处的两个关键点;上眼睑上分布的一个或多个关键点;下眼睑上分布的一个或多个关键点。眼部关键点可以用于标识出眼睛轮廓。
其中,三角剖分是指在人脸图像上标注若干对应的关键点,按照关键点把整张人脸图像分割成若干块三角形区域,而该若干块三角形区域连接形成一三角剖分网格,插值得到的辅助关键点和眼部关键点为该三角剖分网格中三角形区域上的顶点。在眼部关键点已知的情况下,插值模块42可以根据实际需求利用三角剖分方法插值得到辅助关键点。在该第一三角剖分网格中,眼部关键点或辅助关键点可以为一个三角形区域的顶点,也可以同时为两个相邻三角形区域的顶点,或者同时为三个相邻三角形区域的顶点,具体根据眼部关键点或辅助关键点在第一三角剖分网格中的位置决定。
其中,眼妆效果图像可以为系统预置的图像,眼妆效果图像是预先经过三角剖分后的,在将眼妆效果图像变换到人脸图像上的眼部预定位置处时,可以通过三角剖分得到的对应三角形之间的关系,将眼妆效果图像复制到人脸图像上眼部预定位置处。
为了便于理解,下面以具体实施例对图像处理的过程进行详细说明。
本实施例中,用户通过图像处理系统为自己或者他人的人脸图像进行在线或者离线进行眼部美妆时,可以从图像处理系统预设的多个标准模板中选择自己喜欢的眼妆效果图像,并通过拖拽或者按下相应按钮的方式触发眼妆效果图像与人脸图像的变换过程。当然,在其他实施例中,也可以是图像处理系统自动对人脸图像进行眼部美妆,本公开对此不做限制。图像处理系统首先获取待处理的人脸图像,之后再对人脸图像进行人脸检测。在检测到人脸区域后,对人脸进行关键点检测,并得到人脸图像上的眼部关键点。
在一实施例中,识别模块41可以将人脸图像上的所有关键点都检测出来,包括眉毛、鼻子、嘴巴、眼睛、脸外轮廓等。在另一实施例中,识别模块41也可以只将眼部位置的关键点检测出来。
在一实施例中,眼部关键点可以包括左、右眼角处的两个关键点,上眼睑最高处的一个关键点以及该关键点左右两边的两个关键点,下眼睑最低处的一个关键点以及该关键点左右两边的两个关键点,总共可以为8个关键点。当然,在其他实施例中,可以根据实际需要以及所采用的人脸关键点的检测方法得到更少或者更多的眼部关键点,本公开在此不做限制。
识别模块41在检测出眼部关键点之后,插值模块42可以根据三角剖分的原理以及用户所选择的眼妆效果图像插值得到辅助关键点。辅助关键点的位置可以基于眼部关键点的位置来选择,辅助关键点可以选择在眼部轮廓周围,例如在上眼皮、下眼皮以及眼角横向延长线上,其与眼部关键点共同形成第一三角剖分网格。第一三角剖分网格包括多个三角形,每个三角形的顶点为眼部关键点或辅助关键点。由于辅助关键点位于上眼皮、下眼皮或者眼角横向延长线上,人脸图像上眉毛的挑眉动作等不会使得第一三角剖分网格中三角形发生较大的形变,因此在根据第一三角剖分网格将眼妆效果图像变换到眼部预定位置处时,不会产生类似已有技术中的畸变,大大提高了用户体验效果。
本实施例通过采取上述技术方案,可以根据人脸眼部关键点,在人脸眼部周围插值得到辅助关键点,并根据人脸眼部关键点和辅助关键点构成的三角剖分网格将标准眼妆效果图像变换在人脸眼部预定位置处,以解决由于不同人、在眼睛不同状态下时三角剖分网格形状差距较大的问题,从而实现不同人、在眼睛不同状态下都能够较好地为眼部贴上预期眼妆效果图的技术效果,从而提高了用户体验效果。
在一个可选的实施例中,眼妆效果图像包括眼睫毛、双眼皮、单眼皮、眼影、眼线中的至少一个。
该可选的实施例中,可以通过图像处理系统为人脸图像自动变换眼睫毛、双眼皮、单眼皮、眼影、眼线等中的至少一个,且变换后的效果与标准模板上的效果一样,不会产生畸变,大大提高了用户体验效果。
在一个可选的实施例中,识别模块51之前还可以包括:
响应模块,用于响应于用户对所述眼妆效果图像的选定事件,检测所述人脸图像。
在该可选的实施例中,图像处理系统可以预先提供多种眼妆效果图像,眼妆效果图像是设计在图像处理系统预置的标准模板上的。用户可以通过图像处理系统为人脸图像增加眼妆效果。用户在选定了图像处理系统提供的某个眼妆效果图像后,图像处理系统可以先获取用户待增加眼妆效果的图片或者视频帧。用户可以通过图像处理系统提供的接口上传包括人脸图像的图片,并对图片上的人脸图像进行离线处理,或者通过摄像头实时获取用户的头像视频帧,并对头像视频帧进行在线处理。无论是离线处理还是在线处理,在用户选定了眼妆效果图像后,响应模块从图片或者视频帧检测人脸图像。检测人脸图像的过程就是判断待检测图片或视频帧中是否存在人脸,如果存在则返回人脸的大小、位置等信息。人脸图像的检测方法包括很多种,例如肤色检测、运动检测、边缘检测等等,相关的模型也有很多,本公开对此不做限制。任何人脸图像的检测方法都可以与本公开的实施例相结合,以完成人脸图像的检测。此外,如果检测到当前图片或视频帧中存在多个人脸,则对每个人脸都生成人脸图像。
该可选的实施例中,以用户选定眼妆效果图像为触发事件,执行图像处理,以便给用户指定的人脸图像添加眼妆效果图像,可以为用户增添趣味性,并且提供了用户体验效果。
在一个可选的实施例中插值模块42可以包括:
获取子模块,用于获取标准模板上对应的第二三角剖分网格;其中,所述眼妆效果图像绘制在所述标准模板上;
第一确定子模块,用于根据所述第二三角剖分网格确定所述第一三角剖分网格上的所述辅助关键点;其中,所述第一三角剖分网格和第二三角剖分网格中对应三角形之间的相似度在第一预设误差范围内。
该可选的实施例中,眼妆效果图像是绘制在图像处理系统的标准模板上的。标准模板包括标准人脸图像,且该本标准人脸图像被预先进行过三角剖分,形成有第二三角剖分网格。也就是说,眼妆效果图像是对应绘制在第二三角剖分网格中的。
为了将眼妆效果图像变换到所检测到的人脸图像上去,且为了尽量避免变换后由于检测到的人脸图像与标准模板上的标准人脸图像之间的差别,而导致眼妆效果图像发生畸变,在获得辅助关键点时,可以基于标准模板上的第二三角剖分网格来确定,使得第一三角剖分网格和第二三角剖分网格中对应三角形尽可能相似,也即两者的相似度控制在第一预设误差范围内。对应三角形是指检测到的人脸图像上的某一部位上的三角形与标准人脸图像上对应部位处的三角形。以右眼为例,检测到的人脸图像上以外眼角上的眼部关键点、外眼角横向延伸线上辅助关键点以及该辅助关键点上方的另一辅助关键点构成三角形a,标准人脸图像上以外眼角上的眼部关键点、外眼角横向延伸线上辅助关键点以及该辅助关键点上方的另一辅助关键点构成三角形b,那么三角形a和三角形b为对应三角形。第一预设误差范围越小,第一三角剖分网格与第二三角剖分网格中对应三角形越相似,第一预设误差范围的值可以基于实际情况进行设置,本公开在此不做限制。
该可选的实施例中,通过辅助关键点的选择,使得第一三角剖分网格和第二三角剖分网格中对应三角形尽可能相似,这样在将第二三角剖分网格上绘制眼妆效果图像添加到第一三角剖分网格所在的人脸图像的眼部位置处时,不会因为人脸图像上眼睛的差异或者眼睛状态的不同而造成眼妆效果图像的畸变,提高了用户体验效果。
在一个可选的实施例中,所述第一确定模块可以包括:
第二确定子模块,根据所述第二三角剖分网格确定所述第一三角剖分网格中第一连线与第二连线之间的第一夹角;其中,所述第一连线为第一眼部关键点和第二眼部关键点之间的连线,第一眼部关键点和第二眼部关键点相邻;第二连线为所述第二眼部关键点和第一辅助关键点之间的连线;所述第一眼部关键点、第二眼部关键点和第一辅助关键点为所述第一三角剖分网格中第一三角形的三个顶点;
第三确定子模块,根据所述第二三角剖分网格确定第三连线与第四连线之间的第二夹角;其中,所述第三连线为所述第二眼部关键点与第三眼部关键点之间的连线,所述第二眼部关键点和第三眼部挂件的相邻;第四连线为所述第二眼部关键点与第二辅助关键点之间的连线;所述第二眼部关键点、第三眼部关键点和第二辅助关键点为所述第一三角剖分网格中第二三角形的三个顶点;
第四确定子模块,根据所述第一夹角、第二夹角以及所述第二三角剖分网格确定所述第一辅助关键点和第二辅助关键点。
该可选的实施例中,根据第一三角剖分网格和第二三角剖分网格中对应三角形尽可能相似的原理确定辅助关键点时,可以先确定第二三角剖分网格中各个三角形的顶角的大小,进而根据相似三角形中对应角度相等的原理确定第一三角剖分网格中对应顶角的大小。最终在第一三角剖分网格中各个三角形的顶角大小确定、且眼部关键点作为三角形的顶点确定的情况下,确定辅助关键点。
例如,第一三角剖分网格中的第一三角形和第二三角形为相邻三角形,且第一三角形的两个顶点为检测得到的眼部关键点,分别为第一眼部关键点和第二眼部关键点,第一三角形的另一个顶点为待确定的第一辅助关键点,第一三角形中第一连线为第一眼部关键点和第二眼部关键点之间的连线,第二连线为第二眼部关键点和第一辅助关键点之间的连线。第二三角形与第一三角形相邻,其中两个顶点为辅助关键点,分别为第一辅助关键点和第二辅助关键点,而另一个顶点为第二眼部关键点,即与第一三角形具有共同的顶点。
第二三角形网格中具有与第一三角形和第二三角形对应的两个三角形,与第一三角形对应的第一对应三角形的两个顶点为标准人脸图像上的眼部关键点,其可以在建立标准模板,并对其三角剖分时通过关键点检测方法检测得到,另一个顶点为在眼部轮廓周围所选取的第一对应辅助关键点,其选取的原则可以根据实际情况而定,例如基于第二三角形为等边三角形或等腰三角形的原则选择第一对应辅助关键点等。与第二三角形对应的第二对象三角形与第一对应三角形共有两个顶点,分别为第一对应三角形中的一个眼部关键点和第一对应辅助关键点,而另一个顶点为选取的第二对应辅助关键点,选取原理同第一对应辅助关键点。
第二三角剖分网格是预先建立好的,也就是说第二三角剖分网格中的对应辅助关键点都是预先选取并定义好的。那么在确定第一三角剖分网格上的辅助关键点时,只要确定了第二三角剖分网格中对应三角形的两个夹角后,就可以确定上述提到的第一三角形剖分网格中第一三角形和第二三角形中的第一夹角和第二夹角。
在第二三角剖分网格确定的情况下,根据相似三角形的原理,根据第一夹角、第二夹角以及第二三角剖分网格可以确定出第一辅助关键点和第二辅助关键点。那么第一三角剖分网格中的其他三角形中的辅助关键点也可以根据相同的原理确定。
在一个可选的实施例中,所述第二确定子模块可以包括:
第五确定子模块,确定所述第二三角剖分网格上与所述第一三角形对应的第一对应三角形;
第五确定子模块,确定所述第一夹角;其中,所述第一夹角与所述第一对应三角形上对应于所述第一夹角的角度之间的第一差值在第二预设误差范围内。
该可选的实施例中,第一三角剖分网格和第二三角剖分网格具有对应的三角形,即人脸图像中对应部位的三角形几乎或者完全对应相似,那么在第二三角形剖分网格已经确定的情况下,第五确定子模块先确定与第一三角剖分网格中的第一三角形对应的第一对应三角形,第六确定子模块进而可以根据三角形相似原理以及第一对应三角形确定第一三角形中第一夹角的大小。例如,在第一三角形和第一对应三角形完全相似的情况下,可以使得第一夹角与第一对应三角形中对应的第一对应夹角的第一差值为0。当然,在实际操作中,可能很难做到第一三角形网格和第二三角形剖分网格中各个对应三角形都完全相似,做到尽可能相似也能达到相同的效果。因此,可以在确定第一夹角时,使得第一夹角与第一对应夹角之间具有一定的误差,而只要控制该误差在第二预设误差范围内即可。第二预设误差范围可以根据实际情况下设定,例如第二预设误差范围可以在[0,ɑ]之间,ɑ可以为20度,具体在此不做限制。
在一个可选的实施例中,所述第三确定子模块可以包括:
第七确定子模块,用于确定所述第二三角剖分网格上与所述第二三角形对应的第二对应三角形;
第八确定子模块,用于确定所述第二夹角;其中,所述第二夹角与所述第二对应三角形上对应于所述第二夹角的第二对应夹角之间的第二差值在第二预设误差范围内。
该可选的实施例中,第二夹角的确定方式与第一夹角类似。由于第一三角剖分网格和第二三角剖分网格具有对应的三角形,即人脸图像中对应部位的三角形几乎或者完全对应相似,那么在第二三角形剖分网格已经确定的情况下,第七确定子模块先确定与第一三角剖分网格中的第二三角形对应的第二对应三角形,第八确定子模块进而可以根据三角形相似原理以及第二对应三角形确定第二三角形中第二夹角的大小。例如,在第二三角形和第二对应三角形完全相似的情况下,可以使得第二夹角与第二对应三角形中对应的第二对应夹角的第一差值为0。当然,在实际操作中,可能很难做到第一三角形网格和第二三角形剖分网格中各个对应三角形都完全相似,做到尽可能相似也能达到相同的效果。因此,可以在确定第二夹角时,使得第二夹角与第二对应夹角之间具有一定的误差,而只要控制该误差在第二预设误差范围内即可。第二预设误差范围可以根据实际情况下设定,例如第二预设误差范围可以在[0,ɑ]之间,ɑ可以为20度,具体在此不做限制。
在一个可选的实施例中,所述第四确定子模块可以包括:
第九确定子模块,用于确定所述第一连线与所述第二三角剖分网格中对应于第一连线的第一对应连线之间的第一比例;
第十确定子模块,用于根据所述第一比例以及所述第一夹角确定所述第一辅助关键点。
该可选的实施例中,根据三角形相似原理,在一条边以及该边上的一个夹角确定的情况下,形成该夹角的另一条边可以根据相似三角形之间对应边之间的比例来确定。
例如,本实施例中,第一连线为第一三角剖分网格中第一三角形上两个眼部关键点之间的连线,因此第一连线的长度确定;与第一三角形对应的第一对应三角形上与第一连线对应的边的长度也是确定的,也即第一连线和与之对应边之间的第一比例可以确定。因此第十确定子模块可以根据相似三角形的原理、第一比例以及第一连线上第一夹角的大小确定第一辅助关键点的确切位置。
在一个可选的实施例中,所述第四确定子模块可以包括:
第十一确定子模块,用于确定所述第三连线与所述第二三角剖分网格中对应于第三连线的边之间的第二比例;
第十二确定子模块,用于根据所述第二比例以及所述第二夹角确定所述第二辅助关键点。
该可选的实施例中,与第一辅助关键点的确定方式类似,可以根据三角形相似原理,在一条边以及该边上的一个夹角确定的情况下,形成该夹角的另一条边可以根据相似三角形之间对应边之间的比例来确定。
例如,本实施例中,第三连线为第一三角剖分网格中第二三角形上一个眼部关键点和第一辅助关键点之间的连线,因此在确定了第一辅助关键点之后,第三连线的长度确定;与第二三角形对应的第二对应三角形上与第三连线对应的边的长度也是确定的,也即第三连线和与之对应边之间的第二比例可以确定。因此第十二确定子模块可以根据相似三角形的原理、第二比例以及第三连线上第二夹角的大小确定第二辅助关键点的确切位置。
在一个可选的实施例中,第二预设误差范围的最小值为0。
该可选的实施例中,在第一三角剖分网格与第二三角剖分网格中,对应三角形之间尽可能保持相似的情况下,能够使得眼妆效果图像被变换到人脸图像上时,效果达到最佳,此时可以认为第一三角形和对应的第一对应三角形之间完全相似,那么第一夹角与第一对应夹角之间的误差为0;第二三剑侠和对应的第二对应三角形之间也完全相似,那么第二夹角和第二对应夹角之间的误差也0。通常情况下,标准模板上标准人脸图像上的眼睛始终是睁开状态,而在实际应用过程中,由于检测到的人脸图像上的眼睛状态是不停变化的,某一时刻处于睁开状态,某一时刻可能处于闭合状态,因此例如在闭合状态下,第一三角剖分网格与第二三角剖分网格中对应三角形之间的相似度可能无法达到完全相似,因此两者对应角度之间的误差也不为0。当然,为了保证效果,误差可以保持在第二预设误差范围内。
在一个可选的实施例中,图像处理装置还可以包括:
第一确定模块,用于根据所述眼部关键点确定所述人脸图像上眼睛的开合程度;
第二确定模块,用于根据所述开合程度确定所述第一差值和所述第二差值。
该可选的实施例中,通常情况下,图像处理系统所预先建立的标准模板上的标准人脸图像中,眼睛是完全睁开的状态,可以设定这种状态下眼睛的开合程度最大,而在眼睛闭合状态下可以认为开合程度最小。因此,可以以标准模板为准,检测到的人脸图像上眼睛的开合程度与标准人脸图像上眼睛的开合程度一致时,可以设定为第一三角剖分网格与第二三角剖分网格中对应三角形最为相似,那么对应夹角之间的误差也最小,也即第一差值和第二差值最小,而检测到的人脸图像上眼睛的开合程度越小,第一三角剖分网格与第二三角剖分网格中对应三角形之间的相似度越小,那么对应夹角之间的误差也越大,也即第一差值和第二差值越大。需要注意的是,第一差值和第二差值可以相等,也可以不相等,只要保证两者都在第二预设误差范围内即可。
眼睛的开合程度可以通过眼部关键点的位置来确定。例如,通过眼部关键点中纵坐标最大的眼睑上的眼部关键点和眼角上的眼部关键点之间纵坐标之差来确定,差值越大,可以认为开合程度越大,差值越小,开合程度越小。
在一可选实施例中,所述第二确定模块可以包括:
第一设置子模块,用于在所述开合程度达到预设最大值时,所述第一差值和第二差值设置为所述第二预设误差范围的最小值;
第二设置子模块,用于在所述开合程度达到预设最小值时,所述第一差值和第二差值设置为所述第二预设误差范围的最大值。
该可选的实施例中,检测到的人脸图像上眼睛的开合程度最大,也即与标准模板中眼睛的开合程度一致时,第一设置子模块可以将第一三角剖分网格中各个三角形的夹角大小设置成与第二三角剖分网格中对应三角形中对应夹角大小的差值为第二预设误差范围的最小值,,即第一三角剖分网格与第二三角剖分网格中对应三角形最为相似;而检测到的人脸图像上眼睛的开合程度最小的情况下,第二设置子模块可以将第一三角剖分网格中各个三角形的夹角大小设置成与第二三角剖分网格中对应三角形中对应夹角大小的差值为第二预设误差范围的最大值,即第一三角剖分网格与第二三角剖分网格中对应三角形之间的相似误差达到最大值。因此,可以在人脸图像上眼睛处于完全睁开的状态时,可以将第一差值和第二差值设置为最小值。而人脸图像上眼睛处于闭合状态时,可以将第一差值和第二差值设置为最大值。
在一可选实施例中,所述第二三角剖分网格中的三角形为等边三角形。
该可选的实现方式中,标准模板上的第二三角剖分网格中的三角形均为等边三角形,也即三角形的各个夹角均为60度。那么第一三角剖分网格上对应的三角形中,以眼部关键点为顶点的夹角可以设置为60度加上一个误差,该误差在第二预设误差范围内,且该误差根据检测到的人脸图像上眼睛的开合程度的不同而不同。这种情况下,采用本实施例的图像处理方法,可以使得眼妆效果图像的变换达到很好的效果,不容易产生畸变。
在一可选实施例中,所述变换模块43可以包括:
第十三确定子模块,用于确定所述第一三角剖分网格与所述第二三角剖分网格之间的对应关系;
变换子模块,用于根据所述对应关系将第二三角剖分网格中的所述眼妆效果图像变换至所述第一三角剖分网格中所述人脸图像上的眼部预定位置处。
该可选的实现方式中,辅助关键点确定后,也即在人脸图像上的眼部预定位置处形成了第一三角剖分网格。那么在将标准模板上的眼妆效果图像变换到检测到人脸图像上时,第十三确定子模块可以确定第一三角剖分网格与第二三角剖分网格之间的对应关系,也即三角形之间各个顶点坐标的对应关系,变换子模块将第二三角剖分网格中各个三角形区域内的图像根据坐标对应关系变换到第一三角剖分网格中对应三角形区域中,实现眼妆效果图像的变换。
图5是图示根据本公开的实施例的图像处理硬件装置的硬件框图。如图5所示,根据本公开实施例的图像处理硬件装置50包括存储器51和处理器52。
该存储器51用于存储非暂时性计算机可读指令。具体地,存储器51可以包括一个或多个计算机程序产品,该计算机程序产品可以包括各种形式的计算机可读存储介质,例如易失性存储器和/或非易失性存储器。该易失性存储器例如可以包括随机存取存储器(RAM)和/或高速缓冲存储器(cache)等。该非易失性存储器例如可以包括只读存储器(ROM)、硬盘、闪存等。
该处理器52可以是中央处理单元(CPU)或者具有数据处理能力和/或指令执行能力的其它形式的处理单元,并且可以控制图像处理硬件装置50中的其它组件以执行期望的功能。在本公开的一个实施例中,该处理器52用于运行该存储器51中存储的该计算机可读指令,使得该图像处理硬件装置50执行前述的本公开各实施例的图像处理方法的全部或部分步骤。
本领域技术人员应能理解,为了解决如何获得良好用户体验效果的技术问题,本实施例中也可以包括诸如通信总线、接口等公知的结构,这些公知的结构也应包含在本公开的保护范围之内。
有关本实施例的详细说明可以参考前述各实施例中的相应说明,在此不再赘述。
图6是图示根据本公开的实施例的计算机可读存储介质的示意图。如图6所示,根据本公开实施例的计算机可读存储介质60,其上存储有非暂时性计算机可读指令61。当该非暂时性计算机可读指令61由处理器运行时,执行前述的本公开各实施例的图像处理方法的全部或部分步骤。
上述计算机可读存储介质60包括但不限于:光存储介质(例如:CD-ROM和DVD)、磁光存储介质(例如:MO)、磁存储介质(例如:磁带或移动硬盘)、具有内置的可重写非易失性存储器的媒体(例如:存储卡)和具有内置ROM的媒体(例如:ROM盒)。
有关本实施例的详细说明可以参考前述各实施例中的相应说明,在此不再赘述。
图7是图示根据本公开实施例的图像处理终端的硬件结构示意图。如图7所示,该图像处理终端70包括上述图像处理装置实施例。
该终端设备可以以各种形式来实施,本公开中的终端设备可以包括但不限于诸如移动电话、智能电话、笔记本电脑、数字广播接收器、PDA(个人数字助理)、PAD(平板电脑)、PMP(便携式多媒体播放器)、导航装置、车载终端设备、车载显示终端、车载电子后视镜等等的移动终端设备以及诸如数字TV、台式计算机等等的固定终端设备。
作为等同替换的实施方式,该终端还可以包括其他组件。如图7所示,该图像处理终端70可以包括电源单元71、无线通信单元72、A/V(音频/视频)输入单元73、用户输入单元74、感测单元75、接口单元76、控制器77、输出单元78和存储器79等等。图7示出了具有各种组件的终端,但是应理解的是,并不要求实施所有示出的组件,也可以替代地实施更多或更少的组件。
其中,无线通信单元72允许终端70与无线通信系统或网络之间的无线电通信。A/V输入单元73用于接收音频或视频信号。用户输入单元74可以根据用户输入的命令生成键输入数据以控制终端设备的各种操作。感测单元75检测终端70的当前状态、终端70的位置、用户对于终端70的触摸输入的有无、终端70的取向、终端70的加速或减速移动和方向等等,并且生成用于控制终端70的操作的命令或信号。接口单元76用作至少一个外部装置与终端70连接可以通过的接口。输出单元78被构造为以视觉、音频和/或触觉方式提供输出信号。存储器79可以存储由控制器77执行的处理和控制操作的软件程序等等,或者可以暂时地存储己经输出或将要输出的数据。存储器79可以包括至少一种类型的存储介质。而且,终端70可以与通过网络连接执行存储器79的存储功能的网络存储装置协作。控制器77通常控制终端设备的总体操作。另外,控制器77可以包括用于再现或回放多媒体数据的多媒体模块。控制器77可以执行模式识别处理,以将在触摸屏上执行的手写输入或者图片绘制输入识别为字符或图像。电源单元71在控制器77的控制下接收外部电力或内部电力并且提供操作各元件和组件所需的适当的电力。
本公开提出的图像处理方法的各种实施方式可以以使用例如计算机软件、硬件或其任何组合的计算机可读介质来实施。对于硬件实施,本公开提出的图像处理方法的各种实施方式可以通过使用特定用途集成电路(ASIC)、数字信号处理器(DSP)、数字信号处理装置(DSPD)、可编程逻辑装置(PLD)、现场可编程门阵列(FPGA)、处理器、控制器、微控制器、微处理器、被设计为执行这里描述的功能的电子单元中的至少一种来实施,在一些情况下,本公开提出的图像处理方法的各种实施方式可以在控制器77中实施。对于软件实施,本公开提出的图像处理方法的各种实施方式可以与允许执行至少一种功能或操作的单独的软件模块来实施。软件代码可以由以任何适当的编程语言编写的软件应用程序(或程序)来实施,软件代码可以存储在存储器79中并且由控制器77执行。
有关本实施例的详细说明可以参考前述各实施例中的相应说明,在此不再赘述。
以上结合具体实施例描述了本公开的基本原理,但是,需要指出的是,在本公开中提及的优点、优势、效果等仅是示例而非限制,不能认为这些优点、优势、效果等是本公开的各个实施例必须具备的。另外,上述公开的具体细节仅是为了示例的作用和便于理解的作用,而非限制,上述细节并不限制本公开为必须采用上述具体的细节来实现。
本公开中涉及的器件、装置、设备、系统的方框图仅作为例示性的例子并且不意图要求或暗示必须按照方框图示出的方式进行连接、布置、配置。如本领域技术人员将认识到的,可以按任意方式连接、布置、配置这些器件、装置、设备、系统。诸如“包括”、“包含”、“具有”等等的词语是开放性词汇,指“包括但不限于”,且可与其互换使用。这里所使用的词汇“或”和“和”指词汇“和/或”,且可与其互换使用,除非上下文明确指示不是如此。这里所使用的词汇“诸如”指词组“诸如但不限于”,且可与其互换使用。
另外,如在此使用的,在以“至少一个”开始的项的列举中使用的“或”指示分离的列举,以便例如“A、B或C的至少一个”的列举意味着A或B或C,或AB或AC或BC,或ABC(即A和B和C)。此外,措辞“示例的”不意味着描述的例子是优选的或者比其他例子更好。
还需要指出的是,在本公开的系统和方法中,各部件或各步骤是可以分解和/或重新组合的。这些分解和/或重新组合应视为本公开的等效方案。
可以不脱离由所附权利要求定义的教导的技术而进行对在此所述的技术的各种改变、替换和更改。此外,本公开的权利要求的范围不限于以上所述的处理、机器、制造、事件的组成、手段、方法和动作的具体方面。可以利用与在此所述的相应方面进行基本相同的功能或者实现基本相同的结果的当前存在的或者稍后要开发的处理、机器、制造、事件的组成、手段、方法或动作。因而,所附权利要求包括在其范围内的这样的处理、机器、制造、事件的组成、手段、方法或动作。
提供所公开的方面的以上描述以使本领域的任何技术人员能够做出或者使用本公开。对这些方面的各种修改对于本领域技术人员而言是非常显而易见的,并且在此定义的一般原理可以应用于其他方面而不脱离本公开的范围。因此,本公开不意图被限制到在此示出的方面,而是按照与在此公开的原理和新颖的特征一致的最宽范围。
为了例示和描述的目的已经给出了以上描述。此外,此描述不意图将本公开的实施例限制到在此公开的形式。尽管以上已经讨论了多个示例方面和实施例,但是本领域技术人员将认识到其某些变型、修改、改变、添加和子组合。
Claims (17)
1.一种图像处理方法,其特征在于,包括:
识别人脸图像上的眼部关键点;
利用三角剖分原理,根据所述眼部关键点及眼妆效果图像,插值得到辅助关键点;其中,所述辅助关键点位于所述人脸图像的眼部轮廓周围,所述辅助关键点与所述眼部关键点形成所述人脸图像上眼部预定位置处的第一三角剖分网格;其中,所述辅助关键点和所述眼部关键点为所述第一三角剖分网格中的三角形区域上的顶点;其中,所述插值得到辅助关键点,包括:获取标准模板上对应的第二三角剖分网格;其中,所述眼妆效果图像绘制在所述标准模板上;根据所述第二三角剖分网格确定所述第一三角剖分网格上的所述辅助关键点;其中,所述第一三角剖分网格和第二三角剖分网格中对应三角形之间的相似度在第一预设误差范围内;
根据所述第一三角剖分网格将所述眼妆效果图像变换到眼部预定位置处。
2.根据权利要求1所述的方法,其特征在于,所述眼妆效果图像包括眼睫毛、双眼皮、单眼皮、眼影、眼线中的至少一个。
3.根据权利要求1所述的方法,其特征在于,所述识别人脸图像上的眼部关键点之前,还包括:
响应于用户对所述眼妆效果图像的选定事件,检测所述人脸图像。
4.根据权利要求1所述的方法,其特征在于,根据所述第二三角剖分网格确定所述第一三角剖分网格上的所述辅助关键点,包括:
根据所述第二三角剖分网格确定所述第一三角剖分网格中第一连线与第二连线之间的第一夹角;其中,所述第一连线为第一眼部关键点和第二眼部关键点之间的连线,所述第一眼部关键点和所述第二眼部关键点相邻;所述第二连线为所述第二眼部关键点和第一辅助关键点之间的连线;所述第一眼部关键点、所述第二眼部关键点和所述第一辅助关键点为所述第一三角剖分网格中第一三角形的三个顶点;
根据所述第二三角剖分网格确定第三连线与第四连线之间的第二夹角;其中,所述第三连线为所述第二眼部关键点与第三眼部关键点之间的连线,所述第二眼部关键点和所述第三眼部关键点相邻;所述第四连线为所述第二眼部关键点与第二辅助关键点之间的连线;所述第二眼部关键点、所述第三眼部关键点和所述第二辅助关键点为所述第一三角剖分网格中第二三角形的三个顶点;
根据所述第一夹角、第二夹角以及所述第二三角剖分网格确定所述第一辅助关键点和所述第二辅助关键点。
5.根据权利要求4所述的方法,其特征在于,根据所述第二三角剖分网格确定所述第一三角剖分网格中第一连线与第二连线之间的第一夹角,包括:
确定所述第二三角剖分网格上与所述第一三角形对应的第一对应三角形;
确定所述第一夹角;其中,所述第一夹角与所述第一对应三角形上对应于所述第一夹角的第一对应夹角之间的第一差值在第二预设误差范围内。
6.根据权利要求5所述的方法,其特征在于,根据所述第二三角剖分网格确定第三连线与第四连线之间的第二夹角,包括:
确定所述第二三角剖分网格上与所述第二三角形对应的第二对应三角形;
确定所述第二夹角;其中,所述第二夹角与所述第二对应三角形上对应于所述第二夹角的第二对应夹角之间的第二差值在第二预设误差范围内。
7.根据权利要求4所述的方法,其特征在于,根据所述第一夹角、第二夹角以及所述第二三角剖分网格确定所述第一辅助关键点和第二辅助关键点,包括:
确定所述第一连线与所述第二三角剖分网格中对应于第一连线的第一对应连线之间的第一比例;
根据所述第一比例以及所述第一夹角确定所述第一辅助关键点。
8.根据权利要求4所述的方法,其特征在于,根据所述第一夹角、第二夹角以及所述第二三角剖分网格确定所述第一辅助关键点和第二辅助关键点,包括:
确定所述第三连线与所述第二三角剖分网格中对应于第三连线的边之间的第二比例;
根据所述第二比例以及所述第二夹角确定所述第二辅助关键点。
9.根据权利要求5或6所述的方法,其特征在于,所述第二预设误差范围的最小值为0。
10.根据权利要求6所述的方法,其特征在于,还包括:
根据所述眼部关键点确定所述人脸图像上眼睛的开合程度;
根据所述开合程度确定所述第一差值和所述第二差值。
11.根据权利要求10所述的方法,其特征在于,根据所述开合程度确定所述第一差值和所述第二差值,包括:
在所述开合程度达到预设最大值时,所述第一差值和第二差值设置为所述第二预设误差范围的最小值;
在所述开合程度达到预设最小值时,所述第一差值和第二差值设置为所述第二预设误差范围的最大值。
12.根据权利要求1-8任一项所述的方法,其特征在于,所述第二三角剖分网格中的三角形为等边三角形。
13.根据权利要求1-8任一项所述的方法,其特征在于,根据所述第一三角剖分网格将眼妆效果图像变换到眼部预定位置处,包括:
确定所述第一三角剖分网格与所述第二三角剖分网格之间的对应关系;
根据所述对应关系将第二三角剖分网格中的所述眼妆效果图像变换至所述第一三角剖分网格中所述人脸图像上的眼部预定位置处。
14.一种图像处理装置,其特征在于,包括:
识别模块,用于识别人脸图像上的眼部关键点;
插值模块,用于利用三角剖分原理,根据所述眼部关键点及眼妆效果图像,插值得到辅助关键点;其中,所述辅助关键点位于所述人脸图像的眼部轮廓周围,所述辅助关键点与所述眼部关键点形成所述人脸图像上眼部预定位置处的第一三角剖分网格;其中,所述辅助关键点和所述眼部关键点为所述第一三角剖分网格中的三角形区域上的顶点;其中,所述插值得到辅助关键点,包括:获取标准模板上对应的第二三角剖分网格;其中,所述眼妆效果图像绘制在所述标准模板上;根据所述第二三角剖分网格确定所述第一三角剖分网格上的所述辅助关键点;其中,所述第一三角剖分网格和第二三角剖分网格中对应三角形之间的相似度在第一预设误差范围内;
变换模块,用于根据所述第一三角剖分网格将所述眼妆效果图像变换到眼部预定位置处。
15.一种图像处理硬件装置,包括:
存储器,用于存储非暂时性计算机可读指令;以及
处理器,用于运行所述计算机可读指令,使得所述处理器执行时实现根据权利要求1-13中任意一项所述的图像处理方法。
16.一种计算机可读存储介质,用于存储非暂时性计算机可读指令,当所述非暂时性计算机可读指令由计算机执行时,使得所述计算机执行权利要求1-13中任意一项所述的图像处理方法。
17.一种图像处理终端,包括权利要求14所述的一种图像处理装置。
Priority Applications (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201810687841.2A CN109063560B (zh) | 2018-06-28 | 2018-06-28 | 图像处理方法、装置、计算机可读存储介质和终端 |
PCT/CN2019/073074 WO2020001013A1 (zh) | 2018-06-28 | 2019-01-25 | 图像处理方法、装置、计算机可读存储介质和终端 |
US16/980,323 US11017580B2 (en) | 2018-06-28 | 2019-01-25 | Face image processing based on key point detection |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201810687841.2A CN109063560B (zh) | 2018-06-28 | 2018-06-28 | 图像处理方法、装置、计算机可读存储介质和终端 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN109063560A CN109063560A (zh) | 2018-12-21 |
CN109063560B true CN109063560B (zh) | 2022-04-05 |
Family
ID=64817761
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201810687841.2A Active CN109063560B (zh) | 2018-06-28 | 2018-06-28 | 图像处理方法、装置、计算机可读存储介质和终端 |
Country Status (3)
Country | Link |
---|---|
US (1) | US11017580B2 (zh) |
CN (1) | CN109063560B (zh) |
WO (1) | WO2020001013A1 (zh) |
Families Citing this family (17)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109063560B (zh) * | 2018-06-28 | 2022-04-05 | 北京微播视界科技有限公司 | 图像处理方法、装置、计算机可读存储介质和终端 |
CN109472753B (zh) * | 2018-10-30 | 2021-09-07 | 北京市商汤科技开发有限公司 | 一种图像处理方法、装置、计算机设备和计算机存储介质 |
CN110211211B (zh) * | 2019-04-25 | 2024-01-26 | 北京达佳互联信息技术有限公司 | 图像处理方法、装置、电子设备及存储介质 |
CN110223218B (zh) * | 2019-05-16 | 2024-01-12 | 北京达佳互联信息技术有限公司 | 人脸图像处理方法、装置、电子设备及存储介质 |
CA3154216A1 (en) * | 2019-10-11 | 2021-04-15 | Beyeonics Surgical Ltd. | System and method for improved electronic assisted medical procedures |
WO2021083133A1 (zh) * | 2019-10-29 | 2021-05-06 | 广州虎牙科技有限公司 | 图像处理方法、装置、设备及存储介质 |
CN110941332A (zh) * | 2019-11-06 | 2020-03-31 | 北京百度网讯科技有限公司 | 表情驱动方法、装置、电子设备及存储介质 |
CN110910308B (zh) * | 2019-12-03 | 2024-03-05 | 广州虎牙科技有限公司 | 图像处理方法、装置、设备和介质 |
CN111369644A (zh) * | 2020-02-28 | 2020-07-03 | 北京旷视科技有限公司 | 人脸图像的试妆处理方法、装置、计算机设备和存储介质 |
CN111489311B (zh) * | 2020-04-09 | 2023-08-08 | 北京百度网讯科技有限公司 | 一种人脸美化方法、装置、电子设备及存储介质 |
CN111563855B (zh) * | 2020-04-29 | 2023-08-01 | 百度在线网络技术(北京)有限公司 | 图像处理的方法及装置 |
CN114095647A (zh) * | 2020-08-24 | 2022-02-25 | 北京达佳互联信息技术有限公司 | 图像处理方法、装置、电子设备及存储介质 |
CN114095646B (zh) * | 2020-08-24 | 2022-08-26 | 北京达佳互联信息技术有限公司 | 图像处理方法、装置、电子设备及存储介质 |
CN112257635A (zh) * | 2020-10-30 | 2021-01-22 | 杭州魔点科技有限公司 | 人脸误检过滤的方法、系统、电子装置和存储介质 |
CN113096038A (zh) * | 2021-04-01 | 2021-07-09 | 北京映客芝士网络科技有限公司 | 眼妆处理方法、装置、电子设备及介质 |
CN113344837B (zh) * | 2021-06-28 | 2023-04-18 | 展讯通信(上海)有限公司 | 人脸图像处理方法及装置、计算机可读存储介质、终端 |
CN113961746B (zh) * | 2021-09-29 | 2023-11-21 | 北京百度网讯科技有限公司 | 视频生成方法、装置、电子设备及可读存储介质 |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103824269A (zh) * | 2012-11-16 | 2014-05-28 | 广州三星通信技术研究有限公司 | 人脸特效处理方法以及系统 |
CN107977934A (zh) * | 2017-11-10 | 2018-05-01 | 北京小米移动软件有限公司 | 图像处理方法及装置 |
Family Cites Families (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6879324B1 (en) * | 1998-07-14 | 2005-04-12 | Microsoft Corporation | Regional progressive meshes |
US7742623B1 (en) * | 2008-08-04 | 2010-06-22 | Videomining Corporation | Method and system for estimating gaze target, gaze sequence, and gaze map from video |
CN101814192A (zh) * | 2009-02-20 | 2010-08-25 | 三星电子株式会社 | 真实感3d人脸重建的方法 |
US9443132B2 (en) * | 2013-02-05 | 2016-09-13 | Children's National Medical Center | Device and method for classifying a condition based on image analysis |
KR102365393B1 (ko) * | 2014-12-11 | 2022-02-21 | 엘지전자 주식회사 | 이동단말기 및 그 제어방법 |
CN107330868B (zh) * | 2017-06-26 | 2020-11-13 | 北京小米移动软件有限公司 | 图片处理方法及装置 |
CN107341777B (zh) * | 2017-06-26 | 2020-12-04 | 北京小米移动软件有限公司 | 图片处理方法及装置 |
CN107680033B (zh) | 2017-09-08 | 2021-02-19 | 北京小米移动软件有限公司 | 图片处理方法及装置 |
CN107818543B (zh) * | 2017-11-09 | 2021-03-30 | 北京小米移动软件有限公司 | 图像处理方法及装置 |
CN108492247A (zh) * | 2018-03-23 | 2018-09-04 | 成都品果科技有限公司 | 一种基于网格变形的眼妆贴图方法 |
CN109063560B (zh) | 2018-06-28 | 2022-04-05 | 北京微播视界科技有限公司 | 图像处理方法、装置、计算机可读存储介质和终端 |
-
2018
- 2018-06-28 CN CN201810687841.2A patent/CN109063560B/zh active Active
-
2019
- 2019-01-25 WO PCT/CN2019/073074 patent/WO2020001013A1/zh active Application Filing
- 2019-01-25 US US16/980,323 patent/US11017580B2/en active Active
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103824269A (zh) * | 2012-11-16 | 2014-05-28 | 广州三星通信技术研究有限公司 | 人脸特效处理方法以及系统 |
CN107977934A (zh) * | 2017-11-10 | 2018-05-01 | 北京小米移动软件有限公司 | 图像处理方法及装置 |
Also Published As
Publication number | Publication date |
---|---|
US11017580B2 (en) | 2021-05-25 |
CN109063560A (zh) | 2018-12-21 |
US20210074054A1 (en) | 2021-03-11 |
WO2020001013A1 (zh) | 2020-01-02 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109063560B (zh) | 图像处理方法、装置、计算机可读存储介质和终端 | |
CN108986016B (zh) | 图像美化方法、装置及电子设备 | |
CN108958610A (zh) | 基于人脸的特效生成方法、装置和电子设备 | |
US10360710B2 (en) | Method of establishing virtual makeup data and electronic device using the same | |
TWI752419B (zh) | 影像處理方法及裝置、圖像設備及儲存媒介 | |
CN102436304B (zh) | 一种屏幕横竖显示模式切换的方法和终端 | |
WO2020024569A1 (zh) | 动态生成人脸三维模型的方法、装置、电子设备 | |
CN110390632B (zh) | 基于妆容模板的图像处理方法、装置、存储介质及终端 | |
US8976182B2 (en) | Facial sketch creation device, configuration information generation device, configuration information generation method, and storage medium | |
WO2020019664A1 (zh) | 基于人脸的形变图像生成方法和装置 | |
WO2020019665A1 (zh) | 基于人脸的三维特效生成方法、装置和电子设备 | |
WO2019242271A1 (zh) | 图像变形方法、装置及电子设备 | |
JP6936866B2 (ja) | 外観特徴の記述属性を認識する方法及び装置 | |
CN108921856B (zh) | 图像裁剪方法、装置、电子设备及计算机可读存储介质 | |
WO2020037923A1 (zh) | 图像合成方法和装置 | |
CN108921798B (zh) | 图像处理的方法、装置及电子设备 | |
US20190347832A1 (en) | Makeup simulation device, method, and non-transitory recording medium | |
CN109937434A (zh) | 图像处理方法、装置、终端和存储介质 | |
WO2020037924A1 (zh) | 动画生成方法和装置 | |
CN108898551B (zh) | 图像合并的方法和装置 | |
WO2020001015A1 (zh) | 场景操控的方法、装置及电子设备 | |
CN109146770A (zh) | 一种形变图像生成方法、装置、电子设备及计算机可读存储介质 | |
CN110070478B (zh) | 变形图像生成方法和装置 | |
CN111652023A (zh) | 嘴型的调整、直播方法、装置、电子设备和存储介质 | |
CN112347979B (zh) | 一种眼线绘制方法和装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant | ||
CP03 | Change of name, title or address |
Address after: 100080 408, 4th floor, 51 Zhichun Road, Haidian District, Beijing Patentee after: Tiktok Technology Co.,Ltd. Country or region after: China Address before: 100080 408, 4th floor, 51 Zhichun Road, Haidian District, Beijing Patentee before: BEIJING MICROLIVE VISION TECHNOLOGY Co.,Ltd. Country or region before: China |
|
CP03 | Change of name, title or address |