CN113111680A - 一种基于人脸特征点修正人脸裁剪框的方法 - Google Patents
一种基于人脸特征点修正人脸裁剪框的方法 Download PDFInfo
- Publication number
- CN113111680A CN113111680A CN202010021311.1A CN202010021311A CN113111680A CN 113111680 A CN113111680 A CN 113111680A CN 202010021311 A CN202010021311 A CN 202010021311A CN 113111680 A CN113111680 A CN 113111680A
- Authority
- CN
- China
- Prior art keywords
- face
- cutting
- width
- expanding
- height
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000005520 cutting process Methods 0.000 title claims abstract description 52
- 238000000034 method Methods 0.000 title claims abstract description 27
- 238000001514 detection method Methods 0.000 claims abstract description 16
- 210000004709 eyebrow Anatomy 0.000 claims abstract description 10
- 238000004364 calculation method Methods 0.000 claims description 5
- 238000013527 convolutional neural network Methods 0.000 claims 1
- 238000013139 quantization Methods 0.000 claims 1
- 238000010586 diagram Methods 0.000 description 4
- 230000004048 modification Effects 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 239000000126 substance Substances 0.000 description 2
- 108010003272 Hyaluronate lyase Proteins 0.000 description 1
- 238000000605 extraction Methods 0.000 description 1
- 239000011521 glass Substances 0.000 description 1
- 210000004209 hair Anatomy 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 238000007781 pre-processing Methods 0.000 description 1
- 230000008569 process Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/16—Human faces, e.g. facial parts, sketches or expressions
- G06V40/168—Feature extraction; Face representation
- G06V40/171—Local features and components; Facial parts ; Occluding parts, e.g. glasses; Geometrical relationships
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/20—Image preprocessing
- G06V10/26—Segmentation of patterns in the image field; Cutting or merging of image elements to establish the pattern region, e.g. clustering-based techniques; Detection of occlusion
- G06V10/267—Segmentation of patterns in the image field; Cutting or merging of image elements to establish the pattern region, e.g. clustering-based techniques; Detection of occlusion by performing operations on regions, e.g. growing, shrinking or watersheds
Landscapes
- Engineering & Computer Science (AREA)
- Health & Medical Sciences (AREA)
- Oral & Maxillofacial Surgery (AREA)
- General Health & Medical Sciences (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Multimedia (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Human Computer Interaction (AREA)
- Image Processing (AREA)
Abstract
本发明提供一种基于人脸特征点修正人脸裁剪框的方法,所述方法包括以下步骤:S1,初步确定人脸裁剪框;S2,根据五点特征距离扩展人脸位置;S3,修正人脸裁剪框;S3.1,将裁剪上限扩展至眉毛上方;S3.2,扩展裁剪下限,保证嘴角、下巴特征信息在裁剪框内;S3.3,在人脸裁剪比例不合适时,适当扩展左右裁剪边界。由于脸型等原因,如果只按照初步确定的人脸裁剪框将眼睛、眉毛等人脸特征裁剪掉,从而导致人脸识别错误或不识别;经过本申请的修正方法,即修正人脸裁剪框后,由于满足条件,增加了人脸裁剪的准确度,有效提升识别精度。这样就保证了人脸适当地裁剪,避免了误检测。
Description
技术领域
本发明涉及智能视频处理技术领域,特别涉及一种基于人脸特征点修正人脸裁剪框的方法。
背景技术
目前人脸识别技术广泛应用于身份认证、安检、门禁等系统。人脸识别系统主要包括四个组成部分,分别为:人脸图像采集及检测、人脸图像预处理、人脸图像特征提取以及匹配与识别。其中人脸图像采集及检测这个环节裁剪的人脸会直接影响人脸识别的结果,因为如果裁剪的人脸与系统中存储的人脸有出入,例如剃了胡子、换了发型、多了眼镜、变了表情都有可能引起比对失败。因此为了增加人脸识别精度,识别的人脸会裁剪掉无关的背景信息以及易变化的特征(发型等)。
现有的人脸识别网络一般要求输入的人脸图像为固定尺寸(例如:[112,112,3]或[96,96,3],其中[W,H,C]分别表示图像的宽、高、通道数),因此在人脸检测结果基础上,需要对检测的人脸进行裁剪,使图像满足宽高相等;目前的裁剪方案:在宽大于高时,会选择等量裁剪掉图像左右两边;在高到大于宽时,会直接裁剪掉上边多余部分,从而使图片宽高相等。这种简单的裁剪策略很容易将人脸的重要特征(眉毛、眼睛、下巴等)部位裁剪,导致人脸不完整,从而影响人脸识别精度。例如附图3所示,当脸型较长时,为了获得宽高相等的人脸,裁剪人脸上半部分时,会导致眼睛被裁掉。
发明内容
为了解决上述问题,本发明的目的在于:为了使人脸裁剪过程中,重要特征部位(眉毛、眼睛、下巴、鼻子等)不被裁剪;在裁剪前需要结合人脸的五点特征对原先的人脸裁剪框进行修正。
具体地,本发明提供一种基于人脸特征点修正人脸裁剪框的方法,所述方法包括以下步骤:
S1,初步确定人脸裁剪框;
S2,根据五点特征距离扩展人脸位置;
S3,修正人脸裁剪框:
S3.1,将裁剪上限扩展至眉毛上方;
S3.2,扩展裁剪下限,保证嘴角、下巴特征信息在裁剪框内;
S3.3,在人脸裁剪比例不合适时,适当扩展左右裁剪边界。
其中,
S1,初步确定人脸裁剪框,包括:
S1.1人脸位置检测
假设包含人脸的图像宽W,高H;并以图像左上角为坐标原点,向右为x轴,向下为y轴建立坐标轴,将包含人脸的图像通过人脸检测模型检测出人脸区域,其中人脸位置的矩形框用左上、右下两点坐标表示,记为B0(xb0,yb0),B1(xb1,yb1);
S1.2人脸裁剪框定位
由于模型需要输入的图像尺寸宽高相等,在检测出人脸后,对于宽高不等的情况需要进行多余部分裁剪以使得宽高相等,输入模型的人脸裁剪框也用两点坐标表示,记为B’0(x’b0,y’b0),B’1(x’b1,y’b1);
S2,根据五点特征距离扩展人脸位置,包括:
S2.1人脸特征点检测
在进行人脸检测时,将检测出的人脸区域进行特征点检测,输出人脸五点特征位置,即左眼,右眼,鼻子,左嘴角,右嘴角坐标,五点分别表示为p1(x1,y1),p2(x2,y2),p3(x3,y3),p4(x4,y4),p5(x5,y5);
S2.2计算鼻子与其他四点,即左右眼、左右嘴角的y轴最大距离,计算方式为:ds=max(y3-y1,y3-y2,y4-y3,y5-y3);
S2.3确定扩展因子k,以鼻子坐标为中心点,ds为扩展基准,在y轴方向扩展k·ds的距离为yup,ydown;
S3,修正人脸裁剪框,包括:
S3.1如果yup≤y’b0,则y’b0=yup;
S3.2如果ydown≥2·y’b1,则y’b1=ydown;
S3.3令kw=((y’b1-y’b0)-(x’b1-x’b0))/ds;在人脸裁剪比例不合适时(高大于宽一定阈值),适当扩展左右裁剪边界
如果kw>2.0,则x’b0=max(0,x’b0-kw*ds/4),x’b1=min(W,x’b1+kw*ds/4);
还包括步骤S3.4填充黑边:
由于修正的人脸裁剪框不能保证图像的宽高相等,因此对修正框进行黑边填充处理。
所述的S1.2中B’0(x’b0,y’b0),B’1(x’b1,y’b1)为输入模型的人脸裁剪框,具体的计算方法如下:
令w=xb1-xb0,h=yb1-yb0,Δw=h-w;
ifΔw≥0 then x’b0=xb0,x’b1=xb1,y’b0=yb0+Δw,y’b1=yb1;
所述的步骤S2.3中扩展因子k取值1.8-2.0。
所述的步骤S2.3中扩展k·ds的距离,具体扩展方式如下所示:
yup=max(0,y3-k·ds)
ydown=min(H,y3+k·ds)。
所述的步骤S3.4填充黑边的具体方法为:
S3.4.1,如果宽大于高,则在图像的下边缘填充黑边,黑边宽度为宽高差值;
S3.4.2,如果宽小于高,则在图像的右边缘填充黑边,黑边宽度为宽高差值;
S3.4.3,如果宽高相等,不需要进行黑边填充。
所述的在裁剪比例不合适包括高大于宽一定阈值。
由此,本申请的优势在于:由于脸型等原因,如果只按照初步确定的人脸裁剪框将眼睛、眉毛等人脸特征裁剪掉,从而导致人脸识别错误或不识别;经过本申请的修正方法,即修正人脸裁剪框后,由于满足条件,将裁剪上限扩展至眉毛上方,保留了眼睛等特征信息,增加了人脸裁剪的准确度,有效提升识别精度。扩展裁剪下限,保证嘴角、下巴等特征信息在裁剪框内。在人脸裁剪比例不合适时(高大于宽一定阈值),适当扩展左右裁剪边界。这样就保证了人脸适当地裁剪,避免了误检测。
附图说明
此处所说明的附图用来提供对本发明的进一步理解,构成本申请的一部分,并不构成对本发明的限定。
图1是本发明方法的示意流程图。
图2是本发明方法涉及的人脸坐标及五点位置的示意图。
图3是本发明方法涉及的人脸裁剪框的示意图。
图4是本发明方法涉及的人脸裁剪框修正后的最终示意图。
具体实施方式
为了能够更清楚地理解本发明的技术内容及优点,现结合附图对本发明进行进一步的详细说明。
如图1所示,本发明涉及一种基于人脸特征点修正人脸裁剪框的方法,所述方法包括以下步骤:
步骤S1,初步确定人脸裁剪框;
步骤S2,根据五点特征距离扩展人脸位置;
步骤S3,修正人脸裁剪框:
S3.1,将裁剪上限扩展至眉毛上方;
S3.2,扩展裁剪下限,保证嘴角、下巴特征信息在裁剪框内;
S3.3,在人脸裁剪比例不合适时,适当扩展左右裁剪边界。
具体地,进一步可以完整描述为以下:
步骤S1.初步确定人脸裁剪框
S1.1人脸位置检测
假设包含人脸的图像宽W,高H;并以图像左上角为坐标原点,向右为x轴,向下为y轴建立坐标轴(本专利涉及所有坐标均以此坐标轴为基准)。将包含人脸的图像通过人脸检测模型检测出人脸区域,其中人脸位置的矩形框用左上、右下两点坐标表示;如附图2所示,B0(xb0,yb0),B1(xb1,yb1)。
S1.2人脸裁剪框定位
由于模型需要输入的图像尺寸宽高相等,在检测出人脸后,对于宽高不等的情况需要进行多余部分裁剪以使得宽高相等。如附图3所示,B’0(x’b0,y’b0),B’1(x’b1,y’b1)为输入模型的人脸裁剪框。其具体的计算方法如下:
令w=xb1-xb0,h=yb1-yb0,Δw=h-w;
ifΔw≥0 then x’b0=xb0,x’b1=xb1,y’b0=yb0+Δw,y’b1=yb1;
步骤S2.根据五点特征距离扩展人脸位置
S2.1人脸特征点检测
在进行人脸检测时,将检测出的人脸区域进行特征点检测,输出人脸五点特征位置,即左眼,右眼,鼻,左嘴角,右嘴角坐标;如附图2所示,五点分别表示为p1(x1,y1),p2(x2,y2),p3(x3,y3),p4(x4,y4),p5(x5,y5)。
S2.2计算鼻子与其他四点(眼、嘴角)的y轴最大距离,计算方式如下:
ds=max(y3-y1,y3-y2,y4-y3,y5-y3)
S2.3确定扩展因子k(一般取值1.8~2.0),以鼻子坐标为中心点,ds为扩展基准,在y轴方向扩展k·ds的距离,具体扩展方式如下所示:
yup=max(0,y3-k·ds)
ydown=min(H,y3+k·ds)
步骤S3.修正人脸裁剪框
S3.1如果yup≤y’b0,则y’b0=yup;
S3.2如果ydown≥2·y’b1,则y’b1=ydown;
S3.3令kw=((y’b1-y’b0)-(x’b1-x’b0))/ds;
如果kw>2.0,则x’b0=max(0,x’b0-kw*ds/4),x’b1=min(W,x’b1+kw*ds/4)
S3.4填充黑边
由于修正的人脸裁剪框不能保证图像的宽高相等,因此需要对修正框进行黑边填充处理,具体的方法如下:
(1)如果宽大于高,则在图像的下边缘填充黑边,黑边宽度为宽高差值;
(2)如果宽小于高,则在图像的右边缘填充黑边,黑边宽度为宽高差值;
(3)如果宽高相等,不需要进行黑边填充。
最终,如图4所示,修正人脸裁剪框后,可以满足人脸的眼睛,鼻子,嘴巴被包含在裁剪框内。
以上所述仅为本发明的优选实施例而已,并不用于限制本发明,对于本领域的技术人员来说,本发明实施例可以有各种更改和变化。凡在本发明的精神和原则之内,所作的任何修改、等同替换、改进等,均应包含在本发明的保护范围之内。
Claims (9)
1.一种基于人脸特征点修正人脸裁剪框的方法,其特征在于,所述方法包括以下步骤:
S1,初步确定人脸裁剪框;
S2,根据五点特征距离扩展人脸位置;
S3,修正人脸裁剪框:
S3.1,将裁剪上限扩展至眉毛上方;
S3.2,扩展裁剪下限,保证嘴角、下巴特征信息在裁剪框内;
S3.3,在人脸裁剪比例不合适时,适当扩展左右裁剪边界。
2.根据权利要求1所述的一种基于人脸特征点修正人脸裁剪框的方法,其特征在于,所述S1,初步确定人脸裁剪框,进一步包括:
S1.1人脸位置检测:
假设包含人脸的图像宽W,高H;并以图像左上角为坐标原点,向右为x轴,向下为y轴建立坐标轴,将包含人脸的图像通过人脸检测模型检测出人脸区域,其中人脸位置的矩形框用左上、右下两点坐标表示,记为B0(xb0,yb0),B1(xb1,yb1);
S1.2人脸裁剪框定位:
由于模型需要输入的图像尺寸宽高相等,在检测出人脸后,对于宽高不等的情况需要进行多余部分裁剪以使得宽高相等,输入模型的人脸裁剪框也用两点坐标表示,记为B′0(x′b0,y′b0),B′1(x′b1,y′b1)。
3.根据权利要求2所述的一种基于人脸特征点修正人脸裁剪框的方法,其特征在于,所述S2,根据五点特征距离扩展人脸位置,进一步包括:
S2.1人脸特征点检测:
在进行人脸检测时,将检测出的人脸区域进行特征点检测,输出人脸五点特征位置,即左眼,右眼,鼻子,左嘴角,右嘴角坐标,五点分别表示为p1(x1,y1),p2(x2,y2),p3(x3,y3),p4(x4,y4),p5(x5,y5);
S2.2计算五点中鼻子与其他四点,即左右眼、左右嘴角的y轴最大距离,计算方式为:ds=max(y3-y1,y3-y2,y4-y3,y5-y3);
S2.3确定扩展因子k,以鼻子坐标为中心点,ds为扩展基准,在y轴方向扩展k·ds的距离为yup,ydown。
4.根据权利要求3所述的一种基于人脸特征点修正人脸裁剪框的方法,其特征在于,所述S3,修正人脸裁剪框,进一步包括:
S3.1将裁剪上限扩展至眉毛上方,如果yup≤y′b0,则y′b0=yup;
S3.2扩展裁剪下限,保证嘴角、下巴特征信息在裁剪框内,如果ydown≥2·y′b1,则y′b1=ydown;
S3.3在人脸裁剪比例不合适时,适当扩展左右裁剪边界,令kw=((y′b1-y′b0)-(x′b1-x′b0))/ds;
如果kw>2.0,则x′b0=max(0,x′b0-kw*ds/4),x′b1=min(W,x′b1+kw*ds/4);
还包括S3.4填充黑边:
由于修正的人脸裁剪框不能保证图像的宽高相等,因此对修正框进行黑边填充处理。
6.根据权利要求1所述的一种基于人脸特征点修正人脸裁剪框的方法,其特征在于,所述的步骤S2.3中扩展因子k取值1.8-2.0。
7.根据权利要求1所述的一种基于人脸特征点修正人脸裁剪框的方法,其特征在于,所述的步骤S2.3中扩展k·ds的距离,具体扩展方式如下所示:
yup=max(0,y3-k·ds),
ydown=min(H,y3+k·ds)。
8.根据权利要求1所述的一种基于人脸特征点修正人脸裁剪框的方法,其特征在于,所述的步骤S3.4填充黑边的具体方法为:
(1),如果宽大于高,则在图像的下边缘填充黑边,黑边宽度为宽高差值;
(2),如果宽小于高,则在图像的右边缘填充黑边,黑边宽度为宽高差值;
(3),如果宽高相等,不需要进行黑边填充。
9.根据权利要求1所述的一种基于人脸特征点修正人脸裁剪框的方法,其特征在于,所述的S3.3,在人脸裁剪比例不合适时包括高大于宽一定阈值。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010021311.1A CN113111680B (zh) | 2020-01-09 | 2020-01-09 | 一种基于人脸特征点修正人脸裁剪框的方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010021311.1A CN113111680B (zh) | 2020-01-09 | 2020-01-09 | 一种基于人脸特征点修正人脸裁剪框的方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN113111680A true CN113111680A (zh) | 2021-07-13 |
CN113111680B CN113111680B (zh) | 2023-12-12 |
Family
ID=76709820
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010021311.1A Active CN113111680B (zh) | 2020-01-09 | 2020-01-09 | 一种基于人脸特征点修正人脸裁剪框的方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN113111680B (zh) |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2008225720A (ja) * | 2007-03-12 | 2008-09-25 | Fujifilm Corp | 画像トリミング装置および方法並びにプログラム |
CN109657526A (zh) * | 2017-10-12 | 2019-04-19 | 飞狐信息技术(天津)有限公司 | 一种基于人脸识别的图片智能裁剪方法和系统 |
CN109685740A (zh) * | 2018-12-25 | 2019-04-26 | 努比亚技术有限公司 | 人脸校正的方法及装置、移动终端及计算机可读存储介质 |
KR20190094709A (ko) * | 2018-02-05 | 2019-08-14 | 주식회사 유어핏 | 얼굴 분석 장치 및 방법 |
CN110427795A (zh) * | 2019-01-28 | 2019-11-08 | 厦门瑞为信息技术有限公司 | 一种基于头部照片的属性分析方法、系统和计算机设备 |
CN113095119A (zh) * | 2020-01-09 | 2021-07-09 | 北京君正集成电路股份有限公司 | 一种修正人脸裁剪框的人脸识别系统 |
-
2020
- 2020-01-09 CN CN202010021311.1A patent/CN113111680B/zh active Active
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2008225720A (ja) * | 2007-03-12 | 2008-09-25 | Fujifilm Corp | 画像トリミング装置および方法並びにプログラム |
CN109657526A (zh) * | 2017-10-12 | 2019-04-19 | 飞狐信息技术(天津)有限公司 | 一种基于人脸识别的图片智能裁剪方法和系统 |
KR20190094709A (ko) * | 2018-02-05 | 2019-08-14 | 주식회사 유어핏 | 얼굴 분석 장치 및 방법 |
CN109685740A (zh) * | 2018-12-25 | 2019-04-26 | 努比亚技术有限公司 | 人脸校正的方法及装置、移动终端及计算机可读存储介质 |
CN110427795A (zh) * | 2019-01-28 | 2019-11-08 | 厦门瑞为信息技术有限公司 | 一种基于头部照片的属性分析方法、系统和计算机设备 |
CN113095119A (zh) * | 2020-01-09 | 2021-07-09 | 北京君正集成电路股份有限公司 | 一种修正人脸裁剪框的人脸识别系统 |
Non-Patent Citations (1)
Title |
---|
刘亚竹: "人脸图像自动裁剪方法研究", 《中国优秀硕士学位论文全文数据库(电子期刊)》 * |
Also Published As
Publication number | Publication date |
---|---|
CN113111680B (zh) | 2023-12-12 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11043011B2 (en) | Image processing method, apparatus, terminal, and storage medium for fusing images of two objects | |
CN111428581B (zh) | 人脸遮挡检测方法及系统 | |
Sun et al. | Face detection based on color and local symmetry information | |
JP3279913B2 (ja) | 人物認証装置、特徴点抽出装置及び特徴点抽出方法 | |
CN107403168B (zh) | 一种面部识别系统 | |
CN103914699B (zh) | 一种基于色彩空间的自动唇彩的图像增强的方法 | |
CN103839223B (zh) | 图像处理方法及装置 | |
US7835568B2 (en) | Method and apparatus for image-based photorealistic 3D face modeling | |
CN109033940B (zh) | 一种图像识别方法、装置、计算设备及存储介质 | |
WO1994023390A1 (en) | Apparatus for identifying person | |
CN110348496B (zh) | 一种人脸图像融合的方法及系统 | |
CN104992402A (zh) | 一种美颜处理方法及装置 | |
AU2020339292A1 (en) | Facial image processing method and apparatus, image device, and storage medium | |
CN113160036B (zh) | 一种保持脸型不变的图像换脸方法 | |
KR101759188B1 (ko) | 2d 얼굴 이미지로부터 3d 모델을 자동 생성하는 방법 | |
CN113095119B (zh) | 一种修正人脸裁剪框的人脸识别系统 | |
JP2000311248A (ja) | 画像処理装置 | |
CN105678251A (zh) | 人脸图像处理方法及装置 | |
CN114270417A (zh) | 能够更新注册人脸模板的人脸识别系统及方法 | |
JP2000011143A (ja) | 顔立ち認識システム | |
Escalera et al. | Fast greyscale road sign model matching and recognition | |
US20060269128A1 (en) | Image correction method and apparatus | |
Gasparini et al. | Automatic red-eye removal for digital photography | |
CN113705466A (zh) | 用于遮挡场景、尤其高仿遮挡下的人脸五官遮挡检测方法 | |
CN113111680A (zh) | 一种基于人脸特征点修正人脸裁剪框的方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |