CN113111680A - 一种基于人脸特征点修正人脸裁剪框的方法 - Google Patents

一种基于人脸特征点修正人脸裁剪框的方法 Download PDF

Info

Publication number
CN113111680A
CN113111680A CN202010021311.1A CN202010021311A CN113111680A CN 113111680 A CN113111680 A CN 113111680A CN 202010021311 A CN202010021311 A CN 202010021311A CN 113111680 A CN113111680 A CN 113111680A
Authority
CN
China
Prior art keywords
face
cutting
width
expanding
height
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202010021311.1A
Other languages
English (en)
Other versions
CN113111680B (zh
Inventor
马艳
于晓静
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Ingenic Semiconductor Co Ltd
Original Assignee
Beijing Ingenic Semiconductor Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Ingenic Semiconductor Co Ltd filed Critical Beijing Ingenic Semiconductor Co Ltd
Priority to CN202010021311.1A priority Critical patent/CN113111680B/zh
Publication of CN113111680A publication Critical patent/CN113111680A/zh
Application granted granted Critical
Publication of CN113111680B publication Critical patent/CN113111680B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/168Feature extraction; Face representation
    • G06V40/171Local features and components; Facial parts ; Occluding parts, e.g. glasses; Geometrical relationships
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/20Image preprocessing
    • G06V10/26Segmentation of patterns in the image field; Cutting or merging of image elements to establish the pattern region, e.g. clustering-based techniques; Detection of occlusion
    • G06V10/267Segmentation of patterns in the image field; Cutting or merging of image elements to establish the pattern region, e.g. clustering-based techniques; Detection of occlusion by performing operations on regions, e.g. growing, shrinking or watersheds

Landscapes

  • Engineering & Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • General Health & Medical Sciences (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Human Computer Interaction (AREA)
  • Image Processing (AREA)

Abstract

本发明提供一种基于人脸特征点修正人脸裁剪框的方法,所述方法包括以下步骤:S1,初步确定人脸裁剪框;S2,根据五点特征距离扩展人脸位置;S3,修正人脸裁剪框;S3.1,将裁剪上限扩展至眉毛上方;S3.2,扩展裁剪下限,保证嘴角、下巴特征信息在裁剪框内;S3.3,在人脸裁剪比例不合适时,适当扩展左右裁剪边界。由于脸型等原因,如果只按照初步确定的人脸裁剪框将眼睛、眉毛等人脸特征裁剪掉,从而导致人脸识别错误或不识别;经过本申请的修正方法,即修正人脸裁剪框后,由于满足条件,增加了人脸裁剪的准确度,有效提升识别精度。这样就保证了人脸适当地裁剪,避免了误检测。

Description

一种基于人脸特征点修正人脸裁剪框的方法
技术领域
本发明涉及智能视频处理技术领域,特别涉及一种基于人脸特征点修正人脸裁剪框的方法。
背景技术
目前人脸识别技术广泛应用于身份认证、安检、门禁等系统。人脸识别系统主要包括四个组成部分,分别为:人脸图像采集及检测、人脸图像预处理、人脸图像特征提取以及匹配与识别。其中人脸图像采集及检测这个环节裁剪的人脸会直接影响人脸识别的结果,因为如果裁剪的人脸与系统中存储的人脸有出入,例如剃了胡子、换了发型、多了眼镜、变了表情都有可能引起比对失败。因此为了增加人脸识别精度,识别的人脸会裁剪掉无关的背景信息以及易变化的特征(发型等)。
现有的人脸识别网络一般要求输入的人脸图像为固定尺寸(例如:[112,112,3]或[96,96,3],其中[W,H,C]分别表示图像的宽、高、通道数),因此在人脸检测结果基础上,需要对检测的人脸进行裁剪,使图像满足宽高相等;目前的裁剪方案:在宽大于高时,会选择等量裁剪掉图像左右两边;在高到大于宽时,会直接裁剪掉上边多余部分,从而使图片宽高相等。这种简单的裁剪策略很容易将人脸的重要特征(眉毛、眼睛、下巴等)部位裁剪,导致人脸不完整,从而影响人脸识别精度。例如附图3所示,当脸型较长时,为了获得宽高相等的人脸,裁剪人脸上半部分时,会导致眼睛被裁掉。
发明内容
为了解决上述问题,本发明的目的在于:为了使人脸裁剪过程中,重要特征部位(眉毛、眼睛、下巴、鼻子等)不被裁剪;在裁剪前需要结合人脸的五点特征对原先的人脸裁剪框进行修正。
具体地,本发明提供一种基于人脸特征点修正人脸裁剪框的方法,所述方法包括以下步骤:
S1,初步确定人脸裁剪框;
S2,根据五点特征距离扩展人脸位置;
S3,修正人脸裁剪框:
S3.1,将裁剪上限扩展至眉毛上方;
S3.2,扩展裁剪下限,保证嘴角、下巴特征信息在裁剪框内;
S3.3,在人脸裁剪比例不合适时,适当扩展左右裁剪边界。
其中,
S1,初步确定人脸裁剪框,包括:
S1.1人脸位置检测
假设包含人脸的图像宽W,高H;并以图像左上角为坐标原点,向右为x轴,向下为y轴建立坐标轴,将包含人脸的图像通过人脸检测模型检测出人脸区域,其中人脸位置的矩形框用左上、右下两点坐标表示,记为B0(xb0,yb0),B1(xb1,yb1);
S1.2人脸裁剪框定位
由于模型需要输入的图像尺寸宽高相等,在检测出人脸后,对于宽高不等的情况需要进行多余部分裁剪以使得宽高相等,输入模型的人脸裁剪框也用两点坐标表示,记为B’0(x’b0,y’b0),B’1(x’b1,y’b1);
S2,根据五点特征距离扩展人脸位置,包括:
S2.1人脸特征点检测
在进行人脸检测时,将检测出的人脸区域进行特征点检测,输出人脸五点特征位置,即左眼,右眼,鼻子,左嘴角,右嘴角坐标,五点分别表示为p1(x1,y1),p2(x2,y2),p3(x3,y3),p4(x4,y4),p5(x5,y5);
S2.2计算鼻子与其他四点,即左右眼、左右嘴角的y轴最大距离,计算方式为:ds=max(y3-y1,y3-y2,y4-y3,y5-y3);
S2.3确定扩展因子k,以鼻子坐标为中心点,ds为扩展基准,在y轴方向扩展k·ds的距离为yup,ydown
S3,修正人脸裁剪框,包括:
S3.1如果yup≤y’b0,则y’b0=yup
S3.2如果ydown≥2·y’b1,则y’b1=ydown
S3.3令kw=((y’b1-y’b0)-(x’b1-x’b0))/ds;在人脸裁剪比例不合适时(高大于宽一定阈值),适当扩展左右裁剪边界
如果kw>2.0,则x’b0=max(0,x’b0-kw*ds/4),x’b1=min(W,x’b1+kw*ds/4);
还包括步骤S3.4填充黑边:
由于修正的人脸裁剪框不能保证图像的宽高相等,因此对修正框进行黑边填充处理。
所述的S1.2中B’0(x’b0,y’b0),B’1(x’b1,y’b1)为输入模型的人脸裁剪框,具体的计算方法如下:
令w=xb1-xb0,h=yb1-yb0,Δw=h-w;
ifΔw≥0 then x’b0=xb0,x’b1=xb1,y’b0=yb0+Δw,y’b1=yb1
el se
Figure BDA0002360836510000031
y’b0=yb0,y’b1=yb1
其中
Figure BDA0002360836510000032
分别为向下、向上取整符号。
所述的步骤S2.3中扩展因子k取值1.8-2.0。
所述的步骤S2.3中扩展k·ds的距离,具体扩展方式如下所示:
yup=max(0,y3-k·ds)
ydown=min(H,y3+k·ds)。
所述的步骤S3.4填充黑边的具体方法为:
S3.4.1,如果宽大于高,则在图像的下边缘填充黑边,黑边宽度为宽高差值;
S3.4.2,如果宽小于高,则在图像的右边缘填充黑边,黑边宽度为宽高差值;
S3.4.3,如果宽高相等,不需要进行黑边填充。
所述的在裁剪比例不合适包括高大于宽一定阈值。
由此,本申请的优势在于:由于脸型等原因,如果只按照初步确定的人脸裁剪框将眼睛、眉毛等人脸特征裁剪掉,从而导致人脸识别错误或不识别;经过本申请的修正方法,即修正人脸裁剪框后,由于满足条件,将裁剪上限扩展至眉毛上方,保留了眼睛等特征信息,增加了人脸裁剪的准确度,有效提升识别精度。扩展裁剪下限,保证嘴角、下巴等特征信息在裁剪框内。在人脸裁剪比例不合适时(高大于宽一定阈值),适当扩展左右裁剪边界。这样就保证了人脸适当地裁剪,避免了误检测。
附图说明
此处所说明的附图用来提供对本发明的进一步理解,构成本申请的一部分,并不构成对本发明的限定。
图1是本发明方法的示意流程图。
图2是本发明方法涉及的人脸坐标及五点位置的示意图。
图3是本发明方法涉及的人脸裁剪框的示意图。
图4是本发明方法涉及的人脸裁剪框修正后的最终示意图。
具体实施方式
为了能够更清楚地理解本发明的技术内容及优点,现结合附图对本发明进行进一步的详细说明。
如图1所示,本发明涉及一种基于人脸特征点修正人脸裁剪框的方法,所述方法包括以下步骤:
步骤S1,初步确定人脸裁剪框;
步骤S2,根据五点特征距离扩展人脸位置;
步骤S3,修正人脸裁剪框:
S3.1,将裁剪上限扩展至眉毛上方;
S3.2,扩展裁剪下限,保证嘴角、下巴特征信息在裁剪框内;
S3.3,在人脸裁剪比例不合适时,适当扩展左右裁剪边界。
具体地,进一步可以完整描述为以下:
步骤S1.初步确定人脸裁剪框
S1.1人脸位置检测
假设包含人脸的图像宽W,高H;并以图像左上角为坐标原点,向右为x轴,向下为y轴建立坐标轴(本专利涉及所有坐标均以此坐标轴为基准)。将包含人脸的图像通过人脸检测模型检测出人脸区域,其中人脸位置的矩形框用左上、右下两点坐标表示;如附图2所示,B0(xb0,yb0),B1(xb1,yb1)。
S1.2人脸裁剪框定位
由于模型需要输入的图像尺寸宽高相等,在检测出人脸后,对于宽高不等的情况需要进行多余部分裁剪以使得宽高相等。如附图3所示,B’0(x’b0,y’b0),B’1(x’b1,y’b1)为输入模型的人脸裁剪框。其具体的计算方法如下:
令w=xb1-xb0,h=yb1-yb0,Δw=h-w;
ifΔw≥0 then x’b0=xb0,x’b1=xb1,y’b0=yb0+Δw,y’b1=yb1
el se
Figure BDA0002360836510000061
y’b0=yb0,y’b1=yb1
其中,
Figure BDA0002360836510000062
分别为向下、向上取整符号。
步骤S2.根据五点特征距离扩展人脸位置
S2.1人脸特征点检测
在进行人脸检测时,将检测出的人脸区域进行特征点检测,输出人脸五点特征位置,即左眼,右眼,鼻,左嘴角,右嘴角坐标;如附图2所示,五点分别表示为p1(x1,y1),p2(x2,y2),p3(x3,y3),p4(x4,y4),p5(x5,y5)。
S2.2计算鼻子与其他四点(眼、嘴角)的y轴最大距离,计算方式如下:
ds=max(y3-y1,y3-y2,y4-y3,y5-y3)
S2.3确定扩展因子k(一般取值1.8~2.0),以鼻子坐标为中心点,ds为扩展基准,在y轴方向扩展k·ds的距离,具体扩展方式如下所示:
yup=max(0,y3-k·ds)
ydown=min(H,y3+k·ds)
步骤S3.修正人脸裁剪框
S3.1如果yup≤y’b0,则y’b0=yup
S3.2如果ydown≥2·y’b1,则y’b1=ydown
S3.3令kw=((y’b1-y’b0)-(x’b1-x’b0))/ds;
如果kw>2.0,则x’b0=max(0,x’b0-kw*ds/4),x’b1=min(W,x’b1+kw*ds/4)
S3.4填充黑边
由于修正的人脸裁剪框不能保证图像的宽高相等,因此需要对修正框进行黑边填充处理,具体的方法如下:
(1)如果宽大于高,则在图像的下边缘填充黑边,黑边宽度为宽高差值;
(2)如果宽小于高,则在图像的右边缘填充黑边,黑边宽度为宽高差值;
(3)如果宽高相等,不需要进行黑边填充。
最终,如图4所示,修正人脸裁剪框后,可以满足人脸的眼睛,鼻子,嘴巴被包含在裁剪框内。
以上所述仅为本发明的优选实施例而已,并不用于限制本发明,对于本领域的技术人员来说,本发明实施例可以有各种更改和变化。凡在本发明的精神和原则之内,所作的任何修改、等同替换、改进等,均应包含在本发明的保护范围之内。

Claims (9)

1.一种基于人脸特征点修正人脸裁剪框的方法,其特征在于,所述方法包括以下步骤:
S1,初步确定人脸裁剪框;
S2,根据五点特征距离扩展人脸位置;
S3,修正人脸裁剪框:
S3.1,将裁剪上限扩展至眉毛上方;
S3.2,扩展裁剪下限,保证嘴角、下巴特征信息在裁剪框内;
S3.3,在人脸裁剪比例不合适时,适当扩展左右裁剪边界。
2.根据权利要求1所述的一种基于人脸特征点修正人脸裁剪框的方法,其特征在于,所述S1,初步确定人脸裁剪框,进一步包括:
S1.1人脸位置检测:
假设包含人脸的图像宽W,高H;并以图像左上角为坐标原点,向右为x轴,向下为y轴建立坐标轴,将包含人脸的图像通过人脸检测模型检测出人脸区域,其中人脸位置的矩形框用左上、右下两点坐标表示,记为B0(xb0,yb0),B1(xb1,yb1);
S1.2人脸裁剪框定位:
由于模型需要输入的图像尺寸宽高相等,在检测出人脸后,对于宽高不等的情况需要进行多余部分裁剪以使得宽高相等,输入模型的人脸裁剪框也用两点坐标表示,记为B′0(x′b0,y′b0),B′1(x′b1,y′b1)。
3.根据权利要求2所述的一种基于人脸特征点修正人脸裁剪框的方法,其特征在于,所述S2,根据五点特征距离扩展人脸位置,进一步包括:
S2.1人脸特征点检测:
在进行人脸检测时,将检测出的人脸区域进行特征点检测,输出人脸五点特征位置,即左眼,右眼,鼻子,左嘴角,右嘴角坐标,五点分别表示为p1(x1,y1),p2(x2,y2),p3(x3,y3),p4(x4,y4),p5(x5,y5);
S2.2计算五点中鼻子与其他四点,即左右眼、左右嘴角的y轴最大距离,计算方式为:ds=max(y3-y1,y3-y2,y4-y3,y5-y3);
S2.3确定扩展因子k,以鼻子坐标为中心点,ds为扩展基准,在y轴方向扩展k·ds的距离为yup,ydown
4.根据权利要求3所述的一种基于人脸特征点修正人脸裁剪框的方法,其特征在于,所述S3,修正人脸裁剪框,进一步包括:
S3.1将裁剪上限扩展至眉毛上方,如果yup≤y′b0,则y′b0=yup
S3.2扩展裁剪下限,保证嘴角、下巴特征信息在裁剪框内,如果ydown≥2·y′b1,则y′b1=ydown
S3.3在人脸裁剪比例不合适时,适当扩展左右裁剪边界,令kw=((y′b1-y′b0)-(x′b1-x′b0))/ds;
如果kw>2.0,则x′b0=max(0,x′b0-kw*ds/4),x′b1=min(W,x′b1+kw*ds/4);
还包括S3.4填充黑边:
由于修正的人脸裁剪框不能保证图像的宽高相等,因此对修正框进行黑边填充处理。
5.根据权利要求1所述的一种卷积神经网络在量化过程前向推理降低精度损失方法,其特征在于,所述的S1.2中B′0(x′b0,y′b0),B′1(x′b1,y′b1)为输入模型的人脸裁剪框,具体的计算方法如下:
令w=xb1-xb0,h=yb1-yb0,Δw=h-w;
ifΔw≥0 then x′b0=xb0,x′b1=xb1,y′b0=yb0+Δw,y′b1=yb1
else
Figure FDA0002360836500000033
y′b0=yb0,y′b1=yb1
其中
Figure FDA0002360836500000032
分别为向下、向上取整符号。
6.根据权利要求1所述的一种基于人脸特征点修正人脸裁剪框的方法,其特征在于,所述的步骤S2.3中扩展因子k取值1.8-2.0。
7.根据权利要求1所述的一种基于人脸特征点修正人脸裁剪框的方法,其特征在于,所述的步骤S2.3中扩展k·ds的距离,具体扩展方式如下所示:
yup=max(0,y3-k·ds),
ydown=min(H,y3+k·ds)。
8.根据权利要求1所述的一种基于人脸特征点修正人脸裁剪框的方法,其特征在于,所述的步骤S3.4填充黑边的具体方法为:
(1),如果宽大于高,则在图像的下边缘填充黑边,黑边宽度为宽高差值;
(2),如果宽小于高,则在图像的右边缘填充黑边,黑边宽度为宽高差值;
(3),如果宽高相等,不需要进行黑边填充。
9.根据权利要求1所述的一种基于人脸特征点修正人脸裁剪框的方法,其特征在于,所述的S3.3,在人脸裁剪比例不合适时包括高大于宽一定阈值。
CN202010021311.1A 2020-01-09 2020-01-09 一种基于人脸特征点修正人脸裁剪框的方法 Active CN113111680B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202010021311.1A CN113111680B (zh) 2020-01-09 2020-01-09 一种基于人脸特征点修正人脸裁剪框的方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202010021311.1A CN113111680B (zh) 2020-01-09 2020-01-09 一种基于人脸特征点修正人脸裁剪框的方法

Publications (2)

Publication Number Publication Date
CN113111680A true CN113111680A (zh) 2021-07-13
CN113111680B CN113111680B (zh) 2023-12-12

Family

ID=76709820

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202010021311.1A Active CN113111680B (zh) 2020-01-09 2020-01-09 一种基于人脸特征点修正人脸裁剪框的方法

Country Status (1)

Country Link
CN (1) CN113111680B (zh)

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008225720A (ja) * 2007-03-12 2008-09-25 Fujifilm Corp 画像トリミング装置および方法並びにプログラム
CN109657526A (zh) * 2017-10-12 2019-04-19 飞狐信息技术(天津)有限公司 一种基于人脸识别的图片智能裁剪方法和系统
CN109685740A (zh) * 2018-12-25 2019-04-26 努比亚技术有限公司 人脸校正的方法及装置、移动终端及计算机可读存储介质
KR20190094709A (ko) * 2018-02-05 2019-08-14 주식회사 유어핏 얼굴 분석 장치 및 방법
CN110427795A (zh) * 2019-01-28 2019-11-08 厦门瑞为信息技术有限公司 一种基于头部照片的属性分析方法、系统和计算机设备
CN113095119A (zh) * 2020-01-09 2021-07-09 北京君正集成电路股份有限公司 一种修正人脸裁剪框的人脸识别系统

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008225720A (ja) * 2007-03-12 2008-09-25 Fujifilm Corp 画像トリミング装置および方法並びにプログラム
CN109657526A (zh) * 2017-10-12 2019-04-19 飞狐信息技术(天津)有限公司 一种基于人脸识别的图片智能裁剪方法和系统
KR20190094709A (ko) * 2018-02-05 2019-08-14 주식회사 유어핏 얼굴 분석 장치 및 방법
CN109685740A (zh) * 2018-12-25 2019-04-26 努比亚技术有限公司 人脸校正的方法及装置、移动终端及计算机可读存储介质
CN110427795A (zh) * 2019-01-28 2019-11-08 厦门瑞为信息技术有限公司 一种基于头部照片的属性分析方法、系统和计算机设备
CN113095119A (zh) * 2020-01-09 2021-07-09 北京君正集成电路股份有限公司 一种修正人脸裁剪框的人脸识别系统

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
刘亚竹: "人脸图像自动裁剪方法研究", 《中国优秀硕士学位论文全文数据库(电子期刊)》 *

Also Published As

Publication number Publication date
CN113111680B (zh) 2023-12-12

Similar Documents

Publication Publication Date Title
US11043011B2 (en) Image processing method, apparatus, terminal, and storage medium for fusing images of two objects
CN111428581B (zh) 人脸遮挡检测方法及系统
Sun et al. Face detection based on color and local symmetry information
JP3279913B2 (ja) 人物認証装置、特徴点抽出装置及び特徴点抽出方法
CN107403168B (zh) 一种面部识别系统
CN103914699B (zh) 一种基于色彩空间的自动唇彩的图像增强的方法
CN103839223B (zh) 图像处理方法及装置
US7835568B2 (en) Method and apparatus for image-based photorealistic 3D face modeling
CN109033940B (zh) 一种图像识别方法、装置、计算设备及存储介质
WO1994023390A1 (en) Apparatus for identifying person
CN110348496B (zh) 一种人脸图像融合的方法及系统
CN104992402A (zh) 一种美颜处理方法及装置
AU2020339292A1 (en) Facial image processing method and apparatus, image device, and storage medium
CN113160036B (zh) 一种保持脸型不变的图像换脸方法
KR101759188B1 (ko) 2d 얼굴 이미지로부터 3d 모델을 자동 생성하는 방법
CN113095119B (zh) 一种修正人脸裁剪框的人脸识别系统
JP2000311248A (ja) 画像処理装置
CN105678251A (zh) 人脸图像处理方法及装置
CN114270417A (zh) 能够更新注册人脸模板的人脸识别系统及方法
JP2000011143A (ja) 顔立ち認識システム
Escalera et al. Fast greyscale road sign model matching and recognition
US20060269128A1 (en) Image correction method and apparatus
Gasparini et al. Automatic red-eye removal for digital photography
CN113705466A (zh) 用于遮挡场景、尤其高仿遮挡下的人脸五官遮挡检测方法
CN113111680A (zh) 一种基于人脸特征点修正人脸裁剪框的方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant