CN105760834A - 一种人脸特征点定位方法 - Google Patents
一种人脸特征点定位方法 Download PDFInfo
- Publication number
- CN105760834A CN105760834A CN201610084995.3A CN201610084995A CN105760834A CN 105760834 A CN105760834 A CN 105760834A CN 201610084995 A CN201610084995 A CN 201610084995A CN 105760834 A CN105760834 A CN 105760834A
- Authority
- CN
- China
- Prior art keywords
- face
- eyebrow
- characteristic
- eye eyeball
- characteristic point
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/16—Human faces, e.g. facial parts, sketches or expressions
- G06V40/161—Detection; Localisation; Normalisation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/16—Human faces, e.g. facial parts, sketches or expressions
- G06V40/168—Feature extraction; Face representation
- G06V40/171—Local features and components; Facial parts ; Occluding parts, e.g. glasses; Geometrical relationships
Landscapes
- Engineering & Computer Science (AREA)
- Health & Medical Sciences (AREA)
- General Health & Medical Sciences (AREA)
- Physics & Mathematics (AREA)
- Oral & Maxillofacial Surgery (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Multimedia (AREA)
- Human Computer Interaction (AREA)
- Biomedical Technology (AREA)
- Software Systems (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- General Engineering & Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Mathematical Physics (AREA)
- Evolutionary Computation (AREA)
- Computational Linguistics (AREA)
- Biophysics (AREA)
- Artificial Intelligence (AREA)
- Life Sciences & Earth Sciences (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Image Analysis (AREA)
Abstract
本发明涉及一种人脸特征点定位方法,其包括以下步骤:将人脸划分为五个区域:左眼睛与左眉毛、右眼睛与右眉毛、鼻子、嘴和脸部外轮廓,并在整个人脸区域中设置特征点,使用一个卷积神经网络对所有特征点进行全部定位;使用四个卷积神经网络对整个人脸中左眼睛与左眉毛、右眼睛与右眉毛、鼻子以及嘴四个区域内包含的特征点进行局部定位;利用整个人脸中左眼睛与左眉毛、右眼睛与右眉毛、鼻子以及嘴四个区域内包含的特征点局部定位得到的位置坐标代替全部定位得到的相应区域特征点的位置坐标,得到所有特征点的最终位置坐标。本发明使用的网络数量较少,检测特征点数量多,而且不需要额外的脸部属性信息。
Description
技术领域
本发明属于图像识别技术领域,具体涉及一种人脸特征点定位方法。
背景技术
人脸特征点定位是在人脸检测基础上,进一步定位人脸的眼睛、眉毛、鼻子、嘴巴和轮廓等,其主要思想是利用特征点附近的信息以及各个特征点之间的相互关系来定位。目前,人脸特征点定位方法主要有以下三种:
第一种是基于级联卷积神经网络的脸部五点特征点检测算法,该算法使用了23个卷积神经网络组建级联系统,对脸部五个点进行位置定位,其缺点主要是由于对每一个特征点都使用一个网络进行位置的优化,导致如果将此算法用于194点的特征点定位,会使用大量的网络,使得整个系统十分复杂。
第二种是由粗到细级联网络的六十八点特征点检测算法,此算法使用了16个卷积神经网络对脸部的六十八个点进行定位,按照左眉毛、左眼睛、右眉毛、右眼睛、鼻子和嘴将脸部区域划分为六个部分,分别使用网络进行位置定位,缺点是划分的区域太细,导致使用了过多的网络,而且,定位的特征点数量较少,远少于194个点。
第三个是基于多任务学习与迁移学习的六十八点特征点检测算法,该算法使用了人脸的多个属性标签,比如性别、姿势、是否微笑等,将人脸的多个属性标签与特征点的位置一起进行模型的训练,同时使用迁移学习的方法,从检测五个特征点的模型迁移到可以检测六十八个点的模型,缺点是需要使用额外的标注信息,同时模型的训练由于使用了迁移学习与多任务学习,十分复杂,此外,该算法没有对194点进行定位。
发明内容
为了解决现有技术存在的上述问题,本发明提供了一种人脸特征点定位方法。
为实现上述目的,本发明采取以下技术方案:一种人脸特征点定位方法包括以下步骤:
1)将人脸划分为五个区域:左眼睛与左眉毛、右眼睛与右眉毛、鼻子、嘴和脸部外轮廓,并在整个人脸区域中设置特征点,使用一个卷积神经网络对所有特征点进行定位,得到特征点的位置坐标并将其作为初始位置坐标,对不同的人脸区域的特征点进行分组;
2)分别计算整个人脸中左眼睛与左眉毛、右眼睛与右眉毛、鼻子以及嘴四个区域内包含的特征点的横坐标的平均值和纵坐标的平均值;
将横坐标的平均值和纵坐标的平均值作为所在人脸区域的中心坐标点,以所述中心坐标点为中心,截取出包含所述人脸区域的一个正方形区域;
再分别使用一个卷积神经网络重新对左眼睛与左眉毛、右眼睛与右眉毛、鼻子以及嘴四个区域中截取的所述正方形区域内的所有特征点进行位置定位;
3)利用位置定位后新得到的特征点的位置坐标替换步骤1)中对应的特征点的坐标,生成所有的特征点的最终位置坐标。
进一步地,所述特征点的数量设置为194个,在左眼睛与左眉毛区域设置40个特征点,在右眼睛与右眉毛区域设置40个特征点,在鼻子区域设置17个特征点,在嘴区域设置56个特征点,在脸部外轮廓区域设置41个特征点。
本发明由于采取以上技术方案,其具有以下优点:本发明人脸特征点定位方法通过使用合理的脸部区域划分方法,只需要五个卷积神经网络,就可以实现对194个特征点的定位,其使用的网络数量较少,检测特征点数量多,而且不需要额外的脸部属性信息。
附图说明
图1是本发明一实施例中提供的人脸特征点定位方法的流程图;
图2是本发明一实施例中提供的194个特征点的具体位置示意图;
图3是本发明一实施例中提供的级联卷积神经网络框图。
具体实施方式
下面结合附图和实施例对本发明进行详细的描述。
如图1所示,本发明提供了一种人脸特征点定位方法,其包括以下步骤:
1)将整个人脸分为五个区域:左眼睛与左眉毛,右眼睛与右眉毛,鼻子,嘴,脸部外轮廓。其中,左眼睛与左眉毛共包含40个特征点,右眼睛与右眉毛共包含40个特征点,鼻子包含17个特征点,嘴包含56个特征点,脸部外轮廓包含41个特征点,则整个人脸区域中包含194个特征点。
对输入的人脸区域中的194个特征点进行定位,做法是使用一个卷积神经网络进行回归分析,即使用整张人脸作为卷积神经网络的输入,设置卷积神经网络的输出为388个节点,每两个节点对应一个特征点的位置坐标,即一个特征点的位置坐标用横坐标和纵坐标表示,得到194个特征点的位置坐标;以这些位置坐标作为初始位置坐标,对不同的人脸区域的特征点进行分组。
2)分别计算整个人脸中左眼睛与左眉毛、右眼睛与右眉毛、鼻子以及嘴四个区域内包含的特征点的横坐标的平均值和纵坐标的平均值;
将横坐标的平均值和纵坐标的平均值作为所在人脸区域的中心坐标点,以这个中心坐标点为中心,截取出包含该人脸区域的一个正方形区域;
再分别使用一个卷积神经网络重新对左眼睛与左眉毛、右眼睛与右眉毛、鼻子以及嘴四个区域中截取的正方形区域内的所有特征点进行位置定位。
3)对人脸中左眼睛与左眉毛、右眼睛与右眉毛、鼻子以及嘴四个区域内所有特征点进行重新定位后,利用新得到的特征点的位置坐标替换步骤1)中对应的特征点的坐标,生成所有的194个特征点的最终位置坐标。
本发明通过级联卷积神经网络对人脸区域内194个特征点进行检测,在使用较少的网络数量的情况下实现对194个特征点的检测。本发明的好处在于使用五个卷积神经网络就实现了194个特征点的定位,同时不需要额外的人脸属性信息。
如图2所示,194个特征点位置的详细信息为:编号从0到40的点是外轮廓的特征点,编号从41到57的点则是鼻子的特征点,编号从58到113的点是嘴部的特征点,编号从114到133的点是右眼睛的特征点,编号从154到173的点是右眉毛的特征点,编号从134到153的点是左眼睛的特征点,编号从174到193的点是左眉毛的特征点。
使用的级联卷积神经网络框图如图3所示,整个系统包含一个对全部194个特征点进行定位的初始化卷积神经网络,以及针对左眼睛与左眉毛,右眼睛与右眉毛,鼻子和嘴四个部分的局部定位卷积神经网络。其中,初始化卷积神经网络使用整张人脸作为输入,给出全部194个特征点的初始位置,好处有两点,一是使用整张人脸作为输入可以提取出更全局的特征信息,二是由于同时对194个特征点进行定位,可以将特征点与特征点之间的约束关系潜在的嵌入到模型中去。关于四个局部定位卷积神经网络,使用初始化卷积神经网络的输出结果,将对应的脸部区域进行截取后作为输入,在局部区域内,对相应的特征点进行重新定位,这样做的好处主要是局部区域比整张脸包含更细节的信息,可以定位得更精确。实例结果说明,通过使用合理的脸部区域划分方法,只需要五个卷积神经网络,就可以实现对194个特征点的定位。
本发明不局限于上述最佳实施方式,本领域技术人员在本发明的启示下都可得出其他各种形式的产品,但不论在其形状或结构上作任何变化,凡是具有与本申请相同或相近似的技术方案,均落在本发明的保护范围之内。
Claims (2)
1.一种人脸特征点定位方法,其包括以下步骤:
1)将人脸划分为五个区域:左眼睛与左眉毛、右眼睛与右眉毛、鼻子、嘴和脸部外轮廓,并在整个人脸区域中设置特征点,使用一个卷积神经网络对所有特征点进行定位,得到特征点的位置坐标并将其作为初始位置坐标,对不同的人脸区域的特征点进行分组;
2)分别计算整个人脸中左眼睛与左眉毛、右眼睛与右眉毛、鼻子以及嘴四个区域内包含的特征点的横坐标的平均值和纵坐标的平均值;
将横坐标的平均值和纵坐标的平均值作为所在人脸区域的中心坐标点,以所述中心坐标点为中心,截取出包含所述人脸区域的一个正方形区域;
再分别使用一个卷积神经网络重新对左眼睛与左眉毛、右眼睛与右眉毛、鼻子以及嘴四个区域中截取的所述正方形区域内的所有特征点进行位置定位;
3)利用左眼睛与左眉毛、右眼睛与右眉毛、鼻子以及嘴四个区域中特征点位置定位后新得到的位置坐标替换步骤1)中对应的特征点的坐标,生成所有的特征点的最终位置坐标。
2.如权利要求1所述的一种人脸特征点定位方法,其特征在于:所述特征点的数量设置为194个,在左眼睛与左眉毛区域设置40个特征点,在右眼睛与右眉毛区域设置40个特征点,在鼻子区域设置17个特征点,在嘴区域设置56个特征点,在脸部外轮廓区域设置41个特征点。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201610084995.3A CN105760834A (zh) | 2016-02-14 | 2016-02-14 | 一种人脸特征点定位方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201610084995.3A CN105760834A (zh) | 2016-02-14 | 2016-02-14 | 一种人脸特征点定位方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN105760834A true CN105760834A (zh) | 2016-07-13 |
Family
ID=56330024
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201610084995.3A Pending CN105760834A (zh) | 2016-02-14 | 2016-02-14 | 一种人脸特征点定位方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN105760834A (zh) |
Cited By (13)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106203376A (zh) * | 2016-07-19 | 2016-12-07 | 北京旷视科技有限公司 | 人脸关键点定位方法及装置 |
CN106548179A (zh) * | 2016-09-29 | 2017-03-29 | 北京市商汤科技开发有限公司 | 物体和服饰关键点的检测方法、装置和电子设备 |
CN106845395A (zh) * | 2017-01-19 | 2017-06-13 | 北京飞搜科技有限公司 | 一种基于人脸识别进行活体检测的方法 |
CN106897669A (zh) * | 2017-01-19 | 2017-06-27 | 同济大学 | 一种基于一致迭代多视角迁移学习的行人再辨识方法 |
CN107808129A (zh) * | 2017-10-17 | 2018-03-16 | 南京理工大学 | 一种基于单个卷积神经网络的面部多特征点定位方法 |
CN107871099A (zh) * | 2016-09-23 | 2018-04-03 | 北京眼神科技有限公司 | 人脸定位方法和装置 |
CN107886070A (zh) * | 2017-11-10 | 2018-04-06 | 北京小米移动软件有限公司 | 人脸图像的验证方法、装置及设备 |
CN108596011A (zh) * | 2017-12-29 | 2018-09-28 | 中国电子科技集团公司信息科学研究院 | 一种基于组合深度网络的人脸属性识别方法和装置 |
CN108764248A (zh) * | 2018-04-18 | 2018-11-06 | 广州视源电子科技股份有限公司 | 图像特征点的提取方法和装置 |
CN108875462A (zh) * | 2017-05-16 | 2018-11-23 | 丽宝大数据股份有限公司 | 眉毛造型指引装置及其方法 |
CN109300170A (zh) * | 2018-10-18 | 2019-02-01 | 云南大学 | 肖像照片光影传递方法 |
CN110222685A (zh) * | 2019-05-16 | 2019-09-10 | 华中科技大学 | 一种基于两阶段的服装关键点定位方法和系统 |
CN111209873A (zh) * | 2020-01-09 | 2020-05-29 | 杭州趣维科技有限公司 | 一种基于深度学习的高精度人脸关键点定位方法及系统 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20110222724A1 (en) * | 2010-03-15 | 2011-09-15 | Nec Laboratories America, Inc. | Systems and methods for determining personal characteristics |
CN104268591A (zh) * | 2014-09-19 | 2015-01-07 | 海信集团有限公司 | 一种面部关键点检测方法及装置 |
US20150139485A1 (en) * | 2013-11-15 | 2015-05-21 | Facebook, Inc. | Pose-aligned networks for deep attribute modeling |
CN105117692A (zh) * | 2015-08-05 | 2015-12-02 | 福州瑞芯微电子股份有限公司 | 一种基于深度学习的实时人脸识别方法及系统 |
-
2016
- 2016-02-14 CN CN201610084995.3A patent/CN105760834A/zh active Pending
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20110222724A1 (en) * | 2010-03-15 | 2011-09-15 | Nec Laboratories America, Inc. | Systems and methods for determining personal characteristics |
US20150139485A1 (en) * | 2013-11-15 | 2015-05-21 | Facebook, Inc. | Pose-aligned networks for deep attribute modeling |
CN104268591A (zh) * | 2014-09-19 | 2015-01-07 | 海信集团有限公司 | 一种面部关键点检测方法及装置 |
CN105117692A (zh) * | 2015-08-05 | 2015-12-02 | 福州瑞芯微电子股份有限公司 | 一种基于深度学习的实时人脸识别方法及系统 |
Non-Patent Citations (3)
Title |
---|
ERJIN ZHOU ET AL: "Extensive Facial Landmark Localization with Coarse-to-fine Convolutional Network Cascade", 《2013 IEEE INTERNATIONAL CONFERENCE ON COMPUTER VISION WORKSHOPS》 * |
LE VUONG ET AL: "Interactive facial feature localization", 《EUROPEAN CONFERENCE ON COMPUTER VISION》 * |
杨海燕 等: "基于并行卷积神经网络的人脸关键点定位方法研究", 《计算机应用研究》 * |
Cited By (18)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106203376A (zh) * | 2016-07-19 | 2016-12-07 | 北京旷视科技有限公司 | 人脸关键点定位方法及装置 |
CN106203376B (zh) * | 2016-07-19 | 2020-04-10 | 北京旷视科技有限公司 | 人脸关键点定位方法及装置 |
CN107871099A (zh) * | 2016-09-23 | 2018-04-03 | 北京眼神科技有限公司 | 人脸定位方法和装置 |
CN106548179A (zh) * | 2016-09-29 | 2017-03-29 | 北京市商汤科技开发有限公司 | 物体和服饰关键点的检测方法、装置和电子设备 |
CN106548179B (zh) * | 2016-09-29 | 2019-09-17 | 北京市商汤科技开发有限公司 | 物体和服饰关键点的检测方法、装置和电子设备 |
CN106845395A (zh) * | 2017-01-19 | 2017-06-13 | 北京飞搜科技有限公司 | 一种基于人脸识别进行活体检测的方法 |
CN106897669A (zh) * | 2017-01-19 | 2017-06-27 | 同济大学 | 一种基于一致迭代多视角迁移学习的行人再辨识方法 |
CN106897669B (zh) * | 2017-01-19 | 2019-12-27 | 同济大学 | 一种基于一致迭代多视角迁移学习的行人再辨识方法 |
CN108875462A (zh) * | 2017-05-16 | 2018-11-23 | 丽宝大数据股份有限公司 | 眉毛造型指引装置及其方法 |
CN107808129A (zh) * | 2017-10-17 | 2018-03-16 | 南京理工大学 | 一种基于单个卷积神经网络的面部多特征点定位方法 |
CN107808129B (zh) * | 2017-10-17 | 2021-04-16 | 南京理工大学 | 一种基于单个卷积神经网络的面部多特征点定位方法 |
CN107886070A (zh) * | 2017-11-10 | 2018-04-06 | 北京小米移动软件有限公司 | 人脸图像的验证方法、装置及设备 |
CN108596011A (zh) * | 2017-12-29 | 2018-09-28 | 中国电子科技集团公司信息科学研究院 | 一种基于组合深度网络的人脸属性识别方法和装置 |
CN108764248A (zh) * | 2018-04-18 | 2018-11-06 | 广州视源电子科技股份有限公司 | 图像特征点的提取方法和装置 |
CN108764248B (zh) * | 2018-04-18 | 2021-11-02 | 广州视源电子科技股份有限公司 | 图像特征点的提取方法和装置 |
CN109300170A (zh) * | 2018-10-18 | 2019-02-01 | 云南大学 | 肖像照片光影传递方法 |
CN110222685A (zh) * | 2019-05-16 | 2019-09-10 | 华中科技大学 | 一种基于两阶段的服装关键点定位方法和系统 |
CN111209873A (zh) * | 2020-01-09 | 2020-05-29 | 杭州趣维科技有限公司 | 一种基于深度学习的高精度人脸关键点定位方法及系统 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN105760834A (zh) | 一种人脸特征点定位方法 | |
CN107103613B (zh) | 一种三维手势姿态估计方法 | |
CN108985181B (zh) | 一种基于检测分割的端对端人脸标注方法 | |
CN104715493B (zh) | 一种运动人体姿态估计的方法 | |
CN105046219B (zh) | 一种人脸识别系统 | |
CN106055091B (zh) | 一种基于深度信息和校正方式的手部姿态估计方法 | |
US11403874B2 (en) | Virtual avatar generation method and apparatus for generating virtual avatar including user selected face property, and storage medium | |
CN104463152B (zh) | 一种手势识别方法、系统、终端设备及穿戴式设备 | |
CN104766059B (zh) | 快速精确的人眼定位方法及基于人眼定位的视线估计方法 | |
CN107038429A (zh) | 一种基于深度学习的多任务级联人脸对齐方法 | |
CN107168527A (zh) | 基于区域卷积神经网络的第一视角手势识别与交互方法 | |
JP7015152B2 (ja) | キーポイントデータに関する加工装置、方法及びプログラム | |
KR20230150397A (ko) | 눈 포즈 측정을 사용한 눈꺼풀 형상 추정 | |
CN110188701A (zh) | 基于人体关键节点预测的服饰识别方法、系统及终端 | |
CN110232379A (zh) | 一种车辆姿态检测方法及系统 | |
CN106295584A (zh) | 深度迁移学习在人群属性的识别方法 | |
CN112970047A (zh) | 用于使用产品描述自动生成三维虚拟服装模型的系统和方法 | |
CN104821010A (zh) | 基于双目视觉的人手三维信息实时提取方法及系统 | |
CN105868716A (zh) | 一种基于面部几何特征的人脸识别方法 | |
Cui et al. | SDF-SLAM: Semantic depth filter SLAM for dynamic environments | |
CN110096925A (zh) | 人脸表情图像的增强方法、获取方法和装置 | |
CN110288715B (zh) | 虚拟项链试戴方法、装置、电子设备及存储介质 | |
CN105631420A (zh) | 一种基于3d骨架的多视角室内人体行为识别方法 | |
CN105426882B (zh) | 一种人脸图像中快速定位人眼的方法 | |
CN107766851A (zh) | 一种人脸关键点定位方法及定位装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
RJ01 | Rejection of invention patent application after publication |
Application publication date: 20160713 |
|
RJ01 | Rejection of invention patent application after publication |