CN105718913A - 一种鲁棒的人脸特征点定位方法 - Google Patents

一种鲁棒的人脸特征点定位方法 Download PDF

Info

Publication number
CN105718913A
CN105718913A CN201610054766.7A CN201610054766A CN105718913A CN 105718913 A CN105718913 A CN 105718913A CN 201610054766 A CN201610054766 A CN 201610054766A CN 105718913 A CN105718913 A CN 105718913A
Authority
CN
China
Prior art keywords
shape
characteristic point
feature
shapes
probability
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201610054766.7A
Other languages
English (en)
Other versions
CN105718913B (zh
Inventor
尚凌辉
高勇
郝丽
林国锡
张兆生
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
ZHEJIANG ICARE VISION TECHNOLOGY Co Ltd
Original Assignee
ZHEJIANG ICARE VISION TECHNOLOGY Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by ZHEJIANG ICARE VISION TECHNOLOGY Co Ltd filed Critical ZHEJIANG ICARE VISION TECHNOLOGY Co Ltd
Priority to CN201610054766.7A priority Critical patent/CN105718913B/zh
Publication of CN105718913A publication Critical patent/CN105718913A/zh
Application granted granted Critical
Publication of CN105718913B publication Critical patent/CN105718913B/zh
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/161Detection; Localisation; Normalisation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/168Feature extraction; Face representation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/172Classification, e.g. identification

Abstract

本发明涉及一种鲁棒的人脸特征点定位方法。本发明首先建立人脸照片训练样本库,设定训练集中形状概率分布为均匀分布,根据概率分布选取多个形状作为初始化形状。其次在训练样本库中的每个样本随机选取多个初始化形状,提取形状在图像中的特征,利用级联回归方法学习回归模型;根据回归模型逐层来调整形状残差,从而得到多个回归形状。然后计算多个回归形状中各自的权重,由多个回归形状和对应的权重来估计子区域的中心。最后根据子区域的中心来估计子区域中形状的概率分布。对概率升序排列,选取前<i>N</i><i>l</i>个概率所对应的形状作为算法中初始化形状。本发明减少了初始化对定位的影响,增强了特征点定位的鲁棒性。

Description

一种鲁棒的人脸特征点定位方法
技术领域
本发明属于计算机视觉技术领域,涉及一种鲁棒的人脸特征点定位方法。
背景技术
人脸特征点定位可以通过计算机在一副人脸图像中自动地定位出人脸轮廓和器官的准确位置信息,是人脸识别、表情识别和人脸属性分析等等领域中的技术基础,特征点定位的准确率会直接影响到后续工作的可靠性。
人脸特征点定位方法主要分为:基于统计形状模型方法和基于级联回归的方法。其中基于级联回归的方法(例如SDM,LBF等等)在近年来的特征点定位方面取得了非常显著的成果。SDM(superviseddecentmethod)是采用平均脸初始化,然后提取非线性的SIFT特征,利用线性回归来解决非线性最小二乘优化问题。LBF(LocalBinaryFeatures)是在训练样本集中随机初始化,然后学习随机森林的局部二值特征,利用局部二值特征来学习线性回归模型。
专利号为201310189786.1的“一种人脸特征点定位方法及装置”和专利号为201410268298.4的“一种人脸特征点定位方法和装置”都是基于ASM算法的特征点定位,ASM算法首先针对若干人脸图像建立平均形状模型,然后建立形状模型中每个特征点附近的灰度模型,最后利用灰度模型在目标图像中搜索特征点的最佳位置,并根据搜索结果调整平均形状模型,使调整后的形状模型与目标图像中的人脸形状匹配。
专利号为201510641854.2的“一种人脸特征点定位方法和装置”是基于SDM的特征点行为。这些现有相关技术和方法有个共同的不足之处:定位准确率非常依赖初始化形状。如果初始化的形状靠近目标形状时,级联回归法能快速且准确地找到所有特征点;但是当初始化形状与目标形状相差较大时,在后续的级联迭代过程中不可能完全调整形状差异,最终导致陷入局部最优,影响到特征点定位的准确率。
发明内容
为了解决现有技术中传统的级联回归方法中人脸特征点定位的准确率受初始化位置影响这个问题,本发明提供了一种人脸特征点定位方法,该方法可以显著地提高人脸特征点定位的准确性。
本发明方法包括以下步骤:
步骤1、建立人脸照片训练样本库。
步骤2、设定训练集中形状概率分布为均匀分布。
步骤3、根据概率分布选取Nl个形状作为初始化形状。
步骤4、在训练样本库中的每个样本随机选取Nl个初始化形状,提取形状在图像中的特征,利用级联回归方法学习回归模型。
步骤5、根据回归模型逐层来调整形状残差,从而得到Nl个回归形状。
步骤6、计算Nl个回归形状中各自的权重。
步骤7、由Nl个回归形状和对应的权重来估计子区域的中心。
步骤8、根据子区域的中心来估计子区域中形状的概率分布。
步骤9、对概率升序排列,选取前Nl个概率所对应的形状作为算法中初始化形状。跳到步骤4开始迭代,直到收敛结束。
本发明的有益效果:本发明在初始化特征点时采用先粗后精搜索方法,通过探索整个形状空间来初始化并不断优化形状空间的子区域,然后在收敛的子区域中估计特征点位置信息。相比较锁定在某一个特定的初始点,能够容纳并考虑了不同的姿态变化(例如头部姿态和脸部轮廓),减少了初始化对定位的影响,增强了特征点定位的鲁棒性。与现有技术相比较,明显的提高特征点定位准确率。
附图说明
图1为本发明方法流程图。
具体实施方式
以下结合实施例和附图对本发明作进一步说明:
1、建立人脸照片训练样本库A,假设样本库里面包含N张照片本,且每一张照片为一个训练集,Xi(i=1,2,...N)为每个训练集的标定形状,记其中n表示标定特征点个数,表示第i个样本中第j个特征点的横纵坐标
2、设定训练集中形状概率分布为均匀分布。
3、根据概率分布选取Nl个形状作为初始化形状Nl≤N。
4、在训练样本库中的每个样本随机选取Nl个形状作为学习回归器的训练集,来学习线性回归器。其中表示第i个样本的第j个初始化形状。
(1)学习局部二值特征
使用基于回归的随机森林去归纳二值特征,其中树的节点利用两个像素的像素差特征来训练。
(2)学习全局线性回归Wt
利用训练好的随机森林能够学习到当前形状的局部二值特征,由局部二值特征组合成全局特征用线性回归方法得到全局线性回归模型Wt;t=1,2,…,T。其中线性回归方法是指每次迭代的形状增量与特征向量(提取当前形状在图像中的特征)成线性关系。这样通过回归模型一级一级估计形状增量进阶式地调整形状残差:
&Delta;X t i j = W t ( &phi; ( I ; X t i j ) )
其中是第t次的形状增量,Wt是第t次的回归模型,是对形状在图像I中提取的特征,T是线性回归次数。
5、根据回归模型Wt逐层来调整形状残差,从而得到Nl个回归形状:
X t + 1 i j = X t i j + W t ( &phi; ( I ; X t i j ) )
其中表示初始化形状在图像中的二值特征。
6、计算Nl个回归形状中各自的权重Wij
(1)计算回归形状两两之间的距离apq;p,q∈(1,2,...Nl):
a p q = s i m ( X T i p , X T i q ) = exp ( - | | X T i p - X T i q | | 2 2 ) , p &NotEqual; q 0 , p = q
其中分别表示第p、q个回归形状。
(2)由apq组成一个Nl*Nl的二维矩阵A,并初始化Wi(0)(Wi(0)为一个Nl维的列向量,值全部为1/Nl),迭代L次后得到Nl个回归形状的权重Wij
其中°表示矩阵中对应元素相乘
7、由Nl个回归形状和对应的权重来估计子区域的中心
X &OverBar; i = &Sigma; j = 1 N l w i j X T i j
8、根据子区域的中心来估计子区域中形状的概率分布p:
(1)在标定好的特征点Xi中选取除轮廓外区域R中的m个特征点(j∈R),提取每个特征点的sift特征作为特征点的局部纹理特征来训练m个局部特征分类器。
(2)利用最近邻域法,在样本库Xi中为每个特征点xj选出K个与中心点最近和最远的样本,取这些样本中xj作为该特征点的代表点。其中为Xi中第j个特征点xj的坐标均值。
(3)选择对应的局部特征分类器来判定子区域的中心中m个特征点的分类情况,如果当前特征点为正样本:如果是负样本:分别判定的K个代表点的分类情况和置信度,归一化置信度作为权重重新得到中心坐标, p = e - 1 2 * &gamma; * ( &Delta;x 2 + &Delta;y 2 ) .
其中Δx和Δy为中心的横坐标和纵坐标与训练集中所有样本X*的差,γ为概率参数。
(4)在子区域的中心中选取轮廓点上的n个特征点,分别计算每个特征点的概率: p = e - 1 2 * &gamma; * ( &Delta;x 2 + &Delta;y 2 )
(5)由上面m和n个特征点的概率相乘后归一化计算得到概率分布。
9、对概率升序排列,选取前Nl个概率所对应的形状作为初始化形状。跳到步骤4开始迭代,直到收敛结束。从而完成人脸特征点定位。
以上所述,仅为本发明的较佳实施例而已,并非用于限定本发明的保护范围,应带理解,本发明并不限于这里所描述的实现方案,这些实现方案描述的目的在于帮助本领域中的技术人员实践本发明。

Claims (4)

1.一种鲁棒的人脸特征点定位方法,其特征在于该方法包括以下步骤:
步骤1、建立人脸照片训练样本库;
步骤2、设定训练集中形状概率分布为均匀分布;
步骤3、根据概率分布选取Nl个形状作为初始化形状;
步骤4、在训练样本库中的每个样本随机选取Nl个初始化形状,提取形状在图像中的特征,利用级联回归方法学习回归模型;
步骤5、根据回归模型逐层来调整形状残差,从而得到Nl个回归形状;
步骤6、计算Nl个回归形状中各自的权重;
步骤7、由Nl个回归形状和对应的权重来估计子区域的中心;
步骤8、根据子区域的中心来估计子区域中形状的概率分布;
步骤9、对概率升序排列,选取前Nl个概率所对应的形状作为算法中初始化形状;跳转至步骤4开始迭代,直到收敛结束,从而完成人脸特征点定位。
2.根据权利要求1所述的一种鲁棒的人脸特征点定位方法,其特征在于:步骤4具体是:
(1)学习局部二值特征
使用基于回归的随机森林去归纳二值特征,其中树的节点利用两个像素的像素差特征来训练;
(2)学习全局线性回归Wt
利用训练好的随机森林能够学习到当前形状的局部二值特征,由局部二值特征组合成全局特征用线性回归方法得到全局线性回归模型Wt;t=1,2,…,T;其中线性回归方法是指每次迭代的形状增量与特征向量成线性关系;这样通过回归模型一级一级估计形状增量进阶式地调整形状残差:
&Delta;X t i j = W t ( &phi; ( I ; X t i j ) )
其中是第t次的形状增量,Wt是第t次的回归模型,是对形状在图像I中提取的特征,T是线性回归次数。
3.根据权利要求1所述的一种鲁棒的人脸特征点定位方法,其特征在于:步骤6具体是:
(1)计算回归形状两两之间的距离apq;p,q∈(1,2,...Nl):
a p q = s i m ( X T i p , X T i q ) = exp ( - | | X T i p - X T i q | | 2 2 ) , p &NotEqual; q 0 , p = q
其中分别表示第p、q个回归形状;
(2)由apq组成一个Nl*Nl的二维矩阵A,并初始化Wi(0),Wi(0)为一个Nl维的列向量,值全部为1/Nl,迭代L次后得到Nl个回归形状的权重Wij
其中°表示矩阵中对应元素相乘。
4.根据权利要求1所述的一种鲁棒的人脸特征点定位方法,其特征在于:步骤8具体是;
(1)在标定好的特征点Xi中选取除轮廓外区域R中的m个特征点j∈R,提取每个特征点的sift特征作为特征点的局部纹理特征来训练m个局部特征分类器;
(2)利用最近邻域法,在样本库Xi中为每个特征点xj选出K个与中心点最近和最远的样本,取这些样本中xj作为该特征点的代表点;其中为Xi中第j个特征点xj的坐标均值;
(3)选择对应的局部特征分类器来判定子区域的中心中m个特征点的分类情况,如果当前特征点为正样本:如果是负样本:分别判定的K个代表点的分类情况和置信度,归一化置信度作为权重重新得到中心坐标, p = e - 1 2 * &gamma; * ( &Delta;x 2 + &Delta;y 2 ) ;
其中Δx和Δy为中心的横坐标和纵坐标与训练集中所有样本X*的差,γ为概率参数,p为概率形状;
(4)在子区域的中心中选取轮廓点上的n个特征点,分别计算每个特征点的概率: p = e - 1 2 * &gamma; * ( &Delta;x 2 + &Delta;y 2 )
(5)由上面m和n个特征点的概率相乘后归一化计算得到概率分布。
CN201610054766.7A 2016-01-26 2016-01-26 一种鲁棒的人脸特征点定位方法 Expired - Fee Related CN105718913B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201610054766.7A CN105718913B (zh) 2016-01-26 2016-01-26 一种鲁棒的人脸特征点定位方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201610054766.7A CN105718913B (zh) 2016-01-26 2016-01-26 一种鲁棒的人脸特征点定位方法

Publications (2)

Publication Number Publication Date
CN105718913A true CN105718913A (zh) 2016-06-29
CN105718913B CN105718913B (zh) 2018-11-02

Family

ID=56154260

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201610054766.7A Expired - Fee Related CN105718913B (zh) 2016-01-26 2016-01-26 一种鲁棒的人脸特征点定位方法

Country Status (1)

Country Link
CN (1) CN105718913B (zh)

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106446766A (zh) * 2016-07-25 2017-02-22 浙江工业大学 一种视频中人脸特征点的稳定检测方法
CN106485214A (zh) * 2016-09-28 2017-03-08 天津工业大学 一种基于卷积神经网络的眼睛和嘴部状态识别方法
CN108309311A (zh) * 2018-03-27 2018-07-24 北京华纵科技有限公司 一种列车驾驶员实时盹睡检测装置及检测算法
WO2018214713A1 (zh) * 2017-05-22 2018-11-29 腾讯科技(深圳)有限公司 人脸检测方法、装置、计算机设备及存储介质
CN109063584A (zh) * 2018-07-11 2018-12-21 深圳大学 基于级联回归的面部特征点定位方法、装置、设备及介质
CN109522871A (zh) * 2018-12-04 2019-03-26 北京大生在线科技有限公司 一种基于随机森林的人脸轮廓定位方法及系统
CN109784147A (zh) * 2018-12-05 2019-05-21 北京达佳互联信息技术有限公司 关键点检测方法、装置、电子设备及存储介质
CN110543845A (zh) * 2019-08-29 2019-12-06 四川大学 一种三维人脸的人脸级联回归模型训练方法及重建方法

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103632129A (zh) * 2012-08-28 2014-03-12 腾讯科技(深圳)有限公司 一种人脸特征点定位方法及装置
CN104091148A (zh) * 2014-06-16 2014-10-08 联想(北京)有限公司 一种人脸特征点定位方法和装置
CN105160312A (zh) * 2015-08-27 2015-12-16 南京信息工程大学 基于人脸相似度匹配的明星脸装扮推荐方法

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103632129A (zh) * 2012-08-28 2014-03-12 腾讯科技(深圳)有限公司 一种人脸特征点定位方法及装置
CN104091148A (zh) * 2014-06-16 2014-10-08 联想(北京)有限公司 一种人脸特征点定位方法和装置
CN105160312A (zh) * 2015-08-27 2015-12-16 南京信息工程大学 基于人脸相似度匹配的明星脸装扮推荐方法

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
石正权等: "基于CPR和CLM的多视角人脸特征点定位方法", 《计算机技术与发展》 *

Cited By (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106446766A (zh) * 2016-07-25 2017-02-22 浙江工业大学 一种视频中人脸特征点的稳定检测方法
CN106485214A (zh) * 2016-09-28 2017-03-08 天津工业大学 一种基于卷积神经网络的眼睛和嘴部状态识别方法
WO2018214713A1 (zh) * 2017-05-22 2018-11-29 腾讯科技(深圳)有限公司 人脸检测方法、装置、计算机设备及存储介质
US11080565B2 (en) 2017-05-22 2021-08-03 Tencent Technology (Shenzhen) Company Limited Face detection method and apparatus, computer device, and storage medium
US11816925B2 (en) 2017-05-22 2023-11-14 Tencent Technology (Shenzhen) Company Limited Face detection method and apparatus, computer device, and storage medium
CN108309311A (zh) * 2018-03-27 2018-07-24 北京华纵科技有限公司 一种列车驾驶员实时盹睡检测装置及检测算法
CN109063584A (zh) * 2018-07-11 2018-12-21 深圳大学 基于级联回归的面部特征点定位方法、装置、设备及介质
CN109522871A (zh) * 2018-12-04 2019-03-26 北京大生在线科技有限公司 一种基于随机森林的人脸轮廓定位方法及系统
CN109522871B (zh) * 2018-12-04 2022-07-12 北京大生在线科技有限公司 一种基于随机森林的人脸轮廓定位方法及系统
CN109784147A (zh) * 2018-12-05 2019-05-21 北京达佳互联信息技术有限公司 关键点检测方法、装置、电子设备及存储介质
CN110543845A (zh) * 2019-08-29 2019-12-06 四川大学 一种三维人脸的人脸级联回归模型训练方法及重建方法

Also Published As

Publication number Publication date
CN105718913B (zh) 2018-11-02

Similar Documents

Publication Publication Date Title
CN105718913A (zh) 一种鲁棒的人脸特征点定位方法
US20220392234A1 (en) Training neural networks for vehicle re-identification
US9928405B2 (en) System and method for detecting and tracking facial features in images
CN103824050B (zh) 一种基于级联回归的人脸关键点定位方法
US11763485B1 (en) Deep learning based robot target recognition and motion detection method, storage medium and apparatus
CN108647583B (zh) 一种基于多目标学习的人脸识别算法训练方法
US10943352B2 (en) Object shape regression using wasserstein distance
CN113033520B (zh) 一种基于深度学习的树木线虫病害木识别方法及系统
CN105631436A (zh) 基于随机森林的级联位置回归用于人脸对齐的方法
CN106326886A (zh) 基于卷积神经网络的手指静脉图像质量评估方法及评估系统
CN105809198A (zh) 基于深度置信网络的sar图像目标识别方法
US20210192271A1 (en) Method and Apparatus for Pose Planar Constraining on the Basis of Planar Feature Extraction
US9129152B2 (en) Exemplar-based feature weighting
CN111461213B (zh) 一种目标检测模型的训练方法、目标快速检测方法
CN101964060B (zh) 基于局部纹理特征的sar变体目标识别方法
CN107862680B (zh) 一种基于相关滤波器的目标跟踪优化方法
CN109255339B (zh) 基于自适应深度森林人体步态能量图的分类方法
CN109766752B (zh) 一种基于深度学习的目标匹配和定位方法及系统、计算机
CN111832404B (zh) 一种基于特征生成网络的小样本遥感地物分类方法及系统
CN116052025A (zh) 一种基于孪生网络的无人机视频图像小目标跟踪方法
CN106971176A (zh) 基于稀疏表示的红外人体目标跟踪方法
WO2015176502A1 (zh) 一种图像特征的估计方法和设备
CN113095417B (zh) 基于融合图卷积和卷积神经网络的sar目标识别方法
CN110472092B (zh) 一种街景图片的地理定位方法及系统
CN113723482B (zh) 基于多示例孪生网络的高光谱目标检测方法

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant
PE01 Entry into force of the registration of the contract for pledge of patent right

Denomination of invention: Robust face characteristic point positioning method

Effective date of registration: 20190821

Granted publication date: 20181102

Pledgee: Hangzhou Yuhang Small and Medium-sized Enterprise Transfer Service Co.,Ltd.

Pledgor: ZHEJIANG ICARE VISION TECHNOLOGY Co.,Ltd.

Registration number: Y2019330000020

PE01 Entry into force of the registration of the contract for pledge of patent right
CF01 Termination of patent right due to non-payment of annual fee

Granted publication date: 20181102

CF01 Termination of patent right due to non-payment of annual fee