CN104268591A - 一种面部关键点检测方法及装置 - Google Patents
一种面部关键点检测方法及装置 Download PDFInfo
- Publication number
- CN104268591A CN104268591A CN201410483192.6A CN201410483192A CN104268591A CN 104268591 A CN104268591 A CN 104268591A CN 201410483192 A CN201410483192 A CN 201410483192A CN 104268591 A CN104268591 A CN 104268591A
- Authority
- CN
- China
- Prior art keywords
- certain organs
- key point
- area image
- face
- image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/16—Human faces, e.g. facial parts, sketches or expressions
- G06V40/161—Detection; Localisation; Normalisation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/16—Human faces, e.g. facial parts, sketches or expressions
- G06V40/168—Feature extraction; Face representation
- G06V40/171—Local features and components; Facial parts ; Occluding parts, e.g. glasses; Geometrical relationships
Landscapes
- Engineering & Computer Science (AREA)
- Health & Medical Sciences (AREA)
- Oral & Maxillofacial Surgery (AREA)
- General Health & Medical Sciences (AREA)
- Human Computer Interaction (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Multimedia (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Image Analysis (AREA)
Abstract
本发明公开了一种面部关键点检测方法及装置,该方法包括:获取待检测的面部图像;使用第一面部关键点检测算法,在所述面部图像中确定出N个特定器官的初始关键点,N大于或等于1;针对所述N个特定器官中的每个特定器官,以初始关键点为基准,确定特定器官在所述面部图像中所在的区域;针对所述N个特定器官中的每个特定器官,使用第二面部关键点检测算法,在特定器官在所述面部图像中所在的区域中,确定特定器官的最终关键点。通过本发明实施例提供的方法,可以减少第二面部关键点检测算法检测的搜索的区域,明显提高面部关键点检测的效率。
Description
技术领域
本发明涉及图像处理领域,尤其涉及一种面部关键点检测方法及装置。
背景技术
面部关键点检测是人脸图像分析中极为重要的一个步骤,也是后续人脸分析的一个不可缺少的基本步骤。目前人脸分析技术不仅在计算机端得到应用,而且在逐渐走向移动端,这就对面部关键点检测在速度、准确率和稳定性等方面提出了更高的要求。
在目前的方法中,在保证检测面部关键点的准确率和稳定性,并适应复杂的环境和各种人脸姿态的面部关键点检测算法中,检测的速度比较慢,而且算法的复杂度比较高,同时也会占用设备处理器的大部分资源,特别是在移动端进行面部关键点检测时,由于移动端的处理能力低,无法达到实时处理的要求。目前还有一些快速的面部关键点检测方法,但是准确率较低。
综上所述,现有技术在检测面部关键点时,由于面部关键点算法的复杂度高,导致不能对面部关键点进行快速、准确的实时检测。
发明内容
本发明实施例提供一种面部关键点检测方法及装置,用以解决现有技术中由于面部关键点算法的复杂度高,导致不能对面部关键点进行快速、准确的实时检测的问题。
本发明实施例提供一种面部关键点检测方法,该方法包括:
获取待检测的面部图像;
使用第一面部关键点检测算法,在所述面部图像中确定出N个特定器官的初始关键点,N大于或等于1;
针对所述N个特定器官中的每个特定器官,以所述初始关键点为基准,确定特定器官在所述面部图像中所在的区域;
针对所述N个特定器官中的每个特定器官,使用第二面部关键点检测算法,在特定器官在所述面部图像中所在的区域中,确定特定器官的最终关键点。
较佳的,所述使用第一面部关键点检测算法,在所述面部图像中确定出N个特定器官的初始关键点,包括:
所述第一面部关键点检测算法为ESR算法,通过所述ESR算法在所述面部图像中确定出所述特定器官的所述初始关键点。
较佳的,所述以所述初始关键点为基准,确定所述特定器官的区域图像,包括:
获取预先设定的所述特定器官的区域图像的长度和宽度,以及所述初始关键点在所述特定器官的区域图像中的偏移量;
根据所述初始关键点的坐标、所述初始关键点的偏移量以及所述特定器官的区域图像的长度和宽度确定出所述特定器官的区域图像。
较佳的,所述特定器官为眼睛时,所述特定器官的初始关键点为左眼中点和右眼中点,所述预先设定的所述特定器官的区域图像的长度和宽度是根据左眼中点和右眼中点之间的间距确定出来的。
较佳的,所述特定器官为鼻子时,所述特定器官的初始关键点为鼻尖,所述预先设定的所述特定器官的区域图像的长度和宽度是根据左眼中点和右眼中点之间的间距确定出来的。
较佳的,所述特定器官为嘴巴时,所述特定器官的初始关键点为所述嘴巴两边的两个嘴角点,所述预先设定的所述特定器官的区域图像的长度和宽度是根据所述嘴巴两边的两个嘴角点之间的距离确定出来的。
较佳的,所述使用第二面部关键点检测算法,在特定器官在所述面部图像中所在的区域中,确定特定器官的最终关键点,包括:
所述第二面部关键点检测算法为卷积神经网络CNN算法;
将所述特定器官的区域图像标准化为预设尺寸的区域图像;
通过所述CNN算法在标准化后的所述特定器官的区域图像中确定所述特定器官的最终关键点。
本发明实施例提供一种面部关键点检测装置,该装置包括:
图像获取单元,用于获取待检测的面部图像;
第一检测单元,用于使用第一面部关键点检测算法,在所述面部图像中确定出N个特定器官的初始关键点,N大于或等于1;针对所述N个特定器官中的每个特定器官,以初始关键点为基准,确定特定器官在所述面部图像中所在的区域;
第二检测单元,用于针对所述N个特定器官中的每个特定器官,使用第二面部关键点检测算法,在特定器官在所述面部图像中所在的区域中,确定特定器官的最终关键点。
较佳的,所述第一检测单元具体用于:
所述第一面部关键点检测算法为ESR算法,通过所述ESR算法在所述面部图像中确定出所述特定器官的所述初始关键点。
较佳的,所述第一检测单元具体用于:
获取预先设定的所述特定器官的区域图像的长度和宽度,以及所述初始关键点在所述特定器官的区域图像中的偏移量;
根据所述初始关键点的坐标、所述初始关键点的偏移量以及所述特定器官的区域图像的长度和宽度确定出所述特定器官的区域图像。
较佳的,所述特定器官为眼睛时,所述特定器官的初始关键点为左眼中点和右眼中点,所述预先设定的所述特定器官的区域图像的长度和宽度是根据左眼中点和右眼中点之间的间距确定出来的。
较佳的,所述特定器官为鼻子时,所述特定器官的初始关键点为鼻尖,所述预先设定的所述特定器官的区域图像的长度和宽度是根据左眼中点和右眼中点之间的间距确定出来的。
较佳的,所述特定器官为嘴巴时,所述特定器官的初始关键点为所述嘴巴两边的两个嘴角点,所述预先设定的所述特定器官的区域图像的长度和宽度是根据所述嘴巴两边的两个嘴角点之间的距离确定出来的。
较佳的,所述第二检测单元具体用于:
所述第二面部关键点检测算法为卷积神经网络CNN算法;
将所述特定器官的区域图像标准化为预设尺寸的区域图像;
通过所述CNN算法在标准化后的所述特定器官的区域图像中确定所述特定器官的最终关键点。
根据本发明实施提供的方法,在面部图像中检测面部关键点时,先通过初始关键点获得感兴趣区域,在感兴趣区域中检测面部关键点。通过本发明实施例提供的方法,在检测面部关键点之前,先确定面部关键点可能出现的区域,即感兴趣区域,只在感兴趣区域中检测,由于确定的感兴趣区域远小于整个面部区域,从而减少了检测面部关键点时检测的范围,提高了检测效率,在保证检测准确率的同时,大幅减少了检测的时间,能够达到实时检测的效果。
附图说明
图1为本发明实施例提供的一种面部关键点检测方法流程图;
图2为检测到的初始关键点示意图;
图3为检测到的器官区域图像示意图;
图4为检测到的最终关键点示意图;
图5为本发明实施例提供的一种面部关键点检测装置结构图。
具体实施方式
为了使本发明的目的、技术方案和优点更加清楚,下面将结合附图对本发明作进一步地详细描述,显然,所描述的实施例仅仅是本发明一部份实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其它实施例,都属于本发明保护的范围。
下面结合说明书附图对本发明实施例做详细描述。
如图1所示,本发明实施例提供的一种面部关键点检测方法流程图,该方法包括:
步骤101:获取待检测的面部图像;
步骤102:使用第一面部关键点检测算法,在所述面部图像中确定出N个特定器官的初始关键点,N大于或等于1;
步骤103:针对所述N个特定器官中的每个特定器官,以初始关键点为基准,确定特定器官在所述面部图像中所在的区域;
步骤104:针对所述N个特定器官中的每个特定器官,使用第二面部关键点检测算法,在特定器官在所述面部图像中所在的区域中,确定特定器官的最终关键点。
在现有的技术中,快速的面部关键点检测算法主要是基于浅层的机器学习方法,虽然这种方法检测的速度快,但是检测的准确性以及稳定性很不理想;高稳定性、高准确率的面部关键点检测算法主要是基于深度学习的方法,这种方法会在面部关键点检测时占用很多资源,因此单独使用基于浅层的机器学习方法或基于深度学习的方法进行面部关键点检测都会有明显的缺陷。
目前已公开发表面部关键点检测的方法主要有三大类:基于参数化形状模型方法、基于形状回归的方法、和基于深度学习的方法,分别的代表技术为:ASM(Active Shape Model,主动形状模型)、ESR(Explicit Shape Regression,精确形状回归)和CNN(Convolutional Neural Networks,卷积神经网络)。其中ASM方法是利用参数化的形状模型,其适应性差,不能根据其特征纹理准确的找到其真实的形状,在速度、准确性和稳定性方面都有明显的缺陷。ESR算法是基于形状回归的浅层学习方法,其优点是速度快,但是这种方法在复杂的环境下不能找到其合适的训练回归量,从而导致在复杂环境下的低准确率和不稳定性。CNN是基于深度学习的方法,其检测速度很慢,并且计算量很大,不能适用于移动端的应用。
本发明实施例中,将考虑各种面部关键点检测算法的优缺点,对现有技术进行优化,实现既能快速、稳定的检测出关键点,同时尽量减少对资源的占用以及减少检测所需的时间。
本发明实施例中,第一面部关键点检测算法是指浅层学习方法,包括但不限于ESR算法、ASM算法等浅层学习方法;第二面部关键点检测算法是指深层学习方法,包括但不限于CNN算法等深层学习方法。
在步骤102中,使用第一面部关键点检测算法,在所述面部图像中确定出N个特定器官的初始关键点,N大于或等于1。具体的,所述第一面部关键点检测算法包括但不限于ESR算法、ASM算法等浅层学习方法。通过第一面部关键点检测算法在所述面部图像中确定出所述特定器官的所述初始关键点。在输入的面部图像中也可以采用其他的浅层学习的方法,检测出特定器官的关键点,特定器官可以是眼睛、鼻子或者嘴巴。
特定器官为眼睛时,所述初始关键点为左眼中点和右眼中点;特定器官为鼻子时,所述初始关键点为鼻尖;特定器官为嘴巴时,所述初始关键点为所述嘴巴两边的两个嘴角点。本发明实施例中初始关键点给出的只是一种优选方案,并不代表面部器官中选择其他位置的初始关键点不能达到本发明实施例所要达到的目的。每个特定器官的初试关键点也可以根据需要选择在的其他位置,例如眼睛的初始关键点可以选择在,眼角位置,此时偏移量也要同时改变;鼻子的初始关键点可以为鼻梁的中间位置;嘴巴的初始关键点可以为嘴巴的中间位置。选择这些点作为初始关键点时,确定特定器官的区域图像的过程会比较复杂,没有本发明实施例提供的优先方案效率高,但最终的效果还是一样的,没有本质上的区别。
检测两个眼睛的中心点、鼻尖点和两个嘴角点的方法可以为ASM、AAM(Active Appearance Model,主动表现模型)等基于参数化的形状模型方法或者ESR算法等基于形状回归方法的方法。
步骤103中,以所述初始关键点为基准,确定所述特定器官的区域图像。具体的,在确定了特定器官的初始关键点后,基于该初始关键点确定该特定器官的区域图像,以便在该区域中进一步检测出所需的最终关键点。
首先获取预先设定的所述特定器官的区域图像的长度和宽度,以及所述初始关键点在所述特定器官的区域图像中的偏移量;
根据所述初始关键点的坐标、所述初始关键点的偏移量以及所述特定器官的区域图像的长度和宽度确定出所述特定器官的区域图像。
所述特定器官为眼睛,所述特定器官的初始关键点为左眼中点和右眼中点时,所述预先设定的所述特定器官的区域图像的长度和宽度是根据左眼中点和右眼中点之间的间距确定出来的。
所述特定器官为鼻子,所述特定器官的初始关键点为鼻尖时,所述预先设定的所述特定器官的区域图像的长度和宽度是根据左眼中点和右眼中点之间的间距确定出来的。
所述特定器官为嘴巴,所述特定器官的初始关键点为所述嘴巴两边的两个嘴角点时,所述预先设定的所述特定器官的区域图像的长度和宽度是根据所述嘴巴两边的两个嘴角点之间的距离确定出来的。
在面部图像中确定的特定器官的区域图像至少要完全包括该特定器官,确定的区域过小,会导致关键点的检测不完整;确定的区域过大,在该区域中进一步检测出最终关键点时,降低检测效率。因此确定的特定器官的区域图像一般至少满足一个条件:能够完全覆盖所选的特定器官。特定器官的区域图像的形状可以是以初始关键点为圆心的一个圆或者一个椭圆,也可以是其他不规则形状。优选的,为了向第二面部关键点检测算法提供一个标准的特定器官的区域图像,使得第二面部关键点检测算法能够快速、准确的在特定器官的区域图像中检测出关键点,特定器官的区域图像的形状为矩形。优选的,本发明实施例中,根据大量的训练数据,以特定器官的初始关键点为依据,预设一个特定器官的区域图像的长度和宽度。
所述特定器官为眼睛时,根据左眼中点和右眼中点之间的距离,确定出所述眼睛的区域图像的长度和宽度。具体的,根据面部器官的特征中左眼中点和右眼中点之间的距离与眼睛大小的比例关系,该比例关系可以根据大量面部图像作为训练样本确定,将左眼中点和右眼中点之间的距离与该比例关系结合,可以确定出每个眼睛的区域图像的长度和宽度大小。一般的,眼睛的区域图像的长度和宽度为L,此时该比例关系可以为0.8、0.6,每个眼睛的区域图像的长度为L*0.8,宽度为L*0.6;当眼睛较大时,此时该比例关系可以为0.85、0.65,每个眼睛的区域图像的长度为L*0.85,宽度为L*0.65;当眼睛较小时,此时该比例关系可以为0.75、0.55,每个眼睛的区域图像的长度为L*0.75,宽度为L*0.55等。具体根据实际情况去调节。
所述特定器官为鼻子时,根据左眼中点和右眼中点之间的距离,确定出所述鼻子的区域图像的长度和宽度。一般的,鼻子的区域图像的长度和宽度为L,此时该比例关系可以为0.6、1,鼻子的区域图像的长度为L*0.6,宽度为L;当鼻子较大时,此时该比例关系可以为0.7、1.1,鼻子的区域图像的长度为L*0.7,宽度为L*1.1;当鼻子较小时,此时该比例关系可以为0.5、0.9,鼻子的区域图像的长度为L*0.5,宽度为L*0.9等。具体根据实际情况去调节。
所述特定器官为嘴巴时,根据所述嘴巴两边的两个嘴角点之间的距离,确定出所述嘴巴的区域图像的长度和宽度。具体的,嘴巴两边的两个嘴角点之间的距离为D,一般嘴巴的区域图像的长度和宽度分别为D*2和D*0.5。这个比例是可以调整的,若嘴巴较大,可以将嘴巴的区域图像的长度和宽度分别设为D*2.2和D*0.6;若嘴巴较小,可以将嘴巴的区域图像的长度和宽度分别设为D*1.8和D*0.4。具体根据实际情况去调节。
确定特定器官的初始关键点在该特定器官的区域图像中的偏移量,由于初始关键点的选取并不是随机选取,所以初始关键点在特定器官的区域图像中的偏移量为一个确定值。例如,特定器官为眼睛时,每个眼睛的初始关键点一般为每个眼睛的区域图像的中心点,左眼的初始关键点相对于左眼的区域图像的左下角顶点的偏移量为(L*0.8/2,L*0.6/2),右眼的初始关键点相对于右眼的区域图像的左下角顶点的偏移量为(L*0.8/2,L*0.6/2)。
特定器官的初始关键点是确定的,特定器官的区域图像的长度和宽度也是确定的,有了特定器官的初始关键点在该特定器官的区域图像中的偏移量之后可以确定出该特定器官的区域图像边缘点的坐标以及覆盖的区域范围。
步骤104中,针对所述N个特定器官中的每个特定器官,使用第二面部关键点检测算法,在特定器官在所述面部图像中所在的区域中,确定特定器官的最终关键点。具体的,所述第二面部关键点检测算法是指深层学习方法,包括但不限于CNN算法等深层学习方法。以CNN算法为例,将所述特定器官的区域图像标准化为预设尺寸的区域图像;通过所述CNN算法在标准化后的所述特定器官的区域图像中确定所述特定器官的最终关键点。可以选择不同的深度学习的方法和不同的模型在特定器官的区域图像检测出最终关键点。
下面以具体的实施例来说明:
步骤一,获取待检测的面部图像;
步骤二,使用ESR算法检测出面部特定器官的初始关键点,特定器官可以为眼睛、鼻子或者嘴巴;如图2所示,特定器官在面部的初始关键点为黑色的点,其中眼睛的初始关键点为两个眼睛的中心点;鼻子的初始关键点为鼻尖点;嘴巴的初始关键点为两个嘴角点。以下将面部初始关键点的集合称为形状,用S表示。具体检测步骤如下:
1>根据ESR方法训练模型中的平均形状和面部图像的脸框平均大小,为在需要检测的特定器官中设定初始关键点,并将这些初始关键点的集合设为St。
2>计算当前集合St下的特征Rt,特征Rt是指S0中初始关键点之间相互的像素值的差值,此处计算得到的Rt为特定器官的初始关键点之间两两像素值的差值的特征。例如:训练过程中选取了4对点作为特征点对,计算每一对点的灰度值的差,则可获得4个差值,此时我们用一个4位的二进制数来表示当前的特征,当第一个差值大于0时,则二进制数的第一位为1,小于0则第一位取0,每一个差值对应二进制数的一位,这样理论上特征就有16个特征,此二进制数为当前初始关键点的集合的特征。
3>根据第2步计算出的特征Rt,在ESR方法训练模型中查找该特征对应的修正量△St1,通过修正量可以对初始关键点的位置进行调整。
4>重复执行第2、3步,直到获得所有的特征对应的修正量,最终得到的修正量分别为△St1,△St2…△StN,其中N为特征的数量。
5>计算所有修正量的和△St=△St1+…+△Stn+…+△StN。
6>根据修正量的和对当前集合St的位置进行修正,即:St+1=St+△St。
7>从2至6重复执行M次,其中M为预设正整数。
8>最终得到的St+M即为在面部特定器官中检测出的初始关键点的集合。
浅层学习方法主要有ASM、AAM等基于参数化的形状模型方法和ESR等基于形状回归方法的方法,本发明实施例中选择ESR来进行说明。
步骤三,根据步骤二检测出的初始关键点确定各个特定器官在面部图像中的区域图像,为深度学习方法检测面部关键点做准备。特定器官在面部图像中的区域图像可以为任意形状,为了检测方便,优选的选择在面部图像中确定一个矩形,该矩形要满足一个条件:至少包括所选的特定器官的全部区域。例如:根据浅层学习检测出的眼睛中心点的位置和两个眼睛之间的距离,选取一个矩形区域,则这部分区域所包含的图像就是包含眼睛的图像。如图3所示,根据初始关键点确定的特定器官的区域图像。
具体的,在本发明实施例中确定各个特定器官在面部图像中的区域图像的方法如下所示:
眼睛的区域图像的确定:
确定眼睛的区域图像的长度和宽度分别为L*0.8和L*0.6;
确定眼睛中心点在区域图像中的偏移量,本发明实施例以眼睛中心点相对于眼睛的区域图像的左下角顶点的偏移量为例进行说明,偏移量为:(L*0.8/2,L*0.6/2),此时可以确定眼睛的区域图像的左下角顶点的坐标为(E.x–L*0.8/2,E.y–L*0.6/2),E.x、E.y为眼睛中点的x,y坐标,L为两个眼睛中点之间的距离。
鼻子的区域图像的确定:
确定鼻子的区域图像的长度和宽度分别为L*0.6和L;
确定鼻子的鼻尖点在区域图像中的偏移量,本发明实施例以鼻子的鼻尖点相对于鼻子的区域图像的左下角顶点的偏移量为例进行说明,偏移量为:(L*0.6/2,L*0.7),此时可以确定鼻子的区域图像的左下角顶点的坐标为(N.x–L*0.6/2,N.y–L*0.7),N.x、N.y为鼻尖点的x,y坐标,L为两个眼睛中点之间的距离。
嘴巴的区域图像的确定:
确定嘴巴的区域图像的长度和宽度分别为D*2.2和D*0.6;
确定鼻子中心点在区域图像中的偏移量,本发明实施例以嘴巴左边的嘴角点相对于嘴巴的区域图像的左下角顶点的偏移量为例进行说明,偏移量为:(D*0.6,D*0.85),此时可以确定嘴巴的区域图像的左下角顶点的坐标为(M.x–D*0.6/2,M.y–D*0.7),M.x、M.y为眼睛中点的x,y坐标,D为两个嘴角点之间的距离。
此步骤中根据检测出的初始关键点确定各个特定器官的区域图像可以根据经验或通过实验进行选取,本发明实施例中根据人脸器官的比例来选择矩形区域进行说明。
步骤四,将上步准备的各个器官的图像数据作为深度学习方法的输入,利用深度学习的方法检测只包含单独器官图像的准确的面部关键点。
此步骤中的基于深度学习的方法可以选择不同的深度学习的方法和不同的模型,本发明实施例中选用CNN方法来进行说明。
将上步选取的器官的范围作为深度学习方法CNN的输入。
1>采用双线性插值或者其它方式将特定器官图像区域标准化为预设尺寸的区域图像,例如40*40的尺寸,并记录宽和高缩放的比例Rw,Rh。记原特定器官图像的宽为w,高为h,则宽和高缩放的比例分别为:
Rw=w/40; Rh=h/40。
2>将预设的标准化的器官图像输入到对应的CNN算法模型中。
3>得到各个特定器官的最终关键点的在预设的标准化的器官图像中的坐标位置x’,y’,并根据记录的宽和高的缩放比例计算在原特定器官图像中时,该最终关键点的坐标x,y:
x=Rw*x’;x=Rh*y’。
在本发明实施例中,为不同的器官关键点检测选用了相同的CNN模型和参数,当然针对不同的情况也可以为不同器官图像选择不同的模型和参数。
步骤五,输出检测出面部的最终关键点。如图4所示,最后得到最终关键点的坐标就是检测出的面部关键点,在输入的面部图像中将其标记出来。
针对上述方法流程,本发明实施例还提供一种面部关键点检测装置,该装置的具体内容可以参照上述方法实施,在此不再赘述。
如图5所示,本发明实施例提供一种面部关键点检测装置,该装置包括:
图像获取单元501,用于获取待检测的面部图像;
第一检测单元502,用于使用第一面部关键点检测算法,在所述面部图像中确定出N个特定器官的初始关键点,N大于或等于1;针对所述N个特定器官中的每个特定器官,以初始关键点为基准,确定特定器官在所述面部图像中所在的区域;
第二检测单元503,用于针对所述N个特定器官中的每个特定器官,使用第二面部关键点检测算法,在特定器官在所述面部图像中所在的区域中,确定特定器官的最终关键点。
较佳的,所述第一检测单元502具体用于:
所述第一面部关键点检测算法为ESR算法,通过所述ESR算法在所述面部图像中确定出所述特定器官的所述初始关键点。
较佳的,所述第一检测单元502具体用于:
获取预先设定的所述特定器官的区域图像的长度和宽度,以及所述初始关键点在所述特定器官的区域图像中的偏移量;
根据所述初始关键点的坐标、所述初始关键点的偏移量以及所述特定器官的区域图像的长度和宽度确定出所述特定器官的区域图像。
较佳的,所述特定器官为眼睛时,所述特定器官的初始关键点为左眼中点和右眼中点,所述预先设定的所述特定器官的区域图像的长度和宽度根据左眼中点和右眼中点之间的间距确定。
较佳的,所述特定器官为鼻子时,所述特定器官的初始关键点为鼻尖,所述预先设定的所述特定器官的区域图像的长度和宽度根据左眼中点和右眼中点之间的间距确定。
较佳的,所述特定器官为嘴巴时,所述特定器官的初始关键点为所述嘴巴两边的两个嘴角点,所述预先设定的所述特定器官的区域图像的长度和宽度根据所述嘴巴两边的两个嘴角点之间的距离确定。
较佳的,所述第二检测单元503具体用于:
所述第二面部关键点检测算法为卷积神经网络CNN算法;
将所述特定器官的区域图像标准化为预设尺寸的区域图像;
通过所述CNN算法在标准化后的所述特定器官的区域图像中确定所述特定器官的最终关键点。
根据本发明实施提供的方法,在面部图像中检测面部关键点时,先通过初始关键点获得感兴趣区域,在感兴趣区域中检测面部关键点。通过本发明实施例提供的方法,在检测面部关键点之前,先确定面部关键点可能出现的区域,即感兴趣区域,只在感兴趣区域中检测,由于确定的感兴趣区域远小于整个面部区域,从而减少了检测面部关键点时检测的范围,提高了检测效率,能够达到实时检测的效果。
本发明是参照根据本发明实施例的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器,使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中,使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品,该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。
这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上,使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理,从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
尽管已描述了本发明的优选实施例,但本领域内的技术人员一旦得知了基本创造性概念,则可对这些实施例作出另外的变更和修改。所以,所附权利要求意欲解释为包括优选实施例以及落入本发明范围的所有变更和修改。
显然,本领域的技术人员可以对本发明进行各种改动和变型而不脱离本发明的精神和范围。这样,倘若本发明的这些修改和变型属于本发明权利要求及其等同技术的范围之内,则本发明也意图包含这些改动和变型在内。
Claims (12)
1.一种面部关键点检测方法,其特征在于,该方法包括:
获取待检测的面部图像;
使用第一面部关键点检测算法,在所述面部图像中确定出N个特定器官的初始关键点,N大于或等于1;
针对所述N个特定器官中的每个特定器官,以所述初始关键点为基准,确定特定器官在所述面部图像中所在的区域;
针对所述N个特定器官中的每个特定器官,使用第二面部关键点检测算法,在特定器官在所述面部图像中所在的区域中,确定特定器官的最终关键点。
2.如权利要求1所述的方法,其特征在于,所述以所述初始关键点为基准,确定所述特定器官的区域图像,包括:
获取预先设定的所述特定器官的区域图像的长度和宽度,以及所述初始关键点在所述特定器官的区域图像中的偏移量;
根据所述初始关键点的坐标、所述初始关键点的偏移量以及所述特定器官的区域图像的长度和宽度确定出所述特定器官的区域图像。
3.如权利要求1所述的方法,其特征在于,所述特定器官为眼睛时,所述特定器官的初始关键点为左眼中点和右眼中点,所述预先设定的所述特定器官的区域图像的长度和宽度根据左眼中点和右眼中点之间的间距确定。
4.如权利要求3所述的方法,其特征在于,所述特定器官为鼻子时,所述特定器官的初始关键点为鼻尖,所述预先设定的所述特定器官的区域图像的长度和宽度根据左眼中点和右眼中点之间的间距确定。
5.如权利要求1所述的方法,其特征在于,所述特定器官为嘴巴时,所述特定器官的初始关键点为所述嘴巴两边的两个嘴角点,所述预先设定的所述特定器官的区域图像的长度和宽度根据所述嘴巴两边的两个嘴角点之间的距离确定。
6.如权利要求1所述的方法,其特征在于,所述使用第二面部关键点检测算法,在特定器官在所述面部图像中所在的区域中,确定特定器官的最终关键点,包括:
将所述特定器官的区域图像标准化为预设尺寸的区域图像;
通过第二面部关键点检测算法在标准化后的所述特定器官的区域图像中确定所述特定器官的最终关键点。
7.一种面部关键点检测装置,其特征在于,该装置包括:
图像获取单元,用于获取待检测的面部图像;
第一检测单元,用于使用第一面部关键点检测算法,在所述面部图像中确定出N个特定器官的初始关键点,N大于或等于1;针对所述N个特定器官中的每个特定器官,以初始关键点为基准,确定特定器官在所述面部图像中所在的区域;
第二检测单元,用于针对所述N个特定器官中的每个特定器官,使用第二面部关键点检测算法,在特定器官在所述面部图像中所在的区域中,确定特定器官的最终关键点。
8.如权利要求7所述的装置,其特征在于,所述第一检测单元具体用于:
获取预先设定的所述特定器官的区域图像的长度和宽度,以及所述初始关键点在所述特定器官的区域图像中的偏移量;
根据所述初始关键点的坐标、所述初始关键点的偏移量以及所述特定器官的区域图像的长度和宽度确定出所述特定器官的区域图像。
9.如权利要求7所述的装置,其特征在于,所述特定器官为眼睛时,所述特定器官的初始关键点为左眼中点和右眼中点,所述预先设定的所述特定器官的区域图像的长度和宽度根据左眼中点和右眼中点之间的间距确定的。
10.如权利要求7所述的装置,其特征在于,所述特定器官为鼻子时,所述特定器官的初始关键点为鼻尖,所述预先设定的所述特定器官的区域图像的长度和宽度根据左眼中点和右眼中点之间的间距确定。
11.如权利要求7所述的装置,其特征在于,所述特定器官为嘴巴时,所述特定器官的初始关键点为所述嘴巴两边的两个嘴角点,所述预先设定的所述特定器官的区域图像的长度和宽度根据所述嘴巴两边的两个嘴角点之间的距离确定。
12.如权利要求7所述的装置,其特征在于,所述第二检测单元具体用于:
将所述特定器官的区域图像标准化为预设尺寸的区域图像;
通过所述第二面部关键点检测算法在标准化后的所述特定器官的区域图像中确定所述特定器官的最终关键点。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201410483192.6A CN104268591B (zh) | 2014-09-19 | 2014-09-19 | 一种面部关键点检测方法及装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201410483192.6A CN104268591B (zh) | 2014-09-19 | 2014-09-19 | 一种面部关键点检测方法及装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN104268591A true CN104268591A (zh) | 2015-01-07 |
CN104268591B CN104268591B (zh) | 2017-11-28 |
Family
ID=52160111
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201410483192.6A Active CN104268591B (zh) | 2014-09-19 | 2014-09-19 | 一种面部关键点检测方法及装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN104268591B (zh) |
Cited By (20)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105096528A (zh) * | 2015-08-05 | 2015-11-25 | 广州云从信息科技有限公司 | 一种疲劳驾驶检测方法及系统 |
CN105354531A (zh) * | 2015-09-22 | 2016-02-24 | 成都通甲优博科技有限责任公司 | 一种面部关键点的标注方法 |
CN105760834A (zh) * | 2016-02-14 | 2016-07-13 | 北京飞搜科技有限公司 | 一种人脸特征点定位方法 |
CN106022272A (zh) * | 2016-05-23 | 2016-10-12 | 北京小米移动软件有限公司 | 一种判定正脸图像的方法和装置 |
CN106203376A (zh) * | 2016-07-19 | 2016-12-07 | 北京旷视科技有限公司 | 人脸关键点定位方法及装置 |
CN108229301A (zh) * | 2017-11-03 | 2018-06-29 | 北京市商汤科技开发有限公司 | 眼睑线检测方法、装置和电子设备 |
CN108229293A (zh) * | 2017-08-09 | 2018-06-29 | 北京市商汤科技开发有限公司 | 人脸图像处理方法、装置和电子设备 |
CN108596666A (zh) * | 2018-04-24 | 2018-09-28 | 重庆凯务电子商务有限公司 | 用于眼镜的推广销售系统 |
CN109145843A (zh) * | 2018-08-29 | 2019-01-04 | 上海萃舟智能科技有限公司 | 一种卡口高清相机全车信息识别系统及方法 |
CN109284749A (zh) * | 2017-07-19 | 2019-01-29 | 微软技术许可有限责任公司 | 精细化图像识别 |
CN109522863A (zh) * | 2018-11-28 | 2019-03-26 | 北京达佳互联信息技术有限公司 | 耳部关键点检测方法、装置及存储介质 |
CN109558864A (zh) * | 2019-01-16 | 2019-04-02 | 苏州科达科技股份有限公司 | 人脸关键点检测方法、装置及存储介质 |
CN109711273A (zh) * | 2018-12-04 | 2019-05-03 | 北京字节跳动网络技术有限公司 | 图像关键点提取方法、装置、可读存储介质及电子设备 |
CN109803450A (zh) * | 2018-12-12 | 2019-05-24 | 平安科技(深圳)有限公司 | 无线设备与电脑连接方法、电子装置及存储介质 |
CN109858402A (zh) * | 2019-01-16 | 2019-06-07 | 腾讯科技(深圳)有限公司 | 一种图像检测方法、装置、终端以及存储介质 |
CN109934766A (zh) * | 2019-03-06 | 2019-06-25 | 北京市商汤科技开发有限公司 | 一种图像处理方法及装置 |
CN110334752A (zh) * | 2019-06-26 | 2019-10-15 | 电子科技大学 | 一种基于梯形卷积的不规则形状物体检测方法 |
WO2020098374A1 (zh) * | 2018-11-13 | 2020-05-22 | 广州市百果园信息技术有限公司 | 人脸关键点检测方法、装置、计算机设备和存储介质 |
CN111985266A (zh) * | 2019-05-21 | 2020-11-24 | 顺丰科技有限公司 | 尺度图确定方法、装置、设备及存储介质 |
WO2022188547A1 (zh) * | 2021-03-09 | 2022-09-15 | 杭州朝厚信息科技有限公司 | X线头影图像的关键点检测方法 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN1731416A (zh) * | 2005-08-04 | 2006-02-08 | 上海交通大学 | 快速且精确的人脸特征点定位方法 |
KR20110103223A (ko) * | 2010-03-12 | 2011-09-20 | 경북대학교 산학협력단 | 얼굴 인식을 위한 sift 알고리즘을 이용한 키포인트 매칭 시스템 및 방법 |
CN103824049A (zh) * | 2014-02-17 | 2014-05-28 | 北京旷视科技有限公司 | 一种基于级联神经网络的人脸关键点检测方法 |
-
2014
- 2014-09-19 CN CN201410483192.6A patent/CN104268591B/zh active Active
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN1731416A (zh) * | 2005-08-04 | 2006-02-08 | 上海交通大学 | 快速且精确的人脸特征点定位方法 |
KR20110103223A (ko) * | 2010-03-12 | 2011-09-20 | 경북대학교 산학협력단 | 얼굴 인식을 위한 sift 알고리즘을 이용한 키포인트 매칭 시스템 및 방법 |
CN103824049A (zh) * | 2014-02-17 | 2014-05-28 | 北京旷视科技有限公司 | 一种基于级联神经网络的人脸关键点检测方法 |
Non-Patent Citations (3)
Title |
---|
PING LUO等: "Hierarchical Face Parsing via Deep Learning", 《PROCEEDINGS OF THE 2012 IEEE CONFERENCE ON COMPUTER VISION AND PATTERN RECOGNITION》 * |
明悦: "基于不变性特征的三维人脸识别研究", 《中国博士学位论文全文数据库 信息科技辑》 * |
魏伟: "基于主动形状模型人脸识别算法的研究与实现", 《中国优秀硕士学位论文全文数据库 信息科技辑》 * |
Cited By (38)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105096528A (zh) * | 2015-08-05 | 2015-11-25 | 广州云从信息科技有限公司 | 一种疲劳驾驶检测方法及系统 |
CN105354531A (zh) * | 2015-09-22 | 2016-02-24 | 成都通甲优博科技有限责任公司 | 一种面部关键点的标注方法 |
WO2017049677A1 (zh) * | 2015-09-22 | 2017-03-30 | 成都通甲优博科技有限责任公司 | 一种面部关键点的标注方法 |
CN105760834A (zh) * | 2016-02-14 | 2016-07-13 | 北京飞搜科技有限公司 | 一种人脸特征点定位方法 |
CN106022272A (zh) * | 2016-05-23 | 2016-10-12 | 北京小米移动软件有限公司 | 一种判定正脸图像的方法和装置 |
CN106203376A (zh) * | 2016-07-19 | 2016-12-07 | 北京旷视科技有限公司 | 人脸关键点定位方法及装置 |
CN106203376B (zh) * | 2016-07-19 | 2020-04-10 | 北京旷视科技有限公司 | 人脸关键点定位方法及装置 |
CN109284749A (zh) * | 2017-07-19 | 2019-01-29 | 微软技术许可有限责任公司 | 精细化图像识别 |
US11670071B2 (en) | 2017-07-19 | 2023-06-06 | Microsoft Technology Licensing, Llc | Fine-grained image recognition |
CN113205040A (zh) * | 2017-08-09 | 2021-08-03 | 北京市商汤科技开发有限公司 | 人脸图像处理方法、装置和电子设备 |
WO2019029486A1 (zh) * | 2017-08-09 | 2019-02-14 | 北京市商汤科技开发有限公司 | 人脸图像处理方法、装置和电子设备 |
CN108229293A (zh) * | 2017-08-09 | 2018-06-29 | 北京市商汤科技开发有限公司 | 人脸图像处理方法、装置和电子设备 |
CN113128449A (zh) * | 2017-08-09 | 2021-07-16 | 北京市商汤科技开发有限公司 | 用于人脸图像处理的神经网络训练、人脸图像处理方法及装置 |
US11227147B2 (en) * | 2017-08-09 | 2022-01-18 | Beijing Sensetime Technology Development Co., Ltd | Face image processing methods and apparatuses, and electronic devices |
CN108229301A (zh) * | 2017-11-03 | 2018-06-29 | 北京市商汤科技开发有限公司 | 眼睑线检测方法、装置和电子设备 |
CN108229301B (zh) * | 2017-11-03 | 2020-10-09 | 北京市商汤科技开发有限公司 | 眼睑线检测方法、装置和电子设备 |
CN108596666A (zh) * | 2018-04-24 | 2018-09-28 | 重庆凯务电子商务有限公司 | 用于眼镜的推广销售系统 |
CN108596666B (zh) * | 2018-04-24 | 2021-11-30 | 重庆艾里芸信息科技(集团)有限公司 | 用于眼镜的推广销售系统 |
CN109145843A (zh) * | 2018-08-29 | 2019-01-04 | 上海萃舟智能科技有限公司 | 一种卡口高清相机全车信息识别系统及方法 |
EP3882809A4 (en) * | 2018-11-13 | 2022-01-05 | Bigo Technology Pte. Ltd. | FACE KEY POINT DETECTION PROCESS, APPARATUS, COMPUTER DEVICE AND STORAGE MEDIA |
WO2020098374A1 (zh) * | 2018-11-13 | 2020-05-22 | 广州市百果园信息技术有限公司 | 人脸关键点检测方法、装置、计算机设备和存储介质 |
RU2762142C1 (ru) * | 2018-11-13 | 2021-12-16 | Биго Текнолоджи Пте. Лтд. | Способ и устройство для определения ключевой точки лица, компьютерное устройство и носитель данных |
US11727663B2 (en) | 2018-11-13 | 2023-08-15 | Bigo Technology Pte. Ltd. | Method and apparatus for detecting face key point, computer device and storage medium |
WO2020108041A1 (zh) * | 2018-11-28 | 2020-06-04 | 北京达佳互联信息技术有限公司 | 耳部关键点检测方法、装置及存储介质 |
CN109522863B (zh) * | 2018-11-28 | 2020-11-27 | 北京达佳互联信息技术有限公司 | 耳部关键点检测方法、装置及存储介质 |
CN109522863A (zh) * | 2018-11-28 | 2019-03-26 | 北京达佳互联信息技术有限公司 | 耳部关键点检测方法、装置及存储介质 |
CN109711273A (zh) * | 2018-12-04 | 2019-05-03 | 北京字节跳动网络技术有限公司 | 图像关键点提取方法、装置、可读存储介质及电子设备 |
CN109803450A (zh) * | 2018-12-12 | 2019-05-24 | 平安科技(深圳)有限公司 | 无线设备与电脑连接方法、电子装置及存储介质 |
CN109858402B (zh) * | 2019-01-16 | 2021-08-31 | 腾讯科技(深圳)有限公司 | 一种图像检测方法、装置、终端以及存储介质 |
CN109858402A (zh) * | 2019-01-16 | 2019-06-07 | 腾讯科技(深圳)有限公司 | 一种图像检测方法、装置、终端以及存储介质 |
CN109558864A (zh) * | 2019-01-16 | 2019-04-02 | 苏州科达科技股份有限公司 | 人脸关键点检测方法、装置及存储介质 |
CN109934766A (zh) * | 2019-03-06 | 2019-06-25 | 北京市商汤科技开发有限公司 | 一种图像处理方法及装置 |
US11244449B2 (en) | 2019-03-06 | 2022-02-08 | Beijing Sensetime Technology Development Co., Ltd. | Image processing methods and apparatuses |
CN111985266A (zh) * | 2019-05-21 | 2020-11-24 | 顺丰科技有限公司 | 尺度图确定方法、装置、设备及存储介质 |
CN111985266B (zh) * | 2019-05-21 | 2024-06-07 | 顺丰科技有限公司 | 尺度图确定方法、装置、设备及存储介质 |
CN110334752A (zh) * | 2019-06-26 | 2019-10-15 | 电子科技大学 | 一种基于梯形卷积的不规则形状物体检测方法 |
CN110334752B (zh) * | 2019-06-26 | 2022-11-08 | 电子科技大学 | 一种基于梯形卷积的不规则形状物体检测方法 |
WO2022188547A1 (zh) * | 2021-03-09 | 2022-09-15 | 杭州朝厚信息科技有限公司 | X线头影图像的关键点检测方法 |
Also Published As
Publication number | Publication date |
---|---|
CN104268591B (zh) | 2017-11-28 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN104268591A (zh) | 一种面部关键点检测方法及装置 | |
CN106407981B (zh) | 一种车牌识别方法、装置及系统 | |
CN111161349B (zh) | 物体姿态估计方法、装置与设备 | |
CN110096925B (zh) | 人脸表情图像的增强方法、获取方法和装置 | |
CN103824050B (zh) | 一种基于级联回归的人脸关键点定位方法 | |
CN106156692B (zh) | 一种用于人脸边缘特征点定位的方法及装置 | |
US20150117753A1 (en) | Computing device and method for debugging computerized numerical control machine | |
CN109159113B (zh) | 一种基于视觉推理的机器人作业方法 | |
CN111814905A (zh) | 目标检测方法、装置、计算机设备和存储介质 | |
CN105139007B (zh) | 人脸特征点定位方法和装置 | |
CN110852257B (zh) | 一种人脸关键点的检测方法、装置及存储介质 | |
CN109934196A (zh) | 人脸姿态参数评估方法、装置、电子设备及可读存储介质 | |
CN108463823A (zh) | 一种用户头发模型的重建方法、装置及终端 | |
CN110956071B (zh) | 眼部关键点的标注及其检测模型的训练方法和装置 | |
CN104123746A (zh) | 一种三维扫描点云中实时法向量的计算方法 | |
CN107766851A (zh) | 一种人脸关键点定位方法及定位装置 | |
CN104657709A (zh) | 人脸图像识别方法、装置及服务器 | |
CN104217433A (zh) | 一种分析图像的方法及装置 | |
CN103971112A (zh) | 图像特征提取方法及装置 | |
CN111754391A (zh) | 人脸转正方法、设备及计算机可读存储介质 | |
CN110308658A (zh) | 一种pid参数整定方法、装置、系统及可读存储介质 | |
CN107464258A (zh) | 一种从图像中提取三维平面的方法 | |
CN104091148A (zh) | 一种人脸特征点定位方法和装置 | |
CN109115773A (zh) | 轮胎信息验证方法、装置及存储介质 | |
CN110007764B (zh) | 一种手势骨架识别方法、装置、系统及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |