CN109558864B - 人脸关键点检测方法、装置及存储介质 - Google Patents
人脸关键点检测方法、装置及存储介质 Download PDFInfo
- Publication number
- CN109558864B CN109558864B CN201910039820.4A CN201910039820A CN109558864B CN 109558864 B CN109558864 B CN 109558864B CN 201910039820 A CN201910039820 A CN 201910039820A CN 109558864 B CN109558864 B CN 109558864B
- Authority
- CN
- China
- Prior art keywords
- face
- key point
- face frame
- trained
- network
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/16—Human faces, e.g. facial parts, sketches or expressions
- G06V40/161—Detection; Localisation; Normalisation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- General Physics & Mathematics (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Evolutionary Biology (AREA)
- Evolutionary Computation (AREA)
- Bioinformatics & Computational Biology (AREA)
- General Engineering & Computer Science (AREA)
- Artificial Intelligence (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Health & Medical Sciences (AREA)
- General Health & Medical Sciences (AREA)
- Oral & Maxillofacial Surgery (AREA)
- Human Computer Interaction (AREA)
- Multimedia (AREA)
- Image Analysis (AREA)
Abstract
本申请涉及一种人脸关键点检测方法、装置及存储介质,属于图像处理技术领域,该方法包括:获取人脸框图像,人脸框图像包括使用预设人脸检测算法得到的人脸框;将人脸框图像输入预先训练的关键点检测模型,得到人脸框中的关键点坐标;关键点检测模型是根据不同的人脸检测算法对应的样本人脸框图像训练得到的,不同的人脸检测算法包括预设人脸检测算法;显示每个关键点坐标指示的关键点;可以解决人脸关键点检测算法的兼容性差且检测部分人脸检测算法得到的人脸检测框的准确性较低的问题;可以提高人脸关键点检测算法的兼容性,以及检测不同人脸检测算法得到的人脸检测框中的关键点的准确性。
Description
技术领域
本申请涉及人脸关键点检测方法、装置及存储介质,属于图像处理技术领域。
背景技术
人脸关键点检测是指在已经检测出的人脸图像中,通过计算机的分析进一步确定人脸上的具体部位(比如:眉毛、眼角、眼珠、鼻尖、嘴角、脸部轮廓等部位)的具体位置的技术。人脸关键点检测可以应用于定位人脸局部、识别表情等场景中。
目前的人脸关键点检测方法包括:使用人脸检测算法对目标图像进行人脸检测,得到人脸在目标图像中的目标位置;在目标位置中检测人脸关键点的位置。其中,人脸在目标图像中的目标位置可以通过人脸检测框来表示。
然而,不同的人脸检测算法得到的人脸检测框可能不同,这样,对于使用不同人脸检测算法得到的人脸检测框分别进行人脸关键点的检测时,可能导致对部分不适用的人脸检测框进行人脸关键点检测时得到的检测结果不准确的问题。
发明内容
本申请提供了一种人脸关键点检测方法、装置及存储介质,可以解决不同的人脸检测算法得到的人脸检测框可能不同,当前的人脸关键点检测算法不适用于检测部分人脸检测算法得到的人脸检测框,导致该人脸关键点检测算法的兼容性差且检测该部分人脸检测算法得到的人脸检测框的准确性较低的问题。
本申请提供如下技术方案:
第一方面,提供了一种人脸关键点检测方法,所述方法包括:
获取人脸框图像,所述人脸框图像包括使用预设人脸检测算法得到的人脸框;
将所述人脸框图像输入预先训练的关键点检测模型,得到所述人脸框中的关键点坐标;所述关键点检测模型是根据不同的人脸检测算法对应的样本人脸框图像训练得到的,所述不同的人脸检测算法包括所述预设人脸检测算法;
显示每个关键点坐标指示的关键点。
可选地,所述关键点检测模型包括互相级联的n级子网络,n为大于1的整数;其中,第m级子网络包括至少两个并行的分支网络,不同级子网络中的分支网络的数量相同或者不同;所述m依次取2至n之间的整数;
所述将所述人脸框图像输入预先训练的关键点检测模型,得到所述人脸框中的关键点坐标,包括:
将所述人脸框图像输入第一级子网络,得到第一关键点坐标;
根据所述第一关键点坐标将所述人脸框图像划分为i个局部图像,将所述i个局部图像一一对应地输入第二级子网络的i个分支网络中,得每个分支网络输出的第二关键点坐标;所述i为正整数;
根据第k关键点坐标将所述人脸框图像划分为j个局部图像,将所述j个局部图像一一对应地输入第k+1级子网络的j个分支网络中,得到第k+1关键点坐标;所述k依次取2至n-1之间的整数,所述j为正整数。
可选地,所述关键点检测模型还用于识别所述人脸框图像的人脸属性;所述人脸属性包括至少一个关键点对应的属性信息,所述将所述人脸框图像输入预先训练的关键点检测模型,得到所述人脸框中的关键点坐标之后,还包括:
根据所述关键点检测模型输出的人脸属性和所述关键点坐标确定是否使用所述人脸框图像进行人脸识别。
可选地,所述将所述人脸框图像输入预先训练的关键点检测模型,得到所述人脸框中的关键点坐标之前,还包括:
获取样本人脸框图像和所述样本人脸框图像的关键点标记信息;
对所述样本人脸框图像进行预处理,得到不同的人脸检测算法对应的样本人脸框图像;
将所述不同的人脸检测算法对应的样本人脸框图像输入待训练的关键点检测模型,得到训练结果;
将所述训练结果与所述关键点标记信息进行比较,得到比较结果;
根据所述比较结果对所述待训练的关键点检测模型进行迭代训练,得到所述关键点检测模型。
可选地,所述待训练的关键点检测模型包括互相级联的n级待训练子网络;其中,第m级待训练子网络包括至少两个并行的分支网络,不同级子网络中的分支网络的数量相同或者不同;所述m依次取2至n之间的整数;
所述将所述不同的人脸检测算法对应的样本人脸框图像输入待训练的关键点检测模型,得到训练结果,包括:
将所述不同的人脸检测算法对应的样本人脸框图像输入第一级待训练子网络,得到第一关键点训练结果;
根据所述第一关键点训练结果将所述不同的人脸检测算法对应的样本人脸框图像划分为i'个局部图像,将所述i'个局部图像一一对应地输入第二级待训练子网络的i'个分支网络中,得到每个分支网络输出的第二关键点训练结果;所述i'为正整数;
根据第k'关键点训练结果将所述不同的人脸检测算法对应的样本人脸框图像划分为j'个局部图像,将所述j'个局部图像一一对应地输入第k'+1级子网络的j'个分支网络中,得到第k'+1关键点训练结果;所述k'依次取2至n-1之间的整数,所述j'为正整数。
可选地,每级待训练子网络还输出所述不同的人脸检测算法对应的样本人脸框图像的训练属性信息;
所述根据所述比较结果对所述待训练的关键点检测模型进行迭代训练,得到所述关键点检测模型,包括:
对于第s级待训练子网络,将第s关键点训练结果与所述关键点标记信息进行比较,得到第一比较结果;所述s依次取1至n的正整数;
将所述第s级待训练子网络的训练属性信息与预先获取到的属性标记信息进行比较,得到第二比较结果;
将所述第s关键点训练结果与所述第s关键点训练结果对应的属性标记信息进行比较,得到第三比较结果;
根据所述第一比较结果、所述第二比较结果和第三比较结果对每级级待训练子网络进行迭代训练,得到所述关键点检测模型。
可选地,所述将所述第s关键点训练结果与所述第s关键点训练结果对应的属性标记信息进行比较,得到第三比较结果,包括:
确定所述第s关键点训练结果指示的脸部区域;
从所述预先获取到的属性标记信息中确定所述脸部区域的属性标记信息;
比较所述第s关键点训练结果指示的面部特征与所述属性标记信息指示的面部特征是否相符,得到所述第三比较结果。
第二方面,提供了一种人脸关键点检测装置,所述装置包括:
图像获取模块,用于获取人脸框图像,所述人脸框图像包括使用预设人脸检测算法得到的人脸框;
关键点检测模块,用于将所述人脸框图像输入预先训练的关键点检测模型,得到所述人脸框中的关键点坐标;所述关键点检测模型是根据不同的人脸检测算法对应的样本人脸框图像训练得到的,所述不同的人脸检测算法包括所述预设人脸检测算法;
关键点显示模块,用于显示每个关键点坐标指示的关键点。
第三方面,提供一种人脸关键点检测装置,所述装置包括处理器和存储器;所述存储器中存储有程序,所述程序由所述处理器加载并执行以实现第一方面所述的人脸关键点检测方法。
第四方面,提供一种计算机可读存储介质,所述存储介质中存储有程序,所述程序由所述处理器加载并执行以实现第一方面所述的人脸关键点检测方法。
本申请的有益效果在于:通过获取人脸框图像,人脸框图像包括使用预设人脸检测算法得到的人脸框;将人脸框图像输入预先训练的关键点检测模型,得到人脸框中的关键点坐标;关键点检测模型是根据不同的人脸检测算法对应的样本人脸框图像训练得到的,不同的人脸检测算法包括预设人脸检测算法;显示每个关键点坐标指示的关键点;可以解决不同的人脸检测算法得到的人脸检测框可能不同,当前的人脸关键点检测算法不适用于检测部分人脸检测算法得到的人脸检测框,导致该人脸关键点检测算法的兼容性差且检测该部分人脸检测算法得到的人脸检测框的准确性较低的问题;由于使用不同的人脸检测算法对应的样本人脸框图像训练得到的关键点检测模型来检测人脸框图像中的关键点,该关键点检测模型适用于检测多种人脸检测算法得到的人脸框图像,因此,可以提高人脸关键点检测算法的兼容性,以及检测不同人脸检测算法得到的人脸检测框中的关键点的准确性。
上述说明仅是本申请技术方案的概述,为了能够更清楚了解本申请的技术手段,并可依照说明书的内容予以实施,以下以本申请的较佳实施例并配合附图详细说明如后。
附图说明
图1是本申请一个实施例提供的人脸关键点检测方法的流程图;
图2是本申请一个实施例提供的关键点检测模型的结构示意图;
图3是本申请一个实施例提供的关键点检测模型中第一级子网络的结构示意图;
图4是本申请一个实施例提供的关键点检测模型中第二级子网络的分支网络的结构示意图;
图5是本申请一个实施例提供的关键点检测模型中第三级子网络的分支网络的结构示意图;
图6是本申请一个实施例提供的显示关键点和属性信息的示意图;
图7是本申请另一个实施例提供的人脸关键点检测方法的流程图;
图8是本申请一个实施例提供的人脸关键点检测装置的框图;
图9是本申请一个实施例提供的人脸关键点检测装置的框图。
具体实施方式
下面结合附图和实施例,对本申请的具体实施方式作进一步详细描述。以下实施例用于说明本申请,但不用来限制本申请的范围。
可选地,本申请以各个实施例中每个步骤的执行主体为电子设备为例进行说明,该电子设备可以是手机、计算机、可穿戴式设备、平板电脑等具有计算能力的终端;或者,也可以是服务器,本实施例不对电子设备的类型作限定。
图1是本申请一个实施例提供的人脸关键点检测方法的流程图。该方法至少包括以下几个步骤:
步骤101,获取人脸框图像,该人脸框图像包括使用预设人脸检测算法得到的人脸框。
预设人脸检测算法可以是多任务卷积神经网络(Multi-task convolutionalneural network,MTCNN)算法、单镜头多盒检测器(Single Shot MultiBox Detector,SSD)算法等,本实施例不对预设人脸检测算法的类型作限定。
可选地,不同的人脸检测算法得到的人脸框图像中人脸框区域可能有所不同,这样,在对人脸框中的图像进行关键点检测时可能会出现不同的结果。
可选地,人脸框图像的来源可以相同;或者,也可以不同。
步骤102,将人脸框图像输入预先训练的关键点检测模型,得到人脸框中的关键点坐标;该关键点检测模型是根据不同的人脸检测算法对应的样本人脸框图像训练得到的,不同的人脸检测算法包括预设人脸检测算法。
由于不同的人脸检测算法得到的人脸框图像中人脸框区域可能有所不同,因此,本申请中使用不同的人脸检测算法对应的样本人脸框图像训练得到的关键点检测模型来检测关键点,由于该关键点检测模型能够适应不同的人脸检测算法得到的人脸框图像,因此,可以提高对不同的人脸框图像进行关键点检测时的准确性。
示意性地,关键点检测模型包括互相级联的n级子网络;第m级子网络包括至少两个并行的分支网络,不同级子网络中的分支网络的数量相同或者不同;其中,n为大于1的整数m依次取2至n之间的整数。当前级子网络用于对前一级子网络输出的关键点坐标进行进一步的细化检测。
此时,将人脸框图像输入预先训练的关键点检测模型,得到人脸框中的关键点坐标,包括:将人脸框图像输入第一级子网络,得到第一关键点坐标;根据第一关键点坐标将人脸框图像划分为i个局部图像,将i个局部图像一一对应地输入第二级子网络的i个分支网络中,得每个分支网络输出的第二关键点坐标;i为正整数;根据第k关键点坐标将人脸框图像划分为j个局部图像,将j个局部图像一一对应地输入第k+1级子网络的j个分支网络中,得到第k+1关键点坐标。k依次取2至n-1之间的整数,j为正整数。
第n级子网络输出的第n关键点坐标即为人脸框中的关键点坐标。
可选地,本申请中,根据关键点坐标划分局部图像包括:将人脸框图像划分为包括关键点坐标指示的指定关键点的目标尺寸图像。以根据第一关键点坐标将人脸框图像划分为3个局部图像为例,电子设备可以根据第一关键点坐标确定出眼球、嘴角、鼻尖,则可以将人脸框图像中包括眼球的5×5尺寸的图像区域、人脸框图像中包括嘴角的5×5尺寸的图像区域、以及人脸框图像中包括鼻尖的5×5尺寸的图像区域作为划分出的3个局部图像。
其中,每级子网络的网络结构可以是卷积网络和/或全连接神经网络等;不同级子网络的网络结构可以相同;或者,也可以不同,本实施例每级子网络的网络结构作限定。
比如:参考图2,关键点检测模型包括互相级联的3级子网络,第一级子网络为单一网络(即不包括分支网络),第二级子网络包括3个并行的分支网络,第三级子网络包括5个并行的分支网络。其中,人脸框图像输入第一级子网络得到第一关键点坐标;然后,根据该第一关键点坐标将人脸框图像划分为3个局部图像,将每个局部图像输入第二级子网络对应的分支网络中,得到第二级子网络中每个分支网络输出的第二关键点坐标;然后,根据该第二关键点坐标将人脸框图像划分为5个局部图像,将每个局部图像输入第三级子网络对应的分支网络中,得到第三级子网络中每个分支网络输出的第三关键点坐标,该第三关键点坐标为人脸框中的关键点坐标。
参考图3,第一级子网络包括至少一层卷积层(图3中以4层卷积层为例进行说明)、和每层卷积层相连的池化层(4层)以及位于最后一层的全连接层。其中,卷积层用于对人脸框图像进行特征提取,池化层用于对输入的图像进行压缩,从而简化网络计算复杂度并有助于后续卷积层提取主要特征。
参考图4,第二级子网络的每个分支网络包括至少一层卷积层(图4中以4层卷积层为例进行说明)、和每层卷积层相连的池化层(4层)以及位于最后一层的全连接层。
参考图5,第三级子网络的每个分支网络包括至少一层卷积层(图5中以4层卷积层为例进行说明)、和每层卷积层相连的池化层(4层)以及位于最后一层的全连接层。
可选地,关键点检测模型还用于识别人脸框图像的人脸属性;该人脸属性包括至少一个关键点对应的属性信息。人脸属性包括但不限于:性别、年龄、种族、是否微笑、头部姿态、是否戴眼镜、和/或是否戴口罩等,其中,是否微笑是嘴角的关键点对应的属性信息、头部姿态是人脸轮廓的关键点对应的属性信息、是否戴眼镜是眼部的关键点对应的属性信息、是否戴口罩是嘴部关键点对应的属性信息。当然,人脸属性还可以包括其它类型的信息,本实施例在此不再一一列举。此时,电子设备将人脸框图像输入预先训练的关键点检测模型后既会得到人脸框中的关键点坐标,还会得到人脸框图像的人脸属性。可选地,电子设备根据关键点检测模型输出的人脸属性和关键点坐标确定是否使用人脸框图像进行人脸识别。
在一个示例中,电子设备根据关键点检测模型输出的人脸属性和关键点坐标确定是否使用人脸框图像进行人脸识别,包括:确定人脸属性是否达到人脸识别标准,并确定关键点坐标是否符合预设几何分布;在人脸属性达到人脸识别标准且关键点坐标符合预设几何分布时确定使用人脸框进行人脸识别;在人脸属性未达到人脸识别标准或者关键点坐标不符合预设几何分布时确定不使用人脸框进行人脸识别。
其中,人脸识别标准包括:头部姿态为在三维方向上的旋转角度均在预设范围内、未戴口罩、未带眼镜和/或未微笑。当然,人脸识别标准也可以是其它内容,该人脸识别标准通过大量人脸识别实验确定,能够满足人脸识别标准即可本实施例对此不作限定。
预设几何分布可以是人脸正视镜头时各个关键点的几何分布,当然,也可以是其它分布,该预设几何分布通过大量人脸识别实验确定,能够满足人脸识别标准即可,本实施例不对预设几何分布作限定。
示意性地,关键点检测模型中的至少一级子网络具有输出属性信息的功能,比如:图2所示的关键点检测模型中的第一级子网络和第二级子网络具有输出属性信息的功能。
步骤103,显示每个关键点坐标指示的关键点。
可选地,在关键点检测模型还具有输出属性信息的功能时,电子设备还可以显示该属性信息。电子设备可以将关键点坐标指示的关键点和属性信息显示在同一界面中;或者,电子设备可以将关键点坐标指示的关键点和属性信息显示在不同界面中。参考图6所示的每个关键点坐标指示的关键点(黑点所示)和属性信息601,该关键点和属性信息显示在同一界面中。
综上所述,本实施例提供的人脸关键点检测方法,通过获取人脸框图像,人脸框图像包括使用预设人脸检测算法得到的人脸框;将人脸框图像输入预先训练的关键点检测模型,得到人脸框中的关键点坐标;关键点检测模型是根据不同的人脸检测算法对应的样本人脸框图像训练得到的,不同的人脸检测算法包括预设人脸检测算法;显示每个关键点坐标指示的关键点;可以解决不同的人脸检测算法得到的人脸检测框可能不同,当前的人脸关键点检测算法不适用于检测部分人脸检测算法得到的人脸检测框,导致该人脸关键点检测算法的兼容性差且检测该部分人脸检测算法得到的人脸检测框的准确性较低的问题;由于使用不同的人脸检测算法对应的样本人脸框图像训练得到的关键点检测模型来检测人脸框图像中的关键点,该关键点检测模型适用于检测多种人脸检测算法得到的人脸框图像,因此,可以提高人脸关键点检测算法的兼容性,以及检测不同人脸检测算法得到的人脸检测框中的关键点的准确性。
另外,通过在输出人脸框图像中的关键点时输出该人脸框图像的人脸属性,可以在检测人脸关键点时提供更多的信息,提高信息输出的多样性。
另外,通过人脸属性和关键点坐标确定是否使用人脸框图像进行人脸识别,可以对人脸框图像进行筛选,后续无需对无法达到人脸识别标准的人脸框图像进行人脸识别,可以节省设备资源。
可选地,基于上述实施例,在步骤102之前,电子设备需要对关键点检测模型进行训练。图7是本申请另一个实施例提供的人脸关键点检测方法的流程图。在步骤102之前,该方法至少包括以下几个步骤:
步骤701,获取样本人脸框图像和样本人脸框图像的关键点标记信息。
其中,样本人脸框的数量较多,可以是成百上千的。关键点标记信息用于指示样本人脸框中的关键点位置,该关键点位置可以通过像素坐标表示。
可选地,若关键点检测模型还具有输出属性信息的功能时,电子设备还需要获取属性标记信息,从而对该关键点检测模型输出属性信息的功能进行训练。
电子设备可以同时获取样本人脸框图像、样本人脸框图像的关键点标记信息和属性标记信息;或者,也可以分别获取样本人脸框图像、样本人脸框图像的关键点标记信息和属性标记信息,本实施例不对样本人脸框图像、样本人脸框图像的关键点标记信息和属性标记信息的获取时机作限定。
电子设备可以使用标记工具标记方式获取样本人脸框图像的关键点标记信息和属性标记信息;也可以通过人工标记方式获取样本人脸框图像的关键点标记信息和属性标记信息,本实施例不对样本人脸框图像的关键点标记信息和属性标记信息的标记方式作限定。
样本人脸框图像可以是监控场景下的采集照、证件照和/或共享的图像等,本实施例不对样本人脸框图像的来源作限定。
步骤702,对样本人脸框图像进行预处理,得到不同的人脸检测算法对应的样本人脸框图像。
可选地,预处理包括但不限于:平移、旋转、镜像和/或缩放等操作,从而得到的样本人脸框图像是不同的人脸检测算法对应的样本人脸框图像。当然,电子设备也可以使用不同的人脸检测算法对人脸图像进行检测,得到不同的人脸检测算法对应的样本人脸框图像。
步骤703,将不同的人脸检测算法对应的样本人脸框图像输入待训练的关键点检测模型,得到训练结果。
其中,待训练的关键点检测模型的网络结构与训练得到关键点检测模型的网络结构相同,网络参数可能不同。
示意性地,待训练的关键点检测模型包括互相级联的n级待训练子网络;其中,第m级待训练子网络包括至少两个并行的分支网络,不同级子网络中的分支网络的数量相同或者不同;m依次取2至n之间的整数。比如:待训练的关键点检测模型的模型结构参考图2至图5所示的关键点检测模型的网络结构。
步骤704,将训练结果与关键点标记信息进行比较,得到比较结果。
可选地,基于步骤703中的待训练的关键点检测模型,电子设备将不同的人脸检测算法对应的样本人脸框图像输入待训练的关键点检测模型,得到训练结果,包括:将不同的人脸检测算法对应的样本人脸框图像输入第一级待训练子网络,得到第一关键点训练结果;根据第一关键点训练结果将不同的人脸检测算法对应的样本人脸框图像划分为i'个局部图像,将i'个局部图像一一对应地输入第二级待训练子网络的i'个分支网络中,得到每个分支网络输出的第二关键点训练结果;根据第k'关键点训练结果将不同的人脸检测算法对应的样本人脸框图像划分为j'个局部图像,将j'个局部图像一一对应地输入第k'+1级子网络的j'个分支网络中,得到第k'+1关键点训练结果。
其中,k'依次取2至n-1之间的整数,j'为正整数;i'为正整数。
可选地,为了提高第一级待训练子网络之后的各级待训练子网络对不同的人脸检测算法对应的样本人脸框图像的适应能力,电子设备在将不同的人脸检测算法对应的样本人脸框图像划分为i'个局部图像之后,可以对每个局部图像进行预处理,然后将预处理后的局部图像输入第二级待训练子网络的i'个分支网络中。其中,预处理的方式包括但不限于:平移、旋转、镜像和/或缩放等操作。
步骤705,根据比较结果对待训练的关键点检测模型进行迭代训练,得到关键点检测模型。
可选地,对于每级待训练子网络,将该级的关键点训练结果与关键点标记信息进行比较,得到比较结果;在该比较结果指示的相似度大于或等于预设阈值时,根据该比较结果更新待训练的关键点检测模型中的网络参数,再次执行步骤702;在该比较结果指示的相似度小于预设阈值时停止训练,得到训练后的子网络;或者,在训练次数达到预设次数时停止训练,得到训练后的子网络。
其中,电子设备可以使用损失函数得到比较结果,比如:使用对数损失函数、平方损失函数或者指数损失函数等,损失函数的函数值(即比较结果)越小,说明模型的鲁棒性越好。
可选地,每级待训练子网络还输出不同的人脸检测算法对应的样本人脸框图像的训练属性信息;电子设备还预先获取属性标记信息。此时,对于第s级待训练子网络,将第s关键点训练结果与关键点标记信息进行比较,得到第一比较结果;将第s级待训练子网络的训练属性信息与预先获取到的属性标记信息进行比较,得到第二比较结果;将第s关键点训练结果与第s关键点训练结果对应的属性标记信息进行比较,得到第三比较结果;根据第一比较结果、第二比较结果和第三比较结果对每级级待训练子网络进行迭代训练,得到关键点检测模型。s依次取1至n的正整数。
可选地,第一比较结果、第二比较结果和第三比较结果中的至少一个指示的相似度大于或等于对应的设定阈值时,根据该第一比较结果、第二比较结果和第三比较结果更新待训练的关键点检测模型中的网络参数,再次执行步骤702;在该相似度均小于对应的设定阈值时停止训练,得到训练后的子网络;或者,在训练次数达到预设次数时停止训练,得到训练后的子网络。
其中,将第s关键点训练结果与第s关键点训练结果对应的属性标记信息进行比较,得到第三比较结果,包括:确定第s关键点训练结果指示的脸部区域;从预先获取到的属性标记信息中确定脸部区域的属性标记信息;比较第s关键点训练结果指示的面部特征与属性标记信息指示的面部特征是否相符,得到第三比较结果。这样,可以使用属性标记信息来帮助待训练子网络进行回归,可以提高训练得到的子网络的准确性。
第s关键点训练结果对应的属性标记信息是指:第s关键点训练结果指示的脸部区域的属性标记信息。比如:第s关键点训练结果指示的脸部区域为眼睛,则该属性标记信息为是否戴眼睛;又比如:第s关键点训练结果指示的脸部区域为嘴巴,则该属性标记信息为是否微笑、是否戴口罩等。
当然,电子设备可以使用损失函数得到第一比较结果、第二比较结果和第三比较结果,该损失函数可以为对数损失函数、平方损失函数或者指数损失函数等,本实施例不对该损失函数的类型作限定。
综上所述,本实施例提供的人脸关键点检测方法,使用预处理后的人脸框图像来训练关键点检测模型,由于该预处理后的人脸框图像是不同的人脸检测算法对应的样本人脸框图像,因此,可以提高关键点检测模型的兼容性。
另外,通过在训练关键点检测模型中的每级子网络时,使用属性标记信息来训练该子网络检测关键点的功能,有助于人脸关键点的精准回归,提高每级子网络检测关键点的准确性。
图8是本申请一个实施例提供的人脸关键点检测装置的框图。该装置至少包括以下几个模块:图像获取模块810、关键点检测模块820和关键点显示模块830。
图像获取模块810,用于获取人脸框图像,所述人脸框图像包括使用预设人脸检测算法得到的人脸框;
关键点检测模块820,用于将所述人脸框图像输入预先训练的关键点检测模型,得到所述人脸框中的关键点坐标;所述关键点检测模型是根据不同的人脸检测算法对应的样本人脸框图像训练得到的,所述不同的人脸检测算法包括所述预设人脸检测算法;
关键点显示模块830,用于显示每个关键点坐标指示的关键点。
相关细节参考上述方法实施例。
需要说明的是:上述实施例中提供的人脸关键点检测装置在进行人脸关键点检测时,仅以上述各功能模块的划分进行举例说明,实际应用中,可以根据需要而将上述功能分配由不同的功能模块完成,即将人脸关键点检测装置的内部结构划分成不同的功能模块,以完成以上描述的全部或者部分功能。另外,上述实施例提供的人脸关键点检测装置与人脸关键点检测方法实施例属于同一构思,其具体实现过程详见方法实施例,这里不再赘述。
图9是本申请一个实施例提供的人脸关键点检测装置的框图,该装置可以是电子设备。该装置至少包括处理器901和存储器902。
处理器901可以包括一个或多个处理核心,比如:4核心处理器、9核心处理器等。处理器901可以采用DSP(Digital Signal Processing,数字信号处理)、FPGA(Field-Programmable Gate Array,现场可编程门阵列)、PLA(Programmable Logic Array,可编程逻辑阵列)中的至少一种硬件形式来实现。处理器901也可以包括主处理器和协处理器,主处理器是用于对在唤醒状态下的数据进行处理的处理器,也称CPU(Central ProcessingUnit,中央处理器);协处理器是用于对在待机状态下的数据进行处理的低功耗处理器。在一些实施例中,处理器901可以在集成有GPU(Graphics Processing Unit,图像处理器),GPU用于负责显示屏所需要显示的内容的渲染和绘制。一些实施例中,处理器901还可以包括AI(Artificial Intelligence,人工智能)处理器,该AI处理器用于处理有关机器学习的计算操作。
存储器902可以包括一个或多个计算机可读存储介质,该计算机可读存储介质可以是非暂态的。存储器902还可包括高速随机存取存储器,以及非易失性存储器,比如一个或多个磁盘存储设备、闪存存储设备。在一些实施例中,存储器902中的非暂态的计算机可读存储介质用于存储至少一个指令,该至少一个指令用于被处理器901所执行以实现本申请中方法实施例提供的人脸关键点检测方法。
在一些实施例中,人脸关键点检测装置还可选包括有:外围设备接口和至少一个外围设备。处理器901、存储器902和外围设备接口之间可以通过总线或信号线相连。各个外围设备可以通过总线、信号线或电路板与外围设备接口相连。示意性地,外围设备包括但不限于:射频电路、触摸显示屏、音频电路、和电源等。
当然,人脸关键点检测装置还可以包括更少或更多的组件,本实施例对此不作限定。
可选地,本申请还提供有一种计算机可读存储介质,所述计算机可读存储介质中存储有程序,所述程序由处理器加载并执行以实现上述方法实施例的人脸关键点检测方法。
可选地,本申请还提供有一种计算机产品,该计算机产品包括计算机可读存储介质,所述计算机可读存储介质中存储有程序,所述程序由处理器加载并执行以实现上述方法实施例的人脸关键点检测方法。
以上所述实施例的各技术特征可以进行任意的组合,为使描述简洁,未对上述实施例中的各个技术特征所有可能的组合都进行描述,然而,只要这些技术特征的组合不存在矛盾,都应当认为是本说明书记载的范围。
以上所述实施例仅表达了本申请的几种实施方式,其描述较为具体和详细,但并不能因此而理解为对发明专利范围的限制。应当指出的是,对于本领域的普通技术人员来说,在不脱离本申请构思的前提下,还可以做出若干变形和改进,这些都属于本申请的保护范围。因此,本申请专利的保护范围应以所附权利要求为准。
Claims (10)
1.一种人脸关键点检测方法,其特征在于,所述方法包括:
获取人脸框图像,所述人脸框图像包括使用预设人脸检测算法得到的人脸框;
将所述人脸框图像输入预先训练的关键点检测模型,得到所述人脸框中的关键点坐标;所述关键点检测模型是根据不同的人脸检测算法对应的样本人脸框图像训练得到的,所述不同的人脸检测算法包括所述预设人脸检测算法;所述关键点检测模型适用于检测多种人脸检测算法得到的人脸框图像;
显示每个关键点坐标指示的关键点。
2.根据权利要求1所述的方法,其特征在于,所述关键点检测模型包括互相级联的n级子网络,n为大于1的整数;其中,第m级子网络包括至少两个并行的分支网络,不同级子网络中的分支网络的数量相同或者不同;所述m依次取2至n之间的整数;
所述将所述人脸框图像输入预先训练的关键点检测模型,得到所述人脸框中的关键点坐标,包括:
将所述人脸框图像输入第一级子网络,得到第一关键点坐标;
根据所述第一关键点坐标将所述人脸框图像划分为i个局部图像,将所述i个局部图像一一对应地输入第二级子网络的i个分支网络中,得每个分支网络输出的第二关键点坐标;所述i为正整数;
根据第k关键点坐标将所述人脸框图像划分为j个局部图像,将所述j个局部图像一一对应地输入第k+1级子网络的j个分支网络中,得到第k+1关键点坐标;所述k依次取2至n-1之间的整数,所述j为正整数。
3.根据权利要求1所述的方法,其特征在于,所述关键点检测模型还用于识别所述人脸框图像的人脸属性;所述人脸属性包括至少一个关键点对应的属性信息,所述将所述人脸框图像输入预先训练的关键点检测模型,得到所述人脸框中的关键点坐标之后,还包括:
根据所述关键点检测模型输出的人脸属性和所述关键点坐标确定是否使用所述人脸框图像进行人脸识别。
4.根据权利要求1至3任一所述的方法,其特征在于,所述将所述人脸框图像输入预先训练的关键点检测模型,得到所述人脸框中的关键点坐标之前,还包括:
获取样本人脸框图像和所述样本人脸框图像的关键点标记信息;
对所述样本人脸框图像进行预处理,得到不同的人脸检测算法对应的样本人脸框图像;
将所述不同的人脸检测算法对应的样本人脸框图像输入待训练的关键点检测模型,得到训练结果;
将所述训练结果与所述关键点标记信息进行比较,得到比较结果;
根据所述比较结果对所述待训练的关键点检测模型进行迭代训练,得到所述关键点检测模型。
5.根据权利要求4所述的方法,其特征在于,所述待训练的关键点检测模型包括互相级联的n级待训练子网络;其中,第m级待训练子网络包括至少两个并行的分支网络,不同级子网络中的分支网络的数量相同或者不同;所述m依次取2至n之间的整数;
所述将所述不同的人脸检测算法对应的样本人脸框图像输入待训练的关键点检测模型,得到训练结果,包括:
将所述不同的人脸检测算法对应的样本人脸框图像输入第一级待训练子网络,得到第一关键点训练结果;
根据所述第一关键点训练结果将所述不同的人脸检测算法对应的样本人脸框图像划分为i'个局部图像,将所述i'个局部图像一一对应地输入第二级待训练子网络的i'个分支网络中,得到每个分支网络输出的第二关键点训练结果;所述i'为正整数;
根据第k'关键点训练结果将所述不同的人脸检测算法对应的样本人脸框图像划分为j'个局部图像,将所述j'个局部图像一一对应地输入第k'+1级子网络的j'个分支网络中,得到第k'+1关键点训练结果;所述k'依次取2至n-1之间的整数,所述j'为正整数。
6.根据权利要求5所述的方法,其特征在于,每级待训练子网络还输出所述不同的人脸检测算法对应的样本人脸框图像的训练属性信息;
所述根据所述比较结果对所述待训练的关键点检测模型进行迭代训练,得到所述关键点检测模型,包括:
对于第s级待训练子网络,将第s关键点训练结果与所述关键点标记信息进行比较,得到第一比较结果;所述s依次取1至n的正整数;
将所述第s级待训练子网络的训练属性信息与预先获取到的属性标记信息进行比较,得到第二比较结果;
将所述第s关键点训练结果与所述第s关键点训练结果对应的属性标记信息进行比较,得到第三比较结果;
根据所述第一比较结果、所述第二比较结果和第三比较结果对每级级待训练子网络进行迭代训练,得到所述关键点检测模型。
7.根据权利要求6所述的方法,其特征在于,所述将所述第s关键点训练结果与所述第s关键点训练结果对应的属性标记信息进行比较,得到第三比较结果,包括:
确定所述第s关键点训练结果指示的脸部区域;
从所述预先获取到的属性标记信息中确定所述脸部区域的属性标记信息;
比较所述第s关键点训练结果指示的面部特征与所述属性标记信息指示的面部特征是否相符,得到所述第三比较结果。
8.一种人脸关键点检测装置,其特征在于,所述装置包括:
图像获取模块,用于获取人脸框图像,所述人脸框图像包括使用预设人脸检测算法得到的人脸框;
关键点检测模块,用于将所述人脸框图像输入预先训练的关键点检测模型,得到所述人脸框中的关键点坐标;所述关键点检测模型是根据不同的人脸检测算法对应的样本人脸框图像训练得到的,所述不同的人脸检测算法包括所述预设人脸检测算法;所述关键点检测模型适用于检测多种人脸检测算法得到的人脸框图像;
关键点显示模块,用于显示每个关键点坐标指示的关键点。
9.一种人脸关键点检测装置,其特征在于,所述装置包括处理器和存储器;所述存储器中存储有程序,所述程序由所述处理器加载并执行以实现如权利要求1至7任一项所述的人脸关键点检测方法。
10.一种计算机可读存储介质,其特征在于,所述存储介质中存储有程序,所述程序被处理器执行时用于实现如权利要求1至7任一项所述的人脸关键点检测方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910039820.4A CN109558864B (zh) | 2019-01-16 | 2019-01-16 | 人脸关键点检测方法、装置及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910039820.4A CN109558864B (zh) | 2019-01-16 | 2019-01-16 | 人脸关键点检测方法、装置及存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN109558864A CN109558864A (zh) | 2019-04-02 |
CN109558864B true CN109558864B (zh) | 2021-07-30 |
Family
ID=65873210
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201910039820.4A Active CN109558864B (zh) | 2019-01-16 | 2019-01-16 | 人脸关键点检测方法、装置及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN109558864B (zh) |
Families Citing this family (25)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111797656B (zh) * | 2019-04-09 | 2023-08-22 | Oppo广东移动通信有限公司 | 人脸关键点检测方法、装置、存储介质及电子设备 |
CN112101342A (zh) * | 2019-06-17 | 2020-12-18 | 顺丰科技有限公司 | 箱体关键点检测方法和装置、计算设备、计算机可读存储介质 |
CN110298291B (zh) * | 2019-06-25 | 2022-09-23 | 吉林大学 | 基于Mask-RCNN的牛脸及牛脸关键点检测方法 |
CN110414369B (zh) * | 2019-07-05 | 2023-04-18 | 安徽省农业科学院畜牧兽医研究所 | 一种牛脸的训练方法及装置 |
CN110781809A (zh) * | 2019-10-23 | 2020-02-11 | 杭州宇泛智能科技有限公司 | 基于注册特征更新的识别方法、装置及电子设备 |
CN110909618B (zh) * | 2019-10-29 | 2023-04-21 | 泰康保险集团股份有限公司 | 一种宠物身份的识别方法及装置 |
CN110991443A (zh) * | 2019-10-29 | 2020-04-10 | 北京海益同展信息科技有限公司 | 关键点检测、图像处理方法、装置、电子设备及存储介质 |
CN110866500A (zh) * | 2019-11-19 | 2020-03-06 | 上海眼控科技股份有限公司 | 人脸检测对齐系统、方法、装置、平台、移动终端和存储介质 |
CN111028212B (zh) * | 2019-12-02 | 2024-02-27 | 上海联影智能医疗科技有限公司 | 关键点检测方法、装置、计算机设备和存储介质 |
CN111046792A (zh) * | 2019-12-11 | 2020-04-21 | 三一重工股份有限公司 | 人脸检测方法、装置、电子设备和计算机可读存储介质 |
CN111178172A (zh) * | 2019-12-13 | 2020-05-19 | 北京工业大学 | 实验鼠嗅探动作识别方法、模块及系统 |
CN111368685B (zh) * | 2020-02-27 | 2023-09-29 | 北京字节跳动网络技术有限公司 | 关键点的识别方法、装置、可读介质和电子设备 |
CN111401158B (zh) * | 2020-03-03 | 2023-09-01 | 平安科技(深圳)有限公司 | 难样本发现方法、装置及计算机设备 |
CN111382714B (zh) * | 2020-03-13 | 2023-02-17 | Oppo广东移动通信有限公司 | 图像检测方法、装置、终端及存储介质 |
CN113435226B (zh) * | 2020-03-23 | 2022-09-16 | 北京百度网讯科技有限公司 | 信息处理方法和装置 |
CN111444887A (zh) * | 2020-04-30 | 2020-07-24 | 北京每日优鲜电子商务有限公司 | 口罩佩戴的检测方法、装置、存储介质及电子设备 |
CN111582206B (zh) * | 2020-05-13 | 2023-08-22 | 抖音视界有限公司 | 用于生成生物体姿态关键点信息的方法和装置 |
CN111814573A (zh) * | 2020-06-12 | 2020-10-23 | 深圳禾思众成科技有限公司 | 一种人脸信息的检测方法、装置、终端设备及存储介质 |
CN112232205B (zh) * | 2020-10-16 | 2022-05-27 | 中科智云科技有限公司 | 移动端cpu实时多功能人脸检测方法 |
CN112464753B (zh) * | 2020-11-13 | 2024-05-24 | 深圳市优必选科技股份有限公司 | 图像中关键点的检测方法、检测装置及终端设备 |
CN112818908B (zh) * | 2021-02-22 | 2024-07-02 | Oppo广东移动通信有限公司 | 关键点检测方法、装置、终端及存储介质 |
CN113011356A (zh) * | 2021-03-26 | 2021-06-22 | 杭州朗和科技有限公司 | 人脸特征检测方法、装置、介质及电子设备 |
CN113269155B (zh) * | 2021-06-28 | 2024-07-16 | 苏州市科远软件技术开发有限公司 | 端到端的人脸识别方法、装置、设备及存储介质 |
CN113591783A (zh) * | 2021-08-12 | 2021-11-02 | 北京爱笔科技有限公司 | 人体和人脸的匹配方法、装置、设备和存储介质 |
CN114387658A (zh) * | 2022-03-24 | 2022-04-22 | 浪潮云信息技术股份公司 | 一种图像目标属性检测方法、装置、设备及存储介质 |
Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107038429A (zh) * | 2017-05-03 | 2017-08-11 | 四川云图睿视科技有限公司 | 一种基于深度学习的多任务级联人脸对齐方法 |
Family Cites Families (14)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7127087B2 (en) * | 2000-03-27 | 2006-10-24 | Microsoft Corporation | Pose-invariant face recognition system and process |
CN101178770B (zh) * | 2007-12-11 | 2011-02-16 | 北京中星微电子有限公司 | 一种图像检测方法及装置 |
CN101877055A (zh) * | 2009-12-07 | 2010-11-03 | 北京中星微电子有限公司 | 一种关键特征点定位的方法和装置 |
CN103824049A (zh) * | 2014-02-17 | 2014-05-28 | 北京旷视科技有限公司 | 一种基于级联神经网络的人脸关键点检测方法 |
CN104268591B (zh) * | 2014-09-19 | 2017-11-28 | 海信集团有限公司 | 一种面部关键点检测方法及装置 |
CN105868769A (zh) * | 2015-01-23 | 2016-08-17 | 阿里巴巴集团控股有限公司 | 图像中的人脸关键点定位方法及装置 |
CN106295476B (zh) * | 2015-05-29 | 2019-05-17 | 腾讯科技(深圳)有限公司 | 人脸关键点定位方法和装置 |
CN106327546B (zh) * | 2016-08-24 | 2020-12-08 | 北京旷视科技有限公司 | 人脸检测算法的测试方法和装置 |
CN106339680B (zh) * | 2016-08-25 | 2019-07-23 | 北京小米移动软件有限公司 | 人脸关键点定位方法及装置 |
CN107292293A (zh) * | 2017-07-26 | 2017-10-24 | 北京小米移动软件有限公司 | 人脸检测的方法及装置 |
CN107392166A (zh) * | 2017-07-31 | 2017-11-24 | 北京小米移动软件有限公司 | 肤色检测方法、装置及计算机可读存储介质 |
CN107967456A (zh) * | 2017-11-27 | 2018-04-27 | 电子科技大学 | 一种基于人脸关键点的多神经网络级联识别人脸方法 |
CN108509894A (zh) * | 2018-03-28 | 2018-09-07 | 北京市商汤科技开发有限公司 | 人脸检测方法及装置 |
CN108764048B (zh) * | 2018-04-28 | 2021-03-16 | 中国科学院自动化研究所 | 人脸关键点检测方法及装置 |
-
2019
- 2019-01-16 CN CN201910039820.4A patent/CN109558864B/zh active Active
Patent Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107038429A (zh) * | 2017-05-03 | 2017-08-11 | 四川云图睿视科技有限公司 | 一种基于深度学习的多任务级联人脸对齐方法 |
Non-Patent Citations (2)
Title |
---|
Erjin Zhou 等.Extensive Facial Landmark Localization with Coarse-to-Fine Convolutional Network Cascade.《2013 IEEE International Conference on Computer Vision Workshops》.IEEE,2013,386-391. * |
Extensive Facial Landmark Localization with Coarse-to-Fine Convolutional Network Cascade;Erjin Zhou 等;《2013 IEEE International Conference on Computer Vision Workshops》;IEEE;20131208;386-391 * |
Also Published As
Publication number | Publication date |
---|---|
CN109558864A (zh) | 2019-04-02 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109558864B (zh) | 人脸关键点检测方法、装置及存储介质 | |
CN109829448B (zh) | 人脸识别方法、装置及存储介质 | |
US11238272B2 (en) | Method and apparatus for detecting face image | |
WO2020103700A1 (zh) | 一种基于微表情的图像识别方法、装置以及相关设备 | |
CN110659582A (zh) | 图像转换模型训练方法、异质人脸识别方法、装置及设备 | |
CN109740668B (zh) | 深度模型训练方法及装置、电子设备及存储介质 | |
CN109657533A (zh) | 行人重识别方法及相关产品 | |
CN111414946B (zh) | 基于人工智能的医疗影像的噪声数据识别方法和相关装置 | |
CN109740752B (zh) | 深度模型训练方法及装置、电子设备及存储介质 | |
CN110781770B (zh) | 基于人脸识别的活体检测方法、装置及设备 | |
CN108509994B (zh) | 人物图像聚类方法和装置 | |
CN113221771B (zh) | 活体人脸识别方法、装置、设备、存储介质及程序产品 | |
CN113159200B (zh) | 对象分析方法、装置及存储介质 | |
CN112241667A (zh) | 图像检测方法、装置、设备及存储介质 | |
CN109635755A (zh) | 人脸提取方法、装置及存储介质 | |
CN113269155B (zh) | 端到端的人脸识别方法、装置、设备及存储介质 | |
CN114783070A (zh) | 活体检测模型的训练方法、装置、电子设备及存储介质 | |
CN112598591B (zh) | 图像处理方法、装置、电子设备及存储介质 | |
CN112686314B (zh) | 基于远距离拍摄场景的目标检测方法、装置及存储介质 | |
CN111680670B (zh) | 一种跨模态人头检测方法及装置 | |
CN113392769A (zh) | 人脸图像的合成方法、装置、电子设备及存储介质 | |
CN114627534A (zh) | 活体判别方法及电子设备、存储介质 | |
CN110717406B (zh) | 一种人脸检测的方法、装置及终端设备 | |
CN117274761B (zh) | 图像生成方法、装置、电子设备和存储介质 | |
CN115147850B (zh) | 文字生成模型的训练方法、文字生成方法及其装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |