CN111931741A - 嘴部关键点的标注方法、装置、电子设备及存储介质 - Google Patents

嘴部关键点的标注方法、装置、电子设备及存储介质 Download PDF

Info

Publication number
CN111931741A
CN111931741A CN202011046354.1A CN202011046354A CN111931741A CN 111931741 A CN111931741 A CN 111931741A CN 202011046354 A CN202011046354 A CN 202011046354A CN 111931741 A CN111931741 A CN 111931741A
Authority
CN
China
Prior art keywords
mouth
point
face image
region
key
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202011046354.1A
Other languages
English (en)
Other versions
CN111931741B (zh
Inventor
张博宁
张国鑫
马里千
刘晓强
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Dajia Internet Information Technology Co Ltd
Original Assignee
Beijing Dajia Internet Information Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Dajia Internet Information Technology Co Ltd filed Critical Beijing Dajia Internet Information Technology Co Ltd
Priority to CN202011046354.1A priority Critical patent/CN111931741B/zh
Publication of CN111931741A publication Critical patent/CN111931741A/zh
Application granted granted Critical
Publication of CN111931741B publication Critical patent/CN111931741B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16—Human faces, e.g. facial parts, sketches or expressions
    • G06V40/161—Detection; Localisation; Normalisation
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • General Physics & Mathematics (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Evolutionary Biology (AREA)
  • Evolutionary Computation (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • General Engineering & Computer Science (AREA)
  • Artificial Intelligence (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Human Computer Interaction (AREA)
  • Multimedia (AREA)
  • Image Analysis (AREA)

Abstract

本公开关于一种嘴部关键点的标注方法、装置、电子设备及存储介质，方法包括：获取第一人脸图像；确定第一人脸图像上的第一上嘴唇区域和第一下嘴唇区域；根据第一上嘴唇区域和第一下嘴唇区域，确定目标嘴部区域集合；当目标嘴部区域集合为空，确定外嘴角关键点包括第一上嘴唇区域与第一下嘴唇区域的并集中的最左侧点和最右侧点；当目标嘴部区域集合不为空，确定外嘴角关键点包括目标嘴部区域集合中的最左侧点和最右侧点；根据外嘴角关键点，进行嘴部关键点的标注。本公开可以自动进行嘴部关键点标注，提高了标注效率以及节省成本，并且利用本公开提供的方法标注的嘴部关键点来训练模型时，可以提高模型训练的精度。

Description

嘴部关键点的标注方法、装置、电子设备及存储介质
技术领域
本公开涉及计算机技术领域，尤其涉及嘴部关键点的标注方法、装置、电子设备及存储介质。
背景技术
深度学习具有自动学习及持续学习的能力，其已经成功应用到面部识别、图像识别与分析、语音识别和自然语言处理等很多领域，且在这些方面都带来了很多显著的效果。对于其中的面部识别领域，关键一步是基于深度学习的面部关键点（比如眉毛关键点和眼睛关键点）进行面部部位检测。这一步也是诸如自动面部识别、表情分析、三维面部重建以及其他面部相关问题的前提和突破口。
为了实现基于深度学习的面部部位检测，需要大量的面部部位的关键点的标注数据来训练模型。其中，面部部位的关键点包括眼睛关键点、眉毛关键点、鼻子关键点和嘴部关键点。为了获取嘴部关键点，在相关技术中，通常采用人工标注的方式对嘴部关键点进行标注，形成嘴部关键点的标注数据。
但是，人工标注嘴部关键点具有标注成本比较高以及标注效率比较低的问题。而且，由于不同标注人员对同一部位的标注结果会有差异。因此，在利用标注人员标注的嘴部关键点来训练模型时，会导致模型训练的精度不高。
发明内容
本公开提供一种嘴部关键点的标注方法、装置、电子设备及存储介质，以至少解决相关技术中标注成本比较高、标注效率比较低以及利用标注的嘴部关键点训练的模型精度不高的问题。本公开的技术方案如下：
根据本公开实施例的第一方面，提供一种嘴部关键点的标注方法，包括：
获取第一人脸图像；
确定所述第一人脸图像上的第一上嘴唇区域和第一下嘴唇区域，所述第一上嘴唇区域包括上嘴唇外部区域以及上嘴唇内部区域，所述第一下嘴唇区域包括下嘴唇外部区域以及下嘴唇内部区域；
根据所述第一上嘴唇区域和所述第一下嘴唇区域，确定目标嘴部区域集合，所述目标嘴部区域集合包括所述第一上嘴唇区域与所述第一下嘴唇区域的第一交集；
当所述目标嘴部区域集合为空时，确定外嘴角关键点包括所述第一上嘴唇区域与所述第一下嘴唇区域的并集中的最左侧点和最右侧点；当所述目标嘴部区域集合不为空时，确定外嘴角关键点包括所述目标嘴部区域集合中的最左侧点和最右侧点；
根据所述外嘴角关键点，进行嘴部关键点的标注。
在本公开的一个或多个实施例中，所述根据所述第一上嘴唇区域和所述第一下嘴唇区域，确定目标嘴部区域集合，包括：
获取所述第一人脸图像中的人脸的俯仰角以及上嘴唇渲染图像和下嘴唇渲染图像，所述上嘴唇渲染图像是利用仅包括上嘴唇的纹理图像渲染得到，所述下嘴唇渲染图像是利用仅包括下嘴唇的纹理图像渲染得到；
当所述俯仰角大于第一角度阈值时，确定所述第一上嘴唇区域与所述下嘴唇渲染图像中的第二下嘴唇区域之间的第二交集；将所述第二交集以及所述第一交集的并集确定为所述目标嘴部区域集合，其中，所述第二下嘴唇区域包括所述下嘴唇外部区域以及所述下嘴唇内部区域；
当所述俯仰角小于第二角度阈值时，确定所述第一下嘴唇区域与所述上嘴唇渲染图像中的第二上嘴唇区域之间的第三交集，将所述第三交集以及所述第一交集的并集确定为所述目标嘴部区域集合，其中，所述第二上嘴唇区域包括所述上嘴唇外部区域以及所述上嘴唇内部区域，所述第一角度阈值大于所述第二角度阈值；
当所述俯仰角大于或等于所述第二角度阈值，且小于或等于所述第一角度阈值时，将所述第一交集确定为所述目标嘴部区域集合。
在本公开的一个或多个实施例中，所述获取第一人脸图像之前，所述方法还包括：
获取第二人脸图像，所述第二人脸图像中的人脸相对于竖直方向倾斜第一角度；
所述获取第一人脸图像，包括：
将所述第二人脸图像向竖直方向旋转所述第一角度，得到所述第一人脸图像。
在本公开的一个或多个实施例中，所述外嘴角关键点包括左侧外嘴角关键点和右侧外嘴角关键点；
所述根据所述外嘴角关键点，进行嘴部关键点的标注，包括：
针对所述第一人脸图像和所述第二人脸图像中的任意一个目标人脸图像，根据所述目标人脸图像确定第一偏移方向和偏移距离，其中，所述第一偏移方向为左侧内嘴角关键点相对于所述左侧外嘴角关键点的偏移方向，所述偏移距离是所述左侧外嘴角关键点和所述右侧外嘴角关键点之间的距离与预定系数相乘得到；
在所述目标人脸图像中，获取所述第一偏移方向上的、且与所述左侧外嘴角关键点的距离为所述偏移距离的所述左侧内嘴角关键点，以及获取在第二偏移方向上的、且与所述右侧外嘴角关键点的距离为所述偏移距离的右侧内嘴角关键点，所述第二偏移方向为所述第一偏移方向的相反方向；
根据所述左侧内嘴角关键点以及所述右侧内嘴角关键点，进行嘴部关键点的标注。
在本公开的一个或多个实施例中，所述根据所述目标人脸图像确定第一偏移方向，包括：
当所述目标人脸图像为所述第一人脸图像时，确定所述第一偏移方向为水平向右的方向；
当所述目标人脸图像为所述第二人脸图像，且所述第二人脸图像中的人脸向左倾斜时，将水平向右的方向逆时针旋转所述第一角度，得到所述第一偏移方向；
当所述目标人脸图像为所述第二人脸图像，且所述第二人脸图像中的人脸向右倾斜时，将水平向右的方向顺时针旋转所述第一角度，得到所述第一偏移方向。
在本公开的一个或多个实施例中，所述方法还包括：
获取三维人脸图像上的M个嘴部点，所述M个嘴部点是嘴部轮廓线上除外嘴角轮廓点和内嘴角轮廓点之外的点，所述三维人脸图像用于渲染出所述第二人脸图像，M为大于或等于1的整数；
将所述M个嘴部点中的每个嘴部点分别投影到所述第二人脸图像上，得到M个投影点；
对于所述M个投影点中的任意一个第一投影点，根据所述第一投影点在所述第二人脸图像上的深度值与所述第二人脸图像上像素点的最小深度值之间的大小关系，确定所述第二人脸图像上的第一嘴部关键点；
根据所述第一嘴部关键点，进行嘴部关键点的标注。
在本公开的一个或多个实施例中，所述根据所述第一投影点在所述第二人脸图像上的深度值与所述第二人脸图像上像素点的最小深度值之间的大小关系，确定所述第二人脸图像上的第一嘴部关键点，包括：
当所述第一投影点在所述第二人脸图像上的深度值大于或等于所述最小深度值时，获取所述第一投影点沿第二偏移方向上的直线与目标嘴部轮廓线的至少一个交点，所述第二偏移方向为与竖直方向的夹角为所述第一角度的方向；
在所述至少一个交点中，确定所述第一嘴部关键点；
其中，当所述第一投影点是由上嘴唇的上轮廓线的点或上嘴唇的下轮廓线上的点进行投影得到时，所述目标嘴部轮廓线包括所述第二人脸图像上的上嘴唇区域轮廓线；当所述第一投影点是由下嘴唇的上轮廓线上的点或下嘴唇的下轮廓线上的点进行投影得到时，所述目标嘴部轮廓线包括第二人脸图像上的下嘴唇区域轮廓线。
在本公开的一个或多个实施例中，所述在所述至少一个交点中，确定所述第一嘴部关键点，包括：
当所述第一投影点是由上嘴唇的上轮廓线上的点或者下嘴唇的上轮廓线上的点进行投影得到时，确定所述第一嘴部关键点为所述至少一个交点中的最上端的点；
当所述第一投影点是由上嘴唇的下轮廓线上的点或者下嘴唇的下轮廓线上的点进行投影得到时，确定所述第一嘴部关键点为所述至少一个交点中的最下端的点。
在本公开的一个或多个实施例中，所述根据所述第一投影点在所述第二人脸图像上的深度值与所述第二人脸图像上像素点的最小深度值之间的大小关系，确定所述第二人脸图像上的第一嘴部关键点，包括：
当所述第一投影点在所述第二人脸图像上的深度值大于或等于所述最小深度值，并且所述第一投影点沿所述第二偏移方向上的直线与所述目标嘴部轮廓线之间不存在交点时，将所述目标嘴部轮廓线上的距离所述第一投影点最近的轮廓点确定为所述第一嘴部关键点。
在本公开的一个或多个实施例中，所述根据所述第一投影点在所述第二人脸图像上的深度值与所述第二人脸图像上像素点的最小深度值之间的大小关系，确定所述第二人脸图像上的第一嘴部关键点，包括：
当所述第一投影点在所述第二人脸图像上的深度值小于所述最小深度值时，将所述第一投影点确定为所述第一嘴部关键点。
在本公开的一个或多个实施例中，所述根据所述第一嘴部关键点，进行嘴部关键点的标注，包括：
获取所述第二人脸图像上的两个嘴部关键点，所述两个嘴部关键点的其中一个嘴部关键点为所述第一嘴部关键点，另一个嘴部关键点为所述左侧外嘴角关键点、所述左侧内嘴角关键点、所述右侧外嘴角关键点以及所述右侧内嘴角关键点中与所述第一嘴部关键点对应的关键点；
根据所述两个嘴部关键点，在所述第二人脸图像的嘴部轮廓线上获取至少一个嘴部关键点，所述至少一个嘴部关键点与所述两个嘴部关键点在嘴部轮廓线上等距分布；
对所述第二人脸图像上的所述至少一个嘴部关键点进行标注。
根据本公开实施例的第二方面，提供一种嘴部关键点的标注装置，包括：
图像获取模块，被配置为获取第一人脸图像；
第一确定模块，被配置为确定所述第一人脸图像上的第一上嘴唇区域和第一下嘴唇区域，所述第一上嘴唇区域包括上嘴唇外部区域以及上嘴唇内部区域，所述第一下嘴唇区域包括下嘴唇外部区域以及下嘴唇内部区域；
集合确定模块，被配置为根据所述第一上嘴唇区域和所述第一下嘴唇区域，确定目标嘴部区域集合，所述目标嘴部区域集合包括所述第一上嘴唇区域与所述第一下嘴唇区域的第一交集；
第二确定模块，被配置为当所述目标嘴部区域集合为空时，确定外嘴角关键点包括所述第一上嘴唇区域与所述第一下嘴唇区域的并集中的最左侧点和最右侧点；当所述目标嘴部区域集合不为空时，确定外嘴角关键点包括所述目标嘴部区域集合中的最左侧点和最右侧点；
第一标注模块，被配置为根据所述外嘴角关键点，进行嘴部关键点的标注。
在本公开的一个或多个实施例中，所述集合确定模块包括：
获取单元，被配置为获取所述第一人脸图像中的人脸的俯仰角以及上嘴唇渲染图像和下嘴唇渲染图像，所述上嘴唇渲染图像是利用仅包括上嘴唇的纹理图像渲染得到，所述下嘴唇渲染图像是利用仅包括下嘴唇的纹理图像渲染得到；
第一确定单元，被配置为当所述俯仰角大于第一角度阈值时，确定所述第一上嘴唇区域与所述下嘴唇渲染图像中的第二下嘴唇区域之间的第二交集；将所述第二交集以及所述第一交集的并集确定为所述目标嘴部区域集合，其中，所述第二下嘴唇区域包括所述下嘴唇外部区域以及所述下嘴唇内部区域；
第二确定单元，被配置为当所述俯仰角小于第二角度阈值时，确定所述第一下嘴唇区域与所述上嘴唇渲染图像中的第二上嘴唇区域之间的第三交集，将所述第三交集以及所述第一交集的并集确定为所述目标嘴部区域集合，其中，所述第二上嘴唇区域包括所述上嘴唇外部区域以及所述上嘴唇内部区域，所述第一角度阈值大于所述第二角度阈值；
第三确定单元，被配置为当所述俯仰角大于或等于所述第二角度阈值，且小于或等于所述第一角度阈值时，将所述第一交集确定为所述目标嘴部区域集合。
在本公开的一个或多个实施例中，所述装置还包括：
第二图像获取模块，被配置为获取第二人脸图像，所述第二人脸图像中的人脸相对于竖直方向倾斜第一角度；
所述第一图像获取模块具体被配置为将所述第二人脸图像向竖直方向旋转所述第一角度，得到所述第一人脸图像。
在本公开的一个或多个实施例中，所述外嘴角关键点包括左侧外嘴角关键点和右侧外嘴角关键点；所述第一标注模块包括：
偏移信息确定单元，被配置为针对所述第一人脸图像和所述第二人脸图像中的任意一个目标人脸图像，根据所述目标人脸图像确定第一偏移方向和偏移距离，其中，所述第一偏移方向为左侧内嘴角关键点相对于所述左侧外嘴角关键点的偏移方向，所述偏移距离是所述左侧外嘴角关键点和所述右侧外嘴角关键点之间的距离与预定系数相乘得到；
关键点获取单元，被配置为在所述目标人脸图像中，获取所述第一偏移方向上的、且与所述左侧外嘴角关键点的距离为所述偏移距离的所述左侧内嘴角关键点，以及获取在第二偏移方向上的、且与所述右侧外嘴角关键点的距离为所述偏移距离的右侧内嘴角关键点，所述第二偏移方向为所述第一偏移方向的相反方向；
标注单元，被配置为根据所述左侧内嘴角关键点以及所述右侧内嘴角关键点，进行嘴部关键点的标注。
在本公开的一个或多个实施例中，所述偏移信息确定单元包括：
第一确定子单元，被配置为当所述目标人脸图像为所述第一人脸图像时，确定所述第一偏移方向为水平向右的方向；
第二确定子单元，被配置为当所述目标人脸图像为所述第二人脸图像，且所述第二人脸图像中的人脸向左倾斜时，将水平向右的方向逆时针旋转所述第一角度，得到所述第一偏移方向；
第三确定子单元，被配置为当所述目标人脸图像为所述第二人脸图像，且所述第二人脸图像中的人脸向右倾斜时，将水平向右的方向顺时针旋转所述第一角度，得到所述第一偏移方向。
在本公开的一个或多个实施例中，所述装置还包括：
轮廓点获取模块，被配置为获取三维人脸图像上的M个嘴部点，所述M个嘴部点是嘴部轮廓线上除外嘴角轮廓点和内嘴角轮廓点之外的点，所述三维人脸图像用于渲染出所述第二人脸图像，M为大于或等于1的整数；
投影模块，被配置为将所述M个嘴部点中的每个嘴部点分别投影到所述第二人脸图像上，得到M个投影点；
第三确定模块，被配置为对于所述M个投影点中的任意一个第一投影点，根据所述第一投影点在所述第二人脸图像上的深度值与所述第二人脸图像上像素点的最小深度值之间的大小关系，确定所述第二人脸图像上的第一嘴部关键点；
第二标注模块，被配置为根据所述第一嘴部关键点，进行嘴部关键点的标注。
在本公开的一个或多个实施例中，所述第三确定模块包括：
交点获取单元，被配置为当所述第一投影点在所述第二人脸图像上的深度值大于或等于所述最小深度值时，获取所述第一投影点沿第二偏移方向上的直线与目标嘴部轮廓线的至少一个交点，所述第二偏移方向为与竖直方向的夹角为所述第一角度的方向；
第一关键点确定单元，被配置为在所述至少一个交点中，确定所述第一嘴部关键点；
其中，当所述第一投影点是由上嘴唇的上轮廓线的点或上嘴唇的下轮廓线上的点进行投影得到时，所述目标嘴部轮廓线包括所述第二人脸图像上的上嘴唇区域轮廓线；当所述第一投影点是由下嘴唇的上轮廓线上的点或下嘴唇的下轮廓线上的点进行投影得到时，所述目标嘴部轮廓线包括第二人脸图像上的下嘴唇区域轮廓线。
在本公开的一个或多个实施例中，所述第一关键点确定单元包括：
第四确定子单元，被配置为当所述第一投影点是由上嘴唇的上轮廓线上的点或者下嘴唇的上轮廓线上的点进行投影得到时，确定所述第一嘴部关键点为所述至少一个交点中的最上端的点；
第五确定子单元，被配置为当所述第一投影点是由上嘴唇的下轮廓线上的点或者下嘴唇的下轮廓线上的点进行投影得到时，确定所述第一嘴部关键点为所述至少一个交点中的最下端的点。
在本公开的一个或多个实施例中，所述第三确定模块包括：
第二关键点确定单元，被配置为当所述第一投影点在所述第二人脸图像上的深度值大于或等于所述最小深度值，并且所述第一投影点沿所述第二偏移方向上的直线与所述目标嘴部轮廓线之间不存在交点时，将所述目标嘴部轮廓线上的距离所述第一投影点最近的轮廓点确定为所述第一嘴部关键点。
在本公开的一个或多个实施例中，所述第三确定模块包括：
第三关键点确定单元，被配置为当所述第一投影点在所述第二人脸图像上的深度值小于所述最小深度值时，将所述第一投影点确定为所述第一嘴部关键点。
在本公开的一个或多个实施例中，所述第二标注模块包括：
第一关键点获取单元，被配置为获取所述第二人脸图像上的两个嘴部关键点，所述两个嘴部关键点的其中一个嘴部关键点为所述第一嘴部关键点，另一个嘴部关键点为所述左侧外嘴角关键点、所述左侧内嘴角关键点、所述右侧外嘴角关键点以及所述右侧内嘴角关键点中与所述第一嘴部关键点对应的关键点；
第二关键点获取单元，被配置为根据所述两个嘴部关键点，在所述第二人脸图像的嘴部轮廓线上获取至少一个嘴部关键点，所述至少一个嘴部关键点与所述两个嘴部关键点在嘴部轮廓线上等距分布；
第二标注单元，被配置为对所述第二人脸图像上的所述至少一个嘴部关键点进行标注。
根据本公开实施例的第三方面，提供一种电子设备，包括：
处理器；
存储器，用于存储所述处理器可执行的指令；
其中，所述处理器被配置为执行所述指令，以实现如第一方面所述的嘴部关键点的标注方法。
根据本公开实施例的第四方面，提供一种存储介质，当所述存储介质中的指令由电子设备的处理器执行时，使得所述电子设备能够执行如第一方面所述的嘴部关键点的标注方法。
根据本公开实施例的第五方面，提供一种计算机程序产品，当计算机程序产品中的指令由电子设备的处理器执行时，使得服务器能够执行上述第一方面所述的嘴部关键点的标注方法。
本公开的实施例提供的技术方案至少带来以下有益效果：
首先获取第一人脸图像，根据第一人脸图像上的第一上嘴唇区域和第一下嘴唇区域，确定目标嘴部区域集合，目标嘴部区域集合包括第一上嘴唇区域与第一下嘴唇区域的第一交集。然后，当目标嘴部区域集合为空时，可以确定外嘴角关键点包括第一上嘴唇区域与第一下嘴唇区域的并集中的最左侧点和最右侧点，当目标嘴部区域集合不为空时，可以确定外嘴角关键点包括目标嘴部区域集合中的最左侧点和最右侧点。最后，根据所述外嘴角关键点，进行嘴部关键点的标注。由此，实现了自动进行嘴部关键点标注，不需要采用人工的方式进行嘴部关键点标注，从而提高了标注效率以及节省人工标注所消耗的成本。另外，由于采用本公开的实施例的方式对进行嘴部关键点标注，即统一嘴部关键点的标注方式，避免出现不同标注人员对嘴部关键点的标注结果有差异的情况。因此，在利用统一标注方式标注的嘴部关键点来训练模型时，可以提高模型训练的精度。
应当理解的是，以上的一般描述和后文的细节描述仅是示例性和解释性的，并不能限制本公开。
附图说明
此处的附图被并入说明书中并构成本说明书的一部分，示出了符合本公开的实施例，并与说明书一起用于解释本公开的原理，并不构成对本公开的不当限定。
图1是根据一示例性实施例示出的一种嘴部关键点的标注方法的流程图。
图2是根据一示例性实施例示出的绕X轴、Y轴和Z轴旋转人脸图像的示意图。
图3是根据一示例性实施例示出的一种人脸纹理图像的示意图。
图4是根据一示例性实施例示出的一种人脸图像上的嘴部区域的示意图。
图5是根据一示例性实施例示出的另一种嘴部关键点的标注方法的流程图。
图6是根据一示例性实施例示出的一种绕Z轴旋转的人脸图像的示意图。
图7是根据一示例性实施例示出的又一种嘴部关键点的标注方法的流程图。
图8是根据一示例性实施例示出的一种包括内外嘴角关键点的嘴部区域的示意图。
图9是根据一示例性实施例示出的一种对旋转前的第二人脸图像上的嘴部区域进行关键点标注的原理示意图。
图10是根据另一示例性实施例示出的一种对旋转前的第二人脸图像上的嘴部区域进行关键点标注的原理示意图。
图11是根据一示例性实施例示出的一种对旋转后的第一人脸图像上的嘴部区域进行关键点标注的原理示意图。
图12是根据一示例性实施例示出的再一种嘴部关键点的标注方法的流程图。
图13是根据一示例性实施例示出的一种包括多个嘴部关键点的嘴部区域的示意图。
图14是根据一示例性实施例示出的一种嘴部关键点的标注装置框图。
图15是根据一示例性实施例示出的一种电子设备的框图。
具体实施方式
为了使本领域普通人员更好地理解本公开的技术方案，下面将结合附图，对本公开实施例中的技术方案进行清楚、完整地描述。
需要说明的是，本公开的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别类似的对象，而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换，以便这里描述的本公开的实施例能够以除了在这里图示或描述的那些以外的顺序实施。以下示例性实施例中所描述的实施方式并不代表与本公开相一致的所有实施方式。相反，它们仅是与如所附权利要求书中所详述的、本公开的一些方面相一致的装置和方法的例子。
本公开实施例提供一种嘴部关键点的标注方法。图1是根据一示例性实施例示出的一种嘴部关键点的标注方法的流程图。嘴部关键点的标注方法可以应用于电子设备，电子设备可以为服务器，超级计算机或者工作站。如图1所示，嘴部关键点的标注方法S100包括：
步骤S102：获取第一人脸图像；
步骤S104：确定第一人脸图像上的第一上嘴唇区域和第一下嘴唇区域，第一上嘴唇区域包括上嘴唇外部区域以及上嘴唇内部区域，第一下嘴唇区域包括下嘴唇外部区域以及下嘴唇内部区域；
步骤S106：根据第一上嘴唇区域和第一下嘴唇区域，确定目标嘴部区域集合，目标嘴部区域集合包括第一上嘴唇区域与第一下嘴唇区域的第一交集；
步骤S108：当目标嘴部区域集合为空时，确定外嘴角关键点包括第一上嘴唇区域与第一下嘴唇区域的并集中的最左侧点和最右侧点；
步骤S110：当目标嘴部区域集合不为空时，确定外嘴角关键点包括目标嘴部区域集合中的最左侧点和最右侧点；
步骤S112：根据外嘴角关键点，进行嘴部关键点的标注。
下面对本公开实施例中的各个步骤进行说明。
在步骤S102中，如图2所示，通常人脸图像通常有三个角，分别是围绕X轴旋转的角度（也叫做俯仰角pitch），围绕Y轴旋转的角度（也叫做偏航角yaw），以及围绕Z轴旋转的角度（也叫做翻滚角roll）。
作为一个示例，第一人脸图像的翻滚角小于预定角度阈值，使得第一人脸图像为人脸摆正的图像。比如第一人脸图像的翻滚角为0。
作为一个示例，步骤S102可以包括：从人脸图像集合中获取第一人脸图像。
作为另一个示例，步骤S102可以包括：在第二人脸图像的翻滚角大于或等于预定角度阈值时，将第二人脸图像绕竖直方向上的坐标轴（比如Z轴）旋转第一角度，得到第一人脸图像，使得第一人脸图像的翻滚角小于预定角度阈值。比如，将翻滚角不为0的第二人脸图像绕竖直方向上的坐标轴（比如Z轴）旋转，得到翻滚角为0的第一人脸图像。
作为一个示例，第一人脸图像可以为人脸纹理图像。
人脸纹理图像上各个部位的颜色不同，其中，人脸纹理图像上的一个部位对应一个颜色。人脸纹理图像又可以成为人脸网格图像。下面结合图3对人脸纹理图像进行说明。
图3是根据一示例性实施例示出的一种人脸纹理图像的示意图。如图3所示，人脸纹理图像包括：左侧眉毛202、右侧眉毛204、左眼206、右眼208、鼻子部位210和嘴巴部位212。图3并未示出人脸纹理图像上的各个部位的颜色。实际上，人脸纹理图像上的各个部位的颜色不同。比如，左侧眉毛202的颜色是蓝色，右侧眉毛204的颜色是红色，左眼206的颜色是绿色，右眼208的颜色是棕色，鼻子部位210的颜色是黄色，人脸纹理图像上除以上部位的颜色均是黑色。由此，通过颜色来确定区分人脸纹理图像上的各个部位。
需要说明的是，同一个部位还可以细分子部位，比如，嘴部212可以分为上嘴唇内部区域、上嘴唇外部区域、下嘴唇内部区域和下嘴唇外部区域。这四个部位可以对应四种不同的颜色，从而来区分这四个部位。
人脸纹理图像可以用于图像渲染。比如，在建立三维人脸图像之后，将人脸纹理图像贴合在三维人脸图像上，从而基于人脸纹理图像确定三维人脸图像上的各个部位。
作为另一个示例，第一人脸图像可以为通过人脸纹理图像渲染得到的人脸图像。
在步骤S104中，第一上嘴唇区域可以包括第一人脸图像上的上嘴唇内部区域和上嘴唇外部区域。第一下嘴唇区域可以包括第一人脸图像上的下嘴唇内部区域和下嘴唇外部区域。
作为一个示例，步骤S104可以包括：当第一人脸图像为人脸纹理图像时，根据第一人脸图像上的像素颜色，确定第一上嘴唇区域和第一下嘴唇区域。比如，当上嘴唇内部区域的颜色为深红色，上嘴唇外部区域的颜色为桔红色时，将第一人脸图像上的深红色像素形成的区域作为上嘴唇内部区域，将第一人脸图像上的桔红色像素形成的区域作为上嘴唇外部区域。然后，将上嘴唇内部区域和上嘴唇外部区域确定为第一上嘴唇区域。
作为另一个示例，步骤S104可以包括：当第一人脸图像为通过人脸纹理图像渲染得到的人脸图像时，根据人脸纹理图像上的像素颜色，确定第一上嘴唇区域和第一下嘴唇区域。
在步骤S106中，作为一个示例，第一上嘴唇区域与第一下嘴唇区域的交集中的点包括第一上嘴唇区域中的与第一下嘴唇区域的上轮廓线相邻的像素点、第一下嘴唇区域中的与第一上嘴唇区域的下轮廓线相邻的像素点。
比如，当嘴部张开，上嘴唇和下嘴唇分离时，第一上嘴唇区域与第一下嘴唇区域的交集中的点可以包括上下嘴唇的嘴角部位的像素点。
步骤S108中，作为一个示例，参考图4，外嘴角关键点可以包括左侧外嘴角关键点75和右侧外嘴角关键点81。
下面利用
Figure 729942DEST_PATH_IMAGE001
表示第一人脸图像中的上嘴唇外部区域，利用
Figure 923026DEST_PATH_IMAGE002
表示第一人脸图像中的上嘴唇内部区域，利用
Figure 858621DEST_PATH_IMAGE003
表示第一人脸图像中的第一上嘴唇区域。那么，第一上嘴唇区域
Figure 35524DEST_PATH_IMAGE004
。
利用
Figure 347557DEST_PATH_IMAGE005
表示第一人脸图像中的下嘴唇外部区域，利用
Figure 926305DEST_PATH_IMAGE006
表示第一人脸图像中的下嘴唇内部区域，利用
Figure 298381DEST_PATH_IMAGE007
表示第一人脸图像中的第一下嘴唇区域。那么，第一下嘴唇区域
Figure 431422DEST_PATH_IMAGE008
。
基于上述的说明，第一上嘴唇区域与第一下嘴唇区域的第一并集为
Figure 15987DEST_PATH_IMAGE009
，也可以用如下集合表示：{
Figure 652505DEST_PATH_IMAGE010
,
Figure 929902DEST_PATH_IMAGE011
}。
作为一个示例，当目标嘴部区域集合为空时，可以将第一上嘴唇区域与第一下嘴唇区域的第一并集{
Figure 19081DEST_PATH_IMAGE012
,
Figure 813DEST_PATH_IMAGE011
}中的最左侧点确定为左侧外嘴角关键点，可以将第一上嘴唇区域与第一下嘴唇区域的第一并集{
Figure 491837DEST_PATH_IMAGE013
,
Figure 736873DEST_PATH_IMAGE011
}中的最右侧点确定为右侧外嘴角关键点。
步骤S110中，作为一个示例，当目标嘴部区域集合不为空时，可以将目标嘴部区域集合中的最左侧点确定为左侧外嘴角关键点，可以将目标嘴部区域集合中的最右侧点确定为右侧外嘴角关键点。
步骤S112中，作为一个示例，步骤S112可以包括：在第一人脸图像是未经过旋转的图像的情况下，根据外嘴角关键点在第一人脸图像上的坐标值，在第一人脸图像上对外嘴角关键点进行标注。
作为另一个示例，在第一人脸图像是第二人脸图像绕竖直方向上的坐标轴旋转第一角度得到的情况下，步骤S112可以包括：
将外嘴角关键点在第一人脸图像上的坐标值与旋转矩阵的逆矩阵相乘，得到外嘴角关键点在第二人脸图像上的坐标值，其中，旋转矩阵是根据第一角度以及坐标轴计算得到；根据外嘴角关键点在第二人脸图像上的坐标值，进行嘴部关键点的标注。
其中，根据外嘴角关键点在第二人脸图像上的坐标值，可以对外嘴角关键点进行标注；或者，根据外嘴角关键点在第二人脸图像上确定除外嘴角关键点之外的关键点，并进行标注。
在本公开实施例中，首先获取第一人脸图像，根据第一人脸图像上的第一上嘴唇区域和第一下嘴唇区域，确定目标嘴部区域集合，目标嘴部区域集合包括第一上嘴唇区域与第一下嘴唇区域的第一交集。然后，当目标嘴部区域集合为空时，可以确定外嘴角关键点包括第一上嘴唇区域与第一下嘴唇区域的并集中的最左侧点和最右侧点，当目标嘴部区域集合不为空时，可以确定外嘴角关键点包括目标嘴部区域集合中的最左侧点和最右侧点。最后，根据外嘴角关键点，进行嘴部关键点的标注。由此，实现了自动进行嘴部关键点标注，不需要采用人工的方式进行嘴部关键点标注，从而提高了标注效率以及节省人工标注所消耗的成本。另外，由于采用本公开的实施例的方式对进行嘴部关键点标注，即统一嘴部关键点的标注方式，避免出现不同标注人员对嘴部关键点的标注结果有差异的情况。因此，在利用统一标注方式标注的嘴部关键点来训练模型时，可以提高模型训练的精度。
当第一人脸图像上的人脸的俯仰角大于第一角度阈值（比如第一角度阈值为10°）时，说明人脸俯视的角度比较大，那么人脸的上嘴唇会遮挡一部分下嘴唇，导致第一人脸图像上的第一下嘴唇区域是部分的下嘴唇区域。比如，人脸俯视的角度比较大时，水平方向上拍摄人脸，得到第一人脸图像，第一人脸图像上的上嘴唇会遮挡一部分下嘴唇。同理，当第一人脸图像上人脸的俯仰角小于第二角度阈值（比如第二角度阈值为-10°）时，说明人脸俯视的角度比较大，那么人脸的下嘴唇会遮挡一部分上嘴唇，导致第一人脸图像上的第一上嘴唇区域是部分的上嘴唇区域。
为了获取被遮挡的嘴唇区域，在本公开的一个或多个实施例中，如图5所示，S106可以包括：
S1062：获取第一人脸图像中的人脸的俯仰角以及上嘴唇渲染图像和下嘴唇渲染图像，上嘴唇渲染图像是利用仅包括上嘴唇的纹理图像渲染得到，下嘴唇渲染图像是利用仅包括下嘴唇的纹理图像渲染得到；
S1064：当俯仰角大于第一角度阈值时，确定第一上嘴唇区域与下嘴唇渲染图像中的第二下嘴唇区域之间的第二交集；
S1066：将第二交集以及第一交集的并集确定为目标嘴部区域集合，其中，第二下嘴唇区域包括下嘴唇外部区域以及下嘴唇内部区域；
S1068：当俯仰角小于第二角度阈值时，确定第一下嘴唇区域与上嘴唇渲染图像中的第二上嘴唇区域之间的第三交集；
S1070：将第三交集以及第一交集的并集确定为目标嘴部区域集合，其中，第二上嘴唇区域包括上嘴唇外部区域以及上嘴唇内部区域，第一角度阈值大于第二角度阈值；
S1072：当俯仰角大于或等于第二角度阈值，且小于或等于第一角度阈值时，将第一交集确定为目标嘴部区域集合。
下面对S106中的各个步骤进行说明。
在S1062中，上嘴唇渲染图像是利用仅包括上嘴唇的纹理图像渲染得到，那么上嘴唇渲染图像上是一个完整的上嘴唇图像，未剔除被遮挡的上嘴唇部分。如此，上嘴唇渲染图像中的上嘴唇未被其他的部位遮挡。同理，下嘴唇渲染图像是利用仅包括下嘴唇的纹理图像渲染得到，那么下嘴唇渲染图像上是一个完整的下嘴唇图像，未剔除被遮挡的下嘴唇部分。如此，下嘴唇渲染图像中的下嘴唇未被其他的部位遮挡。
在S1062之后，当俯仰角大于第一角度阈值时，说明人脸俯视的角度比较大，上嘴唇遮挡一部分下嘴唇。而下嘴唇渲染图像是完整的下嘴唇图像，下嘴唇渲染图像包括被上嘴唇遮挡的下嘴唇。因此，可以取第一人脸图像上的第一上嘴唇区域与下嘴唇渲染图像中的第二下嘴唇区域之间的第二交集，第二交集是第一上嘴唇区域与下嘴唇渲染图像中的第二下嘴唇区域之间共有的区域。第二交集可以看作是第一人脸图像中被上嘴唇遮挡的下嘴唇区域。然后，将第一人脸图像中被上嘴唇遮挡的下嘴唇区域（即上述的第二交集）以及第一上嘴唇区域与第一下嘴唇区域的第一交集确定为目标嘴部区域集合。
同理，当俯仰角小于第二角度阈值时，说明人脸仰视的角度比较大，下嘴唇遮挡一部分上嘴唇。取第一人脸图像上的第一下嘴唇区域与上嘴唇渲染图像中的第二上嘴唇区域之间的第三交集，第三交集是第一下嘴唇区域与上嘴唇渲染图像中的第二上嘴唇区域之间共有的区域。可以将第三交集看作是第一人脸图像中被下嘴唇遮挡的上嘴唇区域。将第一人脸图像中被下嘴唇遮挡的上嘴唇区域（即上述的第三交集）以及第一上嘴唇区域与第一下嘴唇区域的第一交集确定为目标嘴部区域集合。
作为一个示例，利用
Figure 641244DEST_PATH_IMAGE014
表示第一人脸图像，
Figure 895508DEST_PATH_IMAGE015
表示上嘴唇渲染图像，
Figure 241039DEST_PATH_IMAGE016
表示下嘴唇渲染图像。第一上嘴唇区域
Figure 934275DEST_PATH_IMAGE003
与第一下嘴唇区域
Figure 732466DEST_PATH_IMAGE017
的交集为
Figure 728104DEST_PATH_IMAGE018
，目标嘴部区域集合为
Figure 724879DEST_PATH_IMAGE019
。确定目标嘴部区域集合具体可以包括：
当第一人脸图像中的人脸的俯仰角大于第一角度阈值时，目标嘴部区域集合包括第一上嘴唇区域与第一下嘴唇区域的交集以及第一上嘴唇区域与下嘴唇渲染图像中的第二下嘴唇区域之间的交集。即，
Figure 46139DEST_PATH_IMAGE020
，
Figure 331627DEST_PATH_IMAGE021
表示图像
Figure 865376DEST_PATH_IMAGE014
中的第一上嘴唇区域
Figure 919920DEST_PATH_IMAGE003
与图像
Figure 880923DEST_PATH_IMAGE016
中的下嘴唇区域（即第二下嘴唇区域）的交集。
在第一人脸图像中的人脸的俯仰角小于第二角度阈值时，目标嘴部区域集合包括第一上嘴唇区域与第一下嘴唇区域的交集以及第一下嘴唇区域与上嘴唇渲染图像中的第二上嘴唇区域之间的交集。即，
Figure 653707DEST_PATH_IMAGE022
，
Figure 522305DEST_PATH_IMAGE023
表示图像
Figure 696935DEST_PATH_IMAGE014
中的第一下嘴唇区域
Figure 563260DEST_PATH_IMAGE017
与图像
Figure 823340DEST_PATH_IMAGE015
中的上嘴唇区域（即第二上嘴唇区域）的交集。
当第一人脸图像中的人脸的俯仰角大于或等于第二角度阈值，且小于或等于第一角度阈值时，目标嘴部区域集合为第一上嘴唇区域与第一下嘴唇区域的交集。即，
Figure 698892DEST_PATH_IMAGE024
。
在本公开实施例中，根据第一人脸图像中的人脸的俯仰角，确定第一人脸图像中被遮挡的嘴部区域，将被遮挡的嘴部区域作为目标嘴部区域集合的一部分。由此，目标嘴部区域集合中包括比较全的上嘴唇与下嘴唇之间的交叠区域，根据目标嘴部区域集合，可以更加准确地获取到外嘴角关键点。
在本公开的一个或多个实施例中，S102之前，嘴部关键点的标注方法还可以包括：
获取第二人脸图像，第二人脸图像中的人脸相对于竖直方向倾斜第一角度。
S102可以包括：
将第二人脸图像向竖直方向旋转第一角度，得到第一人脸图像。
在本实施例中，第一人脸图像是第二人脸图像绕竖直方向上的坐标轴旋转第一角度得到。第一角度是第二人脸图像上人脸的翻滚角roll。也就是说，第二人脸图像中的人脸是倾斜的，通过将第二人脸图像绕竖直方向上的坐标轴旋转第一角度，得到人脸摆正的第一人脸图像。例如，参考图6，将第二人脸图像绕Z轴旋转30°，得到第一人脸图像。
在第二人脸图像上的人脸是倾斜的情况下，通过对第二人脸图像进行旋转，得到人脸摆正的第一人脸图像，由此，通过S108以及S110，可以得到集合中的最左侧点和最右侧点。比如，在集合中获取水平方向上的坐标值最小的点即为最左侧点，在集合中获取水平方向上的坐标值最大的点即为最右侧点。
在本公开的一个或多个实施例中，如图7所示，S112可以包括：
S1122：针对第一人脸图像和第二人脸图像中的任意一个目标人脸图像，根据目标人脸图像确定第一偏移方向和偏移距离，其中，第一偏移方向为左侧内嘴角关键点相对于左侧外嘴角关键点的偏移方向，偏移距离是左侧外嘴角关键点和右侧外嘴角关键点之间的距离与预定系数相乘得到；
S1124：在目标人脸图像中，获取第一偏移方向上的、且与左侧外嘴角关键点的距离为偏移距离的左侧内嘴角关键点，以及获取在第二偏移方向上的、且与右侧外嘴角关键点的距离为偏移距离的右侧内嘴角关键点，第二偏移方向为第一偏移方向的相反方向；
S1126：根据左侧内嘴角关键点以及右侧内嘴角关键点，进行嘴部关键点的标注。
下面以目标人脸图像为图6所示的第一人脸图像，且图6所示的第一人脸图像中的嘴部区域为如图8所示的嘴部区域为例，对上述的S1122至S1126进行说明。
在S1122中，由于已知左侧外嘴角关键点75和右侧外嘴角关键点81在第一人脸图像上的坐标位置，因此，可以根据左侧外嘴角关键点75和右侧外嘴角关键点81在第一人脸图像上的坐标位置，计算在第一人脸图像上左侧外嘴角关键点和右侧外嘴角关键点之间的距离。
然后，将左侧外嘴角关键点75和右侧外嘴角关键点81之间的距离与预定系数相乘，得到偏移距离。作为一个示例，预定系数为大于0且小于1的数值。
作为一个示例，可以通过以下公式计算偏移距离：
e=
Figure 728028DEST_PATH_IMAGE025
（1）
Figure 765254DEST_PATH_IMAGE026
表示左侧外嘴角关键点75与右侧外嘴角关键点81之间的距离，0.03为预定系数，e表示偏移距离。
在S1124中，如图8所示，在第一人脸图像中获取第一偏移方向上的、且与左侧外嘴角关键点75的距离为偏移距离的左侧内嘴角关键点87。第一偏移方向为水平向右的方向。在第一人脸图像中获取第二偏移方向上的、且与右侧外嘴角关键点81的距离为偏移距离的右侧内嘴角关键点91。第一偏移方向为水平向右的方向。第二偏移方向为水平向左的方向。
在S1126中，在第一人脸图像中获取到左侧内嘴角关键点87的情况下，已知左侧内嘴角关键点87在第一人脸图像的坐标值，然后，将左侧内嘴角关键点87在第一人脸图像上的坐标值与旋转矩阵的逆矩阵相乘，得到左侧内嘴角关键点87在第二人脸图像上的坐标值，其中，旋转矩阵是根据第一角度以及第二人脸图像旋转时的坐标轴计算得到。再然后，根据左侧内嘴角关键点87在第二人脸图像上的坐标值，对在第二人脸图像上的左侧内嘴角关键点87进行标注。同理，可以根据右侧外嘴角关键点81，对在第二人脸图像上的右侧内嘴角关键点91进行标注。
在本公开实施例中，因为外嘴角关键点与内嘴角关键点之间存在如下的关联关系：左侧内嘴角关键点在左侧外嘴角关键点的右侧，右侧内嘴角关键点在右侧外嘴角关键点的左侧。因此，可以根据左侧外嘴角关键点获取左侧内嘴角关键点，根据右侧外嘴角关键点获取右侧内嘴角关键点，并对左侧内嘴角关键点和右侧内嘴角关键点进行标注。由此，实现了自动对嘴部关键点进行标注，不需要采用人工的方式进行嘴部关键点标注，从而提高了标注效率以及节省人工标注所消耗的成本。另外，由于采用本公开的实施例对进行嘴部关键点标注，即统一嘴部关键点的标注方式，避免出现不同标注人员对嘴部关键点的标注结果有差异的情况。因此，在利用统一标注方式标注的嘴部关键点来训练模型时，可以提高模型训练的精度。
在本公开的一个或多个实施例中，S1122可以包括：
当目标人脸图像为第一人脸图像时，确定第一偏移方向为水平向右的方向；
当目标人脸图像为第二人脸图像，且第二人脸图像中的人脸向左倾斜时，将水平向右的方向逆时针旋转第一角度，得到第一偏移方向；
当目标人脸图像为第二人脸图像，且第二人脸图像中的人脸向右倾斜时，将水平向右的方向顺时针旋转第一角度，得到第一偏移方向。
下面结合图9和图10说明第二人脸图像中的人脸向左倾斜或者向右倾斜时，如何得到第一偏移方向。
图9所示的人脸向右倾斜，则将水平向右的方向L0顺时针旋转第一角度，得到第一偏移方向L2。图10所示的人脸向左倾斜，则将水平向右的方向L0逆时针旋转第一角度，得到第一偏移方向L2。
下面以目标人脸图像为图6所示的旋转前的第二人脸图像为例，对第一偏移方向、第二偏移方向以及S1124中获取左侧内嘴角关键点和右侧内嘴角关键点的步骤进行说明。
继续参考图9，获取左侧内嘴角关键点87具体可以包括：在以左侧外嘴角关键点75为起点的射线L2上，获取与外嘴角关键点75的距离为偏移距离的左侧内嘴角关键点87。射线L2的发射方向为第一偏移方向，射线L2与水平方向上的夹角为第一角度。射线L2与直线L1垂直，直线L1与竖直方向上的夹角为第一角度。
基于上述获取左侧内嘴角关键点87的原理，左侧内嘴角关键点87在第二人脸图像上的坐标值如下：
p 87=p 75+e×v1 （2）
Figure 778209DEST_PATH_IMAGE027
表示左侧内嘴角关键点87在第二人脸图像上的坐标值，p 75表示左侧外嘴角关键点75在第二人脸图像上的坐标值，e表示偏移距离，
Figure 457452DEST_PATH_IMAGE028
=
Figure 668991DEST_PATH_IMAGE029
，即
Figure 142697DEST_PATH_IMAGE030
1为与水平方向上的夹角为第一角度
Figure 377370DEST_PATH_IMAGE031
的单位向量。
Figure 329145DEST_PATH_IMAGE030
1的方向即为上述的第一偏移方向。
继续参考图9，获取右侧内嘴角关键点91具体可以包括：在以右侧外嘴角关键点81为起点的射线L3上，获取与右侧外嘴角关键点81的距离为偏移距离的右侧内嘴角关键点91。射线L3的发射方向为第二偏移方向，射线L3的发射方向的相反方向为第一偏移方向，射线L3与水平方向上的夹角为第一角度。射线L3与直线L1垂直。
基于上述获取右侧内嘴角关键点91的原理，右侧内嘴角关键点91在第二人脸图像上的坐标值如下：
Figure 332873DEST_PATH_IMAGE032
=
Figure 711902DEST_PATH_IMAGE033
-e×
Figure 433870DEST_PATH_IMAGE034
（3）
Figure 189337DEST_PATH_IMAGE032
表示右侧内嘴角关键点91在第二人脸图像上的坐标值，
Figure 313151DEST_PATH_IMAGE033
表示右侧外嘴角关键点81在第二人脸图像上的坐标值，e表示偏移距离，
Figure 128660DEST_PATH_IMAGE034
=
Figure 72345DEST_PATH_IMAGE029
，即
Figure 365923DEST_PATH_IMAGE030
1为与水平方向上的夹角为第一角度
Figure 78664DEST_PATH_IMAGE031
的单位向量。
Figure 596233DEST_PATH_IMAGE034
的方向即为上述的第二偏移方向。
以上是以目标人脸图像为旋转前的第二人脸图像为例进行的说明。下面以目标人脸图像为旋转后的第一人脸图像为例，对第一偏移方向、第二偏移方向以及S1124中获取左侧内嘴角关键点和右侧内嘴角关键点的步骤进行说明。
如图11所示，获取左侧内嘴角关键点87具体可以包括：在以左侧外嘴角关键点75为起点的射线L5上，获取与外嘴角关键点75的距离为偏移距离的左侧内嘴角关键点87。射线L5的方向为水平向右的方向，射线L5的方向为第一偏移方向。
获取右侧内嘴角关键点91具体可以包括：在以右侧外嘴角关键点81为起点的射线L6上，获取与右侧外嘴角关键点81的距离为偏移距离的右侧内嘴角关键点91。射线L6的方向为水平向左的方向，射线L6的方向为第二偏移方向。
在本公开实施例中，根据待获取的目标内嘴角关键点是左侧内嘴角关键点还是右侧内嘴角关键点，确定第一偏移方向。然后，在第一偏移方向上确定左侧内嘴角关键点，在第一偏移方向的相反方向（即第二偏移方向）上确定右侧内嘴角关键点。由此，实现了根据外嘴角关键点，获取内嘴角关键点。
在本公开的一个或多个实施例中，如图12所示，嘴部关键点的标注方法S100还可以包括：
S114：获取三维人脸图像上的M个嘴部点，三维人脸图像用于渲染出第二人脸图像，M个嘴部点是嘴部轮廓线上除外嘴角轮廓点和内嘴角轮廓点之外的点，M为大于或等于1的整数；
S116：将M个嘴部点中的每个嘴部点分别投影到第二人脸图像上，得到M个投影点；
S118：对于M个投影点中的任意一个第一投影点，根据第一投影点在第二人脸图像上的深度值与第二人脸图像上像素点的最小深度值之间的大小关系，确定第二人脸图像上的第一嘴部关键点；
S120：根据第一嘴部关键点，进行嘴部关键点的标注。
需要说明的是，图12中的S114至S120是在S112之后执行，这是一个示例。作为另一种示例，S114至S120可以在S102之前执行，或者，在执行S114至S120时，可以执行S102至S112。在此并不限定S114至S120与S102至S112之间的执行顺序。
在S114中，M个嘴部点可以包括上嘴唇的唇线上的点以及下嘴唇的唇线上的点。比如，M个嘴部点包括唇峰处的点。
在S118中，投影点的深度值表示投影点在第二人脸图像上的Z轴坐标的数值。
在本公开实施例中，通过将三维人脸图像上的嘴部点投影到第二人脸图像上，得到投影点，根据投影点在第二人脸图像上的深度值与最小深度值之间的大小关系，确定第二人脸图像上的第一嘴部关键点，并进行嘴部关键点的标注。由此，实现了自动进行嘴部关键点标注，不需要采用人工的方式进行嘴部关键点标注，从而提高了标注效率以及节省人工标注所消耗的成本。另外，由于采用本公开的实施例的方式对进行嘴部关键点标注，即统一嘴部关键点的标注方式，避免出现不同标注人员对嘴部关键点的标注结果有差异的情况。因此，在利用统一标注方式标注的嘴部关键点来训练模型时，可以提高模型训练的精度。
在本公开的一个或多个实施例中，S118可以包括：
当第一投影点在第二人脸图像上的深度值大于或等于最小深度值时，获取第一投影点沿第二偏移方向上的直线与目标嘴部轮廓线的至少一个交点，第二偏移方向为与竖直方向的夹角为第一角度的方向；
在至少一个交点中，确定第一嘴部关键点，第一嘴部关键点可以为至少一个交点中的最上端的点或者最下端的点。
其中，当第一投影点是由上嘴唇的上轮廓线的点或上嘴唇的下轮廓线上的点进行投影得到时，目标嘴部轮廓线包括第二人脸图像上的上嘴唇区域轮廓线；当第一投影点是由下嘴唇的上轮廓线上的点或下嘴唇的下轮廓线上的点进行投影得到时，目标嘴部轮廓线包括第二人脸图像上的下嘴唇区域轮廓线。
在本公开实施例中，当第二人脸图像上的投影点的深度值大于或等于最小深度值时，说明关键点被遮挡，在第二人脸图像上不可见。那么以第二人脸图像上的投影点为基准，在投影点的附近获取第一嘴部关键点，从而在第二人脸图像上获取到被遮挡的关键点，由此实现了对第二人脸图像上的被遮挡的关键点进行标注。
在本公开的一个或多个实施例中，在至少一个交点中，确定第一嘴部关键点，包括：
当第一投影点是由上嘴唇的上轮廓线上的点或者下嘴唇的上轮廓线上的点进行投影得到时，确定第一嘴部关键点为至少一个交点中的最上端的点；
当第一投影点是由上嘴唇的下轮廓线上的点或者下嘴唇的下轮廓线上的点进行投影得到时，确定第一嘴部关键点为至少一个交点中的最下端的点。
需要说明的是，上嘴唇的轮廓线包括上轮廓线和下轮廓线，下嘴唇的轮廓线包括上轮廓线和下轮廓线。下面通过图13说明上嘴唇的轮廓线和下嘴唇的轮廓线。
如图13所示，上嘴唇的上轮廓线为关键点75、关键点76、关键点77、关键点78、关键点79、关键点80以及关键点81所在的轮廓线，上嘴唇的下轮廓线为关键点75、关键点88、关键点89、关键点90以及关键点81所在的轮廓线。
下嘴唇的上轮廓线为关键点75、关键点94、关键点93、关键点92以及关键点81所在的轮廓线，下嘴唇的下轮廓线为关键点75、关键点86、关键点85、关键点84、关键点83、关键点82以及关键点81所在的轮廓线。
通过在至少一个交点中获取最上端的点或者最下端的点作为第二人脸图像上被遮挡的第一嘴部关键点，由此实现了自动对第二人脸图像上被遮挡的关键点进行标注。
下面继续基于图13示出的嘴部关键点进行示例性说明。
为了获取第二人脸图像上的关键点89、关键点77、关键点78、关键点79、关键点94和关键点84，在三维人脸图像上获取以上每个关键点对应的嘴部点，将嘴部投影到第二人脸图像上，得到每个关键点的投影点。
在任意一个关键点的投影点在第二人脸图像上的深度值大于或等于最小深度值时，说明该关键点在第二人脸图像上不可见，则确定向量v2=(sinroll,cosroll)，其中，roll表示第二人脸图像中人脸的翻滚角，即roll为上述的第一角度。v2为与竖直方向的夹角为roll的单位向量，也可以说v2为第二人脸图像上人脸的倾斜方向。
其中，当关键点89的投影点在第二人脸图像上的深度值大于或等于最小深度值时，获取关键点89的投影点沿v2的方向上的直线与第二人脸图像上的上嘴唇轮廓线的至少一个交点。将至少一个交点中的最下端的点确定为关键点89。
当关键点77的投影点在第二人脸图像上的深度值大于或等于最小深度值时，获取关键点77的投影点沿v2的方向上的直线与第二人脸图像上的上嘴唇轮廓线的至少一个交点。将至少一个交点中的最上端的点确定为关键点77。
在第二人脸图像上获取关键点78和关键点79的方式与获取关键点77的方式类似，为了简要说明，在此不再赘述。
当关键点93的投影点在第二人脸图像上的深度值大于或等于最小深度值时，获取关键点93的投影点沿v2的方向上的直线与第二人脸图像上的下嘴唇轮廓线的至少一个交点。将至少一个交点中的最上端的点确定为关键点93。
当关键点84的投影点在第二人脸图像上的深度值大于或等于最小深度值时，获取关键点84的投影点沿v的方向上的直线与第二人脸图像上的下嘴唇轮廓线的至少一个交点。最后，将至少一个交点中的最上端的点确定为关键点93。
在本公开的一个或多个实施例中，S118可以包括：
当第一投影点在第二人脸图像上的深度值大于或等于最小深度值，并且第一投影点沿第二偏移方向上的直线与目标嘴部轮廓线之间不存在交点时时，将目标嘴部轮廓线上的距离第一投影点最近的轮廓点确定为第一嘴部关键点。
在本公开实施例中，当第一投影点沿第二偏移方向上的直线与目标嘴部轮廓线之间不存在交点时，将目标嘴部轮廓线上的距离第一投影点最近的轮廓点确定为第一嘴部关键点。由此，考虑了在确定第一嘴部关键点时出现的多种情况，使得嘴部关键点的标注方法更加完善。
在本公开的一个或多个实施例中，S118可以包括：
当第一投影点在第二人脸图像上的深度值大于或等于最小深度值，并且第一投影点沿第二偏移方向上的直线与目标嘴部轮廓线之间不存在交点时时，将第一投影点确定为第一嘴部关键点。
在本公开的一个或多个实施例中，S118可以包括：
当第一投影点在第二人脸图像上的深度值小于最小深度值时，将第一投影点确定为第一嘴部关键点。
在本公开实施例中，当第一投影点在第二人脸图像上的深度值小于最小深度值时，说明第一投影点对于的关键点在第二人脸图像上可见，那么将第一投影点确定为第一嘴部关键点。因此，可以在第二人脸图像上对第一嘴部关键点进行标注，实现了自动标注第二人脸图像上的第一嘴部关键点。
在本公开的一个或多个实施例中，根据第一嘴部关键点，进行嘴部关键点的标注，可以包括：
获取第二人脸图像上的两个嘴部关键点，两个嘴部关键点的其中一个嘴部关键点为第一嘴部关键点，另一个嘴部关键点为左侧外嘴角关键点、左侧内嘴角关键点、右侧外嘴角关键点以及右侧内嘴角关键点中与第一嘴部关键点对应的关键点；
根据两个嘴部关键点，在第二人脸图像的嘴部轮廓线上获取至少一个嘴部关键点，至少一个嘴部关键点与两个嘴部关键点在嘴部轮廓线上等距分布；
对第二人脸图像上的至少一个嘴部关键点进行标注。
下面继续结合图13说明本公开实施例。
参考图13，关键点76是关键点77（即左侧唇峰关键点）与关键点75（即左侧外嘴角关键点）之间的上嘴唇轮廓线上的等分点；
关键点80为关键点79（即右侧唇峰关键点）与关键点81（即右侧外嘴角关键点）之间的上嘴唇轮廓线上的等分点；
关键点88为关键点89与关键点87（即左侧内嘴角关键点）之间的上嘴唇轮廓线上的等分点；
关键点90为关键点89与关键点91（即右侧内嘴角关键点）之间的上嘴唇轮廓线上的等分点；
关键点92为关键点93与关键点91之间的下嘴唇轮廓线上的等分点；
关键点94为关键点93与关键点87之间的下嘴唇轮廓线上的等分点；
关键点85和关键点86为关键点75与关键点84之间的下嘴唇轮廓线上的等分点；
关键点82和关键点83是关键点81与关键点84之间的下嘴唇轮廓线上的等分点。
在本公开实施例中，在确定第二人脸图像上的两个嘴部关键点的情况下，可以根据两个嘴部关键点确定至少一个其他的嘴部关键点，从而实现了自动对嘴部区域上的其他关键点进行标注。
与本公开实施例的嘴部关键点的标注方法对应地，图14是根据一示例性实施例示出的一种嘴部关键点的标注装置框图。参照图14，嘴部关键点的标注装置300包括：
图像获取模块302，被配置为获取第一人脸图像；
第一确定模块304，被配置为确定第一人脸图像上的第一上嘴唇区域和第一下嘴唇区域，第一上嘴唇区域包括上嘴唇外部区域以及上嘴唇内部区域，第一下嘴唇区域包括下嘴唇外部区域以及下嘴唇内部区域；
集合确定模块306，被配置为根据第一上嘴唇区域和第一下嘴唇区域，确定目标嘴部区域集合，目标嘴部区域集合包括第一上嘴唇区域与第一下嘴唇区域的第一交集；
第二确定模块308，被配置为当目标嘴部区域集合为空时，确定外嘴角关键点包括第一上嘴唇区域与第一下嘴唇区域的并集中的最左侧点和最右侧点；当目标嘴部区域集合不为空时，确定外嘴角关键点包括目标嘴部区域集合中的最左侧点和最右侧点；
第一标注模块310，被配置为根据外嘴角关键点，进行嘴部关键点的标注。
在本公开实施例中，首先获取第一人脸图像，根据第一人脸图像上的第一上嘴唇区域和第一下嘴唇区域，确定目标嘴部区域集合，目标嘴部区域集合包括第一上嘴唇区域与第一下嘴唇区域的交集。然后，当目标嘴部区域集合为空时，可以确定外嘴角关键点包括第一上嘴唇区域与第一下嘴唇区域的并集中的最左侧点和最右侧点，当目标嘴部区域集合不为空时，可以确定外嘴角关键点包括目标嘴部区域集合中的最左侧点和最右侧点。最后，根据外嘴角关键点，进行嘴部关键点的标注。由此，实现了自动进行嘴部关键点标注，不需要采用人工的方式进行嘴部关键点标注，从而提高了标注效率以及节省人工标注所消耗的成本。另外，由于采用本公开的实施例的方式对进行嘴部关键点标注，即统一嘴部关键点的标注方式，避免出现不同标注人员对嘴部关键点的标注结果有差异的情况。因此，在利用统一标注方式标注的嘴部关键点来训练模型时，可以提高模型训练的精度。
在本公开的一个或多个实施例中，集合确定模块306包括：
获取单元，被配置为获取第一人脸图像中的人脸的俯仰角以及上嘴唇渲染图像和下嘴唇渲染图像，上嘴唇渲染图像是利用仅包括上嘴唇的纹理图像渲染得到，下嘴唇渲染图像是利用仅包括下嘴唇的纹理图像渲染得到；
第一确定单元，被配置为当俯仰角大于第一角度阈值时，确定第一上嘴唇区域与下嘴唇渲染图像中的第二下嘴唇区域之间的第二交集；将第二交集以及第一交集的并集确定为目标嘴部区域集合，其中，第二下嘴唇区域包括下嘴唇外部区域以及下嘴唇内部区域；
第二确定单元，被配置为当俯仰角小于第二角度阈值时，确定第一下嘴唇区域与上嘴唇渲染图像中的第二上嘴唇区域之间的第三交集，将第三交集以及第一交集的并集确定为目标嘴部区域集合，其中，第二上嘴唇区域包括上嘴唇外部区域以及上嘴唇内部区域，第一角度阈值大于第二角度阈值；
第三确定单元，被配置为当俯仰角大于或等于第二角度阈值，且小于或等于第一角度阈值时，将第一交集确定为目标嘴部区域集合。
在本公开实施例中，根据第一人脸图像中的人脸的俯仰角，确定第一人脸图像中被遮挡的嘴部区域，将被遮挡的嘴部区域作为目标嘴部区域集合的一部分。由此，目标嘴部区域集合中包括比较全的上嘴唇与下嘴唇之间的交叠区域，根据目标嘴部区域集合，可以更加准确地获取到外嘴角关键点。
在本公开的一个或多个实施例中，嘴部关键点的标注装置300还可以包括：
第二图像获取模块，被配置为获取第二人脸图像，第二人脸图像中的人脸相对于竖直方向倾斜第一角度；
第一图像获取模块具体被配置为将第二人脸图像向竖直方向旋转第一角度，得到第一人脸图像。
在第二人脸图像上的人脸是倾斜的情况下，通过对第二人脸图像进行旋转，得到人脸摆正的第一人脸图像，由此，便于得到集合中的最左侧点和最右侧点。比如，在集合中获取水平方向上的坐标值最小的点即为最左侧点，在集合中获取水平方向上的坐标值最大的点即为最右侧点。
在本公开的一个或多个实施例中，外嘴角关键点包括左侧外嘴角关键点和右侧外嘴角关键点；第一标注模块310可以包括：
偏移信息确定单元，被配置为针对第一人脸图像和第二人脸图像中的任意一个目标人脸图像，根据目标人脸图像确定第一偏移方向和偏移距离，其中，第一偏移方向为左侧内嘴角关键点相对于左侧外嘴角关键点的偏移方向，偏移距离是左侧外嘴角关键点和右侧外嘴角关键点之间的距离与预定系数相乘得到；
关键点获取单元，被配置为在目标人脸图像中，获取第一偏移方向上的、且与左侧外嘴角关键点的距离为偏移距离的左侧内嘴角关键点，以及获取在第二偏移方向上的、且与右侧外嘴角关键点的距离为偏移距离的右侧内嘴角关键点，第二偏移方向为第一偏移方向的相反方向；
标注单元，被配置为根据左侧内嘴角关键点以及右侧内嘴角关键点，进行嘴部关键点的标注。
在本公开实施例中，因为外嘴角关键点与内嘴角关键点之间存在如下的关联关系：左侧内嘴角关键点在左侧外嘴角关键点的右侧，右侧内嘴角关键点在右侧外嘴角关键点的左侧。因此，可以根据左侧外嘴角关键点获取左侧内嘴角关键点，根据右侧外嘴角关键点获取右侧内嘴角关键点，并对左侧内嘴角关键点和右侧内嘴角关键点进行标注。由此，实现了自动对嘴部关键点进行标注，不需要采用人工的方式进行嘴部关键点标注，从而提高了标注效率以及节省人工标注所消耗的成本。另外，由于采用本公开的实施例对进行嘴部关键点标注，即统一嘴部关键点的标注方式，避免出现不同标注人员对嘴部关键点的标注结果有差异的情况。因此，在利用统一标注方式标注的嘴部关键点来训练模型时，可以提高模型训练的精度。
在本公开的一个或多个实施例中，偏移信息确定单元可以包括：
第一确定子单元，被配置为当目标人脸图像为第一人脸图像时，确定第一偏移方向为水平向右的方向；
第二确定子单元，被配置为当目标人脸图像为第二人脸图像，且第二人脸图像中的人脸向左倾斜时，将水平向右的方向逆时针旋转第一角度，得到第一偏移方向；
第三确定子单元，被配置为当目标人脸图像为第二人脸图像，且第二人脸图像中的人脸向右倾斜时，将水平向右的方向顺时针旋转第一角度，得到第一偏移方向。
在本公开实施例中，根据待获取的目标内嘴角关键点是左侧内嘴角关键点还是右侧内嘴角关键点，确定第一偏移方向。然后，在第一偏移方向上确定左侧内嘴角关键点，在第一偏移方向的相反方向（即第二偏移方向）上确定右侧内嘴角关键点。由此，实现了根据外嘴角关键点，获取内嘴角关键点。
在本公开的一个或多个实施例中，嘴部关键点的标注装置300还可以包括：
轮廓点获取模块，被配置为获取三维人脸图像上的M个嘴部点，M个嘴部点是嘴部轮廓线上除外嘴角轮廓点和内嘴角轮廓点之外的点，三维人脸图像用于渲染出第二人脸图像，M为大于或等于1的整数；
投影模块，被配置为将M个嘴部点中的每个嘴部点分别投影到第二人脸图像上，得到M个投影点；
第三确定模块，被配置为对于M个投影点中的任意一个第一投影点，根据第一投影点在第二人脸图像上的深度值与第二人脸图像上像素点的最小深度值之间的大小关系，确定第二人脸图像上的第一嘴部关键点；
第二标注模块，被配置为根据第一嘴部关键点，进行嘴部关键点的标注。
在本公开实施例中，通过将三维人脸图像上的嘴部点投影到第二人脸图像上，得到投影点，根据投影点在第二人脸图像上的深度值与最小深度值之间的大小关系，确定第二人脸图像上的第一嘴部关键点，并进行嘴部关键点的标注。由此，实现了自动进行嘴部关键点标注，不需要采用人工的方式进行嘴部关键点标注，从而提高了标注效率以及节省人工标注所消耗的成本。另外，由于采用本公开的实施例的方式对进行嘴部关键点标注，即统一嘴部关键点的标注方式，避免出现不同标注人员对嘴部关键点的标注结果有差异的情况。因此，在利用统一标注方式标注的嘴部关键点来训练模型时，可以提高模型训练的精度。
在本公开的一个或多个实施例中，第三确定模块可以包括：
交点获取单元，被配置为当第一投影点在第二人脸图像上的深度值大于或等于最小深度值时，获取第一投影点沿第二偏移方向上的直线与目标嘴部轮廓线的至少一个交点，第二偏移方向为与竖直方向的夹角为第一角度的方向；
第一关键点确定单元，被配置为在至少一个交点中，确定第一嘴部关键点；
其中，当第一投影点是由上嘴唇的上轮廓线的点或上嘴唇的下轮廓线上的点进行投影得到时，目标嘴部轮廓线包括第二人脸图像上的上嘴唇区域轮廓线；当第一投影点是由下嘴唇的上轮廓线上的点或下嘴唇的下轮廓线上的点进行投影得到时，目标嘴部轮廓线包括第二人脸图像上的下嘴唇区域轮廓线。
在本公开实施例中，当第二人脸图像上的投影点的深度值大于或等于最小深度值时，说明关键点被遮挡，在第二人脸图像上不可见。那么以第二人脸图像上的投影点为基准，在投影点的附近获取第一嘴部关键点，从而在第二人脸图像上获取到被遮挡的关键点，由此实现了对第二人脸图像上的被遮挡的关键点进行标注。
在本公开的一个或多个实施例中，第一关键点确定单元可以包括：
第四确定子单元，被配置为当第一投影点是由上嘴唇的上轮廓线上的点或者下嘴唇的上轮廓线上的点进行投影得到时，确定第一嘴部关键点为至少一个交点中的最上端的点；
第五确定子单元，被配置为当第一投影点是由上嘴唇的下轮廓线上的点或者下嘴唇的下轮廓线上的点进行投影得到时，确定第一嘴部关键点为至少一个交点中的最下端的点。
通过在至少一个交点中获取最上端的点或者最下端的点作为第二人脸图像上被遮挡的第一嘴部关键点，由此实现了自动对第二人脸图像上被遮挡的关键点进行标注。
在本公开的一个或多个实施例中，第三确定模块可以包括：
第二关键点确定单元，被配置为当第一投影点在第二人脸图像上的深度值大于或等于最小深度值，并且第一投影点沿第二偏移方向上的直线与目标嘴部轮廓线之间不存在交点时，将目标嘴部轮廓线上的距离第一投影点最近的轮廓点确定为第一嘴部关键点。
在本公开实施例中，当第一投影点沿第二偏移方向上的直线与目标嘴部轮廓线之间不存在交点时，将目标嘴部轮廓线上的距离第一投影点最近的轮廓点确定为第一嘴部关键点。由此，考虑了在确定第一嘴部关键点时出现的多种情况，使得嘴部关键点的标注方法更加完善。
在本公开的一个或多个实施例中，第三确定模块可以包括：
第三关键点确定单元，被配置为当第一投影点在第二人脸图像上的深度值小于最小深度值时，将第一投影点确定为第一嘴部关键点。
在本公开实施例中，当第一投影点在第二人脸图像上的深度值小于最小深度值时，说明第一投影点对于的关键点在第二人脸图像上可见，那么将第一投影点确定为第一嘴部关键点。因此，可以在第二人脸图像上对第一嘴部关键点进行标注，实现了自动标注第二人脸图像上的第一嘴部关键点。
在本公开的一个或多个实施例中，第二标注模块可以包括：
第一关键点获取单元，被配置为获取第二人脸图像上的两个嘴部关键点，两个嘴部关键点的其中一个嘴部关键点为第一嘴部关键点，另一个嘴部关键点为左侧外嘴角关键点、左侧内嘴角关键点、右侧外嘴角关键点以及右侧内嘴角关键点中与第一嘴部关键点对应的关键点；
第二关键点获取单元，被配置为根据两个嘴部关键点，在第二人脸图像的嘴部轮廓线上获取至少一个嘴部关键点，至少一个嘴部关键点与两个嘴部关键点在嘴部轮廓线上等距分布；
第二标注单元，被配置为对第二人脸图像上的至少一个嘴部关键点进行标注。
在本公开实施例中，在确定第二人脸图像上的两个嘴部关键点的情况下，可以根据两个嘴部关键点确定至少一个其他的嘴部关键点，从而实现了自动对嘴部区域上的其他关键点进行标注。
关于上述实施例中的装置，其中各个模块执行操作的具体方式已经在有关该方法的实施例中进行了详细描述，此处将不做详细阐述说明。
本公开实施例还提供一种电子设备，包括：处理器；存储器，用于存储处理器可执行的指令；其中，处理器被配置为执行指令，以实现上述的嘴部关键点的标注方法。
图15是根据一示例性实施例示出的一种电子设备的框图。例如，电子设备可以被提供为一服务器。参照图15，电子设备400包括处理组件422，其进一步包括一个或多个处理器，以及由存储器432所代表的存储器资源，用于存储可由处理组件422的执行的指令，例如应用程序。存储器432中存储的应用程序可以包括一个或一个以上的每一个对应于一组指令的模块。此外，处理组件422被配置为执行指令，以执行上述嘴部关键点的标注方法。
电子设备400还可以包括一个电源组件426被配置为执行电子设备400的电源管理，一个有线或无线网络接口450被配置为将电子设备400连接到网络，和一个输入输出（I/O）接口458。电子设备400可以操作基于存储在存储器432的操作系统，例如WindowsServerTM，Mac OS XTM，UnixTM, LinuxTM，FreeBSDTM或类似。
本公开实施例还提供一种存储介质，当存储介质中的指令由电子设备/服务器的处理器执行时，使得电子设备能够执行上述的嘴部关键点的标注方法。
在示例性实施例中，上述存储介质可以为包括指令的存储器，上述指令可由装置的处理器执行以完成上述方法。作为一个示例，存储介质可以是非临时性计算机可读存储介质，例如，非临时性计算机可读存储介质可以是ROM、随机存取存储器（RAM）、CD-ROM、磁带、软盘和光数据存储设备等。
本公开实施例还提供一种计算机程序产品，当计算机程序产品中的指令由电子设备的处理器执行时，使得电子设备能够执行上述的嘴部关键点的标注方法。
本领域技术人员在考虑说明书及实践这里公开的发明后，将容易想到本公开的其它实施方案。本申请旨在涵盖本公开的任何变型、用途或者适应性变化，这些变型、用途或者适应性变化遵循本公开的一般性原理并包括本公开未公开的本技术领域中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的，本公开的真正范围和精神由下面的权利要求指出。
应当理解的是，本公开并不局限于上面已经描述并在附图中示出的精确结构，并且可以在不脱离其范围进行各种修改和改变。本公开的范围仅由所附的权利要求来限制。

Claims (24)

1.一种嘴部关键点的标注方法，其特征在于，包括：
获取第一人脸图像；
确定所述第一人脸图像上的第一上嘴唇区域和第一下嘴唇区域，所述第一上嘴唇区域包括上嘴唇外部区域以及上嘴唇内部区域，所述第一下嘴唇区域包括下嘴唇外部区域以及下嘴唇内部区域；
根据所述第一上嘴唇区域和所述第一下嘴唇区域，确定目标嘴部区域集合，所述目标嘴部区域集合包括所述第一上嘴唇区域与所述第一下嘴唇区域的第一交集；
当所述目标嘴部区域集合为空时，确定外嘴角关键点包括所述第一上嘴唇区域与所述第一下嘴唇区域的并集中的最左侧点和最右侧点；当所述目标嘴部区域集合不为空时，确定外嘴角关键点包括所述目标嘴部区域集合中的最左侧点和最右侧点；
根据所述外嘴角关键点，进行嘴部关键点的标注。
2.根据权利要求1所述的方法，其特征在于，所述根据所述第一上嘴唇区域和所述第一下嘴唇区域，确定目标嘴部区域集合，包括：
获取所述第一人脸图像中的人脸的俯仰角以及上嘴唇渲染图像和下嘴唇渲染图像，所述上嘴唇渲染图像是利用仅包括上嘴唇的纹理图像渲染得到，所述下嘴唇渲染图像是利用仅包括下嘴唇的纹理图像渲染得到；
当所述俯仰角大于第一角度阈值时，确定所述第一上嘴唇区域与所述下嘴唇渲染图像中的第二下嘴唇区域之间的第二交集；将所述第二交集以及所述第一交集的并集确定为所述目标嘴部区域集合，其中，所述第二下嘴唇区域包括所述下嘴唇外部区域以及所述下嘴唇内部区域；
当所述俯仰角小于第二角度阈值时，确定所述第一下嘴唇区域与所述上嘴唇渲染图像中的第二上嘴唇区域之间的第三交集，将所述第三交集以及所述第一交集的并集确定为所述目标嘴部区域集合，其中，所述第二上嘴唇区域包括所述上嘴唇外部区域以及所述上嘴唇内部区域，所述第一角度阈值大于所述第二角度阈值；
当所述俯仰角大于或等于所述第二角度阈值，且小于或等于所述第一角度阈值时，将所述第一交集确定为所述目标嘴部区域集合。
3.根据权利要求1所述的方法，其特征在于，所述获取第一人脸图像之前，所述方法还包括：
获取第二人脸图像，所述第二人脸图像中的人脸相对于竖直方向倾斜第一角度；
所述获取第一人脸图像，包括：
将所述第二人脸图像向竖直方向旋转所述第一角度，得到所述第一人脸图像。
4.根据权利要求3所述的方法，其特征在于，所述外嘴角关键点包括左侧外嘴角关键点和右侧外嘴角关键点；
所述根据所述外嘴角关键点，进行嘴部关键点的标注，包括：
针对所述第一人脸图像和所述第二人脸图像中的任意一个目标人脸图像，根据所述目标人脸图像确定第一偏移方向和偏移距离，其中，所述第一偏移方向为左侧内嘴角关键点相对于所述左侧外嘴角关键点的偏移方向，所述偏移距离是所述左侧外嘴角关键点和所述右侧外嘴角关键点之间的距离与预定系数相乘得到；
在所述目标人脸图像中，获取所述第一偏移方向上的、且与所述左侧外嘴角关键点的距离为所述偏移距离的所述左侧内嘴角关键点，以及获取在第二偏移方向上的、且与所述右侧外嘴角关键点的距离为所述偏移距离的右侧内嘴角关键点，所述第二偏移方向为所述第一偏移方向的相反方向；
根据所述左侧内嘴角关键点以及所述右侧内嘴角关键点，进行嘴部关键点的标注。
5.根据权利要求4所述的方法，其特征在于，所述根据所述目标人脸图像确定第一偏移方向，包括：
当所述目标人脸图像为所述第一人脸图像时，确定所述第一偏移方向为水平向右的方向；
当所述目标人脸图像为所述第二人脸图像，且所述第二人脸图像中的人脸向左倾斜时，将水平向右的方向逆时针旋转所述第一角度，得到所述第一偏移方向；
当所述目标人脸图像为所述第二人脸图像，且所述第二人脸图像中的人脸向右倾斜时，将水平向右的方向顺时针旋转所述第一角度，得到所述第一偏移方向。
6.根据权利要求4所述的方法，其特征在于，还包括：
获取三维人脸图像上的M个嘴部点，所述M个嘴部点是嘴部轮廓线上除外嘴角轮廓点和内嘴角轮廓点之外的点，所述三维人脸图像用于渲染出所述第二人脸图像，M为大于或等于1的整数；
将所述M个嘴部点中的每个嘴部点分别投影到所述第二人脸图像上，得到M个投影点；
对于所述M个投影点中的任意一个第一投影点，根据所述第一投影点在所述第二人脸图像上的深度值与所述第二人脸图像上像素点的最小深度值之间的大小关系，确定所述第二人脸图像上的第一嘴部关键点；
根据所述第一嘴部关键点，进行嘴部关键点的标注。
7.根据权利要求6所述的方法，其特征在于，所述根据所述第一投影点在所述第二人脸图像上的深度值与所述第二人脸图像上像素点的最小深度值之间的大小关系，确定所述第二人脸图像上的第一嘴部关键点，包括：
当所述第一投影点在所述第二人脸图像上的深度值大于或等于所述最小深度值时，获取所述第一投影点沿第二偏移方向上的直线与目标嘴部轮廓线的至少一个交点，所述第二偏移方向为与竖直方向的夹角为所述第一角度的方向；
在所述至少一个交点中，确定所述第一嘴部关键点；
其中，当所述第一投影点是由上嘴唇的上轮廓线的点或上嘴唇的下轮廓线上的点进行投影得到时，所述目标嘴部轮廓线包括所述第二人脸图像上的上嘴唇区域轮廓线；当所述第一投影点是由下嘴唇的上轮廓线上的点或下嘴唇的下轮廓线上的点进行投影得到时，所述目标嘴部轮廓线包括第二人脸图像上的下嘴唇区域轮廓线。
8.根据权利要求7所述的方法，其特征在于，所述在所述至少一个交点中，确定所述第一嘴部关键点，包括：
当所述第一投影点是由上嘴唇的上轮廓线上的点或者下嘴唇的上轮廓线上的点进行投影得到时，确定所述第一嘴部关键点为所述至少一个交点中的最上端的点；
当所述第一投影点是由上嘴唇的下轮廓线上的点或者下嘴唇的下轮廓线上的点进行投影得到时，确定所述第一嘴部关键点为所述至少一个交点中的最下端的点。
9.根据权利要求6所述的方法，其特征在于，所述根据所述第一投影点在所述第二人脸图像上的深度值与所述第二人脸图像上像素点的最小深度值之间的大小关系，确定所述第二人脸图像上的第一嘴部关键点，包括：
当所述第一投影点在所述第二人脸图像上的深度值大于或等于所述最小深度值，并且所述第一投影点沿所述第二偏移方向上的直线与所述目标嘴部轮廓线之间不存在交点时，将所述目标嘴部轮廓线上的距离所述第一投影点最近的轮廓点确定为所述第一嘴部关键点。
10.根据权利要求6所述的方法，其特征在于，所述根据所述第一投影点在所述第二人脸图像上的深度值与所述第二人脸图像上像素点的最小深度值之间的大小关系，确定所述第二人脸图像上的第一嘴部关键点，包括：
当所述第一投影点在所述第二人脸图像上的深度值小于所述最小深度值时，将所述第一投影点确定为所述第一嘴部关键点。
11.根据权利要求6所述的方法，其特征在于，所述根据所述第一嘴部关键点，进行嘴部关键点的标注，包括：
获取所述第二人脸图像上的两个嘴部关键点，所述两个嘴部关键点的其中一个嘴部关键点为所述第一嘴部关键点，另一个嘴部关键点为所述左侧外嘴角关键点、所述左侧内嘴角关键点、所述右侧外嘴角关键点以及所述右侧内嘴角关键点中与所述第一嘴部关键点对应的关键点；
根据所述两个嘴部关键点，在所述第二人脸图像的嘴部轮廓线上获取至少一个嘴部关键点，所述至少一个嘴部关键点与所述两个嘴部关键点在嘴部轮廓线上等距分布；
对所述第二人脸图像上的所述至少一个嘴部关键点进行标注。
12.一种嘴部关键点的标注装置，其特征在于，包括：
第一图像获取模块，被配置为获取第一人脸图像；
第一确定模块，被配置为确定所述第一人脸图像上的第一上嘴唇区域和第一下嘴唇区域，所述第一上嘴唇区域包括上嘴唇外部区域以及上嘴唇内部区域，所述第一下嘴唇区域包括下嘴唇外部区域以及下嘴唇内部区域；
集合确定模块，被配置为根据所述第一上嘴唇区域和所述第一下嘴唇区域，确定目标嘴部区域集合，所述目标嘴部区域集合包括所述第一上嘴唇区域与所述第一下嘴唇区域的第一交集；
第二确定模块，被配置为当所述目标嘴部区域集合为空时，确定外嘴角关键点包括所述第一上嘴唇区域与所述第一下嘴唇区域的并集中的最左侧点和最右侧点；当所述目标嘴部区域集合不为空时，确定外嘴角关键点包括所述目标嘴部区域集合中的最左侧点和最右侧点；
第一标注模块，被配置为根据所述外嘴角关键点，进行嘴部关键点的标注。
13.根据权利要求12所述的装置，其特征在于，所述集合确定模块包括：
获取单元，被配置为获取所述第一人脸图像中的人脸的俯仰角以及上嘴唇渲染图像和下嘴唇渲染图像，所述上嘴唇渲染图像是利用仅包括上嘴唇的纹理图像渲染得到，所述下嘴唇渲染图像是利用仅包括下嘴唇的纹理图像渲染得到；
第一确定单元，被配置为当所述俯仰角大于第一角度阈值时，确定所述第一上嘴唇区域与所述下嘴唇渲染图像中的第二下嘴唇区域之间的第二交集；将所述第二交集以及所述第一交集的并集确定为所述目标嘴部区域集合，其中，所述第二下嘴唇区域包括所述下嘴唇外部区域以及所述下嘴唇内部区域；
第二确定单元，被配置为当所述俯仰角小于第二角度阈值时，确定所述第一下嘴唇区域与所述上嘴唇渲染图像中的第二上嘴唇区域之间的第三交集，将所述第三交集以及所述第一交集的并集确定为所述目标嘴部区域集合，其中，所述第二上嘴唇区域包括所述上嘴唇外部区域以及所述上嘴唇内部区域，所述第一角度阈值大于所述第二角度阈值；
第三确定单元，被配置为当所述俯仰角大于或等于所述第二角度阈值，且小于或等于所述第一角度阈值时，将所述第一交集确定为所述目标嘴部区域集合。
14.根据权利要求12所述的装置，其特征在于，所述装置还包括：
第二图像获取模块，被配置为获取第二人脸图像，所述第二人脸图像中的人脸相对于竖直方向倾斜第一角度；
所述第一图像获取模块具体被配置为将所述第二人脸图像向竖直方向旋转所述第一角度，得到所述第一人脸图像。
15.根据权利要求14所述的装置，其特征在于，所述外嘴角关键点包括左侧外嘴角关键点和右侧外嘴角关键点；
所述第一标注模块包括：
偏移信息确定单元，被配置为针对所述第一人脸图像和所述第二人脸图像中的任意一个目标人脸图像，根据所述目标人脸图像确定第一偏移方向和偏移距离，其中，所述第一偏移方向为左侧内嘴角关键点相对于所述左侧外嘴角关键点的偏移方向，所述偏移距离是所述左侧外嘴角关键点和所述右侧外嘴角关键点之间的距离与预定系数相乘得到；
关键点获取单元，被配置为在所述目标人脸图像中，获取所述第一偏移方向上的、且与所述左侧外嘴角关键点的距离为所述偏移距离的所述左侧内嘴角关键点，以及获取在第二偏移方向上的、且与所述右侧外嘴角关键点的距离为所述偏移距离的右侧内嘴角关键点，所述第二偏移方向为所述第一偏移方向的相反方向；
标注单元，被配置为根据所述左侧内嘴角关键点以及所述右侧内嘴角关键点，进行嘴部关键点的标注。
16.根据权利要求15所述的装置，其特征在于，所述偏移信息确定单元包括：
第一确定子单元，被配置为当所述目标人脸图像为所述第一人脸图像时，确定所述第一偏移方向为水平向右的方向；
第二确定子单元，被配置为当所述目标人脸图像为所述第二人脸图像，且所述第二人脸图像中的人脸向左倾斜时，将水平向右的方向逆时针旋转所述第一角度，得到所述第一偏移方向；
第三确定子单元，被配置为当所述目标人脸图像为所述第二人脸图像，且所述第二人脸图像中的人脸向右倾斜时，将水平向右的方向顺时针旋转所述第一角度，得到所述第一偏移方向。
17.根据权利要求15所述的装置，其特征在于，还包括：
轮廓点获取模块，被配置为获取三维人脸图像上的M个嘴部点，所述M个嘴部点是嘴部轮廓线上除外嘴角轮廓点和内嘴角轮廓点之外的点，所述三维人脸图像用于渲染出所述第二人脸图像，M为大于或等于1的整数；
投影模块，被配置为将所述M个嘴部点中的每个嘴部点分别投影到所述第二人脸图像上，得到M个投影点；
第三确定模块，被配置为对于所述M个投影点中的任意一个第一投影点，根据所述第一投影点在所述第二人脸图像上的深度值与所述第二人脸图像上像素点的最小深度值之间的大小关系，确定所述第二人脸图像上的第一嘴部关键点；
第二标注模块，被配置为根据所述第一嘴部关键点，进行嘴部关键点的标注。
18.根据权利要求17所述的装置，其特征在于，所述第三确定模块包括：
交点获取单元，被配置为当所述第一投影点在所述第二人脸图像上的深度值大于或等于所述最小深度值时，获取所述第一投影点沿第二偏移方向上的直线与目标嘴部轮廓线的至少一个交点，所述第二偏移方向为与竖直方向的夹角为所述第一角度的方向；
第一关键点确定单元，被配置为在所述至少一个交点中，确定所述第一嘴部关键点；
其中，当所述第一投影点是由上嘴唇的上轮廓线的点或上嘴唇的下轮廓线上的点进行投影得到时，所述目标嘴部轮廓线包括所述第二人脸图像上的上嘴唇区域轮廓线；当所述第一投影点是由下嘴唇的上轮廓线上的点或下嘴唇的下轮廓线上的点进行投影得到时，所述目标嘴部轮廓线包括第二人脸图像上的下嘴唇区域轮廓线。
19.根据权利要求18所述的装置，其特征在于，所述第一关键点确定单元包括：
第四确定子单元，被配置为当所述第一投影点是由上嘴唇的上轮廓线上的点或者下嘴唇的上轮廓线上的点进行投影得到时，确定所述第一嘴部关键点为所述至少一个交点中的最上端的点；
第五确定子单元，被配置为当所述第一投影点是由上嘴唇的下轮廓线上的点或者下嘴唇的下轮廓线上的点进行投影得到时，确定所述第一嘴部关键点为所述至少一个交点中的最下端的点。
20.根据权利要求17所述的装置，其特征在于，所述第三确定模块包括：
第二关键点确定单元，被配置为当所述第一投影点在所述第二人脸图像上的深度值大于或等于所述最小深度值，并且所述第一投影点沿所述第二偏移方向上的直线与所述目标嘴部轮廓线之间不存在交点时，将所述目标嘴部轮廓线上的距离所述第一投影点最近的轮廓点确定为所述第一嘴部关键点。
21.根据权利要求17所述的装置，其特征在于，所述第三确定模块包括：
第三关键点确定单元，被配置为当所述第一投影点在所述第二人脸图像上的深度值小于所述最小深度值时，将所述第一投影点确定为所述第一嘴部关键点。
22.根据权利要求17所述的装置，其特征在于，所述第二标注模块包括：
第一关键点获取单元，被配置为获取所述第二人脸图像上的两个嘴部关键点，所述两个嘴部关键点的其中一个嘴部关键点为所述第一嘴部关键点，另一个嘴部关键点为所述左侧外嘴角关键点、所述左侧内嘴角关键点、所述右侧外嘴角关键点以及所述右侧内嘴角关键点中与所述第一嘴部关键点对应的关键点；
第二关键点获取单元，被配置为根据所述两个嘴部关键点，在所述第二人脸图像的嘴部轮廓线上获取至少一个嘴部关键点，所述至少一个嘴部关键点与所述两个嘴部关键点在嘴部轮廓线上等距分布；
第二标注单元，被配置为对所述第二人脸图像上的所述至少一个嘴部关键点进行标注。
23.一种电子设备，其特征在于，包括：
处理器；
存储器，用于存储所述处理器可执行的指令；
其中，所述处理器被配置为执行所述指令，以实现如权利要求1至11中任一项所述的嘴部关键点的标注方法。
24.一种存储介质，当所述存储介质中的指令由电子设备的处理器执行时，使得所述电子设备能够执行如权利要求1至11中任一项所述的嘴部关键点的标注方法。
CN202011046354.1A 2020-09-29 2020-09-29 嘴部关键点的标注方法、装置、电子设备及存储介质 Active CN111931741B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202011046354.1A CN111931741B (zh) 2020-09-29 2020-09-29 嘴部关键点的标注方法、装置、电子设备及存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202011046354.1A CN111931741B (zh) 2020-09-29 2020-09-29 嘴部关键点的标注方法、装置、电子设备及存储介质

Publications (2)

Publication Number Publication Date
CN111931741A true CN111931741A (zh) 2020-11-13
CN111931741B CN111931741B (zh) 2021-04-02

Family

ID=73333695

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202011046354.1A Active CN111931741B (zh) 2020-09-29 2020-09-29 嘴部关键点的标注方法、装置、电子设备及存储介质

Country Status (1)

Country Link
CN (1) CN111931741B (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113537054A (zh) * 2021-07-15 2021-10-22 重庆紫光华山智安科技有限公司 人脸遮挡程度计算方法、装置、电子设备及计算机可读存储介质

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103593639A (zh) * 2012-08-15 2014-02-19 北京三星通信技术研究有限公司 嘴唇检测和跟踪方法及设备
CN109558865A (zh) * 2019-01-22 2019-04-02 郭道宁 一种基于人体关键点的对需特别看护人员的异常状态检测方法
US20190205627A1 (en) * 2017-12-28 2019-07-04 Facebook, Inc. Systems and methods for generating amplified facial expressions based on facial recognition
CN110807448A (zh) * 2020-01-07 2020-02-18 南京甄视智能科技有限公司 人脸关键点数据增强方法、装置、系统以及模型训练方法

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103593639A (zh) * 2012-08-15 2014-02-19 北京三星通信技术研究有限公司 嘴唇检测和跟踪方法及设备
US20190205627A1 (en) * 2017-12-28 2019-07-04 Facebook, Inc. Systems and methods for generating amplified facial expressions based on facial recognition
CN109558865A (zh) * 2019-01-22 2019-04-02 郭道宁 一种基于人体关键点的对需特别看护人员的异常状态检测方法
CN110807448A (zh) * 2020-01-07 2020-02-18 南京甄视智能科技有限公司 人脸关键点数据增强方法、装置、系统以及模型训练方法

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113537054A (zh) * 2021-07-15 2021-10-22 重庆紫光华山智安科技有限公司 人脸遮挡程度计算方法、装置、电子设备及计算机可读存储介质

Also Published As

Publication number Publication date
CN111931741B (zh) 2021-04-02

Similar Documents

Publication Publication Date Title
Tjaden et al. Real-time monocular pose estimation of 3D objects using temporally consistent local color histograms
Tjaden et al. A region-based gauss-newton approach to real-time monocular multiple object tracking
CN107679497B (zh) 视频面部贴图特效处理方法及生成系统
DE102020100684B4 (de) Kennzeichnung von graphischen bezugsmarkierern
US9641830B2 (en) Automated camera calibration methods and systems
Petersen et al. Real-time modeling and tracking manual workflows from first-person vision
CN106249881B (zh) 增强现实视场空间和虚拟三维目标动态配准方法
US9307231B2 (en) Calibration target for video processing
CN110175558B (zh) 一种人脸关键点的检测方法、装置、计算设备及存储介质
US8194097B2 (en) Virtual masking using rigid parametric modeling
EP3477543A1 (en) System and method using augmented reality for efficient collection of training data for machine learning
CN113689538B (zh) 一种视频生成方法、装置、电子设备及存储介质
US20180182157A1 (en) Fast rendering of quadrics
CN110096925A (zh) 人脸表情图像的增强方法、获取方法和装置
US8761441B2 (en) System and method for measuring flight information of a spherical object with high-speed stereo camera
CN105574933B (zh) 物体全方位轮廓精确绘制方法
CN102982524B (zh) 玉米果穗有序图像的拼接方法
CN111695431A (zh) 一种人脸识别方法、装置、终端设备及存储介质
TW201734954A (zh) 資料處理裝置、資料處理方法以及資料處理程式產品
CN110910433A (zh) 一种基于深度学习的点云匹配方法
CN109359208B (zh) 一种精准无损标注图像实例的分布式方法及系统
CN111931741B (zh) 嘴部关键点的标注方法、装置、电子设备及存储介质
CN114612393A (zh) 一种基于单目视觉的反光零件位姿估计方法
TWI739268B (zh) 基於2d影像標記資訊的3d影像標記方法及3d影像標記裝置
CN112509110A (zh) 一种陆地对抗智能体的图像数据集自动采取与标注框架

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant