CN111539283A - 人脸跟踪方法及人脸跟踪设备 - Google Patents

人脸跟踪方法及人脸跟踪设备 Download PDF

Info

Publication number
CN111539283A
CN111539283A CN202010297070.3A CN202010297070A CN111539283A CN 111539283 A CN111539283 A CN 111539283A CN 202010297070 A CN202010297070 A CN 202010297070A CN 111539283 A CN111539283 A CN 111539283A
Authority
CN
China
Prior art keywords
face
tracking
list
successfully matched
equal
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202010297070.3A
Other languages
English (en)
Other versions
CN111539283B (zh
Inventor
刘利朋
梁峰
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shanghai Moxiang Network Technology Co ltd
Original Assignee
Shanghai Moxiang Network Technology Co ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Shanghai Moxiang Network Technology Co ltd filed Critical Shanghai Moxiang Network Technology Co ltd
Priority to CN202010297070.3A priority Critical patent/CN111539283B/zh
Priority to PCT/CN2020/099827 priority patent/WO2021208250A1/zh
Publication of CN111539283A publication Critical patent/CN111539283A/zh
Application granted granted Critical
Publication of CN111539283B publication Critical patent/CN111539283B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/168Feature extraction; Face representation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • G06T7/246Analysis of motion using feature-based methods, e.g. the tracking of corners or segments
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/74Image or video pattern matching; Proximity measures in feature spaces
    • G06V10/75Organisation of the matching processes, e.g. simultaneous or sequential comparisons of image or video features; Coarse-fine approaches, e.g. multi-scale approaches; using context analysis; Selection of dictionaries
    • G06V10/751Comparing pixel values or logical combinations thereof, or feature values having positional relevance, e.g. template matching
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20084Artificial neural networks [ANN]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30196Human being; Person
    • G06T2207/30201Face

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Health & Medical Sciences (AREA)
  • Multimedia (AREA)
  • Physics & Mathematics (AREA)
  • General Health & Medical Sciences (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Human Computer Interaction (AREA)
  • Artificial Intelligence (AREA)
  • Computing Systems (AREA)
  • Databases & Information Systems (AREA)
  • Evolutionary Computation (AREA)
  • Medical Informatics (AREA)
  • Software Systems (AREA)
  • Image Analysis (AREA)

Abstract

本申请实施例提供一种人脸跟踪方法及人脸跟踪设备,包括:获取待跟踪视频的图像帧,并对图像帧进行人脸检测;根据人脸检测结果确定图像帧中的至少一个人脸;当图像帧中的至少一个人脸与跟踪列表中的人脸匹配成功时,获取跟踪列表中匹配成功人脸的人脸特征数量;当匹配成功人脸的人脸特征数量小于或等于第一人脸特征数量阈值时,获取匹配成功人脸的人脸图像信息;当根据匹配成功人脸的人脸图像信息确定匹配成功人脸满足预设条件时,对匹配成功人脸进行人脸特征提取,并根据提取到的人脸特征更新跟踪列表;根据更新后的跟踪列表进行人脸跟踪。该方法可以使根据更新后跟踪列表中进行人脸跟踪的成功率较高,改善了用户体验。

Description

人脸跟踪方法及人脸跟踪设备
技术领域
本申请实施例涉及图像识别技术领域,尤其涉及一种人脸跟踪方法及人脸跟踪设备。
背景技术
随着图像识别技术的发展,人脸跟踪技术的应用范围越来越广。其中,人脸跟踪技术指的是在视频数据中对每一个人脸的进行跟踪,对人脸进行跟踪可以方便后续对视频数据包括的图像帧图像的处理,比如,表情分析、驾驶员疲劳驾驶检测、智能美颜等。
在进行人脸跟踪时,为了方便维护人脸跟踪的结果,可以提取持续被跟踪人脸的人脸特征储存于跟踪列表中,其中,虽然能较为方便的根据跟踪列表中人脸的人脸特征进行人脸跟踪,但在对跟踪列表中的人脸进行人脸跟踪的过程中,往往直接对匹配成功人脸进行人脸特征提取,并根据提取到的人脸特征更新跟踪列表。上述过程中,一方面深度神经网络会消耗较多计算量,因而很难在应用场景中做到实时的追踪;另一方面,若匹配成功人脸所在图像的质量不佳,则可能导致所提取的人脸特征少于进行人脸跟踪所需的数量或所提取的人脸特征质量较差,在这种状况下根据所提取的人脸特征更新跟踪列表,可能使跟踪列表中人脸的人脸特征无法准确指示相应人脸,降低了根据跟踪列表中人脸进行人脸跟踪的成功率,损害了用户体验。
发明内容
有鉴于此,本发明实施例所解决的技术问题之一在于提供一种人脸跟踪方法及人脸跟踪设备,用以克服现有技术中人脸跟踪效率较低的缺陷。
本申请实施例提供了一种人脸跟踪方法,包括:
获取待跟踪视频的图像帧,并对图像帧进行人脸检测;
根据人脸检测结果确定图像帧中的至少一个人脸;
当图像帧中的至少一个人脸与跟踪列表中的人脸匹配成功时,获取跟踪列表中匹配成功人脸的人脸特征数量;
当匹配成功人脸的人脸特征数量小于或等于第一人脸特征数量阈值时,获取匹配成功人脸的人脸图像信息,人脸图像信息包括人脸宽高比、人脸图像帧位置、人脸面积以及人脸朝向参数中至少一项;
当根据匹配成功人脸的人脸图像信息确定匹配成功人脸满足预设条件时,对匹配成功人脸进行人脸特征提取,并根据提取到的人脸特征更新跟踪列表;
根据更新后的跟踪列表进行人脸跟踪。
本申请实施例中,通过根据人脸检测结果确定图像帧中的至少一个人脸;当图像帧中的至少一个人脸与跟踪列表中的人脸匹配成功时,获取匹配成功人脸的人脸特征数量;当匹配成功人脸的人脸特征数量小于或等于第一人脸特征数量阈值时,获取跟踪列表中匹配成功人脸的人脸图像信息,人脸图像信息包括人脸宽高比、人脸图像帧位置、人脸面积以及人脸朝向参数中至少一项;当根据匹配成功人脸的人脸图像信息确定匹配成功人脸满足预设条件时,对匹配成功人脸进行人脸特征提取,根据提取到的人脸特征更新跟踪列表,并根据更新后的跟踪列表进行人脸跟踪。本申请实施例所提供的技术方案中,通过对跟踪列表中人脸特征数量较少的人脸进行人脸特征更新,并且考虑到人脸图像信息满足预设条件的匹配成功人脸属于人脸特征提取成难度较低的人脸,从该类人脸提取到高质量人脸特征的几率较高,同时也减少了进行提取的人脸特征的数量,因此可以确保更新后跟踪列表的人脸特征质量较高且数量满足人脸跟踪的需求,并且减少了进行人脸跟踪所消耗的时间,根据更新后跟踪列表中进行人脸跟踪的成功率较高,且进行人脸跟踪效率更高,从而改善了用户体验。
附图说明
后文将参照附图以示例性而非限制性的方式详细描述本申请实施例的一些具体实施例。附图中相同的附图标记标示了相同或类似的部件或部分。本领域技术人员应该理解,这些附图未必是按比值绘制的。附图中:
图1为本申请实施例提供的一种人脸跟踪方法的示意性流程图;
图2为本申请实施例提供的一种人脸跟踪方法的示意性流程图;
图3为本申请实施例提供的一种人脸跟踪方法的示意性流程图;
图4为本申请实施例提供的一种人脸跟踪方法的示意性流程图;
图5为本申请实施例提供的一种人脸跟踪方法的示意性流程图;
图6为本申请实施例提供的一种人脸跟踪方法的示意性流程图;
图7为本申请实施例提供的一种人脸跟踪方法的示意性流程图;
图8为本申请实施例提供的一种人脸跟踪方法的示意性流程图;
图9为本申请实施例提供的一种人脸跟踪方法的示意性流程图;
图10为本申请实施例提供的一种人脸跟踪设备的示意性结构图;
图11为本申请实施例提供的一种手持云台的示意性结构图;
图12为本申请实施例提供的一种手持云台的应用场景示意图;
图13为本申请实施例提供的一种手持云台的示意性结构图
具体实施方式
在本发明使用的术语是仅仅出于描述特定实施例的目的,而非旨在限制本发明。在本发明和所附权利要求书中所使用的单数形式的“一种”、“所述”和“该”也旨在包括多数形式,除非上下文清楚地表示其他含义。还应当理解,本文中使用的术语“和/或”是指并包含一个或多个相关联的列出项目的任何或所有可能组合。
应当理解,本申请说明书以及权利要求书中使用的“第一”“第二”以及类似的词语并不表示任何顺序、数量或者重要性,而只是用来区分不同的组成部分。同样,“一个”或者“一”等类似词语也不表示数量限制,而是表示存在至少一个。
近年来,人脸跟踪技术得到了较快发展。在进行人脸跟踪时,为了方便维护人脸跟踪的结果,可以提取持续被跟踪人脸的人脸特征储存于跟踪列表中。其中,在进行人脸跟踪时,可以直接对匹配成功人脸进行人脸特征提取,并根据提取到的人脸特征更新跟踪列表。具体的,可以通过卷积神经网络(CNN,Convolutional Neural Network)提取出图像中匹配成功人脸的人脸特征。
上述方案虽然人脸追踪精度较高,但一方面若提取较多人脸特征,深度神经网络会消耗较多计算量与较多时间,导致进行人脸跟踪的效率较差,很难在应用场景中做到实时的追踪。另一方面,若匹配成功人脸所在图像的质量不佳,则可能导致所提取的人脸特征少于进行人脸跟踪所需的数量或所提取的人脸特征质量较差,在这种状况下根据所提取的人脸特征更新跟踪列表,可能使跟踪列表中人脸的人脸特征无法准确指示相应人脸,降低了根据跟踪列表中人脸进行人脸跟踪的成功率,损害了用户体验。
鉴于上述技术方案中的不足,本申请实施例所提供的技术方案中,通过对跟踪列表中人脸特征数量较少的人脸进行人脸特征更新,并且考虑到人脸图像信息满足预设条件的匹配成功人脸属于人脸特征提取成难度较低的人脸,从该类人脸提取到高质量人脸特征的几率较高,同时也减少了进行提取的人脸特征的数量,因此可以确保更新后跟踪列表的人脸特征质量较高且数量满足人脸跟踪的需求,并且减少了进行人脸跟踪所消耗的时间,根据更新后跟踪列表中进行人脸跟踪的成功率较高,且进行人脸跟踪效率更高,从而改善了用户体验。
下面结合本发明实施例附图进一步说明本发明实施例具体实现。
实施例一
本申请实施例一提供一种人脸跟踪方法,如图1所示,图1为本申请实施例提供的一种人脸跟踪方法的示意性流程图。该人脸跟踪方法包括以下步骤:
101、获取待跟踪视频的图像帧,并对图像帧进行人脸检测。
102、根据人脸检测结果确定图像帧中的至少一个人脸。
具体的,获取待跟踪视频的图像帧,可以为获取待跟踪视频的当前图像帧,也可以为获取待跟踪视频中的指定图像帧。
对图像帧进行人脸检测,根据人脸检测结果确定图像帧中的至少一个人脸,可以为利用人脸识别算法对图像帧进行人脸检测,以确定中图像帧中至少一个人脸的人脸位置。其中人脸识别算法可以为基于人脸特征点的识别图像帧算法、基于整幅人脸图像的识别算法、基于模板的识别算法以及利用神经网络进行识别的图像帧算法中任一种,本申请实施例对此不作具体限定。
示例性的,执行本申请实施例提供的人脸跟踪方法的系统可以存储有预先采集的人脸特征点信息或人脸模板信息,该人脸特征点信息或人脸模板信息可以通过事先获取的图片或视频获得,根据该人脸特征点信息使用基于人脸特征点的识别图像帧算法对图像帧进行检测,可以根据检测结果确定图像帧中的至少一个人脸;或者也可以根据该人脸模板信息使用基于人脸模板的识别算法对图像帧进行检测,可以根据检测结果确定图像帧中的至少一个人脸。
需要说明的是,上述图像帧中的至少一个人脸,可以理解为图像帧中的至少一个人脸区域,人脸区域可以是方框形的,也可以是其它任何适当的形状,人脸区域的大小可以是固定不变的,也可以根据情况而适当变化,本申请实施例对此均不作具体限定。
103、当图像帧中的至少一个人脸与跟踪列表中的人脸匹配成功时,获取跟踪列表中匹配成功人脸的人脸特征数量。
具体的,图像帧中的至少一个人脸与跟踪列表中的人脸匹配,可以为根据跟踪列表中人脸的人脸特征与图像帧中的至少一个人脸进行匹配,也可以为根据跟踪列表中人脸的位置信息与图像帧中的至少一个人脸的位置信息进行匹配等。
跟踪列表用来记录持续跟踪着的人脸,获取跟踪列表中匹配成功人脸的人脸特征数量,可以为通过卷积神经网络(CNN,Convolutional Neural Network)提取出匹配成功人脸在图像帧中的人脸特征。
104、当匹配成功人脸的人脸特征数量小于或等于第一人脸特征数量阈值时,获取匹配成功人脸的人脸图像信息。
具体的,人脸图像信息包括人脸宽高比、人脸图像帧位置、人脸面积以及人脸朝向参数中至少一项。人脸面积可以为人脸区域面积占图像帧总面积的百分比,也可以为人脸区域的真实面积。本申请的实施例对此不作限定。人脸朝向参数可以用于指示人脸偏离图像帧正对方向的程度,例如,当人脸朝向参数小于大于或等于第一人脸朝向参数阈值且小于或等于第二人脸朝向参数阈值时,可以为认为图像帧包括该人脸的正面图像。例如,人脸朝向参数的取值区间可以为0°至180°,第一人脸朝向参数阈值可以为60°,第一人脸朝向参数阈值可以为120°,当人脸朝向参数小于第一人脸朝向参数阈值时,可以认为图像帧包括该人脸的左侧图像,当人脸朝向参数大于第二人脸朝向参数阈值时,可以认为图像帧包括该人脸的右侧图像。
105、当根据匹配成功人脸的人脸图像信息确定匹配成功人脸满足预设条件时,对匹配成功人脸进行人脸特征提取,并根据提取到的人脸特征更新跟踪列表。
具体的,匹配成功人脸的人脸图像信息可以用于指示图像帧的匹配成功人脸所在区域的图像质量。若图像帧的匹配成功人脸所在区域的图像质量较差,则可能导致无法提取到数量或质量满足要求的人脸特征。
具体的,在本申请的一种实施例中,预设条件可以包括:人脸宽高比大于或等于人脸宽高比阈值、人脸未与图像帧的边缘接触、人脸面积大于或等于人脸面积阈值、人脸朝向参数大于或等于第一人脸朝向参数阈值且小于或等于第二人脸朝向参数阈值中的至少一项。其中,人脸宽高比阈值、人脸面积阈值、第一人脸朝向参数阈值、第二人脸朝向参数阈值均为本领域技术人员根据需要进行设置。
当人脸宽高比小于人脸宽高比阈值、人脸与图像帧的边缘接触、人脸面积小于人脸面积阈值、人脸朝向参数小于第一人脸朝向参数阈值、人脸朝向参数大于第二人脸朝向参数阈值中任意一种状况出现时,均可以认为图像帧的图像质量较差,上述任意一种状况均可能导致对匹配成功人脸进行人脸特征提取时,无法提取到数量或质量满足要求的人脸特征。通过避免对不满足预设条件的人脸进行人脸特征提取,可以提高所提取人脸特征的质量,并确保能够对同一个人脸提取到数量满足要求的人脸特征,通过将所提取到的人脸特征更新跟踪列表,可以提高根据更新后的跟踪列表进行人脸跟踪的准确率。
106、根据更新后的跟踪列表进行人脸跟踪。
本申请实施例中,通过根据人脸检测结果确定图像帧中的至少一个人脸;当图像帧中的至少一个人脸与跟踪列表中的人脸匹配成功时,获取匹配成功人脸的人脸特征数量;当匹配成功人脸的人脸特征数量小于或等于第一人脸特征数量阈值时,获取跟踪列表中匹配成功人脸的人脸图像信息,人脸图像信息包括人脸宽高比、人脸图像帧位置、人脸面积以及人脸朝向参数中至少一项;当根据匹配成功人脸的人脸图像信息确定匹配成功人脸满足预设条件时,对匹配成功人脸进行人脸特征提取,根据提取到的人脸特征更新跟踪列表,并根据更新后的跟踪列表进行人脸跟踪。本申请实施例所提供的技术方案中,通过对跟踪列表中人脸特征数量较少的人脸进行人脸特征更新,并且考虑到人脸图像信息满足预设条件的匹配成功人脸属于人脸特征提取成难度较低的人脸,从该类人脸提取到高质量人脸特征的几率较高,同时也减少了进行提取的人脸特征的数量,因此可以确保更新后跟踪列表的人脸特征质量较高且数量满足人脸跟踪的需求,并且减少了进行人脸跟踪所消耗的时间,根据更新后跟踪列表中进行人脸跟踪的成功率较高,且进行人脸跟踪效率更高,从而改善了用户体验。
可选地,在本申请的一种实施例中,如图2所示,图2为本申请实施例提供的一种人脸跟踪方法的示意性流程图,步骤105可以通过步骤1051至步骤1052实现:
1051、当匹配成功人脸的人脸宽高比大于或等于人脸宽高比阈值、且匹配成功人脸的人脸面积大于或等于人脸面积阈值、并根据匹配成功人脸的人脸图像帧位置确定匹配成功人脸未与图像帧的边缘接触时,根据匹配成功人脸的人脸面积以及匹配成功人脸的人脸朝向参数获取加权因子参数。
具体的,根据匹配成功人脸的人脸面积以及匹配成功人脸的人脸朝向参数获取加权因子参数,可以为根据
Figure BDA0002452587580000061
获取加权因子参数W,其中Face_Orient为匹配成功人脸的人脸朝向参数,Face_Area为匹配成功人脸的人脸面积,W_I为加权因子参数初始值。加权因子参数初始值可以为本领域技术人员根据需要进行设置。
1052、当加权因子参数大于或等于加权因子参数阈值时,对匹配成功人脸进行人脸特征提取,并根据提取到的人脸特征更新跟踪列表。
具体的,对匹配成功人脸进行人脸特征提取,可以为对匹配成功的全部人脸进行人脸特征提取,也可以为加权因子参数对匹配成功人脸进行排序,将匹配成功人脸中加权因子参数大于0且加权因子参数最大的匹配成功人脸确定为可提特征人脸,并仅对该可提特征人脸进行人脸特征提取。
通过当匹配成功人脸的人脸宽高比大于或等于人脸宽高比阈值、且匹配成功人脸的人脸面积大于或等于人脸面积阈值、并根据匹配成功人脸的人脸图像帧位置确定匹配成功人脸未与图像帧的边缘接触时,根据匹配成功人脸的人脸面积以及匹配成功人脸的人脸朝向参数获取加权因子参数,可以对影响人脸特征提取质量的影响因子进行均一化,简化预判人脸特征提取质量的难度,当加权因子参数大于或等于加权因子参数阈值时,可以认为此时对匹配成功人脸进行人脸特征提取的难度较低,能够提取到质量较高人脸特征,且同一人脸所提取到的人脸特征数量满足需求,确保根据提取到的人脸特征更新跟踪列表后,根据更新后跟踪列表中进行人脸跟踪的成功率较高,且进行人脸跟踪效率更高。
在本申请的一种实施例中,如图3所示,图3为本申请实施例提供的一种人脸跟踪方法的示意性流程图,该人脸跟踪方法还包括步骤107至步骤109:
107、当图像帧中的至少一个人脸与跟踪列表中的人脸均不匹配时,对不匹配人脸进行人脸特征提取。
108、当提取到的不匹配人脸的人脸特征数量大于或等于第二人脸特征数量阈值时,将不匹配人脸移入跟踪列表,并将不匹配人脸与丢失列表中的人脸进行匹配。
109、当不匹配人脸与丢失列表中的人脸匹配成功时,将匹配成功的人脸移出丢失列表。
具体的,丢失列表记录用于记录暂时跟丢的人脸,用于人脸找回。
通过将图像帧中与跟踪列表中人脸均不匹配且人脸特征数量大于或等于第二人脸特征数量阈值的人脸移入跟踪列表,可以在确保所提取的人脸特征数量满足需求的前提下,为跟踪列表更新之前未能跟踪到的人脸;而通过在不匹配人脸与丢失列表中的人脸匹配成功时,将匹配成功的人脸移出丢失列表,可以避免丢失列表中仍包括正在跟踪的人脸,使根据丢失列表进行丢失人脸找回时不会对正在跟踪的人脸进行无效的丢失人脸找回,减少了不必要的处理资源消耗,提高了人脸跟踪的效率。
在本申请的一种实施例中,如图4所示,图4为本申请实施例提供的一种人脸跟踪方法的示意性流程图,该人脸跟踪方法还包括步骤110至步骤111:
110、获取跟踪列表中人脸的当前连续跟丢帧数。
111、将跟踪列表中处于不可信状态且当前连续跟丢帧数大于或等于丢失阈值的人脸移入丢失列表。
具体的,跟踪列表中的人脸可以处于可信状态或不可信状态。处于可信状态的人脸可以包括连续跟踪帧数大于或等于可信阈值,以及当前时刻之前的一个图形帧中被跟踪到的人脸。不可信状态的人脸可以包括连续丢失帧数大于或等于0且小于丢失阈值的人脸,以及连续跟踪帧数小于可信阈值的人脸。其中可信阈值以及丢失阈值为本领域技术人员根据需要进行设置。
通过获取跟踪列表中人脸的当前连续跟丢帧数,并将跟踪列表中处于不可信状态且当前连续跟丢帧数大于或等于丢失阈值的人脸移入丢失列表,可以避免连续跟丢帧数过多的人脸(即被跟踪成功率较低的人脸)仍存在于跟踪列表中,从而提高根据跟踪列表进行人脸跟踪的成功率。
在本申请的一种实施例中,如图5所示,图5为本申请实施例提供的一种人脸跟踪方法的示意性流程图,该人脸跟踪方法还包括步骤112至步骤113:
112、获取跟踪列表中人脸的当前连续跟丢帧数。
113、将跟踪列表中处于可信状态、且当前连续丢失帧数大于或等于0且小于丢失阈值的人脸设置为不可信状态。
其中,丢失阈值为本领域技术人员根据需要进行设置。
通过跟踪列表中人脸的当前连续跟丢帧数,并将跟踪列表中处于可信状态、且当前连续丢失帧数大于或等于0且小于丢失阈值的人脸设置为不可信状态,可以确保将跟踪列表中处于可信状态的人脸不会包括已处于丢失状态但丢失帧数不高的人脸,将该部分人脸仍保持在跟踪列表中,并设置为不可信状态,可以使偶尔丢失的人脸不会频繁的进出跟踪列表,降低了对跟踪列表更新的频率,节省了处理资源。
在本申请的一种实施例中,如图6所示,图6为本申请实施例提供的一种人脸跟踪方法的示意性流程图,该人脸跟踪方法还包括步骤114至步骤115:
114、获取跟踪列表中人脸的当前连续跟踪帧数。
115、将跟踪列表中处于不可信状态、且当前连续跟踪帧数大于或等于可信阈值的人脸设置为可信状态。
其中,可信阈值为本领域技术人员根据需要进行设置。
通过获取跟踪列表中人脸的当前连续跟踪帧数,并将跟踪列表中处于不可信状态、且当前连续跟踪帧数大于或等于可信阈值的人脸设置为可信状态,可以确保可信状态中的人脸为连续一段时间成功跟踪的人脸,使用户能够通过跟踪列表获知该部分人脸的状态,改善了用户体验。
在本申请的一种实施例中,如图7所示,图7为本申请实施例提供的一种人脸跟踪方法的示意性流程图,该人脸跟踪方法还包括步骤116至步骤117:
116、获取跟踪列表中人脸的当前连续跟踪帧数。
117、将跟踪列表中当前连续跟踪帧数小于可信阈值且大于或等于0的人脸设置为不可信状态。
其中,可信阈值为本领域技术人员根据需要进行设置。
通过获取跟踪列表中人脸的当前连续跟踪帧数,其中由于当前连续跟踪帧数小于可信阈值且大于或等于0的人脸可能为刚找回的人脸,或跟踪成功不久的人脸,该部分人脸再次丢失的可能性较高,因此通过将该部分人脸设置为不可信状态,可以使用户通过跟踪列表获知该部分人脸的状态,改善了用户体验。
在本申请的一种实施例中,如图8所示,图8为本申请实施例提供的一种人脸跟踪方法的示意性流程图,该人脸跟踪方法还包括步骤118至步骤119:
118、获取丢失列表中人脸的当前连续跟踪帧数。
119、将丢失列表中当前连续跟踪帧数大于或等于1的人脸移入跟踪列表,并设置为可信状态。
通过获取丢失列表中人脸的当前连续跟踪帧数,将丢失列表中当前连续跟踪帧数大于或等于1的人脸移入跟踪列表,并设置为可信状态,可以确保跟踪列表中包括刚刚成功找回的人脸。由于该部分人脸属于之前已被成功跟踪,并且被成功跟踪之后丢失,又找回的人脸,因此被能够被成功跟踪的几率较高,将该部分人脸设置为可信状态,可以使用户能够通过跟踪列表获知该部分人脸的状态,改善了用户体验。
在本申请的一种实施例中,如图9所示,图9为本申请实施例提供的一种人脸跟踪方法的示意性流程图,该人脸跟踪方法还包括步骤120至步骤121:
120、获取丢失列表中人脸的当前连续跟丢帧数。
121、将丢失列表中当前连续跟丢帧数大于或等于丢弃阈值的人脸丢弃。
通过获取丢失列表中人脸的当前连续跟丢帧数,并将丢失列表中当前连续跟丢帧数大于或等于丢弃阈值的人脸丢弃,可以确保已经在较长时间内未能成功找回的人脸不再处于丢失列表中,由于该部分人脸被成功找回的几率较低,因此不再对该部分人脸进行人脸找回,可以在不影响人脸找回成功率的前提下,减少所消耗的处理资源,提高人脸跟踪的效率,改善了用户体验。
实施例二、
基于上述实施例所描述的人脸跟踪方法,本申请实施例提供了一种人脸跟踪设备,用于执行上述实施例所描述的人脸跟踪方法,如图10所示,该人脸跟踪设备30包括:至少一个处理器(processor)302、存储器(memory)304、视频采集器306。
其中,视频采集器306,用于采集目标区域的待跟踪视频。
存储器304,用于存储程序代码。存储器304可能包含高速RAM存储器,也可能还包括非易失性存储器(non-volatile memory),例如至少一个磁盘存储器。
处理器302可能是中央处理器CPU,或者是特定集成电路ASIC(ApplicationSpecific Integrated Circuit),或者是被配置成实施本发明实施例的一个或多个集成电路。人脸跟踪设备包括的一个或多个处理器,可以是同一类型的处理器,如一个或多个CPU;也可以是不同类型的处理器,如一个或多个CPU以及一个或多个ASIC。
处理器302,用于调用程序代码,当程序代码被执行时,用于执行以下操作:
获取待跟踪视频的图像帧,并对图像帧进行人脸检测;
根据人脸检测结果确定图像帧中的至少一个人脸;
当图像帧中的至少一个人脸与跟踪列表中的人脸匹配成功时,获取跟踪列表中匹配成功人脸的人脸特征数量;
当匹配成功人脸的人脸特征数量小于或等于第一人脸特征数量阈值时,获取匹配成功人脸的人脸图像信息,人脸图像信息包括人脸宽高比、人脸图像帧位置、人脸面积以及人脸朝向参数中至少一项;
当根据匹配成功人脸的人脸图像信息确定匹配成功人脸满足预设条件时,对匹配成功人脸进行人脸特征提取,并根据提取到的人脸特征更新跟踪列表;
根据更新后的跟踪列表进行人脸跟踪。
可选地,在本申请的一种实施例中,预设条件,包括:人脸宽高比大于或等于人脸宽高比阈值、人脸未与图像帧的边缘接触、人脸面积大于或等于人脸面积阈值、人脸朝向参数大于或等于第一人脸朝向参数阈值且小于或等于第二人脸朝向参数阈值的至少一项。
可选地,在本申请的一种实施例中,当根据匹配成功人脸的人脸图像信息确定匹配成功人脸满足预设条件时,对匹配成功人脸进行人脸特征提取,并根据提取到的人脸特征更新跟踪列表,包括:
当匹配成功人脸的人脸宽高比大于或等于人脸宽高比阈值、且匹配成功人脸的人脸面积大于或等于人脸面积阈值、并根据匹配成功人脸的人脸图像帧位置确定匹配成功人脸未与图像帧的边缘接触时,根据匹配成功人脸的人脸面积以及匹配成功人脸的人脸朝向参数获取加权因子参数;
当加权因子参数大于或等于加权因子参数阈值时,对匹配成功人脸进行人脸特征提取,并根据提取到的人脸特征更新跟踪列表。
可选地,在本申请的一种实施例中,操作还包括:
当图像帧中的至少一个人脸与跟踪列表中的人脸均不匹配时,对不匹配人脸进行人脸特征提取;
当提取到的不匹配人脸的人脸特征数量大于或等于第二人脸特征数量阈值时,将不匹配人脸移入跟踪列表,并将不匹配人脸与丢失列表中的人脸进行匹配;
当不匹配人脸与丢失列表中的人脸匹配成功时,将匹配成功的人脸移出丢失列表。
可选地,在本申请的一种实施例中,操作还包括:
获取跟踪列表中人脸的当前连续跟丢帧数;
将跟踪列表中处于不可信状态且当前连续跟丢帧数大于或等于丢失阈值的人脸移入丢失列表。
可选地,在本申请的一种实施例中,操作还包括:
获取跟踪列表中人脸的当前连续跟丢帧数;
将跟踪列表中处于可信状态、且当前连续丢失帧数大于或等于0且小于丢失阈值的人脸设置为不可信状态。
可选地,在本申请的一种实施例中,操作还包括:
获取跟踪列表中人脸的当前连续跟踪帧数;
将跟踪列表中处于不可信状态、且当前连续跟踪帧数大于或等于可信阈值的人脸设置为可信状态。
可选地,在本申请的一种实施例中,操作还包括:
获取跟踪列表中人脸的当前连续跟踪帧数;
将跟踪列表中当前连续跟踪帧数小于可信阈值且大于或等于0的人脸设置为不可信状态。
可选地,在本申请的一种实施例中,操作还包括:
获取丢失列表中人脸的当前连续跟踪帧数;
将丢失列表中当前连续跟踪帧数大于或等于1的人脸移入跟踪列表,并设置为可信状态。
可选地,在本申请的一种实施例中,操作还包括:
获取丢失列表中人脸的当前连续跟丢帧数;
将丢失列表中当前连续跟丢帧数大于或等于丢弃阈值的人脸丢弃。
本申请实施例的人脸跟踪设备以多种形式存在,包括但不限于:
(1)移动通信设备:这类设备的特点是具备移动通信功能,并且以提供话音、数据通信为主要目标。这类终端包括:智能手机(例如iPhone)、多媒体手机、功能性手机,以及低端手机等。
(2)超移动个人计算机设备:这类设备属于个人计算机的范畴,有计算和处理功能,一般也具备移动上网特性。这类终端包括:PDA、MID和UMPC设备等,例如iPad。
(3)便携式娱乐设备:这类设备可以显示和播放多媒体内容。该类设备包括:音频、视频播放器(例如iPod),掌上游戏机,电子书,以及智能玩具和便携式车载导航设备。
(4)其他具有数据交互功能的电子设备。
在一个实施例中,人脸跟踪设备包括手持云台相机。
下面对手持云台相机的基本构造进行简单介绍。图11为本申请实施例提供的一种手持云台的示意性结构图,图12为本申请实施例提供的一种手持云台的应用场景示意图,图13为本申请实施例提供的一种手持云台的示意性结构图。如图11-图13所示,本发明实施例的手持云台1,包括:手柄11和装载于所述手柄11的拍摄装置12,在本实施例中,所述拍摄装置12可以包括三轴云台相机,在其他实施例中包括两轴或三轴以上的云台相机。
所述手柄11设有用于显示所述拍摄装置12的拍摄内容的显示屏13。本发明不对显示屏13的类型进行限定。
通过在手持云台1的手柄11设置显示屏13,该显示屏可以显示拍摄装置12的拍摄内容,以实现用户能够通过该显示屏13快速浏览拍摄装置12所拍摄的图片或是视频,从而提高手持云台1与用户的互动性及趣味性,满足用户的多样化需求。
在一个实施例中,所述手柄11还设有用于控制所述拍摄装置12的操作功能部,通过操作所述操作功能部,能够控制拍摄装置12的工作,例如,控制拍摄装置12的开启与关闭、控制拍摄装置12的拍摄、控制拍摄装置12云台部分的姿态变化等,以便于用户对拍摄装置12进行快速操作。其中,所述操作功能部可以为按键、旋钮或者触摸屏的形式。
在一个实施例中,操作功能部包括用于控制所述拍摄装置12拍摄的拍摄按键14和用于控制所述拍摄装置12启闭和其他功能的电源/功能按键15,以及控制所述云台移动的万向键16。当然,操作功能部还可以包括其他控制按键,如影像存储按键、影像播放控制按键等等,可以根据实际需求进行设定。
在一个实施例中,所述操作功能部和所述显示屏13设于所述手柄11的同一面,图中所示操作功能部和显示屏13均设于手柄11的正面,符合人机工程学,同时使整个手持云台1的外观布局更合理美观。
进一步地,所述手柄11的侧面设置有功能操作键A,用于方便用户快速地智能一键成片。摄影机开启时,点按机身右侧橙色侧面键开启功能,则每隔一段时间自动拍摄一段视频,总共拍摄N段(N≥2),连接移动设备例如手机后,选择“一键成片”功能,系统智能筛选拍摄片段并匹配合适模板,快速生成精彩作品。
在一可选的实施方式中,所述手柄11还设有用于插接存储元件的卡槽17。在本实施例中,卡槽17设于所述手柄11上与所述显示屏13相邻的侧面,在卡槽17中插入存储卡,即可将拍摄装置12拍摄的影像存储在存储卡中。并且,将卡槽17设置在侧部,不会影响到其他功能的使用,用户体验较佳。
在一个实施例中,手柄11内部可以设置用于对手柄11及拍摄装置12供电的供电电池。供电电池可以采用锂电池,容量大、体积小,以实现手持云台1的小型化设计。
在一个实施例中,所述手柄11还设有充电接口/USB接口18。在本实施例中,所述充电接口/USB接口18设于所述手柄11的底部,便于连接外部电源或存储装置,从而对所述供电电池进行充电或进行数据传输。
在一个实施例中,所述手柄11还设有用于接收音频信号的拾音孔19,拾音孔19内部联通麦克风。拾音孔19可以包括一个,也可以包括多个。还包括用于显示状态的指示灯20。用户可以通过拾音孔19与显示屏13实现音频交互。另外,指示灯20可以达到提醒作用,用户可以通过指示灯20获得手持云台1的电量情况和目前执行功能情况。此外,拾音孔19和指示灯20也均可以设于手柄11的正面,更符合用户的使用习惯以及操作便捷性。
在一个实施例中,所述拍摄装置12包括云台支架和搭载于所述云台支架的拍摄器。所述拍摄器可以为相机,也可以为由透镜和图像传感器(如CMOS或CCD)等组成的摄像元件,具体可根据需要选择。所述拍摄器可以集成在云台支架上,从而拍摄装置12为云台相机;也可以为外部拍摄设备,可拆卸地连接或夹持而搭载于云台支架。
在一个实施例中,所述云台支架为三轴云台支架,而所述拍摄装置12为三轴云台相机。所述三轴云台支架包括偏航轴组件22、与所述偏航轴组件22活动连接的横滚轴组件23、以及与所述横滚轴组件23活动连接的俯仰轴组件24,所述拍摄器搭载于所述俯仰轴组件24。所述偏航轴组件22带动拍摄装置12沿偏航方向转动。当然,在其他例子中,所述云台支架也可以为两轴云台、四轴云台等,具体可根据需要选择。
在一个实施例中,还设置有安装部,安装部设置于与所述横滚轴组件连接的连接臂的一端,而偏航轴组件可以设置于所述手柄中,所述偏航轴组件带动拍摄装置12一起沿偏航方向转动。
在一可选的实施方式中,所述手柄11设有用于与移动设备2(如手机)耦合连接的转接件26,所述转接件26与所述手柄11可拆卸连接。所述转接件26自所述手柄的侧部凸伸而出以用于连接所述移动设备2,当所述转接件26与所述移动设备2连接后,所述手持云台1与所述转接件26对接并用于被支撑于所述移动设备2的端部。
在手柄11设置用于与移动设备2连接的转接件26,进而将手柄11和移动设备2相互连接,手柄11可作为移动设备2的一个底座,用户可以通过握持移动设备2的另一端来一同把手持云台1拿起操作,连接方便快捷,产品美观性强。此外,手柄11通过转接件26与移动设备2耦合连接后,能够实现手持云台1与移动设备2之间的通信连接,拍摄装置12与移动设备2之间能够进行数据传输。
在一个实施例中,所述转接件26与所述手柄11可拆卸连接,即转接件26和手柄11之间可以实现机械方面的连接或拆除。进一步地,所述转接件26设有电接触部,所述手柄11设有与所述电接触部配合的电接触配合部。
这样,当手持云台1不需要与移动设备2连接时,可以将转接件26从手柄11上拆除。当手持云台1需要与移动设备2连接时,再将转接件26装到手柄11上,完成转接件26和手柄11之间的机械连接,同时通过电接触部和电接触配合部的连接保证两者之间的电性连接,以实现拍摄装置12与移动设备2之间能够通过转接件26进行数据传输。
在一个实施例中,所述手柄11的侧部设有收容槽27,所述转接件26滑动卡接于所述收容槽27内。当转接件26装到收容槽27后,转接件26部分凸出于所述收容槽27,转接件26凸出收容槽27的部分用于与移动设备2连接。
在一个实施例中,参见图11-图13所示,所当述转接件26自所述转接件26装入所述收容槽27时,转接部与所述收容槽27齐平,进而将转接件26收纳在手柄11的收容槽27内。
因此,当手持云台1需要和移动设备2连接时,可以将转接件26自所述转接部装入所述收容槽27内,使得转接件26凸出于所述收容槽27,以便移动设备2与手柄11相互连接
当移动设备2使用完毕后,或者需要将移动设备2拔下时,可以将转接件26从手柄11的收容槽27内取出,然后反向自所述转接件26装入所述收容槽27内,进而将转接件26收纳在手柄11内。转接件26与手柄11的收容槽27齐平当转接件26收纳在手柄11内后,可以保证手柄11的表面平整,而且将转接件26收纳在手柄11内更便于携带。
在一个实施例中,所述收容槽27是半开放式地开设在手柄11的一侧表面,这样更便于转接件26与收容槽27进行滑动卡接。当然,在其他例子中,转接件26也可以采用卡扣连接、插接等方式与手柄11的收容槽27可拆卸连接。
在一个实施例中,收容槽27设置于手柄11的侧面,在不使用转接功能时,通过盖板28卡接覆盖该收容槽27,这样便于用户操作,同时也不影响手柄的正面和侧面的整体外观。
在一个实施例中,所述电接触部与电接触配合部之间可以采用触点接触的方式实现电连接。例如,所述电接触部可以选择为伸缩探针,也可以选择为电插接口,还可以选择为电触点。当然,在其他例子中,所述电接触部与电接触配合部之间也可以直接采用面与面的接触方式实现电连接。
A1、一种人脸跟踪方法,其特征在于,包括:
获取待跟踪视频的图像帧,并对所述图像帧进行人脸检测;
根据人脸检测结果确定所述图像帧中的至少一个人脸;
当所述图像帧中的至少一个人脸与跟踪列表中的人脸匹配成功时,获取所述跟踪列表中匹配成功人脸的人脸特征数量;
当所述匹配成功人脸的人脸特征数量小于或等于第一人脸特征数量阈值时,获取所述匹配成功人脸的人脸图像信息,所述人脸图像信息包括人脸宽高比、人脸图像帧位置、人脸面积以及人脸朝向参数中至少一项;
当根据所述匹配成功人脸的人脸图像信息确定所述匹配成功人脸满足预设条件时,对所述匹配成功人脸进行人脸特征提取,并根据提取到的人脸特征更新所述跟踪列表;
根据更新后的跟踪列表进行人脸跟踪。
A2、根据A1所述的人脸跟踪方法,其特征在于,所述预设条件,包括:人脸宽高比大于或等于人脸宽高比阈值、人脸未与所述图像帧的边缘接触、人脸面积大于或等于人脸面积阈值、人脸朝向参数大于或等于第一人脸朝向参数阈值且小于或等于第二人脸朝向参数阈值的至少一项。
A3、根据A2所述的人脸跟踪方法,其特征在于,所述当根据所述匹配成功人脸的人脸图像信息确定所述匹配成功人脸满足预设条件时,对所述匹配成功人脸进行人脸特征提取,并根据提取到的人脸特征更新所述跟踪列表,包括:
当所述匹配成功人脸的人脸宽高比大于或等于人脸宽高比阈值、且所述匹配成功人脸的人脸面积大于或等于人脸面积阈值、并根据所述匹配成功人脸的人脸图像帧位置确定所述匹配成功人脸未与所述图像帧的边缘接触时,根据所述匹配成功人脸的人脸面积以及所述匹配成功人脸的人脸朝向参数获取加权因子参数;
当所述加权因子参数大于或等于加权因子参数阈值时,对所述匹配成功人脸进行人脸特征提取,并根据提取到的人脸特征更新所述跟踪列表。
A4、根据A1-A3中任一项所述的人脸跟踪方法,其特征在于,所述方法还包括:
当所述图像帧中的至少一个人脸与所述跟踪列表中的人脸均不匹配时,对不匹配人脸进行人脸特征提取;
当提取到的所述不匹配人脸的人脸特征数量大于或等于第二人脸特征数量阈值时,将所述不匹配人脸移入所述跟踪列表,并将所述不匹配人脸与丢失列表中的人脸进行匹配;
当所述不匹配人脸与所述丢失列表中的人脸匹配成功时,将匹配成功的人脸移出所述丢失列表。
A5、根据A1-A3中任一项所述的人脸跟踪方法,其特征在于,所述方法还包括:
获取所述跟踪列表中人脸的当前连续跟丢帧数;
将所述跟踪列表中处于不可信状态且当前连续跟丢帧数大于或等于丢失阈值的人脸移入丢失列表。
A6、根据A1-A3中任一项所述的人脸跟踪方法,其特征在于,所述方法还包括:
获取所述跟踪列表中人脸的当前连续跟丢帧数;
将所述跟踪列表中处于可信状态、且当前连续丢失帧数大于或等于0且小于丢失阈值的人脸设置为不可信状态。
A7、根据A1-A3中任一项所述的人脸跟踪方法,其特征在于,所述方法还包括:
获取所述跟踪列表中人脸的当前连续跟踪帧数;
将所述跟踪列表中处于不可信状态、且当前连续跟踪帧数大于或等于可信阈值的人脸设置为可信状态。
A8、根据A1-A3中任一项所述的人脸跟踪方法,其特征在于,所述方法还包括:
获取所述跟踪列表中人脸的当前连续跟踪帧数;
将所述跟踪列表中当前连续跟踪帧数小于可信阈值且大于或等于0的人脸设置为不可信状态。
A9、根据A1-A3中任一项所述的人脸跟踪方法,其特征在于,所述方法还包括:
获取丢失列表中人脸的当前连续跟踪帧数;
将所述丢失列表中当前连续跟踪帧数大于或等于1的人脸移入所述跟踪列表,并设置为可信状态。
A10根据A1-A3中任一项所述的人脸跟踪方法,其特征在于,所述方法还包括:
获取丢失列表中人脸的当前连续跟丢帧数;
将所述丢失列表中当前连续跟丢帧数大于或等于丢弃阈值的人脸丢弃。
A11、一种人脸跟踪设备,其特征在于,包括:存储器、处理器、视频采集器,所述视频采集器用于采集目标区域的待跟踪视频;所述存储器用于存储程序代码;所述处理器,调用所述程序代码,当程序代码被执行时,用于执行以下操作:获取待跟踪视频的图像帧,并对所述图像帧进行人脸检测;根据人脸检测结果确定所述图像帧中的至少一个人脸;当所述图像帧中的至少一个人脸与跟踪列表中的人脸匹配成功时,获取所述跟踪列表中匹配成功人脸的人脸特征数量;当所述匹配成功人脸的人脸特征数量小于或等于第一人脸特征数量阈值时,获取所述匹配成功人脸的人脸图像信息,所述人脸图像信息包括人脸宽高比、人脸图像帧位置、人脸面积以及人脸朝向参数中至少一项;当根据所述匹配成功人脸的人脸图像信息确定所述匹配成功人脸满足预设条件时,对所述匹配成功人脸进行人脸特征提取,并根据提取到的人脸特征更新所述跟踪列表;根据更新后的跟踪列表进行人脸跟踪。
A12、根据A11所述的人脸跟踪设备,其特征在于,所述预设条件,包括:人脸宽高比大于或等于人脸宽高比阈值、人脸未与所述图像帧的边缘接触、人脸面积大于或等于人脸面积阈值、人脸朝向参数大于或等于第一人脸朝向参数阈值且小于或等于第二人脸朝向参数阈值的至少一项。
A13、根据A12所述的人脸跟踪设备,其特征在于,所述当根据所述匹配成功人脸的人脸图像信息确定所述匹配成功人脸满足预设条件时,对所述匹配成功人脸进行人脸特征提取,并根据提取到的人脸特征更新所述跟踪列表,包括:
当所述匹配成功人脸的人脸宽高比大于或等于人脸宽高比阈值、且所述匹配成功人脸的人脸面积大于或等于人脸面积阈值、并根据所述匹配成功人脸的人脸图像帧位置确定所述匹配成功人脸未与所述图像帧的边缘接触时,根据所述匹配成功人脸的人脸面积以及所述匹配成功人脸的人脸朝向参数获取加权因子参数;
当所述加权因子参数大于或等于加权因子参数阈值时,对所述匹配成功人脸进行人脸特征提取,并根据提取到的人脸特征更新所述跟踪列表。
A14、根据A11-A13中任一项所述的人脸跟踪设备,其特征在于,所述操作还包括:
当所述图像帧中的至少一个人脸与所述跟踪列表中的人脸均不匹配时,对不匹配人脸进行人脸特征提取;
当提取到的所述不匹配人脸的人脸特征数量大于或等于第二人脸特征数量阈值时,将所述不匹配人脸移入所述跟踪列表,并将所述不匹配人脸与丢失列表中的人脸进行匹配;
当所述不匹配人脸与所述丢失列表中的人脸匹配成功时,将匹配成功的人脸移出所述丢失列表。
A15、根据A11-A13中任一项所述的人脸跟踪设备,其特征在于,所述操作还包括:
获取所述跟踪列表中人脸的当前连续跟丢帧数;
将所述跟踪列表中处于不可信状态且当前连续跟丢帧数大于或等于丢失阈值的人脸移入丢失列表。
A16、根据A11-A13中任一项所述的人脸跟踪设备,其特征在于,所述操作还包括:
获取所述跟踪列表中人脸的当前连续跟丢帧数;
将所述跟踪列表中处于可信状态、且当前连续丢失帧数大于或等于0且小于丢失阈值的人脸设置为不可信状态。
A17、根据A11-A13中任一项所述的人脸跟踪设备,其特征在于,所述操作还包括:
获取所述跟踪列表中人脸的当前连续跟踪帧数;
将所述跟踪列表中处于不可信状态、且当前连续跟踪帧数大于或等于可信阈值的人脸设置为可信状态。
A18、根据A11-A13中任一项所述的人脸跟踪设备,其特征在于,所述操作还包括:
获取所述跟踪列表中人脸的当前连续跟踪帧数;
将所述跟踪列表中当前连续跟踪帧数小于可信阈值且大于或等于0的人脸设置为不可信状态。
A19、根据A11-A13中任一项所述的人脸跟踪设备,其特征在于,所述操作还包括:
获取丢失列表中人脸的当前连续跟踪帧数;
将所述丢失列表中当前连续跟踪帧数大于或等于1的人脸移入所述跟踪列表,并设置为可信状态。
A20、根据A11-A13中任一项所述的人脸跟踪设备,其特征在于,所述操作还包括:
获取丢失列表中人脸的当前连续跟丢帧数;
将所述丢失列表中当前连续跟丢帧数大于或等于丢弃阈值的人脸丢弃。
A21、根据A11所述的人脸跟踪设备,其特征在于,还包括:承载器,所述承载器与所述视频采集器固定连接,用于承载所述视频采集器。
A22、如A21所述的人脸跟踪设备,其特征在于,所述承载器包括但不限于手持云台。
至此,已经对本主题的特定实施例进行了描述。其它实施例在所附权利要求书的范围内。在一些情况下,在权利要求书中记载的动作可以按照不同的顺序来执行并且仍然可以实现期望的结果。另外,在附图中描绘的过程不一定要求示出的特定顺序或者连续顺序,以实现期望的结果。在某些实施方式中,多任务处理和并行处理可以是有利的。
上述实施例阐明的系统、装置、模块或单元,具体可以由计算机芯片或实体实现,或者由具有某种功能的产品来实现。一种典型的实现设备为计算机。具体的,计算机例如可以为个人计算机、膝上型计算机、蜂窝电话、相机电话、智能电话、个人数字助理、媒体播放器、导航设备、电子邮件设备、游戏控制台、平板计算机、可穿戴设备或者这些设备中的任何设备的组合。
本申请是参照根据本申请实施例的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器,使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
还需要说明的是,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、商品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、商品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括所述要素的过程、方法、商品或者设备中还存在另外的相同要素。
本领域技术人员应明白,本申请的实施例可提供为方法、系统或计算机程序产品。因此,本申请可采用完全硬件实施例、完全软件实施例或结合软件和硬件方面的实施例的形式。而且,本申请可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
本申请可以在由计算机执行的计算机可执行指令的一般上下文中描述,例如程序模块。一般地,程序模块包括执行特定事务或实现特定抽象数据类型的例程、程序、对象、组件、数据结构等等。也可以在分布式计算环境中实践本申请,在这些分布式计算环境中,由通过通信网络而被连接的远程处理设备来执行事务。在分布式计算环境中,程序模块可以位于包括存储设备在内的本地和远程计算机存储介质中。
本说明书中的各个实施例均采用递进的方式描述,各个实施例之间相同相似的部分互相参见即可,每个实施例重点说明的都是与其他实施例的不同之处。尤其,对于系统实施例而言,由于其基本相似于方法实施例,所以描述的比较简单,相关之处参见方法实施例的部分说明即可。
以上所述仅为本申请的实施例而已,并不用于限制本申请。对于本领域技术人员来说,本申请可以有各种更改和变化。凡在本申请的精神和原理之内所作的任何修改、等同替换、改进等,均应包含在本申请的权利要求范围之内。

Claims (10)

1.一种人脸跟踪方法,其特征在于,包括:
获取待跟踪视频的图像帧,并对所述图像帧进行人脸检测;
根据人脸检测结果确定所述图像帧中的至少一个人脸;
当所述图像帧中的至少一个人脸与跟踪列表中的人脸匹配成功时,获取所述跟踪列表中匹配成功人脸的人脸特征数量;
当所述匹配成功人脸的人脸特征数量小于或等于第一人脸特征数量阈值时,获取所述匹配成功人脸的人脸图像信息,所述人脸图像信息包括人脸宽高比、人脸图像帧位置、人脸面积以及人脸朝向参数中至少一项;
当根据所述匹配成功人脸的人脸图像信息确定所述匹配成功人脸满足预设条件时,对所述匹配成功人脸进行人脸特征提取,并根据提取到的人脸特征更新所述跟踪列表;
根据更新后的跟踪列表进行人脸跟踪。
2.根据权利要求1所述的人脸跟踪方法,其特征在于,所述预设条件,包括:人脸宽高比大于或等于人脸宽高比阈值、人脸未与所述图像帧的边缘接触、人脸面积大于或等于人脸面积阈值、人脸朝向参数大于或等于第一人脸朝向参数阈值且小于或等于第二人脸朝向参数阈值的至少一项。
3.根据权利要求2所述的人脸跟踪方法,其特征在于,所述当根据所述匹配成功人脸的人脸图像信息确定所述匹配成功人脸满足预设条件时,对所述匹配成功人脸进行人脸特征提取,并根据提取到的人脸特征更新所述跟踪列表,包括:
当所述匹配成功人脸的人脸宽高比大于或等于人脸宽高比阈值、且所述匹配成功人脸的人脸面积大于或等于人脸面积阈值、并根据所述匹配成功人脸的人脸图像帧位置确定所述匹配成功人脸未与所述图像帧的边缘接触时,根据所述匹配成功人脸的人脸面积以及所述匹配成功人脸的人脸朝向参数获取加权因子参数;
当所述加权因子参数大于或等于加权因子参数阈值时,对所述匹配成功人脸进行人脸特征提取,并根据提取到的人脸特征更新所述跟踪列表。
4.根据权利要求1-3中任一项所述的人脸跟踪方法,其特征在于,所述方法还包括:
当所述图像帧中的至少一个人脸与所述跟踪列表中的人脸均不匹配时,对不匹配人脸进行人脸特征提取;
当提取到的所述不匹配人脸的人脸特征数量大于或等于第二人脸特征数量阈值时,将所述不匹配人脸移入所述跟踪列表,并将所述不匹配人脸与丢失列表中的人脸进行匹配;
当所述不匹配人脸与所述丢失列表中的人脸匹配成功时,将匹配成功的人脸移出所述丢失列表。
5.根据权利要求1-3中任一项所述的人脸跟踪方法,其特征在于,所述方法还包括:
获取所述跟踪列表中人脸的当前连续跟丢帧数;
将所述跟踪列表中处于不可信状态且当前连续跟丢帧数大于或等于丢失阈值的人脸移入丢失列表。
6.根据权利要求1-3中任一项所述的人脸跟踪方法,其特征在于,所述方法还包括:
获取所述跟踪列表中人脸的当前连续跟丢帧数;
将所述跟踪列表中处于可信状态、且当前连续丢失帧数大于或等于0且小于丢失阈值的人脸设置为不可信状态。
7.根据权利要求1-3中任一项所述的人脸跟踪方法,其特征在于,所述方法还包括:
获取所述跟踪列表中人脸的当前连续跟踪帧数;
将所述跟踪列表中处于不可信状态、且当前连续跟踪帧数大于或等于可信阈值的人脸设置为可信状态。
8.根据权利要求1-3中任一项所述的人脸跟踪方法,其特征在于,所述方法还包括:
获取所述跟踪列表中人脸的当前连续跟踪帧数;
将所述跟踪列表中当前连续跟踪帧数小于可信阈值且大于或等于0的人脸设置为不可信状态。
9.根据权利要求1-3中任一项所述的人脸跟踪方法,其特征在于,所述方法还包括:
获取丢失列表中人脸的当前连续跟踪帧数;
将所述丢失列表中当前连续跟踪帧数大于或等于1的人脸移入所述跟踪列表,并设置为可信状态。
10.根据权利要求1-3中任一项所述的人脸跟踪方法,其特征在于,所述方法还包括:
获取丢失列表中人脸的当前连续跟丢帧数;
将所述丢失列表中当前连续跟丢帧数大于或等于丢弃阈值的人脸丢弃。
CN202010297070.3A 2020-04-15 2020-04-15 人脸跟踪方法及人脸跟踪设备 Active CN111539283B (zh)

Priority Applications (2)

Application Number Priority Date Filing Date Title
CN202010297070.3A CN111539283B (zh) 2020-04-15 2020-04-15 人脸跟踪方法及人脸跟踪设备
PCT/CN2020/099827 WO2021208250A1 (zh) 2020-04-15 2020-07-02 人脸跟踪方法及人脸跟踪设备

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202010297070.3A CN111539283B (zh) 2020-04-15 2020-04-15 人脸跟踪方法及人脸跟踪设备

Publications (2)

Publication Number Publication Date
CN111539283A true CN111539283A (zh) 2020-08-14
CN111539283B CN111539283B (zh) 2023-08-11

Family

ID=71952235

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202010297070.3A Active CN111539283B (zh) 2020-04-15 2020-04-15 人脸跟踪方法及人脸跟踪设备

Country Status (2)

Country Link
CN (1) CN111539283B (zh)
WO (1) WO2021208250A1 (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113990101A (zh) * 2021-11-19 2022-01-28 深圳市捷顺科技实业股份有限公司 一种禁停区域车辆检测方法及其系统和处理装置

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20110043628A1 (en) * 2009-08-21 2011-02-24 Hankul University Of Foreign Studies Research and Industry-University Cooperation Foundation Surveillance system
CN106250938A (zh) * 2016-07-19 2016-12-21 易视腾科技股份有限公司 目标跟踪方法、增强现实方法及其装置
CN106355603A (zh) * 2016-08-29 2017-01-25 深圳市商汤科技有限公司 人体跟踪方法和人体跟踪装置
CN109635693A (zh) * 2018-12-03 2019-04-16 武汉烽火众智数字技术有限责任公司 一种正脸图像检测方法及装置
CN109712168A (zh) * 2018-11-14 2019-05-03 联想(北京)有限公司 一种目标跟踪方法及电子设备、装置及存储介质
CN110765913A (zh) * 2019-10-15 2020-02-07 浙江大华技术股份有限公司 基于多评价指标的人体目标优选方法、装置及存储介质

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8306262B2 (en) * 2008-05-15 2012-11-06 Arcsoft, Inc. Face tracking method for electronic camera device
CN105930822A (zh) * 2016-05-11 2016-09-07 北京格灵深瞳信息技术有限公司 一种人脸抓拍方法及系统
CN107958234A (zh) * 2017-12-26 2018-04-24 深圳云天励飞技术有限公司 基于客户端的人脸识别方法、装置、客户端及存储介质
CN108875538B (zh) * 2018-03-05 2022-07-08 北京旷视科技有限公司 属性检测方法、装置和系统及存储介质
CN110263680B (zh) * 2019-06-03 2022-01-28 北京旷视科技有限公司 图像处理方法、装置和系统及存储介质

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20110043628A1 (en) * 2009-08-21 2011-02-24 Hankul University Of Foreign Studies Research and Industry-University Cooperation Foundation Surveillance system
CN106250938A (zh) * 2016-07-19 2016-12-21 易视腾科技股份有限公司 目标跟踪方法、增强现实方法及其装置
CN106355603A (zh) * 2016-08-29 2017-01-25 深圳市商汤科技有限公司 人体跟踪方法和人体跟踪装置
CN109712168A (zh) * 2018-11-14 2019-05-03 联想(北京)有限公司 一种目标跟踪方法及电子设备、装置及存储介质
CN109635693A (zh) * 2018-12-03 2019-04-16 武汉烽火众智数字技术有限责任公司 一种正脸图像检测方法及装置
CN110765913A (zh) * 2019-10-15 2020-02-07 浙江大华技术股份有限公司 基于多评价指标的人体目标优选方法、装置及存储介质

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113990101A (zh) * 2021-11-19 2022-01-28 深圳市捷顺科技实业股份有限公司 一种禁停区域车辆检测方法及其系统和处理装置

Also Published As

Publication number Publication date
CN111539283B (zh) 2023-08-11
WO2021208250A1 (zh) 2021-10-21

Similar Documents

Publication Publication Date Title
CN108596976B (zh) 相机姿态追踪过程的重定位方法、装置、设备及存储介质
CN110147805B (zh) 图像处理方法、装置、终端及存储介质
CN110134804B (zh) 图像检索方法、装置及存储介质
CN110471858B (zh) 应用程序测试方法、装置及存储介质
CN111738053B (zh) 一种跟踪对象确定方法、设备和手持相机
CN110572716B (zh) 多媒体数据播放方法、装置及存储介质
CN109151044B (zh) 信息推送方法、装置、电子设备及存储介质
CN111523424A (zh) 人脸跟踪方法及人脸跟踪设备
CN111625682B (zh) 视频的生成方法、装置、计算机设备及存储介质
CN111931946A (zh) 数据处理方法、装置、计算机设备及存储介质
CN111432245B (zh) 多媒体信息的播放控制方法、装置、设备及存储介质
CN110890969B (zh) 群发消息的方法、装置、电子设备及存储介质
CN112052713B (zh) 一种视频处理方法、设备及手持相机
CN111539283B (zh) 人脸跟踪方法及人脸跟踪设备
CN112052357A (zh) 一种视频片段标记方法、设备及手持相机
CN111782950A (zh) 样本数据集获取方法、装置、设备及存储介质
CN111563913B (zh) 基于跟踪目标的搜索方法、设备及其手持相机
CN111767782A (zh) 一种跟踪目标确定方法、装置和手持相机
CN111479061B (zh) 跟踪状态确定方法、设备及手持相机
CN110853124A (zh) 生成gif动态图的方法、装置、电子设备及介质
CN111508001A (zh) 一种跟踪目标的找回方法、设备以及手持相机
CN111479063B (zh) 云台驱动方法、设备及手持相机
CN115221888A (zh) 实体提及的识别方法、装置、设备及存储介质
CN111524162B (zh) 一种跟踪目标的找回方法、设备及手持相机
CN109671425B (zh) 音频分类方法、装置及存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant