CN115408564A - 人脸特征库构建方法、装置、电子设备和存储介质 - Google Patents

人脸特征库构建方法、装置、电子设备和存储介质 Download PDF

Info

Publication number
CN115408564A
CN115408564A CN202211063493.4A CN202211063493A CN115408564A CN 115408564 A CN115408564 A CN 115408564A CN 202211063493 A CN202211063493 A CN 202211063493A CN 115408564 A CN115408564 A CN 115408564A
Authority
CN
China
Prior art keywords
face feature
similarity
cluster
human face
entity
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202211063493.4A
Other languages
English (en)
Other versions
CN115408564B (zh
Inventor
金强
李鹏
蔡苗苗
曹偲
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hangzhou Netease Cloud Music Technology Co Ltd
Original Assignee
Hangzhou Netease Cloud Music Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hangzhou Netease Cloud Music Technology Co Ltd filed Critical Hangzhou Netease Cloud Music Technology Co Ltd
Priority to CN202211063493.4A priority Critical patent/CN115408564B/zh
Publication of CN115408564A publication Critical patent/CN115408564A/zh
Application granted granted Critical
Publication of CN115408564B publication Critical patent/CN115408564B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/70Information retrieval; Database structures therefor; File system structures therefor of video data
    • G06F16/78Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually
    • G06F16/783Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using metadata automatically derived from the content
    • G06F16/7837Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using metadata automatically derived from the content using objects detected or recognised in the video content
    • G06F16/784Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using metadata automatically derived from the content using objects detected or recognised in the video content the detected or recognised objects being people
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/70Information retrieval; Database structures therefor; File system structures therefor of video data
    • G06F16/75Clustering; Classification
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/74Image or video pattern matching; Proximity measures in feature spaces
    • G06V10/761Proximity, similarity or dissimilarity measures
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/762Arrangements for image or video recognition or understanding using pattern recognition or machine learning using clustering, e.g. of similar faces in social networks
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/764Arrangements for image or video recognition or understanding using pattern recognition or machine learning using classification, e.g. of video objects
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/168Feature extraction; Face representation
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/172Classification, e.g. identification

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • General Physics & Mathematics (AREA)
  • Physics & Mathematics (AREA)
  • Health & Medical Sciences (AREA)
  • Databases & Information Systems (AREA)
  • General Health & Medical Sciences (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Evolutionary Computation (AREA)
  • Software Systems (AREA)
  • Computing Systems (AREA)
  • Artificial Intelligence (AREA)
  • Medical Informatics (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Human Computer Interaction (AREA)
  • Library & Information Science (AREA)
  • Data Mining & Analysis (AREA)
  • General Engineering & Computer Science (AREA)
  • Image Analysis (AREA)
  • Processing Or Creating Images (AREA)
  • Collating Specific Patterns (AREA)

Abstract

本公开涉及互联网技术领域,尤其涉及一种人脸特征库构建方法、装置、电子设备和存储介质,针对第一实体标签集中的每个第一实体标签,获取第一实体标签对应的多个第一人物图像,对多个第一人物图像分别进行预处理,获得多个人脸特征;针对每个第一实体标签,对第一实体标签对应的多个人脸特征进行预设筛选处理,获得第一人脸特征集;将多个第一人脸特征集中的每两个第一人脸特征集进行相似度比对,若两个第一人脸特征集的相似度比对结果满足预设条件,则将任意两个第一人脸特征集进行合并处理;基于新获得的多个第一人脸特征集以及第一实体标签集,构建人脸特征库。本公开可以高效构建更完备的人脸特征库,提高人物实体标签的识别准确率。

Description

人脸特征库构建方法、装置、电子设备和存储介质
技术领域
本申请涉及互联网技术领域,尤其涉及一种人脸特征库构建方法、装置、电子设备和存储介质。
背景技术
本部分旨在为权利要求书中陈述的本公开的实施方式提供背景或上下文。此处的部分描述不因为包括在本部分中就承认是现有技术。
随着移动视频产业的发展,每天都会有海量的视频被发布到网络上,这些视频中存在大量的影视混剪、人物合集等内容,但是,很多此类视频中没有明确人物的实体标签(例如人名),可以通过对视频图像中的人物进行人脸识别,得到具体的实体标签;这些实体标签一方面有利于视频平台对视频的检索和分发,向用户推荐其可能喜欢的视频,另一方面也可以剔除一些具有不良影响的人物的视频,避免这些视频进入视频平台。
针对人物的人脸识别,通常存在妆容多变、环境多变、角度多变等问题,因此,为了更好地识别视频图像中的人物实体标签,需要构建更完备的人脸特征库,为每个需要识别的人物的实体标签提供更多的人物图像。
但是,人脸特征库的构建耗时费力,如何提高人脸特征库的构建效率以及丰富性是需要解决的问题。
发明内容
本公开实施例提供一种人脸特征库构建方法、装置、电子设备和存储介质,用于高效构建更完备的人脸特征库,在后续识别视频中人物的实体标签时,可以为每个人物的实体标签提供更多的人物图像,提高识别准确率。
第一方面,本公开实施例提供了一种人脸特征库构建方法,包括:
针对第一实体标签集中的每个第一实体标签,获取所述第一实体标签对应的多个第一人物图像,对所述多个第一人物图像分别进行预处理,获得多个人脸特征;其中,所述预处理至少包括人脸检测以及人脸特征提取;
针对每个第一实体标签,对所述第一实体标签对应的多个人脸特征进行预设筛选处理,获得第一人脸特征集;
将多个第一人脸特征集中的每两个第一人脸特征集进行相似度比对,在每次相似度比对中,若两个第一人脸特征集的相似度比对结果满足预设条件,则将所述任意两个第一人脸特征集进行合并处理;
基于新获得的多个第一人脸特征集以及所述第一实体标签集,构建人脸特征库。
可选的,所述对所述第一实体标签对应的多个人脸特征进行预设筛选处理,获得第一人脸特征集,包括:
对所述第一实体标签对应的多个人脸特征进行聚类处理,获得多个第一人脸特征簇,每个第一人脸特征簇包括一个聚类中心;
针对每个所述聚类中心,若所述聚类中心分别与各个其它聚类中心的相似度均不满足第一相似度条件,则删除所述聚类中心所在的第一人脸特征簇;
基于剩余的多个第一人脸特征簇,获得所述第一人脸特征集。
可选的,所述基于剩余的多个第一人脸特征簇,获得所述第一人脸特征集,包括:
针对剩余的每个第一人脸特征簇,确定所述第一人脸特征簇中的每个人脸特征与对应的聚类中心的相似度,将相似度不满足第二相似度条件的人脸特征从所述第一人脸特征簇中剔除;
基于新获得的多个第一人脸特征簇,获得所述第一人脸特征集。
可选的,所述基于新获得的多个第一人脸特征簇,获得所述第一人脸特征集,包括:
针对新获得的每个第一人脸特征簇,若所述第一人脸特征簇中的人脸特征的数量不满足数量条件,则将所述第一人脸特征簇删除。
可选的,所述基于新获得的多个第一人脸特征簇,获得所述第一人脸特征集,包括:
针对新获得的每个第一人脸特征簇,确定所述第一人脸特征簇中的每个人脸特征分别与多个其它人脸特征的相似度,将相似度满足第三相似度条件的其它人脸特征从所述第一人脸特征簇中剔除;
基于再次新获得的多个第一人脸特征簇,获得所述第一人脸特征集。
可选的,所述将多个第一人脸特征集中的每两个第一人脸特征集进行相似度比对,在每次相似度比对中,若两个第一人脸特征集的相似度比对结果满足预设条件,则将所述两个第一人脸特征集进行合并处理,包括:
针对每两个第一人脸特征集,执行以下操作:
获取一个第一人脸特征集的多个聚类中心,以及获取另一第一人脸特征集的多个聚类中心;
确定所述一个第一人脸特征集的每个聚类中心,分别与所述另一第一人脸特征集的多个聚类中心的相似度,获得相似度向量;
基于获得的多个相似度向量构建类间相似度矩阵,确定所述类间相似度矩阵中达到第一相似度阈值的目标相似度,将所述目标相似度的数量作为所述相似度比对结果;
若所述相似度比对结果满足预设条件,则将所述一个第一人脸特征集与所述另一第一人脸特征集进行合并处理。
可选的,所述将所述一个第一人脸特征集与所述另一第一人脸特征集进行合并处理之前,还包括:
基于所述一个第一人脸特征集的每个聚类中心,分别与所述一个第一人脸特征集的其它各个聚类中心的相似度,构建第一类内相似度矩阵;
基于所述另一第一人脸特征集的每个聚类中心,分别与所述另一第一人脸特征集的其它各个聚类中心的相似度,构建第二类内相似度矩阵;
若基于所述第一类内相似度矩阵、所述第二类内相似度矩阵以及所述类间相似度矩阵,确定所述一个第一人脸特征集中的目标聚类中心与所述另一第一人脸特征集的各个聚类中心满足第一预设关系,则将所述目标聚类中心所在的第一人脸特征簇剔除;
若基于所述第一类内相似度矩阵、所述第二类内相似度矩阵以及所述类间相似度矩阵,确定所述另一第一人脸特征集中的目标聚类中心与所述一个第一人脸特征集的各个聚类中心满足第二预设关系,则将所述目标聚类中心所在的第一人脸特征簇剔除。
可选的,所述方法还包括:
获取第二实体标签集以及第二人物图像集,所述第二实体标签集中的每个第二实体标签与所述第二人物图像集中的至少一个第二人物图像相对应;
针对每个第二人物图像,若从所述人脸特征库中检索到与所述第二人物图像中的人脸特征相匹配的目标人脸特征,则将所述第二人物图像中的人脸特征保存至所述人脸特征库中所述目标人脸特征对应的目标实体标签下。
可选的,所述若从所述人脸特征库中检索到与所述第二人物图像中的人脸特征相匹配的目标人脸特征,则将所述第二人物图像中的人脸特征保存至所述人脸特征库中所述目标人脸特征对应的目标实体标签下,包括:
若从所述人脸特征库中检索到与所述第二人物图像中的人脸特征相匹配的目标人脸特征,则确定所述目标人脸特征是否满足以下条件中的至少一个:所述目标人脸特征对应的目标实体标签与所述第二人物图像对应的第二实体标签一致,所述目标人脸特征与所述第二人物图像中的人脸特征的相似度小于第二相似度阈值;
若满足,则将所述第二人物图像中的人脸特征保存至所述人脸特征库中的所述目标实体标签下。
可选的,所述方法还包括:
针对每个第二人物图像,若从所述人脸特征库中未检索到与所述第二人物图像中的人脸特征相匹配的目标人脸特征,则将所述第二人物图像作为待入库的候选人物图像;
基于获得的多个候选人物图像各自对应的第二标签,获得新的第二实体标签集,以及对所述多个候选人物图像分别进行预处理,获得第二人脸特征集;其中,所述预处理至少包括人脸检测以及人脸特征提取;
将所述第二人脸特征集以及所述新的第二实体标签集保存至人脸特征临时库,所述新的第二实体标签集中的每个第二实体标签与所述第二人脸特征集中的至少一个人脸特征相对应。
可选的,所述将所述第二人脸特征集以及所述新的第二实体标签集保存至人脸特征临时库,包括:
将所述第二人脸特征集中的多个人脸特征进行聚类处理,获得多个第二人脸特征簇,每个第二人脸特征簇包括一个聚类中心;
针对每个第二人脸特征簇,若所述第二人脸特征簇中的候选人脸特征与对应的聚类中心的相似度不满足第四相似度条件,则将所述候选人脸特征从所述第二人脸特征簇中剔除;
基于新获得的多个第二人脸特征簇,获得新的第二人脸特征集,将所述新的第二人脸特征集以及所述新的第二实体标签集对应保存至所述人脸特征临时库。
可选的,所述方法还包括:
针对所述新的第二实体标签集中的每个第二实体标签,对所述第二实体标签对应的多个人脸特征进行所述预设筛选处理,获得第三人脸特征集;
将获得多个第三人脸特征集以及所述多个第三人脸特征集各自对应的第二实体标签,保存至所述人脸特征库。
可选的,所述获取所述第一实体标签对应的多个第一人物图像,包括:
针对任一第一网络页面,对所述第一网络页面中的页面内容进行识别,若识别到人物图像以及与任一所述第一实体标签匹配的人物实体信息,则将识别到的人物图像作为任一所述第一实体标签对应的第一人物图像;
从多个所述第一网络页面中,识别到每个所述第一实体标签对应的多个第一人物图像。
可选的,所述获取第二实体标签集和第二人物图像集,包括:
针对任一第二网络页面,对所述第二网络页面中的页面内容进行识别,若识别到人物图像以及人物实体信息,则基于所述人物实体信息获得第二实体标签,以及将识别到的人物图像作为所述第二实体标签对应的第二人物图像;
基于由多个所述第二网络页面获得的各个第二实体标签,获得所述第二实体标签集,以及基于每个所述第二实体标签对应的至少一个第二人物图像,获得所述第二人物图像集。
第二方面,本公开实施例还提供了一种人脸特征库构建装置,包括:
第一获取模块,用于针对第一实体标签集中的每个第一实体标签,获取所述第一实体标签对应的多个第一人物图像,对所述多个第一人物图像分别进行预处理,获得多个人脸特征;其中,所述预处理至少包括人脸检测以及人脸特征提取;
筛选模块,用于针对每个第一实体标签,对所述第一实体标签对应的多个人脸特征进行预设筛选处理,获得第一人脸特征集;
比对模块,用于将多个第一人脸特征集中的每两个第一人脸特征集进行相似度比对,在每次相似度比对中,若两个第一人脸特征集的相似度比对结果满足预设条件,则将所述任意两个第一人脸特征集进行合并处理;
构建模块,用于基于新获得的多个第一人脸特征集以及所述第一实体标签集,构建人脸特征库。
可选的,所述筛选模块还用于:
对所述第一实体标签对应的多个人脸特征进行聚类处理,获得多个第一人脸特征簇,每个第一人脸特征簇包括一个聚类中心;
针对每个所述聚类中心,若所述聚类中心分别与各个其它聚类中心的相似度均不满足第一相似度条件,则删除所述聚类中心所在的第一人脸特征簇;
基于剩余的多个第一人脸特征簇,获得所述第一人脸特征集。
可选的,所述基于剩余的多个第一人脸特征簇,获得所述第一人脸特征集时,所述筛选模块还用于:
针对剩余的每个第一人脸特征簇,确定所述第一人脸特征簇中的每个人脸特征与对应的聚类中心的相似度,将相似度不满足第二相似度条件的人脸特征从所述第一人脸特征簇中剔除;
基于新获得的多个第一人脸特征簇,获得所述第一人脸特征集。
可选的,所述基于新获得的多个第一人脸特征簇,获得所述第一人脸特征集时,所述筛选模块还用于:
针对新获得的每个第一人脸特征簇,若所述第一人脸特征簇中的人脸特征的数量不满足数量条件,则将所述第一人脸特征簇删除。
可选的,所述基于新获得的多个第一人脸特征簇,获得所述第一人脸特征集时,所述筛选模块还用于:
针对新获得的每个第一人脸特征簇,确定所述第一人脸特征簇中的每个人脸特征分别与多个其它人脸特征的相似度,将相似度满足第三相似度条件的其它人脸特征从所述第一人脸特征簇中剔除;
基于再次新获得的多个第一人脸特征簇,获得所述第一人脸特征集。
可选的,所述比对模块还用于:
针对每两个第一人脸特征集,执行以下操作:
获取一个第一人脸特征集的多个聚类中心,以及获取另一第一人脸特征集的多个聚类中心;
确定所述一个第一人脸特征集的每个聚类中心,分别与所述另一第一人脸特征集的多个聚类中心的相似度,获得相似度向量;
基于获得的多个相似度向量构建类间相似度矩阵,确定所述类间相似度矩阵中达到第一相似度阈值的目标相似度,将所述目标相似度的数量作为所述相似度比对结果;
若所述相似度比对结果满足预设条件,则将所述一个第一人脸特征集与所述另一第一人脸特征集进行合并处理。
可选的,还包括剔除模块,用于:
基于所述一个第一人脸特征集的每个聚类中心,分别与所述一个第一人脸特征集的其它各个聚类中心的相似度,构建第一类内相似度矩阵;
基于所述另一第一人脸特征集的每个聚类中心,分别与所述另一第一人脸特征集的其它各个聚类中心的相似度,构建第二类内相似度矩阵;
若基于所述第一类内相似度矩阵、所述第二类内相似度矩阵以及所述类间相似度矩阵,确定所述一个第一人脸特征集中的目标聚类中心与所述另一第一人脸特征集的各个聚类中心满足第一预设关系,则将所述目标聚类中心所在的第一人脸特征簇剔除;
若基于所述第一类内相似度矩阵、所述第二类内相似度矩阵以及所述类间相似度矩阵,确定所述另一第一人脸特征集中的目标聚类中心与所述一个第一人脸特征集的各个聚类中心满足第二预设关系,则将所述目标聚类中心所在的第一人脸特征簇剔除。
可选的,所述装置还包括:
第二获取模块,用于获取第二实体标签集以及第二人物图像集,所述第二实体标签集中的每个第二实体标签与所述第二人物图像集中的至少一个第二人物图像相对应;
第一更新模块,用于针对每个第二人物图像,若从所述人脸特征库中检索到与所述第二人物图像中的人脸特征相匹配的目标人脸特征,则将所述第二人物图像中的人脸特征保存至所述人脸特征库中所述目标人脸特征对应的目标实体标签下。
可选的,所述第一更新模块还用于:
若从所述人脸特征库中检索到与所述第二人物图像中的人脸特征相匹配的目标人脸特征,则确定所述目标人脸特征是否满足以下条件中的至少一个:所述目标人脸特征对应的目标实体标签与所述第二人物图像对应的第二实体标签一致,所述目标人脸特征与所述第二人物图像中的人脸特征的相似度小于第二相似度阈值;
若满足,则将所述第二人物图像中的人脸特征保存至所述人脸特征库中的所述目标实体标签下。
可选的,所述装置还包括保存模块,用于:
针对每个第二人物图像,若从所述人脸特征库中未检索到与所述第二人物图像中的人脸特征相匹配的目标人脸特征,则将所述第二人物图像作为待入库的候选人物图像;
基于获得的多个候选人物图像各自对应的第二标签,获得新的第二实体标签集,以及对所述多个候选人物图像分别进行预处理,获得第二人脸特征集;其中,所述预处理至少包括人脸检测以及人脸特征提取;
将所述第二人脸特征集以及所述新的第二实体标签集保存至人脸特征临时库,所述新的第二实体标签集中的每个第二实体标签与所述第二人脸特征集中的至少一个人脸特征相对应。
可选的,所述将所述第二人脸特征集以及所述新的第二实体标签集保存至人脸特征临时库时,所述保存模块还用于:
将所述第二人脸特征集中的多个人脸特征进行聚类处理,获得多个第二人脸特征簇,每个第二人脸特征簇包括一个聚类中心;
针对每个第二人脸特征簇,若所述第二人脸特征簇中的候选人脸特征与对应的聚类中心的相似度不满足第四相似度条件,则将所述候选人脸特征从所述第二人脸特征簇中剔除;
基于新获得的多个第二人脸特征簇,获得新的第二人脸特征集,将所述新的第二人脸特征集以及所述新的第二实体标签集对应保存至所述人脸特征临时库。
可选的,所述装置还包括第二更新模块,用于:
针对所述新的第二实体标签集中的每个第二实体标签,对所述第二实体标签对应的多个人脸特征进行所述预设筛选处理,获得第三人脸特征集;
将获得多个第三人脸特征集以及所述多个第三人脸特征集各自对应的第二实体标签,保存至所述人脸特征库。
可选的,所述第一获取模块还用于:
针对任一第一网络页面,对所述第一网络页面中的页面内容进行识别,若识别到人物图像以及与任一所述第一实体标签匹配的人物实体信息,则将识别到的人物图像作为任一所述第一实体标签对应的第一人物图像;
从多个所述第一网络页面中,识别到每个所述第一实体标签对应的多个第一人物图像。
可选的,所述第二获取模块还用于:
针对任一第二网络页面,对所述第二网络页面中的页面内容进行识别,若识别到人物图像以及人物实体信息,则基于所述人物实体信息获得第二实体标签,以及将识别到的人物图像作为所述第二实体标签对应的第二人物图像;
基于由多个所述第二网络页面获得的各个第二实体标签,获得所述第二实体标签集,以及基于每个所述第二实体标签对应的至少一个第二人物图像,获得所述第二人物图像集。
第三方面,本公开实施例还提供了一种电子设备,包括处理器和存储器,所述存储器上存储有可在所述处理器上运行的计算机程序,当所述计算机程序被所述处理器执行时,使得所述处理器实现第一方面任一种人脸特征库构建方法的步骤。
第四方面,本公开实施例还提供了一种计算机可读存储介质,其存储有计算机程序,当所述计算机程序在电子设备上运行时,使得所述电子设备执行第一方面任一种人脸特征库构建方法的步骤。
第五方面,本公开实施例提供一种计算机程序产品,其包括计算机程序,所述计算机程序存储在计算机可读存储介质中;当电子设备的处理器从所述计算机可读存储介质读取所述计算机程序时,所述处理器执行该计算机程序,使得所述电子设备执行上述任一种人脸特征库构建方法的步骤。
本公开实施例提供的人脸特征库构建方法至少具有如下有益效果:
根据本公开实施例提供的方案,在构建人脸特征库时,首先获得包含多个人物的第一实体标签的第一实体标签集,针对每个第一实体标签,获取该第一实体标签对应的多个第一人物图像,对这些第一人物图像分别进行人脸检测以及人脸特征提取,获得多个人脸特征;然后,对每个第一实体标签对应的多个人脸特征进行预设筛选处理,获得每个第一实体标签对应的第一人脸特征集,以完成每个第一实体标签内部的人脸特征筛选;并且,考虑到一个人物可能具有多个第一实体标签,因此需要确定是否将多个第一实体标签的第一人脸特征集进行合并,具体的,将多个第一人脸特征集中的每两个第一人脸特征集进行相似度比对,在每次相似度比对中,若两个第一人脸特征集的相似度比对结果满足预设条件,则将任意两个第一人脸特征集进行合并处理;最后,基于新获得的多个第一人脸特征集以及第一实体标签集,构建人脸特征库。
基于本公开实施例的上述方案,可以高效构建更完备的人脸特征库,在后续识别视频中人物的实体标签时,可以为每个人物的实体标签提供更多的人物图像,提高识别准确率。
本公开的其它特征和优点将在随后的说明书中阐述,并且,部分地从说明书中变得显而易见,或者通过实施本公开而了解。本公开的目的和其他优点可通过在所写的说明书、权利要求书、以及附图中所特别指出的结构来实现和获得。
附图说明
为了更清楚地说明本公开实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本公开的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1为本公开实施例提供的一种人脸特征库构建方法的流程图;
图2为本公开实施例提供的另一种人脸特征库构建方法的流程图;
图3为本公开实施例提供的另一种人脸特征库构建方法的流程图;
图4为本公开实施例提供的另一种人脸特征库构建方法的流程图;
图5为本公开实施例提供的另一种人脸特征库构建方法的流程图;
图6为本公开实施例提供的一种人脸特征库构建的逻辑示意图;
图7为本公开实施例提供的一种人脸特征库构建的逻辑示意图;
图8为本公开实施例提供的一种人脸特征库的构建过程示意图;
图9为本公开实施例提供的一种人脸特征集的筛选过程示意图;
图10为本公开实施例提供的另一种人脸特征库构建装置的示意图;
图11为本公开实施例提供的一种电子设备的结构示意图。
具体实施方式
为了使本公开的目的、技术方案和优点更加清楚,下面将结合附图对本公开作进一步地详细描述,显然,所描述的实施例仅仅是本公开的一部分实施例,而不是全部的实施例。基于本公开中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本公开保护的范围。
为了便于本领域技术人员更好地理解本申请的技术方案,下面对本申请涉及的一些名词进行介绍。
人脸检测:通过算法将视频图像中的人脸区域进行提取,得到只有人脸的图像,通常是一个正方形矩形。
人脸识别:对一个人脸图像,通过将其与库中的人像进行比对,判断其身份标签。
人脸特征提取:对人脸图像进行分析,提取其特征,特征通常是一个固定维度的向量。
人脸特征库:将一批有身份标签的人脸图像通过人脸特征提取得到特征后进行存储得到的数据库。
需要说明的是,本公开的说明书和权利要求书中的术语“第一”、“第二”等是用于区别类似的对象,而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换,以便这里描述的本公开的实施例能够以除了在这里图示或描述的那些以外的顺序实施。
此外,术语“包括”和“具有”以及它们的任何变形,意图在于覆盖不排他的包含,例如,包含了一系列步骤或单元的过程、方法、系统、产品或设备不必限于清楚地列出的那些步骤或单元,而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。
下面对本公开实施例的设计思想进行介绍。
如前文,视频中的人物的实体标签有着重要的作用,针对没有明确人物的实体标签的视频,可以通过对视频图像中的人物进行人脸识别,得到具体的实体标签。针对人物的人脸识别,通常存在妆容多变、环境多变、角度多变等问题,为了更好地识别视频图像中的人物实体标签,需要构建更完备的人脸特征库,但是,人脸特征库的构建耗时费力,如何提高人脸特征库的构建效率以及丰富性是需要解决的问题。
有鉴于此,本公开实施例提供一种人脸特征库构建方法,利用当前成熟的人脸识别技术,自动化完成大规模的人脸特征库的构建,提高了构建效率以及人脸特征库的丰富性,从而提高视频中的人物的实体标签的识别准确率。
本公开技术方案中,对数据的采集、传播、使用等,均符合国家相关法律法规要求,例如:数据包括人物图像等。
下面结合附图以及具体实施方式对本申请实施例的人脸特征库构建方法进行介绍。
本公开实施例的人脸特征库构建方法可以由终端设备或者服务器单独执行,也可以由服务器和终端设备配合执行。终端设备包括但不限于桌面计算机、手机、电脑、智能家电、智能语音交互设备、车载终端等电子设备。服务器可以是独立的物理服务器,也可以是多个物理服务器构成的服务器集群或者分布式系统,还可以是提供云服务、云数据库、云计算、云函数、云存储、网络服务、云通信、中间件服务、域名服务、安全服务、CDN、以及大数据和人工智能平台等基础云计算服务的云服务器。
下面对本公开实施例的人脸特征库构建方法进行介绍。
参阅图1所示,本公开实施例提供的一种人脸特征库构建方法,包括以下步骤S101-S104:
步骤S101,针对第一实体标签集中的每个第一实体标签,获取第一实体标签对应的多个第一人物图像,对多个第一人物图像分别进行预处理,获得多个人脸特征;其中,预处理至少包括人脸检测以及人脸特征提取。
其中,第一实体标签集可以包含预先设定的多个人物的第一实体标签,该第一实体标签可以是人物的姓名或称呼,每个人物可以对应一个或多个第一实体标。每个第一实体标签对应的各第一人物图像,可以通过设定方式获取,例如从网络中获取或者通过其它合法方式获取。
可选的,当从网络中获取每个第一实体标签对应的多个第一人物图像时,可以执行以下步骤A1-A2:
A1、针对任一第一网络页面,对第一网络页面中的页面内容进行识别,若识别到人物图像以及与任一第一实体标签匹配的人物实体信息,则将识别到的人物图像作为任一第一实体标签对应的第一人物图像。
本公开实施例中,第一网络页面可以是任一具有访问权限的网络平台中的网络页面,如果在某个第一网络页面中识别到人物图像,同时,基于自然语言处理分析提取到与任一第一实体标签匹配的人物实体信息,则可以将识别到的人物图像作为该第一实体标签对应的第一人物图像。
需要说明的是,当在某个第一网络页面中识别到人物图像,同时识别到两个或多个第一实体标签时,可以将识别到的人物图像同时作为这些第一实体标签对应的第一人物图像,因为后续会对每个第一实体标签对应的各个第一人物图像进行筛选。
A2、从多个第一网络页面中,识别到每个第一实体标签对应的多个第一人物图像。
基于上述步骤A1,可以分别对大量第一网络页面中的页面内容进行识别,并从其中的多个第一网络页面中分别获得相应的第一实体标签以及对应的第一人物图像,最终,获得每个第一实体标签对应的多个第一人物图像。
在获得每个第一实体标签对应的多个第一人物图像后,针对每个第一实体标签,对多个第一人物图像分别进行人脸检测以及人脸特征提取等,获得多个人脸特征。通过对多个第一人物图像分别进行人脸检测,可以剔除无人脸图像,获取具有人脸的每个第一人物图像的人脸图像以及人脸关键点。基于每个人脸图像的人脸关键点对该人脸图像进行校正;例如:基于人脸关键点模板,将人脸图像中的人脸关键点映射到这个模板上。进一步地,针对校正后的每个人脸图像,采用人脸特征提取算法进行特征提取,得到人脸特征。
步骤S102,针对每个第一实体标签,对第一实体标签对应的多个人脸特征进行预设筛选处理,获得第一人脸特征集。
考虑到通过上述步骤S102获取的每个第一实体标签对应的各个人脸特征,可能存在与第一实体标签不匹配的人脸特征或者重复的人脸特征,需要删除这些人脸特征。
本公开实施例中,针对每个第一实体标签,可以基于预设筛选方式对第一实体标签对应的多个人脸特征进行筛选处理,删除与第一实体标签不相关的人脸特征,以保证人脸特征的一致性和多样性;将筛选出的各个人脸特征组成第一人脸特征集。下面实施例中将进一步详细介绍筛选过程。
步骤S103,将多个第一人脸特征集中的每两个第一人脸特征集进行相似度比对,在每次相似度比对中,若两个第一人脸特征集的相似度比对结果满足预设条件,则将任意两个第一人脸特征集进行合并处理。
该步骤中,考虑到一个人物对应的第一实体标签可能不止一个,如果上述第一实体标签集中包含同一人物的多个第一实体标签,则需要将这些第一实体标签的第一人脸特征集进行合并。
具体的,基于预设方式将每两个第一人脸特征集进行相似度比对,如果某两个第一人脸特征集的相似度比对结果满足预设条件,则将这两个第一人脸特征集进行合并处理,以保证最终获得的每个人物对应一个第一人脸特征集。其中,每两个第一人脸特征集的相似度比对方式,以及上述预设条件均可以根据需要设置,本公开下面实施例中将进行示例性介绍。
步骤S104,基于新获得的多个第一人脸特征集以及第一实体标签集,构建人脸特征库。
通过本公开实施例的上述方案,可以高效构建更完备的人脸特征库,在后续识别视频中人物的实体标签时,可以为每个人物的实体标签提供更多的人物图像,提高识别准确率。
下面对上述步骤S102中对第一实体标签对应的多个人脸特征进行预设筛选处理的过程进行介绍。
在一些实施例中,如图2所示,上述步骤S102对第一实体标签对应的多个人脸特征进行预设筛选处理,获得第一人脸特征集,可以包括以下步骤S1021-S1023:
步骤S1021,对第一实体标签对应的多个人脸特征进行聚类处理,获得多个第一人脸特征簇,每个第一人脸特征簇包括一个聚类中心。
其中,可以采用聚类算法对多个人脸特征进行聚类处理,聚类算法包括但不限于meanshift、K-Means等。具体的,以meanshift算法为例,使用较小的半径r,例如为0.8,对N个人脸特征{F1,F2,F3,F4...FN}进行聚类,得到K个聚类中心,其中,K<N,K的值由meanshift算法计算得到,将其它非聚类中心的人脸特征归类到一个聚类中心Fk,形成一组人脸特征簇Ck(即第一人脸特征簇),将不属于任何一个人脸特征簇的人脸特征删除。
meanshift是一种迭代聚类的算法,通过在一个样本点(即一个人脸特征)的半径r范围内,计算该样本点的均值漂移向量,不断移动聚类中心,使其向密度最大的地方移动,最终找到概率密度的局部最大点,这些局部最大点就是聚类中心Fk,同时在每个聚类中心Fk移动过程中,所经过的人脸特征组成了该聚类中心Fk所在的人脸特征簇Ck
步骤S1022,针对每个聚类中心,若聚类中心分别与各个其它聚类中心的相似度均不满足第一相似度条件,则删除聚类中心所在的第一人脸特征簇。
例如,第一相似度条件可以是达到第一阈值,例如为0.5,对此不作限定。
该步骤中,计算每个聚类中心分别与各个其它聚类中心的相似度,如果某个聚类中心与其它聚类中心的相似度均未超过(小于或等于)第一阈值,可以认为这个聚类中心所在的第一人脸特征簇,与其它聚类中心的第一人脸特征簇差距过大,需要删除。上述每两个聚类中心之间的相似度可以通过相似度算法进行计算,下面以相似度算法为计算余弦相似度为例。
假设为K个聚类中心,将这些聚类中心两两计算余弦相似度,形成维度是K*K的类内相似度矩阵Mintra,其中,聚类中心a的特征向量Fa和聚类中心b的特征向量Fb的余弦相似度Similarity可以通过以下式(1)计算:
Figure BDA0003826953670000121
逐行遍历类内相似度矩阵Mintra,若某个聚类中心和其它聚类中心的余弦相似度均未超过第一阈值T1,则将这个聚类中心所在的第一人脸特征簇删除。
通过上述实施方式,可以将每个第一实体标签的多个人脸特征进行内部数据清洗,删除不满足条件的第一人脸特征簇,使得筛选出的第一人脸特征簇与对应的第一实体标签相匹配。
步骤S1023,基于剩余的多个第一人脸特征簇,获得第一人脸特征集。
通过上述步骤S1022,将与其它第一人脸特征簇差距较大的第一人脸特征簇删除后,可以将剩余的多个第一人脸特征簇组成第一人脸特征集;还可以针对剩余的多个第一人脸特征簇继续进行筛选,以进一步保证筛选出的第一人脸特征簇与对应的第一实体标签相匹配。
可选的,针对剩余的多个第一人脸特征簇继续进行筛选时,上述步骤S1023基于剩余的多个第一人脸特征簇,获得第一人脸特征集,可以包括以下步骤A1-A2:
A1、针对剩余的每个第一人脸特征簇,确定第一人脸特征簇中的每个人脸特征与对应的聚类中心的相似度,将相似度不满足第二相似度条件的人脸特征从第一人脸特征簇中剔除。
例如,第而相似度条件可以是达到第二阈值,例如为0.6,对此不作限定。
A2、基于新获得的多个第一人脸特征簇,获得第一人脸特征集。
在上述步骤1022中,将多个聚类中心中不满足条件的聚类中心所在的第一人脸特征簇删除后,针对剩余的每个第一人脸特征簇,还可以将第一人脸特征簇内与聚类中心的相似度未达到第二阈值的人脸特征删除,以剔除每个第一人脸特征簇内与其聚类中心的差距较大的人脸特征。
例如:对于一个第一人脸特征簇Ck,计算其中的每一个人脸特征与聚类中心Fk的相似度,删除相似度未达到第二阈值T2的人脸特征,以剔除噪声数据。
为了使得每个第一人脸特征簇Ck中的人脸特征达到一定数量,以保证第一人脸特征簇Ck中的人脸特征彼此之间的距离在合理范围内,可以设置第一人脸特征簇的最小人脸特征数量,例如为2,如果第一人脸特征簇Ck中的人脸特征的数量小于最小人脸特征数量,则可以删除这个第一人脸特征簇Ck
可选的,上述步骤A2中基于新获得的多个第一人脸特征簇,获得第一人脸特征集时,针对新获得的每个第一人脸特征簇,若该第一人脸特征簇中的人脸特征的数量不满足数量条件,则将该第一人脸特征簇删除。
在一些实施例中,上述步骤A2基于新获得的多个第一人脸特征簇,获得第一人脸特征集,还可以包括以下步骤:
A21、针对新获得的每个第一人脸特征簇,确定第一人脸特征簇中的每个人脸特征分别与多个其它人脸特征的相似度,将相似度满足第三相似度条件的其它人脸特征从第一人脸特征簇中剔除。
例如,第三相似度条件可以是达到第三阈值,例如0.95,对此不作限定。
A22、基于再次新获得的多个第一人脸特征簇,获得第一人脸特征集。
在上述步骤A1中将每个第一人脸特征簇内与聚类中心的差距较大的人脸特征删除后,考虑到每个第一人脸特征簇内,多个人脸特征之间可能存在十分相似的人脸特征,为了避免重复,对于十分相似的多个人脸特征可以只保留一个。
例如:对于一个第一人脸特征簇Ck中的多个人脸特征,两两计算相似度,得到簇内相似度矩阵Mcluster,逐行遍历Mcluster,若存在与某个人脸特征的相似度达到第三阈值T3的人脸特征,则将该人脸特征删除,以去除非常相似的人脸特征,避免重复。
基于本申请上述实施例的筛选过程,可以获得每个第一实体标签对应的最终的第一人脸特征集。为了保证每个第一人脸特征集具有一定的数据量,可以设置第一人脸特征集的最小人脸特征数量,例如为5,如果某个第一人脸特征集中的人脸特征的数量小于最小人脸特征数量,认为可靠性不够,可以删除该第一人脸特征集,从而保证每个第一人脸特征集中的人脸特征既具有一致性,又具有多样性。
下面实施例对上述步骤S103中将两个第一人脸特征集进行合并处理的具体过程进行介绍。
通过上述实施例将每个第一实体标签对应的多个人脸特征进行内部数据清洗之后,还可以对第一实体标签之间进行数据清洗,具体的,将一个第一实体标签的第一人脸特征集与其它第一实体标签的第一人脸特征集进行分析比对,将属于同一人物的第一人脸特征集进行合并,进一步提高构建的人脸特征库中数据的准确性。
在一些实施例中,如图3所示,上述步骤S103中将多个第一人脸特征集中的每两个第一人脸特征集进行相似度比对,在每次相似度比对中,若两个第一人脸特征集的相似度比对结果满足预设条件,则将两个第一人脸特征集进行合并处理,可以包括以下步骤S1031-S1035:
步骤S1031,针对每两个第一人脸特征集,执行以下步骤S1032-S1035。
其中,获取通过上述步骤S1021-S1023进行筛选之后获得的多个第一人脸特征集,针对每两个第一人脸特征集执行下述步骤。
步骤S1032,获取一个第一人脸特征集的多个聚类中心,以及获取另一第一人脸特征集的多个聚类中心。
该步骤中,每个第一人脸特征集的多个聚类中心,是通过上述步骤S1022对第一人脸特征集中的多个聚类中心进行筛选之后获得的。
步骤S1033,确定一个第一人脸特征集的每个聚类中心,分别与另一第一人脸特征集的多个聚类中心的相似度,获得相似度向量。
步骤S1034,基于获得的多个相似度向量构建类间相似度矩阵,确定类间相似度矩阵中达到第一相似度阈值的目标相似度,将目标相似度的数量作为相似度比对结果。
例如,假设一个第一实体标签的第一人脸特征集A包含K1个聚类中心,另一个第一实体标签的第一人脸特征集B包含K2个聚类中心,针对第一人脸特征集A中的每个聚类中心,逐个计算与第一人脸特征集B中的K2个聚类中心的相似度,得到一个维度为K2的相似度向量,将获得的K1个维度为K2的相似度向量组成类间相似度矩阵
Figure BDA0003826953670000141
Figure BDA0003826953670000142
的维度是K1*K2;遍历
Figure BDA0003826953670000143
统计
Figure BDA0003826953670000144
中相似度达到相似度阈值的数量,作为类间相似度矩阵
Figure BDA0003826953670000145
中达到相似度阈值的目标相似度的数量,例如相似度阈值为0.6,对此不作限定。
步骤S1035,若相似度比对结果满足预设条件,则将一个第一人脸特征集与另一第一人脸特征集进行合并处理。
该步骤中,预设条件可以是:类间相似度矩阵中达到相似度阈值的目标相似度的数量占比达到预设比值等。例如:目标相似度的数量大于80%,则认为上述两个第一实体标签对应同一人物,将对应的两个第一人脸特征集进行合并处理。
如果上述目标相似度的数量不满足预设条件,可以认为上述两个第一实体标签之间的人脸特征无交叉,继续比对其中一个第一实体标签的第一人脸特征集与下一个第一实体标签的第一人脸特征集。
在一些实施例中,考虑到一个第一人物图像中可能包含多个人物,导致不同的第一实体标签可能对应相同的人脸特征,需要将相同的人脸特征删除。针对通过上述步骤S1031-S1035确定需要合并处理的两个第一人脸特征集,可以继续进行内部数据清洗,以保证合并后的第一人脸特征集中的人脸特征不重复。
可选的,上述步骤S1035中将一个第一人脸特征集与另一第一人脸特征集进行合并处理之前,还可以执行以下步骤B1-B4:
B1、基于一个第一人脸特征集的每个聚类中心,分别与一个第一人脸特征集的其它各个聚类中心的相似度,构建第一类内相似度矩阵;
其中,第一类内相似度矩阵与上述实施例中的类内相似度矩阵Mintra的构建方式类似,假设上述一个第一人脸特征集包括K个聚类中心,则将这些聚类中心两两计算余弦相似度,形成维度是K*K的第一类内相似度矩阵。
B2、基于另一第一人脸特征集的每个聚类中心,分别与另一第一人脸特征集的其它各个聚类中心的相似度,构建第二类内相似度矩阵。
第二类内相似度矩阵与上述第一类内相似度矩阵的计算方式类似,在此不再赘述。
B3、若基于第一类内相似度矩阵、第二类内相似度矩阵以及类间相似度矩阵,确定一个第一人脸特征集中的目标聚类中心与另一第一人脸特征集的各个聚类中心满足第一预设关系,则将目标聚类中心所在的第一人脸特征簇剔除;
其中,类间相似度矩阵通过上述步骤S1034中获得,即针对第一人脸特征集A中的每个聚类中心,逐个计算与第一人脸特征集B中的K2个聚类中心的相似度,得到一个维度为K2的相似度向量,将获得的K1个维度为K2的相似度向量组成类间相似度矩阵
Figure BDA0003826953670000151
例如:第一人脸特征集A的第一类内相似度矩阵为
Figure BDA0003826953670000152
第一人脸特征集B的第二类内相似度矩阵为
Figure BDA0003826953670000153
类间相似度矩阵为
Figure BDA0003826953670000154
分别计算
Figure BDA0003826953670000155
中每一行的均值和每一列的均值,得到
Figure BDA0003826953670000156
Figure BDA0003826953670000157
再计算
Figure BDA0003826953670000158
中每一行的均值(除去与当前行相同序号的列的元素),得到
Figure BDA0003826953670000159
计算
Figure BDA00038269536700001510
中每一行的均值(除去与当前行相同序号的列的元素),得到
Figure BDA00038269536700001511
依次将
Figure BDA00038269536700001512
中的第i个元素与
Figure BDA00038269536700001513
中的第i个元素比较,如果大于,则说明第一人脸特征集A的第i个聚类中心与第一人脸特征集B的相似度更高,删除第一人脸特征集A中的第i个聚类中心所在的第一人脸特征簇。
B4、若基于第一类内相似度矩阵、第二类内相似度矩阵以及类间相似度矩阵,确定另一第一人脸特征集中的目标聚类中心与一个第一人脸特征集的各个聚类中心满足第二预设关系,则将目标聚类中心所在的第一人脸特征簇剔除。
与上述步骤B3类似,依次将
Figure BDA00038269536700001514
中的第j个元素与
Figure BDA00038269536700001515
中的第j个元素比较,若大于,则说明第一人脸特征集B中的第j个聚类中心与第一人脸特征集A的相似度更高,删除第一人脸特征集B中的第j个聚类中心所在的第一人脸特征簇。
基于本公开上述实施例,构建出一个多样的可靠的人脸特征库。下面实施例中可以实时获取新的人物图像以及对应的新的实体标签,定时更新构建的人脸特征库,以使人脸特征库更丰富。
在一些实施例中,如图4所示,在上述实施例中的步骤S101-S104的基础上,还可以执行以下步骤S105-S106:
步骤S105,获取第二实体标签集以及第二人物图像集,第二实体标签集中的每个第二实体标签与第二人物图像集中的至少一个第二人物图像相对应;
可选的,步骤S105中获取第二实体标签集和第二人物图像集,可以包括以下步骤C1-C2:
C1、针对任一第二网络页面,对第二网络页面中的页面内容进行识别,若识别到人物图像以及人物实体信息,则基于人物实体信息获得第二实体标签,以及将识别到的人物图像作为第二实体标签对应的第二人物图像。
本公开实施例中,第二网络页面可以是任一具有访问权限的网络平台中的网络页面,上述实施例中的第一网络页面可以是历史网络页面,这里的第二网络页面可以是新的网络页面。如果在某个第二网络页面中识别到人物图像,同时,基于自然语言处理分析提取到人物实体信息,则基于人物实体信息和人物图像,获得第二实体标签及其对应的第二人物图像。
C2、基于由多个第二网络页面获得的各个第二实体标签,获得第二实体标签集,以及基于每个第二实体标签对应的至少一个第二人物图像,获得第二人物图像集。
步骤S106,针对每个第二人物图像,若从人脸特征库中检索到与第二人物图像中的人脸特征相匹配的目标人脸特征,则将第二人物图像中的人脸特征保存至人脸特征库中的目标人脸特征对应的目标实体标签下。
其中,针对每个第二人物图像进行人脸检测,若检测到人脸,则对人脸图像进行人脸特征提取,获得人脸特征,从人脸特征库中检索是否存在与该人脸特征匹配的目标人脸特征,例如:两个人脸特征的相似度达到第三相似度阈值,可以认为这两个人脸特征相匹配。第二相似度阈值可以根据需要设置,例如为0.6,对此不作限定。
可选的,为了进一步保证上述第二人物图像中的人脸特征与目标实体标签相匹配,当从人脸特征库中检索到与第二人物图像中的人脸特征相匹配的目标人脸特征时,还可以确定目标人脸特征是否满足以下两种条件中的至少一个:
第一种条件,目标人脸特征对应的目标实体标签与第二人物图像对应的第二实体标签一致;
第二种条件,目标人脸特征与第二人物图像中的人脸特征的相似度小于第二相似度阈值;其中,第二相似度阈值可以设置的较高,例如为0.9或者0.95等,对此不作限定,通过该条件的限制,可以避免将十分相似的人脸特征重复入库。
如果目标人脸特征满足上述两种条件中的至少一个,则将第二人物图像中的人脸特征保存至人脸特征库中的目标实体标签下。
步骤S107,针对每个第二人物图像,若从人脸特征库中未检索到与第二人物图像中的人脸特征相匹配的目标人脸特征,则将第二人物图像作为待入库的候选人物图像。
步骤S108,基于获得的多个候选人物图像各自对应的第二标签,获得新的第二实体标签集,以及对多个候选人物图像分别进行预处理,获得第二人脸特征集;其中,预处理至少包括人脸检测以及人脸特征提取。
该步骤中,对多个候选人物图像分别进行预处理的过程,与本公开上述实施例中步骤S101的实施过程类似,在此不再赘述。
步骤S109,将第二人脸特征集以及新的第二实体标签集保存至人脸特征临时库,新的第二实体标签集中的每个第二实体标签与第二人脸特征集中的至少一个人脸特征相对应。
可选的,如图5所示,步骤S109中将第二人脸特征集以及新的第二实体标签集保存至人脸特征临时库,可以包括以下步骤S1091-S1093:
步骤S1091,将第二人脸特征集中的多个人脸特征进行聚类处理,获得多个第二人脸特征簇,每个第二人脸特征簇包括一个聚类中心。
其中,可以基于聚类算法对多个人脸特征进行聚类处理,例如聚类算法为kmeans,设置聚类中心的数量与第二实体标签的数量相同,即每个第二实体标签对应一个第二人脸特征簇。
步骤S1092,针对每个第二人脸特征簇,若第二人脸特征簇中的候选人脸特征与对应的聚类中心的相似度不满足第四相似度条件,则将候选人脸特征从所述第二人脸特征簇中剔除。
其中,第四相似度条件可以是达到第四阈值,例如0.6,对此不作限定。
步骤S1093,基于新获得的多个第二人脸特征簇,获得新的第二人脸特征集,将新的第二人脸特征集以及新的第二实体标签集对应保存至人脸特征临时库。
在一些实施例中,针对上述人脸特征临时库中的新的第二人脸特征集以及新的第二实体标签集,可以定期保存至构建的人脸特征库中,具体可以执行以下步骤D1-D2:
D1、针对新的第二实体标签集中的每个第二实体标签,对第二实体标签对应的多个人脸特征进行预设筛选处理,获得第三人脸特征集。
该步骤与本公开上述实施例中的步骤S102的实施过程类似,即将多个人脸特征进行聚类处理,获得多个第三人脸特征簇,再继续执行筛选处理,在此不再赘述。
D2、将获得多个第三人脸特征集以及多个第三人脸特征集各自对应的第二实体标签,保存至人脸特征库。
本公开实施例中,可以每隔固定时间,例如几天、一周等,对人脸特征临时库中的新的第二人脸特征集以及新的第二实体标签集,执行上述步骤D1和D2。为了保证准确性,在执行上述步骤D1时,可以设定上述第三人脸特征簇中的最小人脸特征数量,例如为5,对此不作做限定;在执行上述步骤D2时,设定每个第二实体标签对应的第三人脸特征集中的最小人脸特征数量,例如为10,对此不作做限定。
下面结合具体实例对本公开实施例的人脸特征库的构建方法以及更新方法进行示例性介绍。
如图6所示,在构建阶段,使用大量的互联网历史数据(历史网络页面中的页面内容),基于人脸特征库构建系统,构建初始的人脸特征库,后续每隔固定时间,对于互联网新增数据(新的网络页面中的页面内容),基于人脸特征库更新系统,若判定新增的人物图像中的人脸特征,属于人脸特征库中已有的人物(具有上述第一实体标签),则将该人物图像中的人脸特征加入人脸特征库,或者,当该人物图像中的人脸特征与人脸特征库中已有的人脸特征重复时,丢弃该人物图像中的人脸特征;若判定新增的人物图像中的人脸特征不属于人脸特征库中已有的人物,则先将该人物图像存入人脸特征临时库,定期对人脸特征临时库中的人物图像进行汇总,当人物图像的数量达到设定数量时,可以将人脸特征临时库合并入人脸特征库,完成人脸特征库的更新。
下面对人脸特征库构建系统的构建过程进行示例性介绍。
人脸特征库构建系统基于一份预先获取的人物名单,将每个人物的姓名或称呼生成一个人物实体标签(对应上述实施例中第一实体标签),具体的,从互联网历史数据中获取大量人物图像,构成每个人物实体标签对应的人物图像集,获得的大量人物图像通常存在以下问题:
1、人物图像中无人脸,需要删除;
2、多个重复相同的人物图像,需要去重;
3、人物图像中的人物与人物实体标签不符,需要删除;
4、一个人物可能不止有一个常用名,导致一个人物对应多个人物图像集,需要合并处理;
5、一个人物图像中同时存在多个人物,导致不同人物对应的人物图像集之间有混合,需要删除合并。
针对以上问题,本公开实施例通过以下流程对多个人物实体标签对应的人物图像集进行清洗筛选,完成可靠的人脸特征库的构建,如图7所示,具体包括以下流程:
1)人脸检测:对每个人物实体标签对应的人物图像集进行人脸检测,剔除无人脸图像,获取人脸图像集,并基于每个人脸图像中的人脸关键点对人脸图像进行校正;
2)人脸特征提取:针对每个人物实体标签对应的多个矫正后的人脸图像,使用人脸特征提取算法对校正后的每个人脸图像进行特征提取,得到人脸特征;
3)人物实体标签内部清洗:对每个人物实体标签的多个人脸特征进行聚类处理,得到多个聚类中心,同时删除与该人物实体标签不相关的人脸特征,以保证每个人物实体标签的人脸特征的一致性和多样性;
4)人物实体标签间清洗:计算每个人物实体标签的人脸特征集与其它人物实体标签之间的人脸特征集相似度,应该合并的不同人脸特征集进行合并,同时将存在一定相似性的混杂人脸特征进行剔除,得到最终的人脸特征库。
下面对上述人脸检测及人脸特征提取过程进行示例性介绍。
针对每一个人物实体标签对应的人物图像集,对人物图像集使用人脸检测器和特征提取器,提取到一组数量为N的人脸特征集合,记为{F1,F2,F3,F4...FN}。其中每一个Fn是一个一维的特征向量(f1,f2,f3,...fM),向量长度M由特征提取器确定,例如为256或512。
下面对人物实体标签内部数据清洗过程进行示例性介绍。
基于上述过程,针对每一个人物实体标签,初步获得N个人脸特征,这些人脸特征大部分属于同一个人物,但由于网络数据的杂乱,可能存在一部分噪声数据,首先对这N个人脸特征进行分析筛选以剔除噪声数据。如图8所示,主要筛选流程如下:
a1、采用聚类算法,例如meanshift算法,使用较小的半径r,如0.8,对一个人物实体标签的N个人脸特征{F1,F2,F3,F4...FN}进行聚类,到K个聚类中心,其中K<N,是由meanshift算法计算得到,将其它的人脸特征归类到一个聚类中心Fk,形成一组人脸特征簇Ck,将不属于任何一个人脸特征簇的人脸特征删除。
a2、将这K个聚类中心,两两计算相似度,例如余弦相似度,形成维度是K*K的类内相似度矩阵Mintra,其中特征向量Fa和特征向量Fb的相似度计算公式如上述实施例中的式(1)。
逐行遍历矩阵Mintra,若某个聚类中心和其它聚类中心的相似度均小于第一阈值T1=0.5,认为这个聚类中心所在的人脸特征簇中的人脸特征,与该人物实体标签下的其它人脸特征差距过大,删除这个聚类中心所在的人脸特征簇;
a3、对于一个人脸特征簇Ck,计算其中的每一个人脸特征到聚类中心Fk的相似度,删除相似度小于第二阈值T2=0.6的人脸特征,以剔除噪声数据,若此时该人脸特征簇中的人脸特征数量小于簇内的最小人脸特征数量,例如为2,则删除这个人脸特征簇,以保证人脸特征簇中的人脸特征之间的距离在合理范围内;
a4、对人脸特征簇Ck中剩下的人脸特征,两两计算相似度,得到簇内相似度矩阵Mcluster,逐行遍历Mcluster,若存在与当前人脸特征的相似度大于第三阈值T3=0.95的人脸特征,则删除该人脸特征,以去除非常相似的人脸特征,避免重复入库;
通过以上筛选,确定最后获得的每个人物实体标签对应的人脸特征的数量,若小于类内的最小人脸特征数量,例如为5,则认为可靠性不够,删除该人物实体标签对应的人脸特征集。
通过以上步骤,保留下来的每一个人物实体标签对应的人脸特征集,都有一定的数据量,且具有一定的一致性和多样性。
下面对人物实体标签间数据清洗过程进行示例性介绍。
人物实体标签之间的数据清洗,指将一个人物实体标签的人脸特征集与其它人物实体标签的人脸特征集进行分析比对,将属于同一个人物的人脸特征集合并,不同人物之间的人脸特征无交叉,进一步提高人脸特征库中数据的准确性。具体流程包括:
b1、获取一个人物实体标签的人脸特征集A的多个聚类中心,设为聚类中心的数量为K1,将人脸特征集A的每个聚类中心,逐个与其它人物实体标签的人脸特征集B的多个聚类中心进行余弦相似度计算,得到类间相似度矩阵
Figure BDA0003826953670000191
设人脸特征集B的聚类中心的数量为K2,则
Figure BDA0003826953670000192
的维度是K1*K2
b2、遍历类间相似度矩阵
Figure BDA0003826953670000193
统计
Figure BDA0003826953670000194
中元素值大于第二阈值T2=0.6的数量,若所有元素的值都小于0.6,则认为这两个人脸特征集的人脸特征无交叉,继续比对下一个人物实体标签对应的人脸特征集,若
Figure BDA0003826953670000195
中的元素值大于0.6的数量大于或等于80%,则认为这两个人脸特征集属于同一个人物,对这两个人脸特征集进行合并,对合并后的人脸特征集再次进行人物实体标签内部数据清洗操作;
b3、对类间相似度矩阵
Figure BDA0003826953670000201
分别求每一行的均值和每一列的均值,得到
Figure BDA0003826953670000202
Figure BDA0003826953670000203
再对人脸特征集A的类内相似度矩阵
Figure BDA0003826953670000204
和人脸特征集B的类内相似度矩阵
Figure BDA0003826953670000205
分别求每一行的均值(除去与当前行相同序号的列的元素),得到
Figure BDA0003826953670000206
Figure BDA0003826953670000207
依次将
Figure BDA0003826953670000208
中的第i个元素与
Figure BDA0003826953670000209
中的第i个元素比较,若前者大于后者,则说明人物A的第i个聚类中心与B相似度更高,直接删除A中第i个聚类中心及其对应的特征簇。同样的,依次将
Figure BDA00038269536700002010
中的第j个元素
Figure BDA00038269536700002011
中的第j个元素比较,若前者大于后者,则说明人脸特征集B中的第j个聚类中心与人脸特征集A相似度更高,直接删除人脸特征集B中的第j个聚类中心及其对应的人脸特征簇。
基于以上步骤,一个多样的可靠的人脸特征库构建完成。
下面对人脸特征库更新系统的更新过程进行示例性介绍。
网络平台中每日都有海量的新增内容,产生一些新的人物图像,基于新的人物图像更新人脸特征库,可以进一步提高人物人脸识别的时效性和准确性。人脸特征库更新系统,通过从网络平台中获取新的人物图像和对应的新的人物实体标签,定时对人脸特征库进行更新。具体流程包括:
c1、定期从具有访问权限的网络平台中获取网络页面,针对一个网络页面的页面内容,基于自然语言处理分析提取人物实体标签信息,若提取到人物实体标签信息,同时识别到人物图像,得到新的人物实体标签集labelA={label_1、label_2...label_n},以及新的人物图像集imgA={img_1,img_2...img_m}。
c2、将imgA中的人物图像依次送入人脸特征库进行检索,设定识别阈值为0.6,若检索到标签lablei,且lablei属于labelA,则在labelA中删除labeli,若识别置信度小于第三阈值T3=0.95,则将当前人物图像中的人脸特征保存至人脸特征库中;若lablei不属于labelA,则直接删除当前人物图像。
c3、将(img_1,img_2...img_m)经过上述步骤c2后,剩余的人物实体标签集记为labelB,剩余的人物图像集记为imgB;对imgB中的人物图像提取人脸特征后,使用聚类算法进行聚类,例如聚类算法为kmeans,聚类中心的数量与labelB中的人物实体标签的数量一致,计算每一个人脸特征到其最近的聚类中心的距离,若大于第二阈值T2=0.6,则删除当前人脸特征。将剩下的人脸特征保存至人脸特征临时库中,同时,每一个人脸特征对应labelB中的一个人物实体标签。
c4、每隔固定时间(如几天、一周),对人脸特征临时库中的每个人物实体标签对应的人脸特征集,使用人物实体标签内部数据清洗过程进行清洗,为了保证准确性,设置人脸特征簇中的最小人脸特征数量,例如为5,以及设置每个人物实体标签的人脸特征集中的最小人脸特征数量,例如为10。将每个人物实体标签对应的人脸特征集,进行人物实体标签内部数据清洗后,若剩余的人脸特征的数量达到10,则将该人物实体标签及其对应的人脸特征集保存至到人脸特征库中,同时,删除人脸特征临时库中的该人物实体标签及其对应的人脸特征集。
通过上述更新过程,实现人物实体内部多样性的更新以及新晋人物入库的时效性,进一步提高了人物人脸特征库的准确性。
本公开实施例提出了一种自动化快速构建和更新大规模人脸特征库的方案,可以实现在无人工或极少人工参与下的人脸特征库的构建和更新。通过人物实体标签内部清洗和人物实体标签间清洗的双维度过滤筛选方案,通过聚类算法和多维度相似度矩阵分析,有效实现数据筛选,实现高准确率、多样性的人脸特征库的构建。
基于相同的发明构思,本公开实施例还提供了一种人脸特征库构建装置,该装置解决问题的原理与上述实施例的方法相似,因此该装置的实施可以参见方法的实施,重复之处不再赘述。
如图9所示,本公开实施例还提供了一种人脸特征库构建装置,包括:
第一获取模块91,用于针对第一实体标签集中的每个第一实体标签,获取第一实体标签对应的多个第一人物图像,对多个第一人物图像分别进行预处理,获得多个人脸特征;其中,预处理至少包括人脸检测以及人脸特征提取;
筛选模块92,用于针对每个第一实体标签,对第一实体标签对应的多个人脸特征进行预设筛选处理,获得第一人脸特征集;
比对模块93,用于将多个第一人脸特征集中的每两个第一人脸特征集进行相似度比对,在每次相似度比对中,若两个第一人脸特征集的相似度比对结果满足预设条件,则将任意两个第一人脸特征集进行合并处理;
构建模块94,用于基于新获得的多个第一人脸特征集以及第一实体标签集,构建人脸特征库。
可选的,筛选模块92还用于:
对第一实体标签对应的多个人脸特征进行聚类处理,获得多个第一人脸特征簇,每个第一人脸特征簇包括一个聚类中心;
针对每个聚类中心,若聚类中心分别与各个其它聚类中心的相似度均不满足第一相似度条件,则删除聚类中心所在的第一人脸特征簇;
基于剩余的多个第一人脸特征簇,获得第一人脸特征集。
可选的,基于剩余的多个第一人脸特征簇,获得第一人脸特征集时,筛选模块92还用于:
针对剩余的每个第一人脸特征簇,确定第一人脸特征簇中的每个人脸特征与对应的聚类中心的相似度,将相似度不满足第二相似度条件的人脸特征从第一人脸特征簇中剔除;
基于新获得的多个第一人脸特征簇,获得第一人脸特征集。
可选的,基于新获得的多个第一人脸特征簇,获得第一人脸特征集时,筛选模块92还用于:
针对新获得的每个第一人脸特征簇,确定第一人脸特征簇中的每个人脸特征分别与多个其它人脸特征的相似度,将相似度满足第三相似度条件的其它人脸特征从第一人脸特征簇中剔除;
基于再次新获得的多个第一人脸特征簇,获得第一人脸特征集。
可选的,基于再次新获得的多个第一人脸特征簇,获得第一人脸特征集时,筛选模块92还用于:
针对再次新获得的每个第一人脸特征簇,若第一人脸特征簇中的人脸特征的数量不满足数量条件,则将第一人脸特征簇删除。
可选的,比对模块93还用于:
针对每两个第一人脸特征集,执行以下操作:
获取一个第一人脸特征集的多个聚类中心,以及获取另一第一人脸特征集的多个聚类中心;
确定一个第一人脸特征集的每个聚类中心,分别与另一第一人脸特征集的多个聚类中心的相似度,获得相似度向量;
基于获得的多个相似度向量构建类间相似度矩阵,确定类间相似度矩阵中达到第一相似度阈值的目标相似度,将目标相似度的数量作为相似度比对结果;
若相似度比对结果满足预设条件,则将一个第一人脸特征集与另一第一人脸特征集进行合并处理。
可选的,如图10所示,还包括剔除模块95,用于:
基于一个第一人脸特征集的每个聚类中心,分别与一个第一人脸特征集的其它各个聚类中心的相似度,构建第一类内相似度矩阵;
基于另一第一人脸特征集的每个聚类中心,分别与另一第一人脸特征集的其它各个聚类中心的相似度,构建第二类内相似度矩阵;
若基于第一类内相似度矩阵、第二类内相似度矩阵以及类间相似度矩阵,确定一个第一人脸特征集中的目标聚类中心与另一第一人脸特征集的各个聚类中心满足第一预设关系,则将目标聚类中心所在的第一人脸特征簇剔除;
若基于第一类内相似度矩阵、第二类内相似度矩阵以及类间相似度矩阵,确定另一第一人脸特征集中的目标聚类中心与一个第一人脸特征集的各个聚类中心满足第二预设关系,则将目标聚类中心所在的第一人脸特征簇剔除。
可选的,装置还包括:
第二获取模块96,用于获取第二实体标签集以及第二人物图像集,第二实体标签集中的每个第二实体标签与第二人物图像集中的至少一个第二人物图像相对应;
第一更新模块97,用于针对每个第二人物图像,若从人脸特征库中检索到与第二人物图像中的人脸特征相匹配的目标人脸特征,则将第二人物图像中的人脸特征保存至人脸特征库中的目标人脸特征对应的目标实体标签下。
可选的,第一更新模块97还用于:
若从人脸特征库中检索到与第二人物图像中的人脸特征相匹配的目标人脸特征,则确定目标人脸特征是否满足以下条件中的至少一个:目标人脸特征对应的目标实体标签与第二人物图像对应的第二实体标签一致,目标人脸特征与第二人物图像中的人脸特征的相似度小于第二相似度阈值;
若满足,则将第二人物图像中的人脸特征保存至人脸特征库中的目标实体标签下。
可选的,装置还包括保存模块98,用于:
针对每个第二人物图像,若从人脸特征库中未检索到与第二人物图像中的人脸特征相匹配的目标人脸特征,则将第二人物图像作为待入库的候选人物图像;
基于获得的多个候选人物图像各自对应的第二标签,获得新的第二实体标签集,以及对多个候选人物图像分别进行预处理,获得第二人脸特征集;其中,预处理至少包括人脸检测以及人脸特征提取;
将第二人脸特征集以及新的第二实体标签集保存至人脸特征临时库,新的第二实体标签集中的每个第二实体标签与第二人脸特征集中的至少一个人脸特征相对应。
可选的,将第二人脸特征集以及新的第二实体标签集保存至人脸特征临时库时,保存模块98还用于:
将第二人脸特征集中的多个人脸特征进行聚类处理,获得多个第二人脸特征簇,每个第二人脸特征簇包括一个聚类中心;
针对每个第二人脸特征簇,若第二人脸特征簇中的候选人脸特征与对应的聚类中心的相似度不满足第四相似度条件,则将候选人脸特征从所述第二人脸特征簇中剔除;
基于新获得的多个第二人脸特征簇,获得新的第二人脸特征集,将新的第二人脸特征集以及新的第二实体标签集对应保存至人脸特征临时库。
可选的,装置还包括第二更新模块99,用于:
针对新的第二实体标签集中的每个第二实体标签,对第二实体标签对应的多个人脸特征进行预设筛选处理,获得第三人脸特征集;
将获得多个第三人脸特征集以及多个第三人脸特征集各自对应的第二实体标签,保存至人脸特征库。
可选的,第一获取模块91还用于:
针对任一第一网络页面,对第一网络页面中的页面内容进行识别,若识别到人物图像以及与任一第一实体标签匹配的人物实体信息,则将识别到的人物图像作为任一第一实体标签对应的第一人物图像;
从多个第一网络页面中,识别到每个第一实体标签对应的多个第一人物图像。
可选的,第二获取模块96还用于:
针对任一第二网络页面,对第二网络页面中的页面内容进行识别,若识别到人物图像以及人物实体信息,则基于人物实体信息获得第二实体标签,以及将识别到的人物图像作为第二实体标签对应的第二人物图像;
基于由多个第二网络页面获得的各个第二实体标签,获得第二实体标签集,以及基于每个第二实体标签对应的至少一个第二人物图像,获得第二人物图像集。
为了描述的方便,以上各部分按照功能划分为各模块分别描述。当然,在实施本申请时可以把各模块的功能在同一个或多个软件或硬件中实现。
关于上述实施例中的装置,其中各个模块的具体执行方式已经在有关该方法的实施例中进行了详细描述,此处将不做详细阐述说明。
基于相同的发明构思,本公开实施例还提供了一种电子设备,该电子设备解决问题的原理与上述实施例的方法相似,因此该电子设备的实施可以参见方法的实施,重复之处不再赘述。
参阅图11所示,电子设备可以包括处理器1102和存储器1101。存储器1101向处理器1102提供存储器1101中存储的程序指令和数据。在本公开实施例中,存储器1101可以用于存储本公开实施例中人脸特征库构建的程序。
处理器1102通过调用存储器1101存储的程序指令,处理器1102用于执行上述任意方法实施例中的方法,例如图2所示的实施例提供的一种人脸特征库构建方法。
本公开实施例中不限定上述存储器1101和处理器1102之间的具体连接介质。本公开实施例在图11中以存储器1101和处理器1102之间通过总线1103连接,总线1103在图11中以粗线表示,其它部件之间的连接方式,仅是进行示意性说明,并不引以为限。总线1103可以分为地址总线、数据总线、控制总线等。为便于表示,图11中仅用一条粗线表示,但并不表示仅有一根总线或一种类型的总线。
存储器可以包括只读存储器(Read-Only Memory,ROM)和随机存取存储器(RandomAccess Memory,RAM),还可以包括非易失性存储器(Non-Volatile Memory,NVM),例如至少一个磁盘存储器。可选地,存储器还可以是至少一个位于远离前述处理器的存储装置。
上述处理器可以是通用处理器,包括中央处理器、网络处理器(NetworkProcessor,NP)等;还可以是数字指令处理器(Digital Signal Processing,DSP)、专用集成电路、现场可编程门陈列或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。
本公开实施例还提供了一种计算机存储介质,该计算机可读存储介质内存储有计算机程序,电子设备的处理器从计算机可读存储介质读取该计算机程序,处理器执行该计算机程序,使得该电子设备执行上述任意方法实施例中的人脸特征库构建方法。
在具体的实施过程中,计算机存储介质可以包括:通用串行总线闪存盘(USB,Universal Serial Bus Flash Drive)、移动硬盘、只读存储器(ROM,Read-Only Memory)、随机存取存储器(RAM,Random Access Memory)、磁碟或者光盘等各种可以存储程序代码的存储介质。
与上述方法实施例基于同一发明构思,本申请实施例提供了一种计算机程序产品或计算机程序,该计算机程序产品或计算机程序包括计算机指令,该计算机指令存储在计算机可读存储介质中。计算机设备的处理器从计算机可读存储介质读取该计算机指令,处理器执行该计算机指令,使得该计算机设备执行上述任意一种人脸特征库构建方法的步骤。
程序产品可以采用一个或多个可读介质的任意组合。可读介质可以是可读信号介质或者可读存储介质。可读存储介质例如可以是但不限于电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。可读存储介质的更具体的例子(非穷举的列表)包括:具有一个或多个导线的电连接、便携式盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。
本领域内的技术人员应明白,本公开的实施例可提供为方法、系统、或计算机程序产品。因此,本公开可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且,本公开可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
本公开是参照根据本公开的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器,使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中,使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品,该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。
这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上,使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理,从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
显然,本领域的技术人员可以对本公开进行各种改动和变型而不脱离本公开的精神和范围。这样,倘若本公开的这些修改和变型属于本公开权利要求及其等同技术的范围之内,则本公开也意图包含这些改动和变型在内。

Claims (10)

1.一种人脸特征库构建方法,其特征在于,包括:
针对第一实体标签集中的每个第一实体标签,获取所述第一实体标签对应的多个第一人物图像,对所述多个第一人物图像分别进行预处理,获得多个人脸特征;其中,所述预处理至少包括人脸检测以及人脸特征提取;
针对每个第一实体标签,对所述第一实体标签对应的多个人脸特征进行预设筛选处理,获得第一人脸特征集;
将多个第一人脸特征集中的每两个第一人脸特征集进行相似度比对,在每次相似度比对中,若两个第一人脸特征集的相似度比对结果满足预设条件,则将所述任意两个第一人脸特征集进行合并处理;
基于新获得的多个第一人脸特征集以及所述第一实体标签集,构建人脸特征库。
2.根据权利要求1所述的方法,其特征在于,所述对所述第一实体标签对应的多个人脸特征进行预设筛选处理,获得第一人脸特征集,包括:
对所述第一实体标签对应的多个人脸特征进行聚类处理,获得多个第一人脸特征簇,每个第一人脸特征簇包括一个聚类中心;
针对每个所述聚类中心,若所述聚类中心分别与各个其它聚类中心的相似度均不满足第一相似度条件,则删除所述聚类中心所在的第一人脸特征簇;
基于剩余的多个第一人脸特征簇,获得所述第一人脸特征集。
3.根据权利要求2所述的方法,其特征在于,所述基于剩余的多个第一人脸特征簇,获得所述第一人脸特征集,包括:
针对剩余的每个第一人脸特征簇,确定所述第一人脸特征簇中的每个人脸特征与对应的聚类中心的相似度,将相似度不满足第二相似度条件的人脸特征从所述第一人脸特征簇中剔除;
基于新获得的多个第一人脸特征簇,获得所述第一人脸特征集。
4.根据权利要求3所述的方法,其特征在于,所述基于新获得的多个第一人脸特征簇,获得所述第一人脸特征集,包括:
针对新获得的每个第一人脸特征簇,若所述第一人脸特征簇中的人脸特征的数量不满足数量条件,则将所述第一人脸特征簇删除。
5.根据权利要求3所述的方法,其特征在于,所述基于新获得的多个第一人脸特征簇,获得所述第一人脸特征集,包括:
针对新获得的每个第一人脸特征簇,确定所述第一人脸特征簇中的每个人脸特征分别与多个其它人脸特征的相似度,将相似度满足第三相似度条件的其它人脸特征从所述第一人脸特征簇中剔除;
基于再次新获得的多个第一人脸特征簇,获得所述第一人脸特征集。
6.根据权利要求2所述的方法,其特征在于,所述将多个第一人脸特征集中的每两个第一人脸特征集进行相似度比对,在每次相似度比对中,若两个第一人脸特征集的相似度比对结果满足预设条件,则将所述两个第一人脸特征集进行合并处理,包括:
针对每两个第一人脸特征集,执行以下操作:
获取一个第一人脸特征集的多个聚类中心,以及获取另一第一人脸特征集的多个聚类中心;
确定所述一个第一人脸特征集的每个聚类中心,分别与所述另一第一人脸特征集的多个聚类中心的相似度,获得相似度向量;
基于获得的多个相似度向量构建类间相似度矩阵,确定所述类间相似度矩阵中达到第一相似度阈值的目标相似度,将所述目标相似度的数量作为所述相似度比对结果;
若所述相似度比对结果满足预设条件,则将所述一个第一人脸特征集与所述另一第一人脸特征集进行合并处理。
7.根据权利要求6所述的方法,其特征在于,所述将所述一个第一人脸特征集与所述另一第一人脸特征集进行合并处理之前,还包括:
基于所述一个第一人脸特征集的每个聚类中心,分别与所述一个第一人脸特征集的其它各个聚类中心的相似度,构建第一类内相似度矩阵;
基于所述另一第一人脸特征集的每个聚类中心,分别与所述另一第一人脸特征集的其它各个聚类中心的相似度,构建第二类内相似度矩阵;
若基于所述第一类内相似度矩阵、所述第二类内相似度矩阵以及所述类间相似度矩阵,确定所述一个第一人脸特征集中的目标聚类中心与所述另一第一人脸特征集的各个聚类中心满足第一预设关系,则将所述目标聚类中心所在的第一人脸特征簇剔除;
若基于所述第一类内相似度矩阵、所述第二类内相似度矩阵以及所述类间相似度矩阵,确定所述另一第一人脸特征集中的目标聚类中心与所述一个第一人脸特征集的各个聚类中心满足第二预设关系,则将所述目标聚类中心所在的第一人脸特征簇剔除。
8.一种人脸特征库构建装置,其特征在于,包括:
第一获取模块,用于针对第一实体标签集中的每个第一实体标签,获取所述第一实体标签对应的多个第一人物图像,对所述多个第一人物图像分别进行预处理,获得多个人脸特征;其中,所述预处理至少包括人脸检测以及人脸特征提取;
筛选模块,用于针对每个第一实体标签,对所述第一实体标签对应的多个人脸特征进行预设筛选处理,获得第一人脸特征集;
比对模块,用于将多个第一人脸特征集中的每两个第一人脸特征集进行相似度比对,在每次相似度比对中,若两个第一人脸特征集的相似度比对结果满足预设条件,则将所述任意两个第一人脸特征集进行合并处理;
构建模块,用于基于新获得的多个第一人脸特征集以及所述第一实体标签集,构建人脸特征库。
9.一种电子设备,其特征在于,包括处理器和存储器,其中,所述存储器存储有可在所述处理器上运行的计算机程序,当所述计算机程序被所述处理器执行时,使得所述处理器执行权利要求1~7中任一所述方法的步骤。
10.一种计算机可读存储介质,其特征在于,其存储有计算机程序,当所述计算机程序在电子设备上运行时,使得所述电子设备执行权利要求1~7中任一所述方法的步骤。
CN202211063493.4A 2022-08-31 2022-08-31 人脸特征库构建方法、装置、电子设备和存储介质 Active CN115408564B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202211063493.4A CN115408564B (zh) 2022-08-31 2022-08-31 人脸特征库构建方法、装置、电子设备和存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202211063493.4A CN115408564B (zh) 2022-08-31 2022-08-31 人脸特征库构建方法、装置、电子设备和存储介质

Publications (2)

Publication Number Publication Date
CN115408564A true CN115408564A (zh) 2022-11-29
CN115408564B CN115408564B (zh) 2025-09-23

Family

ID=84164146

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202211063493.4A Active CN115408564B (zh) 2022-08-31 2022-08-31 人脸特征库构建方法、装置、电子设备和存储介质

Country Status (1)

Country Link
CN (1) CN115408564B (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN118521841A (zh) * 2024-07-24 2024-08-20 浙江大华技术股份有限公司 图像底库生成方法、装置、设备以及存储介质

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112000621A (zh) * 2019-05-27 2020-11-27 北京君正集成电路股份有限公司 一种不同人脸识别的样本库的合并方法
CN113361366A (zh) * 2021-05-27 2021-09-07 北京百度网讯科技有限公司 人脸标注方法、装置、电子设备和存储介质
CN113656422A (zh) * 2021-08-17 2021-11-16 北京百度网讯科技有限公司 人脸底库的更新方法及装置
CN113963303A (zh) * 2021-11-11 2022-01-21 百果园技术(新加坡)有限公司 图像处理方法、视频识别方法、装置、设备及存储介质

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112000621A (zh) * 2019-05-27 2020-11-27 北京君正集成电路股份有限公司 一种不同人脸识别的样本库的合并方法
CN113361366A (zh) * 2021-05-27 2021-09-07 北京百度网讯科技有限公司 人脸标注方法、装置、电子设备和存储介质
CN113656422A (zh) * 2021-08-17 2021-11-16 北京百度网讯科技有限公司 人脸底库的更新方法及装置
CN113963303A (zh) * 2021-11-11 2022-01-21 百果园技术(新加坡)有限公司 图像处理方法、视频识别方法、装置、设备及存储介质

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN118521841A (zh) * 2024-07-24 2024-08-20 浙江大华技术股份有限公司 图像底库生成方法、装置、设备以及存储介质

Also Published As

Publication number Publication date
CN115408564B (zh) 2025-09-23

Similar Documents

Publication Publication Date Title
CN110059807B (zh) 图像处理方法、装置和存储介质
CN111325245B (zh) 重复图像识别方法、装置、电子设备及计算机可读存储介质
Zhang et al. Panorama: a data system for unbounded vocabulary querying over video
CN111709473B (zh) 对象特征的聚类方法及装置
CN113343920A (zh) 人脸识别照片的分类方法、装置、电子设备和存储介质
CN111178196B (zh) 一种细胞分类的方法、装置及设备
CN116032741A (zh) 一种设备识别方法、装置、电子设备和计算机存储介质
Maihami et al. Automatic image annotation using community detection in neighbor images
Hernández et al. Video analysis system using deep learning algorithms
CN114416998B (zh) 文本标签的识别方法、装置、电子设备及存储介质
CN110083731B (zh) 图像检索方法、装置、计算机设备及存储介质
Maddumala A Weight Based Feature Extraction Model on Multifaceted Multimedia Bigdata Using Convolutional Neural Network.
Bai et al. An efficient indexing scheme based on k-plet representation for fingerprint database
CN115408564A (zh) 人脸特征库构建方法、装置、电子设备和存储介质
Zhu et al. Multi‐image matching for object recognition
Rawal et al. Predicting missing values in a dataset: challenges and approaches
CN110674334B (zh) 基于一致性区域深度学习特征的近重复图像检索方法
CN113779248A (zh) 数据分类模型训练方法、数据处理方法及存储介质
Toan et al. Audio fingerprint hierarchy searching on massively parallel with multi-GPGPUS using K-modes and LSH
CN110135294A (zh) 基于无监督交叉视角度量学习的行人再识别方法及系统
CN117932103A (zh) 一种目标检索方法、终端及计算机可读存储介质
CN117573867A (zh) 分类和分级非结构化数据方法、系统和计算机设备
Histograms Bi-level classification of color indexed image histograms for content based image retrieval
Nayef et al. Efficient symbol retrieval by building a symbol index from a collection of line drawings
Ji et al. Vocabulary tree incremental indexing for scalable location recognition

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant