CN113192028A - 人脸图像的质量评价方法、装置、电子设备及存储介质 - Google Patents

人脸图像的质量评价方法、装置、电子设备及存储介质 Download PDF

Info

Publication number
CN113192028A
CN113192028A CN202110471789.9A CN202110471789A CN113192028A CN 113192028 A CN113192028 A CN 113192028A CN 202110471789 A CN202110471789 A CN 202110471789A CN 113192028 A CN113192028 A CN 113192028A
Authority
CN
China
Prior art keywords
face
feature vector
extraction network
test feature
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202110471789.9A
Other languages
English (en)
Other versions
CN113192028B (zh
Inventor
刘冲冲
付贤强
何武
朱海涛
户磊
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hefei Dilusense Technology Co Ltd
Original Assignee
Beijing Dilusense Technology Co Ltd
Hefei Dilusense Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Dilusense Technology Co Ltd, Hefei Dilusense Technology Co Ltd filed Critical Beijing Dilusense Technology Co Ltd
Priority to CN202110471789.9A priority Critical patent/CN113192028B/zh
Publication of CN113192028A publication Critical patent/CN113192028A/zh
Application granted granted Critical
Publication of CN113192028B publication Critical patent/CN113192028B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/22Matching criteria, e.g. proximity measures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/168Feature extraction; Face representation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/172Classification, e.g. identification
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20081Training; Learning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20084Artificial neural networks [ANN]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30168Image quality inspection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30196Human being; Person
    • G06T2207/30201Face

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Health & Medical Sciences (AREA)
  • Data Mining & Analysis (AREA)
  • Multimedia (AREA)
  • Human Computer Interaction (AREA)
  • General Health & Medical Sciences (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • General Engineering & Computer Science (AREA)
  • Quality & Reliability (AREA)
  • Evolutionary Computation (AREA)
  • Evolutionary Biology (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Artificial Intelligence (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Image Analysis (AREA)
  • Image Processing (AREA)

Abstract

本发明实施例公开了一种人脸图像的质量评价方法、装置、电子设备及存储介质。人脸图像的评价方法,包括:获取来自同一人的Q张人脸图像,其中,Q为大于1的整数;将Q张人脸图像输入人脸识别模型中的特征提取网络,获取Q个测试特征向量,其中,特征提取网络的目标函数包含余弦相似度损失项;获取第q个测试特征向量与第p个测试特征向量之间的余弦相似度,得到Q个第一余弦相似度,其中,q为正整数且1≤q≤Q,p=1,2,……,Q;根据Q个第一余弦相似度生成第q个测试特征向量对应图像的评分标签,评分标签用于判断是否对第q个测试特征向量对应图像进行人脸识别。达到对人脸图像的质量评价客观、准确,并且能够与人脸识别模型契合的目的。

Description

人脸图像的质量评价方法、装置、电子设备及存储介质
技术领域
本发明实施例涉及人脸识别技术领域,特别涉及一种人脸图像的质量评价方法、装置、电子设备及存储介质。
背景技术
在人脸识别的过程中,不可避免地会出现人脸图像质量差的情况,例如图像光照条件较差、图像模糊、图像中人脸被遮挡等,进而造成人脸误识。为了解决这一问题,通常是在人脸识别之前,针对人脸图像的光照情况、模糊程度、遮挡情况等影响图像质量的因素,设计和训练出一个模拟人类直觉特性的评价模型,然后利用训练好的评价模型对人脸图像的质量进行评分,以根据评分判断人脸图像是否能够被人脸识别模型正确识别。
然而,评价模型输出的质量评分不能很好地契合人脸识别模型对人脸图像的要求,仍然会出现得分高的人脸图像不能获得较好的识别效果、得分低的人脸图像获得较好的识别效果的情况。此外,评价模型的训练集依赖于人工对图像的光照情况、模糊程度以及遮挡情况等特征进行标注,工作量大,而且标注是按照人类对图像质量的主观感知得到的,这会导致图像标注不够客观,进而严重影响最终的质量评价效果。
发明内容
本发明实施例的目的在于提供一种人脸图像的质量评价方法、装置、电子设备及存储介质,使得对人脸图像的质量评价客观、准确,并且能够与人脸识别模型契合。
为解决上述技术问题,本发明的实施例提供了一种人脸图像的评价方法,包括以下步骤:获取来自同一人的Q张人脸图像,其中,Q为大于1的整数;将所述Q张人脸图像输入人脸识别模型中的特征提取网络,获取Q个测试特征向量,其中,所述特征提取网络的目标函数包含余弦相似度损失项;获取第q个所述测试特征向量与第p个所述测试特征向量之间的余弦相似度,得到Q个第一余弦相似度,其中,q为正整数且1≤q≤Q,p=1,2,……,Q;根据所述Q个第一余弦相似度生成第q个所述测试特征向量对应图像的评分标签,所述评分标签用于判断是否对第q个所述测试特征向量对应图像进行人脸识别。
为解决上述技术问题,本发明的实施例还提供了一种人脸图像的评价系统,包括:特征提取模块,用于获取来自同一人的Q张人脸图像,其中,Q为大于1的整数;将所述Q张人脸图像输入人脸识别模型中的特征提取网络,获取Q个测试特征向量,其中,所述特征提取网络的目标函数包含余弦相似度损失项;计算模块,用于获取第q个所述测试特征向量与第p个所述测试特征向量之间的余弦相似度,得到Q个第一余弦相似度,其中,q为正整数且1≤q≤Q,p=1,2,……,Q;评价模块,用于根据所述Q个第一余弦相似度生成第q个所述测试特征向量对应图像的评分标签,所述评分标签用于判断是否对第q个所述测试特征向量对应图像进行人脸识别。
为解决上述技术问题,本发明的实施例还提供了一种电子设备,包括:至少一个处理器;以及,与所述至少一个处理器通信连接的存储器;其中,所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行如上所述的人脸图像的评价方法。
为解决上述技术问题,本发明的实施例还提供了一种计算机可读存储介质,存储有计算机程序,所述计算机程序被处理器执行时实现以上所述的人脸图像的评价方法。
本发明实施例提供的一种人脸图像的评价方法,在获取来自同一人的Q张人脸图像之后,利用人脸识别模型中的特征提取模型获取Q张人脸图像的特征,得到Q个测试特征向量,然后获取第q个测试特征向量与每个测试特征向量之间的余弦相似度作为Q个第一余弦相似度,最后根据Q个第一余弦相似度生成第q个测试特征向量对应图像的评分标签。在对人脸图像质量进行评价,生成评分标签的过程中,直接从人脸识别模型本身出发,不仅使得对人脸图像的评分标签更加契合人脸识别模型,能够根据对人脸图像的评分标签筛选出更加适合人脸识别模型使用和识别的高质量图像,从而大大减少人脸误识别情况的发生,而且不需要额外训练模拟人类直觉特性的评价模型,减少了人力投入的同时,也避免了在标注时参考人类对图像的主观评价对人脸图像质量评价的负面影响,更加客观准确。此外,特征提取网络的目标函数是基于余弦相似度表达式得到的,使得特征提取网络根据目标函数进行训练后输出的特征在余弦相似度方面体现出更大的区分度,进而使得根据余弦相似度得到的评分标签更加准确。
另外,本发明实施例提供的一种人脸图像的评价方法,所述将所述Q张人脸图像输入人脸识别模型中的特征提取网络,获取Q个测试特征向量之前,所述方法还包括:构造辅助训练网络和训练集;利用所述目标函数和所述训练集对所述特征提取网络和所述辅助训练网络进行联合训练,其中,所述特征提取网络的输出为所述辅助训练网络的输入。由于特征提取网络在训练的过程中会生成大量的特征向量,这些特征向量不利于直接作为网络训练过程中的反馈,因此,在训练过程中引入一个辅助训练网络,进一步对特征提取网络输出的特征向量进行处理,从而优化训练过程中的反馈。
另外,本发明实施例提供的一种人脸图像的评价方法,所述利用所述损失函数和所述训练集对所述特征提取网络和所述辅助训练网络进行联合训练之后,所述方法,还包括:构造一个验证集,其中,所述验证集和所述训练集的交集为空集;利用所述人脸提取网络分别提取所述验证集中人脸图像的特征向量,得到验证特征向量;根据所述验证特征向量确定所述人脸特征提取网络的准确率;若检测到所述准确率小于预设准确率阈值,继续训练。当人脸特征提取网络的准确率不满足要求时,继续对人脸特征提取网络进行训练,通过反复训练来保证人脸提取模型的准确率达到一定要求,使得利用人脸提取模型得到的特征向量更加准确可靠,从而提高根据特征向量得到的评分标签的准确性。
另外,本发明实施例提供的一种人脸图像的评价方法,所述根据所述验证特征向量确定所述人脸特征提取模型的准确率,包括:计算每两个所述验证特征向量之间的夹角并依次将所述夹角中的一个作为阈值;每次确定所述阈值后,确定小于等于所述阈值且对应的所述验证特征向量提取自同一人的人脸图像的所述夹角和大于所述阈值且所述验证特征向量提取自不同人的人脸图像的所述夹角的总个数;将所述总个数的最大值在所述夹角的总数量中的占比作为所述准确率。依次将得到的夹角中的一个作为阈值,提供了灵活多变的阈值,使得对特定夹角的数量统计更加全面准确,进而根据该数量统计结果计算得到的占比数据更加准确。
另外,本发明实施例提供的一种人脸图像的评价方法,所述目标函数为:
Figure BDA0003045652490000031
其中,w为所述特征提取网络的学习参数,t为所述辅助训练网络的学习参数,fi j,n为所述特征提取网络在输入第i个人的第j张人脸图像时输出的N维向量的第n维的数据,fm k,n为所述特征提取网络在输入第m个人的第k张人脸图像时的输出的N维向量中第n维位置上的数据,sign(x)为符号函数,x为真时函数值为1,x为假时函数值为-1。通过符号函数对两种情况——同一个人的人脸图像和不同人的人脸图像,进行了区分,使得能够向放大来自不同人的人脸图像的特征向量之间的区别、压缩来自同一人的人脸图像的特征向量之间区别的方向训练特征提取模型,进而使得特征提取模型输出的特征向量能够更好地反应同一人人脸图像的相似性和不同人的人脸图像的差异性,从而具有更好的提取效果。
另外,本发明实施例提供的一种人脸图像的评价方法,所述根据所述Q个第一余弦相似度生成第q个所述测试特征向量对应图像的评分标签之前,所述方法还包括:执行H次随机获取R张人脸图像的操作,其中,所述R张人脸图像中的任意两张都不同源;在每一次获取所述R张人脸图像之后,提取所述R张人脸图像的特征向量作为参考特征向量,计算所述参考特征向量和第q个所述测试向量之间的余弦相似度并平均,获取第二余弦相似度;确定所述第二余弦相似度中的最大值为第三余弦相似度;所述根据所述Q个第一余弦相似度生成第q个所述测试特征向量对应图像的评分标签之后,还包括:根据所述第三余弦相似度更新第q个所述测试特征向量对应图像的所述评分标签。在生成人脸图像的评分标签的过程中,引入其他人的人脸图像作为参考,使得得到的评分标签更加客观准确。
另外,本发明实施例提供的一种人脸图像的评价方法,所述根据所述Q个第一余弦相似度生成第q个所述测试特征向量对应图像的评分标签之后,所述方法还包括:获取与所述第q个所述测试特征向量对应图像同源的其余图像的所述评分标签作为参考评分标签;根据所述参考评分标签对所述第q个所述测试特征向量对应图像的所述评分标签的数值进行归一化。对评分标签的数值进行归一化,使得评分标签更加直观,有利于人脸识别模型根据评分标签对人脸图像进行筛选并得到准确的识别结果。
附图说明
一个或多个实施例通过与之对应的附图中的图片进行示例性说明,这些示例性说明并不构成对实施例的限定,附图中具有相同参考数字标号的元件表示为类似的元件,除非有特别申明,附图中的图不构成比例限制。
图1是本发明实施例中的人脸图像的评价方法的流程图;
图2是本发明另一实施例中的包括对特征提取网络进行训练的人脸图像的评价方法的流程图;
图3是本发明另一实施例中的包括对训练后的人脸图像进行检测的人脸图像的评价方法的流程图;
图4是图3所示的本发明另一实施例的人脸图像的评价方法中步骤108的流程图;
图5是本发明另一实施例中的包括在评价过程中引入其他人的人脸图像作为参考的人脸图像的评价方法的流程图;
图6是本发明另一实施例中的包括归一化流程的人脸图像的评价方法的流程图;
图7是本发明另一实施例中的人脸图像的评价系统的结构示意图;
图8是本发明另一实施例中的电子设备的结构示意图。
具体实施方式
为使本发明实施例的目的、技术方案和优点更加清楚,下面将结合附图对本发明的各实施例进行详细的阐述。然而,本领域的普通技术人员可以理解,在本发明各实施例中,为了使读者更好地理解本申请而提出了许多技术细节。但是,即使没有这些技术细节和基于以下各实施例的种种变化和修改,也可以实现本申请所要求保护的技术方案。并且以下各个实施例的划分是为了描述方便,不应对本发明的具体实现方式构成任何限定,各个实施例在不矛盾的前提下可以相互结合相互引用。
本发明实施例提供的一种人脸图像的评价方法,在获取来自同一人的Q张人脸图像之后,利用人脸识别模型中的特征提取模型获取Q张人脸图像的特征,得到Q个测试特征向量,然后获取第q个测试特征向量与每个测试特征向量之间的余弦相似度作为Q个第一余弦相似度,最后根据Q个第一余弦相似度确定第q个测试特征向量对应图像的评分标签。在对人脸图像质量进行评价,生成评分标签的过程中,直接从人脸识别模型本身出发,不仅使得对人脸图像的评分标签更加契合人脸识别模型,能够根据对人脸图像的评分标签筛选出更加适合人脸识别模型使用和识别的高质量图像,从而大大减少人脸误识别情况的发生,而且不需要额外训练模拟人类直觉特性的评价模型,减少了人力投入的同时,也避免了在标注时参考人类对图像的主观评价对人脸图像质量评价的负面影响,更加客观准确。此外,特征提取网络的目标函数是基于余弦相似度表达式得到的,使得特征提取网络根据目标函数进行训练后输出的特征在余弦相似度方面体现出更大的区分度,进而使得根据余弦相似度得到的评分标签更加准确。
下面将结合图1对本实施例的人脸图像的评价方法的实现细节进行具体的说明,以下内容仅为方便理解提供的实现细节,并非实施本方案的必须。
步骤100,获取来自同一人的Q张人脸图像,其中,Q为大于1的整数。
具体地说,在需要确定某张人脸图像q-image的评分时,随机选取与人脸图像q-image来自同一人的Q-1张人脸图像。
步骤101,将Q张人脸图像输入人脸识别模型中的特征提取网络,获取Q个测试特征向量,其中,特征提取网络的目标函数包含余弦相似度损失项。
人脸识别一般是利用人脸识别模型对输入的图像进行处理,得到识别结果,其中人脸识别模型包括提取人脸图像特征向量的特征提取网络和进行匹配和识别分类器等。
具体地说,将Q张人脸图像输入到人脸识别模型中的特征提取网络,接着特征提取网络将会输出的每张人脸图像对应的特征向量,一张人脸图像对应一个测试特征向量,也就是,得到Q个测试特征向量A、A……AQ
在一个例子中,特征提取网络为卷积神经网络。
需要说明的是,本实施例中涉及的特征提取网络,其目标函数是基于余弦相似度表达式得到的,也就是,特征提取网络是基于上述目标函数训练得到的。
步骤102,获取第q个测试特征向量与第p个测试特征向量之间的余弦相似度,得到Q个第一余弦相似度,其中,q为正整数且1≤q≤Q,p=1,2,……,Q。
具体地,第一余弦相似度通过以下表达式进行计算:
第一余弦相似度
Figure BDA0003045652490000061
其中,Aq、Ap分别为第q个测试特征向量与第p个测试特征向量,p=1,2,……,Q。
需要说明的是,本实施例实际是将从人脸图像q-image中提取出的特征向量作为第q个测试特征向量,依次计算人脸图像q-image对应的第q个测试特征向量与所有测试特征向量之间的余弦相似度作为第一余弦相似度。
步骤103,根据Q个第一余弦相似度生成第q个测试特征向量对应图像的评分标签,评分标签用于判断是否对第q个测试特征向量对应图像进行人脸识别。
具体地,计算Q个第一余弦相似度的平均值,将平均值作为第q个测试特征向量对应的图像的评分数值并生成评分标签。也就是说,将以上得到的第一余弦相似度的平均值作为人脸图像q-image的评分标签。
在一些实施例中,如图2所示,在步骤101之前,还包括对特征提取网络进行训练。具体包括:
步骤104,构造辅助训练网络和训练集。
具体地说,辅助训练网络可以是任意的深度学习网络,如卷积神经网络。训练集包括来自NID个人的nID张人脸图像,第i个人的人脸图像数量为nID(i)。需要说明的是,本实施例中每个人的人脸图像不少于一定数量,但是不对NID、nID和nID(i)进行具体的限定,如NID为2,nID为20,nID(1)为10,nID(2)为10。
在一个例子中,辅助训练网络的输入是特征提取网络输出的N维特征向量,输出是NID。
值得一提的是,由于特征提取网络在训练的过程中会生成大量的特征向量,这些特征向量不利于直接作为网络训练过程中的反馈,因此,在训练过程中引入一个辅助训练网络,进一步对特征提取网络输出的特征向量进行处理,从而优化训练过程中的反馈。
需要说明的是,在整个训练的过程中,不需要多次构造辅助训练网络和训练集,只需构造一次即能为整个训练过程提供训练用的数据。
步骤105,利用目标函数和训练集对特征提取网络和辅助训练网络进行联合训练,其中,特征提取网络的输出为辅助训练网络的输入。
具体地说,对特征提取网络和辅助训练网络进行级联,即将特征提取网络的输出作为辅助训练网络的输入,然后对级联后的网络整体进行训练。
在一些例子中,训练的方式是梯度迭代法。
在一些例子中,训练时采用的目标函数具体如下:
Figure BDA0003045652490000071
其中,w为特征提取网络的学习参数,t为辅助训练网络的学习参数,f i j,n为特征提取网络在输入第i个人的第j张人脸图像时输出的N维向量的第n维的数据,f m k,n为特征提取网络在输入第m个人的第k张人脸图像时的输出的N维向量中第n维位置上的数据,sign(x)为符号函数,x为真时函数值为1,x为假时函数值为-1。
值得一提的是,上述目标函数中的
Figure BDA0003045652490000072
项是余弦相似度表达式
Figure BDA0003045652490000073
(A和B均为向量)的变形,即特征提取网络的目标函数是基于余弦相似度表达式得到的,并且通过符号函数对两种情况——同一个人的人脸图像和不同人的人脸图像,进行了区分,使得能够向放大来自不同人的人脸图像的特征向量之间的区别、压缩来自同一人的人脸图像的特征向量之间区别的方向训练特征提取模型,进而使得特征提取模型输出的特征向量能够更好地反应同一人人脸图像的相似性和不同人的人脸图像的差异性,从而具有更好的提取效果。
进一步地,在一些实施例中,还对训练后的人脸图像进行检测,直到达到一定的准确率才不再继续训练,如图3所示,在步骤104之后具体包括:
步骤106,构造一个验证集,其中,验证集和训练集的交集为空集。
具体地说,验证集包括来自NID′个人的nID′张人脸图像,且第i个人的人脸图像数量为nID′(i)。需要说明的是,本实施例中每个人的人脸图像不少于一定数量,但是不对NID′、nID′和nID′(i)进行具体的限定,如NID′为3,nID′为15,nID′(1)为8,nID′(2)为6,nID′(3)为6。
步骤107,利用人脸提取网络分别提取验证集中人脸图像的特征向量,得到验证特征向量。
具体地说,利用特征提取网络提取验证集中每一张人脸图像的特征向量作为验证特征向量,一张人脸图像的特征向量为一个验证特征向量。
步骤108,根据验证特征向量确定人脸特征提取网络的准确率。
步骤109,判断准确率是否小于预设准确率阈值,若是,执行步骤105,若否,执行步骤101。
具体地说,根据实际需求设置一个准确率阈值,如0.9,然后以该准确率阈值为依据,只有准确率大于该准确率阈值的特征提取网络才为训练好的特征提取网络,并用于执行步骤101,否则继续训练。
值得一提的是,本实施例通过反复训练来保证人脸提取模型的准确率达到一定要求,使得利用人脸提取模型得到的特征向量更加准确可靠,从而提高根据特征向量得到的评分标签的准确性。
在一些实施例中,如图4所示,步骤108具体包括:
步骤1081,计算每两个验证特征向量之间的夹角并依次将夹角中的一个作为阈值。
具体地,计算两个验证特征向量之间的夹角通过以下表达式进行:
夹角
Figure BDA0003045652490000081
其中,i=1,2,……,NID′;m=1,2,……,NID′;j=1,2,……,nID′(i);k=1,2,……,nID′(m);
Figure BDA0003045652490000082
表示从验证集中第i个人的第j张人脸图像提取出的验证特征向量,
Figure BDA0003045652490000083
表示从验证集中第m个人的第k张人脸图像提取出的验证特征向量,
Figure BDA0003045652490000084
Figure BDA0003045652490000085
均为N维向量,
Figure BDA0003045652490000086
表示
Figure BDA0003045652490000087
中的第n维的特征数据,
Figure BDA0003045652490000088
表示
Figure BDA0003045652490000089
中的第n维的特征数据,
Figure BDA00030456524900000810
表示
Figure BDA00030456524900000811
Figure BDA00030456524900000812
之间的夹角。此时,能够得到nID′×nID′个夹角值,依次令阈值
Figure BDA00030456524900000813
步骤1082,每次确定阈值后,确定小于等于阈值且对应的验证特征向量提取自同一人的人脸图像的夹角和大于阈值且验证特征向量提取自不同人的人脸图像的夹角的总个数。
具体地说,每次确定了阈值thd之后,统计i=m时小于等于thd的
Figure BDA00030456524900000814
的数量PN和i≠m时大于thd的
Figure BDA0003045652490000091
的数量NN,计算PN+NN的和。
步骤1083,将总个数的最大值在夹角的总数量中的占比作为准确率。
具体地说,执行步骤1082将会得到nID′×nID′个PN+NN的和,选取其中的最大值并求取该最大值和nID′×nID′的比值,即准确率
Figure BDA0003045652490000092
值得一提的是,依次将得到的夹角中的一个作为阈值,提供了灵活多变的阈值,使得对特定夹角的数量统计更加全面准确,进而根据该数量统计结果计算得到的占比数据更加准确。
在一些实施例中,还在评价过程中引入其他人的人脸图像作为参考,如图5所示,在步骤103之前还包括:
步骤110,执行H次随机获取R张人脸图像的操作,其中,R张人脸图像中的任意两张都来自不同的人。
具体地说,随机确定R个人,从每个人的人脸图像中再随机确定出一张人脸图像,重复前述操作H次。
需要说明的是,本实施例中不对R和H的具体数值进行限定,R和H可以是任何一个正整数。
步骤111,在每一次获取R张人脸图像之后,提取R张人脸图像的特征向量作为参考特征向量,计算参考特征向量和第q个测试向量之间的余弦相似度并平均,得到第二余弦相似度。
具体地说,首先利用特征提取网络分别提取R张人脸图像的特征向量,得到R个参考特征向量,然后计算每一个参考向量和第q个测试特征向量之间的余弦相似度,接着对得到的R个余弦相似度进行平均,得到一个第二余弦相似度。
需要说明的是,由于获取R张人脸图像的操作执行了H次,因此,执行步骤111实际会得到H个第二余弦相似度。
步骤112,确定余弦相似度中的最大值为第三余弦相似度。
具体地说,第三余弦相似度=max(第二余弦参数)。
在步骤103之后还包括:
步骤113,根据第三余弦相似度更新第q个测试特征向量对应图像的评分标签。
具体地说,将第一余弦相似度的平均值与第三余弦相似度的差更新为第q个测试特征向量对应q图像的评分标签。
值得一提的是,在评价人脸质量的过程中,引入其他人的人脸图像作为参考,使得得到的评分标签更加客观准确。
在一些实施例中,还对评分标签的数值进行归一化,如图6所示,步骤103之后还包括:
步骤114,获取与第q个测试特征向量对应图像来自同一个人的其余图像的评分标签作为参考评分标签。
具体地说,对步骤101中涉及的Q张来自同一人的人脸图像中的部分或全部人脸图像进行评价,生成评分标签,具体过程参照生成第q个测试特征向量对应图像的评分标签的过程,得到若干个参考评分标签。
步骤115,根据参考评分标签对第q个测试特征向量对应图像的评分标签的数值进行归一化。
具体地说,归一化通过以下表达式进行:
Figure BDA0003045652490000101
其中,score′i表示归一化后第q个测试特征向量对应图像的评分标签的数值,scorei表示归一化前第q个测试特征向量对应图像的评分标签的数值,max(score)和min(score)分别表示参考评分标签和归一化前对第q个测试特征向量对应图像的评分标签数值中的最大值和最小值。
值得一提的是,通过对评分标签的数值进行归一化,使得评分标签更加直观,有利于人脸识别模型根据评分标签对人脸图像进行筛选并得到准确的识别结果。
需要说明的是,上述方法实施例中不对Q、R、H的具体数值进行限定,均为随机选取的符合要求的值。因此,在获取人脸图像的评分标签过程中,不需要对某个人的所有人脸图像进行遍历,也不需要获取每个人的一张人脸图像,减少了计算量,提高了效率。
上面各种方法的步骤划分,只是为了描述清楚,实现时可以合并为一个步骤或者对某些步骤进行拆分,分解为多个步骤,只要包括相同的逻辑关系,都在本专利的保护范围内;对算法中或者流程中添加无关紧要的修改或者引入无关紧要的设计,但不改变其算法和流程的核心设计都在该专利的保护范围内。
本发明的实施例还提供了一种人脸图像的评价系统,如图7所示,包括:
特征提取模块701,用于获取来自同一人的Q张人脸图像,其中,Q为大于1的整数;将Q张人脸图像输入人脸识别模型中的特征提取网络,获取Q个测试特征向量,其中,特征提取网络的目标函数包含余弦相似度损失项;
计算模块702,用于获取第q个测试特征向量与第p个测试特征向量之间的余弦相似度,得到Q个第一余弦相似度,其中,q为正整数且1≤q≤Q,p=1,2,……,Q;
评价模块703,用于根据Q个第一余弦相似度生成第q个测试特征向量对应图像的评分标签,评分标签用于判断是否对第q个测试特征向量对应图像进行人脸识别。
不难发现,本实施例为与方法实施例相对应的系统实施例,本实施例可与方法实施例互相配合实施。方法实施例中提到的相关技术细节在本实施例中依然有效,为了减少重复,这里不再赘述。相应地,本实施例中提到的相关技术细节也可应用在方法实施例中。
值得一提的是,本实施例中所涉及到的各模块均为逻辑模块,在实际应用中,一个逻辑单元可以是一个物理单元,也可以是一个物理单元的一部分,还可以以多个物理单元的组合实现。此外,为了突出本发明的创新部分,本实施例中并没有将与解决本发明所提出的技术问题关系不太密切的单元引入,但这并不表明本实施例中不存在其它的单元。
本发明的实施例还提供了一种电子设备,如图8所示,包括:
至少一个处理器801;以及,
与所述至少一个处理器801通信连接的存储器802;其中,
所述存储器802存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器801执行,以使所述至少一个处理器801能够执行本发明以上实施例所述的人脸图像的评价方法。
其中,存储器和处理器采用总线方式连接,总线可以包括任意数量的互联的总线和桥,总线将一个或多个处理器和存储器的各种电路链接在一起。总线还可以将诸如外围设备、稳压器和功率管理电路等之类的各种其他电路链接在一起,这些都是本领域所公知的,因此,本文不再对其进行进一步描述。总线接口在总线和收发机之间提供接口。收发机可以是一个元件,也可以是多个元件,比如多个接收器和发送器,提供用于在传输介质上与各种其他装置通信的单元。经处理器处理的数据通过天线在无线介质上进行传输,进一步,天线还接收数据并将数据传送给处理器。
处理器负责管理总线和通常的处理,还可以提供各种功能,包括定时,外围接口,电压调节、电源管理以及其他控制功能。而存储器可以被用于存储处理器在执行操作时所使用的数据。
本发明实施例还提供了一种计算机可读存储介质,存储有计算机程序。计算机程序被处理器执行时实现上述方法实施例。
本领域技术人员可以理解实现上述实施例方法中的全部或部分步骤是可以通过程序来指令相关的硬件来完成,该程序存储在一个存储介质中,包括若干指令用以使得一个设备(可以是单片机,芯片等)或处理器(processor)执行本申请各个实施例所述方法的全部或部分步骤。而前述的存储介质包括:Q盘、移动硬盘、只读存储器(ROM,Read-OnlyMemory)、随机存取存储器(RAM,Random Access Memory)、磁碟或者光盘等各种可以存储程序代码的介质。
本领域的普通技术人员可以理解,上述各实施例是实现本发明的具体实施例,而在实际应用中,可以在形式上和细节上对其作各种改变,而不偏离本发明的精神和范围。

Claims (10)

1.一种人脸图像的评价方法,其特征在于,包括:
获取来自同一人的Q张人脸图像,其中,Q为大于1的整数;
将所述Q张人脸图像输入人脸识别模型中的特征提取网络,获取Q个测试特征向量,其中,所述特征提取网络的目标函数包含余弦相似度损失项;
获取第q个所述测试特征向量与第p个所述测试特征向量之间的余弦相似度,得到Q个第一余弦相似度,其中,q为正整数且1≤q≤Q,p=1,2,……,Q;
根据所述Q个第一余弦相似度生成第q个所述测试特征向量对应图像的评分标签,所述评分标签用于判断是否对第q个所述测试特征向量对应图像进行人脸识别。
2.根据权利要求1所述的人脸图像的评价方法,其特征在于,所述将所述Q张人脸图像输入人脸识别模型中的特征提取网络,获取Q个测试特征向量之前,所述方法还包括:
构造辅助训练网络和训练集;
利用所述目标函数和所述训练集对所述特征提取网络和所述辅助训练网络进行联合训练,其中,所述特征提取网络的输出为所述辅助训练网络的输入。
3.根据权利要求2所述的人脸图像的评价方法,其特征在于,所述利用所述目标函数和所述训练集对所述特征提取网络和所述辅助训练网络进行联合训练之后,所述方法还包括:
构造一个验证集,其中,所述验证集和所述训练集的交集为空集;
利用所述人脸提取网络分别提取所述验证集中人脸图像的特征向量,得到验证特征向量;
根据所述验证特征向量确定所述人脸特征提取网络的准确率;
若检测到所述准确率小于预设准确率阈值,继续训练。
4.根据权利要求3所述的人脸图像的评价方法,其特征在于,所述根据所述验证特征向量确定所述人脸特征提取模型的准确率,包括:
计算每两个所述验证特征向量之间的夹角并依次将所述夹角中的一个作为阈值;
每次确定所述阈值后,确定小于等于所述阈值且对应的所述验证特征向量提取自同一人的人脸图像的所述夹角和大于所述阈值且所述验证特征向量提取自不同人的人脸图像的所述夹角的总个数;
将所述总个数的最大值在所述夹角的总数量中的占比作为所述准确率。
5.根据权利要求2-4任一项所述的人脸图像的评价方法,其特征在于,所述目标函数为:
Figure FDA0003045652480000021
其中,w为所述特征提取网络的学习参数,t为所述辅助训练网络的学习参数,fi j,n为所述特征提取网络在输入第i个人的第j张人脸图像时输出的N维向量的第n维的数据,fm k,n为所述特征提取网络在输入第m个人的第k张人脸图像时的输出的N维向量中第n维位置上的数据,sign(x)为符号函数,x为真时函数值为1,x为假时函数值为-1。
6.根据权利要求1所述的人脸图像的评价方法,其特征在于,所述根据所述Q个第一余弦相似度生成第q个所述测试特征向量对应图像的评分标签之前,所述方法还包括:
执行H次随机获取R张人脸图像的操作,其中,所述R张人脸图像中的任意两张都来自不同的人;
在每一次获取所述R张人脸图像之后,提取所述R张人脸图像的特征向量作为参考特征向量,计算所述参考特征向量和第q个所述测试向量之间的余弦相似度并平均,获取第二余弦相似度;
确定所述第二余弦相似度中的最大值为第三余弦相似度;
所述根据所述Q个第一余弦相似度生成第q个所述测试特征向量对应图像的评分标签之后,还包括:
根据所述第三余弦相似度更新第q个所述测试特征向量对应图像的所述评分标签。
7.根据权利要求1或6所述的人脸图像的评价方法,其特征在于,所述根据所述Q个第一余弦相似度生成第q个所述测试特征向量对应图像的评分标签之后,所述方法还包括:
获取与所述第q个所述测试特征向量对应图像来自同一个人的其余图像的所述评分标签作为参考评分标签;
根据所述参考评分标签对所述第q个所述测试特征向量对应图像的所述评分标签的数值进行归一化。
8.一种人脸图像的评价系统,其特征在于,包括:
特征提取模块,用于获取来自同一人的Q张人脸图像,其中,Q为大于1的整数;将所述Q张人脸图像输入人脸识别模型中的特征提取网络,获取Q个测试特征向量,其中,所述特征提取网络的目标函数包含余弦相似度损失项;
计算模块,用于获取第q个所述测试特征向量与第p个所述测试特征向量之间的余弦相似度,得到Q个第一余弦相似度,其中,q为正整数且1≤q≤Q,p=1,2,……,Q;
评价模块,用于根据所述Q个第一余弦相似度生成第q个所述测试特征向量对应图像的评分标签,所述评分标签用于判断是否对第q个所述测试特征向量对应图像进行人脸识别。
9.一种电子设备,其特征在于,包括:
至少一个处理器;以及,
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行如权利要求1-7任一所述的人脸图像的评价方法。
10.一种计算机可读存储介质,存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现权利要求1至7中任一项所述的人脸图像的评价方法。
CN202110471789.9A 2021-04-29 2021-04-29 人脸图像的质量评价方法、装置、电子设备及存储介质 Active CN113192028B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202110471789.9A CN113192028B (zh) 2021-04-29 2021-04-29 人脸图像的质量评价方法、装置、电子设备及存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202110471789.9A CN113192028B (zh) 2021-04-29 2021-04-29 人脸图像的质量评价方法、装置、电子设备及存储介质

Publications (2)

Publication Number Publication Date
CN113192028A true CN113192028A (zh) 2021-07-30
CN113192028B CN113192028B (zh) 2022-05-31

Family

ID=76980362

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202110471789.9A Active CN113192028B (zh) 2021-04-29 2021-04-29 人脸图像的质量评价方法、装置、电子设备及存储介质

Country Status (1)

Country Link
CN (1) CN113192028B (zh)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114863224A (zh) * 2022-07-05 2022-08-05 深圳比特微电子科技有限公司 训练方法、图像质量检测方法、装置和介质
CN115331299A (zh) * 2022-10-17 2022-11-11 恒银金融科技股份有限公司 基于图像特征点匹配的人脸识别方法和装置

Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20140198986A1 (en) * 2013-01-14 2014-07-17 Xerox Corporation System and method for image selection using multivariate time series analysis
CN108985232A (zh) * 2018-07-18 2018-12-11 平安科技(深圳)有限公司 人脸图像比对方法、装置、计算机设备及存储介质
CN110837842A (zh) * 2019-09-12 2020-02-25 腾讯科技(深圳)有限公司 一种视频质量评估的方法、模型训练的方法及装置
CN110866471A (zh) * 2019-10-31 2020-03-06 Oppo广东移动通信有限公司 人脸图像质量评价方法及装置、计算机可读介质、通信终端
CN111582150A (zh) * 2020-05-07 2020-08-25 江苏日颖慧眼智能设备有限公司 一种人脸质量评估的方法、装置和计算机存储介质
CN111814620A (zh) * 2020-06-28 2020-10-23 浙江大华技术股份有限公司 人脸图像质量评价模型建立方法、优选方法、介质及装置
CN111967381A (zh) * 2020-08-16 2020-11-20 云知声智能科技股份有限公司 一种人脸图像质量评分标注方法及装置
CN112215822A (zh) * 2020-10-13 2021-01-12 北京中电兴发科技有限公司 一种基于轻量级回归网络的人脸图像质量评估方法
CN112464890A (zh) * 2020-12-14 2021-03-09 招商局金融科技有限公司 人脸识别控制方法、装置、设备及存储介质
CN112686234A (zh) * 2021-03-22 2021-04-20 杭州魔点科技有限公司 人脸图像质量评估方法、电子设备和存储介质

Patent Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20140198986A1 (en) * 2013-01-14 2014-07-17 Xerox Corporation System and method for image selection using multivariate time series analysis
CN108985232A (zh) * 2018-07-18 2018-12-11 平安科技(深圳)有限公司 人脸图像比对方法、装置、计算机设备及存储介质
CN110837842A (zh) * 2019-09-12 2020-02-25 腾讯科技(深圳)有限公司 一种视频质量评估的方法、模型训练的方法及装置
CN110866471A (zh) * 2019-10-31 2020-03-06 Oppo广东移动通信有限公司 人脸图像质量评价方法及装置、计算机可读介质、通信终端
CN111582150A (zh) * 2020-05-07 2020-08-25 江苏日颖慧眼智能设备有限公司 一种人脸质量评估的方法、装置和计算机存储介质
CN111814620A (zh) * 2020-06-28 2020-10-23 浙江大华技术股份有限公司 人脸图像质量评价模型建立方法、优选方法、介质及装置
CN111967381A (zh) * 2020-08-16 2020-11-20 云知声智能科技股份有限公司 一种人脸图像质量评分标注方法及装置
CN112215822A (zh) * 2020-10-13 2021-01-12 北京中电兴发科技有限公司 一种基于轻量级回归网络的人脸图像质量评估方法
CN112464890A (zh) * 2020-12-14 2021-03-09 招商局金融科技有限公司 人脸识别控制方法、装置、设备及存储介质
CN112686234A (zh) * 2021-03-22 2021-04-20 杭州魔点科技有限公司 人脸图像质量评估方法、电子设备和存储介质

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
李荔 等: "基于ShuffleNet 的人脸图像质量评估方法", 《电子技术与软件工程》 *
王亚 等: "基于CNN的监控视频中人脸图像质量评估", 《计算机系统应用》 *

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114863224A (zh) * 2022-07-05 2022-08-05 深圳比特微电子科技有限公司 训练方法、图像质量检测方法、装置和介质
CN115331299A (zh) * 2022-10-17 2022-11-11 恒银金融科技股份有限公司 基于图像特征点匹配的人脸识别方法和装置
CN115331299B (zh) * 2022-10-17 2023-03-24 恒银金融科技股份有限公司 基于图像特征点匹配的人脸识别方法和装置

Also Published As

Publication number Publication date
CN113192028B (zh) 2022-05-31

Similar Documents

Publication Publication Date Title
CN109583332B (zh) 人脸识别方法、人脸识别系统、介质及电子设备
CN112270196B (zh) 实体关系的识别方法、装置及电子设备
EP3989104A1 (en) Facial feature extraction model training method and apparatus, facial feature extraction method and apparatus, device, and storage medium
US20160070956A1 (en) Method and Apparatus for Generating Facial Feature Verification Model
CN113222149B (zh) 模型训练方法、装置、设备和存储介质
CN111783505A (zh) 伪造人脸的识别方法、装置和计算机可读存储介质
CN113192028B (zh) 人脸图像的质量评价方法、装置、电子设备及存储介质
CN113449725B (zh) 对象分类方法、装置、设备及存储介质
CN113449704A (zh) 人脸识别模型训练方法、装置、电子设备及存储介质
CN109858476A (zh) 标签的扩充方法和电子设备
CN113448843B (zh) 基于缺陷分析的图像识别软件测试数据增强方法及装置
EP3929800A1 (en) Skill word evaluation method and device, electronic device, and computer readable medium
CN111401105B (zh) 一种视频表情识别方法、装置及设备
CN111210402A (zh) 人脸图像质量评分方法、装置、计算机设备及存储介质
CN114549470B (zh) 基于卷积神经网络和多粒度注意力的手骨关键性区域获取方法
CN113569018A (zh) 问答对挖掘方法及装置
CN114037003A (zh) 问答模型的训练方法、装置及电子设备
CN113033271A (zh) 利用人工智能模块学习脸部辨识的处理方法
CN114913923A (zh) 针对单细胞染色质开放性测序数据的细胞类型识别方法
CN110414431B (zh) 基于弹性上下文关系损失函数的人脸识别方法及系统
CN114627424A (zh) 一种基于视角转化的步态识别方法和系统
CN111414930A (zh) 深度学习模型训练方法及装置、电子设备及存储介质
CN113486202A (zh) 小样本图像分类的方法
CN117493595A (zh) 基于大模型的图像搜索方法、装置、设备和介质
CN112597299A (zh) 文本的实体分类方法、装置、终端设备和存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
TA01 Transfer of patent application right
TA01 Transfer of patent application right

Effective date of registration: 20220424

Address after: 230091 room 611-217, R & D center building, China (Hefei) international intelligent voice Industrial Park, 3333 Xiyou Road, high tech Zone, Hefei, Anhui Province

Applicant after: Hefei lushenshi Technology Co.,Ltd.

Address before: 100083 room 3032, North B, bungalow, building 2, A5 Xueyuan Road, Haidian District, Beijing

Applicant before: BEIJING DILUSENSE TECHNOLOGY CO.,LTD.

Applicant before: Hefei lushenshi Technology Co., Ltd

GR01 Patent grant
GR01 Patent grant