CN112001372A - 人脸识别模型生成和人脸识别方法、系统、设备及介质 - Google Patents
人脸识别模型生成和人脸识别方法、系统、设备及介质 Download PDFInfo
- Publication number
- CN112001372A CN112001372A CN202011061455.6A CN202011061455A CN112001372A CN 112001372 A CN112001372 A CN 112001372A CN 202011061455 A CN202011061455 A CN 202011061455A CN 112001372 A CN112001372 A CN 112001372A
- Authority
- CN
- China
- Prior art keywords
- face recognition
- recognition model
- face
- image
- training set
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/16—Human faces, e.g. facial parts, sketches or expressions
- G06V40/161—Detection; Localisation; Normalisation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N20/00—Machine learning
- G06N20/20—Ensemble learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/16—Human faces, e.g. facial parts, sketches or expressions
- G06V40/168—Feature extraction; Face representation
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Health & Medical Sciences (AREA)
- Data Mining & Analysis (AREA)
- Artificial Intelligence (AREA)
- Evolutionary Computation (AREA)
- General Health & Medical Sciences (AREA)
- Software Systems (AREA)
- General Engineering & Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Oral & Maxillofacial Surgery (AREA)
- Computing Systems (AREA)
- Life Sciences & Earth Sciences (AREA)
- Mathematical Physics (AREA)
- Biophysics (AREA)
- Molecular Biology (AREA)
- Computational Linguistics (AREA)
- Biomedical Technology (AREA)
- Human Computer Interaction (AREA)
- Multimedia (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Bioinformatics & Computational Biology (AREA)
- Evolutionary Biology (AREA)
- Medical Informatics (AREA)
- Collating Specific Patterns (AREA)
Abstract
本发明提供了一种人脸识别模型生成和人脸识别方法、系统、设备及介质,所述方法包括步骤:基于第一训练集对预设的人脸识别模型进行训练,生成初始人脸识别模型;其中,所述第一训练集为无遮挡人脸样本图像集;基于第二训练集,继续对所述初始人脸识别模型进行训练,生成目标人脸识别模型;所述第二训练集包含有遮挡人脸样本图像和无遮挡人脸样本图像;所述有遮挡人脸样本图像通过无遮挡人脸样本图像和目标掩码图像合成得到;本申请减小了人脸识别过程中,人脸识别模型对显卡显存资源的占用。
Description
技术领域
本发明涉及计算机应用技术领域,具体地说,涉及一种人脸识别模型生成和人脸识别方法、系统、设备及介质。
背景技术
当前,随着新型冠状病毒在全球的传播,佩戴口罩成为人们预防病毒的有效手段。随之而来会对人脸识别技术带来挑战。在新型冠状病毒出现之前,佩戴口罩并不是普遍现象,所以人脸识别算法并未针对口罩人脸做针对性的优化,那么当人们戴上口罩后,出现了人脸识别率直线下降的问题,人脸识别几乎处于不可用的状态。
为了解决该问题,研究人员也想了很多办法,主流的方法有利用人脸的局部特征来提高戴口罩人脸的识别率,也就是重点关注于未被口罩遮挡的人脸部分。还有就是利用图像生成技术,重建被口罩遮挡的人脸部分,从而还原出完整人脸。上述这些方法虽然可以在一定程度上提高戴口罩人脸的识别率,但也存在着口罩人脸识别准确率低、计算复杂度高、训练困难等问题。
并且,现有技术中在识别人脸时,通常需要先判断人脸图像是有遮挡的还是无遮挡的,然后再使用不同的识别模型分支进行判断;导致需要运行至少两个模型在显卡中,增加了显卡显存资源的占用。
发明内容
针对现有技术中的问题,本发明的目的在于提供一种人脸识别模型生成和人脸识别方法、系统、设备及介质,减小了显卡显存资源的占用,同时提高模型训练速度,降低样本生成的复杂度。
为实现上述目的,本发明提供了一种人脸识别模型生成方法,所述方法包括以下步骤:
基于第一训练集对预设的人脸识别模型进行训练,生成初始人脸识别模型;其中,所述第一训练集为无遮挡人脸样本图像集;
基于第二训练集,继续对所述初始人脸识别模型进行训练,生成目标人脸识别模型;所述第二训练集包含有遮挡人脸样本图像和无遮挡人脸样本图像;所述有遮挡人脸样本图像通过无遮挡人脸样本图像和目标掩码图像合成得到。
优选地,所述预设的人脸识别模型将自输入图像提取的第一特征图切片生成第二特征图和第三特征图,根据自所述第二特征图获得的第一特征向量和自所述第三特征图获得的第二特征向量进行合并,输出第三特征向量。
优选地,在所述基于第一训练集对预设的人脸识别模型进行训练的步骤之前,还包括:
获取至少一预设尺寸及预设格式的图像;
基于关键点对齐技术,在所述图像上利用遮挡物进行对齐操作,以使所述遮挡物位于所述图像的下半部分且关于所述图像的中心线左右对称,以生成目标掩码图像。
优选地,所述有遮挡人脸样本图像通过无遮挡人脸样本图像和目标掩码图像合成得到,包括:
所述有遮挡人脸样本图像通过将随机选取的目标掩码图像中满足预设条件的部分区域,利用所述无遮挡人脸样本图像中第一区域的图像进行替换后合成得到,所述第一区域与所述目标掩码图像中满足预设条件的部分区域相对应。
优选地,所述第二训练集通过将所述第一训练集中按照预设比例随机选取的部分无遮挡人脸样本图像,利用有遮挡人脸样本图像进行替换后得到。
优选地,所述第二特征图为所述第一特征图中上半部分的特征图,所述第三特征图为所述第一特征图中剩余的下半部分的特征图。
优选地,所述基于第二训练集,继续对所述初始人脸识别模型进行训练,生成目标人脸识别模型,包括:
基于第二训练集,继续对所述初始人脸识别模型进行训练,得到更新后的人脸识别模型,同时继续生成新的有遮挡人脸样本图像,以对所述第二训练集进行更新,利用更新后的第二训练集训练所述更新后的人脸识别模型,直至得到目标人脸识别模型。
为实现上述目的,本发明还提供了一种人脸识别方法,包括以下步骤:
应用上述任意一项所述的目标人脸识别模型对待识别人脸图像进行人脸识别;所述待识别人脸图像为无遮挡人脸图像或有遮挡人脸图像。
本发明还提供了一种人脸识别模型生成系统,用于实现上述人脸识别模型生成方法,所述系统包括:
第一训练模块,用于基于第一训练集对预设的人脸识别模型进行训练,生成初始人脸识别模型;其中,所述第一训练集为无遮挡人脸样本图像集;
第二训练模块,用于基于第二训练集,继续对所述初始人脸识别模型进行训练,生成目标人脸识别模型;所述第二训练集包含有遮挡人脸样本图像和无遮挡人脸样本图像;所述有遮挡人脸样本图像通过无遮挡人脸样本图像和目标掩码图像合成得到。
本发明还提供了一种人脸识别模型生成设备,包括:
处理器;
存储器,其中存储有所述处理器的可执行指令;
其中,所述处理器配置为经由执行所述可执行指令来执行上述任意一项人脸识别模型生成方法或上述人脸识别方法的步骤。
本发明还提供了一种计算机可读存储介质,用于存储程序,所述程序被处理器执行时实现上述任意一项人脸识别模型生成方法或上述人脸识别方法的步骤。
本发明与现有技术相比,具有以下优点及突出性效果:
本发明提供的人脸识别模型生成和人脸识别方法、系统、设备及介质实现了利用同一个人脸识别模型能够对有遮挡人脸图像和无遮挡人脸图像均可以识别,解决了现有技术中需要先判断人脸图像是有遮挡的还是无遮挡的,然后再使用不同的模型分支进行判断的问题;减小了显卡显存资源的占用。
附图说明
通过阅读参照以下附图对非限制性实施例所作的详细描述,本发明的其它特征、目的和优点将会变得更明显。
图1为本发明一实施例公开的人脸识别模型生成方法的示意图;
图2为本发明另一实施例公开的人脸识别模型生成方法的示意图;
图3为图2中步骤S10的流程示意图;
图4为本发明一实施例中目标掩码图像的示意图;
图5为本发明一实施例的预设的人脸识别模型的示意图;
图6为本发明一实施例的预设的人脸识别模型中残差单元的示意图;
图7为本发明实施例公开的一种人脸识别模型生成系统的结构示意图;
图8为本发明实施例公开的一种人脸识别模型生成设备的结构示意图;
图9为本发明实施例公开的一种计算机可读存储介质的结构示意图。
具体实施方式
现在将参考附图更全面地描述示例实施方式。然而,示例实施方式能够以多种形式实施,且不应被理解为限于在此阐述的实施方式。相反,提供这些实施方式使得本发明将全面和完整,并将示例实施方式的构思全面地传达给本领域的技术人员。在图中相同的附图标记表示相同或类似的结构,因而将省略对它们的重复描述。
如图1所示,本发明一实施例公开了一种人脸识别模型生成方法,包括以下步骤:
S30,基于第一训练集,对预设的人脸识别模型进行训练,生成初始人脸识别模型。上述第一训练集为无遮挡人脸样本图像集。
S40,基于第二训练集,继续对所述初始人脸识别模型进行训练,生成目标人脸识别模型。具体而言,基于第二训练集,继续对上述初始人脸识别模型进行训练,得到更新后的人脸识别模型,同时继续生成新的有遮挡人脸样本图像,以对上述第二训练集进行更新,利用更新后的第二训练集训练所述更新后的人脸识别模型,直至得到目标人脸识别模型。第二训练集包含有遮挡人脸样本图像和无遮挡人脸样本图像。所述有遮挡人脸样本图像通过无遮挡人脸样本图像和目标掩码图像合成得到,这样可以降低有遮挡人脸样本图像的生成方法的复杂度,样本生成简单,而避免了现有技术中需要利用图像生成技术,重建被口罩遮挡的人脸部分,从而还原出完整人脸,导致样本生成复杂度高的问题。
具体而言,在利用第二训练集训练的过程中,也即先生成部分有遮挡人脸样本图像,和无遮挡人脸样本图像组合构成第二训练集。然后在利用第二训练集训练的过程中,同时生成新的有遮挡人脸样本图像,也即实现了一边训练一边生成有遮挡人脸样本图像。直达最后达到停止训练的预设条件,就得到目标人脸识别模型。这样避免了训练之前需要先一次性生成所有需要的有遮挡人脸样本图像,避免占用显卡的显存资源,尤其是在显卡显存资源不够用的情况下。另外,有利于提高模型的训练速度。
所以,本申请实现了利用同一个人脸识别模型能够对有遮挡人脸图像和无遮挡人脸图像均可以识别,解决了现有技术中需要先判断人脸图像是有遮挡的还是无遮挡的,然后再使用不同的模型分支进行判断的问题;减小了显卡显存资源的占用。
如图2所示,本发明另一实施例在上述实施例的基础上,公开了另一种人脸识别模型生成方法。该方法在上述实施例的步骤S30之前,还包括以下步骤:
S10,分别构建由无遮挡人脸样本图像组成的第一训练集,以及包含无遮挡人脸样本图像和有遮挡人脸样本图像的第二训练集。具体来说,如图3所示,本实施例中,在一个具体实施方式中,步骤S10包括步骤:
S101,构建由无遮挡人脸样本图像组成的第一训练集。无遮挡人脸样本图像就是对正常的人脸样本图像进行关键点对齐定位,然后截取关键点所在的区域并归一化成目标尺寸的图像即可。本实施例中,一共需要1000万张无遮挡人脸样本图像,分别归属于40万个不同的ID,即采集40万个不同的人的人脸样本图像,也即每一个ID的名下包含有25张图像。本申请对此数量不作限制。
S102,生成目标掩码图像。该步骤具体包括:
获取至少一预设尺寸及预设格式的图像。比如,预设尺寸为128x128像素,预设格式为背景色为横线阴影填充。也即获取至少一128x128像素的,背景色为横线阴影填充的图像(参考图4)。
基于关键点对齐技术,在上述图像上对遮挡物301进行对齐操作,如图4所示,以使上述遮挡物301(图4中斜线阴影填充部分)位于上述图像的下半部分且关于上述图像的中心线左右对称的位置,以生成目标掩码图像。比如,遮挡物301为口罩,先将口罩尺寸调整到与上述图像尺寸相适应的大小,然后将遮挡物301叠加到上述图像上。然后利用关键点对齐技术,比如,口罩的鼻夹的中心点归一化到(64,64)的位置。从而实现将口罩放置在下半部分居中的位置,合成口罩人脸也即遮挡人脸时可以很好模拟人脸实际佩戴口罩的情形。
具体实施时,可以获取多个不同类型的遮挡物301,然后生成多个目标掩码图像。本实施例中,一共生成了12个目标掩码图像,本申请对此不作限制。
S103,基于所述无遮挡人脸样本图像对所述目标掩码图像进行处理,生成有遮挡人脸样本图像。在生成有遮挡人脸样本图像时,可以将随机选取的目标掩码图像中满足预设条件的部分区域,比如像素值为0的部分或者背景色为横线阴影填充的部分等,利用所述无遮挡人脸样本图像中第一区域的图像进行替换后,其余位置保持不变,合成得到有遮挡人脸样本图像。所述第一区域与所述目标掩码图像中满足预设条件的部分区域相对应。具体而言,也即当目标掩码图像和无遮挡人脸样本图像重合时,目标掩码图像中满足预设条件的部分区域和上述第一区域是重合的。
S104,构建包含无遮挡人脸样本图像和有遮挡人脸样本图像的第二训练集。有遮挡人脸样本图像通过无遮挡人脸样本图像和目标掩码图像合成得到。具体而言,第二训练集可以通过将第一训练集中的无遮挡人脸样本图像按照预设比例随机选取部分图像,利用有遮挡人脸样本图像替换后得到。比如,按照30%的比例进行替换,也即每10张无遮挡人脸样本图像中,随机选取3张利用有遮挡人脸样本图像进行替换,从而得到同时包含无遮挡人脸样本图像和有遮挡人脸样本图像的第二训练集。
S20,构建预设的人脸识别模型。所述预设的人脸识别模型将自输入图像提取的第一特征图切片生成第二特征图和第三特征图,根据自第二特征图获得的第一特征向量和自第三特征图获得的第二特征向量进行合并,输出第三特征向量。具体而言,本实施例中,该人脸识别模型基于卷积神经网络构建。如图5所示,为本发明一实施例的预设的人脸识别模型的示意图。上述人脸识别模型可以包含特征提取层、切片层(slice_layer)、全连接层(fc5)、合并层(concat_layer)、第三全连接层(fc6_layer)和损失函数层(softmax_loss_layer)。上述特征提取层包括输入层(Input)、卷积层(Conv)、非线性变换层(Relu)、池化层(Pooling)和残差单元(Resblock)。
其中,特征提取层用于提取输入图像的第一特征图。切片层用于对第一特征图进行切片,生成第二特征图和第三特征图。全连接层包含第一连接层和第二连接层。上述第一连接层基于第二特征图作为输入,输出第一特征向量。上述第二连接层基于第三特征图作为输入,输出第二特征向量。合并层将上述第一特征向量和上述第二特征向量合并,输出第三特征向量。上述第三全连接层的输入和上述合并层的输出相连接,上述损失函数层的输入和上述第三全连接层的输出相连接。
本实施例中,上述输入图像为128x128像素的3通道BGR格式的图像。特征提取层提取得到的第一特征图为512个通道,每个特征图大小为8x8像素。切片层将每个特征图分成上、下两部分。其中,第二特征图为上述第一特征图中上半部分的特征图。上述第三特征图为上述第一特征图中剩余的下半部分的特征图。第二特征图和第三特征图中的每个特征图大小为4x8像素。
全连接层中第一连接层即为图5中的fc5_top,也即为上半部分连接层。第一连接层用于和第二特征图连接,得到上述256维的第一特征向量。由于该256维的第一特征向量来自第一特征图的上半部分,几乎不受口罩等遮挡物的影响,所以可以准确地识别遮挡人脸。
第二连接层即为图5中的fc5_bottom,也即为下半部分连接层。第二连接层用于和第三特征图连接,得到上述256维的第二特征向量。这样可以保证对不带遮挡的正常的人脸能够准确地识别。然后通过合并层将第一特征向量和上述第二特征向量合并,得到512维的第三特征向量。可以保证不管对于遮挡人脸还是不带遮挡的人脸,都可以达到很好的识别效果。可以避免还需要判断当前人脸戴不戴口罩等遮挡物,而运行不同的计算分支,增加计算复杂度,降低运算速度。
第三全连接层基于上述第三特征向量作为输入,预测输出每一人脸样本图像归属于不同ID下的概率值,也即归属于不同人的概率值。损失函数层基于上述概率值作为输入,用于计算上述预测得到的概率值的损失,也即用于计算预测结果中的数据与人脸样本图像中标注的归属ID之间的差异。损失函数层利用现有技术即可实现,本申请不再赘述。
参考图5,其中Conv_1a、Conv_1b、Conv_2、Conv_3和Conv_4分别表示第1a个、第1b个、第2个、第3个和第4个卷积层。Relu_1a、Relu_1b、Relu_2、Relu_3和Relu_4分别表示第1a个、第1b个、第2个、第3个和第4个非线性变换层。Pooling_1b、Pooling_2、Pooling_3和Pooling_4分别表示第1b个、第2个、第3个和第4个池化层。fc6_layer表示第三全连接层。softmax_loss_layer表示损失函数层。concat_layer表示合并层。slice_layer表示切片层。
Resblock1 x 3表示连续3个残差单元串连。Resblock2 x 4表示连续4个残差单元串连。Resblock3 x 6表示连续6个残差单元串连。Resblock4 x3表示连续3个残差单元串连。
该实施例中的残差单元如图6所示,其中Conv_x_1和Conv_x_2为残差单元的两个卷积层,Relu_x_1和Relu_x_2为残差单元的两个非线性变换层。
本发明实施例还公开了一种人脸识别方法,包括以下步骤:
应用上述实施例公开的目标人脸识别模型对待识别人脸图像进行人脸识别。所述待识别人脸图像为无遮挡人脸图像或有遮挡人脸图像。需要说明的是,在该识别阶段,图5中的人脸识别模型只需使用到合并层也即concat_layer层,后面的第三全连接层和损失函数层在该阶段中不再使用。
具体而言,即将待识别人脸图像和数据库中存储的该人脸的参考图像进行比对,利用目标人脸识别模型分别计算待识别人脸图像对应的特征向量和参考图像对应的特征向量之间的相似度,从而判断待识别人脸图像和上述参考图像是否匹配。比如,若相似度大于一预设阈值,则判定为匹配。上述参考图像和待识别人脸图像无论是带遮挡的还是不带遮挡的均可。
如图7所示,本发明实施例还公开了一种人脸识别模型生成系统6,该系统包括:
第一训练模块61,用于基于第一训练集对预设的人脸识别模型进行训练,生成初始人脸识别模型;其中,所述第一训练集为无遮挡人脸样本图像集;
第二训练模块62,用于基于第二训练集,继续对所述初始人脸识别模型进行训练,生成目标人脸识别模型;所述第二训练集包含有遮挡人脸样本图像和无遮挡人脸样本图像;所述有遮挡人脸样本图像通过无遮挡人脸样本图像和目标掩码图像合成得到。
可以理解的是,本发明的人脸识别模型生成系统还包括其他支持人脸识别模型生成系统运行的现有功能模块。图7显示的人脸识别模型生成系统仅仅是一个示例,不应对本发明实施例的功能和使用范围带来任何限制。
本实施例中的人脸识别模型生成系统用于实现上述的人脸识别模型生成的方法和/或上述人脸识别方法,因此对于人脸识别模型生成系统的具体实施步骤可以参照上述对人脸识别模型生成的方法和/或上述人脸识别方法的描述,此处不再赘述。
本发明实施例还公开了一种人脸识别模型生成设备,包括处理器和存储器,其中存储器存储有所述处理器的可执行指令;处理器配置为经由执行可执行指令来执行上述人脸识别模型生成方法和/或上述人脸识别方法中的步骤。图8是本发明公开的人脸识别模型生成设备的结构示意图。下面参照图8来描述根据本发明的这种实施方式的电子设备600。图8显示的电子设备600仅仅是一个示例,不应对本发明实施例的功能和使用范围带来任何限制。
如图8所示,电子设备600以通用计算设备的形式表现。电子设备600的组件可以包括但不限于:至少一个处理单元610、至少一个存储单元620、连接不同平台组件(包括存储单元620和处理单元610)的总线630、显示单元640等。
其中,存储单元存储有程序代码,程序代码可以被处理单元610执行,使得处理单元610执行本说明书上述人脸识别模型生成方法和/或上述人脸识别方法部分中描述的根据本发明各种示例性实施方式的步骤。
存储单元620可以包括易失性存储单元形式的可读介质,例如随机存取存储单元(RAM)6201和/或高速缓存存储单元6202,还可以进一步包括只读存储单元(ROM)6203。
存储单元620还可以包括具有一组(至少一个)程序模块6205的程序/实用工具6204,这样的程序模块6205包括但不限于:操作系统、一个或者多个应用程序、其它程序模块以及程序数据,这些示例中的每一个或某种组合中可能包括网络环境的实现。
总线630可以为表示几类总线结构中的一种或多种,包括存储单元总线或者存储单元控制器、外围总线、图形加速端口、处理单元或者使用多种总线结构中的任意总线结构的局域总线。
电子设备600也可以与一个或多个外部设备700(例如键盘、指向设备、蓝牙设备等)通信,还可与一个或者多个使得用户能与该电子设备600交互的设备通信,和/或与使得该电子设备600能与一个或多个其它计算设备进行通信的任何设备(例如路由器、调制解调器等等)通信。这种通信可以通过输入/输出(I/O)接口650进行。并且,电子设备600还可以通过网络适配器660与一个或者多个网络(例如局域网(LAN),广域网(WAN)和/或公共网络,例如因特网)通信。网络适配器660可以通过总线630与电子设备600的其它模块通信。应当明白,尽管图中未示出,可以结合电子设备600使用其它硬件和/或软件模块,包括但不限于:微代码、设备驱动器、冗余处理单元、外部磁盘驱动阵列、RAID系统、磁带驱动器以及数据备份存储平台等。
本发明还公开了一种计算机可读存储介质,用于存储程序,所述程序被执行时实现上述人脸识别模型生成方法和/或上述人脸识别方法中的步骤。在一些可能的实施方式中,本发明的各个方面还可以实现为一种程序产品的形式,其包括程序代码,当程序产品在终端设备上运行时,程序代码用于使终端设备执行本说明书上述人脸识别模型生成方法和/或上述人脸识别方法中描述的根据本发明各种示例性实施方式的步骤。
如上所示,该实施例的计算机可读存储介质的程序在执行时,通过提取出输入图像的第一特征图,切分得到上半部分的第二特征图和下半部分的第三特征图,利用上半部分全连接层和第二特征图连接,下半部分全连接层和第三特征图连接,得到最终的特征向量,从而提高了遮挡人脸的识别准确率;另一方面,利用目标掩码图像直接生成遮挡人脸图像,计算复杂度低;有助于实现一边生成带遮挡的训练集,一边训练,提高模型训练速度。
图9是本发明的计算机可读存储介质的结构示意图。参考图9所示,描述了根据本发明的实施方式的用于实现上述方法的程序产品800,其可以采用便携式紧凑盘只读存储器(CD-ROM)并包括程序代码,并可以在终端设备,例如个人电脑上运行。然而,本发明的程序产品不限于此,在本文件中,可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。
程序产品可以采用一个或多个可读介质的任意组合。可读介质可以是可读信号介质或者可读存储介质。可读存储介质例如可以为但不限于电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。可读存储介质的更具体的例子(非穷举的列表)包括:具有一个或多个导线的电连接、便携式盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。
计算机可读存储介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了可读程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。可读存储介质还可以是可读存储介质以外的任何可读介质,该可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。可读存储介质上包含的程序代码可以用任何适当的介质传输,包括但不限于无线、有线、光缆、RF等等,或者上述的任意合适的组合。
可以以一种或多种程序设计语言的任意组合来编写用于执行本发明操作的程序代码,程序设计语言包括面向对象的程序设计语言—诸如Java、C++等,还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、作为一个独立的软件包执行、部分在用户计算设备上部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。在涉及远程计算设备的情形中,远程计算设备可以通过任意种类的网络,包括局域网(LAN)或广域网(WAN),连接到用户计算设备,或者,可以连接到外部计算设备(例如利用因特网服务提供商来通过因特网连接)。
本发明实施例提供的人脸识别模型生成和人脸识别方法、系统、设备及介质实现了利用同一个人脸识别模型能够对有遮挡人脸图像和无遮挡人脸图像均可以识别,解决了现有技术中需要先判断人脸图像是有遮挡的还是无遮挡的,然后再使用不同的模型分支进行判断的问题;减小了显卡显存资源的占用;
并且,通过提取出输入图像的第一特征图,切分得到上半部分的第二特征图和下半部分的第三特征图,利用上半部分全连接层和第二特征图连接,下半部分全连接层和第三特征图连接,得到最终的特征向量,从而提高了遮挡人脸的识别准确率;另一方面,利用目标掩码图像直接生成遮挡人脸图像,计算复杂度低;有助于实现一边生成带遮挡的训练集,一边训练,提高模型训练速度。
以上内容是结合具体的优选实施方式对本发明所作的进一步详细说明,不能认定本发明的具体实施只局限于这些说明。对于本发明所属技术领域的普通技术人员来说,在不脱离本发明构思的前提下,还可以做出若干简单推演或替换,都应当视为属于本发明的保护范围。
Claims (11)
1.一种人脸识别模型生成方法,其特征在于,包括以下步骤:
基于第一训练集对预设的人脸识别模型进行训练,生成初始人脸识别模型;其中,所述第一训练集为无遮挡人脸样本图像集;
基于第二训练集,继续对所述初始人脸识别模型进行训练,生成目标人脸识别模型;所述第二训练集包含有遮挡人脸样本图像和无遮挡人脸样本图像;所述有遮挡人脸样本图像通过无遮挡人脸样本图像和目标掩码图像合成得到。
2.如权利要求1所述的人脸识别模型生成方法,其特征在于,所述预设的人脸识别模型将自输入图像提取的第一特征图切片生成第二特征图和第三特征图,根据自所述第二特征图获得的第一特征向量和自所述第三特征图获得的第二特征向量进行合并,输出第三特征向量。
3.如权利要求1所述的人脸识别模型生成方法,其特征在于,在所述基于第一训练集对预设的人脸识别模型进行训练的步骤之前,还包括:
获取至少一预设尺寸及预设格式的图像;
基于关键点对齐技术,在所述图像上利用遮挡物进行对齐操作,以使所述遮挡物位于所述图像的下半部分且关于所述图像的中心线左右对称,以生成目标掩码图像。
4.如权利要求3所述的人脸识别模型生成方法,其特征在于,所述有遮挡人脸样本图像通过无遮挡人脸样本图像和目标掩码图像合成得到,包括:
所述有遮挡人脸样本图像通过将随机选取的目标掩码图像中满足预设条件的部分区域,利用所述无遮挡人脸样本图像中第一区域的图像进行替换后合成得到,所述第一区域与所述目标掩码图像中满足预设条件的部分区域相对应。
5.如权利要求4所述的人脸识别模型生成方法,其特征在于,所述第二训练集通过将所述第一训练集中按照预设比例随机选取的部分无遮挡人脸样本图像,利用有遮挡人脸样本图像进行替换后得到。
6.如权利要求2所述的人脸识别模型生成方法,其特征在于,所述第二特征图为所述第一特征图中上半部分的特征图,所述第三特征图为所述第一特征图中剩余的下半部分的特征图。
7.如权利要求1所述的人脸识别模型生成方法,其特征在于,所述基于第二训练集,继续对所述初始人脸识别模型进行训练,生成目标人脸识别模型,包括:
基于第二训练集,继续对所述初始人脸识别模型进行训练,得到更新后的人脸识别模型,同时继续生成新的有遮挡人脸样本图像,以对所述第二训练集进行更新,利用更新后的第二训练集训练所述更新后的人脸识别模型,直至得到目标人脸识别模型。
8.一种人脸识别方法,其特征在于,包括以下步骤:
应用如权利要求1至7中任一项所述的目标人脸识别模型对待识别人脸图像进行人脸识别;所述待识别人脸图像为无遮挡人脸图像或有遮挡人脸图像。
9.一种人脸识别模型生成系统,用于实现如权利要求1所述的人脸识别模型生成方法,其特征在于,所述系统包括:
第一训练模块,用于基于第一训练集对预设的人脸识别模型进行训练,生成初始人脸识别模型;其中,所述第一训练集为无遮挡人脸样本图像集;
第二训练模块,用于基于第二训练集,继续对所述初始人脸识别模型进行训练,生成目标人脸识别模型;所述第二训练集包含有遮挡人脸样本图像和无遮挡人脸样本图像;所述有遮挡人脸样本图像通过无遮挡人脸样本图像和目标掩码图像合成得到。
10.一种人脸识别模型生成设备,其特征在于,包括:
处理器;
存储器,其中存储有所述处理器的可执行指令;
其中,所述处理器配置为经由执行所述可执行指令来执行权利要求1至7中任意一项所述人脸识别模型生成方法和/或如权利要求8所述的人脸识别方法的步骤。
11.一种计算机可读存储介质,用于存储程序,其特征在于,所述程序被处理器执行时实现权利要求1至7中任意一项所述人脸识别模型生成方法和/或如权利要求8所述的人脸识别方法的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011061455.6A CN112001372B (zh) | 2020-09-30 | 2020-09-30 | 人脸识别模型生成和人脸识别方法、系统、设备及介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011061455.6A CN112001372B (zh) | 2020-09-30 | 2020-09-30 | 人脸识别模型生成和人脸识别方法、系统、设备及介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN112001372A true CN112001372A (zh) | 2020-11-27 |
CN112001372B CN112001372B (zh) | 2023-02-03 |
Family
ID=73475076
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202011061455.6A Active CN112001372B (zh) | 2020-09-30 | 2020-09-30 | 人脸识别模型生成和人脸识别方法、系统、设备及介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN112001372B (zh) |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113033334A (zh) * | 2021-03-05 | 2021-06-25 | 北京字跳网络技术有限公司 | 图像处理方法、装置、电子设备、介质和计算机程序产品 |
CN114299595A (zh) * | 2022-01-29 | 2022-04-08 | 北京百度网讯科技有限公司 | 人脸识别方法、装置、设备、存储介质和程序产品 |
CN114519378A (zh) * | 2021-12-24 | 2022-05-20 | 浙江大华技术股份有限公司 | 特征提取单元的训练方法、人脸识别方法及装置 |
CN114612954A (zh) * | 2020-12-09 | 2022-06-10 | 深圳云天励飞技术股份有限公司 | 人脸生成方法、装置、电子设备及存储介质 |
Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108427939A (zh) * | 2018-03-30 | 2018-08-21 | 百度在线网络技术(北京)有限公司 | 模型生成方法和装置 |
CN109858445A (zh) * | 2019-01-31 | 2019-06-07 | 北京字节跳动网络技术有限公司 | 用于生成模型的方法和装置 |
CN110110681A (zh) * | 2019-05-14 | 2019-08-09 | 哈尔滨理工大学 | 一种用于有遮挡的人脸识别方法 |
CN110399764A (zh) * | 2018-04-24 | 2019-11-01 | 华为技术有限公司 | 人脸识别方法、装置及计算机可读介质 |
CN110659573A (zh) * | 2019-08-22 | 2020-01-07 | 北京捷通华声科技股份有限公司 | 一种人脸识别方法、装置、电子设备及存储介质 |
CN111144240A (zh) * | 2019-12-12 | 2020-05-12 | 深圳数联天下智能科技有限公司 | 图像处理方法及相关设备 |
CN111582199A (zh) * | 2020-05-12 | 2020-08-25 | 佛山市玖章智能科技有限公司 | 一种人脸识别模型训练方法和人脸识别方法 |
CN111582090A (zh) * | 2020-04-27 | 2020-08-25 | 杭州宇泛智能科技有限公司 | 人脸识别方法、装置及电子设备 |
-
2020
- 2020-09-30 CN CN202011061455.6A patent/CN112001372B/zh active Active
Patent Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108427939A (zh) * | 2018-03-30 | 2018-08-21 | 百度在线网络技术(北京)有限公司 | 模型生成方法和装置 |
CN110399764A (zh) * | 2018-04-24 | 2019-11-01 | 华为技术有限公司 | 人脸识别方法、装置及计算机可读介质 |
CN109858445A (zh) * | 2019-01-31 | 2019-06-07 | 北京字节跳动网络技术有限公司 | 用于生成模型的方法和装置 |
CN110110681A (zh) * | 2019-05-14 | 2019-08-09 | 哈尔滨理工大学 | 一种用于有遮挡的人脸识别方法 |
CN110659573A (zh) * | 2019-08-22 | 2020-01-07 | 北京捷通华声科技股份有限公司 | 一种人脸识别方法、装置、电子设备及存储介质 |
CN111144240A (zh) * | 2019-12-12 | 2020-05-12 | 深圳数联天下智能科技有限公司 | 图像处理方法及相关设备 |
CN111582090A (zh) * | 2020-04-27 | 2020-08-25 | 杭州宇泛智能科技有限公司 | 人脸识别方法、装置及电子设备 |
CN111582199A (zh) * | 2020-05-12 | 2020-08-25 | 佛山市玖章智能科技有限公司 | 一种人脸识别模型训练方法和人脸识别方法 |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114612954A (zh) * | 2020-12-09 | 2022-06-10 | 深圳云天励飞技术股份有限公司 | 人脸生成方法、装置、电子设备及存储介质 |
CN113033334A (zh) * | 2021-03-05 | 2021-06-25 | 北京字跳网络技术有限公司 | 图像处理方法、装置、电子设备、介质和计算机程序产品 |
CN114519378A (zh) * | 2021-12-24 | 2022-05-20 | 浙江大华技术股份有限公司 | 特征提取单元的训练方法、人脸识别方法及装置 |
CN114519378B (zh) * | 2021-12-24 | 2023-05-30 | 浙江大华技术股份有限公司 | 特征提取单元的训练方法、人脸识别方法及装置 |
CN114299595A (zh) * | 2022-01-29 | 2022-04-08 | 北京百度网讯科技有限公司 | 人脸识别方法、装置、设备、存储介质和程序产品 |
Also Published As
Publication number | Publication date |
---|---|
CN112001372B (zh) | 2023-02-03 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN112001372B (zh) | 人脸识别模型生成和人脸识别方法、系统、设备及介质 | |
US11734851B2 (en) | Face key point detection method and apparatus, storage medium, and electronic device | |
CN113570610B (zh) | 采用语义分割模型对视频进行目标分割的方法、装置 | |
US20230068238A1 (en) | Method and apparatus for processing image, electronic device and storage medium | |
US20230030431A1 (en) | Method and apparatus for extracting feature, device, and storage medium | |
CN108170751B (zh) | 用于处理图像的方法和装置 | |
CN113901909B (zh) | 基于视频的目标检测方法、装置、电子设备和存储介质 | |
WO2022174517A1 (zh) | 一种人群计数方法、装置、计算机设备及存储介质 | |
CN114266860B (zh) | 三维人脸模型建立方法、装置、电子设备及存储介质 | |
CN113808044B (zh) | 加密掩膜确定方法、装置、设备以及存储介质 | |
CN113902007A (zh) | 模型训练方法及装置、图像识别方法及装置、设备和介质 | |
US20220309763A1 (en) | Method for identifying traffic light, device, cloud control platform and vehicle-road coordination system | |
KR20210037632A (ko) | 생체 검출 방법 및 장치 | |
CN113869205A (zh) | 对象检测方法、装置、电子设备和存储介质 | |
CN114078097A (zh) | 图像去雾模型的获取方法、装置和电子设备 | |
CN113989720A (zh) | 目标检测方法、训练方法、装置、电子设备及存储介质 | |
CN111783765B (zh) | 一种识别图像字符的方法、装置和电子设备 | |
CN115249281A (zh) | 图像遮挡和模型训练方法、装置、设备以及存储介质 | |
CN113887414A (zh) | 目标检测方法、装置、电子设备和存储介质 | |
CN114387651A (zh) | 一种人脸识别方法、装置、设备及存储介质 | |
US11681920B2 (en) | Method and apparatus for compressing deep learning model | |
CN114419327A (zh) | 图像检测方法和图像检测模型的训练方法、装置 | |
CN113947195A (zh) | 模型确定方法、装置、电子设备和存储器 | |
CN116558540B (zh) | 模型训练方法和装置、轨迹生成方法和装置 | |
CN112232824A (zh) | 一种基于抽象语法树的风险结果计算方法及设备 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |