CN108229398A - 一种自我学习的人脸验证方法 - Google Patents
一种自我学习的人脸验证方法 Download PDFInfo
- Publication number
- CN108229398A CN108229398A CN201810007809.5A CN201810007809A CN108229398A CN 108229398 A CN108229398 A CN 108229398A CN 201810007809 A CN201810007809 A CN 201810007809A CN 108229398 A CN108229398 A CN 108229398A
- Authority
- CN
- China
- Prior art keywords
- sample set
- vgg
- networks
- face
- convolutional neural
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/16—Human faces, e.g. facial parts, sketches or expressions
- G06V40/172—Classification, e.g. identification
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
- G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
- G06F18/2413—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches based on distances to training or reference patterns
- G06F18/24147—Distances to closest patterns, e.g. nearest neighbour classification
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Evolutionary Biology (AREA)
- Evolutionary Computation (AREA)
- Bioinformatics & Computational Biology (AREA)
- General Engineering & Computer Science (AREA)
- Artificial Intelligence (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Health & Medical Sciences (AREA)
- General Health & Medical Sciences (AREA)
- Oral & Maxillofacial Surgery (AREA)
- Human Computer Interaction (AREA)
- Multimedia (AREA)
- Image Analysis (AREA)
Abstract
本发明公开一种自我学习的人脸验证方法,其特征在于,包括步骤:步骤101:使用标注的人脸样本集L训练卷积神经网络;步骤102:使用卷积神经网络对非标注样本集U进行标注;步骤103:使用样本集U微调卷积神经网络;步骤104:使用样本集L微调卷积神经网络;步骤105重复步骤102,103,104多次。
Description
技术领域
本发明涉及生物特征识别领域,特别涉及一种自我学习的卷积神经网络训练方法应用于人脸验证。
背景技术
人脸验证是基于人的脸部特征信息进行身份确认的技术,以其具有安全性,友好性及可靠性等在身份认证中得到广泛的应用域。人脸验证研究的重要内容是如何获取有效的特征表达,最大类间距离和最小化类内距离。使用传统的Gabor,LBP等人工选取特征不足以捕获人脸的本质特征,实现高精确度的人脸验证。近年来深度学习方法的成功应用到人脸验证当中。深度学习方法通过对大规模真实数据的训练,得到富含人脸身份属性信息,实现人脸图像的本质表达,提高人脸验证精度。如包括DeepFace,DeepID,FaceNet等人脸验证专用模型,其验证准确度达到了人眼的辨识水平。
然而深度学习方法最大的问题是网络参数过多,需要大规模的数据标注才能实现训练,往往所需要数据达百万以上,如DeepFace使用了4000人的400百万幅图像。而进行大规模人脸数据采集和标注是一种较大的人力财力的消耗。
本发明提供一种自我学习的训练方法,在较少量的标注的人脸图像的基础上,利用大规模没有标注的数据作为辅助来训练深度神经网络,以减少的人脸数据标注的耗费。
发明内容
本发明的目的在于降低人脸数据的标注量,提出一种自我学习的方法,使用较少量标定的人脸数据训练初使的深度神经网络用于标注无身份标签的人脸数据并进一步优化深度神经网络。具体步骤包括:步骤101:使用标注的人脸样本集L训练卷积神经网络;步骤102:使用卷积神经网络对非标注样本集U进行标注;步骤103:使用样本集U微调卷积神经网络;步骤104:使用样本集L微调卷积神经网络;步骤105重复步骤102,103,104多次。
优选地,所述步骤101包括构建网络模型和三步训练的过程:
步骤1011:构建VGG网络模型应用于人脸的验证:使用具有16 个卷积层和3个全连接层VGG网络,其中倒数第二层fc8作为最高的人脸特征层,最终的分类层的类别数改为样本集L的类别数Nc;
步骤1012:使用数据集L训练VGG网络:为了提高人脸验证性能,本发明中VGG模型采用现有人的ImageNet数据集的模型作为初使化参数。
优选地,所述步骤1012的方法分三步:
1)去掉triplet Loss固定其它,只更新softmax分类层参数,直至网络收敛;
2)更新除所有层参数,直至网络收敛;
3)添加triplet Loss监督,更一步更新所有层参数直到网络收敛。
优选地,所述步骤102对样本集U进行标注具体包括:
步骤1021:随机抽取样本集U中N1张图像为样本集U1,剩下的为样本集U2,数量为N2;
步骤1022:将样本集U1中N1张图像标定为N1个独立的标签,并使用步骤1中的VGG网络提取fc8层特征,记为{Fx};
步骤1023:将样本集U2计算VGG网络fc8层特征,查找其特征在{Fx}中的最近邻,将其标定为该最近邻的类别。
优选地,所述步骤103使用步骤102标注的样本集U进一步更新 VGG网络的参数,同样采用步骤1012中所述三步法进行。
优选地,所述步骤104使用样本集L中步骤103训练的基础上微调,进一步更新VGG网络的参数,同样采用步骤1012中所述三步法进行。
附图说明
参考随附的附图,本发明更多的目的、功能和优点将通过本发明实施方式的如下描述得以阐明,其中:
图1为本发明的训练深度卷积神经网络的流程图;
图2为本发明所采用的添加triplet loss模型示意图;
具体实施方式
通过参考示范性实施例,本发明的目的和功能以及用于实现这些目的和功能的方法将得以阐明。然而,本发明并不受限于以下所公开的示范性实施例;可以通过不同形式来对其加以实现。说明书的实质仅仅是帮助相关领域技术人员综合理解本发明的具体细节。
在下文中,将参考附图描述本发明的实施例。在附图中,相同的附图标记代表相同或类似的部件,或者相同或类似的步骤。具体步骤包括:步骤101,使用标注的人脸样本集L训练卷积神经网络;步骤102,使用卷积神经网络对非标注样本集U进行标注,其中样本集 U中图像数量远大于样本集L;步骤103,使用样本集U微调卷积神经网络;步骤104,使用标注样本集L微调卷积神经网络;步骤105,重复步骤102,103,104多次。
优选地,所述步骤1使用标注的人脸样本集L训练VGG具体步骤包括:
步骤1011:使用标注的人脸样本集L训练分类层。VGG是2014 年谷歌公司参与ImageNet竞赛的一个模型,在图像分类和人脸识别方面都取得很好的效果。本发明使用具有16个卷积层和3个全连接层VGG网络,其中倒数第二层fc8作用最高的人脸特征层,最终的分类层softmax类别数改为样本集L的类别数Nl。采用现有的ImageNet 数据集的模型参数做初使化,固定除分类softmax层以外的其它层,单独训练softmax层;
步骤1012:更新除所有层参数,直至网络收敛;
步骤1013:添加triplet Loss监督,更一步更新所有层参数直到网络收敛。如图2,为了增大人脸样本的类间距离和减少类内距离,利用了triplet Loss。
其中triplet Loss模型为
其中表示与样本的相同标签样本,表与样本不同标签样本,f(·)为样本的特征。+表示[]内的值大于零的时候,取该值为损失,小于零的时候,损失为零。α为设置阈值。
优选地,所述步骤102对样本集U进行标注具体包括:
步骤1021:随机抽取样本集U中N1张图像为样本集U1,剩下的为样本集U2,数量为N2;
步骤1022:将样本集U1中N1张图像设定为N1个独立的标签,并使用当前训练的VGG网络提取fc8层特征,记为{Fx};
步骤1023:将样本集U2计算VGG网络fc8层特征,查找样本特征在{Fx}中的最近邻,将其标定为该最近邻的类别。
优选地,所述步骤103使用步骤102标注的样本集U进一步更新 VGG网络的参数,具体步骤包括:
步骤1031:固定除分类softmax层以外的其它层,使用样本集U 重新训练softmax层;
步骤1032:使用样本集U微调所有层参数,直至网络收敛;
步骤1033:添加triplet Loss监督,进一步更新网络。
优选地,所述步骤104使用样本集L中步骤103训练的基础上微调,进一步更新VGG网络的参数。具体步骤包括:
步骤1041:固定除分类softmax层以外的其它层,使用样本集L 重新训练softmax层;
步骤1042:使用样本集L微调所有层参数,直至网络收敛;
步骤1043:添加triplet Loss监督,进一步更新网络。
步骤105,重复步骤102,103,104多次。
以上只是本发明较佳的实例,并非来限制本发明实施范围,故凡依本发明申请专利范围所述的构造、特征及原理所做的等效变化或修饰,均应包括于本发明专利申请范围内。
Claims (6)
1.一种自我学习的人脸验证方法,其特征在于,包括步骤:
步骤101:使用标注的人脸样本集L训练卷积神经网络;
步骤102:使用卷积神经网络对非标注样本集U进行标注;
步骤103:使用样本集U微调卷积神经网络;
步骤104:使用样本集L微调卷积神经网络;
步骤105重复步骤102,103,104多次。
2.如权利要求1所述的的方法,其特征在于:所述步骤101包括构建网络模型和三步训练的过程:
步骤1011:构建VGG网络模型应用于人脸的验证:使用具有16个卷积层和3个全连接层VGG网络,其中倒数第二层fc8作为最高的人脸特征层,最终的分类层的类别数改为样本集L的类别数Nc;
步骤1012:使用数据集L训练VGG网络:为了提高人脸验证性能,本发明中VGG模型采用现有人的ImageNet数据集的模型参数作为初使化参数。
3.如权利要求2所述的的方法,其特征在于:所述步骤1012的方法分三步:
1)去掉triplet Loss固定其它,只更新softmax分类层参数,直至网络收敛;
2)更新除所有层参数,直至网络收敛;
3)添加triplet Loss监督,更一步更新所有层参数直到网络收敛。
4.如权利要求1所述的的方法,其特征在于:所述步骤102对样本集U进行标注具体包括:
步骤1021:随机抽取样本集U中N1张图像为样本集U1,剩下的为样本集U2,数量为N2;
步骤1022:将样本集U1中N1张图像标定为N1个独立的标签,并使用步骤1中的VGG网络提取fc8层特征,记为{Fx};
步骤1023:将样本集U2计算VGG网络fc8层特征,查找其特征在{Fx}中的最近邻,将其标定为该最近邻的类别。
5.如权利要求2所述的的方法,其特征在于:所述步骤103使用步骤102标注的样本集U进一步更新VGG网络的参数,以现有VGG模型作为初使化参数,同样采用步骤1012中所述三步法进行训练。
6.如权利要求2所述的的方法,其特征在于:所述步骤104使用样本集L中步骤103训练的基础上微调,进一步更新VGG网络的参数,同样采用步骤1012中所述三步法进行。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201810007809.5A CN108229398A (zh) | 2018-01-04 | 2018-01-04 | 一种自我学习的人脸验证方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201810007809.5A CN108229398A (zh) | 2018-01-04 | 2018-01-04 | 一种自我学习的人脸验证方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN108229398A true CN108229398A (zh) | 2018-06-29 |
Family
ID=62642904
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201810007809.5A Pending CN108229398A (zh) | 2018-01-04 | 2018-01-04 | 一种自我学习的人脸验证方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN108229398A (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109033990A (zh) * | 2018-07-02 | 2018-12-18 | 河南大学 | 基于类内类间距离的cnn模型心拍分类方法 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105354548A (zh) * | 2015-10-30 | 2016-02-24 | 武汉大学 | 一种基于ImageNet检索的监控视频行人重识别方法 |
CN106203533A (zh) * | 2016-07-26 | 2016-12-07 | 厦门大学 | 基于混合训练的深度学习人脸验证方法 |
US20170011280A1 (en) * | 2015-07-07 | 2017-01-12 | Xerox Corporation | Extracting gradient features from neural networks |
CN107273872A (zh) * | 2017-07-13 | 2017-10-20 | 北京大学深圳研究生院 | 用于图像或视频中行人重识别的深度判别网络模型方法 |
CN107330396A (zh) * | 2017-06-28 | 2017-11-07 | 华中科技大学 | 一种基于多属性和多策略融合学习的行人再识别方法 |
-
2018
- 2018-01-04 CN CN201810007809.5A patent/CN108229398A/zh active Pending
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20170011280A1 (en) * | 2015-07-07 | 2017-01-12 | Xerox Corporation | Extracting gradient features from neural networks |
CN105354548A (zh) * | 2015-10-30 | 2016-02-24 | 武汉大学 | 一种基于ImageNet检索的监控视频行人重识别方法 |
CN106203533A (zh) * | 2016-07-26 | 2016-12-07 | 厦门大学 | 基于混合训练的深度学习人脸验证方法 |
CN107330396A (zh) * | 2017-06-28 | 2017-11-07 | 华中科技大学 | 一种基于多属性和多策略融合学习的行人再识别方法 |
CN107273872A (zh) * | 2017-07-13 | 2017-10-20 | 北京大学深圳研究生院 | 用于图像或视频中行人重识别的深度判别网络模型方法 |
Non-Patent Citations (3)
Title |
---|
张园林等: "基于二度冗余网络的人脸识别", 《计算机应用》 * |
袁智等: "一种基于双流卷积神经网络跌倒识别方法", 《河南师范大学学报(自然科学版)》 * |
陈敏: ""机器学习主要算法"", 《认知计算导论》 * |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109033990A (zh) * | 2018-07-02 | 2018-12-18 | 河南大学 | 基于类内类间距离的cnn模型心拍分类方法 |
CN109033990B (zh) * | 2018-07-02 | 2021-08-17 | 河南大学 | 基于类内类间距离的cnn模型心拍分类方法 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN107729835B (zh) | 一种基于人脸关键点区域传统特征和人脸全局深度特征融合的表情识别方法 | |
CN109145939B (zh) | 一种小目标敏感的双通道卷积神经网络语义分割方法 | |
CN110163110B (zh) | 一种基于迁移学习和深度特征融合的行人重识别方法 | |
CN113378632B (zh) | 一种基于伪标签优化的无监督域适应行人重识别方法 | |
CN107886064B (zh) | 一种基于卷积神经网络的人脸识别场景适应的方法 | |
CN104463101B (zh) | 用于文字性试题的答案识别方法及系统 | |
CN106682696B (zh) | 基于在线示例分类器精化的多示例检测网络及其训练方法 | |
CN102262729B (zh) | 基于集成学习的混合融合人脸识别方法 | |
CN109815801A (zh) | 基于深度学习的人脸识别方法及装置 | |
CN106778584A (zh) | 一种基于深层特征与浅层特征融合的人脸年龄估计方法 | |
CN106384087A (zh) | 一种基于多层网络人体特征的身份识别方法 | |
CN104866829A (zh) | 一种基于特征学习的跨年龄人脸验证方法 | |
CN105095870A (zh) | 基于迁移学习的行人重识别方法 | |
CN104951554B (zh) | 为风景照配上符合其意境的诗句的方法 | |
CN101536035A (zh) | 图像识别方法、图像识别装置以及图像识别程序 | |
CN102930249A (zh) | 基于颜色和模型的农田害虫识别和计数方法 | |
CN109063724A (zh) | 一种增强型生成式对抗网络以及目标样本识别方法 | |
CN104851140A (zh) | 基于人脸识别的考勤门禁系统 | |
CN103984943A (zh) | 一种基于贝叶斯概率框架的场景文本识别方法 | |
CN106531157A (zh) | 语音识别中的正则化口音自适应方法 | |
CN106373136A (zh) | 一种基于颜色和特征的害虫识别计数方法 | |
CN111008647B (zh) | 一种样本提取及基于空洞卷积与残差链接的图像分类方法 | |
CN109886154A (zh) | 基于Inception V3的多数据集联合训练的行人外观属性识别方法 | |
CN106778834A (zh) | 一种基于距离测度学习的ap聚类图像标注方法 | |
CN110443174A (zh) | 一种基于解耦自适应判别性特征学习的行人重识别方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
RJ01 | Rejection of invention patent application after publication |
Application publication date: 20180629 |
|
RJ01 | Rejection of invention patent application after publication |