CN107729890B - 基于lbp和深度学习的人脸识别方法 - Google Patents

基于lbp和深度学习的人脸识别方法 Download PDF

Info

Publication number
CN107729890B
CN107729890B CN201711231662.XA CN201711231662A CN107729890B CN 107729890 B CN107729890 B CN 107729890B CN 201711231662 A CN201711231662 A CN 201711231662A CN 107729890 B CN107729890 B CN 107729890B
Authority
CN
China
Prior art keywords
lbp
layer
deep learning
method based
face recognition
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
CN201711231662.XA
Other languages
English (en)
Other versions
CN107729890A (zh
Inventor
任红格
史涛
王玮
李福进
赵传松
杜建
宫海洋
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
North China University of Science and Technology
Original Assignee
North China University of Science and Technology
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by North China University of Science and Technology filed Critical North China University of Science and Technology
Priority to CN201711231662.XA priority Critical patent/CN107729890B/zh
Publication of CN107729890A publication Critical patent/CN107729890A/zh
Application granted granted Critical
Publication of CN107729890B publication Critical patent/CN107729890B/zh
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/168Feature extraction; Face representation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/21Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/214Generating training patterns; Bootstrap methods, e.g. bagging or boosting
    • G06F18/2155Generating training patterns; Bootstrap methods, e.g. bagging or boosting characterised by the incorporation of unlabelled data, e.g. multiple instance learning [MIL], semi-supervised techniques using expectation-maximisation [EM] or naïve labelling
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/172Classification, e.g. identification

Abstract

本发明涉及了一种基于井字形LBP和深度学习相结合的人脸识别方法,属于人工智能技术领域,针对传统局部二值模式(LBP)特征提取不充分和分类器拟合的问题,提出一种基于局部纹理特征的井字形局部二值模式(LBP)和深度学习的人脸识别方法,利用改进的LBP算法提取人脸图像局部纹理特征,建立LBP直方图;然后构建基于深度信念网络的深度学习架构,将LBP直方图输入到深度信念网络中,采用无监督逐层训练法和有监督BP算法去训练网络,实现网络的自学习和自优化,得到网络参数;最后,利用DBN分类、识别人脸图像。本发明能够提取到具有区分性的人脸图像纹理特征,验证了该算法在识别率的优越性并且具有较强的鲁棒性。

Description

基于LBP和深度学习的人脸识别方法
技术领域
本发明涉及人工智能技术领域,具体的说,是涉及一种基于LBP和深度学习的人脸识别方法。
背景技术
人脸识别是一种基于人脸面部特征的身份识别技术,受到了来自各个领域的极大的瞩目。近年来,基于深度学习思想的方法得到了极大的发展和应用,在计算机视觉和物体识别等研究领域中取得了突破性的成果,为计算机科学向智能化方向发展提供了算法上的支持。目前深度学习的方法被越来越多的研究者引入到人脸识别相关研究领域中,取得了诸多令人满意的成果。2006年,Hinton提出DBN算法,是一种具有代表性的深度学习方法,其优点是有较强的函数表征能力,已成功应用于手写数字识别、动态人体检测等诸多领域。局部二值模式(LBP)是由Ojala等提出的一种有效纹理描述子,能够刻画出人脸图像的亮点、暗点、边缘等局部微模式及其分布情况,且计算简单、运算速度快,具有光照和旋转不变性。LBP算子在动态纹理识别表情分析、人脸识别等方面得到广泛应用。
申请公布号CN 105550658 A的发明专利公开了一种基于高维LBP与卷积神经网络特征融合的人脸对比方法,该方法比单独使用高维LBP或CNN能够得到更高的准确率,更好的鲁棒性,能够达到实时人脸比对的速率。申请公布号CN 105139426 A的发明专利公开了一种基于非下采样小波变换和LBP的视频运动目标检测方法,具有变换的平移不变性的优点,同时降低了计算的复杂度提高了运算速度。但是,以上专利在识别准确率方面取得的结果尚不尽如人意。
发明内容
针对传统局部二值模式(LBP)特征提取不充分和分类器拟合的问题,本发明提供一种有利于提取人脸图像更有用的纹理信息的基于LBP和深度学习的人脸识别方法。
本发明所采取的技术方案是:
一种基于LBP和深度学习的人脸识别方法,包括如下步骤:
对人脸图像训练样本进行分块处理,采用经典的均匀分块方式,对图像分块太大例如4×4,会包含一些干扰和噪声影响分块效果,对图像分块太小例如16×16,会加大相邻区域的阈值,影响特征表达效果,所以样本分块为8×8。
对人脸图像训练样本进行分块处理,将样本分块为8×8,采用井字形LBP提取每一个子块的井字形LBP直方图,将每个子块的直方图首尾相连形成样本总体直方图;
将训练样本的井字形LBP特征输入到DBN的可视层,训练第一个RBM,将第一个RBM的输出作为第二个RBM的输入训练第二个RBM,重复该过程直到训练完所有的RBM,以获取最优网络参数,用BP算法微调整个网络参数。
所述井字形LBP是在8个采样点的原始LBP基础上拓展为16个采样点的井字形LBP,具有更广的采样范围,能够提取到更有用的人脸图像纹理信息。
计算井字形LBP编码值公式是:
Figure BDA0001488269970000021
Xi是内层的采样点,Yi是外层的采样点。
将样本的井字形LBP特征向量输入到DBN的可视层,逐层训练DBN,避免深度网络对于不利信息的处理,最后完成对人脸图像的分类识别。
本发明相对现有技术的有益效果:
本发明基于LBP和深度学习的人脸识别方法,以原始LBP为基础,改进为井字形LBP算法,并与深度学习理论结合在一起,即通过井字形LBP纹理描述子去提取人脸纹理特征,将其作为深度学习的输入,自下向上,层层学习更抽象的人脸特征,在顶层进行分类,可以减少对不利的特征描述的学习,提高特征的可识别性,运用BP算法微调全局,减少网络训练时间。通过实验表明所提算法能有效提高人脸图像关键信息的利用率,其鲁棒性和泛化能力均优于其他算法。
在原始LBP基础上,发明了一种特征提取能力更强、鲁棒性更好的井字形LBP算法;其次将该方法与DBN算法结合,作为输入去训练深度网络结构,减少深度网络对于不利特征的学习,避免冗余信息,减少训练网络时间,并克服DBN不能很好学习人脸局部纹理结构的缺点。
附图说明
图1是本发明基于LBP和深度学习的人脸识别方法的分块人脸图像;
图2是本发明基于LBP和深度学习的人脸识别方法的井字形邻域图;
图3是本发明基于LBP和深度学习的人脸识别方法的井字形LBP算法运算过程示例图;
图4是本发明基于LBP和深度学习的人脸识别方法的人脸图像井字形LBP总直方图;
图5是本发明基于LBP和深度学习的人脸识别方法的DBN的结构示意图;
图6是本发明基于LBP和深度学习的人脸识别方法的人脸识别框图。
具体实施方式
以下参照附图及实施例对本发明进行详细的说明:
一种基于LBP和深度学习的人脸识别方法,包括如下步骤:
对人脸图像训练样本进行分块处理,采用经典的均匀分块方式,对图像分块太大例如4×4,会包含一些干扰和噪声影响分块效果,对图像分块太小例如16×16,会加大相邻区域的阈值,影响特征表达效果,所以本文将样本分块为8×8。
采用井字形LBP提取每一个子块的LBP直方图,将每个子块的直方图首尾相连形成样本总体直方图;
将训练样本的LBP特征输入到DBN的可视层,训练第一个RBM,将第一个RBM的输出作为第二个RBM的输入训练第二个RBM,重复该过程直到训练完所有的RBM,以获取最优网络参数,用BP算法微调整个网络参数。
所述井字形LBP是在8个采样点的原始LBP基础上拓展为16个采样点的井字形LBP,新增加的8个采样点分布在3×3邻域四个角的正上方、正下方、正左方和正右方,这样的分布方式有利于反映像素间的相关性。
计算井字形LBP编码值公式是:
Figure BDA0001488269970000041
Xi是内层的采样点,Yi是外层的采样点。
将样本的井字形LBP特征向量输入到DBN的可视层,逐层训练DBN,避免深度网络对于不利信息的处理,最后完成对人脸图像的分类识别。
如图1所示,步骤1,将人脸图像分块,然后提取井字形LBP直方图。
先求取井字形LBP值,如图2所示是所提出的井字形邻域16个像素按照采样半径划分为两组内层{xi}和外层{yi}(i=0,1,..,7),以图像中任意一点为中心,内层是3×3的大小作为窗口,外层是5×5的大小作为窗口,以该窗口中心像素点的灰度值作为阈值,将16个邻域灰度值与中心灰度值作对比,如果邻域灰度值比阈值大,则记为1,否则记为0;然后,顺时针分别将内层8个点和外层8个点的二进制数串连起来分别形成两行二进制编码;最后,分别通过加权求和获得十进制数,再求平均数,该平均数即为此像素点的井字形LBP值。
本发明井字形邻域的16个采样点与3×3邻域采样的原始LBP编码比起来,井字形邻域具有更广的采样范围,更进一步收集到有用信息,提高纹理信息的利用率。井字形邻域与32个采样点的5×5邻域相比,采样点仅为16个。并且在径线上井字形邻域的采样点不重叠,在保证充分采样的基础上避免纹理信息的冗余性。
如图3所示是井字形LBP计算过程,
计算公式如(1)和(2):
Figure BDA0001488269970000051
内层的二进制编码:01111010
十进制编码:122
外层的二进制编码:101001010
十进制编码:138
Figure BDA0001488269970000052
经上述计算可得该像素点的井字形LBP值是130。
计算130的目的是随机假设一个点来说明井字形LBP算法的运算过程。
如图4所示为对图1分块图像进行处理,统计每一块的直方图,然后串联所有子块的井字形LBP直方图制成总直方图,即是空间增强直方图,作为人脸图像的特征向量。
步骤2,将训练样本的井字形LBP特征向量输入到DBN的可视层,训练第一个RBM,将第一个RBM的输出作为第二个RBM的输入训练第二个RBM,重复该过程直到训练完所有的RBM,以获取最优网络参数,用BP算法微调整个网络参数。
深度网络联合分布表示为:
p(H,h(1),h(2),…,h(l))=P(H|h(1))P(h(2)|h(1))…P(h(l-2)|h(l-1))P(h(l-1)|h(l)) (1)
其中,H是井字形LBP纹理特征,h(1),h(2),…,h(l)是深度信念网络通过对输入特征H进行学习而得到的高层表示,因此该特征的完备程度直接影响到深度网络的效果。
如图5所示是DBN算法训练示意图,DBN的训练过程包含预训练和微调相结合的过程。在预训练阶段,DBN采用自底向上的无监督训练方法训练每一层RBM,将输入作为第一层的RBM的可视层,第一层RBM的隐含层作为第二层RBM的可视层,以此类推,无监督的训练整个DBN网络。在微调阶段,采用自顶向下的方式对整个网络进行有监督的微调。
人脸识别的具体步骤如图6所示:
步骤1:预处理人脸图像样本,包括灰度归一化、分块等;
步骤2:运用井字形LBP算法对每一小块人脸图像提取LBP值,进而转化为LBP直方图,通过串连每一块LBP直方图得到总的LBP直方图;
步骤3:将LBP总直方图输入到DBN中训练网络参数,每一层都进行从下到上的无监督预训练和从上到下的有监督微调,同时每一层都加入Dropout技术,逐层训练,最后得到最优参数值;
步骤4:完成网络的训练过程后,将测试样本的LBP总直方图输入到DBN中,通过训练好的网络学习并提取测试样本的抽象特征,最后作为分类器实现分类识别,得到结果。
本发明基于LBP和深度学习的人脸识别方法,针对传统局部二值模式(LBP)特征提取不充分和分类器拟合的问题,提出一种基于局部纹理特征的显著局部二值模式(井字形LBP)和深度学习的人脸识别方法,利用改进的LBP算法提取人脸图像局部纹理特征,建立井字形LBP直方图;然后构建基于深度信念网络的深度学习架构,将井字形LBP直方图输入到深度信念网络中,采用无监督逐层训练法和有监督BP算法去训练网络,实现网络的自学习和自优化,得到网络参数;最后,利用DBN分类、识别人脸图像。本发明能够提取到具有区分性的人脸图像纹理特征,验证了该算法在识别率的优越性并且具有较强的鲁棒性。
以上所述,仅是本发明的较佳实施例而已,并非对本发明的结构作任何形式上的限制。凡是依据本发明的技术实质对以上实施例所作的任何简单修改、等同变化与修饰,均属于本发明的技术方案范围内。

Claims (3)

1.一种基于LBP和深度学习的人脸识别方法,其特征在于包括如下步骤:
采用井字形LBP提取每一个子块的LBP直方图,将每个子块的直方图首尾相连形成样本总体直方图;
将训练样本的LBP特征输入到DBN的可视层,训练第一个RBM,将第一个RBM的输出作为第二个RBM的输入训练第二个RBM,重复该过程直到训练完所有的RBM,以获取最优网络参数,用BP算法微调整个网络参数;
所述井字形LBP是在8个采样点的原始LBP基础上拓展为16个采样点的井字形LBP,新增加的8个采样点分布在3×3邻域四个角的正上方、正下方、正左方和正右方。
2.根据权利要求1所述基于LBP和深度学习的人脸识别方法,其特征在于:计算井字形LBP编码值公式是:
Figure FDA0002637317370000011
X是内层的采样点,Y是外层的采样点。
3.根据权利要求1所述基于LBP和深度学习的人脸识别方法,其特征在于:将样本的井字形LBP特征向量输入到DBN的可视层,逐层训练DBN,避免深度网络对于不利信息的处理,最后完成对人脸图像的分类识别。
CN201711231662.XA 2017-11-30 2017-11-30 基于lbp和深度学习的人脸识别方法 Expired - Fee Related CN107729890B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201711231662.XA CN107729890B (zh) 2017-11-30 2017-11-30 基于lbp和深度学习的人脸识别方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201711231662.XA CN107729890B (zh) 2017-11-30 2017-11-30 基于lbp和深度学习的人脸识别方法

Publications (2)

Publication Number Publication Date
CN107729890A CN107729890A (zh) 2018-02-23
CN107729890B true CN107729890B (zh) 2020-10-09

Family

ID=61220509

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201711231662.XA Expired - Fee Related CN107729890B (zh) 2017-11-30 2017-11-30 基于lbp和深度学习的人脸识别方法

Country Status (1)

Country Link
CN (1) CN107729890B (zh)

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109033988A (zh) * 2018-06-29 2018-12-18 江苏食品药品职业技术学院 一种基于人脸识别的图书馆出入管理系统
CN108932499A (zh) * 2018-07-09 2018-12-04 武汉科技大学 一种基于局部二值模式和深度置信网络的滚动轴承预测方法和系统
CN109684964A (zh) * 2018-12-17 2019-04-26 华北理工大学 基于区域分割Haar-SIFT深度信念网络的人脸识别方法
CN109740578A (zh) * 2019-03-01 2019-05-10 哈尔滨理工大学 一种适用于光照、姿态、表情变化的人脸识别方法
CN110781936B (zh) * 2019-10-16 2022-11-18 武汉大学 基于纹理描述和深度学习的阈值可学习局部二进制网络的构建方法以及遥感图像分类方法
CN112070009B (zh) * 2020-09-08 2023-07-11 南京工业大学 基于改进的lbp算子的卷积神经网络表情识别方法
CN114626860B (zh) * 2022-05-12 2022-08-05 武汉和悦数字科技有限公司 用于线上商品支付的身份动态识别方法及装置

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103679708A (zh) * 2013-11-28 2014-03-26 河海大学 一种环形lbp纹理生成方法
CN103955691A (zh) * 2014-05-08 2014-07-30 中南大学 一种多分辨率lbp的纹理特征提取方法
CN104616016A (zh) * 2015-01-30 2015-05-13 天津大学 一种全局与局部特征相结合的纹理特征描述方法
KR20160007789A (ko) * 2014-06-30 2016-01-21 대한민국(관리부서: 행정자치부 국립과학수사연구원장) 유가증권 위변조 검사 방법
CN106557769A (zh) * 2015-09-25 2017-04-05 北京大学 一种基于路径积分的ms-lbp的特征抽取方法及系统
US20170256052A1 (en) * 2016-03-04 2017-09-07 Siemens Healthcare Gmbh Leveraging on local and global textures of brain tissues for robust automatic brain tumor detection
CN107145842A (zh) * 2017-04-19 2017-09-08 西安电子科技大学 结合lbp特征图与卷积神经网络的人脸识别方法
CN107273793A (zh) * 2017-04-28 2017-10-20 广东顺德中山大学卡内基梅隆大学国际联合研究院 一种用于人脸识别的特征提取方法

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103679708A (zh) * 2013-11-28 2014-03-26 河海大学 一种环形lbp纹理生成方法
CN103955691A (zh) * 2014-05-08 2014-07-30 中南大学 一种多分辨率lbp的纹理特征提取方法
KR20160007789A (ko) * 2014-06-30 2016-01-21 대한민국(관리부서: 행정자치부 국립과학수사연구원장) 유가증권 위변조 검사 방법
CN104616016A (zh) * 2015-01-30 2015-05-13 天津大学 一种全局与局部特征相结合的纹理特征描述方法
CN106557769A (zh) * 2015-09-25 2017-04-05 北京大学 一种基于路径积分的ms-lbp的特征抽取方法及系统
US20170256052A1 (en) * 2016-03-04 2017-09-07 Siemens Healthcare Gmbh Leveraging on local and global textures of brain tissues for robust automatic brain tumor detection
CN107145842A (zh) * 2017-04-19 2017-09-08 西安电子科技大学 结合lbp特征图与卷积神经网络的人脸识别方法
CN107273793A (zh) * 2017-04-28 2017-10-20 广东顺德中山大学卡内基梅隆大学国际联合研究院 一种用于人脸识别的特征提取方法

Non-Patent Citations (6)

* Cited by examiner, † Cited by third party
Title
"Extended local binary patterns for texture classification";Li Liu et al.;《Image and Vision Computing》;20121231;第86-99页 *
"LBP-Based Segmentation of Defocus Blur";Xin Yi et al.;《IEEE TRANSACTIONS ON IMAGE PROCESSING》;20160430;第25卷(第4期);第1626-1638页 *
"G-LBP和方差投影交叉熵的人脸识别";胡敏 等;《图学学报》;20170228;第38卷(第1期);第177-181页 *
"一种基于LBP特征的Seam_Carving图像篡改检测方法";杨富圣 等;《南开大学学报(自然科学版)》;20150430;第48卷(第2期);第75-80页 *
"基于局部二值模式和深度学习的人脸识别";张雯 等;《计算机应用》;20150510;第35卷(第5期);第1474-1478页 *
"基于改进LBP算子的纹理图像分类方法";李春利 等;《计算机工程与设计》;20160131;第37卷(第1期);第232-236页 *

Also Published As

Publication number Publication date
CN107729890A (zh) 2018-02-23

Similar Documents

Publication Publication Date Title
CN107729890B (zh) 基于lbp和深度学习的人脸识别方法
CN103605972B (zh) 一种基于分块深度神经网络的非限制环境人脸验证方法
CN109190566B (zh) 一种融合局部编码与cnn模型手指静脉识别方法
CN108268859A (zh) 一种基于深度学习的人脸表情识别方法
CN105718889A (zh) 基于GB(2D)2PCANet深度卷积模型的人脸身份识别方法
CN110827260B (zh) 一种基于lbp特征与卷积神经网络的布匹缺陷分类方法
Yang et al. -Means Based Fingerprint Segmentation with Sensor Interoperability
Wang et al. Hand-dorsa vein recognition with structure growing guided CNN
CN104504383A (zh) 一种基于肤色和Adaboost算法的人脸检测方法
CN105117707A (zh) 一种基于区域图像的人脸表情识别方法
CN111079514A (zh) 一种基于clbp和卷积神经网络的人脸识别方法
CN105095880A (zh) 一种基于lgbp编码的手指多模态特征融合方法
Yue et al. Face recognition based on histogram equalization and convolution neural network
CN105893941B (zh) 一种基于区域图像的人脸表情识别方法
CN112883941A (zh) 一种基于并行神经网络的人脸表情识别方法
CN110188646B (zh) 基于梯度方向直方图与局部二值模式融合的人耳识别方法
Wang et al. Palm-vein verification based on U-Net
CN113344933B (zh) 一种基于多层次特征融合网络的腺体细胞分割方法
CN109002770B (zh) 一种低分辨率条件下的人脸识别方法
Li et al. FVGNN: A novel GNN to finger vein recognition from limited training data
Sun et al. The face recognition method based on CS-LBP and DBN
CN111914652B (zh) 一种基于两层自组织神经网络的人脸特征二进制编码与识别方法
Dhivya et al. Ancient Tamil Character Recognition from Stone Inscriptions–A Theoretical Analysis
Ashoka et al. Feature extraction technique for neural network based pattern recognition
Zhao et al. Multi-feature fusion using collaborative residual for hyperspectral palmprint recognition

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant
CF01 Termination of patent right due to non-payment of annual fee
CF01 Termination of patent right due to non-payment of annual fee

Granted publication date: 20201009

Termination date: 20211130