CN110070028B - 基于共轭梯度法的人脸图像非负特征表示与识别方法、系统及存储介质 - Google Patents

基于共轭梯度法的人脸图像非负特征表示与识别方法、系统及存储介质 Download PDF

Info

Publication number
CN110070028B
CN110070028B CN201910308934.4A CN201910308934A CN110070028B CN 110070028 B CN110070028 B CN 110070028B CN 201910308934 A CN201910308934 A CN 201910308934A CN 110070028 B CN110070028 B CN 110070028B
Authority
CN
China
Prior art keywords
matrix
module
face image
recognition
negative
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201910308934.4A
Other languages
English (en)
Other versions
CN110070028A (zh
Inventor
陈文胜
陈海涛
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shenzhen University
Original Assignee
Shenzhen University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Shenzhen University filed Critical Shenzhen University
Priority to CN201910308934.4A priority Critical patent/CN110070028B/zh
Publication of CN110070028A publication Critical patent/CN110070028A/zh
Application granted granted Critical
Publication of CN110070028B publication Critical patent/CN110070028B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/213—Feature extraction, e.g. by transforming the feature space; Summarisation; Mappings, e.g. subspace methods
    • G06F18/2133—Feature extraction, e.g. by transforming the feature space; Summarisation; Mappings, e.g. subspace methods based on naturality criteria, e.g. with non-negative factorisation or negative correlation
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16—Human faces, e.g. facial parts, sketches or expressions
    • Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02T—CLIMATE CHANGE MITIGATION TECHNOLOGIES RELATED TO TRANSPORTATION
    • Y02T10/00—Road transport of goods or passengers
    • Y02T10/10—Internal combustion engine [ICE] based vehicles
    • Y02T10/40—Engine management systems

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Data Mining & Analysis (AREA)
  • Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • General Physics & Mathematics (AREA)
  • Artificial Intelligence (AREA)
  • Evolutionary Biology (AREA)
  • Evolutionary Computation (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • General Engineering & Computer Science (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Human Computer Interaction (AREA)
  • Multimedia (AREA)
  • Image Analysis (AREA)

Abstract

本发明提供了一种基于共轭梯度法的人脸图像非负特征表示与识别方法、系统及存储介质，该人脸图像非负特征表示与识别方法包括第一步骤：将训练样本图像转化为训练样本矩阵
Figure DEST_PATH_IMAGE002
，设置误差阈值
Figure DEST_PATH_IMAGE004
、最大迭代次数
Figure DEST_PATH_IMAGE006
，并输入训练样本矩阵
Figure DEST_PATH_IMAGE002A
、误差阈值
Figure DEST_PATH_IMAGE004A
和最大迭代次数
Figure DEST_PATH_IMAGE006A
；第二步骤：对基图像矩阵
Figure DEST_PATH_IMAGE011
和系数矩阵
Figure DEST_PATH_IMAGE013
进行初始化；第四步骤：根据公式（7）更新基图像矩阵
Figure DEST_PATH_IMAGE011A
和系数矩阵
Figure DEST_PATH_IMAGE013A
；第六步骤：判断目标函数
Figure DEST_PATH_IMAGE017
或迭代次数n是否达到最大迭代次数
Figure DEST_PATH_IMAGE006AA
，如果是，那么输出基图像矩阵
Figure DEST_PATH_IMAGE011AA
和系数矩阵
Figure DEST_PATH_IMAGE013AA
，否则执行第四步骤。本发明的有益效果是：通过在公开的人脸数据库中与相关算法进行实验比较，结果表明本发明开发的方法具有一定的优越性。

Description

基于共轭梯度法的人脸图像非负特征表示与识别方法、系统 及存储介质
技术领域
本发明涉及数据处理技术领域，尤其基于共轭梯度法的人脸图像非负特征表示与识别方法、系统及存储介质。
背景技术
随着信息化时代的到来，利用人体固有的生理特征和行为特征进行个人身份鉴定的生物识别技术成为了一个最活跃的研究领域之一。在生物识别技术的众多分支中，最容易被人们接受的一个技术是人脸识别技术，这是由于相对于其他生物识别技术而言，人脸识别具有无侵害性、非强制性、非接触性和并发性。
人脸识别技术包含两个阶段，第一阶段是特征提取，也就是提取人脸图像中的人脸特征信息，这一阶段直接决定了人脸识别技术的好坏；第二阶段是身份鉴定，根据提取出的特征信息进行个人身份鉴定。主成分分析(PCA)与奇异值分解(SVD)都是较为经典的特征提取方法，但是这两种方法提出的特征向量通常含有负元素，因此在原始样本为非负数据下，这些方法不具有合理性与可解释性。非负矩阵分解(NMF)是一种处理非负数据的特征提取方法，它的应用非常广泛，比如高光谱数据处理、人脸图像识别等。NMF算法在原始样本非负数据矩阵分解过程中，对提取的特征具有非负性限制，即分解后的所有分量都是非负的，因而可以提取非负的稀疏特征。NMF算法的实质也就是将非负矩阵V近似分解为基图像矩阵W和系数矩阵H的乘积，即V≈WH，且W和H都是非负矩阵。这样矩阵V的每一列就可以表示成矩阵W列向量的非负线性组合，这也符合NMF算法的构造依据——对整体的感知是由对组成整体的部分的感知构成的(纯加性)。传统的NMF算法是基于梯度下降法实现的，导致其收敛速度较慢。为了加快NMF算法的收敛速度，有学者提出用共轭梯度法来代替梯度下降法，来优化非负矩阵分解的目标函数。但是，共轭梯度法难以保证分解后的结果具有非负性。为了解决这一问题，有学者提出用投影梯度法直接将结果中出现的负数直接变为0。这样做很大程度上改变了共轭梯度法本身的性质。
相关的技术方案：
1.基于乘性迭代算法的非负矩阵分解(MU-NMF)
在非负矩阵分解中，乘性迭代算法是最常用的方法之一,具有易于实现，效果优良等优点。其算法框图如下：
Figure GDA0003956139110000021
2.基于加速乘性迭代算法的非负矩阵分解(AccMU-NMF)
为了提高计算效率，避免重复计算，有学者提出了一种加速乘性迭代算法。
其算法框图如下：
Figure GDA0003956139110000022
Figure GDA0003956139110000031
3.基于投影非线性共轭梯度法的非负矩阵分解(PNCG-NMF)
无论是乘性迭代算法，还是加速乘性迭代算法，它们都是基于梯度下降法实现的，会出现一个收敛速度较慢的问题。故有学者提出了基于投影非线性共轭梯度法的非负矩阵分解，其算法框图如下：
Figure GDA0003956139110000041
Figure GDA0003956139110000051
相关技术的缺点：
1、传统的基于乘性迭代算法的非负矩阵分解(AccMU-NMF)和基于加速乘性迭代算法的非负矩阵分解(AccMU-NMF)都是基于梯度下降法构建的，导致其收敛速度较慢。
2、基于投影非线性共轭梯度法的非负矩阵分解(PNCG-NMF)用到了矩阵的克罗内克积，这大大增加了算法的计算量。
发明内容
本发明提供了一种基于共轭梯度法的人脸图像非负特征表示与识别方法，包括训练步骤，所述训练步骤包括如下步骤：
第一步骤：将训练样本图像转化为训练样本矩阵V，设置误差阈值ε、最大迭代次数Imax，并输入训练样本矩阵V、误差阈值ε和最大迭代次数Imax
第二步骤：对基图像矩阵W和系数矩阵H进行初始化；
第三步骤：设置迭代次数n＝0；
第四步骤：根据公式(7)更新基图像矩阵W和系数矩阵H；
第五步骤：使n＝n+1；
第六步骤：判断目标函数F(W,H)≤ε或迭代次数n是否达到最大迭代次数Imax，如果是，那么输出基图像矩阵W和系数矩阵H，否则执行第四步骤；
在第四步骤中，公式(7)如下：
Figure GDA0003956139110000061
Figure GDA0003956139110000062
在公式(7)中，θ表示步长，PH k-1和PW k-1分别是H和W第k-1步的搜索方向，Wk和Hk表示W和H的第k次迭代值，ε为给定的较小正数，W表示基图像矩阵，H表示系数矩阵。
作为本发明的进一步改进：该人脸图像非负特征表示与识别方法还包括在训练步骤之后再执行识别步骤，所述识别步骤包括：
第七步骤：计算训练样本中每类的平均特征向量mj(j＝1,…,c)，C为不同人脸类别数，j为第j类的标记数；
第八步骤:输入待识别人脸图像y，计算其特征向量hy＝W+y,其中W+为W的Moore-Penrose逆；
第九步骤:计算待识别人脸图像的特征向量hy到每类的平均特征向量mj的距离，若hy与mj的距离最小，则将待识别人脸图像y归于第P类；
第十步骤：输出类别P，从而完成人脸识别。
本发明还提供了一种基于共轭梯度法的人脸图像非负特征表示与识别装置，包括训练模块，所述训练模块包括：
输入模块：用于将训练样本图像转化为训练样本矩阵V，设置误差阈值ε、最大迭代次数Imax，并输入训练样本矩阵V、误差阈值ε和最大迭代次数Imax；
初始化模块：用于对基图像矩阵W和系数矩阵H进行初始化；
赋值模块：用于设置迭代次数n＝0；
更新模块：用于根据公式(6)更新基图像矩阵W和系数矩阵H；
计数模块：使n＝n+1；
判断模块：判断目标函数F(W,H)≤ε或迭代次数n是否达到最大迭代次数Imax，如果是，那么输出基图像矩阵W和系数矩阵H，否则执行更新模块；
在更新模块中，公式(7)如下：
Figure GDA0003956139110000071
Figure GDA0003956139110000072
在公式(7)中，θ表示步长，PH k-1和PW k-1分别是H和W第k-1步的搜索方向，Wk和Hk表示W和H的第k次迭代值，ε为给定的较小正数，W表示基图像矩阵，H表示系数矩阵。
作为本发明的进一步改进：该人脸图像非负特征表示与识别装置还包括在训练模块之后再执行识别模块，所述识别模块包括：
平均特征向量计算模块：用于计算训练样本中每类的平均特征向量mj(j＝1,…,c)，j为第j类的标记数，c为不同的人脸类别数；
特征向量计算模块:用于输入待识别人脸图像y，计算其特征向量hy＝W+y,其中W+为W的Moore-Penrose逆，W表示基图像矩阵；
距离计算模块:计算待识别人脸图像的特征向量hy到每类的平均特征向量mj的距离，若hy与mj的距离最小，则将待识别人脸图像y归于第P类；
输出模块：用于输出类别P，从而完成人脸识别。
本发明还公开了一种计算机可读存储介质，所述计算机可读存储介质存储有计算机程序，所述计算机程序配置为由处理器调用时实现本发明所述的方法的步骤。
本发明还公开了一种基于共轭梯度法的人脸图像非负特征表示与识别系统，包括：存储器、处理器以及存储在所述存储器上的计算机程序，所述计算机程序配置为由所述处理器调用时实现本发明所述的方法的步骤。
本发明的有益效果是：本发明通过利用共轭梯度法替代梯度下降法去求解非负矩阵分解，加快了收敛速度；本发明构建的非负矩阵分解算法在人脸数据库上能得到较为稀疏的基图像，通过在公开的人脸数据库中与相关算法进行实验比较，结果表明本发明开发的方法具有一定的优越性。
附图说明
图1是本发明的算法构造过程流程图；
图2是本发明的方法流程图；
图3是本发明的方法与相关算法(MU-NMF,AccMU-NMF和PNCG-NMF)的收敛速率比较图；
图4是本发明方法与相关算法(MU-NMF,AccMU-NMF,PNCG-NMF)在Yale人脸数据库上的识别率比较图。
具体实施方式
本发明主要通过对迭代更新公式中步长的限制，从而满足非负性的要求。这样做既保留了共轭梯度法本身的性质，同时使分解有一个较快的收敛速度。我们通过一个巧妙的方法从理论上证明了算法的收敛性，并通过实验验证了算法的有效性。在公开的人脸数据上的实验表明，我们的算法具有更好的人脸识别效果。
本发明的主要目的有：
1.提出了一种新的共轭梯度算法来代替梯度下降法作为非负矩阵分解的优化算法，通过限制每次更新的步长来保证非负性。
2.基于共轭梯度算法，开发出了一种新的具有高识别性能与收敛速度的人脸识别方法。
一.关键词解释：
1.符号说明
X 矩阵
a,b 向量
a·b 向量a与b的内积
Xij 矩阵X的第ij个元素
XT X的转置
Figure GDA0003956139110000091
矩阵A与B的克罗内克积
A⊙B 矩阵A与B中对应元素的积
Figure GDA0003956139110000092
矩阵A与B中对应元素的商
Ad 矩阵A的第d次迭代
2.非负矩阵分解(Non-negative Matrix Factorization，NMF)
NMF的基本思想是将一个非负样本矩阵
Figure GDA0003956139110000093
近似分解为两个非负矩阵的乘积，即：
V≈WH,
其中，
Figure GDA0003956139110000094
和
Figure GDA0003956139110000095
分别被称为基图像矩阵和系数矩阵。并且，通过构建损失函数度量V与WH之间的逼近程度,通常损失函数是基于F-范数被定义的，为：
F(W,H)＝||V-WH||2. (1)
这里||·||表示F-范数。
3.共轭梯度法(Conjugate Gradient)
共轭梯度法是解大型线性方程组最有用的方法之一，它仅需利用一阶导数信息，克服了梯度下降法收敛慢的缺点。考虑求解线性对称正定方程组Ax＝b，其算法框图如下：
Figure GDA0003956139110000101
Figure GDA0003956139110000111
二.具体技术方案：
1.基于共轭梯度算法的非负矩阵分解(CG-NMF)
目标函数的构建
考虑非负向量v，固定非负矩阵W，则目标函数可写为：
Figure GDA0003956139110000112
求该目标函数的极小值等价于求WTWh-WTv＝0的解。这是一个线性对称正定方程组，故可以用共轭梯度算法来求解。
我们先初始化h0，计算残量p0＝WTv-WTWh。
下面，我们推导h的迭代公式：
Figure GDA0003956139110000113
这里θ∈[0,1]，ε≥0。由于pk中可能含有负数，故我们把它分成两个部分：
Figure GDA0003956139110000114
为保证非负性，我们令θhk-αk((pk)-+ε)＝0，则有
Figure GDA0003956139110000115
将
Figure GDA0003956139110000116
带入h的迭代公式(3)，化解可得：
Figure GDA0003956139110000121
搜索方向pk的更新规则如下：
pk+1＝-gk+1+bkpk (5)
这里-gk+1＝-(WTWhk-WTv)表示负梯度，
Figure GDA0003956139110000122
为保证沿搜索方向，目标函数的值是下降的，我们要求搜索方向pk与负梯度方向-gk的内积pk·(-gk)大于0，即它们的夹角小于90度。
接下来，我们将证明算法的收敛性。为此，首先记
Figure GDA0003956139110000123
则由h的迭代公式(4)可以看出hk+1-hk＝θηk，即ηk是hk的搜索方向。对于收敛性我们有如下定理：
定理1：固定W，取
Figure GDA0003956139110000124
且ηk满足ηk·(-gk)＞0，则目标函数F(h)在h的迭代公式(4)下是单调非增的。
证明：令Δh＝hk+1-hk＝θηk，由泰勒公式可得：
Figure GDA0003956139110000125
移项可得
Figure GDA0003956139110000126
又由于
Figure GDA0003956139110000127
这里由于ηk·(-gk)＞0，可知
Figure GDA0003956139110000128
是一个正数。将θ的值带入(6),可得F(hk+1)-F(hk)≤0。故可知目标函数F(h)在迭代公式(4)下是非增的。
综上，我们可得对于非负矩阵分解V＝WH，通过共轭梯度算法求得的迭代公式如下：
Figure GDA0003956139110000131
其中，θ表示步长，PH k-1和PW k-1分别是H和W第k-1步的搜索方向。类似定理1，可证目标函数在W的迭代下也是单调不增的。故我们的基于共轭梯度的非负矩阵分解迭代公式(7)是收敛的。
下面是基于共轭梯度算法的非负矩阵分解的算法框图：
Figure GDA0003956139110000132
Figure GDA0003956139110000141
综上,利用共轭梯度相关知识得到了一种高效的非负矩阵分解算法,运用巧妙的方法证明了本发明算法的收敛性，从理论上保证了算法的合理性。
如图2所示，本发明提供了一种基于共轭梯度法的人脸图像非负特征表示与识别方法，包括训练步骤，所述训练步骤包括如下步骤：
第一步骤：将训练样本图像转化为训练样本矩阵V，设置误差阈值ε、最大迭代次数Imax，并输入训练样本矩阵V、误差阈值ε和最大迭代次数Imax；
第二步骤：对基图像矩阵W和系数矩阵H进行初始化；
第三步骤：设置迭代次数n＝0；
第四步骤：根据公式(7)更新基图像矩阵W和系数矩阵H；
第五步骤：使n＝n+1；
第六步骤：判断目标函数F(W,H)≤ε或迭代次数n是否达到最大迭代次数Imax，如果是，那么输出基图像矩阵W和系数矩阵H，否则执行第四步骤；
在第四步骤中，公式(7)如下：
Figure GDA0003956139110000151
Figure GDA0003956139110000152
在公式(7)中，θ表示步长，PH k-1和PW k-1分别是H和W第k-1步的搜索方向，Wk和Hk表示W和H的第k次迭代值，ε为给定的较小正数，W表示基图像矩阵，H表示系数矩阵。
该人脸图像非负特征表示与识别方法还包括在训练步骤之后再执行识别步骤，所述识别步骤包括：
第七步骤：计算训练样本中每类的平均特征向量mj(j＝1,…,c)，j为第j类的标记数，c为不同人脸类别数；
第八步骤:输入待识别人脸图像y，计算其特征向量hy＝W+y,其中W+为W的Moore-Penrose逆，W表示基图像矩阵；
第九步骤:计算待识别人脸图像的特征向量hy到每类的平均特征向量mj的距离，若hy与mj的距离最小，则将待识别人脸图像y归于第P类；
第十步骤：输出类别P，从而完成人脸识别。
输出类别P，表示待识别人脸图像y被识别为第P个人脸类别，所以输出类别P后，人脸识别就完成了。
本发明还提供了一种基于共轭梯度法的人脸图像非负特征表示与识别装置，包括训练模块，所述训练模块包括：
输入模块：用于将训练样本图像转化为训练样本矩阵V，设置误差阈值ε、最大迭代次数Imax，并输入训练样本矩阵V、误差阈值ε和最大迭代次数Imax；
初始化模块：用于对基图像矩阵W和系数矩阵H进行初始化；
赋值模块：用于设置迭代次数n＝0；
更新模块：用于根据公式(7)更新基图像矩阵W和系数矩阵H；
计数模块：使n＝n+1；
判断模块：判断目标函数F(W,H)≤ε或迭代次数n是否达到最大迭代次数Imax，如果是，那么输出基图像矩阵W和系数矩阵H，否则执行更新模块；
在更新模块中，公式(7)如下：
Figure GDA0003956139110000161
Figure GDA0003956139110000162
在公式(7)中，θ表示步长，PH k-1和PW k-1分别是H和W第k-1步的搜索方向，Wk和Hk表示W和H的第k次迭代值，ε为给定的较小正数，W表示基图像矩阵，H表示系数矩阵。
该人脸图像非负特征表示与识别装置还包括在训练模块之后再执行识别模块，所述识别模块包括：
平均特征向量计算模块：用于计算训练样本中每类的平均特征向量mj(j＝1,…,c)，j为第j类的标记数，c为不同的人脸类别数；
特征向量计算模块:用于输入待识别人脸图像y，计算其特征向量hy＝W+y,其中W+为W的Moore-Penrose逆，W表示基图像矩阵；
距离计算模块:计算待识别人脸图像的特征向量hy到每类的平均特征向量mj的距离，若hy与mj的距离最小，则将待识别人脸图像y归于第P类；
输出模块：用于输出类别P，从而完成人脸识别。
本发明还公开了一种计算机可读存储介质，所述计算机可读存储介质存储有计算机程序，所述计算机程序配置为由处理器调用时实现本发明所述的方法的步骤。
本发明还公开了一种基于共轭梯度法的人脸图像非负特征表示与识别系统，包括：存储器、处理器以及存储在所述存储器上的计算机程序，所述计算机程序配置为由所述处理器调用时实现本发明所述的方法的步骤。
我们随机生成了40行30列的非负矩阵，使用基于乘性迭代算法的非负矩阵分解(MU-NMF)，基于加速乘性迭代算法的非负矩阵分解(AccMU-NMF)，基于投影非线性共轭梯度法的非负矩阵分解(PNCG-NMF)和本发明基于共轭梯度法的人脸图像非负特征表示与识别方法(CG-NMF)对其进行分解。这四种算法的收敛速度如图3所示。在公开的数据库上的实验表明，本发明具有更好的识别率，如图4所示。同时，我们将本发明基于共轭梯度法的人脸图像非负特征表示与识别方法(CG-NMF)应用于CBCL数据库中，得到了十分稀疏的基图像。
本发明的有益效果：
1.通过利用共轭梯度法替代梯度下降法去求解非负矩阵分解，加快了收敛速度。
2.本发明所提出的方法的收敛性，不仅在理论上进行了证明，而且在实验中也得到了验证，本发明的方法具有较高的收敛性。
3.通过在公开的人脸数据库中与相关算法进行实验比较，结果表明本发明开发的方法具有一定的优越性。
4.本发明构建的非负矩阵分解算法在人脸数据库上能得到较为稀疏的基图像。
以上内容是结合具体的优选实施方式对本发明所作的进一步详细说明，不能认定本发明的具体实施只局限于这些说明。对于本发明所属技术领域的普通技术人员来说，在不脱离本发明构思的前提下，还可以做出若干简单推演或替换，都应当视为属于本发明的保护范围。

Claims (4)

1.一种基于共轭梯度法的人脸图像非负特征表示与识别方法，其特征在于，包括训练步骤，所述训练步骤包括如下步骤：
第一步骤：将训练样本图像转化为训练样本矩阵V，设置误差阈值ε、最大迭代次数Imax，并输入训练样本矩阵V、误差阈值ε和最大迭代次数Imax；
第二步骤：对基图像矩阵W和系数矩阵H进行初始化；
第三步骤：设置迭代次数n＝0；
第四步骤：根据公式(7)更新基图像矩阵W和系数矩阵H；
第五步骤：使n＝n+1；
第六步骤：判断目标函数F(W,H)≤ε或迭代次数n是否达到最大迭代次数Imax，如果是，那么输出基图像矩阵W和系数矩阵H，否则执行第四步骤；在第四步骤中，公式(7)如下：
Figure FDA0003956139100000011
Figure FDA0003956139100000012
在公式(7)中，θ表示步长，PH k-1和PW k-1分别是H和W第k-1步的搜索方向，(PH k-1)-和(PW k -1)-表示为
Figure FDA0003956139100000013
和
Figure FDA0003956139100000014
Wk和Hk表示W和H的第k次迭代值，ε为给定的较小正数，W表示基图像矩阵，H表示系数矩阵；
该人脸图像非负特征表示与识别方法还包括在训练步骤之后再执行识别步骤，所述识别步骤包括：
第七步骤：计算训练样本中每类的平均特征向量mj(j＝1,…,c)，c为不同人脸类别数，j为第j类的标记数；
第八步骤:输入待识别人脸图像y，计算其特征向量hy＝W+y,其中W+为W的Moore-Penrose逆，W表示基图像矩阵；
第九步骤:计算待识别人脸图像的特征向量hy到每类的平均特征向量mj的距离，若hy与mj的距离最小，则将待识别人脸图像y归于第P类；
第十步骤：输出类别P，从而完成人脸识别。
2.一种基于共轭梯度法的人脸图像非负特征表示与识别装置，其特征在于，包括训练模块，所述训练模块包括：
输入模块：用于将训练样本图像转化为训练样本矩阵V，设置误差阈值ε、最大迭代次数Imax，并输入训练样本矩阵V、误差阈值ε和最大迭代次数Imax；
初始化模块：用于对基图像矩阵W和系数矩阵H进行初始化；
赋值模块：用于设置迭代次数n＝0；
更新模块：用于根据公式(6)更新基图像矩阵W和系数矩阵H；
计数模块：使n＝n+1；
判断模块：判断目标函数F(W,H)≤ε或迭代次数n是否达到最大迭代次数Imax，如果是，那么输出基图像矩阵W和系数矩阵H，否则执行更新模块；
在更新模块中，公式(7)如下：
Figure FDA0003956139100000021
Figure FDA0003956139100000022
在公式(7)中，θ表示步长，PH k-1和PW k-1分别是H和W第k-1步的搜索方向，(PH k-1)-和(PW k -1)-表示为
Figure FDA0003956139100000023
和
Figure FDA0003956139100000024
Wk和Hk表示W和H的第k次迭代值，ε为给定的较小正数，W表示基图像矩阵，H表示系数矩阵；
该人脸图像非负特征表示与识别装置还包括在训练模块之后再执行识别模块，所述识别模块包括：
平均特征向量计算模块：用于计算训练样本中每类的平均特征向量mj(j＝1,…,c)，c为不同的人脸类别数，j为第j类的标记数；
特征向量计算模块:用于输入待识别人脸图像y，计算其特征向量hy＝W+y,其中W+为W的Moore-Penrose逆，W表示基图像矩阵；
距离计算模块:计算待识别人脸图像的特征向量hy到每类的平均特征向量mj的距离，若hy与mj的距离最小，则将待识别人脸图像y归于第P类；
输出模块：用于输出类别P，从而完成人脸识别。
3.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质存储有计算机程序，所述计算机程序配置为由处理器调用时实现权利要求1所述的方法的步骤。
4.一种基于共轭梯度法的人脸图像非负特征表示与识别系统，其特征在于，包括：存储器、处理器以及存储在所述存储器上的计算机程序，所述计算机程序配置为由所述处理器调用时实现权利要求1所述的方法的步骤。
CN201910308934.4A 2019-04-17 2019-04-17 基于共轭梯度法的人脸图像非负特征表示与识别方法、系统及存储介质 Active CN110070028B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201910308934.4A CN110070028B (zh) 2019-04-17 2019-04-17 基于共轭梯度法的人脸图像非负特征表示与识别方法、系统及存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201910308934.4A CN110070028B (zh) 2019-04-17 2019-04-17 基于共轭梯度法的人脸图像非负特征表示与识别方法、系统及存储介质

Publications (2)

Publication Number Publication Date
CN110070028A CN110070028A (zh) 2019-07-30
CN110070028B true CN110070028B (zh) 2023-03-07

Family

ID=67368077

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201910308934.4A Active CN110070028B (zh) 2019-04-17 2019-04-17 基于共轭梯度法的人脸图像非负特征表示与识别方法、系统及存储介质

Country Status (1)

Country Link
CN (1) CN110070028B (zh)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2021042328A1 (zh) * 2019-09-05 2021-03-11 深圳大学 自构余弦核空间中人脸数据非负特征表示和识别方法、装置、系统及存储介质
CN110705368B (zh) * 2019-09-05 2023-04-18 深圳大学 自构余弦核空间中人脸数据非负特征表示和识别方法、装置、系统及存储介质
CN110942108B (zh) * 2019-12-13 2023-04-25 深圳大学 人脸图像聚类方法、装置及计算机可读存储介质
CN113642607B (zh) * 2021-07-13 2023-07-14 深圳大学 人脸图像聚类方法、装置、设备及计算机可读存储介质
CN116068903B (zh) * 2023-04-06 2023-06-20 中国人民解放军国防科技大学 一种闭环系统鲁棒性能的实时优化方法、装置及设备

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106897685A (zh) * 2017-02-17 2017-06-27 深圳大学 基于核非负矩阵分解的字典学习和稀疏特征表示的人脸识别方法及系统
CN107423503A (zh) * 2017-07-21 2017-12-01 江南大学 基于核慢特征分析和时滞估计的gpr建模
CN108400805A (zh) * 2018-03-07 2018-08-14 江南大学 一种基于共轭梯度法的大规模mimo预编码方法
CN109508697A (zh) * 2018-12-14 2019-03-22 深圳大学 基于e辅助函数的半非负矩阵分解的人脸识别方法、系统及存储介质

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7788264B2 (en) * 2006-11-29 2010-08-31 Nec Laboratories America, Inc. Systems and methods for classifying content using matrix factorization
US8515879B2 (en) * 2010-08-11 2013-08-20 Seiko Epson Corporation Supervised nonnegative matrix factorization
US9563817B2 (en) * 2013-11-04 2017-02-07 Varian Medical Systems, Inc. Apparatus and method for reconstructing an image using high-energy-based data
CN107480636B (zh) * 2017-08-15 2021-04-06 深圳大学 基于核非负矩阵分解的人脸识别方法、系统及存储介质
CN109002794B (zh) * 2018-07-13 2022-01-14 深圳大学 一种非线性非负矩阵分解人脸识别构建方法、系统及存储介质

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106897685A (zh) * 2017-02-17 2017-06-27 深圳大学 基于核非负矩阵分解的字典学习和稀疏特征表示的人脸识别方法及系统
CN107423503A (zh) * 2017-07-21 2017-12-01 江南大学 基于核慢特征分析和时滞估计的gpr建模
CN108400805A (zh) * 2018-03-07 2018-08-14 江南大学 一种基于共轭梯度法的大规模mimo预编码方法
CN109508697A (zh) * 2018-12-14 2019-03-22 深圳大学 基于e辅助函数的半非负矩阵分解的人脸识别方法、系统及存储介质

Non-Patent Citations (12)

* Cited by examiner, † Cited by third party
Title
A class of modified FR conjugate gradient method and applications to non-negative matrix factorization;Xiangli Li et al.;《Computers and Mathematics with Applications》;20161216;第73卷(第2期);第270-276页 *
Hyperspectral Image Super-Resolution via Non-Negative Structured Sparse Representation;Weisheng Dong et al.;《IEEE Transactions on Image Processing》;20160322;第25卷(第5期);第2337-2352页 *
Learning the parts of objects by non-negative matrix factorization;Daniel D. Lee et al.;《NATURE》;19991021;第401卷;第788-791页 *
Nonlinear Nonnegative Matrix Factorization Based on Discriminant Analysis with Application to Face Recognition;Wensheng Chen et al.;《2015 11th International Conference on Computational Intelligence and Security (CIS)》;20160204;第191-194页 *
Nonnegative matrix factorization based on projected hybrid conjugate gradient algorithm;Abd El Aziz, M et al.;《SIGNAL IMAGE AND VIDEO PROCESSING》;第1825-1831页;20140625;第5-8页 *
一类修正的非单调谱共轭梯度法及其在非负矩阵分解中的应用;李向利 等;《数学物理学报》;20181031;第38卷(第5期);第954-962页 *
基于增量非负矩阵分解的自适应背景模型;董怀琴 等;《深圳大学学报理工版》;20160930;第33卷(第5期);第511-516页 *
基于非负矩阵分解的人脸识别算法研究;李育高;《中国优秀博硕士学位论文全文数据库(硕士) 信息科技辑》;20170715;第2017年卷(第7期);第I138-869页 *
基于高光谱影像的抗噪模型及解混算法研究;李春芝;《中国优秀博硕士学位论文全文数据库(博士) 信息科技辑》;20150615;第2015年卷(第6期);第I140-32页 *
改进增量式非负矩阵分解算法及其在人脸识别中的应用;蔡竞等;《信息通信》;20160731(第07期);第4-8页 *
无约束优化的谱共轭梯度法研究;师娟娟;《中国优秀博硕士学位论文全文数据库(硕士) 基础科学辑》;20190115;第2019年卷(第1期);第A002-1322页 *
稀疏编码算法及其应用研究;尚丽;《中国优秀博硕士学位论文全文数据库(博士) 信息科技辑》;20071015;第2007年卷(第4期);第I136-16页 *

Also Published As

Publication number Publication date
CN110070028A (zh) 2019-07-30

Similar Documents

Publication Publication Date Title
CN110070028B (zh) 基于共轭梯度法的人脸图像非负特征表示与识别方法、系统及存储介质
Akimoto et al. Theoretical foundation for CMA-ES from information geometry perspective
CN109508697B (zh) 基于e辅助函数的半非负矩阵分解的人脸识别方法、系统及存储介质
CN109063698B (zh) 一种非负特征提取及人脸识别应用方法、系统及存储介质
Li et al. Classification approach based on non-negative least squares
Yang et al. Least squares recursive projection twin support vector machine for multi-class classification
Xu et al. A general framework for feature selection under orthogonal regression with global redundancy minimization
Conroy et al. Fast, exact model selection and permutation testing for l2-regularized logistic regression
WO2020118708A1 (zh) 基于e辅助函数的半非负矩阵分解的人脸识别方法、系统及存储介质
CN109002794B (zh) 一种非线性非负矩阵分解人脸识别构建方法、系统及存储介质
WO2021003637A1 (zh) 基于加性高斯核的核非负矩阵分解人脸识别方法、装置、系统及存储介质
Lopes et al. Non-negative matrix factorization (NMF)
Nguyen A Gyrovector space approach for symmetric positive semi-definite matrix learning
He et al. Linking heterogeneous input spaces with pivots for multi-task learning
Ji et al. Angular-similarity-preserving binary signatures for linear subspaces
Zhao et al. A tensor-variate Gaussian process for classification of multidimensional structured data
Zhao et al. A block coordinate descent approach for sparse principal component analysis
CN110378262B (zh) 基于加性高斯核的核非负矩阵分解人脸识别方法、装置、系统及存储介质
Mattila et al. Asymptotically efficient identification of known-sensor hidden Markov models
Escolano et al. From points to nodes: Inverse graph embedding through a lagrangian formulation
Tang Independent component analysis employing exponentials of sparse antisymmetric matrices
Benyacoub et al. Classification with hidden markov model
Taghia et al. Constructing the Matrix Multilayer Perceptron and its Application to the VAE
Roul et al. Semi-supervised clustering using seeded-kMeans in the feature space of ELM
Sun et al. Dimensionality reduction assisted tensor clustering

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant