WO2017166933A1 - 一种基于核机器学习的非负矩阵分解人脸识别方法及系统 - Google Patents

一种基于核机器学习的非负矩阵分解人脸识别方法及系统 Download PDF

Info

Publication number
WO2017166933A1
WO2017166933A1 PCT/CN2017/073675 CN2017073675W WO2017166933A1 WO 2017166933 A1 WO2017166933 A1 WO 2017166933A1 CN 2017073675 W CN2017073675 W CN 2017073675W WO 2017166933 A1 WO2017166933 A1 WO 2017166933A1
Authority
WO
WIPO (PCT)
Prior art keywords
kernel
matrix
negative
face recognition
module
Prior art date
Application number
PCT/CN2017/073675
Other languages
English (en)
French (fr)
Inventor
陈文胜
赵阳
陈波
潘彬彬
Original Assignee
深圳大学
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 深圳大学 filed Critical 深圳大学
Priority to US15/769,741 priority Critical patent/US10679040B2/en
Publication of WO2017166933A1 publication Critical patent/WO2017166933A1/zh

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16—Human faces, e.g. facial parts, sketches or expressions
    • G06V40/172—Classification, e.g. identification
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/213—Feature extraction, e.g. by transforming the feature space; Summarisation; Mappings, e.g. subspace methods
    • G06F18/2133—Feature extraction, e.g. by transforming the feature space; Summarisation; Mappings, e.g. subspace methods based on naturality criteria, e.g. with non-negative factorisation or negative correlation
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/24—Classification techniques
    • G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/30—Determination of transform parameters for the alignment of images, i.e. image registration
    • G06T7/33—Determination of transform parameters for the alignment of images, i.e. image registration using feature-based methods
    • G06T7/337—Determination of transform parameters for the alignment of images, i.e. image registration using feature-based methods involving reference images or patches
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/77—Processing image or video features in feature spaces; using data integration or data reduction, e.g. principal component analysis [PCA] or independent component analysis [ICA] or self-organising maps [SOM]; Blind source separation
    • G06V10/7715—Feature extraction, e.g. by transforming the feature space, e.g. multi-dimensional scaling [MDS]; Mappings, e.g. subspace methods
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16—Human faces, e.g. facial parts, sketches or expressions
    • G06V40/168—Feature extraction; Face representation
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/90—Details of database functions independent of the retrieved data types
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/20—Special algorithmic details
    • G06T2207/20081—Training; Learning
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/20—Special algorithmic details
    • G06T2207/20084—Artificial neural networks [ANN]
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/30—Subject of image; Context of image processing
    • G06T2207/30196—Human being; Person
    • G06T2207/30201—Face

Definitions

  • the present invention relates to the field of computer technology, and in particular, to a non-negative matrix decomposition face recognition method and system based on nuclear machine learning.
  • the non-negative matrix factorization algorithm is a classic linear feature extraction and dimension reduction method.
  • face recognition it is affected by different illuminations, different postures, different expressions and other factors.
  • the image data is very complex in the pattern space, and often presents a nonlinear distribution, so these linear methods are difficult to have a good effect when dealing with nonlinear problems.
  • the researchers proposed some nonlinear methods, the most popular of which is the nuclear method.
  • the basic idea of the kernel method is to map the original samples into a high-dimensional kernel space F using nonlinear mapping, and then use the linear method to classify in the kernel space.
  • the nuclear method also has two main problems.
  • the dimension of the nuclear space F is generally much larger than the dimension of the original sample space, or even the infinite dimension; on the other hand, it is difficult for us to obtain the nonlinear mapping of the kernel method. Analytic expression. Fortunately, we can solve these problems with a kernel trick.
  • the linear method mainly appears in the nuclear space as the inner product of the nonlinear mapping image, and the inner product can be represented by the kernel function.
  • the representative kernel functions include the RBF kernel and the polynomial kernel.
  • the algorithm that is not extended to the kernel space to solve the nonlinear problem of face recognition is the kernel non-negative matrix factorization (KNMF).
  • KNMF kernel non-negative matrix factorization
  • PNMF non-negative matrix factorization
  • This algorithm can successfully obtain a nonlinear non-negative matrix factorization algorithm, but because of the operation of the kernel function derivation in the iterative process, only a nonlinear algorithm is designed for the polynomial kernel, which is not applicable to other cores. function.
  • kernel non-negative matrix factorization algorithm In recent years, some scholars have continued to improve the kernel non-negative matrix factorization algorithm. Most of the algorithms only modify the objective function. In general, some existing non-negative matrix factorization algorithms based on kernel machine learning need the original image. Learning, there are strict requirements on the choice of kernel function, can not be common to any kernel function, and the algorithm is more complicated.
  • Kernel method The core idea of the kernel method is to find a nonlinear mapping, and map the linearly inseparable data into a high-dimensional space F so that it is linearly separable in this high-dimensional space F. Then classify it in a linear method in this high dimensional space F. But the dimension of F may be large, or it may be infinite. So how to choose such a nonlinear mapping is also a problem. Fortunately, this problem can be overcome by nuclear techniques. Because the inner product of two samples that pass nonlinear mapping can be represented by a kernel function:
  • Kernel-based non-negative matrix factorization algorithm the algorithm first passes a nonlinear mapping Map non-negative samples to a high-dimensional space F. Find an original image matrix and a coefficient matrix so that the mapped samples can be approximated as a linear combination of the mapped original images:
  • PNMF non-negative matrix factorization
  • PGKNMF projection gradient kernel non-negative matrix factorization
  • the invention provides a non-negative matrix decomposition face recognition method based on nuclear machine learning, comprising the following steps:
  • the new features of the test sample are compared with the preset centers of the new features of each type of training sample, thereby realizing the classification and recognition of the test samples.
  • step C the formula of the cross iteration:
  • the final feature matrix H and the two kernel matrices Kwx and Kww can be derived by means of cross iteration.
  • the process of cross iteration includes the following steps:
  • step (6) determining whether the verification meets the stop condition, and if so, executing step (7), otherwise performing step (3);
  • the new feature H Y for determining the test sample is obtained by the following three methods:
  • each column of the matrix H Y represents a new feature of the image to be classified
  • H Y is a sparse coefficient matrix
  • ⁇ is a control parameter and 1 r ⁇ d is an all-one matrix of size r ⁇ d.
  • step E the distance between the new feature of each test sample and the new feature center of each training sample is calculated, and then the test image is classified as the closest to the distance according to the nearest neighbor method. class.
  • the invention also provides a non-negative matrix decomposition face recognition system based on nuclear machine learning, comprising:
  • a representation module for representing each preset training sample image as a column vector
  • the processing module is configured to respectively establish three objective functions, realize the minimization of the objective function by means of cross iteration, and obtain new features of the training sample in the kernel space and two kernel matrices related to the nonlinearly mapped samples. ;
  • a projection module configured to project a test sample into a kernel space through two kernel matrices obtained in a learning phase to obtain a new feature of the test sample in the kernel space;
  • the identification module is configured to compare the new feature of the test sample with the center of the preset new feature of each type of training sample according to the nearest neighbor method, thereby implementing classification and recognition of the test sample.
  • the final feature matrix H and the two kernel matrices Kwx and Kww can be derived by means of cross iteration.
  • the method includes:
  • Input module for inputting the kernel matrix K xx ;
  • Initialization module for initializing the matrix H, K xw , K ww ;
  • a second processing module for fixing H, K ww and updating K xw ;
  • the judging module is configured to judge whether the verification satisfies the stopping condition, and if so, obtain an approximate solution of H, K xw , K ww , otherwise execute the first processing module.
  • a new feature H Y for obtaining a test sample is obtained by the following three methods:
  • each column of the matrix H Y represents a new feature of the image to be classified
  • H Y is a sparse coefficient matrix
  • ⁇ is a control parameter and 1 r ⁇ d is an all-one matrix of size r ⁇ d.
  • the distance between the new feature of each test sample and the new feature center of each training sample is calculated, and then the test image is classified as the closest to the distance according to the nearest neighbor method. class.
  • the invention has the beneficial effects that the invention avoids the learning of the original image matrix by directly learning the two kernel matrices Kwx and Kww , and avoids the kernel function derivation in the iterative formula by changing the learning object.
  • the process thus achieving the unrestricted effect of the selection of the kernel function, results in an algorithm that is common to any kernel function.
  • Figure 1 is a flow chart of the method of the present invention
  • 3 is a graph showing the recognition rate of the method of the present invention and the conventional PNMF algorithm in the ORL face database.
  • the present invention discloses a non-negative matrix decomposition face recognition method based on nuclear machine learning, which includes the following steps:
  • step S1 each preset training sample image is represented as a column vector
  • a symmetric semi-positive kernel matrix K xx is constructed by a known kernel function and a training sample vector
  • step S3 three objective functions are respectively established, and the minimization objective function is realized by the method of cross iteration, and new features of the training sample in the kernel space and two kernel matrices related to the nonlinearly mapped samples are obtained. ;
  • step S4 the test samples are projected into the kernel space through the two kernel matrices obtained in the learning phase to obtain new features of the test samples in the kernel space;
  • step S5 the new feature of the test sample is compared with the center of the new feature of each type of training sample according to the nearest neighbor method, thereby realizing the classification and recognition of the test sample.
  • the cross iteration of the present invention includes the following steps:
  • Step Q1 inputting a kernel matrix K xx ;
  • Step Q2 initializing the matrix H, K xw , K ww ;
  • Step Q3 fixing K xw , K ww and updating H;
  • Step Q4 fix H, K ww and update K xw ;
  • Step Q5 fix H, K xw and update K ww ;
  • Step Q6 it is determined whether the verification meets the stop condition, and if so, then step Q7 is performed, otherwise step Q3 is performed;
  • step Q7 an approximate solution of H, K xw , K ww is obtained.
  • X be the training sample matrix through a nonlinear mapping
  • the sample matrix is mapped into a high dimensional space in order to represent the mapped samples as a linear combination of the mapped originals:
  • the RBF kernel function is used in the present invention, t>0.
  • K wx K xw T .
  • the three objective functions are essentially reflected The degree of approximation after decomposition.
  • ⁇ 1 (H (t) ) is a step size matrix
  • step size matrix In order to guarantee the non-negative nature of H in each iteration, we choose the step size matrix as:
  • Theorem 1 Fixed kernel matrices K wx and K ww , the objective function F 1 is non-increasing, when the feature matrix H in the subproblem (1) is updated in the following iteration:
  • ⁇ 2 is the step size matrix
  • step size matrix ⁇ 2 is chosen to be:
  • Theorem 2 fixed feature matrix H and kernel matrix and K ww , the objective function F 2 is non-increasing, when the feature matrix K xw in the sub-problem (2) is updated in the following iterative manner:
  • ⁇ 3 is the step size matrix
  • I the gradient of the objective function F 3 with respect to K ww .
  • step size matrix ⁇ 3 is selected as:
  • Theorem 3 The fixed feature matrix H and the kernel matrix and K xw , the objective function F 3 is non-increasing, and the feature matrix K ww in the sub-problem (3) is updated in the following iterative manner:
  • the final feature matrix H and the two kernel matrices K wx and K ww can be obtained by cross iteration.
  • test sample Y the test sample matrix mapped to the kernel space by nonlinear mapping is ⁇ (Y), which is represented by the original image ⁇ (W) mapped to the kernel space.
  • each column of the matrix H Y represents a new feature of the image to be classified.
  • H Y is a sparse coefficient matrix
  • ⁇ is a control parameter and 1 r ⁇ d is an all-one matrix of size r ⁇ d.
  • the center of the new feature of each type of training sample is found. Calculate the distance between the new feature of each test sample and the new feature center of each training sample. The test image is then classified as the closest to it according to the nearest neighbor method.
  • the invention also discloses a non-negative matrix decomposition face recognition system based on nuclear machine learning, comprising:
  • a representation module for representing each preset training sample image as a column vector
  • the processing module is configured to respectively establish three objective functions, realize the minimization of the objective function by means of cross iteration, and obtain new features of the training sample in the kernel space and two kernel matrices related to the nonlinearly mapped samples. ;
  • a projection module configured to project a test sample into a kernel space through two kernel matrices obtained in a learning phase to obtain a new feature of the test sample in the kernel space;
  • An identification module for using the new feature of the test sample and each of the preset types according to the nearest neighbor method The center of the new features of the sample is compared to further classify and identify the test samples.
  • the final feature matrix H and the two kernel matrices Kwx and Kww can be derived by means of cross iteration.
  • processing module including:
  • Input module for inputting the kernel matrix K xx ;
  • Initialization module for initializing the matrix H, K xw , K ww ;
  • a second processing module for fixing H, K ww and updating K xw ;
  • the judging module is configured to judge whether the verification satisfies the stopping condition, and if so, obtain an approximate solution of H, K xw , K ww , otherwise execute the first processing module.
  • the new feature H Y for determining the test sample is obtained by the following three methods:
  • each column of the matrix H Y represents a new feature of the image to be classified
  • H Y is a sparse coefficient matrix
  • ⁇ is a control parameter and 1 r ⁇ d is an all-one matrix of size r ⁇ d.
  • the distance between the new feature of each test sample and the new feature center of each training sample is calculated, and then the test image is classified as the closest to the distance according to the nearest neighbor method.
  • kernel function derivation is avoided in the iterative formula, so that the selection of kernel function is not limited, and an algorithm which is common to arbitrary kernel functions is obtained.
  • 3 is a graph showing the recognition rate of the algorithm proposed by the present invention and the conventional PNMF algorithm in the ORL face database.
  • the invention only needs to learn the kernel matrix, and learns the feature matrix and the two kernel matrices separately by establishing three different objective functions, and the method is simple and practical.
  • Non-negative matrix factorization The idea of non-negative matrix factorization (NMF) is to approximate the non-negative sample matrix X to the product of two non-negative matrices:
  • W m ⁇ r and H r ⁇ n are non-negative matrices.
  • Each column of W is called an original image matrix, and H is a coefficient matrix.
  • Kernel nonnegative matrix factorization is based on a nonlinear mapping Map non-negative sample matrices into high dimensional space. The approximated non-negative sample matrix is mapped into the product of the mapped original image matrix and the coefficient matrix:
  • W m ⁇ r and H r ⁇ n are non-negative matrices.

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • General Physics & Mathematics (AREA)
  • Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • Health & Medical Sciences (AREA)
  • Artificial Intelligence (AREA)
  • Evolutionary Computation (AREA)
  • General Health & Medical Sciences (AREA)
  • Multimedia (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Evolutionary Biology (AREA)
  • General Engineering & Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Software Systems (AREA)
  • Medical Informatics (AREA)
  • Databases & Information Systems (AREA)
  • Computing Systems (AREA)
  • Image Analysis (AREA)

Abstract

一种基于核机器学习的非负矩阵分解人脸识别方法及系统，该方法包括A.将每个预设的训练样本图像表示为列向量（S1）；B.通过已知的核函数以及训练样本向量，构造一个对称半正定的核矩阵K xx（S2）；C.分别建立三个目标函数，通过交叉迭代的方法实现极小化目标函数，并得到训练样本在核空间上的新特征和两个与被非线性映射后的样本相关的核矩阵（S3）；D.通过学习阶段得到的两个核矩阵，将测试样本投影到核空间得到测试样本在核空间上的新特征（S4）；E.根据最近邻法将测试样本的新特征与预设的每一类训练样本新特征的中心进行比较，进而实现对测试样本的分类及识别（S5）。该方法和系统通过直接对两个核矩阵K wx和K ww进行学习，从而避免了对原像矩阵的学习，通过改变学习的对象，使迭代公式中避免出现核函数求导的过程，从而实现了核函数的选取没有限制的效果，得到一种对任意的核函数都通用的算法。

Description

一种基于核机器学习的非负矩阵分解人脸识别方法及系统 技术领域
本发明涉及计算机技术领域，尤其涉及一种基于核机器学习的非负矩阵分解人脸识别方法及系统。
背景技术
在计算机视觉与模式识别领域中，人脸识别已经成为一项非常热门的研究方向。在刑侦破案、身份认证、视频监视等方面，人脸识别技术都有相当重要的应用，而这些方面都是与人们的生活息息相关的。因此本专利针对基于核方法的非线性非负矩阵分解人脸识别算法的研究有着重要的理论意义和应用价值。
人脸识别技术最早可以追溯到19世纪末。随着技术的不断发展，在当前的一些人脸识别技术中，一种比较流行的方法是将原始数据用一组基线性表出。具体的形式是将原始数据构成的数据矩阵分解成两个矩阵的乘积。Lee和Seung根据非负性约束提出了一种非负矩阵分解(Non-negative Matrix Factorization,NMF)算法，NMF算法将非负矩阵X分解成X＝WH，其中W是一个基矩阵，H是系数矩阵，并且这两个矩阵都是非负的。具体来说，该算法是一个带约束的优化问题，在目标函数满足分解的结果中，能够保证所有元素的非负性。对于目标函数的求解，是通过梯度下降法得到的一个迭代公式。该算法的实现较为简便，并且能够保证分解的结果中不会出现负值，这也与人脸图像灰度的非负性相符。
非负矩阵分解算法是一种经典的线性特征提取和降维方法，而当我们应用到人脸识别上的时候，由于受到人脸图像不同光照、不同姿势、不同表情等因素的影响，人脸图像的数据在模式空间中分别十分复杂，往往呈现出非线性分布，所以这些线性方法在处理非线性问题时就很难有比较好的效果。为解决人脸识别非线性问题，研究人员提出了一些非线性的方法，其中最为流行的就是核方法。核方法的基本思想是运用非线性映射将原始样本映射到一个高维核空间F中，然后在核空间中运用线性方法进行分类。但是，核方法也存在两个主要的问题，一方面核空间F的维数一般远大于原始样本空间的维数，甚至是无穷维的；另一方面我们也很难求得核方法非线性映射的解析表达式。幸运的是，我们可以运用核技巧(kernel trick)解决这些问题。线性方法在核空间中主要以非线性映射像的内积形式出现， 而该内积可以由核函数表示，代表性的核函数有RBF核和多项式核等。而非负矩阵分解算法被推广到核空间中来解决人脸识别非线性问题的算法是核非负矩阵分解法(KNMF)。KNMF算法的主要思路是将通过非线性映射后的样本
Figure PCTCN2017073675-appb-000001
用高维空间中的一组基线性表出
Figure PCTCN2017073675-appb-000002
其在高维空间中线性表出的系数H作为原始样本的新特征。研究结果表明基于核方法的非负矩阵分解算法的性能要优于其线性方法。
Buciu,I.和Nikolaidis,N.等人做了很重要的工作，提出了基于多项式核的非负矩阵分解(PNMF)，在PNMF中，先将样本映射到多项式核空间中，然后，寻找一个非负系数矩阵和一组非负基图像，使被非线性映射的训练样本矩阵能够被非线性映射后的基图像线性表出。再通过梯度下降法得到原像矩阵和特征矩阵的迭代公式。这个算法可以成功的得到一种非线性非负矩阵分解算法，但是由于在迭代过程中出现了队核函数求导的操作，因此只是针对多项式核设计一种非线性算法，并不适用于其他核函数。
Zafeiriou S.和Petrou M.为了解决这样一些问题，在PNMF算法的基础上，提出了投影梯度核非负矩阵分解(PGKNMF)，该算法针对原像矩阵重新建立一个新的目标函数，从而避免了对核函数求导的操作，该算法的收敛点是固定的，并且对核函数的使用没有限制，但是该算法依旧需要对原像进行学习，并且迭代公式较为复杂，对实验结果还是会有影响。
近年来，一些学者也对核非负矩阵分解算法继续进行改进，大部分算法只是对目标函数进行修改，综合来说，现有的一些基于核机器学习的非负矩阵分解算法都需要对原像进行学习，对核函数的选择也有着较严格的要求，不能对任意核函数都通用，并且算法也较为复杂。
在目前的技术中：
1、核方法：核方法的核心思想是寻找一个非线性映射，将线性不可分的数据映射到某种高维空间F中，使其在此高维空间F中线性可分。再在这个高维空间F中用线性方法将其分类。但是F的维度可能很大，也可能是无限维的。于是怎么选取这样一个非线性映射也是一个难题。幸运的是通过核技巧可以克服这个问题。因为两个通过非线性映射后的样本的内积可以通过一个核函数来表示：
Figure PCTCN2017073675-appb-000003
其中x,y属于样本空间。利用核技巧，非线性方法就可以顺利的实施了。
2、基于核的非负矩阵分解算法(KNMF)：该算法首先通过一个非线性映射
Figure PCTCN2017073675-appb-000004
将非负样本映射到一个高维空间F。寻找一个原像矩阵和系数矩阵，使被映射后的样本能够近似表示为被映射后的原像的线性组合：
Figure PCTCN2017073675-appb-000005
其中特征hij和原像wi是非负的。化成矩阵形式即为：
Figure PCTCN2017073675-appb-000006
其中X为样本矩阵，
Figure PCTCN2017073675-appb-000007
KNMF算法的目标函数为
Figure PCTCN2017073675-appb-000008
其需要解决的优化问题为：
Figure PCTCN2017073675-appb-000009
利用梯度下降法得到W和H的迭代公式：
Figure PCTCN2017073675-appb-000010
Figure PCTCN2017073675-appb-000011
Figure PCTCN2017073675-appb-000012
其中B是一个对角矩阵
Figure PCTCN2017073675-appb-000013
及
Figure PCTCN2017073675-appb-000014
再通过交叉迭代的方式得到该优化问题的解。
目前技术的缺点是：
(1)基于核的非负矩阵分解算法中比较常见的是基于多项式核的非负矩阵分解(PNMF)。在PNMF中，先将样本映射到多项式核空间中，然后在核空间中进行NMF。但是PNMF算法的收敛点并不一定是固定点，并且只能用多项式核。
(2)为了解决PNMF中反而一些问题，研究人员提出了投影梯度核非负矩阵分解(PGKNMF)，该算法的收敛点是固定的，并且对核函数的使用没有限制，然而PGKNMF依旧需要对原像进行学习。
发明内容
本发明提供了一种基于核机器学习的非负矩阵分解人脸识别方法，包括如下步骤：
A.将每个预设的训练样本图像表示为列向量；
B.通过已知的核函数以及训练样本向量，构造一个对称半正定的核矩阵Kxx；
C.分别建立三个目标函数，通过交叉迭代的方法实现极小化目标函数，并得到训练样本在核空间上的新特征和两个与被非线性映射后的样本相关的核矩阵；
D.通过学习阶段得到的两个核矩阵，将测试样本投影到核空间得到测试样本在核空间上的新特征；
E.根据最近邻法将测试样本的新特征与预设的每一类训练样本新特征的中心进行比较，进而实现对测试样本的分类及识别。
作为本发明的进一步改进，在所述步骤C中，交叉迭代的公式：
Figure PCTCN2017073675-appb-000015
Figure PCTCN2017073675-appb-000016
Figure PCTCN2017073675-appb-000017
通过交叉迭代的方式能够得出最终的特征矩阵H和两个核矩阵Kwx和Kww。
作为本发明的进一步改进，在所述步骤C中，交叉迭代的过程包括如下步骤：
(1).输入核矩阵Kxx；
(2).初始化矩阵H,Kxw,Kww；
(3).固定Kxw,Kww且更新H；
(4).固定H,Kww且更新Kxw；
(5).固定H,Kxw且更新Kww；
(6).判断验证是否满足停止条件，若是，那么执行步骤(7)，否则执行步骤(3)；
(7).得到H,Kxw,Kww的近似解。
作为本发明的进一步改进，在所述步骤D中，对于求出测试样本的新特征HY，由以下三种方法得到：
方式一：
直接借助迭代出的Kxw的广义逆矩阵的方式，有：
Figure PCTCN2017073675-appb-000018
则矩阵HY的每一列就代表着一个待分类的图像的新特征；
方式二：
通过非负矩阵分解法，保持Kxy＝KxwHY中的Kxy和Kxw不变，由非负矩阵分解法的公式就可以迭代出非负的HY：
Figure PCTCN2017073675-appb-000019
方式三：
通过非负稀疏表示法，将Kxy由Kxw稀疏表示出来，HY为稀疏系数矩阵，则可以通过迭代公式求出HY：
Figure PCTCN2017073675-appb-000020
其中，λ为一控制参数，1r×d为大小为r×d的全1矩阵。
作为本发明的进一步改进，在所述步骤E中，计算每一个测试样本的新特征与各类训练样本新特征中心之间的距离，然后根据最近邻法将测试图像归为与其距离最近的一类。
本发明还提供了一种基于核机器学习的非负矩阵分解人脸识别系统，包括：
表示模块，用于将每个预设的训练样本图像表示为列向量；
构造模块，用于通过已知的核函数以及训练样本向量，构造一个对称半正定的核矩阵Kxx；
处理模块，用于分别建立三个目标函数，通过交叉迭代的方法实现极小化目标函数，并得到训练样本在核空间上的新特征和两个与被非线性映射后的样本相关的核矩阵；
投影模块，用于通过学习阶段得到的两个核矩阵，将测试样本投影到核空间得到测试样本在核空间上的新特征；
识别模块，用于根据最近邻法将测试样本的新特征与预设的每一类训练样本新特征的中心进行比较，进而实现对测试样本的分类及识别。
作为本发明的进一步改进，在所述处理模块中，交叉迭代的公式：
Figure PCTCN2017073675-appb-000021
Figure PCTCN2017073675-appb-000022
Figure PCTCN2017073675-appb-000023
通过交叉迭代的方式能够得出最终的特征矩阵H和两个核矩阵Kwx和Kww。
作为本发明的进一步改进，在所述处理模块中，包括：
输入模块，用于输入核矩阵Kxx；
初始化模块，用于初始化矩阵H,Kxw,Kww；
第一处理模块，用于固定Kxw,Kww且更新H；
第二处理模块，用于固定H,Kww且更新Kxw；
第三处理模块，用于固定H,Kxw且更新Kww；
判断模块，用于判断验证是否满足停止条件，若是，那么得到H,Kxw,Kww的近似解，否则执行第一处理模块。
作为本发明的进一步改进，在所述投影模块中，对于求出测试样本的新特征HY，由以下三种方法得到：
方式一：
直接借助迭代出的Kxw的广义逆矩阵的方式，有：
Figure PCTCN2017073675-appb-000024
则矩阵HY的每一列就代表着一个待分类的图像的新特征；
方式二：
通过非负矩阵分解法，保持Kxy＝KxwHY中的Kxy和Kxw不变，由非负矩阵分解法的公式就可以迭代出非负的HY：
Figure PCTCN2017073675-appb-000025
方式三：
通过非负稀疏表示法，将Kxy由Kxw稀疏表示出来，HY为稀疏系数矩阵，则可以通过迭代公式求出HY：
Figure PCTCN2017073675-appb-000026
其中，λ为一控制参数，1r×d为大小为r×d的全1矩阵。
作为本发明的进一步改进，在所述识别模块中，计算每一个测试样本的新特征与各类训练样本新特征中心之间的距离，然后根据最近邻法将测试图像归为与其距离最近的一类。
本发明的有益效果是：本发明通过直接对两个核矩阵Kwx和Kww进行学习，从而避免了对原像矩阵的学习，通过改变学习的对象，使迭代公式中避免出现核函数求导的过程，从而实现了核函数的选取没有限制的效果，得到一种对任意的核函数都通用的算法。
附图说明
图1是本发明的方法流程图；
图2是本发明的交叉迭代的流程图；
图3是本发明的方法与传统的PNMF算法在ORL人脸数据库下的识别率图。
具体实施方式
如图1所示，本发明公开了一种基于核机器学习的非负矩阵分解人脸识别方法，包括如下步骤：
在步骤S1中，将每个预设的训练样本图像表示为列向量；
在步骤S2中，通过已知的核函数以及训练样本向量，构造一个对称半正定的核矩阵Kxx；
在步骤S3中，分别建立三个目标函数，通过交叉迭代的方法实现极小化目标函数，并得到训练样本在核空间上的新特征和两个与被非线性映射后的样本相关的核矩阵；
在步骤S4中，通过学习阶段得到的两个核矩阵，将测试样本投影到核空间得到测试样本在核空间上的新特征；
在步骤S5中，根据最近邻法将测试样本的新特征与预设的每一类训练样本新特征的中心进行比较，进而实现对测试样本的分类及识别。
如图2所示，本发明的交叉迭代包括如下步骤：
步骤Q1，输入核矩阵Kxx；
步骤Q2，初始化矩阵H,Kxw,Kww；
步骤Q3，固定Kxw,Kww且更新H；
步骤Q4，固定H,Kww且更新Kxw；
步骤Q5，固定H,Kxw且更新Kww；
步骤Q6，判断验证是否满足停止条件，若是，那么执行步骤Q7，否则执行步骤Q3；
步骤Q7，得到H,Kxw,Kww的近似解。
设X为训练样本矩阵，通过一个非线性映射
Figure PCTCN2017073675-appb-000027
将样本矩阵映射到高维空间中，目的是将被映射的样本表示为被映射的原像的线性组合：
Figure PCTCN2017073675-appb-000028
为了避免对原像进行学习，建立三个误差函数：
Figure PCTCN2017073675-appb-000029
Figure PCTCN2017073675-appb-000030
Figure PCTCN2017073675-appb-000031
其中
Figure PCTCN2017073675-appb-000032
本发明中使用RBF核函数，
Figure PCTCN2017073675-appb-000033
t＞0。
Figure PCTCN2017073675-appb-000034
Figure PCTCN2017073675-appb-000035
且Kwx＝Kxw T。
三个目标函数本质上均是反映了
Figure PCTCN2017073675-appb-000036
分解后的逼近程度。
于是求解特征矩阵的问题演变成三个子问题。分别将特征矩阵H，核矩阵Kxw,Kww中的两个矩阵固定，对剩下的一个矩阵进行学习，即：
Figure PCTCN2017073675-appb-000037
Figure PCTCN2017073675-appb-000038
和
Figure PCTCN2017073675-appb-000039
通过解决这三个子问题，求得被映射的训练样本的新特征H和两个核矩阵Kxw,Kww。
对特征矩阵H的学习：
对于子问题(1)，固定两个核矩阵Kxw,Kww，对特征矩阵H进行学习。采用梯度下降法进行求解得到H的迭代公式。根据梯度下降法，有：
Figure PCTCN2017073675-appb-000040
其中ρ1(H(t))是一个步长矩阵，
Figure PCTCN2017073675-appb-000041
是F1关于H的梯度。
Figure PCTCN2017073675-appb-000042
为了保证在每一次迭代中H的非负性，我们选择步长矩阵为：
Figure PCTCN2017073675-appb-000043
将选择的步长矩阵ρ1带入(4)式可以的得到H的迭代公式，如以下定理。定理1：固定核矩阵Kwx和Kww，目标函数F1是非增的，当子问题(1)中的特征矩阵H按以下迭代方式更新：
Figure PCTCN2017073675-appb-000044
对核矩阵Kxw的学习：
对于子问题(2)，根据梯度下降法有：
Figure PCTCN2017073675-appb-000045
其中ρ2是步长矩阵，
Figure PCTCN2017073675-appb-000046
是目标函数F2关于Kxw的梯度。
Figure PCTCN2017073675-appb-000047
为了保证在每一次迭代过程中Kxw都能保持非负性，则选取步长矩阵ρ2为：
Figure PCTCN2017073675-appb-000048
将ρ2带入(5)式，得到Kxw的迭代公式，如以下定理：
定理2：固定特征矩阵H和核矩阵和Kww，目标函数F2是非增的，当子问题(2)中的特征矩阵Kxw按以下迭代方式更新：
Figure PCTCN2017073675-appb-000049
对核矩阵Kww的学习：
对于子问题(3)，根据梯度下降法有：
Figure PCTCN2017073675-appb-000050
其中ρ3是步长矩阵，
Figure PCTCN2017073675-appb-000051
是目标函数F3关于Kww的梯度。
Figure PCTCN2017073675-appb-000052
为了保证在每一次迭代过程中Kww都能保持非负性，则选取步长矩阵ρ3为：
Figure PCTCN2017073675-appb-000053
将ρ3带入(6)式，得到Kww的迭代公式，如以下定理：
定理3：固定特征矩阵H和核矩阵和Kxw，目标函数F3是非增的，当子问题(3)中的特征矩阵Kww按以下迭代方式更新：
Figure PCTCN2017073675-appb-000054
综上所述，通过定理1定理2和定理3，可以的到本专利中提出的基于核机器学习的非负矩阵分解算法的迭代公式：
Figure PCTCN2017073675-appb-000055
Figure PCTCN2017073675-appb-000056
Figure PCTCN2017073675-appb-000057
通过交叉迭代的方式可以得出最终的特征矩阵H和两个核矩阵Kwx和Kww.特征提取：
对于测试样本Y，通过非线性映射将其映射到核空间的测试样本矩阵为φ(Y)，由被映射到核空间的原像φ(W)表出，有
Figure PCTCN2017073675-appb-000058
其中Y∈Rm×d为所有测试样本组成的矩阵，[Kxy]ij＝k(xi,yj)。对于求出测试样本的新特征HY，可以由以下三种方法得到。
方式一：
直接借助迭代出的Kxw的广义逆矩阵的方式，有：
Figure PCTCN2017073675-appb-000059
则矩阵HY的每一列就代表着一个待分类的图像的新特征。
方式二：
通过非负矩阵分解法。保持Kxy＝KxwHY中的Kxy和Kxw不变，由非负矩阵分解法的公式就可以迭代出非负的HY：
Figure PCTCN2017073675-appb-000060
方式三：
通过非负稀疏表示法，将Kxy由Kxw稀疏表示出来，HY为稀疏系数矩阵，则可以通过迭代公式求出HY：
Figure PCTCN2017073675-appb-000061
其中，λ为一控制参数，1r×d为大小为r×d的全1矩阵。
由迭代出的H，求出每一类训练样本新特征的中心。计算每一个测试样本的新特征与各类训练样本新特征中心之间的距离。然后根据最近邻法将测试图像归为与其距离最近的一类。
本发明还公开了一种基于核机器学习的非负矩阵分解人脸识别系统，包括：
表示模块，用于将每个预设的训练样本图像表示为列向量；
构造模块，用于通过已知的核函数以及训练样本向量，构造一个对称半正定的核矩阵Kxx；
处理模块，用于分别建立三个目标函数，通过交叉迭代的方法实现极小化目标函数，并得到训练样本在核空间上的新特征和两个与被非线性映射后的样本相关的核矩阵；
投影模块，用于通过学习阶段得到的两个核矩阵，将测试样本投影到核空间得到测试样本在核空间上的新特征；
识别模块，用于根据最近邻法将测试样本的新特征与预设的每一类训 练样本新特征的中心进行比较，进而实现对测试样本的分类及识别。
在所述处理模块中，交叉迭代的公式：
Figure PCTCN2017073675-appb-000062
Figure PCTCN2017073675-appb-000063
Figure PCTCN2017073675-appb-000064
通过交叉迭代的方式能够得出最终的特征矩阵H和两个核矩阵Kwx和Kww。
在所述处理模块中，包括：
输入模块，用于输入核矩阵Kxx；
初始化模块，用于初始化矩阵H,Kxw,Kww；
第一处理模块，用于固定Kxw,Kww且更新H；
第二处理模块，用于固定H,Kww且更新Kxw；
第三处理模块，用于固定H,Kxw且更新Kww；
判断模块，用于判断验证是否满足停止条件，若是，那么得到H,Kxw,Kww的近似解，否则执行第一处理模块。
在所述投影模块中，对于求出测试样本的新特征HY，由以下三种方法得到：
方式一：
直接借助迭代出的Kxw的广义逆矩阵的方式，有：
Figure PCTCN2017073675-appb-000065
则矩阵HY的每一列就代表着一个待分类的图像的新特征；
方式二：
通过非负矩阵分解法，保持Kxy＝KxwHY中的Kxy和Kxw不变，由非负矩阵分解法的公式就可以迭代出非负的HY：
Figure PCTCN2017073675-appb-000066
方式三：
通过非负稀疏表示法，将Kxy由Kxw稀疏表示出来，HY为稀疏系数矩阵，则可以通过迭代公式求出HY：
Figure PCTCN2017073675-appb-000067
其中，λ为一控制参数，1r×d为大小为r×d的全1矩阵。
在所述识别模块中，计算每一个测试样本的新特征与各类训练样本新特征中心之间的距离，然后根据最近邻法将测试图像归为与其距离最近的一类。
本发明的有益效果如下：
1.通过直接对两个核矩阵Kwx和Kww的学习，从而避免了对原像矩阵的学习。
2、通过改变学习的对象，使迭代公式中避免出现核函数求导的过程，从而实现了核函数的选取没有限制的效果，得到一种对任意的核函数都通用的算法。
3、通过得到的新的迭代公式，使这样一种对任意核函数都通用的算法更加简便。
4、通过在公开的常用人脸数据库中进行实验比较，该算法得到了较高的识别精度，验证了新算法的有效性。
表1本发明提出的算法与传统的PNMF算法在ORL人脸数据库下的识别率(％)
Figure PCTCN2017073675-appb-000068
图3是本发明提出的算法与传统的PNMF算法在ORL人脸数据库下的识别率图。
本发明仅需对核矩阵进行学习，通过建立三个不同的目标函数来分别对特征矩阵和两个核矩阵学习，方法简单实用。
关键词解释：
非负矩阵分解：非负矩阵分解(Nonnegative Matrix Factorization,NMF)的思想是将非负样本矩阵X近似分解为两个非负矩阵的乘积：
Xm×n≈Wm×rHr×n,
其中，Wm×r和Hr×n都是非负矩阵。W的每一列称为原像矩阵，H为系数矩阵。核非负矩阵分解：核非负矩阵分解(Kernel Nonnegative Matrix Factorization,KNMF)的思想是通过一个非线性映射
Figure PCTCN2017073675-appb-000069
将非负样本矩阵映射到高维空间中。将被映射的非负样本矩阵近似分解成被映射的原像矩阵和系数矩阵的乘积：
Figure PCTCN2017073675-appb-000070
其中Wm×r和Hr×n都是非负矩阵。
以上内容是结合具体的优选实施方式对本发明所作的进一步详细说明，不能认定本发明的具体实施只局限于这些说明。对于本发明所属技术领域的普通技术人员来说，在不脱离本发明构思的前提下，还可以做出若干简单推演或替换，都应当视为属于本发明的保护范围。

Claims (10)

  1. 一种基于核机器学习的非负矩阵分解人脸识别方法，其特征在于，包括如下步骤：
    A.将每个预设的训练样本图像表示为列向量；
    B.通过已知的核函数以及训练样本向量，构造一个对称半正定的核矩阵Kxx；
    C.分别建立三个目标函数，通过交叉迭代的方法实现极小化目标函数，并得到训练样本在核空间上的新特征和两个与被非线性映射后的样本相关的核矩阵；
    D.通过学习阶段得到的两个核矩阵，将测试样本投影到核空间得到测试样本在核空间上的新特征；
    E.根据最近邻法将测试样本的新特征与预设的每一类训练样本新特征的中心进行比较，进而实现对测试样本的分类及识别。
  2. 根据权利要求1所述的非负矩阵分解人脸识别方法，其特征在于，在所述步骤C中，交叉迭代的公式：
    Figure PCTCN2017073675-appb-100001
    通过交叉迭代的方式能够得出最终的特征矩阵H和两个核矩阵Kwx和Kww。
  3. 根据权利要求1所述的非负矩阵分解人脸识别方法，其特征在于，在所述步骤C中，交叉迭代的过程包括如下步骤：
    (1).输入核矩阵Kxx；
    (2).初始化矩阵H,Kxw,Kww；
    (3).固定Kxw,Kww且更新H；
    (4).固定H,Kww且更新Kxw；
    (5).固定H,Kxw且更新Kww；
    (6).判断验证是否满足停止条件，若是，那么执行步骤(7)，否则执行步骤(3)；
    (7).得到H,Kxw,Kww的近似解。
  4. 根据权利要求1所述的非负矩阵分解人脸识别方法，其特征在于，在所述步骤D中，对于求出测试样本的新特征HY，由以下三种方法得到：
    方式一：
    直接借助迭代出的Kxw的广义逆矩阵的方式，有：
    Figure PCTCN2017073675-appb-100002
    则矩阵HY的每一列就代表着一个待分类的图像的新特征；
    方式二：
    通过非负矩阵分解法，保持Kxy＝KxwHY中的Kxy和Kxw不变，由非负矩阵分解法的公式就可以迭代出非负的HY：
    Figure PCTCN2017073675-appb-100003
    方式三：
    通过非负稀疏表示法，将Kxy由Kxw稀疏表示出来，HY为稀疏系数矩阵，则可以通过迭代公式求出HY：
    Figure PCTCN2017073675-appb-100004
    其中，λ为一控制参数，1r×d为大小为r×d的全1矩阵。
  5. 根据权利要求1所述的非负矩阵分解人脸识别方法，其特征在于，在所述步骤E中，计算每一个测试样本的新特征与各类训练样本新特征中心之间的距离，然后根据最近邻法将测试图像归为与其距离最近的一类。
  6. 一种基于核机器学习的非负矩阵分解人脸识别系统，其特征在于，包括：
    表示模块，用于将每个预设的训练样本图像表示为列向量；
    构造模块，用于通过已知的核函数以及训练样本向量，构造一个对称半正定的核矩阵Kxx；
    处理模块，用于分别建立三个目标函数，通过交叉迭代的方法实现极小化目标函数，并得到训练样本在核空间上的新特征和两个与被非线性映射后的样本相关的核矩阵；
    投影模块，用于通过学习阶段得到的两个核矩阵，将测试样本投影到核空间得到测试样本在核空间上的新特征；
    识别模块，用于根据最近邻法将测试样本的新特征与预设的每一类训练样 本新特征的中心进行比较，进而实现对测试样本的分类及识别。
  7. 根据权利要求6所述的非负矩阵分解人脸识别系统，其特征在于，在所述处理模块中，交叉迭代的公式：
    Figure PCTCN2017073675-appb-100005
    通过交叉迭代的方式能够得出最终的特征矩阵H和两个核矩阵Kwx和Kww。
  8. 根据权利要求6所述的非负矩阵分解人脸识别系统，其特征在于，在所述处理模块中，包括：
    输入模块，用于输入核矩阵Kxx；
    初始化模块，用于初始化矩阵H,Kxw,Kww；
    第一处理模块，用于固定Kxw,Kww且更新H；
    第二处理模块，用于固定H,Kww且更新Kxw；
    第三处理模块，用于固定H,Kxw且更新Kww；
    判断模块，用于判断验证是否满足停止条件，若是，那么得到H,Kxw,Kww的近似解，否则执行第一处理模块。
  9. 根据权利要求6所述的非负矩阵分解人脸识别系统，其特征在于，在所述投影模块中，对于求出测试样本的新特征HY，由以下三种方法得到：
    方式一：
    直接借助迭代出的Kxw的广义逆矩阵的方式，有：
    Figure PCTCN2017073675-appb-100006
    则矩阵HY的每一列就代表着一个待分类的图像的新特征；
    方式二：
    通过非负矩阵分解法，保持Kxy＝KxwHY中的Kxy和Kxw不变，由非负矩阵分解法的公式就可以迭代出非负的HY：
    Figure PCTCN2017073675-appb-100007
    方式三：
    通过非负稀疏表示法，将Kxy由Kxw稀疏表示出来，HY为稀疏系数矩阵，则可以通过迭代公式求出HY：
    Figure PCTCN2017073675-appb-100008
    其中，λ为一控制参数，1r×d为大小为r×d的全1矩阵。
  10. 根据权利要求6所述的非负矩阵分解人脸识别系统，其特征在于，在所述识别模块中，计算每一个测试样本的新特征与各类训练样本新特征中心之间的距离，然后根据最近邻法将测试图像归为与其距离最近的一类。
PCT/CN2017/073675 2016-03-30 2017-02-15 一种基于核机器学习的非负矩阵分解人脸识别方法及系统 WO2017166933A1 (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
US15/769,741 US10679040B2 (en) 2016-03-30 2017-02-15 Non-negative matrix factorization face recognition method and system based on kernel machine learning

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
CN201610192602.0 2016-03-30
CN201610192602.0A CN105893954B (zh) 2016-03-30 2016-03-30 一种基于核机器学习的非负矩阵分解人脸识别方法及系统

Publications (1)

Publication Number Publication Date
WO2017166933A1 true WO2017166933A1 (zh) 2017-10-05

Family

ID=57014054

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/CN2017/073675 WO2017166933A1 (zh) 2016-03-30 2017-02-15 一种基于核机器学习的非负矩阵分解人脸识别方法及系统

Country Status (3)

Country Link
US (1) US10679040B2 (zh)
CN (1) CN105893954B (zh)
WO (1) WO2017166933A1 (zh)

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108828533A (zh) * 2018-04-26 2018-11-16 电子科技大学 一种类内样本相似结构保持非线性投影特征提取方法
CN109410985A (zh) * 2018-10-24 2019-03-01 山东科技大学 哭声智能翻译手表
CN109508697A (zh) * 2018-12-14 2019-03-22 深圳大学 基于e辅助函数的半非负矩阵分解的人脸识别方法、系统及存储介质
CN110378356A (zh) * 2019-07-16 2019-10-25 北京中科研究院 基于多目标拉格朗日正则的细粒度图像识别方法
CN110990775A (zh) * 2019-11-28 2020-04-10 江苏理工学院 基于多流形对偶图正则化非负矩阵分解的多视图聚类方法
WO2020118708A1 (zh) * 2018-12-14 2020-06-18 深圳大学 基于e辅助函数的半非负矩阵分解的人脸识别方法、系统及存储介质
CN112232438A (zh) * 2020-11-05 2021-01-15 华东理工大学 面向高维图像表示多核子空间学习框架
CN113435603A (zh) * 2021-06-01 2021-09-24 浙江师范大学 基于代理图改善的后期融合多核聚类机器学习方法及系统
CN114997266A (zh) * 2022-04-22 2022-09-02 苏州大学 一种面向语音识别的特征迁移学习方法及系统

Families Citing this family (22)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105893954B (zh) * 2016-03-30 2019-04-23 深圳大学 一种基于核机器学习的非负矩阵分解人脸识别方法及系统
CN106897685A (zh) * 2017-02-17 2017-06-27 深圳大学 基于核非负矩阵分解的字典学习和稀疏特征表示的人脸识别方法及系统
WO2019033261A1 (zh) * 2017-08-15 2019-02-21 深圳大学 基于核非负矩阵分解的人脸识别方法、系统及存储介质
CN107480636B (zh) * 2017-08-15 2021-04-06 深圳大学 基于核非负矩阵分解的人脸识别方法、系统及存储介质
CN109002794B (zh) * 2018-07-13 2022-01-14 深圳大学 一种非线性非负矩阵分解人脸识别构建方法、系统及存储介质
US10936658B2 (en) * 2018-09-28 2021-03-02 International Business Machines Corporation Graph analytics using random graph embedding
CN109740415B (zh) * 2018-11-19 2021-02-09 深圳市华尊科技股份有限公司 车辆属性识别方法及相关产品
US11699070B2 (en) * 2019-03-05 2023-07-11 Samsung Electronics Co., Ltd Method and apparatus for providing rotational invariant neural networks
WO2020211015A1 (zh) * 2019-04-17 2020-10-22 深圳大学 基于共轭梯度法的人脸图像非负特征表示与识别方法、系统及存储介质
WO2021003637A1 (zh) * 2019-07-08 2021-01-14 深圳大学 基于加性高斯核的核非负矩阵分解人脸识别方法、装置、系统及存储介质
CN110569879B (zh) * 2019-08-09 2024-03-15 平安科技（深圳）有限公司 舌头图像提取方法、装置及计算机可读存储介质
CN110319995B (zh) * 2019-08-14 2020-12-15 清华大学 火工冲击响应数据时频谱图分析方法
CN110874206A (zh) * 2020-01-19 2020-03-10 光子算数(北京)科技有限责任公司 基于光芯片的数据处理方法、装置、存储介质及电子设备
CN112541502B (zh) * 2020-11-12 2022-06-10 合肥联宝信息技术有限公司 一种图像处理方法、装置及计算机存储介质和电子设备
CN112558757B (zh) * 2020-11-20 2022-08-23 中国科学院宁波材料技术与工程研究所慈溪生物医学工程研究所 一种基于平滑约束非负矩阵分解的肌肉协同提取方法
CN112990062B (zh) * 2021-03-30 2022-05-31 北京中电兴发科技有限公司 一种管理多种同质类智能算法协同工作提升准确率的方法
CN113221736B (zh) * 2021-05-11 2023-05-23 菏泽学院 基于多特征协同非负矩阵分解的心电身份识别方法及系统
CN113537348A (zh) * 2021-07-16 2021-10-22 杭州督元信息科技有限公司 一种基于核二维非负矩阵分解的水下目标检测方法及系统
CN113762354A (zh) * 2021-08-17 2021-12-07 浙江师范大学 基于局部化简单多核k-均值的人脸图像聚类方法及系统
CN114332986B (zh) * 2021-12-07 2023-03-24 北京理工大学 一种基于子空间学习的小样本人脸识别方法
CN113935022A (zh) * 2021-12-17 2022-01-14 北京微步在线科技有限公司 一种同源样本捕获方法、装置、电子设备及存储介质
CN116767204B (zh) * 2023-07-12 2024-03-26 浙江加力仓储设备股份有限公司 基于车辆载荷的车速控制方法及其系统

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20080199075A1 (en) * 2006-08-18 2008-08-21 Salih Burak Gokturk Computer implemented technique for analyzing images
US20080310687A1 (en) * 2007-06-15 2008-12-18 Microsoft Corporation Face Recognition Using Discriminatively Trained Orthogonal Tensor Projections
CN102592148A (zh) * 2011-12-29 2012-07-18 华南师范大学 基于非负矩阵分解和多种距离函数的人脸识别方法
CN102930258A (zh) * 2012-11-13 2013-02-13 重庆大学 一种人脸图像识别方法
CN103366182A (zh) * 2013-07-05 2013-10-23 西安电子科技大学 基于全监督非负矩阵分解的人脸识别方法
CN105893954A (zh) * 2016-03-30 2016-08-24 深圳大学 一种基于核机器学习的非负矩阵分解人脸识别方法及系统

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8805653B2 (en) * 2010-08-11 2014-08-12 Seiko Epson Corporation Supervised nonnegative matrix factorization
CN103207993B (zh) * 2013-04-10 2016-06-15 浙江工业大学 基于核的判别随机近邻嵌入分析的人脸识别方法

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20080199075A1 (en) * 2006-08-18 2008-08-21 Salih Burak Gokturk Computer implemented technique for analyzing images
US20080310687A1 (en) * 2007-06-15 2008-12-18 Microsoft Corporation Face Recognition Using Discriminatively Trained Orthogonal Tensor Projections
CN102592148A (zh) * 2011-12-29 2012-07-18 华南师范大学 基于非负矩阵分解和多种距离函数的人脸识别方法
CN102930258A (zh) * 2012-11-13 2013-02-13 重庆大学 一种人脸图像识别方法
CN103366182A (zh) * 2013-07-05 2013-10-23 西安电子科技大学 基于全监督非负矩阵分解的人脸识别方法
CN105893954A (zh) * 2016-03-30 2016-08-24 深圳大学 一种基于核机器学习的非负矩阵分解人脸识别方法及系统

Cited By (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108828533A (zh) * 2018-04-26 2018-11-16 电子科技大学 一种类内样本相似结构保持非线性投影特征提取方法
CN108828533B (zh) * 2018-04-26 2021-12-31 电子科技大学 一种类内样本相似结构保持非线性投影特征提取方法
CN109410985A (zh) * 2018-10-24 2019-03-01 山东科技大学 哭声智能翻译手表
WO2020118708A1 (zh) * 2018-12-14 2020-06-18 深圳大学 基于e辅助函数的半非负矩阵分解的人脸识别方法、系统及存储介质
CN109508697A (zh) * 2018-12-14 2019-03-22 深圳大学 基于e辅助函数的半非负矩阵分解的人脸识别方法、系统及存储介质
CN110378356A (zh) * 2019-07-16 2019-10-25 北京中科研究院 基于多目标拉格朗日正则的细粒度图像识别方法
CN110378356B (zh) * 2019-07-16 2021-07-02 北京中科研究院 基于多目标拉格朗日正则的细粒度图像识别方法
CN110990775A (zh) * 2019-11-28 2020-04-10 江苏理工学院 基于多流形对偶图正则化非负矩阵分解的多视图聚类方法
CN110990775B (zh) * 2019-11-28 2023-11-07 江苏理工学院 基于多流形对偶图正则化非负矩阵分解的多视图聚类方法
CN112232438A (zh) * 2020-11-05 2021-01-15 华东理工大学 面向高维图像表示多核子空间学习框架
CN112232438B (zh) * 2020-11-05 2023-09-01 华东理工大学 面向高维图像表示多核子空间学习框架
CN113435603A (zh) * 2021-06-01 2021-09-24 浙江师范大学 基于代理图改善的后期融合多核聚类机器学习方法及系统
CN114997266A (zh) * 2022-04-22 2022-09-02 苏州大学 一种面向语音识别的特征迁移学习方法及系统
CN114997266B (zh) * 2022-04-22 2023-07-11 苏州大学 一种面向语音识别的特征迁移学习方法及系统

Also Published As

Publication number Publication date
US10679040B2 (en) 2020-06-09
US20180307901A1 (en) 2018-10-25
CN105893954A (zh) 2016-08-24
CN105893954B (zh) 2019-04-23

Similar Documents

Publication Publication Date Title
WO2017166933A1 (zh) 一种基于核机器学习的非负矩阵分解人脸识别方法及系统
CN109886121B (zh) 一种遮挡鲁棒的人脸关键点定位方法
Yang et al. Supervised translation-invariant sparse coding
US10885379B2 (en) Multi-view image clustering techniques using binary compression
Yuan et al. Iterative transformer network for 3d point cloud
WO2017096753A1 (zh) 人脸关键点跟踪方法、终端和非易失性计算机可读存储介质
CN111191719B (zh) 一种基于自表示和图谱约束的非负矩阵分解的图像聚类方法
BR112020018915A2 (pt) Método para identificação de um objeto em uma imagem e dispositivo móvel para execução do método
CN109754018B (zh) 一种基于f范数的低秩局部保持投影的图像识别方法
US20150278997A1 (en) Method and apparatus for inferring facial composite
JP2014203135A (ja) 信号処理装置、信号処理方法、及び、信号処理システム
Greco et al. Effective training of convolutional neural networks for age estimation based on knowledge distillation
Chen et al. Visual domain adaptation using weighted subspace alignment
Parde et al. Face and image representation in deep CNN features
WO2023124040A1 (zh) 一种人脸识别方法及装置
Cheng et al. A minimax framework for classification with applications to images and high dimensional data
US20230036338A1 (en) Method and apparatus for generating image restoration model, medium and program product
WO2023231753A1 (zh) 一种神经网络的训练方法、数据的处理方法以及设备
Parde et al. Deep convolutional neural network features and the original image
DE102022114631A1 (de) System und Verfahren für unüberwachtes Lernen von Segmentierungsaufgaben
CN111382791A (zh) 深度学习任务处理方法、图像识别任务处理方法和装置
Gan et al. A deep graph embedding network model for face recognition
CN108229552B (zh) 一种模型处理方法、装置及存储介质
Lin et al. Robot grasping based on object shape approximation and LightGBM
Rahimpour et al. Attention-based few-shot person re-identification using meta learning

Legal Events

Date Code Title Description
WWE Wipo information: entry into national phase

Ref document number: 15769741

Country of ref document: US

NENP Non-entry into the national phase

Ref country code: DE

121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 17772964

Country of ref document: EP

Kind code of ref document: A1

32PN Ep: public notification in the ep bulletin as address of the adressee cannot be established

Free format text: NOTING OF LOSS OF RIGHTS (EPO FORM 1205A DATED 04.02.2019)

122 Ep: pct application non-entry in european phase

Ref document number: 17772964

Country of ref document: EP

Kind code of ref document: A1