CN114842276B - 一种基于多图融合的典型相关分析的降维方法 - Google Patents
一种基于多图融合的典型相关分析的降维方法 Download PDFInfo
- Publication number
- CN114842276B CN114842276B CN202210546097.0A CN202210546097A CN114842276B CN 114842276 B CN114842276 B CN 114842276B CN 202210546097 A CN202210546097 A CN 202210546097A CN 114842276 B CN114842276 B CN 114842276B
- Authority
- CN
- China
- Prior art keywords
- graph
- feature
- group
- weight
- graphs
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 55
- 230000009467 reduction Effects 0.000 title claims abstract description 34
- 238000010219 correlation analysis Methods 0.000 title claims abstract description 33
- 230000004927 fusion Effects 0.000 title claims abstract description 21
- 239000013598 vector Substances 0.000 claims abstract description 25
- 238000005457 optimization Methods 0.000 claims abstract description 9
- 239000011159 matrix material Substances 0.000 claims description 25
- 102100027936 Attractin Human genes 0.000 claims description 12
- 101000697936 Homo sapiens Attractin Proteins 0.000 claims description 12
- 238000000513 principal component analysis Methods 0.000 claims description 11
- 238000010586 diagram Methods 0.000 claims description 8
- 230000008859 change Effects 0.000 claims description 7
- 238000004364 calculation method Methods 0.000 claims description 6
- 238000012549 training Methods 0.000 claims description 5
- 238000013507 mapping Methods 0.000 claims description 4
- 101100003996 Mus musculus Atrn gene Proteins 0.000 claims description 3
- 238000000605 extraction Methods 0.000 claims description 3
- 230000017105 transposition Effects 0.000 claims description 3
- 238000004422 calculation algorithm Methods 0.000 abstract description 13
- 238000002474 experimental method Methods 0.000 description 12
- 238000012360 testing method Methods 0.000 description 12
- 238000004458 analytical method Methods 0.000 description 6
- 238000013459 approach Methods 0.000 description 4
- 230000000694 effects Effects 0.000 description 3
- 101100136092 Drosophila melanogaster peng gene Proteins 0.000 description 2
- 238000013473 artificial intelligence Methods 0.000 description 2
- 230000000875 corresponding effect Effects 0.000 description 2
- 238000000354 decomposition reaction Methods 0.000 description 2
- 239000006185 dispersion Substances 0.000 description 2
- 230000006870 function Effects 0.000 description 2
- 238000005286 illumination Methods 0.000 description 2
- 238000003909 pattern recognition Methods 0.000 description 2
- 238000011160 research Methods 0.000 description 2
- 230000006978 adaptation Effects 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000002902 bimodal effect Effects 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 230000002596 correlated effect Effects 0.000 description 1
- 238000007405 data analysis Methods 0.000 description 1
- 230000007423 decrease Effects 0.000 description 1
- 239000000284 extract Substances 0.000 description 1
- 230000008921 facial expression Effects 0.000 description 1
- 238000012423 maintenance Methods 0.000 description 1
- 239000000203 mixture Substances 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000011056 performance test Methods 0.000 description 1
- 238000012545 processing Methods 0.000 description 1
- 230000003595 spectral effect Effects 0.000 description 1
- 230000009466 transformation Effects 0.000 description 1
- 238000000844 transformation Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/77—Processing image or video features in feature spaces; using data integration or data reduction, e.g. principal component analysis [PCA] or independent component analysis [ICA] or self-organising maps [SOM]; Blind source separation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/213—Feature extraction, e.g. by transforming the feature space; Summarisation; Mappings, e.g. subspace methods
- G06F18/2135—Feature extraction, e.g. by transforming the feature space; Summarisation; Mappings, e.g. subspace methods based on approximation criteria, e.g. principal component analysis
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/77—Processing image or video features in feature spaces; using data integration or data reduction, e.g. principal component analysis [PCA] or independent component analysis [ICA] or self-organising maps [SOM]; Blind source separation
- G06V10/80—Fusion, i.e. combining data from various sources at the sensor level, preprocessing level, feature extraction level or classification level
- G06V10/806—Fusion, i.e. combining data from various sources at the sensor level, preprocessing level, feature extraction level or classification level of extracted features
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/16—Human faces, e.g. facial parts, sketches or expressions
- G06V40/168—Feature extraction; Face representation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/16—Human faces, e.g. facial parts, sketches or expressions
- G06V40/172—Classification, e.g. identification
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Physics & Mathematics (AREA)
- Health & Medical Sciences (AREA)
- General Physics & Mathematics (AREA)
- General Health & Medical Sciences (AREA)
- Multimedia (AREA)
- Artificial Intelligence (AREA)
- Evolutionary Computation (AREA)
- Oral & Maxillofacial Surgery (AREA)
- Software Systems (AREA)
- Medical Informatics (AREA)
- Human Computer Interaction (AREA)
- Computing Systems (AREA)
- Databases & Information Systems (AREA)
- Data Mining & Analysis (AREA)
- Bioinformatics & Cheminformatics (AREA)
- General Engineering & Computer Science (AREA)
- Evolutionary Biology (AREA)
- Bioinformatics & Computational Biology (AREA)
- Life Sciences & Earth Sciences (AREA)
- Image Analysis (AREA)
Abstract
本发明公开了一种基于多图融合的典型相关分析的降维方法，该方法针对已有的图嵌入降维算法仅使用单一图结构的问题，提出了一种能够利用多种类型的图揭示数据的内在结构的典型相关分析算法模型。在本发明中，通过构建多种不同的图来描述数据的结构，并且使用图融合框架为每个图赋予权重并且将这些图进行融合成为一个“最佳图”，将融合后的图与典型相关分析模型相结合，通过交替迭代的优化方法求出投影向量并更新多图的权重直至收敛从而得到最终的投影向量，完成降维任务。
Description
技术领域
本发明属于人工智能中的模式识别领域，具体涉及一种基于多图融合的典型相关分析(Multi-Graph Canonical Correlation Analysis，MGCCA)的降维方法。
背景技术
模式识别是人工智能的一个重要研究领域，它旨在精确地对样本外的数据进行分类，在现实世界中，大量的数据往往是高维的，这使得许多数据分析任务变得棘手。解决此类问题的有效方法是降维和特征提取技术，现在被大家广泛使用的方法有主成分分析(Principal Component Analysis，PCA)，线性判别分析(Linear Discriminant Analysis，LDA)与局部保持投影(Locality Preserving Projection，LPP)。其中，PCA是被广泛使用的无监督降维方法，它通过最大化数据的方差来提取高维数据的主要成分；LDA是一种有监督的降维方法，它通过最大化类间散布与类内散布的比率来找到一组投影方向；LPP是源自于拉普拉斯特征图(Laplacian Eigenmap，LE)的线性化变量，它可以通过计算广义特征值来得到投影矩阵。
在现实生活中，同一对象通常具有不同视角的多种特征表示，比如彩色图像可以通过形状、颜色以及纹理特征描述等，具有多种不同表示的数据被称为多视图数据。而上述的PCA，LDA与LPP等方法仅适用于单视图情况，它们并不适合用于对多视图数据进行降维。与多视图数据降维有关的一个重要研究分支是1936年被提出的典型相关分析(CanonicalCorrelation Analysis，CCA)，CCA的目标是寻找一对线性变换，使得投影的双视图数据在最近的公共子空间内最大程度地相关。
然而CCA作为一种线性的多视图特征学习与降维方法，它无法对多视图数据之间的非线性关系进行建模，因此核典型相关分析(KCCA)被提出解决这个问题，KCCA使用核函数，通过隐式非线性映射将原始特征映射到高维空间中，然后在高维空间中利用线性CCA对两个视图的数据进行关系的重建，从而在高维空间中解决在原始空间的非线性问题，进而发现隐藏在原始特征之间的非线性相关关系。虽然KCCA的提出能够发现隐式的非线性关系，但是它和CCA一样都忽视了数据的局部变化信息。
受到LPP与局部线性嵌入(Locality Linear Embedding，LLE)等局部方法在学习表示时探索数据的局部邻域关系的启发，Sun等人首先提出了一种基于局部邻域图的局部保持CCA(Locality Preserving CCA，LPCCA)方法，该方法能够捕捉双视图数据的局部流形结构和非线性信息。后来Peng等人提出了一种局部判别的CCA(Locality DiscriminationCCA，LDCCA)来提高分类精度。Wang等人也提出了一种新的局部保持的CCA方法。
上述所提及的局部性CCA方法基本上是基于每个视图中的一个邻域图。然而，在现实世界中，数据的局部性结构通常可以用各种邻域图来描述。例如，不同的权值策略会产生多个不同的邻域图，显示出不同的局部几何结构；不同的距离度量可能会产生不同的邻域图。一般来说，多个邻域图可以比单个图更加准确地从多个角度描述数据的分布。近年来，出现了一些令人印象深刻的基于多图学习的方法。Wang等人将多图融合到正则化和优化框架中，提出了优化的基于多图的半监督学习，它用不同的图来表示视频标注中的各种关键因素，并在一个统一的框架中进行处理；Kang等人将多图融合策略应用到多视图光谱聚类中，同样取得了不俗的效果，但在这些基于多图的学习方法中，基于多图融合的CCA这一主题并没有得到应有的重视。
发明内容
发明目的：针对已有图嵌入降维算法仅使用单一图结构的问题，提出一种基于多图融合的典型相关分析的降维方法。
技术方案：一种基于多图融合的典型相关分析的降维方法，包括：
步骤1：利用不同的特征提取方法提取训练样本人脸图像的两组特征与/>其中p与q表示特征的维数，n表示每组特征中的样本个数；对这两组特征进行中心化预处理，再使用主成分分析PCA对这两组特征进行降维和去噪；
步骤2：对特征X与特征Y分别构建组内与组间的多个图，构建多图的方法包括以下步骤：
步骤2.1：定义一个图用G＝(V，E，W)来表示，其中υi∈V表示图G中的第i个节点，E是图G中节点边的集合，eij∈E表示节点i到i的边，W表示图G的权重矩阵，如果存在eij∈E，那么存在wij∈W，表示节点i到节点j的权值；对特征X与特征Y分别构建对应的图Gx＝(Vx，Ex，Wx)与Gy＝(Vy，Ey，Wy)；
步骤2.2：对特征X中的每一个节点vi，i＝1，...，n，计算节点vi与其他节点的欧式距离，并且将这些欧式距离进行由小到大的排序，取前k个节点作为vi节点的k近邻节点，在vi节点与这些节点之间构建边，同时使用不同的方式为wij赋予权重；
步骤2.3：对特征X的权重矩阵Wx求和矩阵Dx，其中Dx是一个对角矩阵，它的第i个元素是权重矩阵Wx第i行，即有/>计算拉普拉斯图Lx＝Dx-Wx，拉普拉斯图Lx是特征X的一个组内图；
步骤2.4：使用步骤2.3与步骤2.4同样的过程对特征Y构建组内拉普拉斯图Ly，并且计算组间拉普拉斯图L＝D-W，其中D是一个对角矩阵，它的第i个元素Dii是权重矩阵W第i行的和，即/>符号/>表示点积；
步骤2.5：更改k的取值与赋予权重的方法，重复步骤2.2至步骤2.4构建m个组内与组间的拉普拉斯图，即得到组内图与组间图[L1，...，Lm]；
步骤3：将特征X与特征Y的组内图分别平均融合，给每个组间图赋予一个初始权重进行融合，将三个融合后的图嵌入到CCA模型中，将它称为MGCCA，使用MGCCA为特征X与特征Y降维，并且通过交替迭代优化的方法不断优化投影矢量集与多图的权重，最终得到投影至MGCCA子空间的数据集；
步骤4：将原始特征X与特征Y用求得的投影矢量集进行投影，得到降维后的特征；
步骤5：使用降维后的特征在分类器中完成人脸图像识别任务。
进一步的，所述步骤3中，使用MGCCA为特征X与特征Y降维具体包括：
步骤3.1：将多个组间拉普拉斯图的初始权重设置为1/m，将组间拉普拉斯图乘以各自的权重之后相加融合得到初始融合图L，即L＝(l1+L2+…+Lm)/m，将融合后的图嵌入原有的CCA模型中，且为特征X与特征Y寻找两组基向量wx与wy，使得利用基向量映射后的变量XTwx与YTwy之间的相关系数达到最大，即有：
其中，上标T表示矩阵转置，Lk表示第k个组间拉普拉斯图，表示第k个特征X的组内拉普拉斯图，/>表示第k个特征Y的组内拉普拉斯图，uk表示第k个组间拉普拉斯图所拥有的权重，参数γ是用来调整各个拉普拉斯图的权重，越有效的拉普拉斯图将会得到更大的权值；
步骤3.2：固定每个图的权重，此时步骤3.1中的式子退化为：
其中，是已经固定了的第k个组间拉普拉斯图的权重，相比起步骤3.1中的式子，已经被固定为了常量，约束条件也随之变化；这时对上式进行拉格朗日乘子法运算之后，求解问题已经退化为求解广义特征值问题的最大值问题，进一步求解后得到矢量集wx与wy；
步骤3.3：固定wx与wy的值，此时步骤3.1中的式子退化为：
其中，参数Tr(·)表示求迹运算，对上式进行拉格朗日乘子法运算后得到权重的更新公式，即：
对权重完成更新之后，此时就完成了一次交替迭代优化；
步骤3.4：重复步骤3.2与步骤3.3直至两组投影矢量集达到收敛，即完成对投影矢量集的求解。
有益效果：本发明针对已有的图嵌入降维算法仅使用单一图结构的问题，提出了一种能够利用多种类型的图揭示数据的内在结构的典型相关分析算法模型。在本发明方法中，通过构建多种不同的图来描述数据的结构，并且使用图融合框架为每个图赋予权重并且将这些图进行融合成为一个“最佳图”，将融合后的图与典型相关分析模型相结合，通过交替迭代的优化方法求出投影向量并更新多图的权重直至收敛从而得到最终的投影向量，完成降维任务。本发明的基于多图融合的典型相关分析的降维方法有效的解决了已有的图嵌入降维方法仅使用单一图的问题，在人脸图像分类方面有突出的效果，与现有的一些降维方法相比，本发明提供的方法在人脸图像识别上有着更好的识别率。
附图说明
图1是本发明方法的流程图；
图2是多图性能测试分析图；
图3是k参数测试调整图；
图4是在Yale数据集上参数γ的测试调整图；
图5是在AR数据集上参数γ的测试调整图。
具体实施方式
下面结合附图对本发明做更进一步的解释。
如图1所示，一种基于多图融合的典型相关分析的降维方法，包括：
步骤1：从数据集中导入人脸图像数据，将人脸图像进行灰度化处理，对人脸图像提取原始特征对人脸图像进行小波分解，提取特征其中p与q表示特征的维数，n表示每组特征中的样本个数。对这两组特征进行中心化预处理，再使用主成分分析PCA对这两组特征进行降维和去噪。
步骤2：对特征X与特征Y分别构建组内与组间的多个图，构建多图的方法包含以下步骤：
步骤2.1：定义一个图用G＝(V，E，W)来表示，V是图G中节点的集合，并用vi∈V表示图G中的第i个节点，E是图G中节点边的集合，并用eij∈E表示节点i到j的边，W表示图G的权重矩阵，如果存在eij∈E，那么节点i到节点j的权值wij∈W；对特征X与特征Y分别构建对应的图Gx＝(Vx，Ex，Wx)与Gy＝(Vy，Ey，Wy)。
步骤2.2：对特征X中的每一个节点vi，i＝1，...，n，计算节点vi与其他节点的欧式距离，并且将这些欧式距离进行由小到大的排序，取前k个节点作为vi节点的k近邻节点，在vi节点与这些节点之间构建边，同时使用不同的方式为wij赋予权重；如：01法，基于热核的方法，基于余弦相似度的方法等。
基于热核的权重赋予方法具体如下所示：
其中exp(·)表示指数函数，||·||表示为L2范数运算，t表示一个参数，固定为
步骤2.3：对特征X的权重矩阵Wx求和矩阵Dx，其中Dx是一个对角矩阵，它的第i个元素是权重矩阵Wx第i行，即有/>计算拉普拉斯图Lx＝Dx-Wx，拉普拉斯图lx是特征X的一个组内图。本步骤中，第i个元素/>是权重矩阵Wx还可以是第i列的和，因为Wx是对称的。
步骤2.4：使用步骤2.3与步骤2.4同样的过程对特征Y构建组内拉普拉斯图Ly，并且计算组间拉普拉斯图L＝D-W，其中D是一个对角矩阵，它的第i个元素Dii是权重矩阵W第i行的和，即/>符号/>表示点积，例如/>
步骤2.5：更改k的取值与赋予权重的方法，重复步骤2.2至步骤2.4构建m个组内与组间的拉普拉斯图，即得到组内图与组间图[l1，...，Lm]。
步骤3：将特征X与特征Y的组内图分别平均融合，给每个组间图赋予一个初始权重进行融合，将三个融合后的图嵌入到CCA模型中，将它称为基于多图融合的典型相关分析(MGCCA)，使用MGCCA为特征X与特征Y降维，并且通过交替迭代优化的方法不断优化投影矢量集与多图的权重，最终得到投影至MGCCA子空间的数据集。其中，使用MGCCA为特征X与特征Y降维具体包括：
步骤3.1：将多个组间拉普拉斯图的初始权重设置为1/m，将组间拉普拉斯图乘以各自的权重之后相加融合得到初始融合图L，即L＝(L1+L2+…+Lm)/m，将融合后的图嵌入原有的CCA模型中，且为特征X与特征Y寻找两组基向量wx与wy，使得利用基向量映射后的变量XTwx与yTwy之间的相关系数达到最大，即有：
其中，上标T表示矩阵转置，Lk表示第k个组间拉普拉斯图，表示第k个特征X的组内拉普拉斯图，/>表示第k个特征Y的组内拉普拉斯图，uk表示第k个组间拉普拉斯图所拥有的权重，参数γ是用来调整各个拉普拉斯图的权重，越有效的拉普拉斯图将会得到更大的权值。
步骤3.2：固定每个图的权重，此时步骤3.1中的式子退化为：
其中，是已经固定了的第k个组间拉普拉斯图的权重，相比起步骤3.1中的式子，已经被固定为了常量，约束条件也随之变化。这时对上式进行拉格朗日乘子法运算之后，求解问题已经退化为求解广义特征值问题的最大值问题，具体如下所示：
其中ε是一个正则化参数，设置为0.001，λ为拉格朗日乘子，对此式子进行特征值分解后就可以得到矢量集wx与wy。
步骤3.3：固定wx与wy的值，此时步骤3.1中的式子退化为：
其中，参数Tr(·)表示求迹运算，对上式进行拉格朗日乘子法运算后得到权重的更新公式，即：
对权重完成更新之后，此时就完成了一次交替迭代优化。
步骤3.4：重复步骤3.2与步骤3.3直至两组投影矢量集达到收敛，即完成对投影矢量集的求解。
步骤4：将原始特征X与特征Y用求得的投影矢量集进行投影，得到降维后的特征。
步骤5：使用降维后的特征在分类器中完成人脸图像识别任务。
以下通过实验对本发明方法进行验证。
1.实验数据集介绍。
数据集1：AT&T人脸数据库。
第一个数据库是AT&T数据集，它由1992年4月至1994年4月拍摄的一系列人脸图像组成。共有40名不同年龄、性别、种族的个体。每一个人有10幅图像，共400幅灰度图像，图像的尺寸为92×112像素，图像背景为黑色，在测试本发明性能所进行的实验中，选取每个个体的随机5幅图像作为训练样本，其余的图像作为测试样本，并分别进行10次独立测试。
数据集2：AR人脸数据库。
第二个数据库是AR数据集，它由126人的4000多张彩色图像组成，每人26张图像，分为两组，每组13张图像。这些图像反映了面部表情、光照和遮挡的变化情况。在测试本发明性能所进行的实验中，将从两组中选择120人的14张图像，并将其裁剪为50×40像素后转换为灰度图像。并且随机选择每个个体的5幅图像作为训练样本，其余9幅图像作为测试样本，分别进行10次独立测试。
数据集3：Yale人脸数据库。
第三个数据库是Yale数据集，它15人的165张灰度图像，每人有11张图像。包括了不同的光照方向、眼睛、表情的变化等。在测试本发明性能所进行的实验中，裁剪这些人脸图像为120×91像素，并且对每一个个体随机选取5张图像作为训练样本，其余6张作为测试样本，分别进行10次独立测试。
2.实验结果。
实验1：不同数据集上的识别率性能分析。
与现有的经典技术相比较，本发明提出的基于多图融合的典型相关分析(MGCCA)在不同人脸数据集上的识别率(％)表现均有明显优势，下表是几种经典的典型相关分析所计算的人脸图像识别率比较。其中CCA是由Hotelling提出的典型相关分析算法；LPCCA是Sun等人提出的局部保持的典型相关分析算法；DCCA是Sun提出的判别型典型相关分析算法；LDCCA是Peng等人提出的局部判别的典型相关分析算法；BHCCCA是N.Elmadany等人提出的双模态质心混合的典型相关分析；CSCCA是Zu等人提出的稀疏互视的典型相关分析；MGCCA是本发明所提出的方法。
表1在四个数据集上七种方法的最佳识别率(％)比较
| AT&T | AR | Yale | Yale-B | |
| CCA | 93.2 | 97.2 | 85.1 | 94.2 |
| LPCCA | 96.2 | 95.7 | 78.1 | 90.0 |
| DCCA | 95.6 | 97.8 | 93.6 | 95.6 |
| LDCCA | 93.2 | 97.0 | 85.0 | 94.2 |
| BHCCCA | 93.3 | 97.2 | 85.1 | 94.1 |
| CSCCA | 97.2 | 98.3 | 92.0 | 95.7 |
| MGCCA | 97.4 | 98.4 | 93.8 | 96.1 |
实验2：本发明中使用多图嵌入和单图嵌入的性能比较分析。
为了准确反映出本发明提出的基于多图融合的典型相关分析的有效性，将本发明方法与各个嵌入单图的典型相关分析算法进行比较，在Yale数据库上进行实验，图2是MGCCA与其他嵌入单图的方法随着维度的变化其识别率的变化情况，其中G1表示了嵌入01图的典型相关分析算法，G2表示嵌入余弦相似度图的典型相关分析算法，G3表示嵌入热核图的典型相关分析算法。在图中可以看到本发明方法的识别率曲线几乎在其余方法的识别率曲线的上方，这表明本发明所提出方法的优越性，显示了多图融合后的典型相关分析比较于单图嵌入的典型相关分析有着明显的识别率提升。
实验3：近邻参数k的取值分析。
本发明的其中一个步骤是构建多个近邻图，近邻参数k的取值对于识别率有一定的影响，在Yale-B人脸数据集上进行实验，图3是三组不同取值的k值的MGCCA方法随着维度的变化其识别率的变化情况。其中系列一表示了一组较小的k取值下的MGCCA；系列二表示了较大的k取值下的MGCCA；而系列三则表示了前二者之间的k取值下的MGCCA。从图中可以看到当k取值较小时，往往能够获得更好的识别效果。因此在本发明的其余实验中，本发明均取较小的k值用于创建多图。
实验4：权重调整参数γ的取值分析。
在本发明中，参数γ用于调整每个图的权重，越有效的图越能得到更大的权重，当γ趋近于1时，最有效的图的权重将趋近于1，当γ趋近于无穷时，多图的权重将会彼此接近。因此，γ的取值应该取决于多个图之间的互补性，当多图之间存在有丰富的互补性时，应该取较大的γ值。反之则应该取较小的γ值，为了探讨不同的γ值对MGCCA识别率的影响，在Yale数据集与AR数据集上进行了实验。图4是MGCCA在Yale数据集上随着参数γ的变化其识别率的变化情况。MGCCA的识别率随着γ值的增大先增加后减少，说明当γ值接近于1时，多图中的互补信息没有被充分挖掘，而γ值过大时，多图又被平均融合导致丢失了一些信息。图5是MGCCA在AR数据集上随着参数γ的变化其识别率的变化情况。MGCCA的识别率随着γ值的增大而增加，这说明在当前数据集中，图与图之间有着充分的互补性。
以上所述仅是本发明的优选实施方式，应当指出，对于本技术领域的普通技术人员来说，在不脱离本发明原理的前提下，还可以做出若干改进和润饰，这些改进和润饰也应视为本发明的保护范围。
Claims (2)
1.一种基于多图融合的典型相关分析的降维方法，其特征在于，包括：
步骤1：利用不同的特征提取方法提取训练样本人脸图像的两组特征与/>其中p与q表示特征的维数，n表示每组特征中的样本个数；对这两组特征进行中心化预处理，再使用主成分分析PCA对这两组特征进行降维和去噪；
步骤2：对特征X与特征Y分别构建组内与组间的多个图，构建多图的方法包括以下步骤：
步骤2.1：定义一个图用G＝(V，E，W)来表示，其中υi∈V表示图G中的第i个节点，E是图G中节点边的集合，eij∈E表示节点i到j的边，W表示图G的权重矩阵，如果存在eij∈E，那么存在wij∈W，表示节点i到节点j的权值；对特征X与特征Y分别构建对应的图Gx＝(Vx，Ex，Wx)与Gy＝(Vy，Ey，Wy)；
步骤2.2：对特征X中的每一个节点υi，i＝1，...，n，计算节点υi与其他节点的欧式距离，并且将这些欧式距离进行由小到大的排序，取前k个节点作为υi节点的k近邻节点，在υi节点与这些节点之间构建边，同时使用不同的方式为wij赋予权重；
步骤2.3：对特征X的权重矩阵Wx求和矩阵Dx，其中Dx是一个对角矩阵，它的第i个元素是权重矩阵Wx第i行，即有/>计算拉普拉斯图Lx＝Dx-Wx，拉普拉斯图Lx是特征X的一个组内图；
步骤2.4：使用步骤2.3与步骤2.4同样的过程对特征Y构建组内拉普拉斯图Ly，并且计算组间拉普拉斯图L＝D-W，其中D是一个对角矩阵，它的第i个元素Dii是权重矩阵W第i行的和，即/>符号/>表示点积；
步骤2.5：更改k的取值与赋予权重的方法，重复步骤2.2至步骤2.4构建m个组内与组间的拉普拉斯图，即得到组内图与组间图[L1，...，Lm]；
步骤3：将特征X与特征Y的组内图分别平均融合，给每个组间图赋予一个初始权重进行融合，将三个融合后的图嵌入到CCA模型中，将它称为MGCCA，使用MGCCA为特征X与特征Y降维，并且通过交替迭代优化的方法不断优化投影矢量集与多图的权重，最终得到投影至MGCCA子空间的数据集；
步骤4：将原始特征X与特征Y用求得的投影矢量集进行投影，得到降维后的特征；
步骤5：使用降维后的特征在分类器中完成人脸图像识别任务。
2.根据权利要求1所述的基于多图融合的典型相关分析的降维方法，其特征在于，所述步骤3中，使用MGCCA为特征X与特征Y降维具体包括：
步骤3.1：将多个组间拉普拉斯图的初始权重设置为1/m，将组间拉普拉斯图乘以各自的权重之后相加融合得到初始融合图L，即L＝(L1+L2+…+Lm)/m，将融合后的图嵌入原有的CCA模型中，且为特征X与特征Y寻找两组基向量wx与wy，使得利用基向量映射后的变量XTwx与YTwy之间的相关系数达到最大，即有：
其中，上标T表示矩阵转置，Lk表示第k个组间拉普拉斯图，表示第k个特征X的组内拉普拉斯图，/>表示第k个特征Y的组内拉普拉斯图，uk表示第k个组间拉普拉斯图所拥有的权重，参数γ是用来调整各个拉普拉斯图的权重，越有效的拉普拉斯图将会得到更大的权值；
步骤3.2：固定每个图的权重，此时步骤3.1中的式子退化为：
其中，是已经固定了的第k个组间拉普拉斯图的权重，相比起步骤3.1中的式子，/>已经被固定为了常量，约束条件也随之变化；这时对上式进行拉格朗日乘子法运算之后，求解问题已经退化为求解广义特征值问题的最大值问题，进一步求解后得到矢量集wx与wy；
步骤3.3：固定wx与wy的值，此时步骤3.1中的式子退化为：
其中，参数Tr(·)表示求迹运算，对上式进行拉格朗日乘子法运算后得到权重的更新公式，即：
对权重完成更新之后，此时就完成了一次交替迭代优化；
步骤3.4：重复步骤3.2与步骤3.3直至两组投影矢量集达到收敛，即完成对投影矢量集的求解。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202210546097.0A CN114842276B (zh) | 2022-05-18 | 2022-05-18 | 一种基于多图融合的典型相关分析的降维方法 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202210546097.0A CN114842276B (zh) | 2022-05-18 | 2022-05-18 | 一种基于多图融合的典型相关分析的降维方法 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN114842276A CN114842276A (zh) | 2022-08-02 |
| CN114842276B true CN114842276B (zh) | 2024-03-26 |
Family
ID=82569612
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202210546097.0A Active CN114842276B (zh) | 2022-05-18 | 2022-05-18 | 一种基于多图融合的典型相关分析的降维方法 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN114842276B (zh) |
Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| KR101254181B1 (ko) * | 2012-12-13 | 2013-04-19 | 위아코퍼레이션 주식회사 | 하이브리드 방식의 영상 데이터 전처리 기법 및 방사형 기저함수 기반 신경회로망을 이용한 얼굴 인식 방법 |
| CN106709508A (zh) * | 2016-11-29 | 2017-05-24 | 江南大学 | 一种利用特征信息的加权典型相关分析方法 |
| CN108229295A (zh) * | 2017-09-22 | 2018-06-29 | 江西师范大学 | 一种基于多重局部约束的图优化维数约简方法 |
| WO2019080488A1 (zh) * | 2017-10-27 | 2019-05-02 | 东南大学 | 一种基于多尺度协方差描述子与局部敏感黎曼核稀疏分类的三维人脸识别方法 |
-
2022
- 2022-05-18 CN CN202210546097.0A patent/CN114842276B/zh active Active
Patent Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| KR101254181B1 (ko) * | 2012-12-13 | 2013-04-19 | 위아코퍼레이션 주식회사 | 하이브리드 방식의 영상 데이터 전처리 기법 및 방사형 기저함수 기반 신경회로망을 이용한 얼굴 인식 방법 |
| CN106709508A (zh) * | 2016-11-29 | 2017-05-24 | 江南大学 | 一种利用特征信息的加权典型相关分析方法 |
| CN108229295A (zh) * | 2017-09-22 | 2018-06-29 | 江西师范大学 | 一种基于多重局部约束的图优化维数约简方法 |
| WO2019080488A1 (zh) * | 2017-10-27 | 2019-05-02 | 东南大学 | 一种基于多尺度协方差描述子与局部敏感黎曼核稀疏分类的三维人脸识别方法 |
Non-Patent Citations (2)
| Title |
|---|
| 分数阶嵌入的广义多重集典型相关分析;管睿;孙权森;沈肖波;;南京大学学报(自然科学);20150130(第01期);全文 * |
| 稀疏保持典型相关分析特征选择与模式识别;许洁;吴秦;梁久祯;王念兵;张淮;;小型微型计算机系统;20170815(第08期);全文 * |
Also Published As
| Publication number | Publication date |
|---|---|
| CN114842276A (zh) | 2022-08-02 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN107633513B (zh) | 基于深度学习的3d图像质量的度量方法 | |
| CN110348399B (zh) | 基于原型学习机制和多维残差网络的高光谱智能分类方法 | |
| CN103605972B (zh) | 一种基于分块深度神经网络的非限制环境人脸验证方法 | |
| CN105630901A (zh) | 一种知识图谱表示学习方法 | |
| CN106295694B (zh) | 一种迭代重约束组稀疏表示分类的人脸识别方法 | |
| CN104732244B (zh) | 基于小波变换、多策略pso和svm集成的遥感图像分类方法 | |
| CN104268593A (zh) | 一种小样本情况下多稀疏表示的人脸识别方法 | |
| CN101872424A (zh) | 基于Gabor变换最优通道模糊融合的人脸表情识别方法 | |
| CN109241813B (zh) | 基于判别稀疏保持嵌入的非约束人脸图像降维方法 | |
| López-Rubio | Probabilistic self-organizing maps for continuous data | |
| CN107292225A (zh) | 一种人脸识别方法 | |
| CN109376787A (zh) | 流形学习网络及基于其的计算机视觉图像集分类方法 | |
| CN104966075B (zh) | 一种基于二维判别特征的人脸识别方法与系统 | |
| CN111723759B (zh) | 基于加权张量稀疏图映射的非约束人脸识别方法 | |
| CN105046272A (zh) | 一种基于简洁非监督式卷积网络的图像分类方法 | |
| CN109543637A (zh) | 一种人脸识别方法、装置、设备以及可读存储介质 | |
| Huang et al. | Design and Application of Face Recognition Algorithm Based on Improved Backpropagation Neural Network. | |
| CN110956113B (zh) | 基于二次协作表示鉴别投影的鲁棒人脸识别方法 | |
| CN114298834A (zh) | 一种基于自组织映射网络的个人信用评估方法及系统 | |
| CN110991554B (zh) | 一种基于改进pca的深度网络图像分类方法 | |
| CN115131863A (zh) | 一种新的基于特征选择策略的人脸图像聚类方法及系统 | |
| CN118351371A (zh) | 一种基于对抗训练和元学习的小样本图像分类方法及系统 | |
| CN109815440A (zh) | 联合图优化和投影学习的维数约简方法 | |
| CN111611963B (zh) | 一种基于近邻保持典型相关分析的人脸识别方法 | |
| CN112966735A (zh) | 一种基于谱重建的监督多集相关特征融合方法 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |