CN103605985B - 一种基于张量全局‑局部保持投影的数据降维的人脸识别方法 - Google Patents

Abstract

一种基于张量全局‑局部保持投影的数据降维方法，包括以下步骤：（1）选择数据样本，构成待降维的样本集；（2）计算各样本对之间的距离；（3）划分各样本点的邻域，得到其近邻点和非近邻点；（4）根据各样本对之间的近邻和非近邻关系建立样本集的邻接权矩阵和非邻接权矩阵；（5）建立对应于数据全局和局部结构保持的目标函数，构造优化问题；（6）将优化问题转换为广义特征值问题，求解得到投影矩阵；（7）对样本集进行投影得到降维数据。本发明针对二阶张量数据的降维问题，提供了一种能够同时对数据的全局和局部结构进行挖掘、降维效果良好的基于张量全局‑局部保持投影的数据降维方法。

Description

一种基于张量全局-局部保持投影的数据降维的人脸识别 方法

技术领域

本发明涉及模式识别和机器学习领域，具体涉及一种基于张量全局-局部保持投影的数据降维方法。

背景技术

在当今信息时代，得益于数据获取和数据存储技术的长足发展，高维数据在众多领域大量涌现，例如气候数据、基因数据、遥感数据、金融数据以及语音、图像和文本数据等。其中部分数据不仅是高维的，而且是高阶的，即每个数据样本具有高阶张量(二阶以上)的结构形式，如由多幅图像组成的图像数据集。数据降维是指按照一定的准则将数据由高维约减到低维，消除数据的冗余性，得到数据特征的低维等价表达，以便于探知数据的本质规律。目前，数据降维在模式识别、机器学习和计算机视觉等诸多研究领域中扮演着极其重要的角色。

传统的数据降维方法绝大多数是针对由一阶张量(即向量)数据样本构成的数据集提出的，是向量型数据降维方法，例如主成分分析(PCA)、独立成分分析(ICA)、线性判别分析(LDA)、局部保持投影(LPP)及局部线性嵌入(LLE)等。当利用这些向量型降维方法处理由二阶张量(即矩阵)数据样本构成的数据集时，通常需要先将二阶张量数据样本展开成向量，然后才能进行数据降维。然而，数据展开会破坏原数据样本的空间结构，易引起信息损失、小样本和维数灾难等问题，严重影响数据降维的效果。因此，部分学者提出了张量型数据降维方法，其中代表性的方法包括：二维PCA(2DPCA)、二阶二维PCA(2D2PCA)和张量子空间分析(TSA)等。张量型降维 方法无需将数据样本展开成向量，充分利用了数据的结构信息及相关性,克服了小样本问题,因而在性能上优于向量型降维方法。

数据的结构包含全局结构和局部结构两部分内容，全局结构描述了数据的外部整体特征，而局部结构反映了数据的内在组织方式，二者相辅相成，缺一不可。然而，现有的张量型数据降维方法仅关注了数据的全局结构（如2DPCA和2D2PCA）或数据的局部结构（如TSA）二者之一，并没有对二者进行综合考虑，因而降维后的数据难以完整、准确地反映原数据的本质特征，易造成数据信息的丢失和误读，严重影响数据降维的效果。

发明内容

为了克服现有的张量型数据降维方法仅关注数据的全局结构或局部结构、降维效果差的不足，本发明提供了一种能够同时挖掘数据的全局和局部结构、降维效果良好的基于张量全局-局部保持投影的数据降维方法。

本发明所采用的技术方案如下：

一种基于张量全局-局部保持投影的数据降维方法，包括以下步骤：

1）输入待降维的样本集X={X₁,X₂,…,X_i,…,X_n}，其中每个样本X_i具有二阶张量的结构形式，即X_i∈R^K×J，式中R表示实数域，K和J分别是样本的行维数和列维数；

2）计算各样本对(X_i,X_j)之间的距离d(X_i,X_j)；

3）划分各样本点X_i的邻域Ω(X_i)，得到其近邻点和非近邻点；

4）根据各样本对(X_i,X_j)之间的近邻和非近邻关系，分别计算权值W_ij和

式中||·||表示矩阵的Frobenius范数，参数σ为正实数，可根据经验确定。

利用权值W_ij和建立邻接权矩阵W和非邻接权矩阵

5）建立对应于数据局部结构保持的目标函数J_TLocal(U,V)：

$J_{\mathrm{TLocal}}(U,V)=\frac{1}{2}{\mathrm{\Σ}}_{\mathrm{ij}}{\left|\right|U^T{X}_{i}V-U^T{X}_{j}V\left|\right|}^2{W}_{\mathrm{ij}}=\mathrm{tr}\left(U^T{L}_{V}U\right)=\mathrm{tr}\left(V^T{L}_{U}V\right)---\left(3\right)$

式中U∈R^K×K1和V∈R^J×J1是投影矩阵，K1≤K，J1≤J，L_V=D_V–W_V，L_U=D_U–W_U， $D_V={\mathrm{\Σ}}_i{D}_{\mathrm{ii}}{X}_i{\mathrm{VV}}^T{X}_i^T,$ D_ii＝Σ_jW_ij， $W_V={\mathrm{\Σ}}_{\mathrm{ij}}{W}_{\mathrm{ij}}{X}_i{\mathrm{VV}}^T{X}_j^T,$ $D_U={\mathrm{\Σ}}_i{D}_{\mathrm{ii}}{X}_i^T{\mathrm{UU}}^T{X}_i,$ $W_U={\mathrm{\Σ}}_{\mathrm{ij}}{W}_{\mathrm{ij}}{X}_j^T{\mathrm{UU}}^T{X}_i,$

建立对应于数据全局结构保持的目标函数J_TGlobal(U,V)：

$J_{\mathrm{TGlobal}}(U,V)=-\frac{1}{2}{\mathrm{\Σ}}_{\mathrm{ij}}{\left|\right|U^T{X}_{i}V-U^T{X}_{i}V\left|\right|}^2{\stackrel{\‾}{W}}_{\mathrm{ij}}=-\mathrm{tr}\left(U^T{\stackrel{\‾}{L}}_{V}U\right)=-\mathrm{tr}\left(V^T{\stackrel{\‾}{L}}_{U}V\right)---\left(4\right)$

式中 ${\stackrel{\‾}{L}}_V={\stackrel{\‾}{D}}_V-{\stackrel{\‾}{W}}_V,$ ${\stackrel{\‾}{L}}_U={\stackrel{\‾}{D}}_U-{\stackrel{\‾}{W}}_U,$ ${\stackrel{\‾}{D}}_V={\mathrm{\Σ}}_i{\stackrel{\‾}{D}}_{\mathrm{ii}}{X}_i{\mathrm{VV}}^T{X}_i^T,$ ${\stackrel{\‾}{D}}_{\mathrm{ii}}={\mathrm{\Σ}}_j{\stackrel{\‾}{W}}_{\mathrm{ij}},$ ${\stackrel{\‾}{W}}_V={\mathrm{\Σ}}_{\mathrm{ij}}{\stackrel{\‾}{W}}_{\mathrm{ij}}{X}_i{\mathrm{VV}}^T{X}_j^T,$ ${\stackrel{\‾}{D}}_U={\mathrm{\Σ}}_i{\stackrel{\‾}{D}}_{\mathrm{ii}}{X}_i^T{\mathrm{UU}}^T{X}_i,$ ${\stackrel{\‾}{W}}_U={\mathrm{\Σ}}_{\mathrm{ij}}{\stackrel{\‾}{W}}_{\mathrm{ij}}{X}_j^T{\mathrm{UU}}^T{X}_i,$ 分别计算权系数η₁和η₂：

${\mathrm{\η}}_1=\frac{\mathrm{\ρ}\left({\stackrel{\‾}{L}}_V\right)}{\mathrm{\ρ}\left(L_V\right)+\mathrm{\ρ}\left({\stackrel{\‾}{L}}_V\right)}---\left(5\right)$

${\mathrm{\η}}_2=\frac{\mathrm{\ρ}\left({\stackrel{\‾}{L}}_U\right)}{\mathrm{\ρ}\left(L_U\right)+\mathrm{\ρ}\left({\stackrel{\‾}{L}}_U\right)}---\left(6\right)$

式中ρ(·)是矩阵的谱半径，分别构造如下两个优化问题：

$\begin{array}{c}\underset{U,V}{\min }\mathrm{tr}\left(U^T{M}_{V}U\right)\\ s.t.U^T{N}_{V}U=I_{K1}\end{array}---\left(7\right)$

$\begin{array}{c}\underset{U,V}{\min }\mathrm{tr}\left(V^T{M}_{U}V\right)\\ s.t.V^T{N}_{U}V=I_{J1}\end{array}---\left(8\right)$

式中 $M_V={\mathrm{\η}}_1{L}_V-(1-{\mathrm{\η}}_1){\stackrel{\‾}{L}}_V,$ $M_U={\mathrm{\η}}_2{L}_U-(1-{\mathrm{\η}}_2){\stackrel{\‾}{L}}_U,$ $N_V={\mathrm{\η}}_1{\hat{D}}_V+(1-{\mathrm{\η}}_1)I_K,$ ${\hat{D}}_V={\mathrm{\Σ}}_i{\hat{D}}_{\mathrm{ii}}{X}_i{\mathrm{VV}}^T{X}_i^T,$ ${\hat{D}}_{\mathrm{ii}}={\mathrm{\η}}_1{D}_{\mathrm{ii}}-(1-{\mathrm{\η}}_1){\stackrel{\‾}{D}}_{\mathrm{ii}},$ $N_U={\mathrm{\η}}_2{\tilde{D}}_U+(1-{\mathrm{\η}}_2)I_J,$ ${\tilde{D}}_U={\mathrm{\Σ}}_i{\tilde{D}}_{\mathrm{ii}}{X}_i^T{\mathrm{UU}}^T{X}_i,$ ${\tilde{D}}_{\mathrm{ii}}={\mathrm{\η}}_2{D}_{\mathrm{ii}}-(1-{\mathrm{\η}}_2){\stackrel{\‾}{D}}_{\mathrm{ii}},$ I_K、I_J、I_K1和I_J1分别是维数为K、J、K1和J1的单位矩阵；

6）将步骤5）中的两个优化问题转换为两个广义特征值问题：

M_Uv＝λN_Uv （9）

M_Vu＝λN_Vu （10）

迭代求解这两个问题分别得到一组特征向量v₁，v₂，…，v_J和u₁，u₂，…，u_K，然后分别构建投影矩阵U和V；

7）利用投影矩阵U和V对数据样本集X进行投影得到低维数据Y={Y₁,Y₂,…,Y_i,…,Y_n}，其中Y_i＝U^TX_iV∈R^K1×J1。

进一步，所述步骤2）中，样本对(X_i,X_j)之间的距离d(X_i,X_j)定义为：d(X_i,X_j)＝||X_i-X_j||，式中||·||表示矩阵的Frobenius范数。

再进一步，所述步骤3）中，样本点X_i的邻域Ω(X_i)用k近邻法定义，k近邻法定义的邻域为：Ω(X_i)＝{距离X_i最近的k个点}，参数k是正实数。根据样本点X_i的邻域Ω(X_i)确定其近邻点和非近邻点的具体方法为：如果样本点X_j在X_i的邻域内，即X_j∈Ω(X_i)，则X_j称为X_i的近邻点，否则X_j称为X_i的非近邻点。

或者是：所述步骤3）中，样本点X_i的邻域Ω(X_i)用ε近邻法定义，ε近邻法定义的邻域为：Ω(X_i)＝{X|||X-X_i||²＜ε}，参数ε是正实数。根 据样本点X_i的邻域Ω(X_i)确定其近邻点和非近邻点的具体方法为：如果样本点X_j在X_i的邻域内，即X_j∈Ω(X_i)，则X_j称为X_i的近邻点，否则X_j称为X_i的非近邻点。

更进一步，所述步骤6）中，迭代求解式（9）和式（10）的具体步骤为：①设定需迭代计算的次数m；②记m=1，初定投影矩阵U为单位矩阵，计算得到M_U和N_U；③求取式（9）的特征向量v₁，v₂，…，v_J，并构成投影矩阵V=[v₁,v₂,…,v_J]，计算得到M_V和N_V；④求取式（10）的特征向量u₁，u₂，…，u_K，并更新投影矩阵U=[u₁,u₂,…,u_K]，计算得到M_U和N_U，返回步骤③，记m=m+1。重复步骤③和④直到迭代次数m达到预设值，最后得到的特征向量v₁，v₂，…，v_J和u₁，u₂，…，u_K分别是式（9）和式（10）的解。最后，选取式（9）的前J1（J1≤J）个最小非零特征值所对应的特征向量v₁，v₂，…，v_J1构成投影矩阵V＝[v₁,v₂,…,v_J1]∈R^J×J1；选取式（10）的前K1（K1≤K）个最小非零特征值所对应的特征向量u₁，u₂，…，u_K1构成投影矩阵U＝[u₁,u₂,…,u_K1]∈R^K×K1。

本发明的有益效果在于：1）采用基于张量的投影策略，可直接对由二阶张量数据构成的数据集进行降维，无需先将二阶张量数据展开至一阶，从而避免了由数据展开引起的数据结构破坏、信息损失、小样本和维数灾难等问题；2）综合考虑了高维数据样本点之间的拓扑关系，降维时同时对数据集的全局特征和局部特征进行保持，改善了数据降维的效果。

附图说明

图1是一种基于张量全局-局部保持投影的数据降维方法的实施流程图。

图2是人脸识别错误率与维数l的关系曲线。

具体实施方式

下面结合附图对本发明做进一步描述。

参照图1和图2，一种基于张量全局-局部保持投影的数据降维方法，包括如下步骤：

1）选择n个二阶张量数据样本X_i∈R^K×J，式中R表示实数域，K和J分别是样本的行维数和列维数，构成样本集X={X₁,X₂,…,X_i,…,X_n}。

2）计算各样本对(X_i,X_j)之间的距离：d(X_i,X_j)＝||X_i-X_j||，式中||·||表示矩阵的Frobenius范数。

3）选择合适的正实数k或ε，利用k近邻法或ε近邻法划分各样本点X_i的邻域Ω(X_i)，其中k近邻法定义的邻域为：Ω(X_i)＝{距离X_i最近的k个点}，ε近邻法定义的邻域为：Ω(X_i)＝{X|||X-X_i||²＜ε}。然后根据样本点X_i的邻域Ω(X_i)，确定其近邻点和非近邻点，具体为：如果样本点X_j在X_i的邻域内，即X_j∈Ω(X_i)，则X_j称为X_i的近邻点，否则X_j称为X_i的非近邻点。

4）根据各样本对(X_i,X_j)之间的近邻和非近邻关系，分别计算权值W_ij和

式中||·||表示矩阵的Frobenius范数，参数σ为正实数，可根据经验确定。利用权值W_ij和建立邻接权矩阵W和非邻接权矩阵

5）建立对应于数据局部结构保持的目标函数J_TLocal(U,V)：

$J_{\mathrm{TLocal}}(U,V)=\frac{1}{2}{\mathrm{\Σ}}_{\mathrm{ij}}{\left|\right|U^T{X}_{i}V-U^T{X}_{j}V\left|\right|}^2{W}_{\mathrm{ij}}=\mathrm{tr}\left(U^T{L}_{V}U\right)=\mathrm{tr}\left(V^T{L}_{U}V\right)---\left(3\right)$

式中U∈R^K×K1和V∈R^J×J1是投影矩阵，K1≤K，J1≤J，L_V=D_V-W_V，L_U=D_U–W_U， $D_V={\mathrm{\Σ}}_i{D}_{\mathrm{ii}}{X}_i{\mathrm{VV}}^T{X}_i^T,$ D_ii＝Σ_jW_ij， $W_V={\mathrm{\Σ}}_{\mathrm{ij}}{W}_{\mathrm{ij}}{X}_i{\mathrm{VV}}^T{X}_j^T,$ $D_U={\mathrm{\Σ}}_i{D}_{\mathrm{ii}}{X}_i^T{\mathrm{UU}}^T{X}_i,$ $W_U={\mathrm{\Σ}}_{\mathrm{ij}}{W}_{\mathrm{ij}}{X}_j^T{\mathrm{UU}}^T{X}_i.$

建立对应于数据全局结构保持的目标函数J_TGlobal(U,V)：

$J_{\mathrm{TGlobal}}(U,V)=-\frac{1}{2}{\mathrm{\Σ}}_{\mathrm{ij}}{\left|\right|U^T{X}_{i}V-U^T{X}_{i}V\left|\right|}^2{\stackrel{\‾}{W}}_{\mathrm{ij}}=-\mathrm{tr}\left(U^T{\stackrel{\‾}{L}}_{V}U\right)=-\mathrm{tr}\left(V^T{\stackrel{\‾}{L}}_{U}V\right)---\left(4\right)$

式中 ${\stackrel{\‾}{L}}_V={\stackrel{\‾}{D}}_V-{\stackrel{\‾}{W}}_V,$ ${\stackrel{\‾}{L}}_U={\stackrel{\‾}{D}}_U-{\stackrel{\‾}{W}}_U,$ ${\stackrel{\‾}{D}}_V={\mathrm{\Σ}}_i{\stackrel{\‾}{D}}_{\mathrm{ii}}{X}_i{\mathrm{VV}}^T{X}_i^T,$ ${\stackrel{\‾}{D}}_{\mathrm{ii}}={\mathrm{\Σ}}_j{\stackrel{\‾}{W}}_{\mathrm{ij}},$ ${\stackrel{\‾}{W}}_V={\mathrm{\Σ}}_{\mathrm{ij}}{\stackrel{\‾}{W}}_{\mathrm{ij}}{X}_i{\mathrm{VV}}^T{X}_j^T,$ ${\stackrel{\‾}{D}}_U={\mathrm{\Σ}}_i{\stackrel{\‾}{D}}_{\mathrm{ii}}{X}_i^T{\mathrm{UU}}^T{X}_i,$ ${\stackrel{\‾}{W}}_U={\mathrm{\Σ}}_{\mathrm{ij}}{\stackrel{\‾}{W}}_{\mathrm{ij}}{X}_j^T{\mathrm{UU}}^T{X}_i.$ 分别计算权系数η₁和η₂：

${\mathrm{\η}}_1=\frac{\mathrm{\ρ}\left({\stackrel{\‾}{L}}_V\right)}{\mathrm{\ρ}\left(L_V\right)+\mathrm{\ρ}\left({\stackrel{\‾}{L}}_V\right)}---\left(5\right)$

${\mathrm{\η}}_2=\frac{\mathrm{\ρ}\left({\stackrel{\‾}{L}}_U\right)}{\mathrm{\ρ}\left(L_U\right)+\mathrm{\ρ}\left({\stackrel{\‾}{L}}_U\right)}---\left(6\right)$

式中ρ(·)是矩阵的谱半径。分别构造如下两个优化问题：

$\begin{array}{c}\underset{U,V}{\min }\mathrm{tr}\left(U^T{M}_{V}U\right)\\ s.t.U^T{N}_{V}U=I_{K1}\end{array}---\left(7\right)$

$\begin{array}{c}\underset{U,V}{\min }\mathrm{tr}\left(V^T{M}_{U}V\right)\\ s.t.V^T{N}_{U}V=I_{J1}\end{array}---\left(8\right)$

式中 $M_V={\mathrm{\η}}_1{L}_V-(1-{\mathrm{\η}}_1){\stackrel{\‾}{L}}_V,$ $M_U={\mathrm{\η}}_2{L}_U-(1-{\mathrm{\η}}_2){\stackrel{\‾}{L}}_U,$ $N_V={\mathrm{\η}}_1{\hat{D}}_V+(1-{\mathrm{\η}}_1)I_K,$ ${\hat{D}}_V={\mathrm{\Σ}}_i{\hat{D}}_{\mathrm{ii}}{X}_i{\mathrm{VV}}^T{X}_i^T,$ ${\hat{D}}_{\mathrm{ii}}={\mathrm{\η}}_1{D}_{\mathrm{ii}}-(1-{\mathrm{\η}}_1){\stackrel{\‾}{D}}_{\mathrm{ii}},$ $N_U={\mathrm{\η}}_2{\tilde{D}}_U+(1-{\mathrm{\η}}_2)I_J,$ ${\tilde{D}}_U={\mathrm{\Σ}}_i{\tilde{D}}_{\mathrm{ii}}{X}_i^T{\mathrm{UU}}^T{X}_i,$ ${\tilde{D}}_{\mathrm{ii}}={\mathrm{\η}}_2{D}_{\mathrm{ii}}-(1-{\mathrm{\η}}_2){\stackrel{\‾}{D}}_{\mathrm{ii}},$ I_K、I_J、I_K1和I_J1分别是维数 为K、J、K1和J1的单位矩阵。

6）将步骤5）中的两个优化问题转换为两个广义特征值问题：

M_Uv＝λN_Uv （9）

M_Vu＝λN_Vu （10）

迭代求解这两个问题分别得到一组特征向量v₁，v₂，…，v_J和u₁，u₂，…，u_K。迭代求解式（9）和式（10）的具体步骤为：①设定需迭代计算的次数m；②记m=1，初定投影矩阵U为单位矩阵，计算得到M_U和N_U；③求取式（9）的特征向量v₁，v₂，…，v_J，并构成投影矩阵V=[v₁,v₂,…,v_J]，计算得到M_V和N_V；④求取式（10）的特征向量u₁，u₂，…，u_K，并更新投影矩阵U=[u₁,u₂,…,u_K]，计算得到M_U和N_U，返回步骤③，记m=m+1。重复步骤③和④直到迭代次数m达到预设值，最后得到的特征向量v₁，v₂，…，v_J和u₁，u₂，…，u_K分别是式（9）和式（10）的解。最后，选取式（9）的前J1（J1≤J）个最小非零特征值所对应的特征向量v₁，v₂，…，v_J1构成投影矩阵V＝[v₁,v₂,…,v_J1]∈R^J×J1；选取式（10）的前K1（K1≤K）个最小非零特征值所对应的特征向量u₁，u₂，…，u_K1构成投影矩阵U＝[u₁,u₂,…,u_K1]∈R^K×K1。

7）利用投影矩阵U和V对数据样本集X进行投影得到低维数据Y={Y₁,Y₂,…,Y_i,…,Y_n}，其中Y_i＝U^TX_iV∈R^K1×J1。

实例：以人脸识别为例进行实施，采用经典的ORL人脸数据库验证本发明所提方法的性能。ORL人脸数据集由400幅人脸图像组成，包括40人，每人10幅图像，分别是在不同时间、不同光照、不同表情以及不同面部细节时拍摄的。每幅图像的尺寸为112像素×92像素。在ORL库中选取其中10个人，对每个人随机抽取2幅图像作为训练 样本，构成训练样本集X，随机抽取其它5幅图像作为测试样本，构成测试样本集T。则训练集X={X₁,X₂,…,X_i,…,X₂₀}，其中测试集T={T₁,T₂,…,T_i,…,T₅₀}，其中

首先，采用本发明的方法将训练集X降至l×l维（l<92），得到投影矩阵U和V以及降维数据Y={Y₁,Y₂,…,Y_i,…,Y₂₀}其中在步骤（3）中采用k近邻法定义样本点的邻域，k取值为1，在步骤（6）中，迭代次数m取值为10。然后，利用投影矩阵U和V将测试集T={T₁,T₂,…,T_i,…,T₅₀}降至l×l维，得到降维数据Z={Z₁,Z₂,…,Z_i,…,Z₅₀}最后，在降维空间进行人脸识别，分别判定测试集中各幅图像所对应的人。表1列出了当维数l取不同数值时，人脸识别的错误率。图2显示了人脸识别错误率与维数l的关系曲线。

表1

从表1和图2中可以看出，只要维数l不小于3，均能保证较低的人脸识别错误率，当维数l在10～70之间时，识别错误率只有2%，这意味着50幅图像中仅有1幅图像识别错误。由此可知，利用本发明的方法将图像降维后进行人脸识别，具有较好的识别效果。

Claims (5)

1.一种基于张量全局-局部保持投影的数据降维的人脸识别方法，其特征在于：所述数据降维方法包括以下步骤：

1)输入待降维的样本集X＝{X₁,X₂,…,X_i,…,X_n}，其中每个样本X_i具有二阶张量的结构形式，即X_i∈R^K×J，式中R表示实数域，K和J分别是样本的行维数和列维数；

2)计算各样本对(X_i,X_j)之间的距离d(X_i,X_j)；

3)划分各样本点X_i的邻域Ω(X_i)，得到其近邻点和非近邻点；

4)根据各样本对(X_i,X_j)之间的近邻和非近邻关系，分别计算权值W_ij和

式中||·||表示矩阵的Frobenius范数，参数σ为正实数，根据经验确定；利用权值W_ij和建立邻接权矩阵W和非邻接权矩阵

5)建立对应于数据局部结构保持的目标函数J_TLocal(U,V)：

$J_{TLocal}(U,V)=\frac{1}{2}{\&Sigma;}_{ij}\left|\right|U^T{X}_{i}V-U^T{X}_{j}V|{|}^2{W}_{ij}=tr\left(U^T{L}_{V}U\right)=tr\left(V^T{L}_{U}V\right)---\left(3\right)$

式中U∈R^K×K1和V∈R^J×J1是投影矩阵，K1≤K，J1≤J，L_V＝D_V–W_V，L_U＝D_U–W_U，D_ii＝∑_jW_ij，

建立对应于数据全局结构保持的目标函数J_TGlobal(U,V)：

$J_{TGlobal}(U,V)=-\frac{1}{2}{\&Sigma;}_{ij}\left|\right|U^T{X}_{i}V-U^T{X}_{j}V|{|}^2{\stackrel{\&OverBar;}{W}}_{ij}=-tr\left(U^T{\stackrel{\&OverBar;}{L}}_{V}U\right)=-tr\left(V^T{\stackrel{\&OverBar;}{L}}_{U}V\right)---\left(4\right)$

式中 分别计算权系数η₁和η₂：

${\mathrm{\&eta;}}_1=\frac{\mathrm{\&rho;}\left({\stackrel{\&OverBar;}{L}}_V\right)}{\mathrm{\&rho;}\left(L_V\right)+\mathrm{\&rho;}\left({\stackrel{\&OverBar;}{L}}_V\right)}---\left(5\right)$

${\mathrm{\&eta;}}_2=\frac{\mathrm{\&rho;}\left({\stackrel{\&OverBar;}{L}}_U\right)}{\mathrm{\&rho;}\left(L_U\right)+\mathrm{\&rho;}\left({\stackrel{\&OverBar;}{L}}_U\right)}---\left(6\right)$

式中ρ(·)是矩阵的谱半径，分别构造如下两个优化问题：

$\begin{array}{c}\underset{U,V}{\min }tr\left(U^T{M}_{V}U\right)\\ s.t.U^T{N}_{V}U=I_{K1}\end{array}---\left(7\right)$

$\begin{array}{c}\underset{U,V}{\min }tr\left(V^T{M}_{U}V\right)\\ s.t.V^T{N}_{U}V=I_{J1}\end{array}---\left(8\right)$

式中 I_K、I_J、I_K1和I_J1分别是维数为K、J、K1和J1的单位矩阵；

6)将步骤5)中的两个优化问题转换为两个广义特征值问题：

M_Uv＝λN_Uv (9)

M_Vu＝λN_Vu (10)

迭代求解这两个问题分别得到一组特征向量v₁，v₂，…，v_J和u₁，u₂，…，u_K，然后分别构建投影矩阵U和V；

7)利用投影矩阵U和V对数据样本集X进行投影得到低维数据Y＝{Y₁,Y₂,…,Y_i,…,Y_n}，其中Y_i＝U^TX_iV∈R^K1×J1；

选取n幅人脸图像组成训练集X＝{X₁,X₂,…,X_i,…,X_n}，其中X_i∈R^K×J为第i幅图像，R表示实数域，K和J分别是图像的行像素和列像素，另外选取m幅新的人脸图像组成测试集T＝{T₁,T₂,…,T_j,…,T_m}，其中T_j∈R^K×J；

首先，采用上述数据降维方法将训练集X中的图像降至l×l维，l<K且l<J，得到投影矩阵U和V以及降维后的图像数据集Y＝{Y₁,Y₂,…,Y_i,…,Y_n}，其中Y_i＝U^TX_iV∈R^l×l；

然后，利用投影矩阵U和V将测试集T中的图像降至l×l维，得到降维后的图像数据Z＝{Z₁,Z₂,…,Z_j,…,Z_m}，其中Z_j＝U^TT_jV∈R^l×l；

最后，在降维空间进行人脸识别，分别判定测试集中各幅图像所对应的人。

2.如权利要求1所述的一种基于张量全局-局部保持投影的数据降维的人脸识别方法，其特征在于：所述步骤2)中，样本对(X_i,X_j)之间的距离d(X_i,X_j)定义为：d(X_i,X_j)＝||X_i-X_j||，式中||·||表示矩阵的Frobenius范数。

3.如权利要求1或2所述的一种基于张量全局-局部保持投影的数据降维的人脸识别方法，其特征在于：所述步骤3)中，样本点X_i的邻域Ω(X_i)用k近邻法定义，k近邻法定义的邻域为：Ω(X_i)＝{距离X_i最近的k个点}，参数k是正实数，根据样本点X_i的邻域Ω(X_i)确定其近邻点和非近邻点的具体方法为：如果样本点X_j在X_i的邻域内，即X_j∈Ω(X_i)，则X_j称为X_i的近邻点，否则X_j称为X_i的非近邻点。

4.如权利要求1或2所述的一种基于张量全局-局部保持投影的数据降维的人脸识别方法，其特征在于：所述步骤3)中，样本点X_i的邻域Ω(X_i)用ε近邻法定义，ε近邻法定义的邻域为：Ω(X_i)＝{X|||X-X_i||²＜ε}，参数ε是正实数，根据样本点X_i的邻域Ω(X_i)确定其近邻点和非近邻点的具体方法为：如果样本点X_j在X_i的邻域内，即X_j∈Ω(X_i)，则X_j称为X_i的近邻点，否则X_j称为X_i的非近邻点。

5.如权利要求1或2所述的一种基于张量全局-局部保持投影的数据降维的人脸识别方法，其特征在于：所述步骤6)中，迭代求解式(9)和式(10)的具体步骤为：①设定需迭代计算的次数m；②记m＝1，初定投影矩阵U为单位矩阵，计算得到M_U和N_U；③求取式(9)的特征向量v₁，v₂，…，v_J，并构成投影矩阵V＝[v₁,v₂,…,v_J]，计算得到M_V和N_V；④求取式(10)的特征向量u₁，u₂，…，u_K，并更新投影矩阵U＝[u₁,u₂,…,u_K]，计算得到M_U和N_U，返回步骤③，记m＝m+1，重复步骤③和④直到迭代次数m达到预设值，最后得到的特征向量v₁，v₂，…，v_J和u₁，u₂，…，u_K分别是式(9)和式(10)的解，最后，选取式(9)的前J1(J1≤J)个最小非零特征值所对应的特征向量v₁，v₂，…，v_J1构成投影矩阵V＝[v₁,v₂,…,v_J1]∈R^J×J1；选取式(10)的前K1(K1≤K)个最小非零特征值所对应的特征向量u₁，u₂，…，u_K1构成投影矩阵U＝[u₁,u₂,…,u_K1]∈R^K×K1。