CN106897669B - 一种基于一致迭代多视角迁移学习的行人再辨识方法 - Google Patents

Abstract

本发明涉及一种基于一致迭代多视角迁移学习的行人再辨识方法，所述的方法包括以下步骤：对行人图像进行特征提取，获得局部和全局多视角图像视觉词；采用迁移学习和鉴别分析方法构建一致迭代多视角迁移学习优化模型并对模型求解，获取中层次图像特征描述符；对得到的低层次特征描述符和中层次特征描述符进行计算，获得最终的多层次图像特征描述符；利用基于交叉视角二次鉴别分析方法来度量行人的相似性，进而获得行人图像相似度排序结果。与现有技术相比，本发明具有对于多视角下产生的光照、旋转等因素变化有着较好的鲁棒性和可靠性，能够提取图像底层次和中层次的特征描述符，具有良好的行人辨识能力等优点。

Description

一种基于一致迭代多视角迁移学习的行人再辨识方法

技术领域

本发明涉及智能监控视频分析领域，尤其是涉及一种基于一致迭代多视角迁移学习的行人再辨识方法。

背景技术

行人再辨识(Re-ID)的核心问题是研究在多摄像机无重叠系统中，如何精准匹配同一个行人。由于受到视角变化、光照条件和姿势变化等环境因素和人自身因素的影响，摄像机捕获到的同一行人的图像存在很大差异，这也使得行人再辨识问题具有一定的挑战性。目前，该问题的解决方案主要分为两种：基于行人外观特征的方法和基于度量学习的方法。其中，基于行人外观特征的方法主要是从行人的外观上提取鲁棒的特征描述符。然而，由于环境的复杂和不可控制或者小样本的限制，该方法难以提取到有效的特征。而基于度量学习的方法则试图学习一个相似性度量函数或者一个鲁棒距离来优化匹配结果。基于上述两种不同的方案，国内外学者已经提出了各种不同的算法和模型。

目前，大多数基于行人外观特征的方法主要关注低层视觉特征，例如颜色和纹理。此外，为了提高行人再辨识的识别效果，各种各样的融合性方法也被提了出来，例如：分层高斯特征描述符(GOG)、局部极大出现特征描述符(LOMO)、基于结构学习的特征描述符和基于显著性的特征描述符。除了这些方法，基于深度学习的特征提取方法也表现出优异的识别效果。另外，专利CN104992142A提出了一种基于深度学习和属性学习相结合的行人识别方法，能够从更高语义层描述行人特征，然而，训练模型过于复杂，并且受限于行人属性的选择。进一步，由于光照变化、姿态、视角、遮挡、图像分辨率等各方面因素的影响，这使得在监控视频智能分析中行人再辨识性能依然不佳。

基于度量学习的行人再辨识方法主要包括了基于相对距离比较的度量学习(RDC)、基于局部Fisher鉴别分析的方法(LFDA)、基于核的方法，基于交叉视角二次鉴别分析的方法(XQDA)，基于双规KISS的方法(DR-KISS)，基于鉴别零空间的方法，基于图模型的方法和基于深度度量学习的方法。还有许多其他种类的方法，例如：通过排序方法(RankSVM等)来试图解决行人再辨识问题。虽然这些基于度量的方法比现存的行人再辨识方法效果好，但是它们仍被一些经典问题所局限，例如：模型学习时，多个视角数据分布不一致分布和小样本等问题。

在传统机器学习模型中，往往存在一个重要的前提，即：假设训练集和测试集样本数据分布存在一致性，然而，在实际生活中采集到的数据，很难保证这一假设的成立。同样在，行人再辨识问题中，不同视角下采集到的行人图像也存在数据分布不一致这样的问题，而采用迁移学习的方法，找到一个具有一致分布的新空间，能够在数据分布一致前提下，进行后续的再辨识，能够为该问题的解决提供了新的思路。

发明内容

本发明的目的就是为了克服上述现有技术存在的缺陷而提供一种基于一致迭代多视角迁移学习的行人再辨识方法。涉及行人再辨识(person re-identification)中的多视角视觉词模型、多视角迁移学习和鉴别分析技术。

本发明的目的可以通过以下技术方案来实现：

一种基于一致迭代多视角迁移学习的行人再辨识方法，所述的方法包括以下步骤：

S1、对行人图像进行特征提取，获得局部和全局多视角图像视觉词，即低层次图像特征描述符的提取；

S2、根据S1得到的低层次图像特征描述符，采用迁移学习和鉴别分析方法构建一致迭代多视角迁移学习优化模型；

S3、利用扩展的增广拉格朗日乘子法求解S2中的一致迭代多视角迁移学习优化模型，并获取中层次图像特征描述符；

S4、对S1得到的低层次特征描述符和S3得到的中层次特征描述符进行计算，获得最终的多层次图像特征描述符；

S5、针对S4中的多层次图像特征描述符，利用基于交叉视角二次鉴别分析方法来度量行人的相似性，进而获得行人图像相似度排序结果，即行人再辨识结果。

步骤S1具体为：

S11、将行人图像在垂直方向上平均划分成n个水平条纹，并从不同条纹中分别提取n组局部图像视觉词，同时从整体的行人图像中提取1组全局图像视觉词；

S12、利用一种聚类方法K-means方法来融合多视角信息，获得n+1组多视角图像视觉词，定义为：MvVW＝{D_i}，i＝1，2，3，…n，n+l；其中，D表示不同行人图像结构区域下的多视角图像视觉词；

{D_i}，i＝1，2，3，…n表示局部多视角图像视觉词，{D_i}，i＝n+1表示全局多视角图像视觉词。

步骤S2具体为：

利用局部和全局多视角图像视觉词，对原始样本进行重构，对MvVW的每一组多视角图像视觉词，分别利用迁移学习找到一个使原始样本和多视角视觉词具有一致数据分布的投影子空间，原始样本在该投影子空间下利用MvVM来进行重构；引入鉴别分析，将鉴别优化问题同迁移优化问题相结合，定义为一致迭代多视角迁移学习优化模型：

约束条件为：s.t.P^TX＝P^TDZ+E，P^TP＝I_P，Z_h∈Z

其中，α，β为惩罚因子，||*||₁为1范数约束，P为迁移矩阵，E为噪声矩阵，Z为重构系数矩阵，φ(Z_h)为基于Fisher准则的鉴别度量学习函数，||Z‖_*矩阵的核范数，Z_h∈Z是有标签样本的重构系数矩阵，D表示不同行人图像结构区域下的多视角图像视觉词。

步骤S3具体为：

采用扩展的增广拉格朗日乘子法方法求解一致迭代的多视角迁移学习模型中的参数的闭形式解，得到中层次图像特征描述符。

步骤S3具体为：

引进变量Z₁和新约束Z＝Z₁，并引进拉格朗日乘子L₁∈R^m×n、L₂∈R^m×P和L₃∈R^m×n，将S1中得到的优化模型转换为：

其中，α，β，γ，μ表示惩罚因子，P表示迁移矩阵，P^T表示矩阵P的转置，φ(Z_h)为基于Fisher准则的鉴别度量学习函数，||||_*为矩阵的核范数，||*||₁为1范数约束，D表示不同行人图像结构区域下的多视角图像视觉词，表示矩阵的2范式，E为噪声矩阵，Z为重构系数矩阵，Z_h为有标签样本的重构系数矩阵，Z₁为Z的近似解；

S32，分步求解迁移矩阵P，并计算其闭形式解；

S33，分步求解重构系数矩阵Z，并计算其闭形式解；

S34，分步求解对于有标签样本的重构系数矩阵Z_h，并计算其闭形式解；

S35，分步求解Z₁，并计算其闭形式解；

S36，分步求解噪声矩阵E，并计算其闭形式解；

S37，对于拉格朗日乘子和和迭代步长μ，进行更新；

所述的中层次图像特征描述符即为重构系数矩阵Z，Z_*、Z_h和Z₁均为Z的近似解。

与现有技术相比，本发明具有以下优点：

(1)结合行人图像在垂直方向分布的特点，将行人图像平均分为6块(分别为头部、躯干和腿，并结合身体的对称性，划分为6个局部块)，并分别从6个局部块区域内提取局部视觉词，同时从整体行人图像中提取全局视觉词(1个全局)，获得初始的7组(6个局部+1个全局)不同结构下的单视角下的视觉词组。

(2)利用非监督聚类方法(k-means)对7组单视角下的视觉词组进行聚类操作，一方面融合多视角信息，另一方面去掉视觉词中的冗余信息，获得多视角视觉词。

(3)提出一致迭代的多视角迁移学习(CIMvTL)模型，来求解基于多视角视觉词的原始样本重构问题。其中该模型重点在于寻找一个迁移子空间，能够确保多视角视觉词同原始样本空间的数据分布的一致性，同时，在低秩和稀疏的约束下，确保在利用多视角视觉词对原始样本进行重构表示时，能够具有保持一定的结构信息和尽可能少的视觉词来重构原始样本。另外，在鉴别分析约束的前提下，本发明提取重构系数矩阵，并将其定义为中层特征描述符，用来后续的识别问题。

(4)采用不精确的增广拉格朗日乘子法(IALM)方法求解一致迭代的多视角迁移学习(CIMvTL)模型中的参数的闭形式解，来提升算法迭代速率，确保模型的复杂度降低。

(5)融合底层次图像特征描述符和中层次图像特征描述符，并利用交叉视角二次鉴别分析的度量方法来提升行人再辨识的问题的准确率。

附图说明

图1为本发明一种基于一致迭代多视角迁移学习的行人再辨识方法的流程图；

图2为本发明算法(CIMvTL+MvVW)同其他方法在VIPeR行人再辨识公开数据集上性能比较图；

图3为本发明算法基于不同聚类数目下在VIPeR行人再辨识公开数据集上性能比较图。

具体实施方式

下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本发明的一部分实施例，而不是全部实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动的前提下所获得的所有其他实施例，都应属于本发明保护的范围。

实施例

如图1所示为本发明的流程图，本发明中方法包括以下步骤：

步骤S1，基于局部和全局的多视角图像视觉词特征提取，具体描述如下：将行人图像在垂直方向上平均划分成6个水平条纹，并从中不同条纹中分别提取6组局部视觉词，同时从整体的行人图像中提取1组全局视觉字词；利用一种非监督的聚类方法(K-means)来融合多视角信息，获得7组多视角视觉词，定义为：MvVW＝{D_i}，i＝1，2，3，4，5，6，7。其中，D表示不同行人结构区域下的多视角视觉词(其中，{D_i}，i＝1，2，3，4，5，6表示局部多视角视觉词，{D_i}，i＝7表示全局多视角视觉词)。

步骤S2，基于迁移学习和鉴别分析来对原始样本空间进行迁移鉴别分析，找到分布一致的公共子空间，并在该鉴别迁移空间下对原始样本进行重构，该问题被描述为一致迭代多视角迁移学习(CIMvTL)的优化模型，具体描述如下：

S21，利用多视角视觉词，对原始样本进行重构。对MvVm的每一个组多视角视觉词，分别利用迁移学习找到一个确保原始样本和多视角视觉词具有一致数据分布的投影子空间，在该空间下，原始的样本可以在低秩和稀疏约束下利用MvVM来进行重构。其中低秩和稀疏的约束是为了增强结构的鲁棒性和抗干扰性，该模型定义为：

约束条件为：s.t.P^TX＝P^TDZ+E，P^TP＝I_P

其中，α，β为惩罚参数。||*||₁为1范数约束，P为迁移矩阵，E为噪声矩阵，Z为重构系数矩阵，即从低层次视觉词特征中获得中层次特征，D表示视觉词矩阵rank(Z)是低秩函数、X表示原始样本特征空间。

S22，引入鉴别分析，确保迁移后的子空间不仅在数据分布上保证了一致性，且具有鉴别性，即：能够最大化类间差异和最小化类内差异。为了确保同S21求解的一致性，将鉴别优化问题同迁移优化问题相结合，并定义为一致迭代多视角迁移学习的优化模型：

s.t.P^TX＝P^TDZ+E，P^TP＝I_P，Z_h∈Z

其中，α为惩罚参数，φ(Z_h)为基于Fisher准则的鉴别度量学习函数，||Z||_*矩阵的核范数(即对低秩问题的求解)，Z_h∈Z是有标签样本的重构系数矩阵，从上述模型可以看出，该模型属于半监督模型的一种。本发明定义基于Fisher准则的鉴别度量学习函数为φ(Z_h)，φ(Z_h)＝Tr(S_B(Z_h))-Tr(S_w(Z_h))，其中Z_h∈Z是有标签样本的重构系数矩阵，Tr(Z_h)是矩阵的迹，S_B(Z_h)和S_w(Z_h)是标记样本X_h的类间和类内散射矩阵，它们定义为：

其中m_i代表Z_h中的第i个人的平均样本，m是Z_h的总体样本的平均值，是Z_h中的第i个样本中的第j个行人图像特征对应的重构系数，n_i表示第i个人的图片(样本)个数。

步骤S3，通过扩展的的增广拉格朗日乘子法(IALM)求解一致迭代多视图迁移学习(CIMvTL)的优化模型，并获取图像的中层次特征，具体描述如下：

S31，引进变量Z₁和新约束Z＝Z₁，放宽原来的问题，并引进拉格朗日乘子和将步骤1中得到的优化问题转换为：

其中，其中，α，β，γ，μ表示惩罚因子，P表示迁移矩阵，P^T表示矩阵P的转置，φ(Z_h)为基于Fisher准则的鉴别度量学习函数，||||_*为矩阵的核范数，||*||₁为1范数约束，D表示视觉词矩阵，表示矩阵的2范式，E为噪声矩阵，Z为重构系数矩阵，Z_h为有标签样本的重构系数矩阵，Z₁和Z_*均为Z的近似解；

S32，对于迁移矩阵P，通过如下优化问题求解：

得到其闭形式解为：其中，G₁＝X-DZ且用于简化上述形式。

S33，对于重构系数矩阵Z，通过如下优化问题求解：

其中，Z，Z_*，Z₂均表示重构矩阵，得到其闭形式解为：Z_*＝(μD^TPP^TD+2μI)^-1(G₄+G₅-D^TPG₃)，其中，为了简化解的形式，定义 并且ψ代表转换函数，即由Z_h替换Z中有标签样本中对应的重构系数矩阵；

S34，对于有标签样本的重构系数矩阵Z_h，通过如下优化问题求解：

其中η表示惩罚因子，H_b和H_t表示两个常系数矩阵，如果两个样本x_i和x_j属于同一类则Ht(i，j)＝0，否则H_b(i，j)＝0，n_c表示第c类样本数，p表示有标签数据总数。

得到其闭形式解为：其中，为了简化解的形式，定义G₆＝I-H_b，G₇＝H_b-H_t且

S35，对于Z₁，通过如下优化问题求解：

得到其闭形式解为：

S36，对于噪声矩阵E，通过如下优化问题求解：

根据shrink算子，得到其闭形式解：

S37，对于拉格朗日乘子和和迭代步长μ(ρ＞1)，利用如下等式进行更新：

其中ρ表示步长变化率，μ_max表示最大步长。

步骤S4，结合提取出的低层与中层特征描述符，获取最终的多层次行人图像特征描述符，具体描述如下：

S41，分别利用局部最大出现的低层次特征描述符(F_LOMO)和分层高斯低层次特征描述符(F_GOG)，获得了中层特征描述符，分别定义为和都包括7个重构系数矩阵(6组局部特征和1组全局特征)。更进一步，本发明将低层次特征和中层次特征进行融合，即：对特征进行归一化后的直方图采用简单加权组合到一起，具体权重均为1，获得最终的多层次描述符，其中d_LOMO表示F_LOMO的维数，d_GOG表示F_GOG的维数，n表示样本数，R^m×n表示m*n维的实数空间。此外，为了减少本发明描述符的维度，本发明定义了新的低层次特征和

步骤S5，针对上述提出的多层次图像特征描述符，利用基于交叉视角二次鉴别分析(XQDQ)的方法来度量行人的相似性，进而获得最终的行人再辨识结果。

图2为本发明算法(CIMvTL+MvVW)同其他方法在VIPeR行人再辨识公开数据集上性能比较图。训练集共632个行人，每个行人两个视角各包括一张图，实验随机采用316个行人用于训练，余下316个行人用于测试，图中比较了提出算法CIMvTL和行人再识别最新方法LSSL，LOMO，GOG，KISSME，kLFDA算法的累积识别率，从图中可以看出，提出的算法CIMvTL(LOMO)对原始LOMO算法进行中层次特征抽取后能够实现更好的识别效果，同样CIMvTL(GoG)对原始GoG算法进行中层次特征抽取后，同样能够实现更好的识别效果；而结合两种低层次特征LOMO和GoG的CIMvTL(Fusion)方法能够实现图中最好的再辨识效果。

图3为本发明算法基于不同聚类数目下在VIPeR行人再辨识公开数据集上性能比较图。实验随机采用316个行人用于训练，余下316个行人用于测试，从图中可以看出M＝150，即视觉词聚类结果为150个视觉词时，包含必要的信息且存在较少冗余，因此相比于其他聚类数目下的CIMvTL算法能够实现效果最优。

表1为本发明算法(CIMvTL+MvVW)同其它算法在VIPeR行人再辨识公开数据集上性能比较。

实验随机采用316个行人用于训练，余下316个行人用于测试，表中比较了提出算法CIMvTL和行人再识别最新方法LSSL，LOMO，GOG，KISSME，kLFDA算法在Rank＝1,5,10时的累积识别率，同样从表中可以看出，提出的方法在CIMvTL(LOMO)实现了比LOMO+XQDA更好的效果，CIMvTL(GoG)实现了比GoG更好的效果，CIMvTL(Fusion)结合LOMO+GoG两种特征，故而实现了最优的实验效果。

表1

表2为本发明算法(CIMvTL+MvVW)同其它度量方法在VIPeR行人再辨识公开数据集上性能比较。其中第一排为比较算法，后续为别为Rank＝1,10,15,20时的累积识别率。

表2

算法	Rank＝1	Rank＝10	Rank＝15	Rank＝20
					CIMvTL+XQDA	56.0	91.0	94.2	95.8
CIMvTL+kLFDA	22.5	49.6	54.1	60.8
					CIMvTL+L1-Norm	9.2	24.7	29.1	34.5

表3为本发明算法利用K-means聚类算法获取不同视觉词个数(MvVM)在VIPeR行人再辨识公开数据集上性能比较。实验随机采用316个行人用于训练，余下316个行人用于测试，表中比较了提出算法CIMvTL在不同视觉词个数(M＝50,100,150,200和全部)等不同参数设定下，在Rank＝1,5,10,20时的累积识别率，同样从表中可以看出，提出的方法在CIMvTL在M＝200时，在Rank＝1时实现了最优的效果，然而从整体上来看，算法在M＝150时识别效果整体上相对最优。

表3

算法	Rank＝1	Rank＝5	Rank＝10	Rank＝20
					CIMvTL(50-MvVW)	47.6	78.8	90.0	96.0
CIMvTL(100-MvVW)	56.0	83.0	91.0	95.8
					CIMvTL(150-MvVW)	57.7	81.2	88.8	95
CIMvTL(200-MvVW)	57.7	80.6	87.9	93.2
					CIMvTL(ALL-MvVW)	49.8	70.1	78.5	86.5

表4为本发明算法(CIMvTL+MvVW)同其它算法在CUHK01行人再辨识公开数据集上性能比较。训练集共971个行人，每个行人两个视角各包括两张图，实验随机采用386个行人用于训练，余下385个行人用于测试，图中比较了提出算法CIMvTL和行人再识别最新方法GoG+XQDA、LOMO+XQDA、Semantic和SalMatch算法在rank＝1,5,10时的累积识别率，从表中可以看出，提出的算法相比于最优算法GoG+XQDA的方法在rank＝1(识别率)能够实现7.7％的效果提升。

表4

算法	Rank＝1	Rank＝5	Rank＝10
				MvVW+CIMvTL	65.5	90.7	91.6
GoG+XQDA	57.8	88.6	86.2
				LOMO+XQDA	49.2	76.2	84.2
Semantic	32.7	51.2	64.4
				SalMatch	28.5	45	55

表5为本发明算法(CIMvTL+MvVW)同其它算法在PRID450S行人再辨识公开数据集上性能比较。训练集共450个行人，每个行人两个视角各包括一张图，实验随机采用225个行人用于训练，余下225个行人用于测试，图中比较了提出算法CIMvTL和行人再识别最新方法GoG+XQDA、LOMO+XQDA、SCNCD和Semantic算法在rank＝1,5,10时的累积识别率，从表中可以看出，提出的算法相比于最优算法GoG+XQDA的方法在rank＝1(识别率)能够实现3.7％的效果提升。

表5

算法	Rank＝1	Rank＝5	Rank＝10
				MvVW+CIMvTL	71.6	90.7	94.9
GoG+XQDA	67.9	88.6	94.4
				LOMO+XQDA	52.3	76.2	84.6
SCNCD	41.6	68.9	79.4
				Semantic	43.1	70.5	78.2

以上所述，仅为本发明的具体实施方式，但本发明的保护范围并不局限于此，任何熟悉本技术领域的技术人员在本发明揭露的技术范围内，可轻易想到各种等效的修改或替换，这些修改或替换都应涵盖在本发明的保护范围之内。因此，本发明的保护范围应以权利要求的保护范围为准。

Claims (3)

1.一种基于一致迭代多视角迁移学习的行人再辨识方法，其特征在于，所述的方法包括以下步骤：

S1、对行人图像进行特征提取，获得局部和全局多视角图像视觉词，即低层次图像特征描述符的提取，步骤S1具体为：

S11、将行人图像在垂直方向上平均划分成n个水平条纹，并从不同条纹中分别提取n组局部图像视觉词，同时从整体的行人图像中提取1组全局图像视觉词；

S12、利用一种聚类方法K-means方法来融合多视角信息，获得n+1组多视角图像视觉词，定义为：MvVW＝{D_i}，i＝1，2，3，…n，n+1；其中，D表示不同行人图像结构区域下的多视角图像视觉词；

{D_i}，i＝1，2，3，…n表示局部多视角图像视觉词，{D_i}，i＝n+1表示全局多视角图像视觉词；

S2、根据S1得到的低层次图像特征描述符，采用迁移学习和鉴别分析方法构建一致迭代多视角迁移学习优化模型，步骤S2具体为：

利用局部和全局多视角图像视觉词，对原始样本进行重构，对MvVW的每一组多视角图像视觉词，分别利用迁移学习找到一个使原始样本和多视角视觉词具有一致数据分布的投影子空间，原始样本在该投影子空间下利用MvVM来进行重构；引入鉴别分析，将鉴别优化问题同迁移优化问题相结合，定义为一致迭代多视角迁移学习优化模型：

约束条件为：s.t.P^TX＝P^TDZ+E，P^TP＝I_P，Z_h∈Z

其中，α，β为惩罚因子，||*||₁为1范数约束，P为迁移矩阵，E为噪声矩阵，Z为重构系数矩阵，φ(Z_h)为基于Fisher准则的鉴别度量学习函数，||Z||_*矩阵的核范数，Z_h∈Z是有标签样本的重构系数矩阵，D表示不同行人图像结构区域下的多视角图像视觉词；

S3、利用扩展的增广拉格朗日乘子法求解S2中的一致迭代多视角迁移学习优化模型，并获取中层次图像特征描述符；

S4、对S1得到的低层次特征描述符和S3得到的中层次特征描述符进行计算，获得最终的多层次图像特征描述符；

S5、针对S4中的多层次图像特征描述符，利用基于交叉视角二次鉴别分析方法来度量行人的相似性，进而获得行人图像相似度排序结果，即行人再辨识结果。

2.根据权利要求1所述的一种基于一致迭代多视角迁移学习的行人再辨识方法，其特征在于，步骤S3具体为：

采用扩展的增广拉格朗日乘子法方法求解一致迭代的多视角迁移学习模型中的参数的闭形式解，得到中层次图像特征描述符。

3.根据权利要求1或2所述的一种基于一致迭代多视角迁移学习的行人再辨识方法，其特征在于，步骤S3具体为：

引进变量Z₁和新约束Z＝Z₁，并引进拉格朗日乘子L₁∈R^m×n、L₂∈R^m×p和L₃∈R^m×n，将S1中得到的优化模型转换为：

其中，α，β，γ，μ表示惩罚因子，P表示迁移矩阵，P^T表示矩阵P的转置，φ(Z_h)为基于Fisher准则的鉴别度量学习函数，|| ||_*为矩阵的核范数，||*||₁为1范数约束，D表示不同行人图像结构区域下的多视角图像视觉词，表示矩阵的2范式，E为噪声矩阵，Z为重构系数矩阵，Z_h为有标签样本的重构系数矩阵，Z₁为Z的近似解；

S32，分步求解迁移矩阵P，并计算其闭形式解；

S33，分步求解重构系数矩阵Z，并计算其闭形式解；

S34，分步求解对于有标签样本的重构系数矩阵Z_h，并计算其闭形式解；

S35，分步求解Z₁，并计算其闭形式解；

S36，分步求解噪声矩阵E，并计算其闭形式解；

S37，对于拉格朗日乘子和和迭代步长μ，进行更新；

所述的中层次图像特征描述符即为重构系数矩阵Z，Z_*、Z_h和Z₁均为Z的近似解。