CN106446924A - 一种基于l3crsc对谱聚类邻接矩阵的构造及其应用 - Google Patents

Abstract

本发明公开一种基于L3CRSC对谱聚类邻接矩阵的构造方法及其应用，利用隐空间低秩表示系数构建邻接矩阵，并将其输入到谱聚类当中实现不同类数据特征的分离与识别。不同于传统的LRR算法，本发明是通过分离原始数据获得干净的字典矩阵，并利用该字典进行低秩系数的学习。并用隐空间低秩表示算法，更新得到隐空间下的有效字典与矩阵。同时提出一种新的构建隐空间映射矩阵的方法，即映射前后保留数据的局部几何结构一致。在真实轴承故障数据的识别中，本发明可以有效的分离不同类型的故障特征，提高了识别准确性，为后期的故障诊断提供了保障。

Description

一种基于L3CRSC对谱聚类邻接矩阵的构造及其应用

技术领域

本发明涉及一种基于L3CRSC对谱聚类邻接矩阵的构造及其应用。

背景技术

1、基于谱聚类的非监督的数据辨识是近年来研究热点，其关键任务是构建邻接矩阵。本文提出一个新的基于谱聚类无监督辨识算法，叫做局部约束的隐空间低秩子空间聚类(L3CRSC)。利用隐空间低秩表示系数构建邻接矩阵，并将其输入到谱聚类当中实现不同类数据特征的分离与识别。不同于传统的LRR算法，我们是通过分离原始数据获得干净的字典矩阵，并利用该字典进行低秩系数的学习。为了更好的处理高维特征，我们用隐空间低秩表示算法，更新得到隐空间下的有效字典与矩阵。同时，本文提出一种新的构建隐空间映射矩阵的方法，即映射前后保留数据的局部几何结构一致。在人工数据集的仿真实验中得到L3CRSC可以有效的揭示原始非线性数据的本质结构，在真实轴承故障数据的识别中，本文方法可以有效的分离不同类型的故障特征，提高了识别准确性，为后期的故障诊断提供了保障。

2、故障数据的辨识是轴承故障诊断的重要工作，当在轴承的运行中同时发生两种以上的故障，这些故障往往相互耦合，从而增加了故障辨识的难度。并且这些故障往往具有非线性与非平稳的特性。通常情况下，我们从时域、频域和时频域中提取故障特性并进行辨识。

3、传统的故障辨识过程通常是将穿过低维子空间的故障样本点根据已有的样本标签，将其划分在对应的组内。然而我们现在面临的一个情况：这些观测到的样本点并不带标签，例如，未知的轴承故障。近几年，子空间分割是一个比较流行的无监督识别方法，它对每一个样本点根据它与其它样本点的几何位置关系，将其分配在对应的组内。子空间分割的常用方法分为：线性代数法，迭代法，统计法，谱聚类法。其中，谱聚类法在模式识别和运动分割中有较广泛的应用。这种方法首先建立邻接度矩阵A并将其转化为Laplace矩阵，其矩阵内的元素衡量了两个样本点之间的相似性(尤其当矩阵元素为1时则认为样本点i和j在同一个子空间内)然后我们对该Laplace子空间进行特征分解。最后运用k-means算法对特征向量进行聚类。因此，构建邻接度矩阵是整个谱聚类的核心工作。

4、理想的邻接度矩阵具有对角块结构，这意味着属于同一类的样本点聚集在同一子空间内。利用混合相似度准则构建邻近度矩阵，该准则是将不同类型的信息融合在一起来评定两个样本点之间的相似性。MarioBeauchemin从样本分布密度的角度衡量了非均匀分布样本点之间的相似性。但是该方法在处理螺旋形分布数据时依然存在较多的问题。AmirBabaeian用曲率约束的距离代替传统欧式距离来选择每一个样本点的近邻点，该方法有效的揭示了分布在多个流形上的样本点的本质几何结构。然而，上述方法都需要设置一个关于距离或者密度的函数，因此邻接度矩阵的好坏受函数 形式的影响，从而进一步决定了聚类性能的高低。

5、基于稀疏和低秩表示系数构建邻接度矩阵在近些年来得到了重点的关注。基于稀疏表示的谱聚类算法首先由Elhamifar提出，与此同时，给出了求解稀疏表示系数的优化过程。他们指出，一个样本点可以由和它同一子空间上的点进行线性和妨射变换来表示。而处于不同子空间的点可通过稀疏优化的方式相互分离。然而该方法存在一个问题，即邻接度矩阵过于稀疏时，会造成子空间的过分割现象。这是因为它仅仅强调了样本空间的局部稀疏。低秩表示这一概念是由G.liu第一次提出的，这种方法强调了样本点的聚集特性。他们指出原始的数据可以由低秩表示系数线性重构，并且由这些低秩表示系数组成的邻接度矩阵具有较好的分块结构，这使得该矩阵更加适合用于聚类。然而LRR需要满足一定的条件才可以获得较好的效果：例如，它需要子空间之间相互独立，样本点需要充分采样。另外，LRR由于用原始数据作字典，使它对噪声点也较为敏感。

6、针对上述问题，一些学者做出相应改进研究。MahdiSoltanolkotabi等人提出了稀疏性回归策略，在噪声和离群点中最优化稀疏系数，并在该策略下将子空间有效的恢复了出来。其它研究者提出利用原始字典增强LRR或者SSC的对角块特性。例如，Chong You提出利用正交匹配原则获得稀疏表示的最优正则项；Kewe Tang等人重点对独立子空间的分割做了相应的研究，并提出结构约束性的LRR算法。这种方法降低了噪声和离群点对优化低秩表示系数的影响。除了优化正则化项之外，另一些研究者关注如何 从噪声与离群点中得到有效字典。Ehsan Elhamifar等人提出字典矩阵也应该保持稀疏性结构，通过这种约束，使得噪声和离群点有效的抑制。但当噪声过大时，其字典表现的过于稀疏，降低空间分割的可靠性。考虑到此问题，Ren′e Vidal等人提出用分解的方法构建字典矩阵，其思想是：一个干净的，自表达的字典矩阵可以从原始矩阵中分离出。同时，他们提供了一种聚类算法，用于对分布在多个子空间的受污染的数据进行聚类。在人脸识别的实验中，该方法获得了最高的识别率。

7、故障数据往往分布在一系列的互不关联或者相互重叠的高维子空间内，直接利用该特征值计算相应表示系数并构造邻接矩阵，会造成对角块结构的退化。另外，寻找到一种架构同时对特征进行分离与降维是提高空间分割可靠性的必要措施。针对这一问题，G.liu等人提出了隐空间低秩表示的概念，他们强调分布在隐空间的样本点与观测样本点对于恢复低秩系数同样重要，用来解决LRR中的非充分采样问题。Bin Gan等人用隐空间的低秩表示模型来获取特征并建立了基于稀疏表示的肿瘤分类器。MingYin等人引入了双图正则化隐空间LRR算法，强调恢复低秩表示系数的同时保留隐空间与特征空间的几何结构。Vishal M.Patel等人对原有的SSC算法进行了拓展，提出新的非线性隐空间SSC算法。该算法通过核变换的方式优化得到映射矩阵P，并将非线性数据投影到低维隐空间，并恢复出该低维隐空间下的稀疏表示系数，但是其分割效果受核函数的影响较大，且计算复杂度高。Lai Wei等人利用局部约束化的LRR获得隐空 间下的最优低秩表示系数，有效的保留了数据的全局和局部结构，同时他们对提出算法与鲁棒性稀疏编码方法之间的关系做了阐述。然而该算法用PCA方法将原始数据直接投影到隐空间，这对于某些非线性数据效果较差。

发明内容

本发明要解决的技术问题是提供一种有效的分离不同类型的故障特征，提高了识别准确性，为后期的故障诊断提供了保障的基于L3CRSC对谱聚类邻接矩阵的构造方法。

为解决上述问题，本发明采用如下技术方案：

一种基于L3CRSC对谱聚类邻接矩阵的构造方法，其特征在于：包括鲁棒性低秩表达模型：

s.t.Z＝Z^T

传统的低秩表达模型利用原始数据作字典，使得其算法对噪声和离群点较为敏感。因此研究者们构建出一种新的模型来获得最优的低秩表示系数，原始的数据矩阵D可以分解为干净的字典矩阵A，噪声G和离群点E的叠加，其中干净的字典矩阵A用来恢复低秩系数Z。式中第二项和第三项是用来降低离群点和噪声对算法的影响。同时对Z进行对称的约束，保证其具有完整的对角块结构。对该模型的优化算法如下：

D‐E＝UΣV^T

其中Λ＝diag(λ₁，λ₂，λ₃……λn)可以由∑＝diag(σ₁，σ₂……σ_n)得到：

这是一个分段多项式，为了保证结果的连续性与平滑性，我们对上式做逆变换。

是多项阈值操作，σ_*是相关阈值。由上述表达式可以看出字典矩阵A和低秩矩阵Z都可以由新的奇异值λ进行重构。而离群点E可以通过A和D求解，其关系满足下式：

-γ(D-A-E)+λ₁sign(E)＝0

因此我们对该模型进行求解：

(U，∑，V)＝SVD(D-E)

A＝UP_γ，v(∑)V^T

基于隐空间的低秩表示模型

LRR算法要求样本均匀分布在多个子空间上，同时所有的子空间相互独立。真实的数据往往难以满足。因此直接在高维原始空间求取低秩表示系数会造成误差，同时增加计算的复杂度。受到稀疏性降维算法的启发，构造一个合适的低维子空间，并在该子空间内更新字典和系数矩阵，为实现同时进行聚类与降维提供了可能。

隐空间的低秩表达模型

以上表达式是隐空间低秩表示模型，P是隐空间的映射矩阵，通过线性映射的方法，将原始数据投影到低维的隐空间中去。上述模型由三部分构成，前两项用于隐空间构建低秩表达系数，采用的是PCA的形式。第三项是保证映射前后数据信息不丢失，λa是调整因子(取值范围：0-1)。对于非线性数据而言，直接采用PCA的形式会造成较大的误差，因此本文提出局部约束的隐空间低秩表达模型，理论上证明，非线性数据的局部结构近似为线性，通过保留局部结构的几何特性，(如相邻两个样本点的欧式距离在线性映射前后不变)，来对数据进行低维隐空间的投影。

局部约束的鲁棒性隐空间LRR算法

s.t P^TADA^TP＝I

模型中的前三项用于在原始数据中抽取干净的数据作为字典矩阵，这相当于去噪的过程，同时减小对原有数据结构的破坏，然后 优化得到在该字典下的低秩表达系数。最后三项是本文提出的基于隐空间的最优低秩表示约束式。由之前得到的初始字典矩阵和低秩表达系数输入到约束式中，对其进行更新。L是Laplace矩阵，其求取过程如下：

L＝D-W

基于局部结构保持构建隐空间的方法是一种有效处理非线性数据的方法，假设W_ij是衡量两个数据相似程度的因子，为关于两个样本点欧式距离的指数函数。由于局部邻域为近似线性，在该邻域内，原始高维空间中相距较近的样本点在低维隐空间中依然相邻的结构，即局部邻域内的相似样本点间的距离在隐空间中依然保持最小。模型的约束条件保证位于同一子空间上的样本点的相似性最大(对角线元素和为1)。首先我们利用KNN筛选出每个样本点的k个邻域点，并计算样本点到邻域点的欧式距离；然后我们利用上式构建Laplace矩阵，并保持低维投影后相邻样本点间的相似性最大。

本发明的有益效果为：新的鲁棒性方法去学习低秩表示系数，不同于传统的LRR算法，我们利用分解的思想从原始信号出提取出干净的数据作为字典，得到最优的低秩表示系数。然后我们提出了局部约束的隐空间LRR算法，通过保持原始高维数据的局部几何特性，将原始数据投影到低维隐空间中，并在该隐空间中更新字典和低秩系数。通过对人工数据集和真实轴承故障数据的辨识实验，本 文的算法取得了最优的辨识效果，为进一步的故障诊断提供了保障。

附图说明

图1为本发明一种基于L3CRSC对谱聚类邻接矩阵的构造方法的鲁棒性低秩表达模型的求解流程算法流程图；

图2为本发明一种基于L3CRSC对谱聚类邻接矩阵的构造方法的基于不同子空间分割法构建邻接矩阵的效果图对比图；

图3为本发明一种基于L3CRSC对谱聚类邻接矩阵的构造方法的轴承不同状态的时域振动图；

图4为本发明一种基于L3CRSC对谱聚类邻接矩阵的构造方法的不同子空间分割法对故障信号在三维空间的聚类效果。

具体实施方式

如图1所示，一种基于L3CRSC对谱聚类邻接矩阵的构造方法，其特征在于：包括鲁棒性低秩表达模型：

s.t.Z＝Z^T

传统的低秩表达模型利用原始数据作字典，使得其算法对噪声和离群点较为敏感。因此研究者们构建出一种新的模型来获得最优的低秩表示系数，原始的数据矩阵D可以分解为干净的字典矩阵A，噪声G和离群点E的叠加，其中干净的字典矩阵A用来恢复低秩系数Z。式中第二项和第三项是用来降低离群点和噪声对算法的影响。同时对Z进行对称的约束，保证其具有完整的对角块结构。对该模型的优化算法如下：

D-E＝U∑V^T

其中Λ＝diag(λ₁，λ₂，λ₃……λn)可以由∑＝diag(σ₁，σ₂……σ_n)得到：

这是一个分段多项式，为了保证结果的连续性与平滑性，我们对上式做逆变换。

是多项阈值操作，σ_*是相关阈值。由上述表达式可以看出字典矩阵A和低秩矩阵Z都可以由新的奇异值λ进行重构。而离群点E可以通过A和D求解，其关系满足下式：

-γ(D-A-E)+λ₁sign(E)＝0

因此我们对该模型进行求解：

(U，∑，V)＝SVD(D-E)

A＝UP_γ，v(∑)V^T

基于隐空间的低秩表示模型

LRR算法要求样本均匀分布在多个子空间上，同时所有的子空间相互独立。真实的数据往往难以满足。因此直接在高维原始空间求取低秩表示系数会造成误差，同时增加计算的复杂度。受到稀疏性降维算法的启发，构造一个合适的低维子空间，并在该子空间内更新字典和系数矩阵，为实现同时进行聚类与降维提供了可能。

隐空间的低秩表达模型

以上表达式是隐空间低秩表示模型，P是隐空间的映射矩阵，通过线性映射的方法，将原始数据投影到低维的隐空间中去。上述模型由三部分构成，前两项用于隐空间构建低秩表达系数，采用的是PCA的形式。第三项是保证映射前后数据信息不丢失，λa是调整因子(取值范围：0-1)。对于非线性数据而言，直接采用PCA的形式会造成较大的误差，因此本文提出局部约束的隐空间低秩表达模型，理论上证明，非线性数据的局部结构近似为线性，通过保留局部结构的几何特性，(如相邻两个样本点的欧式距离在线性映射前后不变)，来对数据进行低维隐空间的投影。

局部约束的鲁棒性隐空间LRR算法

s.t P^TADA^TP＝I

模型中的前三项用于在原始数据中抽取干净的数据作为字典矩阵，这相当于去噪的过程，同时减小对原有数据结构的破坏，然后优化得到在该字典下的低秩表达系数。最后三项是本文提出的基于隐空间的最优低秩表示约束式。由之前得到的初始字典矩阵和低秩表达系数输入到约束式中，对其进行更新。L是Laplace矩阵，其求取过程如下：

L＝D-W

基于局部结构保持构建隐空间的方法是一种有效处理非线性数据的方法，假设W_ij是衡量两个数据相似程度的因子，为关于两个样本点欧式距离的指数函数。由于局部邻域为近似线性，在该邻域内，原始高维空间中相距较近的样本点在低维隐空间中依然相邻的结构，即局部邻域内的相似样本点间的距离在隐空间中依然保持最小。模型的约束条件保证位于同一子空间上的样本点的相似性最大(对角线元素和为1)。首先我们利用KNN筛选出每个样本点的k个邻域点，并计算样本点到邻域点的欧式距离；然后我们利用上式构建Laplace矩阵，并保持低维投影后相邻样本点间的相似性最大。

实验例：

人工数据集的数据识别效果

首先我们构建四个人造数据集，其中数据点分布在四个独立的子空间上{Si,i＝1:4}，{Ci,i＝1:4}是四个这些空间的基向量，其中Ci+1＝RCi,1<i<4.其中Ci为100*4的矩阵，确保每个子空间的本征维度为4。然后我们用Xi＝CiWi从每个子空间上采样30个点，然后构建一个数据矩阵100*120的数据矩阵[X1；X2；X3；X4]，其本征维度为16。

LRR和SSC分别是经典的子空间分割算法；LS3C是PCA正则化构造隐空间的SSC算法；

NLS3C利用核PCA正则化构造隐空间的SSC；LSRC是鲁棒性LRR算法；latLRR是核PCA正则化构造隐空间的LRR；LSRSC是PCA正则化构建隐空间的局部约束的LRR算法；L3CRSC是本文提出的算法。

由图2中可以看出基于本文方法构建的邻接矩阵的对角块结构非常清晰，下面列出基于各自邻接矩阵进行谱聚类的识别率。

真实的故障轴承数据识别效果

在本次实验中，我们安装四个Rexnord ZA-2115双列轴承，其转速固定在2000rpm。轴承的径向载荷为6000lbs，所有的轴承经过润滑，其流量和温度受油循环系统的调控。从装在油循环系统的反馈管的磁性螺栓中收集油的残渣，以此作为轴承发生故障的证据。

我们利用传感器实时监控轴承的运行状态，传感器数据反映了轴承的振动信息，一般轴承的故障分为内圈故障、外圈故障、转子故障等，这些故障往往是由于轴承表面的裂纹，或者转子不对中导致 转角的偏差所致，表现在振动的时域谱上为一系列小的冲击脉冲，因此，这些脉冲信号可以作为辨别故障类型的重要特征。

图3反映了轴承的不同状态的时域振动图：(a)外圈故障；(b)内圈故障；(c)转子故障；(d)正常状态

由图4中可以看出基于本文方法L3CRSC得到的邻接矩阵与谱聚 类(spectrumclustering,SC)相结合的方法可以有效的将不同类型的故障数据有效的分离开，而不产生混叠。原始的谱聚类算法将所有的故障信号相互混叠在一起，基于LRR和SSC与谱聚类相结合的算法，能有效的将某一类故障有效的分离出(如外圈故障)，NLS3C与谱聚类的效果则更加明显。

本发明的有益效果为：新的鲁棒性方法去学习低秩表示系数，不同于传统的LRR算法，我们利用分解的思想从原始信号出提取出干净的数据作为字典，得到最优的低秩表示系数。然后我们提出了局部约束的隐空间LRR算法，通过保持原始高维数据的局部几何特性，将原始数据投影到低维隐空间中，并在该隐空间中更新字典和低秩系数。通过对人工数据集和真实轴承故障数据的辨识实验，本文的算法取得了最优的辨识效果，为进一步的故障诊断提供了保障。

以上所述，仅为本发明的具体实施方式，但本发明的保护范围并不局限于此，任何不经过创造性劳动想到的变化或替换，都应涵盖在本发明的保护范围之内。

Claims (1)

1.一种基于L3CRSC对谱聚类邻接矩阵的构造方法，其特征在于：包括鲁棒性低秩表达模型：

$min\left|\right|Z|{|}_{*}+{\mathrm{\&lambda;}}_1|\left|E\right|{|}_{2,1}+\frac{\mathrm{\&gamma;}}{2}\left|\right|D-A-E|{|}_F^2+\frac{v}{2}||A-AZ|{|}_F^2$

s.t. Z＝Z^T

传统的低秩表达模型利用原始数据作字典，使得其算法对噪声和离群点较为敏感。因此研究者们构建出一种新的模型来获得最优的低秩表示系数，原始的数据矩阵D可以分解为干净的字典矩阵A，噪声G和离群点E的叠加，其中干净的字典矩阵A用来恢复低秩系数Z。式中第二项和第三项是用来降低离群点和噪声对算法的影响。同时对Z进行对称的约束，保证其具有完整的对角块结构。对该模型的优化算法如下：

D‐E＝UΣV^T

$\hat{A}={\mathrm{U\&Lambda;V}}^T$

$\hat{Z}=V_1(I-\frac{1}{v}{\mathrm{\&Lambda;}}_1^{-2})V_1^T$

其中Λ＝diag(λ₁,λ₂,λ₃……λ_n)可以由Σ＝diag(σ₁,σ₂……σ_n)得到：

这是一个分段多项式，为了保证结果的连续性与平滑性，我们对上式做逆变换。

$\mathrm{\&lambda;}={\hat{P}}_{\mathrm{\&gamma;},V}\left(\mathrm{\&sigma;}\right)=\left\{\begin{array}{cc}{\mathrm{\&sigma;}}_i& \mathrm{\&sigma;}>{\mathrm{\&sigma;}}_{*}\\ \frac{\mathrm{\&gamma;}}{\mathrm{\&gamma;}+v}& \mathrm{\&sigma;}<{\mathrm{\&sigma;}}_{*}\end{array}\right.$

${\mathrm{\&sigma;}}_{*}=\sqrt{\frac{\mathrm{\&gamma;}+v}{\mathrm{\&gamma;}v}+\sqrt{\frac{\mathrm{\&gamma;}+v}{{\mathrm{\&gamma;}}^{2}v}}}$

是多项阈值操作，σ_*是相关阈值。由上述表达式可以看出字典矩阵A和低秩矩阵Z都可以由新的奇异值λ进行重构。而离群点E可以通过A和D求解，其关系满足下式：

-γ(D-A-E)+λ₁sign(E)＝0

因此我们对该模型进行求解：

(U,Σ,V)＝SVD(D-E)

A＝UP_γ,v(Σ)V^T

$E=S_{\frac{{\mathrm{\&lambda;}}_1}{\mathrm{\&gamma;}}}(D-A)$

基于隐空间的低秩表示模型

LRR算法要求样本均匀分布在多个子空间上，同时所有的子空间相互独立。真实的数据往往难以满足。因此直接在高维原始空间求取低秩表示系数会造成误差，同时增加计算的复杂度。受到稀疏性降维算法的启发，构造一个合适的低维子空间，并在该子空间内更新字典和系数矩阵，为实现同时进行聚类与降维提供了可能。

隐空间的低秩表达模型

$J(P,Z,X)=\left|\right|Z|{|}_{*}+{\mathrm{\&lambda;}}_a\left(\right||PX-PXZ|{|}_F^2+\left|\right|X-P^{T}PX\left|{|}_F^2\right)$

以上表达式是隐空间低秩表示模型，P是隐空间的映射矩阵，通过线性映射的方法，将原始数据投影到低维的隐空间中去。上述模型由三部分构成，前两项用于隐空间构建低秩表达系数，采用的是PCA的形式。第三项是保证映射前后数据信息不丢失，λa是调整因子(取值范围：0‐1)。对于非线性数据而言，直接采用PCA的形式会造成较大的误差，因此本文提出局部约束的隐空间低秩表达模型，理论上证明，非线性数据的局部结构近似为线性，通过保留局部结构的几何特性，(如相邻两个样本点的欧式距离在线性映射前后不变)，来对数据进行低维隐空间的投影。

局部约束的鲁棒性隐空间LRR算法

$\min \left|\right|Z|{|}_{*}+\frac{\mathrm{\&gamma;}}{2}||D-A-E|{|}_F^2+\frac{v}{2}\left|\right|A-AZ|{|}_F^2+{\mathrm{\&lambda;}}_1|\left|E\right|{|}_{2,1}+\left|\right|P^T(A-AZ)|{|}_F^2+||A-{\mathrm{PP}}^{T}A|{|}_F^2+P^T{\mathrm{ALA}}^{T}P$

s.t P^TADA^TP＝I

模型中的前三项用于在原始数据中抽取干净的数据作为字典矩阵，这相当于去噪的过程，同时减小对原有数据结构的破坏，然后优化得到在该字典下的低秩表达系数。最后三项是本文提出的基于隐空间的最优低秩表示约束式。由之前得到的初始字典矩阵和低秩表达系数输入到约束式中，对其进行更新。L是Laplace矩阵，其求取过程如下：

$\frac{1}{2}\underset{i,j}{\&Sigma;}{(p^T{x}_i-p^T{x}_j)}^2{W}_{ij}=P^T{\mathrm{XLX}}^{T}P$

$D_{ii}=\underset{j}{\&Sigma;}{W}_{ij}$

L＝D-W

$W_{ij}=e^{-\frac{\left|\right|X_i-X_j|{|}^2}{\mathrm{\&sigma;}}}$

基于局部结构保持构建隐空间的方法是一种有效处理非线性数据的方法，假设W_ij是衡量两个数据相似程度的因子，为关于两个样本点欧式距离的指数函数。由于局部邻域为近似线性，在该邻域内，原始高维空间中相距较近的样本点在低维隐空间中依然相邻的结构，即局部邻域内的相似样本点间的距离在隐空间中依然保持最小。模型的约束条件保证位于同一子空间上的样本点的相似性最大(对角线元素和为1)。首先我们利用KNN筛选出每个样本点的k个邻域点，并计算样本点到邻域点的欧式距离；然后我们利用上式构建Laplace矩阵，并保持低维投影后相邻样本点间的相似性最大。