CN109543723A - 一种鲁棒的图像聚类方法 - Google Patents

Abstract

本发明提出了一种鲁棒的图像聚类方法，首先对原始图像数据进行归一化处理以及特征提取；对处理后的图像数据构建K近邻图G，根据K近邻图G的邻接矩阵W和相应的度矩阵D，计算拉普拉斯矩阵L；对拉普拉斯矩阵L进行特征值分解，并将得到的特征向量根据其对应特征值大小从小到大排序，依次选取p个特征向量构成候选特征向量矩阵U，p为聚类的类别数；然后根据计算出的拉普拉斯矩阵和候选特征向量集合构建目标函数，对目标函数进行求解，得到原始图像数据具有区分性的表示Y^*；最后对得到的具有区分性的表示Y^*进行k‑均值聚类，得到最终聚类结果。本发明不仅可以对简单的图像数据集进行聚类，也可以对存在离异点的复杂图像数据进行聚类。

Description

一种鲁棒的图像聚类方法

技术领域

本发明属于模式识别领域，具体为一种鲁棒的图像聚类方法。

背景技术

在模式识别领域，对图像实施聚类分析是非常基础的一类研究内容。其目标是根据图像的特征将相似的图像归为一类，使得原始的图像数据被分为不同的类别。在现实世界中，因为标注大量图像数据代价高昂，所以想要获取大量有标注的图像数据是较为困难的。在这种情况下，通过对图像数据进行聚类分析，可以初步获取图像特征和图像数据的分布情况，可以为后续的处理提供便利。因此对图像数据进行聚类分析是不可或缺的工作。

Frey等人提出AP(Affinity Propagation)算法，其思想是将所有的数据点都作为候选聚类中心，在迭代过程中不断的传递“信息”来竞争成为聚类中心。Tian Zhang等人提出的BIRCH(Balanced Iterative Reducing and Clustering Using Hierarchies)聚类算法，利用层次方法的平衡迭代进行归纳和聚类。其核心是用一个特征三元组表示一个类的相关信息，类中对象可以用图像的特征来表示，通过构造树的方式来进行聚类。MartinEster等人提出的DBSCAN(Density-Based Spatial Clustering of Applications withNoise)将类簇定义为密度相连的数据点的最大集合。其核心思想是对每个类簇中的对象在其给定半径内需要包含不少于预定数量的对象数目。Luxburg等人提出了谱聚类算法(Spectral Clustering)。该算法利用了由数据构成的拉普拉斯矩阵的特征向量。将该矩阵的每一行看成一个样本然后对该矩阵进行k-均值聚类，可得到最后聚类结果。

专利方面，申请号为CN201310611155.4的中国发明专利申请提供了基于聚类紧凑特征的海量图像检索系统；申请号为CN201010522037.2的中国发明专利申请基于流形稀疏编码的图像聚类的方法；申请号为CN201110039139.3的中国发明专利申请一种信息处理技术领域的图像检索系统中数据聚类方法；申请号为CN201210391449.6的中国发明专利申请公开了一种用于图形图像的K近邻局部搜索遗传自动聚类方法；申请号为CN201410350480.4的中国发明专利申请公开了一种基于层次聚类的改进K均值聚类算法。

尽管上述的方法在普遍的数据集上都可以得到较好的聚类效果。但是在处理包含离异点的数据集的时候，上述方法的聚类效果会因离异点的存在而使得效果偏差。同样的在现实生活中的图像数据不可避免的存在着离异点，这些离异点会造成聚类中心的偏移从而影响聚类效果。

发明内容

本发明的目的在于提出了一种鲁棒的图像聚类方法，解决了传统聚类问题中由于离异点所造成的聚类中心偏移的问题。

实现本发明的技术解决方案为：一种鲁棒的图像聚类方法，包括如下步骤：

步骤1、对原始图像数据进行归一化处理以及特征提取；

步骤2、对处理后的图像数据构建K近邻图G，根据K近邻图G的邻接矩阵W和相应的度矩阵D，计算拉普拉斯矩阵L；

步骤3、对拉普拉斯矩阵L进行特征值分解，并将得到的特征向量根据其对应特征值大小从小到大排序，去掉最小特征值对应的特征向量后，依次选取p个特征向量构成候选特征向量矩阵U，p为聚类的类别数；

步骤4、根据计算出的拉普拉斯矩阵和候选特征向量集合构建目标函数，使用半二次规划算法将目标函数中的Welsch函数转化为凸函数，并利用线性化交替方向乘子法对函数进行求解，得到原始图像数据具有区分性的表示Y^*；

步骤5、对得到的具有区分性的表示Y^*进行k-均值聚类，得到最终聚类结果。

优选地，步骤1中对原始图像数据进行归一化处理具体为：对原始图像数据的像素值进行归一化处理，归一化后图像的像素值在0到1之间。

优选地，步骤2中计算得到的拉普拉斯矩阵为L＝D-W，L∈R^n×n，式中，W为K近邻图的邻接矩阵，D为K近邻图相应的度矩阵。

优选地，步骤4中根据计算出的拉普拉斯矩阵和候选特征向量集合构建目标函数：

其中，原始图像数据共有t类，Y∈R^n×t为初始化的原始图像数据，即每个图像数据的表示都是一个t维的行向量，R表示实数空间，y_i∈R^1×t为第i个原始图像数据的t维表示；u_i∈R^1×p为特征向量矩阵的第i行；A∈R^p×t为系数矩阵，代表着特征向量的线性组合系数；||·||_F代表对应矩阵的F范数；||·||_2,1表示矩阵的l_2,1范数，即矩阵中每一行的l₂范数之和；α、β、γ和c均为待调参数；

使用半二次规划算法将目标函数中的Welsch函数转化为凸函数，目标函数转换为：

引入辅助变量J，得到变量更新公式如下：

Ω_k+1＝diag(-vⁿ),其中

其中Y_k，A_k，J_k和Ω_k分别为第k次迭代中原始图像数据的表示、系数矩阵、辅助变量和引入变量，Y_k+1，A_k+1，J_k+1和Ω_k+1分别为第k+1次迭代中原始图像数据的表示、系数矩阵、辅助变量和引入变量，算子‘max(P,Q)’返回的是一个矩阵，该矩阵中每一个元素等于矩阵P和矩阵Q中对应位置的元素的较大值；

所需线性化的部分 代表q关于Y的偏微分，η是利普希茨常数，Θ为l_2，1范数最小化阈值算子；Λ_1，k、Λ_2，k均为第k次迭代中的拉格朗日乘子，μ_k表示第k次迭代中惩罚参数，其更新公式如下：

其中，μ_max为预设μ的最大值，ρ为μ更新的步长，α、β、和γ均为待调参数；

迭代计算(3)到(7)式直至目标函数收敛便可求得最优解，即原始图像数据具有区分力的表示Y^*。

本发明利用Welsch函数平滑、非凸和有界的特性，将离异点对聚类结果造成的负面影响控制在一定的范围内，防止聚类过程中因离异点的存在造成聚类中心偏移从而降低聚类效果这种情况出现。

本发明与现有技术相比，其显著优点在于：(1)本发明有效地限制了因离异点的存在而导致的聚类中心偏移问题，不仅可以对简单的图像数据集进行聚类，也可以对存在离异点的复杂图像数据进行聚类；(2)本发明能有效地选取拉普拉斯矩阵中包含聚类信息的特征向量，通过把选取出来的特征向量线性组合，可以得到原始图像数据一种具有区分力的新表示；(3)本发明在获取原始图像数据具有区分力的新表示过程中，原始图像数据的近邻结构信息可以得到保持。

下面结合附图对本发明做进一步详细的描述。

附图说明

图1为本发明的流程图。

图2为Welsch函数与常见损失函数比较的示意图。

图3为本发明在ORL-32数据集上部分结果的可视化图。

图4为本发明在Yale-64数据集上部分结果的可视化图。

图5为本发明与谱聚类方法在ORL-32数据集上效果比较图。

图6为本发明与谱聚类方法在Yale-64数据集上效果比较图。

具体实施方式

如图1所示，一种鲁棒的图像聚类的方法，利用原始图像的相似性信息构建拉普拉斯矩阵，并提取其特征值以及特征向量。在保持原始图像近邻结构信息不变的前提下，利用提取出的特征向量包含聚类信息这一特性，并且同时使用Welsch函数来限制离异点对聚类中心的影响，得到原始图像数据一种具有区分力的新表示。最后对得到新表示运用k-均值聚类，有效准确地对图像进行聚类，具体步骤如下：

步骤1、对原始图像数据进行归一化处理以及特征提取。对n个原始图像数据x₁,x₂,...,x_n的像素值进行归一化处理，使每个像素值都在0和1之间。对处理过后的图像提取特征，例如方向梯度直方图特征(HOG)、尺度不变特征变换特征(SIFT)或者局部二值模式特征(LBP)等。提取特征之后得到包含原始图像特征信息的向量v₁，v₂，...，v_n。

步骤2、对归一化之后的图像数据构建K近邻图G，根据K近邻图G的邻接矩阵W和相应的度矩阵D，计算拉普拉斯矩阵L。本发明建立的K近邻图，即某一点只与和它最邻近的K个点相连，边的权重W_ij由高斯函数计算，同时W_ij表示邻接矩阵W的第i行第j列，由此可以得到图像数据的邻接矩阵W∈R^n×n，W_ij＝exp(-||v_i-v_j||²/2σ²)，v_i、v_j分别表示图像数据x_i和x_j的特征，σ为待调参数。根据邻接矩阵W求度矩阵D∈R^n×n，计算方法为对W每一行分别求和，将求和结果依次作为主对角线元素组成对角矩阵，该对角矩阵即为图G的度矩阵D＝diag(d₁,d₂,…,d_n)，其中得到邻接矩阵W和度矩阵D之后，拉普拉斯矩阵为L＝D-W，L∈R^n×n。

步骤3、对拉普拉斯矩阵L进行特征值分解得到n个特征值及其对应的特征向量，n为原始图像数据个数，将特征值以非降序的顺序排列，去掉最小特征值对应的特征向量后，选择p个较小特征值对应的特征向量组成候选特征向量矩阵U＝[u₂，u₃，...，u_p+l]，U∈R^n×p，其中p为待调参数。最小特征值对应的特征向量u₁被排除在外，因为u₁几乎是连续的常数向量，不具有聚类信息。

步骤4、求解模型得到原始图像数据具有区分性的表示Y^*。若原始图像数据共有t类，那么初始化原始图像数据表示为Y∈R^n×t，即每个图像数据的表示都是一个t维的行向量，其中R表示实数空间。目标函数如下：

其中y_i∈R^1×t为第i个原始图像数据的t维表示；u_i∈R^l×p为特征向量矩阵的第i行；A∈R^p×t为系数矩阵，代表着特征向量的线性组合系数；||·||_F代表对应矩阵的F范数；||·||_2，1表示矩阵的l_2，1范数，即矩阵中每一行的l₂范数之和；α、β、γ和c均为待调参数。

公式(1)中第一项表示了两个图像数据在构建新的表示之后差异值与权重之积的大小。如果图像数据如果相似，那么其构建的表示也应该相似，则第一项的值应该较小。第二项就是利用部分特征向量的线性组合来刻画原始数据的新表示，而这里使用Welsch函数能够防止出现因离异点的存在所导致的聚类中心偏移的问题。集合U中的特征向量并不都包含原始图像数据的聚类信息，故本发明通过优化第三项β||A||_2，1来挑选出包含聚类信息的特征向量。本发明通过优化最后一项使得得到的原始图像数据的表示Y^*具有区分力，即不同的图像数据在新空间中都有尽可能不同的表示。这样更易凸显不同图像的特征，使后续的k-均值聚类准确度更高。为了避免全零解Y＝0_n×t、A＝0_p×t，本发明添加约束Y1_t＝1_n，Y≥0_n×t。

为了求解目标函数(1)，本发明先使用半二次规划(Half-Quadratic)算法，将(1)式中的第二项转化为凸函数，然后使用线性化交替方向乘子法(Linearized AlternatingDirection Method with Adaptive Penalty，LADMAP)来求解。将(1)式中的第二项转化为凸函数得到：

为了方便求解(2)式，本发明引入辅助变量J，得到变量更新公式如下：

Ω_k+1＝diag(-vⁿ),其中

其中Y_k，A_k，J_k和Ω_k分别为第k次迭代中原始图像数据的表示、系数矩阵、辅助变量和引入变量，Y_k+1，A_k+1，J_k+1和Ω_k+1分别为第k+1次迭代中原始图像数据的表示、系数矩阵、辅助变量和引入变量，算子‘max(P，Q)’返回的是一个矩阵，该矩阵中每一个元素等于矩阵P和矩阵Q中对应位置的元素的较大值。

所需线性化的部分 代表q关于Y的偏微分，η是利普希茨常数，Θ为l_2,1范数最小化阈值算子；Λ_1,k、Λ_2,k均为第k次迭代中的拉格朗日乘子，μ_k表示第k次迭代中惩罚参数，其更新公式如下：

其中μ_max为预设μ的最大值，ρ为μ更新的步长，α、β、和γ均为待调参数。

迭代(3)到(7)式直至目标函数收敛便可求得最优解，即原始图像数据具有区分力的表示Y^*。其收敛条件为||Y||_F≤ε并且||A-J||_F≤ε，其中ε为可调参数，本发明中设置为10^-4。

步骤5、对得到的具有区分性的表示Y^*进行k-均值聚类，得到最终聚类结果。上述得到的Y^*矩阵的第i行y_i即是对应原始图像数据x_i的具有区分性的表示。对Y^*进行k均值聚类，首先随机选取中心点，之后将距离最近的中心点关联起来，与同一中心点关联的所有点聚成一类，即可实现图像聚类。

图2是Welsch函数与常见的l₁函数和l₂函数的对比，可以发现Welsch函数是一个平滑非凸有上界的函数，可以有效的防止因离异点的存在造成聚类中心偏移的问题。图3和图4分别是本发明在ORL-32图像数据集和Yale-64图像数据集上的部分聚类结果的可视化图，本发明随机选取了3类聚类结果其中的5张图片进行展示。可以看出，同一个人在图像数据集中呈现了不同状态，例如：闭眼、戴眼镜、光照等情况。本发明将差异较大的面部状态作为图像数据集中的离异点。图5和图6分别为本发明和谱聚类方法在ORL-32和Yale-64图像数据集上的实验效果对比。评价指标有两个：归一化互信息指数(NMI)和兰德指数(RI)。经归一化之后它们的值都在0～1之间，值越大说明聚类效果越好。可以发现本发明在ORL-32上虽然NMI稍低于谱聚类，但是RI高于谱聚类。在Yale-64图像数据集上，本发明的实验结果明显优于谱聚类的实验结果。可以看出，本发明确实能够将相似的图片归为一类，实现图像聚类的目的。

Claims (4)

1.一种鲁棒的图像聚类方法，其特征在于，包括如下步骤：

步骤1、对原始图像数据进行归一化处理以及特征提取；

步骤2、对处理后的图像数据构建K近邻图G，根据K近邻图G的邻接矩阵W和相应的度矩阵D，计算拉普拉斯矩阵L；

步骤3、对拉普拉斯矩阵L进行特征值分解，并将得到的特征向量根据其对应特征值大小从小到大排序，去掉最小特征值对应的特征向量后，依次选取p个特征向量构成候选特征向量矩阵U，p为聚类的类别数；

步骤4、根据计算出的拉普拉斯矩阵和候选特征向量集合构建目标函数，使用半二次规划算法将目标函数中的Welsch函数转化为凸函数，并利用线性化交替方向乘子法对函数进行求解，得到原始图像数据具有区分性的表示Y^*；

步骤5、对得到的具有区分性的表示Y^*进行k-均值聚类，得到最终聚类结果。

2.根据权利要求1所述的鲁棒的图像聚类方法，其特征在于，步骤1中对原始图像数据进行归一化处理具体为：对原始图像数据的像素值进行归一化处理，归一化后图像的像素值在0到1之间。

3.根据权利要求1所述的鲁棒的图像聚类方法，其特征在于，步骤2中计算得到的拉普拉斯矩阵为L＝D-W，L∈R^n×n，式中，W为K近邻图的邻接矩阵，D为K近邻图相应的度矩阵。

4.根据权利要求1所述的鲁棒的图像聚类方法，其特征在于，步骤4中根据计算出的拉普拉斯矩阵和候选特征向量集合构建目标函数：

其中，原始图像数据共有t类，Y∈R^n×t为初始化的原始图像数据，即每个图像数据的表示都是一个t维的行向量，R表示实数空间，y_i∈R^1×t为第i个原始图像数据的t维表示；u_i∈R^{1 ×p}为特征向量矩阵的第i行；A∈R^p×t为系数矩阵，代表着特征向量的线性组合系数；||·||_F代表对应矩阵的F范数；||·||_2,1表示矩阵的l_2,1范数，即矩阵中每一行的l₂范数之和；α、β、γ和c均为待调参数；

使用半二次规划算法将目标函数中的Welsch函数转化为凸函数，目标函数转换为：

引入辅助变量J，得到变量更新公式如下：

Ω_k+1＝diag(-vⁿ),其中

其中Y_k，A_k，J_k和Ω_k分别为第k次迭代中原始图像数据的表示、系数矩阵、辅助变量和引入变量，Y_k+1，A_k+1，J_k+1和Ω_k+1分别为第k+1次迭代中原始图像数据的表示、系数矩阵、辅助变量和引入变量，算子‘max(P,Q)’返回的是一个矩阵，该矩阵中每一个元素等于矩阵P和矩阵Q中对应位置的元素的较大值；所需线性化的部分 代表q关于Y的偏微分，η是利普希茨常数，Θ为l_2,l范数最小化阈值算子；Λ_1,k、Λ_2,k均为第k次迭代中的拉格朗日乘子，μ_k表示第k次迭代中惩罚参数，其更新公式如下：

其中，μ_max为预设μ的最大值，ρ为μ更新的步长，α、β、和γ均为待调参数；

迭代计算(3)到(7)式直至目标函数收敛便可求得最优解，即原始图像数据具有区分力的表示Y^*。