CN105975996A - 一种基于k均值和奈斯特龙逼近的图像分割方法 - Google Patents

Abstract

本发明属于图像分割技术领域，具体涉及一种基于K均值和奈斯特龙逼近的图像分割方法。本发明包括：将图像矩阵A₀的各个行向量进行归一化处理；对矩阵H进行特征值分解并对角化；由奈斯特龙逼近方法计算未被抽取的像素间的嵌入逼近矩阵；利用边缘检测算法得到图像的轮廓，实现分割。本发明设计的方法的计算复杂度和存储复杂度都是线性的，所以该方法可以满足图像分割等大规模样本聚类的需要，避免了相似度图中尺度因子的精确设置问题；此外，在计算图像像素之间的相似度的过程中，本发明设计的方法回避了计算较耗时的指数运算，从而使得方法在执行效率上得到较大的提升。

Description

一种基于K均值和奈斯特龙逼近的图像分割方法

技术领域

本发明属于图像分割技术领域，具体涉及一种基于K均值和奈斯特龙逼近的图像分割方法。

技术背景

聚类集成算法通常分为两步，首先使用一种或多种聚类算法，对指定数据集进行聚类，得到多个聚类结果(也称聚类成员)；然后把得到的多个聚类成员作为新的输入，通过一致性函数约束对它们进行组合，输出最终的聚类结果。在生成聚类成员过程中，通常采取的方法是使用K均值算法，随机选择初始点运行m次以获得m个聚类标签，并以此作为集成的成员。使用该方法的优点在于其计算复杂度低，实现起来简单快捷，适合于大规模数据集应用。该方法方便快捷的特点使之能够适应大规模图像数据的分割要求，所以在本发明的图像分割算法中使用了该方法。

2001年，Fred提出一种基于共生矩阵(Co-association Matrix)的集成方法，该方法通过计算两个样本点在各聚类成员中被分在同一个类别中的次数来实现集成的目的。这种方式类似投票，当两个样本点被聚在同一个类别中的次数超过聚类成员总数的一半时，也就说明有一半以上的聚类成员认为这两个样本点属于同一个类别，所以在集成结果中应该将它们划为一类。2002年，Fred和Jain对上述算法进行了改进，他们将两个样本点的相似度定义为各聚类成员中分到同一类的次数占聚类成员总数的比例，然后以此相似度为基础，通过最小生成树算法MST(Minimum Spanning Tree)或单链层次聚类算法SL(Single Link)来完成划分，得到聚类集成的最终结果。基于共生矩阵的集成方法存在一个缺点，它的计算和存储复杂度都是都为O(n²)，所以在处理大规模数据的聚类问题时会陷入困境。

Strehl和Ghosh基于超图划分的思想提出了三种新的聚类集成算法CSPA、HGPA和MCLA算法。CSPA通过聚类成员的共生矩阵构造超图，再由图划分算法METIS给出聚类结果；HGPA算法先构造一个超图，再由超图划分算法HMETIS进行聚类，进而得到最终的聚类结果；MCLA算法通过计算二元Jaccard系数来度量超边间的相似度，再由METIS算法对超边进行断裂缩减操作，以获得最终的簇划分。此外，Fern和Brodley使用二部图模型建模对点和簇同时建模，提出了HBGF算法。上述四种算法在聚类过程中都使用了图划分算法，图划分算法虽对簇的结构不做强的假设限制，但是为了避免算法收敛到平凡解和孤立点，图划分算法对簇的规模做了潜在的平衡性约束，即假定每个簇内样本点数大致相等，所以当数据集的平衡性不理想时，图划分算法的聚类性能很难得到保证。

谱聚类算法对数据集的簇结构不做强的假设，且算法不会陷入局部最优，是解决非凸数据集聚类问题的较为有效的算法。由于上述优点，近几年来谱聚类已经成为非常热门的聚类算法之一。但是谱聚类算法在处理高维大规模数据数据时有两个明显的不足：(1)其核心问题是权值矩阵的特征值分解问题，其计算复杂度高达O(n³)，这种计算代价限制了其在大规模数据上的应用；(2)谱聚类要求对相似度图的参数精确设置，而目前在参数设置方面缺乏相应的理论指导，当数据集为高维数据时，由于无法实现数据空间分布的可视化，也就不能根据经验来设置参数，只能依靠大量实验获取适当的参数设置，这使得算法在实际应用中费时费力。

在研究中发现，上述算法在对谱分解得到的数据低维嵌入的聚类过程中使用了K均值算法，由于K均值算法对初始点的敏感性会导致最终的聚类结果不稳定。针对该问题，为提高聚类集成谱算法的聚类质量，保证算法的稳定性，本发明在聚类集成谱算法的低维嵌入聚类过程中引入了近邻传播聚类算法，并设计了一种新的聚类集成谱算法，该算法避免了谱聚类中使用K均值算法时因初始点的随机选择性导致算法出现不稳定现象的问题。

发明内容

本发明的目的在于提供一种基于K均值和奈斯特龙逼近的图像分割方法。

本发明的目的是这样实现的：

一种基于K均值和奈斯特龙逼近的图像分割方法，包括如下步骤：

(1)将图像矩阵A₀的各个行向量进行归一化处理，随机从n个像素点中抽取m个像素点，则这m个像素点对应的矩阵为A_m＝[a₁,a₂,...,a_m]^T，图像I_A＝{x₁,x₂,...x_n}包含的像素点的个数为n，对每个像素x_i对应一个d维的向量a_i，其中a_i∈R^d，1≤i≤n未被抽取的像素对应的矩阵为A_n-m＝[a₁,a₂,...,a_n-m]^T，定义抽样点的相似度矩阵H＝A_mA_m ^T∈R^m×m和剩余像素点的相似度矩阵B＝A_mA_n-m ^T∈R^m×(n-m)；

(2)对矩阵H进行特征值分解并对角化，得到特征向量矩阵U＝[u₁,u₂,...,u_m]及对角阵Λ＝diag[λ₁,λ₂,...,λ_m]，其中u₁,u₂,...,u_m为特征值λ₁,λ₂,...,λ_m对应的特征向量；

(3)由奈斯特龙逼近方法计算未被抽取的像素间的嵌入逼近矩阵，记为合并嵌入矩阵其中，取的前k列向量，再进行归一化处理后得到

(4)设y_i∈R^k为矩阵的第i个行向量，则Y＝{y_i|i＝1,...,n}描述为图像矩阵A经谱映射后的低维嵌入，用K均值聚类算法对新的数据元素集合Y＝{y_i|i＝1,...,n}进行聚类，利用边缘检测算法得到图像的轮廓，实现分割。

所述的图像矩阵A₀为：给定的图像I_A＝{x₁,x₂,...x_n}包含像素个数为n，每个像素x_i用一个d维的向量a_i进行描述，其中a_i∈R^d，1≤i≤n，该图像用一个矩阵A∈R^n×d来描述，这里A＝[a₁,a₂,...,a_n]^T。

所述的特征向量矩阵中，u₁,u₂,...,u_m为特征值λ₁,λ₂,...,λ_m对应的特征向量，且λ₁≥λ₂≥...≥λ_m。

本发明的有益效果在于：

本发明设计的方法的第(1)步需要计算m×d的矩阵A_m和d×m的矩阵A_m ^T之积以及矩阵A_m与d×(n-m)的矩阵A_n-m ^T之积，其计算复杂度为O(k²+kn)，存储复杂度为O(nm)；第(2)步m阶方阵Q的特征值分解所需的计算复杂度为O(m³)，存储复杂度为O(m²)，抽样数m通常很小，一般m≤100；第(3)步求解U_k的计算复杂度为O(nmk)，存储复杂度为O(nk)；第(4)步中完成一次K均值方法，其计算复杂度为O(k²In)，存储复杂度为O(k²+kn)，其中I为K均值方法的循环迭代次数，通常有I＜＜n。显然，本发明设计的方法的计算、存储复杂度都是关于n的一次表达式，即本发明设计的方法的计算复杂度和存储复杂度都是线性的，所以该方法可以满足图像分割等大规模样本聚类的需要。

此外，在计算相似度矩阵的过程中，本发明采用了余弦相似度来计算矩阵H和矩阵B。设被抽取的像素矩阵为A_m＝[a₁,a₂,...,a_m]^T，未被抽取的像素矩阵为A_n-m＝[b₁,b₂,...,b_n-m]^T，则矩阵H＝A_mA_m ^T，矩阵B＝A_mA_n-m ^T，由此避免了相似度图中尺度因子的精确设置问题；此外，在计算图像像素之间的相似度的过程中，本发明设计的方法回避了计算较耗时的指数运算，从而使得方法在执行效率上得到较大的提升。

附图说明

图1为本发明设计的方法的流程图。

具体实施方式

下面结合附图对本发明做进一步描述。

本发明设计了一种基于K均值和奈斯特龙逼近的图像分割方法。结合K均值方法和奈斯特龙方法的优点进行图像分割。一方面，利用K均值算法对图像进行多次预划分，生成多个初始分割结果。另一方面，在初始分割结果上而不是直接在原始图像上利用奈斯特龙算法进行聚类分析取得了更优越的分割效果。此外，为了解决谱聚类的计算复杂度问题，本发明采用了奈斯特龙逼近方法。结果表明，本发明设计的方法可以得到较好的图像分割效果。

聚类分析包括多元数据分析，如数据挖掘，分类，全文检索和模式分类。图像分割是许多研究领域的一项重要技术。在过去的半个世纪中，一些学者提出了多种聚类算法，如K均值及其变种。然而，这些算法的数据集利用了一个凸的球形样本空间，当样本空间不是凸的时候，会获得局部最优解。一致性函数的设计将直接影响到集群集成的聚类质量，它在这一步中起到重要的作用。由于谱聚类算法的优点，现已广泛应用于如计算机视觉和信息检索等多种领域。此外，谱聚类算法利用数据的成对的相似性，已被证明是在获得集群方面比传统的聚类算法更有效的方法。然而，当数据对象数量(由n表示)巨大时计算n个数据对象间的成对的相似性，谱聚类算法将遇到一个二次资源的瓶颈。为了利用谱聚类的优点并克服谱聚类计算复杂度高的缺点，本发明设计了一种基于K均值和奈斯特龙逼近的图像分割方法，该方法利用谱聚类技术在聚类集成的第二个阶段中整合了所有的划分结果。

田铮等指出，将以权矩阵的前k个特征向量为列向量组成的矩阵的行向量作为原数据集经谱映射得到的低维嵌入，各低维嵌入之间的夹角可作为聚类的依据，由此得到的聚类标签即为原数据集的对应样本的聚类标签。本发明引入了该思想，在余弦相似度的框架下，设计了一种基于K均值和奈斯特龙逼近的图像分割方法，该方法采用余弦相似度构造图像像素的相似度矩阵，以此相似度矩阵作为谱分解的权矩阵，并采用奈斯特龙逼近的策略来提高算法的谱分解的效率，使谱聚类算法在计算复杂度和存储消耗上能够满足图象分割中大规模样本聚类的要求。

为提高图像分割算法的性能，通常在进行图像分割前需要对图像进行适当的预处理。本发明重点研究聚类的应用问题，这里对图像的预处理不做具体介绍。本发明在算法中采用简单的四邻点加权，加权算子Θ如下式所示：

$\mathrm{\Θ}=\frac{1}{8}\left[\begin{array}{ccc}0& 1& 0\\ 1& 4& 1\\ 0& 1& 0\end{array}\right]$

该加权预处理能够对图像起到一定的平滑作用，去掉图像中较为细小的噪点，当然这里也可采用其它加权方法如基于中心加权的方法等进行平滑处理。

本方法中用于谱分析的权矩阵是通过余弦相似度构造得到的，而余弦相似度以样本在样本空间中夹角的余弦值度量样本间的相似性。本发明指出采用单一的颜色空间描述像素特征是不合适的，以RGB颜色空间为例进行说明，R、G、B值为(10，20，30)的像素点i和值为(40，80，120)的像素点j在样本空间中落在同一方向上，当由余弦相似度来衡量时，这两个像素点是完全一样的，但是实际情况是这两个像素在亮度上存在明显的差别。在本发明中，为了使图像矩阵A能更好的表达像素信息，并方便余弦相似度的表达，每个像素由RGB、LUV和HSV三个颜色空间同时进行描述，此时，上述在单一颜色空间中的同一方向上的像素点间的差异就可以在余弦相似度中得到体现。此外，本发明在描述像素特征时还添加了灰度描述，这样一个像素点就由一个10维的行向量来描述。

传统的谱聚类算法大多采用高斯核计算像素点间的相似度矩阵，设图像的相似度矩阵可表示为W＝[w_ij]_n×n，对每个像素x_i都有一个d维的向量a_i来描述它，其中a_i∈R^d1≤i≤n，σ为高斯核尺度因子，则w_ij＝exp(-||a_i-a_j||²/2σ²)。由高斯核计算像素点间的相似度时存在两点不足：第一，高斯核函数中的尺度因子σ需要人工依照经验精确设置，且单一的尺度因子σ不能很好地捕捉多重尺度数据的类别分布信息；第二，计算机进行指数运算消耗巨大，实验证明计算机完成一次指数运算的时间消耗约为一次乘法运算的30倍，在图像这种大规模数据上，这种计算消耗极大的影响了算法的效率。为避免相似度图的参数精确设置问题以及提高算法的执行效率，本发明采用余弦相似度来计算图像像素点间的相似度矩阵。

设给定的图像I_A＝{x₁,x₂,...x_n}包含的像素点的个数为n，对每个像素x_i都有一个d维的向量a_i来描述它，其中a_i∈R^d，1≤i≤n，因此该图像可用一个矩阵A∈R^n×d来描述，这里A＝[a₁,a₂,...,a_n]^T。由矩阵A构造权图G(A,E,W)，这里相似度采用余弦相似度，则图像的相似度矩阵可表示为W＝[w_ij]_n×n，其中：

$w_{ij}=cos\left(\mathrm{\θ}\right(a_i,a_j\left)\right)=\frac{a_i\·a_j}{\left|\right|a_i\left|\right|\left|\right|a_j\left|\right|}$

样本经归一化后，有||a_i||＝||a_j||＝1，此时顶点x_i到x_j的权值可简化为w_ij＝a_i·a_j，此时相似度矩阵即为W＝[w_ij]_n×n＝AA^T。由此，图像的权矩阵可由归一化后的图像矩阵A及其转置矩阵相乘得到，借助高效的矩阵处理软件Matlab，可快速地得到相似度矩阵W。

给定图像I₀经上述预处理后得到的矩阵，记为A₀∈R^n×d，且为了使算法更加简单，这里假定图象的分割类别数k已知。下面给出本发明所设计的算法的主要步骤：

(1)将图像矩阵A₀的各个行向量(即图像中一个像素的向量表示)进行归一化处理得到矩阵A＝[a₁,a₂,...,a_n]^T∈R^n×d，随机从n个像素点中抽取m个像素点，其对应的矩阵为A_m＝[a₁,a₂,...,a_m]^T，未被抽取的像素矩阵为A_n-m＝[a₁,a₂,...,a_n-m]^T，计算相似度矩阵H＝A_mA_m ^T∈R^m×m和相似度矩阵B＝A_mA_n-m ^T∈R^m×(n-m)；

(2)对矩阵H进行特征值分解并对角化，得到特征向量矩阵U＝[u₁,u₂,...,u_m]及其对角阵Λ＝diag[λ₁,λ₂,...,λ_m]，其中u₁,u₂,...,u_m为特征值λ₁,λ₂,...,λ_m对应的特征向量，且有λ₁≥λ₂≥...≥λ_m；

(3)由奈斯特龙逼近方法计算未被抽取的像素点间的嵌入逼近矩阵合并嵌入矩阵是矩阵的前k列向量构成的矩阵，归一化处理该矩阵可以得到矩阵即为权矩阵W的前k个最大特征值对应的特征向量的逼近矩阵；

(4)若指定y_i∈R^k为的第i个行向量，则Y＝{y_i|i＝1,...,n}即为图像矩阵A经谱映射后的低维嵌入；

(5)用K均值聚类算法对新的样本集Y＝{y_i|i＝1,...,n}进行聚类，得到聚类标签，经边缘检测算法得到图像的分割轮廓，从而完成图像分割。

设给定n个数据点集合X＝{x₁,x₂,...x_n}，x_i∈R^d,1≤i≤n。谱聚类会构建一个相似度矩阵，记为W，W∈R^n×n，其中，W_ij≥0反映两个点x_i和x_j之间的相似关系。本发明利用余弦函数来表征这个相似度。

$W_{ij}=cos\left(\mathrm{\&theta;}\right(x_i,x_j\left)\right)=\frac{<x_i,x_j>}{\left|\right|x_i\left|\right|\left|\right|x_j\left|\right|}$

样本经归一化后，有||x_i||＝||x_j||＝1，此时顶点x_i到x_j的权值可简化为w_ij＝x_i·x_j，此时相似度矩阵即为W＝[w_ij]_n×n＝XX^T。由此，图像的权矩阵可由归一化后的图像矩阵X和其转置矩阵相乘得到，借助高效的矩阵处理软件Matlab，可快速得到相似度矩阵W。

对于奈斯特龙谱聚类算法，从输入数据中随机抽取m个数据点，令B表示一个维度为m×(n-m)的相似度矩阵，这个相似度矩阵是m个样本点和(n-m)个剩余数据点之间的相似度矩阵。令C表示(n-m)个剩余数据点间的相似度矩阵。令A表示一个维度为m×m的相似度矩阵，这个相似度矩阵是m个样本点间的相似度矩阵，且存在特征值分解，A＝UΛU^T。这样，通过重新调整矩阵W的各行和各列，存在，

$W=\left[\begin{array}{cc}A& B\\ B^T& C\end{array}\right]$

根据奈斯特龙逼近方法，矩阵W的近似特征值向量可写成，

$\stackrel{\&OverBar;}{U}=\left[\begin{array}{c}U\\ B^T{\mathrm{U\&Lambda;}}^{-1}\end{array}\right]$

这样，矩阵W的近似矩阵可以记为，

$\begin{array}{c}\hat{W}=\stackrel{\&OverBar;}{U}\mathrm{\&Lambda;}{\stackrel{\&OverBar;}{U}}^T\\ =\left[\begin{array}{c}U\\ B^T{\mathrm{U\&Lambda;}}^{-1}\end{array}\right]\mathrm{\&Lambda;}\&lsqb;\begin{array}{cc}{U}^T& {\mathrm{\&Lambda;}}^{-1}{U}^{T}B\end{array}\&rsqb;\\ =\left[\begin{array}{cc}A& B\\ B^T& B^T{A}^{-1}B\end{array}\right]\\ =\left[\begin{array}{c}A\\ B^T\end{array}\right]A^{-1}\&lsqb;\begin{array}{cc}A& B\end{array}\&rsqb;\end{array}$

奈斯特龙谱聚类算法的详细步骤可以归纳如下：

输入：数据集合X＝{x₁,x₂,...,x_n}，m和k分别是样本点的数目，期望的聚类类别数，m>k

步骤1)：利用公式(1)计算数据集合X的相似度矩阵；

步骤2)：构建子矩阵A∈R^m×m和B∈R^m×(n-m)

步骤3)：计算矩阵A的特征值分解，A＝UΛU^T，

步骤4)：利用公式(3)计算矩阵W的近似特征值分解；

步骤5)：利用K均值算法将矩阵的所有行划分为k类。

本发明利用三个颜色空间，RGB,LUV and HSV去描述一个向量，以便更准确地构造图的特征向量。在描述图像的像素时，本发明也利用像素的灰度信息和位置信息，其中，位置信息包括像素的横纵坐标，如此一个像素又可以用一个12维的向量来描述。

给定一幅图像令P＝{p₁,p₂,...,p_r}表示图像X的多个划分结果的一个集合。本发明利用构造超图的思想构建P的一个超图，记为，H＝{h₁,h₂,...,h_r}，这个超图有n个顶点和t条超边，且t＝rk(t＜＜n)。

至此，基于K均值和奈斯特龙谱聚类的聚类集成算法的主要步骤可以归纳为：

输入：一个图像矩阵m和k分别是样本点的数目，期望的聚类类别数，m>k

1)调用K均值算法将图像x划分成k类，得到一个划分结果，记为，p_i；

2)调用K均值算法r次，得到划分结果的一个集合，记为P＝{p₁,p₂,...,p_r}，构建这个集合的一个超图，记为H＝{h₁,h₂,...,h_r}；

3)调用算法1，奈斯特龙逼近方法，将超图H划分成k类；

4)根据这k类结果，利用边缘检测算法获取原始图像的轮廓。

输出：最终的分割结果。

Claims (3)

1.一种基于K均值和奈斯特龙逼近的图像分割方法，其特征在于，包括如下步骤：

(1)将图像矩阵A₀的各个行向量进行归一化处理，随机从n个像素点中抽取m个像素点，则这m个像素点对应的矩阵为A_m＝[a₁,a₂,...,a_m]^T，图像I_A＝{x₁,x₂,...x_n}包含的像素点的个数为n，对每个像素x_i对应一个d维的向量a_i，其中a_i∈R^d，1≤i≤n未被抽取的像素对应的矩阵为A_n-m＝[a₁,a₂,...,a_n-m]^T，定义抽样点的相似度矩阵H＝A_mA_m ^T∈R^m×m和剩余像素点的相似度矩阵B＝A_mA_n-m ^T∈R^m×(n-m)；

(2)对矩阵H进行特征值分解并对角化，得到特征向量矩阵U＝[u₁,u₂,...,u_m]及对角阵Λ＝diag[λ₁,λ₂,...,λ_m]，其中u₁,u₂,...,u_m为特征值λ₁,λ₂,...,λ_m对应的特征向量；

(3)由奈斯特龙逼近方法计算未被抽取的像素间的嵌入逼近矩阵，记为合并嵌入矩阵其中，取的前k列向量，再进行归一化处理后得到

(4)设y_i∈R^k为矩阵的第i个行向量，则Y＝{y_i|i＝1,...,n}描述为图像矩阵A经谱映射后的低维嵌入，用K均值聚类算法对新的数据元素集合Y＝{y_i|i＝1,...,n}进行聚类，利用边缘检测算法得到图像的轮廓，实现分割。

2.根据权利要求1所述的一种基于K均值和奈斯特龙逼近的图像分割方法，其特征在于：所述的图像矩阵A₀为：给定的图像I_A＝{x₁,x₂,...x_n}包含像素个数为n，每个像素x_i用一个d维的向量a_i进行描述，其中a_i∈R^d，1≤i≤n，该图像用一个矩阵A∈R^n×d来描述，这里A＝[a₁,a₂,...,a_n]^T。

3.根据权利要求1所述的一种基于K均值和奈斯特龙逼近的图像分割方法，其特征在于：所述的特征向量矩阵中，u₁,u₂,...,u_m为特征值λ₁,λ₂,...,λ_m对应的特征向量，且λ₁≥λ₂≥...≥λ_m。