CN106295677A - 一种联合拉斯正则项和特征自学习的水流图像分簇方法 - Google Patents

Abstract

一种联合拉斯正则项和特征自学习的水流图像分簇方法，包括以下步骤：步骤1，预处理：将水流图像的像素值按列展开并串联成列向量，以这些列向量为元素构成水流图像数据集的特征矩阵X＝[x₁,x₂,…,x_n]，其中x_i∈R^d×1；步骤2，基于联合拉斯正则项和特征自学习的数据分簇：步骤3，水流图像分簇：将水流图像数据集按流速特征依c分块对角的相似矩阵S恰好分成c个簇类。

Description

一种联合拉斯正则项和特征自学习的水流图像分簇方法

技术领域

本发明涉及一种图像分簇方法，具体涉及一种联合拉斯正则项和特征自学习的水流图像分簇方法，属于模式识别领域。

背景技术

水流图像分簇技术广泛应用于多种基于水流的直接或间接测量，例如：水流测速、流量计算和水位检测等，可用于水文监测及水文预报，是水利工程规划设计、防汛抗旱和灌溉等工作所必需。准确、及时的流速监测能显著提高水利工程调度的科学性和旱涝灾害的预见性。在对水流图像进行分析时，通常会对水流图像按某一水流特性进行具体分类，例如，按流速进行区间划分。分类方法需要大量的标签信息，然而，随着水流图像数量的不断累积，对如此大量的用于训练的水流图像进行逐一人工标记是非常耗费人力财力的，因此，通过无需标签信息的分簇方法将水流图像按流速或其他水流特性分成若干有意义的簇类可便于大量信息管理，是一个很好的选择。

水流图像分簇是水流图像的分类、分割、识别和检索等图片处理过程的关键预处理。然而，水流图像维数过高，大大降低了传统分簇方法的有效性。基于谱分簇的子空间分簇由于具备理论保证和良好性能，得到了广泛研究和应用。该类方法本质上是相似矩阵的学习和谱分簇方法的利用，不同算法之间的差别主要是系数矩阵的约束不同，例如：稀疏、低秩和块对角性，等等。尽管这些方法在一定条件下取得了良好的效果，但这些方法都是基于固定不变的图拉普拉斯，因此，子空间分簇结果的优劣依赖于相似矩阵的学习。

发明内容

本发明针对上述现有技术的局限性，提出一种联合拉斯正则项和特征自学习的水流图像分簇方法，该算法基于自适应近邻进行图拉普拉斯学习，并将低维嵌入、特征选择和子空间分簇纳入同一框架，替换传统谱分簇算法先图Laplacian构建后谱分析分簇的两级操作，有效提高了水流图像分簇的准确率和计算效率。

本发明解决其技术问题所采用的技术方案是：

一种联合拉斯正则项和特征自学习的水流图像分簇方法，包括以下步骤：

步骤1，预处理：将水流图像的像素值按列展开并串联成列向量，以这些列向量为元素构成水流图像数据集的特征矩阵X＝[x₁,x₂,…,x_n]，其中x_i∈R^d×1；

步骤2，基于联合拉斯正则项和特征自学习的数据分簇：

2.1建立目标函数：

基本思路是，基于自适应近邻学习构建图Laplacian矩阵，将低维嵌入、特征选择和谱分簇纳入同一框架，并添加稀疏约束和秩约束，得到目标函数，如式(1)所示：

其中x_i是输入数据集X＝[x₁,x₂,…,x_n]∈R^d×n中的第i个d维输入样本，n是训练样本总数。符号⊙表示依元素相乘，w＝[w₁,w₂,…,w_d]^T∈R^d是特征加权向量，用于表征输入数据不同特征维度对邻域图构建的贡献。定义邻域图模型S，其元素s_ij表示数据点x_i与x_j互为近邻的概率(或相似度)，s_i∈Rⁿ表示S的第i个列向量。L_s表示Laplacian矩阵，当给定非对称的相似度矩阵时，则相应的非规范化Laplacian矩阵计算为L_s＝D-(S^T+S)/2，其中度矩阵D的对角元素为d_i＝Σ_j(s_ij+s_ji)/2。

式(1)第一部分用于相似度矩阵构建，其中||w^1/2⊙(x_i-x_j)||2²s_ij表征在特征优选约束下，使邻近的样本对具有更高的相似度权值，而非近邻样本对具有更低的相似度权值，γs_ij ²项则用于规避平凡解。β||w||₂ ²是特征加权矢量w的正则项，其中l₂范数用于协作性约束，引导特征权值具有光滑的数值结构。m≤d表示选择后有效特征数，约束条件w_i≥0,w^T1＝m保证了w的稀疏性，获得具有代表性的特征子集并保持不同特征的显著性。约束条件0≤s_ij≤1和s_i ^T1＝1则用于约束相似矩阵的稀疏邻域结构和近邻权值的非负性。秩约束rank(L_s)＝n-c既对Laplacian矩阵进行了明确的对角结构约束，又在自适应特征优选条件下对相似矩阵约束为迭代更新操作。

2.2模型优化求解：

式(1)中的相似矩阵S和特征权值向量w相互耦合，因此，不能直接对式(1)求取闭合解。本发明采用交替优化的方法，依次对不同未知变量进行单变量优化，其中每一次迭代都是一个凸优化过程：

a.初始化：

a1.初始化特征加权向量w⁰，令每个特征的初始权值w_i＝1/d；

a2.设λ＝0；

a3.通过式(2)得到初始相似矩阵S⁰

$s_i={\left(\frac{2\mathrm{\γ}-{\mathrm{kg}}_i+\underset{j=1}{\overset{k}{\Σ}}{g}_{ij}}{2k\mathrm{\γ}}\right)}_{+}---\left(2\right)$

其中，γ是平衡参数，k是近邻数，向量g_i的元素为 W是以w为对角元素的对角矩阵，f_i∈c×1是F矩阵的第i行向量，F初始为零矩阵，后续由L_s的前c个最小特征值所对应的特征向量构成，符号()+表示元素非负；

a4.计算投影矩阵F⁰；

b.设迭代次数t＝1；

c.求解w：固定相似矩阵和投影矩阵，依式(3)计算特征加权向量w^t

$w={\left(\frac{2\mathrm{\β}m-zm+\underset{j=1}{\overset{m}{\Σ}}{z}_j}{2\mathrm{\β}m}\right)}_{+}---\left(3\right)$

其中，向量z的元素为z_i＝Σ_j＝1 ⁿy_ij ²，，y_ij是Y＝XL_s矩阵对应的元素；

d.固定w^t，根据式(2)更新相似矩阵S^t并计算投影矩阵F^t；

e.如满足收敛条件，则输出结果，算法中止；反之转至第b步；

2.3输出：具有c分块对角结构的相似矩阵S，自适应特征加权向量w；

步骤3，水流图像分簇：将水流图像数据集按流速特征依c分块对角的相似矩阵S恰好分成c个簇类。

本发明的技术构思：针对分析水流图像的高维结构的困难，本发明提出一种基于投影矩阵的联合特征选择策略以对水流图像进行有效降维。对水流图像进行分簇的关键是图的构建，而现有算法是基于固定不变的图拉普拉斯进行分簇，因此，本发明提出一种自适应近邻的图拉普拉斯学习，并通过交替优化不断更新相似矩阵和特征权值向量，从而将低维嵌入的学习与特征选择及子空间分簇纳入同一框架。通过添加稀疏约束和秩约束，本发明能获得稀疏的特征权值向量和具有块对角结构的相似矩阵。

本发明的有益效果：本发明提出的联合特征选择策略考虑了特征之间的相关性，使水流图像的冗余特征被剔除，将低维嵌入的学习与特征选择及子空间分簇纳入同一框架使水流图像分簇的效率和准确性大大提高，此外，通过对图拉普拉斯矩阵的秩进行约束，使得水流图像数据集能根据预设的簇类个数将流速恰好分为c个区间，便于大量水流信息的智能识别和分类管理。

附图说明

图1是本发明的水流图像分簇的流程图

图2(a)是水流图像原图

图2(b)经直方图均衡化后的水流图像

图3(a)是LPS得到的相似性结构LPS

图3(b)是RSS得到的相似性结构RSS

图3(c)是LRS得到的相似性结构LRS

图3(d)是本发明得到的相似性结构LRAFL

图4是5个流速区间的水流图像

具体实施方式

下面对本发明作进一步描述。

一种联合拉斯正则项和特征自学习(Joint Laplacian Regularization andAdaptive Feature Learning，LRAFL)的水流图像分簇方法，包括以下步骤：

步骤1，预处理：将水流图像的像素值按列展开并串联成列向量，以这些列向量为元素构成水流图像数据集的特征矩阵X＝[x₁,x₂,…,x_n]；

步骤2，基于联合拉斯正则项和特征自学习的数据分簇：

2.1建立目标函数：

基本思路是，基于自适应近邻学习构建图Laplacian矩阵，将低维嵌入、特征选择和谱分簇纳入同一框架，并添加稀疏约束和秩约束，得到目标函数，如式(1)所示：

其中x_i是输入数据集X＝[x₁,x₂,…,x_n]∈R^m×n中的第i个m维输入样本，n是训练样本总数。符号⊙表示依元素相乘，w＝[w₁,w₂,…,w_d]^T∈R^d是特征加权向量，用于表征输入数据不同特征维度对邻域图构建的贡献。定义邻域图模型S，其元素s_ij表示数据点x_i与x_j互为近邻的概率(或相似度)，s_i∈Rⁿ表示S的第i个列向量。L_s表示Laplacian矩阵，当给定非对称的相似度矩阵时，则相应的非规范化Laplacian矩阵计算为L_s＝D-(S^T+S)/2，其中度矩阵D的对角元素为d_i＝Σ_j(s_ij+s_ji)/2。

式(1)第一部分用于相似度矩阵构建，其中||w^1/2⊙(x_i-x_j)||₂ ²s_ij表征在特征优选约束下，使邻近的样本对具有更高的相似度权值，而非近邻样本对具有更低的相似度权值，γs_ij ²项则用于规避平凡解。β||w||₂ ²是特征加权矢量w的正则项，其中l₂范数用于协作性约束，引导特征权值具有光滑的数值结构。m≤d表示选择后有效特征数，约束条件w_i≥0,w^T1＝m保证w的稀疏性，获得具有代表性的特征子集并保持不同特征的显著性。约束条件0≤s_ij≤1和s_i ^T1＝1则用于约束相似矩阵的稀疏邻域结构和近邻权值的非负性。秩约束rank(L_s)＝n-c既对Laplacian矩阵进行了明确的对角结构约束，又在自适应特征优选条件下对相似矩阵约束为迭代更新操作。

2.2模型优化求解：

式(1)中的相似矩阵S和特征权值向量w相互耦合，因此，不能直接对式(1)求取闭合解。本发明采用交替优化的方法，依次对不同未知变量进行单变量优化，其中每一次迭代都是一个凸优化过程：

a.初始化：

a1.初始化特征加权向量w⁰，令每个特征的初始权值w_i＝1/d；

a2.设λ＝0；

a3.通过式(2)得到初始相似矩阵S⁰

$s_i={\left(\frac{2\mathrm{\γ}-{\mathrm{kg}}_i+\underset{j=1}{\overset{k}{\Σ}}{g}_{ij}}{2k\mathrm{\γ}}\right)}_{+}---\left(2\right)$

其中，γ是平衡参数，k是近邻数，向量g_i的元素为 W是以w为对角元素的对角矩阵，f_i∈c×1是F矩阵的第i行向量，F由L_s的前c个最小特征值所对应的特征向量构成，符号()+表示元素非负；

a4.计算投影矩阵F⁰；

b.设迭代次数t＝1；

c.求解w：固定相似矩阵和投影矩阵，依式(3)计算特征加权向量w^t

$w={\left(\frac{2\mathrm{\β}m-zm+\underset{j=1}{\overset{m}{\Σ}}{z}_j}{2\mathrm{\β}m}\right)}_{+}---\left(3\right)$

其中，向量z的元素为z_i＝Σ_j＝1 ⁿy_ij ²，，y_ij是Y＝XL_s矩阵对应的元素；

d.固定w^t，根据式(2)更新相似矩阵S^t并计算投影矩阵F^t；

e.如满足收敛条件，则输出结果，算法中止；反之转至第b步；

2.3输出：具有c分块对角结构的相似矩阵S，自适应特征加权向量w；

步骤3，水流图像分簇：将水流图像数据集按流速特征依c分块对角的相似矩阵S恰好分成c个簇类。

实例：

由于水流图像的拍摄在室外，受到天气和光照变化等因素的影响，因此，先将水流原图转化为灰度图并进行直方图均衡化，通过增强对比度以使能反映流速的水纹轮廓更加明显，图2(a)和2(b)分别是水流原图和经直方图均衡化的图。对图像进行拉斯正则化的自适应特征权重学习，能对无效特征(如：反光区域)进行有效剔除。在实验中，有100张水流图像，其流速覆盖5个区间，每个流速区间包含20张测试图片。每张水流图像的像素是1000×750，即，d＝750000，按步骤1将水流图像的灰度值按列展开并串联成列向量，以这100个列向量为元素构成水流图像数据集的特征矩阵X＝[x₁,x₂,…,x₁₀₀]，设置簇类个数c＝5，邻域数k，最大迭代次数T_max＝30。

图3显示了几种具有相似性矩阵构建能力的分簇算法所生成的邻域图，包括LPS、RSS、LRS和LRAFL。可以看出，RSS和LRS的相似矩阵完全处于紊乱状态，无法体现真实的5分簇结构，LPS的相似矩阵趋于模糊，由5分簇结构逐渐退化为3分簇结构。经对比可见，本发明所提算法LRAFL具有更为清晰的5簇相似度矩阵。图4显示了来自不同监测点5个流速区间的水流图像。

表1和表2分别显示了所有对比算法在该水流图像数据集下的分簇准确度和互信息指标对比，可以看出，LRAFL在准确度和归一化互信息对比中均获得了最高值，100张用作测试的水流图像将以96.71％的正确率被划分至其实际所属流速区间内。根据表3结果并结合表1、表2分簇指标可知，LRAFL不仅在分簇效果上优于对比算法，而且其运行效率也远远高于其他算法，可产生令人满意的水流测速结果。

表1 所有算法的分簇准确度指标对比

	LPS	RSS	LRS	LRAFL
					ACC	75.12	32.39	39.06	96.71

表2 所有算法的分簇互信息指标对比

	LPS	RSS	LRS	LRAFL
					NMI	70.60	34.53	38.98	96.39

表3 所有算法的运行效率对比

	LPS	RSS	LRS	LRAFL
					elapsed time	334.02	476.5	139.97	4.76

Claims (1)

1.一种联合拉斯正则项和特征自学习的水流图像分簇方法，包括以下步骤：

步骤1，预处理：将水流图像的像素值按列展开并串联成列向量，以这些列向量为元素构成水流图像数据集的特征矩阵X＝[x₁,x₂,…,x_n]，其中x_i∈R^d×1；

步骤2，基于联合拉斯正则项和特征自学习的数据分簇：

2.1建立目标函数：

基于自适应近邻学习构建图Laplacian矩阵，将低维嵌入、特征选择和谱分簇纳入同一框架，并添加稀疏约束和秩约束，得到目标函数，如式(1)所示：

其中x_i是输入数据集X＝[x₁,x₂,…,x_n]∈R^d×n中的第i个d维输入样本，n是训练样本总数；符号⊙表示依元素相乘，w＝[w₁,w₂,…,w_d]^T∈R^d是特征加权向量，用于表征输入数据不同特征维度对邻域图构建的贡献；定义邻域图模型S，其元素s_ij表示数据点x_i与x_j互为近邻的概率(或相似度)，s_i∈Rⁿ表示S的第i个列向量；L_s表示Laplacian矩阵，当给定非对称的相似度矩阵时，则相应的非规范化Laplacian矩阵计算为L_s＝D-(S^T+S)/2，其中度矩阵D的对角元素为d_i＝Σ_j(s_ij+s_ji)/2；

式(1)第一部分用于相似度矩阵构建，其中||w^1/2⊙(x_i-x_j)||₂ ²s_ij表征在特征优选约束下，使邻近的样本对具有更高的相似度权值，而非近邻样本对具有更低的相似度权值，γs_ij ²项则用于规避平凡解；β||w||₂ ²是特征加权矢量w的正则项，其中l₂范数用于协作性约束，引导特征权值具有光滑的数值结构；m≤d表示选择后有效特征数，约束条件w_i≥0,w^T1＝m保证了w的稀疏性，获得具有代表性的特征子集并保持不同特征的显著性；约束条件0≤s_ij≤1和s_i ^T1＝1则用于约束相似矩阵的稀疏邻域结构和近邻权值的非负性；秩约束rank(L_s)＝n-c既对Laplacian矩阵进行了明确的对角结构约束，又在自适应特征优选条件下对相似矩阵约束为迭代更新操作；

2.2模型优化求解：

式(1)中的相似矩阵S和特征权值向量w相互耦合，因此，不能直接对式(1)求取闭合解；采用交替优化的方法，依次对不同未知变量进行单变量优化，其中每一次迭代都是一个凸优化过程：

a.初始化：

a1.初始化特征加权向量w⁰，令每个特征的初始权值w_i＝1/d；

a2.设λ＝0；

a3.通过式(2)得到初始相似矩阵S⁰

$s_i={\left(\frac{2\mathrm{\γ}-{\mathrm{kg}}_i+\underset{j=1}{\overset{k}{\mathrm{\Σ}}}{g}_{ij}}{2k\mathrm{\γ}}\right)}_{+}---\left(2\right)$

其中，γ是平衡参数，k是近邻数，向量g_i的元素为g_ij＝g_ij ^x+λg_ij ^f，g_ij ^x＝||W(x_i-x_j)||₂ ²，g_ij ^f＝||f_i-f_j||₂ ²，W是以w为对角元素的对角矩阵，f_i∈c×1是F矩阵的第i行向量，F初始为零矩阵，后续由L_s的前c个最小特征值所对应的特征向量构成，符号()+表示元素非负；

a4.计算投影矩阵F⁰；

b.设迭代次数t＝1；

c.求解w：固定相似矩阵和投影矩阵，依式(3)计算特征加权向量w^t

$w={\left(\frac{2\mathrm{\β}m-zm+\underset{j=1}{\overset{m}{\mathrm{\Σ}}}{z}_j}{2\mathrm{\β}m}\right)}_{+}---\left(3\right)$

其中，向量z的元素为z_i＝Σ_j＝1 ⁿy_ij ²，，y_ij是Y＝XL_s矩阵对应的元素；

d.固定w^t，根据式(2)更新相似矩阵S^t并计算投影矩阵F^t；

e.如满足收敛条件，则输出结果，算法中止；反之转至第b步；

2.3输出：具有c分块对角结构的相似矩阵S，自适应特征加权向量w；

步骤3，水流图像分簇：将水流图像数据集按流速特征依c分块对角的相似矩阵S恰好分成c个簇类。