CN113887591A - 基于双层加权联合分解的多视角聚类方法 - Google Patents

Abstract

本发明公开了一种基于双层加权联合分解的多视角聚类方法。针对不完整的多视角聚类任务，提出一个简洁有效的双层联合分解框架来完成问题的建模，学习数据的低维潜在表示。具体来讲，通过建立上层和下层子目标函数，分别为跨多个视图的样本和单一视图的样本进行分解建模。同时为其设计了一种加权平均迭代的算法来进行优化。本方法可以适用于带有任意视角数目和任意缺失情况的数据，具有通用性，灵活性，能够有效提升聚类性能。

Description

基于双层加权联合分解的多视角聚类方法

技术领域

本发明属于数据挖掘和人工智能领域，涉及一种基于双层加权联合分解的多视角聚类方法。

背景技术

作为一种强大的数据分析工具，聚类的无监督特性使其在人脸识别，医学诊断，社交网络分析，多媒体处理等方面得到了广泛应用。随着大数据时代的到来，信息数据爆炸式增长，仅从单一视角对数据进行描述已经无法满足信息化需求，拥有多个视角的真实数据在各类多媒体应用中变得十分常见。不同视图从不同角度描述了数据，但具有一致的语义信息。例如，一条新闻可以在不同网站上进行报道，一张图像上可以提取到不同的特征，人脸图像可以在不同的姿态，表情和饰物佩戴下进行拍摄等。对于多视角数据，需要采用多视角聚类算法，通过结合多个视角的特征信息，在不同的视图中搜索一致的簇，从而将相似的实例分到同组，相异的实例分到不同组。尽管每个单独的视角都可以用来独立完成一个学习任务，但不同的视图可以捕获多视角数据的互补特征，通过整合来自不同视图的补充信息，同时结合视图内的一致性和视图间的差异性来提高学习任务的准确率。

多视角聚类的研究都假设所有样本在不同视图中都具有特征信息。但是，在许多实际应用中，经常出现的情况是某些视图可能会遇到信息缺失的情况。比如在用户分析中，并不是所有人都会在社交网络上填写完整的个人信息。不完整的多视角聚类问题由此产生。为了解决这个问题，目前已经提出了一些方法。如果想要利用现有的多视角聚类算法，存在两种策略。第一种：移除有信息缺失的数据实例，使得所有剩余实例都在所有视图上拥有完整信息。这种策略对原始数据进行了删减，无法将所有数据进行聚类，已经违背了初始目标，显然不是一个好的选择。第二种：采用某种方式填充样本或邻接矩阵的缺失信息来进行数据预处理。如专利[CN 110135520 A]中引入了相似图补全技术和视角权重鉴别因子。但是在缺少先验条件的情况下，一方面对数据的恢复可能不准确，另一方面还有可能会引入噪声，从而影响聚类结果的准确性。并且现实情况中，当数据缺失的比率较高时，这类方法的性能会受到很大的影响。

因此，相比于应用多视角聚类方法，更好的选择是构建新的方法来处理不完整的多视角数据。其中矩阵分解类方法取得了较好的效果。这类方法通过构建子空间来同时为完整和不完整样例学习统一的潜在子空间表示。文献[S.Li,Y.Jiang,and Z.Zhou.PartialMulti-View Clustering.In AAAI,2014,pages1968–1974.]中首先提出了一种能够处理每个视图都有信息缺失情况的算法。该算法基于非负矩阵分解(NMF)进行建模，并将各视角下的数据都投影到统一的潜在子空间，做出了先驱性尝试，为这一问题的解决提供了基础思路，很多后续方法都从中得到启发并进行延伸。例如，文献[H.Zhao,H.Liu,and Y.Fu,Incomplete multi-modal visual data grouping,In IJCAI,2016,pages 2392–2398.]在潜在空间又引入了图的拉普拉斯项。然而基于NMF的方法无法处理带有负特征的数据，因此一些基于矩阵分解的方法被提出。

现有方法中仅仅简单地使用矩阵分解是无法得到满意的潜在子空间的，还需要跟随一系列的具体约束。如专利[CN110458241A]中的信息修复模块，样本生成与选择模块等。然而在单层目标函数中同时使用分解与多种正则化项来实现以上多种功能不仅使得目标函数冗长复杂，不易理解，更使得推导过程不易收敛。要求完整样本存在或针对两视角数据设计的算法也限制了他们的应用范围。更重要的是，以往的方法忽略了完整和不完整样本对于构建子空间的不同贡献程度，导致难以获得合理的基矩阵，从而影响了潜在表示的准确性。

发明内容

为克服上述问题，本发明提供了一种不要求完整样例存在，能够适用于任意视角数目与任意缺失情况的不完整多视角聚类方法。该方法通过建立上下两层子目标函数来分别对跨多视角样例与单视角样例进行建模，并分别添加各层的正则化项。通过对双层结果的加权来联合学习分解后的基矩阵与潜在表示。在此过程中，下层子优化问题作为上层问题的约束，使整个问题更有可能找到精确的解。同时，上下两层之间的权重参数可以根据数据实际缺失情况进行调整，使得建模更具有物理意义。

本发明提出的基于加权联合分解的不完整多视角聚类方法，整体流程总结如图1。具体技术方案的步骤如下：

步骤一：收集多视角数据并对各视角进行预处理，完成特征提取。具体包括：对采集的样本数据进行预处理，根据每个视角特点分别提取样本的多种特征，得到各视角的数据矩阵X⁽¹⁾，X⁽²⁾，…，X^(v)。分别用n_v和d_v表示第v个视角的数据的数量和特征维度。以两视角为例对数据进行说明，输入的数据X按照数据的完整性来进行分割，有

其中，

代表两个视角中都有特征信息的完整数据，又按照视角分为

和

和

则分别代表仅在第一或第二个视角下有特征信息的样本。假设这三类样本的数量分别为c，m，和n，那么有

N＝c+m+n。

步骤二：基于本发明提出的方法，学习数据的子空间与低维潜在表示：通过加权平均迭代策略求解各视角间一致的低维表示。具体包括：

给定数据

聚类数量t，参数{λ_c，λ₁，λ₂，β_c，β₁，β₂，α₁，α₂}。

①初始化：随机初始化各层基矩阵U⁽ⁱ⁾与表示矩阵

P_c，使得

②固定U⁽¹⁾和U⁽²⁾，求解下述方程以更新P_c：

其中D_c，k为对角矩阵，内部元素

向量P_c，k(j，：)是矩阵P_c，k的第j行。

③固定P_c，依次更新上层U⁽¹⁾和U⁽²⁾，分别记为H⁽¹⁾和H⁽²⁾。

的更新准则为：

其中I_t为t阶单位阵。

④固定U⁽¹⁾和U⁽²⁾，分别求解下述方程以更新

其中

为对角矩阵，内部元素

向量

代表矩阵

的第j行。

⑤固定

依次更新下层U⁽¹⁾和U⁽²⁾，分别记为L⁽¹⁾和L⁽²⁾。

的更新准则为：

⑥结合上下两层的结果，加权更新U⁽¹⁾和U⁽²⁾。

的更新准则为：

⑦判断是否满足收敛条件。收敛则结束迭代，否则继续循环②～⑦，直至收敛或迭代次数超过预设最大值，强制终止迭代。输出各视角的基矩阵U⁽¹⁾和U⁽²⁾，以及样本的统一低维潜在表示

步骤三：将学习到的表示做归一化处理，采用单视角聚类方法获取聚类结果。具体包括：对学习到的低维潜在表示P做行归一化处理，令其代表原始样本。利用传统单视角聚类方法，如K-means，谱聚类等，将N个样本划分至t个类别，获得标签向量

本发明的有益效果是：

1)本发明提出一种基于双层加权联合分解的不完整多视角聚类方法，可以适用于任意视角和任意缺失情况。在联合分解的过程中充分考虑了多视角样本与单视角样本对子空间划分的不同贡献，并根据现实的缺失比例灵活调节两者比重。

2)本发明采用双层结构，利用上下两层子问题分别对跨多视角的样本和单视角样本建模。与单层目标函数相比，在物理层面上更易于理解，在优化层面上更有可能找到精确的解，同时存在收敛的推导过程。

附图说明

图1为本发明实施实例方案流程图；

图2为本发明原理示意图；

图3为本发明更新流程图；

图4为本发明应用示例图；

图5为本发明在三视角数据样本上的应用实例。

具体实施方式

本发明基于双层加权联合分解，挖掘不完整多视角数据的内在关系，以找到复杂高维数据所对应的统一低维表示。具体实施方案流程如图1，操作如下：

第一步，对采集的多视角样本数据进行预处理，根据每个视角特点分别提取样本的多种特征，得到各视角的数据矩阵X⁽¹⁾，X⁽²⁾，…，X^(v)。各视角间相互独立，分别用n_v和d_v表示第v个视角的数据的数量和特征维度。以两视角为例，将输入数据X按照完整性进行分割，可得：

其中，

代表两个视角中都有特征信息的完整数据，又按照视角分为

和

和

则分别代表仅在第一个视角或第二个视角下有特征信息的样本。假设这三类样本的数量分别为c，m，和n，那么有

N＝c+m+n。

第二步，基于本发明提出的方法，学习数据的子空间与低维潜在表示并通过加权平均迭代策略进行求解。本发明原理示意图如图2所示。将数据按照完整度划分为跨多视角的

和单一视角的

同时给定聚类数量t，参数λ＝{λ_c，λ₁，λ₂}，β＝{β_c，β₁，β₂}，α＝{α₁，α₂}。(经实验验证，一组同名参数可设为相同数值，即λ_c＝λ₁＝λ₂)。我们记

在两个视角下的潜在表示分别为

和

由于

和

对应的是相同的样本，他们在两个视角下的聚类结果应当一致，而聚类结果又是从潜在表示中经过聚类算法直接得到的，因此样本在两个视角下的潜在表示应该相同，即

采用双层模型，因为跨多视角的数据采集到的特征信息比较丰富，结合多个视角的信息对于它们的划分会比较准确，因此采用占主导地位的上层问题来处理具多视角样本

采用下层的两个子问题分别处理只有单个视角信息的样本

和

所构造的目标函数如下：

其中

为矩阵分解中的基矩阵。

则为表示矩阵，分别代表了单视角样本的潜在表示。对于每个视角下的潜在表示矩阵：

它们都包含了多视角样本的表示矩阵P_c，同时又各自含有对应局部数据的表示矩阵

和

由此得到全部样本整体的潜在特征表示矩阵，无论它们原来是否在所有视角下都含有特征信息：

在这样的表示矩阵上直接应用K-means等聚类算法就可以得到最终的聚类结果。同时，因为L2，1范数的正则化约束具有行稀疏的特性，对噪声和异常值也具有鲁棒性，因此对潜在表示P使用此约束，使特征信息更加明显突出。关于各矩阵分解的范数

是为了使原数据矩阵和分解得到的基矩阵与表示矩阵的乘积之间的差距尽可能小，保证分解的准确性。而对基矩阵的F范数约束

和

则是为了避免平凡解的出现。相比于单层目标函数，本发明采用的双层建模方式保证了目标函数的简洁性和清晰性。同时下层子优化问题作为上层问题的约束，能够帮助缩小U的取值范围，使找到关于双层变量U的更精确的解成为可能。

为求解目标函数，本发明采用了加权平均迭代策略来寻求最优解，即求解某变量时，固定其他未知变量。图3给出了算法的更新过程。

1)初始化：随机初始化各层基矩阵U⁽ⁱ⁾与表示矩阵

P_c，使得

对于上层问题的更新：

2)固定U⁽¹⁾和U⁽²⁾，求解下述方程以更新P_c：

其中D_c，k为对角矩阵，内部元素

向量P_c，k(j，：)是矩阵P_c，k的第j行。

3)固定P_c，依次更新上层U⁽¹⁾和U⁽²⁾，分别记为H⁽¹⁾和H⁽²⁾。

的更新准则为：

其中I_t为t阶单位阵。

对于下层问题的更新：

4)固定U⁽¹⁾和U⁽²⁾，分别求解下述方程以更新

其中

为对角矩阵，内部元素

向量

代表矩阵

的第j行。

5)固定

依次更新下层U⁽¹⁾和U⁽²⁾，分别记为L⁽¹⁾和L⁽²⁾。

的更新准则为：

6)结合上下两层的结果，加权更新U⁽¹⁾和U⁽²⁾。

的更新准则为：

7)判断是否满足收敛条件。收敛则结束迭代，否则继续循环2)～7)步，直至收敛或迭代次数超过预设最大值，强制终止迭代。

根据上述迭代求解方法对变量进行更新，迭代结束后输出各视角的基矩阵U⁽¹⁾和U⁽²⁾，以及样本的统一低维潜在表示

迭代过程总结为算法1：

第三步，对学习到的低维潜在表示P做行归一化处理，令其代表原始样本。利用传统单视角聚类方法，如K-means，谱聚类等，将N个样本划分至t个类别，获得标签向量

图4展示了本发明在应用中的各步骤示例。

上述阐明的是基于两视角数据的目标函数及解法，进一步地，下面将阐述本方法在具有更多视角数目的样本数据上的适用性。对于包含V个视角的数据样本，记Ω为所有可能出现的多视角情况。以三视角为例，Ω包括以下四种类型：1.在第一，第二，第三视角下都存在特征的样本。2.仅在第一和第二视角下存在特征的样本。3.仅在第一和第三视角下存在特征的样本。4.仅在第二和第三视角下存在特征的样本。记W为Ω中的一种具体情况，w_i为其中涉及的视角。则当W代表在第二和第三视角下存在特征的样本时，w₁和w₂分别为2和3.关于W的分解为：

基于上述表示符号，本发明对含有更多视角数目的样本建模如下：

根据数据的不同特征，可分别为基矩阵和表示矩阵添加不同约束，此处采用p-范数和q-范数表示。图5给出了三视角数据的双层划分情况以及学习到的对应表示。无论数据多复杂，单视角的样本始终在下层进行建模分析。

综上所述，本发明公开了一种基于双层加权联合分解的多视角聚类方法，具有通用性，灵活性，能够有效提升样本低维表示的准确度和聚类性能。以上内容是结合具体的优选实施方式对本发明所作的详细说明，不能认定本发明的具体实施只局限于这些说明。对于本发明所属技术领域的技术人员来说，在不脱离本发明构思的前提下，做出的多种简单修改或替换，都应当视为属于本发明的保护范围。

Claims (5)

1.一种基于双层加权联合分解的多视角聚类方法，其特征在于，包括如下步骤：

步骤一：收集多视角数据并对各视角进行预处理，完成特征提取；

步骤二：基于双层模型结构学习数据的子空间与低维潜在表示，并通过加权平均迭代策略求解各视角间一致的低维表示；具体操作如下：

采用双层模型学习数据的子空间与低维潜在表示；对两视角数据，按照完整度划分为跨多视角的

和单一视角的

同时给定聚类数量t，参数λ＝{λ_c,λ₁,λ₂},β＝{β_c,β₁,β₂},α＝{α₁,α₂}；记

在两个视角下的潜在表示分别为

和

由于

和

对应的是相同的样本，在两个视角下的聚类结果应当一致，而聚类结果又是从潜在表示中经过聚类算法直接得到的，样本在两个视角下的潜在表示应该相同，即P_c ⁽¹⁾＝P_c ⁽²⁾＝P_c；采用双层模型，因为跨多视角的数据采集到的特征信息比较丰富，结合多个视角的信息对于它们的划分会比较准确，因此采用占主导地位的上层问题来处理具多视角样本

采用下层的两个子问题分别处理只有单个视角信息的样本

和

所构造的目标函数如下：

其中

为矩阵分解中的基矩阵；

和

则为表示矩阵，分别代表了单视角样本的潜在表示；对于每个视角下的潜在表示矩阵：

它们都包含了多视角样本的表示矩阵P_c，同时又各自含有对应局部数据的表示矩阵

和

由此可以得到全部样本整体的潜在特征表示矩阵，无论它们原来是否在所有视角下都含有特征信息：

对于更多视角的数据，其目标函数为：

其中Ω为所有可能出现的多视角情况，记W为Ω中的一种具体情况，w_i为其中涉及的视角；根据数据的不同特征，可分别为基矩阵和表示矩阵添加不同约束，此处采用p-范数和q-范数表示。

步骤三：将学习到的表示归一化，采用单视角聚类方法获取聚类结果；

2.根据权利要求1所述的基于双层加权联合分解的多视角聚类方法，其特征在于，第一步，对采集的多视角样本数据进行预处理，根据每个视角特点分别提取样本的多种特征，得到各视角的数据矩阵X⁽¹⁾，X⁽²⁾，…,X^(v)；各视角间相互独立，分别用n_v和d_v表示第v个视角的数据的数量和特征维度；对于两视角数据，将输入的数据X按照数据的完整性来进行分割，使得：

其中，

代表两个视角中都有特征信息的完整数据，又按照视角分为

和

和

则分别代表仅在第一个视角或第二个视角下有特征信息的样本；假设这三类样本的数量分别为c，m，和n，那么有

3.根据权利要求1或2所述的基于双层加权联合分解的多视角聚类方法，其特征在于，第二步，通过加权平均迭代求解各视角间一致的低维表示；具体包括：

给定数据

聚类数量t，参数{λ_c,λ₁,λ₂,β_c,β₁,β₂,α₁,α₂}；

①初始化：随机初始化各层基矩阵U⁽ⁱ⁾与表示矩阵

P_c，使得

②固定U⁽¹⁾和U⁽²⁾,求解下述方程以更新P_c：

其中D_c,k为对角矩阵，内部元素

向量P_c,k(j,∶)是矩阵P_c,k的第j行；

③固定P_c，依次更新上层U⁽¹⁾和U⁽²⁾，分别记为H⁽¹⁾和H⁽²⁾；

的更新准则为：

其中I_t为t阶单位阵；

④固定U⁽¹⁾和U⁽²⁾,分别求解下述方程以更新

其中

为对角矩阵，内部元素

向量

代表矩阵

的第j行；

⑤固定

依次更新下层U⁽¹⁾和U⁽²⁾，分别记为L⁽¹⁾和L⁽²⁾；

的更新准则为：

⑥结合上下两层的结果，加权更新U⁽¹⁾和U⁽²⁾；

的更新准则为：

⑦判断是否满足收敛条件；收敛则结束迭代，否则继续循环②～⑦，直至收敛或迭代次数超过预设最大值，强制终止迭代；输出各视角的基矩阵U⁽¹⁾和U⁽²⁾，以及样本的统一低维潜在表示

4.根据权利要求1或2所述的基于双层加权联合分解的不完整多视角聚类方法，其特征在于，第三步，对学习到的低维潜在表示P做行归一化处理，令其代表原始样本；利用传统单视角聚类方法，如K-means，谱聚类等，将N个样本划分至t个类别，获得标签向量

5.根据权利要求3所述的基于双层加权联合分解的不完整多视角聚类方法，其特征在于，第三步，对学习到的低维潜在表示P做行归一化处理，令其代表原始样本；利用传统单视角聚类方法，如K-means，谱聚类等，将N个样本划分至t个类别，获得标签向量

Images