CN113705674B - 一种非负矩阵分解聚类方法、装置及可读存储介质 - Google Patents

一种非负矩阵分解聚类方法、装置及可读存储介质 Download PDF

Info

Publication number
CN113705674B
CN113705674B CN202110997053.5A CN202110997053A CN113705674B CN 113705674 B CN113705674 B CN 113705674B CN 202110997053 A CN202110997053 A CN 202110997053A CN 113705674 B CN113705674 B CN 113705674B
Authority
CN
China
Prior art keywords
matrix
clustering
data
dimensional
negative
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202110997053.5A
Other languages
English (en)
Other versions
CN113705674A (zh
Inventor
张斌
李瑞瑜
郭宇
张雪涛
王飞
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Xian Jiaotong University
Original Assignee
Xian Jiaotong University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Xian Jiaotong University filed Critical Xian Jiaotong University
Priority to CN202110997053.5A priority Critical patent/CN113705674B/zh
Publication of CN113705674A publication Critical patent/CN113705674A/zh
Application granted granted Critical
Publication of CN113705674B publication Critical patent/CN113705674B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/23—Clustering techniques
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/23—Clustering techniques
    • G06F18/232—Non-hierarchical techniques
    • G06F18/2321—Non-hierarchical techniques using statistics or function optimisation, e.g. modelling of probability density functions
    • G06F18/23213—Non-hierarchical techniques using statistics or function optimisation, e.g. modelling of probability density functions with fixed number of clusters, e.g. K-means clustering
    • Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02T—CLIMATE CHANGE MITIGATION TECHNOLOGIES RELATED TO TRANSPORTATION
    • Y02T10/00—Road transport of goods or passengers
    • Y02T10/10—Internal combustion engine [ICE] based vehicles
    • Y02T10/40—Engine management systems

Landscapes

  • Engineering & Computer Science (AREA)
  • Data Mining & Analysis (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Artificial Intelligence (AREA)
  • Evolutionary Biology (AREA)
  • Evolutionary Computation (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
  • Image Analysis (AREA)

Abstract

一种非负矩阵分解聚类方法、装置及可读存储介质，方法包括以下步骤：将输入数据映射到高维非线性空间；自适应学习高维非线性空间下数据的潜在拓扑关系，获得样本间的邻接矩阵，并以拓扑关系约束高维映射数据的非负分解结果矩阵，完成高维空间下子流形的聚类；通过分解非线性映射的样本矩阵得到系数矩阵，作为聚类标签，使用高维非线性空间下自适应学习得到的流形结构对其进行约束，获取高维非线性空间下的聚类结果。本发明还提供一种非负矩阵分解聚类装置及可读存储介质。本发明能够挖掘非负矩阵分解自身在数据中潜在的聚类特性，直接利用核技巧将数据高维映射特征的相似性结构信息应用于数据聚类，提升了数据聚类精度。

Description

一种非负矩阵分解聚类方法、装置及可读存储介质
技术领域
本发明属于计算机技术领域，具体涉及一种非负矩阵分解聚类方法、装置及可读存储介质。
背景技术
在模式识别、数据挖掘和机器学习中，聚类能够获得数据的分布状况和簇的数据特征。聚类任务的关键是找到原始数据的内在结构信息，并使这种有效表示形式更具有区分度。现有的针对不同任务开发出来的谱聚类、K-means等很多聚类方法都在一定程度上依赖于数据的相似性衡量。
非负矩阵分解(NMF)作为图像处理的数据降维和特征提取中十分有效的方法，已经广泛应用于图像分析、语音处理、文本挖掘和聚类等领域。NMF通过找到两个乘积接近原始数据的非负矩阵来表达基于部分的数据，只允许对数据的加法组合。区别于含有负值分解结果(例如奇异值分解SVD，主成分分析PCA、独立成分分析ICA等)的矩阵分解方法在可解释性上的局限性，NMF的价值体现在对多元数据的分解是非负的，具有实现上的简便性、分解形式和分解结果上的可解释性。
由于非负矩阵分解本身潜在的聚类表征，研究者们提出了图正则化非负矩阵分解(GNMF)应用于聚类任务，利用数据的邻域关系作为图正则化对NMF加以几何结构信息。但是GNMF只能获取两个数据点之间的成对关系，而忽略了数据的非线性特征。因此，也有研究者提出了基于kernel的图正则化NMF(KNMF)，在非线性NMF更新期间约束聚类矩阵的正交性，利用流形的非线性性质及其局部几何结构改善了聚类性能。
尽管上述方法运用了非负矩阵分解与聚类方法的等效性来完成聚类任务，但是，现有的大部分基于非负矩阵分解的图正则化方法通常都预先定义图邻接矩阵，进而对分解得到的系数矩阵进行约束完成聚类过程，因此忽略了一些相似性结构信息能够带来的价值，导致聚类性能欠佳。同时这些方法在目前并没有较好的邻居数或半径的确定方法，其度量方式通常取决于数据并且对噪声敏感。即使在一些最新的非负矩阵分解聚类方法中使用了图学习以获取相似信息来取代直接构造的图，但这些方法也通常是将相似性度量和数据聚类作为两个步骤执行的，因此无法获得最适用于聚类指标的相似信息。
发明内容
本发明的目的在于提供一种非负矩阵分解聚类方法、装置及可读存储介质，解决上述现有技术应用于聚类中无法自适应保留原始数据相似性结构信息以及易受噪声影响而导致的性能精度不稳定等问题。
为了实现上述目的，本发明有如下的技术方案：
第一方面，本发明的实施例提供一种非负矩阵分解聚类方法，包括以下步骤：
将输入数据映射到高维非线性空间；
自适应学习高维非线性空间下数据的潜在拓扑关系，获得样本间的邻接矩阵，并以拓扑关系约束高维映射数据的非负分解结果矩阵，完成高维空间下子流形的聚类；
通过分解非线性映射的样本矩阵得到系数矩阵，作为聚类标签，使用高维非线性空间下自适应学习得到的流形结构对其进行约束，获取高维非线性空间下的聚类结果。
作为本发明非负矩阵分解聚类方法的一种优选方案，所述的自适应学习高维非线性空间下数据集的潜在拓扑关系，获得样本间的邻接矩阵具体包括：
使用全局结构保留方法映射子空间与原高维非线性空间的结构相似度进行获取。
作为本发明非负矩阵分解聚类方法的一种优选方案，对于任意给定的一个非负矩阵X∈Rm×n，其中m和n分别对应这个矩阵的行和列；则按照下式在数据集X上对数据进行核映射和非负矩阵分解以获得基于原始图像的表示形式：
式中，H为非负的系数矩阵，F为映射空间中的基矩阵。
作为本发明非负矩阵分解聚类方法的一种优选方案，对输入数据映射出的矩阵构建相似图S以保留对应的核相似性，通过将每个数据编码为其他样本的加权组合来表示两个样本之间的相似性，构造表达式如下：
式中，γ和μ是权衡参数，S为相似性矩阵，项用于防止出现平凡解。
作为本发明非负矩阵分解聚类方法的一种优选方案，由相似性矩阵构造具有局部数据结构信息的图正则化项，测量每两个样本之间的距离，并根据相似性矩阵来衡量两个样本；如果数据分布的原始几何图形中彼此接近，则两个点的低维表示形式也彼此接近。
作为本发明非负矩阵分解聚类方法的一种优选方案，通过求解下式添加图正则化项：
将上式转化为矩阵迹形式如下：
minβTr(HTLSH)s.t.H≥0,S≥0
式中，β为图正则化项参数，L为拉普拉斯矩阵，L＝D-S，D为对角线矩阵，其对角线元素为S的对角线元素。
作为本发明非负矩阵分解聚类方法的一种优选方案，所述的使用高维非线性空间下自适应学习得到的子流形结构对其进行约束，获取高维非线性空间下的聚类结果具体包括：
将非负矩阵分解目标式、全局结构图学习目标式以及学习图正则化项联合，建立总体优化目标函数如下：
s.t.F≥0,H≥0,S≥0
定义核矩阵则对于内核空间的子空间元素/>被表示为：
因此，上述联合建立的总体优化目标函数使用核技巧展开为：
作为本发明非负矩阵分解聚类方法的一种优选方案，对于提出的损失函数通过交替迭代求解的方法，对每个变量求出局部最优解，进行迭代优化。
第二方面，本发明实施例还提出一种非负矩阵分解聚类装置，包括：
映射模块，用于将输入数据映射到高维非线性空间；
自适应学习模块，用于自适应学习高维非线性空间下数据的潜在拓扑关系，获得样本间的邻接矩阵，并以拓扑关系约束高维映射数据的非负分解结果矩阵，完成高维空间下子流形的聚类；
分解聚类模块，用于通过分解非线性映射的样本矩阵得到系数矩阵，作为聚类标签，使用高维非线性空间下自适应学习得到的流形结构对其进行约束，获取高维非线性空间下的聚类结果。
第三方面，本发明实施例还提出一种计算机可读存储介质，存储有计算机程序，所述计算机程序被处理器执行时实现所述非负矩阵分解聚类方法中的步骤。
相较于现有技术，本发明第一方面至少具有如下的有益效果：利用了核非负矩阵分解对于数据本身的可解释性价值，能够挖掘非负矩阵分解自身在数据中潜在的聚类特性，基于核的相似性保留聚类方法能够自适应学习数据的全局结构信息。同时本发明基于全局结构信息学习图取代其他传统方法直接构造的图邻接矩阵和对应拉普拉斯矩阵作为正则化项的步骤，直接利用核技巧将数据高维映射特征的相似性结构信息应用于数据聚类，改进了分步执行相似性度量和数据聚类两个步骤导致无法得到最优聚类结果的缺点，提升了数据聚类精度。此外，本发明在迭代过程中还可以根据局部最优解迭代更新，提高了稳定性。
可以理解的是，上述第二方面至第三方面的有益效果可以参见上述第一方面中的相关描述，在此不再赘述。
附图说明
为了更清楚地说明本申请实施例中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本申请的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动性的前提下，还可以根据这些附图获得其他的附图。
图1本发明非负矩阵分解聚类方法模型构建过程原理图；
图2本发明非负矩阵分解聚类方法在各个数据集的收敛情况曲线图：
(a)Dermatology数据集；(b)Glass数据集；(c)JAFFE数据集；(d)YALE数据集；
(e)soybean数据集；(f)Vehicle数据集；(g)TDT2_10数据集；
图3本发明非负矩阵分解聚类方法在各个数据集相较于其他算法聚类性能的准确率(ACC)结果对比图：(a)Dermatology数据集；(b)Glass数据集；(c)JAFFE数据集；(d)YALE数据集；(e)soybean数据集；(f)Vehicle数据集；(g)TDT2_10数据集。
具体实施方式
以下描述中，为了说明而不是为了限定，提出了诸如特定系统结构、技术之类的具体细节，以便透彻理解本申请实施例。然而，本领域的技术人员应当清楚，在没有这些具体细节的其它实施例中也可以实现本申请。在其它情况中，省略对众所周知的系统、装置、电路以及方法的详细说明，以免不必要的细节妨碍本申请的描述。另外，在本申请说明书和所附权利要求书的描述中，术语“第一”、“第二”、“第三”等仅用于区分描述，而不能理解为指示或暗示相对重要性。
本发明提出的非负矩阵分解聚类方法是一种将从数据高维非线性映射特征学习到的几何结构应用于图正则化的非负矩阵分解聚类方法，通过分解非线性映射的输入数据矩阵来建立kernel与聚类的等效性，并将流形结构与核非负矩阵分解相结合，考虑了同步使用图学习获取内核矩阵携带的相似信息作为聚类指标，由此具备优化之后的流形的非线性性质和局部几何结构，使得通过kernel协同图结构信息的非负矩阵分解能够对聚类性能加以改善。
参见图1，本发明非负矩阵分解聚类方法的一种实施例，包括以下步骤：
S1、将输入数据映射到高维非线性空间；
S2、自适应学习高维非线性空间下数据的潜在拓扑关系，获得样本间的邻接矩阵，并以拓扑关系约束高维映射数据的非负分解结果矩阵，完成高维空间下子流形的聚类；
对于任意给定的一个非负矩阵X∈Rm×n，其中m和n分别对应这个矩阵的行和列；则按照下式在数据集X上对数据进行核映射和非负矩阵分解以获得基于原始图像的表示形式：
式中，H为非负的系数矩阵，F为映射空间中的基矩阵。
使用全局结构保留方法映射子空间与原高维非线性空间的结构相似度进行获取。对输入数据映射出的矩阵构建相似图S以保留对应的核相似性，通过将每个数据编码为其他样本的加权组合来表示两个样本之间的相似性，构造表达式如下：
式中，γ和μ是权衡参数，S为相似性矩阵，项用于防止出现平凡解。
通过相似性矩阵构造具有局部数据结构信息的图正则化项，测量每两个样本之间的距离，并根据相似性矩阵来衡量两个样本；如果数据分布的原始几何图形中彼此接近，则两个点的低维表示形式也彼此接近。因此，通过求解下式来添加图正则化项：
将上式转化为矩阵迹形式如下：
minβTr(HTLSH)s.t.H≥0,S≥0
式中，β为图正则化项参数，L为拉普拉斯矩阵，L＝D-S，D为对角线矩阵，其对角线元素为S的对角线元素。
S3、通过分解非线性映射的样本矩阵得到系数矩阵，作为聚类标签，使用高维非线性空间下自适应学习得到的流形结构对其进行约束，获取高维非线性空间下的聚类结果。
将非负矩阵分解目标式、全局结构图学习目标式以及学习图正则化项联合，建立总体优化目标函数如下：
s.t.F≥0,H≥0,S≥0
定义核矩阵则对于内核空间的子空间元素/>被表示为：
因此，上述联合建立的总体优化目标函数使用核技巧展开为：
对于上述提出的损失函数本发明通过迭代优化的方法，对每个变量求出局部最优解，进而进行迭代优化，能够基于图学习，在保留几何结构的相似性数据中进行矩阵非负因式分解，以解决子空间聚类问题。
本发明非负矩阵分解聚类方法的另一实施例，包括以下步骤：
步骤一：加载数据集，得到原高维特征矩阵X，并得到所有样本的类别向量Y。设置参数β、γ、μ，通常设为[1,10,100]。设置kernel参数σ和聚类簇数k。
步骤二：随机初始化基矩阵F和系数矩阵H。
步骤三：利用X，通过两点间的欧氏距离和给定的参数σ初始化相似矩阵S。
步骤四：根据L＝D-S初始化计算X的拉普拉斯矩阵L，其中D为X的度矩阵，S为图的相似矩阵。
步骤五：由原数据中的X，Y和给定的参数σ获得核
步骤六：根据核和拉普拉斯矩阵L，采用拉格朗日算子对F，H进行优化。
步骤七：根据H核对S进行迭代更新，直到S收敛。
步骤八：循环步骤四到步骤七，直至S，F，H收敛。
步骤九：采用k均值算法对得到的特征矩阵H进行聚类，并根据聚类结果计算聚类正确率(ACC)。
参见图2和图3，针对Dermatology数据集、Glass数据集、JAFFE数据集、YALE数据集、soybean数据集、Vehicle数据集以及TDT2_10数据集，验证了本发明方法的收敛情况，同时对比了Kmeans算法、NMF算法、GNMF算法、CAN算法、RCut算法、NCut算法、KOGNMF算法、SPC算法，表1给出了本发明非负矩阵分解聚类方法在七个公开数据集上的对比实验结果。表1中使用的聚类评价指标为聚类准确率(ACC)。
在表1中，最后一列是本发明聚类方法在各个数据集上的聚类性能，第二列是K均值聚类算法的结果，第三列和第四列是经典非负矩阵分解算法NMF和GNMF算法的聚类结果，第五列和倒数第二列为相似信息保留方法CAN和SPC的聚类结果，第六列和第七列为基于核的非负谱聚类方法的聚类结果。在这个表中，主要对比标准为最优精度，其中各方法在各个数据集上最好的结果用粗体显示，括号中的数据表示为同等参数条件下运行20次的平均结果。在7个公开的数据集上对算法进行测试并与其他几种优秀的非负矩阵分解算法和相似信息保留方法进行比较，结果能够验证自适应非线性拓扑图约束的非负矩阵分解方法的有效性。
表1
本发明另一实施例提出一种非负矩阵分解聚类装置，包括：
映射模块，用于将输入数据映射到高维非线性空间；
自适应学习模块，用于自适应学习高维非线性空间下数据的潜在拓扑关系，获得样本间的邻接矩阵，并以拓扑关系约束高维映射数据的非负分解结果矩阵，完成高维空间下子流形的聚类；
分解聚类模块，用于通过分解非线性映射的样本矩阵得到系数矩阵，作为聚类标签，使用高维非线性空间下自适应学习得到的流形结构对其进行约束，获取高维非线性空间下的聚类结果。
本发明另一实施例还提出一种计算机可读存储介质，存储有计算机程序，所述计算机程序被处理器执行时实现所述非负矩阵分解聚类方法中的步骤。
示例性的，所述的计算机程序可以被分割成一个或多个模块/单元，所述一个或者多个模块/单元被存储在计算机可读存储介质中，并由所述处理器执行，以完成本申请所述自监督单目相机深度估计方法中的步骤。所述一个或多个模块/单元可以是能够完成特定功能的一系列计算机可读指令段，该指令段用于描述所述计算机程序在服务器中的执行过程。
所述服务器可以是智能手机、笔记本、掌上电脑及云端服务器等计算设备。所述服务器可包括，但不仅限于，处理器、存储器。本领域技术人员可以理解，所述服务器还可以包括更多或更少的部件，或者组合某些部件，或者不同的部件，例如所述服务器还可以包括输入输出设备、网络接入设备、总线等。
所述处理器可以是中央处理单元(CentraL Processing Unit，CPU)，还可以是其他通用处理器、数字信号处理器(DigitaL SignaL Processor，DSP)、专用集成电路(AppLication Specific Integrated Circuit，ASIC)、现成可编程门阵列(FieLd-ProgrammabLe Gate Array，FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。
所述存储器可以是所述服务器的内部存储单元，例如服务器的硬盘或内存。所述存储器也可以是所述服务器的外部存储设备，例如所述服务器上配备的插接式硬盘，智能存储卡(Smart Media Card,SMC)，安全数字(Secure DigitaL,SD)卡，闪存卡(FLash Card)等。进一步地，所述存储器还可以既包括所述服务器的内部存储单元也包括外部存储设备。所述存储器用于存储所述计算机可读指令以及所述服务器所需的其他程序和数据。所述存储器还可以用于暂时地存储已经输出或者将要输出的数据。
需要说明的是，上述装置/单元之间的信息交互、执行过程等内容，由于与方法实施例基于同一构思，其具体功能及带来的技术效果，具体可参见方法实施例部分，此处不再赘述。
所属领域的技术人员可以清楚地了解到，为了描述的方便和简洁，仅以上述各功能单元、模块的划分进行举例说明，实际应用中，可以根据需要而将上述功能分配由不同的功能单元、模块完成，即将所述装置的内部结构划分成不同的功能单元或模块，以完成以上描述的全部或者部分功能。实施例中的各功能单元、模块可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个单元中，上述集成的单元既可以采用硬件的形式实现，也可以采用软件功能单元的形式实现。另外，各功能单元、模块的具体名称也只是为了便于相互区分，并不用于限制本申请的保护范围。上述系统中单元、模块的具体工作过程，可以参考前述方法实施例中的对应过程，在此不再赘述。
所述集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读取存储介质中。基于这样的理解，本申请实现上述实施例方法中的全部或部分流程，可以通过计算机程序来指令相关的硬件来完成，所述的计算机程序可存储于一计算机可读存储介质中，该计算机程序在被处理器执行时，可实现上述各个方法实施例的步骤。其中，所述计算机程序包括计算机程序代码，所述计算机程序代码可以为源代码形式、对象代码形式、可执行文件或某些中间形式等。所述计算机可读介质至少可以包括：能够将计算机程序代码携带到拍照装置/终端设备的任何实体或装置、记录介质、计算机存储器、只读存储器(ROM，Read-Only Memory)、随机存取存储器(RAM，RandomAccess Memory)、电载波信号、电信信号以及软件分发介质。例如U盘、移动硬盘、磁碟或者光盘等。
在上述实施例中，对各个实施例的描述都各有侧重，某个实施例中没有详述或记载的部分，可以参见其它实施例的相关描述。
以上所述实施例仅用以说明本申请的技术方案，而非对其限制；尽管参照前述实施例对本申请进行了详细的说明，本领域的普通技术人员应当理解：其依然可以对前述各实施例所记载的技术方案进行修改，或者对其中部分技术特征进行等同替换；而这些修改或者替换，并不使相应技术方案的本质脱离本申请各实施例技术方案的精神和范围，均应包含在本申请的保护范围之内。

Claims (3)

1.一种非负矩阵分解聚类方法，其特征在于，包括以下步骤：
将输入数据映射到高维非线性空间；
自适应学习高维非线性空间下数据的潜在拓扑关系，获得样本间的邻接矩阵，并以拓扑关系约束高维映射数据的非负分解结果矩阵，完成高维空间下子流形的聚类；
通过分解非线性映射的样本矩阵得到系数矩阵，作为聚类标签，使用高维非线性空间下自适应学习得到的流形结构对其进行约束，获取高维非线性空间下的聚类结果；
对于任意给定的一个非负矩阵X∈Rm×n，其中m和n分别对应这个矩阵的行和列；则按照下式在数据集X上对数据进行核映射和非负矩阵分解以获得基于原始图像的表示形式：
式中，H为非负的系数矩阵，F为映射空间中的基矩阵；
使用全局结构保留方法映射子空间与原高维非线性空间的结构相似度，对输入数据映射出的矩阵构建相似图S以保留对应的核相似性，通过将每个数据编码为其他样本的加权组合来表示两个样本之间的相似性，构造表达式如下：
式中，γ和μ是权衡参数，S为相似性矩阵，项用于防止出现平凡解；
由相似性矩阵构造具有局部数据结构信息的图正则化项，测量每两个样本之间的距离，并根据相似性矩阵来衡量两个样本；如果数据分布的原始几何图形中彼此接近，则两个点的低维表示形式也彼此接近；
通过求解下式添加图正则化项：
将上式转化为矩阵迹形式如下：
min βTr(HTLSH)s.t.H≥0,S≥0
式中，β为图正则化项参数，L为拉普拉斯矩阵，L＝D-S，D为对角线矩阵，其对角线元素为S的对角线元素；
将非负矩阵分解目标式、全局结构图学习目标式以及学习图正则化项联合，建立总体优化目标函数如下：
s.t.F≥0,H≥0,S≥0
定义核矩阵则对于内核空间的子空间元素/>被表示为：
因此，上述联合建立的总体优化目标函数使用核技巧展开为：
对于提出的损失函数通过交替迭代求解的方法，对每个变量求出局部最优解，进行迭代优化，能够基于图学习，在保留几何结构的相似性数据中进行矩阵非负因式分解，以解决子空间聚类问题。
2.一种非负矩阵分解聚类装置，其特征在于，用于实现权利要求1所述的非负矩阵分解聚类方法，包括：
映射模块，用于将输入数据映射到高维非线性空间；
自适应学习模块，用于自适应学习高维非线性空间下数据的潜在拓扑关系，获得样本间的邻接矩阵，并以拓扑关系约束高维映射数据的非负分解结果矩阵，完成高维空间下子流形的聚类；
分解聚类模块，用于通过分解非线性映射的样本矩阵得到系数矩阵，作为聚类标签，使用高维非线性空间下自适应学习得到的流形结构对其进行约束，获取高维非线性空间下的聚类结果。
3.一种计算机可读存储介质，存储有计算机程序，其特征在于，所述计算机程序被处理器执行时实现如权利要求1所述非负矩阵分解聚类方法中的步骤。
CN202110997053.5A 2021-08-27 2021-08-27 一种非负矩阵分解聚类方法、装置及可读存储介质 Active CN113705674B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202110997053.5A CN113705674B (zh) 2021-08-27 2021-08-27 一种非负矩阵分解聚类方法、装置及可读存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202110997053.5A CN113705674B (zh) 2021-08-27 2021-08-27 一种非负矩阵分解聚类方法、装置及可读存储介质

Publications (2)

Publication Number Publication Date
CN113705674A CN113705674A (zh) 2021-11-26
CN113705674B true CN113705674B (zh) 2024-04-05

Family

ID=78656147

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202110997053.5A Active CN113705674B (zh) 2021-08-27 2021-08-27 一种非负矩阵分解聚类方法、装置及可读存储介质

Country Status (1)

Country Link
CN (1) CN113705674B (zh)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN115995011B (zh) * 2022-12-07 2023-07-07 湖南工商大学 基于图正则化的非线性正交非负矩阵分解图像聚类方法
CN116628614A (zh) * 2023-05-31 2023-08-22 深圳市云天数字能源有限公司 一种储能电站性能异常检测的方法、装置及相关存储介质

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP2112603A2 (en) * 2008-04-25 2009-10-28 Xerox Corporation Clustering using non-negative matrix factorization on sparse graphs
CN108415883A (zh) * 2018-02-13 2018-08-17 中国科学院西安光学精密机械研究所 基于子空间聚类的凸非负矩阵分解方法
WO2020010602A1 (zh) * 2018-07-13 2020-01-16 深圳大学 一种非线性非负矩阵分解人脸识别构建方法、系统及存储介质
CN111191719A (zh) * 2019-12-27 2020-05-22 北京工业大学 一种基于自表示和图谱约束的非负矩阵分解的图像聚类方法

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8515879B2 (en) * 2010-08-11 2013-08-20 Seiko Epson Corporation Supervised nonnegative matrix factorization

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP2112603A2 (en) * 2008-04-25 2009-10-28 Xerox Corporation Clustering using non-negative matrix factorization on sparse graphs
CN108415883A (zh) * 2018-02-13 2018-08-17 中国科学院西安光学精密机械研究所 基于子空间聚类的凸非负矩阵分解方法
WO2020010602A1 (zh) * 2018-07-13 2020-01-16 深圳大学 一种非线性非负矩阵分解人脸识别构建方法、系统及存储介质
CN111191719A (zh) * 2019-12-27 2020-05-22 北京工业大学 一种基于自表示和图谱约束的非负矩阵分解的图像聚类方法

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
基于图正则化和稀疏约束的半监督非负矩阵分解;姜小燕;孙福明;李豪杰;;计算机科学(第07期);全文 *
基于稀疏约束非负矩阵分解的K-Means聚类算法;韩素青;贾茹;;数据采集与处理(第06期);全文 *

Also Published As

Publication number Publication date
CN113705674A (zh) 2021-11-26

Similar Documents

Publication Publication Date Title
Brbić et al. Multi-view low-rank sparse subspace clustering
Sharma et al. A feature selection method using improved regularized linear discriminant analysis
CN113705674B (zh) 一种非负矩阵分解聚类方法、装置及可读存储介质
CN111079780B (zh) 空间图卷积网络的训练方法、电子设备及存储介质
Shao et al. Deep linear coding for fast graph clustering
Chakraborty et al. Simultaneous variable weighting and determining the number of clusters—A weighted Gaussian means algorithm
CN110188825B (zh) 基于离散多视图聚类的图像聚类方法、系统、设备及介质
Wang et al. A conscience on-line learning approach for kernel-based clustering
CN112529068B (zh) 一种多视图图像分类方法、系统、计算机设备和存储介质
Cao et al. Local information-based fast approximate spectral clustering
Chen et al. LABIN: Balanced min cut for large-scale data
Wang et al. Region-aware hierarchical latent feature representation learning-guided clustering for hyperspectral band selection
Bora et al. Clustering approach towards image segmentation: an analytical study
CN111062428A (zh) 一种高光谱图像的聚类方法、系统及设备
CN111539910B (zh) 锈蚀区域检测方法及终端设备
CN116186522A (zh) 大数据核心特征提取方法、电子设备及存储介质
CN111178196B (zh) 一种细胞分类的方法、装置及设备
Safarinejadian et al. A distributed EM algorithm to estimate the parameters of a finite mixture of components
Zhang et al. Efficient and effective nonconvex low-rank subspace clustering via SVT-free operators
CN110083731B (zh) 图像检索方法、装置、计算机设备及存储介质
CN114974421A (zh) 基于扩散-降噪的单细胞转录组测序数据补插方法及系统
Wang et al. Nonlinear clustering: methods and applications
CN108388869B (zh) 一种基于多重流形的手写数据分类方法及系统
Liu et al. Color image segmentation using nonparametric mixture models with multivariate orthogonal polynomials
Dan et al. Multifeature energy optimization framework and parameter adjustment-based nonrigid point set registration

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant