CN113033602B - 一种基于张量低秩稀疏表示的图像聚类方法 - Google Patents
一种基于张量低秩稀疏表示的图像聚类方法 Download PDFInfo
- Publication number
- CN113033602B CN113033602B CN202110158280.9A CN202110158280A CN113033602B CN 113033602 B CN113033602 B CN 113033602B CN 202110158280 A CN202110158280 A CN 202110158280A CN 113033602 B CN113033602 B CN 113033602B
- Authority
- CN
- China
- Prior art keywords
- tensor
- optimization problem
- follows
- clustering method
- image clustering
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
- 238000000034 method Methods 0.000 title claims abstract description 42
- 238000005457 optimization Methods 0.000 claims description 54
- 230000006870 function Effects 0.000 claims description 32
- 239000000126 substance Substances 0.000 claims description 17
- 230000003190 augmentative effect Effects 0.000 claims description 15
- 239000011159 matrix material Substances 0.000 claims description 14
- 230000008569 process Effects 0.000 claims description 8
- 239000013598 vector Substances 0.000 claims description 5
- 238000000354 decomposition reaction Methods 0.000 claims description 4
- 230000008602 contraction Effects 0.000 claims description 3
- 230000003595 spectral effect Effects 0.000 claims description 2
- 238000002474 experimental method Methods 0.000 abstract description 10
- 230000009977 dual effect Effects 0.000 abstract description 2
- 230000007547 defect Effects 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 238000010801 machine learning Methods 0.000 description 2
- 238000012545 processing Methods 0.000 description 2
- 206010034719 Personality change Diseases 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 238000012512 characterization method Methods 0.000 description 1
- 238000011156 evaluation Methods 0.000 description 1
- 238000005286 illumination Methods 0.000 description 1
- 230000010365 information processing Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000000513 principal component analysis Methods 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 230000001131 transforming effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/23—Clustering techniques
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/16—Human faces, e.g. facial parts, sketches or expressions
- G06V40/161—Detection; Localisation; Normalisation
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02T—CLIMATE CHANGE MITIGATION TECHNOLOGIES RELATED TO TRANSPORTATION
- Y02T10/00—Road transport of goods or passengers
- Y02T10/10—Internal combustion engine [ICE] based vehicles
- Y02T10/40—Engine management systems
Landscapes
- Engineering & Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Life Sciences & Earth Sciences (AREA)
- Evolutionary Biology (AREA)
- Evolutionary Computation (AREA)
- Bioinformatics & Computational Biology (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Artificial Intelligence (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Health & Medical Sciences (AREA)
- General Health & Medical Sciences (AREA)
- Oral & Maxillofacial Surgery (AREA)
- Human Computer Interaction (AREA)
- Multimedia (AREA)
- Image Analysis (AREA)
- Image Processing (AREA)
Abstract
本发明公开了一种基于张量低秩稀疏表示的图像聚类方法。与现有大多数表示学习方法不同的是,去除噪声后的原始数据样本被选用为字典,低秩和稀疏双重约束使得表示系数张量分别有效地捕获了样本数据的全局结构和局部结构,表示系数张量的低秩约束用来捕获样本数据的全局结构,而稀疏约束用来获取样本数据的局部结构;张量l2,1‑范数用来度量由多个样本组成的张量噪声,可以有效处理噪声样本和离群值样本。本发明可以直接在三维张量上进行子空间学习,在人脸图像聚类实验和彩色图像去噪实验的结果表明,本发明不仅可以有效地获得张量数据的子空间结构,而且可以有效地滤除噪声的同时恢复图像样本。
Description
技术领域
本发明属于智能信息处理技术领域,尤其涉及一种基于张量低秩稀疏表示的图像聚类方法。
背景技术
张量作为多维数据的表示形式,可以有效地保持每个维度上原始数据的特征,在机器学习和图像处理中具有重要的应用。稀疏表示(SR)源自信号处理中的压缩感知理论,由于SR在人脸识别中的成功应用,自提出以来,SR就受到了极大的关注,并已迅速扩展到其他领域。稀疏约束能有效地保持数据样本中的局部信息,稀疏是对向量中非零元素的度量,低秩是矩阵中非零奇异值数目的度量。随着稀疏模型在机器学习和计算机视觉中的成功应用,低秩模型也成为新的研究热点。低秩约束不仅可以获取数据的全局结构,而且对于较大的离群值和噪声具有鲁棒性。
张量不同于向量或矩阵,定义一个适合张量的稀疏度量,难度较大。根据张量-张量积(t-product),Kilmer等人将基于矩阵的奇异值分解(SVD)扩展到张量SVD(t-SVD),并根据张量管秩的定义成功地将低秩应用于张量。张量管秩不仅可以测量张量数据的稀疏度,而且与矩阵稀疏度的定义(即低秩)具有一致性的关系。因此,基于张量管秩提出的张量鲁棒主成分分析(TRPCA) 可以有效滤除张量数据中的噪声,但无法获得数据样本的子空间结构。在张量子空间定义的基础上,将基于矩阵的低秩表示(LRR)扩展到张量LRR(TLRR),TLRR可以直接找到数据位于张量数据空间中的张量低秩子空间结构。但是, TLRR存在如下缺陷:首先,只有在张量子空间是独立的假设下才能实现精确的聚类,对于实际数据集,此假设过于严格,通常更合理的假设是实际数据来自不相交的子空间或更复杂的子空间。其次,l1-范数用于度量由多个样本组成的张量噪声可能存在偏差,因为不同的样本包含不同类别的噪声。
发明内容
针对上述背景技术中指出的不足,本发明提供了一种基于张量低秩稀疏表示的图像聚类方法,旨在解决上述背景技术中基于矩阵的低秩表示扩展到张量模型存在的问题。
为实现上述目的,本发明采用的技术方案是:
一种基于张量低秩稀疏表示的图像聚类方法,包括以下步骤:
(1)设定目标函数如下:
其中,是原始噪声数据张量,是字典,是低秩稀疏表示系数张量,是稀疏噪声,r≤min(n1,n2)是字典的数量,α和β是两个加权参数,并且是用来表征稀疏噪声的张量范数,在所述目标函数中考虑和两个值,-范数用于仅由一个样本组成的张量,而-范数用于由多个样本组成的张量;
(2)所述目标函数作为优化问题
首先将目标函数的优化问题转换为以下函数的等效优化问题:
(3)当所有变量更新差值小于预定阈值时,输出相似系数张量,对相似系数张量沿第三维度进行求和得到相似系数矩阵,最后利用谱聚类方法如N-cut,得到最终聚类结果。
优选地,所述增广拉格朗日函数如下:
将优化问题(4)转化为复数域并解决,优化问题(4)的等价问题如下:
得出式(10)的闭式解为:
相比于现有技术的缺点和不足,本发明具有以下有益效果:
(1)本发明提供的基于张量低秩稀疏表示的图像聚类方法中,选择去噪张量数据作为字典,对表示系数张量执行低秩和稀疏的双重约束,采用表示系数张量的低秩约束来捕获样本数据的全局结构,而使用稀疏约束来获取样本数据的局部结构;对于由多个样本组成的张量,采用鲁棒的l2,1-范数来度量噪声。人脸图像聚类实验和实际图像去噪实验的结果表明,本发明不仅可以有效地获得张量数据的子空间结构,而且可以有效地滤除噪声的同时恢复图像样本。
(2)与大多数直接使用原始样本构成字典的子空间聚类方法不同,本发明采用了具有更高表达能力的去噪样本作为字典。本发明在目标函数优化时采用了一种基于乘数交替方向法(ADMM)的高效迭代更新算法。与现有技术相比,在人脸图像上进行聚类和对真实图像进行去噪的数值实验验证了本发明在揭示张量子空间中的有效性。
附图说明
图1是本发明实施例提供的基于张量低秩稀疏表示的聚类方法流程图。
具体实施方式
为了使本发明的目的、技术方案及优点更加清楚明白,以下结合附图及实施例,对本发明进行进一步详细说明。应当理解,此处所描述的具体实施例仅仅用以解释本发明,并不用于限定本发明。
1、设定目标函数如下:
是低秩稀疏表示系数张量;是稀疏噪声;r≤min(n1,n2)是字典的数量,α和β是两个加权参数,并且是用来表征稀疏噪声的张量范数;在所述目标函数中考虑和两个值,-范数用于仅由一个样本组成的张量,而-范数用于由多个样本组成的张量。
2、目标函数作为优化问题
为了使目标函数更容易解决,首先将目标函数的优化问题转换为以下函数的等效优化问题:
然后使用乘数交替方向法ADMM解决等效优化问题,相应的增广拉格朗日函数如下:
将优化问题(4)转化为复数域并解决,优化问题(4)的等价问题如下:
式(9)是一个涉及可变张量的凸问题,包含t-product运算,为了获得式(9)的最优解,通过使用DFT把式(9)转换为复数域,通过优化每个正面切片来获得最优解,然后通过逆DFT进行变换,从式(9)获得:
得出式(10)的闭式解为:
3、更新后,检查所有变量的最大更新差值小于预定阈值的停止准则, ADMM求解方程(1)的全过程由算法1给出:
本发明基于张量低秩稀疏表示的图像聚类方法流程图如图1所示。
本发明通过基于张量低秩稀疏表示的图像聚类(TLRSR)中,表示系数张量同时受到低秩和稀疏约束的影响,采用表示系数张量的低秩约束来捕获样本数据的全局结构,而使用稀疏约束来获取样本数据的局部结构。表示系数张量的每个侧面切片是给定字典下原始样本的重新表示。数据样本的稀疏表示理想地对应于其自身子空间中几个原子的组合,对于给定的数据样本,稀疏约束自动选择一些始终靠近它并属于同一子空间的原子。因此,表示系数张量中属于同一子空间的侧面切片对应的管具有较大的值,而其他子空间中的侧面切片的管则接近于零或等于零;同时受到低秩和稀疏约束的学习表示系数矩阵已被证明可以获得更精确的子空间表征能力。另外,本发明采用具有更高表达能力的去噪样本作为字典,选择张量l2,1-范数来测量数据样本中的噪声,l2,1-范数对张量侧面切片的异常值和噪声具有鲁棒性;采用的张量l2,1-范数可以对不同的样本进行不同的度量,这有助于消除噪声并揭示样本的潜在本质子空间结构。
在人脸图像聚类实验中,在3个标准人脸样本库:扩展YaleB、PIE(包括光照和姿态变化)和FRDUE上的聚类结果对应的正确率(Accuracy)分别为: 85.93%、93.25%和84.26%;归一化互信息(Normalized mutual information) 分别为92.00%、97.77%和95.03%;纯度(Purity)分别为87.82%、94.92%和8 7.46%。与相关基于矩阵和张量的低秩和稀疏表示的子空间学习方法相比,本发明提出的TLRSR方法在3个实验数据库和3个常用聚类评价准则下均得到了最高的聚类结果。在彩色图像去噪实验中,在标准图像数据库Kodak上的2 4张500x500分辨率随机改变10%和20%像素的情况下,TLRSR得到的平均峰值信噪比(PSNR)分别为32.91dB和29.70dB,比在实验中PSNR排名第二的 R-TLRR方法分别高出1.37dB和0.48dB。人脸图像聚类实验和彩色图像去噪实验的结果表明,本发明提出的TLRSR不仅可以有效地获得张量数据的子空间结构,而且可以有效地滤除噪声的同时恢复图像样本。
以上所述仅为本发明的较佳实施例而已,并不用以限制本发明,凡在本发明的精神和原则之内所作的任何修改、等同替换和改进等,均应包含在本发明的保护范围之内。
Claims (7)
1.一种基于张量低秩稀疏表示的图像聚类方法,其特征在于,包括以下步骤:
(1)设定目标函数如下:
其中,是原始噪声数据张量,是字典;是低秩稀疏表示系数张量,是稀疏噪声,r≤min(n1,n2)是字典的数量,α和β是两个加权参数,并且是用来表示稀疏噪声的张量范数,在所述目标函数中考虑和两个值,-范数用于仅由一个样本构成的张量,而-范数用于由多个样本组成的张量;
(2)所述目标函数作为优化问题
首先将目标函数的优化问题转换为下列函数的等价优化问题:
(3)当所有变量更新差值小于预定阈值时,输出相似系数张量,对所述相似系数张量沿第三维度进行求和得到相似系数矩阵,最后利用谱聚类方法N-cut,得到最终聚类结果。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110158280.9A CN113033602B (zh) | 2021-02-05 | 2021-02-05 | 一种基于张量低秩稀疏表示的图像聚类方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110158280.9A CN113033602B (zh) | 2021-02-05 | 2021-02-05 | 一种基于张量低秩稀疏表示的图像聚类方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN113033602A CN113033602A (zh) | 2021-06-25 |
CN113033602B true CN113033602B (zh) | 2022-07-05 |
Family
ID=76460080
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110158280.9A Expired - Fee Related CN113033602B (zh) | 2021-02-05 | 2021-02-05 | 一种基于张量低秩稀疏表示的图像聚类方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN113033602B (zh) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115081542B (zh) * | 2022-07-22 | 2023-07-07 | 深圳大学 | 子空间聚类方法、终端设备及计算机可读存储介质 |
CN116012264B (zh) * | 2023-03-27 | 2023-06-13 | 山东省工业技术研究院 | 一种基于稀疏约束的图像恢复方法 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107808391A (zh) * | 2017-10-30 | 2018-03-16 | 浙江工业大学 | 一种基于特征选择与光滑表示聚类的视频动态目标提取方法 |
CN109241491A (zh) * | 2018-07-28 | 2019-01-18 | 天津大学 | 基于联合低秩和稀疏表示的张量结构性缺失填充方法 |
CN109766863A (zh) * | 2019-01-18 | 2019-05-17 | 南京邮电大学 | 一种基于局部和稀疏非局部正则的人脸图像超分辨率方法 |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US11074495B2 (en) * | 2013-02-28 | 2021-07-27 | Z Advanced Computing, Inc. (Zac) | System and method for extremely efficient image and pattern recognition and artificial intelligence platform |
-
2021
- 2021-02-05 CN CN202110158280.9A patent/CN113033602B/zh not_active Expired - Fee Related
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107808391A (zh) * | 2017-10-30 | 2018-03-16 | 浙江工业大学 | 一种基于特征选择与光滑表示聚类的视频动态目标提取方法 |
CN109241491A (zh) * | 2018-07-28 | 2019-01-18 | 天津大学 | 基于联合低秩和稀疏表示的张量结构性缺失填充方法 |
CN109766863A (zh) * | 2019-01-18 | 2019-05-17 | 南京邮电大学 | 一种基于局部和稀疏非局部正则的人脸图像超分辨率方法 |
Non-Patent Citations (5)
Title |
---|
Constrained Graph Concept Factorization for image clustering;Yuqing Shi 等;《The 26th Chinese Control and Decision Conference》;20140714;全文 * |
Robust Subspace Estimation via Low-Rank and Sparse Decomposition and Applications in Computer Vision;"Salehe Erfanian Ebadi ";《 Queen Mary University of London Theses 》;20180108;全文 * |
基于不完全数据的鲁棒的主成分分析;徐赛;《中国优秀硕士学位论文全文数据库 (基础科学辑)》;20200215;A002-675页 * |
基于图正则化的半监督非负矩阵分解;杜世强 等;《计算机工程与应用》;20121221;194-200页 * |
基于维数约简的无监督聚类算法研究;杜世强;《中国博士学位论文全文数据库 (信息科技辑)》;20180115;I138-38页 * |
Also Published As
Publication number | Publication date |
---|---|
CN113033602A (zh) | 2021-06-25 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110399909B (zh) | 一种基于标签约束弹性网图模型的高光谱图像分类方法 | |
Renard et al. | Denoising and dimensionality reduction using multilinear tools for hyperspectral images | |
WO2016091017A1 (zh) | 一种高光谱图像分类中光谱向量互相关特征的抽取方法 | |
CN107563433B (zh) | 一种基于卷积神经网络的红外小目标检测方法 | |
CN107563442B (zh) | 基于稀疏低秩正则图张量化嵌入的高光谱图像分类方法 | |
CN113033602B (zh) | 一种基于张量低秩稀疏表示的图像聚类方法 | |
CN109376787B (zh) | 流形学习网络及基于其的计算机视觉图像集分类方法 | |
CN104268833B (zh) | 基于平移不变剪切波变换的图像融合方法 | |
Bourennane et al. | Improvement of target-detection algorithms based on adaptive three-dimensional filtering | |
CN107798345B (zh) | 基于块对角与低秩表示的高光谱伪装目标检测方法 | |
CN110751087B (zh) | 一种基于eof的无人机信号识别系统和方法 | |
CN112016529B (zh) | 基于鲁棒光谱协方差距离的高光谱异常目标智能检测方法 | |
CN109190511B (zh) | 基于局部与结构约束低秩表示的高光谱分类方法 | |
CN111680579B (zh) | 一种自适应权重多视角度量学习的遥感图像分类方法 | |
Su et al. | Bayesian depth estimation from monocular natural images | |
CN112633202A (zh) | 一种基于双重去噪联合多尺度超像素降维的高光谱图像分类算法 | |
Ruhan et al. | Enhance tensor RPCA-based Mahalanobis distance method for hyperspectral anomaly detection | |
CN111091129A (zh) | 一种基于多重颜色特征流形排序的图像显著区域提取方法 | |
CN112784747B (zh) | 高光谱遥感图像多尺度本征分解方法 | |
Ramakrishnan et al. | Image texture classification using wavelet based curve fitting and probabilistic neural network | |
Yu et al. | Low-rank tensor recovery via non-convex regularization, structured factorization and spatio-temporal characteristics | |
Dandotiya et al. | Image retrieval using edge detection, RLBP, color moment method for YCbCr and HSV color space | |
CN108520235B (zh) | 一种压缩光谱特征感知方法 | |
CN109829377A (zh) | 一种基于深度余弦度量学习的行人重识别方法 | |
CN111860153B (zh) | 尺度自适应的高光谱图像分类方法及系统 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant | ||
CF01 | Termination of patent right due to non-payment of annual fee | ||
CF01 | Termination of patent right due to non-payment of annual fee |
Granted publication date: 20220705 |