CN105740911A - 基于保持结构稀疏化的半监督字典学习方法 - Google Patents

基于保持结构稀疏化的半监督字典学习方法 Download PDF

Info

Publication number
CN105740911A
CN105740911A CN201610074113.5A CN201610074113A CN105740911A CN 105740911 A CN105740911 A CN 105740911A CN 201610074113 A CN201610074113 A CN 201610074113A CN 105740911 A CN105740911 A CN 105740911A
Authority
CN
China
Prior art keywords
dictionary
samples
semi
dictionary learning
supervised
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201610074113.5A
Other languages
English (en)
Inventor
王迪
张笑钦
古楠楠
樊明宇
叶修梓
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Cangnan Institute Of Cangnan
Original Assignee
Wenzhou University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Wenzhou University filed Critical Wenzhou University
Priority to CN201610074113.5A priority Critical patent/CN105740911A/zh
Publication of CN105740911A publication Critical patent/CN105740911A/zh
Pending legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/21Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/214Generating training patterns; Bootstrap methods, e.g. bagging or boosting

Landscapes

  • Engineering & Computer Science (AREA)
  • Data Mining & Analysis (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Artificial Intelligence (AREA)
  • Evolutionary Biology (AREA)
  • Evolutionary Computation (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Image Analysis (AREA)

Abstract

本发明公开了一种基于保持结构稀疏化的半监督字典学习方法,主要包含以下步骤:首先通过保持样本稀疏编码之间的自表示关系,建立一种新的半监督字典学习模型;其次采用块坐标下降法对提出的半监督字典学习模型中的各类变量进行迭代优化,并从理论上证明了算法的收敛性;最后提出一种构建类别相关的子字典的方法,并通过样本在各类子字典下的重构误差来对样本进行分类。由于本发明通过引入结构稀疏化约束迫使大量的无标签样本能够自动加入到其所在类别中,并与其同类的有标签样本一起参与字典的学习,从而提高了字典的稀疏表达能力和判别能力。实验结果表明,相对于其它的经典字典学习方法,具有更准确的分类正确率,有很好的应用前景。

Description

基于保持结构稀疏化的半监督字典学习方法
技术领域
本发明涉及计算机模式识别领域,特别是涉及一种基于保持结构稀疏化(structuralsparsity)的半监督字典学习方法。
背景技术
字典学习(dictionarylearning),即利用训练样本学习一个过完备的基向量集(称为字典),从而获得输入样本在此字典下的稀疏表示。它是计算机模式识别领域中的研究热点之一,被广泛应用于图像去噪、图像恢复、图像分类以及压缩成像等领域。总的来说,目前的字典学习算法主要解决两个关键性问题:(1)字典的稀疏表达能力;(2)字典的判别能力。
一般说来,字典的稀疏表达能力即能够用这个字典中尽可能少的原子(atom)精确重建输入样本的能力。Wright等人提出直接运用整个训练样本集作为字典来实现对输入样本的稀疏表示,并在人脸识别领域得到了不错的效果。然而,由于原始训练样本不可避免地会掺杂有噪音数据,从而影响字典的稀疏表达能力。为了能够得到自适应于输入样本集的字典,Engan等人提出了最优方向算法(methodofoptimaldirections,MOD),它是一种在字典更新和稀疏编码之间交替迭代的优化过程。Aharon等人提出了K-SVD算法,它通过奇异值分解(singularvaluedecomposition,SVD)获得对残差矩阵的秩一逼近,实现对字典原子的依次更新,并且同时得到与之相关的稀疏系数,从而降低了MOD算法的复杂度。Marial等人提出了一种随机的在线字典学习方法(onlinedictionarylearning,ODL),它能够处理具有百万级别的大数据集。以上这些方法都集中在学习字典的稀疏表达能力方面,却没有考虑字典的判别能力,因此它们不适合于分类问题。
为了提高字典的判别能力,研究者利用训练样本的类别信息,提出了一些有监督的字典学习算法。Marial等人认为,每一类对应一个子字典,此类别相关的子字典应该能够很好地重建本类样本,但不能重建其它类的样本,他们将此判别性信息加入到字典学习的过程中,提高了字典的判别能力。Zhang等人将数据稀疏编码的分类误差作为判别项加入到K-SVD算法的目标函数中,从而提出了具有判别性的K-SVD算法(discriminativeK-SVD,D-KSVD)。Yang等人在字典的重构模型中加入了对稀疏编码的Fisher判别准则,提出了Fisher判别字典学习算法(Fisherdiscriminationdictionarylearning,FDDL)。Jiang等人引入“判别性稀疏编码误差”的类别一致性约束,并将它与样本的重构误差和分类误差相结合,提出了类别一致性K-SVD算法(labelconsistentK-SVD,LC-KSCD)。此外,还有一些研究者认为如果字典中的一些原子能够用来表示某个样本,则这些原子也能够用来表示此样本所在类别的其它样本,即同类样本应该共享少数字典原子。基于这个想法,Bengio等人提出了组稀疏编码模型。Chi等人运用块和组稀疏编码模型,提出了块内一致性抑制字典学习算法。
有监督字典学习方法的性能很大程度上依赖于有标签训练样本的个数。当有标签样本个数很少时,学习出来字典的性能就很不稳定。然而,样本类别的标定是非常耗精力的,获得大量的有标签样本是非常困难的。另一方面,本发明可以从一些公共数据集中获得大量的无标签样本。这就促使研究者利用大量的无标签样本和少数有标签样本来共同训练字典,即半监督字典学习。Shrivastava等人在每一步迭代中根据当前字典对无标签样本的稀疏表达能力估计出无标签样本的类别置信度矩阵,并运用它来重新学习字典,从而将大量的无标签样本融入到字典更新的过程中,提出了半监督判别性字典学习算法(semi-superviseddiscriminativedictionarylearning,S2D2)。Zhang等人将有标签样本和无标签样本的重构误差、判别性稀疏编码误差以及分类误差整合在一个优化目标函数中,提出了一种在线的半监督字典学习算法。Babagholami-Mohamadabadi等人通过引入基于局部Fisher判别分析和局部线性嵌入的判别项,提出了基于概率的半监督字典学习模型。Wang等人运用对有标签样本和无标签样本的组稀疏正则化,提出了半监督的鲁棒字典学习(semi-supervisedrobustdictionarylearning,SSR-D)模型。
发明内容
半监督字典学习由于运用了大量的无标签样本,因此能够很大程度上提高字典的判别能力和稀疏表达能力。容易看出,半监督字典学习的关键在于有效地利用类别标签信息以及有标签样本与无标签样本的内在结构关系。鉴于这种思想,本发明提出了一种基于保持结构稀疏化的半监督字典学习方法。具体来说,通过保持训练样本的结构稀疏性,迫使无标签样本在字典学习的过程中能够自动加入到其所在的样本类别中,并与其同类的有标签样本共享少数字典原子,从而提高字典的稀疏表达能力和判别能力,实现较好的分类效果。
为了实现上述目的,本发明采用了以下的技术方案:
基于保持结构稀疏化的半监督字典学习方法,主要包括以下三个步骤:
(1)根据训练样本构建基于保持结构稀疏化的半监督字典学习模型。把某训练样本在其它训练样本下的稀疏表示称为训练集的自表示,把某训练样本在字典下的稀疏表示系数称为样本的稀疏编码。通过保持样本稀疏编码之间的自表示关系,迫使无标签样本在训练过程中能够与其同类的有标签样本共享少数字典原子,从而提高字典的稀疏表达能力和判别能力。
(2)采用块坐标下降法(blockcoordinatedescent,BCD)对半监督字典学习模型中的各类变量进行迭代优化,直到收敛。其中,对于稀疏编码变量,本发明提出用优化最小化算法(majorization-minimization,MM)来获得解析解,对于字典变量,本发明提出用交替方向乘子算法(AlternatingDirectionMethodofMultipliers,ADMM)获得解析解。
(3)提出一种构建类别相关的子字典的方法,即对于每一类,找出能够准确稀疏表示该类样本的字典原子,这些字典原子就构成了该类别相关的子字典。进一步,通过样本在各类子字典下的重构误差来对样本进行分类。
进一步说,所述的步骤(1)具体包括以下子步骤:
首先,运用交替方向乘子算法计算每个训练样本在其它训练样本下的稀疏表示系数,即自表示系数;
其次,通过保持训练样本的稀疏编码之间的自表示关系,构建结构稀疏化约束;
最后,将结构稀疏化约束、有标签样本的组稀疏编码约束以及训练样本的重构误差结合在一起,构建基于保持结构稀疏化的半监督字典学习模型。
更进一步说,所述的步骤(2)具体包括以下子步骤:
首先,运用块坐标下降法对半监督字典学习模型中的各类变量进行迭代优化,即根据变量间的独立性,将优化问题分解成一系列不同变量的子优化问题;
其次,运用优化最小化算法实现对稀疏编码变量的解析求解;
最后,运用交替方向乘子算法实现对字典变量的解析求解。
更进一步说,所述的步骤(3)具体包括以下子步骤:
首先,根据求得的训练样本的稀疏编码,对于每一类别,找出能够准确稀疏表示该类样本的字典原子,这些字典原子分别构成了各类别相关的子字典;
其次,求解样本在各个类别子字典下的稀疏表示系数以及重构误差;
最后,选取重构误差最小的子字典,其所在的类别作为样本的分类标签。
本发明的有益效果是:
1、本发明提出了一种全新的并且通用的半监督字典学习方法,对任意分类数据类型都适用。
2、本发明探究了无标签样本与有标签样本之间的内在结构关系,提出一种结构稀疏化约束方法,迫使得大量的无标签样本能够自动加入到其所在类别中,并与其同类的有标签样本一起参与字典的学习,从而提高了字典的稀疏表达能力和判别能力。
3、本发明采用了块坐标下降法算法来实现对所建半监督字典学习模型的分解迭代优化。对于稀疏编码变量,本发明提出用优化最小化算法获得解析解,对于,对于字典变量,本发明提出用交替方向乘子算法获得解析解,从而实现快速有效的字典学习。本发明也理论上证明了求解算法的收敛性。
附图说明
图1是基于保持结构稀疏化的半监督字典学习方法的整体流程图;
图2是数据集COIL-20上的自表示系数矩阵的可视化图(白色表示非零值,黑色表示零值);
图3是本发明的结构稀疏化示意图(白色表示该位置为零值,非白色表示该位置为非零值);其中(a)为未加稀疏化约束时,(b)为增加稀疏化约束时;
图4是本发明的动机示意图。
具体实施方式
下面结合附图和实施例对本发明专利进一步说明。
实施例只用于对本发明进行进一步说明,不能理解为对本发明保护范围的限定,该领域的技术人员可根据上述发明的内容对本发明做出一些非本质的改进和调整。
图1为本发明整体流程图。本发明为一种基于保持结构稀疏化的半监督字典学习方法,本发明的方法具体运行的硬件和编程语言并不限制,用任何语言编写都可以完成,为此其它工作模式不再赘述。
本发明的实施例采用一台具有IntelXeon-E5中央处理器和16G字节内存的计算机,并用Matlab语言编制了基于保持结构稀疏化的半监督字典学习的工作程序,实现了本发明的方法。
本发明的基于保持结构稀疏化的半监督字典学习方法主要包括以下三个步骤:结构稀疏化的提出以及半监督字典学习模型的设计、块坐标下降优化算法、样本的分类策略。
在介绍具体步骤之前,本发明介绍下面所要用到的符号的意义。
大写字母表示矩阵,加粗的小写字母表示向量。给定一个m×n矩阵A=(aij)m×n,αi∈Rn(i=1,…,m)表示矩阵A的第i行所形成的向量,αj∈Rm(j=1,…,n)表示矩阵A的第j列所形成的向量。||A||F表示矩阵A的F-范数,即||A||p,p表示矩阵A的范数,即||A||p,p=(∑∑|αij|p)1/p,||A||2,p表示矩阵A的范数,即其中0<p<1。对于K类的分类问题,记训练样本矩阵为X=[X0,X1,…,XK]∈Rd×(u+l),其中是第c(c=1,…,K)类的样本矩阵,X0∈Rd×l是无标签样本矩阵,d是样本维数,u和l分别是无标签样本和有标签样本的个数,nc是第c(c=1,…,K)类有标签样本的个数,即记A=[A0,A1,…,AK]为X在字典D∈Rd×m下的稀疏编码矩阵,其中m表示字典D中原子的个数。
针对K类的分类问题,具体步骤如下:
(1)提出一种结构稀疏化约束方法,并基于此设计出一种新的半监督字典学习模型。其主要包含:
a)运用交替方向乘子算法求解以下稀疏自表示问题
m i n G | | G | | p , p p , s . t . X = X G , g i i = 0 , i = 1 , ... , u + l
其中G是稀疏自表示矩阵。记问题①的最优解为
其中是数据xi在其它样本下的稀疏表示系数。图2是在数据集COIL-20上计算出来的的子矩阵的可视化图像,可以看出,非常接近于块对角形,这说明如果一个无标签样本xi可以由其它样本稀疏表示,即则样本xi很有可能来自于同一类。因此,中包含了重要的类别判别性信息。
b)假设是样本在字典D∈Rd×m下的稀疏编码,即 x j k = D&alpha; j k ,
x i = &Sigma; k = 1 &kappa; g ^ j k i x j k = &Sigma; k = 1 &kappa; D ( g ^ j k i &alpha; j k ) = D ( &Sigma; k = 1 &kappa; g ^ j k i &alpha; j k )
则αi为数据xi在字典D下的表示系数。如图3(a)所示,尽管是稀疏的,但αi不能保证一定是稀疏的。如果把αi加上稀疏化约束,则等式就会迫使中非零元素的位置是相同的,如图3(b)所示。换句话说,可能属于同一类的有标签样本和无标签样本应该共享少数字典原子。本发明将以上的这种有标签和无标签样本之间的关系称为结构稀疏化。通过将结构稀疏化约束引入到字典学习过程中,能够迫使无标签样本自动加入到它所在的类别中,与同类样本共享少数字典元素。这样会有两个好处:1)字典是由可能在同一类的无标签样本和有标签样本共同学习出来的,因此具有很好的表达能力和判别能力,2)由于共享机制的作用,使得学习出来的字典是紧致的。
c)将结构稀疏化约束、有标签样本的组稀疏编码约束以及训练样本的重构误差结合在一起,构建基于保持结构稀疏化的半监督字典学习模型
( D ^ , A ^ ) = arg min D &Element; &Xi; , A 1 2 | | X - D A | | F 2 + &lambda; 1 &Sigma; c = 1 K | | A c | | 2 , p p + &lambda; 2 | | A 0 | | p , p p + &lambda; 3 2 | | A - A G ^ | | F 2
其中, &Xi; = D &Element; R d &times; m , s . t . d j T d j &le; 1 , &ForAll; j = 1 , ... , m . 在模型②中,后两项是结构稀疏化约束,它会迫使可能属于同一类的有标签样本和无标签样本共享少数字典原子,是对类别c的组系数编码约束,它作为有监督项给出了类别c应该共享哪些字典原子,体现了字典的判别能力,是重构误差项,它体现了字典的稀疏表达能力。图4是该字典学习模型的动机示意图。
(2)采用块坐标下降法对半监督字典学习模型中的各类变量进行迭代优化,直到收敛。其中,对于稀疏编码变量,运用优化最小化算法来获得解析解,对于字典变量,运用交替方向乘子算法获得解析解。具体主要包含:
a)令其中I是单位矩阵,并记W=[W0,W1,…,WK]。本发明运用块坐标下降算法实现对模型②求解,即分别固定其他变量来实现A0,A1,…,AK,D的依次优化,即分解为以下不同变量的子优化问题:
min A 0 I 0 ( A 0 ) = 1 2 | | X 0 - DA 0 | | F 2 + &lambda; 2 | | A 0 | | p , p p + &lambda; 3 2 | | A 0 W 0 T + Q 0 | | F 2
m i n A c I c ( A c ) = 1 2 | | X c - DA c | | F 2 + &lambda; 1 | | A c | | 2 , p p + &lambda; 3 2 | | A c W c T + Q c | | F 2
c=1,…,K
m i n D &Element; &Xi; I ( D ) = 1 2 | | X - D A | | F 2
其中 Q 0 = &Sigma; c = 1 K A c W c T , Q c = &Sigma; i &NotEqual; c A i W i T .
b)针对子优化问题③,运用优化最小化算法迭代求解。对于A0的第k步迭代值(记为),引入以下函数
J 0 ( A 0 , A 0 ( k ) ) = 1 2 | | X 0 - DA 0 ( k ) | | F 2 + < D T ( DA 0 ( k ) - X 0 ) , A 0 - A 0 ( k ) > + &eta; 1 2 | | A 0 - A 0 ( k ) | | F 2 + &lambda; 3 ( 1 2 | | A 0 ( k ) W 0 T + Q 0 | | F 2 + < ( A 0 ( k ) W 0 T + Q 0 ) W 0 , A 0 - A 0 ( k ) > + &eta; 3 2 | | A 0 - A 0 ( k ) | | F 2 ) + &lambda; 2 | | A 0 | | p , p p = &eta; 1 + &eta; 3 &lambda; 3 2 | | A 0 - Z 0 ( k ) | | F 2 + &lambda; 2 | | A 0 | | p , p p + c o n s tan t
其中 Z 0 ( k ) = A 0 ( k ) - 1 &eta; 1 + &eta; 3 &lambda; 3 ( D T ( DA 0 ( k ) - X 0 ) + &lambda; 3 ( A 0 ( k ) W 0 T + Q 0 ) W 0 ) , constant表示常数。则A0的第k+1步迭代值(记为)可通过下式解决
A 0 ( k + 1 ) = arg min A 0 J 0 ( A 0 , A 0 ( k ) ) = arg min A 0 1 2 | | A 0 - Z 0 ( k ) | | F 2 + &lambda; | | A 0 | | p , p p = T &lambda; ( Z 0 ( k ) )
其中 表示对矩阵的每一个元素做以下软阈值截断
T &lambda; ( z ) = 0 i f | z | &le; &tau; sgn ( z ) a ^ * i f | z | > &tau;
在⑥中, &tau; = &lsqb; 2 &lambda; ( 1 - p ) &rsqb; 1 2 - p + &lambda; p &lsqb; 2 &lambda; ( 1 - p ) &rsqb; p - 1 2 - p , 是方程a+λpap-1=|z|(a>0)解的最大值。本发明进一步证明了A0的每一次迭代都能降低目标函数I0(A0)的值,因此关于A0的迭代是收敛的。
c)同理,针对子优化问题④,依然运用优化最小化算法迭代求解。对于Ac(c=1,…,K)的第k步迭代值(记为),引入以下函数
J c ( A c , A c ( k ) ) = 1 2 | | X c - DA c ( k ) | | F 2 + < D T ( DA c ( k ) - X c ) , A c - A c ( k ) > + &eta; 1 2 | | A c - A c ( k ) | | F 2 + &lambda; 3 ( 1 2 | | A c ( k ) W c T + Q c | | F 2 + < ( A c ( k ) W c T + Q c ) W c , A c - A c ( k ) > + &eta; 3 2 | | A c - A c ( k ) | | F 2 ) + &lambda; 1 | | A c | | 2 , p p = &eta; 1 + &eta; 3 &lambda; 3 2 | | A c - Z c ( k ) | | F 2 + &lambda; 1 | | A c | | 2 , p p + c o n s tan t
其中 Z c ( k ) = A c ( k ) - 1 &eta; 1 + &eta; 3 &lambda; 3 ( D T ( DA c ( k ) - X c ) + &lambda; 3 ( A c ( k ) W c T + Q c ) W c ) .
则Ac的第k+1步迭代值(记为)可通过下式解决
其中 是矩阵第r行所形成的向量(r=1,…,m),T为软阈值截断算子,定义如⑥所示。本发明也证明了Ac的每一次迭代都能降低目标函数Ic(Ac)的值,因此关于Ac的迭代是收敛的。
d)针对子优化问题⑤,定义集合Ξ的指示函数 I &Xi; ( H ) = 0 i f H &Element; &Xi; + &infin; i f H &NotElement; &Xi; , 并引入辅助变量H,子优化问题⑤转化为
m i n D , H 1 2 | | X - D A | | F 2 + I &Xi; ( H ) s . t . D = H
则字典D可通过以下交替方向乘子算法迭代求解
D ( k + 1 ) = ( XA T - Y ( k ) + &mu; * H ( k ) ) ( AA T + &mu; I ) - 1 H ( k + 1 ) = &Pi; &Xi; ( D ( k + 1 ) + Y ( k ) / &mu; ) Y ( k + 1 ) = Y ( k ) + &mu; ( D ( k + 1 ) - H ( k + 1 ) )
其中Y是拉格朗日乘子矩阵,ΠΞ是向集合Ξ的投影算子,μ是一个给定的正数。鉴于交替方向乘子算法的收敛性,因此关于字典D的迭代也是收敛的。
(3)提出一种构建类别相关的子字典的方法,并通过样本在各类别子字典下的重构误差来对样本进行分类。具体主要包含:
a)通过(2)中算法得到训练后的字典和稀疏编码后,定义对应于第c类的字典原子集合为
S c = { d ^ j | | | &alpha; ^ c j | | 2 > 0 } , c = 1 , ... , K
其中是第c类稀疏编码矩阵的第j行,是字典的第j列,
则第c类的字典的列由集合Sc中的元素组成。
b)对于需要判别类别的样本x,计算它在第c类字典下的稀疏编码,
记为并计算它在第c类字典下的重构误差,记为 e c = | | x - D ^ c &alpha; ^ c | | 2 .
c)样本x的类别标签设为

Claims (4)

1.一种基于保持结构稀疏化的半监督字典学习方法,其特征在于,包括以下步骤:
1)根据训练样本构建基于保持结构稀疏化的半监督字典学习模型;
2)采用块坐标下降法对半监督字典学习模型中的各类变量进行迭代优化,直到收敛;
3)对于每一类别,找出能够准确稀疏表示该类样本的字典原子,这些字典原子就构成了该类别相关的子字典,通过样本在各类子字典下的重构误差来对样本进行分类。
2.根据权利要求1所述的基于保持结构稀疏化的半监督字典学习方法,其特征在于,所述的步骤1)具体包括以下步骤:
1.1)运用交替方向乘子算法计算每个训练样本在其它训练样本下的稀疏表示系数,即自表示系数;
1.2)通过保持训练样本的稀疏编码之间的自表示关系,构建结构稀疏化约束;
1.3)将结构稀疏化约束、有标签样本的组稀疏编码约束以及训练样本的重构误差结合在一起,构建基于保持结构稀疏化的半监督字典学习模型。
3.根据权利要求1所述的基于保持结构稀疏化的半监督字典学习方法,其特征在于,所述的步骤2)具体包括以下步骤:
2.1)运用块坐标下降法对半监督字典学习模型中的各类变量进行迭代优化,直到收敛,即根据变量间的独立性,将优化问题分解成一系列不同变量的子优化问题;
2.2)运用优化最小化算法实现对稀疏编码变量的解析求解;
2.3)运用交替方向乘子算法实现对字典变量的解析求解。
4.根据权利要求1所述的基于保持结构稀疏化的半监督字典学习方法,其特征在于,所述的步骤3)具体包括以下步骤:
3.1)根据求得的训练样本的稀疏编码,对于每一类别,找出能够准确稀疏表示该类样本的字典原子,这些字典原子分别构成了各类别相关的子字典;
3.2)求解样本在各个类别子字典下的稀疏表示系数以及重构误差;
3.3)选取重构误差最小的子字典,其所在的类别作为样本的分类标签。
CN201610074113.5A 2016-02-02 2016-02-02 基于保持结构稀疏化的半监督字典学习方法 Pending CN105740911A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201610074113.5A CN105740911A (zh) 2016-02-02 2016-02-02 基于保持结构稀疏化的半监督字典学习方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201610074113.5A CN105740911A (zh) 2016-02-02 2016-02-02 基于保持结构稀疏化的半监督字典学习方法

Publications (1)

Publication Number Publication Date
CN105740911A true CN105740911A (zh) 2016-07-06

Family

ID=56245711

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201610074113.5A Pending CN105740911A (zh) 2016-02-02 2016-02-02 基于保持结构稀疏化的半监督字典学习方法

Country Status (1)

Country Link
CN (1) CN105740911A (zh)

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106803105A (zh) * 2017-02-09 2017-06-06 北京工业大学 一种基于稀疏表示字典学习的图像分类方法
CN106991435A (zh) * 2017-03-09 2017-07-28 南京邮电大学 基于改进的字典学习的入侵检测方法
CN107203750A (zh) * 2017-05-24 2017-09-26 中国科学院西安光学精密机械研究所 一种基于稀疏表达和判别分析相结合的高光谱目标检测方法
CN107273478A (zh) * 2017-06-09 2017-10-20 华东师范大学 一种基于Group Lasso的半监督哈希图像搜索方法
CN109522961A (zh) * 2018-11-23 2019-03-26 中山大学 一种基于字典深度学习的半监督图像分类方法
CN110580488A (zh) * 2018-06-08 2019-12-17 中南大学 基于字典学习的多工况工业监测方法、装置、设备及介质
CN111126425A (zh) * 2018-11-01 2020-05-08 中南大学 复杂工业过程工况监测和分类方法
CN111709442A (zh) * 2020-05-07 2020-09-25 北京工业大学 一种面向图像分类任务的多层字典学习方法
CN111931595A (zh) * 2020-07-17 2020-11-13 信阳师范学院 一种基于广义表示的人脸图像分类方法

Cited By (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106803105A (zh) * 2017-02-09 2017-06-06 北京工业大学 一种基于稀疏表示字典学习的图像分类方法
CN106803105B (zh) * 2017-02-09 2020-02-21 北京工业大学 一种基于稀疏表示字典学习的图像分类方法
CN106991435A (zh) * 2017-03-09 2017-07-28 南京邮电大学 基于改进的字典学习的入侵检测方法
CN107203750A (zh) * 2017-05-24 2017-09-26 中国科学院西安光学精密机械研究所 一种基于稀疏表达和判别分析相结合的高光谱目标检测方法
CN107273478A (zh) * 2017-06-09 2017-10-20 华东师范大学 一种基于Group Lasso的半监督哈希图像搜索方法
CN107273478B (zh) * 2017-06-09 2019-10-08 华东师范大学 一种基于Group Lasso的半监督哈希图像搜索方法
CN110580488A (zh) * 2018-06-08 2019-12-17 中南大学 基于字典学习的多工况工业监测方法、装置、设备及介质
CN110580488B (zh) * 2018-06-08 2022-04-01 中南大学 基于字典学习的多工况工业监测方法、装置、设备及介质
CN111126425A (zh) * 2018-11-01 2020-05-08 中南大学 复杂工业过程工况监测和分类方法
CN111126425B (zh) * 2018-11-01 2023-04-25 中南大学 复杂工业过程工况监测和分类方法
CN109522961A (zh) * 2018-11-23 2019-03-26 中山大学 一种基于字典深度学习的半监督图像分类方法
CN109522961B (zh) * 2018-11-23 2022-09-13 中山大学 一种基于字典深度学习的半监督图像分类方法
CN111709442A (zh) * 2020-05-07 2020-09-25 北京工业大学 一种面向图像分类任务的多层字典学习方法
CN111931595A (zh) * 2020-07-17 2020-11-13 信阳师范学院 一种基于广义表示的人脸图像分类方法
CN111931595B (zh) * 2020-07-17 2022-05-24 信阳师范学院 一种基于广义表示的人脸图像分类方法

Similar Documents

Publication Publication Date Title
CN105740911A (zh) 基于保持结构稀疏化的半监督字典学习方法
Pereira et al. Unsupervised anomaly detection in energy time series data using variational recurrent autoencoders with attention
Hernández et al. Variational encoding of complex dynamics
Li et al. Towards faster training of global covariance pooling networks by iterative matrix square root normalization
Ober et al. Global inducing point variational posteriors for Bayesian neural networks and deep Gaussian processes
CN108647226B (zh) 一种基于变分自动编码器的混合推荐方法
CN110222213B (zh) 一种基于异构张量分解的图像分类方法
CN107203787A (zh) 一种无监督正则化矩阵分解特征选择方法
CN107818345A (zh) 一种基于数据转换之间保持最大依赖关系的域自适应降维方法
Albelwi et al. Automated optimal architecture of deep convolutional neural networks for image recognition
CN108052975B (zh) 一种基于核主元和神经网络的车辆运行实时工况预测方法
CN107832747B (zh) 一种基于低秩字典学习算法的人脸识别方法
CN105469063A (zh) 鲁棒的人脸图像主成分特征提取方法及识别装置
CN112668543B (zh) 一种手模型感知的孤立词手语识别方法
CN105740908A (zh) 基于核空间自解释稀疏表示的分类器设计方法
CN111222689A (zh) 基于多尺度时间特征的lstm负荷预测方法、介质及电子装置
CN114022311A (zh) 基于时序条件生成对抗网络的综合能源系统数据补偿方法
CN107451684A (zh) 基于核随机逼近的股市概率预测方法
CN107944468A (zh) 基于隐空间编码的零样本学习分类方法
Shang et al. Unsupervised feature selection via discrete spectral clustering and feature weights
CN118468122A (zh) 基于大数据分析与优化的索具模具寿命分析方法及装置
Zhen et al. Toward compact transformers for end-to-end object detection with decomposed chain tensor structure
CN114743058A (zh) 基于混合范数正则约束的宽度学习图像分类方法及装置
You et al. Weakly supervised dictionary learning
CN117094431A (zh) 一种多尺度熵门控的DWTformer气象数据时序预测方法及设备

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
TA01 Transfer of patent application right

Effective date of registration: 20180410

Address after: Lingxizhen Cangnan County of Wenzhou City, Zhejiang province 325800 Haixi electric science and Technology Park 14 D district two building 203

Applicant after: Cangnan Institute of Cangnan

Address before: 325035 Zhejiang province Chashan Wenzhou Higher Education Park South Campus of Wenzhou University 3B215

Applicant before: Wenzhou University

TA01 Transfer of patent application right
RJ01 Rejection of invention patent application after publication

Application publication date: 20160706

RJ01 Rejection of invention patent application after publication