CN112116017B - 基于核保持的图像数据降维方法 - Google Patents
基于核保持的图像数据降维方法 Download PDFInfo
- Publication number
- CN112116017B CN112116017B CN202011023210.4A CN202011023210A CN112116017B CN 112116017 B CN112116017 B CN 112116017B CN 202011023210 A CN202011023210 A CN 202011023210A CN 112116017 B CN112116017 B CN 112116017B
- Authority
- CN
- China
- Prior art keywords
- matrix
- representing
- dimension
- class
- training sample
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 230000009467 reduction Effects 0.000 title claims abstract description 78
- 238000000034 method Methods 0.000 title claims abstract description 45
- 238000004321 preservation Methods 0.000 title claims abstract description 13
- 239000011159 matrix material Substances 0.000 claims abstract description 129
- 238000012549 training Methods 0.000 claims abstract description 95
- 230000006870 function Effects 0.000 claims abstract description 73
- 238000012545 processing Methods 0.000 claims abstract description 7
- 238000012847 principal component analysis method Methods 0.000 claims abstract description 6
- 230000014759 maintenance of location Effects 0.000 claims description 30
- 238000013507 mapping Methods 0.000 claims description 20
- 239000013598 vector Substances 0.000 claims description 16
- 238000000354 decomposition reaction Methods 0.000 claims description 7
- 230000008569 process Effects 0.000 claims description 7
- 238000010276 construction Methods 0.000 claims description 6
- 238000005457 optimization Methods 0.000 claims description 5
- 230000002265 prevention Effects 0.000 claims description 3
- 230000017105 transposition Effects 0.000 claims description 2
- 238000005065 mining Methods 0.000 abstract description 4
- 238000000513 principal component analysis Methods 0.000 description 11
- 238000004088 simulation Methods 0.000 description 11
- 230000005855 radiation Effects 0.000 description 10
- 238000010586 diagram Methods 0.000 description 8
- 238000004458 analytical method Methods 0.000 description 7
- 239000000203 mixture Substances 0.000 description 6
- 238000005516 engineering process Methods 0.000 description 3
- 238000002474 experimental method Methods 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 241000540325 Prays epsilon Species 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 238000013500 data storage Methods 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 230000007123 defense Effects 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 229910003460 diamond Inorganic materials 0.000 description 1
- 239000010432 diamond Substances 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 230000008921 facial expression Effects 0.000 description 1
- 239000011521 glass Substances 0.000 description 1
- 238000005286 illumination Methods 0.000 description 1
- 238000012804 iterative process Methods 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 238000003909 pattern recognition Methods 0.000 description 1
- 238000012360 testing method Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/213—Feature extraction, e.g. by transforming the feature space; Summarisation; Mappings, e.g. subspace methods
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02T—CLIMATE CHANGE MITIGATION TECHNOLOGIES RELATED TO TRANSPORTATION
- Y02T10/00—Road transport of goods or passengers
- Y02T10/10—Internal combustion engine [ICE] based vehicles
- Y02T10/40—Engine management systems
Landscapes
- Engineering & Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Data Mining & Analysis (AREA)
- Theoretical Computer Science (AREA)
- Bioinformatics & Computational Biology (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Artificial Intelligence (AREA)
- Evolutionary Biology (AREA)
- Evolutionary Computation (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Image Analysis (AREA)
Abstract
本发明属于图像处理技术领域,公开了一种基于核保持的图像数据降维方法,包括步骤:获取待降维高维数据和训练样本集;采用主成分分析法计算训练样本集的初始投影矩阵,进而得到初始降维后的训练样本矩阵;构造基于核保持的图像数据降维模型作为目标函数;通过最小化训练样本的重构误差学习最优的相似性表示,得到训练样本最优表示下的投影矩阵即二次投影矩阵;对待降维高维数据进行初始降维和二次降维。本发明引入核函数挖掘数据的非线性结构,同时考虑了类内样本相似性信息和类间样本的判别性信息,提高了处理高维图像数据分类问题时的准确率。
Description
技术领域
本发明涉及图像处理模式识别技术领域,具体涉及一种基于核保持的图像数据降维方法,可用于图像分类、文本识别和雷达辐射源识别等。
背景技术
随着计算机技术的发展,每分每秒都有大量的图像数据产生,在这样高度信息化的时代,数据存储所需的空间越来越多,大量高维数据的产生使图像处理更为困难。此外,在模式识别、机器学习和计算机视觉等领域,数据通常位于高维空间。因此,通过图像数据降维技术从中提取最有用的低维特征不仅有助于缓解“维数灾难”问题,而且有助于降低分类或聚类任务的训练成本。子空间投影是数据降维的一种典型手段。
尽管基于线性假设的降维方法易于实现,但其忽略了高维非线性数据的内在结构。因此,许多学者提出了非线性的降维方法,目前非线性降维算法主要可分为核函数方法和基于流形学习的算法两类。前者针对图像数据在低维空间线性不可分的问题,通过非线性映射将低维数据映射到高维空间中,使其在高维空间中数据线性可分,代表性的算法有核主成分分析(KPCA)和核费舍尔判别分析(KFDA)。基于流形学习的方法则是利用流形假设在高维空间挖掘低维流形结构信息,但是由于其泛化能力差,学者们将这类算法线性化,提出了利用图的形式表示图像样本之间的关系。图嵌入框架由于能够很好地保持样本的几何结构而被广泛应用于图像处理和计算机视觉领域。面向子空间学习任务,基于图的协作判别分析方法CGDA被提出,它在协作表示分类CRC的基础上利用协作表示系数构造权值矩阵,采用闭式解提高了算法效率,实现了降维。但其只利用了类内局部关系构图,忽略了不同类样本之间的表示关系及其在构图中的作用,缺少判别能力。
Peng X,Yu Z,Yi Z等人在其发表的论文“Constructing the L2-Graph forRobust Subspace Learning and Subspace Clustering”(IEEE Transactions onCybernetics),47(4),1053-1066,(2017)中提出一种利用2范数构图的方法,每个图像样本将除自身外的其它所有样本作为字典,再利用2范数约束相似矩阵和重构误差,该方法性能要优于1范数或低秩表示。但其只考虑数据的线性关系,而实际应用中图像数据多为非线性结构;此外,数据的重构关系源于样本间的直接关系建模,未能充分考虑样本的类标信息。
厦门大学在其申请的专利文献“基于判别正则化局部保留投影的图像数据降维方法及系统”(申请号:202010348760.7申请公布号:CN 111553417 A)中建立了一个基于2,1范数的局部判别投影来学习数据的局部拓扑结构,将局部判别投影作为LPP的正则项与LPP组成弹性距离,使局部领域的大小能够根据分布特征自适应调整,对于分布稠密的区域,能够防止过多非局部信息的引入,同时能够很好地保持局部样本分布的多样性和差异性,更好地描述数据的局部本质结构特征。但是,该方法的不足之处是未能考虑图像样本类标信息,且只利用样本的近邻构造相似性信息矩阵,忽视了样本的整体结构,没有对数据进行非线性结构的挖掘,而实际应用中图像数据多为非线性结构。
发明内容
针对现有技术中存在的问题,本发明的目的在于提供一种基于核保持的图像数据降维方法,本发明旨在通过挖掘数据的非线性结构,同时考虑不同类图像样本之间的表示关系及其在构图中的作用,改善未能考虑样本类标信息或只利用类内局部关系构图的局限性。本发明将核函数引入图像样本的自表示学习中充分挖掘高维非线性数据的内部结构,然后利用核保持关系学习到的相似性表示分别构建类内图和类间图,增强对类与类之间不相似性的利用,保持了样本的局部信息和全局信息,最后通过核保持矩阵和图的迭代优化得到最优表示下的子空间投影,有效地实现了数据降维,为后续的识别提供更有效的判别信息。
为了达到上述目的,本发明采用以下技术方案予以实现。
基于核保持的图像数据降维方法,包括以下步骤:
步骤1,获取待降维高维数据和训练样本集
其中,训练样本集中包含多类样本,每类样本的数量相同;∈表示属于符号,R表示实数集,m表示样本特征维度,n表示训练样本集中样本的个数;
步骤2,采用主成分分析法计算训练样本集的初始投影矩阵,进而得到初始降维后的训练样本矩阵;
步骤3,构造基于核保持的图像数据降维模型作为目标函数;
步骤4,通过最小化训练样本的重构误差学习最优的相似性表示,得到训练样本最优表示下的投影矩阵即二次投影矩阵;
步骤5,根据步骤2计算的初始投影矩阵和步骤4计算的二次投影矩阵,对待降维高维数据进行初始降维和二次降维,得到降维后的低维图像数据。
本发明技术方案的进一步改进在于:
进一步地,所述采用主成分分析法计算训练样本集的初始投影矩阵,进而得到初始降维后的训练样本矩阵,具体为:
2.1,先将每个图像样本去中心化:然后计算训练样本集的协方差矩阵:/>对该协方差矩阵进行奇异值分解,提取保留99%以上能量的特征值对应的特征向量组成初始投影矩阵PPCA;
2.2,采用初始投影矩阵对训练样本集进行初始降维处理,得到初始降维后的训练样本矩阵
其中,∑(·)表示求和操作,表示训练样本矩阵/>中的第i个样本,X∈Rk×n,PPCA∈Rm×k,(·)T表示转置操作,k表示初始降维后的灰度特征维度。
进一步地,所述基于核保持的图像数据降维模型为:
s.t.Zw,Zb≥0,diag(Zw)=0,diag(Zb)=0,Zw1=1,Zb1=1
其中,Lw表示类内近邻保持图的拉普拉斯矩阵,Lb表示类间近邻保持图的拉普拉斯矩阵;min(·)表示取最小值操作,||·||F表示取Frobenius范数操作,(·)T表示转置操作,P表示二次投影矩阵,X表示初始降维后的训练样本矩阵,M表示二次降维后训练样本矩阵中每类样本的均值集合,Kw表示将同类样本映射到高维非线性空间的类内核,Kw=diag{Kw1,Kw2,...,Kwc},Kwi=φ(PTXi)T·φ(PTXi),Xi表示第i类训练样本,PTXi表示二次降维后的第i类训练样本矩阵,φ(·)表示一种预设映射函数,核函数K(xi,xj)=φ(xi)T·φ(xj),表示任意两个高维数据在预设映射函数φ(·)映射下的内积;Zw表示在核空间中类内样本之间的重构系数矩阵,Kb表示将每一类样本均值映射到高维非线性空间的类间核,Kb={Kb1,Kb2,...,Kbc},Kbi=φ(Mi)T·φ(Mi);Mi表示二次降维后第i类训练样本的均值;Zb表示在核空间中类间样本之间的重构系数矩阵,α表示重构误差项的折衷参数,β表示平衡类内近邻保持图与类间近邻保持图的调节参数,λ表示防止Zw、Zb过拟合的约束参数,α、β、λ的取值范围分别为[10-3,10-2,...,102,103],s.t.表示约束条件,diag(·)表示矩阵对角线上的元素,1表示元素全为1的方阵。
进一步地,所述通过最小化训练样本的重构误差学习最优的相似性表示,具体过程为:
4.1,引入辅助变量J、W和Q、N,分别用J和W代替类内重构误差项中的Zw,用Q和N分别代替类间重构误差项中的Zb,将目标函数转化为:
s.t.Zw,Zb≥0,diag(Zw)=0,diag(Zb)=0,Zw1=1,Zb1=1,
Zw=J,Zw=W,Zb=Q,Zb=N
4.2,利用单位矩阵分别对类内重构系数矩阵Zw∈Rn×n及其辅助变量J∈Rn×n、W∈Rn ×n,类间重构系数矩阵Zb∈Rc×c及其辅助变量Q∈Rc×c、N∈Rc×c和二次投影矩阵P∈Rk×d进行初始化,并计算初始类内核Kw∈Rn×n和类间核Kb∈Rc×c,并初始化拉格朗日算子Y1、Y2、Y3、Y4分别为零矩阵;
其中,∈表示属于符号,R表示实数集,n表示训练样本集中图像样本的个数,c表示训练样本类别总数,k表示初始降维后的灰度特征维度,d表示二次降维后的灰度特征维度;
4.3,采用逐步迭代优化求解使目标函数达到最小的最优解P。
与现有技术相比,本发明的有益效果为:
本发明通过引入核函数并最小化样本的重构误差来约束最优的表示系数,而且同时考虑了类内样本相似性信息和类间样本的判别性信息,再利用学习到的相似性矩阵分别构建类内和类间样本的拉普拉斯矩阵,并使得在投影子空间中同类样本的核保持关系得到加强而不同类样本的核保持关系被有效抑制,从而增强了对类与类之间不相似性的利用,实现了图像数据非线性结构和判别信息的有效挖掘,提高了识别精度。
附图说明
下面结合附图和具体实施例对本发明做进一步详细说明。
图1是本发明的实现流程图;
图2是本发明和现有技术在ORL数据集上识别准确率随嵌入空间维度变化的曲线图;其中,(a)对应每类选取4个样本形成训练样本集,其余样本作为待降维样本集;(b)对应每类选取6个样本形成训练样本集,其余样本作为待降维样本集。
具体实施方式
下面将结合实施例对本发明的实施方案进行详细描述,但是本领域的技术人员将会理解,下列实施例仅用于说明本发明,而不应视为限制本发明的范围。
参考图1,本发明提供的一种基于核保持的图像数据降维方法,按照以下步骤实施:
步骤1,获取待降维高维数据和训练样本集
其中,训练样本集中包含多类样本,每类样本的数量相同;∈表示属于符号,R表示实数集,m表示样本特征维度,n表示训练样本集中样本的个数;
步骤2,采用主成分分析法计算训练样本集的初始投影矩阵,进而得到初始降维后的训练样本矩阵;
采用主成分分析法(PCA):
先将每个图像样本去中心化:然后计算训练样本集的协方差矩阵:/>并对该协方差矩阵进行奇异值分解,提取保留99%以上能量的(雷达辐射源数据库保留100%的能量)特征值所对应的特征向量组成初始投影矩阵,并按下式计算初始降维后的训练样本矩阵:
其中,∑(·)表示求和操作,X∈Rk×n表示初始降维后的训练样本矩阵,表示原始训练样本矩阵,/>表示原始训练样本矩阵中第i个样本,PPCA∈Rm×k表示初始投影矩阵,(·)T表示转置操作,/>表示原始训练样本矩阵。其中∈表示属于符号,R表示实数集,m表示样本灰度特征维度,k表示初始降维后的灰度特征维度。
步骤3,构造基于核保持的图像数据降维模型作为目标函数;
其构造过程如下:
3.1,在基于自表示关系算法的基础上采用内积作为图像样本关系的度量,将训练样本数据映射到高维空间后进行内积运算,然后通过最小化样本的重构误差学习数据的表示关系,重构误差项为:其中,X∈Rm×n,m为训练集中每一个数据样本点的灰度特征维度,n为训练集中图像数据样本点的个数,Z表示重构系数矩阵,Z∈Rn×n,φ(X)表示X的一种预设映射函数,||·||F表示取Frobenius范数操作,m、n均为正整数;核函数用于表示任意两个高维数据在预设映射函数φ(·)映射下的内积,即核函数K(xi,xj)=φ(xi)T·φ(xj),将核函数定义代入重构误差项中,进一步得到重构误差项为:/>本发明在与现有方法的对比仿真实验中使用线性核函数,线性核函数的具体表达式为:K(xi,xj)=xi T·xj,也可以替换为任意已知核函数,例如高斯核函数、多项式核函数等。
为了考虑同类图像样本的相似性信息和不同类样本的判别信息,本发明同时对类内和类间的样本进行重构,此外增加正则项约束重构系数矩阵防止算法过拟合,这就意味着需要构造用于映射同类样本的类内核和用于映射不同类样本的类间核。通过下式分别构造类内重构系数矩阵Zw和类间重构系数矩阵Zb:
其中,λ1和λ2是正则化参数,防止算法过拟合。为避免重构表示系数为负,以及样本被自己表示的极端情况,进一步约束Zw、Zb非负,并强制其对角元素为0。同时为了避免平凡解,即一些样本在线性表示中不被选择,约束Zw、Zb每一行的和为1。若在迭代过程中得到二次投影矩阵P,类内核Kw=diag{Kw1,Kw2,...,Kwc},对角块上元素Kwi=φ(PTXi)T·φ(PTXi),Xi表示初始降维后训练集中的第i类图像样本,PTXi表示二次降维后的第i类训练样本矩阵,类间核Kb={Kb1,Kb2,...,Kbc},其中Kbi=φ(Mi)T·φ(Mi),Mi表示二次降维后训练样本每类的均值。
3.2,根据得到的类内重构系数矩阵Zw,利用类内近邻保持公式计算类内近邻保持图的拉普拉斯矩阵Lw;其中,类内近邻保持公式为:Lw=(I-Zw)T(I-Zw)。
根据得到的类间重构系数矩阵Zb,利用类间近邻保持公式计算类间近邻保持图的拉普拉斯矩阵Lb,其中,类间近邻保持公式为:Lb=(I-Zb)T(I-Zb)。
3.3,为了使二次投影空间中同类图像样本的核保持关系得到加强而不同类样本的核保持关系被有效抑制,其目标表达公式可以表示为:A=tr(PT(XLwXT-βMLbMT)P),记B=XLwXT-βMLbMT。
利用广义特征值分解方法,计算二次投影矩阵,所述广义特征值分解方法的具体步骤如下:
按照XBXTp=ΛXXTp计算广义特征值分解得到的特征值和特征向量,p表示B的特征向量,Λ表示B的特征值,将求解得到的特征值按绝对值从小到大的顺序排列,将前d个特征值对应的特征向量顺序排列,构成二次投影矩阵P=[p1,p2,...,pd],其中d表示二次降维后的图像特征维数。
最终得到基于核保持的图像数据降维模型:
s.t.Zw,Zb≥0,diag(Zw)=0,diag(Zb)=0,Zw1=1,Zb1=1
其中,P表示通过广义特征值分解将其前d个最小特征值对应特征向量顺序排列得到的二次投影矩阵,X表示经过PCA初次降维的训练样本矩阵,M表示二次降维后训练样本矩阵中每类样本的均值集合,Kw表示将同类样本映射到高维非线性空间的类内核,Zw表示在核空间中类内样本之间的重构系数矩阵,Kb表示将每一类样本均值映射到高维非线性空间的类间核,Zb表示在核空间中类间样本之间的重构系数矩阵,α表示重构误差项的折衷参数,β表示平衡类内近邻保持图与类间近邻保持图的调节参数,λ表示防止Zw和Zb过拟合的约束参数,α、β、λ的取值范围均为[10-3,10-2,...,102,103]。
步骤4,通过最小化训练样本的重构误差学习最优的相似性表示,得到训练样本最优表示下的投影矩阵;
4.1,目标函数是关于Zw、Zb的四阶函数,要直接解决存在一定困难,所以分别引入辅助变量J、W和Q、N,分别用J和W代替类内重构误差项中的Zw,用Q和N分别代替类间重构误差项中的Zb,所以基于核保持的图像数据降维模型即目标函数可进一步表示如下:
s.t.Zw,Zb≥0,diag(Zw)=0,diag(Zb)=0,Zw1=1,Zb1=1,
Zw=J,Zw=W,Zb=Q,Zb=N
4.2,用单位矩阵分别对类内重构系数矩阵Zw∈Rn×n及其辅助变量J∈Rn×n、W∈Rn ×n、类间重构系数矩阵Zb∈Rc×c及其辅助变量Q∈Rc×c、N∈Rc×c和二次投影矩阵P∈Rk×d分别进行初始化,并分别计算初始类内核Kw∈Rn×n和类间核Kb∈Rc×c;拉格朗日算子Y1∈Rn×n、Y2∈Rn×n、Y3∈Rc×c和Y4∈Rc×c初始化为全0矩阵;
4.3,采用逐步迭代优化求解使目标函数达到最小的最优解P。
具体步骤为:
(a)设置初始惩罚参数μ=0.1,惩罚因子ρ=1.1,惩罚参数最大值μmax=108;
(b)固定Kw、Kb、P和Zb,通过J和W辅助更新Zw,具体过程为:
构建与Zw对应的拉格朗日函数为:
其中,||·||F表示取Frobenius范数操作,Y1、Y2是与Zw对应的拉格朗日算子;
对与Zw对应的拉格朗日函数l(Zw,J,W,Y1,Y2)中的J求一阶导,并令其导数等于0,得到J:
J=(μI1+2αKwWWTKw T)-1(μZw+Y1+2αKwWKw T)
其中,(·)-1表示求逆矩阵操作,I1∈Rn×n表示单位矩阵,α表示重构误差项的折衷参数;
对与Zw对应的拉格朗日函数l(Zw,J,W,Y1,Y2)中的W求一阶导,并令其导数等于0,得到W:
W=(μI1+2αKw TJJTKw)-1(μZw+Y2+2αKw TJKw)
对步骤4.1的目标函数中的Zw求一阶导,并令其导数等于0,得到Zw的近似闭式解:
根据求解目标解Zw,得Zw的每一行为:
其中,是/>的第k行且/>被设置为0,/>是第k个元素为0、其余全为1的列向量,k=1,2,…,n,/>n表示训练样本集中样本总数,diag(·)表示矩阵对角线上的元素,11∈Rn×n表示元素全为1的方阵,||·||F表示取Frobenius范数操作,max(·)表示取最小值操作,(·)T表示转置操作;
(c)固定Kw、Kb、P和Zw,通过Q和N辅助更新Zb,具体过程为:
构建与Zb对应的拉格朗日函数为:
其中,Y3、Y4是与Zb对应的拉格朗日算子;
对与Zb对应的拉格朗日函数l(Zb,Q,N,Y3,Y4)中的Q求一阶导,并令其导数等于0,得到Q:
Q=(μI2+2αKbNNTKb T)-1(μZb+Y3+2αKbNKb T)
其中,I2∈Rc×c表示单位矩阵;
对与Zb对应的拉格朗日函数l(Zb,Q,N,Y3,Y4)中的N求一阶导,并令其导数等于0,得到N:
N=(μI2+2αKb TQQTKb)-1(μZb+Y4+2αKb TQKb)
其中,(·)-1表示求逆矩阵操作;
对步骤4.1的目标函数中的Zb求一阶导,并令其导数等于0,得到Zb的近似闭式解:
根据求解目标解Zb,得Zb的每一行为:
其中,是/>的第r行且/>被设置为0,/>是第r个元素为0、其余全为1的列向量,r=1,2,…,c,/>12∈Rc×c表示元素全为1的方阵;
(d)固定Kw、Kb、Zb和Zw,对步骤4.1的目标函数中的(XLwXT-βMLbMT)进行奇异值分解,得到前d个最小特征值对应的特征向量,构成二次投影矩阵P=[p1,p2,...,pd]∈Rk×d;
(e)固定Zb、Zw和P,根据下列公式分别对步骤4.1的目标函数中的Kw、Kb进行更新:
Kw=diag{Kw1,Kw2,...,Kwc},
Kb={Kb1,Kb2,...,Kbc};
其中,Kwi=φ(PTXi)T·φ(PTXi),Kbi=φ(Mi)T·φ(Mi);Xi表示训练样本的第i类,PTXi表示二次降维后的第i类训练样本矩阵,Mi表示二次降维后训练样本第i类的均值;
(f)更新所有拉格朗日算子:
Y1=Y1+μ(Zw-J),
Y2=Y2+μ(Zw-W),
Y3=Y3+μ(Zb-Q),
Y4=Y4+μ(Zb-N).
μ=min(ρμ,umax);
将更新后的Zw、Zb、P、Kw、Kb带入到目标函数中,得到更新后的目标函数值,判断更新后的目标函数值是否满足预设收敛条件,若是,则当前迭代次数得到的二次投影矩阵即为最优解,执行步骤5,否则,继续执行步骤(b)-(f)。
步骤5,根据步骤2计算的初始投影矩阵和步骤4计算的二次投影矩阵,对待降维高维数据进行初始降维和二次降维,得到降维后的低维图像数据。
根据计算得到的PPCA∈Rm×k和P∈Rk×d对待降维高维数据Xt依次进行初始降维和二次降维后,得到降维后的低维图像数据Xnew=PTPPCA TXt,可采用任意分类器预测待降维图像样本的类别,以最近邻分类器为例,提取距离Xnew最近的二次降维后训练样本标签,将标签赋予待降维高维数据,输出待降维高维图像数据的类别。
实施例
本发明主要针对图像数据,在实施例中以人脸图像数据为例,对本发明进行详细描述如下。
首先,按列取出训练样本集中的单幅人脸图像像素点的灰度特征值,排列成一个列向量,遍历训练样本集的图像;将得到的所有列向量组成训练样本矩阵,同理,按列取出待降维数据中的单幅人脸图像像素点的灰度特征值,排列成一个列向量,遍历所有待降维数据图像,将得到的所有列向量组成目标样本矩阵。
训练集经过初次降维后,将同类样本映射到高维核空间构造类内核,具体的表现形式为:Kw=diag{Kw1,Kw2,...,Kwc},其中,Kwi=φ(PTXi)T·φ(PTXi);将每类样本的均值映射到高维核空间构造类间核,具体的表现形式为:Kb={Kb1,Kb2,...,Kbc},其中,Kbi=φ(Mi)T·φ(Mi)。Xi表示训练样本的第i类,PTXi表示二次降维后的第i类训练样本矩阵,Mi表示二次降维后训练样本第i类的均值。
然后通过目标函数学习获得图像特征矩阵在核空间中类内样本之间的重构系数矩阵Zw,具体的表现形式为:和类间样本之间的重构系数矩阵Zb,具体的表现形式为:/>
最后,利用核保持关系学习到的相似性表示分别构建类内图和类间图,通过图嵌入框架获得最优表示下的投影矩阵,具体的表现形式为:tr(PT(XLwXT-βMLbMT)P。对待降维高维数据进行初次和二次降维后利用最近邻分类原理进行分类。
整体而言,本发明是将核函数引入样本的自表示学习中,并通过最小化样本的重构误差学习最优的相似性表示,利用核保持关系学习到的相似性表示分别构建类内图和类间图,增强了对类与类之间不相似性的利用,使得在投影子空间中,同类样本的核保持关系得到加强,不同类样本间的核保持关系被进一步抑制。
仿真实验
1、仿真实验条件:
本发明仿真实验的硬件平台为:清华同方X950、处理器为Intel i5 7400CPU和内存8GB;软件平台为:Windows 10操作系统和MATLAB R2019a。
测试对象为ORL数据库、UMIST数据库和雷达辐射源数据库。
所述ORL数据库由Olivetti实验室创建,该数据库包含40个人组成的400幅人脸图像,每幅图像的区别在于光照、面部表情、是否戴眼镜以及是否睁眼。实验中统一将这些图像裁剪为32×32的大小。
所述UMIST数据库由英国Machester大学创建,该人脸数据库包含20个人共564幅图像,主要包括人脸由侧面到正面的变化。实验中统一将原始图像裁剪为56×56的大小。
所述雷达辐射源数据库由西安电子科技大学电子信息攻防对抗与仿真技术教育部重点实验室提供,该数据库包含了10类雷达辐射源的665个数据样本,本发明选用信号的512维welch功率谱特征。
2、仿真实验内容与结果分析:
仿真实验1:采用本发明和现有技术的基于协作表示的判别分析方法CGDA、核主成分分析KPCA、核费舍尔判别分析KFDA和基于l2范数构图的子空间学习方法L2-Graph,分别对ORL数据库、UMIST数据库和雷达辐射源数据库在不同训练样本数量的情况下进行10次仿真实验,将10次仿真实验的平均识别率作为最终汇报识别率。
在ORL数据库中,每类随机选取4个、5个、6个样本形成有标记的训练样本集,其余样本作为待降维样本集。在UMIST数据库中,每类随机选取4个、5个、6个样本形成有标记的训练样本集,其余样本作为待降维样本集。在雷达辐射源数据库中,每类随机选取5个、10个、15个样本形成有标记的训练样本集,其余样本作为待降维样本集。
本发明在对ORL数据库的待降维样本进行识别时,参数选择如下:
每类选取4个样本时:重构误差项的折衷参数α=0.1,防止Zw和Zb过拟合的约束参数λ=0.1,平衡类间近邻保持图与类内近邻保持图的调节参数β=1。每类选取5个样本时:重构误差项的折衷参数α=0.001,防止Zw和Zb过拟合的约束参数λ=100,平衡类间近邻保持图与类内近邻保持图的调节参数β=1。每类选取6个样本时:重构误差项的折衷参数α=1000,防止Zw和Zb过拟合的约束参数λ=0.01,平衡类间近邻保持图与类内近邻保持图的调节参数β=1。
本发明在对UMIST数据库的待降维样本进行识别时,参数选择如下:
每类选取4个样本时:重构误差项的折衷参数α=0.001,防止Zw和Zb过拟合的约束参数λ=0.1,平衡类间近邻保持图与类内近邻保持图的调节参数β=0.1。每类选取5个样本时:重构误差项的折衷参数α=1,防止Zw和Zb过拟合的约束参数λ=1,平衡类间近邻保持图与类内近邻保持图的调节参数β=0.1。每类选取6个样本时:重构误差项的折衷参数α=1000,防止Zw和Zb过拟合的约束参数λ=1000,平衡类间近邻保持图与类内近邻保持图的调节参数β=1。
本发明在对雷达辐射源数据库的待降维样本进行识别时,参数选择如下:
每类选取5个样本时:重构误差项的折衷参数α=0.001,防止Zw和Zb过拟合的约束参数λ=0.001,平衡类间近邻保持图与类内近邻保持图的调节参数β=0.1。每类选取10个样本时:重构误差项的折衷参数α=1000,防止Zw和Zb过拟合的约束参数λ=0.001,平衡类间近邻保持图与类内近邻保持图的调节参数β=10。每类选取15个样本时:重构误差项的折衷参数α=0.001,防止Zw和Zb过拟合的约束参数λ=100,平衡类间近邻保持图与类内近邻保持图的调节参数β=0.1。
在上述三个数据库上的识别结果分别如表1、表2和表3所示。从表1、表2和表3的结果可见,在ORL、UMIST和雷达辐射源数据库上选取不同训练样本数量的情况下,本发明的平均识别率均是最优的。同时,随着训练样本数量增多,分类准确率会明显提高。由此可见本发明的识别效果是六种方法中最好的。由此可以得到:本发明挖掘图像数据的非线性结构以及对类间判别性信息的利用是有效的。
表1不同训练数目下各方法在ORL数据库上的平均识别率(%)
识别方法 | 4-Train | 5-Train | 6-Train |
本发明 | 93.33(30) | 97.00(46) | 98.00(34) |
CRC | 79.00(80) | 81.30(100) | 84.50(100) |
CGDA | 89.25(44) | 92.45(62) | 96.00(68) |
KPCA | 82.33(48) | 87.70(58) | 89.50(64) |
KFDA | 88.42(40) | 92.70(40) | 94.37(40) |
L2-Graph | 82.17(74) | 88.72(72) | 90.88(84) |
表2不同训练数目下各方法在UMIST数据库上的平均识别率(%)
识别方法 | 4-Train | 5-Train | 6-Train |
本发明 | 86.98(26) | 90.60(8) | 94.64(8) |
CRC | 74.01(60) | 81.59(70) | 83.92(80) |
CGDA | 78.39(60) | 86.55(60) | 89.46(62) |
KPCA | 74.74(28) | 81.16(62) | 86.71(32) |
KFDA | 78.88(18) | 84.09(20) | 87.75(20) |
L2-Graph | 74.55(48) | 80.43(70) | 84.41(80) |
表3不同训练数目下各方法在雷达辐射源数据库上的平均识别率(%)
/>
仿真实验2:采用本发明和现有技术的基于协作表示的判别分析方法CGDA、核主成分分析KPCA、核费舍尔判别分析KFDA和基于l2范数构图的子空间学习方法L2-Graph,每个算法均在其最优参数下,对ORL数据库进行10次仿真实验,获取10次平均的分类准确率与低维投影空间维数的关系。
在ORL数据库中,每类随机选取4个、6个样本形成有标记的训练样本集,其余样本作为待降维样本集。
本发明在对ORL数据库的待降维样本进行识别时,参数选择如下:
每类选取4个样本时:重构误差项的折衷参数α=0.1,防止Zw和Zb过拟合的约束参数λ=0.1,平衡类间近邻保持图与类内近邻保持图的调节参数β=1。每类选取6个样本时:重构误差项的折衷参数α=1000,防止Zw和Zb过拟合的约束参数λ=0.01,平衡类间近邻保持图与类内近邻保持图的调节参数β=1。
图2是本发明和现有技术在ORL数据库上的平均识别率随低维投影空间维度变化的曲线图,其中,横坐标表示低维投影空间维度,纵坐标表示识别率,以“o”标识的曲线表示本发明的识别率随投影维度变化的曲线,以“-”标示的曲线表示CRC的识别率随投影维度变化的曲线,以“+”标示的曲线表示CGDA的识别率随投影维度变化的曲线,以“菱形”标示的曲线表示KPCA的识别率随投影维度变化的曲线,以“六角星”标示的曲线表示KFDA的识别率随投影维度变化的曲线,以“五角星”标示的曲线表示L2-Graph的识别率随投影维度变化的曲线。图2(a)是每类选取4个样本形成训练样本集,其余样本作为待降维样本集;图2(b)是每类选取6个样本形成训练样本集,其余样本作为待降维样本集。
由图2可以得到如下结论:本发明在投影到不同维度的情况下,识别精度均优于现有其他算法。
虽然,本说明书中已经用一般性说明及具体实施方案对本发明作了详尽的描述,但在本发明基础上,可以对之作一些修改或改进,这对本领域技术人员而言是显而易见的。因此,在不偏离本发明精神的基础上所做的这些修改或改进,均属于本发明要求保护的范围。
Claims (5)
1.基于核保持的图像数据降维方法,其特征在于,包括以下步骤:
步骤1,获取待降维高维数据和训练样本集
其中,训练样本集中包含多类样本,每类样本的数量相同;∈表示属于符号,R表示实数集,m表示样本特征维度,n表示训练样本集中样本的个数;
步骤2,采用主成分分析法计算训练样本集的初始投影矩阵,进而得到初始降维后的训练样本矩阵;
步骤3,构造基于核保持的图像数据降维模型作为目标函数;
步骤4,通过最小化训练样本的重构误差学习最优的相似性表示,得到训练样本最优表示下的投影矩阵即二次投影矩阵;
步骤5,根据步骤2计算的初始投影矩阵和步骤4计算的二次投影矩阵,对待降维高维数据进行初始降维和二次降维,得到降维后的低维图像数据;
步骤3中,所述基于核保持的图像数据降维模型为:
s.t.Zw,Zb≥0,diag(Zw)=0,diag(Zb)=0,Zw1=1,Zb1=1
其中,Lw表示类内近邻保持图的拉普拉斯矩阵,Lb表示类间近邻保持图的拉普拉斯矩阵;min(·)表示取最小值操作,||·||F表示取Frobenius范数操作,(·)T表示转置操作,P表示二次投影矩阵,X表示初始降维后的训练样本矩阵,M表示二次降维后训练样本矩阵中每类样本的均值集合,Kw表示将同类样本映射到高维非线性空间的类内核,Kw=diag{Kw1,Kw2,...,Kwc},Kwi=φ(PTXi)T·φ(PTXi),Xi表示第i类训练样本,PTXi表示二次降维后的第i类训练样本矩阵,φ(·)表示一种预设映射函数,核函数K(xi,xj)=φ(xi)T·φ(xj),表示任意两个高维数据在预设映射函数φ(·)映射下的内积,Zw表示在核空间中类内样本之间的重构系数矩阵,Kb表示将每一类样本均值映射到高维非线性空间的类间核,Kb={Kb1,Kb2,...,Kbc},Kbi=φ(Mi)T·φ(Mi);Mi表示二次降维后第i类训练样本的均值;Zb表示在核空间中类间样本之间的重构系数矩阵,α表示重构误差项的折衷参数,β表示平衡类内近邻保持图与类间近邻保持图的调节参数,λ表示防止Zw、Zb过拟合的约束参数,α、β、λ的取值范围分别为[10-3,10-2,...,102,103],s.t.表示约束条件,diag(·)表示矩阵对角线上的元素,1表示元素全为1的方阵;
步骤4中,所述通过最小化训练样本的重构误差学习最优的相似性表示,具体过程为:
4.1,引入辅助变量J、W和Q、N,分别用J和W代替类内重构误差项中的Zw,用Q和N分别代替类间重构误差项中的Zb,将目标函数转化为:
s.t.Zw,Zb≥0,diag(Zw)=0,diag(Zb)=0,Zw1=1,Zb1=1,
Zw=J,Zw=W,Zb=Q,Zb=N
4.2,利用单位矩阵分别对类内重构系数矩阵Zw∈Rn×n及其辅助变量J∈Rn×n、W∈Rn×n,类间重构系数矩阵Zb∈Rc×c及其辅助变量Q∈Rc×c、N∈Rc×c和二次投影矩阵P∈Rk×d进行初始化,并计算初始类内核Kw∈Rn×n和类间核Kb∈Rc×c,并初始化拉格朗日算子Y1、Y2、Y3、Y4分别为零矩阵;
其中,∈表示属于符号,R表示实数集,n表示训练样本集中图像的个数,c表示训练样本类别总数,k表示初始降维后的灰度特征维度,d表示二次降维后的灰度特征维度;
4.3,采用逐步迭代优化求解使目标函数达到最小的最优解P。
2.根据权利要求1所述的基于核保持的图像数据降维方法,其特征在于,所述采用主成分分析法计算训练样本集的初始投影矩阵,进而得到初始降维后的训练样本矩阵,具体为:
2.1,先将每个图像样本去中心化:然后计算训练样本集的协方差矩阵:/>对该协方差矩阵进行奇异值分解,提取保留99%以上能量的特征值对应的特征向量组成初始投影矩阵PPCA;
2.2,采用初始投影矩阵对训练样本集进行初始降维处理,得到初始降维后的训练样本矩阵
其中,∑(·)表示求和操作,表示训练样本集/>中的第i个样本,X∈Rk×n,PPCA∈Rm×k,(·)T表示转置操作,k表示初始降维后的灰度特征维度。
3.根据权利要求1所述的基于核保持的图像数据降维方法,其特征在于,所述核函数为线性核函数、高斯核函数或多项式核函数。
4.根据权利要求1所述的基于核保持的图像数据降维方法,其特征在于,所述采用逐步迭代优化求解使目标函数达到最小的最优解,具体步骤为:
(a)设置初始惩罚参数μ=0.1,惩罚因子ρ=1.1,惩罚参数最大值μmax=108;
(b)固定Kw、Kb、P和Zb,通过J和W辅助更新Zw,具体过程为:
构建与Zw对应的拉格朗日函数为:
其中,||·||F表示取Frobenius范数操作,Y1、Y2是与Zw对应的拉格朗日算子;
对与Zw对应的拉格朗日函数l(Zw,J,W,Y1,Y2)中的J求一阶导,并令其导数等于0,得到J:
J=(μI1+2αKwWWTKw T)-1(μZw+Y1+2αKwWKw T)
其中,(·)-1表示求逆矩阵操作,I1∈Rn×n表示单位矩阵,α表示重构误差项的折衷参数;
对与Zw对应的拉格朗日函数l(Zw,J,W,Y1,Y2)中的W求一阶导,并令其导数等于0,得到W:
W=(μI1+2αKw TJJTKw)-1(μZw+Y2+2αKw TJKw)
对步骤4.1的目标函数中的Zw求一阶导,并令其导数等于0,得到Zw的近似闭式解:
根据求解目标解Zw,得Zw的每一行为:
其中,是/>的第k行且/>被设置为0,/>是第k个元素为0、其余全为1的列向量,k=1,2,…,n,/>n表示训练样本集中样本总数,diag(·)表示矩阵对角线上的元素,11∈Rn×n表示元素全为1的方阵,||·||F表示取Frobenius范数操作,max(·)表示取最小值操作,(·)T表示转置操作;
(c)固定Kw、Kb、P和Zw,通过Q和N辅助更新Zb,具体过程为:
构建与Zb对应的拉格朗日函数为:
其中,Y3、Y4是与Zb对应的拉格朗日算子;
对与Zb对应的拉格朗日函数l(Zb,Q,N,Y3,Y4)中的Q求一阶导,并令其导数等于0,得到Q:
Q=(μI2+2αKbNNTKb T)-1(μZb+Y3+2αKbNKb T)
其中,I2∈Rc×c表示单位矩阵;
对与Zb对应的拉格朗日函数l(Zb,Q,N,Y3,Y4)中的N求一阶导,并令其导数等于0,得到N:
N=(μI2+2αKb TQQTKb)-1(μZb+Y4+2αKb TQKb)
其中,(·)-1表示求逆矩阵操作;
对步骤4.1的目标函数中的Zb求一阶导,并令其导数等于0,得到Zb的近似闭式解:
根据求解目标解Zb,得Zb的每一行为:
其中,是/>的第r行且/>被设置为0,/>是第r个元素为0、其余全为1的列向量,r=1,2,…,c,/>12∈Rc×c表示元素全为1的方阵;
(d)固定Kw、Kb、Zb和Zw,对步骤4.1的目标函数中的(XLwXT-βMLbMT)进行奇异值分解,得到前d个最小特征值对应的特征向量,构成二次投影矩阵P=[p1,p2,...,pd]∈Rk×d;
(e)固定Zb、Zw和P,根据下列公式分别对步骤4.1的目标函数中的Kw、Kb进行更新:
Kw=diag{Kw1,Kw2,...,Kwc},
Kb={Kb1,Kb2,...,Kbc};
其中,Kwi=φ(PTXi)T·φ(PTXi),Kbi=φ(Mi)T·φ(Mi);Xi表示训练样本的第i类,PTXi表示二次降维后的第i类训练样本矩阵,Mi表示二次降维后训练样本第i类的均值;
(f)更新所有拉格朗日算子:
Y1=Y1+μ(Zw-J),
Y2=Y2+μ(Zw-W),
Y3=Y3+μ(Zb-Q),
Y4=Y4+μ(Zb-N).
μ=min(ρμ,umax);
将更新后的Zw、Zb、P、Kw、Kb带入到目标函数中,得到更新后的目标函数值,判断更新后的目标函数值是否收敛,若是,则当前迭代次数得到的二次投影矩阵即为最优解,执行步骤5,否则,继续执行步骤(b)-(f)。
5.根据权利要求1所述的基于核保持的图像数据降维方法,其特征在于,所述根据步骤2计算的初始投影矩阵和步骤4计算的二次投影矩阵,对待降维高维图像数据进行初始降维和二次降维,具体为:
Xnew=PTPPCA TXt
其中,Xnew为降维后的低维图像数据,(·)T为矩阵的转置操作,P为二次投影矩阵,PPCA为初始投影矩阵,Xt为待降维高维图像数据。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011023210.4A CN112116017B (zh) | 2020-09-25 | 2020-09-25 | 基于核保持的图像数据降维方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011023210.4A CN112116017B (zh) | 2020-09-25 | 2020-09-25 | 基于核保持的图像数据降维方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN112116017A CN112116017A (zh) | 2020-12-22 |
CN112116017B true CN112116017B (zh) | 2024-02-13 |
Family
ID=73798035
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202011023210.4A Active CN112116017B (zh) | 2020-09-25 | 2020-09-25 | 基于核保持的图像数据降维方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN112116017B (zh) |
Families Citing this family (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112836671B (zh) * | 2021-02-26 | 2024-03-08 | 西北工业大学 | 一种基于最大化比率和线性判别分析的数据降维方法 |
CN113221955B (zh) * | 2021-04-15 | 2022-06-28 | 哈尔滨工程大学 | 一种针对反应堆物理分析中高维输入参数的不确定性传播方法 |
CN113205143A (zh) * | 2021-05-10 | 2021-08-03 | 郑州轻工业大学 | 耦合空谱特征的多尺度超像素高光谱遥感图像分类方法 |
CN113298149B (zh) * | 2021-05-25 | 2022-02-01 | 广东云曌医疗科技有限公司 | 图像聚类方法及系统 |
CN113299379A (zh) * | 2021-06-17 | 2021-08-24 | 南通市第一人民医院 | 一种基于血液净化中心安全风险的智能管理方法及系统 |
CN114241233B (zh) * | 2021-11-30 | 2023-04-28 | 电子科技大学 | 一种非线性类组稀疏表示真假目标一维距离像识别方法 |
CN114496209B (zh) * | 2022-02-18 | 2022-09-27 | 青岛市中心血站 | 一种献血智能决策方法及系统 |
CN115600268A (zh) * | 2022-04-19 | 2023-01-13 | 南京天洑软件有限公司(Cn) | 高维数据集可视化方法及装置、电子设备、存储介质 |
CN116028822B (zh) * | 2023-03-30 | 2023-07-18 | 国网福建省电力有限公司 | 一种电能表误差状态评估方法、系统、设备及存储介质 |
CN116206166B (zh) * | 2023-05-05 | 2023-08-11 | 西南科技大学 | 一种基于核投影学习的数据降维方法、设备和介质 |
CN116342903B (zh) * | 2023-05-15 | 2023-08-18 | 济南安迅科技有限公司 | 一种基于大数据的用户数据分析方法及分析系统 |
Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102208020A (zh) * | 2011-07-16 | 2011-10-05 | 西安电子科技大学 | 基于最优维数标度切判据的人脸识别方法 |
CN104391679A (zh) * | 2014-11-18 | 2015-03-04 | 浪潮电子信息产业股份有限公司 | 一种非规则流中高维数据流的gpu处理方法 |
CN107480623A (zh) * | 2017-08-07 | 2017-12-15 | 西安电子科技大学 | 基于协作表示的近邻保持人脸识别方法 |
CN108399396A (zh) * | 2018-03-20 | 2018-08-14 | 深圳职业技术学院 | 一种基于核方法和线性回归的人脸识别方法 |
CN109241813A (zh) * | 2017-10-17 | 2019-01-18 | 南京工程学院 | 用于非约束人脸识别的判别稀疏保持嵌入方法 |
WO2019090878A1 (zh) * | 2017-11-09 | 2019-05-16 | 合肥工业大学 | 基于向量值正则核函数逼近的模拟电路故障诊断方法 |
WO2020010602A1 (zh) * | 2018-07-13 | 2020-01-16 | 深圳大学 | 一种非线性非负矩阵分解人脸识别构建方法、系统及存储介质 |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10531806B2 (en) * | 2013-12-17 | 2020-01-14 | University Of Florida Research Foundation, Inc. | Brain state advisory system using calibrated metrics and optimal time-series decomposition |
-
2020
- 2020-09-25 CN CN202011023210.4A patent/CN112116017B/zh active Active
Patent Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102208020A (zh) * | 2011-07-16 | 2011-10-05 | 西安电子科技大学 | 基于最优维数标度切判据的人脸识别方法 |
CN104391679A (zh) * | 2014-11-18 | 2015-03-04 | 浪潮电子信息产业股份有限公司 | 一种非规则流中高维数据流的gpu处理方法 |
CN107480623A (zh) * | 2017-08-07 | 2017-12-15 | 西安电子科技大学 | 基于协作表示的近邻保持人脸识别方法 |
CN109241813A (zh) * | 2017-10-17 | 2019-01-18 | 南京工程学院 | 用于非约束人脸识别的判别稀疏保持嵌入方法 |
WO2019090878A1 (zh) * | 2017-11-09 | 2019-05-16 | 合肥工业大学 | 基于向量值正则核函数逼近的模拟电路故障诊断方法 |
CN108399396A (zh) * | 2018-03-20 | 2018-08-14 | 深圳职业技术学院 | 一种基于核方法和线性回归的人脸识别方法 |
WO2020010602A1 (zh) * | 2018-07-13 | 2020-01-16 | 深圳大学 | 一种非线性非负矩阵分解人脸识别构建方法、系统及存储介质 |
Non-Patent Citations (4)
Title |
---|
一种增量式类内局部保持降维算法;王万良等;计算机科学(第S3期);全文 * |
一种新的保类内核Fisher判别法及说话人辨别应用;郑建炜;王万良;;计算机科学(第07期);全文 * |
基于QR分解的正则化邻域保持嵌入算法;翟冬灵;王正群;徐春林;;计算机应用(第06期);全文 * |
融合核主成分分析和最小距离鉴别投影的人脸识别算法;刘君;黄燕琪;熊邦书;;计算机工程(第04期);全文 * |
Also Published As
Publication number | Publication date |
---|---|
CN112116017A (zh) | 2020-12-22 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN112116017B (zh) | 基于核保持的图像数据降维方法 | |
Liu et al. | Structured optimal graph based sparse feature extraction for semi-supervised learning | |
Titsias et al. | Spike and slab variational inference for multi-task and multiple kernel learning | |
Cherny et al. | The recognition of handwritten digits using neural network technology | |
CN107392107B (zh) | 一种基于异构张量分解的人脸特征提取方法 | |
CN110222213B (zh) | 一种基于异构张量分解的图像分类方法 | |
CN108415883B (zh) | 基于子空间聚类的凸非负矩阵分解方法 | |
Wang et al. | Block diagonal representation learning for robust subspace clustering | |
CN110717519B (zh) | 训练、特征提取、分类方法、设备及存储介质 | |
CN109657611B (zh) | 一种用于人脸识别的自适应图正则化非负矩阵分解方法 | |
CN110889865B (zh) | 一种基于局部加权稀疏特征选择的视频目标跟踪方法 | |
Ding et al. | Unsupervised feature selection via adaptive hypergraph regularized latent representation learning | |
Qian et al. | Image decomposition based matrix regression with applications to robust face recognition | |
CN109871880A (zh) | 基于低秩稀疏矩阵分解、局部几何结构保持和类别信息最大统计相关的特征提取方法 | |
CN115995011B (zh) | 基于图正则化的非线性正交非负矩阵分解图像聚类方法 | |
Shen et al. | Another robust NMF: Rethinking the hyperbolic tangent function and locality constraint | |
Lv et al. | View-consistency learning for incomplete multiview clustering | |
CN111126169B (zh) | 基于正交化的图正则非负矩阵分解的人脸识别方法及系统 | |
Zhang et al. | Multi-label feature selection based on logistic regression and manifold learning | |
Wang et al. | Robust semi-supervised nonnegative matrix factorization | |
CN109657693B (zh) | 一种基于相关熵和迁移学习的分类方法 | |
CN114743058A (zh) | 基于混合范数正则约束的宽度学习图像分类方法及装置 | |
Kwak et al. | Feature extraction based on subspace methods for regression problems | |
CN108388918B (zh) | 具有结构保持特性的数据特征选择方法 | |
Dan et al. | PF‐ViT: Parallel and Fast Vision Transformer for Offline Handwritten Chinese Character Recognition |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |