CN105740912A - 基于核范数正则化的低秩图像特征提取的识别方法及系统 - Google Patents

Abstract

本申请公开了一种基于核范数正则化的低秩图像特征提取的识别方法及系统，首先对原始训练图像进行相似性学习，构造重构权重系数，再通过最小化基于核范数度量的邻域重构错误，并对投影矩阵进行核范数正则化处理，得到可直接提取二维图像特征的低秩投影矩阵，可有效保持图像像素间的拓扑结构和相关性。此外可确保优化得到低秩的显著图像特征。将原始测试图像直接向训练得到的低秩投影矩阵进行嵌入，输出其低秩显著特征，基于训练集中的低秩显著特征，利用最近邻分类器进行分类，取与测试图像样本的特征相似性最大的训练图像样本的类别标签，完成测试图像样本归类。通过引入核范数正则化，可有效保证特征提取过程中噪声的鲁棒性，系统性能更好。

Description

基于核范数正则化的低秩图像特征提取的识别方法及系统

技术领域

本发明涉及计算机视觉与图像识别技术领域，特别涉及一种基于核范数正则化的低秩图像特征提取的识别方法及系统。

背景技术

随着信息时代的飞速发展，数据与信息的高效处理在科学发展的重要性与日俱增。特征提取技术作为一个数据预处理步骤，在计算机视觉、数据挖掘和图像处理等领域的研究中扮演重要角色。特征提取是将给定的高维数据嵌入到低维表示空间的同时，有效保留原有数据几何结构的一项技术。该项技术在机器视觉系统与图像处理有着重大的意义，在实际应用中，所产生的社会与经济效益也是不可估量的。然而，大多图像本身除了包含有用信息，还夹杂很多不利特征，这就使得提取显著特征的难度大大增加。到目前为止，特征提取还有很大的发展空间，且由于其巨大的实用价值与研究价值，越来越多研究者投身于此，并不断优化现有技术以提取更为显著特征。

近年来，许多流行的特征提取方法如PCA(PCA，即PrincipalComponentAnalysis，主成分分析),LPP(LPP，即LocalityPreservingProjections，局部保持投影),NPP(NPP，即NeighborhoodPreservingProjections，领域保持投影)等相继被提出，这些发明方法基于数据的向量空间进行特征提取，但是这样会破坏图像的拓扑结构，且处理高维数据开销太大。因此，大多数学者开始着眼于保留图像的拓扑结构以实现直接从二维图像矩阵中直接提取特征，许多基于二维特征的提取方法也已经相继被提出，其中较为经典的有2DPCA,2DLPP,2DNPP等，但是这些方法都使用了对噪声和异类数据非常敏感的Frobenius范数度量邻域重构错误，使得这些方法都存在一定的缺陷。

因此，提出更可靠的度量重构错误方法，以保持图像拓扑结构的同时提升系统的可靠性与鲁棒性，增强分类性能，是本领域人员亟待解决的问题。

发明内容

有鉴于此，本发明的目的在于提供一种基于核范数正则化的低秩图像特征提取的识别方法及系统，克服了现有模型对噪声和异类数据非常敏感等问题，同时提高了算法的鲁棒性，实现了更为有效的图像特征提取方案。其具体方案如下：

一种基于核范数正则化的低秩图像特征提取的识别方法，包括：

对原始训练图像样本进行相似性学习，使用重构权重方法重构权重系数，通过最小化基于核范数度量的邻域重构错误以优化投影矩阵，并对所述投影矩阵进行核范数正则化，相应地得到可用于直接提取二维图像特征的低秩投影矩阵；

利用所述低秩投影矩阵，分别对原始训练图像样本和原始测试图像样本进行特征提取，相应地得到包含低秩显著特征的训练集和测试集；

将所述测试集中每一测试图像样本的低秩显著特征输入至最近邻分类器以进行分类，从所述训练集中提取出与测试图像样本的特征相似性最大的训练图像样本的类别标签，并将该类别标签作为对应的测试图像样本的类别标签，以完成对所述测试集中每一测试图像样本的类别鉴定，得到相应的识别结果。

优选的，所述对原始训练图像样本进行相似性学习，使用重构权重方法重构权重系数，通过最小化基于核范数度量的邻域重构错误以优化投影矩阵，并对所述投影矩阵进行核范数正则化，相应地得到可用于直接提取二维图像特征的低秩投影矩阵的过程，包括：

按照预设的划分比例，将预设图像数据集划分成原始训练集和原始测试集，其中，所述原始训练集包括N个原始训练图像样本，具体表示为 N为正整数；

基于原始训练图像样本进行K近邻搜索，以找出每个原始训练图像样本在所述原始训练集中的K个最近邻样本，然后采用LLE-重构权重方法对权重系数进行重构，K为正整数；

通过最小化基于核范数度量的邻域重构错误以优化投影矩阵，并对所述投影矩阵进行核范数正则化，相应地得到所述低秩投影矩阵其中，

其中，W_i,j为权重系数，为A_i的K个最近邻样本的集合，α为各项的权衡参数，I_d为d×d的单位矩阵，||·||_*为核范数，对任意矩阵X可定义为：||X||_*＝∑_iσ_i(X)，其中，∑_iσ_i(X)表示X的奇异值之和。

优选的，所述利用所述低秩投影矩阵，分别对原始训练图像样本和原始测试图像样本进行特征提取，相应地得到包含低秩显著特征的训练集和测试集的过程，包括：

将所述原始训练集中每个原始训练图像样本A_i向所述低秩投影矩阵进行映射，得到包含相应低秩显著特征矩阵的训练集；其中，与任一原始训练图像样本A_i对应的低秩显著特征矩阵Y_i表示为：Y_i＝P^TA_i；

将所述原始测试集中每个原始测试图像样本向所述低秩投影矩阵进行映射，得到包含相应低秩显著特征矩阵的测试集；其中，与任一原始测试图像样本对应的低秩显著特征矩阵Y_j表示为：

优选的，所述将所述测试集中每一测试图像样本的低秩显著特征输入至最近邻分类器以进行分类，从所述训练集中提取出与测试图像样本的特征相似性最大的训练图像样本的标签，并将该标签作为对应的测试图像样本的标签，以完成对所述测试集中每一测试图像样本的类别鉴定，得到相应的识别结果的过程，包括：

利用所述最近邻分类器，从所述训练集中筛选出与任一测试图像样本的特征相似性最大的训练图像样本B_max，并将该训练图像样本B_max的类别标签确定为该测试图像样本的类别标签；

其中，与B_max之间需满足：

d(Y_n,Y_max)＝min_md(Y_n,Y_m)，其中，n＝1,2,…,N，m＝1,2,…,M；

其中，Y_n为与对应的低秩显著特征矩阵，Y₁ ⁽ⁿ⁾,Y₂ ⁽ⁿ⁾…Y_d ⁽ⁿ⁾为Y_n中的特征向量；Y_m为与任一训练图像样本B_m对应的低秩显著特征矩阵，Y_m＝P^TB_m＝(Y₁ ^(m),Y₂ ^(m)…Y_d ^(m))，Y₁ ^(m),Y₂ ^(m)…Y_d ^(m)为Y_m中的特征向量，Y_max为与B_max对应的低秩显著特征矩阵；d(Y_n,Y_m)表示Y_n与Y_m之间的欧氏距离，具体为，

$d(Y_n,Y_m)=\underset{k=1}{\overset{d}{\Σ}}\left|\right|{Y_k}^{\left(n\right)}-{Y_k}^{\left(m\right)}\left|\right|.$

本发明还公开了一种基于核范数正则化的低秩图像特征提取的识别系统，包括：

训练模块，用于对原始训练图像样本进行相似性学习，使用重构权重方法重构权重系数，通过最小化基于核范数度量的邻域重构错误以优化投影矩阵，并对所述投影矩阵进行核范数正则化，相应地得到可用于直接提取二维图像特征的低秩投影矩阵；

测试预处理模块，用于利用所述低秩投影矩阵，分别对原始训练图像样本和原始测试图像样本进行特征提取，相应地得到包含低秩显著特征的训练集和测试集；

测试模块，用于将所述测试集中每一测试图像样本的低秩显著特征输入至最近邻分类器以进行分类，从所述训练集中提取出与测试图像样本的特征相似性最大的训练图像样本的类别标签，并将该类别标签作为对应的测试图像样本的类别标签，以完成对所述测试集中每一测试图像样本的类别鉴定，得到相应的识别结果。

优选的，所述训练模块包括：

样本划分单元，按照预设的划分比例，将预设图像数据集划分成原始训练集和原始测试集，其中，所述原始训练集包括N个原始训练图像样本，具体表示为 N为正整数；

学习单元，基于原始训练图像样本进行K近邻搜索，以找出每个原始训练图像样本在所述原始训练集中的K个最近邻样本，然后采用LLE-重构权重方法对权重系数进行重构，K为正整数；

矩阵优化单元，通过最小化基于核范数度量的邻域重构错误以优化投影矩阵，并对所述投影矩阵进行核范数正则化，相应地得到所述低秩投影矩阵其中，

其中，W_i,j为权重系数，为A_i的K个最近邻样本的集合，α为各项的权衡参数，I_d为d×d的单位矩阵，||·||_*为核范数，对任意矩阵X可定义为：||X||_*＝∑_iσ_i(X)，其中，∑_iσ_i(X)表示X的奇异值之和。

优选的，所述测试预处理模块包括：

第一预处理单元，用于将所述原始训练集中每个原始训练图像样本A_i向所述低秩投影矩阵进行映射，得到包含相应低秩显著特征矩阵的训练集；其中，与任一原始训练图像样本A_i对应的低秩显著特征矩阵Y_i表示为：Y_i＝P^TA_i；

第二预处理单元，用于将所述原始测试集中每个原始测试图像样本向所述低秩投影矩阵进行映射，得到包含相应低秩显著特征矩阵的测试集；其中，与任一原始测试图像样本对应的低秩显著特征矩阵Y_j表示为：

优选的，所述测试模块包括：

样本筛选单元，用于利用所述最近邻分类器，从所述训练集中筛选出与任一测试图像样本的特征相似性最大的训练图像样本B_max；

类别确定单元，用于将所述样本筛选单元筛选出的训练图像样本B_max的类别标签确定为相应测试图像样本的类别标签；

其中，与B_max之间需满足：

d(Y_n,Y_max)＝min_md(Y_n,Y_m)，其中，n＝1,2,…,N，m＝1,2,…,M；

其中，Y_n为与对应的低秩显著特征矩阵，Y₁ ⁽ⁿ⁾,Y₂ ⁽ⁿ⁾…Y_d ⁽ⁿ⁾为Y_n中的特征向量；Y_m为与任一训练图像样本B_m对应的低秩显著特征矩阵，Y_m＝P^TB_m＝(Y₁ ^(m),Y₂ ^(m)…Y_d ^(m))，Y₁ ^(m),Y₂ ^(m)…Y_d ^(m)为Y_m中的特征向量，Y_max为与B_max对应的低秩显著特征矩阵；d(Y_n,Y_m)表示Y_n与Y_m之间的欧氏距离，具体为，

$d(Y_n,Y_m)=\underset{k=1}{\overset{d}{\Σ}}\left|\right|{Y_k}^{\left(n\right)}-{Y_k}^{\left(m\right)}\left|\right|.$

经由上述的技术方案可知，与现有技术相比，本发明公开了一种基于核范数正则化的低秩图像特征提取的识别方法及系统，首先对原始训练图像进行相似性学习，构造重构权重系数，再通过最小化基于核范数度量的邻域重构错误，以优化投影矩阵，并对投影矩阵进行核范数正则化处理，得到可直接提取二维图像特征的低秩投影矩阵，可以有效保持图像像素间的拓扑结构和相关性，进而提升系统性能。此外，通过对投影矩阵进行核范数正则化，可确保优化得到低秩的显著图像特征。样本外图像的归纳主要通过将原始测试图像直接向训练得到的低秩投影矩阵进行嵌入，输出其低秩显著特征，基于训练集中训练图像样本的低秩显著特征，利用最近邻分类器进行分类，取与测试图像样本的特征相似性最大的训练图像样本的类别标签，完成测试图像样本归类。本发明通过引入核范数正则化，可有效保证特征提取过程中关于噪声的鲁棒性，系统性能更好。

附图说明

为了更清楚地说明本发明实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据提供的附图获得其他的附图。

图1为本发明实施例公开的一种基于核范数正则化的低秩图像特征提取的识别方法流程图；

图2为本发明实施例公开的利用低秩投影矩阵提取低秩显著特征的示意图；

图3为本发明实施例公开的一种核范数正则化图像识别示意图；

图4为本发明实施例公开的一种基于核范数正则化的低秩图像特征提取的识别系统结构示意图；

图5为本发明实施例公开的一种具体的基于核范数正则化的低秩图像特征提取的识别系统结构示意图。

具体实施方式

下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。

本发明实施例公开了一种基于核范数正则化的低秩图像特征提取的识别方法，参见图1所示，该方法包括：

步骤S11：对原始训练图像样本进行相似性学习，使用重构权重方法重构权重系数，通过最小化基于核范数度量的邻域重构错误以优化投影矩阵，并对投影矩阵进行核范数正则化，相应地得到可用于直接提取二维图像特征的低秩投影矩阵；

步骤S12：利用低秩投影矩阵，分别对原始训练图像样本和原始测试图像样本进行特征提取，相应地得到包含低秩显著特征的训练集和测试集；

步骤S13：将测试集中每一测试图像样本的低秩显著特征输入至最近邻分类器以进行分类，从训练集中提取出与测试图像样本的特征相似性最大的训练图像样本的类别标签，并将该类别标签作为对应的测试图像样本的类别标签，以完成对测试集中每一测试图像样本的类别鉴定，得到相应的识别结果。

可见，本发明实施例公开了一种基于核范数正则化的低秩图像特征提取的识别方法，首先对原始训练图像进行相似性学习，构造重构权重系数，再通过最小化基于核范数度量的邻域重构错误，以优化投影矩阵，并对投影矩阵进行核范数正则化处理，得到可直接提取二维图像特征的低秩投影矩阵，可以有效保持图像像素间的拓扑结构和相关性，进而提升系统性能。此外，通过对投影矩阵进行核范数正则化，可确保优化得到低秩的显著图像特征。样本外图像的归纳主要通过将原始测试图像直接向训练得到的低秩投影矩阵进行嵌入，输出其低秩显著特征，基于训练集中训练图像样本的低秩显著特征，利用最近邻分类器进行分类，取与测试图像样本的特征相似性最大的训练图像样本的类别标签，完成测试图像样本归类。本发明实施例通过引入核范数正则化，可有效保证特征提取过程中关于噪声的鲁棒性，系统性能更好。

本发明实施例公开了一种具体的基于核范数正则化的低秩图像特征提取的识别方法，相对于上一实施例，本实施例对技术方案作了进一步的说明和优化。具体的：

上一实施例步骤S11具体包括：

步骤S111：按照预设的划分比例，将预设图像数据集划分成原始训练集和原始测试集，其中，原始训练集包括N个原始训练图像样本，具体表示为 $A={\left\{A_i\right\}}_{i=1}^N,$ N为正整数；

步骤S112：基于原始训练图像样本进行K近邻搜索，以找出每个原始训练图像样本在原始训练集中的K个最近邻样本，然后采用LLE-重构权重方法对权重系数进行重构，K为正整数；

步骤S113：通过最小化基于核范数度量的邻域重构错误以优化投影矩阵，并对投影矩阵进行核范数正则化，相应地得到低秩投影矩阵其中，

其中，W_i,j为权重系数，为A_i的K个最近邻样本的集合，α为各项的权衡参数，I_d为d×d的单位矩阵，||·||_*为核范数，对任意矩阵X可定义为：||X||_*＝∑_iσ_i(X)，其中，∑_iσ_i(X)表示X的奇异值之和。

上一实施例步骤S12具体可以包括：

步骤S121：将原始训练集中每个原始训练图像样本A_i向低秩投影矩阵进行映射，得到包含相应低秩显著特征矩阵的训练集；其中，与任一原始训练图像样本A_i对应的低秩显著特征矩阵Y_i表示为：Y_i＝P^TA_i；

步骤S122：将原始测试集中每个原始测试图像样本向低秩投影矩阵进行映射，得到包含相应低秩显著特征矩阵的测试集；其中，与任一原始测试图像样本对应的低秩显著特征矩阵Y_j表示为：

上一实施例步骤S13具体可以包括：

步骤S131：利用最近邻分类器，从训练集中筛选出与任一测试图像样本的特征相似性最大的训练图像样本B_max，并将该训练图像样本B_max的类别标签确定为该测试图像样本的类别标签；

其中，与B_max之间需满足：

d(Y_n,Y_max)＝min_md(Y_n,Y_m)，其中，n＝1,2,…,N，m＝1,2,…,M；

其中，Y_n为与对应的低秩显著特征矩阵，Y₁ ⁽ⁿ⁾,Y₂ ⁽ⁿ⁾…Y_d ⁽ⁿ⁾为Y_n中的特征向量；Y_m为与任一训练图像样本B_m对应的低秩显著特征矩阵，Y_m＝P^TB_m＝(Y₁ ^(m),Y₂ ^(m)…Y_d ^(m))，Y₁ ^(m),Y₂ ^(m)…Y_d ^(m)为Y_m中的特征向量，Y_max为与B_max对应的低秩显著特征矩阵；d(Y_n,Y_m)表示Y_n与Y_m之间的欧氏距离，具体为，

$d(Y_n,Y_m)=\underset{k=1}{\overset{d}{\Σ}}\left|\right|{Y_k}^{\left(n\right)}-{Y_k}^{\left(m\right)}\left|\right|.$

本发明实施例公开了一种更具体的基于核范数正则化的低秩图像特征提取的识别方法，相对于上一实施例，本实施例对技术方案作了更加具体的说明。

本发明实施例公开的方法具体包括：

步骤S11：对原始训练图像样本进行相似性学习，使用重构权重方法重构权重系数，通过最小化基于核范数度量的邻域重构错误以优化投影矩阵，并对投影矩阵进行核范数正则化，相应地得到可用于直接提取二维图像特征的低秩投影矩阵。

具体的，本发明实施例共使用了3个真实图像数据集，分别是CMUPIEface，UMISTface以及MITCBCLface，所有图像数据均统一压缩为30×30。其中，CMUPIEface共有2856张人脸图像，共68人，即68个类别；UMISTface共1012张人脸图像，20个类别；MITCBCLface共有3240张人脸图像，10个类别。这些数据库从多方面收集，因而测试结果具有普遍说明性。

在图像特征提取的实验中，主要以将图像特征输入最近邻分类器得到的分类精确度作为衡量特征提取方法优劣的标准。本发明实施例将上述三个数据集均划分为原始训练集与原始测试集；CMUPIEface数据集每类取10个样本作为原始训练集，其余作为原始测试集；UMISTface和MITCBCLface数据集均从每类选取5个样本作为原始训练集，其余作为原始测试集。每个实验结果均取15次随机取样结果的平均值。

首先从CMUPIE图像数据集中每类图像数据随机选取10个样本作为原始训练集A，其余的作为原始测试集在本实施例CMUPIE数据集中，数据维度m×n为30×30，总样本数量＝2856，标签类别数c＝68。根据上述实验设置，将CaltechFaces人脸数据库随机划分为训练集680张人脸图像，测试集2176张。(由N＝680个图像样本组成)，基于原始训练图像样本进行K近邻搜索，找出每个样本在训练集中的K个最近邻样本，其中K＝7，任意原始训练图像样本A_i的权重向量为A_i的K个邻域样本对A_i的重构，可通过解决如下问题获得：

任意原始训练集图像样本A_i和A_j间的相似度使用LLE-重构权进行表征，具体如下：

$W_{i,j}={\mathrm{\Σ}}_{r=1}^N{\mathrm{\η}}_{jr}^{\left(i\right)}/\left({\mathrm{\Σ}}_{u=1}^N{\mathrm{\Σ}}_{t=1}^N{\mathrm{\η}}_{ut}^{\left(i\right)}\right);$

其中，χ_i为目标图像A_i的向量表示，χ_j和χ_r均为χ_i的近邻，即χ_j,χ_r∈N(χ_i)，权重系数矩阵即W＝[W_i,j]。

然后利用重构权重系数，通过最小化基于核范数度量的邻域重构错误优化投影矩阵，输出投影矩阵具体为解决如下问题：

其中，是A_i的近邻集，是串联的图像矩阵，表示求两个矩阵的张量积，为A_i的K个近邻图像的串联矩阵，是近邻集中第j个近邻图像，用于衡量目标图像的邻域重构错误。

由于直接提取的二维特征的显著性主要取决于投影矩阵P的表征能力，为了增强投影矩阵特征表示的健壮性，本发明方法同时对投影矩阵使用核范数正则化，以确保优化得到低秩的显著图像特征，具体为解决如下问题：

其中||P||_*可确保学到的投影是低秩矩阵，且能在一定程度上保证将各个目标图像嵌入各自潜在的子空间后还可以有效的恢复或者表示目标图像。α为各项的权衡参数，由上述核范数定义可知，对任意矩阵H和Q，如果H-Q所有的奇异值都不为零时，可有如下定义：

$\left|\right|H-Q|{|}_{*}=|\left|{\left(\right(H-Q\left){\left(H-Q\right)}^T\right)}^{-1/4}(H-Q)\right|{|}_F^2$

当Q＝0时，上式可改写为：其中由于对任意秩为γ的矩阵H的次幂可定义为：其中 ${\mathrm{\Σ}}^{\mathrm{\φ}}=diag({\mathrm{\σ}}_1^{\mathrm{\φ}},{\mathrm{\σ}}_2^{\mathrm{\φ}},\mathrm{...},{\mathrm{\σ}}_{\mathrm{\γ}}^{\mathrm{\φ}}),$ U∑V^T是H的SVD分解，σ₁≥σ₂≥…σ_γ≥0。因此，上述问题可转化为如下问题：

其中，Wⁱ为权重系数矩阵的第i行向量，且有：

$G_i={\[(A_i^{T}P-(W^i\⊗I_n\left){\mathrm{\Ω}}^{\left(i\right)T}P\right){(A_i^{T}P-(W^i\⊗I_n\left){\mathrm{\Ω}}^{\left(i\right)T}P\right)}^T\]}^{-1/4},F={\left({\mathrm{PP}}^T\right)}^{-1/4};$

由于在该模型中，包含多个主要变量(G_i，F，P)，且相互影响，因此不能直接解决。故在求解该问题时采用迭代求最优解策略，具体包括优化投影矩阵以及优化权重矩阵的迭代过程。

一、优化投影矩阵P：

简化目标函数各项，使得目标函数得到更直观的表示，具体为：

$\begin{array}{c}\underset{i=1}{\overset{N}{\Σ}}\left|\right|G_i(A_i^{T}P-(W^i\⊗I_n\left){\mathrm{\Ω}}^{\left(i\right)T}P\right)|{|}_F^2\\ =\underset{i=1}{\overset{N}{\Σ}}tr\[G_i(A_i^{T}P-(W^i\⊗I_n\left){\mathrm{\Ω}}^{\left(i\right)T}P\right){(A_i^{T}P-(W^i\⊗I_n\left){\mathrm{\Ω}}^{\left(i\right)T}P\right)}^T{G_i}^T\]\\ =\underset{i=1}{\overset{N}{\Σ}}tr\[G_i(A_i^T-(W^i\⊗I_n\left){\mathrm{\Ω}}^{\left(i\right)T}\right){\mathrm{PP}}^T{(A_i^T-(W^i\⊗I_n\left){\mathrm{\Ω}}^{\left(i\right)T}\right)}^T{G_i}^T\]\\ =tr\[P^T{\Σ}_{i=1}^N{{\mathrm{\Θ}}_i}^T{G}_i^T{G}_i{\mathrm{\Θ}}_{i}P\]\end{array};$

其中， ${\mathrm{\Θ}}_i=A_i^T-(W^i\⊗I_n){\mathrm{\Ω}}^{\left(i\right)T},i=1,2,\mathrm{...},N.$

由于， $\mathrm{\α}\left|\right|FP|{|}_F^2=tr\left({\mathrm{\αFPP}}^T{F}^T\right)=tr\left({\mathrm{\αP}}^T{F}^{T}PF\right);$

因此，在第k+1次迭代过程中，投影矩阵P可被更新为：

求解该问题可通过求解一个特征分解问题，获得d个最小的特征值对应的特征向量，并将特征向量按照相应特征值升序排列组成P_k+1，该特征分解问题为：

二、优化权重矩阵G_i和F：

在第k+1次迭代过程中，G_i和F可被更新为：

${\left(G_i\right)}_{k+1}={\[\left({\mathrm{\ΘP}}_{k+1}\right){\left({\mathrm{\ΘP}}_{k+1}\right)}^T\]}^{-1/4}={\left({\mathrm{\Δ}}_{k+1}^i{{\mathrm{\Δ}}_{k+1}^i}^T\right)}^{-1/4},F_{k+1}={\left(P_{k+1}{P_{k+1}}^T\right)}^{-1/4};$

其中，由于G_i和F的各项有相同的结构，所以可用相同的解法来计算，这里以(G_i)_k+1的计算为例。注意如果的奇异值很小，计算出的(G_i)_k+1会呈现一种病态形式，因此本发明实施例将替代为它的ε-稳定值，即也就是说，通过固定一个参量ε＞0，并使中较小的奇异值增大为但是对于只固定一个参量ε＞0不能保证算法一定能收敛，所以本发明实施例在每次迭代过程中选择的参量在保证的前提下使得ε＝ε(η)→0，因此上述问题转化为：

(G_i)_k+1＝[(ΘP_k+1)_ε(ΘP_k+1)_ε ^T]^-1/4，F_k+1＝((P_k+1)_ω(P_k+1)_ω ^T)^-1/4；

重复迭代步骤一和二，当满足预设收敛条件时终止迭代，得到的投影矩阵即为最优化的低秩投影矩阵P^*。其中，预设收敛条件为：

其中，ρ＝0.001。

关于上述过程的具体算法如下：

输入：原始训练图像邻域数K，参量α；

1、计算重构的权重向量Wⁱ，以及

2、初始化： $k=0,{\left(G_{i=1:N}\right)}_0=I_n,F_0=I_n,{\mathrm{\ϵ}}_{i=1:N}^0={\mathrm{\ω}}^0=1,\mathrm{\Φ}=2;$

While未收敛时do：

3、更新 ${\mathrm{\Θ}}_i=A_i^T-(W^i\⊗I_n){\mathrm{\Ω}}^{\left(i\right)T},E_{k+1}={\mathrm{\Σ}}_{i=1}^N{\mathrm{\Θ}}_i^T{{\left(G_i\right)}_k}^T{\left(G_i\right)}_k{\mathrm{\Θ}}_i;$

4、求解特征问题：获得d个最小的特征值按升序排列各个特征值对应的特征向量组成P_K+1；

5、固定其他值，通过解决如下问题更新

${\mathrm{\Δ}}_{k+1}^i={\mathrm{\Θ}}_i{P}_{k+1},{\mathrm{\ϵ}}_i^{k+1}=min\{{\mathrm{\ϵ}}_i^k,{\mathrm{\σ}}_{\mathrm{\Φ}}\left(\mathrm{\Δ}i\right)\},{\left(G_i\right)}_k+1={\left({\left({\mathrm{\Θ}}_i{P}_{k+1}\right)}_{\mathrm{\ϵ}}{{\left({\mathrm{\Θ}}_i{P}_{k+1}\right)}_{\mathrm{\ϵ}}}^T\right)}^{-1/4};$

6、固定其他值，通过解决如下问题更新ω^k+1,F_k+1：

ω^k+1＝min{ω^k,σ_Φ(P_k+1)},F_k+1＝((P_k+1)_ω(P_k+1)_ω ^T)^-1/4；

7、检查收敛：若迭代终止，否则继续；

Endwhile

输出：最优化低秩投影矩阵P^*＝P_k+1。

步骤S12：利用低秩投影矩阵，分别对原始训练图像样本和原始测试图像样本进行特征提取，相应地得到包含低秩显著特征的训练集和测试集。

具体的，Y_i为将A_i向低秩投影矩阵P进行映射，从而获取低秩的显著图像特征所构成的特征矩阵，定义如下：A_i→Y_i＝P^TA_i,i＝1,2,…N。将原始训练集中各个原始训练图像样本A_i向低秩投影矩阵P进行映射，A_i→Y_i＝P^TA_i，i＝1,2,…N，从而获取低秩的显著图像特征，将其作为新的训练集，用来进行最近邻分类器设计；同样，将中各个原始测试图像样本向低秩投影矩阵进行映射获取低秩的显著图像特征，将其作为新的测试集，用于评估分类器模型的性能。

参见图2所示，图2为本发明实施例中利用低秩投影矩阵提取低秩显著特征的示意图。

步骤S13：将测试集中每一测试图像样本的低秩显著特征输入至最近邻分类器以进行分类，从训练集中提取出与测试图像样本的特征相似性最大的训练图像样本的类别标签，并将该类别标签作为对应的测试图像样本的类别标签，以完成对测试集中每一测试图像样本的类别鉴定，得到相应的识别结果。

具体的，利用最近邻分类器，从训练集中筛选出与任一测试图像样本的特征相似性最大的训练图像样本B_max，并将该训练图像样本B_max的类别标签确定为该测试图像样本的类别标签；

其中，与B_max之间需满足：

d(Y_n,Y_max)＝min_md(Y_n,Y_m)，其中，n＝1,2,…,N，m＝1,2,…,M；

其中，Y_n为与对应的低秩显著特征矩阵，Y₁ ⁽ⁿ⁾,Y₂ ⁽ⁿ⁾…Y_d ⁽ⁿ⁾为Y_n中的特征向量；Y_m为与任一训练图像样本B_m对应的低秩显著特征矩阵，Y_m＝P^TB_m＝(Y₁ ^(m),Y₂ ^(m)…Y_d ^(m))，Y₁ ^(m),Y₂ ^(m)…Y_d ^(m)为Y_m中的特征向量，Y_max为与B_max对应的低秩显著特征矩阵；d(Y_n,Y_m)表示Y_n与Y_m之间的欧氏距离，具体为，

$d(Y_n,Y_m)=\underset{k=1}{\overset{d}{\Σ}}\left|\right|{Y_k}^{\left(n\right)}-{Y_k}^{\left(m\right)}\left|\right|.$

关于实验参数的选择，上述方法统一使用LLE-重构权来构建相似近邻图，其中对K近邻的参数K统一设置为7。本发明实施例中的参数α通过网格搜索的方式进行选择，参数的取值范围均为{10^-8,10^-6,…,10⁸}。每次实验中，划分原始训练集和原始测试集的过程均是随机的，且对任一个每类训练集样本中选取的样本，将重复15次随机实验来得到平均结果。请参阅表1，为本发明与9个经典特征提取算法，在3个真实图像数据集上的分类结果对比，CMUPIEface数据集每类选10个样本作为原始训练集，另外两个数据集每类取5个图像样本训练，其余作为原始测试集。实验中，数据集被划分原始训练集和原始测试集。任务在于提取原始训练集和原始测试集图像数据特征后利用最近邻分类器对测试集进行分类。表1给出了15次实验的平均结果和最好结果。参与比较的特征提取算法各自采用默认的参数进行实验。

表一本发明与传统特征提取算法的正确率对比

基于核范数正则化技术，可以看出本发明的投影矩阵可以有效地重构得到原始图像的特征图像，并体现出细节特征。图3为本发明实施例公开的一种核范数正则化图像识别示意图。

相应的，本发明实施例还公开了一种基于核范数正则化的低秩图像特征提取的识别系统，参见图4所示，包括：

训练模块41，用于对原始训练图像样本进行相似性学习，使用重构权重方法重构权重系数，通过最小化基于核范数度量的邻域重构错误以优化投影矩阵，并对投影矩阵进行核范数正则化，相应地得到可用于直接提取二维图像特征的低秩投影矩阵；

测试预处理模块42，用于利用低秩投影矩阵，分别对原始训练图像样本和原始测试图像样本进行特征提取，相应地得到包含低秩显著特征的训练集和测试集；

测试模块43，用于将测试集中每一测试图像样本的低秩显著特征输入至最近邻分类器以进行分类，从训练集中提取出与测试图像样本的特征相似性最大的训练图像样本的类别标签，并将该类别标签作为对应的测试图像样本的类别标签，以完成对测试集中每一测试图像样本的类别鉴定，得到相应的识别结果。

具体的，参见图5所示，训练模块41可以包括样本划分单元411、学习单元412和矩阵优化单元413；其中，

样本划分单元411，按照预设的划分比例，将预设图像数据集划分成原始训练集和原始测试集，其中，原始训练集包括N个原始训练图像样本，具体表示为 N为正整数；

学习单元412，基于原始训练图像样本进行K近邻搜索，以找出每个原始训练图像样本在原始训练集中的K个最近邻样本，然后采用LLE-重构权重方法对权重系数进行重构，K为正整数；

矩阵优化单元413，通过最小化基于核范数度量的邻域重构错误以优化投影矩阵，并对投影矩阵进行核范数正则化，相应地得到低秩投影矩阵其中，

其中，W_i,j为权重系数，为A_i的K个最近邻样本的集合，α为各项的权衡参数，I_d为d×d的单位矩阵，||·||_*为核范数，对任意矩阵X可定义为：||X||_*＝∑_iσ_i(X)，其中，∑_iσ_i(X)表示X的奇异值之和。

另外，测试预处理模块42具体可以包括第一预处理单元421和第二预处理单元422；其中，

第一预处理单元421，用于将原始训练集中每个原始训练图像样本A_i向低秩投影矩阵进行映射，得到包含相应低秩显著特征矩阵的训练集；其中，与任一原始训练图像样本A_i对应的低秩显著特征矩阵Y_i表示为：Y_i＝P^TA_i；

第二预处理单元422，用于将原始测试集中每个原始测试图像样本向低秩投影矩阵进行映射，得到包含相应低秩显著特征矩阵的测试集；其中，与任一原始测试图像样本对应的低秩显著特征矩阵Y_j表示为：

进一步的，本实施例中的测试模块43具体可以包括样本筛选单元431和类别确定单元432；其中，

样本筛选单元431，用于利用最近邻分类器，从训练集中筛选出与任一测试图像样本的特征相似性最大的训练图像样本B_max；

类别确定单元432，用于将样本筛选单元431筛选出的训练图像样本B_max的类别标签确定为相应测试图像样本的类别标签；

其中，与B_max之间需满足：

d(Y_n,Y_max)＝min_md(Y_n,Y_m)，其中，n＝1,2,…,N，m＝1,2,…,M；

其中，Y_n为与对应的低秩显著特征矩阵，Y₁ ⁽ⁿ⁾,Y₂ ⁽ⁿ⁾…Y_d ⁽ⁿ⁾为Y_n中的特征向量；Y_m为与任一训练图像样本B_m对应的低秩显著特征矩阵，Y_m＝P^TB_m＝(Y₁ ^(m),Y₂ ^(m)…Y_d ^(m))，Y₁ ^(m),Y₂ ^(m)…Y_d ^(m)为Y_m中的特征向量，Y_max为与B_max对应的低秩显著特征矩阵；d(Y_n,Y_m)表示Y_n与Y_m之间的欧氏距离，具体为，

$d(Y_n,Y_m)=\underset{k=1}{\overset{d}{\Σ}}\left|\right|{Y_k}^{\left(n\right)}-{Y_k}^{\left(m\right)}\left|\right|.$

综上所述可知，本发明公开了一种基于核范数正则化的低秩图像特征提取的识别方法及系统，首先对原始训练图像进行相似性学习，构造重构权重系数，再通过最小化基于核范数度量的邻域重构错误，以优化投影矩阵，并对投影矩阵进行核范数正则化处理，得到可直接提取二维图像特征的低秩投影矩阵，可以有效保持图像像素间的拓扑结构和相关性，进而提升系统性能。此外，通过对投影矩阵进行核范数正则化，可确保优化得到低秩的显著图像特征。样本外图像的归纳主要通过将原始测试图像直接向训练得到的低秩投影矩阵进行嵌入，输出其低秩显著特征，基于训练集中训练图像样本的低秩显著特征，利用最近邻分类器进行分类，取与测试图像样本的特征相似性最大的训练图像样本的类别标签，完成测试图像样本归类。本发明通过引入核范数正则化，可有效保证特征提取过程中关于噪声的鲁棒性，系统性能更好。

最后，还需要说明的是，在本文中，诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来，而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。

以上对本发明所提供的一种基于核范数正则化的低秩图像特征提取的识别方法及系统进行了详细介绍，本文中应用了具体个例对本发明的原理及实施方式进行了阐述，以上实施例的说明只是用于帮助理解本发明的方法及其核心思想；同时，对于本领域的一般技术人员，依据本发明的思想，在具体实施方式及应用范围上均会有改变之处，综上所述，本说明书内容不应理解为对本发明的限制。

Claims (8)

1.一种基于核范数正则化的低秩图像特征提取的识别方法，其特征在于，包括：

对原始训练图像样本进行相似性学习，使用重构权重方法重构权重系数，通过最小化基于核范数度量的邻域重构错误以优化投影矩阵，并对所述投影矩阵进行核范数正则化，相应地得到可用于直接提取二维图像特征的低秩投影矩阵；

利用所述低秩投影矩阵，分别对原始训练图像样本和原始测试图像样本进行特征提取，相应地得到包含低秩显著特征的训练集和测试集；

将所述测试集中每一测试图像样本的低秩显著特征输入至最近邻分类器以进行分类，从所述训练集中提取出与测试图像样本的特征相似性最大的训练图像样本的类别标签，并将该类别标签作为对应的测试图像样本的类别标签，以完成对所述测试集中每一测试图像样本的类别鉴定，得到相应的识别结果。

2.根据权利要求1所述的基于核范数正则化的低秩图像特征提取的识别方法，其特征在于，所述对原始训练图像样本进行相似性学习，使用重构权重方法重构权重系数，通过最小化基于核范数度量的邻域重构错误以优化投影矩阵，并对所述投影矩阵进行核范数正则化，相应地得到可用于直接提取二维图像特征的低秩投影矩阵的过程，包括：

按照预设的划分比例，将预设图像数据集划分成原始训练集和原始测试集，其中，所述原始训练集包括N个原始训练图像样本，具体表示为 N为正整数；

基于原始训练图像样本进行K近邻搜索，以找出每个原始训练图像样本在所述原始训练集中的K个最近邻样本，然后采用LLE-重构权重方法对权重系数进行重构，K为正整数；

通过最小化基于核范数度量的邻域重构错误以优化投影矩阵，并对所述投影矩阵进行核范数正则化，相应地得到所述低秩投影矩阵其中，

其中，W_i,j为权重系数，为A_i的K个最近邻样本的集合，α为各项的权衡参数，I_d为d×d的单位矩阵，||·||_*为核范数，对任意矩阵X可定义为：||X||_*＝∑_iσ_i(X)，其中，∑_iσ_i(X)表示X的奇异值之和。

3.根据权利要求2所述的基于核范数正则化的低秩图像特征提取的识别方法，其特征在于，所述利用所述低秩投影矩阵，分别对原始训练图像样本和原始测试图像样本进行特征提取，相应地得到包含低秩显著特征的训练集和测试集的过程，包括：

将所述原始训练集中每个原始训练图像样本A_i向所述低秩投影矩阵进行映射，得到包含相应低秩显著特征矩阵的训练集；其中，与任一原始训练图像样本A_i对应的低秩显著特征矩阵Y_i表示为：Y_i＝P^TA_i；

将所述原始测试集中每个原始测试图像样本向所述低秩投影矩阵进行映射，得到包含相应低秩显著特征矩阵的测试集；其中，与任一原始测试图像样本对应的低秩显著特征矩阵Y_j表示为：

4.根据权利要求3所述的基于核范数正则化的低秩图像特征提取的识别方法，其特征在于，所述将所述测试集中每一测试图像样本的低秩显著特征输入至最近邻分类器以进行分类，从所述训练集中提取出与测试图像样本的特征相似性最大的训练图像样本的标签，并将该标签作为对应的测试图像样本的标签，以完成对所述测试集中每一测试图像样本的类别鉴定，得到相应的识别结果的过程，包括：

利用所述最近邻分类器，从所述训练集中筛选出与任一测试图像样本的特征相似性最大的训练图像样本B_max，并将该训练图像样本B_max的类别标签确定为该测试图像样本的类别标签；

其中，与B_max之间需满足：

d(Y_n,Y_max)＝min_md(Y_n,Y_m)，其中，n＝1,2,…,N，m＝1,2,…,M；

其中，Y_n为与对应的低秩显著特征矩阵，Y₁ ⁽ⁿ⁾,Y₂ ⁽ⁿ⁾…Y_d ⁽ⁿ⁾为Y_n中的特征向量；Y_m为与任一训练图像样本B_m对应的低秩显著特征矩阵，Y_m＝P^TB_m＝(Y₁ ^(m),Y₂ ^(m)…Y_d ^(m))，Y₁ ^(m),Y₂ ^(m)…Y_d ^(m)为Y_m中的特征向量，Y_max为与B_max对应的低秩显著特征矩阵；d(Y_n,Y_m)表示Y_n与Y_m之间的欧氏距离，具体为，

$d(Y_n,Y_m)=\underset{k=1}{\overset{d}{\Σ}}\left|\right|{Y_k}^{\left(n\right)}-{Y_k}^{\left(m\right)}\left|\right|.$

5.一种基于核范数正则化的低秩图像特征提取的识别系统，其特征在于，包括：

训练模块，用于对原始训练图像样本进行相似性学习，使用重构权重方法重构权重系数，通过最小化基于核范数度量的邻域重构错误以优化投影矩阵，并对所述投影矩阵进行核范数正则化，相应地得到可用于直接提取二维图像特征的低秩投影矩阵；

测试预处理模块，用于利用所述低秩投影矩阵，分别对原始训练图像样本和原始测试图像样本进行特征提取，相应地得到包含低秩显著特征的训练集和测试集；

测试模块，用于将所述测试集中每一测试图像样本的低秩显著特征输入至最近邻分类器以进行分类，从所述训练集中提取出与测试图像样本的特征相似性最大的训练图像样本的类别标签，并将该类别标签作为对应的测试图像样本的类别标签，以完成对所述测试集中每一测试图像样本的类别鉴定，得到相应的识别结果。

6.根据权利要求5所述的基于核范数正则化的低秩图像特征提取的识别系统，其特征在于，所述训练模块包括：

样本划分单元，按照预设的划分比例，将预设图像数据集划分成原始训练集和原始测试集，其中，所述原始训练集包括N个原始训练图像样本，具体表示为N为正整数；

学习单元，基于原始训练图像样本进行K近邻搜索，以找出每个原始训练图像样本在所述原始训练集中的K个最近邻样本，然后采用LLE-重构权重方法对权重系数进行重构，K为正整数；

矩阵优化单元，通过最小化基于核范数度量的邻域重构错误以优化投影矩阵，并对所述投影矩阵进行核范数正则化，相应地得到所述低秩投影矩阵其中，

其中，W_i,j为权重系数，为A_i的K个最近邻样本的集合，α为各项的权衡参数，I_d为d×d的单位矩阵，||·||_*为核范数，对任意矩阵X可定义为：||X||_*＝∑_iσ_i(X)，其中，∑_iσ_i(X)表示X的奇异值之和。

7.根据权利要求6所述的基于核范数正则化的低秩图像特征提取的识别系统，其特征在于，所述测试预处理模块包括：

第一预处理单元，用于将所述原始训练集中每个原始训练图像样本A_i向所述低秩投影矩阵进行映射，得到包含相应低秩显著特征矩阵的训练集；其中，与任一原始训练图像样本A_i对应的低秩显著特征矩阵Y_i表示为：Y_i＝P^TA_i；

第二预处理单元，用于将所述原始测试集中每个原始测试图像样本向所述低秩投影矩阵进行映射，得到包含相应低秩显著特征矩阵的测试集；其中，与任一原始测试图像样本对应的低秩显著特征矩阵Y_j表示为：

8.根据权利要求7所述的基于核范数正则化的低秩图像特征提取的识别系统，其特征在于，所述测试模块包括：

样本筛选单元，用于利用所述最近邻分类器，从所述训练集中筛选出与任一测试图像样本的特征相似性最大的训练图像样本B_max；

类别确定单元，用于将所述样本筛选单元筛选出的训练图像样本B_max的类别标签确定为相应测试图像样本的类别标签；

其中，与B_max之间需满足：

d(Y_n,Y_max)＝min_md(Y_n,Y_m)，其中，n＝1,2,…,N，m＝1,2,…,M；

其中，Y_n为与对应的低秩显著特征矩阵，Y₁ ⁽ⁿ⁾,Y₂ ⁽ⁿ⁾…Y_d ⁽ⁿ⁾为Y_n中的特征向量；Y_m为与任一训练图像样本B_m对应的低秩显著特征矩阵，Y_m＝P^TB_m＝(Y₁ ^(m),Y₂ ^(m)…Y_d ^(m))，Y₁ ^(m),Y₂ ^(m)…Y_d ^(m)为Y_m中的特征向量，Y_max为与B_max对应的低秩显著特征矩阵；d(Y_n,Y_m)表示Y_n与Y_m之间的欧氏距离，具体为，

$d(Y_n,Y_m)=\underset{k=1}{\overset{d}{\Σ}}\left|\right|{Y_k}^{\left(n\right)}-{Y_k}^{\left(m\right)}\left|\right|.$