CN106056131A - 基于lrr‑lda的图像特征提取方法 - Google Patents

Abstract

本发明提出了一种基于LRR‑LDA的图像特征提取方法，用于解决现有方法SRC‑DP中存在的所提取样本特征信息不完整和在样本类别数目较大的情况下，识别的有效性差的技术问题。包括如下步骤：1.输入训练样本，给定迭代步长，初始化投影矩阵；2.对训练样本进行投影，分别计算投影样本的类内、类间离散度矩阵；3.求解投影样本的低秩表示系数矩阵，分别计算投影样本的类内、类间重构残差离散度矩阵；4.构造目标函数求解新的投影矩阵；5.对步骤2‑4进行迭代，直至循环次数等于迭代步长，输出最终投影矩阵。本发明具有图像分类准确性高的特点,可用于警务系统中人物身份的判别或影像拍摄中物体的查找。

Description

基于LRR-LDA的图像特征提取方法

技术领域

本发明属于图像处理技术领域，涉及一种图像特征提取方法，具体涉及一种基于LRR-LDA的图像特征提取方法，可用于影像拍摄等领域中物体的查找或者警务系统中人物身份的判别。

背景技术

图像识别是机器学习、模式识别和计算机视觉领域既热门又具有挑战性的研究方向之一，因其具有简单、高效、安全、低成本等优势现在已经广泛应用在智能交通、生物医学、电子商务、遥感技术、军事和多媒体网络通信等领域。图像识别属于高维空间下的模式识别问题。因此在对图像进行识别时其首先要对图像进行特征提取，然后在低维的子空间进行分类判别。由于图像往往会受到视角、光照、遮挡等成像因素的影响，这给图像的特征提取带来了很大的挑战。

目前，各种特征提取的方法在图像识别领域得到了广泛的应用。从原理上主要分为基于保持流形结构、基于低秩理论和基于稀疏理论三类。其中基于保持流形结构的特征提取方法是通过寻找一个投影方向，将高维空间的原始样本降到低维子空间来解决，同时保持高维空间中样本流形结构。例如P.N.Belhumeur,J.P.Hespanha,and D.J.Kriegman,“Eigenfaces vs.Fisherfaces:Recognition Using Class Specific LinearProjection,”European Conf.Computer Vision,1996,pp.45-58，该论文提出了一种代表性的算法线性判别分析LDA，LDA虽然具有突出的数据压缩能力，能有效地融合训练样本的类别信息，但是用这种方法在进行特征提取时，由于只考虑样本的整体判别信息，而没有从重构的角度对样本进行分析，从而导致分类的结果不理想。基于低秩理论的特征提取方法主要是利用低秩表示方法从重构的角度对样本进行处理和分析。例如Liu,Guangcan,Zhouchen Lin,and Yong Yu."Robust Subspace Segmentation by Low-RankRepresentation."ICML.2010。该论文提出了一种代表性的算法低秩表示LRR，LRR克服了基于子空间学习的特征提取方法的缺点，然而该方法忽略了数据的判别信息，从而使得整体分类结果不理想。基于稀疏理论的特征提取方法是基于采样稀疏信号表示理论，将图像识别看作多个线性回归模型的分类问题，测试样本可以用训练样本库中同类样本的线性组合来表示。例如Yang J,Chu D,Zhang L,et al.Sparse representation classifiersteered discriminative projection with applications to face recognition.IEEETransactions on Neural Networks&Learning Systems,2013,24(7):1023-1035。该论文提出了一种基于判别投影的稀疏表示分类器SRC-DP，SRC-DP解决了LRR和LDA因为仅考虑样本重构信息或者仅考虑样本判别信息导致的识别率较低的问题，主要基于判别信息，通过残差重构准则进行类别重建，从而实现特征提取的目的。但是SRC-DP由于仅仅考虑了样本的局部重构和判别信息，忽略了样本的全局几何结构，造成提取的样本特征信息不完整，影响最终的分类效果，特别是在样本类别数目较大的情况下，识别的有效性差。

发明内容

本发明的目的在于克服上述已有技术存在的不足，提出了一种基于LRR-LDA的特征提取方法，用于解决SRC-DP中存在的所提取样本特征信息不完整和在样本类别数目较大的情况下，识别的有效性差的技术问题。

本发明的技术关键是：在考虑对数据重构问题的同时，加上了对数据整体判别结构的分析，其实现步骤包括如下：

(1)将图像库中的每一幅图像转化为列向量并存储，得到向量集A，从向量集A中抽取部分向量，构成原始空间的训练样本集X＝[X₁,X₂,…,X_i,...,X_C]∈R^M×N,其中R表示实数域，M表示原始空间中训练样本的维度，C表示原始空间中训练样本的类别数,N_i表示第i类的训练样本数，表示所有训练样本的总数；

(2)利用编程软件随机生成投影矩阵P₁∈R^M×d,其中d为低维空间中训练样本的维度，且d<<M；

(3)对投影矩阵进行更新，令k＝1为当前迭代次数，设最大迭代步数为m，通过以下步骤实施；

(3a)将构成原始空间中的训练样本集X中的所有训练样本，投影到d维空间上，得到d维空间的训练样本集Y＝P_k ^TX∈R^d×N，其中T表示对矩阵进行转置运算；

(3b)利用线性判别分析方法LDA分别计算得到的d维空间的训练样本集Y的类间离散度矩阵S_b和类内离散度矩阵S_w；

(3c)求解d维空间的训练样本集Y对应的低秩表示系数矩阵S，求解表达式为：min||S||_*+γ||E||_2,1s.t.Y＝YS+E，其中E为噪声矩阵,γ为比例系数，||||_*表示矩阵的核范数，||||₂₁表示矩阵的21范数；

(3d)利用求解所得的低秩表示系数矩阵S分别计算d维空间训练样本的类间残差离散度矩阵E_b和类内残差离散度矩阵E_w；

(3e)利用计算得到的S_b、S_w、E_b和E_w构建广义特征方程，并求解该广义特征方程，按如下步骤实现：

(3e1)构建广义特征方程：(E_b+βS_b)a_i＝λ_i(E_w+βS_w)a_i i＝1,...d；其中权重系数β，λ_i为特征值，a_i为特征值λ_i对应的特征向量；

(3e2)求解广义特征方程的特征值λ_i，并对d个特征值λ_i由大到小进行排列，满足λ₁≥...≥λ_i...≥λ_d；

(3e3)利用特征值λ_i对应的特征向量a_i构造新的投影矩阵P_k+1＝[a₁,...a_i,...a_d]；

(4)令k＝k+1，判断k与m的大小，当k<m时，执行步骤(3a)；当k＝m时，输出最终的投影矩阵P_m。

本发明与现有技术相比，具有如下优点：

(1)本发明由于在计算低维空间训练样本的类间残差离散度矩阵和类内残差离散度矩阵时，利用低维空间的训练样本集的低秩表示系数矩阵，保留了样本的全局几何结构，使得提取的样本特征信息更加完整，与现有技术SRC-DP中采用低维空间的训练样本集的稀疏表示系数矩阵求解离散度矩阵相比，提高了样本分类的准确性。

(2)本发明由于在对样本进行特征提取时，采用迭代方法求解投影矩阵，使得投影矩阵不断得到优化，保证即使在样本类别数目较大的情况下，最终获得的投影矩阵也可以很好的提取样本的特征信息，与现有技术SRC-DP中采用的求解投影矩阵的方式相比，有效的提高了样本的分类识别率。

附图说明

图1是本发明的实现流程图；

图2是用本发明与现有SRC-DP方法在CMU-PIE图像数据库中进行图像分类的实验结果对比图；

具体实施方式

以下结合附图和实施例，对本发明的技术方案与效果进行详细描述。

参照图1，本发明的实现步骤如下：

步骤1:输入训练样本集。

把给定图像库中的每一幅图像转化为列向量并存储，得到向量集A，从向量集A中抽取部分向量，构成原始空间的训练样本集X＝[X₁,X₂,…,X_i,...,X_C]∈R^M×N,其中R表示实数域，M表示原始空间中训练样本的维度，C表示原始空间中训练样本的类别数,N_i表示第i类的训练样本数，表示所有训练样本的总数；

步骤2：初始化投影矩阵。

为了将原始训练样本投影到低维空间，由MATLAB软件中的rand函数随机生成一个矩阵P₁∈R^M×d,其中d为低维空间中训练样本的维度，在本发明中取d＝150，即把原始训练样本降到150维。

步骤3：给定迭代步长，对投影矩阵进行更新。

给定最大迭代步数m，最大迭代步数m由收敛效果决定，在本发明中m＝10，设当前迭代次数k＝1；通过以下步骤更新投影矩阵。

步骤3a：将原始训练样本投影到低维空间。

将构成原始空间中的训练样本集X中的所有训练样本，投影到d维空间上，得到d维空间的训练样本集Y＝P_k ^TX∈R^d×N，其中T表示对矩阵进行转置运算。

步骤3b：计算低维空间中训练样本的离散度矩阵。

利用线性判别分析方法LDA分别计算低维空间中训练样本的类间离散度矩阵S_b和类内离散度矩阵S_w，其计算公式如下：

$S_b=\underset{i=1}{\overset{c}{\&Sigma;}}{N}_i(m_i-m){(m_i-m)}^T,$

$S_w=\underset{i=1}{\overset{C}{\&Sigma;}}\underset{j=1}{\overset{N_i}{\&Sigma;}}(y_j^i-m_i){(y_j^i-m_i)}^T,y_j^i\&Element;R^d,i=1,\mathrm{...},C,j=1,\mathrm{...},N_i,$

其中表示低维空间中第i类训练样本的均值,表示低维空间中所有训练样本的均值。

步骤3c：求解低维空间中训练样本的低秩表示系数矩阵。

求解d维空间的训练样本集Y对应的低秩表示系数矩阵S，求解表达式为：min||S||_*+γ||E||_2,1 s.t.Y＝YS+E，其中E为噪声矩阵,γ为比例系数，||||_*表示矩阵的核范数，||||₂₁表示矩阵的21范数，在本发明中γ＝0.7。

步骤3d：求解低维空间中训练样本的重构离散度矩阵。

由步骤3c中求解所得的低维空间中训练样本的低秩表示系数矩阵S，分别计算原始训练样本的类间重构离散度矩阵E_b和类内重构离散度矩阵E_w，其计算公式如下：

$E_b=\frac{1}{N(C-1)}\underset{i=1}{\overset{C}{\&Sigma;}}\underset{j=1}{\overset{N_i}{\&Sigma;}}\underset{k\&NotEqual;i}{\&Sigma;}\left|\right|y_j^i-{\mathrm{Y\&delta;}}_k\left(s_j^i\right)|{|}^2,$

$E_w=\frac{1}{N}\underset{i=1}{\overset{C}{\&Sigma;}}\underset{j=1}{\overset{N_i}{\&Sigma;}}\left|\right|y_j^i-{\mathrm{Y\&delta;}}_i\left(s_j^i\right)|{|}^2,$

其中，表示不同类之间的重构系数向量，该向量中只保留第k类相关的值，其他的置0，第k类对样本的重构表示为：k＝1,2,...,C且k≠i；表示同类之间的重构系数向量，该向量中只保留第i类相关的值，其他的置0，第i类对样本的重构表示为

步骤3e：构建目标函数。

根据步骤3b和步骤3d计算出的离散度矩阵S_b、S_w、E_b和E_w，由最大化类间离散度矩阵S_b和类间重构离散度矩阵E_b，以及最小化类内离散度矩阵S_w和类内重构离散度矩阵E_w，构建如下目标函数：

$J\left(P_k\right)=\mathrm{argmax}\frac{tr\left({P_k}^T\right(\mathrm{\&beta;}\&CenterDot;S_b+E_b)P_k)}{tr\left({P_k}^T\right(\mathrm{\&beta;}\&CenterDot;S_w+E_w)P_k)},$

其中tr(·)是对矩阵的迹操作算子。权重系数β，用来调节判别结构与重构结构的比例关系，β取值范围为[0,1]，在本发明中认为判别结构与重构结构其同等重要作用，因此β＝1。

步骤3f：求解目标函数，得到新的投影矩阵。

首先，利用拉格朗日乘数法将目标函数的求解转化为计算广义特征方程对应的特征向量，其中广义特征方程可以写为：

(E_b+βS_b)a_i＝λ_i(E_w+βS_w)a_i i＝1,...d；

λ_i为特征值，a_i为特征值λ_i对应的特征向量；

其次，求解构建的广义特征方程表达式中特征值λ_i，并对d个特征值由大到小进行排列，满足λ₁≥...≥λ_i...≥λ_d；

最后，利用特征值λ_i对应的特征向量a_i构造新的投影矩阵P_k+1＝[a₁,...a_i,...a_d]；

步骤4：判断迭代条件，直到输出最终投影矩阵。

令k＝k+1，判断k与m的大小，当k<m时，执行步骤3a；当k＝m时，输出最终的投影矩阵P_m。

以下结合仿真实验，对本发明的技术效果作进一步说明：

1.仿真条件和内容

1.1仿真条件

选取CMU-PIE数据库在MATLAB软件上进行仿真实验。其中CMU-PIE数据库由美国卡耐基梅隆大学创建，该库是由68位志愿者在13种不同姿态、4种不同表情和43种不同光照的条件下拍摄的超过40000张的人脸图像组成。每张图像被裁剪成大小为64*64个像素的图像。

1.2仿真内容：

用本发明与现有SRC-DP方法进行图像分类的仿真实验对比，其结果如图2所示。实验过程中，为了避免过拟合现象，在执行本发明和现有算法SRC-DP前首先用主成分分析PCA对数据样本预降维，降到150维，然后利用每种方法计算出的投影矩阵对测试样本进行投影，即对测试样本进行特征提取，最后利用稀疏表示分类器对处理后测试样本进行分类，得出分类识别率，其中识别率高则表示提取的特征更好。在CMU-PIE数据库上，用本发明和现有SRC-DP特征提取方法进行4组对比实验，每组实验分别选择25类、40类、55类、68类图像作为样本，每类样本中随机选取30张图片作为训练，其余图像作为测试样本。

2.仿真结果分析

参照图2，当样本类别数为25类和40类时，现有方法SRC-DP的识别率在97％左右，本发明识别率在98％左右；当样本类别数为55类时和68类时，现有方法SRC-DP的识别率分别降到了96.23％和95.57％，本发明识别率依然可以达到97.80％和97.69％。因此，本发明在四组实验中的样本分类识别率均高于现有方法SRC-DP，尤其当类别数目较多时，本发明方法识别效果明显优于SRC-DP，这表明与现有方法SRC-DP相比，当样本类别数目较大的情况下，本发明具有更好的识别有效性。

Claims (3)

1.一种基于LRR-LDA的图像特征提取方法，包括如下步骤：

(1)将图像库中的每一幅图像转化为列向量并存储，得到向量集A，从向量集A中抽取部分向量，构成原始空间的训练样本集X＝[X₁,X₂,...,X_i,...,X_C]∈R^M×N,其中R表示实数域，M表示原始空间中训练样本的维度，C表示原始空间中训练样本的类别数,N_i表示第i类的训练样本数，表示所有训练样本的总数；

(2)利用编程软件随机生成投影矩阵P₁∈R^M×d,其中d为低维空间中训练样本的维度，且d<<M；

(3)对投影矩阵进行更新，令k＝1为当前迭代次数，设最大迭代步数为m，通过以下步骤实施；

(3a)将构成原始空间中的训练样本集X中的所有训练样本，投影到d维空间上，得到d维空间的训练样本集其中T表示对矩阵进行转置运算；

(3b)利用线性判别分析方法LDA分别计算得到的d维空间的训练样本集Y的类间离散度矩阵S_b和类内离散度矩阵S_w；

(3c)求解d维空间的训练样本集Y对应的低秩表示系数矩阵S，求解表达式为：min||S||_*+γ||E||_2,1 s.t. Y＝YS+E，其中E为噪声矩阵,γ为比例系数，||||_*表示矩阵的核范数，||||₂₁表示矩阵的21范数；

(3d)利用求解所得的低秩表示系数矩阵S分别计算d维空间训练样本的类间残差离散度矩阵E_b和类内残差离散度矩阵E_w；

(3e)利用计算得到的S_b、S_w、E_b和E_w构建广义特征方程，并求解该广义特征方程，按如下步骤实现：

(3e1)构建广义特征方程：(E_b+βS_b)a_i＝λ_i(E_w+βS_w)a_i i＝1,...d；其中权重系数β，λ_i为特征值，a_i为特征值λ_i对应的特征向量；

(3e2)求解广义特征方程的特征值λ_i，并对d个特征值λ_i由大到小进行排列，满足λ₁≥...≥λ_i...≥λ_d；

(3e3)利用特征值λ_i对应的特征向量a_i构造新的投影矩阵P_k+1＝[a₁,...a_i,...a_d]；

(4)令k＝k+1，判断k与m的大小，当k<m时，执行步骤(3a)；当k＝m时，输出最终的投影矩阵P_m。

2.根据权利要求1所述的方法，其特征在于，步骤(3b)中所述的利用线性判别分析方法LDA分别计算得到的d维空间的训练样本集Y的类间离散度矩阵S_b和类内离散度矩阵S_w，通过如下公式计算：

$S_b=\underset{i=1}{\overset{c}{\&Sigma;}}{N}_i(m_i-m){(m_i-m)}^T,$

$S_w=\underset{i=1}{\overset{C}{\&Sigma;}}\underset{j=1}{\overset{N_i}{\&Sigma;}}(y_j^i-m_i){(y_j^i-m_i)}^T,y_j^i\&Element;R^d,i=1,...,C,j=1,...,N_i,$

其中是低维空间中第i类的第j个训练样本，m_i是训练样本d维空间中第i类训练样本的均值,m是d维空间中所有训练样本的均值。

3.根据权利要求1所述的方法，其特征在于，步骤(3d)中所述的利用求解所得的d维空间的训练样本集Y的低秩表示矩阵S，分别计算d维空间训练样本的类间残差离散度矩阵E_b和类内残差离散度矩阵E_w，通过如下公式计算：

$E_b=\frac{1}{N\left(C-1\right)}\underset{i=1}{\overset{C}{\&Sigma;}}\underset{j=1}{\overset{N_i}{\&Sigma;}}\underset{k\&NotEqual;i}{\&Sigma;}\left|\right|y_j^i-{\mathrm{Y\&delta;}}_k\left(s_j^i\right)|{|}^2,$

$E_w=\frac{1}{N}\underset{i=1}{\overset{C}{\&Sigma;}}\underset{j=1}{\overset{N_i}{\&Sigma;}}\left|\right|y_j^i-{\mathrm{Y\&delta;}}_i\left(s_j^i\right)|{|}^2,$

其中，表示不同类之间的重构系数向量，该向量中只保留第k类相关的值，其他的置0，第k类对样本的重构表示为：k＝1,2,...,C且k≠i；表示同类之间的重构系数向量，该向量中只保留第i类相关的值，其他的置0，第i类对样本的重构表示为