CN109934295B - 一种基于超限隐特征学习模型的图像分类与重建方法 - Google Patents

Abstract

本发明公开了一种基于超限隐特征学习模型的图像分类与重建方法，采用了一种数据重构策略进行特征学习，高效学习原始感知数据与相应的高级语义转换关系。具体地说，ELM和ELM‑AE(基于ELM的自编码器)被统一在一个学习模型中，该模型具有图像分类能力和图像重建能力，且能够更好地揭示原始图像数据和高级语义之间的潜在关系，减少信息丢失，提高图像分类精度并具备优异的图像数据重建能力。ELF(超限隐特征学习模型)继承了ELM和ELM‑AE的优点，并且可以在保护原始数据信息的情况下得到良好的图像分类和图像重建效果。此外，使用了一种基于交错方向法的高效算法来求解优化ELF模型，进一步提升了ELF模型的精度。

Description

一种基于超限隐特征学习模型的图像分类与重建方法

技术领域

本发明涉及图像分类和智能优化技术领域，更具体地说，涉及一种基于超限隐特征学习模型的图像分类与重建方法。

背景技术

在机器学习和计算机视觉领域，提取图像富有鉴别力的紧凑表达可有效揭示隐藏在数据中潜在的重要信息，能够将高层语义数据和原始数据无缝连接，机器学习模型的性能很大程度上依赖于所使用的特征，因此得到研究者的极大关注。最近的研究证明了多层神经网络可以从数据学习得到多层抽象特征，能够显著提高机器视觉模型的性能。作为一种单隐层前馈神经网络的高效学习算法，ELM(Extreme Learning Machine，超限学习机)在理论研究和实际应用中获得了大量关注。不同于其他传统的学习算法，如反向传播神经网络，ELM的一个明显的特征是其输入层到隐藏层的权值随机生成，且独立于训练数据不需要调参。而需要调整优化的参数是连接隐含层和输出层的输出权重矩阵，可得到最优的输出权重矩阵的解析解。理论研究证明了ELM的学习能力、逼近能力和泛化能力。同时，ELM在多种应用场景下展现了良好的学习准确性和速度，如半监督学习、无监督学习、降维、领域自适应和代价敏感学习应用场景。

以往基于ELM的工作主要侧重于分类和回归问题，而忽略了其特征学习能力。Kasun等人提出了一种以基于ELM的自编码器(ELM-AE)作为构建单元的多层ELM(ML-ELM)网络架构。ML-ELM进行分层无监督学习，并叠加在ELM自动编码器上，得到多层神经网络。Tang等人通过随机生成的隐藏权值将自身特征提取和监督特征分类连接起来，开发了一种新的分层ELM(H-ELM)。为提高ELM的特征学习能力，通过引入具体任务的先验信息，设计了一种条件随机特征映射方法。然而,经典的ELM方式直接使用单一输出权重矩阵β将隐含层输出H转换成相应的目标标签矩阵T。这种策略可能过于僵化，难以有效发掘原始观测数据与高级语义之间的潜在关系。

发明内容

为解决上述技术问题，本发明提供一种基于超限隐特征学习模型的图像分类与重建方法。

为实现上述目的，本发明所采用的具体技术方案如下：

一种超限隐特征学习模型的构建方法，包括如下步骤：

S1：模型训练阶段，获取图像数据信息，所述图像数据信息包括用于进行模型训练的图像数据矩阵X_train、相应的标签矩阵T_train，以及超限学习机的隐藏节点根据所述图像数据矩阵X_train输出的隐含层输出矩阵H_train；

信息；S2：根据超限学习机和基于超限学习机的自编码器，为所述超限隐特征学习模型设置图像数据输入通道、超限学习机图像分类输出通道以及基于超限学习机的自编码器的图像输出重建通道；

S3：基于X_train、T_train以及H_train建立所述超限学习机图像分类输出通道和所述图像输出重建通道的联合超限隐特征优化学习模型；

S4：利用交错方向法对所述联合超限隐特征优化学习模型的模型参数进行更新，得到所述超限学习机图像分类输出通道和所述图像输出重建通道的优化模型参数；

S5：根据所述优化模型参数构建所述超限隐特征学习模型；

S6:模型测试阶段，将待识别的图像样本数据信息输入所述超限隐特征学习模型的图像数据输入通道；

S7:从所述超限学习机图像分类输出通道得到所述图像样本数据的分类结果，并从所述图像输出重建通道得到所述图像样本数据的重建数据信息。

可选的，所述超限学习机图像分类输出通道的模型为:t_test＝h_testQ^TR；

所述图像输出重建通道的模型为:x′_test＝h_test Q^TP；

其中，h_test表示超限学习机的隐藏节点根据所述图像数据输入通道输入的测试样本x_test得到的隐含层输出向量，Q表示隐特征变换矩阵，R表示数据分类矩阵，P表示数据重建矩阵，t_test表示测试样本x_test的预测标签矩阵，x′_test表示图像输出重建通道重建的测试样本。

可选的，所述联合超限隐特征优化学习模型为：

s.t.X_train＝H_train Q^TP+E,Q^TR＝β,P^TP＝I；

其中，α、λ以及γ表示惩罚参数，E表示误差矩阵，β表示输出权重矩阵，

表示矩阵Frobenius范数的平方，即矩阵元素的平方和。

可选的，步骤S4中引入辅助变量得到联合超限隐特征优化学习模型的增广拉格朗日函数模型，所述增广拉格朗日函数模型为：

s.t.P^TP＝I；

其中，μ表示惩罚参数，Y₁和Y₂表示拉格朗日乘子，E表示误差矩阵，

表示矩阵Frobenius范数的平方，即矩阵元素的平方和，<·>表示矩阵的内积运算；

步骤S4中基于所述增广拉格朗日函数模型利用交错方向法依次更新β、P、Q、R、E、Y₁、Y₂以及μ，直到收敛时停止优化，并将当前确定的Q和R作为所述超限学习机图像分类输出通道的优化模型参数，将当前确定的Q和P作为所述图像输出重建通道的优化模型参数。

本发明提供出了一种基于超限隐特征学习模型的图像分类与重建方法，采用了一种数据重构策略进行特征学习，考虑所得到的数据特征的重建能力，通过学习一个隐特征空间，将超限学习机与基于超限学习机的自编码器纳入一个联合学习模型中，能够更好地揭示原始图像数据和高级语义之间的潜在关系，减少信息丢失，提高图像分类精度并具备优异的图像数据重建能力。

附图说明

下面将结合附图及实施例对本发明作进一步说明，附图中：

图1为本实施例提供的超限隐特征学习模型的网络构架图；

图2(a)为ORL数据集中的人像示意图；

图2(b)为Yale数据集中的人像示意图；

图3为ORL数据的图像重建能力示意图；

图4为Yale数据的图像重建能力示意图；

图5-1为ELF模型在ORL数据集上的收敛曲线；

图5-2为ELF模型在Yale数据集上的收敛曲线。

具体实施方式

为了使本发明要解决的技术问题、技术方案和优点更加清楚，下面将结合附图及具体实施例进行详细描述，应当理解，此处所描述的具体实施例仅仅用以解释本发明，并不用于限定本发明。

本实施例提供了一种基于超限隐特征学习模型的图像分类与重建方法，包括如下步骤：

S1：训练阶段，具体的，获取用于进行模型训练的图像数据集

样本数为N，维度为d，隐含层输入权值向量w_i和隐层节点偏移量b_i，进行随机赋值，其大小范围是[-1,+1]，将训练样本集输入输入层，隐含层节点数为L。得到隐含层输出矩阵

其中第j个样本的隐含层输出为

i取1,2…L,G(·)为激活函数，可选Sigmoid函数作为激活函数。X_train对应的标签矩阵为

C为训练数据集的类别数量。

S2：根据超限学习机和基于超限学习机的自编码器，为超限隐特征学习模型设置图像数据输入通道、超限学习机图像分类输出通道以及基于超限学习机的自编码器的图像输出重建通道。

S3：基于X_train、T_train以及H_train建立超限学习机图像分类输出通道和所述图像输出重建通道的联合超限隐特征优化学习模型。

本实施例中建立的联合超限隐特征优化学习模型为：

s.t.X_train＝H_train Q^TP+E,Q^TR＝β,P^TP＝I；

其中，α、λ以及γ表示惩罚参数，E表示误差矩阵，β表示输出权重矩阵，

表示矩阵Frobenius范数的平方，即矩阵元素的平方和。

S4：利用交错方向法对联合超限隐特征优化学习模型的模型参数进行更新，得到超限学习机图像分类输出通道和图像输出重建通道的优化模型参数。

可选的，步骤S4中可以引入辅助变量得到联合超限隐特征优化学习模型的增广拉格朗日函数模型，增广拉格朗日函数模型为：

s.t.P^TP＝Ι

其中，α、λ以及C表示模型平衡参数，为正实数，μ表示惩罚参数，Y₁和Y₂表示拉格朗日乘子，

表示矩阵Frobenius范数的平方,即矩阵元素的平方和，<·>表示矩阵内积运算，E表示误差矩阵；

步骤S4中可以基于增广拉格朗日函数模型利用交错方向法依次更新β、P、Q、R、E、Y₁、Y₂以及μ，直到收敛时停止优化，并将当前确定的Q和R作为超限学习机图像分类输出通道的优化模型参数，将当前确定的Q和P作为图像输出重建通道的优化模型参数。

具体的，步骤S4中可以通过以下步骤依次更新β、P、Q、R、E、Y₁、Y₂以及μ：

应当说明的是，下述

都是在上述

的基础上，通过优化一个变量而固定其他变量得到的。

优化步骤1：固定其他变量，通过解决下述公式更新矩阵β；

对β求导数，令

得到：

优化步骤2：固定其他变量，通过解决下述公式更新矩阵P；

令

B＝H_train Q^T，得

P＝UV^T

其中U和V由对B^TA做奇异值分解得到，即UΣV^T＝SVD(B^TA)

优化步骤3：固定其他变量，通过解决下述公式更新矩阵Q；

令

对Q求导，令

得到

(αI+μRR^T)Q+μQH^TH＝μ(RN^T+PM^TH)

这一问题为经典的Sylvester方程问题，通过现有的优化工具包予以求解。

优化步骤4：固定其他变量，通过解决下述公式更新矩阵R；

对R求导数，令

得到：

R＝(I+μ QQ^T)^-1(μ Qβ-QY₂)

优化步骤5：固定其他变量，通过解决下述公式更新矩阵E；

对E求导数，令

得到，

优化步骤6：对β,P,Q,R,E依次更新完毕后，对Y₁、Y₂和μ进行更新，通过下述公式：

其中ρ≥1，ρ表示惩罚参数调节因子，迭代运行上述步骤，直到收敛时更新优化停止，得到最终的Q、P、R。

本实施例的收敛条件可以是判断迭代次数是否达到预设次数阈值，如是，则停止优化。

S5：根据上述步骤得到的优化模型参数构建超限隐特征学习模型。

S6：模型测试阶段，将待识别的图像样本数据信息输入上述的超限隐特征学习模型的图像数据输入通道。

S7：从超限学习机图像分类输出通道得到图像样本数据的分类结果，并从图像输出重建通道得到图像样本数据的重建数据信息。

可选的，本实施例中超限学习机图像分类输出通道的模型为:t_test＝h_test Q^TR；

图像输出重建通道的模型为:x′_test＝h_testQ^TP；

其中，h_test表示超限学习机的隐藏节点根据所述图像数据输入通道输入的测试样本x_test得到的隐含层输出向量，Q表示隐特征变换矩阵，R表示数据分类矩阵，P表示数据重建矩阵，t_test表示测试样本x_test的预测标签矩阵，x′_test表示图像输出重建通道重建的测试样本。

基于超限隐特征学习模型的图像分类与重建方法，架构如图1所示：包含一个输入层、两个输出层、超限学习机隐含层和隐特征层HQ^T，共用一个输入通道和两个输出通道。之后通过联合学习，对网络参数进行更新优化。得到好的分类效果的同时保证了数据的完整性。

下面通过一个具体的示例对本发明作进一步说明，其目的仅在于更好地理解本发明的研究内容而非限制本发明的保护范围。

本示例采用ORL和Yale给出的人脸数据集，ORL数据集包含40人，每人10张信息不同的图像数据，图像尺寸为32×32，维度为1024，共400张人脸数据，图2(a)为ORL数据集中单人的照片数据。Yale数据集包含15人，每人11张信息不同的灰度图像数据，图2(b)为Yale数据集中单人的图像数据。本示例的具体技术步骤如下：

步骤1、随机从ORL数据集中每人的10张照片中抽取

张图像作为训练集，余下的作为测试集，并且随机从Yale数据集中每人的10张照片中抽取

张照片作为训练集，余下的作为测试集。

本示例在两个数据集上测试，分别都运行10次，每次训练集随机选取，计算每次测试识别的准确率的标准差。

步骤2、将两个训练集的样本标准化后，将数据维度初始化为D＝(32×32)，输入层大小确定为D，并将对应标签信息标准化为T，随机产生ELM网络输入层至隐含层参数，包括输入权值向量和隐层节点偏移量。

确定超限学习机图像分类通道输出层的维度为数据类别数，在ORL数据集中维度为40，在Yale数据集中维度为15。基于超限学习机的自编码器的图像重建通道输出层大小为输入样本数据的维度D。

确定隐藏共享子空间层维度，确定惩罚参数α,λ,γ。

这时已经将ELF(Extreme latent feature,ELF)超限隐特征学习模型的基本参数设置完毕。包含一个输入通道，两个输出通道。

步骤3、数据分类和数据重建联合学习训练，网络权重更新和结束规则；

根据模型的拉格朗日增广式，本示例对参数进行初始化，本示例使用的参数表如下表1所示：

表1

参数	P	R	Q	E	β	Y<sub>1</sub>	Y<sub>2</sub>	μ<sub>max</sub>	ρ	μ
											数值	0	0	0	0	0	0	0	105	1.01	0.1

开始训练模型，采用交错方向法，依次更新优化β,P,Q,R,E矩阵，紧接着更新Y₁、Y₂和μ，通过下述公式：

循环运行，直至收敛，得到隐特征变换矩阵Q，数据分类矩阵R，数据重建矩阵P。

步骤4、将测试集的样本数据标准化后，将网络输入层的维度初始化输入样本维度，即D＝1024。将测试集输入模型，得到输出的分类信息和数据重建信息。数据重建能力请参见图3和图4，图3从左到右依次为数据重建后的图像、采用ORL的原始图像、重建的误差图像，图4从左到右依次为数据重建后的图像、采用Yale的原始图像、重建的误差图像，可以看到本模型的数据重建性能非常好。

本实施例将ELF与传统的支持向量机和基本的ELM等相关算法作为对比，在两个数据集上进行实验，本实例实验运行10次后取平均值与标准差，实验结果如表2和表3所示，其中表2表示各算法在ORL数据集的表现，表3表示各算法在Yale数据集的表现。

表2

表3

观察上述图表可知：在测试准确率方面，ELF算法测试准确率比对比算法高，且部分情况远远高于传统的支持向量机和ELM算法。

本实施例采用了一种基于交错方向法(ADMM)的优化算法来解决ELF模型。可以得到优化算法在不同数据集上的收敛性。使用目标函数值与迭代次数的值来表示收敛性。我们可以看到曲线通常随着迭代次数的增加而下降。收敛曲线如图5-1和图5-2所示，横坐标表示迭代次数，纵坐标表示目标函数值，表明基于ADMM的算法具有良好的收敛性。

因此可以说明ELF算法在准确率、稳定性方面均优于传统支持向量机和ELM；而且ELF算法在分类性能上也显得更为优秀。

上述本发明实施例序号仅仅为了描述，不代表实施例的优劣。

上面结合附图对本发明的实施例进行了描述，但是本发明并不局限于上述的具体实施方式，上述的具体实施方式仅仅是示意性的，而不是限制性的，本领域的普通技术人员在本发明的启示下，在不脱离本发明宗旨和权利要求所保护的范围情况下，还可做出很多形式，这些均属于本发明的保护之内。

Claims (1)

1.一种基于超限隐特征学习模型的图像分类与重建方法，其特征在于，包括如下步骤：

S1：模型训练阶段，获取图像数据信息，所述图像数据信息包括用于进行模型训练的图像数据矩阵X_train、相应的标签矩阵T_train，以及超限学习机的隐藏节点根据所述图像数据矩阵X_train输出的隐含层输出矩阵H_train；

S2：根据超限学习机和基于超限学习机的自编码器，为所述超限隐特征学习模型设置图像数据输入通道、超限学习机图像分类输出通道以及基于超限学习机的自编码器的图像输出重建通道；

S3：基于X_train、T_train以及H_train建立所述超限学习机图像分类输出通道和所述图像输出重建通道的联合超限隐特征优化学习模型；

S4：利用交错方向法对所述联合超限隐特征优化学习模型的模型参数进行更新，得到所述超限学习机图像分类输出通道和所述图像输出重建通道的优化模型参数；

S5：根据所述优化模型参数构建所述超限隐特征学习模型；

S6:模型测试阶段，将待识别的图像样本数据信息输入所述超限隐特征学习模型的图像数据输入通道；

S7:从所述超限学习机图像分类输出通道得到所述图像样本数据的分类结果，并从所述图像输出重建通道得到所述图像样本数据的重建数据信息；

所述超限学习机图像分类输出通道的模型为:t_test＝h_testQ^TR；

所述图像输出重建通道的模型为:x′_test＝h_testQ^TP；

其中，h_test表示超限学习机的隐藏节点根据所述图像数据输入通道输入的测试样本x_test得到的隐含层输出向量，Q表示隐特征变换矩阵，R表示数据分类矩阵，P表示数据重建矩阵，t_test表示测试样本x_test的预测标签矩阵，x′_test表示图像输出重建通道重建的测试样本；

所述联合超限隐特征优化学习模型为：

s.t.X_train＝H_trainQ^TP+E,Q^TR＝β,P^TP＝I；

其中，α、λ以及γ表示惩罚参数，E表示误差矩阵，β表示输出权重矩阵，

表示矩阵Frobenius范数的平方，即矩阵元素的平方和；

步骤S4中引入辅助变量得到联合超限隐特征优化学习模型的增广拉格朗日函数模型，所述增广拉格朗日函数模型为：

s.t.P^TP＝I；

其中，μ表示惩罚参数，Y₁和Y₂表示拉格朗日乘子，<·>表示矩阵的内积运算；

步骤S4中基于所述增广拉格朗日函数模型利用交错方向法依次更新β、P、Q、R、E、Y₁、Y₂以及μ，直到收敛时停止优化，并将当前确定的Q和R作为所述超限学习机图像分类输出通道的优化模型参数，将当前确定的Q和P作为所述图像输出重建通道的优化模型参数。

Images