CN105740917B - 带有标签学习的遥感图像的半监督多视图特征选择方法 - Google Patents

Abstract

带有标签学习的高分遥感图像的半监督多视图特征选择方法，属于高分遥感图像的半监督特征选择技术领域。本发明是为了解决现有高分遥感图像特征选择方法中，当只有少量的对象被标出时，监督和无监督的方法不能达到足够好的性能以及视图在高分图像的特征中不可用的问题。它包括以下步骤：一、采集原始图像特征集，生成特征组；二、通过类概率矩阵y_u以及含有专属组信息的对角矩阵F，计算获得由所有特征组中所有特征向量的权重系数构成的原始特征权重系数矢量β；三、迭代计算特征权重系数矢量β，选定预设个数的权重系数，将选定的权重系数对应的全体特征向量作为选择出的特征集。本发明用于高分遥感图像的特征选择。

Description

带有标签学习的遥感图像的半监督多视图特征选择方法

技术领域

本发明涉及带有标签学习的高分遥感图像的半监督多视图特征选择方法，属于高分遥感图像的半监督特征选择技术领域。

背景技术

高分图像VHR可以捕获小或窄的对象，因此，他们可以用来发展相应的能够用来持续监控和地图更新的基础设施。这个应用经常使用基于对象的图像分析方法OBIA来运用像素点间的空间关系，以应付在使用逐像素点分类器时的椒盐效应。OBIA可以提取大量的特征。由于并非所有的特征对于分类都是有益的，并且分类性能可能会随着特征的数量增加而降低，因此为了解决这个问题，特征选择就成了重要的问题。

空间，质地和形状的特征可以被从VHR图像中提取出，并被视为图像的不同特征组。为了更好地组织和突出特征组之间的相似性和差异，这些特征可以被认为是多视图数据。据我们所知，高分图像的一些多视图模型在不考虑他们在其他共同体的效率的情况下被发展起来。此外，为了学习不同试图之间的内在关系，并同时减少冗余特征，多视图的一些特征选择方法被发展起来。多视图特征选择的方法与单一视图的功能选择方法不同。多视图特征选择方法应该附加考虑不同的视图之间的关系，而不是个别视图内的信息。

无监督特征选择框架MVFS利用视图之间的关系，进行视图之间互相帮助以选择相关特征的多视图社交媒体数据。自适应无监督多画面功能选择AUMFS共同利用数据集群结构、数据的相似性以及用于特征选择的不同的视图的数据之间和相关性。特征也可以根据联合小组稀疏和l_2,1范数正则来选择为不同的集群。为了应对网页和视频数据组，多视角秩最小化型Lasso(MRM-Lasso)的集合，共同使用Lasso稀疏特征选取和秩最小的方法来学习跨视图的相关模式。

上述的方法分有监督或无监督的方法。有监督的特征选择方法，试图找到最翔实特征并基于充分的标签对象得出满意的分类性能。与此相反，当没有标签对象是可用的时，可以发现无监督方法明显的特点。在应用中，标记许多训练样本非常耗时且昂贵。而当只有少量的对象被标出时，监督和无监督的方法不能达到足够好的性能。此外，视图自然可用于上述方法。然而，视图对于高分图像的特征是不可用的。

为了解决这两个问题，已经开发了一种半监督多视图的特征选择方法SemiMFS。在SemiMFS中，采用近邻传播方法将特征分解为多个不相交且有意义的特性组。每一特性组描述了单个类型的固有信息的视图，在每个视图中的特征代表了一种独特的对象特征。其内部视图的特征是多余的；因此，多视图方法鼓励疏于个体层面。为了实现稀疏无重大信息丢失，未标记的对象被用来在克服从不足标签物所带来的短缺中优化结果。此外，不同于现有的半监督的特征选择方法，SemiMFS避免了图形拉普拉斯矩阵结构的计算。

发明内容

本发明目的是为了解决现有高分遥感图像特征选择方法中，当只有少量的对象被标出时，监督和无监督的方法不能达到足够好的性能以及视图在高分图像的特征中不可用的问题，提供了一种带有标签学习的高分遥感图像的半监督多视图特征选择方法。

本发明所述带有标签学习的高分遥感图像的半监督多视图特征选择方法，它包括以下步骤：

步骤一：采集原始图像特征集，将原始图像特征集使用相似性传播算法生成多个不相交的特征组，每一个特征组代表同一主题的数据特征；

步骤二：通过类概率矩阵y_u以及含有专属组信息的对角矩阵F，计算获得由所有特征组中所有特征向量的权重系数构成的原始特征权重系数矢量β；

步骤三：采用前一次计算获得的特征权重系数矢量β更新含有专属组信息的对角矩阵F，再迭代计算特征权重系数矢量β，直至相邻两次计算获得的特征权重系数矢量β的差值满足预设定阈值，选取其中较大的一个作为最终的特征权重系数矢量β，在最终的特征权重系数矢量β中，将权重系数由大到小排序，由大到小选定预设个数的权重系数，将选定的权重系数对应的全体特征向量作为选择出的特征集。

给定原始图像特征集n为对象的个数，其中的对象 为空间集合，m是维数，y_i是对象的类的标签，并且x_i,y_i∈{1,...,c}，c是类号，所有的对象x_i表示为X：所有的对象的类的标签y_i表示为y：对象的m维特征向量表示为X：X＝[f₁,f₂,...,f_m]，

使用相似性传播算法计算从特征f_i至f_j之间的相似性S(i,j)：

S(i,j)＝-||f_i-f_j||²，

式中i≠j；

更新方程如下：

r(i,j)表示可靠性，代表f_j作为f_i的范例时计算结果的合适程度；a(i,j)表示可用性，代表选择f_j作为f_i的范例的合适程度，其中i'、j'和j分别代表原始图像特征集中的一个对象，其之间互不相等；

然后，确定范例为：

最后生成K个特征组，特征组的结构为G：

其中G_k表示第k个特征组。

令特征权重系数矢量特征权重系数矢量β的l_1,2范数定义如下：

其中是β的第k组特征组G_k,l₁范数构成了相同特征组的权重，l₂范数构成了不同特征组的权重；

令是标记对象的类概率矩阵，其中v为标记样本数量，是未标记对象的类概率矩阵，q为无标记样本数量；

采用最小二乘回归作为损失函数和排他性套索作为正则化，整体优化问题变为：

X_l为有标记样本数据矩阵，X_u为无标记样本数据矩阵，

其中y_u(i,j)是属于第j类的第i个未标记的对象的概率，λ和γ是预定的常数，||·||₂是欧几里得范数，将β作为一个稀疏矢量，整体优化问题等效为：

对上式采用反复重新加权算法，令为含有专属组信息的对角矩阵，其对角元素F_ii为：

其中1_m×1是一个长度为m的向量，是第k个特征组的索引指示；由此进一步转化整体优化问题为：

当特征权重系数矢量β固定时，类概率矩阵y_u采用以下公式获得：

上式等价为：

min(y_u-X_uβ)^T(y_u-X_uβ)，

令上式为零，获得：

y_u＝X_uβ，

在没有限制的条件下，当类概率矩阵y_u固定，特征权重系数矢量β为：

β＝(X_l ^TX_l+γX_u ^TX_u-2λF)^-1(X_l ^Ty_l+γX_u ^Ty_u)，

F依赖于β，方程最小化过程同时依赖于F和β，取方程相对于β的导数，得到：

X_l ^T(y_l-X_lβ)+γX_u ^T(y_u-X_uβ)+2λFβ＝0，

计算获得特征权重系数矢量β。

在迭代计算的下一个循环中用对角元素F_ii的公式更新。

本发明的优点：本发明提出了面向高分遥感图像的多视图半监督特征选择方法—— SemiMFS。该方法从半监督学习方法出发，采用多视图的特征选择方法。不同于以前的半监督学习方法，SemiMFS模型不依赖于图的拉普拉斯算子矩阵的构建。解决了现有高分遥感图像特征选择方法中，当只有少量的对象被标出时，监督和无监督的方法不能达到足够好的性能的问题。同时克服了视图在高分图像的特征中不可用的问题。实验评估结果表明，使用本发明所提出的SemiMFS算法所得结果的平均总体精度和Kappa系数均优于其他常用的特征选择算法。

本发明将数据的标记加入训练中，从而扩展了方法的应用广度，并且对特征进行分类时可以充分利用各种功能类别的互补信息。不同于以往的方法，SemiMFS并不需要构造图拉普拉斯算子矩阵。因此，SemiMFS可以更好的处理海量高分遥感图像。此外，实验结果表明，该方法优于传统的单一视图方法、经典方法和相关最新方法。

与其他算法相比，本发明中所提出的新方法具有更好的性能，在只有部分训练数据有标记的情况下，该优势更加明显。

附图说明

图1是本发明方法的流程图；

图2是圣克莱门特沿海地区的Worldview-2实验图像；

图3是圣克莱门特沿海地区的Worldview-2地面实况参考图像；

图4是针对圣克莱门特图像采用Bayes且标记样本数为10时的总体分类精度随特征数量的变化曲线；

图5是针对圣克莱门特图像采用SVM且标记样本数为10时的总体分类精度随特征数量的变化曲线；

图6是针对圣克莱门特图像采用Bayes且标记样本数为10时的Kappa系数随特征数量的变化曲线；

图7是针对圣克莱门特图像采用SVM且标记样本数为10时的Kappa系数随特征数量的变化曲线；

图8是针对圣克莱门特图像采用Bayes且标记样本数为30时的总体分类精度随特征数量的变化曲线；

图9是针对圣克莱门特图像采用SVM且标记样本数为30时的总体分类精度随特征数量的变化曲线；

图10是针对圣克莱门特图像采用Bayes且标记样本数为30时的Kappa系数随特征数量的变化曲线；

图11是针对圣克莱门特图像采用SVM且标记样本数为30时的Kappa系数随特征数量的变化曲线。

具体实施方式

具体实施方式一：下面结合图1至图11说明本实施方式，本实施方式所述带有标签学习的高分遥感图像的半监督多视图特征选择方法，它包括以下步骤：

步骤一：采集原始图像特征集，将原始图像特征集使用相似性传播算法生成多个不相交的特征组，每一个特征组代表同一主题的数据特征；

步骤二：通过类概率矩阵y_u以及含有专属组信息的对角矩阵F，计算获得由所有特征组中所有特征向量的权重系数构成的原始特征权重系数矢量β；

步骤三：采用前一次计算获得的特征权重系数矢量β更新含有专属组信息的对角矩阵F，再迭代计算特征权重系数矢量β，直至相邻两次计算获得的特征权重系数矢量β的差值满足预设定阈值，选取其中较大的一个作为最终的特征权重系数矢量β，在最终的特征权重系数矢量β中，将权重系数由大到小排序，由大到小选定预设个数的权重系数，将选定的权重系数对应的全体特征向量作为选择出的特征集。

给定原始图像特征集n为对象的个数，其中的对象 为空间集合，m是维数，y_i是对象的类的标签，并且x_i,y_i∈{1,...,c}，c是类号，所有的对象x_i表示为X：所有的对象的类的标签y_i表示为y：对象的m维特征向量表示为X：X＝[f₁,f₂,...,f_m]，

使用相似性传播算法计算从特征f_i至f_j之间的相似性S(i,j)：

S(i,j)＝-||f_i-f_j||²，

式中i≠j；

更新方程如下：

r(i,j)表示可靠性，代表f_j作为f_i的范例时计算结果的合适程度；a(i,j)表示可用性，代表选择f_j作为f_i的范例的合适程度，其中i'、j'和j分别代表原始图像特征集中的一个对象，其之间互不相等；

然后，确定范例为：

最后生成K个特征组，特征组的结构为G：

其中G_k表示第k个特征组。

令特征权重系数矢量特征权重系数矢量β的l_1,2范数定义如下：

其中是β的第k组特征组G_k,l₁范数构成了相同特征组的权重，l₂范数构成了不同特征组的权重；

令是标记对象的类概率矩阵，其中v为标记样本数量，是未标记对象的类概率矩阵，q为无标记样本数量；

采用最小二乘回归作为损失函数和排他性套索作为正则化，整体优化问题变为：

X_l为有标记样本数据矩阵，X_u为无标记样本数据矩阵，

其中y_u(i,j)是属于第j类的第i个未标记的对象的概率，λ和γ是预定的常数，||·||₂是欧几里得范数，将β作为一个稀疏矢量，整体优化问题等效为：

对上式采用反复重新加权算法，令为含有专属组信息的对角矩阵，其对角元素F_ii为：

其中1_m×1是一个长度为m的向量，是第k个特征组的索引指示；由此进一步转化整体优化问题为：

当特征权重系数矢量β固定时，类概率矩阵y_u采用以下公式获得：

上式等价为：

min(y_u-X_uβ)^T(y_u-X_uβ)，

令上式为零，获得：

y_u＝X_uβ，

在没有限制的条件下，当类概率矩阵y_u固定，特征权重系数矢量β为：

β＝(X_l ^TX_l+γX_u ^TX_u-2λF)^-1(X_l ^Ty_l+γX_u ^Ty_u)，

F依赖于β，方程最小化过程同时依赖于F和β，取方程相对于β的导数，得到：

X_l ^T(y_l-X_lβ)+γX_u ^T(y_u-X_uβ)+2λFβ＝0，

计算获得特征权重系数矢量β。

在迭代计算的下一个循环中用对角元素F_ii的公式更新。

本发明步骤一中的特征组即生成的视图；在视图之间进行选择特征，当β固定时，类概率矩阵y_u可以通过公式y_u＝X_uβ来解决。在没有限制的条件下，当类概率矩阵y_u是固定的，β可以通过公式β＝(X_l ^TX_l+γX_u ^TX_u-2λF)^-1(X_l ^Ty_l+γX_u ^Ty_u)来解决。循环回上一步更新含有专属组信息的对角矩阵F并计算相应的特征权重系数矢量β直至相邻两次循环中β的变化不超过一定的值。此时根据特征权重系数矢量β较大的一组选择出特征集。

将原始图像特征集分解成多个不相交的组，此步骤也被称为视图生成，这对于数据表示非常重要。产生不同的视图对应于特征设置分区并且可以探索视图之间的关系。每个视图代表了同一主题的分配相应的数据特征。属于视图的特征有望在低级别相同的稀疏模式下被分享。从特征f_i和f_j之间的相似性S(i,j)中可以获得特征暗示f_j有多么适合作为f_i的范例。自相似性被定义为：

其中1≤t≤N。

r(i,j)反应了f_j作为f_i的范例时计算结果有多好，选择f_j作为f_i的范例有多么合适就用可用性a(i,j)来描述。

通过AP方法生成视图之后，特征可以在视图之间进行选择。对l₁范数强制稀疏，这将导致在同一组的特征之间的竞争。这样的正则化被称为专属套索。在公式中是用多任务的特征选择所定义的，因此正则化具有相同的向量长度。与此相反，长度不同所对应的特征组也不同。将β作为稀疏矢量，是为了达到更好的性能。在解决整体优化问题时，可能的解决方案包括重新拟订一个二次规划或原对偶问题。在此，采用反复重新加权算法。关于特征组的索引指示，例如，一组索引指示则该组包含第一和第三个特征。

基于对象的特征分为以下四大类，如下表1所示：

表1

下面采用具体实施例验证本发明的效果：

为了验证本发明所提出的SemiMFS算法在解决只有少量标签的高分辨率遥感图像处理问题上的性能，将它和拉普拉斯分数(Laplacian Score,LS)、SPEC算法、SemiTRCFS 算法、S²FS²R算法进行实验比较。如图2和图3所示，实验所用数据集为San Clemente 的Worldview-2图。分别应用SVM和Bayes这两种常用监督分类方法，在标记样本数分别为10和30的情况下进行试验，实验过程重复多次进行，计算每种算法所得结果的所有维度平均总体精度和Kappa系数，实验结果见图4至图11。

为了验证SemiMFS的可靠性和有效性，在两个数据集上将SemiMFS与SemiTRCFS，SPEC和LaplacianScore相比较。他们的结果通过两种分类器来评估：贝叶斯分类器和支持向量机SVM，其中SVM采用开放码的默认参数。以不同分类器来评估SMFS与其他方法的效果差异见图4至图11。通过比较，几个结论可以被总结如下：

(1)初步结果显示在图4到图11中。可以看到，在使用少于100个特征的情况下，使用 SemiMFS方法可以提高分类准确性，无论是总体精度还是Kappa系数。相比常规的单视图特征选择方法，SemiMFS的整体优势在于：在所有维度下，平均总体精度高于次优方法1％～10％，平均Kappa系数高于次优方法1％～13％。

(2)在使用不同数量的特征的情况下分类结果的改善：在图4至图11中，大约70个特征左右时，SemiMFS的总体精度OA比次优的基线方法高8％，Kappa系数KIA可以达到11％以上。一般来说，如果使用本发明的方法，70个特征可取得满意的结果，并且会对分类性能施加的积极影响。在图4至图11的曲线中再次证明，许多特征是多余的，并对分类结果没有好处。

(3)从图4至图11可以看出，不同的参数设置也不会太大地影响SemiMFS的性能。因此，可以证明SwmiMFS的稳健性。

表2选取了针对San Clemente高分辨率遥感图像，在标记样本数为10时，SemiMFS算法和LS算法、SPEC算法、SemiTRCFS算法、S²FS²R算法在所有维度上的平均总体精度和Kappa系数。表3为相同实验条件下标记样本数为30时的实验结果。

表2

表3

从表2和表3可以看出针对两种不同的数据集，SemiMFS算法产生的结果好于其他算法。以样本数为10，λ＝1,γ＝1并使用SVM监督分类方法时为例，SemiMFS算法平均总体精度最高，为78.70，S²FS²R算法其次，为74.89，Kappa系数分别为65.44和60.82， SPEC算法平均总体精度最低，仅为69.04。使用Bayes分类方法时，仍是SemiMFS算法平均总体精度最高，为71.04，其次是SemiTRCFS算法，最低的为SPEC算法，Kappa 系数分别为54.07，53.04和46.70。从表3，同样可看出SemiMFS算法产生的结果好于其他算法。由此，可得出结论，基于本发明所提出的SemiMFS算法，可以有效提高对高分辨率遥感图像进行半监督特征选择的平均总体精度和Kappa系数。

Claims (2)

1.一种带有标签学习的高分遥感图像的半监督多视图特征选择方法，其特征在于，它包括以下步骤：

步骤一：采集原始图像特征集，将原始图像特征集使用相似性传播算法生成多个不相交的特征组，每一个特征组代表同一主题的数据特征；

步骤二：通过类概率矩阵y_u以及含有专属组信息的对角矩阵F，计算获得由所有特征组中所有特征向量的权重系数构成的原始特征权重系数矢量β；

步骤三：采用前一次计算获得的特征权重系数矢量β更新含有专属组信息的对角矩阵F，再迭代计算特征权重系数矢量β，直至相邻两次计算获得的特征权重系数矢量β的差值满足预设定阈值，选取其中较大的一个作为最终的特征权重系数矢量β，在最终的特征权重系数矢量β中，将权重系数由大到小排序，由大到小选定预设个数的权重系数，将选定的权重系数对应的全体特征向量作为选择出的特征集；

给定原始图像特征集n为对象的个数，其中的对象x_i∈R^m，R为空间集合，m是维数，y_i是对象的类的标签，并且x_i,y_i∈{1,...,c}，c是类号，所有的对象x_i表示为X：所有的对象的类的标签y_i表示为y：对象的m维特征向量表示为X：X＝[f₁,f₂,...,f_m]，f_i∈R^m×1；

使用相似性传播算法计算从特征f_i至f_j之间的相似性S(i,j)：

S(i,j)＝-||f_i-f_j||²，

式中i≠j；

更新方程如下：

r(i,j)表示可靠性，代表f_j作为f_i的范例时计算结果的合适程度；a(i,j)表示可用性，代表选择f_j作为f_i的范例的合适程度，其中i'、j'和j分别代表原始图像特征集中的一个对象，其之间互不相等；

然后，确定范例为：

最后生成K个特征组，特征组的结构为G：

其中G_k表示第k个特征组；

令特征权重系数矢量特征权重系数矢量β的l_1,2范数定义如下：

其中是β的第k组特征组G_k,l₁范数构成了相同特征组的权重，l₂范数构成了不同特征组的权重；

令y_l∈R^v×C是标记对象的类概率矩阵，其中v为标记样本数量，y_u∈R^q×C是未标记对象的类概率矩阵，q为无标记样本数量；C是类号；

采用最小二乘回归作为损失函数和排他性套索作为正则化，整体优化问题变为：

X_l为有标记样本数据矩阵，X_u为无标记样本数据矩阵，

其中y_u(i,j)是属于第j类的第i个未标记的对象的概率，λ和γ是预定的常数，||·||₂是欧几里得范数，将β作为一个稀疏矢量，整体优化问题等效为：

对上式采用反复重新加权算法，令F∈R^m×m为含有专属组信息的对角矩阵，其对角元素F_ii为：

其中1_m×1是一个长度为m的向量，是第k个特征组的索引指示；由此进一步转化整体优化问题为：

当特征权重系数矢量β固定时，类概率矩阵y_u采用以下公式获得：

上式等价为：

min(y_u-X_uβ)^T(y_u-X_uβ)，

令上式为零，获得：

y_u＝X_uβ，

在没有限制的条件下，当类概率矩阵y_u固定，特征权重系数矢量β为：

β＝(X_l ^TX_l+γX_u ^TX_u-2λF)^-1(X_l ^Ty_l+γX_u ^Ty_u)，

F依赖于β，方程最小化过程同时依赖于F和β，取方程相对于β的导数，得到：

X_l ^T(y_l-X_lβ)+γX_u ^T(y_u-X_uβ)+2λFβ＝0，

计算获得特征权重系数矢量β。

2.根据权利要求1所述的带有标签学习的高分遥感图像的半监督多视图特征选择方法，其特征在于，在迭代计算的下一个循环中用对角元素F_ii的公式更新。