CN105654136B

CN105654136B - 一种基于深度学习的大规模遥感影像目标自动识别方法

Info

Publication number: CN105654136B
Application number: CN201511026790.1A
Authority: CN
Inventors: 付琨; 许光銮; 孙显; 孙皓; 郑歆慰; 闫梦龙; 刁文辉
Original assignee: Institute of Electronics of CAS
Current assignee: Jigang Defense Technology Co ltd; Aerospace Information Research Institute of CAS
Priority date: 2015-12-31
Filing date: 2015-12-31
Publication date: 2019-01-11
Anticipated expiration: 2035-12-31
Also published as: CN105654136A

Abstract

本发明提供了一种大规模遥感影像目标识别方法，包括：采用深度神经网络对训练遥感影像进行训练，对训练好的深度神经网络添加一个目标分类层，再对该深度神经网络进行调整，得到最优的深度神经网络，通过该最优的深度神经网络对大规模遥感影像进行目标自动识别。本发明能快速和准确的完成大规模遥感影像特征提取，提高特征对遥感影像的光照、角度、尺度和背景等复杂变化的反应性，进而提高大规模遥感影像目标识别的效率。

Description

一种基于深度学习的大规模遥感影像目标自动识别方法

技术领域

本发明涉及大规模遥感影像解译和识别技术领域，具体是一种通过深度神经网络建模提取目标特征的遥感影像目标识别方法。

背景技术

遥感影像目标自动识别技术是一种重要的遥感应用技术，它的目的是从海量遥感影像中自动识别感兴趣的目标并获取其相关信息。遥感影像目标自动识别具有重要的应用价值，在军用方面，利用遥感影像自动识别技术，有助于实现对目标国家和地区的目标监视；在民用方面，利用遥感图像的自动识别技术有助于实现对城乡地区的规划和动态监测等。

最初，实现遥感影像目标识别只能通过人工判读。随后人机交互的半自动化识别方式逐渐发展，但由于处理耗时多、周期长，这种方式并不能发挥遥感技术的优越性，尤其是近些年来遥感影像数据规模的逐年累积，使得遥感影像数据步入大数据时代，研究和发展针对大规模遥感影像的自动识别技术逐渐成为热点。

借鉴计算机视觉和模式识别领域的相关成熟技术，当前用于遥感影像自动识别的方法主要分为两类：一是自上而下的模型驱动方法，这类方法首先结合领域专家知识定义目标模型，然后利用实际数据的统计信息修正和改进模型，最后通过模型匹配的方法进行目标识别，对于特定应用，这类方法可以利用合适的专家知识获得较好的识别结果，缺点是过程繁多，计算复杂。二是自下而上的数据驱动方法，通过结合计算机视觉中的特征提取方法和机器学习中的分类器方法进行目标的识别，这类方法由于无需特定专家知识，对于不同类型的目标识别应用具有较强的适应和推广能力，缺点是现有的特征提取方法往往不能很好地描述遥感影像目标特征。针对大规模遥感影像，基于计算和时间成本的考虑，后者更具有现实意义和可行性，但是目前已有的特征提取方法对于遥感影像的光照、角度、尺度和背景等复杂变化的鲁棒性较差，在大规模遥感影像目标识别中的应用效果不理想。

发明内容

(一)要解决的技术问题

本发明的目的在于，提供一种大规模遥感影像目标识别方法，能快速和准确的完成大规模遥感影像特征提取，提高特征对遥感影像的光照、角度、尺度和背景等复杂变化的反应性，进而提高大规模遥感影像目标识别的效率。

(二)技术方案

本发明提供一种大规模遥感影像目标识别方法，包括：

S1，采用深度神经网络对训练遥感影像进行特征学习，其中，所述深度神经网络包括输入层和隐藏层；

S2，在训练后的深度神经网络中添加一目标分类层，用于对输入至所述深度神经网络的遥感影像中的目标进行分类；

S3，将待测遥感影像输入至深度神经网络；

S4，通过深度神经网络的前向传播计算所述待测遥感影像分类输出结果，从而得到待测遥感影像的目标识别结果。

(三)有益效果

本发明根据目标本身的结构，从图像领域出发，利用低秩纹理模型获取其变换参数，直接得到目标的朝向，相比于传统的旋转不变特征保留了更为完整的信息，使得后续的检测识别方法可以更为灵活的选择特征描述。另外，采用合理的变换模型，将方向纠正问题转化为最优化问题，并在循环迭代过程中，逐步逼近目标的方向，能够有效推动遥感图像的目标识别技术领域的发展。

附图说明

图1是本发明实施例提供的大规模遥感影像目标识别方法的流程图。

具体实施方式

本发明提供一种大规模遥感影像目标识别方法，采用深度神经网络对训练遥感影像进行训练，对训练好的深度神经网络添加一个目标分类层，再对该深度神经网络进行调整，得到最优的深度神经网络，通过该最优的深度神经网络对大规模遥感影像进行目标自动识别。本发明能快速和准确的完成大规模遥感影像特征提取，提高特征对遥感影像的光照、角度、尺度和背景等复杂变化的反应性，进而提高大规模遥感影像目标识别的效率。

根据本发明的一种实施方式，大规模遥感影像目标识别方法包括：

S1，采用深度神经网络对训练遥感影像进行无监督特征学习，从而对该网络进行训练，其中，深度神经网络包括输入层和隐藏层；

S2，在训练后的深度神经网络中添加一目标分类层，用于对输入至深度神经网络的遥感影像中的目标进行分类；

S3，将待测遥感影像输入至深度神经网络；

根据本发明的一种实施方式，在步骤S1中，将深度神经网络的每一层作为一个单独的二层网络进行训练，其中第一层为输入层(v)，第二层为隐藏层(h)，训练时首先将遥感影像输入到输入层，通过构建输入层与隐藏层的联合概率分布，从而在隐藏层得到输入数据的一种非线性映射，即得到输入数据的高层特征表示，其中，

输入层与隐藏层满足如下波尔兹曼分布：

其中，v和h分别为输入层和隐藏层节点，Z为配分函数，其表达式为：

E(v,h)为能量函数，用于表示输入层节点与隐藏层节点的能量关系，其表达式为：

其中θ＝{w,a,b}为两层网络的参数，v_i为输入层节点i，w_ij为节点i和j的连接权值，h_j为隐藏层节点j，a_i为输入层节点i偏置项，b_j为隐藏层节点j偏置项；

所述输入层具有最优化的边缘概率分布P(v)：

通过对训练遥感影像的对数概率进行最优化来进行参数估计，其中，基于结构稀疏优化的损失函数L如下：

L＝-logP(v)+μ||P(h＝1|v)||₁+λ||P(h＝1|v)||_1,2+η||w||₂，

其中，-logP(v)为输入层的对数概率分布，||P(h＝1|v)||₁为节点稀疏惩罚因子，其表达式为：

其中，|P(h_j＝1|v)|表示隐藏节点激活值绝对值，

||P(h＝1|v)||_1,2为分组稀疏惩罚因子，其表达式为：

其中，m为分组数量，G_m为m组包含的隐藏节点集合，h_k为第k个隐藏节点，

||w||₂为权值衰减惩罚因子，其表达式为：

利用梯度下降法进行损失函数的最优化，其表达式为：

其中，为损失函数偏导数，和<v_ih_j>分别为训练遥感影像的经验分布和模型分布的期望。

根据本发明的一种实施方式，在步骤S2中，

在深度神经网络最上层添加一个全连接网络作为目标分类层，将输出特征作为该目标分类层的输入，同时将目标的类别数量作为目标分类层输出，在该目标分类层中，采用多类逻辑斯谛回归模型P_j进行目标分类，其表达式为：

其中，f(x_i)＝w_ijx_i+b_j，多类逻辑斯谛回归模型的输出是一个n维向量，n为目标的类别数目。

根据本发明的一种实施方式，在步骤S3之前还包括：

对具有目标分类层的深度神经网络进行参数调整，得到最优的深度神经网络。

根据本发明的一种实施方式，在进行参数调整时：

将训练遥感影像输入至所述深度神经网络，得到相应的预测值，计算所述预测值与所述训练遥感影像的真实值之间的差值，得到差值函数，根据所述差值函数确定优化目标函数，接着，计算优化目标函数对于参数的梯度值，根据所述梯度值，利用梯度下降算法进行参数调整，得到优化的深度神经网络参数。

其中，所述差值函数J(W,b)的表达式为：

其中，h_w,b(x)为预测值，y为真实值，W为网络模型权值，

优化目标函数L的表达式为：

其中，β为惩罚系数，ρ为惩罚目标值，ρ可取一个较小值(如0.05)，为隐藏节点的平均活跃度，若平均活跃较小，则每个隐节点为1的概率较低，从而使得隐藏层节点同时只有很少一部分激活，从而得到稀疏的隐节点。

为稀疏惩罚项，其表达式为：

上式可以在优化过程中使接近ρ，从而达到隐节点稀疏的目的，的表达式为，

其中，a_j(x_i)＝w_ijx_i+b_j，

在计算优化目标函数对于参数的梯度值时，首先计算每个隐藏层的输出残差其表达式为：

其中，f'(x_i)为激活函数导数，

根据残差计算出目标函数对于参数的梯度值：

利用梯度下降算法进行参数调整，其表达式为：

其中，w_ij ^k和b_i ^k分别为梯度下降第k次迭代时，连接节点i和j的网络权值和第i个输入层节点的偏置项。经过多次迭代计算就可以得到最优的网络模型

为使本发明的目的、技术方案和优点更加清楚明白，以下结合具体实施例，并参照附图，对本发明进一步详细说明。

图1本发明实施例提供的大规模遥感影像目标识别方法的流程图，如图1所示，方法包括：

步骤1：深度神经网络无监督特征学习。这种特征提取算法将深度神经网络的每一层作为一个单独的二层网络进行训练，其中第一层为输入层(v)，第二层为隐藏层(h)，训练时首先将遥感影像输入到输入层，通过构建输入层与隐藏层的联合概率分布，从而在隐藏层得到输入数据的一种非线性映射，即得到输入数据的高层特征表示。这种无监督学习策略可以充分利用大量未标注数据进行参数学习，在大数据应用中拥有很大优势。该步骤具体方法是：

(1)令输入层与隐藏层满足如下波尔兹曼分布：

其中v和h为输入层和隐藏层节点，Z为配分函数，用作函数归一化处理，其计算方法如下：

表达式(1)中E(v,h)为能量函数，它表达了输入层节点与隐藏层节点的能量关系，其计算方法如下：

其中θ＝{w,a,b}为两层网络的参数，w为网络连接权值，a、b分别为输入层和隐藏层的偏置项。

(2)在该算法中，为了得到隐藏层的特征表示，要最优化输入层的边缘概率分布：

(3)算法中通过对输入数据对数概率的最优化来进行参数估计，本专利发明的基于结构稀疏优化的损失函数如下：

L＝-logP(v)+μ||P(h＝1|v)||₁+λ||P(h＝1|v)||_1,2+η||w||₂ (5)其中第一项为输入层的对数概率分布，第二项为节点稀疏惩罚因子，它是节点激活概率的L₁范数，它使得隐藏层节点稀疏，其计算方法如下：

表达式(4)中的第三项为分组稀疏惩罚因子，它是节点激活概率的L_1，2混合范数，这里将隐藏层节点分配为多个分组(G)，该惩罚因子使得隐藏层在分组上稀疏，其计算方法如下：

表达式(4)中的第四项为权值衰减惩罚因子，其计算方法如下：

本专利将以上三项组合定义为结构稀疏优化因子。

(4)本发明利用梯度下降法进行损失函数的最优化，其中，损失函数的梯度计算方法如下

其中<·>表示期望。和<v_ih_j>分别为输入数据经验分布和模型分布的期望，这里利用吉布斯采样或者其近似方法来求取这两个期望，从而获得优化函数的梯度。

步骤2：目标分类层训练。目标识别是一个多分类问题，根据神经网络的连接特点，在特征预训练多层模型基础上添加一个分类层，用于多种目标的分类。具体方法是：

在多层网络的最上层添加一个全连接网络，将输出特征作为该分类层的输入，同时将目标的类别数量作为分类层输出，根据全连接网络的特点，本专利引入多分类中的多类逻辑斯谛回归(multi-nominal logistic regression)模型，其定义如下：

其中f(x_i)＝w_ijx_i+b_j，模型的输出是一个n维向量，n为目标的类别数目，向量的每个元素表示待测影像被分为相应类别的概率，将输入图像送入输入层，经过网络传播，得到的概率最大的目标类别即为待测图像的类别。

步骤3：深度神经网络有监督微调。这一步中，本方法将利用已标注数据进行网络的参数调整，通过将待测数据通过网络的前向传播得到待测数据的预测值，通过预测值与标注的真实值之间的差值，利用本专利发明的一种基于稀疏约束的后向传播(back-propagation)算法得到网络模型对于参数的梯度，随后利用梯度下降法等最优化方法，即可得到一个最优的模型。具体方法是：

(1)将待测数据输入网络，通过前向传播得到预测值，并计算预测值与标注真实值得差值，本专利发明的差值函数为：

其中h_w,b(x)为网络预测值，y为标注值。

(2)计算优化目标函数对于参数的梯度值，本专利发明的基于稀疏约束的目标函数为：

右边第二项为稀疏惩罚项，其计算方法如下：

其中，为隐藏节点的平均活跃度，若平均活跃较小，则每个隐节点为1的概率较低，从而使得隐藏层节点同时只有很少一部分激活，从而得到稀疏的隐节点。这里使ρ取一个较小值(如0.05)，则上式可以在优化过程中使接近这个值，从而达到隐节点稀疏的目的，平均激活度的计算方法如下：

其中，a_j(x_i)＝w_ijx_i+b_j，为了计算目标函数对于参数的梯度值，模型首先计算每个隐藏层的输出残差，如下式：

通过隐藏层输出残差可以计算出目标函数对于参数的梯度值：

(3)利用梯度下降算法进行网络参数优化，计算方法如下：

经过多次迭代计算就可以得到最优的网络模型。

步骤4：利用上步最优化的深度网络模型，将待测图像输入模型的输入层。

步骤5：通过神经网络的前向传播计算待测影像的分类输出结果，根据多类逻辑斯谛回归的输出向量，最终识别目标类型。

以上所述的具体实施例，对本发明的目的、技术方案和有益效果进行了进一步详细说明，所应理解的是，以上所述仅为本发明的具体实施例而已，并不用于限制本发明，凡在本发明的精神和原则之内，所做的任何修改、等同替换、改进等，均应包含在本发明的保护范围之内。

Claims

1.一种大规模遥感影像目标识别方法，其特征在于，包括：

S3，将待测遥感影像输入至所述深度神经网络；

S4，通过所述深度神经网络的前向传播计算所述待测遥感影像分类输出结果，从而得到待测遥感影像的目标识别结果;

所述步骤S1中，将训练遥感影像输入到输入层，通过构建输入层与隐藏层的联合概率分布，在隐藏层得到训练遥感影像的高层特征表示，从而进行深度神经网络训练，其中，

输入层与隐藏层满足如下波尔兹曼分布：

其中θ＝{w,a,b}为两层网络的参数，v_i为输入层节点i，w_ij为节点i和j的连接权值，h_j为隐藏层节点j，a_i为输入层节点i的偏置项，b_j为隐藏层节点j的偏置项；

所述输入层具有最优化的边缘概率分布P(v)：

L＝-log P(v)+μ||P(h＝1|v)||₁+λ||P(h＝1|v)||_1,2+η||w||₂，

其中，-log P(v)为输入层的对数概率分布，||P(h＝1|v)||₁为节点稀疏惩罚因子，其表达式为：

其中，|P(h_j＝1|v)|表示隐藏节点激活值绝对值，

||P(h＝1|v)||_1,2为分组稀疏惩罚因子，其表达式为：

||w||₂为权值衰减惩罚因子，其表达式为：

利用梯度下降法进行损失函数的最优化，其表达式为：

其中，为损失函数偏导数，和<v_ih_j>分别为训练遥感影像的经验分布和模型分布的期望；

在所述步骤S2中，

其中，f(x_i)＝w_ijx_i+b_j，多类逻辑斯谛回归模型的输出是一个n维向量，n为目标的类别数目；

在所述步骤S3之前还包括：

对具有目标分类层的深度神经网络进行参数调整，得到最优的深度神经网络；

进行所述参数调整时：

2.根据权利要求1所述的大规模遥感影像目标识别方法，其特征在于，所述差值函数J(W,b)的表达式为：

其中，h_w,b(x)为预测值，y为真实值，W为网络模型权值，

优化目标函数L的表达式为：

其中，β为惩罚系数，ρ为惩罚目标值，为隐藏节点的平均活跃度，为稀疏惩罚项，其表达式为：

的表达式为，

其中，a_j(x_i)＝w_ijx_i+b_j，

其中，f'(x_i)为激活函数导数，

根据残差计算出目标函数对于参数的梯度值：

利用梯度下降算法进行参数调整，其表达式为：

其中，w_ij ^k和b_i ^k分别为梯度下降第k次迭代时，连接节点i和j的网络权值和第i个输入层节点的偏置项。