CN108171273B - 基于k-svd和深度堆栈网络的极化sar图像分类方法 - Google Patents

Abstract

本发明公开了一种基于K‑SVD和深度堆栈网络的极化SAR图像分类方法，主要解决深度堆栈网络随机初始化导致的图像分类精度低的问题。其实现步骤为：1)输入图像，提取原始数据特征并归一化；2)利用K‑SVD从归一化后的原始数据特征中提取过完备字典；3)从归一化后的原始数据特征中提取训练数据集；4)将过完备字典作为深度堆栈网络的初始化参数，并用训练数据集训练深度堆栈网络；5)利用训练好的深度堆栈网络计算分类标签；6)对分类标签上色，输出上色后的分类结果图。本发明不仅能够提取极化SAR图像中更加复杂的特征，而且加快了深度堆栈网络的收敛速度，提高了极化SAR图像的分类精度，可用于目标识别和图像解译。

Description

基于K-SVD和深度堆栈网络的极化SAR图像分类方法

技术领域

本发明属于图像处理领域，更进一步涉及极化SAR图像地物分类方法，可用于目标识别和图像解译。

背景技术

极化SAR是一种主动式微波传感器，不受光照和天气条件的影响，能够实现全天时、全天候的对地观测，在传统光学传感器不能使用的情况下有着极其重要的意义。与SAR相比，极化SAR进行的是全极化测量，极大提高了对目标散射信息的获取能力，为更加深入地研究目标散射机理提供了重要依据。极化SAR图像分类是图像解译的重要内容之一，由于军用和民事领域的迫切需求，极化SAR图像分类越来越成为当前极化SAR解译领域的热点，同时也是图像分类的主要研究方向。

极化SAR图像分类的流程一般包括数据信息的获取，特征提取，训练分类器和预测分类步骤。其中特征提取和训练分类器是整个流程的关键。常用的特征提取方法主要包括三类。第一类是测量数据简单运算所构造的特征，比如协方差矩阵，相干矩阵，只能比较简单的表征目标特性；第二类是数据的统计分布特征，比如协方差矩阵服从多元高斯分布，相干矩阵服从Wishart分布，以及多视极化数据的K分布，在相应的分布上展开应用研究；第三类是极化目标分解的目标散射特征，Pauil分解、Could分解、Freeman和Durden分解。然而每种特征提取方法都有相应的最佳使用场景，且不可避免的要丢失原始数据的部分信息，很难找到适用每个场景的最佳特征。深度神经网络由于其强大的学习特征的能力获得了研究者的广泛关注，可以在简单特征的基础上通过学习提取更加复杂的特征，挖掘原始信息中更加有用的信息，使得分类的正确率大大提高。但是目前大多数的深度学习模型使用随机初始化的参数，由于模型的高度非线性，使得模型的收敛速度和分类精度受到极大的影响。例如在西安电子科技大学申请的专利“基于稀疏深度堆栈网络的极化SAR图像分类方法”(专利申请号：CN201510508724.1，公布号：CN105117736A)中提出的一种基于稀疏深度堆栈网络的极化SAR图像分类方法。该方法利用稀疏深度堆栈网络对极化SAR数据进行自动特征学习，提取出其数据的深度特征，并利用这些深度特征对极化SAR图像分类。该方法虽然能够自动提取极化SAR数据的特征并进行分类，但深度堆栈网络使用的是随机初始化参数，由于深度堆栈网络的高度非线性，导致训练过程中收敛速度较慢，并容易得到较差的局部最优解，从而降低极化SAR的分类精度。

发明内容

本发明的目的在于克服上述已有技术的不足，提出一种基于K-SVD和深度堆栈网络的极化SAR图像分类方法，以提高深度堆栈网络的收敛速度和分类精度。

本发明的技术方案是：使用K-SVD从原始信息中提取过完备字典，初步挖掘原始信息中的特征，将该字典作为深度堆栈网络的初始化参数，进一步训练网络，提取更复杂和深层次的特征，其具体实现包括如下：

1)输入任意一副待分类的极化SAR图像数据，提取极化SAR图像的原始数据特征并归一化；

2)利用K-SVD算法从归一化后的原始数据特征中提取过完备字典D；

3)根据真实的地物标记，从每个地物类别中分别选取10％有标记的归一化后的原始数据特征作为训练数据集X₁；

4)利用步骤2)得到的过完备字典D和训练数据集X₁训练深度堆栈网络：

4a)设置深度堆栈网络的模块数m；

4b)将过完备字典D作为深度堆栈网络最底层模块M₁中连接输入层和隐含层的系数矩阵W₁的初始值，并用训练数据集X₁训练最底层模块M₁；

4c)设置模块初始值i＝1；

4d)将底层模块M_i的输入和输出拼接成为新的训练数据集X_i+1，将X_i+1作为邻接的上层模块M_i+1的输入，将底层模块M_i中的系数矩阵W_i与一个大小为C×L的随机矩阵拼接，作为模块M_i+1中连接输入层和隐含层的系数矩阵W_i+1的初始值，并训练模块M_i+1，其中C是真实地物的类别数，L是过完备字典D中的原子个数；

4e)令i＝i+1，重复步骤4d)，直到i＝m-1，停止训练，得到训练好的深度堆栈网络；

5)利用训练好的深度堆栈网络，对步骤1)中提取的归一化后的原始数据特征进行分类，得到极化SAR图像的分类标签；

6)对分类标签上色，得到上色后的极化SAR图像，并输出上色后的极化SAR分类结果图。

本发明与现有的技术相比具有以下优点：

1、本发明由于采用深度堆栈网络对图像的原始特征挖掘更加复杂和有用的信息，克服了现有技术直接对极化SAR数据提取一些只适用于特定场景的特征的问题，与浅层网络和现有分解技术相比，本发明还拥有更加优异的特征表达能力，使得本发明对复杂目标有较高的分类准确率；

2、本发明由于利用K-SVD提取的过完备字典作为深度堆栈网络的初始化参数，与随机初始化相比，以简单提取的特征作为训练的起点，提高了网络的收敛速度和稳定性，并避免网络陷入较差的局部最优解；

3、本发明由于利用K-SVD从数据中提取具有自适应性的特征，并将该特征作为深度堆栈网络的初始化参数，使得网络对不同的极化SAR数据具有更高的自适应能力，可以适应不同数据类型的地物分类。

附图说明

图1是本发明的实现流程示意图；

图2是本发明使用的极化SAR数据的PauliRGB合成图；

图3是发明使用的极化SAR数据的真实地物标记图；

图4是用本发明和现有方法对图2所示图像的分类结果图。

具体实施方式

参照图1，本发明的具体实现步骤如下：

步骤一、输入任意一副待分类的极化SAR图像数据，提取极化SAR图像的原始数据特征并归一化；

(1a)输入任选的一副待分类的极化SAR图像；

(1b)提取该极化SAR图像的原始数据特征:

(1b1)按照下式对极化SAR图像中的一个像素点p提取特征参数：

其中B表示像素点p的相干矩阵，a表示目标的对称性因子，b表示目标的非对称性因子，c表示目标的构型因子，d表示目标局部曲率差的度量，e表示目标的曲面扭转，f表示目标的螺旋形，g表示对称和非对称不等间的耦合，h表示目标的方向性，l表示目标的非规则性因子，j表示虚数单位；

(1b2)将第一步得到的9个特征参数a,b,c,d,e,f,g,h,l顺序排列，形成一个大小为9×1的向量x，作为像素点p的原始数据特征：

x＝[a b c d e f g h l]^T，

其中，(·)^T表示向量的转置；

(1b3)重复(1b1)-(1b2)，依次对极化SAR图像中每个像素点提取原始数据特征，得到极化SAR图像中每个像素点的原始数据特征x_i，将所有像素点的原始数据特征拼接，得到大小为9×N的极化SAR图像的原始数据特征X：

X＝[x₁ x₂ ... x_i ... x_N]，

其中i＝1,2,...,N，N是极化SAR图像中像素点的个数；

(1c)将(1b)中得到的原始数据特征归一化，得到归一化后的极化SAR图像的原始数据特征

其中

是第i个像素点归一化后的原始数据特征，

min(X)计算得到矩阵X中每一行的最小值，max(X)计算得到矩阵X中每一行的最大值。

步骤二、利用K-SVD算法从归一化后的原始数据特征中提取过完备字典D；

(2a)根据所使用的极化SAR图像，设置K-SVD算法的参数：设置最大迭代次数I₁＝20，过完备字典中原子个数L＝25，稀疏系数k₀＝3；

(2b)初始化过完为字典D，即从归一化后的原始数据特征

中随机选取L个样本作为过完备字典D的初始值D⁽¹⁾，其中L是过完备字典D中的原子个数；

(2c)迭代训练过完备字典D：

(2c1)设置K-SVD算法的迭代次数初始值k＝1；

(2c2)在第k次训练过程中，固定字典D^(k)，对每一个样本

用正交匹配追踪算法求解对应的稀疏系数a_i，即

并令系数矩阵A＝[a₁ a₂ ... a_i ... a_N]，其中i＝1,2,...,N，N是是极化SAR图像中像素点的个数，||·||₀表示向量的零范数，即向量中非零元素的个数；

(2c3)固定(2c2)中得到的系数矩阵A，计算第k次迭代中关于D^(k)中的每个原子的重构误差：

其中s＝1,2,...L，

是第k次迭代中关于D^(k)中的第s个原子的重构误差，

是过完备字典D^(k)的第i列，

表示系数矩阵A的第i行；

(2c4)对(2c3)中得到的重构误差

进行奇异值分解，即

并利用分解得到的特征向量矩阵U更新过完备字典D^(k)中的第s个原子，得到更新后的字典D^(k+1)：

其中

是更新后的过完备字典D^(k+1)中第s个原子，

U(:,1)表示矩阵U的第一列；

(2c5)令k＝k+1，重复步骤(2c2)-(2c4)，直到迭代次数k＝I₁，D^(k+1)即为利用K-SVD算法从归一化后的原始数据特征中提取过完备字典D。

步骤三、根据真实的地物标记，选取训练数据集：从每个地物类别中分别选取10％有标记的归一化后的原始数据特征，并将这些数据特征随机排列形成训练数据集X₁。

步骤四、利用步骤二得到的过完备字典D和训练数据集X₁训练深度堆栈网络。

深度堆栈网络是由多个神经网络模块堆栈而成，每个模块是由输入层、隐含层和输出层组成的3层神经网络，每个模块顺序堆栈形成深度堆栈网络，堆栈的方法为：底层模块的输入和输出拼接形成新的数据集，该新数据集作为邻接上层模块的输入，通过反向传播算法自底向上依次训练每一个模块，使每个模块的损失函数逐渐减小，当迭代达到一定的次数时，训练完成，其步骤如下：

(4a)根据所使用的极化SAR图像，设置深度堆栈网络的模块数m＝3；

(4b)将过完备字典D作为深度堆栈网络最底层模块M₁中连接输入层和隐含层的系数矩阵W₁的初始值，并用训练数据集X₁训练最底层模块M₁，其中训练最低层模块M₁的具体步骤如下：

(4b1)根据所使用的极化SAR图像，设置最底层模块的参数：设置最大迭代次数I₂＝200，梯度下降步长α＝0.001，正则化系数β＝0.15，训练最底层模块的迭代次数初始值t＝1；

(4b2)按照下式计算最底层模块M₁中隐含层的输出H₁：

其中σ(·)表示Sigmoid函数；

(4b3)按照下式，计算最底层模块M₁中连接隐含层和输出层的系数矩阵U₁：

其中，β表示正则化系数，E是单位矩阵，Y表示训练数据集X₁对应的标签集，(·)^T表示向量的转置，(·)^-1表示矩阵的逆；

(4b4)按照下式，计算最底层模块M₁的损失函数E₁：

其中tr(·)表示矩阵的迹；

(4b5)通过下式，优化最底层模块M₁的损失函数E₁

其中，α表示梯度下降的步长，

表示损失函数E₁对系数矩阵W₁的偏导数，

其中ο表示两个矩阵对应元素相乘，I是全1矩阵；

(4b6)令t＝t+1，重复(4b2)-(4b5)，直到t＝I₂，停止训练，得到训练好的最底层模块中连接输入层和隐含层的系数矩阵W₁以及连接隐含层和输出层的系数矩阵U₁；

(4c)依次训练第二个模块M₂到第m个模块M_m，得到训练好的深度堆栈网络；

(4c1)设置模块初始值i＝1；

(4c2)将底层模块M_i的输入和输出拼接成为新的训练数据集X_i+1，将X_i+1作为邻接的上层模块M_i+1的输入，将底层模块M_i中的系数矩阵W_i与一个大小为C×L的随机矩阵拼接，作为模块M_i+1中连接输入层和隐含层的系数矩阵W_i+1的初始值，并按照步骤(4b)所述方法训练模块M_i+1，其中C是真实地物的类别数，L是过完备字典D中的原子个数；

(4c3)令i＝i+1，重复步骤(4c2)，直到i＝m-1，停止训练，所有模块训练完毕，即得到训练好的深度堆栈网络；

步骤五、利用训练好的深度堆栈网络，对步骤一中提取的归一化后的原始数据特征进行分类，得到极化SAR图像的分类标签。

(5a)将步骤一中提取的归一化后的原始数据特征

输入到训练好的深度堆栈网络，计算最底层模块M₁的输出O₁：

其中，W₁是训练好的深度堆栈网络模块M₁中连接输入层和隐含层的系数矩阵，U₁是训练好的深度堆栈网络模块M₁中连接隐含层和输出层的系数矩阵，σ(·)表示Sigmoid函数，(·)^T表示向量的转置；

(5b)设置模块初始值n＝1；

(5c)将训练好的底层模块M_n的输入和输出拼接成为新的数据集

并将

作为邻接的训练好的上层模块M_n+1的输入，计算该模块M_n+1的输出O_n+1：

其中，W_n+1是训练好的深度堆栈网络模块M_n+1中连接输入层和隐含层的系数矩阵，U_n+1是训练好的深度堆栈网络模块M_n+1中连接隐含层和输出层的系数矩阵；

(5d)令n＝n+1，重复步骤(5c)，直到n＝m-1，停止计算，其中m是步骤四中设置的深度堆栈网络的模块数，由此得到最上层模块M_m的输出O_m，并将矩阵O_m每一列中的最大值设为1，其余值设为0，即得到极化SAR图像的分类标签。

步骤六、对步骤五中得到的分类标签上色：将具有相同分类标签的象素点设置为同一种颜色，即得到待分类的极化SAR图像的分类结果图。

本发明的的效果可通过以下仿真进一步说明：

1仿真条件

将图2所示的极化SAR数据作为待分类的实验数据；

本发明所使用的对比方法分别为3层人工神经网络和随机初始化的深度堆栈网络。在仿真实验中，本发明方法和对比方法都是在MATLAB R2016b软件中编程实现的。

2仿真内容与结果

用本发明和现有的3层人工神经网络、现有的随机初始化的深度堆栈网络对图2所示的实验数据进行分类，结果如图4，其中：

图4(a)是用现有的3层人工神经网络对图2所示实验数据分类得到的结果图；

图4(b)是用现有的随机初始化深度堆栈网络对图2所示实验数据分类得到的结果图；

图4(c)是用本发明对图2所示实验数据分类得到的结果图。

从视觉效果上将图4(a)、图4(b)、图4(c)所示的分类结果图与图3所示的真实地物标记图进行对比，可以发现：

采用现有技术的3层人工神经网络得到的分类结果图中，存在较多孤立的点状区域，并存在大面积的错分点，说明采用现有技术的3层人工神经网络分类效果较差。

采用现有技术的随机初始化深度堆栈网络得到的分类结果图中，孤立的点状区域明显减少，但仍然存在错分现象，说明采用现有技术的随机初始化深度堆栈网络方法与3层人工神经网络相比，得到较大改善。

采用本发明方法得到的分类结果图中，孤立的点状区域进一步减少，得到的分类结果区域一致性较好，说明采用本发明方法的分类效果最好。

Claims (5)

1.一种基于K-SVD和深度堆栈网络的极化SAR图像分类方法，包括：

1)输入任意一副待分类的极化SAR图像数据，提取极化SAR图像的原始数据特征并归一化；

2)利用K-SVD算法从归一化后的原始数据特征中提取过完备字典D；

3)根据真实的地物标记，从每个地物类别中分别选取10％有标记的归一化后的原始数据特征作为训练数据集X₁；

4)利用步骤2)得到的过完备字典D和训练数据集X₁训练深度堆栈网络：

4a)设置深度堆栈网络的模块数m；

4b)将过完备字典D作为深度堆栈网络最底层模块M₁中连接输入层和隐含层的系数矩阵W₁的初始值，并用训练数据集X₁训练最底层模块M₁；

4c)设置模块初始值i＝1；

4d)将底层模块M_i的输入和输出拼接成为新的训练数据集X_i+1，将X_i+1作为邻接的上层模块M_i+1的输入，将底层模块M_i中的系数矩阵W_i与一个大小为C×L的随机矩阵拼接，作为模块M_i+1中连接输入层和隐含层的系数矩阵W_i+1的初始值，并训练模块M_i+1，其中C是真实地物的类别数，L是过完备字典D中的原子个数；

4e)令i＝i+1，重复步骤4d)，直到i＝m-1，停止训练，得到训练好的深度堆栈网络；

5)利用训练好的深度堆栈网络，对步骤1)中提取的归一化后的原始数据特征进行分类，得到极化SAR图像的分类标签；

6)对分类标签上色，得到上色后的极化SAR图像，并输出上色后的极化SAR分类结果图。

2.根据权利要求1所述的方法，其中步骤1)中提取极化SAR图像的原始数据特征并归一化，其实现如下：

1a)按照下式对极化SAR图像中的一个像素点p提取特征参数：

其中B表示像素点p的相干矩阵，a表示目标的对称性因子，b表示目标的非对称性因子，c表示目标的构型因子，d表示目标局部曲率差的度量，e表示目标的曲面扭转，f表示目标的螺旋形，g表示对称和非对称不等间的耦合，h表示目标的方向性，l表示目标的非规则性因子，j表示虚数单位；

1b)将1a)得到的9个特征参数a,b,c,d,e,f,g,h,l顺序排列，形成一个大小为9×1的向量x，作为像素点p的原始数据特征：

x＝[a b c d e f g h l]^T，

其中(·)^T表示向量的转置；

1c)重复步骤1a)-1b)，依次对极化SAR图像中每个像素点提取原始数据特征，得到极化SAR图像中每个像素点的原始数据特征x_i'，将所有像素点的原始数据特征拼接，得到大小为9×N的极化SAR图像的原始数据特征X：

X＝[x₁ x₂ ... x_i' ... x_N]，

其中i'＝1,2,...,N，N是极化SAR图像中像素点的个数；

1d)对极化SAR图像的原始数据特征X进行归一化，得到归一化后的极化SAR图像的原始数据特征

其中

是第i个像素点归一化后的原始数据特征，

min(X)计算得到矩阵X中每一行的最小值，max(X)计算得到矩阵X中每一行的最大值。

3.根据权利要求2所述的方法，其中步骤2)中利用K-SVD算法从归一化后的原始数据特征中提取过完备字典D，其实现如下：

2a)根据所使用的极化SAR图像，设置K-SVD算法的最大迭代次数I₁＝20，过完备字典中原子个数L＝25和稀疏系数k₀＝3；

2b)从归一化后的原始数据特征

中随机选取L个样本作为过完备字典D的初始值D⁽¹⁾，其中L是过完备字典D中的原子个数；

2c)设置K-SVD算法的迭代次数初始值k＝1；

2d)在第k次训练过程中，固定字典D^(k)，对每一个样本

用正交匹配追踪算法求解对应的稀疏系数a_i，即

并令系数矩阵A＝[a₁ a₂ ... a_i' ... a_N]，其中i' ＝1,2,...,N，||·||₀表示向量的零范数，即向量中非零元素的个数；

2e)固定步骤2d)中得到的系数矩阵A，计算第k次迭代中关于D^(k)中的每个原子的重构误差，即

其中s＝1,2,...L，

是第k次迭代中关于D^(k)中的第s个原子的重构误差，d_i ^(k)是过完备字典D^(k)的第i列，

表示系数矩阵A的第i行；

2f)对2e)中得到的重构误差

进行奇异值分解，即

并利用分解得到的特征向量矩阵U更新过完备字典D^(k)中的第s个原子，更新后的字典D^(k+1)如下：

其中

是更新后的过完备字典D^(k+1)中第s个原子，d_s ^(k+1)＝U(:,1)，U(:,1)表示矩阵U的第一列；

2g)令k＝k+1，重复步骤2d)-2f)，直到迭代次数k＝I₁，D^(k+1)即为利用K-SVD算法从归一化后的原始数据特征中提取过完备字典D。

4.根据权利要求1所述的方法，其中步骤4b)中用训练数据集X₁训练最底层模块M₁，其实现如下：

4b1)根据所使用的极化SAR图像，设置训练最底层模块的最大迭代次数I₂＝200，梯度下降步长α＝0.001，正则化系数β＝0.15，并设置最底层模块的迭代次数初始值t＝1；

4b2)按照下式计算最底层模块M₁中隐含层的输出H₁：

H₁＝σ(W₁ ^TX₁)，

其中σ(·)表示Sigmoid函数；

4b3)按照下式，计算最底层模块M₁中连接隐含层和输出层的系数矩阵U₁：

U₁＝(H₁H₁ ^T+βE)^-1H₁Y^T，

其中β表示正则化系数，E是大小为L×L的单位矩阵，Y表示训练数据集X₁对应的标签集，(·)^T表示向量的转置，(·)^-1表示矩阵的逆；

4b4)按照下式，计算最底层模块M₁的损失函数E₁：

E₁＝tr[(U₁ ^TH₁-Y)^T(U₁ ^TH₁-Y)]，

其中tr(·)表示矩阵的迹；

4b5)通过下式，优化最底层模块M₁的损失函数E₁

其中α表示梯度下降的步长，

表示损失函数E₁对系数矩阵W₁的偏导数，

其中

表示两个矩阵对应元素相乘，I表示大小为N×L的全1矩阵；

4b6)令t＝t+1，重复步骤4b2)-4b5)，直到t＝I₂，停止训练，得到训练好的最底层模块及其系数矩阵W₁,U₁。

5.根据权利要求1所述的方法，其中步骤5)中利用训练好的深度堆栈网络，对步骤1)中提取的归一化后的原始数据特征进行分类，其实现如下：

5a)将步骤1)提取的归一化后的原始数据特征

输入到训练好的深度堆栈网络，计算最底层模块M₁的输出O₁：

其中，W₁是训练好的深度堆栈网络模块M₁中连接输入层和隐含层的系数矩阵，U₁训练好的深度堆栈网络模块M₁中连接隐含层和输出层的系数矩阵，σ(·)表示Sigmoid函数，(·)^T表示向量的转置；

5b)设置模块初始值n＝1；

5c)将训练好的底层模块M_n的输入和输出拼接成为新的数据集

并将

作为邻接的训练好的上层模块M_n+1的输入，计算该模块M_n+1的输出O_n+1：

其中，W_n+1是训练好的深度堆栈网络模块M_n+1中连接输入层和隐含层的系数矩阵，U_n+1是训练好的深度堆栈网络模块M_n+1中连接隐含层和输出层的系数矩阵；

5d)令n＝n+1，重复步骤5c)，直到n＝m-1，停止计算，得到最上层模块M_m的输出O_m，将矩阵O_m每一列中的最大值设为1，其余值设为0，即得到极化SAR图像的分类标签。

Images