CN107103338B - 融合卷积特征和集成超限学习机的sar目标识别方法 - Google Patents

Abstract

本发明涉及融合卷积特征和集成超限学习机的SAR目标识别方法。现有技术将深度卷积神经网络应用于SAR图像目标识别时，为提高识别精度，需解决样本扩充、模型优化设计、长时间训练等问题。为解决在SAR目标识别中，由于各类别目标样本数量的缺乏，引起的分类结果准确性和识别速度不能同时提高的问题，本发明将缩放后的图像通过随机卷积核进行滤波与池化操作，利用随机抽取的方法对得到的特征进行降维，最后用集成超限学习机得到分类结果。本发明提出的方法在极大地提高了识别速度的同时，提高了识别精度，具有更好的应用前景。

Description

融合卷积特征和集成超限学习机的SAR目标识别方法

技术领域

本发明属于SAR(Synthetic Aperture Radar)图像自动目标识别领域，涉及一种融合随机卷积特征和集成超限学习机的SAR目标识别方法。

背景技术

SAR图像自动目标识别是SAR图像解译的一个重点研究方向。SAR图像目标识别使用数据处理方法对目标进行分类与识别，其工作过程为首先在SAR图像中找出感兴趣区域，然后对每一个感兴趣区域进行分类判断出它的类别。SAR图像目标识别在国民经济和国防建设中有着广泛的应用，如海洋监测系统、舰船目标识别、矿藏探测等。

特征提取和分类器设计是影响SAR图像目标识别的两个关键因素。特征提取可分为广义和狭义特征两类。广义的特征提取是指一种变换，利用各种数学变换方法改善特征空间中原始特征的分布而不改变内部的结构和参数，可以达到压缩特征维数、去除冗余特征、减少计算量的效果。常见的广义特征提取方法包括主成分分析法、独立分量分析、非负矩阵分解、小波变换等。狭义的特征提取算法获得的特征(包括峰值、纹理、区域、边缘、强度等)一般具有较明显的物理含义，这类特征包括计算机视觉特征和电磁特征，前者主要包括纹理、姿态角、形状、峰值、分形维数、主导边界等，后者包括散射中心、HRR剖面等。目前主要的SAR图像目标识别算法包括基于模板匹配的方法、基于支持向量机的方法、基于Boosting的方法、基于稀疏表示的方法等。

深度学习的概念起源于人工神经网络研究，相比于浅学习具有更强的表示能力，但由于深度的增加使得非凸目标函数产生的局部最优解是造成学习困难的主要因素。自Hinton等人提出用于深度信任网络训练的有效算法(PreTraining)以来，深度学习模型、结构、算法等都有了长足进展。目前基于卷积神经网络的深度模型已经应用于SAR图像目标识别。虽然能够取得较高的识别精度，但是基于深度卷积神经网络的SAR目标识别方法需解决以下问题：(1)典型SAR图像数据库中每个类别中目标样本数量比较少(<300)，但只有存在较多训练样本时，基于深度学习的方法才能发挥其优势，即从大量训练样本中学习到有利于目标分类识别的卷积特征。目前通常采用数据增强手段(Data Augmentation)，通过对样本进行平移、翻转和加噪声等方法增加额外的训练样本；(2)模型需要优化设计。深度学习理论目前正在快速发展，不同的模型设计理念对最终的识别结果影响较大。此外，基于深度学习的识别方法通常具有较多的模型参数，如何设置模型的初始值和模型训练的超参数都是值得研究的问题；(3)模型训练时间长。由于需要大数据去训练模型参数，且模型参数通常较多，故需要较长的时间训练，才能得到满意的分类结果。

发明内容

本发明考虑到基于深度卷积神经网络的目标识别方法中学习到的卷积特征具有较强的目标局部特征提取能力，为解决应用基于深度卷积神经网络的SAR目标识别存在的上述三个难点，设计了一种融合随机卷积特征和集成超限学习机的SAR图像目标识别方法，提高SAR目标识别的实时性能和泛化能力。本发明采用随机生成的具有不同宽度的卷积核对输入SAR图像进行滤波，实现特征提取。由于卷积核为随机生成，故不需要通过大量样本训练得到。采用超限学习机进行分类器设计，其本质上是具有单隐层的前馈神经网络，具可调参数少和训练速度快等优点，摈弃了深度卷积神经网络深度大、模型参数多等缺点。为提高SAR目标识别的泛化能力，基于集成学习思想训练得到多个弱分类器，通过投票表决得到强分类器。但与经典集成学习思想不同，本方法并没有对训练样本进行多次采样，而是对提取的随机卷积特征进行多次采样，这样一方面起到了特征降维的目的，另一方面也能通过随机抽样方法得到目标可能的有效特征组合。实验结果表明，本发明设计的方法满足了SAR图像目标识别准确率和实时性两方面的要求，识别精度高，分类速度快。

为解决上述技术问题，本发明采用的技术方案包括以下步骤：

步骤(1).对原始SAR图像进行预处理，通过滤波算法降低相干斑噪声影响，提取SAR目标切片图像。

步骤(2).随机生成一定数量具有不同核宽的二维卷积核，采用这些卷积核对SAR目标切片图像进行滤波，基于滤波后的图像生成特征向量。

步骤(3).训练阶段，基于集成学习思想，随机生成特征索引，对基于步骤(1)和(2)得到的目标特征向量进行随机抽样生成新的特征向量，将所有训练样本得到新的特征向量组合成一个矩阵，采用超限学习机训练得到分类器。重复若干次，训练得到多个分类器。

步骤(4).测试阶段，采用步骤(1)和(2)对测试图像提取特征向量，对特征向量进行随机抽样生成新的特征向量，利用步骤(3)训练得到的分类器进行目标类别预测，并对所有分类器结果进行投票表决，确定目标的类别。

本发明首先采用基于随机生成的具有不同核宽的二维卷积核对输入SAR图像进行滤波，并基于滤波后的图像生成用于目标识别的特征向量，然后对该特征向量进行随机抽样生成新的特征，采用超限学习机进行分类器训练，最后基于投票表决法确定目标的类别。本发明与现有技术相比，其显著优点为：(1)用于生成目标特征向量的卷积核随机生成，无需通过大量样本训练得到。(2)采用的超限学习机具有计算速度快的优点，通过集成学习思想提高了分类器的精度，设计的方法泛化能力强，实时性高。

附图说明

图1为本发明方法的流程图。

具体实施方式

以下结合附图对本发明作进一步说明。

由图1所示，本发明具体实施步骤如下：

步骤(1).对原始SAR图像进行预处理，通过滤波算法降低相干斑噪声影响，提取SAR目标切片图像。具体如下：

采用均值滤波算法对输入SAR图像进行滤波，以图像平面二维中心点为坐标原点，提取尺寸大小为w×h的目标区域图像，将其进行尺度缩放，使图像分辨率将为32×32，除以255.0，使得图像灰度等级位于区间[0 1]。将得到的SAR目标切片图像记做P。

步骤(2).随机生成一定数量具有不同核宽的二维卷积核，采用这些卷积核对SAR图像目标切片进行滤波，基于滤波后的图像生成特征向量。

设定二维卷积核的核宽分别为3,5,7,9,11,13，随机选择卷积核的宽度，按照式(1)生成N个二维卷积核Kernel。

Kernel_m(i,j)＝2×rand()-1 式(1)

其中i、j分别表示二维卷积核的行、列坐标，m＝1，2，…，N表示二维卷积核的索引，rand()产生位于区间[0 1]均匀分布的随机数，Kernel_m为第m个卷积核。

采用生成的二维卷积核Kernel对目标切片图像进行滤波，如式(2)所示。

F_m＝Kernel_m*padding(P) 式(2)

其中，F_m表示计算得到的二维卷积特征，*表示卷积操作，padding(P)表示根据卷积核的宽度对目标切片图像P边缘用0进行填充，使得F_m与P的大小保持一致。

为使获得的二维随机卷积特征对目标平移具有一定的不变性，采用池化操作进行特征变换，如式(3)所示。

其中i，j＝1，2，…，33-r，r为池化操作进行的区域宽度。

将经过池化操作后的二维卷积特征P_m拉伸成1列特征向量f_m，此特征向量的维数为[(33-r)² 1]，并将这N个特征向量(f₁,...,f_m,...,f_N)按照顺序连接成一个维数更大的特征向量f，该特征向量的维数为[N×(33-r)² 1]。

步骤(3).训练阶段，基于集成学习思想，随机生成特征索引，对基于步骤(1)和(2)得到的目标特征向量f进行随机抽样生成新的特征向量，将所有训练样本得到新的特征向量组合成一个矩阵，采用超限学习机训练得到分类器。重复若干次，训练得到多个分类器。

3.1集成学习思想

集成学习算法通过合并一组弱分类器来提高分类器的性能，训练得到的强分类器性能优于任何一个弱分类器。弱分类器是指分类性能仅好于随机猜测的一类分类器，而强分类器的分类结果在最大程度上符合实际情况。Boosting和Bagging是两类流行的集成学习算法。Bagging通过对样本进行重采样训练得到弱分类器集合，这些弱分类器通过投票表决的方式确定分类标签。本发明拟对步骤(2)提取的目标特征向量进行随机抽样以生成新的特征向量，采用超限学习机训练得到弱分类器，最后通过投票表决来确定目标类别。

3.2基于随机抽样的特征选择

设待训练的分类器数目为C，对于第k个分类器而言，根据步骤(2)生成的特征向量维数，基于式(4)和(5)生成特征索引。

index＝floor(linspace(1,N×(33-r)²,N+1)) 式(4)

Clasind_k(s)＝rands(index(s),index(s+1),floor(N×(33-r)²/C/N)) 式(5)

其中，linspace(x,y,n)表示生成元素个数为n的等差数列，x为起点，y为终点。floor()表示向下取整，rands(x,y,n)表示随机生成n个位于区间[x y]均匀分布的整数向量。Clasind_k(s)表示第k个分类器对应的特征索引，s的取值范围为1，2，…，N。

采用式(4)和式(5)相当于采用随机抽样的方式对每个卷积核提取的二维卷积特征进行特征选择，一方面起到了降维的目的，另一方面是期望通过随机方式获得目标的可能有效特征组合。训练阶段，将所有训练样本提取得到的特征向量按列进行排列构成特征矩阵F，根据生成的特征索引生成特征子矩阵F_k，然后采用超限学习机训练得到弱分类器。

3.3基于超限学习机的分类器训练

超限学习机(ELM)是单隐层前馈神经网络，通过对输入层与隐层间的权重进行随机化处理，使得该算法在目标分类、特征学习等方面具有良好的泛化能力。因不需要在线更新权重，故训练速度非常快。ELM算法具有泛化能力好，可调参数少和计算速度快等优点，其分类模型为

其中，h_c(x)＝G(a_c，b_c，x)为隐层输出响应值，G为隐层可采用的激活函数，x∈R^d，为d维实数域输入特征向量，a_c∈R^d，为输入层和隐层间的随机连接权重，b_c∈R，为偏移值，L为隐层节点个数，β为输出权重向量。设训练样本数目为M，目标类别数目为B，ELM优化的目标函数为

其中，δ₁＞0,δ₂＞0,p,q＝0,1,2…,+∞，λ为正则化参数，H为隐层节点输出的随机矩阵，T为目标类别向量，如式(8)所示。

当δ₁＝2,δ₂＝2,p＝2,q＝2时，式(7)具有闭环解，具体如式(9)和式(10)所示。

当M≤N×floor(N×(33-r)²/C/(N+1))时，

当M＞N×floor(N×(33-r)²/C/(N+1))时，

其中，I为单位矩阵。由于已经通过随机化生成二维卷积核，并对输入图像进行卷积核池化操作以实现特征提取，采用上述ELM算法进行分类器训练时，对于第k个分类器设定

根据训练样本标签确定T，利用式(9)或式(10)求取输出权重向量β_k。

步骤(4).测试阶段，采用步骤(1)和(2)对测试图像提取特征向量，对特征向量进行随机抽样生成新的特征向量，利用步骤(3)训练得到的分类器进行目标类别预测，并对所有分类器结果进行投票表决，确定目标的类别。具体步骤如下：

对于一个测试样本，设经过步骤(1)和步骤(2)提取的特征向量为f，根据第k个分类器所对应的特征索引Clasind_k对特征f进行采样得到降维后的特征f_k，利用式(10)求解得到一个1×B的向量，向量中的每个值代表属于某一类别的概率，通过式(11)求得最大位置处的索引即为目标的类别Label_k。

[～,Label_k]＝max(v_k) 式(12)

根据Bagging算法思想，对所有C个分类器的结果进行投票表决，从而确定目标的最终估计类别，如式(12)所示。

Label＝MajorityVote(Label_k)_k＝1…C 式(13)

为验证本发明的有效性，采用MSTAR数据库来测试算法的性能。MSTAR数据库中的SAR图像是通过HH极化、0.3×0.3m分辨率、X波段的SAR传感器采集到的。包括混合目标在内总计10类目标，采用的训练样本数和测试样本数分别如表1所示。实验中部分参数如下：N＝48，c＝3，C＝10，λ＝10。本发明对于10类目标的分类精度如表2所示。

表1MSTAR数据库目标描述

表2 10类目标分类精度

目标	2S1	BRDM_2	D7	T62	ZIL131	ZSU_23_4	BTR_60	BMP2	BTR70	T72	正确率
												2S1	260	1	0	5	0	0	0	2	3	3	94.89％
BRDM_2	1	245	0	0	4	0	0	7	12	5	89.41％
												D7	0	0	272	0	1	0	0	0	0	1	99.27％
T62	2	0	0	264	0	0	0	1	0	6	96.70％
												ZIL131	0	0	0	0	269	0	0	2	2	1	98.18％
ZSU_23_4	0	0	3	0	0	271	0	0	0	0	98.90％
												BTR_60	0	3	0	2	2	0	186	1	0	1	95.38％
BMP2	0	0	0	0	0	0	0	549	10	28	93.53％
												BTR70	0	0	0	0	0	0	0	1	195	0	99.49％
T72	0	0	0	0	0	0	0	25	9	548	94.16％
												平均精度											95.99％
总体精度											95.50％

表3与基于深度学习算法的SAR目标识别算法性能比较

分类器	平均分类精度	训练时间
			本发明	95.99％	十几分钟
CNNWithDataAugmentation	93.16％	几天
			A-ConNets	99.13％	几天

表3为本发明与已知的基于深度学习的SAR目标识别算法性能比较分析。从表中可以看出，本发明平均分类精度与之精度相当，甚至优于部分算法的性能，但是本算法的训练时间明显缩短，同时由于采用了较少的卷积核，因而识别速度也大大提高。本发明借鉴了目前基于深度学习的目标识别算法的设计思想，但是采用了随机生成的具有不同核宽的卷积核，并采用随机采样进行特征降维，基于超限学习机的快速学习能力训练分类器，最后基于集成学习思想来组合若干个弱分类器，进一步提高了SAR目标识别精度和分类器的泛化能力，因而具有较好的应用前景。

Claims (3)

1.融合卷积特征和集成超限学习机的SAR目标识别方法，其特征在于该方法的具体步骤是：

步骤(1).对原始SAR图像进行预处理，通过滤波算法降低相干斑噪声影响，提取SAR目标切片图像；

步骤(2).随机生成一定数量具有不同核宽的二维卷积核，采用这些卷积核对SAR图像目标切片进行滤波，基于滤波后的图像生成特征向量；

步骤(3).训练阶段，基于集成学习思想，随机生成特征索引，对基于步骤(1)和(2)得到的目标特征向量进行随机抽样生成新的特征向量，将所有训练样本得到新的特征向量组合成一个矩阵，采用超限学习机训练得到分类器；重复若干次，训练得到多个分类器；

步骤(4).根据步骤(1)和(2)对待识别的SAR图像提取特征向量，根据步骤(3)对特征向量进行随机抽样生成新的特征向量，同时利用训练好的分类器进行目标类别预测，并对所有分类器结果进行投票表决，确定目标的类别；

步骤(2)具体包括以下步骤：

随机生成一定数量具有不同核宽的二维卷积核，采用这些卷积核对SAR图像目标切片进行滤波，具体是：

设定二维卷积核的核宽分别为3,5,7,9,11,13，随机选择卷积核的宽度，按照式(1)生成N个二维卷积核Kernel；

Kernel_m(i,j)＝2×rand()-1 式(1)

其中，i，j分别表示二维卷积核的行，列坐标，m＝1…N表示二维卷积核的索引，rand()产生位于区间[0 1]均匀分布的随机数；

采用生成的二维卷积核Kernel对目标切片图像进行滤波，如式(2)所示；

F_m＝Kernel_m*padding(P) 式(2)

其中，F_m表示计算得到的二维卷积特征，Kernel_m为第m个卷积核，*表示卷积操作，padding(P)表示根据卷积核的宽度对目标切片图像P边缘用0进行填充，使得F_m与I的大小保持一致；

为使获得的二维随机卷积特征对目标平移具有一定的不变性，采用池化操作进行特征变换，如式(3)所示；

其中，i，j＝1…33-r，r为池化操作进行的区域宽度；

将经过池化操作后的二维卷积特征P_m拉伸成列向量f_m，此列向量的维数为[(33-r)²1]，并将这N个特征向量(f₁,...,f_m,...,f_N)按照顺序合并成一个维数更大的特征向量f，该特征向量的维数为[N×(33-r)² 1]。

2.根据权利要求1所述的一种融合随机卷积特征和集成超限学习机的SAR目标识别方法，其特征在于步骤(3)具体包括以下步骤：

3.1 训练阶段，随机生成特征索引，对基于步骤(1)和(2)得到的目标特征向量进行随机抽样生成新的特征向量，具体是：

设待训练的分类器数目为C，对于第k个分类器而言，根据步骤(2)生成的特征维数，基于式(4)和(5)生成特征索引；

index＝floor(linspace(1,N×(33-r)²,N+1)) 式(4)

Clasind_k(s)＝rands(index(s),index(s+1),floor(N×(33-r)²/C/N)) 式(5)

其中，linspace(x,y,n)表示生成元素个数为n的等差数列，x为起点，y为终点；floor()表示向下取整，rands(x,y,n)表示随机生成n个位于区间[x y]均匀分布的整数向量；Clasind_k(s)表示第k个分类器对应的特征索引，s的取值范围为1…N；

采用式(4)和式(5)相当于采用随机抽样的方式对每个卷积核提取的二维卷积特征进行特征选择，一方面起到了降维的目的，另一方面是期望通过随机方式获得目标的可能有效特征组合；训练阶段，将所有训练样本提取得到的新特征向量按列进行排列构成特征矩阵F，根据生成的特征索引生成特征子矩阵F_k；

3.2 采用超限学习机，利用特征子矩阵F_k训练得到弱分类器，具体为：

设超限学习机其分类模型为

其中，h_i(x)＝G(a_i，b_i，x)为隐层输出响应值，G为隐层可采用的激活函数，x∈R^d，为输入特征向量，a_i∈R^d，为输入层和隐层间的随机连接权重，b_i∈R，为偏移值，L为隐层节点个数，β为输出权重向量；设训练样本数目为M，目标类别数目为B，ELM优化的目标函数为

其中，δ₁＞0,δ₂＞0,p,q＝0,1,2…,+∞，λ为正则化参数，H为隐层节点输出的随机矩阵，T为目标类别向量，如式(8)所示；

当δ₁＝2,δ₂＝2,p＝2,q＝2时，式(7)具有闭环解，具体如式(9)和式(10)所示；

当M≤N×floor(N×(33-r)²/C/(N+1))时，

当M＞N×floor(N×(33-r)²/C/(N+1))时，

其中，I为单位矩阵；由于已经通过随机化生成二维卷积核，并对输入图像进行卷积核池化操作以实现特征提取，采用上述ELM算法进行分类器训练时，对于第k个分类器设定

根据训练样本标签确定T，利用式(9)或式(10)求取输出层权重向量β_k。

3.根据权利要求2所述的一种融合随机卷积特征和集成超限学习机的SAR目标识别方法，其特征在于步骤(4)具体包括以下步骤：

对于一个待测样本，设经过步骤(1)和步骤(2)提取的特征向量为f，根据第k个分类器所对应的特征索引Clasind_k对特征f进行采样得到降维后的特征f_k，利用式(10)求解得到一个1×B的向量，向量中的每个值代表属于某一类别的概率，通过式(11)求得最大位置处的索引即为目标的类别Label_k；

[～,Label_k]＝max(v_k) 式(11)

根据Bagging算法思想，对所有C个分类器的结果进行投票表决，从而确定目标的最终估计类别，如式(12)所示；

Label＝MajorityVote(Label_k)_k＝1…C 式(12)。

Images