CN107545279A - 基于卷积神经网络与加权核特征分析的图像识别方法 - Google Patents

Abstract

本发明属于雷达目标识别领域。一种基于卷积神经网络与加权核特征分析的图像识别方法，具体步骤为：首先，对SAR图像进行预处理，包括裁剪和去噪。其次，利用卷积神经网络提取SAR图像目标的特征。然后，利用加权核特征分析，筛选提取到的特征，去除坏的特征，保留好的特征。最后，利用最近邻分类进行识别。本发明将卷积神经网络和加权核特征分析方法结合，将卷积神经网络提取的特征用加权核特征分析降维，然后用最近邻分类识别，有效的弥补了传统的卷积神经网络识别性能欠佳的特点；同时利用加权核特征分析对特征矩阵降维，提纯了特征，提高了识别率。

Description

基于卷积神经网络与加权核特征分析的图像识别方法

技术领域

本发明属于雷达目标识别领域，涉及利用SAR图像进行目标识别的方法，尤其涉及卷积神经网络和加权核特征分析方法在雷达目标识别领域的应用。

背景技术

通过SAR图像识别目标，一直是雷达技术研究的热点。但是相干斑噪声干扰，降低了SAR图像质量，给图像目标识别带来较大困难。卷积神经网络(CNN)是一种基于人脑视觉的人工神经网络。通过局部感受野、权值共享、时间或空间下采样，获得了位移、尺寸、形变的不变形，得到对数据刻画更本质的特征。在CNN算法中，为了应用交叉熵代价函数，一般使用softmax分类器，但是有时softmax的分类效果并不理想。最近邻分类(KNN)通过计算不同样本间的距离，将样本距离最近的样本归为同一类，是一种效果较好的分类方法。但是KNN的缺点也相当明显：首先，分类效果取决于样本的质量即样本是否具有本类目标的典型特征；其次，如果样本数据复杂，会导致“维数灾难”；第三，如果样本数量很大，计算量同样会很大。加权核特征分析通过线性变换将数据变到一个低维空间，用低维空间特征表示高维特征。但是利用加权核特征分析进行识别的效果仍然受原始样本特征质量好坏的限制。

发明内容

针对SAR图像目标识别经典的CNN算法中softmax分类器效果不理想的缺陷，本发明提出一种基于卷积神经网络和加权核特征分析的SAR图像目标识别方法，将卷积神经网络与加权核特征分析和最近邻分类结合，提高目标识别率、降低数据运算量。

本发明的技术方案为：

首先，对SAR图像进行预处理，包括裁剪和去噪。其次，利用卷积神经网络提取SAR图像目标的特征，为了保证特征充足，这里可以多提取一些。然后，利用加权核特征分析，筛选提取到的特征，去除坏的特征，保留好的特征，这样可以降低运算量，提高识别率。最后，利用最近邻分类进行识别。

一种基于卷积神经网络与加权核特征分析的图像识别方法，具体步骤如下：

S1、将SAR图像分为训练样本和测试样本，设所述训练样本的数量分别为K1，设所述测试样本的数量为K2，为训练样本生成对应的标签，为测试样本生成对应的标签，其中，K1>K2>0；

S2、对S1所述训练样本和测试样本进行预处理后进行图像幂变换增强和能量归一化处理，其中，所述预处理包括裁剪和滤波，所述图像幂变换增强和能量归一化处理的具体过程为：设经过预处理后的SAR图像的大小为M×N，则训练样本矩阵大小为M×N×K1，对应的标签大小为K1×1，则测试样本矩阵大小为M×N×K2，对应的标签大小为K2×1，M>0，N>0；

S3、构建卷积神经网络，具体为：

S31、初始化卷积神经网络，设置SAR图像分批训练的批大小为batchsize和训练次数为n，其中，25≤batchsize≤100，n≥300。

S32、设卷积神经网络共L层，l∈{1,2...,L}表示卷积神经网络的第l层,z^(l)表示l层的输入向量，y^(l)表示l层的输出，w^(l)和b^(l)分别是第l层卷积神经网络的卷积核的权值和偏置，权值稀疏层的输出记为则l层的输入l层的输出损失函数E(w,D)采用交叉熵代价函数，设卷积神经网络第一层为输入层，所述卷积神经网络包括多个卷积层、max pooling层、权值稀疏层和softmax层，其中，所述softmax层为卷积神经网络的最后一层，所述softmax层用于计算初始识别率，同时作为反向传播的开始层计算代价函数，L为最后一层卷积层的卷积核的个数，同时也是提取的特征的维数，q^(l)服从伯努利分布，激活函数f_active(x)＝log(1+e^x)，权值w更新公式为：w^l+1＝w^l+χ^l+1，χ^l+1为权值更新变量，X^l+1＝-αχ^l-βηw^l-ηδ，α为动量项系数，β为权值衰减系数，η为学习率，δ为损失函数对权值的梯度，

S33、令激活函数f(x)＝log(1+e^x)，在卷积神经网络的每个卷积层中构建多个卷积核，所述卷积核的大小随层数减少，所述卷积核的数量随层数增加，所述卷积核的值为权值W_i，初始化卷积核的值为符合标准正态分布的随机数乘以0.01，卷积核的偏置b_i初始值为0；

S4、将训练图像和测试图像分别输入卷积神经网络，训练n次后，在卷积神经网络的最后一个卷积层得到最终的特征图，其中，所述特征图的矩阵大小为1×1，即一个数，所以对训练样本训练n次后，得到的训练数据特征为K1×L的矩阵，记为M_train，对测试样本得到的测试数据特征是K2×L的矩阵，记为M_test；

S5、对S4所述最终的特征图进行加权核特征分析，具体如下：

S51、求出特征对应的在高维空间的投影矩阵K，其中，核矩阵的元素为K_i,j＝K(x_i,x_j)＝(φ(x_i)).(φ(x_j))，K(x_i,x_j)为满足Mercer条件的核函数；

S52、求出S51所述投影矩阵K的协方差矩阵C，对C进行特征值分解得到C＝UΛU^-1，其中，U＝[u₁,u₂,...,u_l]，u_k＝[u_k1 u_k1...u_kl]^T，Λ为l×l的对角阵，对角线上的元素为别为λ₁,λ₂,...,λ_l，将对角矩阵Λ对角线的元素从大到小排列，矩阵U参照Λ排列；

S53、计算加权核投影矩阵其中，M为样本个数，p对应从每个特征向量u中取前p行，λ₁,λ₂,...,λ_l即为对应的权值，φ(x)为非线性映射函数；

S54、计算特征在新空间的投影：

根据分别计算训练特征和测试特征在新空间的投影，训练样本特征矩阵M_train经加权核特征分析降维后记为的维数为K1×P且P<L，测试样本矩阵M_test降维后记为 的维数为K2×P且P<L；

S6、对S5得到的特征，运用最近邻分类器(KNN)进行识别。

进一步地，S1所述K1>K2>1000。

进一步地，S1所述K1＝1600，K2＝1350。

进一步地，S2所述裁剪和滤波的方法具体为：

将SAR图像以目标为中心进行裁剪，保留目标区域；

对SAR图像进行小波变换滤波，具体过程为：先对SAR图像做离散小变换，对变换后的小于阈值的系数全部设置为零，其余的系数不做任何处理，然后进行逆变换，逆变换之后的图像上就是已经降噪的图像，其中，d表示图像大小，σ表示图像方差。

本发明的有益效果是：

本发明将卷积神经网络和加权核特征分析方法结合，将卷积神经网络提取的特征用加权核特征分析降维，然后用最近邻分类识别，有效的弥补了传统的卷积神经网络识别性能欠佳的特点；同时利用加权核特征分析对特征矩阵降维，提纯了特征，提高了识别率。

具体实施方式

下面结合附图对本发明进行说明。

选取MSTAR计划公布的实测地面静止目标数据作为实验数据。具体实验数据为装甲车BTR70，装甲车BMP2(包含SN_9566，SN_9563和SN_C21三类)和主战坦克T72(包含SN_812，SN_132和SN_S7三类)。将俯仰角17°对应的1600张图片作为训练数据，俯仰角15°对应的1350张图片作为测试数据，具体的数据分配如表1所示。

一种基于卷积神经网络与加权核特征分析的图像识别方法，具体步骤如下：

S1、将SAR图像分为训练样本和测试样本，设所述训练样本的数量分别为K1，设所述测试样本的数量为K2，为训练样本生成对应的标签，为测试样本生成对应的标签，其中，K1＝1600，K2＝1350；

S2、对S1所述训练样本和测试样本进行预处理后进行图像幂变换增强和能量归一化处理，其中，所述预处理包括裁剪和滤波，所述图像幂变换增强和能量归一化处理的具体过程为：设经过预处理后的SAR图像的大小为M×N，则训练样本矩阵大小为M×N×K1，对应的标签大小为K1×1，则测试样本矩阵大小为M×N×K2，对应的标签大小为K2×1，M>0，N>0，所述裁剪和滤波的方法具体为：

将SAR图像以目标为中心进行裁剪，保留目标区域；

对SAR图像进行小波变换滤波，具体过程为：先对SAR图像做离散小变换，对变换后的小于阈值的系数全部设置为零，其余的系数不做任何处理，然后进行逆变换，逆变换之后的图像上就是已经降噪的图像，其中，d表示图像大小，σ表示图像方差；

S3、构建卷积神经网络，具体为：

S31、初始化卷积神经网络，设置SAR图像分批训练的批大小为batchsize和训练次数为n，其中，25≤batchsize≤100，n≥300。

S32、设卷积神经网络共L层，l∈{1,2...,L}表示卷积神经网络的第l层,z^(l)表示l层的输入向量，y^(l)表示l层的输出，w^(l)和b^(l)分别是第l层卷积神经网络的卷积核的权值和偏置，由于权值稀疏层的存在，权值稀疏层的输出记为则l层的输入l层的输出损失函数E(w,D)采用交叉熵代价函数，设卷积神经网络第一层为输入层，所述卷积神经网络包括多个卷积层、max pooling层、权值稀疏层和softmax层，其中，所述softmax层为卷积神经网络的最后一层，所述softmax层用于计算初始识别率，同时作为反向传播的开始层计算代价函数，L为最后一层卷积层的卷积核的个数，同时也是提取的特征的维数，q^(l)服从伯努利分布，激活函数f_active(x)＝log(1+e^x)，权值w更新公式为：w^l+1＝w^l+χ^l+1，χ^l+1为权值更新变量，χ^l+1＝-αχ^l-βηw^l-ηδ，α为动量项系数，β为权值衰减系数，η为学习率，δ为损失函数对权值的梯度，

S33、为提高对形变的不变性，令激活函数f(x)＝log(1+e^x)，在卷积神经网络的每个卷积层中构建多个卷积核，所述卷积核的大小随层数减少，所述卷积核的数量随层数增加，所述卷积核的值为权值W_i，初始化卷积核的值为符合标准正态分布的随机数乘以0.01，卷积核的偏置b_i初始值为0；经过卷积层可以得到图像的特征图

S4、将训练图像和测试图像分别输入卷积神经网络，训练n次后，在卷积神经网络的最后一个卷积层得到最终的特征图，其中，所述特征图的矩阵大小为1×1，即一个数，所以对训练样本训练n次后，得到的训练数据特征为K1×L的矩阵，记为M_train，对测试样本得到的测试数据特征是K2×L的矩阵，记为M_test；

S5、对S4所述最终的特征图进行加权核特征分析，具体如下：

S51、求出特征对应的在高维空间的投影矩阵K，其中，核矩阵的元素为K_i,j＝K(x_i,x_j)＝(φ(x_i)).(φ(x_j))，K(x_i,x_j)为满足Mercer条件的核函数；

S52、求出S51所述投影矩阵K的协方差矩阵C，对C进行特征值分解得到C＝UΛU^-1，其中，U＝[u₁,u₂,...,u_l]，u_k＝[u_k1u_k1...u_kl]^T，Λ为l×l的对角阵，对角线上的元素为别为λ₁,λ₂,...,λ_l，将对角矩阵Λ对角线的元素从大到小排列，矩阵U参照Λ排列；

S53、计算加权核投影矩阵其中，M为样本个数，p对应从每个特征向量u中取前p行，λ₁,λ₂,...,λ_l即为对应的权值，φ(x)为非线性映射函数；

S54、计算特征在新空间的投影：

根据分别计算训练特征和测试特征在新空间的投影，训练样本特征矩阵M_train经加权核特征分析降维后记为的维数为K1×P且P<L，测试样本矩阵M_test降维后记为 的维数为K2×P且P<L；

S6、对S5得到的特征，运用最近邻分类器(KNN)进行识别。

表1训练样本和测试样本的个数

目标型号	训练样本(俯仰角17°)	测试样本(俯仰角15°)
			BMP2sn_9563	229	194
BMP2sn_9566	229	193
			BMP2sn_c21	229	193
BTR70sn_c71	229	193
			T72sn_132	228	193
T72sn_812	228	193
			T72sn_s7	228	191

卷积神经网络实现采用开源的matconvnet，将训练数据共计1600张图片输入程序。训练200次时，提取训练数据的特征矩阵M_train。M_train的维数是1600×300。将测试图像数据1350张图片输入到第200次训练得到的网络中测试，得到softmax的初次识别率和测试数据特征矩阵M_test，这里的到初次平均识别率为92.67％。具体识别结果如表2所示。

表2传统卷积神经网络对7类目标的识别结果

M_test的维数为1350×300然后将训练数据特征矩阵和测试数据特征矩阵用加权核特征分析方法降维。降维后的训练数据特征矩阵为的维数减少为1600×10；降维后测试数据特征矩阵为的维数减少为1350×10。最后用最近邻识别方法得到测试数据的判决类别，并与实际类别比较得到测数据识别率。实验结果如表3所示，由实验结果可以看出，此发明可以进一步提高对目标的识别率。

表3卷积神经网络结合加权核特征分析方法对7类目标的识别结果

Claims (4)

1.一种卷积神经网络与加权核特征分析相结合的SAR图像识别方法，其特征在于，具体步骤如下：

S1、将SAR图像分为训练样本和测试样本，设所述训练样本的数量分别为K1，设所述测试样本的数量为K2，为训练样本生成对应的标签，为测试样本生成对应的标签，其中，K1>K2>0；

S2、对S1所述训练样本和测试样本进行预处理后进行图像幂变换增强和能量归一化处理，其中，所述预处理包括裁剪和滤波，所述图像幂变换增强和能量归一化处理的具体过程为：设经过预处理后的SAR图像的大小为M×N，则训练样本矩阵大小为M×N×K1，对应的标签大小为K1×1，则测试样本矩阵大小为M×N×K2，对应的标签大小为K2×1，M>0，N>0；

S3、构建卷积神经网络，具体为：

S31、初始化卷积神经网络，设置SAR图像分批训练的批大小为batchsize和训练次数为n，其中，25≤batchsize≤100，n≥300。

S32、设卷积神经网络共L层，l∈{1,2...,L}表示卷积神经网络的第l层,z^(l)表示l层的输入向量，y^(l)表示l层的输出，w^(l)和b^(l)分别是第l层卷积神经网络的卷积核的权值和偏置，权值稀疏层的输出记为则l层的输入l层的输出损失函数E(w,D)采用交叉熵代价函数，设卷积神经网络第一层为输入层，所述卷积神经网络包括多个卷积层、maxpooling层、权值稀疏层和softmax层，其中，所述softmax层为卷积神经网络的最后一层，所述softmax层用于计算初始识别率，同时作为反向传播的开始层计算代价函数，L为最后一层卷积层的卷积核的个数，同时也是提取的特征的维数，q^(l)服从伯努利分布，激活函数f_active(x)＝log(1+e^x)，权值w更新公式为：w^l+1＝w^l+χ^l+1，χ^l+1为权值更新变量，χ^l+1＝-αχ^l-βηw^l-ηδ，α为动量项系数，β为权值衰减系数，η为学习率，δ为损失函数对权值的梯度，

S33、令激活函数f(x)＝log(1+e^x)，在卷积神经网络的每个卷积层中构建多个卷积核，所述卷积核的大小随层数减少，所述卷积核的数量随层数增加，所述卷积核的值为权值W_i，初始化卷积核的值为符合标准正态分布的随机数乘以0.01，卷积核的偏置b_i初始值为0；

S4、将训练图像和测试图像分别输入卷积神经网络，训练n次后，在卷积神经网络的最后一个卷积层得到最终的特征图，其中，所述特征图的矩阵大小为1×1，即一个数，所以对训练样本训练n次后，得到的训练数据特征为K1×L的矩阵，记为M_train，对测试样本得到的测试数据特征是K2×L的矩阵，记为M_test；

S5、对S4所述最终的特征图进行加权核特征分析，具体如下：

S51、求出特征对应的在高维空间的投影矩阵K，其中，核矩阵的元素为K_i,j＝K(x_i,x_j)＝(φ(x_i)).(φ(x_j))，K(x_i,x_j)为满足Mercer条件的核函数；

S52、求出S51所述投影矩阵K的协方差矩阵C，对C进行特征值分解得到C＝UΛU^-1，其中，U＝[u₁,u₂,...,u_l]，u_k＝[u_k1 u_k1 ... u_kl]^T，Λ为l×l的对角阵，对角线上的元素为别为λ₁,λ₂,...,λ_l，将对角矩阵Λ对角线的元素从大到小排列，矩阵U参照Λ排列；

S53、计算加权核投影矩阵其中，M为样本个数，p对应从每个特征向量u中取前p行，λ₁,λ₂,...,λ_l即为对应的权值，φ(x)为非线性映射函数；

S54、计算特征在新空间的投影：

根据分别计算训练特征和测试特征在新空间的投影，训练样本特征矩阵M_train经加权核特征分析降维后记为的维数为K1×P且P<L，测试样本矩阵M_test降维后记为 的维数为K2×P且P<L；

S6、对S5得到的特征，运用最近邻分类器(KNN)进行识别。

2.根据权利要求1所述的一种卷积神经网络与加权核特征分析相结合的SAR图像识别方法，其特征在于：S1所述K1>K2>1000。

3.根据权利要求1所述的一种卷积神经网络与加权核特征分析相结合的SAR图像识别方法，其特征在于：S1所述K1＝1600，K2＝1350。

4.根据权利要求1所述的一种卷积神经网络与加权核特征分析相结合的SAR图像识别方法，其特征在于：

S2所述裁剪和滤波的方法具体为：

将SAR图像以目标为中心进行裁剪，保留目标区域；

对SAR图像进行小波变换滤波，具体过程为：先对SAR图像做离散小变换，对变换后的小于阈值的系数全部设置为零，其余的系数不做任何处理，然后进行逆变换，逆变换之后的图像上就是已经降噪的图像，其中，d表示图像大小，σ表示图像方差。