CN114819061A - 一种基于迁移学习的稀疏sar目标分类方法及装置 - Google Patents

一种基于迁移学习的稀疏sar目标分类方法及装置 Download PDF

Info

Publication number
CN114819061A
CN114819061A CN202210341565.0A CN202210341565A CN114819061A CN 114819061 A CN114819061 A CN 114819061A CN 202210341565 A CN202210341565 A CN 202210341565A CN 114819061 A CN114819061 A CN 114819061A
Authority
CN
China
Prior art keywords
sparse
neural network
target classification
transfer learning
convolutional neural
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202210341565.0A
Other languages
English (en)
Inventor
毕辉
刘泽昊
张晶晶
邓佳瑞
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nanjing University of Aeronautics and Astronautics
Original Assignee
Nanjing University of Aeronautics and Astronautics
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nanjing University of Aeronautics and Astronautics filed Critical Nanjing University of Aeronautics and Astronautics
Priority to CN202210341565.0A priority Critical patent/CN114819061A/zh
Publication of CN114819061A publication Critical patent/CN114819061A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/045Combinations of networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/21Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/214Generating training patterns; Bootstrap methods, e.g. bagging or boosting
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/24Classification techniques
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/048Activation functions
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • G06N3/082Learning methods modifying the architecture, e.g. adding, deleting or silencing nodes or connections

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Computation (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Artificial Intelligence (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Health & Medical Sciences (AREA)
  • Software Systems (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • Biophysics (AREA)
  • Biomedical Technology (AREA)
  • Mathematical Physics (AREA)
  • Computational Linguistics (AREA)
  • Health & Medical Sciences (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Evolutionary Biology (AREA)
  • Image Analysis (AREA)

Abstract

本发明公开了一种基于迁移学习的稀疏SAR目标分类方法及装置,包括以下步骤:(1)基于匹配滤波SAR图像利用BiIST算法重构稀疏SAR图像;(2)在源域与目标域搭建具有相同结构的卷积神经网络,并利用模拟数据集在源域预训练一个神经网络;(3)将步骤(2)预训练好的神经网络中的部分参数迁移到目标域的网络上,其余参数随机初始化;(4)微调网络并将步骤(1)得到的稀疏SAR图像作为输入数据进行训练,输出得到目标分类的结果及准确率。本发明采用的稀疏重构算法可以有效抑制SAR图像的旁瓣和杂波,提升图像的质量,为后续分类网络的训练提供保障;本发明提出的基于迁移学习的稀疏SAR目标分类方法,可以加快网络训练收敛的速度,并进一步提高目标分类精度。

Description

一种基于迁移学习的稀疏SAR目标分类方法及装置
技术领域
本发明属于雷达图像处理和目标分类领域,具体涉及一种基于迁移学习的稀疏SAR目标分类方法及装置。
背景技术
合成孔径雷达(Synthetic Aperture Radar,SAR)是一种高分辨率的微波遥感观测系统,主要搭载在机载和星载平台上。不同于传统雷达,SAR能够在全天时、全天候的条件下工作,并具备一定的地表穿透能力,在军用和民用领域发挥着不可替代的重要作用。
2012年,Krizhevesky等人设计的AlexNet深度卷积神经网络(ConvolutionalNeural Networks,CNN)模型在ImageNet竞赛中一举夺冠,使得深度学习成为了图像分类领域的研究热点。然而,与光学图像中大规模的带标记数据集相比,收集带标签的SAR图像是非常昂贵且困难的。因此,如何利用有限的SAR数据提高目标识别的性能和分类精度成为近年来该领域的研究重点。在2017年,Malmgren-Hansen等人首次研究了模拟数据集与真实SAR图像之间的迁移学习,通过在模拟数据集上预训练CNN,可以在真实SAR图像的训练阶段实现更快的收敛,提高最终的测试精度。2019年,Zhong等人提出迁移在ImageNet上预训练模型的卷积层,并添加新的卷积层和全局池化层的方法,配合基于滤波器的剪枝方法对模型进行压缩,最终在提高训练速度的同时获得了与全卷积网络(A-ConvNets)相近的准确率。2020年,Huang等人提出了一种基于域自适应的多源域数据传递方法,以减小源数据和SAR目标数据之间的差异,通过在OpenSARShip数据集上的对比实验证明了源数据与SAR目标数据的差异越小,迁移学习的效果越好。
在传统的迁移学习方法中,目标数据主要是经匹配滤波重构的真实SAR图像,存在比较严重的杂波和旁瓣,而稀疏SAR图像相较于匹配滤波重构的SAR图像,具有更低的杂波和旁瓣,目标特征更明显。将迁移学习与稀疏SAR图像相结合,可以在相同样本数量条件下,获得更高的分类精度。
发明内容
发明目的:本发明的目的是提出一种基于迁移学习的稀疏SAR目标分类方法及装置,将迁移学习的思想应用到稀疏SAR图像上,加快网络的拟合速度,提升分类精度,缓解有限样本条件下分类精度不高的问题。
技术方案:本发明所述的一种基于迁移学习的稀疏SAR目标分类方法,包括以下步骤:
(1)基于匹配滤波SAR图像利用BiIST算法重构稀疏SAR图像;
(2)在源域与目标域搭建具有相同结构的卷积神经网络,并利用模拟数据集在源域对卷积神经网络做预训练;
(3)将步骤(2)预训练好的卷积神经网络中的部分参数迁移至目标域的卷积神经网络上,其余参数随机初始化;
(4)对目标域卷积神经网络微调并将步骤(1)得到的稀疏SAR图像作为输入数据进行训练,输出得到目标分类的结果及准确率。
进一步地,所述步骤(1)通过以下公式实现:
Figure BDA0003579556130000021
Figure BDA0003579556130000022
Figure BDA0003579556130000023
Figure BDA0003579556130000024
Figure BDA0003579556130000025
Figure BDA0003579556130000026
其中,XMF为基于匹配滤波算法重构的复图像,m=1,2,…,Mmax,ε表示重建的误差参数,K表示场景稀疏度,参数τ用于控制算法的收敛速度,取值范围为0<τ-1<l阈值算子f(·)写作
Figure BDA0003579556130000027
当迭代步数达到最大值Mmax,或迭代误差Residual≤ε时,循环结束;最终输出两种结果,即稀疏重建结果
Figure BDA0003579556130000028
和非稀疏重建结果
Figure BDA0003579556130000029
进一步地,步骤(2)所述卷积神经网络由5个卷积层,3个最大池化层和2个全连接层组成;Dropout分别置于两个全连接层之后以缓解由于样本数量有限导致的过拟合问题,即按p=0.5的概率在每次训练时都随机让一定神经元停止参与运算,减少卷积神经网络复杂度。
进一步地,步骤(2)所述的模拟数据集是通过电磁仿真软件生成的仿真图像。
进一步地,所述步骤(3)实现过程如下:
在预训练神经网络中经卷积层得到的输出特征图表示为:
Figure BDA0003579556130000031
其中,
Figure BDA0003579556130000032
表示第l层中的第j个特征图,Ml-1是第l-1层中得到的特征图数量,
Figure BDA0003579556130000033
为卷积核中的权值,
Figure BDA0003579556130000034
为偏差值,是一个常数;f(·)为非线性激活函数用于增加卷积神经网络的非线性,即ReLU函数,具体表示为:
ReLU(x)=max(0,x)
对于2个全连接层,对参数随机初始化并从头训练,未迁移的权重参数w在随机初始化时服从均匀分布,具体表示为:
Figure BDA0003579556130000035
其中,nin表示当前层输入节点的数量,nout则表示为输出节点的数量。
基于相同的发明构思,本发明还提供一种基于迁移学习的稀疏SAR目标分类装置,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,所述计算机程序被加载至处理器时实现所述的基于迁移学习的稀疏SAR目标分类方法。
有益效果:与现有技术相比,本发明的有益效果:1、和传统的经匹配滤波重构的SAR图像相比,BiIST算法重构的稀疏SAR图像拥有更低的杂波和旁瓣,其中稀疏重建结果中的目标轮廓特征更加明显,为后续的迁移训练提供保障;2、本发明中提出的基于迁移学习的稀疏SAR目标分类方法,不仅能加快网络训练的拟合速度,在小样本的情况下可以进一步提高目标的分类精度。
附图说明
图1为基于迁移学习的稀疏SAR目标分类方法的流程图;
图2为本发明提出的用于迁移学习的卷积神经网络的网络模型示意图;
图3为本发明中提出的迁移方法实施图;
图4为本发明重建的稀疏SAR图像在有迁移和无迁移下的验证精度对比图。
具体实施方式
下面结合附图对本发明做进一步详细说明。
本发明提出一种基于迁移学习的稀疏SAR目标分类方法,如图1所示,具体实现步骤如下:
步骤1:基于匹配滤波SAR图像利用BiIST算法重构稀疏SAR图像。
本发明基于匹配滤波SAR图像,采用BiIST算法对SAR图像进行重建。以m+1步迭代为例,BiIST算法的具体迭代过程如表1所示:
表1为BiIST算法的迭代过程
Figure BDA0003579556130000041
其中,ε表示重建的误差参数,K表示场景稀疏度,W(m)为迭代过程中引入的一个中间变量,用于保留目标的相位信息;参数
Figure BDA0003579556130000042
用于控制算法的收敛速度,取值范围为
Figure BDA0003579556130000043
阈值算子f(·)可以写作
Figure BDA0003579556130000051
当迭代步数达到最大值Mmax,或迭代误差Residual≤e时,循环结束。最终输出两种结果,即稀疏重建结果
Figure BDA0003579556130000052
和非稀疏重建结果
Figure BDA0003579556130000053
稀疏重建结果
Figure BDA0003579556130000054
具备更低的杂波和旁瓣,目标特征更明显。
步骤2:源域与目标域采用相同的卷积神经网络结构,利用模拟数据集在源域预训练一个卷积神经网络。
模拟数据集并非真实SAR图像,而是通过电磁仿真软件生成的仿真图像。该数据集包括推土机,公交车,轿车,装甲车,摩托车,坦克和卡车7类仿真目标共21168张仿真图像。本发明中所采用的卷积神经网络如图2所示,该卷积神经网络由5个卷积层,3个最大池化层和2个全连接层组成。此外,Dropout分别置于两个全连接层之后以缓解由于样本数量有限导致的过拟合问题,即按p=0.5的概率在每次训练时都随机让一定神经元停止参与运算,减少卷积神经网络复杂度。将数据集按6:3:1的比例划分出训练集、验证集和测试集,训练集包含对应的目标类别标签。
步骤3:将步骤2预训练好的卷积神经网络中的部分参数迁移到目标域的网络上,其余参数随机初始化。
将步骤2得到的预训练卷积神经网络中的卷积层参数迁移至目标域的卷积神经网络中;其中,在预训练神经网络中经卷积层得到的输出特征图可以表示为
Figure BDA0003579556130000055
其中,
Figure BDA0003579556130000056
表示第l层中的第j个特征图,Ml-1是第l-1层中得到的特征图数量,
Figure BDA0003579556130000057
为卷积核中的权值,
Figure BDA0003579556130000058
为偏差值,是一个常数;f(·)为非线性激活函数用于增加卷积神经网络的非线性,即ReLU函数,具体表示为:
ReLU(x)=max(0,x)
对于所搭建网络的顶层结构,即2个全连接层,对参数随机初始化并从头训练,未迁移的权重参数w在随机初始化时服从均匀分布,具体表示为:
Figure BDA0003579556130000061
其中,nin表示当前层输入节点的数量,nout则表示为输出节点的数量,迁移方法如图3所示。
步骤4:微调卷积神经网络并将步骤1得到的稀疏SAR图像作为输入数据进行训练,输出得到目标分类的结果及准确率。
将步骤1重构的稀疏SAR目标作为输入数据输入训练,分类结果分析包括迁移训练与随机初始化的验证精确度曲线对比和测试结果对比。、
基于相同的发明构思,本发明还提供一种基于迁移学习的稀疏SAR目标分类装置,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,所述计算机程序被加载至处理器时实现所述的基于迁移学习的稀疏SAR目标分类方法。
以公开的MSTAR的十类目标数据集为例对本发明提出的方法进行验证。实验结果如图4和表2所示。
表2为重建的稀疏图像数据集分别在有迁移训练和无迁移训练下的测试结果对比
Figure BDA0003579556130000062
图4为本发明采用的基于迁移学习的稀疏SAR目标分类方法与随机初始化网络的目标分类的验证精度曲线结果对比。在实验中,按照20%,40%,60%和80%的比例随机从总数据集中选取样本,并分别在有迁移学习和随机初始化的网络上进行训练。对比结果如图4所示,通过迁移学习的网络相较于随机初始化的网络在训练时更加稳定,网络收敛的速度更快,并且在验证精度上也有所增加。
在实验中,四种比例的数据在有迁移和无迁移两种情况下训练得到的模型均在测试集上进行了验证。实验结果表明,相较于随机初始化的神经网络,基于迁移学习的网络在各项指标上均有所增加,其中精确率表示在所有的预测样本中,模型预测正确的比重;召回率表示模型正确预测的样本占所有实际样本的比重;F1分数则是在默认精确率与召回率两个指标同等重要的情况下,对两个指标综合考虑后得到的数值。

Claims (6)

1.一种基于迁移学习的稀疏SAR目标分类方法,其特征在于,包括以下步骤:
(1)基于匹配滤波SAR图像利用BiIST算法重构稀疏SAR图像;
(2)在源域与目标域搭建具有相同结构的卷积神经网络,并利用模拟数据集在源域对卷积神经网络做预训练;
(3)将步骤(2)预训练好的卷积神经网络中的部分参数迁移至目标域的卷积神经网络上,其余参数随机初始化;
(4)对目标域卷积神经网络微调并将步骤(1)得到的稀疏SAR图像作为输入数据进行训练,输出得到目标分类的结果及准确率。
2.根据权利要求1所述的一种基于迁移学习的稀疏SAR目标分类方法,其特征在于,所述步骤(1)通过以下公式实现:
Figure FDA0003579556120000011
Figure FDA0003579556120000012
Figure FDA0003579556120000013
Figure FDA0003579556120000014
Figure FDA0003579556120000015
Figure FDA0003579556120000016
其中,XMF为基于匹配滤波算法重构的复图像,m=1,2,…,Mmax,ε表示重建的误差参数,K表示场景稀疏度,参数
Figure FDA00035795561200000110
用于控制算法的收敛速度,取值范围为
Figure FDA00035795561200000111
阈值算子f(·)写作
Figure FDA0003579556120000017
当迭代步数达到最大值Mmax,或迭代误差Residual≤ε时,循环结束;最终输出两种结果,即稀疏重建结果
Figure FDA0003579556120000018
和非稀疏重建结果
Figure FDA0003579556120000019
3.根据权利要求1所述的一种基于迁移学习的稀疏SAR目标分类方法,其特征在于,步骤(2)所述卷积神经网络由5个卷积层,3个最大池化层和2个全连接层组成;Dropout分别置于两个全连接层之后以缓解由于样本数量有限导致的过拟合问题,即按p=0.5的概率在每次训练时都随机让一定神经元停止参与运算,减少卷积神经网络复杂度。
4.根据权利要求1所述的一种基于迁移学习的稀疏SAR目标分类方法,其特征在于,步骤(2)所述的模拟数据集是通过电磁仿真软件生成的仿真图像。
5.根据权利要求1所述的一种基于迁移学习的稀疏SAR目标分类方法,其特征在于,所述步骤(3)实现过程如下:
在预训练神经网络中经卷积层得到的输出特征图表示为:
Figure FDA0003579556120000021
其中,
Figure FDA0003579556120000022
表示第l层中的第j个特征图,Ml-1是第l-1层中得到的特征图数量,
Figure FDA0003579556120000023
为卷积核中的权值,
Figure FDA0003579556120000024
为偏差值,是一个常数;f(·)为非线性激活函数用于增加卷积神经网络的非线性,即ReLU函数,具体表示为:
ReLU(x)=max(0,x)
对于2个全连接层,对参数随机初始化并从头训练,未迁移的权重参数w在随机初始化时服从均匀分布,具体表示为:
Figure FDA0003579556120000025
其中,nin表示当前层输入节点的数量,nout则表示为输出节点的数量。
6.一种基于迁移学习的稀疏SAR目标分类装置,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,其特征在于,所述计算机程序被加载至处理器时实现根据权利要求1-5任一项所述的基于迁移学习的稀疏SAR目标分类方法。
CN202210341565.0A 2022-04-02 2022-04-02 一种基于迁移学习的稀疏sar目标分类方法及装置 Pending CN114819061A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202210341565.0A CN114819061A (zh) 2022-04-02 2022-04-02 一种基于迁移学习的稀疏sar目标分类方法及装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202210341565.0A CN114819061A (zh) 2022-04-02 2022-04-02 一种基于迁移学习的稀疏sar目标分类方法及装置

Publications (1)

Publication Number Publication Date
CN114819061A true CN114819061A (zh) 2022-07-29

Family

ID=82532724

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202210341565.0A Pending CN114819061A (zh) 2022-04-02 2022-04-02 一种基于迁移学习的稀疏sar目标分类方法及装置

Country Status (1)

Country Link
CN (1) CN114819061A (zh)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN115169543A (zh) * 2022-09-05 2022-10-11 广东工业大学 一种基于迁移学习的短期光伏功率预测方法及系统
CN115270997A (zh) * 2022-09-20 2022-11-01 中国人民解放军32035部队 基于迁移学习的火箭目标姿态稳定判别方法及相关装置
CN115410083A (zh) * 2022-08-24 2022-11-29 南京航空航天大学 一种基于对抗域适应的小样本sar目标分类方法及装置
CN117611856A (zh) * 2023-10-12 2024-02-27 中国科学院声学研究所 合成孔径声纳图像感兴趣小目标回波数据聚类分析方法

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN115410083A (zh) * 2022-08-24 2022-11-29 南京航空航天大学 一种基于对抗域适应的小样本sar目标分类方法及装置
CN115410083B (zh) * 2022-08-24 2024-04-30 南京航空航天大学 一种基于对抗域适应的小样本sar目标分类方法及装置
CN115169543A (zh) * 2022-09-05 2022-10-11 广东工业大学 一种基于迁移学习的短期光伏功率预测方法及系统
CN115270997A (zh) * 2022-09-20 2022-11-01 中国人民解放军32035部队 基于迁移学习的火箭目标姿态稳定判别方法及相关装置
CN117611856A (zh) * 2023-10-12 2024-02-27 中国科学院声学研究所 合成孔径声纳图像感兴趣小目标回波数据聚类分析方法

Similar Documents

Publication Publication Date Title
CN114819061A (zh) 一种基于迁移学习的稀疏sar目标分类方法及装置
CN110874631B (zh) 一种基于特征图稀疏化的卷积神经网络剪枝方法
CN110619385B (zh) 基于多级剪枝的结构化网络模型压缩加速方法
Zhong et al. SAR target image classification based on transfer learning and model compression
CN109683161B (zh) 一种基于深度admm网络的逆合成孔径雷达成像的方法
CN112418027A (zh) 一种改进U-Net网络的遥感影像道路提取方法
CN110895682B (zh) 一种基于深度学习的sar目标识别方法
CN112446419A (zh) 基于注意力机制的时空神经网络雷达回波外推预报方法
CN112699941B (zh) 植物病害严重程度图像分类方法、装置、设备和存储介质
CN112016674A (zh) 一种基于知识蒸馏的卷积神经网络的量化方法
Wen et al. HRRP target recognition with deep transfer learning
CN111178439A (zh) 基于卷积神经网络及微调的sar图像分类方法
CN111126570A (zh) 预训练复数全卷积神经网络的sar目标分类方法
CN110647977B (zh) 一种用于星上对舰船目标检测的Tiny-YOLO网络的优化方法
CN114926693A (zh) 基于加权距离的sar图像小样本识别方法及装置
Zhou et al. MSAR‐DefogNet: Lightweight cloud removal network for high resolution remote sensing images based on multi scale convolution
Yu et al. Application of a convolutional autoencoder to half space radar hrrp recognition
CN110717374A (zh) 一种基于改进的多层感知机的高光谱遥感影像分类方法
CN112906716A (zh) 基于小波去噪阈值自学习的带噪sar图像目标识别方法
CN116797928A (zh) 基于平衡模型稳定性和可塑性的sar目标增量分类方法
CN114519384B (zh) 一种基于稀疏sar幅度-相位图像数据集的目标分类方法
CN113126052A (zh) 基于逐级分段训练的高分辨距离像目标识别在线建库方法
Hu et al. CNN and raspberry PI for fruit tree disease detection
CN114444654A (zh) 一种面向nas的免训练神经网络性能评估方法、装置和设备
CN113159218A (zh) 一种基于改进cnn的雷达hrrp多目标识别方法及系统

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination