CN115272856B - 舰船目标细粒度识别方法及设备 - Google Patents
舰船目标细粒度识别方法及设备 Download PDFInfo
- Publication number
- CN115272856B CN115272856B CN202210900854.XA CN202210900854A CN115272856B CN 115272856 B CN115272856 B CN 115272856B CN 202210900854 A CN202210900854 A CN 202210900854A CN 115272856 B CN115272856 B CN 115272856B
- Authority
- CN
- China
- Prior art keywords
- target
- key point
- feature
- fine
- image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/10—Terrestrial scenes
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/40—Extraction of image or video features
- G06V10/52—Scale-space analysis, e.g. wavelet analysis
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/764—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using classification, e.g. of video objects
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/766—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using regression, e.g. by projecting features on hyperplanes
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/77—Processing image or video features in feature spaces; using data integration or data reduction, e.g. principal component analysis [PCA] or independent component analysis [ICA] or self-organising maps [SOM]; Blind source separation
- G06V10/7715—Feature extraction, e.g. by transforming the feature space, e.g. multi-dimensional scaling [MDS]; Mappings, e.g. subspace methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/82—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using neural networks
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Evolutionary Computation (AREA)
- Multimedia (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Health & Medical Sciences (AREA)
- Artificial Intelligence (AREA)
- Computing Systems (AREA)
- General Health & Medical Sciences (AREA)
- Software Systems (AREA)
- Databases & Information Systems (AREA)
- Medical Informatics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Computational Linguistics (AREA)
- Data Mining & Analysis (AREA)
- Molecular Biology (AREA)
- General Engineering & Computer Science (AREA)
- Mathematical Physics (AREA)
- Image Analysis (AREA)
Abstract
本发明涉及一种舰船目标细粒度识别方法及设备,结合细粒度分类结果和旋转框参数,实现对舰船目标的细粒度识别,避免了成像条件、拍摄角度和舰船目标中心点或角点位置随机导致模型难以聚焦关键点处的细粒度特征的问题,提高了模型定位关键点的准确度,通过构建关键点注意力,引导模型聚焦关键点区域的细粒度特征及其内在自相关性,提高了舰船目标的细粒度识别准确率,为舰船目标细粒度识别提供了一种切实可行的技术途径,在遥感目标识别领域有较大的实际应用价值。
Description
技术领域
本发明涉及一种舰船目标细粒度识别方法及设备。
背景技术
近年来,随着卫星成像技术的不断提高和商业航天的快速发展,高分辨率遥感数据日益增多,为生态环境监测、土地资源调查、灾害预报评估等领域提供了重要的高质量地理空间信息源。其中,高分辨率遥感图像中舰船目标的细粒度识别对于港口和海洋的精细化监控等应用领域具有重要价值。
不同类型的舰船目标通常在外形、颜色和纹理等方面区分度较低,目前主流的目标检测识别算法难以实现精准的舰船目标细粒度识别。其中,基于关键点检测的算法可以通过定位目标的关键点对目标进行识别,但主流的模型如CenterNet、CornerNet等,大都通过定位目标中心点或角点实现对目标的识别,受成像条件、拍摄角度等影响,舰船目标中心点或角点往往位置随机,区分性较低,导致模型难以聚焦关键点处的细粒度特征。
发明内容
鉴于上述技术问题,本发明的目的为提供一种舰船目标细粒度识别方法及设备,通过构建关键点粗检测网络提取大致的关键点位置信息,并在此基础上利用基于关键点注意力的分类子网络对舰船目标进行细粒度分类,从而实现高分辨率遥感图像中舰船目标的精细识别。
实现本发明目的的技术解决方案为:一种舰船目标细粒度识别方法,包括以下步骤:
步骤S1、获取高分辨率遥感图像,并将图像进行预处理;
步骤S2、利用卷积神经网络构建图像的多尺度图像特征金字塔;
步骤S3、以特征图作为输入,利用关键点粗检测网络和分类子网络进行分类,同时,利用回归子网络对舰船目标旋转包围框参数进行回归;
步骤S4、利用分类子网络得到的目标关键点坐标和细粒度分类结果以及回归子网络得到的旋转包围框参数,剔除冗余结果后,获得舰船目标细粒度识别结果;
步骤S5、重复执行步骤S1、S2、S3、S4,直至得到训练好的舰船目标细粒度识别模型;
步骤S6、利用训练好的舰船目标细粒度识别模型实现舰船目标细粒度识别。
根据本发明的一个方面,在所述步骤1中,将图像进行预处理,具体包括:
步骤S11、对高分辨率遥感图像中的舰船目标进行旋转框和关键点标注;
步骤S12、将图像裁切成大小为1024×1024的切片,并对切片进行归一化处理。
根据本发明的一个方面,在步骤S2中,以Resnet101+FPN结构作为主干特征提取网络,构建图像特征金字塔,具体包括:
利用跳跃连接将Resnet101 Conv1-5下采样过程中的特征图层和FPN上采样过程中对应的特征图层进行组合;提取得到图像在多个不同尺度下结合浅层图像细节和深层语义信息的特征金字塔。
根据本发明的一个方面,在步骤S3中,关键点粗检测网络具体包括:
针对大小为H×W×C的特征图,利用4个3×3卷积层对特征图进行卷积处理,每两个卷积层之间包含一个ReLU激活层,再经过一个3×3卷积层和Sigmoid激活层,得到一个大小为H×W×1的粗检测关键点热力图;
在标注的样本目标关键点处构建高斯分布作为粗检测热力图真值,利用FocalLoss单独训练粗检测网络,将训练好的权重迁移至分类子网络。
根据本发明的一个方面,所述步骤S3中的分类子网络具体包括:
步骤S31、利用1×1卷积层将粗检测关键点热力图的通道数扩展至C,与输入特征图按元素相乘,所得结果再通过残差连接与输入特征图相加,得到一个大小为H×W×C的聚焦关键点区域的特征图;
步骤S32、将所得特征图输入非局部连接对关键点区域内部的特征自相关性进行建模,公式为:
其中,i、j为输入特征图X的位置索引,Xi、Xj为特征图上位于位置i和j的向量,g(Xj)=WgXj用于计算特征图X在j位置的特征信息,Wg为1×1卷积,f为相似性度量函数,采用嵌入式高斯函数计算相似性,其公式为:
Z=WzY+X,
其中,Wz为1×1卷积;
步骤S33、将关键点注意力图输入一个3×3卷积层和Sigmoid激活层,得到一个用于精检测目标关键点大小为H×W×K的热力图,K为舰船目标类型数量,每一个通道对应检测一种目标类型;
所得热力图中大于阈值δ的点即为检测得到的目标关键点,目标种类即为该点所在热力图通道对应的目标类型,关键点的热力图值即为目标置信度。
根据本发明的一个方面,所述步骤S3中,回归子网络具体包括:
针对大小为H×W×C的特征图,利用4个3×3卷积层对特征图进行卷积处理,任两个卷积层之间包含一个ReLU激活层,再经过一个3×3卷积层和Sigmoid激活层,得到大小为H×W×5的目标包围框回归层,其中,任一坐标点对应的目标包围框参数向量可表示为:
t=[xo,yo,w,h,θ]T;
其中,xo和yo为关键点到目标中心点之间的距离,w为目标包围框的宽度,h为目标包围框的高度,θ为x轴逆时针旋转到目标包围框长边所经过的角度,其取值范围为0°≤θ<180°。
根据本发明的一个方面,在模型训练阶段,在任一目标对应的热力图通道上,以标注的目标关键点为中心构建一个高斯分布,所得即为热力图的真值,采用Focal Loss的变体作为损失函数,其公式为:
根据本发明的一个方面,在模型训练阶段,只计算目标关键点处的包围框参数向量对应的损失,使用Smooth L1 Loss作为损失函数,其公式为:
根据本发明的一个方面,在步骤S4中,具体包括:
步骤S41、利用分类子网络得到的目标关键点坐标和细粒度分类结果以及回归子网络得到的旋转包围框参数,计算得到完整的目标旋转包围框信息;
步骤S42、利用NMS算法对所有特征图上的结果进行筛选,获得最终的舰船目标细粒度识别结果。
根据本发明的一个方面,提供了一种设备,包括存储介质和处理器,所述存储介质存储有计算机程序,所述计算机程序被所述处理器执行时实现上述技术方案中任一项所述的舰船目标细粒度识别方法。
根据本发明的构思,提出一种舰船目标细粒度识别方法,通过对获取的高分辨率遥感图像进行预处理,利用卷积神经网络构建图像的多尺度图像特征金字塔,构建并训练关键点粗检测网络获取大致的关键点位置信息后,再利用基于关键点注意力的分类子网络对关键点进行精检测并进一步分类,同时利用回归子网络对舰船目标旋转框进行回归;结合细粒度分类结果和旋转框参数,实现对舰船目标的细粒度识别,避免了成像条件、拍摄角度和舰船目标中心点或角点位置随机导致模型难以聚焦关键点处的细粒度特征的问题,提高了模型定位关键点的准确度,通过构建关键点注意力,引导模型聚焦关键点区域的细粒度特征及其内在自相关性,提高了舰船目标的细粒度识别准确率,为舰船目标细粒度识别提供了一种切实可行的技术途径,在遥感目标识别领域有较大的实际应用价值。
附图说明
图1示意性表示根据本发明一种实施方式的舰船目标细粒度识别方法的流程图;
图2示意性表示根据本发明一种实施方式的舰船目标细粒度识别网络结构示意图;
图3示意性表示根据本发明一种实施方式的分类子网络结构示意图;
图4示意性表示根据本发明一种实施方式的回归子网络结构示意图;
图5示意性表示根据本发明另一种实施方式的舰船目标细粒度识别方法的流程图;
图6示意性表示根据本发明一种实施方式的步骤S1的流程图;
图7示意性表示根据本发明另一种实施方式的步骤S3的流程图;
图8示意性表示根据本发明另一种实施方式的步骤S4的流程图。
具体实施方式
为了更清楚地说明本发明实施方式或现有技术中的技术方案,下面将对实施方式中所需要使用的附图作简单地介绍。显而易见地,下面描述中的附图仅仅为本发明的一些实施方式,对于本领域普通技术人员而言,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
下面结合附图和具体实施方式对本发明作详细地描述,实施方式不能在此一一赘述,但本发明的实施方式并不因此限定于以下实施方式。
如图1至图8所示,本发明的一种舰船目标细粒度识别方法,包括以下步骤:
步骤S1、获取高分辨率遥感图像,并将图像进行预处理;
步骤S2、利用卷积神经网络构建图像的多尺度图像特征金字塔;
步骤S3、以特征图作为输入,利用关键点粗检测网络和分类子网络进行分类,同时,利用回归子网络对舰船目标旋转包围框参数进行回归;
步骤S4、利用分类子网络得到的目标关键点坐标和细粒度分类结果以及回归子网络得到的旋转包围框参数,剔除冗余结果后,获得舰船目标细粒度识别结果;
步骤S5、重复执行步骤S1、S2、S3、S4,直至得到训练好的舰船目标细粒度识别模型;
步骤S6、利用训练好的舰船目标细粒度识别模型实现舰船目标细粒度识别。
在该实施例中,通过对获取的高分辨率遥感图像进行预处理,利用卷积神经网络构建图像的多尺度图像特征金字塔,构建并训练关键点粗检测网络获取大致的关键点位置信息后,再利用基于关键点注意力的分类子网络对关键点进行精检测并进一步分类,同时利用回归子网络对舰船目标旋转框进行回归;结合细粒度分类结果和旋转框参数,实现对舰船目标的细粒度识别,避免了成像条件、拍摄角度和舰船目标中心点或角点位置随机导致模型难以聚焦关键点处的细粒度特征的问题,提高了模型定位关键点的准确度,通过构建关键点注意力,引导模型聚焦关键点区域的细粒度特征及其内在自相关性,提高了舰船目标的细粒度识别准确率,为舰船目标细粒度识别提供了一种切实可行的技术途径,在遥感目标识别领域有较大的实际应用价值。
其中,获取高分辨率遥感图像这一过程中,高分辨率遥感图像包括待测高分辨率遥感图像和样本图像,针对每一种不同类型的舰船目标,选定该类目标的一处典型特征区域,在样本标注过程中,对目标的旋转包围框角点坐标以及选定特征区域的中心点坐标进行标注,利用标注的样本数据对模型进行训练。
如图6所示,在本发明的一个实施例中,优选地,在所述步骤1中,将图像进行预处理,具体包括:
步骤S11、对高分辨率遥感图像中的舰船目标进行旋转框和关键点标注;
步骤S12、将图像裁切成大小为1024×1024的切片,并对切片进行归一化处理。
在该实施例中,由于不同设备的采集、成像因素等原因造成相同的舰船目标在图像灰度信息上的不一致,图像归一化能够在保留具有识别价值的灰度差异的同时,减小甚至消除图像中灰度不一致,图像的归一化更有利于计算机自动分析处理,从而提升舰船目标的细粒度识别准确率,将图像切片处理,有利于减少后续算法的复杂度和提高效率。
如图2所示,在本发明的一个实施例中,优选地,在步骤S2中,以Resnet101+FPN结构作为主干特征提取网络,构建图像特征金字塔,具体包括:
利用跳跃连接将Resnet101 Conv1-5下采样过程中的特征图层和FPN上采样过程中对应的特征图层进行组合;提取得到图像在多个不同尺度下结合浅层图像细节和深层语义信息的特征金字塔。
例如,提取得到图像在4个不同尺度下结合了浅层图像细节和深层语义信息的特征金字塔,即降采样4、8、16和32倍的特征图P1、P2、P3和P4,层级越高,则图像越小,分辨率越低,不同特征图层负责识别不同大小的舰船目标。
如图3所示,在本发明的一个实施例中,优选地,在步骤S3中,关键点粗检测网络具体包括:
针对大小为H×W×C的特征图,利用4个3×3卷积层对特征图进行卷积处理,每两个卷积层之间包含一个ReLU激活层,再经过一个3×3卷积层和Sigmoid激活层,得到一个大小为H×W×1的粗检测关键点热力图;
在标注的样本目标关键点处构建高斯分布作为粗检测热力图真值,利用FocalLoss单独训练粗检测网络,将训练好的权重迁移至分类子网络。
在该实施例中,在卷积层之间设置ReLU激活层,有利于将关键点粗检测网络非线性化,即提升关键点粗检测网络的拟合能力,从而提升精度,同时能够将训练好的权重迁移至分类子网络,实现进一步地分类。
通过构建关键点粗检测网络,以特征图作为输入,对舰船目标关键点进行粗检测,获得目标关键点的大致位置,从而降低模型精确定位关键点并分类的难度。
如图3和图7所示,在本发明的一个实施例中,优选地,所述步骤S3中的分类子网络具体包括:
步骤S31、利用1×1卷积层将粗检测关键点热力图的通道数扩展至C,与输入特征图按元素相乘,所得结果再通过残差连接与输入特征图相加,得到一个大小为H×W×C的聚焦关键点区域的特征图;
步骤S32、将所得特征图输入非局部连接对关键点区域内部的特征自相关性进行建模,公式为:
其中,i、j为输入特征图X的位置索引,Xi、Xj为特征图上位于位置i和j的向量,g(Xj)=WgXj用于计算特征图X在j位置的特征信息,Wg为1×1卷积,f为相似性度量函数,采用嵌入式高斯函数计算相似性,其公式为:
Z=WzY+X,
其中,Wz为1×1卷积;
步骤S33、将关键点注意力图输入一个3×3卷积层和Sigmoid激活层,得到一个用于精检测目标关键点大小为H×W×K的热力图,K为舰船目标类型数量,每一个通道对应检测一种目标类型;
所得热力图中大于阈值δ的点即为检测得到的目标关键点,目标种类即为该点所在热力图通道对应的目标类型,关键点的热力图值即为目标置信度。
在该实施例中,将特征图输入到训练好的关键点粗检测网络中,得到大小为H×W×1的粗检测关键点热力图,将粗检测关键点热力图进行处理后,得到用于精检测的聚焦关键点区域的特征图,并将该聚焦关键点区域的特征图进行关键点精检测,从而实现对舰船目标的精分类。
如图4所示,在本发明的一个实施例中,优选地,所述步骤S3中,回归子网络具体包括:
针对大小为H×W×C的特征图,利用4个3×3卷积层对特征图进行卷积处理,任两个卷积层之间包含一个ReLU激活层,再经过一个3×3卷积层和Sigmoid激活层,得到大小为H×W×5的目标包围框回归层,其中,任一坐标点对应的目标包围框参数向量可表示为:
t=[xo,yo,w,h,θ]T;
其中,xo和yo为关键点到目标中心点之间的距离,w为目标包围框的宽度,h为目标包围框的高度,θ为x轴逆时针旋转到目标包围框长边所经过的角度,其取值范围为0°≤θ<180°。
在该实施例中,通过将特征图作为输入,利用回归子网络得到的旋转包围框参数,旋转包围框参数包括:关键点到目标中心点之间的距离、目标包围框的宽度、目标包围框的高度和x轴逆时针旋转到目标包围框长边所经过的角度,并将上述参数与目标关键点坐标和细粒度分类结果结合,计算完整的目标旋转包围框信息。
在本发明的一个实施例中,优选地,在模型训练阶段,在任一目标对应的热力图通道上,以标注的目标关键点为中心构建一个高斯分布,所得即为热力图的真值,采用FocalLoss的变体作为损失函数,其公式为:
在该实施例中,通过舰船分类子网络的损失函数计算得到权重参数的梯度更新值,以此对该舰船分类子网络进行训练,从而得到舰船分类子网络模型,采用Focal Loss的变体作为损失函数,有利于提升分类子网络模型的性能及识别分类精度。
在本发明的一个实施例中,优选地,在模型训练阶段,只计算目标关键点处的包围框参数向量对应的损失,使用Smooth L1 Loss作为损失函数,其公式为:
在该实施例中,在模型训练阶段,只计算目标关键点处的包围框参数向量对应的损失,有利于减少运算量,提升模型训练速度。
如图8所示,在本发明的一个实施例中,优选地,在步骤S4中,具体包括:
步骤S41、利用分类子网络得到的目标关键点坐标和细粒度分类结果以及回归子网络得到的旋转包围框参数,计算得到完整的目标旋转包围框信息;
步骤S42、利用NMS算法对所有特征图上的结果进行筛选,获得最终的舰船目标细粒度识别结果。
在该实施例中,获得完整的目标旋转包围框信息后,通过NMS(非极大值抑制)算法去除特征图上重复的结果,获得最终的舰船目标细粒度识别结果,有利于减少关键点检测网络在实际推理时的输入量,加快运行速度。
本发明中设备,包括存储介质和处理器,存储介质存储有计算机程序,计算机程序被处理器执行时实现舰船目标细粒度识别方法。
综上所述,本发明提出了一种舰船目标细粒度识别方法及设备,通过对获取的高分辨率遥感图像进行预处理,利用卷积神经网络构建图像的多尺度图像特征金字塔,构建并训练关键点粗检测网络获取大致的关键点位置信息后,再利用基于关键点注意力的分类子网络对关键点进行精检测并进一步分类,同时利用回归子网络对舰船目标旋转框进行回归;结合细粒度分类结果和旋转框参数,实现对舰船目标的细粒度识别,避免了成像条件、拍摄角度和舰船目标中心点或角点位置随机导致模型难以聚焦关键点处的细粒度特征的问题,提高了模型定位关键点的准确度,通过构建关键点注意力,引导模型聚焦关键点区域的细粒度特征及其内在自相关性,提高了舰船目标的细粒度识别准确率,为舰船目标细粒度识别提供了一种切实可行的技术途径,在遥感目标识别领域有较大的实际应用价值。
此外,需要说明的是,本发明可提供为方法、装置或计算机程序产品。因此,本发明实施例可采用完全硬件实施例、完全软件实施例或结合软件和硬件方面的实施例的形式。而且,本发明实施例可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质上实施的计算机程序产品的形式。
本发明实施例是参照根据本发明实施例的方法、终端设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、嵌入式处理机或其他可编程数据处理终端设备的处理器以产生一个机器,使得通过计算机或其他可编程数据处理终端设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理终端设备以特定方式工作的计算机可读存储器中,使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品,该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。这些计算机程序指令也可装载到计算机或其他可编程数据处理终端设备上,使得在计算机或其他可编程终端设备上执行一系列操作步骤以产生计算机实现的处理,从而在计算机或其他可编程终端设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
还需要说明的是,在本文中,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者终端设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者终端设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括所述要素的过程、方法、物品或者终端设备中还存在另外的相同要素。
最后需要说明的是,以上所述是本发明优选实施方式,应当指出,尽管已描述了本发明优选实施例,但对于本技术领域的技术人员来说,一旦得知了本发明的基本创造性概念,在不脱离本发明所述原理的前提下,还可以做出若干改进和润饰,这些改进和润饰也应视为本发明的保护范围。所以,所附权利要求意欲解释为包括优选实施例以及落入本发明实施例范围的所有变更和修改。
Claims (9)
1.一种舰船目标细粒度识别方法,包括以下步骤:
步骤S1、获取高分辨率遥感图像,并将图像进行预处理;
步骤S2、利用卷积神经网络构建图像的多尺度图像特征金字塔;
步骤S3、以特征图作为输入,利用关键点粗检测网络和分类子网络进行分类,同时,利用回归子网络对舰船目标旋转包围框参数进行回归;
步骤S4、利用分类子网络得到的目标关键点坐标和细粒度分类结果以及回归子网络得到的旋转包围框参数,剔除冗余结果后,获得舰船目标细粒度识别结果;
步骤S5、重复执行步骤S1、S2、S3、S4,直至得到训练好的舰船目标细粒度识别模型;
步骤S6、利用训练好的舰船目标细粒度识别模型实现舰船目标细粒度识别;
所述步骤S3中的分类子网络具体包括:
步骤S31、利用1×1卷积层将粗检测关键点热力图的通道数扩展至C,与输入特征图按元素相乘,所得结果再通过残差连接与输入特征图相加,得到一个大小为H×W×C的聚焦关键点区域的特征图;
步骤S32、将所得特征图输入非局部连接对关键点区域内部的特征自相关性进行建模,公式为:
其中,i、j为输入特征图X的位置索引,Xi、Xj为特征图上位于位置i和j的向量,g(Xj)=WgXj用于计算特征图X在j位置的特征信息,Wg为1×1卷积,f为相似性度量函数,采用嵌入式高斯函数计算相似性,其公式为:
其中,θ(Xi)=WθXi,Wθ和均为1×1卷积,利用残差连接将运算后的特征图Y与输入特征图X相加,得到整合了关键点区域内部特征自相关性的关键点注意力图Z,其公式为:
Z=WzY+X,
其中,Wz为1×1卷积;
步骤S33、将关键点注意力图输入一个3×3卷积层和Sigmoid激活层,得到一个用于精检测目标关键点大小为H×W×K的热力图,K为舰船目标类型数量,每一个通道对应检测一种目标类型;
所得热力图中大于阈值δ的点即为检测得到的目标关键点,目标种类即为该点所在热力图通道对应的目标类型,关键点的热力图值即为目标置信度。
2.根据权利要求1所述的方法,其特征在于,在所述步骤S1中,将图像进行预处理,具体包括:
步骤S11、对高分辨率遥感图像中的舰船目标进行旋转框和关键点标注;
步骤S12、将图像裁切成大小为1024×1024的切片,并对切片进行归一化处理。
3.根据权利要求1所述的方法,其特征在于,在步骤S2中,以Resnet101+FPN结构作为主干特征提取网络,构建图像特征金字塔,具体包括:
利用跳跃连接将Resnet101 Conv1-5下采样过程中的特征图层和FPN上采样过程中对应的特征图层进行组合;提取得到图像在多个不同尺度下结合浅层图像细节和深层语义信息的特征金字塔。
4.根据权利要求1所述的方法,其特征在于,在步骤S3中,关键点粗检测网络具体包括:
针对大小为H×W×C的特征图,利用4个3×3卷积层对特征图进行卷积处理,每两个卷积层之间包含一个ReLU激活层,再经过一个3×3卷积层和Sigmoid激活层,得到一个大小为H×W×1的粗检测关键点热力图;
在标注的样本目标关键点处构建高斯分布作为粗检测热力图真值,利用FocalLoss单独训练粗检测网络,将训练好的权重迁移至分类子网络。
5.根据权利要求1所述的方法,其特征在于,所述步骤S3中,回归子网络具体包括:
针对大小为H×W×C的特征图,利用4个3×3卷积层对特征图进行卷积处理,任两个卷积层之间包含一个ReLU激活层,再经过一个3×3卷积层和Sigmoid激活层,得到大小为H×W×5的目标包围框回归层,其中,任一坐标点对应的目标包围框参数向量可表示为:
t=[xo,yo,w,h,θ]T;
其中,xo和yo为关键点到目标中心点之间的距离,w为目标包围框的宽度,h为目标包围框的高度,θ为x轴逆时针旋转到目标包围框长边所经过的角度,其取值范围为0°≤θ<180°。
6.根据权利要求5所述的方法,其特征在于,在模型训练阶段,在任一目标对应的热力图通道上,以标注的目标关键点为中心构建一个高斯分布,所得即为热力图的真值,采用Focal Loss的变体作为损失函数,其公式为:
其中,N为目标数量,i为热力图位置索引,pi为热力图预测值,为热力图真值,α和β为预设的超参数。
7.根据权利要求6所述的方法,其特征在于,在模型训练阶段,只计算目标关键点处的包围框参数向量对应的损失,使用Smooth L1 Loss作为损失函数,其公式为:
其中,N为目标数量,ti为目标包围框参数向量预测值,为目标包围框参数向量真值。
8.根据权利要求1所述的方法,其特征在于,在步骤S4中,具体包括:
步骤S41、利用分类子网络得到的目标关键点坐标和细粒度分类结果以及回归子网络得到的旋转包围框参数,计算得到完整的目标旋转包围框信息;
步骤S42、利用NMS算法对所有特征图上的结果进行筛选,获得最终的舰船目标细粒度识别结果。
9.一种设备,包括存储介质和处理器,所述存储介质存储有计算机程序,其特征在于,所述计算机程序被所述处理器执行时实现权利要求1-8中任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210900854.XA CN115272856B (zh) | 2022-07-28 | 2022-07-28 | 舰船目标细粒度识别方法及设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210900854.XA CN115272856B (zh) | 2022-07-28 | 2022-07-28 | 舰船目标细粒度识别方法及设备 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN115272856A CN115272856A (zh) | 2022-11-01 |
CN115272856B true CN115272856B (zh) | 2023-04-04 |
Family
ID=83771570
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202210900854.XA Active CN115272856B (zh) | 2022-07-28 | 2022-07-28 | 舰船目标细粒度识别方法及设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN115272856B (zh) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116486238B (zh) * | 2023-04-26 | 2023-09-15 | 北京卫星信息工程研究所 | 联合点集表示与图分类的目标细粒度识别方法 |
Family Cites Families (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10929715B2 (en) * | 2018-12-31 | 2021-02-23 | Robert Bosch Gmbh | Semantic segmentation using driver attention information |
KR102497361B1 (ko) * | 2020-05-20 | 2023-02-10 | 한국전자통신연구원 | 객체 검출 시스템 및 방법 |
CN113239953B (zh) * | 2021-03-30 | 2024-02-09 | 西安电子科技大学 | 基于有向高斯函数的sar图像旋转舰船检测方法 |
CN113657181B (zh) * | 2021-07-23 | 2024-01-23 | 西北工业大学 | 一种基于平滑标签编码与特征增强的sar图像旋转目标检测方法 |
CN114255385B (zh) * | 2021-12-17 | 2022-10-04 | 中国人民解放军战略支援部队信息工程大学 | 基于感知向量的光学遥感图像舰船检测方法及系统 |
-
2022
- 2022-07-28 CN CN202210900854.XA patent/CN115272856B/zh active Active
Also Published As
Publication number | Publication date |
---|---|
CN115272856A (zh) | 2022-11-01 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109977997B (zh) | 基于卷积神经网络快速鲁棒的图像目标检测与分割方法 | |
CN110647802A (zh) | 基于深度学习的遥感影像舰船目标检测方法 | |
CN111311647B (zh) | 一种基于全局-局部及卡尔曼滤波的目标跟踪方法及装置 | |
CN110889399B (zh) | 基于深度学习的高分辨率遥感影像弱小目标检测方法 | |
Chen et al. | A degraded reconstruction enhancement-based method for tiny ship detection in remote sensing images with a new large-scale dataset | |
CN115272856B (zh) | 舰船目标细粒度识别方法及设备 | |
CN115019181B (zh) | 遥感图像旋转目标检测方法、电子设备及存储介质 | |
CN111640138A (zh) | 一种目标跟踪方法、装置、设备及存储介质 | |
EP3526728B1 (en) | System and method for object recognition based estimation of planogram compliance | |
CN114549462A (zh) | 基于视角解耦Transformer模型的病灶检测方法、装置、设备及介质 | |
CN113706579A (zh) | 一种基于工厂化养殖的对虾多目标跟踪系统及方法 | |
CN115115601A (zh) | 一种基于形变注意金字塔的遥感舰船目标检测方法 | |
Yildirim et al. | Ship detection in optical remote sensing images using YOLOv4 and Tiny YOLOv4 | |
CN109858326A (zh) | 基于类别语义弱监督的在线视觉跟踪方法及系统 | |
KR101622748B1 (ko) | 입력 이미지로부터 객체를 검출하기 위한 방법, 장치 및 컴퓨터 판독가능 기록매체 | |
CN111815677A (zh) | 目标追踪方法、装置、终端设备和可读存储介质 | |
Taha et al. | Assessment of Approaches for the Extraction of Building Footprints from Plé iades Images | |
CN116503733A (zh) | 遥感图像目标检测方法、设备及存储介质 | |
CN111027512A (zh) | 一种遥感图像近岸船检测与定位方法及装置 | |
CN107784285B (zh) | 一种光学遥感影像舰船目标的军民属性自动判别方法 | |
CN113887652B (zh) | 基于形态和多示例学习的遥感图像弱小目标检测方法 | |
CN112269173B (zh) | 一种多平台雷达一维图像信号进行融合的方法 | |
Zhang et al. | Segmenting localized corrosion from rust-removed metallic surface with deep learning algorithm | |
Shi et al. | A superpixel-based coastline extraction algorithm for single-polarized ENVISAT and ERS imagery | |
Wang et al. | Oil tank detection via target-driven learning saliency model |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |