CN113554655A - 基于多特征增强的光学遥感图像分割方法及装置 - Google Patents
基于多特征增强的光学遥感图像分割方法及装置 Download PDFInfo
- Publication number
- CN113554655A CN113554655A CN202110789120.4A CN202110789120A CN113554655A CN 113554655 A CN113554655 A CN 113554655A CN 202110789120 A CN202110789120 A CN 202110789120A CN 113554655 A CN113554655 A CN 113554655A
- Authority
- CN
- China
- Prior art keywords
- feature
- layer
- image
- network
- segmentation
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10032—Satellite or aerial image; Remote sensing
Landscapes
- Engineering & Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Image Analysis (AREA)
Abstract
本发明公开了一种基于多特征增强的光学遥感图像分割方法及装置,涉及图像处理技术领域。该方法包括:建立基于多特征增强的分割模型,分割模型包括:小尺度特征提取网络、大尺度特征提取网络、多特征生成网络、多特征增强网络和分割网络;对分割模型进行训练;将待分割图像输入到训练后的分割模型中,依次通过5个子神经网络对待分割图像进行处理,得到待分割图像的分割结果。本发明适用于复杂场景下的光学遥感图像分割,能够充分利用图像中丰富的场景上下文和细节外观信息,通过多特征增强模型具有增强细节外观特征和语义结构信息的特点,可提高对光学遥感图像在复杂场景下的精细准确分割能力,从而减少误检或漏检现象的发生。
Description
技术领域
本发明涉及图像处理技术领域,尤其涉及一种基于多特征增强的光学遥感图像分割方法及装置。
背景技术
随着现代遥感技术的飞速发展,光学遥感图像的空间分辨率越来越高。在高空间分辨率光学遥感图像中,各种地物的空间布局更加清晰、纹理细节更加突出等,同时背景信息如光照、阴影等的干扰作用也明显增强,这给遥感图像的精细分割带来了巨大挑战。
近年来,深度学习技术已广泛应用于遥感图像分割中,并取得了显著的效果。然而,主流的基于深度学习的分割方法如FCN、SegNet、PSPNet等在面对复杂场景下光学遥感图像时,误检或漏检现象较多。
发明内容
本发明所要解决的技术问题是针对现有技术的不足,提供一种基于多特征增强的光学遥感图像分割方法及装置。
本发明解决上述技术问题的技术方案如下:
一种基于多特征增强的光学遥感图像分割方法,包括:
建立基于多特征增强的分割模型,所述分割模型包括5个子神经网络:小尺度特征提取网络、大尺度特征提取网络、多特征生成网络、多特征增强网络和分割网络,所述小尺度特征提取网络和所述大尺度特征提取网络分别与所述多特征生成网络连接,所述多特征生成网络、所述多特征增强网络和所述分割网络依次连接;
对所述分割模型进行训练;
将待分割图像输入到训练后的所述分割模型中,依次通过5个所述子神经网络对所述待分割图像进行处理,得到所述待分割图像的分割结果。
本发明解决上述技术问题的另一种技术方案如下:
一种基于多特征增强的光学遥感图像分割装置,包括:
存储器,用于存储计算机程序;
处理器,用于执行所述计算机程序,实现如上述技术方案所述的基于多特征增强的光学遥感图像分割方法。
本发明解决上述技术问题的另一种技术方案如下:
一种存储介质,所述存储介质中存储有指令,当计算机读取所述指令时,使所述计算机执行如上述技术方案所述的基于多特征增强的光学遥感图像分割方法。
本发明的有益效果是:本发明提供的光学遥感图像分割方法及装置适用于复杂场景下的光学遥感图像分割,通过小尺度特征提取网络、大尺度特征提取网络、多特征生成网络、多特征增强网络和分割网络对待分割图像进行处理,能够充分利用图像中丰富的场景上下文和细节外观信息,通过多特征增强模型具有增强细节外观特征和语义结构信息的特点,可提高对光学遥感图像在复杂场景下的精细准确分割能力,从而减少误检或漏检现象的发生。
本发明附加的方面的优点将在下面的描述中部分给出,部分将从下面的描述中变得明显,或通过本发明实践了解到。
附图说明
图1为本发明光学遥感图像分割方法的实施例提供的流程示意图;
图2为本发明光学遥感图像分割方法的其他实施例提供的实例分割模型示意图;
图3为本发明光学遥感图像分割方法的其他实施例提供的另一实例分割模型示意图;
图4为本发明光学遥感图像分割装置的实施例提供的结构框架示意图。
具体实施方式
以下结合附图对本发明的原理和特征进行描述,所举实施例只用于解释本发明,并非用于限定本发明的范围。
如图1所示,为本发明光学遥感图像分割方法的实施例提供的流程示意图,该光学遥感图像分割方法基于多特征增强的分割模型实现,如图2所示,给出了一种示例性的分割模型示意图,该方法包括:
S1,建立基于多特征增强的分割模型,分割模型包括5个子神经网络:小尺度特征提取网络N1、大尺度特征提取网络N2、多特征生成网络N3、多特征增强网络N4和分割网络N5,小尺度特征提取网络N1和大尺度特征提取网络N2分别与多特征生成网络N3连接,多特征生成网络N3、多特征增强网络N4和分割网络N5依次连接;
应理解,这些子神经网络可以包括卷积层、采样层、全连接层等结构,这些子神经网络的具体结构可以根据实际需求设置。
其中,小尺度特征提取网络N1能够提取具有丰富的全局上下文和语义结构信息的小尺度特征图,可以有效抑制复杂场景的干扰;大尺度特征提取网络N2能够提取具有丰富的局部上下文和细节外观信息的大尺度特征图,可以提供图像的细节信息;多特征生成网络N3基于小尺度特征图和大尺度特征图获取多个特征图;多特征增强网络N4能够获取细节外观和语义信息增强后的多个特征图;分割网络N5融合增强后的多个特征图,充分利用各个特征包含的丰富的上下文信息、细节外观信息和语义结构信息,使得基于多特征增强的光学遥感图像分割方法能够实现复杂场景下光学遥感图像的精细准确分割。
应理解,小尺度特征图指的是具有丰富的全局上下文和语义结构信息的特征图,大尺度特征图指的是具有丰富的局部上下文和细节外观信息的特征图。
下面给出一种可能的分割模型的结构。
对于小尺度特征提取网络N1,可以包括图像网格切块层G,线性投影层L,位置编码层P,多头注意力层{MAi 1}(i∈{1,…,nma 1},nma 1≥1),全连接层{FCi 1}(i∈{1,…,nfc 1},nfc 1≥1),相加层{Ai1 1,Ai2 1}(i∈{1,…,na 1},na 1≥1),变形层R,卷积层{Ci 1}(i∈{1,…,nc 1},nc 1≥1),下采样层{Di 1}(i∈{1,…,nd 1},nd 1≥0)。其中,i为变量,nma 1表示多头注意力层的层数,nfc 1表示全连接层的层数,na 1表示相加层的层数,nc 1表示卷积层的层数,nd 1表示下采样层的层数。
对于大尺度特征提取网络N2,可以包括卷积层{Ci 2}(i∈{1,…,nc 2},nc 2≥2),下采样层{Di 2}(i∈{1,…,nd 2},nd 2≥1)。其中,i为变量,nc 2表示卷积层的层数,nd 2表示下采样层的层数。
对于多特征生成网络N3,可以包括卷积层{Ci 3或Bi 3}(i∈{1,…,nc 3},nc 3≥1),上采样层{Ui 3}(i∈{1,…,nu 3},nu 3≥1)。其中,i为变量,nc 3表示卷积层的层数,nu 3表示上采样层的层数。
对于多特征增强网络N4,可以包括图G=(V,E),其中V={Si}(i∈{1,…,ng 4},ng 4≥2)为节点,代表不同的特征图;E={eij}(i,j∈{1,…,ng 4},ng 4≥2,i≠j)为节点间的边。对于节点Si,将其对应的特征图作为节点初始特征xi (0);对于边eij,将节点Si和Sj之间的关系eij=W(xi-xj)作为其特征。
节点特征的更新采用门控循环单元或长短期记忆单元,节点i的初始隐藏状态hi (0)设为0,第k次更新迭代的输入为xi (k)=xi (k-1)+∑eij (k-1)xj (k-1)(i≠j,k∈{1,…,K},K≥1)。其中,i和j为变量,ng 4表示节点的个数,W为可学习的权重矩阵,K为节点更新迭代次数。
对于分割网络N5,可以包括融合层{Mi 5}(i∈{1,…,nm 5},nm 5≥1),卷积层{Ci 5}(i∈{1,…,nc 5},nc 5≥2),上采样层{Ui 5}(i∈{1,…,nu 5},nu 5≥1)。其中,i为变量,nm 5表示融合层的层数,nc 5表示卷积层的层数,nu 5表示上采样层的层数。
例如,图2的分割模型示意图中,小尺度特征提取网络N1包括依次设置的至少一个图像网格切块层G,一个线性投影层L,一个位置编码层P,一个多头注意力层MA1 1、一个全连接层FC1 1,两个相加层A11 1、A12 1,一个变形层R,一个卷积层C1 1;大尺度特征提取网络N2包括依次设置的至少两个卷积层C1 2、C3 2,一个下采样层D1 2;多特征生成网络N3中包括依次设置的至少一个卷积层B1 3,一个上采样层U2 3;多特征增强网络N4中包括一个图神经网络,网络包含至少两个节点S1、S3,每两个节点之间定义边;分割网络N5包括依次设置的至少一个融合层M1 5,两个卷积层C1 5、C3 5,一个上采样层U1 5。
通过采用包括多个不同结构特点的子神经网络的多特征增强模型进行训练与识别,由于多特征增强模型具有增强细节外观特征和语义结构信息的特点,从而可提高对光学遥感图像在复杂场景下的精细准确分割能力。
S2,对分割模型进行训练;
可选地,可以预先采集多张光学遥感图像作为整个网络的训练图像,对训练图像进行标注处理后,采用反向传播算法对分割模型进行训练。
例如,以识别植物为例,可以采集1000张包含植物的图像,将其中800张作为训练集,200张作为验证集,通过训练集对分割模型进行训练,通过验证集对分割模型进行验证。
可以根据分割目的预先对训练集的图像进行标注,标注完成后,可以通过预设的训练方法对分割模型进行训练,再使用验证集进行验证。
例如,可以采用反向传播算法对分割模型进行训练。
S3,将待分割图像输入到训练后的分割模型中,依次通过5个子神经网络对待分割图像进行处理,得到待分割图像的分割结果。
例如,可以由小尺度特征提取网络N1将待处理图像经过多层注意力机制处理获得多个小尺度特征图,小尺度特征图包含丰富的全局上下文和语义结构信息;由大尺度特征提取网络N2将待处理图像经过多层卷积层处理获得多个大尺度特征图,大尺度特征图包含丰富的局部上下文和细节外观信息;由多特征生成网络N3将多个小尺度特征图和多个大尺度特征图经过上采样处理,获得多个特征图;由多特征增强网络N4将多个特征图经过图神经网络处理进行信息融合,获得细节外观和语义信息增强后的多个特征图;由分割网络N5融合增强后的多个特征图,经过多个卷积层处理获得最终的分割结果。
本实施例提供的光学遥感图像分割方法适用于复杂场景下的光学遥感图像分割,通过小尺度特征提取网络N1、大尺度特征提取网络N2、多特征生成网络N3、多特征增强网络N4和分割网络N5对待分割图像进行处理,能够充分利用图像中丰富的场景上下文和细节外观信息,通过多特征增强模型具有增强细节外观特征和语义结构信息的特点,可提高对光学遥感图像在复杂场景下的精细准确分割能力,从而减少误检或漏检现象的发生。
可选地,在一些可能的实施方式中,对分割模型进行训练,具体包括:
获取至少一张光学遥感图像作为训练图像,分别对每张训练图像进行预处理:
将预处理后的全部训练图像输入到分割模型中,采用反向传播算法对分割模型进行训练。
可选地,在一些可能的实施方式中,分别对每张训练图像进行预处理,具体包括:
设置至少两种用于区分像素的类别;
基于第一训练图像标注出所有像素的类别;
其中,第一训练图像为全部训练图像中的任意一个训练图像。
例如,可以至少设置为需要识别的目标以及背景,设置为2个类别。也可以设置为需要识别的目标A、目标B以及背景,设置为3个类别。
以识别植物为例,可以对图像中的每个像素进行植物和背景的标注,将植物识别出来,然后将每个像素标注为植物或背景。
可选地,在一些可能的实施方式中,将待分割图像输入到训练后的分割模型中,依次通过5个子神经网络对待分割图像进行处理,得到待分割图像的分割结果,具体包括:
将待分割图像输入到训练后的分割模型中,通过小尺度特征提取网络N1对待分割图像进行处理,得到多个小尺度特征图;
通过大尺度特征提取网络N2对待分割图像进行处理,得到多个大尺度特征图;
通过多特征生成网络N3将多个小尺度特征图和多个大尺度特征图经过上采样处理,获得多个特征图;
通过多特征增强网络N4将多个特征图经过图神经网络处理进行信息融合,获得细节外观和语义信息增强后的多个增强特征图;
通过分割网络N5对多个增强特征图进行融合,得到分割结果。
其中,小尺度特征提取网络N1能够提取具有丰富的全局上下文和语义结构信息的小尺度特征图,可以有效抑制复杂场景的干扰;大尺度特征提取网络N2能够提取具有丰富的局部上下文和细节外观信息的大尺度特征图,可以提供图像的细节信息;多特征生成网络N3基于小尺度特征图和大尺度特征图获取多个特征图;多特征增强网络N4能够获取细节外观和语义信息增强后的多个特征图;分割网络N5融合增强后的多个特征图,充分利用各个特征包含的丰富的上下文信息、细节外观信息和语义结构信息,使得基于多特征增强的光学遥感图像分割方法能够实现复杂场景下光学遥感图像的精细准确分割。
可选地,在一些可能的实施方式中,小尺度特征提取网络N1包括:图像网格切块层、线性投影层、位置编码层、多头注意力层、相加层、全连接层、变形层、卷积层和下采样层;
通过小尺度特征提取网络N1对待分割图像进行处理,得到多个小尺度特征图,具体包括:
通过网格切块层将待分割图像均匀切分成预设大小的图像块;
通过线性投影层提取每个图像块的嵌入向量;
通过位置编码层编码每个图像块的位置向量;
通过多头注意力层、相加层和全连接层对嵌入向量和位置向量进行处理,提取所有图像块间的全局上下文信息,得到每个图像块的全局特征向量;
通过变形层将全局特征向量变形至二维特征图;
通过卷积层对二维特征图进行细化;
通过下采样层对细化后的二维特征图进行降维,得到多个小尺度特征图。
例如,以图3所示分割模型为例,可以通过图像网格切块层G将图像均匀切分成图像块,通过线性投影层L提取每个图像块的嵌入向量,通过位置编码层P编码每个图像块的位置向量,将每个图像块的嵌入向量和位置向量分别相加得到每个图像块的输入向量,通过6组多头注意力层MA1 1、相加层A11 1、全连接层FC1 1和相加层A12 1提取所有图像块间的全局上下文信息,得到图像的全局特征向量,通过变形层R将图像的全局特征向量变形至二维特征图,通过卷积层C1 1、卷积层C2 1和卷积层C3 1细化特征图,通过下采样层D1 1对特征图进行降维,得到更小尺度的特征图。通过多层多头注意力层提取具有丰富的全局上下文和语义结构信息的小尺度特征图,可以有效抑制复杂场景的干扰。
可选地,在一些可能的实施方式中,大尺度特征提取网络N2包括:卷积层和下采样层;
通过大尺度特征提取网络N2对待分割图像进行处理,得到多个大尺度特征图,具体包括:
通过卷积层对待分割图像进行处理,提取图像特征,得到特征图;
通过下采样层对特征图进行降维,得到多个大尺度特征图。
例如,以图3所示分割模型为例,可以通过卷积层C1 2、卷积层C2 2、卷积层C3 2、卷积层C4 2、卷积层C5 2和卷积层C6 2提取图像特征和细化特征图,通过下采样层D1 2和下采样层D2 2对图像特征进行降维。通过多层卷积层和下采样层提取具有丰富的局部上下文和细节外观信息的大尺度特征图,可以提供图像的细节信息。
可选地,在一些可能的实施方式中,多特征生成网络N3包括:卷积层和上采样层;
通过多特征生成网络N3将多个小尺度特征图和多个大尺度特征图经过上采样处理,获得多个特征图,具体包括:
通过卷积层对多个小尺度特征图和多个大尺度特征图的特征进行细化;
通过上采样层对细化后的多个小尺度特征图和多个大尺度特征图的特征进行升维,得到具有相同大小的多个特征图。
例如,以图3所示分割模型为例,可以通过卷积层B1 3细化特征图,通过上采样层U1 3、上采样层U2 3和上采样层U3 3对图像特征进行升维。该网络用于将小尺度特征提取网络N1提取的小尺度特征图和大尺度特征提取网络N2提取的大尺度特征图变换为相同大小的多个特征图。
可选地,在一些可能的实施方式中,如图3所示,多特征增强网络N4包括一个图神经网络,该图神经网络中设置有4个节点,各个节点之间通过边连接。
每个节点代表不同的特征图,通过特征图间的信息传递,使得每个特征图均包含丰富的细节外观和语义信息,得到增强后的多个特征图,从而有效抑制复杂场景的干扰。
可选地,在一些可能的实施方式中,分割网络N5包括:融合层、上采样层和卷积层;
通过分割网络N5对多个增强特征图进行融合,得到分割结果,具体包括:
通过融合层对多个增强特征图进行融合,得到融合特征图;
通过上采样层对融合特征图的特征进行升维,使融合特征图的大小与待分割图像相同;
通过卷积层对升维后的融合特征图的特征进行细化,并生成得分图,得到最终的分割结果。
例如,以图3所示分割模型为例,可以通过融合层M1 5融合增强后的多个特征图,通过上采样层U1 5对特征图的特征进行升维,逐步达到原始图像大小,通过卷积层C1 5、卷积层C2 5和卷积层C3 5细化特征图,其中最后一层卷积层C4 5用于生成得分图,得到图像最终分割结果。
下面结合图3,给出一种较为优选的分割模型示意图。
如图3所示,为本发明光学遥感图像分割方法的其他实施例提供的另一实例分割模型示意图,小尺度特征提取网络N1包括依次设置的图像网格切块层G、线性投影层L、位置编码层P、多头注意力层MA1 1、相加层A11 1、全连接层FC1 1、相加层A12 1、变形层R、卷积层C1 1、下采样层D1 1、卷积层C2 1和卷积层C3 1。
应理解,如图中框出的部分,可以将多头注意力层MA1 1、相加层A11 1、全连接层FC1 1、相加层A12 1作为一组处理层,用于提取图像块间的全局上下文信息,得到每个图像块的全局特征向量,那么还包括并列设置的其余5组相同结构,在图中未标出。
也就是说,在小尺度特征提取网络N1中,共包括1个图像网格切块层,1个线性投影层,1个位置编码层,nma 1=6个多头注意力层,nfc 1=6个全连接层,na 1=12个相加层,1个变形层,nc 1=3个卷积层,nd 1=1个下采样层。
大尺度特征提取网络N2包括依次设置的卷积层C1 2、卷积层C2 2、下采样层D1 2、卷积层C3 2、卷积层C4 2、下采样层D2 2、卷积层C5 2和卷积层C6 2。
也就是说,在大尺度特征提取网络N2中,共包括nc 2=6个卷积层,nd 2=2个下采样层。
多特征生成网络N3包括依次设置的卷积层B1 3、上采样层U1 3、上采样层U2 3和上采样层U3 3。
也就是说,在多特征生成网络N3中,共包括nc 3=1个卷积层,nu 3=3个上采样层。
多特征增强网络N4包括依次设置的节点S1、节点S2、节点S3和节点S4,图中各个节点之间通过边连接。
也就是说,在多特征增强网络N4中,共包括ng 4=4个节点。
分割网络N5包括依次设置的融合层M1 5、卷积层C1 5、卷积层C2 5、上采样层U1 5、卷积层C3 5和卷积层C4 5。
也就是说,在分割网络N5中,共包括nm 5=1个融合层,nc 5=4个卷积层,nu 5=1个上采样层。
其中,线性投影层可以通过全连接层实现每个图像块的嵌入向量生成。位置编码层可通过正弦或余弦函数对图像块在原始图像中的位置进行编码。下采样层可以利用池化操作或带有步进大于1的卷积操作实现,对特征进行降维。
上采样层可以利用转置卷积操作或双线性插值操作或上池化操作实现,对特征进行升维。融合层可以利用加法操作或串接操作或均值操作实现,对多个特征进行信息融合。
需要说明的是,C代表卷积核为3*3的卷积层,B代表卷积核为1*1的卷积层。
小尺度特征提取网络N1中图像网格切块层用于将图像均匀切分成图像块,例如,切成H/16×W/16个图像块,H和W分别为图像的高和宽。线性投影层用于提取每个图像块的嵌入向量。位置编码层用于编码每个图像块的位置向量。将每个图像块的嵌入向量和位置向量分别相加得到每个图像块的输入向量。多头注意力层、相加层和全连接层用于提取所有图像块间的全局上下文信息,得到图像的全局特征向量。变形层用于将图像的全局特征向量变形至二维特征图。卷积层用于细化特征图。下采样层用于对特征图进行降维,得到更小尺度的特征图。该网络通过多层多头注意力层提取具有丰富的全局上下文和语义结构信息的小尺度特征图,可以有效抑制复杂场景的干扰。
大尺度特征提取网络N2中卷积层用于提取图像特征和细化特征图,下采样层用于对图像特征进行降维。该网络通过多层卷积层和下采样层提取具有丰富的局部上下文和细节外观信息的大尺度特征图,可以提供图像的细节信息。
多特征生成网络N3中卷积层用于细化特征图。上采样层用于对图像特征进行升维。该网络用于将小尺度特征提取网络N1提取的小尺度特征图和大尺度特征提取网络N2提取的大尺度特征图变换为相同大小的多个特征图。
多特征增强网络N4中图神经网络用于充分融合多特征生成网络N3输出的多个特征图,通过特征图间的信息传递,使得每个特征图均包含丰富的细节外观和语义信息,得到增强后的多个特征图,从而有效抑制复杂场景的干扰。
分割网络N5中融合层用于融合增强后的多个特征图。上采样层用于对图像特征进行升维,逐步达到原始图像大小。卷积层用于细化特征图,其中最后一层卷积层用于生成得分图,得到图像最终分割结果。
通过并联或级联各个子网络,使得基于多特征增强的光学遥感图像分割方法能够实现复杂场景下光学遥感图像的精细准确分割。
可以理解,在一些实施例中,可以包含如上述各实施方式中的部分或全部。
如图4所示,为本发明光学遥感图像分割装置的实施例提供的结构框架示意图,该光学遥感图像分割装置基于多特征增强的分割模型实现,包括:
存储器10,用于存储计算机程序;
处理器20,用于执行计算机程序,实现如上述任意实施方式公开的基于多特征增强的光学遥感图像分割方法。
需要说明的是,本实施例是与上述各方法实施例对应的产品实施例,对于本实施例中各结构及可选实施方式的说明可以参考上述各方法实施例中的对应说明,在此不再赘述。
在本发明的其他实施例中,还提供一种存储介质,存储介质中存储有指令,当计算机读取指令时,使计算机执行如上述任意实施方式公开的基于多特征增强的光学遥感图像分割方法。
读者应理解,在本说明书的描述中,参考术语“一个实施例”、“一些实施例”、“示例”、“具体示例”、或“一些示例”等的描述意指结合该实施例或示例描述的具体特征、结构、材料或者特点包含于本发明的至少一个实施例或示例中。在本说明书中,对上述术语的示意性表述不必针对的是相同的实施例或示例。而且,描述的具体特征、结构、材料或者特点可以在任一个或多个实施例或示例中以合适的方式结合。此外,在不相互矛盾的情况下,本领域的技术人员可以将本说明书中描述的不同实施例或示例以及不同实施例或示例的特征进行结合和组合。
在本申请所提供的几个实施例中,应该理解到,所揭露的装置和方法,可以通过其它的方式实现。例如,以上所描述的方法实施例仅仅是示意性的,例如,步骤的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个步骤可以结合或者可以集成到另一个步骤,或一些特征可以忽略,或不执行。
上述方法如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本发明的技术方案本质上或者说对现有技术做出贡献的部分,或者该技术方案的全部或部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行本发明各个实施例方法的全部或部分步骤。而前述的存储介质包括:U盘、移动硬盘、只读存储器(ROM,Read-OnlyMemory)、随机存取存储器(RAM,RandomAccessMemory)、磁碟或者光盘等各种可以存储程序代码的介质。
以上,仅为本发明的具体实施方式,但本发明的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本发明揭露的技术范围内,可轻易想到各种等效的修改或替换,这些修改或替换都应涵盖在本发明的保护范围之内。因此,本发明的保护范围应以权利要求的保护范围为准。
Claims (10)
1.一种基于多特征增强的光学遥感图像分割方法,其特征在于,包括:
建立基于多特征增强的分割模型,所述分割模型包括5个子神经网络:小尺度特征提取网络、大尺度特征提取网络、多特征生成网络、多特征增强网络和分割网络,所述小尺度特征提取网络和所述大尺度特征提取网络分别与所述多特征生成网络连接,所述多特征生成网络、所述多特征增强网络和所述分割网络依次连接;
对所述分割模型进行训练;
将待分割图像输入到训练后的所述分割模型中,依次通过5个所述子神经网络对所述待分割图像进行处理,得到所述待分割图像的分割结果。
2.根据权利要求1所述的基于多特征增强的光学遥感图像分割方法,其特征在于,对所述分割模型进行训练,具体包括:
获取至少一张光学遥感图像作为训练图像,分别对每张所述训练图像进行预处理:
将预处理后的全部所述训练图像输入到所述分割模型中,采用反向传播算法对所述分割模型进行训练。
3.根据权利要求1或2所述的基于多特征增强的光学遥感图像分割方法,其特征在于,将待分割图像输入到训练后的所述分割模型中,依次通过5个所述子神经网络对所述待分割图像进行处理,得到所述待分割图像的分割结果,具体包括:
将待分割图像输入到训练后的所述分割模型中,通过所述小尺度特征提取网络对所述待分割图像进行处理,得到多个小尺度特征图;
通过所述大尺度特征提取网络对所述待分割图像进行处理,得到多个大尺度特征图;
通过所述多特征生成网络将所述多个小尺度特征图和所述多个大尺度特征图经过上采样处理,获得多个特征图;
通过所述多特征增强网络将所述多个特征图经过图神经网络处理进行信息融合,获得细节外观和语义信息增强后的多个增强特征图;
通过所述分割网络对所述多个增强特征图进行融合,得到分割结果。
4.根据权利要求3所述的基于多特征增强的光学遥感图像分割方法,其特征在于,所述小尺度特征提取网络包括:图像网格切块层、线性投影层、位置编码层、多头注意力层、相加层、全连接层、变形层、卷积层和下采样层;
通过所述小尺度特征提取网络对所述待分割图像进行处理,得到多个小尺度特征图,具体包括:
通过所述网格切块层将所述待分割图像均匀切分成预设大小的图像块;
通过所述线性投影层提取每个所述图像块的嵌入向量;
通过位置编码层编码每个图像块的位置向量;
通过所述多头注意力层、所述相加层和全连接层对所述嵌入向量和所述位置向量进行处理,提取所有图像块间的全局上下文信息,得到每个图像块的全局特征向量;
通过所述变形层将所述全局特征向量变形至二维特征图;
通过所述卷积层对所述二维特征图进行细化;
通过所述下采样层对细化后的所述二维特征图进行降维,得到多个小尺度特征图。
5.根据权利要求3所述的基于多特征增强的光学遥感图像分割方法,其特征在于,所述大尺度特征提取网络包括:卷积层和下采样层;
通过所述大尺度特征提取网络对所述待分割图像进行处理,得到多个大尺度特征图,具体包括:
通过所述卷积层对所述待分割图像进行处理,提取图像特征,得到特征图;
通过所述下采样层对所述特征图进行降维,得到多个大尺度特征图。
6.根据权利要求3所述的基于多特征增强的光学遥感图像分割方法,其特征在于,所述多特征生成网络包括:卷积层和上采样层;
通过所述多特征生成网络将所述多个小尺度特征图和所述多个大尺度特征图经过上采样处理,获得多个特征图,具体包括:
通过所述卷积层对所述多个小尺度特征图和所述多个大尺度特征图的特征进行细化;
通过所述上采样层对细化后的所述多个小尺度特征图和所述多个大尺度特征图的特征进行升维,得到具有相同大小的多个特征图。
7.根据权利要求3所述的基于多特征增强的光学遥感图像分割方法,其特征在于,所述多特征增强网络包括:由至少两个节点组成的图神经网络,每个节点代表不同的特征图,各个节点之间通过边连接;
通过所述多特征增强网络将所述多个特征图经过图神经网络处理进行信息融合,获得细节外观和语义信息增强后的多个增强特征图,具体包括:
通过特征图间的信息传递,获得细节外观和语义信息增强后的多个增强特征图。
8.根据权利要求3所述的基于多特征增强的光学遥感图像分割方法,其特征在于,所述分割网络包括:融合层、上采样层和卷积层;
通过所述分割网络对所述多个增强特征图进行融合,得到分割结果,具体包括:
通过所述融合层对所述多个增强特征图进行融合,得到融合特征图;
通过所述上采样层对所述融合特征图的特征进行升维,使所述融合特征图的大小与所述待分割图像相同;
通过所述卷积层对升维后的所述融合特征图的特征进行细化,并生成得分图,得到最终的分割结果。
9.一种基于多特征增强的光学遥感图像分割装置,其特征在于,包括:
存储器,用于存储计算机程序;
处理器,用于执行所述计算机程序,实现如权利要求1至8中任一项所述的基于多特征增强的光学遥感图像分割方法。
10.一种存储介质,其特征在于,所述存储介质中存储有指令,当计算机读取所述指令时,使所述计算机执行如权利要求1至8中任一项所述的基于多特征增强的光学遥感图像分割方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110789120.4A CN113554655B (zh) | 2021-07-13 | 2021-07-13 | 基于多特征增强的光学遥感图像分割方法及装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110789120.4A CN113554655B (zh) | 2021-07-13 | 2021-07-13 | 基于多特征增强的光学遥感图像分割方法及装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN113554655A true CN113554655A (zh) | 2021-10-26 |
CN113554655B CN113554655B (zh) | 2021-12-31 |
Family
ID=78103046
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110789120.4A Active CN113554655B (zh) | 2021-07-13 | 2021-07-13 | 基于多特征增强的光学遥感图像分割方法及装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN113554655B (zh) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114648641A (zh) * | 2022-03-22 | 2022-06-21 | 平安科技(深圳)有限公司 | 图像描述方法和装置、计算机设备、存储介质 |
CN115797633A (zh) * | 2022-12-02 | 2023-03-14 | 中国科学院空间应用工程与技术中心 | 一种遥感图像分割方法、系统、存储介质和电子设备 |
Citations (14)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20150262335A1 (en) * | 2013-03-15 | 2015-09-17 | Digitalglobe, Inc | Automated geospatial image mosaic generation with automatic source selection |
CN107122796A (zh) * | 2017-04-01 | 2017-09-01 | 中国科学院空间应用工程与技术中心 | 一种基于多分支网络融合模型的光学遥感图像分类方法 |
CN107609601A (zh) * | 2017-09-28 | 2018-01-19 | 北京计算机技术及应用研究所 | 一种基于多层卷积神经网络的舰船目标识别方法 |
CN109523569A (zh) * | 2018-10-18 | 2019-03-26 | 中国科学院空间应用工程与技术中心 | 一种基于多粒度网络融合的光学遥感图像分割方法和装置 |
CN109544554A (zh) * | 2018-10-18 | 2019-03-29 | 中国科学院空间应用工程与技术中心 | 一种植物图像分割及叶片骨架提取方法及系统 |
CN109741331A (zh) * | 2018-12-24 | 2019-05-10 | 北京航空航天大学 | 一种图像前景物体分割方法 |
CN109754404A (zh) * | 2019-01-02 | 2019-05-14 | 清华大学深圳研究生院 | 一种基于多注意力机制的端到端的肿瘤分割方法 |
CN109816659A (zh) * | 2019-01-28 | 2019-05-28 | 北京旷视科技有限公司 | 图像分割方法、装置及系统 |
CA3090779A1 (en) * | 2018-02-09 | 2019-08-15 | The Board Of Trustees Of The University Of Illinois | A system and method to fuse multiple sources of optical data to generate a high-resolution, frequent and cloud-/gap-free surface reflectance product |
CN110197182A (zh) * | 2019-06-11 | 2019-09-03 | 中国电子科技集团公司第五十四研究所 | 基于上下文信息和注意力机制的遥感影像语义分割方法 |
US20190287242A1 (en) * | 2018-03-16 | 2019-09-19 | Infervision | Computed tomography pulmonary nodule detection method based on deep learning |
CN111563508A (zh) * | 2020-04-20 | 2020-08-21 | 华南理工大学 | 一种基于空间信息融合的语义分割方法 |
CN111767810A (zh) * | 2020-06-18 | 2020-10-13 | 哈尔滨工程大学 | 一种基于D-LinkNet的遥感图像道路提取方法 |
CN112529904A (zh) * | 2019-09-18 | 2021-03-19 | 华为技术有限公司 | 图像语义分割方法、装置、计算机可读存储介质和芯片 |
-
2021
- 2021-07-13 CN CN202110789120.4A patent/CN113554655B/zh active Active
Patent Citations (14)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20150262335A1 (en) * | 2013-03-15 | 2015-09-17 | Digitalglobe, Inc | Automated geospatial image mosaic generation with automatic source selection |
CN107122796A (zh) * | 2017-04-01 | 2017-09-01 | 中国科学院空间应用工程与技术中心 | 一种基于多分支网络融合模型的光学遥感图像分类方法 |
CN107609601A (zh) * | 2017-09-28 | 2018-01-19 | 北京计算机技术及应用研究所 | 一种基于多层卷积神经网络的舰船目标识别方法 |
CA3090779A1 (en) * | 2018-02-09 | 2019-08-15 | The Board Of Trustees Of The University Of Illinois | A system and method to fuse multiple sources of optical data to generate a high-resolution, frequent and cloud-/gap-free surface reflectance product |
US20190287242A1 (en) * | 2018-03-16 | 2019-09-19 | Infervision | Computed tomography pulmonary nodule detection method based on deep learning |
CN109523569A (zh) * | 2018-10-18 | 2019-03-26 | 中国科学院空间应用工程与技术中心 | 一种基于多粒度网络融合的光学遥感图像分割方法和装置 |
CN109544554A (zh) * | 2018-10-18 | 2019-03-29 | 中国科学院空间应用工程与技术中心 | 一种植物图像分割及叶片骨架提取方法及系统 |
CN109741331A (zh) * | 2018-12-24 | 2019-05-10 | 北京航空航天大学 | 一种图像前景物体分割方法 |
CN109754404A (zh) * | 2019-01-02 | 2019-05-14 | 清华大学深圳研究生院 | 一种基于多注意力机制的端到端的肿瘤分割方法 |
CN109816659A (zh) * | 2019-01-28 | 2019-05-28 | 北京旷视科技有限公司 | 图像分割方法、装置及系统 |
CN110197182A (zh) * | 2019-06-11 | 2019-09-03 | 中国电子科技集团公司第五十四研究所 | 基于上下文信息和注意力机制的遥感影像语义分割方法 |
CN112529904A (zh) * | 2019-09-18 | 2021-03-19 | 华为技术有限公司 | 图像语义分割方法、装置、计算机可读存储介质和芯片 |
CN111563508A (zh) * | 2020-04-20 | 2020-08-21 | 华南理工大学 | 一种基于空间信息融合的语义分割方法 |
CN111767810A (zh) * | 2020-06-18 | 2020-10-13 | 哈尔滨工程大学 | 一种基于D-LinkNet的遥感图像道路提取方法 |
Non-Patent Citations (7)
Title |
---|
CHENGMING ZHANG 等: "Improved Remote Sensing Image Classification Based on Multi-Scale Feature Fusion", 《REMOTE SENSING》 * |
LELE XU 等: "Two-level attention and score consistency network for plant segmentation", 《COMPUTERS AND ELECTRONICS IN AGRICULTURE》 * |
YE LI 等: "A Y-Net deep learning method for road segmentation using high-resolution visible remote sensing images", 《REMOTE SENSING LETTERS》 * |
YE LI 等: "Road Segmentation Based on Hybrid Convolutional Network for High-Resolution Visible Remote Sensing Image", 《IEEE GEOSCIENCE AND REMOTE SENSING LETTERS》 * |
余洁: "新型浮式防波堤水动力性能数值研究", 《海洋工程 》 * |
曹靖康 等: "基于深度特征融合的空间植物图像分割算法", 《计算机与现代化》 * |
董高君 等: "基于密集特征金字塔的细胞图像实例分割网络", 《载人航天》 * |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114648641A (zh) * | 2022-03-22 | 2022-06-21 | 平安科技(深圳)有限公司 | 图像描述方法和装置、计算机设备、存储介质 |
CN115797633A (zh) * | 2022-12-02 | 2023-03-14 | 中国科学院空间应用工程与技术中心 | 一种遥感图像分割方法、系统、存储介质和电子设备 |
CN115797633B (zh) * | 2022-12-02 | 2023-06-27 | 中国科学院空间应用工程与技术中心 | 一种遥感图像分割方法、系统、存储介质和电子设备 |
Also Published As
Publication number | Publication date |
---|---|
CN113554655B (zh) | 2021-12-31 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN111696110B (zh) | 场景分割方法及系统 | |
CN113888744A (zh) | 一种基于Transformer视觉上采样模块的图像语义分割方法 | |
CN113554655B (zh) | 基于多特征增强的光学遥感图像分割方法及装置 | |
CN113569865A (zh) | 一种基于类别原型学习的单样本图像分割方法 | |
CN111914654B (zh) | 一种文本版面分析方法、装置、设备和介质 | |
CN110866938B (zh) | 一种全自动视频运动目标分割方法 | |
CN116740527A (zh) | U型网络与自注意力机制结合的遥感图像变化检测方法 | |
CN113689434A (zh) | 一种基于条带池化的图像语义分割方法 | |
CN114238904A (zh) | 身份识别方法、双通道超分模型的训练方法及装置 | |
CN114926734B (zh) | 基于特征聚合和注意融合的固体废弃物检测装置及方法 | |
CN114782417A (zh) | 基于边缘强化图像分割的风机数字孪生特征实时检测方法 | |
CN116863194A (zh) | 一种足溃疡图像分类方法、系统、设备及介质 | |
CN113903022A (zh) | 基于特征金字塔与注意力融合的文本检测方法及系统 | |
Wei et al. | Defective samples simulation through neural style transfer for automatic surface defect segment | |
CN114550014A (zh) | 道路分割方法及计算机装置 | |
CN117237623B (zh) | 一种无人机遥感图像语义分割方法及系统 | |
CN117746130A (zh) | 一种基于遥感影像点状语义标签的弱监督深度学习分类方法 | |
Liu et al. | Diffusion models meet remote sensing: Principles, methods, and perspectives | |
CN111311732A (zh) | 3d人体网格获取方法及装置 | |
CN116778164A (zh) | 一种基于多尺度结构改进DeeplabV3+网络的语义分割方法 | |
CN111274936A (zh) | 多光谱图像地物分类方法、系统、介质及终端 | |
CN114565639B (zh) | 一种基于复合卷积网络的目标跟踪方法及系统 | |
CN116386803A (zh) | 一种基于图的细胞病理报告生成方法 | |
CN114331894B (zh) | 一种基于潜在特征重构和掩模感知的人脸图像修复方法 | |
CN115187775A (zh) | 一种遥感图像语义分割方法及装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |