CN114022788B - 遥感图像变化检测方法、装置、计算机设备和存储介质 - Google Patents
遥感图像变化检测方法、装置、计算机设备和存储介质 Download PDFInfo
- Publication number
- CN114022788B CN114022788B CN202210003112.7A CN202210003112A CN114022788B CN 114022788 B CN114022788 B CN 114022788B CN 202210003112 A CN202210003112 A CN 202210003112A CN 114022788 B CN114022788 B CN 114022788B
- Authority
- CN
- China
- Prior art keywords
- remote sensing
- sensing image
- feature
- change detection
- scale
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
- G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
- G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
- G06F18/2415—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches based on parametric or probabilistic models, e.g. based on likelihood ratio or false acceptance rate versus a false rejection rate
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/047—Probabilistic or stochastic networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- General Physics & Mathematics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Artificial Intelligence (AREA)
- General Engineering & Computer Science (AREA)
- Evolutionary Computation (AREA)
- Biomedical Technology (AREA)
- Mathematical Physics (AREA)
- General Health & Medical Sciences (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- Biophysics (AREA)
- Health & Medical Sciences (AREA)
- Computational Linguistics (AREA)
- Software Systems (AREA)
- Probability & Statistics with Applications (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Bioinformatics & Computational Biology (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Evolutionary Biology (AREA)
- Image Analysis (AREA)
Abstract
本申请涉及一种遥感图像变化检测、装置、计算机设备和存储介质。所述方法包括:获取双时间遥感图像,并进行标注,得到训练样本;构建遥感图像变化检测网络;该网络包括两条由结构和参数均相同的残差网络和SAM模块组成的特征提取支路,由4个Transformer模块组成的多尺度的注意特征模块,以及输出网络;利用训练样本对该网络进行训练,并采用训练好的遥感图像变化检测网络对待测双时间遥感图像进行检测,得到遥感图像变化检测结果。SAM模块可更好的获取像素跟像素之间的关系,在图像的每个多尺度子区域引入Transformer,可捕获不同尺度上的特征信息。采用本方法可提高遥感图像变化检测的计算效率和检测准确率。
Description
技术领域
本申请涉及图像识别技术领域,特别是涉及一种遥感图像变化检测方法、装置、计算机设备和存储介质。
背景技术
现在的变化检测方法利用深度卷积强大的判别能力取得了显著的成功。然而,由于场景中物体的复杂性,高分辨率遥感图像变化检测方法仍然具有挑战性。具有相同语义概念的物体在不同的时间和空间位置上表现出不同的光谱特征。最近使用纯卷积作为网络结构仍在努力将时空中的长程概念联系起来。非局部的自我注意方法通过模拟像素间的密集关系表现出良好的性能,但计算效率较低,变化检测准确率不高。
发明内容
基于此,有必要针对上述技术问题,提供一种遥感图像变化检测方法、装置、计算机设备和存储介质。
一种遥感图像变化检测方法,所述方法包括:
获取双时间遥感图像,并对所述双时间遥感图像进行标注,得到训练样本。
构建遥感图像变化检测网络;所述遥感图像变化检测网络包括两条由结构和参数均相同的残差网络和空间注意力模块组成的特征提取支路、由4个Transformer模块组成的多尺度的注意特征模块,以及输出网络;特征提取支路用于通过残差网络提取训练样本的特征,然后经过空间注意力模块,并将得到的拥有空间注意力的特征图通过卷积和下采样操作得到四份不同尺度的特征图;多尺度的注意特征模块用于将所述四份不同尺度的特征图输入到对应的Transformer模块中得到四份不同尺度的输出特征图,并对输出特征图采用上采样和合并操作,得到两幅双时间特征图;输出网络用于对两幅双时间特征图的差异特征图进行卷积和上采样操作,得到训练样本的变化检测预测结果图;
利用训练样本的标注和将训练样本输入到遥感图像变化检测网络得到的训练样本的变化检测预测结果图对遥感图像变化检测网络进行训练,得到训练好的遥感图像变化检测网络。
采用训练好的遥感图像变化检测网络对待测双时间遥感图像进行检测,得到遥感图像变化检测结果。
一种遥感图像变化检测装置,所述装置包括:
双时间遥感图像获取模块,用于获取双时间遥感图像,并对所述双时间遥感图像进行标注,得到训练样本。
遥感图像变化检测网络构建模块,用于构建遥感图像变化检测网络;所述遥感图像变化检测网络包括两条由结构和参数均相同的残差网络和空间注意力模块组成的特征提取支路、由4个Transformer模块组成的多尺度的注意特征模块,以及输出网络;特征提取支路用于通过残差网络提取训练样本的特征,然后经过空间注意力模块,并将得到的拥有空间注意力的特征图通过卷积和下采样操作得到四份不同尺度的特征图;多尺度的注意特征模块用于将所述四份不同尺度的特征图输入到对应的Transformer模块中得到四份不同尺度的输出特征图,并对输出特征图采用上采样和合并操作,得到两幅双时间特征图;输出网络用于对两幅双时间特征图的差异特征图进行卷积和上采样操作,得到训练样本的变化检测预测结果图;
遥感图像变化检测网络训练模块,用于利用训练样本的标注和将训练样本输入到遥感图像变化检测网络得到的训练样本的变化检测预测结果图对遥感图像变化检测网络进行训练,得到训练好的遥感图像变化检测网络。
遥感图像变化检测模块,用于采用训练好的遥感图像变化检测网络对待测双时间遥感图像进行检测,得到遥感图像变化检测结果。
上述遥感图像变化检测方法、装置、计算机设备和存储介质,所述方法包括:获取双时间遥感图像,并对其进行标注,得到训练样本;构建遥感图像变化检测网络;该网络包括两条由结构和参数均相同的残差网络和空间注意力模块组成的特征提取支路、由4个Transformer模块组成的多尺度的注意特征模块,以及输出网络;利用训练样本对遥感图像变化检测网络进行训练,得到训练好的遥感图像变化检测网络;采用训练好的遥感图像变化检测网络对待测双时间遥感图像进行检测,得到遥感图像变化检测结果。空间注意力模块可以更好的获取像素跟像素之间的关系,将图像划分为多尺度子区域,并在每个子区域引入Transformer,可以捕获不同尺度上的特征信息,从而生成更好的表示来适应不同大小的变化对象。采用本方法可提高遥感图像变化检测的计算效率和检测准确率。
附图说明
图1为一个实施例中遥感图像变化检测方法的流程示意图;
图2为一个实施例中遥感图像变化检测网络结构图,其中(a)为遥感图像变化检测网络总体结构图,(b)为SAM模块结构图,(c)为Transformer模块结构图;
图3为一个实施例中Transformer模块的编码器和解码器结构图,其中(a)为编码器,(b)为解码器;
图4为另一个实施例中实验数据部分实例,其中(a)为第一时间遥感图像,(b)为第二时间遥感图像,(c)为标签;
图5为一个实施例中遥感图像变化检测装置的结构框图;
图6为一个实施例中计算机设备的内部结构图。
具体实施方式
为了使本申请的目的、技术方案及优点更加清楚明白,以下结合附图及实施例,对本申请进行进一步详细说明。应当理解,此处描述的具体实施例仅仅用以解释本申请,并不用于限定本申请。
遥感图像变化检测网络的英文简称为:MSTNet。
在一个实施例中,如图1所示,提供了一种遥感图像变化检测方法,该方法包括以下步骤:
步骤100:获取双时间遥感图像,并对双时间遥感图像进行标注,得到训练样本。
双时间遥感图像是在不同时间对同一地方拍摄的遥感图像。
步骤102:构建遥感图像变化检测网络。
遥感图像变化检测网络包括两条由结构和参数均相同的残差网络和空间注意力模块组成的特征提取支路、由4个Transformer模块组成的多尺度的注意特征模块,以及输出网络。遥感图像变化检测网络的结构图如图2所示,其中(a)为遥感图像变化检测网络总体结构图,(b)为SAM模块结构图,(c)为Transformer模块结构图;图中SAM模块为空间注意力模块。
特征提取支路用于通过残差网络提取训练样本的特征,然后经过空间注意力模块,并将得到的拥有空间注意力的特征图通过卷积和下采样操作得到四份不同尺度的特征图。
多尺度的注意特征模块用于将所述四份不同尺度的特征图输入到对应的Transformer模块中得到四份不同尺度的输出特征图,并对输出特征图采用上采样和合并操作,得到两幅双时间特征图。
多尺度的注意特征模块是由四个Transformer模块组成,目的是为了获得多尺度的信息。多尺度的注意特征模块通过聚合多尺度的Transformer来增强识别细节的能力。多尺度的注意特征模块通过整合不同尺度的Transformer,生成多尺度的注意特征。多尺度的注意特征模块有四个分支,每个分支将特征张量平均划分为若干个具有一定规模的子区域。在每个分支中,多尺度的注意特征模块将Transformer应用于每个子区域的像素,以获得该尺度下的局部注意力表示。然后,通过聚合四个分支的输出张量生成多尺度的注意力表示。
Transformer 作为网络结构可以在时空域上高效地建模上下文信息。考虑到目标可能具有不同的尺度,将图像划分为多尺度子区域,并在每个子区域引入Transformer。通过这种方式,可以捕获不同尺度上的特征信息,从而生成更好的表示来适应不同大小的变化对象。
空间注意力机制用于更好的获取像素跟像素之间的关系。
输出网络用于对两幅双时间特征图的差异特征图进行卷积和上采样操作,得到训练样本的变化检测预测结果图。
作为优选,特征提取支路中的残差网络为Resnet18_s4。如图2所示,遥感图像变化检测网络经过Resnet18_s4提取遥感图像的特征,经过一个SAM模块得到拥有空间注意力的特征图,将得到的特征图通过卷积和下采样得到四份不同尺度的特征图,它们进入对应的Transformer模块中得到四份不同尺度的特征图,通过上采样还原到原大小合并,两幅双时间特征图作差再取绝对值,通过上采样还原到跟输入时大小一样用来进损失函数与标签作对比。
步骤104:利用训练样本的标注和将训练样本输入到遥感图像变化检测网络得到的训练样本的变化检测预测结果图对遥感图像变化检测网络进行训练,得到训练好的遥感图像变化检测网络。
步骤106:采用训练好的遥感图像变化检测网络对待测双时间遥感图像进行检测,得到遥感图像变化检测结果。
上述遥感图像变化检测方法中,所述方法包括:获取双时间遥感图像,并对其进行标注,得到训练样本;构建遥感图像变化检测网络;该网络包括两条由结构和参数均相同的残差网络和空间注意力模块组成的特征提取支路、由4个Transformer模块组成的多尺度的注意特征模块,以及输出网络;利用训练样本对遥感图像变化检测网络进行训练,得到训练好的遥感图像变化检测网络;采用训练好的遥感图像变化检测网络对待测双时间遥感图像进行检测,得到遥感图像变化检测结果。空间注意力模块可以更好的获取像素跟像素之间的关系,将图像划分为多尺度子区域,并在每个子区域引入Transformer,可以捕获不同尺度上的特征信息,从而生成更好的表示来适应不同大小的变化对象。采用本方法可提高遥感图像变化检测的计算效率和检测准确率。
在其中一个实施例中,训练样本包括第一时间遥感图像训练样本和第二时间遥感图像训练样本;步骤104包括:将第一时间遥感图像训练样本和第二时间遥感图像训练样本分别输入到两条特征提取支路中,得到第一空间注意力特征和第二空间注意力特征;将第一空间注意力特征和第二空间注意力特征分别进行卷积和下采样操作,得到第一多尺度特征图和第二多尺度特征图;第一多尺度特征图和第二多尺度特征图均包括四份不同尺度的特征图;将第一多尺度特征图和第二多尺度特征图输入到多尺度的注意特征模块中,得到两幅时间特征图;将两幅时间特征图输入到输出网络中,得到变化检测预测结果图;根据变化检测预测结果图和训练样本的标注对遥感图像变化检测网络进行反向训练,得到训练好的遥感图像变化检测网络。
在其中一个实施例中,步骤104还包括:将第一时间遥感图像训练样本输入到第一条特征提取支路的残差网络中,得到第一特征图;将第一特征图输入到第一条特征提取支路的空间注意力模块中,得到第一空间注意力特征;将第二时间遥感图像训练样本输入到第二条特征提取支路的残差网络中,得到第二特征图;将第二特征图输入到第二条特征提取支路的空间注意力模块中,得到第二空间注意力特征。
在其中一个实施例中,空间注意力模块包括3个具有相同结构的卷积层;步骤104还包括:将第一特征图输入到空间注意力模块的3个具有相同结构的卷积层中,得到3个新特征图;将第一个新特征图进行形变和转置操作后与经过形变操作的第二个新特征图相乘后通过Softmax函数激活,得到注意力特征图;将第三个新特征图进行形变操作后与注意力特征图相乘后与第一特征图加和,得到第一空间注意力特征。空间注意力模块的结构图如图2中(b)所示。
具体的,空间注意模块(SAM)将长范围的上下文信息编码为局部特征,从而增强特征表征。如图2中(b)所示所示的SAM结构,该特征图,其中C表示X特征图的通道数,而H和W为特征图X的高度和宽度。特征图X分别通过Siam-Conv输入3个具有相同结构的卷积层获得3个新特征图,即Xa,Xb和Xc,。然后,将Xa、Xb进行转置并相乘再通过softmax层得到Xs。将Xc进行转置并和Xs相乘再与X相加得到Xsa。每个位置上得到的特征Xsa是所有位置上的特征与原始特征加权和的结果。因此,它具有全局语境观,并基于空间注意图选择性地聚集语境。相似的语义特征相互促进,提高了类内部的紧凑性和语义一致性,使网络能够更好地区分变化和伪变化。
在其中一个实施例中,如图2中(c)所示,Transformer模块包括两个语义标记器(Semantic Tokenizer)、一个编码器和两个解码器;两幅时间特征图包括第一时间特征图和第二时间特征图;步骤104还包括:将第一多尺度特征图和第二多尺度特征图中尺寸相同的子特征图作为一组,得到4组不同尺度的子特征图,每组特征图包括第一多尺度特征图的子特征图和第二多尺度特征图的子特征图;将第一组子特征图的两个特征图分别输入到Softmax函数激活,得到注意第一令牌集和第二令牌集;将第一令牌集和第二令牌集进行拼接,得到令牌集T;将令牌集T输入到第一个Transformer模块的编码器中,得到新令牌集;将新令牌集进行切分,得到与第一令牌集对应的第一新令牌集和与第二令牌集对应的第二新令牌集;将第一新令牌集和第一令牌集输入到第一个Transformer模块的第一个解码器中,得到第一多尺度特征图对应的第一尺度输出特征;将第二新令牌集和第二令牌集输入到第一个Transformer模块的第二个解码器中,得到第二多尺度特征图对应的第二尺度输出特征;将第一多尺度特征图对应的第一尺度输出特征和第二多尺度特征图对应的第二尺度输出特征作为第一组输出特征;同理,将另外3组子特征图输入到对应Transformer模块中,得到第二组输出特征、第三组输出特征和第四组输出特征;将第一组输出特征、第二组输出特征、第三组输出特征和第四组输出特征进行上采样和合并操作,得到与第一多尺度特征图的第一时间特征图和与第二多尺度特征图对应的第二时间特征图。
具体的,Transformer模块中各部分的原理为:
(1)语义标记器(Semantic Tokenizer)
特征图Xi进入Semantic Tokenizer模块转化为token序列。具体操作为,首先初始化一个可学习的矩阵,Xi和W作点卷积然后进过一个softmax函数,得到的结果进行转置并和Xi相乘。公式如下:
Ti= (Ai)TXi= (softmax(conv(Xi;W)))TXi
其中,Ti为特征图Xi通过Semantic Tokenizer模块转化得到的令牌集,i=1,2;W为可学习的参数矩阵;上标T为转置操作;A为表特征图Xi通过点卷积得到的注意力图。
(2)编码器
Transformer模块的编码器和解码器结构图如图3所示,其中(a)为编码器,(b)为解码器。本方法目的是将Token中的全局语义关系进行转化。输入双时间遥感图像获得两个语义标记令牌集T1和令牌集 T2之后,使用Transformer对这些标记之间的上下文建模。本实施例的目的是基于Token的时空中的全局语义关系可以被Transformer充分利用,从而为每个时间生成的具有丰富上下文信息的Token表示。如图3所示,首先将两组Token连接到一个令牌集中,并将其送入解码器,得到一个新的Token集合Tnew。最后,将Tnew拆分为两个富含上下文信息的令牌集 (i=1,2)。编码器由多层自注意块(multiheadself-attention,简称:MSA)和多层感知器块(multilayer perceptron,简称:MLP)组成。与原来使用后范数残差单元的变压器不同,按照ViT采用前范数残差单元(PreNorm),即层归一化发生在MSA/MLP之前。PreNorm更稳定和有能力。
一个注意力头公式如下:
其中,d是Q和K的通道数,上标T为转置操作。
多头注意力公式如下:
MSA(Tl) =Concat(head1,...,headh)WO
MLP公式如下:
MLP(Tl) =GELU(TlW1)W2
其中,W1、W2是两个线性投影矩阵。
(3)解码器
在编码器中已经为两个时刻的遥感图像获得了两组上下文丰富的标记 (i=1,2)。这些丰富的信息标记包含紧凑的高级语义信息,很好地揭示了关注的变化。现在,需要将概念的表示投影回像素空间,以获得像素级别的特性。为了达到这个目的,使用一个改进的暹罗Transformer 解码器来细化每个时间点的图像特征。如图3所示,对语义标记器的输出的Token集合Ti,解码器利用每个像素和Token集合之间的关系,获得精炼的特征。将Xi查询中的像素和标记作为键(key)。我们的想法是,每个像素都可以用紧凑语义标记的组合来表示。本实施例中Transformer解码器由多层交叉注意(MA)和MLP块组成。与原来的Transformer 编码器实现不同,删除了MSA块,以避免大量计算像素之间的密集关系。采用PerNorm和相同配置的MLP的Transformer编码器。在MSA中,查询、键和值来自相同的输入序列,而在MA中,查询来自图像特征 Xi,键和值来自Token集合。
暹罗Transformer 解码器是两个结构和参数都相同的Transformer解码器。
多头交叉注意力公式如下:
其中,headh为多头注意力机制中第h个注意力模块,h为多头注意力机制中注意力模块的数量;,其中,为多头注意力机制中第j个注意力模块,j为大于0小于h的整数,为多头注意力机制中第j个注意力模块的三个可学习参数矩阵,WO 表示线性投影矩阵,和WO的初值均是通过随机初始化得到的,在训练过程中通过反向传播调整和WO的值;为原来的特征图的第l层,就是这个特征图经过语义标记器得到两份token集合,一个进入编码器,一个进入解码器,这里相当于是用之前的特征图得到的token,跟现在新的token做运算。
在其中一个实施例中,两幅时间特征图包括第一时间特征图和第二时间特征图;步骤104还包括:将第一时间特征图和第二时间特征图作差再取绝对值,得到差异特征图;将差异特征图进行卷积和上采样操作,得到变化检测预测结果图。
应该理解的是,虽然图1的流程图中的各个步骤按照箭头的指示依次显示,但是这些步骤并不是必然按照箭头指示的顺序依次执行。除非本文中有明确的说明,这些步骤的执行并没有严格的顺序限制,这些步骤可以以其它的顺序执行。而且,图1中的至少一部分步骤可以包括多个子步骤或者多个阶段,这些子步骤或者阶段并不必然是在同一时刻执行完成,而是可以在不同的时刻执行,这些子步骤或者阶段的执行顺序也不必然是依次进行,而是可以与其它步骤或者其它步骤的子步骤或者阶段的至少一部分轮流或者交替地执行。
在一个验证性实施例中,谷歌地球API收集了637张非常高分辨率(VHR, 0.5米/像素)的谷歌地球(GE)图像补丁对,大小为像素。这两个时间的图像来自美国德克萨斯州几个城市的20个不同的地区,包括奥斯汀、莱克韦、蜜蜂洞、布达、凯尔、曼诺、普弗鲁格维尔特斯、滴水泉等。本实施例中图像数据的采集时间从2002年到2018年不等。不同地区的图像可能会在不同的时间拍摄。希望将季节变化和光照变化引入新数据集,这可以帮助开发有效的方法,减轻不相关变化对实际变化的影响。这些双时间图像的时间跨度为5 ~14年。
我们将数据集LEVIR-CD切分成大小。得到训练集7120张,评估集1024张,测试集2048张。在里面选取标签变化明显的训练集2136张,评估集288张,测试集648张作为本实施例的数据集。实验数据部分实例如图4所示,其中(a)为第一时间遥感图像,(b)为第二时间遥感图像,(c)为标签。
本实施例中选取了四个经典的变化检测网络与本发明的网络进行对比实验。实验结果如表1所示
表1 实验结果
上述结果表明MSTNet模型在实验的LEVIR-CD数据集上的最佳F1可达94.46%,检测变化最佳准确率可达97.18%,另外精确率、召回率和交并比最佳情况都比其他模型好。综上可以看出本发明的网络模型综合性能是最好的。在一个实施例中,如图5所示,提供了一种遥感图像变化检测装置,包括:双时间遥感图像获取模块、遥感图像变化检测网络构建模块、遥感图像变化检测网络训练模块和遥感图像变化检测模块,其中:
双时间遥感图像获取模块,用于获取双时间遥感图像,并对双时间遥感图像进行标注,得到训练样本。
遥感图像变化检测网络构建模块,用于构建遥感图像变化检测网络;遥感图像变化检测网络包括两条由结构和参数均相同的残差网络和空间注意力模块组成的特征提取支路、由4个Transformer模块组成的多尺度的注意特征模块,以及输出网络;特征提取支路用于通过残差网络提取训练样本的特征,然后经过空间注意力模块,并将得到的拥有空间注意力的特征图通过卷积和下采样操作得到四份不同尺度的特征图;多尺度的注意特征模块用于将所述四份不同尺度的特征图输入到对应的Transformer模块中得到四份不同尺度的输出特征图,并对输出特征图采用上采样和合并操作,得到两幅双时间特征图;输出网络用于对两幅双时间特征图的差异特征图进行卷积和上采样操作,得到训练样本的变化检测预测结果图。
遥感图像变化检测网络训练模块,用于利用训练样本的标注和将训练样本输入到遥感图像变化检测网络得到的训练样本的变化检测预测结果图对遥感图像变化检测网络进行训练,得到训练好的遥感图像变化检测网络。
遥感图像变化检测模块,用于采用训练好的遥感图像变化检测网络对待测双时间遥感图像进行检测,得到遥感图像变化检测结果。
在其中一个实施例中,训练样本包括第一时间遥感图像训练样本和第二时间遥感图像训练样本;遥感图像变化检测网络训练模块,还用于将第一时间遥感图像训练样本和第二时间遥感图像训练样本分别输入到两条特征提取支路中,得到第一空间注意力特征和第二空间注意力特征;将第一空间注意力特征和第二空间注意力特征分别进行卷积和下采样操作,得到第一多尺度特征图和第二多尺度特征图;第一多尺度特征图和第二多尺度特征图均包括四份不同尺度的特征图;将第一多尺度特征图和第二多尺度特征图输入到多尺度的注意特征模块中,得到两幅时间特征图;将两幅时间特征图输入到输出网络中,得到变化检测预测结果图;根据变化检测预测结果图和训练样本的标注对遥感图像变化检测网络进行反向训练,得到训练好的遥感图像变化检测网络。
在其中一个实施例中,步骤104还包括:将第一时间遥感图像训练样本输入到第一条特征提取支路的残差网络中,得到第一特征图;将第一特征图输入到第一条特征提取支路的空间注意力模块中,得到第一空间注意力特征;将第二时间遥感图像训练样本输入到第二条特征提取支路的残差网络中,得到第二特征图;将第二特征图输入到第二条特征提取支路的空间注意力模块中,得到第二空间注意力特征。
在其中一个实施例中,空间注意力模块包括3个具有相同结构的卷积层;遥感图像变化检测网络训练模块,还用于将第一特征图输入到空间注意力模块的3个具有相同结构的卷积层中,得到3个新特征图;将第一个新特征图进行形变和转置操作后与经过形变操作的第二个新特征图相乘后通过Softmax函数激活,得到注意力特征图;将第三个新特征图进行形变操作后与注意力特征图相乘后与第一特征图加和,得到第一空间注意力特征。
在其中一个实施例中,Transformer模块包括两个语义标记器、一个编码器和两个解码器;两幅时间特征图包括第一时间特征图和第二时间特征图;遥感图像变化检测网络训练模块,还用于将第一多尺度特征图和第二多尺度特征图中尺寸相同的子特征图作为一组,得到4组不同尺度的子特征图,每组特征图包括第一多尺度特征图的子特征图和第二多尺度特征图的子特征图;将第一组子特征图的两个特征图分别输入到第一个Transformer模块的两个语义标记器中,得到第一令牌集和第二令牌集;将第一令牌集和第二令牌集进行拼接,得到令牌集T;将令牌集T输入到第一个Transformer模块的编码器中,得到新令牌集;将新令牌集进行切分,得到与第一令牌集对应的第一新令牌集和与第二令牌集对应的第二新令牌集;将第一新令牌集和第一令牌集输入到第一个Transformer模块的第一个解码器中,得到第一多尺度特征图对应的第一尺度输出特征;将第二新令牌集和第二令牌集输入到第一个Transformer模块的第二个解码器中,得到第二多尺度特征图对应的第二尺度输出特征;将第一多尺度特征图对应的第一尺度输出特征和第二多尺度特征图对应的第二尺度输出特征作为第一组输出特征;同理,将另外3组子特征图输入到对应Transformer模块中,得到第二组输出特征、第三组输出特征和第四组输出特征;将第一组输出特征、第二组输出特征、第三组输出特征和第四组输出特征进行上采样和合并操作,得到与第一多尺度特征图的第一时间特征图和与第二多尺度特征图对应的第二时间特征图。
在其中一个实施例中,两幅时间特征图包括第一时间特征图和第二时间特征图;遥感图像变化检测网络训练模块,还用于将第一时间特征图和第二时间特征图作差再取绝对值,得到差异特征图;将差异特征图进行卷积和上采样操作,得到变化检测预测结果图。
关于遥感图像变化检测装置的具体限定可以参见上文中对于遥感图像变化检测方法的限定,在此不再赘述。上述遥感图像变化检测装置中的各个模块可全部或部分通过软件、硬件及其组合来实现。上述各模块可以硬件形式内嵌于或独立于计算机设备中的处理器中,也可以以软件形式存储于计算机设备中的存储器中,以便于处理器调用执行以上各个模块对应的操作。
在一个实施例中,提供了一种计算机设备,该计算机设备可以是终端,其内部结构图可以如图6所示。该计算机设备包括通过系统总线连接的处理器、存储器、网络接口、显示屏和输入装置。其中,该计算机设备的处理器用于提供计算和控制能力。该计算机设备的存储器包括非易失性存储介质、内存储器。该非易失性存储介质存储有操作系统和计算机程序。该内存储器为非易失性存储介质中的操作系统和计算机程序的运行提供环境。该计算机设备的网络接口用于与外部的终端通过网络连接通信。该计算机程序被处理器执行时以实现一种遥感图像变化检测方法。该计算机设备的显示屏可以是液晶显示屏或者电子墨水显示屏,该计算机设备的输入装置可以是显示屏上覆盖的触摸层,也可以是计算机设备外壳上设置的按键、轨迹球或触控板,还可以是外接的键盘、触控板或鼠标等。
本领域技术人员可以理解,图6中示出的结构,仅仅是与本申请方案相关的部分结构的框图,并不构成对本申请方案所应用于其上的计算机设备的限定,具体的计算机设备可以包括比图中所示更多或更少的部件,或者组合某些部件,或者具有不同的部件布置。
在一个实施例中,提供了一种计算机设备,包括存储器和处理器,该存储器存储有计算机程序,该处理器执行计算机程序时实现上述实施例中方法的步骤。
在一个实施例中,提供了一种计算机可读存储介质,其上存储有计算机程序,计算机程序被处理器执行时实现上述实施例中方法的步骤。
本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程,是可以通过计算机程序来指令相关的硬件来完成,所述的计算机程序可存储于一非易失性计算机可读取存储介质中,该计算机程序在执行时,可包括如上述各方法的实施例的流程。其中,本申请所提供的各实施例中所使用的对存储器、存储、数据库或其它介质的任何引用,均可包括非易失性和/或易失性存储器。非易失性存储器可包括只读存储器(ROM)、可编程ROM(PROM)、电可编程ROM(EPROM)、电可擦除可编程ROM(EEPROM)或闪存。易失性存储器可包括随机存取存储器(RAM)或者外部高速缓冲存储器。作为说明而非局限,RAM以多种形式可得,诸如静态RAM(SRAM)、动态RAM(DRAM)、同步DRAM(SDRAM)、双数据率SDRAM(DDRSDRAM)、增强型SDRAM(ESDRAM)、同步链路(Synchlink) DRAM(SLDRAM)、存储器总线(Rambus)直接RAM(RDRAM)、直接存储器总线动态RAM(DRDRAM)、以及存储器总线动态RAM(RDRAM)等。以上实施例的各技术特征可以进行任意的组合,为使描述简洁,未对上述实施例中的各个技术特征所有可能的组合都进行描述,然而,只要这些技术特征的组合不存在矛盾,都应当认为是本说明书记载的范围。
以上所述实施例仅表达了本申请的几种实施方式,其描述较为具体和详细,但并不能因此而理解为对发明专利范围的限制。应当指出的是,对于本领域的普通技术人员来说,在不脱离本申请构思的前提下,还可以做出若干变形和改进,这些都属于本申请的保护范围。因此,本申请专利的保护范围应以所附权利要求为准。
Claims (10)
1.一种遥感图像变化检测方法,其特征在于,所述方法包括:
获取双时间遥感图像,并对所述双时间遥感图像进行标注,得到训练样本;
构建遥感图像变化检测网络;所述遥感图像变化检测网络包括两条由结构和参数均相同的残差网络和空间注意力模块组成的特征提取支路、由4个Transformer模块组成的多尺度的注意特征模块,以及输出网络;特征提取支路用于通过残差网络提取训练样本的特征,然后经过空间注意力模块,并将得到的拥有空间注意力的特征图通过卷积和下采样操作得到四份不同尺度的特征图;多尺度的注意特征模块用于将所述四份不同尺度的特征图输入到对应的Transformer模块中得到四份不同尺度的输出特征图,并对输出特征图采用上采样和合并操作,得到两幅双时间特征图;输出网络用于对两幅双时间特征图的差异特征图进行卷积和上采样操作,得到训练样本的变化检测预测结果图;
利用训练样本的标注和将训练样本输入到遥感图像变化检测网络得到的训练样本的变化检测预测结果图对遥感图像变化检测网络进行训练,得到训练好的遥感图像变化检测网络;
采用训练好的遥感图像变化检测网络对待测双时间遥感图像进行检测,得到遥感图像变化检测结果。
2.根据权利要求1所述的方法,其特征在于,训练样本包括第一时间遥感图像训练样本和第二时间遥感图像训练样本;
利用训练样本的标注和将训练样本输入到遥感图像变化检测网络得到的训练样本的变化检测预测结果图对遥感图像变化检测网络进行训练,得到训练好的遥感图像变化检测网络,包括:
将所述第一时间遥感图像训练样本和所述第二时间遥感图像训练样本分别输入到两条特征提取支路中,得到第一空间注意力特征和第二空间注意力特征;
将所述第一空间注意力特征和第二空间注意力特征分别进行卷积和下采样操作,得到第一多尺度特征图和第二多尺度特征图;所述第一多尺度特征图和所述第二多尺度特征图均包括四份不同尺度的特征图;
将所述第一多尺度特征图和所述第二多尺度特征图输入到多尺度的注意特征模块中,得到两幅时间特征图;
将两幅时间特征图输入到所述输出网络中,得到变化检测预测结果图;
根据所述变化检测预测结果图和训练样本的标注对遥感图像变化检测网络进行反向训练,得到训练好的遥感图像变化检测网络。
3.根据权利要求2所述的方法,其特征在于,将所述第一时间遥感图像训练样本和所述第二时间遥感图像训练样本分别输入到两条特征提取支路中,得到第一空间注意力特征和第二空间注意力特征,包括:
将所述第一时间遥感图像训练样本输入到第一条特征提取支路的残差网络中,得到第一特征图;
将所述第一特征图输入到第一条特征提取支路的空间注意力模块中,得到第一空间注意力特征;
将所述将第二时间遥感图像训练样本输入到第二条特征提取支路的残差网络中,得到第二特征图;
将所述第二特征图输入到第二条特征提取支路的空间注意力模块中,得到第二空间注意力特征。
4.根据权利要求3所述的方法,其特征在于,所述空间注意力模块包括3个具有相同结构的卷积层;
将所述第一特征图输入到第一条特征提取支路的空间注意力模块中,得到第一空间注意力特征,包括:
将所述第一特征图输入到空间注意力模块的3个具有相同结构的卷积层中,得到3个新特征图;
将第一个新特征图进行形变和转置操作后与经过形变操作的第二个新特征图相乘后通过Softmax函数激活,得到注意力特征图;
将第三个新特征图进行形变操作后与注意力特征图相乘后与所述第一特征图加和,得到第一空间注意力特征。
5.根据权利要求2所述的方法,其特征在于,Transformer模块包括两个语义标记器、一个编码器和两个解码器;两幅时间特征图包括第一时间特征图和第二时间特征图;
将所述第一多尺度特征图和所述第二多尺度特征图输入到多尺度的注意特征模块中,得到两幅时间特征图,包括:
将所述第一多尺度特征图和所述第二多尺度特征图中尺寸相同的子特征图作为一组,得到4组不同尺度的子特征图,每组特征图包括第一多尺度特征图的子特征图和第二多尺度特征图的子特征图;
将第一组子特征图的两个特征图分别输入到第一个Transformer模块的两个语义标记器中,得到第一令牌集和第二令牌集;
将所述第一令牌集和所述第二令牌集进行拼接,得到令牌集T;
将令牌集T输入到第一个Transformer模块的编码器中,得到新令牌集;
将新令牌集进行切分,得到与第一令牌集对应的第一新令牌集和与第二令牌集对应的第二新令牌集;
将第一新令牌集和第一令牌集输入到第一个Transformer模块的第一个解码器中,得到第一多尺度特征图对应的第一尺度输出特征;
将第二新令牌集和第二令牌集输入到第一个Transformer模块的第二个解码器中,得到第二多尺度特征图对应的第二尺度输出特征;
将第一多尺度特征图对应的第一尺度输出特征和第二多尺度特征图对应的第二尺度输出特征作为第一组输出特征;
同理,将另外3组子特征图输入到对应Transformer模块中,得到第二组输出特征、第三组输出特征和第四组输出特征;
将第一组输出特征、第二组输出特征、第三组输出特征和第四组输出特征进行上采样和合并操作,得到与第一多尺度特征图的第一时间特征图和与第二多尺度特征图对应的第二时间特征图。
6.根据权利要求2所述的方法,其特征在于,两幅时间特征图包括第一时间特征图和第二时间特征图;
将两幅时间特征图输入到所述输出网络中,得到变化检测预测结果图,包括:
将第一时间特征图和第二时间特征图作差再取绝对值,得到差异特征图;
将所述差异特征图进行卷积和上采样操作,得到变化检测预测结果图。
7.一种遥感图像变化检测装置,其特征在于,所述装置包括:
双时间遥感图像获取模块,用于获取双时间遥感图像,并对所述双时间遥感图像进行标注,得到训练样本;
遥感图像变化检测网络构建模块,用于构建遥感图像变化检测网络;所述遥感图像变化检测网络包括两条由结构和参数均相同的残差网络和空间注意力模块组成的特征提取支路、由4个Transformer模块组成的多尺度的注意特征模块,以及输出网络;特征提取支路用于通过残差网络提取训练样本的特征,然后经过空间注意力模块,并将得到的拥有空间注意力的特征图通过卷积和下采样操作得到四份不同尺度的特征图;多尺度的注意特征模块用于将所述四份不同尺度的特征图输入到对应的Transformer模块中得到四份不同尺度的输出特征图,并对输出特征图采用上采样和合并操作,得到两幅双时间特征图;输出网络用于对两幅双时间特征图的差异特征图进行卷积和上采样操作,得到训练样本的变化检测预测结果图;
遥感图像变化检测网络训练模块,用于利用训练样本的标注和将训练样本输入到遥感图像变化检测网络得到的训练样本的变化检测预测结果图对遥感图像变化检测网络进行训练,得到训练好的遥感图像变化检测网络;
遥感图像变化检测模块,用于采用训练好的遥感图像变化检测网络对待测双时间遥感图像进行检测,得到遥感图像变化检测结果。
8.根据权利要求7所述的装置,其特征在于,训练样本包括第一时间遥感图像训练样本和第二时间遥感图像训练样本;
遥感图像变化检测网络训练模块,还用于将所述第一时间遥感图像训练样本和所述第二时间遥感图像训练样本分别输入到两条特征提取支路中,得到第一空间注意力特征和第二空间注意力特征;将所述第一空间注意力特征和第二空间注意力特征分别进行卷积和下采样操作,得到第一多尺度特征图和第二多尺度特征图;所述第一多尺度特征图和所述第二多尺度特征图均包括四份不同尺度的特征图;将所述第一多尺度特征图和所述第二多尺度特征图输入到多尺度的注意特征模块中,得到两幅时间特征图;将两幅时间特征图输入到所述输出网络中,得到变化检测预测结果图;根据所述变化检测预测结果图和训练样本的标注对遥感图像变化检测网络进行反向训练,得到训练好的遥感图像变化检测网络。
9.一种计算机设备,包括存储器和处理器,所述存储器存储有计算机程序,其特征在于,所述处理器执行所述计算机程序时实现权利要求1至6中任一项所述方法的步骤。
10.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现权利要求1至6中任一项所述方法的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210003112.7A CN114022788B (zh) | 2022-01-05 | 2022-01-05 | 遥感图像变化检测方法、装置、计算机设备和存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210003112.7A CN114022788B (zh) | 2022-01-05 | 2022-01-05 | 遥感图像变化检测方法、装置、计算机设备和存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN114022788A CN114022788A (zh) | 2022-02-08 |
CN114022788B true CN114022788B (zh) | 2022-03-04 |
Family
ID=80069640
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202210003112.7A Active CN114022788B (zh) | 2022-01-05 | 2022-01-05 | 遥感图像变化检测方法、装置、计算机设备和存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN114022788B (zh) |
Families Citing this family (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115457390A (zh) * | 2022-09-13 | 2022-12-09 | 中国人民解放军国防科技大学 | 遥感影像变化检测方法、装置、计算机设备和存储介质 |
CN115564778B (zh) * | 2022-12-06 | 2023-03-14 | 深圳思谋信息科技有限公司 | 缺陷的检测方法、装置、电子设备及计算机可读存储介质 |
CN116012266B (zh) * | 2023-03-29 | 2023-06-16 | 中国科学技术大学 | 图像去噪方法、系统、设备及存储介质 |
CN116503620B (zh) * | 2023-05-11 | 2023-12-08 | 中国科学院空天信息创新研究院 | 高分遥感图像变化检测方法、装置、电子设备及介质 |
CN117671432B (zh) * | 2024-01-31 | 2024-05-07 | 苏州元脑智能科技有限公司 | 变化分析模型训练方法、装置、电子设备及存储介质 |
CN118135425B (zh) * | 2024-05-07 | 2024-07-05 | 江西啄木蜂科技有限公司 | 一种自然保护地中关注区域的变化检测方法 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111523521A (zh) * | 2020-06-18 | 2020-08-11 | 西安电子科技大学 | 一种双支路融合多尺度注意神经网络的遥感图像分类方法 |
CN112580636A (zh) * | 2020-12-30 | 2021-03-30 | 杭州电子科技大学 | 一种基于跨模态协同推理的图像美学质量评价方法 |
CN113111835A (zh) * | 2021-04-23 | 2021-07-13 | 长沙理工大学 | 卫星遥感图像语义分割方法、装置、电子设备和存储介质 |
CN113688813A (zh) * | 2021-10-27 | 2021-11-23 | 长沙理工大学 | 多尺度特征融合遥感影像分割方法、装置、设备和存储器 |
CN113870422A (zh) * | 2021-11-30 | 2021-12-31 | 华中科技大学 | 一种基于金字塔Transformer的点云重建方法、装置、设备及介质 |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7596242B2 (en) * | 1995-06-07 | 2009-09-29 | Automotive Technologies International, Inc. | Image processing for vehicular applications |
-
2022
- 2022-01-05 CN CN202210003112.7A patent/CN114022788B/zh active Active
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111523521A (zh) * | 2020-06-18 | 2020-08-11 | 西安电子科技大学 | 一种双支路融合多尺度注意神经网络的遥感图像分类方法 |
CN112580636A (zh) * | 2020-12-30 | 2021-03-30 | 杭州电子科技大学 | 一种基于跨模态协同推理的图像美学质量评价方法 |
CN113111835A (zh) * | 2021-04-23 | 2021-07-13 | 长沙理工大学 | 卫星遥感图像语义分割方法、装置、电子设备和存储介质 |
CN113688813A (zh) * | 2021-10-27 | 2021-11-23 | 长沙理工大学 | 多尺度特征融合遥感影像分割方法、装置、设备和存储器 |
CN113870422A (zh) * | 2021-11-30 | 2021-12-31 | 华中科技大学 | 一种基于金字塔Transformer的点云重建方法、装置、设备及介质 |
Non-Patent Citations (4)
Title |
---|
"A Multiscale Visualization of Attention in the Transformer Model";Jesse Vig.et al;《arXiv:1906.05714v1》;20190612;全文 * |
"CrossViT: Cross-Attention Multi-Scale Vision Transformer for Image";Chun-Fu (Richard) Chen.et al;《arXiv:2103.14899v2》;20210822;全文 * |
"Single-shot coherent power-spectrum imaging of";WUSHENG TANG.et al;《applied optics》;20190201;第58卷(第4期);全文 * |
"一种基于深度学习的卫星遥感图像分割方法";刘冠群等;《湖南城市学院学报》;20210930;第30卷(第5期);全文 * |
Also Published As
Publication number | Publication date |
---|---|
CN114022788A (zh) | 2022-02-08 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN114022788B (zh) | 遥感图像变化检测方法、装置、计算机设备和存储介质 | |
CN113688813B (zh) | 多尺度特征融合遥感影像分割方法、装置、设备和存储器 | |
CN113780149B (zh) | 一种基于注意力机制的遥感图像建筑物目标高效提取方法 | |
CN112115783A (zh) | 基于深度知识迁移的人脸特征点检测方法、装置及设备 | |
CN109325242B (zh) | 基于词对和翻译判断句子是否对齐的方法、装置及设备 | |
CN116580241B (zh) | 基于双分支多尺度语义分割网络的图像处理方法及系统 | |
CN115147598B (zh) | 目标检测分割方法、装置、智能终端及存储介质 | |
CN112862922A (zh) | 一种基于多特征生成网络先验信息引导的图像填充方法 | |
CN114419406A (zh) | 图像变化检测方法、训练方法、装置和计算机设备 | |
JP2023062150A (ja) | 文字認識モデルトレーニング、文字認識方法、装置、機器及び媒体 | |
Zhang et al. | Multiscale depthwise separable convolution based network for high-resolution image segmentation | |
CN117635563A (zh) | 一种基于模态交叉注意力的多模态mri脑肿瘤图像分割方法 | |
CN116740078A (zh) | 图像分割处理方法、装置、设备以及介质 | |
CN115222947B (zh) | 基于全局自注意力变换网络的岩石节理分割方法和装置 | |
CN113962990B (zh) | 胸部ct图像识别方法、装置、计算机设备和存储介质 | |
CN116188836A (zh) | 基于空间与通道特征提取的遥感图像分类方法和装置 | |
Ma et al. | HTCViT: an effective network for image classification and segmentation based on natural disaster datasets | |
CN114913448A (zh) | 视频理解方法、装置、设备、存储介质和计算机程序产品 | |
Wang et al. | Pyramid self-attention mechanism-based change detection in hyperspectral imagery | |
CN111815631B (zh) | 模型生成方法、装置、设备和可读存储介质 | |
Lumban-Gaol et al. | Comparison of Deep Learning Architectures for the Semantic Segmentation of Slum Areas from Satellite Images | |
CN115661277B (zh) | 基于变分自编码的台风云图外推方法、系统、设备和介质 | |
ZiWen et al. | FasterMDE: A real-time monocular depth estimation search method that balances accuracy and speed on the edge | |
CN112115860B (zh) | 人脸关键点定位方法、装置、计算机设备和存储介质 | |
Vardhan et al. | Detection and Prediction of Landslide Vulnerability through Case Study using DInSAR Technique and U-net Model |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |