CN115830471A - 一种多尺度特征融合和对齐的域自适应云检测方法 - Google Patents
一种多尺度特征融合和对齐的域自适应云检测方法 Download PDFInfo
- Publication number
- CN115830471A CN115830471A CN202310007711.0A CN202310007711A CN115830471A CN 115830471 A CN115830471 A CN 115830471A CN 202310007711 A CN202310007711 A CN 202310007711A CN 115830471 A CN115830471 A CN 115830471A
- Authority
- CN
- China
- Prior art keywords
- domain
- output
- alignment
- remote sensing
- adaptive
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02A—TECHNOLOGIES FOR ADAPTATION TO CLIMATE CHANGE
- Y02A90/00—Technologies having an indirect contribution to adaptation to climate change
- Y02A90/10—Information and communication technologies [ICT] supporting adaptation to climate change, e.g. for weather forecasting or climate simulation
Landscapes
- Image Analysis (AREA)
- Image Processing (AREA)
Abstract
本发明涉及一种多尺度特征融合和对齐的域自适应云检测方法,所述方法包括以下步骤:多尺度特征融合和对齐的域自适应云检测准备工作、构建与训练多尺度特征融合和对齐的域自适应云检测模型、对多尺度特征融合和对齐的域自适应云检测模型测试和求解。与现有技术相比,通过构建多尺度特征融合和对齐的域自适应网络,及提出的多尺度特征融合模块和特征对齐模块。与现有云检测技术相比,本发明解决了现有云检测技术对于碎云及边界检测困难,并且使云检测网络生成源和目标域数据集的域不变特征,从而解决由于域差异导致的难以将源训练模型推广至目标数据集的问题。
Description
技术领域
本发明涉及光学遥感影像处理技术领域,具体来说是一种多尺度特征融合和对齐的域自适应云检测方法。
背景技术
云是大气中的自然现象,常出现在光学卫星获取的遥感影像中。在气象领域,云检测作为反演大气及地表各种参数的预处理工作,它的分布直接影响到其他参数的反演结果。由于云是重要的气象和气候要素之一,通过云的分布不但可以帮助发现危险的气候现象,如暴雨、飓风及龙卷风,还可以跟踪气象条件的变化;而对于地表观测任务,由于60%的地球表面被云层覆盖,获取的光学遥感图像经常受到云层的污染,造成原始物体的光谱失真,影响遥感影像和产品的判读,干扰信息提取。因此,通过云检测提高遥感图像质量至关重要。
云检测旨在识别和区分遥感图像中的云像素和无云像素。大多数现有的深度模型(尤其是深度神经网络)由固定尺度的感受野构成的,能够检测大多数具有大规模边界的云,很难处理具有不稳定边界尺度的云,比如往往忽略小尺寸的云。而且云场景的多样性和云的多变性使云检测面临着一些挑战。对于在不均匀土地上充满破碎薄云的高度混合场景的复杂现象,很难检测并分割不同尺度和大小的碎云和边界。此外,云的形状随着环境的变化而急剧变化,使得复杂的云边界更难捕捉。
此外,目前大多数基于卷积神经网络(CNN)的云检测方法都建立在需要大量像素级标签的监督学习框架上。然而,为海量遥感图像手动注释像素标签既昂贵又耗时。针对此提出的将源卫星标记图像上训练的模型推广到目标卫星的未标记图像的无监督域自适应(UDA)方法虽然能解决无大量用于训练的标签问题,但仍存在域自适应中跨卫星图像的域偏移现象。
发明内容
本发明的目的是为了解决现有技术中跨卫星图像的云检测出现域偏移以及对于碎云和云边界的检测的缺陷,提供一种多尺度特征融合和对齐的域自适应云检测方法来解决上述问题。
为了实现上述目的,本发明的技术方案如下:
一种多尺度特征融合和对齐的域自适应云检测方法,包括以下步骤:
11)多尺度特征融合和对齐的域自适应云检测准备工作:对源域遥感卫星影像和目标域遥感卫星影像根据含云量分类,按一定比例挑选各个百分比的影像数据;对源域遥感卫星影像和目标域遥感卫星影像进行波段合并、裁剪等预处理;对源域遥感卫星影像标签进行归一化预处理;
12)构建与训练多尺度特征融合和对齐的域自适应云检测模型:构建多尺度特征融合和对齐的域自适应云检测模型,将预处理后的遥感卫星影像以及标签输入多尺度特征融合和对齐的域自适应云检测模型中进行训练,得到训练好的多尺度特征融合和对齐的域自适应云检测模型;
13)对多尺度特征融合和对齐的域自适应云检测模型测试和求解:将未被大量标记的目标域遥感卫星影像输入到训练好的多尺度特征融合和对齐的域自适应云检测模型中进行测试并得到云检测预测分割结果。
所述多尺度特征融合和对齐的域自适应云检测准备工作包括以下步骤:
21)将源域遥感卫星影像和目标域遥感卫星影像的B4、B3、B2波段合并预处理为RGB三通道影像;
22)将源域遥感卫星影像及标签和目标域遥感卫星影像进行不重叠裁剪,裁剪为321×321的固定大小;
23)将源域遥感卫星影像标签像素值归一化:0、64、128为0,代表干净像素,192、256为1,代表云像素,得到二值单通道标签影像;
24)将处理后的影像导出成.tif格式;
25)将处理后的影像按照含云量百分比平均挑选训练集影像,以保证正负样本平衡。
所述构建与训练多尺度特征融合和对齐的域自适应云检测模型包括以下步骤:
31)其中构建多尺度特征融合和对齐的域自适应云检测模型的具体步骤如下:
311)构建用于提取抽象特征的编码器结构,其编码器结构包括一个普通3x3卷积层,一个批归一化层,一个RELU线性激活单元以及resnet34的前四层构成的四个下采样块;
312)构建用于产生融合的多尺度特征的多尺度融合模块,其多尺度融合模块包括4个膨胀率不同的空洞卷积层和1个图像池化操作,四个空洞率为1、6、12、18,产生具有不同接收野的特征,一个图像池模块生成通道特征,得到五个平行输出并通过一次拼接运算和一次1×1卷积得到多尺度特征;
313)构建用于从不同尺度的特征中恢复云掩膜的解码器结构,其解码器结构包括四个普通3x3卷积层,一个批归一化层,一个RELU线性激活单元构成的上采样块;
314)构建用于将不同尺度的浅层空间信息和深层语义信息结合起来的跳跃连接结构,其跳跃连接结构为拼接两个输入为一个输出;
315)构建用于减少对标签数据依赖的域自适应框架结构,其域自适应框架结构为输入来自两个不同卫星的云图但共享用于分割的云检测模型框架;
316)构建用于指导类相关特征选择的特征选择结构,其特征选择结构利用分割网络的预测得分图得到用于分组对齐的空间注意图;
317)构建用于缩小源和目标域之间的特征分布差距以获得域不变特征表示的分组特征对齐结构,其分组特征对齐结构将从网络的第k个隐层提取与云相关的特征映射分成一系列组,对源域和目标域的每个分组特征分别使用对抗学习策略;
32)其中训练多尺度特征融合和对齐的域自适应云检测模型的具体步骤如下:
321)将预处理后的源域遥感卫星影像以及标签和目标域遥感卫星影像输入云检测模型中;
322)通过正向传播,得到分割概率;
323)使用二元交叉熵BCE损失作为网络模型的损失函数对分割概率进行计算得到分割损失;
324)使用二元交叉熵BCE损失作为分组特征对齐的对抗结构的损失函数对源域和目标域的判别结果进行计算得到对抗损失;
325)使用MAE损失作为分组特征对齐结构的损失函数对源域和目标域的判别结果进行计算得到损失以最小化源域和目标域的距离;
326)反向传播确定梯度向量,更新模型参数;
327)重复上述过程直到设定次数或误差损失的平均值不再下降,训练完成,得到域自适应的云检测模型。
所述对多尺度特征融合和对齐的域自适应云检测模型测试和求解包括以下步骤:
41)读取目标域遥感卫星影像,将其成.tif格式影像;
42)将目标域遥感卫星影像的B4、B3、B2波段合并预处理为RGB三通道影像;
43)将目标域遥感卫星影像进行不重叠裁剪,裁剪为321×321的固定大小,
44)将预处理后的影像输入到训练好的多尺度特征融合和对齐的域自适应云检测模型中进行云像素检测;
45)得到分割好的云掩膜图。
有益效果
本发明涉及一种多尺度特征融合和对齐的域自适应云检测方法,与现有技术相比通过构建多尺度特征融合和对齐的域自适应网络,其中域自适应框架结构使输入来自两个不同卫星的云图共享用于分割的云检测模型框架,解决了目标域卫星影像标签量少的问题,并在分割网络中添加了多尺度特征融合模块,经过不同空洞率的卷积后得到能够捕捉不同尺度云的多尺度感受野,得到多云图像的多尺度表示,使不同尺度的边界云的检测精度提升。此外,在跨卫星图像云检测任务中,不同卫星传感器获取的图像存在光谱和分辨率差异等域差异,难以将源训练模型推广到目标数据集。本发明构建的模型中特征对齐模块鼓励云检测网络生成源和目标域数据集的域不变特征。
附图说明
图1是一种多尺度特征融合和对齐的域自适应云检测方法流程图;
图2是一种多尺度特征融合和对齐的域自适应云检测方法共享网络模型图;
图3是一种多尺度特征融合和对齐的域自适应云检测方法域自适应框架图;
图4是GF-2卫星影像及其标签与一种多尺度特征融合和对齐的域自适应云检测方法结果对比图;
具体实施方式
为使对本发明的结构特征及所达成的功效有更进一步的了解与认识,用以较佳的实施例及附图配合详细的说明,说明如下:
如图1所示,本发明所述的一种多尺度特征融合和对齐的域自适应云检测方法,包括以下步骤:
第一步,多尺度特征融合和对齐的域自适应云检测准备工作:
对源域遥感卫星影像和目标域遥感卫星影像根据含云量分类,按一定比例挑选各个百分比的影像数据;对源域遥感卫星影像和目标域遥感卫星影像进行波段合并、裁剪等预处理;对源域遥感卫星影像标签进行归一化预处理;使得模型能够快速稳定的收敛,提高分割精度,其具体步骤如下;
(1)将源域遥感卫星影像和目标域遥感卫星影像的B4、B3、B2波段合并预处理为RGB三通道影像;
(2)将源域遥感卫星影像及标签和目标域遥感卫星影像进行不重叠裁剪,裁剪为321×321的固定大小;
(3)将源域遥感卫星影像像素值归一化:0、64、128为0,代表干净像素,192、256为1,代表云像素,得到二值单通道标签影像;
(4)将处理后的影像导出成.tif格式;
(5)将处理后的影像按照含云量百分比平均挑选训练集影像,以保证正负样本平衡。
第二步,构建与训练多尺度特征融合和对齐的域自适应云检测模型:
构建一种多尺度特征融合和对齐的域自适应云检测模型,将预处理后的源域遥感卫星影像以及标签数据和目标域遥感卫星影像输入多尺度特征融合和对齐的域自适应云检测模型中,得到训练好的云检测网络模型。其域自适应框架结构使输入来自两个不同卫星的云图共享如图2所示的用于分割的云检测模型框架,并在分割网络中添加了多尺度特征融合模块,得到多云图像的多尺度表示,使不同尺度的边界云的检测精度提升。此外如图3所示,构建的特征对齐模块鼓励云检测网络生成源和目标域数据集的域不变特征以消除不同卫星传感器获取的图像存在光谱和分辨率差异等域差异。
其具体步骤如下:
(1)其中构建多尺度特征融合和对齐的域自适应云检测模型的具体步骤如下:
(1-1)构建用于提取抽象特征的编码器结构,其编码器结构包括一个普通3x3卷积层,一个批归一化层,一个RELU线性激活单元以及resnet34的前四层构成的四个下采样块;
(1-2)构建用于产生融合的多尺度特征的多尺度融合模块。其多尺度融合模块包括4个膨胀率不同的空洞卷积层和1个图像池化操作。四个空洞率为1、6、12、18,产生具有不同接收野的特征。一个图像池模块生成通道特征。得到五个平行输出并通过一次拼接运算和一次1×1卷积得到多尺度特征;
(1-3)构建用于从不同尺度的特征中恢复云掩膜的解码器结构,其解码器结构包括四个普通3x3卷积层,一个批归一化层,一个RELU线性激活单元构成的上采样块;
(1-4)构建用于将不同尺度的浅层空间信息和深层语义信息结合起来的跳跃连接结构,其跳跃连接结构为拼接两个输入为一个输出;
(1-5)构建用于减少对标签数据依赖的域自适应框架结构,其域自适应框架结构为输入来自两个不同卫星的云图但共享用于分割的云检测模型框架;
(1-6)构建用于指导类相关特征选择的特征选择结构,其特征选择结构利用分割网络的预测得分图得到用于分组对齐的空间注意图;
(1-7)构建用于缩小源和目标域之间的特征分布差距以获得域不变特征表示的分组特征对齐结构,其分组特征对齐结构将从网络的第k个隐层提取与云相关的特征映射分成一系列组,对源域和目标域的每个分组特征分别使用对抗学习策略。
首先将原始源域影像和目标域影像分别经过编码器结构,再将其经过一次多尺度特征融合结构,将多尺度特征融合结构的输出经过解码器结构,之后通过跳跃连接结构将编码器第四次下采样连接解码器第一次上采样,通过跳跃连接结构将第三次下采样连接第二次上采样,通过跳跃连接结构将第二次下采样连接第三次上采样,通过跳跃连接结构将第一次下采样连接第四次上采样,将跳跃连接拼接后的最后两层源域输出与目标域输出经过特征对齐模块,最后经过小尺寸普通卷积结构完成整个模型的搭建。
(2)其中训练多尺度特征融合和对齐的域自适应云检测模型的具体步骤如下:
(2-1)将预处理后的源域遥感卫星影像以及标签和目标域遥感卫星影像输入云检测模型中;
(2-2)执行一次编码器结构得到四个下采样输出;
(2-2-1)执行一个卷积核为3x3的普通卷积层,一个批归一化层,一个RELU线性激活单元以及resnet34的layer1得到第一个下采样输出;
(2-2-2)对第一个下采样输出执行resnet34的layer2得到第二个下采样输出;
(2-2-3)对第二个下采样输出执行resnet34的layer2得到第三个下采样输出;
(2-2-4)对第三个下采样输出执行resnet34的layer2得到第四个下采样输出;
(2-3)对第四个下采样输出执行一次多尺度特征融合层,其中多尺度特征融合层的输出如下;
(2-3-1)第一条路径对编码器结构第四次下采样的输出执行一次扩张因子为1,卷积核为3x3的空洞卷积层,得到第一个输出;
(2-3-2)第二条路径对编码器结构第四次下采样的输出执行一次扩张因子为6,卷积核为3x3的空洞卷积层,得到第二个输出;
(2-3-3)第三条路径对编码器结构第四次下采样的输出执行一次扩张因子为12,卷积核为3x3的空洞卷积层,得到第三个输出;
(2-3-4)第四条路径对编码器结构第四次下采样的输出执行一次扩张因子为18,卷积核为3x3的空洞卷积层,得到第四个输出;
(2-3-5)第五条路径对编码器结构第四次下采样的输出执行一次全局平均池化和一次卷积核为1x1的普通卷积层,得到第五个输出;
(2-4)将五条路径输出的结果进行拼接得到多尺度融合特征输出;
(2-5)对多尺度融合特征输出执行一次卷积核大小为1x1的普通卷积层;
(2-6)执行三次包括一次卷积核大小为3x3的普通卷积层、一次批归一化层、一次RELU线性激活单元的上采样块,得到第一次上采样的输出;
(2-7)将第一次上采样的输出通过跳跃连接结构与第四次下采样的输出进行拼接;
(2-8)对第一次拼接得到的输出执行三次包括一次卷积核大小为3x3的普通卷积层、一次批归一化层、一次RELU线性激活单元的上采样块,得到第二次上采样的输出;
(2-9)将第二次上采样的输出通过跳跃连接结构与第三次下采样的输出进行拼接;
(2-10)对第二次拼接得到的输出执行三次包括一次卷积核大小为3x3的普通卷积层、一次批归一化层、一次RELU线性激活单元的上采样块,得到第三次上采样的输出;
(2-11)将第三次上采样的输出通过跳跃连接结构与第二次下采样的输出进行拼接;
(2-12)对第三次拼接得到的输出执行三次包括一次卷积核大小为3x3的普通卷积层、一次批归一化层、一次RELU线性激活单元的上采样块,得到第四次上采样的输出;
(2-13)将第四次上采样的输出通过跳跃连接结构与第一次下采样的输出进行拼接;
(2-14)对第四次拼接得到的输出执行四次包括一次卷积核大小为3x3的普通卷积层、一次批归一化层、一次RELU线性激活单元、一次池化核大小为2x2的全局最大池化下采样的下采样块;
(2-15)执行四次包括一次卷积核大小为3x3的普通卷积层、一次批归一化层、一次RELU线性激活单元、一次恢复尺寸上采样的上采样块;
(2-16)执行一次卷积核大小为3x3的普通卷积层、一次批归一化层、一次RELU线性激活单元;
(2-17)将执行一次卷积核大小为3x3的普通卷积层的结果与跳跃连接模块第四次拼接得到的输出进行拼接;
(2-18)正向传播,得到最终的分割概率;
(2-19)执行一次特征选择结构,将源域和目标域第三次和第四次拼接得到的输出分别与最终分割概率逐像素相乘,并在通道维度分割为4个子特征图;
(2-20)执行一次分组特征对齐结构,将两个域的各4个子特征图分组输入得到判别结果;
(2-20-1)对源域的子特征图执行四次包括一次卷积核为4x4的普通卷积层、一次RELU线性激活单元、一次概率为0.5的dropout层的块;
(2-20-2)执行一次池化核大小为1x1的自适应全局平均池化得到源域判别结果;
(2-20-3)对目标域的子特征图执行四次包括一次卷积核为4x4的普通卷积层、一次RELU线性激活单元、一次概率为0.5的dropout层的块;
(2-20-4)执行一次池化核大小为1x1的自适应全局平均池化得到目标域判别结果;
(2-20-5)正向传播,分别得到源域和目标域的判别结果;
(2-21)使用二元交叉熵BCE损失作为分组特征对齐的对抗结构的损失函数对源域和目标域的判别结果进行计算得到对抗损失;
(2-22)使用MAE损失作为分组特征对齐结构的损失函数对源域和目标域的判别结果进行计算得到损失以最小化源域和目标域的距离;
(2-23)使用二元交叉熵BCE损失作为网络模型的损失函数对最终的分割概率进行计算得到分割损失;
(2-24)反向传播确定梯度向量,更新模型参数;
(2-25)判断是否达到设定的轮数,是则得到训练好的分割模型,否则返回(2-1)重新加载数据继续训练。
第三步,对多尺度特征融合和对齐的域自适应云检测模型测试和求解:
获取待检测的目标域遥感卫星影像,将其输入到训练好的多尺度特征融合和对齐的域自适应云检测模型中进行模型测试并得到云检测预测分割掩膜图,其具体步骤如下:
(1)读取目标域遥感卫星影像,将其导出成.tif格式影像;
(2)将目标域遥感卫星影像B4、B3、B2波段合并处理为RGB三通道影像;
(3)将目标域遥感卫星影像进行不重叠裁剪,得到321×321的固定大小;
(4)将预处理后的影像输入到训练好的多尺度特征融合和对齐的域自适应云检测模型中进行云像素检测;
(5)得到分割好的云掩膜图。
下面以LANDSAT8卫星影像及GF-2卫星影像为例对本发明提出的方法进行说明:
LANDSAT8卫星影像作为源域数据,GF-2卫星影像作为目标域数据。选取50张包含不同场景的LANDSAT8卫星影像及其标签,34张GF-2卫星影像,经过本发明所述预处理即波段合并、裁剪、挑选等操作得到321×321大小的5040张源域数据集及目标域数据集,以及对LANDSAT8卫星影像标签进行归一化后的影像标签。利用本发明所述的方法训练域自适应云检测模型,构建多尺度特征融合和对齐的域自适应网络,及提出的多尺度特征融合模块和特征对齐模块。与现有云检测技术相比,本发明解决了现有云检测技术对于碎云及边界检测困难和由于域差异导致的难以将源训练模型推广至目标数据集的问题。
如图4所示,其为GF-2卫星影像及其标签与本发明模型分割结果对比图,其中A为GF-2卫星影像、B为GF-2卫星影像标签、C为本专利所述方法的云分割结果。从图4可以看出,利用本发明所述方法所获得的分割结果,与标签基本无异,达到了满足实际应用的效果。
以上显示和描述了本发明的基本原理、主要特征和本发明的优点。本行业的技术人员应该了解,本发明不受上述实施例的限制,上述实施例和说明书中描述的只是本发明的原理,在不脱离本发明精神和范围的前提下本发明还会有各种变化和改进,这些变化和改进都落入要求保护的本发明的范围内。本发明要求的保护范围由所附的权利要求书及其等同物界定。
Claims (4)
1.一种多尺度特征融合和对齐的域自适应云检测方法,其特征在于,包括以下步骤:
11)多尺度特征融合和对齐的域自适应云检测准备工作:对源域遥感卫星影像和目标域遥感卫星影像根据含云量分类,按一定比例挑选各个百分比的影像数据;对源域遥感卫星影像和目标域遥感卫星影像进行波段合并、裁剪等预处理;对源域遥感卫星影像标签进行归一化预处理;
12)构建与训练多尺度特征融合和对齐的域自适应云检测模型:构建多尺度特征融合和对齐的域自适应云检测模型,将预处理后的遥感影像以及标签输入多尺度特征融合和对齐的域自适应云检测模型中进行训练,得到训练好的多尺度特征融合和对齐的域自适应云检测模型;
13)对多尺度特征融合和对齐的域自适应云检测模型测试和求解:将未被大量标记的目标域遥感卫星影像输入到训练好的多尺度特征融合和对齐的域自适应云检测模型中进行模型测试并得到云检测预测分割结果。
2.根据权利要求1所述的一种多尺度特征融合和对齐的域自适应云检测方法,其特征在于,所述多尺度特征融合和对齐的域自适应云检测准备工作包括以下步骤:
21)将源域遥感卫星影像和目标域遥感卫星影像的B4、B3、B2波段合并预处理为RGB三通道影像;
22)将源域遥感卫星影像及标签和目标域遥感卫星影像进行不重叠裁剪,裁剪为321×321的固定大小;
23)将源域遥感卫星影像标签像素值归一化:0、64、128为0,代表干净像素,192、256为1,代表云像素,得到二值单通道标签影像;
24)将处理后的影像导出成.tif格式;
25)将处理后的影像按照含云量百分比平均挑选训练集影像,以保证正负样本平衡。
3.根据权利要求1所述的一种多尺度特征融合和对齐的域自适应云检测方法,其特征在于,所述构建与训练多尺度特征融合和对齐的域自适应云检测模型包括以下步骤:
31)其中构建多尺度特征融合和对齐的域自适应云检测模型的具体步骤如下:
311)构建用于提取抽象特征的编码器结构,其编码器结构包括一个普通3x3卷积层,一个批归一化层,一个RELU线性激活单元以及resnet34的前四层构成的四个下采样块;
312)构建用于产生融合的多尺度特征的多尺度融合模块;
其多尺度融合模块包括4个膨胀率不同的空洞卷积层和1个图像池化操作;
四个空洞率为1、6、12、18,产生具有不同接收野的特征;
一个图像池模块生成通道特征;
得到五个平行输出并通过一次拼接运算和一次1×1卷积得到多尺度特征;
313)构建用于从不同尺度的特征中恢复云掩膜的解码器结构,其解码器结构包括四个普通3x3卷积层,一个批归一化层,一个RELU线性激活单元构成的上采样块;
314)构建用于将不同尺度的浅层空间信息和深层语义信息结合起来的跳跃连接结构,其跳跃连接结构为拼接两个输入为一个输出;
315)构建用于减少对标签数据依赖的域自适应框架结构,其域自适应框架结构为输入来自两个不同卫星的云图但共享用于分割的云检测模型框架;
316)构建用于指导类相关特征选择的特征选择结构,其特征选择结构利用分割网络的预测得分图得到用于分组对齐的空间注意图;
317)构建用于缩小源和目标域之间的特征分布差距以获得域不变特征表示的分组特征对齐结构,其分组特征对齐结构将从网络的第k个隐层提取与云相关的特征映射分成一系列组,对源域和目标域的每个分组特征分别使用对抗学习策略;
318)首先将原始源域遥感卫星影像和目标域遥感卫星影像分别经过编码器结构,再将其经过一次多尺度特征融合结构,将多尺度特征融合结构的输出经过解码器结构,之后通过跳跃连接结构将编码器第四次下采样连接解码器第一次上采样,通过跳跃连接结构将第三次下采样连接第二次上采样,通过跳跃连接结构将第二次下采样连接第三次上采样,通过跳跃连接结构将第一次下采样连接第四次上采样,将跳跃连接拼接后的最后两层源域输出与目标域输出经过特征对齐模块,最后经过小尺寸普通卷积结构完成整个模型的搭建;
32)其中训练多尺度特征融合和对齐的域自适应云检测模型的具体步骤如下:
321)将预处理后的源域遥感卫星影像以及标签和目标域遥感卫星影像输入云检测模型中;
322)执行一次编码器结构得到四个下采样输出;
执行一个卷积核为3x3的普通卷积层,一个批归一化层,一个RELU线性激活单元以及resnet34的layer1得到第一个下采样输出;
对第一个下采样输出执行resnet34的layer2得到第二个下采样输出;
对第二个下采样输出执行resnet34的layer2得到第三个下采样输出;
对第三个下采样输出执行resnet34的layer2得到第四个下采样输出;
323)对第四个下采样输出执行一次多尺度特征融合层,其中多尺度特征融合层的输出如下;
第一条路径对编码器结构第四次下采样的输出执行一次扩张因子为1,卷积核为3x3的空洞卷积层,得到第一个输出;
第二条路径对编码器结构第四次下采样的输出执行一次扩张因子为6,卷积核为3x3的空洞卷积层,得到第二个输出;
第三条路径对编码器结构第四次下采样的输出执行一次扩张因子为12,卷积核为3x3的空洞卷积层,得到第三个输出;
第四条路径对编码器结构第四次下采样的输出执行一次扩张因子为18,卷积核为3x3的空洞卷积层,得到第四个输出;
第五条路径对编码器结构第四次下采样的输出执行一次全局平均池化和一次卷积核为1x1的普通卷积层,得到第五个输出;
324)将五条路径输出的结果进行拼接得到多尺度融合特征输出;
325)对多尺度融合特征输出执行一次卷积核大小为1x1的普通卷积层;
326)执行三次包括一次卷积核大小为3x3的普通卷积层、一次批归一化层、一次RELU线性激活单元的上采样块,得到第一次上采样的输出;
327)将第一次上采样的输出通过跳跃连接结构与第四次下采样的输出进行拼接;
328)对第一次拼接得到的输出执行三次包括一次卷积核大小为3x3的普通卷积层、一次批归一化层、一次RELU线性激活单元的上采样块,得到第二次上采样的输出;
329)将第二次上采样的输出通过跳跃连接结构与第三次下采样的输出进行拼接;
3210)对第二次拼接得到的输出执行三次包括一次卷积核大小为3x3的普通卷积层、一次批归一化层、一次RELU线性激活单元的上采样块,得到第三次上采样的输出;
3211)将第三次上采样的输出通过跳跃连接结构与第二次下采样的输出进行拼接;
3212)对第三次拼接得到的输出执行三次包括一次卷积核大小为3x3的普通卷积层、一次批归一化层、一次RELU线性激活单元的上采样块,得到第四次上采样的输出;
3213)将第四次上采样的输出通过跳跃连接结构与第一次下采样的输出进行拼接;
3214)对第四次拼接得到的输出执行四次包括一次卷积核大小为3x3的普通卷积层、一次批归一化层、一次RELU线性激活单元、一次池化核大小为2x2的全局最大池化下采样的下采样块;
3215)执行四次包括一次卷积核大小为3x3的普通卷积层、一次批归一化层、一次RELU线性激活单元、一次恢复尺寸上采样的上采样块;
3216)执行一次卷积核大小为3x3的普通卷积层、一次批归一化层、一次RELU线性激活单元;
3217)将执行一次卷积核大小为3x3的普通卷积层的结果与跳跃连接模块第四次拼接得到的输出进行拼接;
3218)正向传播,得到最终的分割概率;
3219)执行一次特征选择结构,将源域和目标域第三次和第四次拼接得到的输出分别与最终的分割概率逐像素相乘,并在通道维度分割为4个子特征图;
3220)执行一次分组特征对齐结构,将两个域的各4个子特征图分组输入得到判别结果;
对源域的子特征图执行四次包括一次卷积核为4x4的普通卷积层、一次RELU线性激活单元、一次概率为0.5的dropout层的块;
执行一次池化核大小为1x1的自适应全局平均池化得到源域判别结果;
对目标域的子特征图执行四次包括一次卷积核为4x4的普通卷积层、一次RELU线性激活单元、一次概率为0.5的dropout层的块;
执行一次池化核大小为1x1的自适应全局平均池化得到目标域判别结果;
正向传播,分别得到源域和目标域的判别结果;
3221)使用二元交叉熵BCE损失作为分组特征对齐的对抗结构的损失函数对源域和目标域的判别结果进行计算得到对抗损失;
3222)使用MAE损失作为分组特征对齐结构的损失函数对源域和目标域的判别结果进行计算得到损失以最小化源域和目标域的距离;
3223)使用二元交叉熵BCE损失作为网络模型的损失函数对最终的分割概率进行计算得到分割损失;
3224)反向传播确定梯度向量,更新模型参数;
3225)判断是否达到设定的轮数,是则得到训练好的分割模型,否则返回(321)重新加载数据继续训练。
4.根据权利要求1所述的一种多尺度特征融合和对齐的域自适应云检测方法,其特征在于,所述对多尺度特征融合和对齐的域自适应云检测模型测试和求解包括以下步骤:
41)读取目标域遥感卫星影像,将其导出成.tif格式影像;
42)将目标域遥感卫星影像的B4、B3、B2波段合并预处理为RGB三通道影像;
43)将目标域遥感卫星影像进行不重叠裁剪,裁剪为321×321的固定大小;
44)将预处理后的影像输入到训练好的多尺度特征融合和对齐的域自适应云检测模型中进行云像素检测;
45)得到分割好的云掩膜图。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310007711.0A CN115830471B (zh) | 2023-01-04 | 2023-01-04 | 一种多尺度特征融合和对齐的域自适应云检测方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310007711.0A CN115830471B (zh) | 2023-01-04 | 2023-01-04 | 一种多尺度特征融合和对齐的域自适应云检测方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN115830471A true CN115830471A (zh) | 2023-03-21 |
CN115830471B CN115830471B (zh) | 2023-06-13 |
Family
ID=85520104
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202310007711.0A Active CN115830471B (zh) | 2023-01-04 | 2023-01-04 | 一种多尺度特征融合和对齐的域自适应云检测方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN115830471B (zh) |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116452936A (zh) * | 2023-04-22 | 2023-07-18 | 安徽大学 | 融合光学和sar影像多模态信息的旋转目标检测方法 |
CN116740584A (zh) * | 2023-06-25 | 2023-09-12 | 安徽大学 | 一种结合CNN和Transformer的渐进式学习梯度的弱监督云检测方法 |
CN117093929A (zh) * | 2023-07-06 | 2023-11-21 | 珠海市伊特高科技有限公司 | 基于无监督域自适应网络的截流过电压预测方法及装置 |
CN117522824A (zh) * | 2023-11-16 | 2024-02-06 | 安徽大学 | 一种基于域知识库的多源域泛化的云和云阴影检测方法 |
Citations (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107944357A (zh) * | 2017-11-13 | 2018-04-20 | 中国科学院合肥物质科学研究院 | 基于证据融合自适应阈值的多源遥感图像云检测方法 |
CN109215038A (zh) * | 2018-09-29 | 2019-01-15 | 中国资源卫星应用中心 | 一种基于遥感影像的智能信息提取方法及系统 |
US20190286875A1 (en) * | 2018-03-19 | 2019-09-19 | Rosemount Aerospace Limited | Cloud detection in aerial imagery |
CN111274865A (zh) * | 2019-12-14 | 2020-06-12 | 深圳先进技术研究院 | 一种基于全卷积神经网络的遥感图像云检测方法及装置 |
CN111814874A (zh) * | 2020-07-08 | 2020-10-23 | 东华大学 | 一种用于点云深度学习的多尺度特征提取增强方法及模块 |
CN113239830A (zh) * | 2021-05-20 | 2021-08-10 | 北京航空航天大学 | 一种基于全尺度特征融合的遥感图像云检测方法 |
US20210312232A1 (en) * | 2020-04-06 | 2021-10-07 | Adobe Inc. | Domain alignment for object detection domain adaptation tasks |
CN114022408A (zh) * | 2021-09-22 | 2022-02-08 | 中国空间技术研究院 | 基于多尺度卷积神经网络的遥感图像云检测方法 |
CN114494821A (zh) * | 2021-12-16 | 2022-05-13 | 广西壮族自治区自然资源遥感院 | 基于特征多尺度感知与自适应聚合的遥感影像云检测方法 |
CN114943876A (zh) * | 2022-06-20 | 2022-08-26 | 南京信息工程大学 | 一种多级语义融合的云和云影检测方法、设备及存储介质 |
CN115359370A (zh) * | 2022-10-21 | 2022-11-18 | 哈尔滨工业大学(深圳)(哈尔滨工业大学深圳科技创新研究院) | 一种遥感图像云检测方法、装置、计算机装置及存储介质 |
US20220383073A1 (en) * | 2021-05-28 | 2022-12-01 | Nvidia Corporation | Domain adaptation using domain-adversarial learning in synthetic data systems and applications |
-
2023
- 2023-01-04 CN CN202310007711.0A patent/CN115830471B/zh active Active
Patent Citations (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107944357A (zh) * | 2017-11-13 | 2018-04-20 | 中国科学院合肥物质科学研究院 | 基于证据融合自适应阈值的多源遥感图像云检测方法 |
US20190286875A1 (en) * | 2018-03-19 | 2019-09-19 | Rosemount Aerospace Limited | Cloud detection in aerial imagery |
CN109215038A (zh) * | 2018-09-29 | 2019-01-15 | 中国资源卫星应用中心 | 一种基于遥感影像的智能信息提取方法及系统 |
CN111274865A (zh) * | 2019-12-14 | 2020-06-12 | 深圳先进技术研究院 | 一种基于全卷积神经网络的遥感图像云检测方法及装置 |
US20210312232A1 (en) * | 2020-04-06 | 2021-10-07 | Adobe Inc. | Domain alignment for object detection domain adaptation tasks |
CN111814874A (zh) * | 2020-07-08 | 2020-10-23 | 东华大学 | 一种用于点云深度学习的多尺度特征提取增强方法及模块 |
CN113239830A (zh) * | 2021-05-20 | 2021-08-10 | 北京航空航天大学 | 一种基于全尺度特征融合的遥感图像云检测方法 |
US20220383073A1 (en) * | 2021-05-28 | 2022-12-01 | Nvidia Corporation | Domain adaptation using domain-adversarial learning in synthetic data systems and applications |
CN114022408A (zh) * | 2021-09-22 | 2022-02-08 | 中国空间技术研究院 | 基于多尺度卷积神经网络的遥感图像云检测方法 |
CN114494821A (zh) * | 2021-12-16 | 2022-05-13 | 广西壮族自治区自然资源遥感院 | 基于特征多尺度感知与自适应聚合的遥感影像云检测方法 |
CN114943876A (zh) * | 2022-06-20 | 2022-08-26 | 南京信息工程大学 | 一种多级语义融合的云和云影检测方法、设备及存储介质 |
CN115359370A (zh) * | 2022-10-21 | 2022-11-18 | 哈尔滨工业大学(深圳)(哈尔滨工业大学深圳科技创新研究院) | 一种遥感图像云检测方法、装置、计算机装置及存储介质 |
Non-Patent Citations (3)
Title |
---|
YAO DUAN; CHENYANG ZHU; YUQING LAN; RENJIAO YI; XINWANG LIU; KAI XU: "DisARM: Displacement Aware Relation Module for 3D Detection", 2022 IEEE/CVF CONFERENCE ON COMPUTER VISION AND PATTERN RECOGNITION (CVPR), pages 16959 * |
张利斌,石文轩,孙世磊,高旭东: "多层级特征融合U-Net的遥感图像云检测", 信息系统工程, no. 02, pages 8 - 12 * |
李佳欣,赵鹏,方薇,宋尚香: "基于深度学习的多角度遥感影像云检测方法", 大气与环境光学学报, vol. 15, no. 5, pages 380 - 392 * |
Cited By (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116452936A (zh) * | 2023-04-22 | 2023-07-18 | 安徽大学 | 融合光学和sar影像多模态信息的旋转目标检测方法 |
CN116452936B (zh) * | 2023-04-22 | 2023-09-29 | 安徽大学 | 融合光学和sar影像多模态信息的旋转目标检测方法 |
CN116740584A (zh) * | 2023-06-25 | 2023-09-12 | 安徽大学 | 一种结合CNN和Transformer的渐进式学习梯度的弱监督云检测方法 |
CN116740584B (zh) * | 2023-06-25 | 2024-05-10 | 安徽大学 | 一种弱监督云检测方法 |
CN117093929A (zh) * | 2023-07-06 | 2023-11-21 | 珠海市伊特高科技有限公司 | 基于无监督域自适应网络的截流过电压预测方法及装置 |
CN117093929B (zh) * | 2023-07-06 | 2024-03-29 | 珠海市伊特高科技有限公司 | 基于无监督域自适应网络的截流过电压预测方法及装置 |
CN117522824A (zh) * | 2023-11-16 | 2024-02-06 | 安徽大学 | 一种基于域知识库的多源域泛化的云和云阴影检测方法 |
CN117522824B (zh) * | 2023-11-16 | 2024-05-14 | 安徽大学 | 一种基于域知识库的多源域泛化的云和云阴影检测方法 |
Also Published As
Publication number | Publication date |
---|---|
CN115830471B (zh) | 2023-06-13 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN115830471B (zh) | 一种多尺度特征融合和对齐的域自适应云检测方法 | |
CN107945204B (zh) | 一种基于生成对抗网络的像素级人像抠图方法 | |
CN108549893A (zh) | 一种任意形状的场景文本端到端识别方法 | |
Kim et al. | High-speed drone detection based on yolo-v8 | |
CN111738262A (zh) | 目标检测模型训练、检测方法、装置、设备及存储介质 | |
CN112801270B (zh) | 融合深度卷积与注意力机制的u形网络槽自动识别方法 | |
CN113780296A (zh) | 基于多尺度信息融合的遥感图像语义分割方法及系统 | |
CN114612835A (zh) | 一种基于YOLOv5网络的无人机目标检测模型 | |
CN112381763A (zh) | 一种表面缺陷检测方法 | |
CN113610070A (zh) | 一种基于多源数据融合的滑坡灾害识别方法 | |
CN112507861A (zh) | 一种多层卷积特征融合的行人检测方法 | |
CN113469099B (zh) | 目标检测模型的训练方法、检测方法、装置、设备及介质 | |
CN114332473A (zh) | 目标检测方法、装置、计算机设备、存储介质及程序产品 | |
CN117274608B (zh) | 基于空间细节感知和注意力引导的遥感图像语义分割方法 | |
CN110310305A (zh) | 一种基于bssd检测与卡尔曼滤波的目标跟踪方法与装置 | |
CN115471754A (zh) | 一种基于多维多尺度U-net网络的遥感图像道路提取方法 | |
CN113378642B (zh) | 一种对农村违法占地建筑物进行检测的方法 | |
Shit et al. | An encoder‐decoder based CNN architecture using end to end dehaze and detection network for proper image visualization and detection | |
CN117036941A (zh) | 一种基于孪生Unet模型的建筑物变化检测方法及系统 | |
CN117152435A (zh) | 一种基于U-Net3+的遥感语义分割方法 | |
CN116523885A (zh) | 一种基于多尺度融合及深度学习的pcb缺陷检测方法 | |
CN115713621A (zh) | 一种利用文本信息的跨模态图像目标检测方法和装置 | |
Mao et al. | City object detection from airborne Lidar data with OpenStreetMap‐tagged superpixels | |
Norelyaqine et al. | Deep learning for building extraction from high-resolution remote sensing images | |
Ivanovska et al. | Tomatodiff: On–plant tomato segmentation with denoising diffusion models |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |