CN116895019A - 一种基于动态加权交叉熵损失的遥感图像变化检测方法及其检测系统 - Google Patents
一种基于动态加权交叉熵损失的遥感图像变化检测方法及其检测系统 Download PDFInfo
- Publication number
- CN116895019A CN116895019A CN202310873545.2A CN202310873545A CN116895019A CN 116895019 A CN116895019 A CN 116895019A CN 202310873545 A CN202310873545 A CN 202310873545A CN 116895019 A CN116895019 A CN 116895019A
- Authority
- CN
- China
- Prior art keywords
- remote sensing
- sensing image
- change detection
- cross entropy
- entropy loss
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 230000008859 change Effects 0.000 title claims abstract description 131
- 238000001514 detection method Methods 0.000 title claims abstract description 94
- 238000000034 method Methods 0.000 claims abstract description 38
- 238000012549 training Methods 0.000 claims abstract description 32
- 238000012360 testing method Methods 0.000 claims abstract description 20
- 230000006870 function Effects 0.000 claims abstract description 15
- 238000013528 artificial neural network Methods 0.000 claims abstract description 11
- 238000013136 deep learning model Methods 0.000 claims abstract description 11
- 238000012805 post-processing Methods 0.000 claims abstract description 10
- 238000012545 processing Methods 0.000 claims abstract description 10
- 238000004519 manufacturing process Methods 0.000 claims abstract description 9
- 230000004927 fusion Effects 0.000 claims description 17
- 238000004590 computer program Methods 0.000 claims description 15
- 230000007246 mechanism Effects 0.000 claims description 14
- 230000008569 process Effects 0.000 claims description 13
- 238000004891 communication Methods 0.000 claims description 10
- 238000002372 labelling Methods 0.000 claims description 9
- 238000003860 storage Methods 0.000 claims description 6
- 238000012795 verification Methods 0.000 claims description 6
- 238000005520 cutting process Methods 0.000 claims description 5
- 230000000694 effects Effects 0.000 claims description 4
- 238000000605 extraction Methods 0.000 claims description 4
- 230000000877 morphologic effect Effects 0.000 claims description 4
- 238000012935 Averaging Methods 0.000 claims description 3
- 238000011156 evaluation Methods 0.000 claims description 3
- 238000013507 mapping Methods 0.000 claims description 3
- 238000003062 neural network model Methods 0.000 claims description 3
- 238000007781 pre-processing Methods 0.000 claims description 3
- 230000001360 synchronised effect Effects 0.000 claims description 3
- 230000000007 visual effect Effects 0.000 claims description 3
- 238000004422 calculation algorithm Methods 0.000 abstract description 3
- 238000007418 data mining Methods 0.000 abstract description 2
- 230000007812 deficiency Effects 0.000 abstract description 2
- 238000012937 correction Methods 0.000 description 3
- 238000013135 deep learning Methods 0.000 description 3
- 230000008034 disappearance Effects 0.000 description 3
- 238000005259 measurement Methods 0.000 description 3
- 238000005516 engineering process Methods 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000012952 Resampling Methods 0.000 description 1
- 238000004458 analytical method Methods 0.000 description 1
- 238000003491 array Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 230000003247 decreasing effect Effects 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 235000019800 disodium phosphate Nutrition 0.000 description 1
- 239000006185 dispersion Substances 0.000 description 1
- 238000009826 distribution Methods 0.000 description 1
- 238000002474 experimental method Methods 0.000 description 1
- 238000001914 filtration Methods 0.000 description 1
- 238000012544 monitoring process Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 230000005855 radiation Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/10—Terrestrial scenes
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
- G06N3/0455—Auto-encoder networks; Encoder-decoder networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/0464—Convolutional networks [CNN, ConvNet]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/084—Backpropagation, e.g. using gradient descent
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/09—Supervised learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/77—Processing image or video features in feature spaces; using data integration or data reduction, e.g. principal component analysis [PCA] or independent component analysis [ICA] or self-organising maps [SOM]; Blind source separation
- G06V10/774—Generating sets of training patterns; Bootstrap methods, e.g. bagging or boosting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/77—Processing image or video features in feature spaces; using data integration or data reduction, e.g. principal component analysis [PCA] or independent component analysis [ICA] or self-organising maps [SOM]; Blind source separation
- G06V10/776—Validation; Performance evaluation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/77—Processing image or video features in feature spaces; using data integration or data reduction, e.g. principal component analysis [PCA] or independent component analysis [ICA] or self-organising maps [SOM]; Blind source separation
- G06V10/80—Fusion, i.e. combining data from various sources at the sensor level, preprocessing level, feature extraction level or classification level
- G06V10/806—Fusion, i.e. combining data from various sources at the sensor level, preprocessing level, feature extraction level or classification level of extracted features
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/82—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using neural networks
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02T—CLIMATE CHANGE MITIGATION TECHNOLOGIES RELATED TO TRANSPORTATION
- Y02T10/00—Road transport of goods or passengers
- Y02T10/10—Internal combustion engine [ICE] based vehicles
- Y02T10/40—Engine management systems
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Evolutionary Computation (AREA)
- Health & Medical Sciences (AREA)
- Software Systems (AREA)
- Computing Systems (AREA)
- Artificial Intelligence (AREA)
- General Health & Medical Sciences (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Multimedia (AREA)
- Life Sciences & Earth Sciences (AREA)
- Medical Informatics (AREA)
- Databases & Information Systems (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Computational Linguistics (AREA)
- Data Mining & Analysis (AREA)
- Molecular Biology (AREA)
- General Engineering & Computer Science (AREA)
- Mathematical Physics (AREA)
- Image Analysis (AREA)
Abstract
本发明属于高分辨率遥感影像处理及遥感影像数据挖掘技术领域,特别涉及一种基于动态加权交叉熵损失的遥感图像变化检测方法及其检测系统。步骤1:制作基于高分辨率遥感影像的变化检测数据集;步骤2:构建基于权值共享孪生神经网络的遥感图像变化检测模型;步骤3:设计基于动态加权交叉熵损失函数与优化器;步骤4:使用高分辨率遥感变化检测数据集对改进后的深度学习模型进行训练;步骤5:使用测试时数据增强对测试数据集进行预测,并进行后处理操作,提升预测质量。本发明用以解决遥感图像变化检测算法的不足的问题。
Description
技术领域
本发明属于高分辨率遥感影像处理及遥感影像数据挖掘技术领域,特别涉及一种基于动态加权交叉熵损失的遥感图像变化检测方法及其检测系统。
背景技术
遥感变化检测通过分析从同一地理区域在不同时期获取的多时相遥感图像来识别地表发生的变化信息。目前,已被广泛应用于土地利用变化、灾害评估、城市规划和自然资源监管等各种领域。随着广域、高频次、高分辨率遥感对地观测技术的快速发展,可以获取海量多时相与高空间分辨率遥感影像,为变化检测提供丰富、可靠的数据来源,实现对地表大规模信息快速高效的动态监测。
深度学习方法的出现,为具备长时间跨度与涵盖广阔地理区域的遥感数据的处理与分析提供了一种新的方法。作为非线性建模的有效工具,它能从海量遥感数据中自动学习与提取地物目标的复杂抽象特征,能更好地挖掘遥感数据中的信息,提高遥感数据的解译和分析能力。但现阶段基于深度学习的遥感变化检测技术仍存在如下挑战:(1)变化检测任务中,未变化区域的面积总是远大于变化区域,导致训练数据集类别严重不平衡,使深度学习模型更倾向于预测为未变化,对变化样本的识别能力较弱,准确性下降,并且影响模型在实际应用中的泛化能力。(2)在实际应用中,变化图斑的面积具有较大的差异性,模型对大面积的显著变化,例如城市扩展、森林砍伐等,更易捕捉其特征表示与变化模式,对于小面积的变化,例如临时工棚,乡村道路新建等,则需要深度学习模型具备高分辨率的感知能力和细节提取能力,以准确地检测和识别小面积的变化。(3)深度学习模型的精度与样本集质量密切相关,但分辨率限制、双时相影像配准误差、遥感地物边界受遮挡、阴影等因素影响,会使得遥感影像变化样本在边缘处更容易出现标注误差,导致训练数据中存在错误标签,影响深度学习的训练和性能。
发明内容
本发明提供一种基于动态加权交叉熵损失的遥感图像变化检测方法,遥感图像变化检测算法的不足的问题。
本发明提供一种基于动态加权交叉熵损失的遥感图像变化检测系统用以实现遥感图像变化检测方法。
本发明通过以下技术方案实现:
一种基于动态加权交叉熵损失的遥感图像变化检测方法,所述遥感图像变化检测方法包括以下步骤,
步骤1:制作基于高分辨率遥感影像的变化检测数据集;
步骤2:构建基于权值共享孪生神经网络的遥感图像变化检测模型;
步骤3:设计基于动态加权交叉熵损失函数与优化器;
步骤4:使用高分辨率遥感变化检测数据集对改进后的深度学习模型进行训练;
步骤5:使用测试时数据增强对测试数据集进行预测,并进行后处理操作,提升预测质量。
一种基于动态加权交叉熵损失的遥感图像变化检测方法,所述步骤1具体为,
步骤1.1:对采集的双时相影像完成影像预处理流程;
步骤1.2:对预处理后的变化图斑建立解译标志,通过人工目视解译,对比前后期影像勾绘变化图斑,获得变化图斑矢量,并对其进行栅格化处理得到标签图;
步骤1.3:设定数据集大小为512x512,重叠率为10%,数据集包括对前期遥感影像、后期遥感影像和栅格化处理后的标签图进行同步滑窗裁剪后的图像;
步骤1.4:对步骤1.3得到的数据集按照训练集:验证集:测试集为4:1:1的比例,进行划分。
一种基于动态加权交叉熵损失的遥感图像变化检测方法,所述步骤2的权值共享孪生神经网络模型包括孪生网络结构、特征融合模块及深度监督机制,
所述孪生网络结构:采用权值共享机制,能够减少通道融合时的信息损失;使用ResNet34作为孪生结构的特征提取层,由多个残差模块级联构成,通过形成恒等映射,用以保证深层网络学习到优秀特征;
所述特征融合模块:引入UNet框架中的解码结构,将多次卷积操作得到的特征图,通过反卷积逐步复原,使特征图在保证没有缺失高级语义信息的情况下,增大其尺寸,利用较大的特征图去检测小体积目标,提升网络对小体积目标变化检测的准确性;
所述深度监督机制:被添加在各个尺度编码层的输出后,通过增加额外的辅助分类器来对主干网络进行监督。
一种基于动态加权交叉熵损失的遥感图像变化检测方法,所述步骤3具体包含以下步骤:
步骤3.1:使用softmax对预测图进行处理,并结合标签图一同计算交叉熵损失;
步骤3.2:对标签图进行连通域标记,对每个连通域,计算其距离图;
步骤3.3:利用高斯曲线对距离图进行重映射,使变化类别质心处具有较大权重值,边缘处具有较小权重值,以平衡面积差异的影响,并削弱边缘不确定性标签的干扰;
步骤3.4:将权重图中的每个像素与对应的交叉熵图对应相乘,计算其平均值,得到动态加权交叉熵L;
步骤3.5:优化器使用AdamW,初始学习率设置为0.005,学习率策略选择线性学习率衰减与多项式学习率衰减的组合策略。
一种基于动态加权交叉熵损失的遥感图像变化检测方法,所述步骤3.4中的损失函数公式定义如下所示:
其中,yi表示像素i的标签,变化类别为1,不变类别为0,pi表示像素i预测为变化的概率,wi表示像素对应的权重值。
一种基于动态加权交叉熵损失的遥感图像变化检测方法,所述步骤4具体为,利用构建的高分辨率遥感影像变化检测数据集对改进后的变化检测模型进行训练;在每次训练迭代过程中,随机选择数据增强进行组合,增加模型的泛化性能;
以验证集的mIOU指标作为模型效果的评价指标。
一种基于动态加权交叉熵损失的遥感图像变化检测方法,所述步骤5具体包括以下步骤,
步骤5.1:在对测试数据进行模型推理预测的过程中,对输入数据进行不同形式的增强操作,生成多个增强样本,再使用模型对这些增强样本进行预测;最后,将这些预测结果进行平均或投票,得到最终的预测结果;
步骤5.2:利用形态学操作对最终的预测结果进行后处理,提升预测质量。
一种基于动态加权交叉熵损失的遥感图像变化检测系统,所述遥感图像变化检测系统利用如权利要求1试试遥感图像变化检测方法,包括,
图像采集模块,用于制作基于高分辨率遥感影像的变化检测数据集;
遥感图像变化检测模型训练模块,用于构建基于权值共享孪生神经网络的遥感图像变化检测模型;设计基于动态加权交叉熵损失函数与优化器;使用高分辨率遥感变化检测数据集对改进后的深度学习模型进行训练;
预测模块,用于使用测试时数据增强对测试数据集进行预测,并进行后处理操作,提升预测质量。
一种电子设备,包括处理器、通信接口、存储器和通信总线,其中,处理器,通信接口,存储器通过通信总线完成相互间的通信;
存储器,用于存放计算机程序;
处理器,用于执行存储器上所存放的程序时,实现上述的方法步骤。
一种计算机可读存储介质,所述计算机可读存储介质内存储有计算机程序,所述计算机程序被处理器执行时实现上述的方法步骤。
本发明的有益效果是:
本发明使用的变化检测模型使用权值共享的网络结构,能够减少双时相影像特征融合过程中的信息损失,并减少参数量。在特征融合模块引入解码结构,避免了基于距离度量的模型具有阈值确定困难且模型自动化程度低的问题,同时能提升网络对小体积目标变化检测的准确性。通过引入深度监督机制,能解决深度神经网络训练梯度消失、收敛速度慢等问题,提高检测精度。
本发明使用的基于动态加权交叉熵损失函数,通过定义变化区域内部质心处更高的权重值,边缘处更低的权重值,同时动态调整每张样本中变化样本与不变样本的权重比例,降低变化检测任务中,由类别不平衡,图斑面积差异及边缘标注不确定性带来的影响,提高变化检测模型训练的精度与鲁棒性。
附图说明
图1是本发明的方法流程图。
图2是本发明的动态加权交叉熵损失函数计算流程图。
图3是本发明的变化检测对比实验效果图。
具体实施方式
以下描述中,为了说明而不是为了限定,提出了诸如特定系统结构、技术之类的具体细节,以便透彻理解本申请实施例。然而,本领域的技术人员应当清楚,在没有这些具体细节的其他实施例中也可以实现本申请。在其它情况下,省略对众所周知的系统、装置、电路以及方法的详细说明,以免不必要的细节妨碍本申请的描述。
应当理解,当在本说明书和所附权利要求书中使用时,术语“包括”指示所描述特征、整体、步骤、操作、元素和/或组件的存在,但并不排除一个或多个其它特征、整体、步骤、操作、元素、组件和/或其集合的存在或添加。
还应当理解,在本申请说明书中所使用的术语仅仅是出于描述特定实施例的目的而并不意在限制本申请。如在本申请说明书和所附权利要求书中所使用的那样,除非上下文清楚地指明其它情况,否则单数形式的“一”、“一个”及“该”意在包括复数形式。
下面结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本申请的一部分实施例,而不是全部的实施例。基于本申请中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其它实施例,都属于本申请保护的范围。
在下面的描述中阐述了很多具体细节以便于充分理解本申请,但是本申请还可以采用其它不同于在此描述的其它方式来实施,本领域技术人员可以在不违背本申请内涵的情况下做类似推广,因此本申请不受下面公开的具体实施例的限制。
实施例1
本发明实施例提供了一种基于动态加权交叉熵损失的遥感图像变化检测方法,所述遥感图像变化检测方法包括以下步骤,
步骤1:制作基于高分辨率遥感影像的变化检测数据集,具体为,基于双时相高分辨率遥感影像,采集变化图斑,并制作遥感图像变化检测数据集;
步骤2:构建基于权值共享孪生神经网络的遥感图像变化检测模型,通过特征融合模块与深度监督机制提升对小目标检测的准确性;
步骤3:设计基于动态加权交叉熵损失函数与优化器,使模型在训练过程中更加关注变化类别,同时降低边缘处标注不确定性及变化图斑面积差异性的影响;
步骤4:使用高分辨率遥感变化检测数据集对改进后的深度学习模型进行训练;
步骤5:使用测试时数据增强对测试数据集进行预测,以提高模型的泛化性能,并进行后处理操作,提升预测质量。
一种基于动态加权交叉熵损失的遥感图像变化检测方法,所述步骤1具体为,
步骤1.1:对采集的双时相影像完成影像预处理流程;包括辐射校正、几何校正、正射校正、图像融合,然后对双时相影像进行重采样,保证分辨率一致,最后进行图像配准,保持同名地物位置对齐,配准误差要求小于1个像素;
步骤1.2:对预处理后的变化图斑建立解译标志,通过人工目视解译,对比前后期影像勾绘变化图斑,获得变化图斑矢量,并对其变化图斑矢量其进行栅格化处理得到标签图,使其像元分辨率与遥感影像保持一致;
步骤1.3:设定数据集大小为512x512,重叠率为10%,数据集包括对前期遥感影像、后期遥感影像和栅格化处理后的标签图进行同步滑窗裁剪;同时考虑未变化区域远大于变化区域,仅保留标签图中变化像素占比大于1%的样本对;
步骤1.4:对步骤1.3得到的数据集按照训练集:验证集:测试集为4:1:1的比例,进行划分。
一种基于动态加权交叉熵损失的遥感图像变化检测方法,所述步骤2的权值共享孪生神经网络模型包括孪生网络结构、特征融合模块及深度监督机制,
所述孪生网络结构:采用权值共享机制,能够减少通道融合时的信息损失,同时极大地减少参数量;使用ResNet34作为孪生结构的特征提取层,由多个残差模块级联构成,通过形成恒等映射,用以保证深层网络学习到优秀特征;
所述特征融合模块:引入UNet框架中的解码结构,将多次卷积操作得到的特征图,通过反卷积逐步复原,使特征图在保证没有缺失高级语义信息的情况下,增大其尺寸,利用较大的特征图去检测小体积目标,提升网络对小体积目标变化检测的准确性;
所述深度监督机制:被添加在各个尺度编码层的输出后,通过增加额外的辅助分类器来对主干网络进行监督,能解决深度神经网络训练梯度消失、收敛速度慢等问题。
一种基于动态加权交叉熵损失的遥感图像变化检测方法,所述步骤3用以解决变化检测模型训练中类别不平衡、变化图斑面积具有较大差异性,边缘标签具有不确定性的问题具体包含以下步骤:
步骤3.1:使用softmax对预测图进行处理,并结合标签图一同计算交叉熵损失;所述预测图为前后期影像输入到深度学习模型后的输出结果;
步骤3.2:对标签图进行连通域标记,对每个连通域,计算其距离图;并找到每个连通域内的最大与最小距离,然后将每个连通域内的距离值归一化到0-1范围内;
步骤3.3:利用高斯曲线对距离图进行重映射,使变化类别质心处具有较大权重值,边缘处具有较小权重值,以平衡面积差异的影响,并削弱边缘不确定性标签的干扰;其中,高斯曲线的峰值,通过标签图内变化像素与不变像素的反比进行设置,可降低不平衡类别的差异性;标准差参数用以控制曲线的离散程度。映射后的距离图作为损失权重图W;
步骤3.4:将权重图中的每个像素与对应的交叉熵图对应相乘,计算其平均值,得到动态加权交叉熵L;
步骤3.5:优化器使用AdamW,初始学习率设置为0.005,学习率策略选择线性学习率衰减与多项式学习率衰减的组合策略,使模型在训练早期使用较高的学习率进行快速收敛,在后期使用较低的学习率进行更稳定的优化。
一种基于动态加权交叉熵损失的遥感图像变化检测方法,所述步骤3.4中的损失函数公式定义如下所示:
其中,yi表示像素i的标签,变化类别为1,不变类别为0,pi表示像素i预测为变化的概率,wi表示像素对应的权重值。
一种基于动态加权交叉熵损失的遥感图像变化检测方法,所述步骤4具体为,利用构建的高分辨率遥感影像变化检测数据集对改进后的变化检测模型进行训练;在每次训练迭代过程中,随机选择数据增强进行组合,增加模型的泛化性能,数据增强包括随机裁剪,随机翻转,亮度、对比度、饱和度和色度调整;
训练批次设置为8,共迭代4万次,最后以验证集的mIOU指标作为模型效果的评价指标。
一种基于动态加权交叉熵损失的遥感图像变化检测方法,所述步骤5具体包括以下步骤,
步骤5.1:在对测试数据进行模型推理预测的过程中,对输入数据进行随机缩放、随机翻转等不同形式的增强操作,生成多个增强样本,再使用模型对这些增强样本进行预测;最后,将这些预测结果进行平均或投票,得到最终的预测结果;
步骤5.2:利用形态学操作对最终的预测结果进行后处理,提升预测质量。使用形态学闭操作用以填充预测结果中的空洞并平滑边界。使用小斑滤除,对结果中的小对象或小连通区域进行滤除。
实施例2
本发明实施例提供了一种基于动态加权交叉熵损失的遥感图像变化检测系统,所述遥感图像变化检测系统利用所述基于动态加权交叉熵损失的遥感图像变化检测方法,包括图像采集模块、遥感图像变化检测模型训练模块和预测模块;
图像采集模块,用于制作基于高分辨率遥感影像的变化检测数据集,具体为,基于双时相高分辨率遥感影像,采集变化图斑,并制作遥感图像变化检测数据集;
遥感图像变化检测模型训练模块,用于构建基于权值共享孪生神经网络的遥感图像变化检测模型,通过特征融合模块与深度监督机制提升对小目标检测的准确性;设计基于动态加权交叉熵损失函数与优化器,使模型在训练过程中更加关注变化类别,同时降低边缘处标注不确定性及变化图斑面积差异性的影响;使用高分辨率遥感变化检测数据集对改进后的深度学习模型进行训练;
预测模块,用于使用测试时数据增强对测试数据集进行预测,以提高模型的泛化性能,并进行后处理操作,提升预测质量。
由上可见,本发明实施例通过运行计算机程序实现如实施例一所述的遥感图像变化检测方法,使用的变化检测模型使用权值共享的网络结构,能够减少双时相影像特征融合过程中的信息损失,并减少参数量。在特征融合模块引入解码结构,避免了基于距离度量的模型具有阈值确定困难且模型自动化程度低的问题,同时能提升网络对小体积目标变化检测的准确性。通过引入深度监督机制,能解决深度神经网络训练梯度消失、收敛速度慢等问题,提高检测精度。
使用的基于动态加权交叉熵损失函数,通过定义变化区域内部质心处更高的权重值,边缘处更低的权重值,同时动态调整每张样本中变化样本与不变样本的权重比例,降低变化检测任务中,由类别不平衡,图斑面积差异及边缘标注不确定性带来的影响,提高变化检测模型训练的精度与鲁棒性。
实施例3
本发明实施例提供了一种电子设备,该电子设备包括存储器、处理器以及存储在上述存储器中并可在上述处理器上运行的计算机程序,其中,存储器用于存储软件程序以及模块,处理器通过运行存储在存储器的软件程序以及模块,从而执行各种功能应用以及数据处理。存储器和处理器通过总线连接。具体地,处理器通过运行存储在存储器的上述计算机程序时实现上述实施例一中的任一步骤。
应当理解,在本发明实施例中,所称处理器可以是中央处理单元(CentralProcessing Unit,CPU),该处理器还可以是其他通用处理器、数字信号处理器(DigitalSignal Processor,DSP)、专用集成电路(Application Specific Integrated Circuit,ASIC)、现成可编程门阵列(Field-Programmable Gate Array,FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。
存储器可以包括只读存储器、快闪存储器和随机存储器,并向处理器提供指令和数据。存储器的一部分或全部还可以包括非易失性随机存取存储器。
由上可见,本发明实施例提供的电子设备,可通过运行计算机程序实现如实施例一所述的遥感图像变化检测方法,使用的变化检测模型使用权值共享的网络结构,能够减少双时相影像特征融合过程中的信息损失,并减少参数量。在特征融合模块引入解码结构,避免了基于距离度量的模型具有阈值确定困难且模型自动化程度低的问题,同时能提升网络对小体积目标变化检测的准确性。通过引入深度监督机制,能解决深度神经网络训练梯度消失、收敛速度慢等问题,提高检测精度。
使用的基于动态加权交叉熵损失函数,通过定义变化区域内部质心处更高的权重值,边缘处更低的权重值,同时动态调整每张样本中变化样本与不变样本的权重比例,降低变化检测任务中,由类别不平衡,图斑面积差异及边缘标注不确定性带来的影响,提高变化检测模型训练的精度与鲁棒性。
应当理解,上述集成的模块/单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读存储介质中。基于这样的理解,本发明实现上述实施例方法中的全部或部分流程,也可以通过计算机程序来指令相关的硬件来完成,上述计算机程序可存储于以计算机可读存储介质中,该计算机程序在被处理器执行时,可实现上述各个方法实施例的步骤。其中,上述计算机程序包括计算机程序代码,上述计算机程序代码可以为源代码形式、对象代码形式、可执行文件或某些中间形式等。上述计算机可读介质可以包括:能够携带上述计算机程序代码的任何实体或装置、记录介质、U盘、移动硬盘、磁碟、光盘、计算机存储器、只读存储器(Read-Only Memory,ROM)、随机存取存储器(Random Access Memory,RAM)、电载波信号、电信信号以及软件分发介质等。需要说明的是,上述计算机可读存储介质包含的内容可以根据司法管辖区内立法和专利实践的要求进行适当的增减。
对所公开的实施例的上述说明,使本领域专业技术人员能够实现或使用本发明。对这些实施例的多种修改对本领域的专业技术人员来说将是显而易见的,本文中所定义的一般原理可以在不脱离本发明的精神或范围的情况下,在其它实施例中实现。因此,本发明将不会被限制于本文所示的这些实施例,而是要符合与本文所公开的原理和新颖特点相一致的最宽的范围。
所属领域的技术人员可以清楚地了解到,为了描述的方便和简洁,仅以上述各功能单元、模块的划分进行举例说明,实际应用中,可以根据需要而将上述功能分配由不同的功能单元、模块完成,即将上述装置的内部结构划分成不同的功能单元或模块,以完成以上描述的全部或者部分功能。实施例中的各功能单元、模块可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中,上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。另外,各功能单元、模块的具体名称也只是为了便于相互区分,并不用于限制本发明的保护范围。上述系统中单元、模块的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。
需要说明的是,上述实施例所提供的方法及其细节举例可结合至实施例提供的装置和设备中,相互参照,不再赘述。
本领域普通技术人员可以意识到,结合本文中所公开的实施例描述的各实例的单元及算法步骤,能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟是以硬件还是软件方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同的方法来实现所描述的功能,但是这种实现不应认为超出本发明的范围。
在本发明所提供的实施例中,应该理解到,所揭露的装置/终端设备和方法,可以通过其他的方式实现。例如,以上所描述的装置/设备实施例仅仅是示意性的,例如,上述模块或单元的划分,仅仅为一种逻辑功能划分,实际实现时可以由另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。
上述实施例仅用以说明本发明的技术方案,而非对其限制;尽管参照前述实施例对本发明进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本发明各实施例技术方案的精神和范围,均应包含在本发明的保护范围之内。
Claims (10)
1.一种基于动态加权交叉熵损失的遥感图像变化检测方法,其特征在于,所述遥感图像变化检测方法包括以下步骤,
步骤1:制作基于高分辨率遥感影像的变化检测数据集;
步骤2:构建基于权值共享孪生神经网络的遥感图像变化检测模型;
步骤3:设计基于动态加权交叉熵损失函数与优化器;
步骤4:使用高分辨率遥感变化检测数据集对改进后的深度学习模型进行训练;
步骤5:使用测试时数据增强对测试数据集进行预测,并进行后处理操作,提升预测质量。
2.根据权利要求1所述一种基于动态加权交叉熵损失的遥感图像变化检测方法,其特征在于,所述步骤1具体为,
步骤1.1:对采集的双时相影像完成影像预处理流程;
步骤1.2:对预处理后的变化图斑建立解译标志,通过人工目视解译,对比前后期影像勾绘变化图斑,获得变化图斑矢量,并对其进行栅格化处理得到标签图;
步骤1.3:设定数据集大小为512x512,重叠率为10%,数据集包括对前期遥感影像、后期遥感影像和栅格化处理后的标签图进行同步滑窗裁剪后的图像;
步骤1.4:对步骤1.3得到的数据集按照训练集:验证集:测试集为4:1:1的比例,进行划分。
3.根据权利要求1所述一种基于动态加权交叉熵损失的遥感图像变化检测方法,其特征在于,所述步骤2的权值共享孪生神经网络模型包括孪生网络结构、特征融合模块及深度监督机制,
所述孪生网络结构:采用权值共享机制,能够减少通道融合时的信息损失;使用ResNet34作为孪生结构的特征提取层,由多个残差模块级联构成,通过形成恒等映射,用以保证深层网络学习到优秀特征;
所述特征融合模块:引入UNet框架中的解码结构,将多次卷积操作得到的特征图,通过反卷积逐步复原,使特征图在保证没有缺失高级语义信息的情况下,增大其尺寸,利用较大的特征图去检测小体积目标,提升网络对小体积目标变化检测的准确性;
所述深度监督机制:被添加在各个尺度编码层的输出后,通过增加额外的辅助分类器来对主干网络进行监督。
4.根据权利要求3所述一种基于动态加权交叉熵损失的遥感图像变化检测方法,其特征在于,所述步骤3具体包含以下步骤:
步骤3.1:使用softmax对预测图进行处理,并结合标签图一同计算交叉熵损失;
步骤3.2:对标签图进行连通域标记,对每个连通域,计算其距离图;
步骤3.3:利用高斯曲线对距离图进行重映射,使变化类别质心处具有较大权重值,边缘处具有较小权重值,以平衡面积差异的影响,并削弱边缘不确定性标签的干扰;
步骤3.4:将权重图中的每个像素与对应的交叉熵图对应相乘,计算其平均值,得到动态加权交叉熵L;
步骤3.5:优化器使用AdamW,初始学习率设置为0.005,学习率策略选择线性学习率衰减与多项式学习率衰减的组合策略。
5.根据权利要求4所述一种基于动态加权交叉熵损失的遥感图像变化检测方法,其特征在于,所述步骤3.4中的损失函数公式定义如下所示:
其中,yi表示像素i的标签,变化类别为1,不变类别为0,pi表示像素i预测为变化的概率,wi表示像素对应的权重值。
6.根据权利要求1所述一种基于动态加权交叉熵损失的遥感图像变化检测方法,其特征在于,所述步骤4具体为,利用构建的高分辨率遥感影像变化检测数据集对改进后的变化检测模型进行训练;在每次训练迭代过程中,随机选择数据增强进行组合,增加模型的泛化性能;
以验证集的mIOU指标作为模型效果的评价指标。
7.根据权利要求6所述一种基于动态加权交叉熵损失的遥感图像变化检测方法,其特征在于,所述步骤5具体包括以下步骤,
步骤5.1:在对测试数据进行模型推理预测的过程中,对输入数据进行不同形式的增强操作,生成多个增强样本,再使用模型对这些增强样本进行预测;最后,将这些预测结果进行平均或投票,得到最终的预测结果;
步骤5.2:利用形态学操作对最终的预测结果进行后处理,提升预测质量。
8.根据权利要求2所述一种基于动态加权交叉熵损失的遥感图像变化检测系统,其特征在于,所述遥感图像变化检测系统利用如权利要求1试试遥感图像变化检测方法,包括,
图像采集模块,用于制作基于高分辨率遥感影像的变化检测数据集;
遥感图像变化检测模型训练模块,用于构建基于权值共享孪生神经网络的遥感图像变化检测模型;步骤3:设计基于动态加权交叉熵损失函数与优化器;使用高分辨率遥感变化检测数据集对改进后的深度学习模型进行训练;
预测模块,用于使用测试时数据增强对测试数据集进行预测,并进行后处理操作,提升预测质量。
9.一种电子设备,其特征在于,包括处理器、通信接口、存储器和通信总线,其中,处理器,通信接口,存储器通过通信总线完成相互间的通信;
存储器,用于存放计算机程序;
处理器,用于执行存储器上所存放的程序时,实现权利要求1-7任一所述的方法步骤。
10.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质内存储有计算机程序,所述计算机程序被处理器执行时实现权利要求1-7任一所述的方法步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310873545.2A CN116895019A (zh) | 2023-07-17 | 2023-07-17 | 一种基于动态加权交叉熵损失的遥感图像变化检测方法及其检测系统 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310873545.2A CN116895019A (zh) | 2023-07-17 | 2023-07-17 | 一种基于动态加权交叉熵损失的遥感图像变化检测方法及其检测系统 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN116895019A true CN116895019A (zh) | 2023-10-17 |
Family
ID=88311823
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202310873545.2A Pending CN116895019A (zh) | 2023-07-17 | 2023-07-17 | 一种基于动态加权交叉熵损失的遥感图像变化检测方法及其检测系统 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN116895019A (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN117253155A (zh) * | 2023-11-17 | 2023-12-19 | 山东大学 | 一种基于深度学习的人类活动检测方法及系统 |
-
2023
- 2023-07-17 CN CN202310873545.2A patent/CN116895019A/zh active Pending
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN117253155A (zh) * | 2023-11-17 | 2023-12-19 | 山东大学 | 一种基于深度学习的人类活动检测方法及系统 |
CN117253155B (zh) * | 2023-11-17 | 2024-03-15 | 山东大学 | 一种基于深度学习的人类活动检测方法及系统 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN108846835B (zh) | 基于深度可分离卷积网络的图像变化检测方法 | |
Hou et al. | Deep learning-based subsurface target detection from GPR scans | |
Zhou et al. | Multiscale water body extraction in urban environments from satellite images | |
Chen et al. | A spectral gradient difference based approach for land cover change detection | |
CN103400151B (zh) | 一体化的光学遥感影像与gis自动配准与水体提取方法 | |
CN109766936B (zh) | 基于信息传递和注意力机制的图像变化检测方法 | |
CN102938071B (zh) | 基于非局部均值的sar图像变化检测模糊聚类分析方法 | |
Modava et al. | Hierarchical coastline detection in SAR images based on spectral‐textural features and global–local information | |
CN104182985B (zh) | 遥感图像变化检测方法 | |
CN106650812A (zh) | 一种卫星遥感影像的城市水体提取方法 | |
CN105005761B (zh) | 一种结合显著性分析的全色高分辨率遥感图像道路检测方法 | |
CN113657324A (zh) | 基于遥感影像地物分类的城市功能区识别方法 | |
CN106372624A (zh) | 人脸识别方法及系统 | |
CN102930519A (zh) | 基于非局部均值的sar图像变化检测差异图生成方法 | |
CN116895019A (zh) | 一种基于动态加权交叉熵损失的遥感图像变化检测方法及其检测系统 | |
Zhang et al. | Investigation of pavement crack detection based on deep learning method using weakly supervised instance segmentation framework | |
Zhang et al. | Impervious surface extraction from high-resolution satellite image using pixel-and object-based hybrid analysis | |
CN111079807B (zh) | 一种地物分类方法及装置 | |
CN113255580A (zh) | 抛洒物识别、车辆抛洒滴漏识别方法和装置 | |
Wang et al. | Feature extraction and segmentation of pavement distress using an improved hybrid task cascade network | |
CN113378642B (zh) | 一种对农村违法占地建筑物进行检测的方法 | |
Luo et al. | New deep learning method for efficient extraction of small water from remote sensing images | |
CN106548195A (zh) | 一种基于改进型hog‑ulbp特征算子的目标检测方法 | |
Zhao et al. | MED-YOLOv8s: a new real-time road crack, pothole, and patch detection model | |
CN112613354A (zh) | 一种基于稀疏降噪自编码器的异质遥感图像变化检测方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |