CN117992737B - 基于遥感大数据的土地利用判别方法、装置及电子设备 - Google Patents
基于遥感大数据的土地利用判别方法、装置及电子设备 Download PDFInfo
- Publication number
- CN117992737B CN117992737B CN202410381604.9A CN202410381604A CN117992737B CN 117992737 B CN117992737 B CN 117992737B CN 202410381604 A CN202410381604 A CN 202410381604A CN 117992737 B CN117992737 B CN 117992737B
- Authority
- CN
- China
- Prior art keywords
- token
- discrimination
- transducer layer
- token sequence
- remote sensing
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 43
- 239000013598 vector Substances 0.000 claims abstract description 97
- 238000012549 training Methods 0.000 claims abstract description 35
- 238000012795 verification Methods 0.000 claims abstract description 22
- 238000007781 pre-processing Methods 0.000 claims abstract description 16
- 230000011218 segmentation Effects 0.000 claims abstract description 4
- 230000004913 activation Effects 0.000 claims description 27
- 230000006870 function Effects 0.000 claims description 21
- 238000013507 mapping Methods 0.000 claims description 9
- 238000012545 processing Methods 0.000 claims description 7
- 238000012544 monitoring process Methods 0.000 claims description 5
- ORILYTVJVMAKLC-UHFFFAOYSA-N Adamantane Natural products C1C(C2)CC3CC1CC2C3 ORILYTVJVMAKLC-UHFFFAOYSA-N 0.000 claims description 3
- 238000012935 Averaging Methods 0.000 claims description 3
- FGUUSXIOTUKUDN-IBGZPJMESA-N C1(=CC=CC=C1)N1C2=C(NC([C@H](C1)NC=1OC(=NN=1)C1=CC=CC=C1)=O)C=CC=C2 Chemical compound C1(=CC=CC=C1)N1C2=C(NC([C@H](C1)NC=1OC(=NN=1)C1=CC=CC=C1)=O)C=CC=C2 FGUUSXIOTUKUDN-IBGZPJMESA-N 0.000 claims description 3
- 238000004364 calculation method Methods 0.000 claims description 3
- 238000006243 chemical reaction Methods 0.000 claims description 3
- 239000000463 material Substances 0.000 claims description 3
- 238000005457 optimization Methods 0.000 claims description 3
- 230000009466 transformation Effects 0.000 claims description 3
- 238000012850 discrimination method Methods 0.000 claims 7
- 238000004891 communication Methods 0.000 claims 1
- 230000007547 defect Effects 0.000 abstract description 2
- 230000010365 information processing Effects 0.000 abstract description 2
- 230000000007 visual effect Effects 0.000 description 8
- 238000007726 management method Methods 0.000 description 7
- 238000012271 agricultural production Methods 0.000 description 6
- 238000003860 storage Methods 0.000 description 6
- 238000013135 deep learning Methods 0.000 description 4
- 238000009826 distribution Methods 0.000 description 4
- 238000005516 engineering process Methods 0.000 description 4
- 230000000694 effects Effects 0.000 description 3
- 230000008859 change Effects 0.000 description 2
- 238000004590 computer program Methods 0.000 description 2
- 238000013527 convolutional neural network Methods 0.000 description 2
- 230000008569 process Effects 0.000 description 2
- XLYOFNOQVPJJNP-UHFFFAOYSA-N water Substances O XLYOFNOQVPJJNP-UHFFFAOYSA-N 0.000 description 2
- 241000218631 Coniferophyta Species 0.000 description 1
- 240000007594 Oryza sativa Species 0.000 description 1
- 235000007164 Oryza sativa Nutrition 0.000 description 1
- 241001409305 Siraitia Species 0.000 description 1
- 241000209140 Triticum Species 0.000 description 1
- 235000021307 Triticum Nutrition 0.000 description 1
- 240000008042 Zea mays Species 0.000 description 1
- 235000005824 Zea mays ssp. parviglumis Nutrition 0.000 description 1
- 235000002017 Zea mays subsp mays Nutrition 0.000 description 1
- 230000002411 adverse Effects 0.000 description 1
- 238000004458 analytical method Methods 0.000 description 1
- 238000013459 approach Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 235000005822 corn Nutrition 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000018109 developmental process Effects 0.000 description 1
- 238000010586 diagram Methods 0.000 description 1
- 230000007613 environmental effect Effects 0.000 description 1
- 230000005358 geomagnetic field Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000012806 monitoring device Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000003672 processing method Methods 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 235000009566 rice Nutrition 0.000 description 1
Abstract
本发明涉及大数据信息处理技术领域,具体涉及一种基于遥感大数据的土地利用判别方法、装置及电子设备,步骤如下:对高分辨率遥感大数据中的遥感雷达信号数据集进行预处理;再对预处理后的数据进行数据块切分,并提取数据块的高维向量表示;获取网络骨干部分每一Transformer层的输出令牌序列;获取判别头一的判别预测概率;使用区域选择模块通过第十一Transformer层的输出令牌序列和判别头一的判别预测概率获取区域选择列表;将所选择的区域输入到Transformer层;获取判别头二和判别头三的判别预测概率;将将预处理后的遥感雷达信号数据集划分为训练集和验证集,实现本发明所提出网络的训练。本方法克服了以往方法的弊端,更充分地挖掘了遥感雷达信号数据之间的细微差异。
Description
技术领域
本发明涉及大数据信息处理技术领域,尤其涉及一种基于遥感大数据的土地利用判别方法、装置及电子设备。
背景技术
随着卫星和无人机等平台和监测设备的进步,遥感技术得到了快速地发展。遥感技术作为一种非接触式的数据采集手段,在自然资源管理、环境监测、农业生产、城市规划等领域中发挥着越来越重要的作用。遥感雷达作为遥感技术的主要数据来源之一,具有丰富的信息量和广泛的应用前景。然而,随着遥感数据的不断增加和获取的遥感信号的复杂性增加,传统的数据处理和分析方法已经难以满足对信号内容的高效准确判别和解释的需求。因此,借助深度学习技术在遥感大数据的土地利用判别中的应用成为了当前研究的热点之一。然而,尽管深度学习技术在数据处理中表现出了巨大的潜力,但以往的一些方法在遥感雷达信号数据的土地利用判别任务中的表现并不理想。遥感雷达信号数据具有较大的类内差异和较高的类间相似性,这使得传统的深度学习网络在学习信号特征时往往难以充分挖掘遥感雷达信号数据之间的细微差异,导致判别性能下降。同时,遥感雷达信号数据通常受到地形、地磁场、云层、遮挡等复杂环境因素的影响,这也增加了遥感数据的土地利用判别难度。因此,针对遥感雷达信号数据的特点和挑战,需要进一步研究和探索新的深度学习方法,以提高遥感雷达信号数据的土地利用判别的准确性和鲁棒性。
因此,本发明提出了一种基于遥感大数据的土地利用判别方法、装置及电子设备来解决上述问题。
发明内容
本发明针对现有技术的不足,研制一种基于遥感大数据的土地利用判别方法、装置及电子设备来提高遥感雷达信号数据的土地利用判别的准确性和鲁棒性。
本发明解决技术问题的技术方案为:一种基于遥感大数据的土地利用判别方法,包括如下步骤:
a)对高分辨率遥感大数据中的遥感雷达信号数据集进行数据预处理,得到预处理后的数据集/>;
b)将预处理后的遥感雷达信号数据切分成数据块,并通过嵌入层获得每个数据块的高维向量表示,并添加判别令牌与位置编码,以获得令牌序列
c)将令牌序列输入至网络骨干部分,获得骨干部分每一Transformer层的输出令牌序列,并将第十二Transformer层所输出的令牌序列中的判别令牌分离出来并输入到第一判别头以获得判别预测概率;
d)将第十一Transformer层所输出的令牌序列中的数据块令牌分离出来,并与判别预测概率同时输入至区域选择模块,得到区域选择列表;
e)分别从第九Transformer层所输出的令牌序列和从第十一Transformer层所输出的令牌序列中选取与区域选择列表中的索引值所对应的数据块令牌,并保留判别令牌,得到新的令牌序列和/>;将新的令牌序列分别输入到第十三Transformer层和第十四Transformer层,分别得到令牌序列/>和/>,并从中分离出判别令牌/>和/>,分别输入到第二判别头和第三判别头以获得判别预测概率/>和/>;
f)将预处理后的遥感雷达信号数据集按照3:1的比例划分为训练集和验证集,并将训练集按照b)~e)所述依次输入到本发明所提出网络,并对判别预测/>、/>、/>进行监督;训练完毕后,将验证集按照b)~e)依次输入到本发明所提出网络,以验证预测结果。
上述的基于遥感大数据的土地利用判别方法基础上,步骤a)包括如下步骤:
a-1)高分辨率遥感大数据中的遥感雷达信号数据集表达式如下:
,/>,/>为数据集中遥感雷达信号数据样本的数量,/>指数据集中第/>个样本;
a-2)将数据集中所包含样本雷达信号数据的空间轴统一缩放到/>,然后进行数据增强操作,得到预处理后的数据集/>,/>,/>指预处理后的数据集中第/>个样本。
上述的基于遥感大数据的土地利用判别方法基础上,步骤b)包括如下步骤:
b-1)使用滑动窗口策略将预处理后的遥感雷达信号数据切分成数据块,具体表达式如下:/>,/>指/>中第/>个数据块,其中,滑动窗口的尺寸为/>,滑动步长为/>,所切分出的数据块的数量为/>,将/>输入到嵌入层,获得每个数据块的高维向量表示/>,称为数据块令牌,向量维度为/>,其中嵌入层的计算方式可以表示为:
,
表示展平操作,用以将输入数据块/>展平为一个一维向量,而表示线性变换操作;
b-2)初始化一个值为全0的向量,称为判别令牌,向量维度为/>,将判别令牌与数据块令牌/>进行拼接,得到令牌序列/>,向量维度为768;
b-3) 使用正态分布初始化一个长度为的可学习向量序列,作为可学习位置编码,向量维度为768,将与/>进行对应元素相加操作,得到令牌序列/>,向量维度为768。
上述的基于遥感大数据的土地利用判别方法基础上,步骤c)包括如下步骤:
c-1)将令牌序列输入至网络骨干部分,网络骨干部分包括第一Transformer层、第二Transformer层、第三Transformer层、第四Transformer层、第五Transformer层、第六Transformer层、第七Transformer层、第八Transformer层、第九Transformer层、第十Transformer层、第十一Transformer层和第十二Transformer层,将令牌序列/>输入至第一Transformer层得到令牌序列,向量维度为768;将第一Transformer层得到令牌序列/>输入至第二Transformer层得到令牌序列/>,向量维度为768;将第二Transformer层得到令牌序列/>输入至第三Transformer层得到令牌序列,向量维度为768;将第三Transformer层得到令牌序列/>输入至第四Transformer层得到令牌序列/>,向量维度为768;将第四Transformer层得到令牌序列/>输入至第五Transformer层得到令牌序列,向量维度为768;将第五Transformer层得到令牌序列输入至第六Transformer层得到令牌序列/>,向量维度为768;将第六Transformer层得到令牌序列/>输入至第七Transformer层得到令牌序列,向量维度为768;将第七Transformer层得到令牌序列/>输入至第八Transformer层得到令牌序列/>,向量维度为768;将第八Transformer层得到令牌序列/>输入至第九Transformer层得到令牌序列,向量维度为768;将第九Transformer层得到令牌序列输入至第十Transformer层得到令牌序列/>,向量维度为768;将第十Transformer层得到令牌序列/>输入至第十一Transformer层得到令牌序列,向量维度为768;将第十一Transformer层得到令牌序列输入至第十二Transformer层得到令牌序列/>,向量维度为768;
c-2)将第十二Transformer层得到令牌序列的判别令牌/>分离出来,将/>输入到第一判别头,第一判别头由全连接层和softmax激活函数组成,将判别令牌/>输入到全连接层,得到输出向量/>,向量维度同需要进行判别的类别数相同;将向量/>输入到softmax激活函数,得到判别预测概率/>。
上述的基于遥感大数据的土地利用判别方法基础上,步骤d)包括如下步骤:
d-1)将令牌序列中的数据块令牌分离出来,并将数据块令牌/>进行折叠和维度转换操作,得到特征张量/>,形状为/>;
d-2)对判别预测概率进行取最大值索引操作,得到所预测的类别标签/>;
d-3)将特征张量和预测的类别标签/>输入到类激活映射模块,得到类激活映射表/>,形状为/>;
将类激活映射表进行展平操作,得到区域得分列表/>,长度为/>,对/>进行降序排序,得到排序后区域得分列表/>,以及排序后的顺序中,原始列表每个得分的索引位置/>,从/>中取排序后区域得分列表/>中前/>个区域的索引,得到区域选择列表/>:
,
,
,
其中表示展平操作,/>表示排序操作,表示从/>中选取前12个索引。
上述的基于遥感大数据的土地利用判别方法基础上,步骤e)包括如下步骤:
e-1)从第九Transformer层得到令牌序列中选取与区域选择列表/>中的索引值所对应的数据块令牌,同时保留判别令牌,得到令牌序列/>;将令牌序列输入至第十三Transformer层得到令牌序列;
e-2)将第十三Transformer层得到令牌序列中的判别令牌/>分离出来,将/>输入到第二判别头;第二判别头由全连接层和softmax激活函数组成;将判别令牌/>输入到全连接层,得到输出向量/>,向量维度同需要进行判别的类别数相同;将向量/>输入到softmax激活函数,得到判别预测概率/>;
e-3)从第十一Transformer层得到令牌序列中选取与区域选择列表/>中的索引值所对应的数据块令牌,同时保留判别令牌/>,得到令牌序列/>。将令牌序列输入至第十四Transformer层得到令牌序列;
e-4)将第十四Transformer层得到令牌序列中的判别令牌/>分离出来,将/>输入到第三判别头;第三判别头由全连接层和softmax激活函数组成。将判别令牌/>输入到全连接层,得到输出向量/>,向量维度同需要进行判别的类别数相同;将向量/>输入到softmax激活函数,得到判别预测概率/>。
上述的基于遥感大数据的土地利用判别方法基础上,步骤f)包括如下步骤:
f-1)将按照3:1的比例划分为训练集与验证集/>;
f-2)将训练集按照b)~e)所述依次输入到本发明所提出网络,并对判别预测概率/>、/>、/>进行监督,其中监督方式为分别对/>、/>、/>使用交叉熵损失函数进行监督,损失记为/>、/>、/>,总损失,训练方式为小批量梯度下降,并使用Adam优化器进行优化,对本发明所提出网络进行100轮训练,并保存网络的权重文件/>;
f-3)将权重文件加载到本发明所提出网络,将验证集按照b)~e)所述依次输入到本发明所提出网络,并对判别预测/>、/>、/>取平均以获得最终预测/>。
第二方面,本发明提供了一种基于遥感大数据的土地利用判别装置,包括:
数据预处理模块,对高分辨率遥感大数据中的遥感雷达信号数据集进行数据预处理;
信号分割模块,数据预处理后的雷达信号数据分成数据块并通过嵌入层获得每个数据块的高维向量表示,并添加判别令牌与位置编码,以获得令牌序列;
第一处理模块,令牌序列输入网络骨干部分,获得骨干部分每一Transformer层的输出令牌序列,并将Transformer层的输出令牌序列分离输入第一判别头以获得判别预测概率;
区域选择模块,分离第十一Transformer层所输出的令牌序列,并接收判别预测概率,得到区域选择列表;
第二处理模块,第九Transformer层所输出的令牌序列和第十一Transformer层所输出的令牌序列与区域选择列表对应的中的索引值所对应的数据块令牌,并保留判别令牌,得到新的令牌序列,并将新的令牌序列分别输入第十三和第十四Transformer层,分离并分别输入第二判别头和第三以获得判别预测概率;
判别模块,用于预处理后的遥感雷达信号数据集分为训练集和验证集,将训练集输入到网络进行训练,将验证集输入网络进行验证。
第三方面,本发明提供了一种电子设备,包括存储器和处理器,所述存储器和所述处理器之间互相通信连接,所述存储器中存储有计算机指令,所述处理器通过执行所述计算机指令,从而执行所述的基于遥感大数据的土地利用判别方法。
发明内容中提供的效果仅仅是实施例的效果,而不是发明所有的全部效果,上述技术方案具有如下优点或有益效果:
本发明将区域选择模块所选择的区域的数据块令牌与包含信号全局信息的判别令牌一起输入到Transformer层中,可以进一步提高网络对遥感雷达信号数据的理解和解释能力。通过这种方式,网络可以更好地捕捉到遥感雷达信号数据中不同区域的语义信息和空间关系,从而提高了判别任务的准确性和鲁棒性。本发明在多个遥感雷达信号数据土地利用判别任务中展现了明显优势,结果表明本发明在遥感大数据土地利用判别技术领域有着广泛的应用价值和商业价值,为自然资源管理、农业生产、城市规划等领域提供了更为准确的空间信息支持。
附图说明
附图用来提供对本发明的进一步理解,并且构成说明书的一部分,与本发明的实施例一起用于解释本发明,并不构成对本发明的限制。
图1为本发明的网络结构图。
具体实施方式
为了能清楚说明本方案的技术特点,下面通过具体实施方式,并结合其附图,对本发明进行详细阐述。下文的公开提供了许多不同的实施例或例子用来实现本发明的不同结构。为了简化本发明的公开,下文中对特定例子的部件和设置进行描述。
实施例1
一种基于遥感大数据的土地利用判别方法,包括如下步骤:
a)对高分辨率遥感大数据中的遥感雷达信号数据集进行数据预处理,得到预处理后的数据集/>;
b)将预处理后的遥感雷达信号数据切分成数据块,并通过嵌入层获得每个数据块的高维向量表示,并添加判别令牌与位置编码,以获得令牌序列
c)将令牌序列输入至网络骨干部分,获得骨干部分每一Transformer层的输出令牌序列,并将第十二Transformer层所输出的令牌序列中的判别令牌分离出来并输入到第一判别头以获得判别预测概率;
d)将第十一Transformer层所输出的令牌序列中的数据块令牌分离出来,并与判别预测概率同时输入至区域选择模块,得到区域选择列表;
e)分别从第九Transformer层所输出的令牌序列和从第十一Transformer层所输出的令牌序列中选取与区域选择列表中的索引值所对应的数据块令牌,并保留判别令牌,得到新的令牌序列和/>;将新的令牌序列分别输入到第十三Transformer层和第十四Transformer层,分别得到令牌序列/>和/>,并从中分离出判别令牌/>和/>,分别输入到第二判别头和第三判别头以获得判别预测概率/>和/>;
f)将预处理后的遥感雷达信号数据集按照3:1的比例划分为训练集和验证集,并将训练集按照b)~e)所述依次输入到本发明所提出网络,并对判别预测/>、/>、/>进行监督;训练完毕后,将验证集按照b)~e)依次输入到本发明所提出网络,以验证预测结果。
本实施例中,步骤a)包括如下步骤:
a-1)高分辨率遥感大数据中的遥感雷达信号数据集表达式如下:,/>,/>为数据集中遥感雷达信号数据样本的数量,/>指数据集中第/>个样本;
a-2)将数据集中所包含样本雷达信号数据的空间轴统一缩放到/>,然后进行数据增强操作,得到预处理后的数据集/>,/>,/>指预处理后的数据集中第/>个样本。
本实施例中,步骤b)包括如下步骤:
b-1)使用滑动窗口策略将预处理后的遥感雷达信号数据切分成数据块,具体表达式如下:/>,/>指/>中第/>个数据块,其中,滑动窗口的尺寸为/>,滑动步长为/>,所切分出的数据块的数量为/>,将/>输入到嵌入层,获得每个数据块的高维向量表示/>,称为数据块令牌,向量维度为/>,其中嵌入层的计算方式可以表示为:
,
其中,表示展平操作,用以将输入数据块/>展平为一个一维向量,而/>表示线性变换操作;
b-2)初始化一个值为全0的向量,称为判别令牌,向量维度为/>,将判别令牌与数据块令牌/>进行拼接,得到令牌序列/>,向量维度为768;
b-3) 使用正态分布初始化一个长度为的可学习向量序列,作为可学习位置编码,向量维度为768,将与/>进行对应元素相加操作,得到令牌序列/>,向量维度为768。
本实施例中,步骤c)包括如下步骤:
c-1)将令牌序列输入至网络骨干部分,网络骨干部分包括第一Transformer层、第二Transformer层、第三Transformer层、第四Transformer层、第五Transformer层、第六Transformer层、第七Transformer层、第八Transformer层、第九Transformer层、第十Transformer层、第十一Transformer层和第十二Transformer层,将令牌序列/>输入至第一Transformer层得到令牌序列,向量维度为768;将第一Transformer层得到令牌序列/>输入至第二Transformer层得到令牌序列/>,向量维度为768;将第二Transformer层得到令牌序列/>输入至第三Transformer层得到令牌序列,向量维度为768;将第三Transformer层得到令牌序列/>输入至第四Transformer层得到令牌序列/>,向量维度为768;将第四Transformer层得到令牌序列/>输入至第五Transformer层得到令牌序列,向量维度为768;将第五Transformer层得到令牌序列输入至第六Transformer层得到令牌序列/>,向量维度为768;将第六Transformer层得到令牌序列/>输入至第七Transformer层得到令牌序列,向量维度为768;将第七Transformer层得到令牌序列/>输入至第八Transformer层得到令牌序列/>,向量维度为768;将第八Transformer层得到令牌序列/>输入至第九Transformer层得到令牌序列,向量维度为768;将第九Transformer层得到令牌序列输入至第十Transformer层得到令牌序列/>,向量维度为768;将第十Transformer层得到令牌序列/>输入至第十一Transformer层得到令牌序列,向量维度为768;将第十一Transformer层得到令牌序列输入至第十二Transformer层得到令牌序列/>,向量维度为768;
c-2)将第十二Transformer层得到令牌序列的判别令牌/>分离出来,将/>输入到第一判别头,第一判别头由全连接层和softmax激活函数组成,将判别令牌/>输入到全连接层,得到输出向量/>,向量维度同需要进行判别的类别数相同;将向量/>输入到softmax激活函数,得到判别预测概率/>。
步骤d)包括如下步骤:
d-1)将令牌序列中的数据块令牌分离出来,并将数据块令牌/>进行折叠和维度转换操作,得到特征张量/>,形状为/>;
d-2)对判别预测概率进行取最大值索引操作,得到所预测的类别标签/>;
d-3)将特征张量和预测的类别标签/>输入到类激活映射模块,得到类激活映射表/>,形状为/>;
将类激活映射表进行展平操作,得到区域得分列表/>,长度为/>,对/>进行降序排序,得到排序后区域得分列表/>,以及排序后的顺序中,原始列表每个得分的索引位置/>,从/>中取排序后区域得分列表/>中前/>个区域的索引,得到区域选择列表/>:
,
,
,
其中表示展平操作,/>表示排序操作,表示从/>中选取前12个索引。
本实施例中,步骤e)包括如下步骤:
e-1)从第九Transformer层得到令牌序列中选取与区域选择列表/>中的索引值所对应的数据块令牌,同时保留判别令牌,得到令牌序列/>;将令牌序列输入至第十三Transformer层得到令牌序列;
e-2)将第十三Transformer层得到令牌序列中的判别令牌/>分离出来,将/>输入到第二判别头;第二判别头由全连接层和softmax激活函数组成;将判别令牌/>输入到全连接层,得到输出向量/>,向量维度同需要进行判别的类别数相同;将向量/>输入到softmax激活函数,得到判别预测概率/>;
e-3)从第十一Transformer层得到令牌序列中选取与区域选择列表/>中的索引值所对应的数据块令牌,同时保留判别令牌/>,得到令牌序列/>。将令牌序列输入至第十四Transformer层得到令牌序列;
e-4)将第十四Transformer层得到令牌序列中的判别令牌/>分离出来,将/>输入到第三判别头;第三判别头由全连接层和softmax激活函数组成。将判别令牌/>输入到全连接层,得到输出向量/>,向量维度同需要进行判别的类别数相同;将向量/>输入到softmax激活函数,得到判别预测概率/>。
本实施例中,步骤f)包括如下步骤:
f-1)将按照3:1的比例划分为训练集与验证集/>;
f-2)将训练集按照b)~e)所述依次输入到本发明所提出网络,并对判别预测概率/>、/>、/>进行监督,其中监督方式为分别对/>、/>、/>使用交叉熵损失函数进行监督,损失记为/>、/>、/>,总损失,训练方式为小批量梯度下降,并使用Adam优化器进行优化,对本发明所提出网络进行100轮训练,并保存网络的权重文件/>;
f-3)将权重文件加载到本发明所提出网络,将验证集按照b)~e)所述依次输入到本发明所提出网络,并对判别预测/>、/>、/>取平均以获得最终预测/>。
表1 加州大学默塞德分校土地利用判别任务指标、武汉大学遥感数据判别任务指标以及西北工业大学遥感数据判别任务指标对比
由表1可知本发明中的方法与其他方法在加州大学默塞德分校土地利用判别任务(UC Merced)指标、武汉大学遥感数据判别任务(AID)指标以及西北工业大学遥感数据判别任务(NWPU)指标的对比结果,分别在平均准确率上进行比较。其中被比较的方法包括:注意力池卷积神经网络(APDC-Net)、多示例密集连接卷积网络(MIDC-Net)、深度语义嵌入增强特征金字塔网络(DSE-Net)、视觉Transformer网络-基础版(ViT-Base)、令牌到令牌视觉Transformer网络-深度19版(T2T-ViT-19)、遥感视觉Transformer网络(RS-ViT)和移位窗口视觉Transformer网络-基础版(Swin-Base)。相较于其他方法,本发明提出了区域选择模块,以充分挖掘遥感雷达信号数据之间的细微差异。
实施例2
一种基于遥感大数据的土地利用判别装置,其特征在于,包括:
数据预处理模块,对高分辨率遥感大数据中的遥感雷达信号数据集进行数据预处理;
信号分割模块,数据预处理后的雷达信号数据分成数据块并通过嵌入层获得每个数据块的高维向量表示,并添加判别令牌与位置编码,以获得令牌序列;
第一处理模块,令牌序列输入网络骨干部分,获得骨干部分每一Transformer层的输出令牌序列,并将Transformer层的输出令牌序列分离输入第一判别头以获得判别预测概率;
区域选择模块,分离第十一Transformer层所输出的令牌序列,并接收判别预测概率,得到区域选择列表;
第二处理模块,第九Transformer层所输出的令牌序列和第十一Transformer层所输出的令牌序列与区域选择列表对应的中的索引值所对应的数据块令牌,并保留判别令牌,得到新的令牌序列,并将新的令牌序列分别输入第十三和第十四Transformer层,分离并分别输入第二判别头和第三以获得判别预测概率;
判别模块,用于预处理后的遥感雷达信号数据集分为训练集和验证集,将训练集输入到网络进行训练,将验证集输入网络进行验证。
实施例3
一种电子设备,所述电子设备可由计算机设备实现,包括存储介质、执行所述存储介质内的指令的处理器,该计算机设备的计算机可读存储介质存储有操作系统、数据库和计算机可读指令,数据库中可存储有控件信息序列,该计算机可读指令被处理器执行时,可使得处理器实现一种基于遥感大数据的土地利用判别方法。
本领域普通技术人员可以理解实现本申请上述实施例方法中的全部或部分流程,是可以通过计算机程序来指令相关的硬件来完成,该计算机程序可存储于一计算机可读取存储介质中,该程序在执行时,可包括如上述各方法的实施例的流程。其中,前述的存储介质可为磁碟、光盘、只读存储记忆体(Read-OnlyMemory,ROM)等计算机可读存储介质,或随机存储记忆体(RandomAccessMemory,RAM)等。
实施例4
本发明在自然资源管理、农业生产和城市规划中具有重要作用。在森林管理项目中,为了有效管理森林资源,需要了解森林覆盖类型和分布情况。利用本发明所述方法可以帮助判别森林中不同类型的植被,比如针叶林、阔叶林、灌木丛等。通过准确判别不同的植被类型,管理者可以更好地了解森林的结构和生态环境,并制定相应的保护和管理措施。在农田管理项目中,为了实现精准农业和高效管理,需要对农田进行判别和监测。利用本发明所述方法可以帮助判别不同类型的农作物和土地利用方式,比如小麦、水稻、玉米等不同作物的分布情况,以及耕地、林地、水域等不同土地利用类型的分布情况。通过准确判别不同的农田类型,农业管理者可以更好地了解农田的状况和变化趋势,从而优化种植结构、调整农业生产计划,并及时采取措施应对气候变化、灾害等不利因素,提高农业生产的效率和质量。在城市规划项目中,为了有效管理城市土地资源和提升城市生活质量,需要对城市区域进行判别和监测。利用本发明所述方法可以帮助判别城市中不同类型的土地利用和地物分布情况,比如居住区、商业区、工业区、绿地、水域等。通过准确判别不同的土地利用类型,城市规划者可以更好地了解城市的空间结构和发展状况,制定相应的规划政策和措施,优化城市布局和空间利用,提升城市的功能性和宜居性。由表2可知本发明中的方法与其他方法在森林植被判别任务指标、农田类型判别任务指标以及城市区域判别任务指标的对比结果,分别在平均准确率上进行比较。其中被比较的方法包括:注意力池卷积神经网络(APDC-Net)、多示例密集连接卷积网络(MIDC-Net)、深度语义嵌入增强特征金字塔网络(DSE-Net)、视觉Transformer网络-基础版(ViT-Base)、令牌到令牌视觉Transformer网络-深度19版(T2T-ViT-19)、遥感视觉Transformer网络(RS-ViT)和移位窗口视觉Transformer网络-基础版(Swin-Base)。结果表明了本发明所述方法可以为自然资源管理、农业生产、城市规划等领域提供更为准确的空间信息支持。
表2 森林植被判别任务指标、农田类型判别任务指标以及城市区域判别任务指标对比
上述虽然结合附图对发明的具体实施方式进行了描述,但并非对本发明保护范围的限制,在本发明的技术方案的基础上,本领域技术人员不需要付出创造性劳动即可做出的各种修改或变形仍在本发明的保护范围以内。
Claims (9)
1.一种基于遥感大数据的土地利用判别方法,其特征在于,包括如下步骤:
a)对高分辨率遥感大数据中的遥感雷达信号数据集进行数据预处理,得到预处理后的数据集/>;
b)将预处理后的遥感雷达信号数据切分成数据块,并通过嵌入层获得每个数据块的高维向量表示,并添加判别令牌与位置编码,以获得令牌序列;
c)将令牌序列输入至网络骨干部分,获得骨干部分每一Transformer层的输出令牌序列,并将第十二Transformer层所输出的令牌序列中的判别令牌分离出来并输入到第一判别头以获得判别预测概率;
d)将第十一Transformer层所输出的令牌序列中的数据块令牌分离出来,并与判别预测概率同时输入至区域选择模块,得到区域选择列表;
e)分别从第九Transformer层所输出的令牌序列和从第十一Transformer层所输出的令牌序列中选取与区域选择列表中的索引值所对应的数据块令牌,并保留判别令牌,得到新的令牌序列和/>;将新的令牌序列分别输入到第十三Transformer层和第十四Transformer层,分别得到令牌序列/>和/>,并从中分离出判别令牌/>和/>,分别输入到第二判别头和第三判别头以获得判别预测概率/>和/>;
f)将预处理后的遥感雷达信号数据集按照3:1的比例划分为训练集和验证集,并将训练集按照b)~e)所述依次输入到本发明所提出网络,对判别预测/>、/>、/>进行监督;训练完毕后,将验证集按照b)~e)依次输入到本发明所提出网络,以验证预测结果。
2.根据权利要求1所述的基于遥感大数据的土地利用判别方法,其特征在于,步骤a)包括如下步骤:
a-1)高分辨率遥感大数据中的遥感雷达信号数据集表达式如下:
,/>,/>为数据集中遥感雷达信号数据样本的数量,指数据集中第/>个样本;
a-2)将数据集中所包含样本雷达信号数据的空间轴统一缩放到/>,然后进行数据增强操作,得到预处理后的数据集/>,/>,/>指预处理后的数据集中第/>个样本, />表示数据集中样本的数量。
3.根据权利要求1所述的基于遥感大数据的土地利用判别方法,其特征在于,步骤b)包括如下步骤:
b-1)使用滑动窗口策略将预处理后的遥感雷达信号数据切分成数据块,具体表达式如下:/>,/>指/>中第/>个数据块,其中,滑动窗口的尺寸为/>,滑动步长为/>,所切分出的数据块的数量为/>,将/>输入到嵌入层,获得每个数据块的高维向量表示/>,称为数据块令牌,向量维度为/>,其中嵌入层的计算方式可以表示为:
,
表示展平操作,用以将输入数据块/>展平为一个一维向量,而表示线性变换操作;
b-2)初始化一个值为全0的向量,称为判别令牌,向量维度为/>,将判别令牌/>与数据块令牌/>进行拼接,得到令牌序列/>,向量维度为768;
b-3) 使用正态分布初始化一个长度为的可学习向量序列,作为可学习位置编码,向量维度为768,将与/>进行对应元素相加操作,得到令牌序列/>,向量维度为768。
4.根据权利要求1所述的基于遥感大数据的土地利用判别方法,其特征在于,步骤c)包括如下步骤:
c-1)将令牌序列输入至网络骨干部分,网络骨干部分包括第一Transformer层、第二Transformer层、第三Transformer层、第四Transformer层、第五Transformer层、第六Transformer层、第七Transformer层、第八Transformer层、第九Transformer层、第十Transformer层、第十一Transformer层和第十二Transformer层,将令牌序列/>输入至第一Transformer层得到令牌序列,向量维度为768;将第一Transformer层得到令牌序列/>输入至第二Transformer层得到令牌序列/>,向量维度为768;将第二Transformer层得到令牌序列/>输入至第三Transformer层得到令牌序列,向量维度为768;将第三Transformer层得到令牌序列/>输入至第四Transformer层得到令牌序列/>,向量维度为768;将第四Transformer层得到令牌序列/>输入至第五Transformer层得到令牌序列,向量维度为768;将第五Transformer层得到令牌序列输入至第六Transformer层得到令牌序列/>,向量维度为768;将第六Transformer层得到令牌序列/>输入至第七Transformer层得到令牌序列,向量维度为768;将第七Transformer层得到令牌序列/>输入至第八Transformer层得到令牌序列/>,向量维度为768;将第八Transformer层得到令牌序列/>输入至第九Transformer层得到令牌序列,向量维度为768;将第九Transformer层得到令牌序列输入至第十Transformer层得到令牌序列/>,向量维度为768;将第十Transformer层得到令牌序列/>输入至第十一Transformer层得到令牌序列,向量维度为768;将第十一Transformer层得到令牌序列输入至第十二Transformer层得到令牌序列/>,向量维度为768;
c-2)将第十二Transformer层得到令牌序列的判别令牌/>分离出来,将/>输入到第一判别头,第一判别头由全连接层和softmax激活函数组成,将判别令牌/>输入到全连接层,得到输出向量/>,向量维度同需要进行判别的类别数相同;将向量/>输入到softmax激活函数,得到判别预测概率/>。
5.根据权利要求1所述的基于遥感大数据的土地利用判别方法,其特征在于,步骤d)包括如下步骤:
d-1)将令牌序列中的数据块令牌分离出来,并将数据块令牌/>进行折叠和维度转换操作,得到特征张量/>,形状为/>;
d-2)对判别预测概率进行取最大值索引操作,得到所预测的类别标签/>;
d-3)将特征张量和预测的类别标签/>输入到类激活映射模块,得到类激活映射表/>,形状为/>;
将类激活映射表进行展平操作,得到区域得分列表/>,长度为/>,对/>进行降序排序,得到排序后区域得分列表/>,以及排序后的顺序中,原始列表每个得分的索引位置,从/>中取排序后区域得分列表/>中前/>个区域的索引,得到区域选择列表/>:
,
,
,
其中表示展平操作,/>表示排序操作,表示从/>中选取前12个索引。
6.根据权利要求1所述的基于遥感大数据的土地利用判别方法,其特征在于,步骤e)包括如下步骤:
e-1)从第九Transformer层得到令牌序列中选取与区域选择列表/>中的索引值所对应的数据块令牌,同时保留判别令牌/>,得到令牌序列/>;将令牌序列输入至第十三Transformer层得到令牌序列;
e-2)将第十三Transformer层得到令牌序列中的判别令牌/>分离出来,将/>输入到第二判别头;第二判别头由全连接层和softmax激活函数组成;将判别令牌/>输入到全连接层,得到输出向量/>,向量维度同需要进行判别的类别数相同;将向量/>输入到softmax激活函数,得到判别预测概率/>;
e-3)从第十一Transformer层得到令牌序列中选取与区域选择列表/>中的索引值所对应的数据块令牌,同时保留判别令牌/>,得到令牌序列/>,将令牌序列输入至第十四Transformer层得到令牌序列;
e-4)将第十四Transformer层得到令牌序列中的判别令牌/>分离出来,将/>输入到第三判别头;第三判别头由全连接层和softmax激活函数组成,将判别令牌/>输入到全连接层,得到输出向量/>,向量维度同需要进行判别的类别数相同;将向量/>输入到softmax激活函数,得到判别预测概率/>。
7.根据权利要求1所述的基于遥感大数据的土地利用判别方法,其特征在于,步骤f)包括如下步骤:
f-1)将按照3:1的比例划分为训练集与验证集/>;
f-2)将训练集按照b)~e)所述依次输入到本发明所提出网络,并对判别预测概率/>、/>、/>进行监督,其中监督方式为分别对/>、/>、/>使用交叉熵损失函数进行监督,损失记为/>、/>、/>,总损失,训练方式为小批量梯度下降,并使用Adam优化器进行优化,对本发明所提出网络进行100轮训练,并保存网络的权重文件/>;
f-3)将权重文件加载到本发明所提出网络,将验证集按照b)~e)所述依次输入到本发明所提出网络,并对判别预测/>、/>、/>取平均以获得最终预测/>。
8.一种基于遥感大数据的土地利用判别装置,其特征在于,包括:
数据预处理模块,对高分辨率遥感大数据中的遥感雷达信号数据集进行数据预处理;
信号分割模块,数据预处理后的雷达信号数据分成数据块并通过嵌入层获得每个数据块的高维向量表示,并添加判别令牌与位置编码,以获得令牌序列;
第一处理模块,令牌序列输入网络骨干部分,获得骨干部分每一Transformer层的输出令牌序列,并将Transformer层的输出令牌序列分离输入第一判别头以获得判别预测概率;
区域选择模块,分离第十一Transformer层所输出的令牌序列,并接收判别预测概率,得到区域选择列表;
第二处理模块,第九Transformer层所输出的令牌序列和第十一Transformer层所输出的令牌序列与区域选择列表对应的中的索引值所对应的数据块令牌,并保留判别令牌,得到新的令牌序列,并将新的令牌序列分别输入第十三和第十四Transformer层,分离并分别输入第二判别头和第三以获得判别预测概率;
判别模块,用于预处理后的遥感雷达信号数据集分为训练集和验证集,将训练集输入到网络进行训练,将验证集输入网络进行验证。
9.一种电子设备,其特征在于,包括存储器和处理器,所述存储器和所述处理器之间互相通信连接,所述存储器中存储有计算机指令,所述处理器通过执行所述计算机指令,从而执行权利要求1-7中任一项所述的基于遥感大数据的土地利用判别方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202410381604.9A CN117992737B (zh) | 2024-04-01 | 基于遥感大数据的土地利用判别方法、装置及电子设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202410381604.9A CN117992737B (zh) | 2024-04-01 | 基于遥感大数据的土地利用判别方法、装置及电子设备 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN117992737A CN117992737A (zh) | 2024-05-07 |
CN117992737B true CN117992737B (zh) | 2024-05-31 |
Family
ID=
Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2022095376A1 (zh) * | 2020-11-06 | 2022-05-12 | 平安科技(深圳)有限公司 | 方面级别情感分类方法、装置、设备及可读存储介质 |
KR102446306B1 (ko) * | 2021-07-19 | 2022-09-22 | 펜타시큐리티시스템 주식회사 | 도로 전광 표지 문구 이상 탐지 시스템, 장치 및 방법 |
CN116310628A (zh) * | 2023-02-06 | 2023-06-23 | 中山大学 | 一种基于令牌掩码机制的大尺度城中村提取方法 |
CN116469029A (zh) * | 2023-03-30 | 2023-07-21 | 中国石油大学(华东) | 一种基于多层感知机网络的油田现场违章行为识别方法 |
WO2023170067A1 (en) * | 2022-03-07 | 2023-09-14 | Deepmind Technologies Limited | Processing network inputs using partitioned attention |
CN117237801A (zh) * | 2023-08-22 | 2023-12-15 | 西北工业大学 | 一种基于自监督学习的多模态遥感图像变化检测方法 |
CN117575111A (zh) * | 2024-01-16 | 2024-02-20 | 安徽农业大学 | 一种基于迁移学习的农业遥感图像时空序列预测方法 |
CN117671384A (zh) * | 2023-12-18 | 2024-03-08 | 南昌工程学院 | 一种高光谱图像分类方法 |
Patent Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2022095376A1 (zh) * | 2020-11-06 | 2022-05-12 | 平安科技(深圳)有限公司 | 方面级别情感分类方法、装置、设备及可读存储介质 |
KR102446306B1 (ko) * | 2021-07-19 | 2022-09-22 | 펜타시큐리티시스템 주식회사 | 도로 전광 표지 문구 이상 탐지 시스템, 장치 및 방법 |
WO2023170067A1 (en) * | 2022-03-07 | 2023-09-14 | Deepmind Technologies Limited | Processing network inputs using partitioned attention |
CN116310628A (zh) * | 2023-02-06 | 2023-06-23 | 中山大学 | 一种基于令牌掩码机制的大尺度城中村提取方法 |
CN116469029A (zh) * | 2023-03-30 | 2023-07-21 | 中国石油大学(华东) | 一种基于多层感知机网络的油田现场违章行为识别方法 |
CN117237801A (zh) * | 2023-08-22 | 2023-12-15 | 西北工业大学 | 一种基于自监督学习的多模态遥感图像变化检测方法 |
CN117671384A (zh) * | 2023-12-18 | 2024-03-08 | 南昌工程学院 | 一种高光谱图像分类方法 |
CN117575111A (zh) * | 2024-01-16 | 2024-02-20 | 安徽农业大学 | 一种基于迁移学习的农业遥感图像时空序列预测方法 |
Non-Patent Citations (3)
Title |
---|
Research on shaking table test of earthquake simulation based on hybrid integration algorithm;YQ GUO;IEEE ACCESS;20201231;全文 * |
一种混合模式自控网络的研究与实现;董春桥, 胡云鹏;自动化与仪表;20040925(05);全文 * |
深度学习融合多源数据的城市土地利用制图研究;田德宇;张耀南;党辉;;西部大开发(土地开发工程研究);20180620(06);全文 * |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US8429153B2 (en) | Method and apparatus for classifying known specimens and media using spectral properties and identifying unknown specimens and media | |
CN110245709A (zh) | 基于深度学习和自注意力的3d点云数据语义分割方法 | |
Junos et al. | An optimized YOLO‐based object detection model for crop harvesting system | |
Legendre et al. | Clustering and partitioning | |
CN111339935B (zh) | 一种基于可解释cnn图像分类模型的光学遥感图片分类方法 | |
CN109934269A (zh) | 一种电磁信号的开集识别方法和装置 | |
CN108985327A (zh) | 一种基于因子分析的地形匹配区自组织优化分类方法 | |
Younis et al. | Detection and annotation of plant organs from digitised herbarium scans using deep learning | |
CN111832615A (zh) | 一种基于前景背景特征融合的样本扩充方法及系统 | |
CN110210625A (zh) | 基于迁移学习的建模方法、装置、计算机设备和存储介质 | |
CN110222767A (zh) | 基于嵌套神经网络和栅格地图的三维点云分类方法 | |
CN114564982A (zh) | 雷达信号调制类型的自动识别方法 | |
CN105510970A (zh) | 获取地震相最佳分类数目的方法 | |
CN115358285B (zh) | 待勘测区块关键地质参数的选取方法、装置、及设备 | |
CN107016359A (zh) | 一种复杂环境下基于t分布的人脸快速识别方法 | |
Ebrahimy et al. | Effectiveness of the integration of data balancing techniques and tree-based ensemble machine learning algorithms for spatially-explicit land cover accuracy prediction | |
Hu et al. | Saliency-based YOLO for single target detection | |
Zeybek | Inlier point preservation in outlier points removed from the ALS point cloud | |
CN117992737B (zh) | 基于遥感大数据的土地利用判别方法、装置及电子设备 | |
Thoudoju | Detection of aircraft, vehicles and ships in aerial and satellite imagery using evolutionary deep learning | |
CN117992737A (zh) | 基于遥感大数据的土地利用判别方法、装置及电子设备 | |
Su et al. | Active learning based on SVM and representativity in a coal mining environment | |
CN117710758B (zh) | 一种遥感图像岩土解译方法、介质及设备 | |
CN114139165B (zh) | 基于机器学习中的多目标识别的智能合约漏洞检测方法 | |
Pal | Effect of Search Methods on Feature Selection |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant |