CN105117294A - 多机多任务并行卫星遥感影像正射校正处理系统及其方法 - Google Patents

Abstract

本发明提供一种多机多任务并行卫星遥感影像正射校正处理系统，包括：输入输出终端，包括批量导入卫星遥感影像压缩包的卫星遥感影像导入模块；多个计算节点终端，分别包括资源及任务管理客户端模块，动态地采集并上报相应计算节点终端的资源使用情况；以及服务器，包括资源及任务管理服务器模块，根据各资源及任务管理客户端模块上报的资源使用情况，为各计算节点终端动态地分配计算任务；资源及任务管理客户端模块根据由资源及任务管理服务器模块分配的任务信息，为相应计算节点终端启动被分配的正射校正任务，计算节点终端利用GDAL直接从该正射校正任务对应的卫星遥感影像压缩包中提取原始卫星遥感影像和对应正射校正参数进行正射校正处理。

Description

多机多任务并行卫星遥感影像正射校正处理系统及其方法

技术领域

本发明涉及卫星遥感影像处理技术领域，特别涉及在缺少大量超高性能硬件设备的情况下开展面向灾害应急应用的多机多任务并行卫星遥感影像正射校正处理系统及多机多任务卫星影像批量正射校正处理方法。

技术背景

我国是灾害发生频率较高的国家。重特大自然灾害给人民的生命和财产安全带来严重威胁，引起了人们对减灾救灾工作的极大重视。遥感技术的快速发展为我们提供了一种快速监测和获取灾害信息的可靠手段。随着遥感及空间信息技术的发展以及传感器成像方式的不断改进，一些高精度、高分辨率的卫星不断发射升空，极大的改变了人们获取地面信息的方式。但是卫星遥感影像在其成像过程中，因地形起伏和传感器误差的影响，导致影像失真，无法直接进行后续使用。因此在卫星遥感影像投入实际应用之前，对卫星遥感影像进行正射校正是必不可少的工作。

原始卫星遥感影像数据产品大多是以压缩包格式存储和传输的，目前，传统的卫星遥感影像正射校正方法大多是基于人工操作，首先对卫星遥感影像标准压缩包进行解压之后，再进行正射校正处理，这样就会耗费大量人工交互时间和解压文件的时间，而且这种方法只能逐个遥感影像进行单机单任务处理，数据量越大，耗费时间就越长。而在灾害应急应用中，为了能及时提供减灾决策制定依据数据，为救灾赢取宝贵时间，对数据处理效率要求极高。另一方面，随着空间分辨率、光谱分辨率、时间分辨率的提高，需要处理的数据量急剧增大。因此，这种传统的单机单任务处理模式难以满足减灾应急的高效率需求，在面向灾害应急应用中，传统的卫星遥感影像正射校正技术的处理效率逐渐成为制约数据应用与救灾及时性的瓶颈，亟待需要开发出一种能够高效进行校正处理的技术。

另外，随着计算机硬件性能的不断提高，应用单位可利用的配置相对较低的计算机硬件资源越来越多，传统的单机单任务处理模式不仅耗时较长，还造成大量已有计算机硬件资源闲置。

发明内容

本发明是鉴于上述的现有技术中存在的问题而做出的，其目的在于提供一种多机多任务并行卫星遥感影像正射校正处理系统及方法，其可充分利用多台计算机对卫星遥感影像数据进行快速正射校正处理。

用于实现上述发明目的的第一方案的多机多任务并行卫星遥感影像正射校正处理系统，其特征在于，包括：输入输出终端，包括用于批量导入卫星遥感影像压缩包的卫星遥感影像导入模块；多个计算节点终端，各计算节点终端包括资源及任务管理客户端模块，该资源及任务管理客户端模块用于动态地采集并上报计算节点终端的资源使用情况；以及服务器，包括资源及任务管理服务器模块，该资源及任务管理服务器模块根据各所述资源及任务管理客户端模块上报的资源使用情况，建立计算节点终端资源使用情况列表，并根据该计算节点终端资源使用情况列表，为各所述计算节点终端动态地分配计算任务；所述资源及任务管理客户端模块，根据由资源及任务管理服务器模块分配的任务信息，为所述计算节点终端启动被分配的正射校正任务，所述计算节点终端启动正射校正任务后，利用GDAL(GeospatialDataAbstractionLibrary,开源栅格空间数据转换库)直接从该正射校正任务对应的卫星遥感影像压缩包中提取原始卫星遥感影像和对应正射校正参数进行正射校正处理。

根据上述第一方案的多机多任务并行卫星遥感影像正射校正处理系统，利用资源及任务管理客户端模块和资源及任务管理服务器模块实现了空闲计算节点终端的动态统计及任务的动态分配，从而实现多机多任务模式，充分利用了资源并有效节省运算时间。并且，直接调用压缩包进行批处理，大大省去了解压冗余文件所耗费的时间，还能够节省存储器和处理器空间。

本发明的第二方案的多机多任务并行卫星遥感影像正射校正处理系统，在第一方案的基础上，所述计算节点终端利用GPU为卫星遥感影像的正射校正处理进行并行处理。所述为各计算节点终端动态地分配的计算任务是正射校正任务；所述计算节点终端包括GPU；所述计算节点终端利用GDAL直接从该正射校正任务对应的卫星遥感影像压缩包中提取原始卫星遥感影像和对应正射校正参数之后，解析该正射校正参数并构建RPC变换模型；之后，利用该RPC变换模型计算目标影像坐标范围，并对目标影像范围进行网格划分之后，以每一个网格作为一个独立的子任务，在GPU共享存储器中保存各网格的XY方向变换参数，利用该XY方向变换参数，在GPU的多个线程同时对多个网格计算每个像元的对应的原影像位置。

本发明的第三方案的多机多任务并行卫星遥感影像正射校正处理系统，在第一方案的基础上，所述计算节点终端利用CPU多线程模式为正射校正处理进行并行处理。所述为各计算节点终端动态地分配的计算任务是正射校正任务；所述计算节点终端的CPU能够以多线程模式运行；所述计算节点终端利用GDAL直接从该正射校正任务对应的卫星遥感影像压缩包中提取原始卫星遥感影像和对应正射校正参数之后，解析该正射校正参数并构建RPC变换模型；之后，利用该RPC变换模型计算目标影像坐标范围，并对目标影像范围进行网格划分之后，以每一个网格作为一个独立的子任务，在所述计算节点终端的存储器中保存各网格的XY方向变换参数，利用该XY方向变换参数，通过CPU多线程模式同时对多个网格计算每个像元的对应的原影像位置。

根据上述第二方案和第三方案的多机多任务并行卫星遥感影像正射校正处理系统，通过GPU或CPU多线程模式为正射校正处理进行并行处理，从而能够进一步加快正射校正处理速度。

本发明的第四方案的多机多任务并行卫星遥感影像正射校正处理方法，包括：卫星遥感影像导入步骤，批量导入卫星遥感影像压缩包；各计算节点终端的资源使用情况采集和上报步骤，在各计算节点终端设有资源及任务管理客户端模块，该资源及任务管理客户端模块动态地采集并上报计算节点终端的资源使用情况；计算节点终端资源使用情况列表建立步骤，在服务器上设有资源及任务管理服务器模块，该资源及任务管理服务器模块根据各所述资源及任务管理客户端模块上报的资源使用情况，建立计算节点终端资源使用情况列表；调度步骤，所述资源及任务管理服务器模块根据计算节点终端资源使用情况列表，为各所述计算节点终端动态地分配计算任务；以及任务执行步骤，所述资源及任务管理客户端模块根据由资源及任务管理服务器模块分配的任务信息，为所述计算节点终端启动被分配的正射校正任务，所述计算节点终端启动正射校正任务后，利用GDAL直接从该正射校正任务对应的卫星遥感影像压缩包中提取原始卫星遥感影像和对应正射校正参数，进行正射校正处理。

根据上述第四方案的多机多任务并行卫星遥感影像正射校正处理方法，利用资源及任务管理客户端模块和资源及任务管理服务器模块实现了空闲计算节点终端的动态统计及任务的动态分配，从而实现多机多任务模式，充分利用了资源并有效节省运算时间。并且，直接调用压缩包进行批处理，大大省去了解压冗余文件所耗费的时间，还能够节省存储器和处理器空间。

本发明的第五方案的多机多任务并行卫星遥感影像正射校正处理方法，在第四方案的基础上，在所述任务执行步骤，所述计算节点终端利用CPU多线程模式为正射校正处理进行并行处理。所述为各计算节点终端动态地分配的计算任务是正射校正任务，在所述任务执行步骤，所述计算节点终端利用GDAL直接从该正射校正任务对应的卫星遥感影像压缩包中提取原始卫星遥感影像和对应正射校正参数之后，解析该正射校正参数并构建RPC变换模型；之后，利用该RPC变换模型计算目标影像坐标范围，并对目标影像范围进行网格划分之后，以每一个网格作为一个独立的子任务，在GPU共享存储器中保存各网格的XY方向变换参数，利用该XY方向变换参数，在GPU的多个线程同时对多个网格计算每个像元的对应的原影像位置。

本发明的第六方案的多机多任务并行卫星遥感影像正射校正处理方法，在第四方案的基础上，在所述任务执行步骤，所述计算节点终端利用CPU多线程模式为正射校正处理进行并行处理。所述为各计算节点终端动态地分配的计算任务是正射校正任务，在所述任务执行步骤，所述计算节点终端利用GDAL直接从该正射校正任务对应的卫星遥感影像压缩包中提取原始卫星遥感影像和对应正射校正参数之后，解析该正射校正参数并构建RPC变换模型；之后，利用该RPC变换模型计算目标影像坐标范围，并对目标影像范围进行网格划分之后，以每一个网格作为一个独立的子任务，在所述计算节点终端的存储器中保存各网格的XY方向变换参数，利用该XY方向变换参数，通过CPU多线程模式同时对多个网格计算每个像元的对应的原影像位置。

根据上述第五方案和第六方案的多机多任务并行卫星遥感影像正射校正处理方法，通过GPU或CPU多线程模式为正射校正处理进行并行处理，从而能够进一步加快正射校正处理速度。

本发明的技术效果如下。

(1)可以批量导入原始卫星遥感数据压缩包，无需对原始卫星遥感数据进行解压，支持的压缩包格式包括：.tar.gz、.tar、.zip、.tgz。直接调用压缩包进行批处理，大大省去了解压冗余文件所耗费的时间，还能够节省存储器和处理器空间。

(2)在各计算节点终端配置资源及任务管理客户端模块，采集该计算节点终端的资源(可用内存大小、CPU核心数、GPU数量)使用情况；单独一台计算机配置资源及任务管理服务器模块，用于根据资源及任务管理客户端模块上报的可用计算节点终端数量进行任务分配，利用资源及任务管理客户端模块和资源及任务管理服务器模块实现了空闲计算节点终端的动态统计及任务的动态分配，从而实现多机多任务模式，充分利用了资源并有效节省了时间。

(3)根据计算节点终端硬件情况选择使用GPU并行化加速或者CPU多线程加速实现卫星遥感影像正射校正(如RCP校正)，大幅度较少正射校正的计算时间。

利用本专利的多机多任务并行卫星遥感影像正射校正处理技术，可以非常有效地缩短卫星遥感影像正射校正的处理时间，为灾害应急应用的后续处理留出足够的时间，在灾害应急中发挥强大作用。

附图说明

图1是示出本发明的多机多任务并行卫星遥感影像正射校正处理系统的示意图。

图2示出资源及任务管理服务器模块效率的计算节点终端资源使用情况列表的一例。

图3是示出本发明的多机多任务并行卫星遥感影像正射校正处理方法的流程图。

图4是示出利用GPU进行正射校正的流程图。

具体实施方式

为使本发明的目的、技术方案和优点更加清楚，下面结合附图对本发明的优选实施方式进行详细说明。

图1是示出本发明的多机多任务并行卫星遥感影像正射校正处理系统的示意图。图2示出资源及任务管理服务器模块效率的计算节点终端资源使用情况列表的一例。图3是示出本发明的多机多任务并行卫星遥感影像正射校正处理方法的流程图。图4是示出利用GPU进行正射校正的流程图。

如图1所示，本发明的多机多任务并行卫星遥感影像正射校正处理系统，包括输入输出终端100、服务器200和多个计算节点终端300。

输入输出终端100包括卫星遥感影像导入模块110和输出模块120，卫星遥感影像导入模块110用于批量导入卫星遥感影像压缩包(步骤S110)，输出模块120用于输出完成正射校正后的卫星遥感影像。该批量导入的卫星遥感影像压缩包一般为一级产品压缩包文件，可支持包括.tar.gz、.tar、.zip、.tgz等压缩格式的压缩包文件。

各计算节点终端300包括资源及任务管理客户端模块310，该资源及任务管理客户端模块310用于动态地采集并通过网络400向服务器200的资源及任务管理服务器模块210上报相应计算节点终端300的资源使用情况，并对相应计算节点终端终端300的计算资源进行实时更新(步骤S120)。所述的资源使用情况信息，例如包括可用内存大小、CPU核心数、GPU数量等信息。

服务器200包括资源及任务管理服务器模块210，资源及任务管理服务器模块210根据各所述资源及任务管理客户端模块310上报的资源使用情况，为各计算节点终端300动态地分配计算任务。服务器200与各计算节点终端300之间可通过REST服务实现信息交换。

具体来说，资源及任务管理服务器模块210利用各所述资源及任务管理客户端模块310上报的资源使用情况，例如可用内存大小、CPU核心数、GPU数量等信息，建立计算节点终端资源使用情况列表(步骤S130)，并自动判断目前已启动的任务数量和已启动的计算节点的数量，为各可用计算节点动态分配计算任务(步骤S140)。所述计算节点终端资源使用情况列表的一例如图2所示。若某节点的计算能力较强，其在计算任务完成后，计算资源得到释放，资源及任务管理服务器模块210从任务队列中为该节点再次分配计算任务。因此，总体上计算能力强的计算节点终端300将承担较多的计算任务，这种模式在很大程度上实现了“任务调度”的集群思路。

资源及任务管理客户端模块310根据由资源及任务管理服务器模块210分配的任务信息，为相应计算节点终端300启动被分配的正射校正任务(步骤S150)，相应计算节点终端300启动正射校正任务后，利用GDAL直接从该正射校正任务对应的卫星遥感影像压缩包中提取原始卫星遥感影像和对应正射校正参数(例如RPC(有理多项式系数)参数)进行正射校正处理。由于计算节点终端300的校正任务可利用GDAL直接从指定的卫星遥感影像压缩包中提取原始卫星遥感影像和对应校正参数，从而避免解压冗余文件的耗时，相比传统方法处理时解压整个压缩包要省时。传统的正射校正方式大都需要先对卫星遥感影像压缩包数据进行解压，不仅费时而且会造成文件冗余，直接使用压缩包进行批量处理，省时而且节省存储器和处理器空间，这对灾害应急的卫星遥感影像数据的处理具有重大意义。实际应用和试验表明，单一计算机的情况下，仅使用批量、直接读取卫星遥感影像压缩包文件模式就可以实现至少4倍加速。

在资源及任务管理客户端模块310为相应计算节点终端300启动被分配的正射校正任务之后，相应计算节点终端300执行的每个任务内部均可通过GPU并行加速方式来执行。GPU在可编程能力、并行处理能力、存储带宽等方面不断加强，较CPU具有明显优势，加之具有强大的浮点运算能力、低成本与低功耗等优点，使得GPU应用于通用计算，拓展于其他通用领域成为可能并大势所趋，因此，本实施方式中就是采用GPU并行加速化的正射校正处理(例如RPC校正)。

此外，为了应对无GPU环境下仍然使用多机多任务进行并行处理，在本实施方式中，正射校正任务同时支持GPU和CPU环境。实际应用和试验表明，如果使用多台计算机以及使用GPU加速则效率随计算机数量增多而显著提高，因此本实施方式可有效大幅度缩短卫星遥感影像正射校正处理的时间，是一种低成本提高数据生产效率的方法，尤其对灾害应急应用意义显著。

下面，以计算节点终端300利用GPU并行加速进行正射校正的情形作为例子做说明。

如图4所示，被分配正射校正任务的计算节点终端300，首先可利用GDAL直接从指定的卫星遥感影像压缩包中读取待校正的影像(原始卫星遥感影像)、对应于读取影像的正射校正参数文件以及影像覆盖区域的DEM数据等数据(S1510)。然后，解析正射校正参数并构建RPC变换模型(S1520)，如果有控制点信息(S1530：是)，则利用控制点信息对RPC变换模型进行精化处理(S1540)。

之后，利用RPC变换模型计算目标影像坐标范围，并对目标影像范围进行网格划分(S1550)。以每一个网格作为一个独立的子任务，利用RPC变换模型和DEM数据，使用GPU运算单元同时对多个网格并行进行正射校正，实现GPU正射校正加速处理。正射校正的过程是在GPU共享存储器中保存各网格的XY方向变换参数(即从目标影像网格内像元到对应的原影像点的XY方向变换参数)，利用该XY方向变换参数，在GPU的多个线程同时对多个网格计算每个像元的对应的原影像位置(S1560)。之后，对计算出的原影像位置周围的几个像元(一般采用四个点)进行重采样，将该重采样后获得的像元值填充至目标影像中，作为目标影像的像元值(S1570)。该重采样可以采用最邻近、双线性内插值、双三次插值等采样方法，综合考虑时间消耗和计算精度，采用双线性内插值的采样方式是优选的方式。

在计算节点终端不具备GPU的情况下，也可以通过CPU的多线程模式，同时对多个网格的像元数据进行正射校正处理，通过CPU的多线程模式同样能够实现加速处理的目的。

最后，各个计算机节点300在校正计算结束之后，经由网络400将校正后的影像产品、缩略图及元信息回馈到输入输出终端100的输出模块120进行输出，元信息包括影像生成时间、影像大小、影像类型、地理信息、投影信息、存储格式(步骤S160)。

以上所述的优选实施方式仅仅用于说明本发明的精神，并不以此来限定本发明的具体的保护范围。本领域的普通技术人员当然能够根据本说明书所公开的技术内容，在不付出任何创造性劳动的情况下，通过变更、置换或变形的方式轻易做出其它的实施方案，这些其它的实施方案均应视为涵盖在本发明的保护范围之内。

Claims (10)

1.一种多机多任务并行卫星遥感影像正射校正处理系统，其特征在于，

包括：

输入输出终端，包括用于批量导入卫星遥感影像压缩包的卫星遥感影像导入模块；

多个计算节点终端，各计算节点终端包括资源及任务管理客户端模块，该资源及任务管理客户端模块用于动态地采集并上报相应计算节点终端的资源使用情况；以及

服务器，包括资源及任务管理服务器模块，该资源及任务管理服务器模块根据各所述资源及任务管理客户端模块上报的资源使用情况，建立计算节点终端资源使用情况列表，并根据该计算节点终端资源使用情况列表，为各所述计算节点终端动态地分配计算任务；

所述资源及任务管理客户端模块根据由资源及任务管理服务器模块分配的任务信息，为所述相应计算节点终端启动被分配的正射校正任务，所述相应计算节点终端启动正射校正任务后，利用GDAL直接从该正射校正任务对应的卫星遥感影像压缩包中提取原始卫星遥感影像和对应正射校正参数进行正射校正处理。

2.根据权利要求1所述的多机多任务并行卫星遥感影像正射校正处理系统，其特征在于，

所述计算节点终端利用GPU为卫星遥感影像的正射校正处理进行并行处理。

3.根据权利要求2所述的多机多任务并行卫星遥感影像正射校正处理系统，其特征在于，

所述为各计算节点终端动态地分配的计算任务是正射校正任务；

所述计算节点终端包括GPU；

所述计算节点终端利用GDAL直接从该正射校正任务对应的卫星遥感影像压缩包中提取原始卫星遥感影像和对应正射校正参数之后，解析该正射校正参数并构建RPC变换模型；之后，利用该RPC变换模型计算目标影像坐标范围，并对目标影像范围进行网格划分之后，以每一个网格作为一个独立的子任务，在GPU共享存储器中保存各网格的XY方向变换参数，利用该XY方向变换参数，在GPU的多个线程同时对多个网格计算每个像元的对应的原影像位置。

4.根据权利要求1所述的多机多任务并行卫星遥感影像正射校正处理系统，其特征在于，

所述计算节点终端利用CPU多线程模式为正射校正处理进行并行处理。

5.根据权利要求4所述的多机多任务并行卫星遥感影像正射校正处理系统，其特征在于，

所述为各计算节点终端动态地分配的计算任务是正射校正任务；

所述计算节点终端的CPU能够以多线程模式运行；

所述计算节点终端利用GDAL直接从该正射校正任务对应的卫星遥感影像压缩包中提取原始卫星遥感影像和对应正射校正参数之后，解析该正射校正参数并构建RPC变换模型；之后，利用该RPC变换模型计算目标影像坐标范围，并对目标影像范围进行网格划分之后，以每一个网格作为一个独立的子任务，在所述计算节点终端的存储器中保存各网格的XY方向变换参数，利用该XY方向变换参数，通过CPU多线程模式同时对多个网格计算每个像元的对应的原影像位置。

6.一种多机多任务并行卫星遥感影像正射校正处理方法，其特征在于，

包括：

卫星遥感影像导入步骤，批量导入卫星遥感影像压缩包；

各计算节点终端的资源使用情况采集和上报步骤，在各计算节点终端设有资源及任务管理客户端模块，该资源及任务管理客户端模块动态地采集并上报计算节点终端的资源使用情况；

计算节点终端资源使用情况列表建立步骤，在服务器上设有资源及任务管理服务器模块，该资源及任务管理服务器模块根据各所述资源及任务管理客户端模块上报的资源使用情况，建立计算节点终端资源使用情况列表；

调度步骤，所述资源及任务管理服务器模块根据计算节点终端资源使用情况列表，为各所述计算节点终端动态地分配计算任务；以及

任务执行步骤，所述资源及任务管理客户端模块根据由资源及任务管理服务器模块分配的任务信息，为所述计算节点终端启动被分配的正射校正任务，所述计算节点终端启动正射校正任务后，利用GDAL直接从该正射校正任务对应的卫星遥感影像压缩包中提取原始卫星遥感影像和对应正射校正参数，进行正射校正处理。

7.根据权利要求6所述的多机多任务并行卫星遥感影像正射校正处理方法，其特征在于，

在所述任务执行步骤，利用GPU为卫星遥感影像的正射校正处理进行并行处理。

8.根据权利要求7所述的多机多任务并行卫星遥感影像正射校正处理方法，其特征在于，

所述为各计算节点终端动态地分配的计算任务是正射校正任务，

在所述任务执行步骤，所述计算节点终端利用GDAL直接从该正射校正任务对应的卫星遥感影像压缩包中提取原始卫星遥感影像和对应正射校正参数之后，解析该正射校正参数并构建RPC变换模型；之后，利用该RPC变换模型计算目标影像坐标范围，并对目标影像范围进行网格划分之后，以每一个网格作为一个独立的子任务，在GPU共享存储器中保存各网格的XY方向变换参数，利用该XY方向变换参数，在GPU的多个线程同时对多个网格计算每个像元的对应的原影像位置。

9.根据权利要求6所述的多机多任务并行卫星遥感影像正射校正处理方法，其特征在于，

在所述任务执行步骤，所述计算节点终端利用CPU多线程模式为正射校正处理进行并行处理。

10.根据权利要求9所述的多机多任务并行卫星遥感影像正射校正处理方法，其特征在于，

所述为各计算节点终端动态地分配的计算任务是正射校正任务，

在所述任务执行步骤，所述计算节点终端利用GDAL直接从该正射校正任务对应的卫星遥感影像压缩包中提取原始卫星遥感影像和对应正射校正参数之后，解析该正射校正参数并构建RPC变换模型；之后，利用该RPC变换模型计算目标影像坐标范围，并对目标影像范围进行网格划分之后，以每一个网格作为一个独立的子任务，在所述计算节点终端的存储器中保存各网格的XY方向变换参数，利用该XY方向变换参数，通过CPU多线程模式同时对多个网格计算每个像元的对应的原影像位置。