CN117828112A - 栅格数据分片存储方法、装置、设备及存储介质 - Google Patents

Abstract

本公开的实施例提供了一种栅格数据分片存储方法、装置、设备及存储介质。所述方法包括：获取栅格数据；对所述栅格数据进行切分，生成分片栅格数据；对所述分片栅格数据进行无中心分布式存储。以此方式，可以通过无中心分片存储栅格数据的存储方式，克服了高并发场景下的栅格数据存储及读写易发生单点故障等问题，并且由于采用计算存储节点的方式，将块数据分发到不同的机器上来做存储，同时分片的算法兼顾了栅格数据的特点，使相邻的块尽可能的分布在同一个节点上，便于栅格数据的读取。

Description

栅格数据分片存储方法、装置、设备及存储介质

技术领域

本公开一般涉及遥感影像信息处理技术领域，并且更具体地，涉及一种栅格数据分片存储方法、装置、设备及存储介质。

背景技术

将栅格数据存储到数据库中，通用的方案是将栅格数据划分成256*256的小块，然后分别按照行、列存入到数据库中。而数据库所使用的存储一般都在特定的磁盘上，随着数据的增多，对磁盘的占用空间也会越来越大。这种处理方式导致的以下问题：所有的读写压力都集中在特定磁盘上，当数据库访问并发比较大的时候，磁盘的读写速度将会成为瓶颈；磁盘空间很容易超限，需要不定期的扩容磁盘来保证需要；容易出现单点故障，即磁盘损坏，数据则丢失。

同时市面上已存在中心节点管理元数据、分布式管理元数据、无元数据设计等方式解决存储问题，但都存在相应的缺点，并没有完全解决该问题，并且关于遥感影像领域的栅格数据存储存在优化的空间。

发明内容

本公开提供了一种栅格数据分片存储方法、装置、设备及存储介质。

根据本公开的第一方面，提供了一种栅格数据分片存储方法。该方法包括：

获取栅格数据；

对栅格数据进行切分，生成分片栅格数据；

对分片栅格数据进行无中心分布式存储。

优选的，获取栅格数据包括：对原始栅格数据进行预处理，即对栅格数据的图像进行去重、去噪、归一化。

优选的，对栅格数据进行切分包括：

对原始栅格数据进行分块，按照预设分片规则生成具有确定大小的分片栅格数据。

优选的，对分片栅格数据进行无中心分布式存储包括：

根据分片栅格数据在原始栅格数据的行、列号对其进行编号；

根据各编号结果确定各分片栅格数据的存储节点；

数据库存储引擎根据存储节点对分片栅格数据进行分发，分发至各设备。

优选的，通过以下公式确定分片栅格数据所在的存储节点：

其中，index为存储节点标识，w为原始栅格的宽，h为原始栅格的高，r为各分片栅格数据在原始栅格中对应的行号，c为对应的列号是，m同时规定为存储节点的数量，offset为代表冗余节点偏移量，取值为[1,3]。

优选的，响应于用户获取数据请求确定获取数据请求的区域对应的分片栅格数据，生成数据返回指令，

其中，数据返回指令包括获取数据请求的区域对应的多个分片栅格数据，及各分片栅格数据在原始栅格数据对的行、列编号；

存储引擎根据接收到的数据返回指令确定数据返回指令对应的存储节点；

并根据存储节点确定各存储节点对应的分片栅格数据，对得到各分片栅格数据返回至用户。

根据本公开的第二方面，提供了一种栅格数据分片存储装置。该装置包括：

获取模块，用于获取栅格数据；

切分模块，用于对栅格数据进行切分，生成分片栅格数据；

存储模块，用于对分片栅格数据进行无中心分布式存储。

根据本公开的第三方面，提供了一种电子设备。该电子设备包括：存储器和处理器，所述存储器上存储有计算机程序，所述处理器执行所述程序时实现如以上所述的方法。

根据本公开的第四方面，提供了一种计算机可读存储介质，其上存储有计算机程序，所述程序被处理器执行时实现如以上所述的方法。

本公开中，通过无中心分片存储栅格数据的存储方式，克服了高并发场景下的栅格数据存储及读写易发生单点故障等问题，并且由于采用计算存储节点的方式，将块数据分发到不同的机器上来做存储,同时分片的算法兼顾了栅格数据的特点，使相邻的块尽可能的分布在同一个节点上，便于栅格数据的读取。

应当理解，发明内容部分中所描述的内容并非旨在限定本公开的实施例的关键或重要特征，亦非用于限制本公开的范围。本公开的其它特征将通过以下的描述变得容易理解。

附图说明

结合附图并参考以下详细说明，本公开各实施例的上述和其他特征、优点及方面将变得更加明显。附图用于更好地理解本方案，不构成对本公开的限定在附图中，相同或相似的附图标记表示相同或相似的元素，其中：

图1示出了根据本公开的实施例的栅格数据分片存储方法的流程图；

图2示出了根据本公开的实施例的栅格数据分片存储装置的框图；

图3示出了用来实现本公开实施例的栅格数据分片存储方法的电子设备的框图；

图4示出了用来实现本公开实施例的如何根据原始栅格数据进行分片的过程的示例图示；

图5示出了用来实现本公开实施例的推广至具有确定宽度原始栅格数据的分片方法的示例图示；

图6示出了根据本公开的实施例的栅格数据分片存储方法的存储过程流程图；

图7示出了能够实施本公开的实施例的示例性栅格数据分片存储服务器处理过程的框图。

具体实施方式

为使本公开实施例的目的、技术方案和优点更加清楚，下面将结合本公开实施例中的附图，对本公开实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本公开一部分实施例，而不是全部的实施例。基于本公开中的实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的全部其他实施例，都属于本公开保护的范围。

另外，本文中术语“和/或”，仅仅是一种描述关联对象的关联关系，表示可以存在三种关系，例如，A和/或B，可以表示：单独存在A，同时存在A和B，单独存在B这三种情况。另外，本文中字符“/”，一般表示前后关联对象是一种“或”的关系。

本公开中，通过无中心分片存储栅格数据的存储方式，克服了高并发场景下的栅格数据存储及读写易发生单点故障等问题，并且由于采用计算存储节点的方式，将块数据分发到不同的机器上来做存储,同时分片的算法兼顾了栅格数据的特点，使相邻的块尽可能的分布在同一个节点上。

图1示出了根据本公开实施例的一种栅格数据分片存储方法的流程图。

本公开实施例的栅格数据分片存储方法包括：

S1：获取栅格数据。

原始栅格数据通过对通过传统手段野外实测获得和通过航天航空遥感、航测、全球卫星定位系统(GPS)等现代技术获得的地理信息，经过栅格编码方式得到。

栅格数据包括专题数据、连续数据、图片等，栅格数据中最简形式的栅格由按行和列(或格网)组织的像元(或像素)矩阵组成，其中的每个像元都包含一个信息值(例如温度)。栅格可以是数字航空像片、卫星影像、数字图片或甚至扫描的地图。以栅格格式存储的数据可以表示各种实际现象。专题数据(也称为离散数据)表示土地利用或土壤数据等要素。连续数据表示温度、高程或光谱数据(例如，卫星影像或航空像片)等现象。图片则包括扫描的地图或绘图，以及建筑物照片。

将栅格数据存储到数据库中，一般做法都是需要将栅格数据划分为256*256的小块，然后分别按照行、列存储到数据库中。

在一些实施例中，本公开通过将数据库接收到的原始栅格数据进行预处理，即数据清洗，将数据库中的原始栅格数据重复的数据记录进行筛选去除重复数据；并且去除原始栅格数据的错误、不全的数据记录；将数据库中原始栅格数据的格式进行统一；以便于简便下一步对栅格数据的处理。

S2：对所述栅格数据进行切分，生成分片栅格数据。

同样的，按照256*256的方块将接收到原始栅格数据进行划分。如图4所示，本公开以将一个长512宽512的栅格数据存入到数据库系统中为例，按照256*256来进行划分，可以分为4个小块，并且为切分后的4小块进行编号分别为(0，0)(0，1)(1，0)(1，1)，然后分别存入到数据库，所述切分成功的各小块即为各分片栅格数据。

S3：对所述分片栅格数据进行无中心分布式存储。

具体的，根据分片栅格数据在原始栅格数据的行、列号对其进行编号；根据各编号结果确定各分片栅格数据的存储节点；数据库存储引擎根据所述存储节点对所述分片栅格数据进行分发，分发至各设备。

传统的单机数据库的存储模式中，所有的数据都是存储在同一块存储区域，即S2示例中数据库存储的四个块数据是存在同一个磁盘上的。而本公开采用了无中心分布式的存储，通过计算存储节点的方式，将块数据分发到不同的机器上来做存储,同时分片的算法兼顾了栅格数据的特点，使相邻的块尽可能的分布在同一个节点上，从而可以通过以下公式确定各个分片栅格数据的存储节点。

在一些实施例中，本公开首先根据256*256的块大小，对原始栅格进行分片。每一片数据都有自己在原始栅格中的唯一行列号(行、列号都从0开始计算)。

如图5所示：将上述预设分片方法推广至其他大小的栅格数据。

定义原始栅格的宽为w,高为h,每一个块数据在原始栅格中对应的行号是r，对应的列号是c,同时规定机器中节点的数量为m，则计算块数据所在的节点(i)的公式是

offset的代表冗余节点偏移量，取值为[1,3]。

通过上述公式，整体来看所有的分块数据会被均匀的分布在各个节点上，从局部来看相邻的9个块会被存入到同一个节点上。

在操作读取栅格的时候，一般不会读取某一个具体块的数据，而是请求栅格上某一个范围的数据，这一块数据可能会对应对各数据库块，这些数据块是空间自相关的。

如图6所示，本公开栅格数据分片存储方法的存储过程流程图。

在一些实施例中，为了保证分布式存储的可用性，在设计的时候，需要应对节点故障，因此对数据需要进行冗余存储。可以通过配置offset的来设计冗余存储的数目。

例如，将offset设置为1，则数据在节点上只有一个备份，此时任意一个节点故障，会导致此节点上的数据无法读取，但是整个存储仍然可用。设置为3，数据库存储引擎在存储分片数据的时候，分别将offset的值设置成1、2、3，并计算出3个节点的编号，并将分片数据分别存储在这个3个节点上，此时每一个分片数据在整个无中心集群上都有3个备份，任意两个节点故障，数据仍然是完整状态。例如，当offset值为3的时候，对于(0,0)这个分片数据，会同时存储在节点1、节点2、节点3三个节点上。数据库存储引擎在读取数据的时候，会优先读取offset＝1时对应的节点，如果此节点不可用，则会依次读取offset＝2、3时的节点数据，直到读取到数据为止。此时，节点1、节点2出现故障，数据库存储引擎仍然能从节点3上读取到(0,0)块数据。

如图7所示，是能够实施本公开的实施例的示例性栅格数据分片存储服务器处理过程的框图。

在一些实施例中，服务器处理无中心分布式存储栅格数据的过程如下：响应于用户请求获取影像指定区域的数据；根据请求的区域计算出需要计算出要请求哪些分片栅格数据；将指令发送至存储引擎；根据分片栅格数据的行列计算出这些数据在哪些存储节点上；根据各存储节点确定对应的各分片栅格数据；存储引擎将各分片栅格数据返回；将返回的分片栅格数据合并为一个完整的数据；将合并后的数据发送至用户端。

本公开通过使用分布式存储的方式存储分片栅格数据，理论上支持无限的存储空间，同时在大量并发的情况下，将读写操作分布到了各个节点上，提高了整体上的IO速度。使用无中心存储的存储方式，相比较于有中心的分布式存储，可有效解决中心单点故障的问题。并且设计了冗余存储解决方式(即将offset设置为3)，使得可以当两节点设备发生故障时，仍有备份数据，保证了数据存储的稳定性。并且分片算法针对栅格数据的空间自相关的特点来进行设计，使得相邻的分片数据尽可能存储在同一个节点上，当需要读写栅格数据时保证了可以顺序读写。

根据本公开的实施例，实现了以下技术效果：

(1)基于影像领域时空自相关的影像数据优化分片实现了算法空间自相关的数据都在同一个磁盘上的同一块区域，尽可能的使用顺序读写而不是随机读写。

(2)基于数据库的存储引擎的数据分片实现了，在一次请求中，让数据库引擎尽可能操作比较少的节点来获取到完整的数据。

(3)采用无中心分布冗余存储的方式，使得数据库中的栅格数据既是分布在各个节点上，对不同区域的请求最终的读取又都会落在不同的节点上，从而提高整体的IO吞吐量，提高数据存储和读取请求的响应速度。

需要说明的是，对于前述的各方法实施例，为了简单描述，故将其都表述为一系列的动作组合，但是本领域技术人员应该知悉，本公开并不受所描述的动作顺序的限制，因为依据本公开，某些步骤可以采用其他顺序或者同时进行。其次，本领域技术人员也应该知悉，说明书中所描述的实施例均属于可选实施例，所涉及的动作和模块并不一定是本公开所必须的。

以上是关于方法实施例的介绍，以下通过装置实施例，对本公开所述方案进行进一步说明。

图2示出了根据本公开的实施例的栅格数据分片存储装置200的方框图。如图2所示，装置200包括：

获取模块210，用于获取栅格数据；

切分模块220，用于对所述栅格数据进行切分，生成分片栅格数据；

存储模块230，用于对所述分片栅格数据进行无中心分布式存储。

所属领域的技术人员可以清楚地了解到，为描述的方便和简洁，所述描述的模块的具体工作过程，可以参考前述方法实施例中的对应过程，在此不再赘述。

根据本公开的实施例，本公开还提供了一种电子设备、一种可读存储介质和一种计算机程序产品。

图3示出了可以用来实施本公开的实施例的电子设备300的示意性框图。电子设备旨在表示各种形式的数字计算机，诸如，膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置，诸如，个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例，并且不意在限制本文中描述的和/或者要求的本公开的实现。

设备300包括计算单元301，其可以根据存储在只读存储器(ROM)302中的计算机程序或者从存储单元308加载到随机访问存储器(RAM)303中的计算机程序，来执行各种适当的动作和处理。在RAM 303中，还可存储设备300操作所需的各种程序和数据。计算单元301、ROM 302以及RAM 303通过总线304彼此相连。输入/输出(I/O)接口305也连接至总线304。

设备300中的多个部件连接至I/O接口305，包括：输入单元306，例如键盘、鼠标等；输出单元307，例如各种类型的显示器、扬声器等；存储单元308，例如磁盘、光盘等；以及通信单元309，例如网卡、调制解调器、无线通信收发机等。通信单元309允许设备300通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。

计算单元301可以是各种具有处理和计算能力的通用和/或专用处理组件。计算单元301的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的计算单元、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。计算单元301执行上文所描述的各个方法和处理，例如栅格数据分片存储方法。例如，在一些实施例中，栅格数据分片存储方法可被实现为计算机软件程序，其被有形地包含于机器可读介质，例如存储单元308。在一些实施例中，计算机程序的部分或者全部可以经由ROM302和/或通信单元309而被载入和/或安装到设备300上。当计算机程序加载到RAM 303并由计算单元301执行时，可以执行上文描述的栅格数据分片存储方法的一个或多个步骤。备选地，在其他实施例中，计算单元301可以通过其他任何适当的方式(例如，借助于固件)而被配置为执行栅格数据分片存储方法。

本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、现场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上系统的系统(SOC)、负载可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括：实施在一个或者多个计算机程序中，该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释，该可编程处理器可以是专用或者通用可编程处理器，可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令，并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。

用于实施本公开的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器或控制器，使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行，作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。

在本公开的上下文中，机器可读介质可以是有形的介质，其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备，或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。

为了提供与用户的交互，可以在计算机上实施此处描述的系统和技术，该计算机具有：用于向用户显示信息的显示装置(例如，CRT(阴极射线管)或者LCD(液晶显示器)监视器)；以及键盘和指向装置(例如，鼠标或者轨迹球)，用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互；例如，提供给用户的反馈可以是任何形式的传感反馈(例如，视觉反馈、听觉反馈、或者触觉反馈)；并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。

可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如，作为数据服务器)、或者包括中间件部件的计算系统(例如，应用服务器)、或者包括前端部件的计算系统(例如，具有图形用户界面或者网络浏览器的用户计算机，用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如，通信网络)来将系统的部件相互连接。通信网络的示例包括：局域网(LAN)、广域网(WAN)和互联网。

计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器，也可以为分布式系统的服务器，或者是结合了区块链的服务器。

应该理解，可以使用上面所示的各种形式的流程，重新排序、增加或删除步骤。例如，本公开中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行，只要能够实现本公开公开的技术方案所期望的结果，本文在此不进行限制。

上述具体实施方式，并不构成对本公开保护范围的限制。本领域技术人员应该明白的是，根据设计要求和其他因素，可以进行各种修改、组合、子组合和替代。任何在本公开的精神和原则之内所作的修改、等同替换和改进等，均应包含在本公开保护范围之内。

Claims (9)

1.一种栅格数据分片存储方法，应用于数据库存储引擎，其特征在于，所述方法包括：

获取栅格数据；

对所述栅格数据进行切分，生成分片栅格数据；

对所述分片栅格数据进行无中心分布式存储。

2.根据权利要求1所述的存储方法，其特征在于，所述获取栅格数据包括：

对原始栅格数据进行预处理，具体包括对栅格数据的图像进行去重、去噪、归一化，得到栅格数据。

3.根据权利要求1所述的存储方法，其特征在于，所述对所述栅格数据进行切分包括：

对原始栅格数据进行分块，按照预设分片规则生成具有确定大小的所述分片栅格数据。

4.根据权利要求1所述的存储方法，其特征在于，所述对所述分片栅格数据进行无中心分布式存储包括：

根据所述分片栅格数据在原始栅格数据的行、列号对其进行编号；

根据各编号结果确定各分片栅格数据的存储节点；

数据库存储引擎根据所述存储节点对所述分片栅格数据进行分发，分发至各设备。

5.根据权利要求1所述的存储方法，其特征在于，通过以下公式确定所述分片栅格数据所在的存储节点：

其中，index为存储节点标识，w为原始栅格的宽，h为原始栅格的高，r为各分片栅格数据在原始栅格中对应的行号，c为对应的列号是，m同时规定为存储节点的数量，offset为代表冗余节点偏移量，取值为[1,3]。

6.根据权利要求5所述的存储方法，其特征在于，还包括：

响应于用户获取数据请求确定所述获取数据请求的区域对应的分片栅格数据，生成数据返回指令，

其中，数据返回指令包括获取数据请求的区域对应的多个分片栅格数据，及各分片栅格数据在原始栅格数据对的行、列编号；

存储引擎根据接收到的所述数据返回指令确定所述数据返回指令对应的存储节点；

并根据所述存储节点确定各存储节点对应的分片栅格数据，对得到各分片栅格数据返回至用户。

7.一种栅格数据分片存储装置，其特征在于，所述装置包括：

获取模块，用于获取栅格数据；

切分模块，用于对所述栅格数据进行切分，生成分片栅格数据；

存储模块，用于对所述分片栅格数据进行无中心分布式存储。

8.一种电子设备，其特征在于，包括：至少一个处理器；以及

与所述至少一个处理器通信连接的存储器；其中，

所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行权利要求1-6中任一项所述的方法。

9.一种存储有计算机指令的非瞬时计算机可读存储介质，其特征在于，所述计算机指令用于使所述计算机执行根据权利要求1-6中任一项所述的方法。