CN105260134B - 集群环境下面向动态空间计算域的地图数据均衡存储方法 - Google Patents
集群环境下面向动态空间计算域的地图数据均衡存储方法 Download PDFInfo
- Publication number
- CN105260134B CN105260134B CN201510607192.7A CN201510607192A CN105260134B CN 105260134 B CN105260134 B CN 105260134B CN 201510607192 A CN201510607192 A CN 201510607192A CN 105260134 B CN105260134 B CN 105260134B
- Authority
- CN
- China
- Prior art keywords
- map
- cluster
- subspace
- block
- node
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Landscapes
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
- Data Exchanges In Wide-Area Networks (AREA)
Abstract
本发明公开了一种集群环境下面向动态空间计算域的地图数据均衡存储方法,其包括以下步骤:设置地图服务器集群中的结点个数;计算地图子空间大小;计算地图数据在子空间中的位置;计算地图数据在集群中的目标存储结点索引;将地图数据存储到目标结点;循环上述步骤将所有地图数据均衡存储到地图服务器集群的各个结点中。本发明能够将每个地图子空间中的地图数据均衡分配到集群中各个服务结点,从而实现将任意动态空间计算域的地图数据访问请求均衡分配到集群中的各个结点,均衡集群环境下各个网络地图服务结点的负载,实现集群环境下面向动态空间计算域的海量地图数据的均衡存储。
Description
技术领域
本发明涉及高性能地理计算领域,尤其涉及一种集群环境下面向动态空间计算域的地图数据均衡存储方法。
背景技术
集群环境下海量地图数据的均衡存储是WebGIS中需要解决的难题之一,尤其是在空间计算域动态变化场景下,如何将各个动态空间计算域的地图数据访问请求均衡分配给集群中的各个结点,是实现网络地图服务负载均衡的关键。目前集群环境下的地图数据存储主要有两大类,第一类是完全冗余存储,即集群中每个结点都将数据完整的存储了一份,这种方式最易实施,但由于是完全冗余存储,极大的浪费了有限的存储资源,不能适应海量地图数据。第二类是划分存储,将海量地图数据按专题、比例尺、空间范围或行政区等进行划分,存储到集群环境下各个服务结点中,由于客户端访问的地图数据空间位置具有动态性,如果采用这类划分存储方法,来自客户端的地图数据访问请求大多只能分配到某一个服务结点上,不能并行调度集群下所有服务结点响应同一客户端地图数据访问请求,集群的多结点并行计算资源没有得到充分利用。
发明内容
本发明要解决的技术问题在于针对现有技术中的缺陷,提供一种集群环境下面向动态空间计算域的地图数据均衡存储方法。
本发明解决其技术问题所采用的技术方案是:集群环境下面向动态空间计算域的地图数据均衡存储方法,包括以下步骤:
1)设置集群环境下服务结点个数n;
2)根据集群中的服务结点个数n计算地图子空间大小s;根据地图子空间大小将海量地图数据划分为多个子空间范围;
一个地图子空间大小为s,则该子空间中有s*s个地图数据块;
3)计算地图数据块在地图子空间中的位置,设地图数据块的行号为R,列号为C,地图数据块在地图子空间中的行号为r,列号为c,则r和c的计算方法如公式(1)和公式(2)所示;
r=R%s (1);
c=C%s (2);
4)根据地图数据块在地图子空间中的位置计算地图数据块在集群中的目标存储结点索引i;
其计算方法如公式(3)所示;
i=(r·s+c)%n (3);
5)将地图数据存储到目标结点i中;
6)循环将所有地图数据存储到集群中的各个服务结点中,完成地图数据均衡存储。
按上述方案,所述步骤2)中每个地图子空间是一个规则的正方形,其中Math.ceil()是向上取整函数。
本发明产生的有益效果是:将海量地图数据根据集群结点数在空间上划分为多个子空间范围,在每个地图子空间中都将地图数据均衡分配到集群中的各个结点,从而能够将客户端动态变化的空间计算域的地图访问请求均衡分配到集群中的各个结点,实现网络地图服务集群的负载均衡,提高集群的资源利用率和并发响应能力。
附图说明
下面将结合附图及实施例对本发明作进一步说明,附图中:
图1是本发明提供的集群环境下面向动态空间计算域的海量地图数据均衡存储方法流程图;
图2是本发明以第3级瓦片地图数据在集群环境下的存储为例的方法流程图。
图3是本发明以第3级瓦片地图数据为例的集群下的存储结点分配效果图。
具体实施方式
为了使本发明的目的、技术方案及优点更加清楚明白,以下结合实施例,对本发明进行进一步详细说明。应当理解,此处所描述的具体实施例仅用以解释本发明,并不用于限定本发明。
如图1所示,图1是本发明提供的集群环境下面向动态空间计算域的海量地图数据均衡存储方法流程图,所述方法包括以下步骤:
步骤1)设置网络地图服务集群中的服务结点个数n;
步骤2)根据集群中的结点个数n计算地图子空间大小s,每个地图子空间是一个规则的正方形,其包含s*s个地图数据块,其中Math.ceil()是向上取整函数;
步骤3)计算地图数据块在地图子空间中的位置,设地图数据块的行号为R,列号为C,地图数据块在地图子空间中的行号为r,列号为c,则r和c的计算方法如公式(1)和公式(2)所示;
r=R%s 公式(1)
c=C%s 公式(2)
步骤4)计算地图数据块在集群中的目标存储结点索引i,其计算方法如公式(3)所示;
i=(r·s+c)%n 公式(3)
步骤5)将地图数据块存储到第i个目标结点;
步骤6)循环执行步骤3至步骤5,将所有地图数据块存储到集群中的各个服务结点中,结束。
本发明最明显的不同在于在步骤3至步骤4中借助地图子空间,将海量地图数据根据集群结点数在空间上划分为多个子空间范围,在每个地图子空间中都将地图数据均衡分配到集群中的各个结点,从而能够将客户端动态变化的空间计算域的地图访问请求均衡分配到集群中的各个结点,实现网络地图服务集群的负载均衡,提高集群的资源利用率和并发响应能力。
实施例一:
为了更清晰地说明本发明的思想,下面结合附图2以四叉树形式组织的第3级瓦片地图数据为实施例进行进一步的说明,在该实施例中,网络地图服务集群采用4个服务结点,第3级瓦片地图数据在该集群环境下均衡存储的具体步骤如下:
步骤200)、设置网络地图服务集群中的服务结点个数n=4;
步骤201)、根据集群中的结点个数n计算地图子空间大小s,每个地图子空间是一个规则的正方形,其中第3级瓦片数据一共包含23行*23列瓦片图像,可将其划分为(23/s)·(23/s)=16个地图子空间;
步骤202)、计算地图数据块在地图子空间中的位置,设地图数据块的行号为R,列号为C,地图数据块在地图子空间中的行号为r,列号为c,以第5行第4列瓦片数据为例,R=5,C=4,其在地图子空间中的行号r=5%2=1,c=4%2=0,该瓦片在地图子空间中位于第1行第0列。如图3所示。
步骤203)、计算地图数据块在集群中的目标存储结点索引i,以第5行第4列瓦片数据为例,其目标存储结点索引i=(1·2+0)%4=2。
步骤204)、将地图数据块存储到第i个目标结点,以第5行第4列瓦片数据为例,将其存储到集群中的第2个服务结点;
步骤205)、循环执行步骤3至步骤5,将第3级所有地图数据块存储到集群中的各个服务结点中,结束。
第3级瓦片数据中的各个瓦片图像最终的存储结点分配结果如图3所示。在4个结点组成的网络地图服务集群环境下,该实施例采用地图子空间局部均衡存储技术,将第3级瓦片地图数据均衡存储到4个结点,此均衡存储方法不仅均衡了各个结点的数据量,同时也顾及到了客户端空间计算域的空间位置的动态变化性,能够将动态空间计算域的地图数据访问请求均衡分配到集群下的各个结点中,在实际地图应用中,地图可视化窗口的空间位置和大小是动态变化的,但本发明采用的局部地图子空间均衡存储方法能够适应这种动态变化性,以图3中的地图可视化窗口为例,该空间计算域的36个瓦片地图数据访问请求将被均衡的分配到4个结点上,本发明有助于实现网络地图服务集群的负载均衡,对提高集群资源利用率和并发响应能力具有重要的意义。
以上内容是结合具体的实施例对本发明所作的进一步详细说明,不能认定本发明的具体实施只局限于这些说明,本发明可以用于所有类型的空间数据在集群环境下的均衡存储。对于本发明所属技术领域的普通技术人员来说,在不脱离本发明构思的前提下,还可以做出若干简单推演或替换,都应当视为属于本发明的保护范围。
Claims (1)
1.一种集群环境下面向动态空间计算域的地图数据均衡存储方法,其特征在于,包括以下步骤:
1)设置集群环境下服务结点个数n;
2)根据集群中的服务结点个数n计算地图子空间大小s;根据地图子空间大小将海量地图数据划分为多个子空间范围;每个地图子空间是一个规则的正方形,其包含s*s个地图数据块,其中Math.ceil()是向上取整函数;
3)计算地图数据块在地图子空间中的位置,设地图数据块的行号为R,列号为C,地图数据块在地图子空间中的行号为r,列号为c,则r和c的计算方法如公式(1)和公式(2)所示;
r=R%s (1);
c=C%s (2);
4)根据地图数据块在地图子空间中的位置计算地图数据块在集群中的目标存储结点索引i;
其计算方法如公式(3)所示;
i=(r·s+c)%n (3);
5)将地图数据块存储到目标结点i中;
6)循环将所有地图数据块存储到集群中的各个服务结点中,完成地图数据均衡存储。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201510607192.7A CN105260134B (zh) | 2015-09-19 | 2015-09-19 | 集群环境下面向动态空间计算域的地图数据均衡存储方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201510607192.7A CN105260134B (zh) | 2015-09-19 | 2015-09-19 | 集群环境下面向动态空间计算域的地图数据均衡存储方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN105260134A CN105260134A (zh) | 2016-01-20 |
CN105260134B true CN105260134B (zh) | 2018-06-08 |
Family
ID=55099841
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201510607192.7A Expired - Fee Related CN105260134B (zh) | 2015-09-19 | 2015-09-19 | 集群环境下面向动态空间计算域的地图数据均衡存储方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN105260134B (zh) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108733317B (zh) * | 2017-04-18 | 2021-01-26 | 北京京东尚科信息技术有限公司 | 数据存储方法和装置 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
GB2429800A (en) * | 2005-05-13 | 2007-03-07 | Ls2003 Ltd | Spatial data partitioning |
US7383275B2 (en) * | 2002-05-10 | 2008-06-03 | International Business Machines Corporation | Methods to improve indexing of multidimensional databases |
US7640257B2 (en) * | 2007-08-09 | 2009-12-29 | Teradata Us, Inc. | Spatial join in a parallel database management system |
CN101729412A (zh) * | 2009-11-05 | 2010-06-09 | 北京超图软件股份有限公司 | 地理信息服务的分布式层次集群方法和系统 |
CN103108045A (zh) * | 2013-02-06 | 2013-05-15 | 浙江大学 | 基于云架构的Web地图服务实现方法 |
-
2015
- 2015-09-19 CN CN201510607192.7A patent/CN105260134B/zh not_active Expired - Fee Related
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7383275B2 (en) * | 2002-05-10 | 2008-06-03 | International Business Machines Corporation | Methods to improve indexing of multidimensional databases |
GB2429800A (en) * | 2005-05-13 | 2007-03-07 | Ls2003 Ltd | Spatial data partitioning |
US7640257B2 (en) * | 2007-08-09 | 2009-12-29 | Teradata Us, Inc. | Spatial join in a parallel database management system |
CN101729412A (zh) * | 2009-11-05 | 2010-06-09 | 北京超图软件股份有限公司 | 地理信息服务的分布式层次集群方法和系统 |
CN103108045A (zh) * | 2013-02-06 | 2013-05-15 | 浙江大学 | 基于云架构的Web地图服务实现方法 |
Non-Patent Citations (5)
Title |
---|
Design and implementation of a distributed web service directory in SOA-oriented urban spatial information sharing platform;Mingqiang Guo etl;《2009 Asia-Pacific Conference on Computational Intelligence and Industrial Applications (PACIIA)》;20091231;127-130 * |
The framework and realization of grid node computing pool of China geological spatial information grid;Zhong Xie etl;《2009 17th International Conference on Geoinformatics》;20091231;1-5 * |
分布式环境下海量瓦片数据实时组织与调度策略研究;郭明强 等;《测绘通报》;20131231(第4期);25-28 * |
网络环境下矢量数据高效并行可视化方法;郭明强 等;《武汉大学学报(信息科学版)》;20141231;第39卷(第11期);1382-1386 * |
集群并发环境下大规模矢量数据负载均衡算法;郭明强 等;《武汉大学学报(信息科学版)》;20131231;第38卷(第9期);1131-1134 * |
Also Published As
Publication number | Publication date |
---|---|
CN105260134A (zh) | 2016-01-20 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US8819076B2 (en) | Distributed multidimensional range search system and method | |
US20150012902A1 (en) | Automatic mapping method for a distribution network based on logical layout | |
CN103617162B (zh) | 一种对等云平台上构建希尔伯特r树索引的方法 | |
CN103345508B (zh) | 一种适用于社会网络图的数据存储方法及系统 | |
WO2019000878A1 (zh) | 订单组分配方法及装置 | |
CN109408590B (zh) | 分布式数据库的扩容方法、装置、设备及存储介质 | |
CN104104621B (zh) | 一种基于非线性降维的虚拟网络资源动态自适应调节方法 | |
CN106383828B (zh) | 一种绘图方法及电子设备 | |
CN104407879A (zh) | 一种电网时序大数据并行加载方法 | |
US20170083384A1 (en) | Systems for parallel processing of datasets with dynamic skew compensation | |
CN105141656B (zh) | 一种基于云平台的互联网轻量级应用的负载均衡实现方法 | |
CN104951462B (zh) | 用于管理数据库的方法和系统 | |
CN103414752A (zh) | 一种网络感知的云数据中心虚拟机分配方法 | |
JP2017509043A (ja) | グラフデータクエリ方法および装置 | |
CN102567077A (zh) | 一种基于博弈论的虚拟化资源分配方法 | |
Souri et al. | A survey for replica placement techniques in data grid environment | |
CN107450855A (zh) | 一种用于分布式存储的模型可变的数据分布方法及系统 | |
CN103544300B (zh) | 一种云环境下可扩展存储索引结构的实现方法 | |
CN113835823A (zh) | 资源调度方法和装置、电子设备、计算机可读存储介质 | |
CN105354091A (zh) | 一种基于空间位置的弹性负载均衡方法及系统 | |
CN107360031A (zh) | 一种基于优化开销收益比的虚拟网络映射方法 | |
CN107679127A (zh) | 基于地理位置的点云信息并行提取方法及其系统 | |
CN105260134B (zh) | 集群环境下面向动态空间计算域的地图数据均衡存储方法 | |
CN105589749A (zh) | 云计算环境下的网络ip资源分配方法及装置 | |
CN104158902A (zh) | 一种基于请求数的Hbase数据块分配方法及装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant | ||
TR01 | Transfer of patent right |
Effective date of registration: 20200723 Address after: 430074 Wuhan Road, Hongshan, Shandong Province, Lu Lu Road, No. 388, No. Patentee after: Wuhan in the big asset management Co.,Ltd. Address before: 430074 Wuhan Road, Hongshan, Shandong Province, Lu Lu Road, No. 388, No. Patentee before: CHINA University OF GEOSCIENCES (WUHAN CITY) |
|
TR01 | Transfer of patent right | ||
CF01 | Termination of patent right due to non-payment of annual fee |
Granted publication date: 20180608 Termination date: 20210919 |
|
CF01 | Termination of patent right due to non-payment of annual fee |