CN108804781B - 流计算与传感网集成的地理过程近实时模拟方法 - Google Patents

流计算与传感网集成的地理过程近实时模拟方法 Download PDF

Info

Publication number
CN108804781B
CN108804781B CN201810514261.3A CN201810514261A CN108804781B CN 108804781 B CN108804781 B CN 108804781B CN 201810514261 A CN201810514261 A CN 201810514261A CN 108804781 B CN108804781 B CN 108804781B
Authority
CN
China
Prior art keywords
data
observation
time
real
geographic
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201810514261.3A
Other languages
English (en)
Other versions
CN108804781A (zh
Inventor
乐鹏
上官博屹
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Wuhan University WHU
Original Assignee
Wuhan University WHU
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Wuhan University WHU filed Critical Wuhan University WHU
Priority to CN201810514261.3A priority Critical patent/CN108804781B/zh
Publication of CN108804781A publication Critical patent/CN108804781A/zh
Application granted granted Critical
Publication of CN108804781B publication Critical patent/CN108804781B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F30/00Computer-aided design [CAD]
    • G06F30/20Design optimisation, verification or simulation

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Hardware Design (AREA)
  • Evolutionary Computation (AREA)
  • Geometry (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Abstract

本发明公开了一种流计算与传感网集成的地理过程近实时模拟方法,包括从传统的地理过程模型库中选择需要使用的地理过程模型,搭建传感网,实时获取相关的观测数据,以中间件不断获取实时观测数据并按时间序列组织转化为观测数据流,实现流计算与传感网耦合;在流计算框架订阅生成观测离散数据流O‑DStream,按时间间隔划分为观测弹性分布式数据集O‑RDD;将传统地理过程模型进行并行化改造,将O‑RDD中的观测对象数据以区域为单位平均分配到各个节点进行处理,将处理结果叠加到DEM上可视化实现地理过程近实时模拟。本发明设计了近实时地理过程流计算模型和流计算与基于开放地理信息联盟(OGC)标准的传感网的耦合架构,具有近实时、易扩展、可容错的特性。

Description

流计算与传感网集成的地理过程近实时模拟方法
技术领域
本发明属于地理信息系统应用技术领域,涉及一种地理过程模拟方法,具体地说是一种集成实时流计算系统与开放标准传感网的高性能、易扩展、可容错的地理过程近实时模拟方法。
背景技术
地理过程近实时模拟是指在传统地理过程模型中接入实时或者近实时观测数据,通过高性能计算技术实现对现实世界的动态过程的近实时计算和模拟。地理过程近实时模拟对于智慧城市、应急响应等有着重要的意义,通过融合传感网技术、流计算技术,有助于地理过程的近实时感知,为政府部门提供及时的信息决策支持。
传感网(Sensor Web)技术将具有感知、计算以及通信能力的传感器或是它们组成的传感器网络与Web技术结合,向外提供一系列标准访问接口实现了传感器资源的共享与互操作。传感网的概念最早由NASA的喷气推进实验室在1999年提出,用以定义一种特殊的无限传感器网络架构。2006年,开放地理信息联盟(Open Geospatial Consortium,OGC)针对传感网缺失统一标准的推广应用障碍,将其与面向服务的体系架构相结合,通过制定一系列的传感网服务规范和信息模型,推出了传感网实现架构(Sensor Web Enablement,SWE),为其资源共享和互操作提供了技术支撑。传感网技术的发展使传统的地理数据发现、获取和处理发生了巨大变革,为实现地理模型实时感知奠定了基础。流计算(StreamComputing)技术,即运用一定手段实时或近实时地对流式数据进行处理和分析,目前已经成为了一种新的计算机数据处理范式。2008年,IBM在推出其开发的高性能流数据处理平台“System S”时首次将流计算技术命名为“Stream Computing”而使其广为人知。但在这之前许多关于“Stream Processing”的研究已经在国内外展开,如MIT等三所大学在2003年开始合作研究并推出了Aurora系统,用于解决监测应用如环境监测系统、监视系统和跟踪系统中数据流的实时处理问题。近年来,随着流计算技术的发展,一系列开源的流计算系统被广泛推广和使用,如Yahoo于2010年开源了S4流计算系统,Twitter于2011年开源了Storm流计算系统,基于内存的分布式处理平台Apache Spark也于2013年推出了流计算框架SparkStreaming。同时在地理信息领域,研究人员更加强调了运用流计算的方式对带有地理空间信息的数据流进行实时或近实时的处理和分析。但现有的技术并没有将流计算技术引入到基于开放标准的传感网系统中,更不能有效结合传统的地理过程模型,在实现传感网观测数据互操作性的同时对其进行近实时的处理和分析。而本发明提出由于传感器观测地理对象获得的数据天生可以视作流式的,将传感网与流计算系统进行耦合,将传感网观测数据流引入地理过程模型中进行实时处理,可以有效地实现对现实地理事件的动态过程模拟和近实时感知。
有关文献:Delin K,Jackson S.Sensor Webs for in situ monitoring andexploration[C].Space Technology Conference and Exposition,1999:4556;Botts M,Percivall G,Reed C,et al.
Figure BDA0001673546900000021
Sensor Web Enablement:Overview and High LevelArchitecture[C].Autotestcon,2007:372-380;
Figure BDA0001673546900000022
A,Echterhoff J,Jirka S,etal.New generation sensor web enablement[J].Sensors,2011,11(3):2652-2699;IshiiA,Suzumura T.Elastic Stream Computing with Clouds[C].2011IEEE 4thInternational Conference on Cloud Computing,2011:195-202;Gedik B,Andrade H,WuK L,et al.SPADE:the system s declarative stream processing engine[C].ACMSIGMOD International Conference on Management of Data,2008:1123-1134;Abadi DJ,Carney D,etintemel U,et al.Aurora:a new model and architecture for datastream management[J].Vldb Journal,2003,12(2):120-139;Neumeyer L,Robbins B,Nair A,et al.S4:Distributed Stream Computing Platform[C].IEEE InternationalConference on Data Mining Workshops,2011:170-177;Toshniwal A,Taneja S,ShuklaA,et al.Storm@twitter[J],2014:147-156;Zaharia M,Das T,Li H,et al.Discretizedstreams:an efficient and fault-tolerant model for stream processing on largeclusters[C].Proceedings of the 4th USENIX conference on Hot Topics in CloudCcomputing,2012:10-10;Kazemitabar S J,Banaei-Kashani F,Mcleod D.Geostreamingin cloud[C].ACM Sigspatial International Workshop on Geostreaming,2011:3-9.
发明内容
因而基于上述背景技术,本发明提供了一种流计算与传感网集成的地理过程近实时模拟方法,将实时流计算系统与基于OGC开放标准的传感网进行耦合,改造传统地理过程模型,有效地实现现实世界地理过程的近实时感知与模拟。
本发明所采用的技术方案是一种流计算与传感网集成的地理过程近实时模拟方法,包括以下步骤:
步骤1,从传统的地理过程模型库中选择需要使用的地理过程模型,明确地理过程模型的计算过程与输入输出;
步骤2,根据地理过程模型的输入需求基于OGC SWE搭建传感网,实时获取与该地理过程相关的观测数据;其中,OGC为开放地理信息联盟,SWE为传感网实现架构;
步骤3,基于OGC传感器观测服务管理传感网中各个传感器的观测数据,并以Web服务的形式向外提供观测数据访问接口;
步骤4,以分布式消息发布订阅系统Kafka作为中间件,利用传感器观测服务提供的接口不断获取实时观测数据并按时间序列组织转化为观测数据流,实现流计算与传感网耦合;
步骤5,在流计算框架Spark Streaming中订阅Kafka提供的观测数据流生成观测离散数据流O-DStream,按时间间隔划分为按时间序列组织的观测弹性分布式数据集O-RDD;
所述观测弹性分布式数据集O-RDD中的最小单元是包含传感器信息和观测信息的观测对象,每个O-RDD中的观测对象按照地理区域组织成若干分区;
步骤6,将传统地理过程模型基于MapReduce方法进行并行化改造,对O-RDD进行高性能计算获取当前时间段内的地理过程信息,包括将O-RDD中的观测对象数据以区域为单位平均分配到各个节点进行处理,将处理结果叠加到DEM上可视化实现地理过程近实时模拟;其中,DEM为数字高程模型。
而且,步骤2中,搭建传感网后,传感网中的传感器通过网络进行连接并利用Web技术进行远程管理,每个传感器对其负责区域的地理过程数据进行实时观测,并通过传感器观测服务的相关接口对观测数据进行实时更新。
而且,步骤4中,中间件通过SOS提供的GetCapabilities接口获取所有传感器以及数据格式,并不间断使用GetObservation接口对传感器实时观测数据进行获取,并将XML格式的数据清洗转换为<键,值>形式;当获取到实时观测数据后,中间件利用流数据发布接口,以按时间序列组织的<键,值>方式将观测数据发布转化为观测数据流;其中,SOS为OGC传感网观测服务。
而且,步骤5中,一个分区对应一个地理区域的数据。
本发明的优点是:将流计算系统与基于开放标准的传感网系统进行了耦合,并有效地对传统地理过程模型进行了高性能改造,在保证传感网观测数据互操作性的同时可以对其进行近实时的处理和分析,实现对现实地理过程的动态模拟和近实时感知。
附图说明
图1是本发明实施例的总体实现架构图。
图2是本发明实施例的地理过程流计算模型图。
图3是本发明实施例的洪涝过程流计算模型图。
具体实施方式
为了便于本领域普通技术人员理解和实施本发明,下面结合附图和实施例对本发明作进一步详细描述,应当理解,此处所描述的实施例仅用于说明和解释本发明,并不用于限定本发明。
本发明从数据实时计算与地理过程模型集成的角度出发,针对地理过程流计算模型、系统耦合架构等难点,设计了近实时地理过程流计算模型和流计算与基于开放地理信息联盟(OGC)标准的传感网的耦合架构。本发明以基于OGC标准建立的传感网获取实时观测数据、以传感器观测服务管理实时观测数据、以Kafka分布式消息系统转化生成观测数据流、以Spark Streaming流计算框架改造地理过程模型流式处理观测数据流,具有近实时、易扩展、可容错的特性。
本发明实施例提供了一种流计算与传感网集成的地理过程近实时模拟方法,总体实现架构参见附图1,包括以下步骤:
步骤1:从传统的地理过程模型库中选择需要使用的地理过程模型,明确其计算过程与输入输出;
地理过程模型库包含了许多与现实地理过程有关的信息计算模型,如洪涝模型、水质量模型、飓风模型等等,为本方法提供传统的地理过程模型实现参考。一个经典的地理过程模型通常包括以下步骤:相关数据输入、算法模型实现、数值模拟和计算、地理过程相关信息输出。以洪涝灾害为例,其模型计算流程包括:洪涝过程相关数据输入、径流生成模型计算、汇流模型计算、积水产生模型计算、洪涝过程相关信息输出。
步骤2:根据地理过程模型的输入需求基于OGC SWE搭建传感网,实时获取与该地理过程相关的观测数据;
传感网中的传感器通过网络进行连接并可利用Web技术进行远程管理。每个传感器对其负责区域的地理过程数据进行实时观测,并通过传感器观测服务的相关接口对观测数据进行实时更新。本方法使用开源软件Open Sensor Hub(OSH)搭建传感网,它基于OGCSWE标准提供了一个传感网管理平台,基于信息模型(包括传感器建模语言、观测与测量等)对包括观测数据在内的传感网数据进行管理,基于服务模型(包括传感器观测服务、传感器规划服务等)向外提供可互操作的Web服务接口,能够支持任意类型的传感器、各种格式的观测数据并提供了先进的传感网管理功能,使用户能够轻松地构建可互操作的传感器网络。
步骤3:基于OGC传感器观测服务管理传感网中各个传感器的观测数据,并以Web服务的形式向外提供观测数据访问接口;
OGC传感网观测服务(SOS)定义了一系列Web服务接口,这些服务接口允许使用者通过Web请求的方式查询传感器原数据、传感器观察数据以及观测特征的描述。主要包括:GetCapabilities接口提供了SOS服务信息的描述文档;RegisterSensor接口允许用户向SOS注册一个新的传感器;InsertObservation接口允许用户向SOS插入已经在SOS中注册的传感器的观测值;DescribeSensor接口以SensorML的形式提供指定传感器的元数据;GetObservation接口允许用户查询指定观测过程的观测值以及观测元数据。利用这些接口,SOS实现了以互操作的方式管理传感器观测数据,使不同系统之间可以互相非常方便地管理、提供和获取传感器相关数据。使用OSH搭建的传感网上已经内嵌了以SOS的方式管理传感网观测数据。
步骤4:以Kafka分布式消息发布/订阅系统作为中间件,利用传感器观测服务提供的接口不断获取实时观测数据并按时间序列组织转化为观测数据流,实现流计算与传感网耦合;
由于在基于开放标准的传感网中,利用SOS管理和发布的观测数据为离散数据,直接获取不能满足流计算系统对流式数据的格式要求。因此,在两者之间加入了观测数据流式发布中间件用于将从基于开放标准的传感网中获取的离散的观测数据转化为适合流计算系统处理的观测数据流,并进行传输,实现流计算与传感网耦合。中间件通过SOS提供的GetCapabilities接口获取所有可访问的传感器以及其数据格式,并不间断使用GetObservation接口对传感器实时观测数据进行获取,并将可扩展标记语言(XML)格式的数据清洗转换为<键,值>形式。Kafka是一种高吞吐量的分布式发布订阅消息系统,当获取到实时观测数据后,中间件利用Kafka提供的流数据发布接口,以按时间序列组织的<键,值>方式将观测数据发布转化为观测数据流。
步骤5:在Spark Streaming流计算框架中订阅Kafka提供的观测数据流生成观测离散数据流(O-DStream),按时间间隔划分为按时间序列组织的观测弹性分布式数据集(O-RDD);
离散化流(DStream)是Spark Streaming流计算框架的核心,它由一段段离散的弹性分布式数据集(RDD)组成,包含转化操作和输出操作。本方法将DStream扩展为针对传感器观测数据的O-DStream,它由一系列包含若干传感器观测数据的O-RDD组成,可对观测数据流进行流式计算,具体可见附图2的上半部分,O-RDD中的最小单元是包含传感器信息(传感器ID sensorID)、观测信息(观测时间observedTime、观测值observedValue)等的观测对象(图2中的观测1、观测2等),观测对象又按照地理区域组织成数据分区,以便进行分布式处理,即每个地理区域的数据组织成一个分区,一个分区对应一个地理区域的数据(图2中的分区1、分区2等,分区1中包括观测1、观测2等,分区2中包括观测p+1、观测p+2等…)。可以将O-DStream看作是一种特殊的DStream,包含了针对观测数据的特定数据组织方法,即将数据以观测对象的形式组织,包含了传感器ID、观测时间、观测值。如内涝过程中降雨量O-DStream中,每个O-RDD的基本单元是包含区域信息、降雨量信息、气象传感器信息等的降雨量观测数据对象。具体实施时,地理区域可采用网格划分等方式。除了一个分区对应一个地理区域的数据,参考地理区域划分和节点处理情况,也可以考虑一个分区对应若干地理区域的数据。
步骤6:将传统地理过程模型基于MapReduce方法进行并行化改造,对O-RDD进行高性能计算获取当前时间段内的地理过程信息,叠加到DEM上可视化实现地理过程近实时模拟。
见附图2,本发明按一定时间间隔对流数据按批次进行划分,如从时间点0到时间点1为一个批次。由于流式数据具有无限性,因此将流式数据分割成的数据批次也是无限的。每当到达一个时间点生成一个观测数据批次时,本发明就需要对这个观测数据批次基于地理过程模型进行高性能的处理和分析(本方法使用Spark提供的基于MapReduce的并行计算方法对地理过程模型进行改造),以快速得到当前时间段内的地理过程信息,并按时间顺序对结果进行组织,如图2中的时间点0-1的信息、时间点1-2的信息等。
以一个简单的洪涝过程流计算模型实现为例,见附图3,每个数据批次即是该时间段内计算模型接收到的降雨量数据,包含洪涝过程中各个区域中的传感器在这个时间段内观测到的降雨量数据。该模型将这些数据按照所属的区域分割成独立的数据块(分割区域时需要保证其互相影响的可能性较小),并分别传输到分布式计算集群的各个计算节点上进行并行计算,例如将观测数据以区域为单位平均分配到各个节点进行处理,实现将区域1观测数据、区域2观测数据、…区域m观测数据,平均分配到节点1、节点2、…、节点n,例如有10个区域、5个节点,那么每个节点分配到2个区域的数据。在集群的各个计算节点上,该模型利用传统的较简单的洪涝灾害模型对每个区域的洪涝信息进行独立计算:(1)对该时间段内各个传感器观测到的降雨量数据求均值并累加之前时间段的降雨量可以求得区域当前降雨量的累计值;(2)基于降雨径流生成模型,代入区域当前降雨量累加值以及下垫面特征,即可求区域当前降雨产流量;(3)基于汇流模型,将降雨产流量乘以区域面积并减去区域当前累计排水量就能获得当前区域内的汇流量;(4)通过积水产生模型,利用区域总积水量数据和数据库中存储的该区域数字高程模型(DEM)数据,可以计算得到区域内积水水平面的高程,而DEM中高程小于水面高程的区域即为洪涝淹没区域;(5)将近实时洪涝信息计算结果输出到数据库中进行保存,并可以通过ArcGIS等可视化软件基于DEM数据对洪涝灾害过程进行动态可视化模拟。
具体实施时,以上流程可采用计算机软件技术实现自动运行。

Claims (4)

1.一种流计算与传感网集成的地理过程近实时模拟方法,其特征在于,包括以下步骤:
步骤1,从传统的地理过程模型库中选择需要使用的地理过程模型,明确地理过程模型的计算过程与输入输出;所述地理过程模型库包含了与现实地理过程有关的信息计算模型,包括洪涝模型、水质量模型和飓风模型;
步骤2,根据地理过程模型的输入需求基于OGC SWE搭建传感网,实时获取与该地理过程相关的观测数据;其中,OGC为开放地理信息联盟,SWE为传感网实现架构;
步骤3,基于OGC传感器观测服务管理传感网中各个传感器的观测数据,并以Web服务的形式向外提供观测数据访问接口;
步骤4,以分布式消息发布订阅系统Kafka作为中间件,利用传感器观测服务提供的接口不断获取实时观测数据并按时间序列组织转化为观测数据流,实现流计算与传感网耦合;
步骤5,在流计算框架Spark Streaming中订阅Kafka提供的观测数据流生成观测离散数据流O-DStream,按时间间隔划分为按时间序列组织的观测弹性分布式数据集O-RDD;
所述观测弹性分布式数据集O-RDD中的最小单元是包含传感器信息和观测信息的观测对象,每个O-RDD中的观测对象按照地理区域组织成若干分区;步骤6,将传统地理过程模型基于MapReduce方法进行并行化改造,对O-RDD进行高性能计算获取当前时间段内的地理过程信息,包括将O-RDD中的观测对象数据以区域为单位平均分配到各个节点进行处理,将处理结果叠加到DEM上可视化实现地理过程近实时模拟;其中,DEM为数字高程模型;
按一定时间间隔对流数据按批次进行划分,每当到达一个时间点生成一个观测数据批次时,就对这个观测数据批次基于地理过程模型进行高性能的处理和分析,以快速得到当前时间段内的地理过程信息,并按时间顺序对结果进行组织;
对于洪涝模型,每个数据批次是该时间段内计算模型接收到的降雨量数据,包含洪涝过程中各个区域中的传感器在这个时间段内观测到的降雨量数据;该模型将这些数据按照所属的区域分割成独立的数据块,分割区域时需要保证其互相影响的可能性较小,并分别传输到分布式计算集群的各个计算节点上进行并行计算,将观测数据以区域为单位平均分配到各个节点进行处理;在集群的各个计算节点上,该模型对每个区域的洪涝信息进行独立计算:(1)对该时间段内各个传感器观测到的降雨量数据求均值并累加之前时间段的降雨量求得区域当前降雨量的累计值;(2)基于降雨径流生成模型,代入区域当前降雨量累加值以及下垫面特征,求区域当前降雨产流量;(3)基于汇流模型,将降雨产流量乘以区域面积并减去区域当前累计排水量获得当前区域内的汇流量;(4)通过积水产生模型,利用区域总积水量数据和数据库中存储的该区域数字高程模型数据,计算得到区域内积水水平面的高程,而DEM中高程小于水面高程的区域为洪涝淹没区域;(5)将近实时洪涝信息计算结果输出到数据库中进行保存,并基于DEM数据对洪涝灾害过程进行动态可视化模拟。
2.根据权利要求1所述流计算与传感网集成的地理过程近实时模拟方法,其特征在于:步骤2中,搭建传感网后,传感网中的传感器通过网络进行连接并利用Web技术进行远程管理,每个传感器对其负责区域的地理过程数据进行实时观测,并通过传感器观测服务的相关接口对观测数据进行实时更新。
3.根据权利要求1所述流计算与传感网集成的地理过程近实时模拟方法,其特征在于:步骤4中,中间件通过SOS提供的GetCapabilities接口获取所有传感器以及数据格式,并不间断使用GetObservation接口对传感器实时观测数据进行获取,并将XML格式的数据清洗转换为<键,值>形式;当获取到实时观测数据后,中间件利用流数据发布接口,以按时间序列组织的<键,值>方式将观测数据发布转化为观测数据流;其中,SOS为OGC传感网观测服务。
4.根据权利要求1或2或3所述流计算与传感网集成的地理过程近实时模拟方法,其特征在于:步骤5中,一个分区对应一个地理区域的数据。
CN201810514261.3A 2018-05-25 2018-05-25 流计算与传感网集成的地理过程近实时模拟方法 Active CN108804781B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201810514261.3A CN108804781B (zh) 2018-05-25 2018-05-25 流计算与传感网集成的地理过程近实时模拟方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201810514261.3A CN108804781B (zh) 2018-05-25 2018-05-25 流计算与传感网集成的地理过程近实时模拟方法

Publications (2)

Publication Number Publication Date
CN108804781A CN108804781A (zh) 2018-11-13
CN108804781B true CN108804781B (zh) 2022-06-14

Family

ID=64091817

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201810514261.3A Active CN108804781B (zh) 2018-05-25 2018-05-25 流计算与传感网集成的地理过程近实时模拟方法

Country Status (1)

Country Link
CN (1) CN108804781B (zh)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110489451A (zh) * 2019-08-13 2019-11-22 成都飞机工业(集团)有限责任公司 基于迭代统计的流计算方法
CN112487125B (zh) * 2020-12-09 2022-08-16 武汉大学 一种面向时空大数据计算的分布式空间对象组织方法

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106199768A (zh) * 2016-06-27 2016-12-07 武汉大学 一种分布式智能气象传感器监测系统及其控制方法
CN106778033A (zh) * 2017-01-10 2017-05-31 南京邮电大学 一种基于Spark平台的Spark Streaming异常温度数据报警方法
WO2017148503A1 (en) * 2016-02-29 2017-09-08 Nec Europe Ltd. Method and stream processing system for managing data stream processing tasks of a predefined application topology

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104123388A (zh) * 2014-08-07 2014-10-29 武汉大学 一种面向海量传感网数据的高并发实时接入系统及方法
US10572296B2 (en) * 2015-02-27 2020-02-25 Savi Technology, Inc. System and method for a data processing architecture
CN106454704B (zh) * 2016-09-28 2019-06-11 武汉大学 一种基于流式处理框架的原位传感器观测接入方法
CN107391719A (zh) * 2017-07-31 2017-11-24 南京邮电大学 一种云环境中分布式流数据处理方法及系统
CN107515952B (zh) * 2017-09-21 2023-10-27 北京星闪世图科技有限公司 点云数据存储、并行计算和实时检索的方法及其系统
CN107729413B (zh) * 2017-09-25 2021-05-11 安徽畅通行交通信息服务有限公司 基于大数据的区域交通智能管理系统

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2017148503A1 (en) * 2016-02-29 2017-09-08 Nec Europe Ltd. Method and stream processing system for managing data stream processing tasks of a predefined application topology
CN106199768A (zh) * 2016-06-27 2016-12-07 武汉大学 一种分布式智能气象传感器监测系统及其控制方法
CN106778033A (zh) * 2017-01-10 2017-05-31 南京邮电大学 一种基于Spark平台的Spark Streaming异常温度数据报警方法

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
地理空间传感网信息公共服务平台的设计与实现;陈能成等;《地球信息科学学报》;20131215(第06期);第887-894、917页 *

Also Published As

Publication number Publication date
CN108804781A (zh) 2018-11-13

Similar Documents

Publication Publication Date Title
Huang et al. Optimizing grid computing configuration and scheduling for geospatial analysis: An example with interpolating DEM
CN115238015A (zh) 一种基于微服务的时空大数据平台
Gomes et al. An infrastructure model for smart cities based on big data
CN108804781B (zh) 流计算与传感网集成的地理过程近实时模拟方法
Duda et al. Cloud-based IT Infrastructure for “Smart City” Projects
Song et al. Building spatiotemporal cloud platform for supporting GIS application
Gong et al. Multi-information location data fusion system of railway signal based on cloud computing
Shangguan et al. A stream computing approach for live environmental models using a spatial data infrastructure with a waterlogging model case study
CN114969188A (zh) 一种流域边缘端多源异构生态环境大数据集成方法及系统
Kolaric et al. DBL SmartCity: An open-source IoT platform for managing large BIM and 3D geo-referenced datasets
Drost et al. Sensor web and internet of things technologies for hydrological measurement data
Mellone et al. A novel approach for large‐scale environmental data partitioning on cloud and on‐premises storage for compute continuum applications
Bhattacharya et al. Location Intelligence for Augmented Smart Cities Integrating Sensor Web and Spatial Data Infrastructure (SmaCiSENS).
Kong Construction of distributed Data management platform for Land Engineering based on Hadoop Framework
Zhang et al. Intelligent big data service for meteorological cloud platform
Daki et al. Big-data architecture for electrical consumption forecasting in educational institutions buildings
Li et al. Research on spatial data management and application
Huang et al. A distributed data processing platform over meteorological big data using MapReduce
Liang et al. Ocean big data service technology in a distributed network environment
Patel et al. Big Geospatial Data Analysis through Cloud Computing: Issues and Challenges
Qiu et al. A task-driven disaster data link approach
PARK et al. Managing Sensor Data Using Mapreduce
Zhou et al. Research on Multi-source Heterogeneous Ocean Data Integration System
Kolarić et al. Toward an open IoT implementation for urban environments: The architecture of the DBL SmartCity platform
Glawischnig et al. A distributed generic data structure for urban level building data monitoring

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant