CN108536823A - 一种物联网感知大数据的缓存设计和查询方法 - Google Patents

一种物联网感知大数据的缓存设计和查询方法 Download PDF

Info

Publication number
CN108536823A
CN108536823A CN201810314923.2A CN201810314923A CN108536823A CN 108536823 A CN108536823 A CN 108536823A CN 201810314923 A CN201810314923 A CN 201810314923A CN 108536823 A CN108536823 A CN 108536823A
Authority
CN
China
Prior art keywords
data
layer
perception
inquiry
primary data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201810314923.2A
Other languages
English (en)
Other versions
CN108536823B (zh
Inventor
丁治明
蔺春华
郭黎敏
苏醒
曹阳
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing University of Technology
Original Assignee
Beijing University of Technology
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing University of Technology filed Critical Beijing University of Technology
Priority to CN201810314923.2A priority Critical patent/CN108536823B/zh
Publication of CN108536823A publication Critical patent/CN108536823A/zh
Application granted granted Critical
Publication of CN108536823B publication Critical patent/CN108536823B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

本发明公开了一种物联网感知大数据的缓存设计和查询方法,感知数据存储层,存储感知设备采集的原始感知数据;中观感知数据层,存储从原始感知数据中分析计算得到的小数据量不同粒度大小的较高价值密度数据,该层数据可满足大部分查询和统计;中间结果缓存层,存储从中观感知数据层和原始数据层查询和统计的中间结果、报表和查询条件;中观感知数据层接收查询请求,在已有数据上进行查询,并选择是否下发查询请求到感知数据存储层;再逐级汇总查询结果返回。本发明极大地减少了查询时计算所需数据量,减少了对原始感知数据存储的访问次数,提高查询返回的速度,达到近实时查询的效果。

Description

一种物联网感知大数据的缓存设计和查询方法
技术领域
本发明属于计算机大数据技术领域,涉及一种针对物联网感知大数据的缓存设计和查询方法。
背景技术
物联网(Internet ofThings,IoT)是指通过各种信息传感设备,实时采集任何需要监控、连接、互动的物体或过程等各种需要的信息,与互联网结合形成的一个巨大网络,其目的是实现物与物、物与人,所有的物品与网络的连接,方便识别、管理和控制。物联网产业具有产业链长、涉及多个产业群的特点,其应用范围几乎覆盖了各行各业。
随着物联网技术及其相关应用的飞速发展,如何有效地存储、查询与分析海量的物联网感知数据成为了一个亟待解决的关键问题。物联网感知数据是指在物联网系统中,各种感知设备动态采集的采样数据。数据显示,互联网上的数据每年增长50%,每两年便翻一番,而目前世界上90%以上的数据是最近几年才产生的。根据IDC(国际数据公司)的监测统计,预计到2020年全球将总共拥有35ZB的数据量,是2011年数据总量的20倍。在数据正成为最核心的资源的今天,各行业每天产生海量的感知数据,例如在交通运输行业中的智能交通监测方面,北京市目前用于GPS位置信息及道路实时监控的设备有60余万个,每天产生的交通感知数据在3PB左右。
为了提高对感知大数据的查询速度,业界主要从以下五方面进行优化。(1)列存储:以HBase、Hive、Cassandra为代表的列存储模型正受到越来越多的关注,相比于行存储数据库,列存储数据库在涉及某些列的聚集查询时,可以有效减少IO,同时提升数据的压缩率。(2)计算能力的横向扩展:以MapReduce、Spark、Storm为代表的大规模分布式计算框架实现了查询任务的并行执行。(3)算法性能的优化:面对超大的数据规模时,数据密集型的计算任务的算法时间复杂度要求,必须是线性或者近线性,甚至亚线性,这就需要对针对传统数据库的统计分析算法进行重新设计,在物联网环境中,算法性能的优化面临相当大的挑战。(4)内存数据库:以Redis、RAMCloud、Memcached为代表的内存数据库,通过使用内存实现数据存储,用作数据缓存,提高吞吐量和减低延迟。(5)索引的优化:对存储的的数据构建索引,以实现高性能的数据检索服务。
然而现有的物联网、大数据处理技术或产品多聚焦在信号传输和原始感知数据存储方法,未能及时将这些具有极高隐含价值的感知大数据进行有效的分析和利用。由于数据的海量特性,在原始感知数据上进行以上优化依然难以达到近实时的要求。在计算方面,即使算法时间复杂度达到线性要求,在目标数据量大的情况下速度依然难以达到秒级查询。在缓存方面,传统方法通过使内存存放常用查询数据来提高查询速度,但在大范围数据查询时,必须从数据存储系统读取大量原始感知数据。在索引方面,通过建立索引缩小了扫描范围,但原始数据的海量特性决定了要扫描的数据量依然庞大,尤其涉及大范围查询计算时。因此通过上述优化依然难以应对物联网感知数据的海量特性,要实现针对物联网感知大数据的近实时查询,对这些关键技术问题有待进一步研究。
发明内容
针对上述尚没有解决的关键问题,本发明提供了一种物联网感知大数据的缓存设计和查询机制,实现感知大数据的近实时查询,主要通过在业务系统和原始感知数据存储系统之间添加中间结果缓存层和中观感知数据层来达到查询提速的效果。
本发明的系统结构如图1所示,物联网感知大数据的系统共分为4层,第一层是感知数据存储层,负责存储原始感知数据,这些数据是感知设备采集的海量的详细信息,具有微观特征;第二层是中观感知数据层,是在原始感知数据的基础上预先进行分析和计算,把低价值密度、大数据量的原始感知数据,转化为高价值密度、小数据量的数据。每条高价值密度数据均由多条原始感知数据分析计算得到;第三层是中间结果缓存层,缓存从中观感知数据层查询和计算得到的中间结果数据,以及常用统计报表数据;第四层是业务系统层,提供查询或统计需要的结果或报表,具有宏观特性。其中,重点关注中观感知数据层,即存储原始感知数据基础上分析计算得到的不同粒度的数据。通过这些数据,满足大部分的近实时查询需求。
为实现上述目的,本发明采用如下的技术方案:
一种物联网感知大数据的缓存设计和查询方法,该方法包括以下步骤:
步骤1、将原始感知数据转换为中观感知数据,并进行存储。
步骤2、将细粒度的中观感知数据转换为粗粒度的中观感知数据,并进行存储。
步骤3、周期性执行步骤1和步骤2操作。
步骤4、定制中观感知数据层中的查询引擎对各类查询的解析方式和执行规则、以及返回的数据模板。
步骤5、维护中观感知数据层中的数据和配置,包括删除和重新计算中观感知数据。
步骤6、对中观感知层数据进行分析和计算结果,缓存在中间结果缓存层。
步骤7、周期性执行步骤6。
步骤8、将符合缓存条件的查询或计算结果,缓存在中间结果缓存层。
步骤9、定制中间结果缓存层中的查询引擎对各类查询的解析方式和执行规则、以及返回的数据模板。
步骤10、维护中间结果缓存层中的数据和配置,删除或重新计算缓存数据等。
步骤1和步骤3中将原始感知数据转换为中观感知数据的过程如下:
针对已有的原始感知数据,首次进行一次性遍历计算得到细粒度中观感知数据;之后制定周期性定时任务,任务每次针对新增的原始传感器数据结合其他原始数据进行计算和统计,得到细粒度中观感知数据,存储在中观感知数据层。
步骤2和步骤3中将细粒度中观感知数据转换为粗粒度的中观感知数据过程如下:
针对细粒度中观感知数据,制定多个周期性定时任务,各任务针对新增的较细粒度感知数据进行分析和计算,得到较粗粒度中观感知数据,并存储在中观感知数据层,得到为满足业务需求的不同粒度不同类别的中观感知数据。
步骤1和步骤2中的中观感知数据存储描述如下:
中观感知数据层选用Druid作为存储系统,元数据存储在关系型数据库mysql中。其中Druid是一个分布式的、支持实时多维OLAP分析的数据处理系统。选中Druid作为中观感知数据层的存储系统,由于Druid支持高速的数据实时摄入处理;支持实时且灵活的多维数据分析查询;支持根据时间戳对数据进行预聚合摄入和聚合分析。物联网感知数据具有时序特性,在中观感知数据层基础上要进行灵活快速的多维OLAP分析,因此选用Druid作为中观感知数据层的存储。
步骤6中缓存过程是指,首次根据配置,一次性从中观感知数据层进行分析和计算,然后缓存在中观感知数据层。
步骤7中周期性执行的任务描述如下:
制定周期性的定时任务,任务针对新增的各粒度中观感知数据进行分析和计算,根据计算结果更新中间结果缓存层中的对应数据。
步骤8中的缓存数据,是在业务查询的过程中,根据配置,将符合条件的中间结果进行缓存,这部分的缓存替换策略若无配置,默认采用LRU。
步骤6和步骤8中的中间结果缓存层的存储描述如下:
底层缓存技术使用Redis,选用了Redis Cluster架构,Redis Cluster具有如下优点:支持数据分片功能,可以将数据分配到不同的实例上;服务的高可用性、故障自动转移,最大程度避免单点故障;在线水平扩展能力,在线添加节点,转移数据等;无中心架构,各个节点度等;降低原有的数据分片方案的复杂度,节省硬件资源;系统瓶颈更少,客户端直连方式等。满足作为中间结果缓存层的缓存要求。
步骤4、步骤5、步骤9和步骤10中,中观感知数据层的配置信息和中间结果缓存层的配置信息,采用关系型数据库mysql和文件存储,针对中观感知数据层和中间结果缓存层的操作方式有命令行客户端和web客户端两种方式。其中命令行客户端,供ssh或在部署机器上进行访问;远程web客户端使用浏览器进行访问。
本方法在执行查询时,见图2和图3,查询流程描述如下:
业务系统客户端发出查询请求。中间结果缓存层查询引擎根据对比已有缓存数据,如果缓存完全满足查询条件,则直接查询并返回;如果缓存中无匹配数据,则直接下发查询;如果部分满足,则切分查询,异步执行在中间结果缓存层中的查询和下发查询请求至中观感知数据层,待结果返回后合并结果。中观感知数据层查询引擎接收查询请求,对比中观感知数据层中已有数据,判断是否满足查询请求,同理,如果满足,则在中观感知数据层进行查询,如果无匹配数据,则直接下发查询请求,如果部分满足,则切分查询,异步执行在中观感知数据层中的查询和下发查询给底层原始感知数据存储系统,待结果返回后,整合结果并返回给中间结果缓存层。在此过程中,符合配置规则的查询结果数据,异步缓存至中间结果,方便下次查询。
综上,本发明可保证业务系统的大部分查询从中间结果缓存层和中观感知数据层及时获取结果,极大减少对原始感知数据存储系统的访问次数,减少重复计算,提高查询和统计的速度,达到近实时查询的要求。
附图说明
图1:物联网感知大数据缓存和查询系统架构图;
图2:中观感知数据层和中间结果缓存层的功能和数据流向简图;
图3:感知大数据缓存和查询系统查询流程图。
具体实施方式
下面结合附图,对本系统实施进行详细解释和阐述,在以本系统技术方案前提下进行实施,以下给出了实施方式和操作过程,但本系统的保护范围不限于下述的实施。
如图1所示,本系统是一种介于物联网原始感知数据存储系统和业务系统之间的缓存和查询系统,包括:中间结果缓存层和中观感知数据层。中间结果缓存数据层中包含查询引擎模块、配置管理模块、定时任务执行模块、和数据管理模块。中间结果缓存层用来缓存对中观感知数据层进行查询统计得到查询结果或常用报表,包含查询引擎模块、配置管理模块、定时任务执行模块、和数据管理模块,用来存储在原始感知数据的基础上统计和计算得到的较细粒度的数据,以及从较细粒度的数据统计计算得到较粗粒度的数据。
本系统可提高业务系统的查询和统计速度的原理是:系统在原始感知数据的基础上预先进行分析和计算,把低价值密度、大数据量的原始感知数据,转化为高价值密度、小数据量的数据,作为细粒度中观感知数据,再根据细粒度中观感知数据计算得到不同粒度的其他中观感知数据,存储在中观感知数据层;系统从中观感知数据层查询和计算得到的中间结果数据,以及常用统计报表数据缓存到中间结果缓存层中。系统中观感知数据层中的不同粒度的数据和中间结果缓存层中的数据可满足大部分的业务查询,以此来达到近实时查询速度的要求。
在业务系统和原始感知数据存储系统之间添加本系统实施步骤如下:
(1)对中观感知层的配置管理模块中的元数据初始配置和初始任务进行操作:根据原始感知数据特征以及业务系统查询要求对原始感知数据进行分析计算得到中观感知数据层的细粒度数据。例如,某出租车在某段时间在某条道路上保持行进,不断产生原始感知数据记录:车辆id、时间戳、位置信息、速度、是否载客等信息,对一段时间的多条感知数据,进行计算得到中观感知数据层中的一条记录:车辆id、时间范围(1-10分钟)、位置范围、速度范围、位置矢量函数、速度矢量函数、载客量、最大速度值、最小速度值、平均速度值、距离等。在中观感知数据层中用矢量函数来描述,刻画监控对象的一段时间的状态,从而在保证数据精度的同时,极大地减少了中观感知数据层的数据量,另外对常用的计算如距离、最大最小值等直接存储在中观感知数据层中,避免了再次计算。
(2)对中观感知层的配置管理模块中任务模块进行操作,将细粒度的中观感知数据进行计算得到不同粗粒度的中观感知数据,例如上述(1)中的细粒度数据:车辆id、时间范围(1-10分钟)、位置范围、速度范围、位置矢量函数、速度矢量函数、载客量、最大速度值、最小速度值、平均速度值、距离等,计算得到的粗粒度的感知数据:车辆id、时间范围(按天、按周、按月等)、位置范围、速度范围、载客量、最大速度值、最小速度值、平均速度值、距离等。粗粒度的感知数据相对细粒度的感知数据,会有信息缺失,但能满足粗粒度的查询统计需要。
(3)在中观感知数据层中配置执行初始化任务和周期性定时任务,初始化任务是把原始感知数据进行分析解析得到较细粒度的中观感知数据,并依次得到较粗粒度的中观感知数据;周期性定时任务,是对增量原始感知数据和增量中观感知数据,进行计算生成对应的中观感知数据并存储。
(4)配置中观感知数据层查询引擎对各类查询的解析方式、执行规则以及返回的数据模板、整合规则等。
(5)对中间结果缓存层中配置管理模块进行操作,配置初始化任务、周期性定时任务、缓存规则配置、查询执行规则等。初始化任务是从中观感知数据层中进行统计、计算得到具有宏观特性的报表数据进行缓存;周期性定时任务是对中观感知数据层中的增量数据进行计算,及时更新缓存中数据;缓存规则是自定义缓存条件,查询时对符合缓存条件的查询结果进行异步缓存,并自定义或选择各类查询的缓存替换策略,如没有配置默认采用LRU策略。查询执行规则是指定制中间结果缓存层中的查询引擎对各查询的解析方式和执行规则、以及返回的数据模板等。
(6)启用中观感知数据层和中间结果缓存层的各项服务。
从业务系统发出查询请求,在本系统中进行查询的步骤描述如下(见图3):
(1)业务系统客户端发出查询请求,中间结果缓存层的查询引擎接收查询请求并解析查询,匹配查询规则,根据查询规则和已有缓存数据,判断缓存数据是否满足查询条件,如果满足查询条件,则在缓存中执行查询;如果缓存中无匹配数据,则直接下发查询,如果缓存中匹配了部分查询条件,则需切分查询,异步执行在缓存中的查询以及下发查询至中观感知数据层,待结果返回后,整合查询结果并返回给业务系统。
(2)中观感知数据层的查询引擎接收查询请求并解析,匹配查询规则,根据查询规则在中观感知数据层中检查是是否需要切分查询请求或直接下发查询,如果该层数据满足查询条件,则选择对应粒度的数据进行查询或计算;如果中观感知数据层无满足条件的数据,则直接下发查询;如果部分满足作则切分查询,异步执行在本层中的查询和下发查询给底层原始感知数据存储系统,待结果返回后,整合查询结果并返回给中间结果缓存层。
(3)中观感知数据层接收到原始感知数据存储系统返回的查询结果后,根据规则选择模板对结果进行整合,实时返回给中间结果数据层,中间结果数据层对结果进行整合后实时返回给业务系统。在此过程中,符合配置规则的查询结果和查询条件,异步缓存至中间结果缓存层或存储至中观感知数据层,方便下次查询。
经验证,该发明可极大减少对原始感知数据存储系统的访问次数,减少重复计算,提高查询和统计的速度,达到近实时查询的要求。
实施例
为在海量感知数据上进行近实时查询和统计而设计的一种针对海量感知数据的缓存和查询系统,所述系统包括:
感知数据存储层,负责存储原始感知数据,这些感知数据是来自感知设备采集的详细信息。
中观感知数据层,由大容量分布式大数据存储系统组成,将低价值密度、大数据量的原始感知数据,转化为高价值密度、小数据量的中观感知数据并存储在中观感知数据层,中观感知数据层包含各维度不同粒度的数据,例如在时间维度上不同粒度可分为按小时、按天、按周、按月。
中间结果缓存层,由大容量分布式缓存系统组成,缓存常用统计报表数据以及从中观感知数据层查询和计算得到的符合配置规则的中间结果数据。
业务系统层,为用户提供查询或统计需要的结果或报表。
海量感知数据缓存和查询系统,所述中观感知数据层主要包含查询引擎模块、数据管理模块、任务管理模块、配置管理模块。中观感知数据层存储不同粒度中观感知数据,数据来源为:(1)通过初始化时一次性对原始感知数据进行分析计算得到;(2)通过周期性地对原始感知数据层中的增量部分进行分析计算得到;(3)通过周期性地对中观感知数据层中的增量数据进行分析计算得到。
海量感知数据缓存和查询系统,所述中间结果缓存层主要包含查询引擎模块、数据管理模块、任务管理模块、配置管理模块。中间结果缓存层中的数据来源为:(1)通过初始化时一次性对中观感知数据层中的数据进行分析计算得到;(2)通过周期性地对中观感知数据层中的增量数据进行分析计算得到;(3)通过查询时将匹配规则的中间查询结果进行缓存得到。
海量感知数据缓存和查询系统进行查询的方法,包括如下步骤:
步骤1、业务系统层发出查询请求,中间结果缓存层查询引擎接收查询请求,解析并匹配查询规则,根据查询规则和已有缓存数据,判断中间结果缓存层中的数据是否满足查询条件,如果满足查询条件,则在中间结果缓存层中执行查询;如果缓存中无匹配数据,则直接下发查询;如果缓存中匹配了部分查询条件,则需切分查询,异步执行在缓存中的查询以及下发查询至中观感知数据层。
步骤2、中间结果缓存层下发查询请求,中观感知数据层的查询引擎接收查询请求,解析并匹配查询规则,根据查询规则在中观感知数据层中检查是是否需要切分查询请求或直接下发查询,如果该层数据满足查询条件,则选择对应粒度的数据进行查询和计算;如果中观感知数据层中的数据无满足条件的数据,则直接下发查询;如果部分满足作对查询进行切分,异步执行在本层中的查询和下发查询至原始感知数据存储层。
步骤3、中观感知数据层汇总来自原始数据存储层的查询结果和来自本层的查询计算结果,根据对应的查询结果模板,对数据进行封装处理,实时返回到到中间结果缓存层。
步骤4、中间结果缓存层汇总来自中观感知数据层的查询结果和来自本层的查询计算结果,根据对应的查询结果模板,生成需缓存的数据和业务系统层所需的查询结果,实时返回结果给业务系统层。
使用该发明,仅需额外存储小数据量的各粒度中观感知数据,以及缓存常用中间查询结果和统计报表,通过该发明,避免了遍历大量海量原始感知数据,极大地减少了对原始感知数据存储的访问次数,减少重复计算,提高查询和统计的速度,达到近实时查询的要求。

Claims (10)

1.一种物联网感知大数据的缓存设计和查询方法,物联网感知大数据的系统共分为4层,第一层是感知数据存储层,负责存储原始感知数据,这些数据是感知设备采集的海量的详细信息,具有微观特征;第二层是中观感知数据层,是在原始感知数据的基础上预先进行分析和计算,把低价值密度、大数据量的原始感知数据,转化为高价值密度、小数据量的数据;每条高价值密度数据均由多条原始感知数据分析计算得到;第三层是中间结果缓存层,缓存从中观感知数据层查询和计算得到的中间结果数据,以及常用统计报表数据;第四层是业务系统层,提供查询或统计需要的结果或报表,具有宏观特性;其中,重点关注中观感知数据层,即存储原始感知数据基础上分析计算得到的不同粒度的数据;通过这些数据,满足大部分的近实时查询需求;
其特征在于:该方法包括以下步骤:
步骤1、将原始感知数据转换为中观感知数据,并进行存储;
步骤2、将细粒度的中观感知数据转换为粗粒度的中观感知数据,并进行存储;
步骤3、周期性执行步骤1和步骤2操作;
步骤4、定制中观感知数据层中的查询引擎对各类查询的解析方式和执行规则、以及返回的数据模板;
步骤5、维护中观感知数据层中的数据和配置,包括删除和重新计算中观感知数据;
步骤6、对中观感知层数据进行分析和计算结果,缓存在中间结果缓存层;
步骤7、周期性执行步骤6;
步骤8、将符合缓存条件的查询或计算结果,缓存在中间结果缓存层;
步骤9、定制中间结果缓存层中的查询引擎对各类查询的解析方式和执行规则、以及返回的数据模板;
步骤10、维护中间结果缓存层中的数据和配置,删除或重新计算缓存数据。
2.根据权利要求1所述的一种物联网感知大数据的缓存设计和查询方法,其特征在于:步骤1和步骤3中将原始感知数据转换为中观感知数据的过程如下:
针对已有的原始感知数据,首次进行一次性遍历计算得到细粒度中观感知数据;之后制定周期性定时任务,任务每次针对新增的原始传感器数据结合其他原始数据进行计算和统计,得到细粒度中观感知数据,存储在中观感知数据层。
3.根据权利要求1所述的一种物联网感知大数据的缓存设计和查询方法,其特征在于:步骤2和步骤3中将细粒度中观感知数据转换为粗粒度的中观感知数据过程如下:
针对细粒度中观感知数据,制定多个周期性定时任务,各任务针对新增的较细粒度感知数据进行分析和计算,得到较粗粒度中观感知数据,并存储在中观感知数据层,得到为满足业务需求的不同粒度不同类别的中观感知数据。
4.根据权利要求1所述的一种物联网感知大数据的缓存设计和查询方法,其特征在于:步骤1和步骤2中的中观感知数据存储描述如下:
中观感知数据层选用Druid作为存储系统,元数据存储在关系型数据库mysql中;其中Druid是一个分布式的、支持实时多维OLAP分析的数据处理系统;选中Druid作为中观感知数据层的存储系统,由于Druid支持高速的数据实时摄入处理;支持实时且灵活的多维数据分析查询;支持根据时间戳对数据进行预聚合摄入和聚合分析;物联网感知数据具有时序特性,在中观感知数据层基础上要进行灵活快速的多维OLAP分析,因此选用Druid作为中观感知数据层的存储。
5.根据权利要求1所述的一种物联网感知大数据的缓存设计和查询方法,其特征在于:步骤6中缓存过程是指,首次根据配置,一次性从中观感知数据层进行分析和计算,然后缓存在中观感知数据层。
6.根据权利要求1所述的一种物联网感知大数据的缓存设计和查询方法,其特征在于:步骤7中周期性执行的任务描述如下:
制定周期性的定时任务,任务针对新增的各粒度中观感知数据进行分析和计算,根据计算结果更新中间结果缓存层中的对应数据。
7.根据权利要求1所述的一种物联网感知大数据的缓存设计和查询方法,其特征在于:步骤8中的缓存数据,是在业务查询的过程中,根据配置,将符合条件的中间结果进行缓存,这部分的缓存替换策略若无配置,默认采用LRU。
8.根据权利要求1所述的一种物联网感知大数据的缓存设计和查询方法,其特征在于:步骤6和步骤8中的中间结果缓存层的存储描述如下:
底层缓存技术使用Redis,选用了Redis Cluster架构,Redis Cluster具有如下优点:支持数据分片功能,可以将数据分配到不同的实例上;服务的高可用性、故障自动转移,最大程度避免单点故障;在线水平扩展能力,在线添加节点,转移数据;无中心架构,各个节点度;降低原有的数据分片方案的复杂度,节省硬件资源;系统瓶颈更少,客户端直连方式;满足作为中间结果缓存层的缓存要求。
9.根据权利要求1所述的一种物联网感知大数据的缓存设计和查询方法,其特征在于:步骤4、步骤5、步骤9和步骤10中,中观感知数据层的配置信息和中间结果缓存层的配置信息,采用关系型数据库mysql和文件存储,针对中观感知数据层和中间结果缓存层的操作方式有命令行客户端和web客户端两种方式;其中命令行客户端,供ssh或在部署机器上进行访问;远程web客户端使用浏览器进行访问。
10.根据权利要求1所述的一种物联网感知大数据的缓存设计和查询方法,其特征在于:本方法在执行查询时,查询流程描述如下:
业务系统客户端发出查询请求;中间结果缓存层查询引擎根据对比已有缓存数据,如果缓存完全满足查询条件,则直接查询并返回;如果缓存中无匹配数据,则直接下发查询;如果部分满足,则切分查询,异步执行在中间结果缓存层中的查询和下发查询请求至中观感知数据层,待结果返回后合并结果;中观感知数据层查询引擎接收查询请求,对比中观感知数据层中已有数据,判断是否满足查询请求,同理,如果满足,则在中观感知数据层进行查询,如果无匹配数据,则直接下发查询请求,如果部分满足,则切分查询,异步执行在中观感知数据层中的查询和下发查询给底层原始感知数据存储系统,待结果返回后,整合结果并返回给中间结果缓存层;在此过程中,符合配置规则的查询结果数据,异步缓存至中间结果,方便下次查询。
CN201810314923.2A 2018-04-10 2018-04-10 一种物联网感知大数据的缓存设计和查询方法 Active CN108536823B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201810314923.2A CN108536823B (zh) 2018-04-10 2018-04-10 一种物联网感知大数据的缓存设计和查询方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201810314923.2A CN108536823B (zh) 2018-04-10 2018-04-10 一种物联网感知大数据的缓存设计和查询方法

Publications (2)

Publication Number Publication Date
CN108536823A true CN108536823A (zh) 2018-09-14
CN108536823B CN108536823B (zh) 2022-02-15

Family

ID=63480637

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201810314923.2A Active CN108536823B (zh) 2018-04-10 2018-04-10 一种物联网感知大数据的缓存设计和查询方法

Country Status (1)

Country Link
CN (1) CN108536823B (zh)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110457341A (zh) * 2019-07-03 2019-11-15 平安科技(深圳)有限公司 数据聚合方法、装置、计算机设备及存储介质
CN111966727A (zh) * 2020-08-12 2020-11-20 北京海致网聚信息技术有限公司 基于Spark和Hive的分布式OLAP即席查询方法
CN113641713A (zh) * 2021-08-30 2021-11-12 北京沃东天骏信息技术有限公司 一种数据处理的方法和装置

Citations (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20100049718A1 (en) * 2008-08-25 2010-02-25 International Business Machines Corporation Transactional Processing for Clustered File Systems
CN101957927A (zh) * 2010-11-12 2011-01-26 福州联迅信息科技有限公司 一种物联网中间件架构和基于soa架构的物联网中间件
US20110055515A1 (en) * 2009-09-02 2011-03-03 International Business Machines Corporation Reducing broadcasts in multiprocessors
US20120096052A1 (en) * 2010-10-18 2012-04-19 Tolia Niraj Managing a Data Structure
CN103138965A (zh) * 2011-11-28 2013-06-05 中国电信股份有限公司 一种查询物联网设备状态的方法、装置和系统
CN103810441A (zh) * 2014-01-28 2014-05-21 浙江大学 一种基于规则的多粒度遥感数据访问方法
CN104008212A (zh) * 2014-06-23 2014-08-27 中国科学院重庆绿色智能技术研究院 一种地理位置信息相关联的物联网时间序列数据存取方法
CN105306095A (zh) * 2015-09-25 2016-02-03 中国人民解放军国防科学技术大学 一种快速捕获中继卫星测控系统信号的方法及系统
US20160124890A1 (en) * 2014-10-31 2016-05-05 Texas Instruments Incorporated Multicore Bus Architecture With Wire Reduction and Physical Congestion Minimization Via Shared Transaction Channels
CN106227899A (zh) * 2016-08-31 2016-12-14 北京京航计算通讯研究所 一种面向物联网大数据的存储和查询方法
CN106528448A (zh) * 2016-10-11 2017-03-22 杭州数强网络科技有限公司 一种多源异构电商大数据的分布式高速缓存机制
CN107391744A (zh) * 2017-08-10 2017-11-24 东软集团股份有限公司 数据存储、读取方法、装置及其设备

Patent Citations (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20100049718A1 (en) * 2008-08-25 2010-02-25 International Business Machines Corporation Transactional Processing for Clustered File Systems
US20110055515A1 (en) * 2009-09-02 2011-03-03 International Business Machines Corporation Reducing broadcasts in multiprocessors
US20120096052A1 (en) * 2010-10-18 2012-04-19 Tolia Niraj Managing a Data Structure
CN101957927A (zh) * 2010-11-12 2011-01-26 福州联迅信息科技有限公司 一种物联网中间件架构和基于soa架构的物联网中间件
CN103138965A (zh) * 2011-11-28 2013-06-05 中国电信股份有限公司 一种查询物联网设备状态的方法、装置和系统
CN103810441A (zh) * 2014-01-28 2014-05-21 浙江大学 一种基于规则的多粒度遥感数据访问方法
CN104008212A (zh) * 2014-06-23 2014-08-27 中国科学院重庆绿色智能技术研究院 一种地理位置信息相关联的物联网时间序列数据存取方法
US20160124890A1 (en) * 2014-10-31 2016-05-05 Texas Instruments Incorporated Multicore Bus Architecture With Wire Reduction and Physical Congestion Minimization Via Shared Transaction Channels
CN105306095A (zh) * 2015-09-25 2016-02-03 中国人民解放军国防科学技术大学 一种快速捕获中继卫星测控系统信号的方法及系统
CN106227899A (zh) * 2016-08-31 2016-12-14 北京京航计算通讯研究所 一种面向物联网大数据的存储和查询方法
CN106528448A (zh) * 2016-10-11 2017-03-22 杭州数强网络科技有限公司 一种多源异构电商大数据的分布式高速缓存机制
CN107391744A (zh) * 2017-08-10 2017-11-24 东软集团股份有限公司 数据存储、读取方法、装置及其设备

Non-Patent Citations (7)

* Cited by examiner, † Cited by third party
Title
JING SHU 等: "Intelligent Greenhouse Clean Energy Control Integrating Multi-Granularity Internet of Things", 《 2018 INTERNATIONAL CONFERENCE ON INTELLIGENT TRANSPORTATION, BIG DATA & SMART CITY (ICITBS)》 *
JUNSHENG ZHANG 等: "Text-Based Event Temporal Resolution and Reasoning for Information Analytics in Big Data", 《 2015 INTERNATIONAL CONFERENCE ON IDENTIFICATION, INFORMATION, AND KNOWLEDGE IN THE INTERNET OF THINGS (IIKI)》 *
朱珠: "物联网异构物品解析与信息发现的研究与设计", 《中国优秀硕士学位论文全文数据库 信息科技辑》 *
王丹 等: "大数据安全保障关键技术分析综述", 《北京工业大学学报》 *
王平泉 等: "面向物联网的多元标识映射模型", 《中国科学:信息科学》 *
蔺春华: "物联网感知大数据分层存储和查询技术研究", 《中国优秀硕士学位论文全文数据库 信息科技辑》 *
郝行军: "物联网大数据存储与管理技术研究", 《中国博士学位论文全文数据库 信息科技辑》 *

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110457341A (zh) * 2019-07-03 2019-11-15 平安科技(深圳)有限公司 数据聚合方法、装置、计算机设备及存储介质
CN110457341B (zh) * 2019-07-03 2024-05-07 平安科技(深圳)有限公司 数据聚合方法、装置、计算机设备及存储介质
CN111966727A (zh) * 2020-08-12 2020-11-20 北京海致网聚信息技术有限公司 基于Spark和Hive的分布式OLAP即席查询方法
CN113641713A (zh) * 2021-08-30 2021-11-12 北京沃东天骏信息技术有限公司 一种数据处理的方法和装置

Also Published As

Publication number Publication date
CN108536823B (zh) 2022-02-15

Similar Documents

Publication Publication Date Title
CN103955502B (zh) 一种可视化olap的应用实现方法及系统
CN104424229B (zh) 一种多维度拆分的计算方法及系统
CN202058147U (zh) 分布式实时数据库管理系统
US8024287B2 (en) Apparatus and method for dynamically materializing a multi-dimensional data stream cube
CN105989129B (zh) 实时数据统计方法和装置
CN101692229B (zh) 基于数据内容的三维空间数据自适应多级缓存系统
CN110413599A (zh) 数据实时处理与存储系统及方法
US10977248B2 (en) Processing records in dynamic ranges
CN108536823A (zh) 一种物联网感知大数据的缓存设计和查询方法
US10025718B1 (en) Modifying provisioned throughput capacity for data stores according to cache performance
CN107040422A (zh) 一种基于物化缓存的网络大数据可视化方法
CN104424258A (zh) 多维数据查询的方法、查询服务器、列存储服务器及系统
CN103617231A (zh) 大数据管理系统
CN109284195A (zh) 一种实时画像数据计算方法及系统
CN107077453A (zh) 用于使用集群缓存进行数据库查询的并行优化的系统和方法
US8849745B2 (en) Decision support methods and apparatus
CN109299199A (zh) 基于数据仓库的易制毒化学品多维分析系统及实现方法
CN104486116A (zh) 多维度查询流量数据的方法及系统
CN103118102B (zh) 一种在云计算环境下空间数据访问规律的统计与控制系统及方法
CN105205185A (zh) 监控系统与管理信息系统间数据交互及数据建模的方法
Ermakov et al. A caching model for a quick file access system
CN105138686A (zh) 一种用于多级存储数据的即时应用方法
CN107729500A (zh) 一种联机分析处理的数据处理方法、装置及后台设备
Ahmad et al. COLR-Tree: Communication-efficient spatio-temporal indexing for a sensor data web portal
Colmenares et al. A single-node datastore for high-velocity multidimensional sensor data

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant