CN111552687A - 时序数据的存储方法、查询方法、装置、设备及存储介质 - Google Patents
时序数据的存储方法、查询方法、装置、设备及存储介质 Download PDFInfo
- Publication number
- CN111552687A CN111552687A CN202010163696.5A CN202010163696A CN111552687A CN 111552687 A CN111552687 A CN 111552687A CN 202010163696 A CN202010163696 A CN 202010163696A CN 111552687 A CN111552687 A CN 111552687A
- Authority
- CN
- China
- Prior art keywords
- data
- storage
- database
- index information
- time
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 67
- 238000013500 data storage Methods 0.000 title description 6
- 230000014759 maintenance of location Effects 0.000 claims abstract description 71
- 238000007906 compression Methods 0.000 claims description 13
- 230000006835 compression Effects 0.000 claims description 13
- 238000012423 maintenance Methods 0.000 abstract description 6
- 238000012545 processing Methods 0.000 description 11
- 238000010586 diagram Methods 0.000 description 9
- 238000010248 power generation Methods 0.000 description 6
- 230000004044 response Effects 0.000 description 6
- 238000005516 engineering process Methods 0.000 description 5
- 238000007726 management method Methods 0.000 description 5
- 230000008569 process Effects 0.000 description 5
- 238000013144 data compression Methods 0.000 description 3
- 238000007667 floating Methods 0.000 description 3
- 230000009286 beneficial effect Effects 0.000 description 2
- 238000004364 calculation method Methods 0.000 description 2
- 238000004891 communication Methods 0.000 description 2
- 238000012217 deletion Methods 0.000 description 2
- 230000037430 deletion Effects 0.000 description 2
- 230000005611 electricity Effects 0.000 description 2
- 238000012544 monitoring process Methods 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 230000011218 segmentation Effects 0.000 description 2
- 238000012546 transfer Methods 0.000 description 2
- 230000002159 abnormal effect Effects 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 238000013479 data entry Methods 0.000 description 1
- 230000018109 developmental process Effects 0.000 description 1
- 239000000284 extract Substances 0.000 description 1
- 238000000605 extraction Methods 0.000 description 1
- 230000006870 function Effects 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 230000003993 interaction Effects 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 238000005259 measurement Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000012806 monitoring device Methods 0.000 description 1
- 238000012856 packing Methods 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- XLYOFNOQVPJJNP-UHFFFAOYSA-N water Substances O XLYOFNOQVPJJNP-UHFFFAOYSA-N 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/22—Indexing; Data structures therefor; Storage structures
- G06F16/2282—Tablespace storage structures; Management thereof
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/23—Updating
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/24—Querying
- G06F16/245—Query processing
- G06F16/2458—Special types of queries, e.g. statistical queries, fuzzy queries or distributed queries
- G06F16/2474—Sequence data queries, e.g. querying versioned data
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Databases & Information Systems (AREA)
- General Engineering & Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Software Systems (AREA)
- Fuzzy Systems (AREA)
- Mathematical Physics (AREA)
- Probability & Statistics with Applications (AREA)
- Computational Linguistics (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本申请公开了一种时序数据的存储方法、查询方法、装置、设备及存储介质,涉及计算机技术领域。该方法包括:接收到时序数据的存储指令,提取存储指令中的时序数据的数据和第一索引信息,第一索引信息中包括时序数据的存储策略的策略标识,存储策略用于指示数据在数据库中的保留时长,存在至少两个存储策略对应的保留时长不同;将数据和第一索引信息写入数据库的表中。该方法通过在数据库中创建时序数据的不同存储策略,将保留时长不同的时序数据对应存储至不同的存储策略下,从而可以在时序数据过期后对其自动删除,实现了对保留时长不同的时序数据的自动管理,无需人为维护,提高了数据库的更新效率。
Description
技术领域
本申请涉及计算机技术领域,特别涉及一种时序数据的存储方法、查询方法、装置、设备及存储介质。
背景技术
时序数据是指一串按时间维度索引的数据,这类数据描述了被测量的主体在一个时间范围内的每个时刻的测量值。
上述时序数据一般采用关系型数据库或者非关系型数据库来存储,以支持时序数据的持续高并发、海量数据写入、一般不更新、以及低延时查询的特点。而对于上述数据库中存储的时序数据的更新,一般情况下是由技术人员有针对性的对数据库中的部分时序数据进行修改、删除。
针对于物联网(the Internet of Things,IoT)边缘,由于设备的资源有限,数据库中的时序数据被赋予了时效性,因此,经常需要对数据库中大量过期时序数据进行删除,此时,采用人为维护的方式会导致数据库的更新效率低。
发明内容
本申请实施例提供了一种时序数据的存储方法、查询方法、装置、设备及存储介质,可以基于设置的保留时长实现对数据库中时序数据的存储管理,比如,清除不同保留时长下处于过期状态的时序数据。所述技术方案如下:
根据本申请的一方面,提供了一种时序数据的存储方法,该方法包括:
接收时序数据的存储指令,存储指令中包括时序数据的数据和第一索引信息;
提取存储指令中的数据和第一索引信息,第一索引信息中包括时序数据的存储策略的策略标识,存储策略用于指示数据在数据库中的保留时长,存在至少两个存储策略对应的保留时长不同;
将数据和第一索引信息写入数据库的表中。
根据本申请的一方面,提供了一种时序数据的查询方法,该方法包括:
接收终端发送的查询请求,查询请求包括第一索引信息,第一索引信息中包括时序数据的存储策略的策略标识,存储策略用于指示时序数据在数据库中的保留时长,存在至少两个存储策略对应的保留时长不同;
在数据库的表中查询第一索引信息对应的时序数据;
将时序数据的数据返回至终端。
根据本申请的另一方面,提供了一种时序数据的存储装置,该装置包括:
接收模块,用于接收时序数据的存储指令,存储指令中包括时序数据的数据和第一索引信息;
提取模块,用于提取存储指令中的数据和第一索引信息,第一索引信息中包括时序数据的存储策略的策略标识,存储策略用于指示数据在数据库中的保留时长,存在至少两个存储策略对应的保留时长不同;
存储模块,用于将数据和第一索引信息写入数据库的表中。
根据本申请的另一方面,提供了一种时序数据的查询装置,该装置包括:
接收模块,用于接收终端发送的查询请求,查询请求包括第一索引信息,第一索引信息中包括时序数据的存储策略的策略标识,存储策略用于指示时序数据在数据库中的保留时长,存在至少两个存储策略对应的保留时长不同;
查询模块,用于查询在数据库的表中查询第一索引信息对应的时序数据;
发送模块,用于将时序数据的数据返回至终端。
根据本申请的另一方面,提供了一种电子设备,该电子设备包括:
存储器,与存储器相连的处理器;
处理器,被配置为加载并执行存储器中存储的可执行指令以实现如上一个方面及其可选实施例所述的时序数据的存储方法,或者,如上另一个方面及其可选实施例所述的时序数据的查询方法。
根据本申请的另一方面,提供了一种计算机可读存储介质,上述计算机可读存储介质中存储有至少一条指令、至少一段程序、代码集或指令集,上述至少一条指令、至少一段程序、代码集或指令集由处理器加载并执行以实现如上述一个方面及其可选实施例所述的时序数据的存储方法,或者,如上另一个方面及其可选实施例所述的时序数据的查询方法。
本申请实施例提供的技术方案带来的有益效果至少包括:
该方法在接收到时序数据的存储指令之后,提取存储指令中的时序数据的数据和第一索引信息,第一索引信息中包括时序数据的存储策略的策略标识,存储策略用于指示数据在数据库中的保留时长,存在至少两个存储策略对应的保留时长不同;将数据和第一索引信息写入数据库的表中。该方法通过在数据库中创建时序数据的不同存储策略,将保留时长不同的时序数据对应存储至不同的存储策略下,从而可以在时序数据过期后对其自动删除,实现了对保留时长不同的时序数据的自动管理,无需人为维护,提高了数据库的更新效率。
附图说明
为了更清楚地说明本申请实施例中的技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1是本申请一个示例性实施例提供的物联网系统的结构示意图;
图2是本申请一个示例性实施例提供的时序数据的存储方法的流程图;
图3是本申请另一个示例性实施例提供的时序数据的存储方法的流程图;
图4是本申请另一个示例性实施例提供的时序数据的存储方法的流程图;
图5是本申请一个示例性实施例提供的时序数据的查询方法的流程图;
图6是本申请一个示例性实施例提供的时序数据的结构示意图;
图7是本申请一个示例性实施例提供的时序数据的存储装置的框图;
图8是本申请一个示例性实施例提供的时序数据的查询装置的框图;
图9是本申请一个示例性实施例提供的服务器的结构示意图。
具体实施方式
为使本申请的目的、技术方案和优点更加清楚,下面将结合附图对本申请实施方式作进一步地详细描述。
针对本申请中涉及词语的解释如下:
物联网(the Internet of Things,IoT):是指通过各种信息传感器、射频识别技术、全球定位系统、红外感应器、激光扫描器等各种装置与技术,实时采集任何需要监控、连接、互动的物体或过程,采集其声、光、热、电、力学、化学、生物、位置等各种需要的信息,通过各类可能的网络接入,实现物与物、物与人的泛在连接,实现对物品和过程的智能化感知、识别和管理。物联网是一个基于互联网、传统电信网等的信息承载体,它让所有能够被独立寻址的普通物理对象形成互联互通的网络。
物联网边缘:是指边缘计算在物联网中的应用。其中,边缘计算是一种分散式运算,将应用程序、数据与服务的运算由网络中心节点移往网络逻辑上的边缘节点来处理;其实质上是将由网络中心节点处理的服务加以分解,分解成粒度更小的服务,将上述粒度更小的服务分散到边缘节点去处理;而上述边缘节点更接近用户终端,由边缘节点来处理可以加快服务的处理与传送速度,减少延迟,还能够缓解网络中心节点的负载。
在作为边缘节点的边缘设备上设置有数据库,而由于边缘设备的资源有限,边缘设备上的数据库中存储的时序数据均被赋予了时效性,也就是说,时序数据在数据库中的存储时长是有限的,因此,需要经常对上述数据库中大量过期时序数据进行删除。一般情况下,采用人为的方式更新数据库,但是,人为更新数据库的效率低,所以,本申请提供了一种时序数据的存储方法,该方法的详细实现细节请参考以下实施例。
示意性的,上述时序数据的存储方法可以应用于物联网的边缘节点中,请参考图1,示出了本申请实施例涉及的一种物联网系统的示意图。该物联网系统100可以包括:服务器集群101和物联网设备102。
服务器集群101是将多个服务器集中起来用于计算和存储时序数据的群集。在本申请实施例中,服务器集群101包括至少一个服务器。物联网设备102是指具有物联网通信能力的物理设备。
本申请实施例中,服务器集群101包括作为边缘节点的边缘设备;上述服务器集群101中的边缘设备上设置有数据库的数据文件,上述数据文件中存储有时序数据,比如,采集得到声音数据、采集得到的电力系统中的电表读数、以及设备运行数据等。服务器集群101中的边缘设备支持时序数据的存储、以及时序数据的查询。可选地,上述时序数据可以是物联网设备102上传的。
可选地,上述数据库是基于存储策略构建的,上述存储策略用于指示时序数据的数据在数据库中的保留时长,存在至少两个存储策略对应的保留时长不同。边缘设备上存储有本申请提供的时序数据的存储方法;示意性的,边缘设备将时序数据的数据和第一索引信息写入数据库的表中,第一索引信息中包括时序数据的存储策略;示意性的,上述边缘设备的内存上运行有数据库,边缘设备还按照时序数据对应设置的存储策略,自动清除数据库的表中处于过期状态的时序数据。
边缘设备上还存储有本申请提供的时序数据的查询方法;示意性的,接收终端发送的查询请求,该查询请求中包括第一索引信息,在边缘设备的内存支持运行的数据库中,基于第一索引信息查询时序数据的数据,其中,第一索引信息中包括存储策略的策略标识,也就是说,在策略标识对应的存储策略下查询时序数据的数据。需要说明的是,上述终端可以包括物联网设备102、以及与物联网设备绑定的设备中的至少一种。
上述物联网设备102可以包括发电设备,比如,风力发电设备、太阳能发电设备、以及水利发电设备等;上述物联网设备102还可以包括用电设备,比如,风机、变电器、生产设备、监控设备、处理设备、空调、冰箱、计算机等。
需要说明的是,物联网平台可以部署在一个或多个服务器中,本申请实施例对此不作限定。服务器集群101还可以是其他具有接收物联网设备102上传的信息、并对信息进行处理功能的物联网节点。例如:路由器、网关等。
可选的,服务器集群101和物联网设备102以树型拓扑结构连接,其中,物联网设备102位于叶子节点,服务器集群101位于非叶子节点的分节点和根节点。
物联网设备102与服务器集群101之间通过网络连接,该网络既可以是有线网络也可以是无线网络。例如,物联网设备102与服务器集群101,以及服务器集群101与服务器集群101之间可以采用物联网设备到物联网设备的方式连接,即采用点对点(Ad-Hoc)的方式连接;也可以在基站或无线访问点(Access Point,AP)的协调下连接,本申请实施例对此不作限定。
本领域技术人员可以知晓,上述服务器集群101或物联网设备102的数量可以更多或更少。比如上述服务器集群101或物联网设备102可以仅为一个,或者上述服务器集群101或物联网设备102为几十个或几百个,或者更多数量。本申请实施例对服务器集群101或物联网设备102的数量和类型不加以限定。
请参考图2,示出了本申请一个示例性实施例提供的时序数据的存储方法的流程图。该方法应用于如图1所示的服务器中,该方法包括:
步骤201,接收时序数据的存储指令。
上述存储指令中包括时序数据的数据和第一索引信息。示意性的,上述存储指令是通过表述性状态转移(Representational State Transfer,RESTful)接口发送至服务器中的;或者,上述存储指令是通过软件开发工具包(Software Development Kit,SDK)发送至服务器中的。
上述时序数据是指统一规则下基于时间顺序记录的数据。示意性的,上述时序数据可以是采集得到的设备用电量、设备发电量、设备运转数据、服务计算数据、订单流水数据、画面监控数据等,本实施例中对时序数据的类型不加以限定。
上述第一索引信息是指用于从数据库的表中查询时序数据的数据的信息。可选地,上述第一索引信息中包括时序数据的存储策略的策略标识,该存储策略即是时序数据的保留策略(Retention Policy,RP),该存储策略用于指示数据在数据库中的保留时长,存在至少两个存储策略对应的保留时长不同。
示意性的,存在第一存储策略、第二存储策略和第三存储策略,其中,第一存储策略对应的保留时长为1周,第二存储策略对应的保留时长为1个月,第三存储策略对应的保留时长为3个月,上述三个存储策略对应的保留时长两两之间均不同。示意性的,上述策略标识的结构包括“名称+保留时长”,保留时长可以是包括年(Year)、月(Month)、日(Day)、时(Hour)、分钟(Minute)中的至少一项。
可选地,上述第一索引信息还包括表标识、数据标识、以及时间戳中的至少一个索引项;其中,表标识用于指示时序数据在数据库中所属的表(measurement);数据标识用于指示时序数据在表中存储的数据;时间戳是指时序数据的数据的时间标记。
步骤202,提取存储指令中的时序数据的数据和第一索引信息。
步骤203,将时序数据的数据和第一索引信息写入数据库的表中。
数据库是基于存储策略设置的。可选地,数据库中设置有u个存储策略,且数据库中设置有v个表,v个表中的每一个表中均可以写入u个存储策略中任意存储策略下的时序数据;u、v为正整数。
示意性的,如表1和表2,存储策略1的策略标识为RP1,存储策略2的策略标识为RP2,存在时序数据Data1、Data2、以及Data3的存储策略为存储策略1;存在时序数据Data4、Data5、以及Data6的存储策略为存储策略2。其中,Data1、Data2、以及Data6存储在表1中,Data3、Data4、以及Data5存储在表2中;也就是说,表1中存在RP1与RP2两种存储策略下的时序数据,表2中也存在RP1与RP2两种存储策略下的时序数据。
可选地,上述数据库包括时序数据库(Time-Series DataBase,TSDB)。可选地,上述数据库中存储策略包括默认的存储策略,以及预设的存储策略中的至少一种;对应的,上述时序数据的第一索引信息中包括默认的存储策略,或者指定的存储策略,其中,指定的存储策略是指人为设置的时序数据的存储策略,即用户可以根据对时序数据的存储需求在数据库中自行创建存储策略。
示意性的,若在时序数据的写入过程中,没有特别指定该时序数据的存储策略,则按照默认的存储策略对该时序数据进行存储;若特别指定了该时序数据的存储策略,则按照指定的存储策略对该时序数据进行存储。
表3
表标识 | 策略标识 | 数据标识 | 时间戳 | 数据 |
可选地,服务器按照预设结构将时序数据的数据和第一索引信息写入数据库的表中,预设结构包括将第一索引信息作为键、将数据作为值的结构。示意性的,如表3,表中的时序数据的结构包括“表标识+存储策略的策略标识+数据标识+时间戳+时序数据的数据”。其中,上述数据标识(即tag)可以用于指示数据的属性信息,比如,时序数据为风机的发电量,则数据标识可以包括风机的编号和所属的地理区域。服务器按照表3中的结构将时序数据批量写入数据库的表中。
还需要说明的是,在对时序数据写入时,若数据库中存在第一索引信息“表标识+存储策略的策略标识+数据标识+时间戳”相同的数据,数据库中的原数据会被覆盖。
综上所述,本实施例提供的时序数据的存储方法,在接收到时序数据的存储指令之后,提取存储指令中的时序数据的数据和第一索引信息,第一索引信息中包括时序数据的存储策略的策略标识,存储策略用于指示数据在数据库中的保留时长,存在至少两个存储策略对应的保留时长不同;将数据和第一索引信息写入数据库的表中。该方法通过在数据库中创建时序数据的不同存储策略,将保留时长不同的时序数据对应存储至不同的存储策略下,从而可以在时序数据过期后对其自动删除,实现了对保留时长不同的时序数据的自动管理,无需人为维护,提高了数据库的更新效率。
基于图2所示的实施例,上述数据库缓存于内存中,在将时序数据写入数据库之后,服务器还需将时序数据对应存储至数据库的数据文件中,即对应存储至磁盘上,示意性的,如图3,在步骤203之后增加步骤204至步骤205,步骤如下:
步骤204,将数据顺序写入数据文件对应的磁盘区域中。
服务器中对应设置有数据库的数据文件,数据文件位于内存之外的磁盘中;服务器在将时序数据写入内存中缓存的数据库中之后,将时序数据的数据批量顺序写入数据文件对应的磁盘区域。
可选地,数据文件是基于存储策略设置的,一个存储策略下基于时间顺序设置有n个数据文件,第i个数据文件对应于第i个时间段,第i个时间段是按照存储策略的保留时长划分成的n个时间段中的第i个,其中,i小于或等于n,i、n为正整数。
磁盘被划分为若干个磁盘区域,每一个磁盘区域对应一个数据文件;服务器响应于数据的时间戳上的时刻属于第i个时间段,将数据顺序写入第i个数据文件对应的磁盘区域。需要说明的是,时间戳是根据时刻生成的时间标记,时间戳中包括数据的时刻;上述时间戳可以是预先指定的时刻的时间戳,或者,是默认的数据生成时刻的时间戳。
示意性的,如表4,存储策略RP1下设置有3个数据文件,分别为文件1、文件2以及文件3,文件1对应的时间段为[T1,T2),即时刻T1至时刻T2,包括时刻T1且不包括时刻T2;文件2对应的时间段为[T2,T3),即时刻T2至时刻T3,包括时刻T2且不包括时刻T3;文件3对应的[T3,T4),即时刻T3至时刻T4,包括时刻T3且不包括时刻T4。
表4
若时序数据的时间戳上的时刻T属于[T1,T2),则将时序数据存储至文件1中;若时序数据的时间戳上的时刻T属于[T2,T3),则将时序数据存储至文件2中;若时序数据的时间戳上的时刻T属于[T3,T4),则将时序数据存储至文件3中。
在向磁盘中写入时序数据时,服务器需要将时序数据的数据进行编码、压缩,之后将压缩后的数据写入磁盘中;服务器中存在至少两种数据类型对应的编码算法不同、且存在至少两种数据类型对应的压缩算法不同。
可选地,服务器识别数据的第一数据类型;调用第一数据类型对应的编码算法对数据进行编码,得到编码后的数据;调用第一数据类型对应的压缩算法对编码后的数据进行压缩,得到压缩后的数据。
可选地,服务器识别数据的第一数据类型;调用第一数据类型对应的编码算法对数据进行编码,得到编码后的数据;识别编码后的数据的第二数据类型;调用第二数据类型对应的压缩算法对编码后的数据进行压缩,得到压缩后的数据。
如表5,若时序数据的数据为时间戳,则采用差分编码算法对数据进行编码,之后采用Simple8b算法对编码后的数据进行压缩;若数据类型为整型,则采用ZigZag算法对数据进行编码,之后采用整型数据压缩算法对编码后的数据进行压缩;若数据类型为单精度浮点型或双精度浮点型,则采用异或编码算法对数据进行编码,之后采用浮点压缩算法对编码后的数据进行压缩;若数据类型为布尔型,则采用位数据编码算法对数据进行编码,之后采用位数据压缩算法对编码后的数据进行压缩,即采用位数据打包策略对数据进行编码、压缩。
还需要说明的是,服务器还基于编码后的数据确定压缩算法;比如,若整型数据对应的编码后的数据的值小于{(1<<60)-1},则将编码后的数据按照时间戳处理,采用Simple8b算法对编码后的数据进行压缩,其中,“<<”表示左移运算符,“-”表示减号;又比如,若单精度浮点型或双精度浮点型数据对应的编码后的数据为整型,则按照整型的压缩策略进行压缩,采用整型数据压缩算法或Simple8b算法对编码后的数据进行压缩。
表5
步骤205,根据数据库的数据库标识、第一索引信息、以及数据在磁盘区域的存储地址,生成时序数据在数据文件中的第二索引信息。
示意性的,服务器将“数据库标识+第一索引信息+存储地址”作为时序数据在数据文件中的第二索引信息,第二索引信息用于指示时序数据在磁盘中的存储地址,服务器可以通过存储地址从磁盘中读取时序数据。
综上所述,本实施例提供的时序数据的存储方法,是将时序数据顺序写入磁盘中,写入速度快,避免了磁盘的随机操作慢的问题,提升了写操作性能,能够达到更好的写操作的吞吐量。
该方法还基于时序数据的数据类型匹配适用的编码算法和压缩算法进行编码、压缩,提高了压缩效率,也减少了磁盘资源的占用,适用于物联网边缘。
该方法还在一个存储策略下设置n个数据文件,将不同时间的时序数据分开存储,有益于之后对时序数据的查询、以及对过期的时序数据的删除。
需要说明的是,上述数据库的存储引擎包括三个组件,分别为:内存(Memory)、日志(Journal)、磁盘。在时序数据写入时,首先写入内存;继而写入日志文件中,以对数据库中时序数据进行备份,避免数据库异常关闭导致的数据丢失,数据库重新启动时,服务器会遍历日志文件,重新构造数据库结构;最终,基于程序控制在某个时刻写入到磁盘。可选地,上述存储引擎采用的是日志结构化合并树(Log Structured Merge trees,LMS)引擎。采用LSM引擎可以实现时序数据的顺序读写,结合时序数据的分区存储,能够实现连续时间段内大量数据的删除。
还需要说明的是,存储策略用于指示时序数据在数据库中的保留时长,因此,在时序数据的存储市场超过保留时长时,则该时序数据处于过期状态,需要从数据库中删除,以及从数据文件中删除,示意性的,请参考图4,示出了本申请另一个示例性实施例提供的时序数据的存储方法的流程图,该方法应用于如图1所示的服务器中,该方法包括:
步骤301,周期性的按照时间顺序扫描存储策略下n个数据文件。
服务器按照预设周期对每一个存储策略下的n个数据文件进行扫描,以确定数据文件中数据的存储时长,之后判断数据的存储时长与对应的存储策略的保留时长之间的关系,若存储时长大于保留时长,则执行步骤302;若存储时长等于保留时长,则执行步骤303;若存储时长小于保留时长,则执行步骤304。
需要说明的是,服务器是按照时间顺序对每一个存储策略下的数据文件进行扫描的,首先扫描对应的时间段距离当前时刻远的数据文件。
步骤302,响应于第i个数据文件中数据的存储时长大于对应的存储策略的保留时长,批量删除磁盘上的数据,对应删除内存上数据库中的数据。
示意性的,在第i个数据文件中,若全部数据的存储时长大于对应的存储策略的保留时长,则删除第i个数据文件;若部分数据的存储时长大于对应的存储策略的保留时长,则删除上述部分数据。
示意性的,服务器扫描存储策略下的第i个数据文件,提取时序数据中时间戳上的时刻,计算上述时刻与当前时刻之间的时长,即为存储时长,确定上述存储时长大于对应的存储策略的保留时长,将该时间戳下的时序数据进行批量删除,其中,i为正整数。
步骤303,响应于第i个数据文件中数据的存储时长等于对应的存储策略的保留时长,批量删除磁盘上的数据,对应删除内存上数据库中的数据,停止扫描。
示意性的,在第i个文件数据中,若全部数据的存储时长等于对应的存储策略的保留时长,则删除第i个数据文件;若部分数据的存储时长等于对应的存储策略的保留时长,则删除上述部分数据。
在将存储时长等于保留时长的时序数据删除后,由于服务器是按照时间的先后顺序进行扫描的,则第i个数据文件中剩余的时序数据、以及第i+1个及以后的数据文件中的时序均未过期,因此,服务器停止扫描。
步骤304,响应于第i个数据文件中数据的存储时长小于对应的存储策略的保留时长,停止扫描。
由于服务器是按照时间的先后顺序进行扫描的,若第i个数据文件中全部数据的存储时长均小于对应的存储策略的保留时长,则上述全部数据均未过期,且第i+1个及以后的数据文件中的时序也未过期,因此,服务器停止扫描。
还需要说明的是,上述磁盘与内存中的时序数据对应删除后,还要对应删除日志中的上述时序数据。
综上所述,本实施例提供的时序数据的存储方法,服务器按照不同的存储策略对过期的时序数据周期性进行自动扫描、删除,无需人为维护,实现了对保留时长不同的时序数据的自动管理,提高了数据库的更新效率。且由于数据文件、以及时序数据均是按照时间的先后顺序进行顺序存储的,在对数据文件中的时序数据的扫描过程中,可以按照时间先后顺序进行扫描,若存储时长小于或等于保留时长,则可以停止扫描,无需对所有的时序数据进行扫描,提高了时序数据的扫描效率,减少了对硬件资源的消耗。
请参考图5,示出了本申请一个示例性实施例提供的时序数据的查询方法的流程图,应用于图2至图4所示实施例中构建的数据库中,该方法包括:
步骤401,接收终端发送的查询请求。
上述查询请求包括第一索引信息,第一索引信息用于在数据库中查找对应的时序数据。其中,第一索引信息中包括时序数据的存储策略的策略标识,存储策略用于指示时序数据在数据库中的保留时长,存在至少两个存储策略对应的保留时长不同。
可选地,上述第一索引信息还包括表标识、数据标识、以及时间戳中的至少一个索引项;其中,表标识用于指示时序数据在数据库中所属的表;数据标识用于指示时序数据在表中存储的数据;时间戳是指时序数据的数据的时间标记。
步骤402,在数据库的表中查询第一索引信息对应的时序数据。
示意性的,基于存储策略对时序数据进行查询时,在数据库的表中可以查询得到该存储策略下对应的f条时序数据,f为正整数。可选地,数据库中存在至少两个表,则存在至少两条时序数据可以是同一表中的时序数据,或者,不同表中的时序数据。
示意性的,基于表标识对时序数据进行查询时,在数据库中可以查询得到该表标识对应的表中的f条时序数据。可选地,上述表标识对应的表中存在至少两条时序数据的存储策略不同。需要说明的是,在查询一个存储策略对应的时序数据时,同一表中其它存储策略下的时序数据不可见。
示意性的,基于表标识、存储策略、数据标识、以及时间戳进行查询时,可以时间戳为主键,在表标识对应的表中,确定出存储策略下的时序数据,继而确定出数据标识对应的时序数据,最终从数据标识对应的时序数据中确定出时间戳对应的时序数据,对应得到时序数据的数据。
示意性的,时序数据的数据的查询主要是查询seriesKey来获取数据;其中,seriesKey是用来存储元数据索引的结构体,呈现二叉树的结构,该结构体在数据查询的过程中可以避免查询整个内存数据或磁盘文件。
需要说明的是,数据库有独立的任务和数据结构来维护上述seriesKey;比如,根据最近最少使用(Least Recently Used,LRU)规则,定期更新seriesKey中的元数据索引;其中,上述更新主要包括:第一,去掉长时间不查询的数据索引信息,第二,增加最近查询的数据索引信息,以控制内存大小;当数据库关闭时,将seriesKey写入磁盘,当数据库启动时,将seriesKey读取至内存中。
示意性的,如图6,示出了表结构,包括了主键time、索引项tag1和tag2、以及数据项field1和field2。其中,time用于存储时间;tag1和tag2分别用于存储属性不同的数据标识,用于配合time进行数据的查询;field1和field2分别用于存储数据的value值,不用于查询。服务器基于seriesKey在表中查询时序数据的值。
可选地,若数据库的表中不存在查询的时序数据,则从磁盘中查询时序数据。
步骤403,将时序数据的数据返回至终端。
综上所述,本实施例提供的时序数据的查询方法,在基于存储策略构建的数据库中查询数据,可以基于seriesKey迅速在指定的存储策略下查询得到时序数据的值;seriesKey还避免了全内存查询,也提高了数据的查询速度。且上述数据库的数据文件是基于时间分段设置的,时序数据按照时序顺序写入磁盘中,若在磁盘中查询,可以基于时间顺序快速的查询得到时序数据的值,也提高了数据的查询速度。
请参考图7,示出了本申请一个示例性实施例提供的时序数据的存储装置的框图,该装置应用于服务器中;该装置通过软件、硬件或者二者的结合实现成为服务器的部分或者全部,该装置包括:
接收模块511,用于接收时序数据的存储指令,存储指令中包括时序数据的数据和第一索引信息;
提取模块512,用于提取存储指令中的数据和第一索引信息,第一索引信息中包括时序数据的存储策略的策略标识,存储策略用于指示数据在数据库中的保留时长,存在至少两个存储策略对应的保留时长不同;
存储模块513,用于将数据和第一索引信息写入数据库的表中。
在一些实施例中,存储模块513,用于按照预设结构将数据和第一索引信息写入数据库的表中,预设结构包括将第一索引信息作为键、将数据作为值的结构。
在一些实施例中,第一索引信息还包括表标识、数据标识、以及时间戳中的至少一个索引项;
表标识用于指示时序数据在数据库中所属的表;
数据标识用于指示时序数据在表中存储的数据;
时间戳是指数据的时间标记。
在一些实施例中,数据库缓存于存中;
该装置还包括:
存储模块513,用于将数据顺序写入数据文件对应的磁盘区域中,数据文件位于内存之外的磁盘中;
生成模块514,用于根据数据库的数据库标识、第一索引信息、以及数据在磁盘区域的存储地址,生成时序数据在数据文件中的第二索引信息。
在一些实施例中,存储策略下基于时间顺序设置有n个数据文件,其中,第i个数据文件对应于第i个时间段,第i个时间段是按照存储策略的保留时长划分成的n个时间段中的第i个;
存储模块513,用于响应于数据的时间戳上的时刻属于第i个时间段,将数据顺序写入第i个数据文件对应的磁盘区域中。
在一些实施例中,该装置还包括:
扫描模块515,用于周期性的按照时间顺序扫描存储策略下n个数据文件;
删除模块516,用于响应于第i个数据文件中数据的存储时长大于对应的存储策略的保留时长,批量删除磁盘上的数据,对应删除内存上数据库中的数据;
删除模块516,用于响应于第i个数据文件中存储时长等于对应的存储策略的保留时长,批量删除磁盘上的数据,对应删除内存上数据库中的数据,停止扫描。
在一些实施例中,存储模块513,用于识别数据的第一数据类型;调用第一数据类型对应的编码算法对数据进行编码,得到编码后的数据;
识别编码后的数据的第二数据类型;调用第二数据类型对应的压缩算法对编码后的数据进行压缩,得到压缩后的数据;将压缩后的数据顺序写入数据文件对应的磁盘区域中。
在一些实施例中,存储模块513,用于识别数据的第一数据类型;调用第一数据类型对应的编码算法对数据进行编码,得到编码后的数据;
调用第一数据类型对应的压缩算法对编码后的数据进行压缩,得到压缩后的数据;将压缩后的数据顺序写入数据文件对应的磁盘区域中。
综上,本实施例提供的时序数据的存储装置,在接收到时序数据的存储指令之后,提取存储指令中的时序数据的数据和第一索引信息,第一索引信息中包括时序数据的存储策略的策略标识,存储策略用于指示数据在数据库中的保留时长,存在至少两个存储策略对应的保留时长不同;将数据和第一索引信息写入数据库的表中。该装置通过在数据库中创建时序数据的不同存储策略,将保留时长不同的时序数据对应存储至不同的存储策略下,从而可以在时序数据过期后对其自动删除,实现了对保留时长不同的时序数据的自动管理,无需人为维护,提高了数据库的更新效率。
请参考图8,示出了本申请一个示例性实施例提供的时序数据的查询装置的框图,该装置应用于服务器中;该装置通过软件、硬件或者二者的结合实现成为服务器的部分或者全部,该装置包括:
接收模块521,用于接收终端发送的查询请求,查询请求包括第一索引信息,第一索引信息中包括时序数据的存储策略的策略标识,存储策略用于指示时序数据在数据库中的保留时长,存在至少两个存储策略对应的保留时长不同;
查询模块522,用于查询在数据库的表中查询第一索引信息对应的时序数据;
发送模块523,用于将时序数据的数据返回至终端。
在一些实施例中,第一索引信息还包括表标识、数据标识、以及时间戳中的至少一个索引项;
表标识用于指示时序数据在数据库中所属的表;
数据标识用于指示时序数据在表中存储的数据;
时间戳是指数据的时间标记。
综上,本实施例提供的时序数据的查询装置,在基于存储策略构建的数据库中查询数据,可以基于seriesKey迅速在指定的存储策略下查询得到时序数据的值;seriesKey还避免了全内存查询,也提高了数据的查询速度。且上述数据库的数据文件是基于时间分段设置的,时序数据按照时序顺序写入磁盘中,若在磁盘中查询,可以基于时间顺序快速的查询得到时序数据的值,也提高了数据的查询速度。
请参考图9,示出了本申请一个实施例提供的服务器的结构示意图。该服务器用于实施上述实施例中提供的时序数据的存储方法、以及时序数据的查询方法。具体来讲:
所述服务器600包括CPU(Central Processing Unit,中央处理器)601、包括RAM(Random Access Memory,随机存取存储器)602和ROM(Read-Only Memory,只读存储器)603的系统存储器604,以及连接系统存储器604和中央处理单元601的系统总线605。所述服务器600还包括帮助计算机内的各个器件之间传输信息的基本I/O(Input/Output,输入/输出)系统606,和用于存储操作系统613、应用程序614和其他程序模块615的大容量存储设备607。
所述基本输入/输出系统606包括有用于显示信息的显示器608和用于用户输入信息的诸如鼠标、键盘之类的输入设备609。其中所述显示器608和输入设备609都通过连接到系统总线605的输入输出控制器610连接到中央处理单元601。所述基本输入/输出系统606还可以包括输入输出控制器610以用于接收和处理来自键盘、鼠标、或电子触控笔等多个其他设备的输入。类似地,输入输出控制器610还提供输出到显示屏、打印机或其他类型的输出设备。
所述大容量存储设备607通过连接到系统总线605的大容量存储控制器(未示出)连接到中央处理单元601。所述大容量存储设备607及其相关联的计算机可读介质为服务器600提供非易失性存储。也就是说,所述大容量存储设备607可以包括诸如硬盘或者CD-ROM(Compact Disc Read-Only Memory,只读光盘)驱动器之类的计算机可读介质(未示出)。
不失一般性,所述计算机可读介质可以包括计算机存储介质和通信介质。计算机存储介质包括以用于存储诸如计算机可读指令、数据结构、程序模块或其他数据等信息的任何方法或技术实现的易失性和非易失性、可移动和不可移动介质。计算机存储介质包括RAM、ROM、EPROM(Erasable Programmable Read-Only Memory,可擦除可编程只读存储器)、EEPROM(Electrically Erasable Programmable Read-Only Memory,电可擦可编程只读存储器)、闪存(Flash Memory)或其他固态存储其技术,CD-ROM、DVD(Digital VersatileDisc,数字通用光盘)或其他光学存储、磁带盒、磁带、磁盘存储或其他磁性存储设备。当然,本领域技术人员可知所述计算机存储介质不局限于上述几种。上述的系统存储器604和大容量存储设备607可以统称为存储器。
根据本申请的各种实施例,所述服务器600还可以通过诸如因特网等网络连接到网络上的远程计算机运行。也即服务器600可以通过连接在所述系统总线605上的网络接口单元611连接到网络612,或者说,也可以使用网络接口单元611来连接到其他类型的网络或远程计算机系统(未示出)。
上述本申请实施例序号仅仅为了描述,不代表实施例的优劣。
本领域普通技术人员可以理解实现上述实施例的全部或部分步骤可以通过硬件来完成,也可以通过程序来指令相关的硬件完成,所述的程序可以存储于一种计算机可读存储介质中,上述提到的存储介质可以是只读存储器,磁盘或光盘等。
以上所述仅为本申请的可选实施例,并不用以限制本申请,凡在本申请的精神和原则之内,所作的任何修改、等同替换、改进等,均应包含在本申请的保护范围之内。
Claims (10)
1.一种时序数据的存储方法,其特征在于,所述方法包括:
接收所述时序数据的存储指令,所述存储指令中包括所述时序数据的数据和第一索引信息;
提取所述存储指令中的所述数据和所述第一索引信息,所述第一索引信息中包括所述时序数据的存储策略的策略标识,所述存储策略用于指示所述数据在数据库中的保留时长,存在至少两个存储策略对应的保留时长不同;
将所述数据和所述第一索引信息写入所述数据库的表中。
2.根据权利要求1所述的方法,其特征在于,所述将所述数据和所述第一索引信息写入所述数据库的表中,包括:
按照预设结构将所述数据和所述第一索引信息写入所述数据库的表中,所述预设结构包括将所述第一索引信息作为键、将所述数据作为值的结构。
3.根据权利要求2所述的方法,其特征在于,所述第一索引信息还包括表标识、数据标识、以及时间戳中的至少一个索引项;
所述表标识用于指示所述时序数据在所述数据库中所属的表;
所述数据标识用于指示所述时序数据在所述表中存储的所述数据;
所述时间戳是指所述数据的时间标记。
4.根据权利要求1至3任一所述的方法,其特征在于,所述数据库缓存于内存中;
所述将所述数据和所述第一索引信息写入所述数据库的表中之后,包括:
将所述数据顺序写入数据文件对应的磁盘区域中,所述数据文件位于所述内存之外的磁盘中;
根据所述数据库的数据库标识、所述第一索引信息、以及所述数据在所述磁盘区域的存储地址,生成所述时序数据在所述数据文件中的第二索引信息。
5.根据权利要求4所述的方法,其特征在于,所述方法还包括:
识别所述数据的第一数据类型;调用所述第一数据类型对应的编码算法对所述数据进行编码,得到编码后的数据;
调用所述第一数据类型对应的压缩算法对所述编码后的数据进行压缩,得到压缩后的数据;或者,
识别所述编码后的数据的第二数据类型;调用所述第二数据类型对应的压缩算法对所述编码后的数据进行压缩,得到所述压缩后的数据。
6.一种时序数据的查询方法,其特征在于,所述方法包括:
接收终端发送的查询请求,所述查询请求包括第一索引信息,所述第一索引信息中包括时序数据的存储策略的策略标识,所述存储策略用于指示所述时序数据在数据库中的保留时长,存在至少两个存储策略对应的保留时长不同;
在所述数据库的表中查询所述第一索引信息对应的所述时序数据;
将所述时序数据的数据返回至所述终端。
7.一种时序数据的存储装置,其特征在于,所述装置包括:
接收模块,用于接收所述时序数据的存储指令,所述存储指令中包括所述时序数据的数据和第一索引信息;
提取模块,用于提取所述存储指令中的所述数据和所述第一索引信息,所述第一索引信息中包括所述时序数据的存储策略的策略标识,所述存储策略用于指示所述数据在数据库中的保留时长,存在至少两个存储策略对应的保留时长不同;
存储模块,用于将所述数据和所述第一索引信息写入所述数据库的表中。
8.一种时序数据的查询装置,其特征在于,所述装置包括:
接收模块,用于接收终端发送的查询请求,所述查询请求包括第一索引信息,所述第一索引信息中包括所述时序数据的存储策略的策略标识,所述存储策略用于指示所述时序数据在数据库中的保留时长,存在至少两个存储策略对应的保留时长不同;
查询模块,用于查询在所述数据库的表中查询所述第一索引信息对应的所述时序数据;
发送模块,用于将所述时序数据的数据返回至所述终端。
9.一种电子设备,其特征在于,所述电子设备包括:
存储器,与所述存储器相连的处理器;
所述处理器,被配置为加载并执行所述存储器中存储的可执行指令以实现如权利要求1至5任一所述的时序数据的存储方法,或者,如权利要求6所述的时序数据的查询方法。
10.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质中存储有至少一条指令、至少一段程序、代码集或指令集;所述至少一条指令、所述至少一段程序、所述代码集或所述指令集由处理器加载并执行以实现如权利要求1至5任一所述的时序数据的存储方法,或者,如权利要求6所述的时序数据的查询方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010163696.5A CN111552687B (zh) | 2020-03-10 | 2020-03-10 | 时序数据的存储方法、查询方法、装置、设备及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010163696.5A CN111552687B (zh) | 2020-03-10 | 2020-03-10 | 时序数据的存储方法、查询方法、装置、设备及存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN111552687A true CN111552687A (zh) | 2020-08-18 |
CN111552687B CN111552687B (zh) | 2023-08-04 |
Family
ID=72005474
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010163696.5A Active CN111552687B (zh) | 2020-03-10 | 2020-03-10 | 时序数据的存储方法、查询方法、装置、设备及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN111552687B (zh) |
Cited By (16)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112364278A (zh) * | 2020-11-23 | 2021-02-12 | 浪潮云信息技术股份公司 | 一种基于CockroachDB底层键值数据分类优化方法 |
CN112395270A (zh) * | 2020-11-27 | 2021-02-23 | 网络通信与安全紫金山实验室 | 一种数据管理方法、装置、设备及存储介质 |
CN112506735A (zh) * | 2020-11-26 | 2021-03-16 | 中移(杭州)信息技术有限公司 | 服务质量监控方法、系统、服务器和存储介质 |
CN112583899A (zh) * | 2020-12-02 | 2021-03-30 | 上海新氦类脑智能科技有限公司 | 物联网数据采集系统、方法及边缘计算设备 |
CN112650756A (zh) * | 2020-12-29 | 2021-04-13 | 成都科来网络技术有限公司 | 一种基于时序数据的时间投影的索引方法及系统 |
CN112650755A (zh) * | 2020-12-25 | 2021-04-13 | 北京百度网讯科技有限公司 | 数据存储方法、查询数据的方法、数据库、以及可读介质 |
CN113297278A (zh) * | 2021-07-26 | 2021-08-24 | 阿里云计算有限公司 | 时序数据库、数据处理方法、存储设备及计算机程序产品 |
CN113438494A (zh) * | 2021-06-22 | 2021-09-24 | 上海哔哩哔哩科技有限公司 | 数据处理方法及装置 |
CN113806307A (zh) * | 2021-08-09 | 2021-12-17 | 阿里巴巴(中国)有限公司 | 数据处理方法及装置 |
CN113961573A (zh) * | 2021-12-23 | 2022-01-21 | 北京力控元通科技有限公司 | 一种时序数据库查询方法和查询系统 |
CN114090577A (zh) * | 2021-11-04 | 2022-02-25 | 支付宝(杭州)信息技术有限公司 | 时序数据的存储、读取方法及装置 |
CN114297107A (zh) * | 2021-12-29 | 2022-04-08 | 成都智明达电子股份有限公司 | 一种标签Tag的管理方法、设备及介质 |
CN115062075A (zh) * | 2022-06-21 | 2022-09-16 | 成都秦川物联网科技股份有限公司 | 基于时序数据处理的工业物联网及其控制方法 |
CN117076570A (zh) * | 2023-08-31 | 2023-11-17 | 浙商证券股份有限公司 | 仿真重演市场行情数据的方法、系统及装置 |
CN118259921A (zh) * | 2024-05-30 | 2024-06-28 | 杭州海浔科技有限公司 | 电表冻结数据读取方法、装置、集中器以及存储介质 |
CN118259921B (zh) * | 2024-05-30 | 2024-09-27 | 杭州海浔科技有限公司 | 电表冻结数据读取方法、装置、集中器以及存储介质 |
Citations (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20120239627A1 (en) * | 2011-03-18 | 2012-09-20 | Nec Corporation | Data storage apparatus and data storage method |
CN104765792A (zh) * | 2015-03-24 | 2015-07-08 | 华为技术有限公司 | 一种维度数据存储的方法、装置及系统 |
CN106648446A (zh) * | 2015-10-30 | 2017-05-10 | 阿里巴巴集团控股有限公司 | 一种用于时序数据的存储方法、装置及电子设备 |
CN106776823A (zh) * | 2016-11-25 | 2017-05-31 | 华为技术有限公司 | 一种时序数据管理方法、设备和装置 |
CN108399263A (zh) * | 2018-03-15 | 2018-08-14 | 北京大众益康科技有限公司 | 时序数据的存储和查询方法及存储和处理平台 |
CN108509652A (zh) * | 2018-04-17 | 2018-09-07 | 山东大众益康网络科技有限公司 | 数据处理系统及方法 |
CN108563711A (zh) * | 2018-03-28 | 2018-09-21 | 山东昭元信息科技有限公司 | 一种基于时间节点的时序数据存储方法 |
CN109582708A (zh) * | 2018-11-19 | 2019-04-05 | 冶金自动化研究设计院 | 一种时序数据库系统 |
CN110134723A (zh) * | 2019-05-22 | 2019-08-16 | 网易(杭州)网络有限公司 | 一种存储数据的方法和数据库 |
CN110263014A (zh) * | 2019-05-15 | 2019-09-20 | 广州致链科技有限公司 | 面向时序型数据的区块链存储系统及方法 |
CN110297832A (zh) * | 2019-07-01 | 2019-10-01 | 联想(北京)有限公司 | 一种时序数据存储方法及装置、时序数据查询方法及装置 |
CN110569240A (zh) * | 2019-07-25 | 2019-12-13 | 平安科技(深圳)有限公司 | 数据存储方法、装置、计算机设备和存储介质 |
-
2020
- 2020-03-10 CN CN202010163696.5A patent/CN111552687B/zh active Active
Patent Citations (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20120239627A1 (en) * | 2011-03-18 | 2012-09-20 | Nec Corporation | Data storage apparatus and data storage method |
CN104765792A (zh) * | 2015-03-24 | 2015-07-08 | 华为技术有限公司 | 一种维度数据存储的方法、装置及系统 |
CN106648446A (zh) * | 2015-10-30 | 2017-05-10 | 阿里巴巴集团控股有限公司 | 一种用于时序数据的存储方法、装置及电子设备 |
CN106776823A (zh) * | 2016-11-25 | 2017-05-31 | 华为技术有限公司 | 一种时序数据管理方法、设备和装置 |
CN108399263A (zh) * | 2018-03-15 | 2018-08-14 | 北京大众益康科技有限公司 | 时序数据的存储和查询方法及存储和处理平台 |
CN108563711A (zh) * | 2018-03-28 | 2018-09-21 | 山东昭元信息科技有限公司 | 一种基于时间节点的时序数据存储方法 |
CN108509652A (zh) * | 2018-04-17 | 2018-09-07 | 山东大众益康网络科技有限公司 | 数据处理系统及方法 |
CN109582708A (zh) * | 2018-11-19 | 2019-04-05 | 冶金自动化研究设计院 | 一种时序数据库系统 |
CN110263014A (zh) * | 2019-05-15 | 2019-09-20 | 广州致链科技有限公司 | 面向时序型数据的区块链存储系统及方法 |
CN110134723A (zh) * | 2019-05-22 | 2019-08-16 | 网易(杭州)网络有限公司 | 一种存储数据的方法和数据库 |
CN110297832A (zh) * | 2019-07-01 | 2019-10-01 | 联想(北京)有限公司 | 一种时序数据存储方法及装置、时序数据查询方法及装置 |
CN110569240A (zh) * | 2019-07-25 | 2019-12-13 | 平安科技(深圳)有限公司 | 数据存储方法、装置、计算机设备和存储介质 |
Non-Patent Citations (2)
Title |
---|
LUO J W 等: "Research on improvement of parallel compression rate of time series data" * |
金鑫: "海量时序数据高可用性实时存储技术研究与应用" * |
Cited By (20)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112364278A (zh) * | 2020-11-23 | 2021-02-12 | 浪潮云信息技术股份公司 | 一种基于CockroachDB底层键值数据分类优化方法 |
CN112506735A (zh) * | 2020-11-26 | 2021-03-16 | 中移(杭州)信息技术有限公司 | 服务质量监控方法、系统、服务器和存储介质 |
CN112395270A (zh) * | 2020-11-27 | 2021-02-23 | 网络通信与安全紫金山实验室 | 一种数据管理方法、装置、设备及存储介质 |
CN112583899B (zh) * | 2020-12-02 | 2023-09-15 | 上海新氦类脑智能科技有限公司 | 物联网数据采集系统、方法及边缘计算设备 |
CN112583899A (zh) * | 2020-12-02 | 2021-03-30 | 上海新氦类脑智能科技有限公司 | 物联网数据采集系统、方法及边缘计算设备 |
CN112650755A (zh) * | 2020-12-25 | 2021-04-13 | 北京百度网讯科技有限公司 | 数据存储方法、查询数据的方法、数据库、以及可读介质 |
CN112650755B (zh) * | 2020-12-25 | 2024-08-13 | 北京百度网讯科技有限公司 | 数据存储方法、查询数据的方法、数据库、以及可读介质 |
CN112650756A (zh) * | 2020-12-29 | 2021-04-13 | 成都科来网络技术有限公司 | 一种基于时序数据的时间投影的索引方法及系统 |
CN113438494A (zh) * | 2021-06-22 | 2021-09-24 | 上海哔哩哔哩科技有限公司 | 数据处理方法及装置 |
CN113297278A (zh) * | 2021-07-26 | 2021-08-24 | 阿里云计算有限公司 | 时序数据库、数据处理方法、存储设备及计算机程序产品 |
CN113806307A (zh) * | 2021-08-09 | 2021-12-17 | 阿里巴巴(中国)有限公司 | 数据处理方法及装置 |
CN114090577A (zh) * | 2021-11-04 | 2022-02-25 | 支付宝(杭州)信息技术有限公司 | 时序数据的存储、读取方法及装置 |
CN113961573A (zh) * | 2021-12-23 | 2022-01-21 | 北京力控元通科技有限公司 | 一种时序数据库查询方法和查询系统 |
CN114297107A (zh) * | 2021-12-29 | 2022-04-08 | 成都智明达电子股份有限公司 | 一种标签Tag的管理方法、设备及介质 |
CN114297107B (zh) * | 2021-12-29 | 2024-05-24 | 成都智明达电子股份有限公司 | 一种标签Tag的管理方法、设备及介质 |
CN115062075A (zh) * | 2022-06-21 | 2022-09-16 | 成都秦川物联网科技股份有限公司 | 基于时序数据处理的工业物联网及其控制方法 |
CN117076570A (zh) * | 2023-08-31 | 2023-11-17 | 浙商证券股份有限公司 | 仿真重演市场行情数据的方法、系统及装置 |
CN117076570B (zh) * | 2023-08-31 | 2024-09-06 | 浙商证券股份有限公司 | 仿真重演市场行情数据的方法、系统及装置 |
CN118259921A (zh) * | 2024-05-30 | 2024-06-28 | 杭州海浔科技有限公司 | 电表冻结数据读取方法、装置、集中器以及存储介质 |
CN118259921B (zh) * | 2024-05-30 | 2024-09-27 | 杭州海浔科技有限公司 | 电表冻结数据读取方法、装置、集中器以及存储介质 |
Also Published As
Publication number | Publication date |
---|---|
CN111552687B (zh) | 2023-08-04 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN111552687B (zh) | 时序数据的存储方法、查询方法、装置、设备及存储介质 | |
US11138175B2 (en) | Type-specific compression in database systems | |
US11636083B2 (en) | Data processing method and apparatus, storage medium and electronic device | |
CN102906751B (zh) | 一种数据存储、数据查询的方法及装置 | |
CN105303456A (zh) | 电力传输设备监控数据处理方法 | |
US20190114294A1 (en) | Methods and systems for database optimisation | |
CN111061758B (zh) | 数据存储方法、装置及存储介质 | |
CN107944036B (zh) | 一种图谱变化差异的获取方法 | |
CN111737227B (zh) | 数据修改方法及系统 | |
CN110727406A (zh) | 一种数据存储调度方法及装置 | |
CN112100197A (zh) | 基于Elasticsearch的准实时日志数据分析与统计方法 | |
CN114398567A (zh) | 一种多时态电网拓扑图数据管理方法、装置及计算机设备 | |
CN116719799A (zh) | 环保数据治理方法、装置、计算机设备和存储介质 | |
CN116089414B (zh) | 基于海量数据场景的时序数据库写入性能优化方法及装置 | |
CN112181302A (zh) | 一种数据多级存储和访问方法及系统 | |
CN114048219A (zh) | 图数据库更新方法及装置 | |
CN115525603A (zh) | 存储统计方法、装置、计算机可读存储介质与ai设备 | |
CN114218195A (zh) | 一种医疗物联网元宇宙底层数据模型结构 | |
CN114691700A (zh) | 一种基于kafaka集群的智慧园区的检索方法 | |
EP3436988B1 (en) | "methods and systems for database optimisation" | |
CN116881310B (zh) | 一种大数据的集合计算方法及装置 | |
CN110990640A (zh) | 一种数据判定方法、装置、设备及计算机可读存储介质 | |
CN116126973B (zh) | 气象格点数据管理方法和装置 | |
CN116963178B (zh) | 一种降低nb-iot设备功耗的方法及相关设备 | |
CN117453695A (zh) | 基于低压台区抄表数据的存储方法、系统、介质及设备 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |