CN108932334A - 一种基于时间序列存储模型扩展以及匹配优化方法 - Google Patents
一种基于时间序列存储模型扩展以及匹配优化方法 Download PDFInfo
- Publication number
- CN108932334A CN108932334A CN201810748514.3A CN201810748514A CN108932334A CN 108932334 A CN108932334 A CN 108932334A CN 201810748514 A CN201810748514 A CN 201810748514A CN 108932334 A CN108932334 A CN 108932334A
- Authority
- CN
- China
- Prior art keywords
- uncertain
- time series
- data
- model
- storage model
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000003860 storage Methods 0.000 title claims abstract description 43
- 238000000034 method Methods 0.000 title claims abstract description 18
- 238000005457 optimization Methods 0.000 title claims abstract description 12
- 238000013499 data model Methods 0.000 claims description 9
- 238000013500 data storage Methods 0.000 claims 2
- 230000002123 temporal effect Effects 0.000 abstract description 25
- 238000004364 calculation method Methods 0.000 abstract 1
- 238000012545 processing Methods 0.000 description 3
- 238000012544 monitoring process Methods 0.000 description 2
- 238000003672 processing method Methods 0.000 description 2
- 230000009471 action Effects 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 238000012790 confirmation Methods 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 230000007812 deficiency Effects 0.000 description 1
- 230000003111 delayed effect Effects 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 235000013399 edible fruits Nutrition 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 230000003993 interaction Effects 0.000 description 1
- 230000014759 maintenance of location Effects 0.000 description 1
- 230000008520 organization Effects 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 238000011160 research Methods 0.000 description 1
Landscapes
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本发明公开了一种时间序列的存储模型扩展以及查询优化方法。通过在传统的时间序列中添加了不确定的因素，然后进行数据建模发明了不确定时间序列存储模型，从传统经典时序存储模型到扩展到不确定时间序列存储模型，使模型具有表达信息更加全面，精准的特点。然后通过在扩展后的不确定时序模型上采用并行计算的思想优化了不确定时序模型的数据查找效率。本发明主要包括以下几个步骤：(1)不确定扩展：在传统的时间序列存储模型中添加了不确定的因素从而进行扩展；(2)扩展后建模：根据上一步基于传统时序关系型数据库模型发明提出不确定时序存储模型；(3)查询优化：对提出后的不确定时间序列存储模型利用多线程并行计算方法优化查询方法的效率。
Description
技术领域
本发明公开了一种基于传统时间序列存储模型扩展以及在扩展后的不确定时间序列存储模型上采用在多核处理器的硬件环境下利用子任务以及并行计算的思想解决匹配效率的问题。扩展后的不确定时序存储模型解决了传统的关系型数据库存储不确定时序的开销，数据表达缺陷的问题，并清晰的表达了不确定数据的信息。本方法属于不确定时序处理技术领域，是一种在传统时序存储模型的扩展。
背景技术
随着数据存储增加，实际中对数据长时间记录已经越来越重视了，以时间点变化为依据的数据称之为时间序列(Time Series)。而当伴随着传感器检测，位置定位和隐私保护的领域的研究的深入，数据的不确定因素也已经逐渐引起了研究者的关注，数据的不确定性有两种主要形式，即对象确定性和属性不确定性。如果一个对象本身的存在无法得到确认，那么就认为数据属于对象不确定性，并使用一个概率P(0，1)来表示这个对象存在的概率。如果一个对象在某一个或者一些属性上的值不精确或者缺失，就认为这个对象属于属性不确定性，并对每个属性的真实值(Probability Density Function，PDF)来表示该对象属性上值的分布。我们也称这种带不确定因素的序列为不确定时间序列(UncertainTime Series)。
对于时间序列的存储，由于每一个时刻上点的属性都是确定的，那么用经典的关系型数据库或者当下流行的NoSQL数据库来存入时间序列是没有问题的。对于时序数据的特点：
1、数据量大：拿监控数据为例，如果每次监控数据的时间间隔是1s，那么每天将产生86400个数据点，若有10000个监控项，这个数字会更大，整个数据规模，是TB甚至是PB级的。
2、冷热分明：时序数据具有冷热特征，越是历史数据，被查询和分析的概率就越低。
3、具有失效性：会保存一个周期，超过这个周期可以认为是失效的，可以被回收。
4、多精度存储：在查询的特点中，会有一个多精度的查询。
结合时序数据的特点来看，时序数据库的特点应该说是基于能够支撑高并发，高吞吐的写入以及交互的聚合查询，对于应用的场景也有应该由比较明确的区分，对于写多读少的情景下，那么就要选择合适的数据库引擎，而不是选择B+数的RDBMS。
那么对于不确定时间序列也一样有上述特点，如果一个对象的属性有不确定性，该属性上的一个时间点上有多个值，如果按照上述时序数据库来存储的话，每个属性的不确定的值都看做一条记录的话，那么相比于时序数据库来说数据量又增长了几个量级，结果显然是不可取的。这时需要一种改进的数据模型来描述这些属性的不确定性，这样即可以保存这条序列的原始信息，而又不会使得数据库存储量扩大。
我们讨论的是原始序列存储，还有的方法可以在存储之前对原始序列进行处理加工，所以本发明的存储扩展也仅仅针对不确定原始序列进行讨论。另外，在扩展后的不确定时序存储模型的查询处理方法也有很多，数据索引建立的的优化，数据库引擎的选择以优化等等，本发明也只对数据查询匹配领域的方法进行优化。
随着互联网的快速发展，各行各业上的数据也在以指数级别的速度增长，而在很多领域以时间相关联的数据的应用与处理已经成为必不可少的一部分，特别在传感器检测，位置定位和隐私保护等应用中扮演着日益重要的角色。存储不确定时序能能够反映出应用实时全面的信息，对于一些解决关键问题可能有着重要的作用。随着JSON轻量级格式的广泛引用，对于经典的关系型数据库存储时序进行扩展使其能够表达出不确定的信息。这对于不确定时序的存储模型有着重要的意义。本发明的意义和重要重要性着重于对传统关系型数据库的不确定性因素进行扩展以及扩展后的模型进行匹配优化。
发明内容
[发明目的]：为了解决时序存储模型在不确定因素的信息方面表达的不足，本发明提出了在基于经典的关系型存储模型是进行扩展，并在扩展后的不确定性时序存储模型上利用并行计算的思想解决匹配查询效率问题。充分利用多核处理器的性能，替代以往的单线程查询匹配效率问题。
[技术方案]：本发明方案主要包括以下内容：
1)在传统时序存储模型上添加不确定因素
添加不确定因素：在经典的关系型数据库中的字段表示添加了不确定的因素，并解决了在存储关系型数据库中不影响原有的的时序存储的不一致性问题。
2)添加不确定因素之后对时序存储模型进行数据建模
在上一个步骤的基础之上对添加不确定性的时序进行存储模型建模，并思考解决时间序列的属性添加不确定因素之后和确定性的属性语义表达以及语义一致性。
3)在扩展后的不确定时序存储模型上进行查询匹配优化
在完成不确定时序存储模型之后，需要对该创建的模型进行查询匹配处理方法的优化，本发明采用基于多核处理器的环境下利用并行计算的思想优化查询效率，每个线程运行一个子问题，这里主要包含以下几个部分：1、多线程的创建；2、方法参数的传递；3、返回算法运行结果。多线程的创建需要根据前面拆分的子问题进行创建，相应每个子问题用一个线程运行；然后每个子问题由相匹配的两个时序上的点作为参数传递到线程中；最后在某个线程完成要求的查询匹配后将结果返回，其他线程也相应的结束查询任务。
[有益效果]：本发明创造性的将不确定因素扩展到传统的时序存储模型领域中，并且使用多核处理器并行进行查询任务，相较于以往的单线程运行算法，能够充分利用现代计算机的硬件资源，极大降低程序运行时间。
[附图说明]：
图1为不确定时序存储模型扩展流程图；
图2为多线程查询任务流程图；
[具体实施方式]：
以下结合附图和具体实例对本发明做具体的介绍。
如附图1所示，本发明是基于时序存储模型添加不确定因素建模，并对提出的不确定时序存储模型进行查询匹配方法优化。主要分为三个阶段，传统时序添加不确定因素、提出不确定时序存储模型、对扩展后的不确定时序模型进行查询匹配优化。
1.传统时序添加不确定因素
此步骤的目的根据时间序列的属性的某一些属性添加不确定性因素，对于添加不确定性因素的属性必须要满足没有添加不确定性因素的属性的统一数据格式，不能破坏因添加不确定因素而破坏数据库数据的存储结构。
2.不确定性时序存储模型建模
借鉴传统时序存储的经验，创造性的提出不确定性时序存储模型。本发明提出的不确定性时序存储模型，是整个时序的属性看成一个JSON对象，将不确定时序经过Redis缓存将数据的值存入相对应的Key中，当属性为确定的话，JSON表达该对象的值就只有一个，而该属性是不确定性的，即该属性有多个值，JSON表法式将多个值将值全部存起来，最后使用快照将JSON对象序列化存入关系型数据库中。
3.不确定时序存储模型的查询优化
本发明采用的基于多核硬件环境的多线程进行查询匹配的方法，利用Fork-Join的多线程框架，在线程池中按需创建所需要的子线程去执行查询匹配任务，知道找到两个不确定时序的匹配距离满足一个阈值，这时就把结果返回值返回出来，那么相应的运行线程应该返回给线程池等待队列中，这个子任务执行就结束了。具体实施在下一实施案例中进行详细说明。实施案例
本发明的效果可以用以下具体实例进一步说明。结合附图1和附图2所示，附图1以语音序列的的音频参数经过若干次修改后通过添加不确定因素后进行数据建模后得到不确定性时序存储模型，多核多线程环境下在Redis缓存中把不确定时序的数据存入关系型数据库后，开始执行，传入需要匹配的不确定时间序列，从第一个节点开始，传入线程池中的某一个子线程，通过匹配算法去匹配数据库中的每一个时序的第一个点是否满足相对应距离的阈值，如果满足的话，同步进行到该不确定时间序列的下一个节点，继续开始计算两条序列的距离是否小于定义规定的阈值，直到该匹配的不确定时间序列全部匹配完全，则认为在数据库中找到一条匹配的不确定时间序列。同理，在这之中，只要不满足的该距离阈值的点大于在匹配前定义的某一个阈值，那么就认为数据库中的不确定时间序列不满足匹配要求，立马就舍弃该时序，执行下一条时序。以此类推，由于采用的是Fork-Join框架，将每个任务拆分到每个子任务去指向该序列的匹配，当该序列匹配的子线程满足一定的阈值时，则就表示匹配成功。则推出该正在匹配的时序，进而选择下一条待匹配的时序。这样明显的提高了匹配效率，尤其是在该不确定数据库中存在大量的时序模型时查询匹配效率提高的更加明显。
Claims (3)
1.一种时序数据库数据存储模型的不确定性扩展以及匹配优化方法，其特征在于：包括以下三个步骤：
(1)在确定性时间序列中添加不确定因素，在数据库存储不确定时间序列时能够全部存储所需要的不确定数据的信息；
(2)时序数据库建立数据模型，提出用于存储不确定时序的数据模型；
(3)多线程Fork-Join框架调用算法匹配阶段，将该数据模型传递给匹配方法，并返回查询结果。
2.根据权利1要求所述的是时序数据模型存储的不确定性扩展以及查询优化方法，其特征在于：所述步骤(2)中提出的不确定时序数据模型，分为以下2个步骤：
(2.1)对提出的关系型数据模型进行数学定义，分别定义数据模型中的属性和类目，并给出一种JSON的表达方式来表达完整的不确定性数据的信息；
(2.2)对2.1中提出的不确定性时序数据模型定义给出保证数据全面性的方法。
3.根据权利1要求所述的一种时序数据库数据存储模型的不确定性扩展以及匹配优化方法，其特征在于：所述步骤(3)多线程调用算法求解，其主要包括以下2个步骤：
(3.1)对于步骤2中将不确定数据存储数据库，创建线程池，将数据模型传递给运行中的线程，然后按照提出的匹配算法开始执行；
(3.2)根据3.1中的方法将匹配到的结果返回，并将创建的其他线程结束并返回给线程池。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201810748514.3A CN108932334A (zh) | 2018-07-04 | 2018-07-04 | 一种基于时间序列存储模型扩展以及匹配优化方法 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201810748514.3A CN108932334A (zh) | 2018-07-04 | 2018-07-04 | 一种基于时间序列存储模型扩展以及匹配优化方法 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| CN108932334A true CN108932334A (zh) | 2018-12-04 |
Family
ID=64447636
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN201810748514.3A Pending CN108932334A (zh) | 2018-07-04 | 2018-07-04 | 一种基于时间序列存储模型扩展以及匹配优化方法 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN108932334A (zh) |
Cited By (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN110287199A (zh) * | 2019-07-01 | 2019-09-27 | 联想(北京)有限公司 | 一种数据库的处理方法及电子设备 |
| CN113254180A (zh) * | 2021-06-03 | 2021-08-13 | 杭州海康威视数字技术股份有限公司 | 一种数据匹配方法、装置、电子设备及存储介质 |
-
2018
- 2018-07-04 CN CN201810748514.3A patent/CN108932334A/zh active Pending
Cited By (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN110287199A (zh) * | 2019-07-01 | 2019-09-27 | 联想(北京)有限公司 | 一种数据库的处理方法及电子设备 |
| CN110287199B (zh) * | 2019-07-01 | 2021-11-16 | 联想(北京)有限公司 | 一种数据库的处理方法及电子设备 |
| CN113254180A (zh) * | 2021-06-03 | 2021-08-13 | 杭州海康威视数字技术股份有限公司 | 一种数据匹配方法、装置、电子设备及存储介质 |
| CN113254180B (zh) * | 2021-06-03 | 2023-10-10 | 杭州海康威视数字技术股份有限公司 | 一种数据匹配方法、装置、电子设备及存储介质 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN107247808B (zh) | 一种分布式NewSQL数据库系统及图片数据查询方法 | |
| CN106484875B (zh) | 基于molap的数据处理方法及装置 | |
| CN106294772B (zh) | 分布式内存列式数据库的缓存管理方法 | |
| US10042911B2 (en) | Discovery of related entities in a master data management system | |
| CN105159938B (zh) | 检索方法和装置 | |
| US10565201B2 (en) | Query processing management in a database management system | |
| CN110023925A (zh) | 生成、访问和显示沿袭元数据 | |
| EP3532946A2 (en) | Query processing in data analysis | |
| WO2017185576A1 (zh) | 一种多流流式数据的处理方法、系统、存储介质及设备 | |
| CN110321446B (zh) | 相关数据推荐方法、装置、计算机设备及存储介质 | |
| US20140149465A1 (en) | Feature rich view of an entity subgraph | |
| CN102982095A (zh) | 一种基于叙词表的本体自动生成系统及其方法 | |
| CN110263225A (zh) | 一种千亿级知识图库的数据加载、管理、检索系统 | |
| US20110179013A1 (en) | Search Log Online Analytic Processing | |
| CN108932334A (zh) | 一种基于时间序列存储模型扩展以及匹配优化方法 | |
| CN112970011B (zh) | 记录查询优化中的谱系 | |
| Kumar et al. | Scalable performance tuning of hadoop mapreduce: a noisy gradient approach | |
| CN109388690A (zh) | 文本检索方法、用于文本检索的倒排表生成方法以及系统 | |
| CN107133321B (zh) | 页面的搜索特性的分析方法和分析装置 | |
| CN106776810B (zh) | 一种大数据的数据处理系统及方法 | |
| US11269898B1 (en) | Machine learning based database query retrieval | |
| CN104820692B (zh) | 一种建立索引的方法及装置 | |
| CN115729965A (zh) | 信息流处理方法、装置、流服务器及存储介质 | |
| CN113407587B (zh) | 用于联机分析处理引擎的数据处理方法、装置、设备 | |
| Zhang et al. | Composite service selection based on dot pattern mining |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| WD01 | Invention patent application deemed withdrawn after publication | ||
| WD01 | Invention patent application deemed withdrawn after publication |
Application publication date: 20181204 |