CN103092867B - 一种数据管理方法及系统、数据分析装置 - Google Patents

一种数据管理方法及系统、数据分析装置 Download PDF

Info

Publication number
CN103092867B
CN103092867B CN201110344089.XA CN201110344089A CN103092867B CN 103092867 B CN103092867 B CN 103092867B CN 201110344089 A CN201110344089 A CN 201110344089A CN 103092867 B CN103092867 B CN 103092867B
Authority
CN
China
Prior art keywords
data
access
access object
sql sentence
accessed
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
CN201110344089.XA
Other languages
English (en)
Other versions
CN103092867A (zh
Inventor
李吉元
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
China Mobile Group Gansu Co Ltd
Original Assignee
China Mobile Group Gansu Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by China Mobile Group Gansu Co Ltd filed Critical China Mobile Group Gansu Co Ltd
Priority to CN201110344089.XA priority Critical patent/CN103092867B/zh
Publication of CN103092867A publication Critical patent/CN103092867A/zh
Application granted granted Critical
Publication of CN103092867B publication Critical patent/CN103092867B/zh
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Debugging And Monitoring (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

本发明公开了一种数据管理方法及系统、数据分析装置。其中该方法包括:采集应用程序执行过的SQL语句,并进行持久化存储;分解所述SQL语句,得到所述SQL语句的访问对象;记录在预设时间内各个访问对象的被访问次数;根据被访问次数阈值提取相应的访问对象作为热点数据。本发明通过对应用程序执行过的SQL语句进行分析,获得SQL语句访问对象的被访问次数,从而获得热点数据。通过在数据应用层面发现热点数据,准确地体现逻辑层面的对象(如表、索引等)的使用情况,进而可以准确地对热点数据进行管理,减少系统处理响应时间,提高系统处理相应速度,减少高端存储设备的需求,降低海量数据管理成本。

Description

一种数据管理方法及系统、数据分析装置
技术领域
本发明涉及一种数据管理技术,尤其涉及一种数据管理方法及系统、数据分析装置。
背景技术
随着我国电信行业的高速发展,特别是移动通信用户和宽带用户的不断增长,各家电信运营商存储和管理着各种各样的海量的数据。数据生命周期管理是解决海量数据管理的有效途径。
由于传统的数据生命周期管理在定义数据生命时仅仅依据时间维度,具体的,就是将数据的生命周期管理简单的按照时间先后来进行,诸如账单、详单、交易记录等具有时间标签的对象,按照时间先后分别进行备份、归档、历史数据迁移等具体操作。
现有的按照时间维度实现数据生命周期管理的方法存在以下缺陷:
1、适用性差
按照时间维度对数据进行管理的前提是数据具备如账单、交易纪律等有时间标签,对于那些本身无时间标签的数据,就无法按照传统方法进行生命周期管理。
对于这些自身无时间标签的数据目前没有办法进行处理,只能像堆柴火一样存储在线存储中,日积月累的简单堆放,即占用了宝贵的在线高端存储资源,同时对于数据管理软件,如数据库等的日常运行造成很大的压力。这些随意存放的数据没有人能说清楚到底是否在用、到底能不能进行备份、归档和删除的维护操作。
2、系统处理响应时间长,速度慢
按照时间维度进行了生命周期管理的数据何时要被再次使用到或者何时需要在线访问都是不可知的。系统所需调用的数据可能存储在不同级别的存储资源上,系统调用数据速度慢,花费的响应时间较长。
3、需要大量高端存储设备,成本高
为了降低系统的处理响应时间,需要将大量的数据存储到在线高端存储设备上,对在线高端存储设备的存储空间要求较大,使得管理海量数据的成本大大增加。
发明内容
本发明的目的在于,提供一种数据管理方法及系统、数据分析装置,准确发现系统中使用频率较高的热点数据。
为实现上述目的,根据本发明的一个方面,提供一种数据管理方法,包括:采集应用程序执行过的SQL语句,并进行持久化存储;分解所述SQL语句,得到所述SQL语句的访问对象;记录在预设时间内各个访问对象的被访问次数;根据被访问次数阈值提取相应的访问对象作为热点数据。
另外,所述分解所述SQL语句后还包括:
存储分解得到的所述SQL语句的各要素,包括:Dbname、快照序号、语句类型和访问对象。
优选地,该方法还包括:根据预设的多个访问次数阈值将所述访问对象划分为五档:很热、热、温、凉、冷。
更优地,该方法还包括:根据访问对象的被访问次数形成数据使用温度图谱,数据使用温度图谱中利用不同颜色或颜色的深浅体现访问对象的被访问次数的区别。
更优地,该方法还包括:记录所述访问对象的被访问时间、被访问次数及对象名称;计算每个周期内所述访问对象的平均被访问次数;根据所述每个周期内访问对象的平均被访问次数,预测未来周期内热点数据出现的位置。
该方法还包括分别对不同档的访问对象进行相应的处理,包括:对于很热的访问对象,存储到固态硬盘或者cache在内存中;对于热的访问对象,进行在线高端存储;对于温的访问对象,进行在线中低端存储;对于凉的访问对象,进行数据归档;对于冷的访问对象,迁移历史库或离线存放。
在所述分解存储的SQL语句的操作之前还包括:对所述SQL语句进行错误语句过滤。
为实现上述目的,根据本发明的另一个方面,提供一种数据分析装置,包括:分解模块,用于分解SQL语句,得到所述SQL语句的访问对象;记录模块,用于记录在预设时间内各个访问对象的被访问次数;提取模块,用于根据被访问次数阈值提取相应的访问对象作为热点数据。
另外,该装置还包括:划分模块,用于根据预设的多个访问次数阈值将所述访问对象划分为五档:很热、热、温、凉、冷。
优选地,该装置还包括:图谱生成模块,用于根据访问对象的被访问次数形成数据使用温度图谱,数据使用温度图谱中利用不同颜色或颜色的深浅体现访问对象的被访问次数的区别。
更优地,该装置还包括:计算模块和预测模块,其中,所述记录模块,记录各个访问对象的被访问时间、被访问次数及对象名称;所述计算模块,用于计算每个周期内所述访问对象的平均被访问次数;所述预测模块,用于根据所述每个周期内访问对象的平均被访问次数,预测未来周期内热点数据出现的位置。
更优地,该装置还包括:过滤模块,用于在分解SQL语句之前,对所述SQL语句进行错误语句过滤。
为实现上述目的,根据本发明的另一个方面,提供一种数据管理系统,包括:采集装置,用于采集应用程序执行过的SQL语句;持久化存储装置,用于对所述SQL语句进行持久化存储;数据分析装置,用于分解所述SQL语句,得到所述SQL语句的访问对象;记录在预设时间内各个访问对象的被访问次数;根据被访问次数阈值提取相应的访问对象作为热点数据。
该系统还包括:数据处理装置,其中,数据分析装置,进一步根据预设的多个访问次数阈值将所述访问对象划分为五档:很热、热、温、凉、冷;数据处理装置,分别对不同档的访问对象进行相应的处理:对于很热的访问对象,存储到固态硬盘或者cache在内存中;对于热的访问对象,进行在线高端存储;对于温的访问对象,进行在线中低端存储;对于凉的访问对象,进行数据归档;对于冷的访问对象,迁移历史库或离线存放。
本发明的数据管理方法及系统、数据分析装置,通过对应用程序执行过的SQL语句进行分析,获得SQL语句访问对象的被访问次数,从而获得热点数据。通过在数据应用层面发现热点数据,准确地体现逻辑层面的对象(如表、索引等)的使用情况,进而可以准确地对热点数据进行管理,减少系统处理响应时间,提高系统处理相应速度,减少高端存储设备的需求,降低海量数据管理成本。
附图说明
图1是本发明数据管理方法实施例的流程图;
图2是本发明“数据使用温度图谱”的示意图;
图3是本发明热点数据预测实施例的流程图;
图4是本发明数据分析装置实施例的结构图;
图5是本发明数据管理系统实施例的结构图。
具体实施方式
热点数据是经常被用到的数据。数据只有被使用的时候才能体现其价值。在一定时间内数据被使用的次数能直接体现数据“冷”“热”程度。一定时间范围内的热点数据是系统中最有价值的数据,是系统中生命力最旺盛的数据。
在存储硬件设备层面,目前已经有成熟的热点数据发现技术,但是这种技术是基于存储设备的磁盘层面的,无法体现逻辑层面的对象(如表、索引等)的“冷热”程度,具有一定的局限性。
数据最终是被应用程序使用的,应用程序使用SQL语言来进行数据的访问,为此,可以通过记录分析一定时间内数据库层执行的应用SQL中访问到的数据对象来间接找到数据库中的热点对象。
以下结合附图对本发明进行详细说明。
方法实施例
如图1所示,本发明数据管理方法实施例的具体流程如下:
S102,采集应用程序执行过的SQL语句;
S104,对采集的SQL语句进行持久化存储;
数据库对于应用程序执行的SQL是记录在内存中的,每次数据库重启后所有重启前的SQL都是无法查到的。为了能全面分析执行过的SQL语句,需要实时将这些内存中记录的SQL语句进行持久化存储,如写入磁盘中,保存到现有的数据库中。
S106,分解SQL语句,得到SQL语句的访问对象;
分解SQL语句得到的各要素至少包括:Dbname、快照序号、语句类型和访问对象。还可以包括Where条件、索引名称、执行计划等信息。
将SQL语句的各要素作为一个字段保存,存储SQL的表结构如下:
Dbname 快照序号 语句类型 访问对象 Where条件 索引名称 执行计划
上述各个要素的含义为:
Dbname:记录该语句是在那个数据库中执行的
快照序号:记录采样需要
语句类型:query,dml,ddl
访问对象:记录语句中from关键词之后,where关键词之前的对象
Where条件:记录语句的where条件
索引名称:关联对象查找索引的名称
执行计划:记录语句实际的执行计划,从而判断该语句执行过程中是否用到索引。
S108,记录在预设时间内各个访问对象的被访问次数;
S110,根据被访问次数阈值提取相应的访问对象作为热点数据。
优选地,本实施例中,将访问对象被访问次数作为访问对象的“热度”,可以进一步根据预设的多个访问次数阈值将所述访问对象划分为五档:很热、热、温、凉、冷。
优选地,在S106之前还包括:对所述SQL语句进行错误语句过滤。
如图2所示,可以根据访问对象的被访问次数形成“数据使用温度图谱”,在图谱中用数字体现访问对象的被使用频繁度,例如,很热-1、热-2、温-3、凉-4、冷-5。也可以利用不同颜色,或颜色的深浅体现访问对象的被使用频繁度。“数据使用温度图谱”是将一定时间内数据被使用的频率作为访问对象的属性利用图像进行直观的体现。
更优地,如图3所示,根据上述对SQL访问对象被访问次数的分析,可以对未来一段时间热点数据出现的位置进行预测,具体步骤如下:
s201,记录访问对象的被访问时间、被访问次数及对象名称;
s202,计算每个周期内访问对象的平均被访问次数;
设在周期Ti时间内,访问对象m被访问了qi次,那么访问对象m的在周期T内平均被访问次数(即“热度”)Hm,T可以用下面的公式获得:
Hm,T=(q1+q2+q3+…+qi)/i。
s203,根据每个周期内访问对象的“热度”,预测未来周期内热点数据出现的位置。
根据每个周期内访问对象的“热度”形成“数据使用温度图谱”,对象m在周期Ti内的“热度”即可通过“数据使用温度图谱”查询获得。
本实施例中,可以利用数据的冷热来准确定义数据的生命周期,在此基础上,结合现有的数据处理方法,形成基于热点数据的数据生命周期管理。分别对不同档的访问对象进行相应的处理,包括:
对于很热的访问对象,存储到固态硬盘或者cache在内存中;
对于热的访问对象,进行在线高端存储;
对于温的访问对象,进行在线中低端存储;
对于凉的访问对象,进行数据归档;
对于冷的访问对象,迁移历史库或离线存放。
本实施例的数据管理方法,通过对应用程序执行过的SQL语句进行分析,获得SQL语句访问对象的被访问次数,从而获得热点数据。通过在数据应用层面发现热点数据,准确地体现逻辑层面的对象(如表、索引等)的使用情况,进而可以准确地对热点数据进行管理,减少系统处理响应时间,提高系统处理相应速度,减少高端存储设备的需求,降低海量数据管理成本。
装置实施例
如图4所示,本发明数据分析装置实施例包括:
分解模块31,用于分解SQL语句,得到所述SQL语句的访问对象;
记录模块32,用于记录在预设时间内各个访问对象的被访问次数;
提取模块33,用于根据被访问次数阈值提取相应的访问对象作为热点数据。
优选地,本实施例数据分析装置还包括:划分模块34,用于根据预设的多个访问次数阈值将所述访问对象划分为五档:很热、热、温、凉、冷。
更优地,本实施例还包括:图谱生成模块35,用于根据访问对象的被访问次数形成数据使用温度图谱,数据使用温度图谱中利用不同颜色或颜色的深浅体现访问对象的被访问次数的区别。
更优地,本实施例数据分析装置还包括:计算模块36和预测模块37,其中,记录模块32,记录各个访问对象的被访问时间、被访问次数及对象名称;计算模块36,用于计算每个周期内所述访问对象的平均被访问次数;预测模块37,用于根据所述每个周期内访问对象的平均被访问次数,预测未来周期内热点数据出现的位置。
优选地,本实施例还包括:过滤模块38,用于在分解SQL语句之前,对SQL语句进行错误语句过滤。
本实施例中,数据分析装置各个模块的工作方式在上述方法实施例中已详细描述,在此不再赘述。
本实施例的数据分析装置,通过对应用程序执行过的SQL语句进行分析,获得SQL语句访问对象的被访问次数,从而获得热点数据。通过在数据应用层面发现热点数据,准确地体现逻辑层面的对象(如表、索引等)的使用情况,进而可以准确地对热点数据进行管理,减少系统处理响应时间,提高系统处理相应速度,减少高端存储设备的需求,降低海量数据管理成本。
系统实施例
如图5所示,本发明数据管理系统实施例包括:
采集装置51,用于采集应用程序执行过的SQL语句;
持久化存储装置52,用于对SQL语句进行持久化存储;
数据分析装置53,用于分解SQL语句,得到SQL语句的访问对象;记录在预设时间内各个访问对象的被访问次数;根据被访问次数阈值提取相应的访问对象作为热点数据。
本实施例还包括:数据处理装置54,其中,数据分析装置53,进一步根据预设的多个访问次数阈值将所述访问对象划分为五档:很热、热、温、凉、冷;数据处理装置54,分别对不同档的访问对象进行如下处理:
对于很热的访问对象,存储到固态硬盘或者cache在内存中;
对于热的访问对象,进行在线高端存储;
对于温的访问对象,进行在线中低端存储;
对于凉的访问对象,进行数据归档;
对于冷的访问对象,迁移历史库或离线存放。
本实施例的数据管理系统,通过对应用程序执行过的SQL语句进行分析,获得SQL语句访问对象的被访问次数,从而获得热点数据。通过在数据应用层面发现热点数据,准确地体现逻辑层面的对象(如表、索引等)的使用情况,进而可以准确地对热点数据进行管理,减少系统处理响应时间,提高系统处理相应速度,减少高端存储设备的需求,降低海量数据管理成本。
应说明的是:以上实施例仅用以说明本发明而非限制,本发明也并不仅限于上述举例,一切不脱离本发明的精神和范围的技术方案及其改进,其均应涵盖在本发明的权利要求范围中。

Claims (12)

1.一种数据管理方法,其特征在于,包括:
采集应用程序执行过的SQL语句,并进行持久化存储;
分解所述SQL语句,得到所述SQL语句的访问对象;
记录在预设时间内各个访问对象的被访问次数;
根据被访问次数阈值提取相应的访问对象作为热点数据;
还包括:
记录所述访问对象的被访问时间、被访问次数及对象名称;
计算每个周期内所述访问对象的平均被访问次数;
根据所述每个周期内访问对象的平均被访问次数,预测未来周期内热点数据出现的位置。
2.根据权利要求1所述的数据管理方法,其特征在于,所述分解所述SQL语句后还包括:
存储分解得到的所述SQL语句的各要素,至少包括:Dbname、快照序号、语句类型和访问对象。
3.根据权利要求1所述的数据管理方法,其特征在于,还包括:
根据预设的多个访问次数阈值将所述访问对象划分为五档:很热、热、温、凉、冷。
4.根据权利要求3所述的数据管理方法,其特征在于,还包括:
根据访问对象的被访问次数形成数据使用温度图谱,数据使用温度图谱中利用不同颜色或颜色的深浅体现访问对象的被访问次数的区别。
5.根据权利要求3所述的数据管理方法,其特征在于,还包括:分别对不同档的访问对象进行相应的处理,包括:
对于很热的访问对象,存储到固态硬盘或者cache在内存中;
对于热的访问对象,进行在线高端存储;
对于温的访问对象,进行在线中低端存储;
对于凉的访问对象,进行数据归档;
对于冷的访问对象,迁移历史库或离线存放。
6.根据权利要求3所述的数据管理方法,其特征在于,所述分解存储的SQL语句的操作之前还包括:
对所述SQL语句进行错误语句过滤。
7.一种数据分析装置,其特征在于,包括:
分解模块,用于分解SQL语句,得到所述SQL语句的访问对象;
记录模块,用于记录在预设时间内各个访问对象的被访问次数;
提取模块,用于根据被访问次数阈值提取相应的访问对象作为热点数据;
还包括:计算模块和预测模块,其中,
所述记录模块,记录各个访问对象的被访问时间、被访问次数及对象名称;
所述计算模块,用于计算每个周期内所述访问对象的平均被访问次数;
所述预测模块,用于根据所述每个周期内访问对象的平均被访问次数,预测未来周期内热点数据出现的位置。
8.根据权利要求7所述的数据分析装置,其特征在于,还包括:
划分模块,用于根据预设的多个访问次数阈值将所述访问对象划分为五档:很热、热、温、凉、冷。
9.根据权利要求8所述的数据分析装置,其特征在于,还包括:图谱生成模块,用于根据访问对象的被访问次数形成数据使用温度图谱,数据使用温度图谱中利用不同颜色或颜色的深浅体现访问对象的被访问次数的区别。
10.根据权利要求7至9中任意一项所述的数据分析装置,其特征在于,还包括:过滤模块,用于在分解SQL语句之前,对所述SQL语句进行错误语句过滤。
11.一种数据管理系统,其特征在于,包括:
采集装置,用于采集应用程序执行过的SQL语句;
持久化存储装置,用于对所述SQL语句进行持久化存储;
数据分析装置,用于分解所述SQL语句,得到所述SQL语句的访问对象;记录在预设时间内各个访问对象的被访问次数;根据被访问次数阈值提取相应的访问对象作为热点数据;
记录各个访问对象的被访问时间、被访问次数及对象名称;
计算每个周期内所述访问对象的平均被访问次数;
根据所述每个周期内访问对象的平均被访问次数,预测未来周期内热点数据出现的位置。
12.根据权利要求11所述的数据管理系统,其特征在于,还包括:数据处理装置,
所述数据分析装置,进一步根据预设的多个访问次数阈值将所述访问对象划分为五档:很热、热、温、凉、冷;
所述数据处理装置,分别对不同档的访问对象进行相应的处理:对于很热的访问对象,存储到固态硬盘或者cache在内存中;对于热的访问对象,进行在线高端存储;对于温的访问对象,进行在线中低端存储;对于凉的访问对象,进行数据归档;对于冷的访问对象,迁移历史库或离线存放。
CN201110344089.XA 2011-11-03 2011-11-03 一种数据管理方法及系统、数据分析装置 Expired - Fee Related CN103092867B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201110344089.XA CN103092867B (zh) 2011-11-03 2011-11-03 一种数据管理方法及系统、数据分析装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201110344089.XA CN103092867B (zh) 2011-11-03 2011-11-03 一种数据管理方法及系统、数据分析装置

Publications (2)

Publication Number Publication Date
CN103092867A CN103092867A (zh) 2013-05-08
CN103092867B true CN103092867B (zh) 2017-02-01

Family

ID=48205447

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201110344089.XA Expired - Fee Related CN103092867B (zh) 2011-11-03 2011-11-03 一种数据管理方法及系统、数据分析装置

Country Status (1)

Country Link
CN (1) CN103092867B (zh)

Families Citing this family (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20160077886A1 (en) * 2013-07-31 2016-03-17 Hewlett-Packard Development Company, L.P. Generating workload windows
US9336294B2 (en) * 2013-09-04 2016-05-10 International Business Machines Corporation Autonomically defining hot storage and heavy workloads
CN105335426B (zh) * 2014-08-07 2019-04-26 腾讯科技(深圳)有限公司 一种海量数据的热点数据的分析方法、系统及相关设备
CN105426377A (zh) * 2014-09-23 2016-03-23 中国移动通信集团广西有限公司 一种数据管理方法及其装置、系统
WO2016082176A1 (zh) * 2014-11-28 2016-06-02 华为技术有限公司 一种数据阈值预测方法与相关装置
CN105797381A (zh) * 2014-12-30 2016-07-27 博雅网络游戏开发(深圳)有限公司 游戏冷数据的存储、读取方法和装置
CN105930370A (zh) * 2016-04-13 2016-09-07 曙光信息产业(北京)有限公司 数据的监控方法及装置
CN106557578B (zh) * 2016-11-23 2020-08-04 中国工商银行股份有限公司 历史数据查询方法及系统
CN108241691A (zh) * 2016-12-26 2018-07-03 北京国双科技有限公司 热点查询数据的搜集方法和装置
CN107292388A (zh) * 2017-06-27 2017-10-24 郑州云海信息技术有限公司 一种基于神经网络的热点数据的预测方法及系统
CN107463514B (zh) * 2017-08-16 2021-06-29 郑州云海信息技术有限公司 一种数据存储方法及装置
CN108052394B (zh) * 2017-12-27 2021-11-30 福建星瑞格软件有限公司 基于sql语句运行时间的资源分配的方法及计算机设备
CN108255478A (zh) * 2018-01-19 2018-07-06 上海锐垚科技有限公司 一种标签式模板开发方法
CN108920607B (zh) * 2018-06-27 2020-12-25 中国建设银行股份有限公司 字段发现方法、装置及电子设备
CN111291040B (zh) * 2018-12-10 2022-10-18 中国移动通信集团四川有限公司 一种数据处理方法、装置、设备及介质
CN111324604A (zh) * 2020-01-19 2020-06-23 拉扎斯网络科技(上海)有限公司 数据库表的处理方法、装置、电子设备及存储介质

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101369451A (zh) * 2007-08-14 2009-02-18 三星电子株式会社 固态存储器、包含其的计算机系统和操作其的方法
CN102054043A (zh) * 2010-12-30 2011-05-11 畅捷通软件有限公司 大数据生成方法和装置
CN102129472A (zh) * 2011-04-14 2011-07-20 上海红神信息技术有限公司 面向语义搜索引擎的高效混合存储结构的构建方法

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101369451A (zh) * 2007-08-14 2009-02-18 三星电子株式会社 固态存储器、包含其的计算机系统和操作其的方法
CN102054043A (zh) * 2010-12-30 2011-05-11 畅捷通软件有限公司 大数据生成方法和装置
CN102129472A (zh) * 2011-04-14 2011-07-20 上海红神信息技术有限公司 面向语义搜索引擎的高效混合存储结构的构建方法

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
一种基于频度的自适应数据分级策略;许诺;《科协论坛》;20090331(第3期);第1-2页 *

Also Published As

Publication number Publication date
CN103092867A (zh) 2013-05-08

Similar Documents

Publication Publication Date Title
CN103092867B (zh) 一种数据管理方法及系统、数据分析装置
US8671111B2 (en) Determination of rules by providing data records in columnar data structures
US20080140627A1 (en) Method and apparatus for aggregating database runtime information and analyzing application performance
CN105912666B (zh) 一种面向云平台的混合结构数据高性能存储、查询方法
JP5826831B2 (ja) データマート自動化
CN102902752B (zh) 一种日志监控方法及系统
CN106528717A (zh) 数据处理方法和系统
CN103631842B (zh) 用于检测多列复合键列集合的方法和系统
CN105528367A (zh) 基于开源大数据对时间敏感数据的存储和近实时查询方法
CN110309233A (zh) 数据存储的方法、装置、服务器和存储介质
CN102541884B (zh) 数据库优化方法和装置
CN104239377A (zh) 跨平台的数据检索方法及装置
CN102063449A (zh) 提高数据库中数据对象统计信息可靠性的方法及装置
CN102521374A (zh) 基于关系型联机分析处理的智能数据聚集方法及其系统
CN101587484B (zh) 一种基于T-lt树的主存数据库的索引方法
CN103034656B (zh) 章节内容分层方法和装置、文章内容分层方法和装置
Jain et al. Refreshing datawarehouse in near real-time
CN111708895B (zh) 一种知识图谱系统的构建方法及装置
CN107832333A (zh) 基于分布式处理和dpi数据构建用户网络数据指纹的方法和系统
US20210279240A1 (en) Efficient storage method for time series data
CN103235753A (zh) 一种信息服务器监测方法及装置
CN111694853A (zh) 基于世系的数据增量采集方法、装置、存储介质和电子设备
CN113505172B (zh) 数据处理方法、装置、电子设备及可读存储介质
Colosi et al. Time series data management optimized for smart city policy decision
CN114491061A (zh) 一种多维数据关联分析系统及方法

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
C14 Grant of patent or utility model
GR01 Patent grant
CF01 Termination of patent right due to non-payment of annual fee
CF01 Termination of patent right due to non-payment of annual fee

Granted publication date: 20170201