CN103020146A - 数据处理方法及设备 - Google Patents

数据处理方法及设备 Download PDF

Info

Publication number
CN103020146A
CN103020146A CN2012104783942A CN201210478394A CN103020146A CN 103020146 A CN103020146 A CN 103020146A CN 2012104783942 A CN2012104783942 A CN 2012104783942A CN 201210478394 A CN201210478394 A CN 201210478394A CN 103020146 A CN103020146 A CN 103020146A
Authority
CN
China
Prior art keywords
data
hot spot
user
dimension
information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN2012104783942A
Other languages
English (en)
Inventor
谭纪辉
朱星
刘鹏
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Huawei Technologies Co Ltd
Original Assignee
Huawei Technologies Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Huawei Technologies Co Ltd filed Critical Huawei Technologies Co Ltd
Priority to CN2012104783942A priority Critical patent/CN103020146A/zh
Publication of CN103020146A publication Critical patent/CN103020146A/zh
Pending legal-status Critical Current

Links

Images

Abstract

本发明实施例提供一种数据处理方法及设备。该方法包括:根据数据的至少一个第一维度的信息在所述数据中确定热点数据;根据所述热点数据的至少一个第二维度的信息在数据库中查询所述热点数据;将查询到的所述热点数据从所述数据库加载到内存。有效地降低硬件配置要求,并提高数据处理性能。因此,将热点数据预加载到内存中,解决热点数据查询速率慢的问题,提高数据处理性能,且非将全部数据从数据库加载到内存,从而有效地降低硬件配置要求。

Description

数据处理方法及设备
技术领域
本发明实施例涉及通信技术领域,并且更具体地,涉及数据处理方法及设备。
背景技术
OLAP(On-Line Analytical Processing,联机分析处理)是BI(BusinessIntelligence,商业智能)领域中一个常用的技术,能够全方位查询、分析数据,通过OLAP报表将整体数据展现给用户。但是,由于OLAP服务器处理的数据量非常大,性能成为OLAP技术推广应用的瓶颈。
在现有的OLAP实现技术中,使用了内存处理技术,即将数据库中的数据预先存储到内存,在生成OLAP报表时,通过OLAP服务器直接从内存查询并读取数据来提高性能。但是,在初始状态时,将全部数据从数据库加载到内存的耗时长,影响用户查询数据,并且内存配置的要求高,普通的服务器难以满足。
发明内容
本发明实施例提供一种数据处理方法及设备,能够提高数据处理性能,并有效地降低硬件配置要求。
第一方面,提供了一种数据处理方法,该方法包括:根据数据的至少一个第一维度的信息在所述数据中确定热点数据;根据所述热点数据的至少一个第二维度的信息在数据库中查询所述热点数据;将查询到的所述热点数据从所述数据库加载到内存。
结合第一方面,在第一种实现方式中,在所述根据所述热点数据的至少一个第二维度的信息在数据库中查询所述热点数据之前,具体实现可以为:生成缓存文件,所述缓存文件的内容包括所述数据的至少一个第一维度的信息和至少一个第二维度的信息。
结合第一方面的第一种可能的实现方式,在第二种可能的实现方式中,具体实现可以为:所述缓存文件的内容还包括所述数据是否已在内存中的指示。
结合第一方面或第一方面的第一种可能的实现方式或第二种可能的实现方式,在第三种可能的实现方式中,具体实现可以为:对所述缓存文件的内容进行更新。
结合第一方面的第三种可能的实现方式,在第四种可能的实现方式中,所述对所述缓存文件的内容进行更新,具体实现可以为:根据用户查询的数据信息对所述缓存文件的内容进行更新;或者根据统计的数据信息对所述缓存文件的内容进行更新。
结合第一方面或第一方面的第一种可能的实现方式至第四种可能的实现方式的任一种方式,在第五种可能的实现方式中,所述根据所述热点数据的至少一个第二维度的信息从数据库中查询所述热点数据,将所述热点数据的至少一个第二维度的信息解析为字段,生成结构化查询语言SQL语句;根据所述SQL语句从数据库中查询所述热点数据。
结合第一方面或第一方面的第一种可能的实现方式至第五种可能的实现方式的任一种方式,在第六种可能的实现方式中,具体实现可以为:接收联机分析处理OLAP服务器发送的用户查询的数据信息;根据所述用户查询的数据信息以及所述热点数据的至少一个第二维度的信息判断与所述用户查询的数据信息相对应的数据是否在所述内存中;如果判断出所述与所述用户查询的数据信息相对应的数据在所述内存中,则在所述内存中获取所述与所述用户查询的数据信息相对应的数据。
结合第一方面的第六种可能的实现方式的任一种方式,在第七种可能的实现方式中,具体实现可以为:将获取的所述与所述用户查询的数据信息相对应的数据发送给所述OLAP服务器,以便所述OLAP服务器根据所述与所述用户查询的数据信息相对应的数据生成OLAP报表,呈现给所述用户。
第二方面,提供了数据处理设备,该设备包括:确定单元,用于根据数据的至少一个第一维度的信息在所述数据中确定热点数据;查询单元,用于根据所述确定单元确定的所述热点数据的至少一个第二维度的信息在数据库中查询所述热点数据;加载单元,用于将所述查询单元查询到的所述热点数据从所述数据库加载到内存。
结合第二方面,在第一种可能的实现方式中。所述设备还包括:生成单元,用于生成缓存文件,所述缓存文件的内容包括所述数据的至少一个第一维度的信息和至少一个第二维度的信息。
结合第二方面的第一种可能的实现方式,在第二种可能的实现方式中,所述生成单元还用于:根据所述数据的信息对所述缓存文件的内容进行更新。
结合第二方面的第二种可能的实现方式,在第三种可能的实现方式中,所述生成单元具体用于:根据用户查询的数据信息对所述缓存文件的内容进行更新;或者根据统计的数据信息对所述缓存文件的内容进行更新。
结合第二方面或第二方面的第一种可能的实现方式至第三种可能的实现方式的任一种方式,在第四种可能的实现方式中,所述查询单元具体用于:将所述热点数据的至少一个第二维度的信息解析为字段,生成结构化查询语言SQL语句;根据所述SQL语句从数据库中查询所述热点数据。
结合第二方面或第二方面的第一种可能的实现方式至第四种可能的实现方式的任一种方式,在第五种可能的实现方式中,所述设备还包括接收单元,所述接收单元,用于接收联机分析处理OLAP服务器发送的用户查询的数据信息;所述确定单元还用于:根据所述用户查询的数据信息以及所述热点数据的至少一个第二维度的信息判断与所述用户查询的数据信息相对应的数据是否在所述内存中;所述加载单元还用于:如果判断出所述与所述用户查询的数据信息相对应的数据在所述内存中,则在所述内存中获取所述与所述用户查询的数据信息相对应的数据。
结合第二方面的第五种可能的实现方式,在第六种可能的实现方式中,所述设备还包括发送单元,所述发送单元,用于将获取的所述与所述用户查询的数据信息相对应的数据发送给所述OLAP服务器,以便所述OLAP服务器根据所述与所述用户查询的数据信息相对应的数据生成OLAP报表,呈现给所述用户。
本发明实施例根据数据的至少一个第一维度的信息确定哪些数据为热点数据,根据该热点数据的至少一个第二维度的信息在数据库中查询热点数据,将查询到的热点数据从数据库加载到内存。因此,将热点数据预加载到内存中,解决热点数据查询速率慢的问题,提高数据处理性能,且非将全部数据从数据库加载到内存,从而有效地降低硬件配置要求。
附图说明
为了更清楚地说明本发明实施例的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1是本发明一个实施例的数据处理方法的流程图。
图2是本发明一个实施例的数据处理方法的过程的示意性流程图。
图3是本发明一个实施例的数据处理设备的结构框图。
图4是根据本发明另一个实施例的存储空间对象的处理设备的示意框图。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
本发明实施例的技术方案可以应用于各种通信系统,例如:全球移动通讯(Global System of Mobile communication,简称为“GSM”)系统、码分多址(Code Division Multiple Access,简称为“CDMA”)系统、宽带码分多址(Wideband Code Division Multiple Access,简称为“WCDMA”)系统、通用分组无线业务(General Packet Radio Service,简称为“GPRS”)、长期演进(LongTerm Evolution,简称为“LTE”)系统、LTE频分双工(Frequency DivisionDuplex,简称为“FDD”)系统、LTE时分双工(Time Division Duplex,简称为“TDD”)、通用移动通信系统(Universal Mobile Telecommunication System,简称为“UMTS”)、全球互联微波接入(Worldwide Interoperability forMicrowave Access,简称为“WiMAX”)通信系统或无线保真(Wireless Fidelity,简称为“WiFi”)等。
图1是本发明一个实施例的数据处理方法的流程图。图1的方法由数据处理设备执行。
101,根据数据的至少一个第一维度的信息在数据中确定热点数据。
102,根据热点数据的至少一个第二维度的信息在数据库中查询热点数据。
103,将查询到的热点数据从数据库加载到内存。
本发明实施例根据数据的至少一个第一维度的信息确定哪些数据为热点数据,根据该热点数据的至少一个第二维度的信息在数据库中查询热点数据,将查询到的热点数据从数据库加载到内存。因此,将热点数据预加载到内存中,解决热点数据查询速率慢的问题,提高数据处理性能,且非将全部数据从数据库加载到内存,从而有效地降低硬件配置要求。
可选地,作为一个实施例,在步骤101之前,可以生成缓存文件,该缓存文件的内容包括数据的至少一个第一维度的信息和至少一个第二维度的信息。应理解,至少一个第一维度的信息和至少一个第二维度的信息可以不相同,或者部分或全部相同。进一步地,缓存文件的内容还可以包括数据是否已经存储在内存中的指示。
优选地,第一维度可以为配置成用户关心的维度。例如,第一维度可以为用户行为(例如用户查询数据信息的次数)、产品销售量或者商家的信用度等。第二维度可以是时间、地理位置或产品名称等。又例如,第一维度可以是用户角色,第二维度可以是用户名。等等。
具体而言,缓存文件的内容可以示意性地(以表格形式)表示如下:
表1-1
时间 地理位置 产品名称 销售量 查询次数 是否在内存中
2012年 AD1 Name1 Num1 15 0
2012年 AD2 Name2 Num2 20 0
2011年 AD1 Name3 Num3 9 0
在表1-1中,例如,假设数据的第一维度有2个,分别是时间和销售量,其中,Num3>Num1>Num2。通过数据的3个第一维度的信息在数据中确定热点数据,用户关心的是时间(年份)为2012年的数据信息,将时间为2011年的数据信息过滤(即不属于热点数据),然后考虑产品的销售量,将销售量最大的产品的信息确定为热点数据。确定的热点数据的第二维度可以是3个,分别是时间、地理位置和产品名称,热点数据的3个第二维度的信息分别为时间2012年、地理位置AD1和产品名称Name1。又例如,假设数据的第一维度有1个为查询次数,将查询次数最多的产品的信息确定为热点数据。确定的热点数据的第二维度可以是3个,分别是时间、地理位置和产品名称,热点数据的3个第二维度的信息分别为时间2012年、地理位置AD2和产品名称Name2。当然,也可以将查询次数或销售量大于或等于某个阈值时的数据确定为热点数据。等等。
通过上述方案,第一维度可以为配置成用户关心的维度,用户可以根据需要选择第一维度来确定预加载到内存的热点数据,提高灵活性。
应注意,上述缓存文件的内容的表示形式仅仅是为了帮助本领域技术人员更好地理解本发明实施例,而非要限制本发明的范围。还应理解,上述例子仅仅是示例性的,如热点数据的确定方式、第一维度的数目、第二维度的数目、数据的各个维度的信息、是否在内存中的指示方式等。而非对本发明的限制。
可选地,作为另一个实施例,在步骤102中,数据处理设备可以将热点数据的至少一个第二维度的信息解析为字段,生成SQL(Structure QueryLanguage,结构化查询语言)语句,根据SQL语句从数据库中查询热点数据。
可选地,作为另一个实施例,在步骤103之后,可以更新缓存文件的内容,当热点数据从数据库加载到内存,缓存文件更新数据是否已经存储在内存中的指示。以上述表1-1,热点数据为时间2012年、地理位置AD 2和产品名称Name 2为例,更新后的缓存文件的内容可以示意性地(以表格形式)表示如下:
表1-2
时间 地理位置 产品名称 销售量 查询次数 是否在内存中
2012年 AD 1 Name 1 Num1 15 0
2012年 AD 2 Name 2 Num 2 20 1
2011年 AD 1 Name 3 Num 3 9 0
在表1-2中,例如,是否在内存中的指示为1表示相关的数据已从数据库加载到内存。
本发明实施例非将全部数据从数据库加载到内存,从而有效地降低硬件配置要求。因此,本发明实施例可以应用在部署小型化机器的场景,具有广泛的适用性。
可选地,作为另一个实施例,在步骤103之后,数据处理设备可以接收OLAP(On-Line Analytical Processing,联机分析处理)服务器发送的用户查询的数据信息,根据用户查询的数据信息以及热点数据的至少一个第二维度的信息判断与用户查询的数据信息相对应的数据是否在内存中,如果判断出与用户查询的数据信息相对应的数据在内存中,则在内存中获取与用户查询的数据信息相对应的数据。例如,用户查询的数据信息属于热点数据的至少一个第二维度的信息,通过缓存文件的内容是否在内存中的指示为1判断出与用户查询的数据信息相对应的数据在内存中。
进一步地,数据处理设备将在内存中获取的与用户查询的数据信息相对应的数据发送给OLAP服务器,OLAP服务器根据与用户查询的数据信息相对应的数据生成OLAP报表,呈现给用户。
应理解,本发明实施例对此并不限定,OLAP服务器可以根据用户查询的数据信息直接在内存中查询与用户查询的数据信息相对应的数据,如果查询到,则OLAP服务器在内存中获取与用户查询的数据信息相对应的数据,生成OLAP报表,呈现给用户。
通过上述方案,从内存中读取用户查询的数据,能够解决数据查询性能慢的问题并提升用户体验。
可选地,作为另一个实施例,数据处理设备可以对缓存文件的内容进行更新,相应地,可以对缓存文件的内容进行修改、添加或删除等。数据的信息可以是第一维度的信息、第二维度的信息或者数据是否在内存中的指示等等。例如,数据处理设备可以根据用户查询的数据信息适时地更新缓存文件的内容。又例如,数据处理设备可以根据统计的数据的信息(例如用户查询数据信息的次数或产品的销售量)更新缓存文件的内容,以表1-2为例进行说明,假设统计的产品Name 1的销售量为Num 4,查询次数为30,产品Name3销售量为Num 5,查询次数为25,根据统计的数据的信息更新缓存文件的内容,修改相应的维度的信息以及删除时间为2011年的相关数据信息。更新后的缓存文件的内容可以示意性地(以表格形式)表示如下:
表1-3
时间 地理位置 产品名称 销售量 查询次数 是否在内存中
2012年 AD 1 Name 1 Num 4 30 0
2012年 AD 2 Name 2 Num 5 25 1
进一步地,假设确定的热点数据的第二维度的信息分别为时间2012年、地理位置AD 1和产品名称Name 1。数据处理设备将热点数据从数据库加载到内存中,并对表1-3进行更新,此时,更新后的缓存文件的内容可以示意性地(以表格形式)表示如下:
表1-4
时间 地理位置 产品名称 销售量 查询次数 是否在内存中
2012年 AD 1 Name 1 Num 4 30 1
2012年 AD 2 Name 2 Num 5 25 1
另外,如果内存的占有率达到设置的门限时,可以将原来在内存中存储的热点数据删除,那么在表1-4中,数据的第二维度的信息分别为时间2012年、地理位置AD 2和产品名称Name 2在内存中存储的相关数据被删除,相应地,将是否在内存中的指示改为0。
通过对缓存文件内容的更新,使得缓存文件中的数据信息准确可靠,存储在内存中的数据为当前用户所关注的,从而提高数据处理性能。
下面结合具体的例子详细描述本发明实施例。
图2是本发明一个实施例的数据处理方法的过程的示意性流程图。
201,数据处理设备生成缓存文件。
可选地,数据的各个维度可以配置为用户关心的维度,并根据统计数据的信息生成缓存文件。
例如,缓存文件的内容可以示意性地(以表格形式)表示如下:
表2-1
时间 地理位置 产品名称 销售量 查询次数 是否在内存中
2012 AD 1 Name 1 230 15 0
2012 AD 1 Name 2 80 8 0
表2-2
用户姓名 用户角色 是否在内存中
W CEO 0
M 部门经理 0
202,数据处理设备确定热点数据。
例如,在表2-1中,选择第一维度有2个,分别是查询次数和销售量。将查询次数最多的产品的信息以及销售量最大的产品的信息都确定为热点数据。由表2-1可以看出,确定的热点数据的各个维度的信息分别为时间2012年、地理位置AD 1、产品名称Name 1,销售量230,查询次数15以及是否在内存中的指示为0。选择热点数据的第二维度的信息有3个,分别为时间2012年、地理位置AD 1和产品名称Name 1。
又例如,在表2-2中,选择第一维度为用户角色。将用户角色为CEO的数据确定为热点数据,选择热点数据的第二维度的信息为用户姓名W和用户角色CEO。
通过上述方案,第一维度可以为配置成用户关心的维度,用户可以根据需要选择第一维度来确定预加载到内存的热点数据,提高灵活性。
应注意,上述缓存文件的内容的表示形式仅仅是为了帮助本领域技术人员更好地理解本发明实施例,而非要限制本发明的范围。还应理解,上述例子仅仅是示例性的,如热点数据的确定方式、第一维度的数目、第二维度的数目、数据的各个维度的信息、是否在内存中的指示方式等。而非对本发明的限制。
203,数据处理设备从数据库中查询热点数据。
以上述表2-1为例,数据处理设备将热点数据的3个第二维度的信息时间2012年、地理位置AD 1和产品名称Name 1解析为字段,生成SQL语句,根据SQL语句从数据库中查询热点数据。
204,数据处理设备从数据库读取热点数据。
205,数据处理设备将热点数据加载到内存。
可选地,数据处理设备可以更新缓存文件中的数据是否在内存中的指示,以上述表2-1为例,更新后的缓存文件的内容可以示意性地(以表格形式)表示如下:
表2-3
时间 地理位置 产品名称 销售量 查询次数 是否在内存中
2012 AD 1 Name 1 230 15 1
2012 AD 1 Name 2 80 8 0
本发明实施例非将全部数据从数据库加载到内存,从而有效地降低硬件配置要求。因此,本发明实施例可以应用在部署小型化机器的场景,具有广泛的适用性。
206,数据处理设备接收OLAP服务器发送的用户查询的数据信息。
207,数据处理设备判断用户查询的数据是否在内存中。
例如,用户查询的数据信息属于热点数据的至少一个第二维度的信息,通过缓存文件的内容是否在内存中的指示为1判断出与用户查询的数据信息相对应的数据在内存中。
208,数据处理设备从内存中获取与用户查询的数据。
209,数据处理设备将用户查询的数据发送给OLAP服务器。
另外,OLAP服务器根据用户查询的数据生成OLAP报表,呈现给用户。
因此,从内存中读取用户查询的数据,能够解决数据查询性能慢的问题并提升用户体验。
210,数据处理设备更新缓存文件的内容。
可选地,可以根据统计的数据信息对缓存文件的内容进行修改、添加或删除等,或者根据用户查询的数据信息适时地更新缓存文件的内容。以上述表2-3为例,用户查询的数据信息为时间2012年、地理位置AD 1和产品名称Name 1,更新后的缓存文件的内容可以示意性地(以表格形式)表示如下:
表2-4
时间 地理位置 产品名称 销售量 查询次数 是否在内存中
2012 AD 1 Name 1 230 16 1
2012 AD 1 Name 2 80 8 0
应理解,上述例子仅仅是示例性的,而非对本发明的限制。还应注意的是,本发明实施例对数据处理设备更新缓存文件的内容的方式并不限定。
通过对缓存文件内容的更新,使得缓存文件中的数据信息准确可靠,存储在内存中的数据为当前用户所关注的,从而提高数据处理性能。
图3是本发明一个实施例的数据处理设备的结构框图。图3的数据处理设备300包括确定单元301、查询单元302和加载单元303。
确定单元301,用于根据数据的至少一个第一维度的信息在数据中确定热点数据。
查询单元302,用于根据确定单元301确定的热点数据的至少一个第二维度的信息在数据库中查询热点数据。
加载单元303,用于将查询单元302查询到的热点数据从数据库加载到内存。
本发明实施例根据数据的至少一个第一维度的信息确定哪些数据为热点数据,根据该热点数据的至少一个第二维度的信息在数据库中查询热点数据,将查询到的热点数据从数据库加载到内存。因此,将热点数据预加载到内存中,解决热点数据查询速率慢的问题,提高数据处理性能,且非将全部数据从数据库加载到内存,从而有效地降低硬件配置要求。
数据处理设备300可实现图1和图2的实施例中涉及数据处理设备的操作,因此为避免重复,不再详细描述。
可选地,作为一个实施例,数据处理设备300还可以包括生成单元304,生成单元304用于生成缓存文件,缓存文件的内容包括数据的至少一个第一维度的信息和至少一个第二维度的信息。进一步地,生成单元304还可以用于根据数据的信息对缓存文件的内容进行更新。
在一种实现方式下,生成单元304具体用于根据用户查询的数据信息对缓存文件的内容进行更新。在另一种实现方式下,生成单元304具体用于根据统计的数据信息对缓存文件的内容进行更新。
通过对缓存文件内容的更新,使得缓存文件中的数据信息准确可靠,存储在内存中的数据为当前用户所关注的,从而提高数据处理性能。
可选地,作为另一个实施例,查询单元302具体用于将热点数据的至少一个第二维度的信息解析为字段,生成SQL语句;根据SQL语句从数据库中查询热点数据。
可选地,作为另一个实施例,设备300还可以包括接收单元305,接收单元305用于接收OLAP服务器发送的用户查询的数据信息。确定单元301还用于根据用户查询的数据信息以及热点数据的至少一个第二维度的信息判断与用户查询的数据信息相对应的数据是否在内存中。加载单元303还用于如果判断出与用户查询的数据信息相对应的数据在内存中,则在内存中获取与用户查询的数据信息相对应的数据。进一步地,设备300还可以包括发送单元306,发送单元306用于将获取的与用户查询的数据信息相对应的数据发送给OLAP服务器,以便OLAP服务器根据与用户查询的数据信息相对应的数据生成OLAP报表,呈现给用户。
因此,从内存中读取用户查询的数据,能够解决数据查询性能慢的问题并提升用户体验。
图4是根据本发明另一个实施例的存储空间对象的处理设备的示意框图。
如图4所示,设备400一般包括至少一个处理器410,例如CPU,至少一个端口420,存储器430,和至少一个通信总线440。通信总线440用于实现这些装置之间的连接通信。处理器410用于执行存储器430中存储的可执行模块,例如计算机程序;可选地,设备400可包括用户接口450,用户接口450包括但不限于显示器,键盘和点击设备,例如鼠标、轨迹球(trackball)、触感板或者触感显示屏。存储器430可能包含高速RAM存储器,也可能还包括非易失性存储器(non-volatile memory),例如至少一个磁盘存储器。
在一些实施方式中,存储器430存储了如下的元素,可执行模块或者数据结构,或者他们的子集,或者他们的扩展集。
操作系统432,包含各种系统程序,用于实现各种基础业务以及处理基于硬件的任务。
应用模块434,包含各种应用程序,用于实现各种应用业务。
应用模块434中包括但不限于确定单元301、查询单元302、加载单元303、生成单元304、接收单元305和发送单元306。
应用模块432中各单元的具体实现参见图3所示实施例中的相应单元,在此不赘述。
本领域普通技术人员可以意识到,结合本文中所公开的实施例描述的各示例的单元及算法步骤,能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟以硬件还是软件方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本发明的范围。
所属领域的技术人员可以清楚地了解到,为描述的方便和简洁,上述描述的系统、装置和单元的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。
在本申请所提供的几个实施例中,应该理解到,所揭露的系统、装置和方法,可以通过其它的方式实现。例如,以上所描述的装置实施例仅仅是示意性的,例如,所述单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口,装置或单元的间接耦合或通信连接,可以是电性,机械或其它的形式。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外,在本发明各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。
所述功能如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本发明的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行本发明各个实施例所述方法的全部或部分步骤。而前述的存储介质包括:U盘、移动硬盘、只读存储器(ROM,Read-Only Memory)、随机存取存储器(RAM,Random Access Memory)、磁碟或者光盘等各种可以存储程序代码的介质。

Claims (15)

1.一种数据处理方法,其特征在于,包括:
根据数据的至少一个第一维度的信息在所述数据中确定热点数据;
根据所述热点数据的至少一个第二维度的信息在数据库中查询所述热点数据;
将查询到的所述热点数据从所述数据库加载到内存。
2.如权利要求1所述的方法,其特征在于,在所述根据所述热点数据的至少一个第二维度的信息在数据库中查询所述热点数据之前,所述方法还包括:
生成缓存文件,所述缓存文件的内容包括所述数据的至少一个第一维度的信息和至少一个第二维度的信息。
3.如权利要求2所述的方法,其特征在于,所述缓存文件的内容还包括所述数据是否已在内存中的指示。
4.如权利要求1-3任一项所述的方法,其特征在于,所述方法还包括:
对所述缓存文件的内容进行更新。
5.如权利要求4所述的方法,其特征在于,所述对所述缓存文件的内容进行更新,包括:
根据用户查询的数据信息对所述缓存文件的内容进行更新;或者
根据统计的数据信息对所述缓存文件的内容进行更新。
6.如权利要求1-5任一项所述的方法,其特征在于,所述根据所述热点数据的至少一个第二维度的信息从数据库中查询所述热点数据,包括:
将所述热点数据的至少一个第二维度的信息解析为字段,生成结构化查询语言SQL语句;
根据所述SQL语句从数据库中查询所述热点数据。
7.如权利要求1-6任一项所述的方法,其特征在于,所述方法还包括:
接收联机分析处理OLAP服务器发送的用户查询的数据信息;
根据所述用户查询的数据信息以及所述热点数据的至少一个第二维度的信息判断与所述用户查询的数据信息相对应的数据是否在所述内存中;
如果判断出所述与所述用户查询的数据信息相对应的数据在所述内存中,则在所述内存中获取所述与所述用户查询的数据信息相对应的数据。
8.如权利要求7所述的方法,其特征在于,所述方法还包括:
将获取的所述与所述用户查询的数据信息相对应的数据发送给所述OLAP服务器,以便所述OLAP服务器根据所述与所述用户查询的数据信息相对应的数据生成OLAP报表,呈现给所述用户。
9.一种数据处理设备,其特征在于,包括:
确定单元,用于根据数据的至少一个第一维度的信息在所述数据中确定热点数据;
查询单元,用于根据所述确定单元确定的所述热点数据的至少一个第二维度的信息在数据库中查询所述热点数据;
加载单元,用于将所述查询单元查询到的所述热点数据从所述数据库加载到内存。
10.如权利要求9所述的设备,其特征在于,所述设备还包括:
生成单元,用于生成缓存文件,所述缓存文件的内容包括所述数据的至少一个第一维度的信息和至少一个第二维度的信息。
11.如权利要求10所述的设备,其特征在于,所述生成单元还用于:
根据所述数据的信息对所述缓存文件的内容进行更新。
12.如权利要求11所述的设备,其特征在于,所述生成单元具体用于:
根据用户查询的数据信息对所述缓存文件的内容进行更新;或者
根据统计的数据信息对所述缓存文件的内容进行更新。
13.如权利要求9-12任一项所述的设备,其特征在于,所述查询单元具体用于:
将所述热点数据的至少一个第二维度的信息解析为字段,生成结构化查询语言SQL语句;
根据所述SQL语句从数据库中查询所述热点数据。
14.如权利要求9-13任一项所述的设备,其特征在于,所述设备还包括接收单元,
所述接收单元,用于接收联机分析处理OLAP服务器发送的用户查询的数据信息;
所述确定单元还用于:根据所述用户查询的数据信息以及所述热点数据的至少一个第二维度的信息判断与所述用户查询的数据信息相对应的数据是否在所述内存中;
所述加载单元还用于:如果判断出所述与所述用户查询的数据信息相对应的数据在所述内存中,则在所述内存中获取所述与所述用户查询的数据信息相对应的数据。
15.如权利要求14所述的设备,其特征在于,所述设备还包括发送单元,
所述发送单元,用于将获取的所述与所述用户查询的数据信息相对应的数据发送给所述OLAP服务器,以便所述OLAP服务器根据所述与所述用户查询的数据信息相对应的数据生成OLAP报表,呈现给所述用户。
CN2012104783942A 2012-11-22 2012-11-22 数据处理方法及设备 Pending CN103020146A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN2012104783942A CN103020146A (zh) 2012-11-22 2012-11-22 数据处理方法及设备

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN2012104783942A CN103020146A (zh) 2012-11-22 2012-11-22 数据处理方法及设备

Publications (1)

Publication Number Publication Date
CN103020146A true CN103020146A (zh) 2013-04-03

Family

ID=47968750

Family Applications (1)

Application Number Title Priority Date Filing Date
CN2012104783942A Pending CN103020146A (zh) 2012-11-22 2012-11-22 数据处理方法及设备

Country Status (1)

Country Link
CN (1) CN103020146A (zh)

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104391992A (zh) * 2014-12-15 2015-03-04 北京百度网讯科技有限公司 针对资产数据的数据处理系统
CN105228216A (zh) * 2015-08-29 2016-01-06 宇龙计算机通信科技(深圳)有限公司 一种网络接入方法及终端
CN106776955A (zh) * 2016-12-02 2017-05-31 北京中交兴路车联网科技有限公司 一种数据存储和检索的方法及装置
CN110263010A (zh) * 2019-05-31 2019-09-20 广东睿江云计算股份有限公司 一种缓存文件自动更新方法及装置
CN110515971A (zh) * 2019-08-09 2019-11-29 金蝶软件(中国)有限公司 程序语句处理方法、装置、计算机设备和计算机存储介质
CN110572861A (zh) * 2018-06-05 2019-12-13 佛山市顺德区美的电热电器制造有限公司 信息处理方法、装置、存储介质和服务器
CN110795395A (zh) * 2018-07-31 2020-02-14 阿里巴巴集团控股有限公司 文件部署系统和文件部署方法
CN111190923A (zh) * 2019-12-04 2020-05-22 航天信息股份有限公司 电子票据查询方法、装置、存储介质及电子设备
CN113688338A (zh) * 2020-05-19 2021-11-23 上海惠芽信息技术有限公司 用户数据的处理方法、处理装置及计算机存储介质

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1790397A (zh) * 2005-12-28 2006-06-21 浙江工业大学 基于联机分析的第三方物流数据处理方法
CN101315628A (zh) * 2007-06-01 2008-12-03 华为技术有限公司 内存数据库系统及实现内存数据库的方法和装置
CN101777079A (zh) * 2010-03-11 2010-07-14 浙江鸿程计算机系统有限公司 一种快速生成电子报表的系统构架及其实现方法
CN101799830A (zh) * 2010-03-25 2010-08-11 北京国双科技有限公司 可实现多维度自由剖析的流量数据处理方法

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1790397A (zh) * 2005-12-28 2006-06-21 浙江工业大学 基于联机分析的第三方物流数据处理方法
CN101315628A (zh) * 2007-06-01 2008-12-03 华为技术有限公司 内存数据库系统及实现内存数据库的方法和装置
CN101777079A (zh) * 2010-03-11 2010-07-14 浙江鸿程计算机系统有限公司 一种快速生成电子报表的系统构架及其实现方法
CN101799830A (zh) * 2010-03-25 2010-08-11 北京国双科技有限公司 可实现多维度自由剖析的流量数据处理方法

Cited By (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104391992A (zh) * 2014-12-15 2015-03-04 北京百度网讯科技有限公司 针对资产数据的数据处理系统
CN104391992B (zh) * 2014-12-15 2018-10-09 北京百度网讯科技有限公司 针对资产数据的数据处理系统
CN105228216A (zh) * 2015-08-29 2016-01-06 宇龙计算机通信科技(深圳)有限公司 一种网络接入方法及终端
CN106776955A (zh) * 2016-12-02 2017-05-31 北京中交兴路车联网科技有限公司 一种数据存储和检索的方法及装置
CN110572861A (zh) * 2018-06-05 2019-12-13 佛山市顺德区美的电热电器制造有限公司 信息处理方法、装置、存储介质和服务器
CN110795395A (zh) * 2018-07-31 2020-02-14 阿里巴巴集团控股有限公司 文件部署系统和文件部署方法
CN110795395B (zh) * 2018-07-31 2023-04-18 阿里巴巴集团控股有限公司 文件部署系统和文件部署方法
CN110263010A (zh) * 2019-05-31 2019-09-20 广东睿江云计算股份有限公司 一种缓存文件自动更新方法及装置
CN110263010B (zh) * 2019-05-31 2023-05-02 广东睿江云计算股份有限公司 一种缓存文件自动更新方法及装置
CN110515971A (zh) * 2019-08-09 2019-11-29 金蝶软件(中国)有限公司 程序语句处理方法、装置、计算机设备和计算机存储介质
CN110515971B (zh) * 2019-08-09 2022-03-11 金蝶软件(中国)有限公司 程序语句处理方法、装置、计算机设备和计算机存储介质
CN111190923A (zh) * 2019-12-04 2020-05-22 航天信息股份有限公司 电子票据查询方法、装置、存储介质及电子设备
CN113688338A (zh) * 2020-05-19 2021-11-23 上海惠芽信息技术有限公司 用户数据的处理方法、处理装置及计算机存储介质

Similar Documents

Publication Publication Date Title
CN103020146A (zh) 数据处理方法及设备
CN102694861B (zh) 一种基于云技术的终端应用软件分类方法、装置及系统
CN103154950B (zh) 重复数据删除方法及装置
CN101617299B (zh) 数据库管理方法
CN102572014A (zh) 消息处理方法、装置和系统
KR102104193B1 (ko) 서비스 파라미터 선택 방법 및 관련된 디바이스
CN102932777A (zh) 一种终端应用的更新方法和用户终端
CN105224343A (zh) 一种应用程序的更新提示方法和装置
CN104750807A (zh) 一种应用推荐方法及装置
CN111813805A (zh) 一种数据处理方法及装置
CN104239518A (zh) 重复数据删除方法和装置
CN104375933A (zh) 一种单元测试方法和装置
CN103558998A (zh) 一种数据操作的方法和设备
CN104516794A (zh) 数据库文件的备份方法、装置及系统
CN104142990A (zh) 搜索方法及装置
CN105095423A (zh) 计数数据写入方法和装置
CN103902562A (zh) 一种终端数据库升级方法及相关装置
CN105681380A (zh) 客户端离线化方法及其系统
CN104881454A (zh) 参数的更新方法及系统
CN111209257B (zh) 一种文件系统碎片化的方法及装置
CN102331920B (zh) 一种数据处理方法及装置
CN105763616A (zh) 资源下载方法及装置
CN103077032A (zh) 应用程序的操作方法及应用程序的客户端
CN110704139B (zh) 一种图标分类的方法及装置
TWI546758B (zh) 大量資料之動態分級傳輸方法

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
RJ01 Rejection of invention patent application after publication
RJ01 Rejection of invention patent application after publication

Application publication date: 20130403