CN103902537A - 多业务的日志数据存储处理和查询系统及其方法 - Google Patents
多业务的日志数据存储处理和查询系统及其方法 Download PDFInfo
- Publication number
- CN103902537A CN103902537A CN201210568998.6A CN201210568998A CN103902537A CN 103902537 A CN103902537 A CN 103902537A CN 201210568998 A CN201210568998 A CN 201210568998A CN 103902537 A CN103902537 A CN 103902537A
- Authority
- CN
- China
- Prior art keywords
- daily record
- data
- record data
- field area
- business
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/24—Querying
- G06F16/245—Query processing
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/22—Indexing; Data structures therefor; Storage structures
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Databases & Information Systems (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Software Systems (AREA)
- Computational Linguistics (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本发明提供了一种多业务的日志数据存储处理和查询系统及其方法,该系统借助字段区映射表指示的对应关系,将多个业务的日志数据有序的统一存储在数据存储表中,避免了同一业务服务器中不同业务的日志数据存储散乱、冗杂而导致浪费更多的业务服务器存储空间,同时多个业务日志数据的统一存储也使得多业务日志数据的查询处理更为简便,免去了在不同业务的日志数据库之间进行切换查询的繁琐操作过程,有助于提高对多业务日志数据的查询处理效率,并且其日志数据存储处理和查询操作都无需大量的人工干预操作,在多业务日志数据的存储处理得到优化的同时,依旧能够保证日志数据查询结果的准确性。
Description
技术领域
本发明涉及计算机通信网络技术和网络应用业务服务技术领域,具体涉及一种多业务的日志数据存储处理和查询系统及其方法。
背景技术
为了提升应用业务的可维护性,采集日志数据成为了目前应用业务开发和维护中所常用的技术手段。应用业务的一条日志数据是用于记录该业务在某个时刻对某个数据对象进行处理时所执行的操作或状态,日志数据中往往包含有多个数据属性,例如业务标识、执行对象、执行内容、执行日期、操作时间、完成时间等数据属性,不同业务的日志数据所包含的数据属性不尽相同,而一条日志数据中每个数据属性的属性值则表征了业务进行处理时在相应数据属性上的具体状态。业务每进行一个处理通常都会触发采集一条相应的日志数据,以便于业务管理人员在后期能够根据业务各条日志数据所记录的内容掌握业务的运行状态,进而判断业务运行是否正常、掌握业务运行统计数据等,以便执行相应的维护操作。
目前,业务日志数据的记录通常采用两种方式,即日志文档记录方式和日志数据库记录方式。日志文档记录方式,即某业务所有的日志数据都记录在一个可被业务服务器系统识别和打开的日志文档文件中,业务管理人员打开日志文档文件即可查阅该业务全部的日志数据,查阅比较方便,但是由于全部的日志数据都冗杂在一起,业务技术人员如果要从众多的日志数据中查找特定条件的数据属性信息则比较麻烦。由于日志数据中数据属性的属性值才是业务管理人员所关心的信息,日志数据库记录方式则是根据业务所包含的数据属性建立设有若干个数据属性区的日志数据库,每条日志中不同数据属性的属性值对应的存储在日志数据库的相应数据属性区内,从而实现对日志数据的数据库管理,便于业务技术人员利用数据库查询方式在日志数据库中查询所需要的数据属性信息,以了解某些特定状态条件下的业务运行情况,因此日志数据库记录方式是目前应用业务的日志数据采集系统所普遍采用的方式。
随着业务服务器处理能力的不断增强以及网络应用业务服务的急剧增加,业务服务器同时承载多个业务已经非常普遍,但这却对多业务的维护管理提出了难题。由于业务服务器承载的多个业务各自所包含的数据属性不尽相同,因此在现有技术中,多业务往往各自设置有自己的日志数据库分别记录相应业务的日志数据,造成多业务的日志数据存储散乱、冗杂,容易浪费更多的业务服务器存储空间;另一方面,如果因维护管理的需要,业务管理人员需要了解在某种特定的数据属性值下各个业务的运行状况,则需要分别查询各个业务的日志数据库了解相关信息,查询工作量大,操作繁琐,容易出错,而且执行多个日志数据库的检索操作过程中也可能出现重复检索的情况,查询检索执行效率也比较低。
发明内容
针对现有技术中存在的上述不足,本发明的目的在于提供一种多业务的日志数据存储处理和查询系统,用于承载有多个业务的业务服务器,以实现对多业务日志数据的统一存储和查询,避免多业务日志数据存储冗杂、浪费更多的存储空间,同时也使得多业务日志数据的查询处理更为简便,有助于提高对多业务日志数据的查询处理效率。
为实现上述目的,本发明采用了如下技术手段:
多业务的日志数据存储处理和查询系统,用于对业务服务器承载的多个业务进行日志数据存储处理和查询操作,该系统包括:
日志数据存储模块,用于设置包含有若干个字段区的数据存储表,所述数据存储表用于存储日志数据项;每个日志数据项用于记录一个业务中一条日志数据的各个数据属性的属性值;
映射表生成模块,用于生成各业务的字段区映射表并加以存储;每个业务的字段区映射表用于记录相应业务中日志数据的各个数据属性在数据存储表中所对应的字段区,且各业务的字段区映射表记录的不同数据属性分别对应数据存储表中不同的字段区;
日志数据项生成模块,用于采集各业务的日志数据,并分别将每个业务中每一条日志数据的各个数据属性的属性值构成一个日志数据项;
数据存储处理模块,用于查询每个日志数据项所对应业务的字段区映射表获得相应业务中日志数据的各个数据属性在数据存储表中所对应的字段区,从而按照相应业务中日志数据的各个数据属性在数据存储表中的字段区对应关系,将每个日志数据项中各个数据属性的属性值分别存储在数据存储表中相应数据属性所对应的字段区,完成对各个日志数据项的存储;
查询条件设定模块,提供人机交互界面,用于设定至少一组查询条件参数;每组查询条件参数包括一个数据属性及其对应的属性值;
数据查询处理模块,用于查询各个业务的字段区映射表,分别获得每组查询条件参数中包含的数据属性在数据存储表中所对应的字段区作为相应一组查询条件参数对应的匹配字段区,然后对数据存储表进行匹配查询,将数据存储表中同时在各组查询条件参数对应的匹配字段区中存储的属性值分别与相应一组查询条件参数中包含的属性值相同的日志数据项作为匹配查询结果,从而输出作为匹配查询结果的各个日志数据项,并指示出作为匹配查询结果的日志数据项中各个属性值对应的数据属性。
上述多业务的日志数据存储处理和查询系统中,作为一种优化方案,所述映射表生成模块主要由数据属性获取单元、映射设定处理单元和映射表生成处理单元构成;
数据属性获取单元用于获取单个业务中日志数据的各个数据属性;
映射设定处理单元用于针对单个业务中日志数据的每个数据属性,判断其它业务的字段区映射表中是否已存在与该数据属性相同的数据属性;若是,则设定该数据属性所对应的字段区与在其它业务的字段区映射表中记录的相同数据属性所对应的字段区相一致;否则,设定该数据属性对应于数据存储表中一个尚未对应有数据属性的字段区;从而分别设定单个业务中日志数据的各个数据属性在数据存储表中所对应的字段区;
映射表生成处理单元用于生成单个业务的字段区映射表,以记录相应业务中日志数据的各个数据属性在数据存储表中所对应的字段区,并加以存储。
上述多业务的日志数据存储处理和查询系统中,作为一种优化方案,所述数据查询处理模块主要由映射查询处理单元、字段区查询处理单元和匹配查询结果输出单元构成;
映射查询处理单元用于查询各个业务的字段区映射表,分别获得每组查询条件参数中包含的数据属性在数据存储表中所对应的字段区作为相应一组查询条件参数对应的匹配字段区;
字段区查询处理单元用于查询数据存储表中各个匹配字段区存储的属性值,分别获得每个匹配字段区中与相应一组查询条件参数中包含的属性值相同的属性值所对应的日志数据项作为与相应一组查询条件参数相匹配的日志数据项;
匹配查询结果输出单元用于将数据存储表中同时与各组查询条件参数相匹配的日志数据项作为匹配查询结果,从而输出作为匹配查询结果的各个日志数据项,并指示出作为匹配查询结果的日志数据项中各个属性值对应的数据属性。
上述多业务的日志数据存储处理和查询系统中,作为一种优化方案,每个业务的日志数据的数据属性中至少包括有业务标识。
相应于上述多业务的日志数据存储处理和查询系统,本发明还提供了多业务的日志数据存储处理方法,采用上述多业务的日志数据存储处理和查询系统实现;该方法包括如下步骤:
1)日志数据存储模块设置包含有若干个字段区的数据存储表;
2)映射表生成模块生成各业务的字段区映射表并加以存储;
3)日志数据项生成模块采集各业务的日志数据,并分别将每个业务中每一条日志数据的各个数据属性的属性值构成一个日志数据项;
4)数据存储处理模块查询每个日志数据项所对应业务的字段区映射表获得相应业务中日志数据的各个数据属性在数据存储表中所对应的字段区,从而按照相应业务中日志数据的各个数据属性在数据存储表中的字段区对应关系,将每个日志数据项中各个数据属性的属性值分别存储在数据存储表中相应数据属性所对应的字段区,完成对各个日志数据项的存储。
上述多业务的日志数据存储处理方法中,作为一种优化方案,所述多业务的日志数据存储处理和查询系统中的映射表生成模块主要由数据属性获取单元、映射设定处理单元和映射表生成处理单元构成;该方法中,所述步骤2具体为:
21)数据属性获取单元获取单个业务中日志数据的各个数据属性;
22)映射设定处理单元针对单个业务中日志数据的每个数据属性,判断其它业务的字段区映射表中是否已存在与该数据属性相同的数据属性;若是,则设定该数据属性所对应的字段区与在其它业务的字段区映射表中记录的相同数据属性所对应的字段区相一致;否则,设定该数据属性对应于数据存储表中一个尚未对应有数据属性的字段区;从而分别设定单个业务中日志数据的各个数据属性在数据存储表中所对应的字段区;
23)映射表生成处理单元生成单个业务的字段区映射表,以记录相应业务中日志数据的各个数据属性在数据存储表中所对应的字段区,并加以存储;
24)重复执行步骤21~23,分别生成各业务的字段区映射表并加以存储。
上述多业务的日志数据存储处理方法中,作为一种优化方案,每个业务的日志数据的数据属性中至少包括有业务标识。
相应于上述多业务的日志数据存储处理和查询系统,本发明还提供了多业务的日志数据查询方法,采用上述多业务的日志数据存储处理和查询系统实现;该方法包括如下步骤:
a)利用查询条件设定模块设定至少一组查询条件参数;
b)数据查询处理模块查询各个业务的字段区映射表,分别获得每组查询条件参数中包含的数据属性在数据存储表中所对应的字段区作为相应一组查询条件参数对应的匹配字段区,然后对数据存储表进行匹配查询,将数据存储表中同时在各组查询条件参数对应的匹配字段区中存储的属性值分别与相应一组查询条件参数中包含的属性值相同的日志数据项作为匹配查询结果,从而输出作为匹配查询结果的各个日志数据项,并指示出作为匹配查询结果的日志数据项中各个属性值对应的数据属性。
上述多业务的日志数据查询方法中,作为一种优化方案,所述映射表生成模块生成的各业务的字段区映射表中,若不同业务的日志数据中存在相同的数据属性,则不同业务的字段区映射表记录的相同数据属性对应于数据存储表中同一字段区。
上述多业务的日志数据查询方法中,作为一种优化方案,所述多业务的日志数据存储处理和查询系统中的数据查询处理模块主要由映射查询处理单元、字段区查询处理单元和匹配查询结果输出单元构成;
该方法中,所述步骤b具体为:
b1)映射查询处理单元查询各个业务的字段区映射表,分别获得每组查询条件参数中包含的数据属性在数据存储表中所对应的字段区作为相应一组查询条件参数对应的匹配字段区;
b2)字段区查询处理单元查询数据存储表中各个匹配字段区存储的属性值,分别获得每个匹配字段区中与相应一组查询条件参数中包含的属性值相同的属性值所对应的日志数据项作为与相应一组查询条件参数相匹配的日志数据项;
b3)匹配查询结果输出单元将数据存储表中同时与各组查询条件参数相匹配的日志数据项作为匹配查询结果,从而输出作为匹配查询结果的各个日志数据项,并指示出作为匹配查询结果的日志数据项中各个属性值对应的数据属性。
相比于现有技术,本发明具有如下有益效果:
1、本发明多业务的日志数据存储处理和查询系统,借助字段区映射表指示的对应关系,将多个业务的日志数据有序的统一存储在数据存储表中,避免了同一业务服务器中不同业务的日志数据存储散乱、冗杂而导致浪费更多的业务服务器存储空间,同时多个业务日志数据的统一存储也使得多业务日志数据的查询处理更为简便,如果业务管理人员需要了解在某种特定的数据属性值下各个业务的运行状况,只需要设定查询条件参数,系统则根据字段区映射表指示的对应关系,直接查询数据存储表获得作为匹配查询结果的各个日志数据项并输出,免去了在不同业务的日志数据库之间进行切换查询的繁琐操作过程,有助于提高对多业务日志数据的查询处理效率。
2、在本发明多业务的日志数据存储处理和查询系统中,由于映射表生成模块所生成的各业务的字段区映射表记录的不同数据属性分别对应数据存储表中不同的字段区,更好的保证了日志数据查询处理的准确性。
3、本发明多业务的日志数据存储处理和查询系统的存储处理方法无需人工干预,查询操作简单,能够在多业务日志数据的存储处理得到优化的同时,依旧保证日志数据查询结果的准确性。
附图说明
图1为本发明多业务的日志数据存储处理和查询系统的构架框图。
图2为本发明多业务的日志数据存储处理和查询系统进行日志数据存储处理的流程图。
图3为本发明多业务的日志数据存储处理和查询系统进行日志数据查询处理的流程图。
图4为本发明多业务的日志数据存储处理和查询系统一种优化方案中数据查询处理模块执行查询处理操作的具体流程图。
图5为本发明多业务的日志数据存储处理和查询系统一种优化方案中映射表生成模块生成各业务的字段区映射表的具体处理流程图。
具体实施方式
针对现有技术中承载于同一业务服务器的多个业务的日志数据存储散乱、冗杂,查询操作繁琐、查询检索效率较低的问题,本发明提供了一种多业务的日志数据存储处理和查询系统,用于对业务服务器承载的多个业务进行日志数据存储处理和查询操作。
如图1所示,本发明的多业务的日志数据存储处理和查询系统包括:日志数据存储模块,用于设置包含有若干个字段区的数据存储表,所述数据存储表用于存储日志数据项,每个日志数据项用于记录一个业务中一条日志数据的各个数据属性的属性值;映射表生成模块,用于生成各业务的字段区映射表并加以存储,每个业务的字段区映射表用于记录相应业务中日志数据的各个数据属性在数据存储表中所对应的字段区,且各业务的字段区映射表记录的不同数据属性分别对应数据存储表中不同的字段区;日志数据项生成模块,用于采集各业务的日志数据,并分别将每个业务中每一条日志数据的各个数据属性的属性值构成一个日志数据项;数据存储处理模块,用于查询每个日志数据项所对应业务的字段区映射表获得相应业务中日志数据的各个数据属性在数据存储表中所对应的字段区,从而按照相应业务中日志数据的各个数据属性在数据存储表中的字段区对应关系,将每个日志数据项中各个数据属性的属性值分别存储在数据存储表中相应数据属性所对应的字段区,完成对各个日志数据项的存储;查询条件设定模块,提供人机交互界面,用于设定至少一组查询条件参数,每组查询条件参数包括一个数据属性及其对应的属性值;数据查询处理模块,用于查询各个业务的字段区映射表,分别获得每组查询条件参数中包含的数据属性在数据存储表中所对应的字段区作为相应一组查询条件参数对应的匹配字段区,然后对数据存储表进行匹配查询,将数据存储表中同时在各组查询条件参数对应的匹配字段区中存储的属性值分别与相应一组查询条件参数中包含的属性值相同的日志数据项作为匹配查询结果,从而输出作为匹配查询结果的各个日志数据项,并指示出作为匹配查询结果的日志数据项中各个属性值对应的数据属性。
虽然承载于同一业务服务器的多个业务的日志数据所包含的数据属性不尽相同,在本发明的多业务的日志数据存储处理和查询系统中,借助字段区映射表指示的对应关系,将各个业务的日志数据中各个数据属性的属性值有序的存储在包含有若干个字段区的数据存储表中,实现了对多业务日志数据的统一存储;另一方面,在进行日志数据查询时,如果业务管理人员需要了解在某种特定的数据属性值下各个业务的运行状况,只需要设定查询条件参数,系统则根据字段区映射表指示的对应关系,直接查询数据存储表获得作为匹配查询结果的各个日志数据项并输出,免去了在不同业务的日志数据库之间进行切换查询的繁琐操作过程,从而使得多业务日志数据的查询处理更为简便,有助于提高对多业务日志数据的查询处理效率。由于本发明多业务的日志数据存储处理和查询系统是用于针对业务服务器承载的多个业务进行日志数据存储处理和查询操作,虽然该多个业务的日志数据所包含的数据属性不尽相同,但每个业务的日志数据的数据属性中最好至少包括有业务标识,以便于在存储处理和查询操作时对不同业务的日志数据加以区分识别;当然,如果在具体的应用环境中并没有区分不同业务日志数据的需求,则数据属性中也可以不包含业务标识。
下面通过实施例,对本发明的技术方案和技术效果做进一步说明。
实施例一:
本实施例以一个承载多个业务的业务服务器采用本发明多业务的日志数据存储处理和查询系统进行多业务的日志数据存储和查询过程为例,来说明本发明多业务的日志数据存储处理和查询系统的技术效果以及其存储处理和查询方法。
本实施例业务服务器所承载的多个业务中包括有向用户提供的短消息收发业务,还包括有向远程业务管理人员提供的业务版本监测和业务升级处理的远程升级管理业务,等等;其中,短消息收发业务的业务标识为“10000”,其日志数据用于记录该业务中于何日哪位用户执行了什么操作(发送消息操作或接收消息操作),因此其日志数据包含的数据属性有业务标识(BusinessID)、执行日期(Date)、用户对象(User)和执行内容(Operation);远程升级管理业务的业务标识为“10001”,其日志数据用于记录该业务中于何日对什么业务执行了什么操作(版本监测操作或升级处理操作),因此其日志数据包含的数据属性有业务标识(BusinessID)、执行日期(Date)、执行对象(Object)和执行内容(Operation)。该业务服务器中构建了本发明多业务的日志数据存储处理和查询系统,其系统构架如前文所述包括日志数据存储模块、映射表生成模块、日志数据项生成模块、数据存储处理模块、查询条件设定模块和数据查询处理模块,在此不再一一赘述;该系统构建后,其执行日志数据存储处理的流程如图2所示,具体包括如下步骤:
s1)日志数据存储模块设置包含有若干个字段区的数据存储表。
该数据存储表用于存储日志数据项,而每个日志数据项用于记录一个业务中一条日志数据的各个数据属性的属性值,从而对多个业务的日志数据进行统一的存储。在本实施例中,数据存储表的形式如表1所示,其中,“data1”、“data2”、“data3”、……、“dataN”表示数据存储表包含的第1、第2、第3、……、第N个字段区,“item1”、“item2”、“item3”等表示数据存储表中存储的第1个、第2个、第3个等日志数据项。
表1
s2)映射表生成模块生成各业务的字段区映射表并加以存储。
每个业务的字段区映射表用于记录相应业务中日志数据的各个数据属性在数据存储表中所对应的字段区,且各业务的字段区映射表记录的不同数据属性分别对应数据存储表中不同的字段区。这里要保证各业务的字段区映射表记录的不同数据属性分别对应数据存储表中不同的字段区,目的在于保证不同业务日志数据各个数据属性的属性值能够被有序的存储于数据存储表中,避免不同数据属性的属性值重叠对应在同一个字段区中而导致后期查询出错。在本实施例中,生成的短消息收发业务的字段区映射表以及远程升级管理业务的字段区映射表分别如表2和表3所示。
表2
表3
通过上述的两个字段区映射表可以看到,短消息收发业务日志数据的业务标识(BusinessID)、执行日期(Date)、用户对象(User)和执行内容(Operation)四个数据属性被分别对应于数据存储表的第1~4个字段区,而远程升级管理业务日志数据的业务标识(BusinessID)、执行日期(Date)、执行对象(Object)和执行内容(Operation)四个数据属性被分别对应于数据存储表的第5~8个字段区。
s3)日志数据项生成模块采集各业务的日志数据,并分别将每个业务中每一条日志数据的各个数据属性的属性值构成一个日志数据项。
该步骤中,日志数据项生成模块获取各业务日志数据的各个数据属性的具体处理方法,可以采用现有技术中日志数据库记录方式记录业务日志数据时获取的数据属性的处理方法,例如分别对各个不同的数据属性添加标示符用以系统识别,并利用属性值起始、结束标示符标识出各个数据属性所对应的属性值数据范围等;这些计算机数据标识方法均为本领域成熟技术,在本发明技术方案中加以应用即可。在本实施例中,例如,短消息收发业务和远程升级管理业务各自在2012年12月1日产生了若干条日志数据,其中,短消息收发业务的用户user1和用户user2相互收发了若干条短消息,而远程升级管理业务对短消息收发业务执行了版本监测操作和升级处理操作,从而由日志数据项生成模块采集、生成了若干个日志数据项,所生成的短消息收发业务的日志数据项情况如表4所示,所生成的远程升级管理业务的日志数据项情况如表5所示。
表4
表5
s4)数据存储处理模块查询每个日志数据项所对应业务的字段区映射表获得相应业务中日志数据的各个数据属性在数据存储表中所对应的字段区,从而按照相应业务中日志数据的各个数据属性在数据存储表中的字段区对应关系,将每个日志数据项中各个数据属性的属性值分别存储在数据存储表中相应数据属性所对应的字段区,完成对各个日志数据项的存储。
该步骤中,数据存储处理模块对各个日志数据项的存储处理完全根据字段区映射表指示的对应关系而进行。在本实施例中,数据存储处理模块通过查询短消息收发业务和远程升级管理业务的字段区映射表,即可获知短消息收发业务日志数据的业务标识(BusinessID)、执行日期(Date)、用户对象(User)和执行内容(Operation)四个数据属性被分别对应于数据存储表的第1~4个字段区,远程升级管理业务日志数据的业务标识(BusinessID)、执行日期(Date)、执行对象(Object)和执行内容(Operation)四个数据属性被分别对应于数据存储表的第5~8个字段区;从而按照该对应关系,分别完成对上述各个日志数据项的存储;因此,在数据存储表中,上述各个日志数据项的存储情况如表6所示。
表6
由上述存储处理流程可以看到,在本发明多业务的日志数据存储处理和查询系统中,虽然短消息收发业务和远程升级管理业务所包含的数据属性不尽相同,但借助字段区映射表指示的对应关系,将这些业务的日志数据有序的统一存储在了一个数据存储表中,这样既有利于统一规划日志数据的存储空间,避免分散存储而造成的存储空间浪费问题,同时也更加的方便于多业务日志数据的统一管理。
此后,如果业务管理人员需要查询短消息收发业务在2012年12月1日的日志数据,则利用本发明多业务的日志数据存储处理和查询系统进行日志数据查询的流程如图3所示,具体步骤如下:
s01)利用查询条件设定模块设定至少一组查询条件参数。
查询条件设定模块提供人机交互界面,供用户设定至少一组查询条件参数,每组查询条件参数包括一个数据属性及其对应的属性值。在本实施例中,根据业务管理人员的上述查询需求,可利用查询条件设定模块设定如下的两组查询条件参数,第一组查询条件参数QpGroup1包含的数据属性和属性值分别为“BusinessID”和“10000”,第二组查询条件参数QpGroup2包含的数据属性和属性值分别为“Date”和“2012-12-01”。
s02)数据查询处理模块查询各个业务的字段区映射表,分别获得每组查询条件参数中包含的数据属性在数据存储表中所对应的字段区作为相应一组查询条件参数对应的匹配字段区,然后对数据存储表进行匹配查询,将数据存储表中同时在各组查询条件参数对应的匹配字段区中存储的属性值分别与相应一组查询条件参数中包含的属性值相同的日志数据项作为匹配查询结果,从而输出作为匹配查询结果的各个日志数据项,并指示出作为匹配查询结果的日志数据项中各个属性值对应的数据属性。
该步骤中,数据查询处理模块获得各组查询条件参数对应的匹配字段区后,对数据存储表进行匹配查询的具体查询处理方法可以采用现有技术中常用的数据库检索方法,例如对数据存储表中各个日志数据项进行属性值逐一匹配,或者预先建立数据存储表的索引进行查询检索和匹配,或者分字段区进行属性值匹配检索等。在本实施例中,数据查询处理模块根据第一组查询条件参数QpGroup1包括的数据属性“BusinessID”和第二组查询条件参数QpGroup2包含的数据属性“Date”查询短消息收发业务和远程升级管理业务的字段区映射表,可以确定第一组查询条件参数QpGroup1对应的匹配字段区为第1个字段区“data1”或第5个字段区“data5”,第二组查询条件参数QpGroup2对应的匹配字段区为第2个字段区“data2”或第6个字段区“data6”,然后再通过对数据存储表的匹配查询,即可确定在第1个字段区“data1”或第5个字段区“data5”存储的属性值为“10000”(第一组查询条件参数QpGroup1包含的属性值为“10000”)并且同时在第2个字段区“data2”或第6个字段区“data6”存储的属性值为“2012-12-01”(第二组查询条件参数QpGroup2包含的属性值为“2012-12-01”)的日志数据项为“item1”、“item2”、“item3”,从而输出的匹配查询结果,并指示出作为匹配查询结果的日志数据项中各个属性值对应的数据属性,如表7所示。指示数据属性的操作直接通过查询各业务的字段区映射表即可实现。
表7
由此,业务管理人员则准确的查询到了短消息收发业务在2012年12月1日的日志数据。这其中也可以看到,在本发明多业务的日志数据存储处理和查询系统中,正是由于映射表生成模块所生成的各业务的字段区映射表记录的不同数据属性分别对应数据存储表中不同的字段区,才更好的保证了日志数据查询处理的准确性。这一点可以借助一个反例加以说明。例如,在本实施例中,由于远程升级管理业务日志数据中包含有执行对象(Object)这一数据属性,而且当远程升级管理业务对短消息收发业务进行操作时,其相应日志数据在执行对象(Object)这一数据属性的属性值则为“10000”;如果在远程升级管理业务的字段区映射表中,执行对象(Object)这一数据属性也对应于数据存储表的第1个字段区“data1”,与短消息收发业务的字段区映射表中业务标识(BusinessID)对应的字段区相重叠,则将导致远程升级管理业务的日志数据中执行对象(Object)数据属性的属性值被对应存储在数据存储表的第1个字段区“data1”;这样一来,若同样执行本实施例中上述的日志数据查询操作,则日志数据项“item11”、“item12”、“item13”就会满足在第1个字段区“data1”存储的属性值为“10000”(第一组查询条件参数QpGroup1包含的属性值为“10000”)并且同时在第6个字段区“data6”存储的属性值为“2012-12-01”,从而系统会将日志数据项“item11”、“item12”、“item13”误判定为短消息收发业务在2012年12月1日的日志数据加以输出,导致查询结果错误。
另一方面,作为本发明多业务的日志数据存储处理和查询系统的一种优化方案,为了系统执行日志数据查询操作的处理效率,系统中的数据查询处理模块可以采用一种优化构架结构,该优化构架的数据查询处理模块主要由映射查询处理单元、字段区查询处理单元和匹配查询结果输出单元构成;映射查询处理单元用于查询各个业务的字段区映射表,分别获得每组查询条件参数中包含的数据属性在数据存储表中所对应的字段区作为相应一组查询条件参数对应的匹配字段区;字段区查询处理单元用于查询数据存储表中各个匹配字段区存储的属性值,分别获得每个匹配字段区中与相应一组查询条件参数中包含的属性值相同的属性值所对应的日志数据项作为与相应一组查询条件参数相匹配的日志数据项;匹配查询结果输出单元用于将数据存储表中同时与各组查询条件参数相匹配的日志数据项作为匹配查询结果,从而输出作为匹配查询结果的各个日志数据项,并指示出作为匹配查询结果的日志数据项中各个属性值对应的数据属性。这样一来,在本实施例上述的数据存储表记录情况以及查询条件参数设定情况下,上述步骤s02中数据查询处理模块执行查询处理操作的具体流程如图4所示,具体为:
s021)映射查询处理单元查询各个业务的字段区映射表,分别获得每组查询条件参数中包含的数据属性在数据存储表中所对应的字段区作为相应一组查询条件参数对应的匹配字段区。
在本实施例中,映射查询处理单元根据第一组查询条件参数QpGroup1包括的数据属性“BusinessID”和第二组查询条件参数QpGroup2包含的数据属性“Date”查询短消息收发业务和远程升级管理业务的字段区映射表,可以确定第一组查询条件参数QpGroup1对应的匹配字段区为第1个字段区“data1”或第5个字段区“data5”,第二组查询条件参数QpGroup2对应的匹配字段区为第2个字段区“data2”或第6个字段区“data6”。
s022)字段区查询处理单元查询数据存储表中各个匹配字段区存储的属性值,分别获得每个匹配字段区中与相应一组查询条件参数中包含的属性值相同的属性值所对应的日志数据项作为与相应一组查询条件参数相匹配的日志数据项。
在本实施例中,字段区查询处理单元查询数据存储表中第1个字段区“data1”或第5个字段区“data5”存储的属性值为“10000”(第一组查询条件参数QpGroup1包含的属性值为“10000”)所对应的日志数据项为“item1”、“item2”、“item3”,即确定日志数据项“item1”、“item2”、“item3”作为与第一组查询条件参数QpGroup1相匹配的日志数据项;字段区查询处理单元查询数据存储表中第2个字段区“data2”或第6个字段区“data6”存储的属性值为“2012-12-01”(第二组查询条件参数QpGroup2包含的属性值为“2012-12-01”)所对应的日志数据项为“item1”、“item2”、“item3”、“item11”、“item12”和“item13”,从而确定日志数据项“item1”、“item2”、“item3”、“item11”、“item12”和“item13”作为与第二组查询条件参数QpGroup2相匹配的日志数据项。
s023)匹配查询结果输出单元将数据存储表中同时与各组查询条件参数相匹配的日志数据项作为匹配查询结果,从而输出作为匹配查询结果的各个日志数据项,并指示出作为匹配查询结果的日志数据项中各个属性值对应的数据属性。
在本实施例中,由于同时与第一组查询条件参数QpGroup1和第二组查询条件参数QpGroup2相匹配的日志数据项仅包括“item1”、“item2”、“item3”,因此匹配查询结果输出单元将数据存储表中的日志数据项“item1”、“item2”、“item3”作为匹配查询结果输出,并指示出作为匹配查询结果的日志数据项中各个属性值对应的数据属性,其输出结果同样如上述的表7所示。
可以看到,该优化方案的多业务的日志数据存储处理和查询系统中,数据查询处理模块在执行对数据存储表的匹配查询处理时,直接针对所确定的各个匹配字段区(在本实施例中的匹配字段区即为字段区“data1”、“data2”、“data5”、“data6”)进行匹配查询,而不是分别对各个日志数据项的每个属性值进行逐一匹配,当数据存储表中存储有大量的日志数据项时,相比于对各个日志数据项进行逐一匹配,本优化方案中数据查询处理模块对数据存储表的匹配查询处理时所需要执行的匹配次数会大幅减少,即业务服务器系统执行匹配处理的运算周期将会大幅减少,从而缩短了查询处理时间,提高了日志数据查询操作的处理效率。
实施例二:
本实施例同样以实施例一中所述的业务服务器为例,业务服务器中承载的多个业务的情况同样如实施例一所述;但在实施例一的基础上,本实施例对多业务的日志数据存储处理和查询系统做出了进一步的优化,本实施例中构架在业务服务器中的多业务的日志数据存储处理和查询系统也包括日志数据存储模块、映射表生成模块、日志数据项生成模块、数据存储处理模块、查询条件设定模块和数据查询处理模块,其系统构架如前文所述,在其中的映射表生成模块采用了优化设计,映射表生成模块由数据属性获取单元、映射设定处理单元和映射表生成处理单元构成;数据属性获取单元用于获取单个业务中日志数据的各个数据属性;映射设定处理单元用于针对单个业务中日志数据的每个数据属性,判断其它业务的字段区映射表中是否已存在与该数据属性相同的数据属性;若是,则设定该数据属性所对应的字段区与在其它业务的字段区映射表中记录的相同数据属性所对应的字段区相一致;否则,设定该数据属性对应于数据存储表中一个尚未对应有数据属性的字段区;从而分别设定单个业务中日志数据的各个数据属性在数据存储表中所对应的字段区;映射表生成处理单元用于生成单个业务的字段区映射表,以记录相应业务中日志数据的各个数据属性在数据存储表中所对应的字段区,并加以存储。
由于映射表生成模块的优化改进,多业务的日志数据在数据存储表中的对应存储关系也将随之改变。下面同样针对实施例一所述的短消息收发业务和远程升级管理业务,通过该系统对多业务的日志数据存储处理过程对日志数据存储方式的变化加以说明。本实施例中,多业务的日志数据存储处理和查询系统对日志数据存储处理整体流程与实施例一相同,其步骤为:
sI)日志数据存储模块设置包含有若干个字段区的数据存储表。
在本实施例中的数据存储表形式与实施例一相同,如表I所示。
表I
sII)映射表生成模块生成各业务的字段区映射表并加以存储。
在本实施例中,由于映射表生成模块的优化,映射表生成模块是分别生成各业务的字段区映射表并加以存储,每次由数据属性获取单元、映射设定处理单元和映射表生成处理单元联合执行单个业务的字段区映射表生成和存储处理。就本实施例中的短消息收发业务和远程升级管理业务而言,该步骤的具体处理流程如图5所示,具体为:
s21)数据属性获取单元获取单个业务中日志数据的各个数据属性。
在本实施例中,数据属性获取单元得到短消息收发业务中的四个数据属性分别为业务标识(BusinessID)、执行日期(Date)、用户对象(User)和执行内容(Operation)。
s22)映射设定处理单元针对单个业务中日志数据的每个数据属性,判断其它业务的字段区映射表中是否已存在与该数据属性相同的数据属性;若是,则设定该数据属性所对应的字段区与在其它业务的字段区映射表中记录的相同数据属性所对应的字段区相一致;否则,设定该数据属性对应于数据存储表中一个尚未对应有数据属性的字段区;从而分别设定单个业务中日志数据的各个数据属性在数据存储表中所对应的字段区。
在本实施例中,如果尚未生成其它业务的字段区映射表,则数据存储表中的各个字段区均尚未对应有数据属性;在这种情况下,映射设定处理单元则设定短消息收发业务中的四个数据属性各自对应于数据存储表中一个尚未对应有数据属性的字段区,例如对应于数据存储表中的第1~4个字段区“data1”、“data2”、“data3”、“data4”。
s23)映射表生成处理单元生成单个业务的字段区映射表,以记录相应业务中日志数据的各个数据属性在数据存储表中所对应的字段区,并加以存储。
在本实施例中,由于短消息收发业务中的业务标识(BusinessID)、执行日期(Date)、用户对象(User)和执行内容(Operation)四个数据属性分别对应于数据存储表中的第1~4个字段区,则映射表生成处理单元生成的短消息收发业务的字段区映射表如表II所示。
表II
通过映射表生成模块执行上述的步骤s21~s23,生成了短消息收发业务的字段区映射表;而后,针对远程升级管理业务,映射表生成模块则再次重复执行上述的步骤s21~s23,以生成远程升级管理业务的字段区映射表;具体为:
s21)数据属性获取单元获取单个业务中日志数据的各个数据属性。
在本实施例中,数据属性获取单元得到远程升级管理业务的四个数据属性分别为业务标识(BusinessID)、执行日期(Date)、执行对象(Object)和执行内容(Operation)。
s22)映射设定处理单元针对单个业务中日志数据的每个数据属性,判断其它业务的字段区映射表中是否已存在与该数据属性相同的数据属性;若是,则设定该数据属性所对应的字段区与在其它业务的字段区映射表中记录的相同数据属性所对应的字段区相一致;否则,设定该数据属性对应于数据存储表中一个尚未对应有数据属性的字段区;从而分别设定单个业务中日志数据的各个数据属性在数据存储表中所对应的字段区。
在本实施例中,对于远程升级管理业务而言,由于在已存在的短消息收发业务的字段区映射表中记录有业务标识(BusinessID)、执行日期(Date)、执行内容(Operation)这三个相同的数据属性,因此,映射设定处理单元设定远程升级管理业务中的业务标识(BusinessID)、执行日期(Date)、执行内容(Operation)所对应的字段区与在短消息收发业务的字段区映射表中记录的这三个数据属性所对应的字段区相一致,分别对应于字段区“data1”、“data2”、“data4”,而远程升级管理业务的执行对象(Object)数据属性并没有记录与其它业务的字段区映射表中,因此映射设定处理单元设定远程升级管理业务中的执行对象(Object)数据属性对应于数据存储表中一个尚未对应有数据属性的字段区“data5”。
s23)映射表生成处理单元生成单个业务的字段区映射表,以记录相应业务中日志数据的各个数据属性在数据存储表中所对应的字段区,并加以存储;
在本实施例中,由于远程升级管理业务的业务标识(BusinessID)、执行日期(Date)、执行对象(Object)和执行内容(Operation)四个数据属性分别对应于数据存储表中的字段区“data1”、“data2”、“data5”、“data4”,则映射表生成处理单元生成的远程升级管理业务的字段区映射表如表III所示。
表III
若该业务服务器中还存在有其它业务,则同样重复执行步骤s21~s23,分别生成各业务的字段区映射表并加以存储。
sIII)日志数据项生成模块采集各业务的日志数据,并分别将每个业务中每一条日志数据的各个数据属性的属性值构成一个日志数据项。
在本实施例中,例如,若与实施例一的情况一样,短消息收发业务和远程升级管理业务各自在2012年12月1日产生了若干条日志数据,其中,短消息收发业务的用户user1和用户user2相互收发了若干条短消息,而远程升级管理业务对短消息收发业务执行了版本监测操作和升级处理操作,从而由日志数据项生成模块采集、生成了若干个日志数据项,所生成的短消息收发业务的日志数据项情况如表IV所示,所生成的远程升级管理业务的日志数据项情况如表V所示。
表IV
表V
sIV)数据存储处理模块查询每个日志数据项所对应业务的字段区映射表获得相应业务中日志数据的各个数据属性在数据存储表中所对应的字段区,从而按照相应业务中日志数据的各个数据属性在数据存储表中的字段区对应关系,将每个日志数据项中各个数据属性的属性值分别存储在数据存储表中相应数据属性所对应的字段区,完成对各个日志数据项的存储。
该步骤中,数据存储处理模块对各个日志数据项的存储处理完全根据字段区映射表指示的对应关系而进行。在本实施例中,数据存储处理模块通过查询短消息收发业务和远程升级管理业务的字段区映射表,即可获知短消息收发业务日志数据的业务标识(BusinessID)、执行日期(Date)、用户对象(User)和执行内容(Operation)四个数据属性被分别对应于数据存储表的字段区“data1”、“data2”、“data3”、“data4”,远程升级管理业务日志数据的业务标识(BusinessID)、执行日期(Date)、执行对象(Object)和执行内容(Operation)四个数据属性被分别对应于数据存储表的字段区“data1”、“data2”、“data5”、“data4”;从而按照该对应关系,分别完成对上述各个日志数据项的存储;因此,在数据存储表中,上述各个日志数据项的存储情况如表VI所示。
表VI
由上述存储处理流程可以看到,在本实施例的多业务的日志数据存储处理和查询系统中,借助字段区映射表指示的对应关系,如果不同业务的日志数据中存在相同的数据属性,则不同业务的字段区映射表记录的相同数据属性对应于数据存储表中同一字段区,而不相同的数据属性则依旧分别对应不同的字段区,这样可以最大程度的减少多业务日志数据在数据存储表中所占用的字段区数量,不仅更好的利用了存储空间,并且也更方便于多业务日志数据的统一管理,同时还可以保证日志数据查询处理的准确性。例如,如果业务管理人员依然需要查询短消息收发业务在2012年12月1日的日志数据,则在本实施例中,利用本发明多业务的日志数据存储处理和查询系统,按如下步骤进行查询操作:
soI)利用查询条件设定模块设定至少一组查询条件参数。
在本实施例中,根据业务管理人员的上述查询需求,可利用查询条件设定模块设定如下的两组查询条件参数,第一组查询条件参数QpGroup1包含的数据属性和属性值分别为“BusinessID”和“10000”,第二组查询条件参数QpGroup2包含的数据属性和属性值分别为“Date”和“2012-12-01”。
soII)数据查询处理模块查询各个业务的字段区映射表,分别获得每组查询条件参数中包含的数据属性在数据存储表中所对应的字段区作为相应一组查询条件参数对应的匹配字段区,然后对数据存储表进行匹配查询,将数据存储表中同时在各组查询条件参数对应的匹配字段区中存储的属性值分别与相应一组查询条件参数中包含的属性值相同的日志数据项作为匹配查询结果,从而输出作为匹配查询结果的各个日志数据项,并指示出作为匹配查询结果的日志数据项中各个属性值对应的数据属性。
在本实施例中,数据查询处理模块也可以采用实施例一中所述的优化方案,数据查询处理模块主要由映射查询处理单元、字段区查询处理单元和匹配查询结果输出单元构成;该步骤的具体流程则为:
soII1)映射查询处理单元查询各个业务的字段区映射表,分别获得每组查询条件参数中包含的数据属性在数据存储表中所对应的字段区作为相应一组查询条件参数对应的匹配字段区。
在本实施例中,映射查询处理单元根据第一组查询条件参数QpGroup1包括的数据属性“BusinessID”和第二组查询条件参数QpGroup2包含的数据属性“Date”查询短消息收发业务和远程升级管理业务的字段区映射表,可以确定第一组查询条件参数QpGroup1对应的匹配字段区为第1个字段区“data1”,第二组查询条件参数QpGroup2对应的匹配字段区为第2个字段区“data2”。
soII2)字段区查询处理单元查询数据存储表中各个匹配字段区存储的属性值,分别获得每个匹配字段区中与相应一组查询条件参数中包含的属性值相同的属性值所对应的日志数据项作为与相应一组查询条件参数相匹配的日志数据项。
在本实施例中,字段区查询处理单元查询数据存储表中第1个字段区“data1”存储的属性值为“10000”(第一组查询条件参数QpGroup1包含的属性值为“10000”)所对应的日志数据项为“item1”、“item2”、“item3”,即确定日志数据项“item1”、“item2”、“item3”作为与第一组查询条件参数QpGroup1相匹配的日志数据项;字段区查询处理单元查询数据存储表中第2个字段区“data2”存储的属性值为“2012-12-01”(第二组查询条件参数QpGroup2包含的属性值为“2012-12-01”)所对应的日志数据项为“item1”、“item2”、“item3”、“item11”、“item12”和“item13”,从而确定日志数据项“item1”、“item2”、“item3”、“item11”、“item12”和“item13”作为与第二组查询条件参数QpGroup2相匹配的日志数据项。
soII3)匹配查询结果输出单元将数据存储表中同时与各组查询条件参数相匹配的日志数据项作为匹配查询结果,从而输出作为匹配查询结果的各个日志数据项,并指示出作为匹配查询结果的日志数据项中各个属性值对应的数据属性。
在本实施例中,由于同时与第一组查询条件参数QpGroup1和第二组查询条件参数QpGroup2相匹配的日志数据项仅包括“item1”、“item2”、“item3”,因此匹配查询结果输出单元将数据存储表中的日志数据项“item1”、“item2”、“item3”作为匹配查询结果输出,并指示出作为匹配查询结果的日志数据项中各个属性值对应的数据属性,其输出结果同样如上述的表VII所示。
表VII
可以看到,优化方案中虽然映射表生成模块的改进使得多业务的日志数据在数据存储表中的对应存储关系也将随之改变,提高了数据存储表的存储利用率,也更方便于多业务日志数据的统一管理,但并没有因此影响日志数据查询的准确性,在设置相同查询条件的情况下,本实施例获得了与实施例一相同准确的查询结果;不仅如此,从经过优化的数据查询处理模块所执行的日志数据查询处理流程可以看到,日志数据在数据存储表中对应存储关系的改变,也使得数据查询处理模块针对匹配字段区进行匹配查询时,所匹配查询的匹配字段区得以减少,从而可以进一步减少业务服务器系统执行匹配处理的运算周期,缩短查询处理时间,让日志数据查询操作的处理效率进一步提高。
通过上述的两个实施例可以看到,本发明多业务的日志数据存储处理和查询系统能够使得业务服务器中承载的多个业务的日志数据得到统一存储和管理,并且能够保持良好的日志数据查询处理效率和查询准确性;虽然前期在业务服务器上构建本发明多业务的日志数据存储处理和查询系统可能需要耗费一定的时间和成本,但是系统一经建成则一劳永逸,其多业务的日志数据存储处理和查询操都无需大量的人工干预操作,并且避免多业务日志数据存储冗杂、浪费更多的存储空间,也使得多业务日志数据的查询处理更为简便,有助于提高对多业务日志数据的查询处理效率。当然,虽然上述两个实施例所述的短消息收发业务日志数据的数据属性和远程升级管理业务日志数据的数据属性中都包含了业务标识(BusinessID)这一数据属性,以用于识别区分这两个不同的业务,但如果在具体的应用环境中并没有区分不同业务日志数据的需求,则数据属性中也可以不包含业务标识,而根据具体的应用需求设定相应业务日志数据的数据属性;同时,本发明多业务的日志数据存储处理和查询系统的具体应用,并不局限于上述两个实施例所示的业务类型和查询情况,其对于业务服务器承载多个业务的情况均适用。
最后说明的是,以上实施例仅用以说明本发明的技术方案而非限制,尽管参照实施例对本发明进行了详细说明,本领域的普通技术人员应当理解,可以对本发明的技术方案进行修改或者等同替换,而不脱离本发明技术方案的宗旨和范围,其均应涵盖在本发明的权利要求范围当中。
Claims (10)
1.多业务的日志数据存储处理和查询系统,其特征在于,用于对业务服务器承载的多个业务进行日志数据存储处理和查询操作,该系统包括:
日志数据存储模块,用于设置包含有若干个字段区的数据存储表,所述数据存储表用于存储日志数据项;每个日志数据项用于记录一个业务中一条日志数据的各个数据属性的属性值;
映射表生成模块,用于生成各业务的字段区映射表并加以存储;每个业务的字段区映射表用于记录相应业务中日志数据的各个数据属性在数据存储表中所对应的字段区,且各业务的字段区映射表记录的不同数据属性分别对应数据存储表中不同的字段区;
日志数据项生成模块,用于采集各业务的日志数据,并分别将每个业务中每一条日志数据的各个数据属性的属性值构成一个日志数据项;
数据存储处理模块,用于查询每个日志数据项所对应业务的字段区映射表获得相应业务中日志数据的各个数据属性在数据存储表中所对应的字段区,从而按照相应业务中日志数据的各个数据属性在数据存储表中的字段区对应关系,将每个日志数据项中各个数据属性的属性值分别存储在数据存储表中相应数据属性所对应的字段区,完成对各个日志数据项的存储;
查询条件设定模块,提供人机交互界面,用于设定至少一组查询条件参数;每组查询条件参数包括一个数据属性及其对应的属性值;
数据查询处理模块,用于查询各个业务的字段区映射表,分别获得每组查询条件参数中包含的数据属性在数据存储表中所对应的字段区作为相应一组查询条件参数对应的匹配字段区,然后对数据存储表进行匹配查询,将数据存储表中同时在各组查询条件参数对应的匹配字段区中存储的属性值分别与相应一组查询条件参数中包含的属性值相同的日志数据项作为匹配查询结果,从而输出作为匹配查询结果的各个日志数据项,并指示出作为匹配查询结果的日志数据项中各个属性值对应的数据属性。
2.根据权利要求1所述多业务的日志数据存储处理和查询系统,其特征在于,所述映射表生成模块主要由数据属性获取单元、映射设定处理单元和映射表生成处理单元构成;
数据属性获取单元用于获取单个业务中日志数据的各个数据属性;
映射设定处理单元用于针对单个业务中日志数据的每个数据属性,判断其它业务的字段区映射表中是否已存在与该数据属性相同的数据属性;若是,则设定该数据属性所对应的字段区与在其它业务的字段区映射表中记录的相同数据属性所对应的字段区相一致;否则,设定该数据属性对应于数据存储表中一个尚未对应有数据属性的字段区;从而分别设定单个业务中日志数据的各个数据属性在数据存储表中所对应的字段区;
映射表生成处理单元用于生成单个业务的字段区映射表,以记录相应业务中日志数据的各个数据属性在数据存储表中所对应的字段区,并加以存储。
3.根据权利要求1所述多业务的日志数据存储处理和查询系统,其特征在于,所述数据查询处理模块主要由映射查询处理单元、字段区查询处理单元和匹配查询结果输出单元构成;
映射查询处理单元用于查询各个业务的字段区映射表,分别获得每组查询条件参数中包含的数据属性在数据存储表中所对应的字段区作为相应一组查询条件参数对应的匹配字段区;
字段区查询处理单元用于查询数据存储表中各个匹配字段区存储的属性值,分别获得每个匹配字段区中与相应一组查询条件参数中包含的属性值相同的属性值所对应的日志数据项作为与相应一组查询条件参数相匹配的日志数据项;
匹配查询结果输出单元用于将数据存储表中同时与各组查询条件参数相匹配的日志数据项作为匹配查询结果,从而输出作为匹配查询结果的各个日志数据项,并指示出作为匹配查询结果的日志数据项中各个属性值对应的数据属性。
4.根据权利要求1-3中任一项所述多业务的日志数据存储处理和查询系统,其特征在于,每个业务的日志数据的数据属性中至少包括有业务标识。
5.多业务的日志数据存储处理方法,其特征在于,采用如权利要求1-4中任一项所述多业务的日志数据存储处理和查询系统实现;该方法包括如下步骤:
1)日志数据存储模块设置包含有若干个字段区的数据存储表;
2)映射表生成模块生成各业务的字段区映射表并加以存储;
3)日志数据项生成模块采集各业务的日志数据,并分别将每个业务中每一条日志数据的各个数据属性的属性值构成一个日志数据项;
4)数据存储处理模块查询每个日志数据项所对应业务的字段区映射表获得相应业务中日志数据的各个数据属性在数据存储表中所对应的字段区,从而按照相应业务中日志数据的各个数据属性在数据存储表中的字段区对应关系,将每个日志数据项中各个数据属性的属性值分别存储在数据存储表中相应数据属性所对应的字段区,完成对各个日志数据项的存储。
6.根据权利要求5所述多业务的日志数据存储处理方法,其特征在于,所述多业务的日志数据存储处理和查询系统中的映射表生成模块主要由数据属性获取单元、映射设定处理单元和映射表生成处理单元构成;
该方法中,所述步骤2具体为:
21)数据属性获取单元获取单个业务中日志数据的各个数据属性;
22)映射设定处理单元针对单个业务中日志数据的每个数据属性,判断其它业务的字段区映射表中是否已存在与该数据属性相同的数据属性;若是,则设定该数据属性所对应的字段区与在其它业务的字段区映射表中记录的相同数据属性所对应的字段区相一致;否则,设定该数据属性对应于数据存储表中一个尚未对应有数据属性的字段区;从而分别设定单个业务中日志数据的各个数据属性在数据存储表中所对应的字段区;
23)映射表生成处理单元生成单个业务的字段区映射表,以记录相应业务中日志数据的各个数据属性在数据存储表中所对应的字段区,并加以存储;
24)重复执行步骤21~23,分别生成各业务的字段区映射表并加以存储。
7.根据权利要求5或6所述多业务的日志数据存储处理方法,其特征在于,每个业务的日志数据的数据属性中至少包括有业务标识。
8.多业务的日志数据查询方法,其特征在于,采用如权利要求1-4中任一项所述多业务的日志数据存储处理和查询系统实现;该方法包括如下步骤:
a)利用查询条件设定模块设定至少一组查询条件参数;
b)数据查询处理模块查询各个业务的字段区映射表,分别获得每组查询条件参数中包含的数据属性在数据存储表中所对应的字段区作为相应一组查询条件参数对应的匹配字段区,然后对数据存储表进行匹配查询,将数据存储表中同时在各组查询条件参数对应的匹配字段区中存储的属性值分别与相应一组查询条件参数中包含的属性值相同的日志数据项作为匹配查询结果,从而输出作为匹配查询结果的各个日志数据项,并指示出作为匹配查询结果的日志数据项中各个属性值对应的数据属性。
9.根据权利要求8所述多业务的日志数据查询方法,其特征在于,所述映射表生成模块生成的各业务的字段区映射表中,若不同业务的日志数据中存在相同的数据属性,则不同业务的字段区映射表记录的相同数据属性对应于数据存储表中同一字段区。
10.根据权利要求8或9所述多业务的日志数据查询方法,其特征在于,所述多业务的日志数据存储处理和查询系统中的数据查询处理模块主要由映射查询处理单元、字段区查询处理单元和匹配查询结果输出单元构成;
该方法中,所述步骤b具体为:
b1)映射查询处理单元查询各个业务的字段区映射表,分别获得每组查询条件参数中包含的数据属性在数据存储表中所对应的字段区作为相应一组查询条件参数对应的匹配字段区;
b2)字段区查询处理单元查询数据存储表中各个匹配字段区存储的属性值,分别获得每个匹配字段区中与相应一组查询条件参数中包含的属性值相同的属性值所对应的日志数据项作为与相应一组查询条件参数相匹配的日志数据项;
b3)匹配查询结果输出单元将数据存储表中同时与各组查询条件参数相匹配的日志数据项作为匹配查询结果,从而输出作为匹配查询结果的各个日志数据项,并指示出作为匹配查询结果的日志数据项中各个属性值对应的数据属性。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201210568998.6A CN103902537B (zh) | 2012-12-25 | 2012-12-25 | 多业务的日志数据存储处理和查询系统及其方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201210568998.6A CN103902537B (zh) | 2012-12-25 | 2012-12-25 | 多业务的日志数据存储处理和查询系统及其方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN103902537A true CN103902537A (zh) | 2014-07-02 |
CN103902537B CN103902537B (zh) | 2017-02-08 |
Family
ID=50993867
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201210568998.6A Active CN103902537B (zh) | 2012-12-25 | 2012-12-25 | 多业务的日志数据存储处理和查询系统及其方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN103902537B (zh) |
Cited By (15)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104951555A (zh) * | 2015-06-30 | 2015-09-30 | 浪潮(北京)电子信息产业有限公司 | 一种日志信息管理方法及日志信息管理终端 |
CN105430534A (zh) * | 2015-10-29 | 2016-03-23 | Tcl集团股份有限公司 | 一种智能设备上报数据的方法和系统 |
CN105656706A (zh) * | 2014-11-14 | 2016-06-08 | 北京通达无限科技有限公司 | 业务数据的处理方法及设备 |
CN105808414A (zh) * | 2016-03-08 | 2016-07-27 | 联想(北京)有限公司 | 一种日志处理方法及日志处理电子设备 |
CN106547855A (zh) * | 2016-10-19 | 2017-03-29 | 北京交通大学 | 基于电子地图和io驱采信息的数据库自动生成方法及装置 |
CN107306416A (zh) * | 2016-04-25 | 2017-10-31 | 中国移动通信集团云南有限公司 | 业务日志的记录方法与装置 |
CN107515812A (zh) * | 2017-09-07 | 2017-12-26 | 郑州云海信息技术有限公司 | 一种智能呈现存储管理软件日志的方法及装置 |
CN107679198A (zh) * | 2017-10-10 | 2018-02-09 | 北京奇虎科技有限公司 | 信息的查询方法及装置 |
CN107704369A (zh) * | 2017-08-31 | 2018-02-16 | 云宏信息科技股份有限公司 | 一种操作日志的记录方法、电子设备、存储介质、系统 |
CN108090205A (zh) * | 2017-12-27 | 2018-05-29 | 南京熊猫电子股份有限公司 | 一种基于j2ee的部队后勤数据统一管理系统 |
CN109313640A (zh) * | 2016-03-31 | 2019-02-05 | 慧咨环球有限公司 | 用于数据库优化的方法和系统 |
CN109474698A (zh) * | 2018-12-14 | 2019-03-15 | 平安城市建设科技(深圳)有限公司 | 访问请求标记方法、装置、设备及存储介质 |
CN110597848A (zh) * | 2019-08-06 | 2019-12-20 | 上海数据交易中心有限公司 | 数据业务结算方法及系统、存储介质、服务器 |
CN112989823A (zh) * | 2021-04-27 | 2021-06-18 | 北京优特捷信息技术有限公司 | 一种日志处理方法、装置、设备及存储介质 |
CN113177033A (zh) * | 2021-03-31 | 2021-07-27 | 新华三信息安全技术有限公司 | 一种日志数据存储方法、装置、电子设备和介质 |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109767115B (zh) * | 2019-01-08 | 2021-06-22 | 浙江数链科技有限公司 | 业务管理方法、装置、计算机设备和可读存储介质 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101436962A (zh) * | 2008-12-04 | 2009-05-20 | 金蝶软件(中国)有限公司 | 日志管理方法及系统 |
CN101465765A (zh) * | 2008-12-31 | 2009-06-24 | 东信和平智能卡股份有限公司 | 日志系统及其使用方法 |
US20100011031A1 (en) * | 2006-12-28 | 2010-01-14 | Arcsight, Inc. | Storing log data efficiently while supporting querying |
CN102065322A (zh) * | 2009-11-17 | 2011-05-18 | 青岛海信传媒网络技术有限公司 | 一种iptv系统面向多业务的日志处理方法及装置 |
US20120117037A1 (en) * | 2010-11-09 | 2012-05-10 | Fuji Xerox Co., Ltd. | Log consolidation device, log consolidation method, and computer-readable medium |
-
2012
- 2012-12-25 CN CN201210568998.6A patent/CN103902537B/zh active Active
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20100011031A1 (en) * | 2006-12-28 | 2010-01-14 | Arcsight, Inc. | Storing log data efficiently while supporting querying |
CN101436962A (zh) * | 2008-12-04 | 2009-05-20 | 金蝶软件(中国)有限公司 | 日志管理方法及系统 |
CN101465765A (zh) * | 2008-12-31 | 2009-06-24 | 东信和平智能卡股份有限公司 | 日志系统及其使用方法 |
CN102065322A (zh) * | 2009-11-17 | 2011-05-18 | 青岛海信传媒网络技术有限公司 | 一种iptv系统面向多业务的日志处理方法及装置 |
US20120117037A1 (en) * | 2010-11-09 | 2012-05-10 | Fuji Xerox Co., Ltd. | Log consolidation device, log consolidation method, and computer-readable medium |
Non-Patent Citations (1)
Title |
---|
阳小珊等: "IP网络存储的日志系统研究", 《计算机研究与发展》 * |
Cited By (19)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105656706A (zh) * | 2014-11-14 | 2016-06-08 | 北京通达无限科技有限公司 | 业务数据的处理方法及设备 |
CN104951555A (zh) * | 2015-06-30 | 2015-09-30 | 浪潮(北京)电子信息产业有限公司 | 一种日志信息管理方法及日志信息管理终端 |
CN105430534A (zh) * | 2015-10-29 | 2016-03-23 | Tcl集团股份有限公司 | 一种智能设备上报数据的方法和系统 |
CN105430534B (zh) * | 2015-10-29 | 2019-12-10 | Tcl集团股份有限公司 | 一种智能设备上报数据的方法和系统 |
CN105808414A (zh) * | 2016-03-08 | 2016-07-27 | 联想(北京)有限公司 | 一种日志处理方法及日志处理电子设备 |
CN109313640A (zh) * | 2016-03-31 | 2019-02-05 | 慧咨环球有限公司 | 用于数据库优化的方法和系统 |
CN109313640B (zh) * | 2016-03-31 | 2022-03-04 | 慧咨环球有限公司 | 用于数据库优化的方法和系统 |
CN107306416A (zh) * | 2016-04-25 | 2017-10-31 | 中国移动通信集团云南有限公司 | 业务日志的记录方法与装置 |
CN106547855A (zh) * | 2016-10-19 | 2017-03-29 | 北京交通大学 | 基于电子地图和io驱采信息的数据库自动生成方法及装置 |
CN106547855B (zh) * | 2016-10-19 | 2020-06-05 | 北京交通大学 | 基于电子地图和io驱采信息的数据库自动生成方法及装置 |
CN107704369A (zh) * | 2017-08-31 | 2018-02-16 | 云宏信息科技股份有限公司 | 一种操作日志的记录方法、电子设备、存储介质、系统 |
CN107515812A (zh) * | 2017-09-07 | 2017-12-26 | 郑州云海信息技术有限公司 | 一种智能呈现存储管理软件日志的方法及装置 |
CN107679198A (zh) * | 2017-10-10 | 2018-02-09 | 北京奇虎科技有限公司 | 信息的查询方法及装置 |
CN107679198B (zh) * | 2017-10-10 | 2021-04-09 | 北京奇虎科技有限公司 | 信息的查询方法及装置 |
CN108090205A (zh) * | 2017-12-27 | 2018-05-29 | 南京熊猫电子股份有限公司 | 一种基于j2ee的部队后勤数据统一管理系统 |
CN109474698A (zh) * | 2018-12-14 | 2019-03-15 | 平安城市建设科技(深圳)有限公司 | 访问请求标记方法、装置、设备及存储介质 |
CN110597848A (zh) * | 2019-08-06 | 2019-12-20 | 上海数据交易中心有限公司 | 数据业务结算方法及系统、存储介质、服务器 |
CN113177033A (zh) * | 2021-03-31 | 2021-07-27 | 新华三信息安全技术有限公司 | 一种日志数据存储方法、装置、电子设备和介质 |
CN112989823A (zh) * | 2021-04-27 | 2021-06-18 | 北京优特捷信息技术有限公司 | 一种日志处理方法、装置、设备及存储介质 |
Also Published As
Publication number | Publication date |
---|---|
CN103902537B (zh) | 2017-02-08 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN103902537A (zh) | 多业务的日志数据存储处理和查询系统及其方法 | |
US11703826B1 (en) | Monitoring asset hierarchies based on asset group metrics | |
US11768875B2 (en) | Monitoring system control interface for asset tree determination | |
CN103235820B (zh) | 一种集群系统中数据存储方法与装置 | |
CN103020204B (zh) | 一种对分布式顺序表进行多维区间查询的方法及其系统 | |
CN106202346B (zh) | 一种数据加载清洗引擎、调度与存储系统 | |
CN101369918B (zh) | 网络管理浏览器 | |
CN102938708B (zh) | 基于告警传播模式的告警相关性分析系统及其分析方法 | |
CN104111996A (zh) | 基于hadoop平台的医保门诊大数据抽取系统及方法 | |
CN108197237A (zh) | 可视化数据采集到展现系统 | |
CN107071006A (zh) | 一种面向航道大数据的采集系统及采集方法 | |
CN110489464A (zh) | 探索式图融合可视化方法和装置 | |
CN109815283A (zh) | 一种异构数据源可视化查询方法 | |
CN102855332A (zh) | 一种基于图形数据库的图形配置管理数据库 | |
CN109618250B (zh) | 一种光纤网络节点管理方法及系统 | |
CN102118446A (zh) | 基于web的高性能智能报表系统 | |
CN109977125A (zh) | 一种基于网络安全的大数据安全分析平台系统 | |
CN109815254A (zh) | 基于大数据的跨地域任务调度方法及系统 | |
CN114218218A (zh) | 基于数据仓库的数据处理方法、装置、设备及存储介质 | |
Mesiti et al. | Towards a user-friendly loading system for the analysis of big data in the internet of things | |
CN102868601B (zh) | 一种有关基于图形配置数据库业务网络拓扑的路由系统 | |
CN105787090A (zh) | 一种电力数据的olap系统的索引建立方法和系统 | |
CN115934856A (zh) | 一种构造综合能源数据资产的方法和系统 | |
CN111125450A (zh) | 一种多层拓扑网络资源对象的管理方法 | |
CN103377236B (zh) | 一种用于分布式数据库的连接查询方法及系统 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
C14 | Grant of patent or utility model | ||
GR01 | Patent grant | ||
TR01 | Transfer of patent right | ||
TR01 | Transfer of patent right |
Effective date of registration: 20200605 Address after: Room 502-1, floor 5, building 2, courtyard 10, KEGU 1st Street, economic development zone, Daxing District, Beijing 100081 Patentee after: Singularity Xinyuan International Technology Development (Beijing) Co.,Ltd. Address before: The 401121 northern New District of Chongqing municipality Mount Huangshan Road 5 south of Mercury Technology Building 1 floor office No. 3 Patentee before: A-MEDIA COMMUNICATION TECH Co.,Ltd. |