CN104636347B - 数据处理系统中均衡负载的方法及系统 - Google Patents
数据处理系统中均衡负载的方法及系统 Download PDFInfo
- Publication number
- CN104636347B CN104636347B CN201310550295.5A CN201310550295A CN104636347B CN 104636347 B CN104636347 B CN 104636347B CN 201310550295 A CN201310550295 A CN 201310550295A CN 104636347 B CN104636347 B CN 104636347B
- Authority
- CN
- China
- Prior art keywords
- data
- database
- benchmark
- mark
- relevant
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/21—Design, administration or maintenance of databases
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
- G06F9/5083—Techniques for rebalancing the load in a distributed system
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Software Systems (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Databases & Information Systems (AREA)
- Data Mining & Analysis (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本发明提供一种数据处理系统中均衡负载的方法,包括针对第一类对象中的每一个对象,统计预定时段内与其有关的数据的数据量;根据所统计的数据量及已知的数据库信息,生成第一数据分发基准,第一数据分发基准意在将与第一类对象有关的数据均分在多个数据库内且意在将与第一类对象中的同一对象有关的数据设置在同一数据库中;在即将到来的数据处理过程中,基于第一分发基准分发数据,并至少将相关信息发送给应用,以便应用依据据其获取数据。还提供相应的均衡负载的系统。根据本发明的方法及系统可将数据均分在多个数据库中,减少单个数据库的负荷。
Description
技术领域
本发明涉及数据处理技术,更具体而言,涉及海量数据处理中负载均衡的处理技术。
背景技术
海量数据处理系统中,数据库压力巨大。如果不能较好地分配数据库与访问数据以进行数据处理的应用之间的关系,则该海量数据处理系统的时效性及处理性能都将受到影响。
在电子交易的数据处理系统中,数据库与访问数据的应用之间大体有以下几种关系:
第一、应用与数据库设置在同一数据处理设备中。数据库与访问该数据库获取数据进行处理的应用设置在同一个服务器中,在数据处理过程中,每个进程仅处理1块数据集。这种设置中,由于应用与数据库同一主机部署,导致服务器压力增大;应用多进程处理使得数据处理设备的资源(如CPU与内存等)成为瓶颈。这种设置仅适用于小数据量的数据处理系统。
第二、应用与数据库分别独立部署,但是多进程处理,每个进程处理1块数据集。这种设置同样使得部署应用的数据处理设备的资源产生瓶颈,同时还因为交易量极大,使得数据库的主机资源达到瓶颈。
第三、横向扩展应用主机节点,多机部署、统一调度;数据库独立部署;多进程处理。这种设置中,应用主机资源可以横向扩充,交易量增大后,可以通过增加应用主机解决;交易量极大时,数据库主机资源仍然是系统性能瓶颈。
发明内容
本发明提供一种数据处理系统中均衡负载的方法。该方法包括针对第一类对象中的每一个对象,统计预定时段内与其有关的数据的数据量;根据所统计的数据量及已知的数据库信息,生成第一数据分发基准,所述第一数据分发基准意在将与第一类对象有关的数据均分在多个数据库内且意在将与所述第一类对象中的同一对象有关的数据设置在同一数据库中,所述第一数据分发基准包括第一标识、第二标识及第三标识,所述第一标识标识出与数据有关的第一类对象中的具体对象,所述第二标识标识出数据要被分发到的数据库,所述第三标识标识出数据在其要被分发到的数据库中所处的区域;在预定时段以后的数据处理过程中,基于所述第一分发基准分发数据,并至少将第一标识与第二标识发送给应用,以便应用依据所述第一标识与第二标识获取数据。优选地,也可将第三标识发送给应用。
优选地,所述均衡负载的方法还包括针对第二类对象中的每一个,统计预定时段内与其有关的数据的数据量;在此情况下,所述根据所统计的数据量及已知的数据库信息,生成第一数据分发基准进一步包括:根据所统计的与第二类对象有关的数据的数据量并基于第一数据分发基准,生成第二数据分发基准,所述第二数据分发基准意在将属于同一数据库且与第二类对象中的同一对象有关的数据设置在该数据库的连续存储区,所述第二分发基准包括标识该连续存储区的区标识。
优选地,所述均衡负载的方法还包括在即将到来的数据处理过程中,在基于所述第一数据分发基准分发数据的基础上,还基于第二数据分发基准将与第二类对象中的同一对象有关的数据分发在数据库的连续区。
本发明还提供一种数据处理系统中均衡负载的系统。该系统包括:统计模块,用于针对第一类对象中的每一个对象,统计预定时段内与其有关的数据的数据量;数据分发基准生成模块,其用于根据所统计的数据量及已知的数据库信息,生成第一数据分发基准,所述第一数据分发基准意在将与第一类对象有关的数据均分在多个数据库内且意在将与所述第一类对象中的同一对象有关的数据设置在同一数据库中,所述第一数据分发基准包括第一标识、第二标识及第三标识,所述第一标识标识出与数据有关的第一类对象中的具体对象,所述第二标识标识出数据要被分发到的数据库,所述第三标识标识出数据在其要被分发到的数据库中所处的区域;数据分发模块,其用于在即将到来的数据处理过程中,基于所述第一分发基准分发数据,并至少将第一标识与第二标识发送给应用,以便应用依据所述第一标识与第二标识获取数据。
优选地,所述统计模块还设置成用于针对第二类对象中的每一个,统计预定时段内与其有关的数据的数据量;所述数据分发基准生成模块进一步配置成根据所统计的与第二类对象有关的数据的数据量并基于第一数据分发基准,生成第二数据分发基准,所述第二数据分发基准意在将属于同一数据库且与第二类对象中的同一对象有关的数据设置在该数据库的连续存储区,所述第二分发基准包括标识该连续存储区的区标识。
优选地,所述数据分发模块进一步配置成在即将到来的数据处理过程中,在基于所述第一数据分发基准分发数据的基础上,还基于第二数据分发基准将与第二类对象中的同一对象有关的数据分发在数据库的连续区。
优选地,在以上所有示例中,预定时段为一日。
本发明所述的方法及系统使得与第一类对象有关的数据可均衡设置在数据库中,减少了数据库的存储以及应用对数据库的访问压力。并在优选实施例的情况下,还在与第一类对象有关的数据可均衡设置在数据库中的基础上,使与第一类对象中的某具体对象有关且与第二类对象中的同一对象有关的数据设置在数据库的连续区域 ,进一步方便应用对数据库的访问。
附图说明
图1是根据本发明的一个示例的数据处理系统中均衡负载的方法的流程图。
图2示意了一种可实施图1所示的方法的应用环境。
图3示例了根据本发明又一个示例的数据处理系统中均衡负载的方法的流程图。
图4是根据本发明的电子交易数据处理系统的结构示意图。
具体实施方
现在参照附图描述本发明的示意性示例,相同的附图标号表示相同的元件。下文描述的各实施例有助于本领域技术人员透彻理解本发明,且意在示例而非限制。除非另有限定,文中使用的术语(包括科学、技术和行业术语)具有与本发明所属领域的技术人员普遍理解的含义相同的含义。
图1是根据本发明的一个示例的数据处理系统中均衡负载的方法的流程图。所述均衡负载的方法可以应用在包括数据库及访问数据库的一个或多个应用的应用环境中。在该应用环境中,数据库与该一个或多个应用可设置于同一数据处理设备,也可以分别设置在不同的相互之间电连接的数据处理设备中。在此,所述的数据处理设备可以是计算机设备(如个人电脑、服务器或笔记本电脑等)、便携式终端(如IPAD等平板电脑、智能手机等)等具备数据处理功能的设备。
图2示意了一种可实施图1所示的方法的应用环境。如图所示,多个数据库分别设置在不同的服务器20-26中,每个服务器中可构建一个或多个数据库;多个应用分别设置在不同的计算机30-33中,每个计算机中可构建一个或多个应用。为方便阐述本发明的精神,下文中,以服务器20-26中的每一个内仅构建有一个数据库且计算机30-33中的每一个内仅构建有一个应用为例进行说明。此外,将直接采用数据库所在服务器的附图标记来标识各数据库以及直接采用应用所在计算机的附图标记标记各应用,由此,设置在服务器20-26的数据库将被标识为数据库20-26,设置在计算机30-33中的应用将被标识为应用30-33。根据本发明的示例,该应用环境还包括均衡负载的系统40,该均衡负载的系统可实现在单独的一台计算机中,也可实现在服务器20-26或计算机30-33中的任意一个上。均衡负载的系统40包括统计模块400,数据分发基准生成模块402,以及数据分发模块404。图2所示的应用环境是一种数据处理系统,该数据处理系统中增加了可用于执行本发明的方法的均衡负载的系统。
以下结合图1与图2对图1所示的方法进行说明。在步骤100,针对第一类对象中的每一个对象,统计预定时段内与其有关的数据的数据量。设置在服务器20-26中的多个数据库存储与第一类对象有关的数据;设置在计算机30-33中的不同应用,每一个可访问服务器20-26中某一数据库或多个数据库以获取其中的数据;均衡负载的系统40中的统计模块400则针对第一类对象中的每一个对象,统计例如一天之内存储于服务器20-26中的与其有关的数据的数据量。
在步骤102,根据所统计的数据量及已知的数据库信息生成意在将与第一类对象有关的数据均分在多个数据库内且意在将与第一类对象中的同一对象有关的数据设置在同一数据库中的第一数据分发基准。已知的数据库信息在此包括数据库标识以及数据库的容量。第一数据分发基准包括第一标识、第二标识及第三标识;其中,第一标识标识出与数据有关的对象,第二标识标识出数据要被分发到的数据库,第三标识标识出数据在其要被分发到的数据库中所处的位置。举例来说:依据统计结果及已知的数据库信息,均衡负载的系统40的数据分发基准生成模块402基于例如遗传算法、动态规划、或蚁群算法等生成意在将与第一类对象有关的数据均分在多个数据库内且意在将与第一类对象中的同一对象有关的数据设置在同一数据库中的第一数据分发基准。更具体地,数据分发基准生成模块402首先基于第一类对象中的每个对象在一天内所统计的数据量与数据库的容量两者,利用如遗传算法等方法进行计算并根据计算结果生成第一数据分发基准。该第一数据分发基准指明将涉及哪些对像(这由第一标识标识出)的数据分发到哪个数据库(这由第二标识标识出)中。举例如下:在根据统计结果进行相关计算之后,基于与第一类对象中的对象1与对象2有关的数据的数据量,将与它们有关的数据分发在数据库20中,并指明与对象1有关的数据以及与对象2有关的数据应分别放置在数据库20的哪个区域,诸如与对象1有关的数据放置在数据库20的A区域,与对象2有关的数据放置在数据库20的B区域;基于与第一类对象中的对象3有关的数据的数据量,将涉及它的数据分发在数据库21与数据库22中;基于与对象4有关的数据的数据量,将它的数据分发在数据库23中,但数据库23尚有剩余存储空间,因此需指明与对象4有关的数据在数据库23中的放置区域;基于与对象5有关的数据的数据量,将它的数据分发在数据库23中,并指明它在数据库23中的区域。
在步骤104中,在预计时段以后的数据处理中,基于该第一数据分发基准分发数据,将几乎海量的数据均分在多个数据库中且将与第一类对象中同一对象有关的数据分发在相同数据库中,并至少将第一标识与第二标识发送给应用,以便应用依据所述第一标识与第二标识获取数据,作为优选,还可将第三标识发送给应用。具体地,在预计时段以后的数据处理过程中,均衡负载的系统40的数据分发模块404依据第一数据分发基准对到来的涉及不同对象的数据进行分发。例如,依据分发基准中的第一标识、第二标识及第三标识,将与对象1有关的数据分发到数据库20的A区域,将与对象2有关的数据分发到数据库20的B区域,将与对象3有关的数据分发到数据库21及数据库22中,将与对象4有关的数据分发到数据库23的相应区域,将与对象5有关的数据则分发在数据库23中的相应区域。此外,均衡负载的系统40的数据分发模块404至少将第一标识与第二标识发送给应用,例如分发给应用30-34,以便它们按照标识中的信息访问相应的数据库以获取所需数据。例如,应用30计划处理涉及对象1的数据,则应用30从所接收到的第一与第二标识,可获知涉及对象1的数据存储在数据库20中,应用1便可直接从这两个数据库中访问所存储的数据。在应用获得了第三标识的情况下,则应用便可直接访问数据库的具体区域。如上文所述的预计时段例如为1日,相应地,预计时段以后的数据处理过程指的就是这一日之后的数据处理过程。例如,统计了x年y月1日的数据量,并据此生成第一数据分发基准,则在x年y月2日的数据处理过程中,以该数据分发基准为基础将数据均分在多个数据库中。优选地,在x年y月2日的数据处理过程中,依然可执行根据本发明所述的方法,由此得出新的第一数据分发基准,以指导x年y月3日的数据分发。亦即,优选总是在当日执行步骤100-104以生成指导日后数据分发的数据分发基准。
通过如上所述的方法,使得与第一类对象中的同一对象有关的数据尽可能的放置在同一数据库中。在此,对“同一数据库”应作广义理解,并不一定就只是一个数据库,也可以是两个或三个或更多个数据库,只是这些数据库中存储的是与第一类对象中同一对象有关的数据。例如,与对象3有关的数据就存储在数据库21及22中。
图3示例了根据本发明又一个示例的数据处理系统中均衡负载的方法的流程图。与图1所示的方法相比,本例中的方法还包括对第二类对象的数据量进行统计并据此生成第二分发基准。如图,在步骤300,针对第一类对象中的每一个对象,由统计模块400统计预定时段内与其有关的数据的数据量,该步骤与图1所示的步骤100类似,不再赘述。
在步骤302,针对第二类对象中的每一个,由统计模块400进一步统计预定时段内与其有关的数据的数据量。其统计方法也类似于步骤100,不再赘述。
在步骤304,数据分发基准生成模块402根据所统计的与第一类对象有关的数据量及已知的数据库信息生成意在将与第一类对象有关的数据均分在多个数据库内且意在将与第一类对象中的同一对象有关的数据设置在同一数据库中的第一数据分发基准;并且,数据分发基准生成模块402还根据所统计的与第二类对象有关的数据量并基于第一数据分发基准,生成第二数据分发基准,第二数据分发基准意在将属于同一数据库中与第二类对象中的同一对象有关的数据设置在该数据库的连续存储区,第二分发基准包括标识该连续存储区的区标识。有关第一数据分发基准的生成,不再赘述。现结合上文给出的具体例子进一步阐述第二数据分发基准。在统计了与第二类对像有关的数据之后,基于已知的数据库信息以及第一数据分发基准,计算并获得第二数据分发基准。举例说明,与第一类对象中的对象1有关的数据应存储在数据库20中的例如区域A,第二数据分发基准进一步确定出将与第二类对象中的对象1’有关并同时与第一类对象中的对象1有关的数据设置在数据库20中的区域A的一个连续存储区内,这个连续存储区也可称为一个技术分区。与第一类对象中的对象2有关的数据应存储在数据库20中的例如区域B,则可由第二数据分发基准确定出与第二类对象中的对象1’有关并同时与第一类对象中的对象2有关的数据应存储在数据库20中的区域B的一个连续存储区内。与第二类对象中的对象2’有关且与第一类对象中的对象1有关的数据,第二数据分发基准进一步确定出该数据应存储在数据库20的A区域中的另一个连续区中。
在步骤306,在预定时段以后的数据处理过程中,数据分发模块404基于第一数据分发基准与第二数据分发基准分发数据,由此,在将与第一类对象有关的数据均分在数据库内的基础上,进一步将与第二类对象中的同一对象有关且与同一个第一类对象有关的数据存储在连续区域内,并至少将第一标识与第二标识、以及第二数据分发基准中的区标识发送给应用,以便应用依据所述第一标识与第二标识、及区标识获取数据。
本发明还提供一种数据处理系统中均衡负载的系统。该均衡负载的系统包括统计模块、数据分发基准生成模块、以及数据分发模块。该统计模块配置成针对第一类对象中的每一个对象,统计预定时段内与其有关的数据的数据量。该数据分发基准生成模块配置成根据所统计的数据量及已知的数据库信息,生成第一数据分发基准,所述第一数据分发基准意在将与第一类对象有关的数据均分在多个数据库内且意在将与所述第一类对象中的同一对象有关的数据设置在同一数据库中,所述第一数据分发基准包括第一标识、第二标识及第三标识,所述第一标识标识出与数据有关第一类对象中的具体对象,所述第二标识标识出数据要被分发到的数据库,所述第三标识标识出数据在其要被分发到的数据库中所处的区域。该数据分发模块配置成在预定时段以后的数据处理过程中,基于所述第一数据分发基准分发数据,并至少将第一标识与第二标识发送给应用,以便应用依据所述第一标识与第二标识获取数据。优选地,也将第三标识发送给应用。
根据本发明的又一个示例,该数据处理系统中均衡负载的系统可进一步被配置成可统计与第二类对象有关的数据并据此生成第二数据分发基准。具体地,统计模块被配置成还可针对第二类对象中的每一个,统计预定时段内与其有关的数据的数据量。数据分发基准生成模块可进一步配置成根据所统计的与第二类对象有关的数据的数据量并基于第一数据分发基准,生成第二数据分发基准,所述第二数据分发基准意在将属于同一数据库中与第二类对象中的同一对象有关的数据设置在该数据库的连续存储区,所述第二分发基准包括标识该连续存储区的区标识。数据分发模块进一步配置成在预定时段以后的数据处理过程中,基于所述第一数据分发基准分发数据的基础上,还基于第二数据分发基准将与第二类对象中的同一对象有关的数据分发在数据库的连续区。
该数据处理系统中均衡负载的系统的一个示例是上文图2中所示的均衡负载的系统40,因上文已对该系统40进行了说明,在此就不再对该均衡负载的系统的具体示例进行描述。
所述的均衡负载的系统可以实现为硬件、软件或硬件与软件的结合。类似地,均衡负载的系统40也可实现为硬件、软件或硬件与软件的结合。
以下给出将如上所述的数据处理系统中均衡负载的方法以及系统应用在电子交易数据处理系统中的示例。在该示例中,第一类对象是与交易处理有关的交易处理机构,例如各银行等,第二类对象是交易进行机构,如各商户。
图4是根据本发明的电子交易数据处理系统的结构示意图。如图所示,该电子交易数据处理系统包括数据库40-46,每个数据库40-46存储交易数据;包括交易清分应用50,交易文件生成应用51,清算汇总应用52,流水生成应用53,以及报表生成应用54;以及均衡负载的系统60,其包括统计模块600、数据分发基准生成模块602以及数据分发模块604。统计模块600统计一天内各机构存储到数据库的交易数据的数据量,数据分发基准生成模块602以及所统计的数据量以及数据库的容量确定第一数据分发基准,以便指导以后的交易数据在数据库中的分发。该第一数据分发基准意在让海量交易数据基本平均分布在数据库中40-46中,且使得同一机构的数据尽可能地被分发在同一数据库中。数据分发模块604在后续的(例如进行了统计及基准生成工作的次日)数据分发过程中,各机构的交易数据存储到数据库的过程中,数据分发模块604按照第一数据分发基准指示与各机构有关的交易数据具体应存储到哪个数据库,以及在一些情况下指示交易数据应存储到哪个数据库的哪个区域。此外,数据分发模块604还将第一数据分发基准中的有关机构的第一标识与标识出交易数据要被分发到的数据库的第二标识发送给应用50-54,以便它们据此直接访问所需的数据。
进一步,统计模块600还可以针对商户,统计与商户中的每一个具体商户有关的数据。数据分发基准生成模块602依据所统计的数据以及先前生成的第一数据分发基准生成第二数据分发基准。第二数据分发基准意在使与同一商户有关且与同一机构有关的数据被存储在数据库的连续存储区。例如机构为工行、农行以及建行,商户为第一商户与第二商户。按照第一数据分发基准,与工行有关的交易数据将存储在数据库40-41,与农行有关的交易数据将存储在数据库42-43,与建行有关的交易数据将存储在数据库44-46。在此前题下,根据统计模块对与第二对象中第一商户与第二商户有关的数据的分别统计,确定出第二数据分发基准。根据该第二数据分发基准,与第一商户有关并且与工行有关的数据存储在数据库40的第一区,该第一区是一个连续的存储区,将与第二商户有关且与工行有关的数据则存储在数据库40的第二区,该第二区同样是连续的存储区;与第一商户有关且与建行有关的数据存储在数据库45的第一区,其为连续存储区,与第二商户有关且与建行有关的数据存储在数据库45的第三区,其也为连续存储区。数据分发模块604在后续的数据分发过程中,将依据第一及第二数据分发基准将交易数据存储至相应的数据库及相应的存储区。数据分发模块604同时第一数据分发基准中的第一标识、第二标识以及第二数据分发基准的区标识发送给应用50-54。
在此情况下,交易清分应用50在需要处理与第一商户和建行有关的交易数据时,只需要根据所收到的第一标识(由该第一标识获知与建行有关的数据)、第二标识(由该标识获取与建行有关的数据存储在哪个数据库)、以及第二数据分发基准所提供的区标识(据其获知在确定的数据库中,与第一商户有关的数据存储在该数据库的哪个区),可直接访问且仅访问存储有与第一商户以及建行有关的交易数据所在的数据区,而无需访问该数据库中的任何其它存储区以及任何其它数据库。同样的情况适用于其它应用。
需要说明的是,在以上所有的示例中,仅示意具体数目的数据库,但实际上数据库的数目可能更多也可能更少,视具体情况而定,同样地,应用也视具体情况而定。在统计数据过程中,预定时段在本说明中均为一日,但实际应用中可根据需要设置,例如为2日等。
常规技术中,在将数据存储到数据库的过程中,并没有考虑按照第一类对象中的各具体对象及第二类对象中的具体对象来存储在不同的数据库中的连续区域中,就使得应用在访问数据库的过程中可能同时涌向统一数据库从而造成访问堵塞。
执行本发明的方法和/或应用本发明的系统,将与第一类对象有关的数据按照具体对象分布在不同的数据库,进一步将与第二类对象有关的数据分布在数据库的连续区域,由此使得应用可直接访问需要的数据所处的位置,避免了访问的盲目性,也在一定程度上避免了堵塞。并且,实施本发明所提供的方法和/或系统,因为可根据每一天的交易数据情况进行统计、获取新的分发基准等,即可根据每一天的交易数据情况进行学习,从而可从当天的交易数据情况获得数据分发基准以指导次日的数据分发(即,数据在数据库中的存储),使其平均分发在不同的数据库,从而避免了数据库资源的浪费而且减少了单个数据库的负担。由于本发明所提供的方法和/或系统,在增加了数据库容量的情况下,只需要向均衡交易的系统配置新增数据库容量的参数,而无需更为复杂的设置,因此也有利于与交易数据处理系统的横向扩展。
Claims (6)
1.一种数据处理系统中均衡负载的方法,包括:
针对第一类对象中的每一个对象,统计预定时段内与其有关的数据的数据量;
根据所统计的数据量及已知的数据库信息,生成第一数据分发基准,所述第一数据分发基准意在将与第一类对象有关的数据均分在多个数据库内且意在将与所述第一类对象中的同一对象有关的数据设置在同一数据库中,所述第一数据分发基准包括第一标识、第二标识及第三标识,所述第一标识标识出与数据有关的第一类对象中的具体对象,所述第二标识标识出数据要被分发到的数据库,所述第三标识标识出数据在其要被分发到的数据库中所处的区域;在预定时段以后的数据处理过程中,基于所述第一数据分发基准分发数据,并至少将第一标识与第二标识发送给应用,以便应用依据所述第一标识与第二标识获取数据。
2.如权利要求1所述的均衡负载的方法,还包括:
针对第二类对象中的每一个,统计预定时段内与其有关的数据的数据量;在此情况下:
所述根据所统计的数据量及已知的数据库信息,生成第一数据分发基准进一步包括根据所统计的与第二类对象有关的数据的数据量并基于第一数据分发基准,生成第二数据分发基准,所述第二数据分发基准意在将属于同一数据库且与第二类对象中的同一对象有关的数据设置在该数据库的连续存储区,所述第二数据分发基准包括标识该连续存储区的区标识;以及基于所述第一数据分发基准分发数据,并至少将第一标识与第二标识发送给应用还包括在预定时段以后的数据处理过程中,在基于所述第一数据分发基准分发数据的基础上,还基于第二数据分发基准将与第二类对象中的同一对象有关的数据分发在数据库的连续区。
3.如权利要求1到2中任意一项所述的均衡负载的方法,其中,所述预定时段为一日。
4.一种数据处理系统中均衡负载的系统,包括:
统计模块,用于针对第一类对象中的每一个对象,统计预定时段内与其有关的数据的数据量;
数据分发基准生成模块,其用于根据所统计的数据量及已知的数据库信息,生成第一数据分发基准,所述第一数据分发基准意在将与第一类对象有关的数据均分在多个数据库内且意在将与所述第一类对象中的同一对象有关的数据设置在同一数据库中,所述第一数据分发基准包括第一标识、第二标识及第三标识,所述第一标识标识出与数据有关第一类对象中的具体对象,所述第二标识标识出数据要被分发到的数据库,所述第三标识标识出数据在其要被分发到的数据库中所处的区域;
数据分发模块,其用于在预定时段以后的数据处理过程中,基于所述第一数据分发基准分发数据,并至少将第一标识与第二标识发送给应用,以便应用依据所述第一标识与第二标识获取数据。
5.如权利要求4所述的均衡负载的系统,其中,所述统计模块还设置成用于针对第二类对象中的每一个,统计预定时段内与其有关的数据的数据量;
所述数据分发基准生成模块进一步配置成根据所统计的与第二类对象有关的数据的数据量并基于第一数据分发基准,生成第二数据分发基准,所述第二数据分发基准意在将属于同一数据库且与第二类对象中的同一对象有关的数据设置在该数据库的连续存储区,所述第二数据分发基准包括标识该连续存储区的区标识;
所述数据分发模块进一步配置成在预定时段以后的数据处理过程中,在基于所述第一数据分发基准分发数据的基础上,还基于第二数据分发基准将与第二类对象中的同一对象有关的数据分发在数据库的连续区。
6.如权利要求4-5中任意一项所述的均衡负载的系统,其中,所述预定时段为一日。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201310550295.5A CN104636347B (zh) | 2013-11-08 | 2013-11-08 | 数据处理系统中均衡负载的方法及系统 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201310550295.5A CN104636347B (zh) | 2013-11-08 | 2013-11-08 | 数据处理系统中均衡负载的方法及系统 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN104636347A CN104636347A (zh) | 2015-05-20 |
CN104636347B true CN104636347B (zh) | 2018-02-23 |
Family
ID=53215119
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201310550295.5A Active CN104636347B (zh) | 2013-11-08 | 2013-11-08 | 数据处理系统中均衡负载的方法及系统 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN104636347B (zh) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106610868A (zh) * | 2015-10-21 | 2017-05-03 | 阿里巴巴集团控股有限公司 | 一种负载均衡方法及装置 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101635728A (zh) * | 2009-09-02 | 2010-01-27 | 中兴通讯股份有限公司 | 内容分发网络中数据同步的方法及系统 |
CN102054000A (zh) * | 2009-10-28 | 2011-05-11 | 中国移动通信集团公司 | 数据查询方法、装置及系统 |
CN102567416A (zh) * | 2010-12-28 | 2012-07-11 | 中国银联股份有限公司 | 一种负载均衡的分布式数据统计方法及系统 |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9177004B2 (en) * | 2009-11-25 | 2015-11-03 | Bmc Software, Inc. | Balancing data across partitions of a table space during load processing |
-
2013
- 2013-11-08 CN CN201310550295.5A patent/CN104636347B/zh active Active
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101635728A (zh) * | 2009-09-02 | 2010-01-27 | 中兴通讯股份有限公司 | 内容分发网络中数据同步的方法及系统 |
CN102054000A (zh) * | 2009-10-28 | 2011-05-11 | 中国移动通信集团公司 | 数据查询方法、装置及系统 |
CN102567416A (zh) * | 2010-12-28 | 2012-07-11 | 中国银联股份有限公司 | 一种负载均衡的分布式数据统计方法及系统 |
Also Published As
Publication number | Publication date |
---|---|
CN104636347A (zh) | 2015-05-20 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110162388A (zh) | 一种任务调度方法、系统及终端设备 | |
CN102314336B (zh) | 一种数据处理方法和系统 | |
CN107656966A (zh) | 一种处理数据的方法及服务器 | |
CN109146381A (zh) | 物流数据监控方法、装置、电子设备及计算机存储介质 | |
CN109582452A (zh) | 一种容器调度方法、调度装置及电子设备 | |
CN104753706B (zh) | 一种分布式集群配置管理方法及装置 | |
CN109299190A (zh) | 分布式存储系统中处理对象的元数据的方法及装置 | |
CN106980571A (zh) | 一种测试用例集的构建方法和设备 | |
CN107193822A (zh) | 用于分页查询的方法、装置及设备 | |
CN108446989B (zh) | 手续费确定方法及终端设备 | |
CN104424347A (zh) | 在应用开发阶段期间预测查询所经过的响应时间的系统和方法 | |
CN109739433A (zh) | 数据处理的方法及终端设备 | |
CN106534303B (zh) | 一种应用于对账系统的负载均衡方法和装置 | |
CN104636347B (zh) | 数据处理系统中均衡负载的方法及系统 | |
CN105893156B (zh) | 存储计算系统中的请求处理方法及存储计算系统 | |
Sakhaii et al. | A robust model for a dynamic cellular manufacturing system with production planning | |
CN102098223B (zh) | 节点设备调度方法、装置和系统 | |
CN104636348B (zh) | 数据处理系统中均衡负载的方法及系统 | |
US9794743B2 (en) | Method for performing distributed geographic event processing and geographic event processing system | |
CN109495435A (zh) | 服务器的防火墙更新方法和装置 | |
CN110363638A (zh) | 金融业务中非目标用户的业务处理方法、装置和电子设备 | |
CN109445863A (zh) | 一种基于fpga的数据处理方法、装置、设备及介质 | |
CN109582476A (zh) | 数据处理方法、装置及系统 | |
CN109902698A (zh) | 信息生成方法和装置 | |
Giacobbe et al. | The internet of things in oil and gas industry: a multi criteria decision making brokerage strategy |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |