CN115102961A - 一种高并发网络访问分流方法及装置 - Google Patents
一种高并发网络访问分流方法及装置 Download PDFInfo
- Publication number
- CN115102961A CN115102961A CN202210642144.1A CN202210642144A CN115102961A CN 115102961 A CN115102961 A CN 115102961A CN 202210642144 A CN202210642144 A CN 202210642144A CN 115102961 A CN115102961 A CN 115102961A
- Authority
- CN
- China
- Prior art keywords
- server
- data
- slave
- current backup
- main
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
- H04L67/10—Protocols in which an application is distributed across nodes in the network
- H04L67/1001—Protocols in which an application is distributed across nodes in the network for accessing one among a plurality of replicated servers
- H04L67/1004—Server selection for load balancing
- H04L67/1008—Server selection for load balancing based on parameters of servers, e.g. available memory or workload
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L41/00—Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
- H04L41/06—Management of faults, events, alarms or notifications
- H04L41/0654—Management of faults, events, alarms or notifications using network fault recovery
- H04L41/0663—Performing the actions predefined by failover planning, e.g. switching to standby network elements
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
- Y02D30/00—Reducing energy consumption in communication networks
- Y02D30/50—Reducing energy consumption in communication networks in wire-line communication networks, e.g. low power modes or reduced link rate
Landscapes
- Engineering & Computer Science (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Computer Hardware Design (AREA)
- General Engineering & Computer Science (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本发明公开了一种高并发网络访问分流方法及装置,应用于高并发分流系统中的协调器,方法包括:接收应用服务器发来的用户请求,将用户请求分类为读请求和写请求;将读请求发送至从服务器,将写请求发送至主服务器;根据用户请求的数据对象被读写的次数,从各个主服务器以及各个从服务器中筛选出高频访问数据,将高频访问数据备份到当前备份服务器中;在主服务器中的服务器之一负载超限时将当前备份服务器转为主服务器使用;在从服务器中的服务器之一负载超限时,将当前备份服务器转为从服务器使用。应用本发明实施例,减少了服务器数量降低了服务器成本。
Description
技术领域
本发明涉及数据分发技术领域,更具体涉及一种高并发网络访问分流方法及装置。
背景技术
负载均衡技术关注于带宽敏感的数据流,该技术充分考虑了数据中心网络拓扑的特性,其基于数据流的传输状态,动态地在多条路径上进行负载调度,从而提高数据流的吞吐量。
服务器集群技术是比较常用的一种有效实现负载均衡的方法,它的主要方式是将多台的服务器以某种调度方式组合起来构成一个服务器集群,该集群作为一个整体对外提供服务,由于集群服务器的整体性能远远高于单个服务器的性能,它能完成单个服务器无法完成的任务,并具有很强的容错能力。同时,我们也可以根据需求动态加入某些服务器或硬件,增加服务器的带宽和吞吐量,大大提高服务器的处理能力和吞吐量,增强了系统的伸缩性、灵活性和实用性。服务器集群技术可以提高系统整体对客户请求的响应速度。例如,可以建立通过LVS(Linux Virtual Server,Linux虚拟服务器)与负载均衡硬件设备相结合完成高并发的高可用集群架构软负载。LVS集群通过多个LVS负载均衡器完成对人物访问请求的转发。但LVS本身如果出现问题,则会导致整个中心无法对外提供服务,因此,需要对主LVS设置冗余备份节点、主负载均衡节点和备用负载均衡节点。平时由主负载均衡节点进行路由分发,备用负载均衡节点平时作为主负载均衡节点的备份,当主负载均衡节点出现故障的时候自动切换到备用负载均衡节点上面,当其恢复后再次切换回来,这样主备一起就实现了双机热备避免单点故障。
另外,为了提高集群可用性,可以使用数据分片技术、读写分离技术提高分布式数据库系统的可靠性以及大吞吐量。但是,数据分片技术不适合处理关系型数据,因为一旦使用数据分片架构,如果需要跨不同的节点做join,或者统计类型的操作,将会变得非常困难,应该尽量避免。所以说Sharding架构会损失部分关系型数据库的特性,比如join,从而使数据库退化为Key-Value store类型的存储。读写分离技术是将一台服务器作为主(Mater)数据库,以及从(Slaver)数据库使用。
现有技术中在进行负载均衡时分别为主服务器以及从服务器分别设置了备份服务器,设置的服务器数量较多,进而成本较大。
发明内容
本发明所要解决的技术问题在于提供了一种高并发网络访问分流方法及装置,以降低成本。
本发明是通过以下技术方案解决上述技术问题的:
本发明提供了一种高并发网络访问分流方法,应用于高并发分流系统中的协调器,所述系统包括:两两通信的代理器、协调器、数据库服务器,且所述数据库服务器包括主服务器、从服务器以及当前备份服务器,所述方法包括:
接收应用服务器发来的用户请求,将用户请求分类为读请求和写请求;将读请求发送至从服务器,将写请求发送至主服务器;
根据用户请求的数据对象被读写的次数,从各个主服务器以及各个从服务器中筛选出高频访问数据,将所述高频访问数据备份到当前备份服务器中;
在主服务器中的服务器之一负载超限时将当前备份服务器转为主服务器使用;在从服务器中的服务器之一负载超限时,将当前备份服务器转为从服务器使用。
可选的,所述将写请求发送至主服务器,包括
从主服务器中抽取出第一主服务器以及第二主服务器,其中,第一主服务器以及第二主服务器的数量为至少一个;
将第一主服务器中的被执行写请求并发大于设定阈值,且执行写请求耗时大于设定耗时的请求对象作为目标对象,将目标对象备份在第二主服务器中;
将目标对象的备份信息同步至调度器,所述调度器用于在第一主服务器的并发达到上限时,将针对目标对象的写请求调度至第二主服务器。
可选的,所述将读请求发送至从服务器,包括:
从从服务器中抽取出第一从服务器以及第二从服务器,其中,第一从服务器以及第二从服务器的数量为至少一个;
将第一从服务器中的被执行写请求并发大于设定阈值,且执行写请求耗时大于设定耗时的请求对象作为目标对象,将目标对象备份在第二从服务器中;
将目标对象的备份信息同步至调度器,所述调度器用于在第一从服务器的并发达到上限时,将针对目标对象的写请求调度至第二从服务器。
可选的,所述将所述高频访问数据备份到当前备份服务器中,包括:
从主服务器中以及从服务器的集合中选择出并发能力不小于高频访问数据的并发量的服务器作为当前备份服务器;
周期性监测当前备份服务器的并发能力是否小于高频访问数据的并发量,若是,从当前从主服务器中以及从服务器的集合中选择出并发能力不小于高频访问数据的并发量的服务器作为替代备份服务器;
控制替代服务器与当前备份服务器在闲时进行数据置换,并将当前备份服务器转为主服务器或者从服务器,将数据置换后的替代服务器作为当前备份服务器;
将当前备份服务器的标识信息广播至所有的主服务器以及从服务器。
可选的,所述控制替代服务器与当前备份服务器在闲时进行数据置换,包括:
获取替代服务器与当前备份服务器之间的剩余通信带宽、替代服务器第一剩余存储空间以及当前备份服务器的第二剩余存储空间;
获取第一剩余存储空间与第二剩余存储空间之间的最小值,根据所述最小值以及所述剩余通信带宽确定出每次数据置换的目标数据量;
控制替代服务器将目标数据量大小的第一数据置换单元同步至当前备份服务器,控制当前备份服务器将目标数据量大小的第二数据置换单元同步至替代服务器;替代服务器以及当前备份服务器分别验证第二数据置换单元以及第一数据置换单元是否出现错误;
若否,返回执行控制替代服务器将目标数据量大小的第一数据置换单元同步至当前备份服务器的步骤;
若是,当前备份服务器以及替代服务器分别进行出现错误的数据坏点的修复,在修复完成后,返回执行控制替代服务器将目标数据量大小的第一数据置换单元同步至当前备份服务器的步骤。
可选的,所述根据所述最小值以及所述剩余通信带宽确定出每次数据置换的目标数据量,包括:
利用公式,M=tb*B*k/min,计算出目标数据量,其中,
M为目标数据量;t为预设安全通信时长;b为剩余通信带宽;min为取第一剩余存储空间与第二剩余存储空间之间的最小值;B为当前时刻之前设定时段内的历史平均剩余通信带宽;k为预设目标数据量调节系数。
可选的,所述将所述高频访问数据备份到当前备份服务器中,包括:
针对高频访问数据中的每一个数据对象,获取与高频访问数据存在关联关系的其他数据对象,根据所述关联关系、所述数据对象以及其他数据对象生成对应的关系型数据;
针对每一个关系型数据所属关系类型,将关系型数据聚类分类,得到若干个聚类集合;为每一个聚类集合分配至少一个存储容量不小于聚类集合总数据量的当前备份服务器中。
可选的,所述将关系型数据聚类分类,得到若干个聚类集合,包括:
针对每一个关系型数据所属关系类型,将关系型数据聚类分类,得到关系型数据初始集合;
以关系型数据中包含的数据对象所属类型作为空间维度,以数据对象的值为坐标,将初始集合中的各个关系型数据映射为高维空间中的点,获取各点组成的点集的质心,以质心为中心,各点到质心的平均半径为半径形成的球状范围之内的点对应的关系型数据的集合作为聚类集合;
将初始集合中除聚类集合之外的关系型数据存储在与聚类集合对应的当前备份服务器延迟最短的其他备份服务器中,并建立当前备份服务器到所述其他备份服务器的映射关系。
本发明还提供了一种高并发网络访问分流装置,应用于高并发分流系统中的协调器,所述系统包括:两两通信的代理器、协调器、数据库服务器,且所述数据库服务器包括主服务器、从服务器以及当前备份服务器,所述装置包括:
接收模块,用于接收应用服务器发来的用户请求,将用户请求分类为读请求和写请求;将读请求发送至从服务器,将写请求发送至主服务器;
筛选模块,用于根据用户请求的数据对象被读写的次数,从各个主服务器以及各个从服务器中筛选出高频访问数据,将所述高频访问数据备份到当前备份服务器中;
设置模块,用于在主服务器中的服务器之一负载超限时将当前备份服务器转为主服务器使用;在从服务器中的服务器之一负载超限时,将当前备份服务器转为从服务器使用。
可选的,所述接收模块,用于
从主服务器中抽取出第一主服务器以及第二主服务器,其中,第一主服务器以及第二主服务器的数量为至少一个;
将第一主服务器中的被执行写请求并发大于设定阈值,且执行写请求耗时大于设定耗时的请求对象作为目标对象,将目标对象备份在第二主服务器中;
将目标对象的备份信息同步至调度器,所述调度器用于在第一主服务器的并发达到上限时,将针对目标对象的写请求调度至第二主服务器。
可选的,所述接收模块,用于:
从从服务器中抽取出第一从服务器以及第二从服务器,其中,第一从服务器以及第二从服务器的数量为至少一个;
将第一从服务器中的被执行写请求并发大于设定阈值,且执行写请求耗时大于设定耗时的请求对象作为目标对象,将目标对象备份在第二从服务器中;
将目标对象的备份信息同步至调度器,所述调度器用于在第一从服务器的并发达到上限时,将针对目标对象的写请求调度至第二从服务器。
可选的,所述筛选模块,用于:
从主服务器中以及从服务器的集合中选择出并发能力不小于高频访问数据的并发量的服务器作为当前备份服务器;
周期性监测当前备份服务器的并发能力是否小于高频访问数据的并发量,若是,从当前从主服务器中以及从服务器的集合中选择出并发能力不小于高频访问数据的并发量的服务器作为替代备份服务器;
控制替代服务器与当前备份服务器在闲时进行数据置换,并将当前备份服务器转为主服务器或者从服务器,将数据置换后的替代服务器作为当前备份服务器;
将当前备份服务器的标识信息广播至所有的主服务器以及从服务器。
本发明相比现有技术具有以下优点:
本发明通过建立备份服务器,并将高频访问数据备份在备份服务器中,在主服务器或者从服务器并发不足时,将备份服务器作为主服务器或者从服务器使用以支持并发能力的扩增,相对于现有技术中分别设置一台主服务器和从服务器的备份,实现了单台备份服务器或者的有针对性的双功能切换,提高了针对高频访问数据的并发能力的同时,减少了服务器数量降低了服务器成本。
附图说明
图1为本发明实施例提供的一种高并发网络访问分流方法的流程示意图;
图2为本发明实施例提供的一种高并发网络访问分流系统的结构示意图。
具体实施方式
下面对本发明的实施例作详细说明,本实施例在以本发明技术方案为前提下进行实施,给出了详细的实施方式和具体的操作过程,但本发明的保护范围不限于下述的实施例。
实施例1
图1为本发明实施例提供的一种高并发网络访问分流方法的流程示意图,如图1所示,应用于高并发分流系统中的协调器。
图2为本发明实施例提供的一种高并发网络访问分流系统的结构示意图,如图2所示,所述系统包括:两两通信的代理器、协调器、数据库服务器,且所述数据库服务器包括主服务器、从服务器以及当前备份服务器,所述方法包括:代理器用于从多个候选服务中选出领袖选举并为整个集群提供同步服务。其核心是管理一个大型配置树。它支持对该树的事务性读写请求,其他服务器可以订阅HTTP回调以对该树的所有更改。一个或多个代理器在集群中组成代理组。为满足容错性,各代理器都采用了分布式系统一致性协议,保证集群中无冲突配置的管理。协调器,用于提供客户端访问入口,负责查询请求的解析、执行计划的优化与协调集群任务的执行;数据库服务器:负责数据的物理存储以及响应协调器的查询请求。数据库服务器托管分片数据,并执行同步复制。
本发明实施例1所示方法包括以下步骤:
S101:接收应用服务器发来的用户请求,将用户请求分类为读请求和写请求;将读请求发送至从服务器,将写请求发送至主服务器。
示例性的,用户在客户端发起读请求或者写请求,客户端将用户发起的请求发送至应用服务器。应用服务器将用户发起的请求发送至协调器,协调器根据用户发起的请求对象的不同,以及属于读请求还是写请求,将该请求发送至对应的主服务器,或者对应的从服务器。例如,主服务器A主要负责地图信息的写请求,从服务器B主要负责商铺信息的读操作,协调器在接收到针对请求对象为地图信息的写请求时,将用户发起的该请求调配至主服务器A,针对其他的请求,也按照上述方案进行处理。
进一步的,在实际应用中,为了提高主服务器的可靠性,增加了以下步骤:
从主服务器中抽取出第一主服务器以及第二主服务器,其中,第一主服务器以及第二主服务器的数量包括但不仅限于1个,20个,或者100个。将第一主服务器中的被执行写请求并发大于设定阈值,且执行写请求耗时大于设定耗时的请求对象作为目标对象,将目标对象备份在第二主服务器中。可以理解的是,第二主服务器并不是预先设置的用于分布式存储目标对象的主服务器,而是没有存储目标对象的主服务器。再将目标对象的备份信息同步至调度器,所述调度器用于在第一主服务器的并发达到上限时,将针对目标对象的写请求调度至第二主服务器。
例如,系统包括n个主服务器,系统筛选每一个主服务器中的请求对象,统计针对该请求对象的写请求的并发量p,以及该主服务器处理针对该请求对象的写请求的耗时c;在并发量p是否大于1000次每秒,且每执行一次写请求的耗时c大于20ms时,判定该请求对象目标对象,然后将具有目标对象的各个主服务器作为第一主服务器;将不具备目标对象的主服务器作为第二主服务器;然后,将目标对象拷贝至第二主服务器中。
调度器实时获取各个主服务器的实时并发量,同时调度器也存储有各个请求对象的存储主服务器的标识信息。以第一主服务器A为例,当第一主服务器A的并发量达到并发的上限时,说明第一主服务器A不能再接收调度器调度的写请求了,因此,调度器会将原本应当调度至第一主服务器A的写请求调度至其他具备目标对象的主服务器中。在其他其他具备目标对象的主服务器也达到了并发的上限时,调度器会将原本应当调度至第二主服务器。
应用本发明上述实施例,将第一主服务器中筛选出的目标对象存储到第二主服务器中,在并发能力不足时,由第二主服务器提供并发能力,提高了系统的吞吐量,避免了高并发下的系统宕机,进而提高了系统的可靠性。同时,本发明实施例实时监测以实现目标对象的生成与备份,进而实现了第二主服务器的动态生成,进而可以自适应的根据并发情况提高系统的吞吐量。
更进一步的,可将可用并发能力最强的主服务器作为第二主服务器,例如,统计各个未存储目标对象的主服务器的历史并发量,将历史并发量占并发上限比值最低的主服务器作为第二主服务器。应用本发明上述实施例,可以最大可能的提高针对目标对象的并发能力。
类似的,在进行从服务器的读请求的执行中也可以使用上述方法,本发明实施例再次不再进行赘述。
S102:根据用户请求的数据对象被读写的次数,从各个主服务器以及各个从服务器中筛选出高频访问数据,将所述高频访问数据备份到当前备份服务器中。
具体的,针对每一台主服务器,统计该主服务器中存储的数据对象被执行写请求的并发数据,判断该并发数据是否大于预设阈值,若是,将该数据对象设为高频访问数据,若否,判断下一个数据对象,装置将主服务器中的所有数据对象都判断完成。类似的针对从服务器中的数据对象,逐一判断该数据对象被执行读请求的并发数据,然后,得到从服务器中存储的数据对象中的高频访问数据。
从所有高频访问数据中,获取最高并发量,将最高并发量作为筛选主服务器以及筛选从服务器的标准,将并发能力高于最高并发量的主服务器或者从服务器作为当前备份服务器。当然,在实际应用中,可以将每一个时刻时高频访问数据的被执行写请求或者读请求的并发量的累计之和计算出针对高频访问数据的每一个时刻的总并发量,根据总并发量筛选出当前备份服务器。
在确定备份服务器之后,还需要周期性监测当前备份服务器的并发能力是否小于高频访问数据的并发量,若是,从当前从主服务器中以及从服务器的集合中选择出并发能力不小于高频访问数据的并发量的服务器作为替代备份服务器。可以理解的是,监测当前备份服务器的并发能力是否小于高频访问数据的并发量可以为监测当前备份服务器的并发能力是否小于高频访问数据每一时刻的总并发量。
控制替代服务器与当前备份服务器在闲时,如针对替代服务器与当前备份服务器的并发量最低时进行数据置换,并将当前备份服务器转为主服务器或者从服务器,将数据置换后的替代服务器作为当前备份服务器;这样就可以完成将替代服务器中的数据转存到当前备份服务器,将当前备份服务器的数据转存到替代服务器中。
将当前备份服务器的标识信息广播至所有的主服务器以及从服务器。所有的主服务器以及从服务器均可以知晓数据对象的备份的存储位置,以进行数据的同步。
进一步的,可以获取替代服务器与当前备份服务器之间的剩余通信带宽、替代服务器第一剩余存储空间以及当前备份服务器的第二剩余存储空间;
获取第一剩余存储空间与第二剩余存储空间之间的最小值,利用公式,M=tb/min*B*k,计算出目标数据量,其中,M为目标数据量;t为预设安全通信时长;b为剩余通信带宽;min为取第一剩余存储空间与第二剩余存储空间之间的最小值;B为当前时刻之前设定时段内的历史平均剩余通信带宽;k为预设目标数据量调节系数。
控制替代服务器将目标数据量大小的第一数据置换单元同步至当前备份服务器,控制当前备份服务器将目标数据量大小的第二数据置换单元同步至替代服务器;替代服务器以及当前备份服务器分别验证第二数据置换单元以及第一数据置换单元是否出现错误;
若否,返回执行控制替代服务器将目标数据量大小的第一数据置换单元同步至当前备份服务器的步骤;
若是,当前备份服务器以及替代服务器分别进行出现错误的数据坏点的修复,在修复完成后,返回执行控制替代服务器将目标数据量大小的第一数据置换单元同步至当前备份服务器的步骤,装置替代服务器以及当前备份服务器中的数据对象都被置换。在进行数据置换的过程中,每一次置换均将目标数据量大小的数据进行置换,通常情况下,目标数据量远远小于替代服务器或者当前备份服务器中存储的数据对象的总量。
应用本发明上述实施例,可以根据实际情况调节数据置换过程中每一次置换时发送的数据量的大小,提高系统的稳定性。
S103:在主服务器中的服务器之一负载超限时将当前备份服务器转为主服务器使用;在从服务器中的服务器之一负载超限时,将当前备份服务器转为从服务器使用。
是理性的,可以将服务器的负载达到最大负载的95%作为负载超限的判断标准,当主服务器中的服务器之一负载达到95%时将当前备份服务器转为主服务器使用;在从服务器中的服务器之一负载达到95%时,将当前备份服务器转为从服务器使用。
实施例2
基于本发明实施例1,本发明实施例2还提供了另一种高并发网络访问分流方法,所述将所述高频访问数据备份到当前备份服务器中,包括:
针对高频访问数据中的每一个数据对象,获取与高频访问数据存在关联关系的其他数据对象,根据所述关联关系、所述数据对象以及其他数据对象生成对应的关系型数据;针对每一个关系型数据所属关系类型,将关系型数据聚类分类,得到若干个聚类集合;为每一个聚类集合分配至少一个存储容量不小于聚类集合总数据量的当前备份服务器中。
例如,高频访问数据中包含了数据对象1、数据对象2、数据对象3;而数据对象1与数据对象11之间存在关联关系共同组成关系型数据1,数据对象11可以存储在主服务器中也可以存储在从服务器中。类似的,进而得到数据对象2以及数据对象3分别对应的关系型数据2、以及关系型数据3.。
然后利用聚类算法对各个关系型数据进行聚类,得到各个聚类集合。由于不同的聚类集合中包含的数据量存在区别,而且不同的服务器的存储容量也有区别,因此,为了将属于同一个聚类集合的关系型数据存储在同一个服务器上,需要保证存储聚类集合的当前备份服务器的存储容量大于聚类集合中包含的数据量。
利用高频数据筛选、关系型数据对应数据对象提取,以及关系型数据聚类三个技术特征的叠加作用,实现了高频数据的快速访问,同时避免了关系型数据被切分数据分片导致的数据被割裂的问题。
更进一步的,所述将关系型数据聚类分类,得到若干个聚类集合,包括:
针对每一个关系型数据所属关系类型,将关系型数据聚类分类,得到关系型数据初始集合;
以关系型数据中包含的数据对象所属类型作为空间维度,以数据对象的值为坐标,将初始集合中的各个关系型数据映射为高维空间中的点,获取各点组成的点集的质心,以质心为中心,各点到质心的平均半径为半径形成的球状范围之内的点对应的关系型数据的集合作为聚类集合;将初始集合中除聚类集合之外的关系型数据存储在与聚类集合对应的当前备份服务器延迟最短的其他备份服务器中,并建立当前备份服务器到所述其他备份服务器的映射关系。将除聚类集合之外的关系型数据存储在与聚类集合对应的当前备份服务器延迟最短的其他备份服务器中,当用户向当前备份服务器发送读写请求时,当前备份服务器未查询到对应的关系型数据时,将读写请求转发到其他备份服务器,相对于由调度器根据当前备份服务器返回的无查询到的响应,并根据该响应向其他备份服务器发送读写请求,需要执行一次接收,两次发送,占用了较多的调度资源,本发明实施例直接将读写请求发送至其他备份服务器,调度器仅需要执行一次读写请求的发送,节省调度资源,同时充分利用了当前备份服务器与其他备份服务之间的内部带宽,进而提高了系统的并发能力。
另外,应用本发明实施例,可以使相近的数据存储在同一个当前备份服务器中,提高检索效率。
实施例3
对应于本发明实施例1,本发明实施例3还提供了一种高并发网络访问分流装置,应用于高并发分流系统中的协调器,所述系统包括:两两通信的代理器、协调器、数据库服务器,且所述数据库服务器包括主服务器、从服务器以及当前备份服务器,所述装置包括:
接收模块,用于接收应用服务器发来的用户请求,将用户请求分类为读请求和写请求;将读请求发送至从服务器,将写请求发送至主服务器;
筛选模块,用于根据用户请求的数据对象被读写的次数,从各个主服务器以及各个从服务器中筛选出高频访问数据,将所述高频访问数据备份到当前备份服务器中;
设置模块,用于在主服务器中的服务器之一负载超限时将当前备份服务器转为主服务器使用;在从服务器中的服务器之一负载超限时,将当前备份服务器转为从服务器使用。
可选的,所述接收模块,用于
从主服务器中抽取出第一主服务器以及第二主服务器,其中,第一主服务器以及第二主服务器的数量为至少一个;
将第一主服务器中的被执行写请求并发大于设定阈值,且执行写请求耗时大于设定耗时的请求对象作为目标对象,将目标对象备份在第二主服务器中;
将目标对象的备份信息同步至调度器,所述调度器用于在第一主服务器的并发达到上限时,将针对目标对象的写请求调度至第二主服务器。
可选的,所述接收模块,用于:
从从服务器中抽取出第一从服务器以及第二从服务器,其中,第一从服务器以及第二从服务器的数量为至少一个;
将第一从服务器中的被执行写请求并发大于设定阈值,且执行写请求耗时大于设定耗时的请求对象作为目标对象,将目标对象备份在第二从服务器中;
将目标对象的备份信息同步至调度器,所述调度器用于在第一从服务器的并发达到上限时,将针对目标对象的写请求调度至第二从服务器。
可选的,所述筛选模块,用于:
从主服务器中以及从服务器的集合中选择出并发能力不小于高频访问数据的并发量的服务器作为当前备份服务器;
周期性监测当前备份服务器的并发能力是否小于高频访问数据的并发量,若是,从当前从主服务器中以及从服务器的集合中选择出并发能力不小于高频访问数据的并发量的服务器作为替代备份服务器;
控制替代服务器与当前备份服务器在闲时进行数据置换,并将当前备份服务器转为主服务器或者从服务器,将数据置换后的替代服务器作为当前备份服务器;
将当前备份服务器的标识信息广播至所有的主服务器以及从服务器。
以上所述仅为本发明的较佳实施例而已,并不用以限制本发明,凡在本发明的精神和原则之内所作的任何修改、等同替换和改进等,均应包含在本发明的保护范围之内。
Claims (10)
1.一种高并发网络访问分流方法,其特征在于,应用于高并发分流系统中的协调器,所述系统包括:两两通信的代理器、协调器、数据库服务器,且所述数据库服务器包括主服务器、从服务器以及当前备份服务器,所述方法包括:
接收应用服务器发来的用户请求,将用户请求分类为读请求和写请求;将读请求发送至从服务器,将写请求发送至主服务器;
根据用户请求的数据对象被读写的次数,从各个主服务器以及各个从服务器中筛选出高频访问数据,将所述高频访问数据备份到当前备份服务器中;
在主服务器中的服务器之一负载超限时将当前备份服务器转为主服务器使用;在从服务器中的服务器之一负载超限时,将当前备份服务器转为从服务器使用。
2.根据权利要求1所述的一种高并发网络访问分流方法,其特征在于,所述将写请求发送至主服务器,包括
从主服务器中抽取出第一主服务器以及第二主服务器,其中,第一主服务器以及第二主服务器的数量为至少一个;
将第一主服务器中的被执行写请求并发大于设定阈值,且执行写请求耗时大于设定耗时的请求对象作为目标对象,将目标对象备份在第二主服务器中;
将目标对象的备份信息同步至调度器,所述调度器用于在第一主服务器的并发达到上限时,将针对目标对象的写请求调度至第二主服务器。
3.根据权利要求1所述的一种高并发网络访问分流方法,其特征在于,所述将读请求发送至从服务器,包括:
从从服务器中抽取出第一从服务器以及第二从服务器,其中,第一从服务器以及第二从服务器的数量为至少一个;
将第一从服务器中的被执行写请求并发大于设定阈值,且执行写请求耗时大于设定耗时的请求对象作为目标对象,将目标对象备份在第二从服务器中;
将目标对象的备份信息同步至调度器,所述调度器用于在第一从服务器的并发达到上限时,将针对目标对象的写请求调度至第二从服务器。
4.根据权利要求1所述的一种高并发网络访问分流方法,其特征在于,所述将所述高频访问数据备份到当前备份服务器中,包括:
从主服务器中以及从服务器的集合中选择出并发能力不小于高频访问数据的并发量的服务器作为当前备份服务器;
周期性监测当前备份服务器的并发能力是否小于高频访问数据的并发量,若是,从当前从主服务器中以及从服务器的集合中选择出并发能力不小于高频访问数据的并发量的服务器作为替代备份服务器;
控制替代服务器与当前备份服务器在闲时进行数据置换,并将当前备份服务器转为主服务器或者从服务器,将数据置换后的替代服务器作为当前备份服务器;
将当前备份服务器的标识信息广播至所有的主服务器以及从服务器。
5.根据权利要求4所述的一种高并发网络访问分流方法,其特征在于,所述控制替代服务器与当前备份服务器在闲时进行数据置换,包括:
获取替代服务器与当前备份服务器之间的剩余通信带宽、替代服务器第一剩余存储空间以及当前备份服务器的第二剩余存储空间;
获取第一剩余存储空间与第二剩余存储空间之间的最小值,根据所述最小值以及所述剩余通信带宽确定出每次数据置换的目标数据量;
控制替代服务器将目标数据量大小的第一数据置换单元同步至当前备份服务器,控制当前备份服务器将目标数据量大小的第二数据置换单元同步至替代服务器;替代服务器以及当前备份服务器分别验证第二数据置换单元以及第一数据置换单元是否出现错误;
若否,返回执行控制替代服务器将目标数据量大小的第一数据置换单元同步至当前备份服务器的步骤;
若是,当前备份服务器以及替代服务器分别进行出现错误的数据坏点的修复,在修复完成后,返回执行控制替代服务器将目标数据量大小的第一数据置换单元同步至当前备份服务器的步骤。
6.根据权利要求5所述的一种高并发网络访问分流方法,其特征在于,所述根据所述最小值以及所述剩余通信带宽确定出每次数据置换的目标数据量,包括:
利用公式,M=tb*B*k/min,计算出目标数据量,其中,
M为目标数据量;t为预设安全通信时长;b为剩余通信带宽;min为取第一剩余存储空间与第二剩余存储空间之间的最小值;B为当前时刻之前设定时段内的历史平均剩余通信带宽;k为预设目标数据量调节系数。
7.根据权利要求6所述的一种高并发网络访问分流方法,其特征在于,所述将所述高频访问数据备份到当前备份服务器中,包括:
针对高频访问数据中的每一个数据对象,获取与高频访问数据存在关联关系的其他数据对象,根据所述关联关系、所述数据对象以及其他数据对象生成对应的关系型数据;
针对每一个关系型数据所属关系类型,将关系型数据聚类分类,得到若干个聚类集合;为每一个聚类集合分配至少一个存储容量不小于聚类集合总数据量的当前备份服务器中。
8.根据权利要求7所述的一种高并发网络访问分流方法,其特征在于,所述将关系型数据聚类分类,得到若干个聚类集合,包括:
针对每一个关系型数据所属关系类型,将关系型数据聚类分类,得到关系型数据初始集合;
以关系型数据中包含的数据对象所属类型作为空间维度,以数据对象的值为坐标,将初始集合中的各个关系型数据映射为高维空间中的点,获取各点组成的点集的质心,以质心为中心,各点到质心的平均半径为半径形成的球状范围之内的点对应的关系型数据的集合作为聚类集合;
将初始集合中除聚类集合之外的关系型数据存储在与聚类集合对应的当前备份服务器延迟最短的其他备份服务器中,并建立当前备份服务器到所述其他备份服务器的映射关系。
9.一种高并发网络访问分流装置,其特征在于,应用于高并发分流系统中的协调器,所述系统包括:两两通信的代理器、协调器、数据库服务器,且所述数据库服务器包括主服务器、从服务器以及当前备份服务器,所述装置包括:
接收模块,用于接收应用服务器发来的用户请求,将用户请求分类为读请求和写请求;将读请求发送至从服务器,将写请求发送至主服务器;
筛选模块,用于根据用户请求的数据对象被读写的次数,从各个主服务器以及各个从服务器中筛选出高频访问数据,将所述高频访问数据备份到当前备份服务器中;
设置模块,用于在主服务器中的服务器之一负载超限时将当前备份服务器转为主服务器使用;在从服务器中的服务器之一负载超限时,将当前备份服务器转为从服务器使用。
10.根据权利要求9所述的一种高并发网络访问分流装置,其特征在于,所述接收模块,用于
从主服务器中抽取出第一主服务器以及第二主服务器,其中,第一主服务器以及第二主服务器的数量为至少一个;
将第一主服务器中的被执行写请求并发大于设定阈值,且执行写请求耗时大于设定耗时的请求对象作为目标对象,将目标对象备份在第二主服务器中;
将目标对象的备份信息同步至调度器,所述调度器用于在第一主服务器的并发达到上限时,将针对目标对象的写请求调度至第二主服务器。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210642144.1A CN115102961A (zh) | 2022-06-08 | 2022-06-08 | 一种高并发网络访问分流方法及装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210642144.1A CN115102961A (zh) | 2022-06-08 | 2022-06-08 | 一种高并发网络访问分流方法及装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN115102961A true CN115102961A (zh) | 2022-09-23 |
Family
ID=83288302
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202210642144.1A Pending CN115102961A (zh) | 2022-06-08 | 2022-06-08 | 一种高并发网络访问分流方法及装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN115102961A (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN117610970A (zh) * | 2024-01-04 | 2024-02-27 | 成都开元精创信息技术有限公司 | 一种数据迁移工作的智能评估方法及系统 |
-
2022
- 2022-06-08 CN CN202210642144.1A patent/CN115102961A/zh active Pending
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN117610970A (zh) * | 2024-01-04 | 2024-02-27 | 成都开元精创信息技术有限公司 | 一种数据迁移工作的智能评估方法及系统 |
CN117610970B (zh) * | 2024-01-04 | 2024-04-02 | 成都开元精创信息技术有限公司 | 一种数据迁移工作的智能评估方法及系统 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11360854B2 (en) | Storage cluster configuration change method, storage cluster, and computer system | |
CN107888657B (zh) | 低延迟分布式存储系统 | |
CN102404390B (zh) | 高速实时数据库的智能化动态负载均衡方法 | |
US9367600B2 (en) | Policy-based storage structure distribution | |
WO2016150066A1 (zh) | 一种主节点选举方法、装置及存储系统 | |
CN103905537A (zh) | 分布式环境下管理工业实时数据存储的系统 | |
US11068499B2 (en) | Method, device, and system for peer-to-peer data replication and method, device, and system for master node switching | |
US9201747B2 (en) | Real time database system | |
CN102088490B (zh) | 数据存储方法、设备和系统 | |
JP5015965B2 (ja) | サーバ管理システムおよび方法 | |
WO2008157508A1 (en) | Shared data center disaster recovery systems and methods | |
JP2010134518A (ja) | 計算機システムの構成管理方法、計算機システム及び構成管理プログラム | |
CN106959820B (zh) | 一种数据提取方法和系统 | |
WO2015027901A1 (zh) | 一种云服务系统及方法 | |
CN111427670A (zh) | 任务调度方法和系统 | |
CN115102961A (zh) | 一种高并发网络访问分流方法及装置 | |
CN104410531A (zh) | 冗余的系统架构方法 | |
CN116304390B (zh) | 时序数据处理方法、装置、存储介质及电子设备 | |
CN112632193A (zh) | 一种分布式数据库集群系统数据分流方法 | |
CN109302319B (zh) | 报文池分布式集群及其管理方法 | |
CN109298949A (zh) | 一种分布式文件系统的资源调度系统 | |
CN113568749B (zh) | 基于Elasticsearch集群的shard分配方法 | |
CN109857588A (zh) | 基于多控存储系统的精简卷元数据处理方法、装置及系统 | |
CN115604271A (zh) | 一种基于微服务的软硬件互补的负载均衡方法 | |
CN113360279A (zh) | 一种异地多活系统的实现方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |