CN111447272A - 负载均衡方法及装置 - Google Patents

负载均衡方法及装置 Download PDF

Info

Publication number
CN111447272A
CN111447272A CN202010222956.1A CN202010222956A CN111447272A CN 111447272 A CN111447272 A CN 111447272A CN 202010222956 A CN202010222956 A CN 202010222956A CN 111447272 A CN111447272 A CN 111447272A
Authority
CN
China
Prior art keywords
node
service
information
processing parameter
network side
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202010222956.1A
Other languages
English (en)
Inventor
陈荣伟
尹攀
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Alipay Hangzhou Information Technology Co Ltd
Original Assignee
Alipay Hangzhou Information Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Alipay Hangzhou Information Technology Co Ltd filed Critical Alipay Hangzhou Information Technology Co Ltd
Priority to CN202010222956.1A priority Critical patent/CN111447272A/zh
Publication of CN111447272A publication Critical patent/CN111447272A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00Network arrangements or protocols for supporting network services or applications
    • H04L67/01Protocols
    • H04L67/10Protocols in which an application is distributed across nodes in the network
    • H04L67/1001Protocols in which an application is distributed across nodes in the network for accessing one among a plurality of replicated servers
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L47/00Traffic control in data switching networks
    • H04L47/10Flow control; Congestion control
    • H04L47/12Avoiding congestion; Recovering from congestion
    • H04L47/125Avoiding congestion; Recovering from congestion by balancing the load, e.g. traffic engineering
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00Network arrangements or protocols for supporting network services or applications
    • H04L67/01Protocols
    • H04L67/10Protocols in which an application is distributed across nodes in the network

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Signal Processing (AREA)
  • Telephonic Communication Services (AREA)

Abstract

本说明书一个或多个实施例公开了一种负载均衡方法及装置,用于解决现有负载均衡方案时效长、准确性低的问题。所述方法包括:采集所述第一节点的业务处理参数信息,所述业务处理参数信息包括负载信息、线程池中的队列信息、业务响应时间、报错信息中的至少一项。对所述业务处理参数信息进行分析,以及,根据所述业务处理参数信息的分析结果判断所述第一节点是否处于过载状态。若是,则执行针对所述第一节点的节点冷却操作。

Description

负载均衡方法及装置
技术领域
本说明书涉及负载均衡技术领域,尤其涉及一种负载均衡方法及装置。
背景技术
随着互联网应用的迅猛发展,服务系统每天需要处理巨大的业务流量,这背后是规模庞大的服务集群,其中的节点数量达到近千台以上。由于系统服务结果会直接影响用户的体验,因此集群中的任何一个节点抖动都会造成重大的影响。例如,在风控识别系统中,不止一次出现由于系统抖动或局部节点过热导致分析超时、风险漏过的问题,从而造成用户被欺诈、账户被盗等资损案件的发生。因此,需要通过负载均衡方案及时疏导过热节点上的业务流量,最大程度的降低影响。
传统的负载均衡器通过硬件或软件实现,需要在服务调用方维护一个全量服务清单,通过反复接收服务提供方的心跳信息、服务健康状况信息等来保证清单中的服务器可用,并根据负载均衡算法(如轮询、随机、加权轮询)从可用的服务列表中读取一台服务器进行服务调用。可见,对于传统的负载均衡方案,调用方需要周期性反复通过心跳、服务健康监测等远程手段才能感知,整个过程耗时长,反应慢。同时,由于负载均衡器需要维护、更新所有节点的状态数据,当集群规模扩大时,导致维护成本不断升高,时效性、准确性不断下降。
发明内容
一方面,本说明书一个或多个实施例提供一种负载均衡方法,应用于服务集群中的第一节点,包括:采集所述第一节点的业务处理参数信息,所述业务处理参数信息包括负载信息、线程池中的队列信息、业务响应时间、报错信息中的至少一项。对所述业务处理参数信息进行分析,以及,根据所述业务处理参数信息的分析结果判断所述第一节点是否处于过载状态。若是,则执行针对所述第一节点的节点冷却操作。
另一方面,本说明书一个或多个实施例提供一种负载均衡装置,应用于服务集群中的第一节点,包括:采集模块,采集所述第一节点的业务处理参数信息,所述业务处理参数信息包括负载信息、线程池中的队列信息、业务响应时间、报错信息中的至少一项。分析及判断模块,对所述业务处理参数信息进行分析,以及,根据所述业务处理参数信息的分析结果判断所述第一节点是否处于过载状态。冷却模块,若是,则执行针对所述第一节点的节点冷却操作。
再一方面,本说明书一个或多个实施例提供一种负载均衡设备,应用于服务集群中的第一节点,包括:处理器;以及被安排成存储计算机可执行指令的存储器,所述可执行指令在被执行时使所述处理器:采集所述第一节点的业务处理参数信息,所述业务处理参数信息包括负载信息、线程池中的队列信息、业务响应时间、报错信息中的至少一项。对所述业务处理参数信息进行分析,以及,根据所述业务处理参数信息的分析结果判断所述第一节点是否处于过载状态。若是,则执行针对所述第一节点的节点冷却操作。
再一方面,本说明书一个或多个实施例提供一种存储介质,用于存储计算机可执行指令,所述可执行指令在被执行时实现以下流程:采集所述第一节点的业务处理参数信息,所述业务处理参数信息包括负载信息、线程池中的队列信息、业务响应时间、报错信息中的至少一项。对所述业务处理参数信息进行分析,以及,根据所述业务处理参数信息的分析结果判断所述第一节点是否处于过载状态。若是,则执行针对所述第一节点的节点冷却操作。
附图说明
为了更清楚地说明本说明书一个或多个实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本说明书一个或多个实施例中记载的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动性的前提下,还可以根据这些附图获得其他的附图。
图1是根据本说明书一实施例的一种负载均衡系统的示意性结构图;
图2是根据本说明书一实施例的一种负载均衡方法的示意性流程图;
图3是根据本说明书另一实施例的一种负载均衡方法的示意性流程图;
图4是根据本说明书一实施例的一种负载均衡装置的示意性框图;
图5是根据本说明书一实施例的一种负载均衡设备的示意性框图。
具体实施方式
本说明书一个或多个实施例提供一种负载均衡方法及装置,用于解决现有负载均衡方案时效长、准确性低的问题。
为了使本技术领域的人员更好地理解本说明书一个或多个实施例中的技术方案,下面将结合本说明书一个或多个实施例中的附图,对本说明书一个或多个实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本说明书一部分实施例,而不是全部的实施例。基于本说明书一个或多个实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都应当属于本说明书一个或多个实施例保护的范围。
图1是根据本说明书一实施例的一种负载均衡系统的示意性结构图,如图1所示,负载均衡系统包括服务集群110和网络侧120。其中,服务集群110中包含多个服务节点,每个节点可以是一台能够独立处理业务流量的服务器,各节点之间可被独立部署,且各节点之间是松耦合的。图1中仅示意性地示出了五个节点(即五台服务器),实际应用中可根据需要配置多个节点。服务集群110中的任一个节点均可作为第一节点来执行本说明书提供的负载均衡方法。当然,服务集群110可设置在网络侧。
网络侧120可配置注册中心,注册中心用于记录服务集群110中的各节点信息与所服务的业务信息之间的映射关系。在服务集群110启动成功并准备对外提供服务后,可在注册中心注册各节点信息与所服务的业务信息之间的映射关系。网络侧120还可配置缓存器,缓存器用于缓存服务集群110中的各节点所上报的相关信息,包括节点的业务处理参数信息(如负载信息、线程池中的队列信息、业务响应时间、报错信息等)、节点的状态信息(如是否过载)等。
图2是根据本说明书一实施例的一种负载均衡方法的示意性流程图。该负载均衡方法应用于服务集群110中的第一节点,第一节点可以是服务集群110中的任一节点。图2所示的方法包括:
S202,采集第一节点的业务处理参数信息。
其中,业务处理参数信息包括负载信息(如负载数量)、线程池中的队列信息(如队列大小、队列积压占比)、业务响应时间、报错信息(如报错次数)等。
S204,对业务处理参数信息进行分析,以及,根据业务处理参数信息的分析结果判断第一节点是否处于过载状态。
S206,若第一节点处于过载状态,则执行针对第一节点的节点冷却操作。
采用本说明书一个或多个实施例的技术方案,第一节点通过采集自身的业务处理参数信息,并对采集到的业务处理参数信息(包括负载信息、线程池中的队列信息、业务响应时间、报错信息中的至少一项)进行分析,根据分析结果判断第一节点是否处于过载状态。可见,多维度的业务处理参数信息的分析结果使得过载节点的判断结果更加准确,从而提升负载均衡的准确性。此外,若第一节点处于过载状态,则执行针对第一节点的节点冷却操作。由于负载均衡所依赖的数据均实时来源于节点自身,与外部设备(如集群中的其他节点、集群外的其他设备等)均无交互,因此实现了数据的去中心化,具有时效性高、系统开销小的优势,且自主冷却的方式能够很大程度上保证业务的稳定。
在一个实施例中,第一节点采集自身的业务处理参数信息后,若业务处理参数信息满足以下任一项或多项条件,则确定第一节点处于过载状态:负载数量达到第一预设阈值、队列积压占比达到第二预设阈值、业务响应时间达到第三预设阈值、报错次数达到第四预设阈值。
在一个实施例中,可将第一节点的节点状态信息上报至网络侧(如上报至网络侧的缓存器),由网络侧缓存服务集群中的各节点的节点状态信息。其中,节点状态包括过载状态或未过载状态。通过向网络侧上报节点状态信息,可使得服务集群中的其他节点能够感知到服务集群的节点过载信息,如过载节点的数量。
基于此,第一节点在执行节点冷却操作时,可从网络侧获取各节点的节点状态信息,并根据各节点的节点状态信息确定服务集群中处于未过载状态的第二节点,进而将当前待处理的业务流量发送至第二节点。由第二节点对接收到的业务流量进行处理,以及将业务流量的处理结果发送至业务流量对应的客户端。业务流量对应的客户端可以是业务请求方。
在一个实施例中,仅在第一节点处于过载状态时,将第一节点的节点过载信息上报至网络侧。即,网络侧仅缓存处于过载状态的节点信息,而无需缓存处于未过载状态的健康节点的信息。因此,第一节点通过读取网络侧缓存的节点信息,即可确定出服务集群中哪些节点处于未过载状态、哪些节点处于过载状态。
服务集群中处于未过载状态的第二节点可包括一个节点或多个节点。若第二节点仅包括一个节点,则第一节点将当前待处理的业务流量全部发送至该第二节点。若第二节点包括多个节点,则第一节点可将当前待处理的业务流量分配至各第二节点。
第一节点将业务流量分配至各第二节点的分配方式可以是以下任一种:
方式一、将当前待处理的业务流量平均分配至各第二节点。
方式二、将当前待处理的业务流量随机分配至各第二节点。
方式三、从网络侧获取各第二节点的业务流量参数信息(如负载信息、线程池中的队列信息、业务响应时间、报错信息等),并对各第二节点的业务流量参数信息进行分析,以确定各第二节点当前的流量处理能力;进而根据各第二节点当前的流量处理能力为各第二节点分配业务流量。采用该方式三分配业务流量时,需各节点向网络侧上报各自的业务流量参数信息,且上报的业务流量参数信息对其他节点可见。
以业务流量参数信息包括负载信息为例。假设第二节点包括节点A和节点B。第一节点从网络侧获取节点A和节点B的负载信息,通过分析节点A和节点B的负载信息,确定出节点A和节点B的当前负载数量。进而根据节点A和节点B的当前负载数量,将当前待处理的业务流量分配至节点A和节点B。具体的,针对当前负载数量较多的节点,可分配较少的业务流量;针对当前负载数量较少的节点,可分配较多的业务流量。
再以业务流量参数信息包括负载信息和报错信息为例。假设第二节点包括节点C和节点D。第一节点从网络侧获取节点C和节点D的负载信息及报错信息,通过分析节点C和节点D的负载信息及报错信息,确定出节点C和节点D的当前负载数量及报错次数。进而根据节点C和节点D的当前负载数量及报错次数,将当前待处理的业务流量分配至节点C和节点D。具体的,针对当前负载数量较多、且报错次数较多的节点,可分配较少的业务流量;针对当前负载数量较少、且报错次数较少的节点,可分配较多的业务流量。
本实施例中,在第一节点处于过载状态时,通过将待处理的业务流量分配至处于未过载状态的第二节点(即健康节点),使得服务集群中的健康节点可为过载节点分担待处理的业务流量,且健康节点通过将业务流量的处理结果发送至业务流量对应的客户端(即业务请求方),确保了业务流量能够被正常无损的处理完成,避免对业务请求方造成影响。
在一个实施例中,在第一节点处于过载状态时,可向网络侧(如网络侧配置的注册中心)发送服务注销请求,以使网络侧根据服务注销请求注销第一节点的流量入口服务。
本实施例中,第一节点通过向网络侧注销流量入口服务,使得网络侧不再向第一节点分配业务流量,从而从源头上杜绝新的流量压力的产生,达到节点冷却的目的。
在一个实施例中,第一节点处于过载状态时,可同时执行多种冷却操作。优选的,第一节点将当前待处理的业务流量发送至处于未过载状态的第二节点,由第二节点分担第一节点当前待处理的业务流量。同时,第一节点向网络侧发送服务注销请求,以使网络侧根据服务注销请求注销第一节点的流量入口服务。
本实施例中,第一节点通过自主执行多种冷却操作,不仅实现了由其他健康节点分担业务流量的目的,且从源头上杜绝了新的流量压力的产生,从而在很大程度上提升了节点冷却效率,进一步使业务流量能够尽快被正常处理。
在一个实施例中,服务集群配置有熔断控制机制。当第一节点处于过载状态时,首先从网络侧读取各节点的节点状态信息,并根据各节点的节点状态信息确定服务集群的节点过载信息,进而根据服务集群的节点过载信息,判断服务集群是否达到预设的熔断控制条件。其中,节点过载信息包括处于过载状态的节点数量和/或节点占比。熔断控制条件包括:处于过载状态的节点数量达到第五预设阈值,和/或,处于过载状态的节点占比达到第六预设阈值。即,在第一节点判定服务集群中处于过载状态的节点数量达到第五预设阈值、和/或节点占比达到第六预设阈值时,确定服务集群达到了预设的熔断控制条件。
其中,处于过载状态的节点占比(即节点过载占比)指处于过载状态的节点数量占总节点数量的比例。例如,服务集群的节点过载占比达到5%时,即可确定服务集群达到了预设的熔断控制条件。
基于此,第一节点在自主执行节点冷却操作时,可在服务集群未达到熔断控制条件的情况下执行节点冷却操作,即进行负载均衡处理。而在服务集群已达到熔断控制条件的情况下不作负载均衡处理,即保持节点的原有处理流程。
服务集群达到熔断控制条件时,说明服务集群的整体负载过重,此时若再进行负载均衡处理,不仅无法解决过载节点负载过重的问题,反而容易造成其他节点的负载加重,甚至导致集群整体崩溃。因此,本实施例中,仅在服务集群未达到熔断控制条件的情况下进行负载均衡处理,能够避免集群整体负载加重的情况,从而很好地平衡了节点自主进行负载均衡处理的界限。
在一个实施例中,第一节点在执行节点冷却操作之后,可根据第一节点自身的业务处理参数信息,监测第一节点是否满足预设的业务恢复条件;若满足,则执行相应的业务恢复操作。其中,业务恢复条件包括以下至少一项:负载数量小于第一预设阈值、队列积压占比小于第二预设阈值、业务响应时间小于第三预设阈值、报错次数小于第四预设阈值。
本实施例中,业务恢复操作与业务冷却操作相对应。即,执行了何种业务冷却操作,则在满足业务恢复条件时就会执行何种对应的业务恢复操作。若同时执行了多种业务冷却操作,则在满足业务恢复条件时也会相应的执行多种业务恢复操作。以下列举几种业务恢复操作。
若第一节点执行业务冷却操作时,将待处理的业务流量疏散至了第二节点,则在第一节点执行业务恢复操作时,可停止向其他节点疏散业务流量。
若第一节点节点执行业务冷却操作时,通过网络侧的服务中心注销了流量入口服务,则在第一节点执行业务恢复操作时,可向网络侧发送服务启动请求,以使网络侧根据服务启动请求启动第一节点的流量入口服务。
若第一节点向网络侧上报了其处于过载状态的节点状态信息(即节点过载信息),则在第一节点执行业务恢复操作时,可通过向网络侧发送信息移除请求,以使网络侧根据该信息移除请求移除第一节点的节点过载信息。
本实施例中,第一节点不仅能在节点过载时执行节点冷却操作,还能在节点冷却后自主恢复节点的业务流量处理,从而实现了节点级的自适应容灾负载均衡的效果,很大程度上提升服务集群负载均衡的效率。
在一个实施例中,第一节点在执行节点冷却操作之后,若节点冷却操作的执行时长达到预设时长、且第一节点在该预设时长后仍处于过载状态,则可根据预警参考因子确定服务集群对应的预警方式,进而基于该预警方式执行相应的预警操作。其中,预警参考因子包括节点冷却操作的执行时长和/或服务集群的节点过载信息。节点过载信息包括处于过载状态的节点数量和/或节点占比。
表1示意性地示出了节点冷却操作的执行时长和预警方式之间的对应关系。表1所示的对应关系中,预警方式仅和节点冷却操作的执行时长相关。预警方式被划分为黄色预警方式、橙色预警方式及红色预警方式三种。其中,红色预警方式的预警级别最高,橙色预警方式的预警级别次之,黄色预警方式的预警级别最低。预警级别的高低与节点冷却操作的执行时长正相关,即,执行时长越长,预警级别也就越高。
表1
执行时长 预警方式
3分钟 黄色预警
5分钟 橙色预警
10分钟 红色预警
表2示意性地示出了服务集群的预警参考因子与预警方式之间的对应关系,其中,预警方式和节点冷却操作的执行时长及节点过载信息相关。预警方式被划分为黄色预警方式、橙色预警方式及红色预警方式三种。其中,红色预警方式的预警级别最高,橙色预警方式的预警级别次之,黄色预警方式的预警级别最低。预警参考因子包括节点冷却操作的执行时长和服务集群的节点过载信息。表2中以节点过载信息为节点过载占比为例。
表2
Figure BDA0002426706910000091
由表2可看出,当节点的冷却时长达到3分钟、且节点过载占比小于5%时,触发服务集群的黄色预警;当节点的冷却时长达到5分钟、且节点过载占比达到5%时,触发服务集群的橙色预警;当节点的冷却时长达到10分钟、且节点过载占比达到10%时,就会触发服务集群的红色预警。
上述实施例中,当触发服务集群的红色预警方式时,可认为服务集群达到了熔断控制条件。基于此,可为预警参考因子和熔断控制条件设置相同的阈值。假设熔断控制条件为节点过载占比达到第六预设阈值,则可按照以下方式确定预警方式:若冷却时长达到3分钟、且节点过载占比达到第六预设阈值的第一比例,则触发服务集群的黄色预警;若冷却时长达到5分钟、且节点过载占比达到第六预设阈值的第二比例,则触发服务集群的橙色预警;若冷却时长达到10分钟、且节点过载占比达到第六预设阈值,则触发服务集群的红色预警,此时服务集群达到熔断控制条件。其中,第二比例大于第一比例。
上述实施例中,黄色预警、橙色预警及红色预警的预警方式不同。根据各预警方式对应的预警级别,可按照以下方式执行预警操作:当触发黄色预警时,可通过邮件的方式通知相关人员;当触发橙色预警时,除通过邮件的方式通知相关人员外,还可增加以即时通讯方式通知相关人员,以提高相关人员获知节点过载信息的及时性;当触发红色预警时,除通过邮件、即时通讯方式通知相关人员之外,还可增加电话的方式通知相关人员,以确保相关人员及时获知节点过载信息,并采取相应措施。
图3是根据本说明书另一实施例的一种负载均衡方法的示意性流程图。该负载均衡方法应用于服务集群中的第一节点,第一节点可以是服务集群中的任一节点。图3所示的方法包括:
S301,采集第一节点的业务处理参数信息。
其中,业务处理参数信息包括负载信息(如负载数量)、线程池中的队列信息(如队列大小、队列积压占比)、业务响应时间、报错信息(如报错次数)等。
S302,根据业务处理参数信息判断是否处于过载状态。若是,则执行S303;若否,则执行S309。
其中,若业务处理参数信息满足以下任一项或多项条件,则确定第一节点处于过载状态:负载数量达到第一预设阈值、队列积压占比达到第二预设阈值、业务响应时间达到第三预设阈值、报错次数达到第四预设阈值。
S303,将第一节点处于过载状态的信息上报至网络侧,由网络侧缓存第一节点的节点过载信息。
S304,从网络侧获取服务集群的节点过载信息,并根据服务集群的节点过载信息判断服务集群是否达到熔断控制条件。若否,则执行S305;若是,则执行S309。
其中,节点过载信息包括处于过载状态的节点数量和/或节点占比。熔断控制条件包括:处于过载状态的节点数量达到第五预设阈值,和/或,处于过载状态的节点占比达到第六预设阈值。即,在第一节点判定服务集群中处于过载状态的节点数量达到第五预设阈值、和/或节点占比达到第六预设阈值时,确定服务集群达到了熔断控制条件。
S305,执行节点冷却操作,包括:将当前待处理的业务流量分配至处于未过载状态的第二节点,及向网络侧的注册中心发送服务注销请求。
其中,处于未过载状态的第二节点可基于S304中获取到的节点过载信息确定出。向网络侧的注册中心发送服务注销请求后,服务中心根据服务注销请求注销第一节点的流量入口服务,从而从源头上杜绝新的流量压力的产生。
S306,节点冷却操作执行第一时长后,监测第一节点是否满足预设的业务恢复条件。若是,则执行S307;若否,则执行S308。
S307,向注册中心发送服务启动请求,并请求网络侧移除第一节点的节点过载信息。
注册中心接收到服务启动请求后,根据服务启动请求重新启动第一节点的流量入口服务,从而恢复第一节点的业务流量处理。
S308,根据预警参考因子确定服务集群对应的预警方式,并基于该预警方式执行相应的预警操作。
其中,预警参考因子包括节点冷却操作的执行时长和/或服务集群的节点过载信息。节点过载信息包括处于过载状态的节点数量和/或节点占比。具体的预警操作方式在上述实施例中已详细说明,此处不再赘述。
S309,保持当前的业务处理流程,即不作负载均衡处理。
本实施例中,第一节点通过采集自身的业务处理参数信息,并对采集到的业务处理参数信息(包括负载信息、线程池中的队列信息、业务响应时间、报错信息中的至少一项)进行分析,根据分析结果判断第一节点是否处于过载状态。可见,多维度的业务处理参数信息的分析结果使得过载节点的判断结果更加准确,从而提升负载均衡的准确性。此外,若第一节点处于过载状态,则执行针对第一节点的节点冷却操作。由于负载均衡所依赖的数据均实时来源于节点自身,与外部设备(如集群中的其他节点、集群外的其他设备等)均无交互,因此实现了数据的去中心化,具有时效性高、系统开销小的优势,且自主冷却的方式能够很大程度上保证业务的稳定。再者,第一节点还能在节点冷却后自主恢复节点的业务流量处理,从而实现了节点级的自适应容灾负载均衡的效果,很大程度上提升服务集群负载均衡的效率。
综上,已经对本主题的特定实施例进行了描述。其它实施例在所附权利要求书的范围内。在一些情况下,在权利要求书中记载的动作可以按照不同的顺序来执行并且仍然可以实现期望的结果。另外,在附图中描绘的过程不一定要求示出的特定顺序或者连续顺序,以实现期望的结果。在某些实施方式中,多任务处理和并行处理可以是有利的。
以上为本说明书一个或多个实施例提供的负载均衡方法,基于同样的思路,本说明书一个或多个实施例还提供一种负载均衡装置。
图4是根据本说明书一实施例的一种负载均衡装置的示意性框图,如图4所示,负载均衡装置应用于服务集群中的第一节点,包括:
采集模块410,采集所述第一节点的业务处理参数信息;所述业务处理参数信息包括负载信息、线程池中的队列信息、业务响应时间、报错信息中的至少一项;
分析及判断模块420,对所述业务处理参数信息进行分析,以及,根据所述业务处理参数信息的分析结果判断所述第一节点是否处于过载状态;
冷却模块430,若是,则执行针对所述第一节点的节点冷却操作。
在一个实施例中,所述负载信息包括负载数量;所述队列信息包括队列积压占比;所述报错信息包括报错次数;
所述分析及判断模块420包括:
确定单元,若所述业务处理参数信息满足以下至少一项,则确定所述第一节点处于所述过载状态:
所述负载数量达到第一预设阈值;
所述队列积压占比达到第二预设阈值;
所述业务响应时间达到第三预设阈值;
所述报错次数达到第四预设阈值。
在一个实施例中,所述装置还包括:
上报模块,将所述第一节点的节点状态信息上报至网络侧;所述网络侧用于缓存所述服务集群中的各节点的所述节点状态信息;所述节点状态信息包括节点处于所述过载状态或未过载状态。
在一个实施例中,所述冷却模块430包括:
获取单元,从所述网络侧获取所述各节点的所述节点状态信息;根据所述各节点的所述节点状态信息,确定所述服务集群中处于所述未过载状态的第二节点;将当前待处理的业务流量发送至所述第二节点;所述第二节点用于对接收到的所述业务流量进行处理,以及将所述业务流量的处理结果发送至所述业务流量对应的客户端;和/或,
发送单元,向网络侧发送服务注销请求;所述网络侧用于根据所述服务注销请求注销所述第一节点的流量入口服务。
在一个实施例中,所述装置还包括:
监测模块,在所述向网络侧发送服务注销请求之后,根据所述业务处理参数信息,监测所述第一节点是否满足预设的业务恢复条件;所述业务恢复条件包括以下至少一项:所述负载数量小于所述第一预设阈值;所述队列积压占比小于所述第二预设阈值;所述业务响应时间小于所述第三预设阈值;所述报错次数小于所述第四预设阈值;
发送模块,若是,则向所述网络侧发送服务启动请求;所述网络侧用于根据所述服务启动请求启动所述第一节点的流量入口服务。
在一个实施例中,所述装置还包括:
读取模块,从所述网络侧读取所述各节点的所述节点状态信息;
第一确定模块,根据所述节点状态信息,确定所述服务集群的节点过载信息;所述节点过载信息包括处于所述过载状态的节点数量和/或节点占比;
判断模块,根据所述节点过载信息,判断所述服务集群是否达到预设的熔断控制条件;所述熔断控制条件包括:所述节点数量达到第五预设阈值,和/或,所述节点占比达到第六预设阈值;
所述冷却模块430包括:
冷却单元,若所述服务集群未达到所述熔断控制条件,则执行针对所述第一节点的节点冷却操作。
在一个实施例中,所述装置还包括:
第二确定模块,所述执行针对所述第一节点的节点冷却操作之后,若所述节点冷却操作的执行时长达到预设时长、且所述第一节点在所述预设时长后仍处于所述过载状态,则根据预警参考因子确定所述服务集群对应的预警方式;所述预警参考因子包括所述执行时长和/或所述节点过载信息;
预警模块,基于所述预警方式执行预警操作。
采用本说明书一个或多个实施例的装置,第一节点通过采集自身的业务处理参数信息,并对采集到的业务处理参数信息(包括负载信息、线程池中的队列信息、业务响应时间、报错信息中的至少一项)进行分析,根据分析结果判断第一节点是否处于过载状态。可见,多维度的业务处理参数信息的分析结果使得过载节点的判断结果更加准确,从而提升负载均衡的准确性。此外,若第一节点处于过载状态,则执行针对第一节点的节点冷却操作。由于负载均衡所依赖的数据均实时来源于节点自身,与外部设备(如集群中的其他节点、集群外的其他设备等)均无交互,因此实现了数据的去中心化,具有时效性高、系统开销小的优势,且自主冷却的方式能够很大程度上保证业务的稳定。
本领域的技术人员应可理解,上述负载均衡装置能够用来实现前文所述的负载均衡方法,其中的细节描述应与前文方法部分描述类似,为避免繁琐,此处不另赘述。
基于同样的思路,本说明书一个或多个实施例还提供一种负载均衡设备,如图5所示。负载均衡设备可因配置或性能不同而产生比较大的差异,可以包括一个或一个以上的处理器501和存储器502,存储器502中可以存储有一个或一个以上存储应用程序或数据。其中,存储器502可以是短暂存储或持久存储。存储在存储器502的应用程序可以包括一个或一个以上模块(图示未示出),每个模块可以包括对负载均衡设备中的一系列计算机可执行指令。更进一步地,处理器501可以设置为与存储器502通信,在负载均衡设备上执行存储器502中的一系列计算机可执行指令。负载均衡设备还可以包括一个或一个以上电源503,一个或一个以上有线或无线网络接口504,一个或一个以上输入输出接口505,一个或一个以上键盘506。
具体在本实施例中,负载均衡设备包括有存储器,以及一个或一个以上的程序,其中一个或者一个以上程序存储于存储器中,且一个或者一个以上程序可以包括一个或一个以上模块,且每个模块可以包括对负载均衡设备中的一系列计算机可执行指令,且经配置以由一个或者一个以上处理器执行该一个或者一个以上程序包含用于进行以下计算机可执行指令:
采集所述第一节点的业务处理参数信息;所述业务处理参数信息包括负载信息、线程池中的队列信息、业务响应时间、报错信息中的至少一项;
对所述业务处理参数信息进行分析,以及,根据所述业务处理参数信息的分析结果判断所述第一节点是否处于过载状态;
若是,则执行针对所述第一节点的节点冷却操作。
可选地,所述负载信息包括负载数量;所述队列信息包括队列积压占比;所述报错信息包括报错次数;
计算机可执行指令在被执行时,还可以使所述处理器:
若所述业务处理参数信息满足以下至少一项,则确定所述第一节点处于所述过载状态:
所述负载数量达到第一预设阈值;
所述队列积压占比达到第二预设阈值;
所述业务响应时间达到第三预设阈值;
所述报错次数达到第四预设阈值。
可选地,计算机可执行指令在被执行时,还可以使所述处理器:
将所述第一节点的节点状态信息上报至网络侧;所述网络侧用于缓存所述服务集群中的各节点的所述节点状态信息;所述节点状态信息包括节点处于所述过载状态或未过载状态。
可选地,计算机可执行指令在被执行时,还可以使所述处理器:
从所述网络侧获取所述各节点的所述节点状态信息;根据所述各节点的所述节点状态信息,确定所述服务集群中处于所述未过载状态的第二节点;将当前待处理的业务流量发送至所述第二节点;所述第二节点用于对接收到的所述业务流量进行处理,以及将所述业务流量的处理结果发送至所述业务流量对应的客户端;和/或,
向网络侧发送服务注销请求;所述网络侧用于根据所述服务注销请求注销所述第一节点的流量入口服务。
可选地,计算机可执行指令在被执行时,还可以使所述处理器:
所述向网络侧发送服务注销请求之后,根据所述业务处理参数信息,监测所述第一节点是否满足预设的业务恢复条件;所述业务恢复条件包括以下至少一项:所述负载数量小于所述第一预设阈值;所述队列积压占比小于所述第二预设阈值;所述业务响应时间小于所述第三预设阈值;所述报错次数小于所述第四预设阈值;
若是,则向所述网络侧发送服务启动请求;所述网络侧用于根据所述服务启动请求启动所述第一节点的流量入口服务。
可选地,计算机可执行指令在被执行时,还可以使所述处理器:
从所述网络侧读取所述各节点的所述节点状态信息;
根据所述节点状态信息,确定所述服务集群的节点过载信息;所述节点过载信息包括处于所述过载状态的节点数量和/或节点占比;
根据所述节点过载信息,判断所述服务集群是否达到预设的熔断控制条件;所述熔断控制条件包括:所述节点数量达到第五预设阈值,和/或,所述节点占比达到第六预设阈值;
若所述服务集群未达到所述熔断控制条件,则执行针对所述第一节点的节点冷却操作。
可选地,计算机可执行指令在被执行时,还可以使所述处理器:
所述执行针对所述第一节点的节点冷却操作之后,若所述节点冷却操作的执行时长达到预设时长、且所述第一节点在所述预设时长后仍处于所述过载状态,则根据预警参考因子确定所述服务集群对应的预警方式;所述预警参考因子包括所述执行时长和/或所述节点过载信息;
基于所述预警方式执行预警操作。
本说明书一个或多个实施例还提出了一种计算机可读存储介质,该计算机可读存储介质存储一个或多个程序,该一个或多个程序包括指令,该指令当被包括多个应用程序的电子设备执行时,能够使该电子设备执行上述负载均衡方法,并具体用于执行:
采集所述第一节点的业务处理参数信息;所述业务处理参数信息包括负载信息、线程池中的队列信息、业务响应时间、报错信息中的至少一项;
对所述业务处理参数信息进行分析,以及,根据所述业务处理参数信息的分析结果判断所述第一节点是否处于过载状态;
若是,则执行针对所述第一节点的节点冷却操作。
上述实施例阐明的系统、装置、模块或单元,具体可以由计算机芯片或实体实现,或者由具有某种功能的产品来实现。一种典型的实现设备为计算机。具体的,计算机例如可以为个人计算机、膝上型计算机、蜂窝电话、相机电话、智能电话、个人数字助理、媒体播放器、导航设备、电子邮件设备、游戏控制台、平板计算机、可穿戴设备或者这些设备中的任何设备的组合。
为了描述的方便,描述以上装置时以功能分为各种单元分别描述。当然,在实施本说明书一个或多个实施例时可以把各单元的功能在同一个或多个软件和/或硬件中实现。
本领域内的技术人员应明白,本说明书一个或多个实施例可提供为方法、系统、或计算机程序产品。因此,本说明书一个或多个实施例可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且,本说明书一个或多个实施例可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
本说明书一个或多个实施例是参照根据本申请实施例的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器,使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中,使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品,该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。
这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上,使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理,从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
在一个典型的配置中,计算设备包括一个或多个处理器(CPU)、输入/输出接口、网络接口和内存。
内存可能包括计算机可读介质中的非永久性存储器,随机存取存储器(RAM)和/或非易失性内存等形式,如只读存储器(ROM)或闪存(flash RAM)。内存是计算机可读介质的示例。
计算机可读介质包括永久性和非永久性、可移动和非可移动媒体可以由任何方法或技术来实现信息存储。信息可以是计算机可读指令、数据结构、程序的模块或其他数据。计算机的存储介质的例子包括,但不限于相变内存(PRAM)、静态随机存取存储器(SRAM)、动态随机存取存储器(DRAM)、其他类型的随机存取存储器(RAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、快闪记忆体或其他内存技术、只读光盘只读存储器(CD-ROM)、数字多功能光盘(DVD)或其他光学存储、磁盒式磁带,磁带磁磁盘存储或其他磁性存储设备或任何其他非传输介质,可用于存储可以被计算设备访问的信息。按照本文中的界定,计算机可读介质不包括暂存电脑可读媒体(transitory media),如调制的数据信号和载波。
还需要说明的是,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、商品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、商品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括所述要素的过程、方法、商品或者设备中还存在另外的相同要素。
本说明书一个或多个实施例可以在由计算机执行的计算机可执行指令的一般上下文中描述,例如程序模块。一般地,程序模块包括执行特定任务或实现特定抽象数据类型的例程、程序、对象、组件、数据结构等等。也可以在分布式计算环境中实践本申请,在这些分布式计算环境中,由通过通信网络而被连接的远程处理设备来执行任务。在分布式计算环境中,程序模块可以位于包括存储设备在内的本地和远程计算机存储介质中。
本说明书中的各个实施例均采用递进的方式描述,各个实施例之间相同相似的部分互相参见即可,每个实施例重点说明的都是与其他实施例的不同之处。尤其,对于系统实施例而言,由于其基本相似于方法实施例,所以描述的比较简单,相关之处参见方法实施例的部分说明即可。
以上所述仅为本说明书一个或多个实施例而已,并不用于限制本说明书。对于本领域技术人员来说,本说明书一个或多个实施例可以有各种更改和变化。凡在本说明书一个或多个实施例的精神和原理之内所作的任何修改、等同替换、改进等,均应包含在本说明书一个或多个实施例的权利要求范围之内。

Claims (15)

1.一种负载均衡方法,应用于服务集群中的第一节点,包括:
采集所述第一节点的业务处理参数信息;所述业务处理参数信息包括负载信息、线程池中的队列信息、业务响应时间、报错信息中的至少一项;
对所述业务处理参数信息进行分析,以及,根据所述业务处理参数信息的分析结果判断所述第一节点是否处于过载状态;
若是,则执行针对所述第一节点的节点冷却操作。
2.根据权利要求1所述的方法,所述负载信息包括负载数量;所述队列信息包括队列积压占比;所述报错信息包括报错次数;
所述根据所述业务处理参数信息的分析结果判断所述第一节点是否处于过载状态,包括:
若所述业务处理参数信息满足以下至少一项,则确定所述第一节点处于所述过载状态:
所述负载数量达到第一预设阈值;
所述队列积压占比达到第二预设阈值;
所述业务响应时间达到第三预设阈值;
所述报错次数达到第四预设阈值。
3.根据权利要求2所述的方法,还包括:
将所述第一节点的节点状态信息上报至网络侧;所述网络侧用于缓存所述服务集群中的各节点的所述节点状态信息;所述节点状态信息包括节点处于所述过载状态或未过载状态。
4.根据权利要求3所述的方法,所述执行针对所述第一节点的节点冷却操作,包括:
从所述网络侧获取所述各节点的所述节点状态信息;根据所述各节点的所述节点状态信息,确定所述服务集群中处于所述未过载状态的第二节点;将当前待处理的业务流量发送至所述第二节点;所述第二节点用于对接收到的所述业务流量进行处理,以及将所述业务流量的处理结果发送至所述业务流量对应的客户端;和/或,
向网络侧发送服务注销请求;所述网络侧用于根据所述服务注销请求注销所述第一节点的流量入口服务。
5.根据权利要求4所述的方法,所述向网络侧发送服务注销请求之后,还包括:
根据所述业务处理参数信息,监测所述第一节点是否满足预设的业务恢复条件;所述业务恢复条件包括以下至少一项:所述负载数量小于所述第一预设阈值;所述队列积压占比小于所述第二预设阈值;所述业务响应时间小于所述第三预设阈值;所述报错次数小于所述第四预设阈值;
若是,则向所述网络侧发送服务启动请求;所述网络侧用于根据所述服务启动请求启动所述第一节点的流量入口服务。
6.根据权利要求3所述的方法,还包括:
从所述网络侧读取所述各节点的所述节点状态信息;
根据所述节点状态信息,确定所述服务集群的节点过载信息;所述节点过载信息包括处于所述过载状态的节点数量和/或节点占比;
根据所述节点过载信息,判断所述服务集群是否达到预设的熔断控制条件;所述熔断控制条件包括:所述节点数量达到第五预设阈值,和/或,所述节点占比达到第六预设阈值;
所述执行针对所述第一节点的节点冷却操作,包括:
若所述服务集群未达到所述熔断控制条件,则执行针对所述第一节点的节点冷却操作。
7.根据权利要求6所述的方法,所述执行针对所述第一节点的节点冷却操作之后,还包括:
若所述节点冷却操作的执行时长达到预设时长、且所述第一节点在所述预设时长后仍处于所述过载状态,则根据预警参考因子确定所述服务集群对应的预警方式;所述预警参考因子包括所述执行时长和/或所述节点过载信息;
基于所述预警方式执行预警操作。
8.一种负载均衡装置,应用于服务集群中的第一节点,包括:
采集模块,采集所述第一节点的业务处理参数信息;所述业务处理参数信息包括负载信息、线程池中的队列信息、业务响应时间、报错信息中的至少一项;
分析及判断模块,对所述业务处理参数信息进行分析,以及,根据所述业务处理参数信息的分析结果判断所述第一节点是否处于过载状态;
冷却模块,若是,则执行针对所述第一节点的节点冷却操作。
9.根据权利要求8所述的装置,所述负载信息包括负载数量;所述队列信息包括队列积压占比;所述报错信息包括报错次数;
所述分析及判断模块包括:
确定单元,若所述业务处理参数信息满足以下至少一项,则确定所述第一节点处于所述过载状态:
所述负载数量达到第一预设阈值;
所述队列积压占比达到第二预设阈值;
所述业务响应时间达到第三预设阈值;
所述报错次数达到第四预设阈值。
10.根据权利要求9所述的装置,还包括:
上报模块,将所述第一节点的节点状态信息上报至网络侧;所述网络侧用于缓存所述服务集群中的各节点的所述节点状态信息;所述节点状态信息包括节点处于所述过载状态或未过载状态。
11.根据权利要求10所述的装置,所述冷却模块包括:
获取单元,从所述网络侧获取所述各节点的所述节点状态信息;根据所述各节点的所述节点状态信息,确定所述服务集群中处于所述未过载状态的第二节点;将当前待处理的业务流量发送至所述第二节点;所述第二节点用于对接收到的所述业务流量进行处理,以及将所述业务流量的处理结果发送至所述业务流量对应的客户端;和/或,
发送单元,向网络侧发送服务注销请求;所述网络侧用于根据所述服务注销请求注销所述第一节点的流量入口服务。
12.根据权利要求11所述的装置,还包括:
监测模块,在所述向网络侧发送服务注销请求之后,根据所述业务处理参数信息,监测所述第一节点是否满足预设的业务恢复条件;所述业务恢复条件包括以下至少一项:所述负载数量小于所述第一预设阈值;所述队列积压占比小于所述第二预设阈值;所述业务响应时间小于所述第三预设阈值;所述报错次数小于所述第四预设阈值;
发送模块,若是,则向所述网络侧发送服务启动请求;所述网络侧用于根据所述服务启动请求启动所述第一节点的流量入口服务。
13.根据权利要求10所述的装置,还包括:
读取模块,从所述网络侧读取所述各节点的所述节点状态信息;
第一确定模块,根据所述节点状态信息,确定所述服务集群的节点过载信息;所述节点过载信息包括处于所述过载状态的节点数量和/或节点占比;
判断模块,根据所述节点过载信息,判断所述服务集群是否达到预设的熔断控制条件;所述熔断控制条件包括:所述节点数量达到第五预设阈值,和/或,所述节点占比达到第六预设阈值;
所述冷却模块包括:
冷却单元,若所述服务集群未达到所述熔断控制条件,则执行针对所述第一节点的节点冷却操作。
14.一种负载均衡设备,应用于服务集群中的第一节点,包括:
处理器;以及
被安排成存储计算机可执行指令的存储器,所述可执行指令在被执行时使所述处理器:
采集所述第一节点的业务处理参数信息;所述业务处理参数信息包括负载信息、线程池中的队列信息、业务响应时间、报错信息中的至少一项;
对所述业务处理参数信息进行分析,以及,根据所述业务处理参数信息的分析结果判断所述第一节点是否处于过载状态;
若是,则执行针对所述第一节点的节点冷却操作。
15.一种存储介质,用于存储计算机可执行指令,所述可执行指令在被执行时实现以下流程:
采集所述第一节点的业务处理参数信息;所述业务处理参数信息包括负载信息、线程池中的队列信息、业务响应时间、报错信息中的至少一项;
对所述业务处理参数信息进行分析,以及,根据所述业务处理参数信息的分析结果判断所述第一节点是否处于过载状态;
若是,则执行针对所述第一节点的节点冷却操作。
CN202010222956.1A 2020-03-26 2020-03-26 负载均衡方法及装置 Pending CN111447272A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202010222956.1A CN111447272A (zh) 2020-03-26 2020-03-26 负载均衡方法及装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202010222956.1A CN111447272A (zh) 2020-03-26 2020-03-26 负载均衡方法及装置

Publications (1)

Publication Number Publication Date
CN111447272A true CN111447272A (zh) 2020-07-24

Family

ID=71652508

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202010222956.1A Pending CN111447272A (zh) 2020-03-26 2020-03-26 负载均衡方法及装置

Country Status (1)

Country Link
CN (1) CN111447272A (zh)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113052691A (zh) * 2021-04-30 2021-06-29 中国工商银行股份有限公司 一种分布式对账系统业务均衡方法,节点及集群
CN113791902A (zh) * 2021-08-31 2021-12-14 北京达佳互联信息技术有限公司 数据处理方法、装置、电子设备及存储介质
CN114996363A (zh) * 2022-08-08 2022-09-02 国网北京市电力公司 数据远程处理方法、系统、装置以及电子设备
CN116016675A (zh) * 2022-11-29 2023-04-25 北京奇艺世纪科技有限公司 一种服务请求处理方法、装置、网关设备及存储介质

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103546530A (zh) * 2013-06-20 2014-01-29 江苏大学 基于成组资源管理的对等网络节点负载均衡方法及系统
CN104298557A (zh) * 2014-06-05 2015-01-21 中国人民解放军信息工程大学 一种soa动态负载迁移方法与系统
CN107465627A (zh) * 2017-08-11 2017-12-12 北京小度信息科技有限公司 过载保护方法、装置、电子设备及流量处理系统
CN109495930A (zh) * 2018-12-20 2019-03-19 迈普通信技术股份有限公司 一种负载均衡方法、ac及系统
CN110908838A (zh) * 2019-11-19 2020-03-24 杭州安恒信息技术股份有限公司 一种数据处理方法、装置及电子设备和存储介质

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103546530A (zh) * 2013-06-20 2014-01-29 江苏大学 基于成组资源管理的对等网络节点负载均衡方法及系统
CN104298557A (zh) * 2014-06-05 2015-01-21 中国人民解放军信息工程大学 一种soa动态负载迁移方法与系统
CN107465627A (zh) * 2017-08-11 2017-12-12 北京小度信息科技有限公司 过载保护方法、装置、电子设备及流量处理系统
CN109495930A (zh) * 2018-12-20 2019-03-19 迈普通信技术股份有限公司 一种负载均衡方法、ac及系统
CN110908838A (zh) * 2019-11-19 2020-03-24 杭州安恒信息技术股份有限公司 一种数据处理方法、装置及电子设备和存储介质

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113052691A (zh) * 2021-04-30 2021-06-29 中国工商银行股份有限公司 一种分布式对账系统业务均衡方法,节点及集群
CN113791902A (zh) * 2021-08-31 2021-12-14 北京达佳互联信息技术有限公司 数据处理方法、装置、电子设备及存储介质
CN114996363A (zh) * 2022-08-08 2022-09-02 国网北京市电力公司 数据远程处理方法、系统、装置以及电子设备
CN116016675A (zh) * 2022-11-29 2023-04-25 北京奇艺世纪科技有限公司 一种服务请求处理方法、装置、网关设备及存储介质

Similar Documents

Publication Publication Date Title
CN111447272A (zh) 负载均衡方法及装置
CN109218355B (zh) 负载均衡引擎,客户端,分布式计算系统以及负载均衡方法
CN108768710B (zh) 一种光传输网络健康的动态权重评估方法、模型及装置
CN106452818B (zh) 一种资源调度的方法和系统
CN108737132B (zh) 一种告警信息处理方法及装置
CN113312160B (zh) 用于任务分配系统中的行为配对的方法和系统
CN109739627B (zh) 任务的调度方法、电子设备及介质
CN112015618A (zh) 异常告警方法及装置
US10891849B1 (en) System for suppressing false service outage alerts
CN113242297B (zh) 服务系统及服务状态的调整方法
WO2014194704A1 (en) A grouping processing method and system
CN110046187B (zh) 数据处理系统、方法及装置
CN109802986A (zh) 设备管理方法、系统、装置及服务器
CN109101371B (zh) 一种容灾切换方法及装置
CN115277598B (zh) 一种算力资源调度方法、装置及计算机可读存储介质
CN112162912A (zh) 一种云资源监控方法及系统
CN106970696B (zh) 一种电子设备管理方法及电子设备
US9225608B1 (en) Evaluating configuration changes based on aggregate activity level
WO2021006951A1 (en) Predictive system resource allocation
CN108920326B (zh) 确定系统耗时异常的方法、装置及电子设备
CN117354312A (zh) 访问请求处理方法、装置、系统、计算机设备和存储介质
CN107046581A (zh) 一种服务运行状态的监测方法、装置及服务器
CN108234658B (zh) 一种感知服务器集群健康状况的方法、装置和服务器
US9479579B2 (en) Grouping processing method and system
CN115309520A (zh) 任务迁移方法、装置、电子设备及存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
REG Reference to a national code

Ref country code: HK

Ref legal event code: DE

Ref document number: 40033642

Country of ref document: HK

RJ01 Rejection of invention patent application after publication

Application publication date: 20200724

RJ01 Rejection of invention patent application after publication