CN108173894A - 服务器负载均衡的方法、装置及服务器设备 - Google Patents

服务器负载均衡的方法、装置及服务器设备 Download PDF

Info

Publication number
CN108173894A
CN108173894A CN201611117522.5A CN201611117522A CN108173894A CN 108173894 A CN108173894 A CN 108173894A CN 201611117522 A CN201611117522 A CN 201611117522A CN 108173894 A CN108173894 A CN 108173894A
Authority
CN
China
Prior art keywords
server
group
end server
link
quality
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201611117522.5A
Other languages
English (en)
Inventor
严阿仁
魏晋
王笑臣
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Alibaba Group Holding Ltd
Original Assignee
Alibaba Group Holding Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Alibaba Group Holding Ltd filed Critical Alibaba Group Holding Ltd
Priority to CN201611117522.5A priority Critical patent/CN108173894A/zh
Priority to TW106125919A priority patent/TWI759320B/zh
Priority to JP2019525894A priority patent/JP2020501237A/ja
Priority to US15/831,286 priority patent/US20180159920A1/en
Priority to PCT/US2017/064546 priority patent/WO2018106609A1/en
Priority to EP17878802.2A priority patent/EP3552111A4/en
Publication of CN108173894A publication Critical patent/CN108173894A/zh
Pending legal-status Critical Current

Links

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00—Network arrangements or protocols for supporting network services or applications
    • H04L67/01—Protocols
    • H04L67/10—Protocols in which an application is distributed across nodes in the network
    • H04L67/1001—Protocols in which an application is distributed across nodes in the network for accessing one among a plurality of replicated servers
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00—Network arrangements or protocols for supporting network services or applications
    • H04L67/01—Protocols
    • H04L67/10—Protocols in which an application is distributed across nodes in the network
    • H04L67/1001—Protocols in which an application is distributed across nodes in the network for accessing one among a plurality of replicated servers
    • H04L67/1004—Server selection for load balancing
    • H04L67/101—Server selection for load balancing based on network conditions
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L45/00—Routing or path finding of packets in data switching networks
    • H04L45/302—Route determination based on requested QoS
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L47/00—Traffic control in data switching networks
    • H04L47/10—Flow control; Congestion control
    • H04L47/12—Avoiding congestion; Recovering from congestion
    • H04L47/125—Avoiding congestion; Recovering from congestion by balancing the load, e.g. traffic engineering
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00—Network arrangements or protocols for supporting network services or applications
    • H04L67/01—Protocols
    • H04L67/10—Protocols in which an application is distributed across nodes in the network
    • H04L67/1001—Protocols in which an application is distributed across nodes in the network for accessing one among a plurality of replicated servers
    • H04L67/1004—Server selection for load balancing
    • H04L67/1008—Server selection for load balancing based on parameters of servers, e.g. available memory or workload
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00—Network arrangements or protocols for supporting network services or applications
    • H04L67/01—Protocols
    • H04L67/10—Protocols in which an application is distributed across nodes in the network
    • H04L67/1001—Protocols in which an application is distributed across nodes in the network for accessing one among a plurality of replicated servers
    • H04L67/1004—Server selection for load balancing
    • H04L67/1012—Server selection for load balancing based on compliance of requirements or conditions with available server resources
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00—Network arrangements or protocols for supporting network services or applications
    • H04L67/01—Protocols
    • H04L67/10—Protocols in which an application is distributed across nodes in the network
    • H04L67/1001—Protocols in which an application is distributed across nodes in the network for accessing one among a plurality of replicated servers
    • H04L67/1004—Server selection for load balancing
    • H04L67/1017—Server selection for load balancing based on a round robin mechanism
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00—Network arrangements or protocols for supporting network services or applications
    • H04L67/50—Network services
    • H04L67/60—Scheduling or organising the servicing of application requests, e.g. requests for application data transmissions using the analysis and optimisation of the required network resources
    • H04L67/61—Scheduling or organising the servicing of application requests, e.g. requests for application data transmissions using the analysis and optimisation of the required network resources taking into account QoS or priority requirements
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00—Network arrangements or protocols for supporting network services or applications
    • H04L67/50—Network services
    • H04L67/60—Scheduling or organising the servicing of application requests, e.g. requests for application data transmissions using the analysis and optimisation of the required network resources
    • H04L67/62—Establishing a time schedule for servicing the requests
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00—Network arrangements or protocols for supporting network services or applications
    • H04L67/50—Network services
    • H04L67/60—Scheduling or organising the servicing of application requests, e.g. requests for application data transmissions using the analysis and optimisation of the required network resources
    • H04L67/63—Routing a service request depending on the request content or context

Abstract

本申请公开了一种服务器负载均衡的方法、装置及服务器设备，所述方法包括：根据服务器集群中后端服务器的链路质量，将所述后端服务器划分为多个服务器组；按照服务器组的链路质量设定所述多个服务器组的优先级；当接收到第一终端发送的访问请求时，基于所述优先级从所述多个服务器组中选择一个服务器组作为目标服务器组；从所述目标服务器组中选择目标后端服务器；将所述目标后端服务器与所述第一终端建立通信。该实施方式在选择与用户终端建立通信的目标后端服务器时，进一步考虑了后端服务器的链路质量问题，避免了由于目标后端服务器的链路质量较差而造成的通信响应时间较长的问题，从而提高了用户终端与服务器集群的通信效率和通信质量。

Description

服务器负载均衡的方法、装置及服务器设备
技术领域
本申请涉及互联网技术领域，尤其涉及服务器负载均衡的方法、装置及服务器设备。
背景技术
当用户终端向服务器集群发送访问请求时，服务器集群中的分发服务器会采用预定的策略算法从服务器集群中选择出后端服务器，并控制该选择出的后端服务器与用户终端建立通信连接。在现有技术中，一般会采用IP地址散列算法或者轮询调度算法直接从服务器集群中选择后端服务器与用户终端建立通信连接，但上述方法忽略了后端服务器的链路质量问题。因此，在现有技术中，有可能会频繁的选择出链路质量较差的后端服务器与用户终端建立连接并进行交互。如果被选中的后端服务器的链路质量较差，则在与用户终端建立通信连接后，该后端服务器的通信响应时间会比较长，从而降低了用户终端与服务器集群的通信效率和通信质量。
发明内容
为了解决上述技术问题，本申请提供了一种服务器负载均衡的方法、装置及服务器设备。
根据本申请实施例的第一方面，提供一种服务器设备，包括：中央处理器，选择策略单元，接收器，通信单元；
所述中央处理器，用于根据服务器集群中后端服务器的链路质量，将所述后端服务器划分为多个服务器组，并按照服务器组的链路质量设定所述多个服务器组的优先级；
所述接收器，用于接收第一终端发送的访问请求；
所述选择策略单元，用于在接收器接收到第一终端发送的访问请求时，基于所述优先级从所述多个服务器组中选择一个服务器组作为目标服务器组，并从目标服务器组中选择目标后端服务器；
所述通信单元，用于基于所述选择策略单元的选择，在所述目标后端服务器与所述第一终端之间建立通信。
根据本申请实施例的第二方面，提供一种服务器负载均衡的方法，所述方法包括：
根据服务器集群中后端服务器的链路质量，将所述后端服务器划分为多个服务器组；
按照服务器组的链路质量设定所述多个服务器组的优先级；
当接收到第一终端发送的访问请求时，基于所述优先级从所述多个服务器组中选择一个服务器组作为目标服务器组；
从所述目标服务器组中选择目标后端服务器；
在所述目标后端服务器与所述第一终端之间建立通信。
根据本申请实施例的第三方面，提供一种服务器负载均衡的装置，所述装置包括：
分组单元，用于根据服务器集群中后端服务器的链路质量，将所述后端服务器划分为多个服务器组；
设定单元，用于按照服务器组的链路质量设定所述多个服务器组的优先级；
第一选择单元，用于在接收到第一终端发送的访问请求时，基于所述优先级从所述多个服务器组中选择一个服务器组作为目标服务器组；
第二选择单元，用于从所述目标服务器组中选择目标后端服务器；
建立单元，用于在所述目标后端服务器与所述第一终端之间建立通信。
应用上述实施例，根据服务器集群中后端服务器的链路质量，将后端服务器划分为多个服务器组，并按照服务器组的链路质量设定多个服务器组的优先级，在接收到用户终端发送的访问请求时，基于上述优先级从多个服务器组中选择一个服务器组作为目标服务器组，并从目标服务器组中选择出目标后端服务器与用户终端建立通信。因此，在选择与用户终端建立通信的目标后端服务器时，进一步考虑了后端服务器的链路质量问题，以实现从链路质量比较优的后端服务器中选择与用户终端建立通信的目标后端服务器，避免了由于目标后端服务器的链路质量较差而造成的通信响应时间较长的问题，从而缩短了通信响应时间，提高了用户终端与服务器集群的通信效率和通信质量。
应当理解的是，以上的一般描述和后文的细节描述仅是示例性和解释性的，并不能限制本申请。
附图说明
此处的附图被并入说明书中并构成本说明书的一部分，示出了符合本申请的实施例，并与说明书一起用于解释本申请的原理。
图1为应用本申请实施例的示例性系统架构示意图；
图2为本申请服务器负载均衡的方法的一个实施例流程图；
图3为本申请服务器负载均衡的方法的另一个实施例流程图；
图4为本申请服务器负载均衡的装置所在设备的一种硬件结构图；
图5为本申请服务器负载均衡的装置的一个实施例框图；
图6为本申请服务器设备的一个实施例框图。
具体实施方式
这里将详细地对示例性实施例进行说明，其示例表示在附图中。下面的描述涉及附图时，除非另有表示，不同附图中的相同数字表示相同或相似的要素。以下示例性实施例中所描述的实施方式并不代表与本申请相一致的所有实施方式。相反，它们仅是与如所附权利要求书中所详述的、本申请的一些方面相一致的装置和方法的例子。
在本申请使用的术语是仅仅出于描述特定实施例的目的，而非旨在限制本申请。在本申请和所附权利要求书中所使用的单数形式的“一种”、“所述”和“该”也旨在包括多数形式，除非上下文清楚地表示其他含义。还应当理解，本文中使用的术语“和/或”是指并包含一个或多个相关联的列出项目的任何或所有可能组合。
应当理解，尽管在本申请可能采用术语第一、第二、第三等来描述各种信息，但这些信息不应限于这些术语。这些术语仅用来将同一类型的信息彼此区分开。例如，在不脱离本申请范围的情况下，第一信息也可以被称为第二信息，类似地，第二信息也可以被称为第一信息。取决于语境，如在此所使用的词语“如果”可以被解释成为“在……时”或“当……时”或“响应于确定”。
参见图1，为应用本申请实施例的示例性系统架构示意图：
如图1所示，系统架构100可以包括用户终端设备101、102、网络103、服务器集群104，其中，服务器集群104可以包括至少一个分发服务器105，以及多个后端服务器106、107、108、109等。
网络103用于在服务器集群104和用户终端设备101、102之间提供通信链路的介质。网络103可以包括各种连接类型，例如有线、无线通信链路或者光纤电缆等等。
用户终端设备101、102可以通过网络103与服务器集群104交互，以接收或发送请求或信息等。用户终端设备101、102可以是各种电子设备，包括但不限于智能手机、平板电脑、膝上型便携计算机以及台式电脑等等。服务器集群104可以是提供各种服务的服务器集群，可以响应于用户的服务请求而提供服务。其中，分发服务器105用于在接收到用户终端设备101或102的访问请求时，采用预定的选择策略从后端服务器106、107、108、109中选择出一个目标后端服务器，并控制该目标后端服务器与用户终端设备101或102建立通信，进行交互。
应该理解，图1中的用户终端设备、网络、分发服务器以及后端服务器的数目仅仅是示意性的。根据实现需要，可以具有任意数目的用户终端设备、网络、分发服务器以及后端服务器。
基于图1示出的系统架构，在本申请实施例中，用户终端设备101或102可以通过网络103与服务器集群104进行交互，以接收或发送信息等。例如，用户终端101或102可以通过网络103向服务器集群104发送访问请求，由服务器集群104中的分发服务器105接收该访问请求。分发服务器105响应于该访问请求，采用预定的选择策略从后端服务器106、107、108、109中选择出一个目标后端服务器，然后获取该目标后端服务器的地址作为目标地址，根据目标地址将上述访问请求转发给目标后端服务器。目标后端服务器将应答信息发送给分发服务器105，并由分发服务器105通过网络103将应答信息发送给用户终端设备101或102，从而完成用户终端设备101或102与服务器集群104之间的交互。
下面将结合具体的实施例对本申请进行详细描述。
参见图2，为本申请服务器负载均衡的方法的一个实施例流程图，该实施例可以应用在分发服务器中，包括如下步骤：
在步骤201中，根据服务器集群中后端服务器的链路质量，将后端服务器划分为多个服务器组。
一般来说，链路质量能够反映通信链路的好坏，链路质量和通信速度、可达率(1-丢包率＝可达率)以及抖动等问题相关，可以采用与通信速度以及可达率等相关的参数来表征和衡量链路质量。在本实施例中，可以根据服务器集群中后端服务器的链路质量，将后端服务器划分为任意多个服务器组。可以理解，本申请对划分出的服务器组的数量方面不限定。其中，在服务器集群中，向用户终端提供业务数据，承担执行业务功能的服务器称为后端服务器，后端服务器可以与用户终端进行通信交互。
具体来说，在一种实现方式中，首先，可以获取预定期内上述服务器集群的链路质量参数作为参考参数，分别获取预定期内服务器集群中每个后端服务器的链路质量参数。然后，将链路质量参数大于或等于该参考参数的后端服务器划分为一组，将链路质量参数小于该参考参数的后端服务器划分为一组。可以理解，也可以将链路质量参数小于该参考参数的后端服务器划分为多组，例如，可以再根据链路质量参数的大小，将链路质量参数小于该参考参数的后端服务器划分到不同的组。可以采用任意合理的方式将链路质量参数小于该参考参数的后端服务器划分为多组，本申请对此方面不限定。其中，链路质量参数可以为能够表征链路质量的任意参数，如，数据传输速度、可达率以及和链路抖动相关的参数等等，也可以是对上述这些参数进行加权处理，得到反映上述链路质量综合问题的参数。可以理解，链路质量参数还可以是其它的参数，本申请对此方面不限定。
例如，假设将数据传输速度作为链路质量参数，则预定期内服务器集群的链路质量参数，可以用预定期内服务器集群所传输的数据总量除以预定期的时间而得到，并作为参考参数。而针对服务器集群中每个后端服务器，预定期内某个后端服务器的链路质量参数，可以用预定期内该后端服务器所传输的数据量除以预定期的时间而得到。然后，将数据传输速度大于或等于参考参数的后端服务器分为一组，剩下的后端服务器分为一组或多组。由此可知，数据传输速度大于或等于参考参数的后端服务器组的链路质量比另一组或多组后端服务器组的链路质量更好。
又例如，假设将可达率作为链路质量参数，则预定期内服务器集群的链路质量参数，可以是预定期内服务器集群的总可达率，并作为参考参数。而针对服务器集群中每个后端服务器，预定期内某个后端服务器的链路质量参数，可以是预定期内该后端服务器的可达率。然后，将可达率大于或等于参考参数的后端服务器分为一组，剩下的后端服务器分为一组或多组。由此可知，可达率大于或等于参考参数的后端服务器组的链路质量比另一组或多组后端服务器组的链路质量更好。
在另一种实现方式中，还可以分别获取预定期内上述服务器集群中每个后端服务器的链路质量参数，将链路质量参数大于或等于预定阈值的后端服务器划分为一组，将链路质量参数小于预定阈值的后端服务器划分为一组或多组。其中，上述预定阈值可以是从预存的数据中获取的预设的参数，为预先设定的数值，本申请对预定阈值的具体取值方面不限定。
在本实施例中，预定期为预先设定的一段时间段，例如，假设分发服务器每隔预定的时间段(以预定的周期)，重新对后端服务器进行一次分组，则预定期可以是上一个周期或者上N个周期。又例如，在根据服务器集群中后端服务器的链路质量，将后端服务器划分为多个服务器组的步骤中，还可以包括以轮询的方式将服务器集群中的后端服务器与发送访问请求的第二终端建立通信的步骤，则预定期即为上述轮询期间。具体来说，在对后端服务器进行分组之前，当接收到用户终端(第二终端)的访问请求时，可以采用轮询的方式将每个后端服务器分别与多个发送访问请求的第二终端建立通信。经过一次轮询之后，该轮询期间即为预定期，可以获取轮询期间服务器集群的链路质量参数以及后端服务器的链路质量参数，基于这些参数对后端服务器进行分组。
在步骤202中，按照服务器组的链路质量设定多个服务器组的优先级。
在本实施例中，可以按照服务器组的链路质量设定多个服务器组的优先级，其中，服务器组按照优先级从高到低的顺序与按照链路质量从高到低的顺序一致，即服务器组的链路质量越高，该服务器组的优先级就越高。例如，假设A组服务器组中的后端服务器的数据传输速度均大于等于a，B组服务器组中的后端服务器的数据传输速度均小于a，因此，A组服务器组的链路质量要高于B组服务器组，则A组服务器组的优先级要高于B组服务器组的优先级。
在步骤203中，当接收到第一终端发送的访问请求时，基于优先级从多个服务器组中选择一个服务器组作为目标服务器组。
在步骤204中，从目标服务器组中选择目标后端服务器。
在本实施例中，当接收到第一终端发送的访问请求时，可以先从多个服务器组中的一个或多个备选服务器组中选择优先级最高的服务器组作为目标服务器组。其中，备选服务器组为包括处于可用状态的后端服务器的服务器组。然后，采用预定算法从目标服务器组中选择出处于可用状态的后端服务器作为目标后端服务器。例如，A组服务器组的优先级要高于B组服务器组的优先级。当接收到第一终端发送的访问请求时，先从A组服务器组中选择目标后端服务器，如果A组中的服务器均不可用，再从优先级次一级的B组服务器组中选择目标后端服务器。
在本实施例中，预定的算法可以包括：权重轮询调度算法。可以理解，预定的算法还可以包括其它任意合理的算法，本申请对预定算法的具体种类方面不限定。
在步骤205中，在目标后端服务器与第一终端之间建立通信。
应用上述实施例，根据服务器集群中后端服务器的链路质量，将后端服务器划分为多个服务器组，并按照服务器组的链路质量设定多个服务器组的优先级，在接收到用户终端发送的访问请求时，基于上述优先级从多个服务器组中选择一个服务器组作为目标服务器组，并从目标服务器组中选择出目标后端服务器与用户终端建立通信。因此，在选择与用户终端建立通信的目标后端服务器时，进一步考虑了后端服务器的链路质量问题，以实现从链路质量比较优的后端服务器中选择与用户终端建立通信的目标后端服务器，避免了由于目标后端服务器的链路质量较差而造成的通信响应时间较长的问题，从而缩短了通信响应时间，提高了用户终端与服务器集群的通信效率和通信质量。
参见图3，为本申请服务器负载均衡的方法的另一个实施例流程图，该实施例结合具体的例子对按照预定的周期进行分组的过程进行详细描述，该实施例可以应用在分发服务器中，包括如下步骤：
在步骤301中，按照预先设定的周期启动定时器开始计时。
一般来说，服务器的链路质量可能会发生变化，因此，每隔一定时间段，需要重新根据服务器的链路质量进行分组。在本实施例中，可以采用定时器进行计时，当定时器的周期结束时刻到达时，定时器会发送一个触发信号，以触发分发服务器重新对后端服务器进行分组。
在本实施例中，预定周期可以是任意合理的周期，本申请对预定周期的具体取值方面不限定。
在步骤302中，根据服务器集群中后端服务器的链路质量，将后端服务器划分为多个服务器组。
在步骤303中，按照服务器组的链路质量设定多个服务器组的优先级。
在步骤304中，当接收到第一终端发送的访问请求时，基于优先级从多个服务器组中选择一个服务器组作为目标服务器组。
在步骤305中，从目标服务器组中选择目标后端服务器。
在步骤306中，在目标后端服务器与第一终端之间建立通信。
在步骤307中，判断定时器的周期结束时刻是否到达，如果定时器的周期结束时刻到达，则重新从步骤302的步骤开始执行。
在本实施例中，如果定时器的周期结束时刻未到达，则继续从步骤304的开始执行。
应用上述实施例，按照预先设定的周期启动定时器开始计时，并根据服务器集群中后端服务器的链路质量，将后端服务器划分为多个服务器组，按照服务器组的链路质量设定多个服务器组的优先级，在接收到用户终端发送的访问请求时，基于上述优先级从多个服务器组中选择一个服务器组作为目标服务器组，并从目标服务器组中选择出目标后端服务器与用户终端建立通信，在定时器的周期结束时刻到达时，重新执行将后端服务器划分为多个服务器组的步骤。因此，不仅在选择与用户终端建立通信的目标后端服务器时，考虑了后端服务器的链路质量问题，而且还考虑了服务器的链路质量可能会发生变化的问题，每隔一定时间段，重新根据服务器的链路质量进行分组，从而进一步避免了由于目标后端服务器的链路质量较差而造成的通信响应时间较长的问题，缩短了通信响应时间，有助于提高用户终端与服务器集群的通信效率和通信质量。
应当注意，尽管在附图中以特定顺序描述了本发明方法的操作，但是，这并非要求或者暗示必须按照该特定顺序来执行这些操作，或是必须执行全部所示的操作才能实现期望的结果。相反，流程图中描绘的步骤可以改变执行顺序。附加地或备选地，可以省略某些步骤，将多个步骤合并为一个步骤执行，和/或将一个步骤分解为多个步骤执行。
下面结合一个完整的服务器负载均衡的应用实例，对本申请方案进行示意性说明。
应用场景可以为：用户终端A与服务器集群B进行交互时，通过服务器集群B中的分发服务器C与后端服务器D建立连接的过程。
具体来说，首先，服务器集群B中的分发服务器C按照预先设定的周期启动定时器开始计时，并且，首先以轮询的方式将服务器集群B中的每个后端服务器分别与多个发送访问请求的用户终端建立通信。经过一次轮询之后，可以获取轮询期间服务器集群C的链路质量参数m以及每个后端服务器的链路质量参数(链路质量参数越大，链路质量越高)。可以将链路质量参数大于或者等于m的后端服务器划分为甲组，将链路质量参数小于m大于n(m大于n)的后端服务器划分为乙组，将链路质量参数小于n的后端服务器分划为丙组。其中，设定优先级从高到低的顺序为甲组，乙组，丙组。
接着，当用户终端A向服务器集群B中的分发服务器C发送访问请求时，假设当前甲组中的后端服务器均处于不可用的状态，而乙组和丙组中均包括处于可用状态的后端服务器。那么可以从乙组和丙组中选择优先级最高的组乙组作为目标服务器组。采用预定算法从乙组中选择一个处于可用状态的后端服务器D。分发服务器C可以将后端服务器D与用户终端A建立通信，从而实现后端服务器D与用户终端A之间的交互。
当定时器开始计时定时器的周期结束时刻到达时，则重新执行以轮询的方式将服务器集群B中的每个后端服务器分别与多个发送访问请求的用户终端建立通信，并对服务器集群B中的后端服务器进行分组的步骤。
可见，应用上述方案，在响应于用户终端的访问请求，为用户终端选择后端服务器时，参考了服务器集群中每个后端服务器的链路质量，能够尽可能选择链路质量较好的后端服务器与上述用户终端进行通信交互，从而能够避免由于后端服务器的链路质量较差而造成的通信响应时间较长的问题，缩短了通信响应时间，提高了用户终端与服务器集群的通信效率和通信质量。
与本申请服务器负载均衡的方法的实施例相对应，本申请还提供了服务器负载均衡的装置及服务器设备的实施例。
本申请服务器负载均衡的装置的实施例可以应用在服务器设备上。装置实施例可以通过软件实现，也可以通过硬件或者软硬件结合的方式实现。以软件实现为例，作为一个逻辑意义上的装置，是通过其所在设备的处理器将非易失性存储器中对应的计算机程序指令读取到内存中运行形成的。从硬件层面而言，如图4所示，为本申请服务器负载均衡的装置401所在设备400的一种硬件结构图，设备400包括处理器402、内存403、网络接口404、非易失性存储器405以及内部总线406，其中，处理器402、内存403、网络接口404以及非易失性存储器405相互之间可以通过内部总线406进行通信。除了图4所示的处理器402、内存403、网络接口404、非易失性存储器405以及内部总线406之外，实施例中装置所在的设备400通常根据该设备的实际功能，还可以包括其他硬件，图4中不再一一示出。
参见图5，为本申请服务器负载均衡的装置的一个实施例框图。
该装置包括：分组单元501，设定单元502，第一选择单元503，第二选择单元504和建立单元505。
其中，分组单元501，用于根据服务器集群中后端服务器的链路质量，将所述后端服务器划分为多个服务器组；
设定单元502，用于按照服务器组的链路质量设定所述多个服务器组的优先级；
第一选择单元503，用于在接收到第一终端发送的访问请求时，基于所述优先级从所述多个服务器组中选择一个服务器组作为目标服务器组；
第二选择单元504，用于从所述目标服务器组中选择目标后端服务器；
建立单元505，用于在所述目标后端服务器与所述第一终端之间建立通信。
在一个可选的实现方式中，所述服务器组按照优先级从高到低的顺序与按照链路质量从高到低的顺序一致。
在另一个可选的实现方式中，所述装置还可以包括(图5中未示出)：
定时单元，用于按照预先设定的周期启动定时器开始计时；
判断单元，用于判断定时器的周期结束时刻是否到达，如果定时器的周期结束时刻到达，则重新执行所述将所述后端服务器划分为多个服务器组的步骤。
在另一个可选的实现方式中，所述分组单元501可以包括(图5中未示出)：
第一获取子单元，用于获取参考参数；
第二获取子单元，用于分别获取预定期内所述服务器集群中每个后端服务器的链路质量参数；
第一分组子单元，用于将链路质量参数大于或等于所述参考参数的后端服务器划分为一组，并将链路质量参数小于所述参考参数的后端服务器划分为一组或多组。
在另一个可选的实现方式中，第一获取子单元被配置用于：
获取所述预定期内所述服务器集群的链路质量参数作为所述参考参数；或者
从预存的数据中获取预设的参数作为所述参考参数。
在另一个可选的实现方式中，所述分组单元501还可以包括(图5中未示出)：
轮询子单元，用于以轮询的方式将服务器集群中的后端服务器与发送访问请求的第二终端建立通信，将轮询期作为所述预定期。
在另一个可选的实现方式中，所述第一选择单元503被配置用于：
从所述多个服务器组中的一个或多个备选服务器组中选择优先级最高的服务器组作为所述目标服务器组，所述备选服务器组中包括处于可用状态的后端服务器。
在另一个可选的实现方式中，第二选择单元504被配置用于：
采用预定算法从所述目标服务器组中选择出处于可用状态的后端服务器作为目标后端服务器。
在另一个可选的实现方式中，所述预定的算法包括：权重轮询调度算法。
上述装置中各个单元的功能和作用的实现过程具体详见上述方法中对应步骤的实现过程，在此不再赘述。
应当理解，上述装置可以预先设置在服务器中，也可以通过下载等方式而加载到服务器中。上述装置中的相应模块单元可以与服务器中的模块单元相互配合以实现服务器负载均衡的方案。
参见图6，为本申请服务器设备的一个实施例框图。
该服务器设备应用于服务器集群中的在分发服务器中，包括：中央处理器601，选择策略单元602，接收器603和通信单元604。
其中，由中央处理器601根据服务器集群中后端服务器的链路质量，将所述后端服务器划分为多个服务器组，并按照服务器组的链路质量设定所述多个服务器组的优先级；
由接收器603接收第一终端发送的访问请求，当接收器603接收到第一终端发送的访问请求时，选择策略单元602基于所述优先级从所述多个服务器组中选择一个服务器组作为目标服务器组，并从目标服务器组中选择目标后端服务器；通过所述通信单元604将所述目标后端服务器与所述第一终端建立通信。
在一个可选的实现方式中，所述服务器组按照优先级从高到低的顺序与按照链路质量从高到低的顺序一致。
在另一个可选的实现方式中，所述服务器设备还包括：定时器和控制器(图6中未示出)；
所述定时器，用于按照预先设定的周期启动计时；
所述控制器，用于在定时器的周期结束时刻到达时，控制所述中央处理器601重新执行所述将所述后端服务器划分为多个服务器组的步骤。
在另一个可选的实现方式中，所述中央处理器601配置用于：
分别获取预定期内所述服务器集群中每个后端服务器的链路质量参数；
获取参考参数；
将链路质量参数大于或等于所述参考参数的后端服务器划分为一组；
将链路质量参数小于所述参考参数的后端服务器划分为一组或多组。
在另一个可选的实现方式中，所述中央处理601器通过如下方式获取参考参数：
获取所述预定期内所述服务器集群的链路质量参数作为所述参考参数；或者
从预存的数据中获取预设的参数作为所述参考参数。
在另一个可选的实现方式中，所述中央处理器601还配置用于：
以轮询的方式将服务器集群中的后端服务器与发送访问请求的第二终端建立通信，将轮询期作为所述预定期。
在另一个可选的实现方式中，所述选择策略单元602通过如下方式基于所述优先级从所述多个服务器组中选择一个服务器组作为目标服务器组：
从所述多个服务器组中的一个或多个备选服务器组中选择优先级最高的服务器组作为所述目标服务器组，所述备选服务器组中包括处于可用状态的后端服务器。
在另一个可选的实现方式中，所述选择策略单元602通过如下方式从所述目标服务器组中选择目标后端服务器：
采用预定算法从所述目标服务器组中选择出处于可用状态的后端服务器作为目标后端服务器。
在另一个可选的实现方式中，所述预定的算法包括：权重轮询调度算法。
对于装置实施例而言，由于其基本对应于方法实施例，所以相关之处参见方法实施例的部分说明即可。以上所描述的装置实施例仅仅是示意性的，其中所述作为分离部件说明的单元可以是或者也可以不是物理上分开的，作为单元显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本申请方案的目的。本领域普通技术人员在不付出创造性劳动的情况下，即可以理解并实施。
本领域技术人员在考虑说明书及实践这里公开的发明后，将容易想到本申请的其它实施方案。本申请旨在涵盖本申请的任何变型、用途或者适应性变化，这些变型、用途或者适应性变化遵循本申请的一般性原理并包括本申请未公开的本技术领域中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的，本申请的真正范围和精神由下面的权利要求指出。
应当理解的是，本申请并不局限于上面已经描述并在附图中示出的精确结构，并且可以在不脱离其范围进行各种修改和改变。本申请的范围仅由所附的权利要求来限制。

Claims (27)

1.一种服务器设备，其特征在于，所述服务器设备包括：中央处理器，选择策略单元，接收器，通信单元；
所述中央处理器，用于根据服务器集群中后端服务器的链路质量，将所述后端服务器划分为多个服务器组，并按照服务器组的链路质量设定所述多个服务器组的优先级；
所述接收器，用于接收第一终端发送的访问请求；
所述选择策略单元，用于在接收器接收到第一终端发送的访问请求时，基于所述优先级从所述多个服务器组中选择一个服务器组作为目标服务器组，并从目标服务器组中选择目标后端服务器；
所述通信单元，用于基于所述选择策略单元的选择，在所述目标后端服务器与所述第一终端之间建立通信。
2.根据权利要求1所述的服务器设备，其特征在于，所述服务器组按照优先级从高到低的顺序与按照链路质量从高到低的顺序一致。
3.根据权利要求1所述的服务器设备，其特征在于，所述服务器设备还包括：定时器和控制器；
所述定时器，用于按照预先设定的周期启动计时；
所述控制器，用于在定时器的周期结束时刻到达时，控制所述中央处理器重新执行所述将所述后端服务器划分为多个服务器组的步骤。
4.根据权利要求1所述的服务器设备，其特征在于，所述中央处理器配置用于：
分别获取预定期内所述服务器集群中每个后端服务器的链路质量参数；
获取参考参数；
将链路质量参数大于或等于所述参考参数的后端服务器划分为一组；
将链路质量参数小于所述参考参数的后端服务器划分为一组或多组。
5.根据权利要求4所述的服务器设备，其特征在于，所述中央处理器通过如下方式获取参考参数：
获取所述预定期内所述服务器集群的链路质量参数作为所述参考参数；或者
从预存的数据中获取预设的参数作为所述参考参数。
6.根据权利要求4所述的服务器设备，其特征在于，所述中央处理器还配置用于：
以轮询的方式将服务器集群中的后端服务器与发送访问请求的第二终端建立通信，将轮询期作为所述预定期。
7.根据权利要求1所述的服务器设备，其特征在于，所述选择策略单元通过如下方式基于所述优先级从所述多个服务器组中选择一个服务器组作为目标服务器组：
从所述多个服务器组中的一个或多个备选服务器组中选择优先级最高的服务器组作为所述目标服务器组，所述备选服务器组中包括处于可用状态的后端服务器。
8.根据权利要求1所述的服务器设备，其特征在于，所述选择策略单元通过如下方式从所述目标服务器组中选择目标后端服务器：
采用预定算法从所述目标服务器组中选择出处于可用状态的后端服务器作为目标后端服务器。
9.根据权利要求8所述的服务器设备，其特征在于，所述预定的算法包括：权重轮询调度算法。
10.一种服务器负载均衡的方法，其特征在于，所述方法包括：
根据服务器集群中后端服务器的链路质量，将所述后端服务器划分为多个服务器组；
按照服务器组的链路质量设定所述多个服务器组的优先级；
当接收到第一终端发送的访问请求时，基于所述优先级从所述多个服务器组中选择一个服务器组作为目标服务器组；
从所述目标服务器组中选择目标后端服务器；
在所述目标后端服务器与所述第一终端之间建立通信。
11.根据权利要求10所述的方法，其特征在于，所述服务器组按照优先级从高到低的顺序与按照链路质量从高到低的顺序一致。
12.根据权利要求10所述的方法，其特征在于，所述方法还包括：
按照预先设定的周期启动定时器开始计时；
判断定时器的周期结束时刻是否到达，如果定时器的周期结束时刻到达，则重新执行所述将所述后端服务器划分为多个服务器组的步骤。
13.根据权利要求10所述的方法，其特征在于，所述根据服务器集群中后端服务器的链路质量，将所述后端服务器划分为多个服务器组，包括：
分别获取预定期内所述服务器集群中每个后端服务器的链路质量参数；
获取参考参数；
将链路质量参数大于或等于所述参考参数的后端服务器划分为一组；
将链路质量参数小于所述参考参数的后端服务器划分为一组或多组。
14.根据权利要求13所述的方法，其特征在于，所述获取参考参数，包括：
获取所述预定期内所述服务器集群的链路质量参数作为所述参考参数；或者
从预存的数据中获取预设的参数作为所述参考参数。
15.根据权利要求13所述的方法，其特征在于，所述根据服务器集群中后端服务器的链路质量，将所述后端服务器划分为多个服务器组，还包括：
以轮询的方式将服务器集群中的后端服务器与发送访问请求的第二终端建立通信，将轮询期作为所述预定期。
16.根据权利要求10所述的方法，其特征在于，所述基于所述优先级从所述多个服务器组中选择一个服务器组作为目标服务器组，包括：
从所述多个服务器组中的一个或多个备选服务器组中选择优先级最高的服务器组作为所述目标服务器组，所述备选服务器组中包括处于可用状态的后端服务器。
17.根据权利要求10所述的方法，其特征在于，所述从所述目标服务器组中选择目标后端服务器，包括：
采用预定算法从所述目标服务器组中选择出处于可用状态的后端服务器作为目标后端服务器。
18.根据权利要求17所述的方法，其特征在于，所述预定的算法包括：权重轮询调度算法。
19.一种服务器负载均衡的装置，其特征在于，所述装置包括：
分组单元，用于根据服务器集群中后端服务器的链路质量，将所述后端服务器划分为多个服务器组；
设定单元，用于按照服务器组的链路质量设定所述多个服务器组的优先级；
第一选择单元，用于在接收到第一终端发送的访问请求时，基于所述优先级从所述多个服务器组中选择一个服务器组作为目标服务器组；
第二选择单元，用于从所述目标服务器组中选择目标后端服务器；
建立单元，用于在所述目标后端服务器与所述第一终端之间建立通信。
20.根据权利要求19所述的装置，其特征在于，所述服务器组按照优先级从高到低的顺序与按照链路质量从高到低的顺序一致。
21.根据权利要求19所述的装置，其特征在于，所述装置还包括：
定时单元，用于按照预先设定的周期启动定时器开始计时；
判断单元，用于判断定时器的周期结束时刻是否到达，如果定时器的周期结束时刻到达，则重新执行所述将所述后端服务器划分为多个服务器组的步骤。
22.根据权利要求19所述的装置，其特征在于，所述分组单元包括：
第一获取子单元，用于获取参考参数；
第二获取子单元，用于分别获取预定期内所述服务器集群中每个后端服务器的链路质量参数；
第一分组子单元，用于将链路质量参数大于或等于所述参考参数的后端服务器划分为一组，并将链路质量参数小于所述参考参数的后端服务器划分为一组或多组。
23.根据权利要求22所述的装置，其特征在于，所述第一获取子单元被配置用于：
获取所述预定期内所述服务器集群的链路质量参数作为所述参考参数；或者
从预存的数据中获取预设的参数作为所述参考参数。
24.根据权利要求22所述的装置，其特征在于，所述分组单元还包括：
轮询子单元，用于以轮询的方式将服务器集群中的后端服务器与发送访问请求的第二终端建立通信，将轮询期作为所述预定期。
25.根据权利要求19所述的装置，其特征在于，所述第一选择单元被配置用于：
从所述多个服务器组中的一个或多个备选服务器组中选择优先级最高的服务器组作为所述目标服务器组，所述备选服务器组中包括处于可用状态的后端服务器。
26.根据权利要求19所述的装置，其特征在于，所述第二选择单元被配置用于：
采用预定算法从所述目标服务器组中选择出处于可用状态的后端服务器作为目标后端服务器。
27.根据权利要求26所述的装置，其特征在于，所述预定的算法包括：权重轮询调度算法。
CN201611117522.5A 2016-12-07 2016-12-07 服务器负载均衡的方法、装置及服务器设备 Pending CN108173894A (zh)

Priority Applications (6)

Application Number Priority Date Filing Date Title
CN201611117522.5A CN108173894A (zh) 2016-12-07 2016-12-07 服务器负载均衡的方法、装置及服务器设备
TW106125919A TWI759320B (zh) 2016-12-07 2017-08-01 伺服器負載均衡的方法、裝置及伺服器設備
JP2019525894A JP2020501237A (ja) 2016-12-07 2017-12-04 サーバ負荷平衡方法、機器、及びサーバ装置
US15/831,286 US20180159920A1 (en) 2016-12-07 2017-12-04 Server load balancing method, apparatus, and server device
PCT/US2017/064546 WO2018106609A1 (en) 2016-12-07 2017-12-04 Server load balancing method, apparatus, and server device
EP17878802.2A EP3552111A4 (en) 2016-12-07 2017-12-04 SERVER LOAD BALANCING METHOD, APPARATUS AND DEVICE

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201611117522.5A CN108173894A (zh) 2016-12-07 2016-12-07 服务器负载均衡的方法、装置及服务器设备

Publications (1)

Publication Number Publication Date
CN108173894A true CN108173894A (zh) 2018-06-15

Family

ID=62243545

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201611117522.5A Pending CN108173894A (zh) 2016-12-07 2016-12-07 服务器负载均衡的方法、装置及服务器设备

Country Status (6)

Country Link
US (1) US20180159920A1 (zh)
EP (1) EP3552111A4 (zh)
JP (1) JP2020501237A (zh)
CN (1) CN108173894A (zh)
TW (1) TWI759320B (zh)
WO (1) WO2018106609A1 (zh)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109450980A (zh) * 2018-10-11 2019-03-08 东南大学 无线云计算系统中基于时延要求差异的计算资源选择方法
CN110650195A (zh) * 2019-09-24 2020-01-03 支付宝(杭州)信息技术有限公司 分布式负载均衡方法以及装置
CN111262783A (zh) * 2020-01-14 2020-06-09 深圳前海微众银行股份有限公司 一种动态路由的方法及装置
CN112565327A (zh) * 2019-09-26 2021-03-26 广州虎牙科技有限公司 访问流量转发方法、集群管理方法及相关装置
CN115550369A (zh) * 2022-08-29 2022-12-30 紫光云技术有限公司 一种实现智能负载均衡的方法

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7003705B2 (ja) * 2018-02-06 2022-01-21 日本電信電話株式会社 サーバ選択装置、サーバ選択方法及びプログラム
CN110380981B (zh) * 2019-07-19 2022-10-28 厦门网宿有限公司 一种流量分发方法及设备
CN110740162B (zh) * 2019-08-30 2022-12-02 上海尚往网络科技有限公司 通信链路建立方法、装置、电子设备及介质
CN110807050B (zh) * 2019-09-25 2023-05-30 平安科技（深圳）有限公司 性能分析方法、装置、计算机设备及存储介质
CN112181900A (zh) * 2020-09-04 2021-01-05 中国银联股份有限公司 一种服务器集群中的数据处理方法与装置
CN113242307B (zh) * 2021-05-18 2023-04-25 北京达佳互联信息技术有限公司 服务请求处理方法、装置、服务器及存储介质
CN113746933A (zh) * 2021-09-14 2021-12-03 京东科技信息技术有限公司 显示信息的方法和装置
CN114285904A (zh) * 2021-12-22 2022-04-05 上海金仕达软件科技有限公司 服务的智能路由方法和装置

Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6038599A (en) * 1997-04-23 2000-03-14 Mpath Interactive, Inc. Latency server and matchmaker
CN101340327A (zh) * 2008-08-21 2009-01-07 腾讯科技（深圳）有限公司 实现网络服务器负载均衡的方法、系统和域名解析服务器
CN102055675A (zh) * 2011-01-21 2011-05-11 清华大学 一种基于负载均衡的多径路由分配方法
CN102244613A (zh) * 2011-08-11 2011-11-16 深信服网络科技（深圳）有限公司 基于dns进行多链路流量均衡的方法、网关和网络
US20130121178A1 (en) * 2011-11-11 2013-05-16 Itron, Inc. Routing communications based on link quality
CN103929454A (zh) * 2013-01-15 2014-07-16 中国移动通信集团四川有限公司 一种云计算平台中负载均衡存储的方法和系统
CN104219162A (zh) * 2014-09-10 2014-12-17 汉柏科技有限公司 基于dns的分组负载均衡方法、设备及系统
CN104580526A (zh) * 2015-02-03 2015-04-29 浪潮电子信息产业股份有限公司 一种高性能Web服务网络中的就近访问负载均衡调度方法
CN105872000A (zh) * 2015-12-21 2016-08-17 乐视云计算有限公司 P2p节点的分组方法、装置及系统
CN105872079A (zh) * 2016-05-12 2016-08-17 北京网瑞达科技有限公司 一种基于域名系统dns的链路均衡方法

Family Cites Families (22)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6728748B1 (en) * 1998-12-01 2004-04-27 Network Appliance, Inc. Method and apparatus for policy based class of service and adaptive service level management within the context of an internet and intranet
US6795858B1 (en) * 2000-12-29 2004-09-21 Cisco Technology, Inc. Method and apparatus for metric based server selection
US20020069279A1 (en) * 2000-12-29 2002-06-06 Romero Francisco J. Apparatus and method for routing a transaction based on a requested level of service
US8066255B2 (en) * 2001-07-25 2011-11-29 Chia-Ping Wang Solenoid gas valve
JP2003256310A (ja) * 2002-03-05 2003-09-12 Nec Corp サーバ負荷分散システム、サーバ負荷分散装置、コンテンツ管理装置、及びサーバ負荷分散プログラム
US7260647B2 (en) * 2002-03-28 2007-08-21 International Business Machines Corporation Method of load balancing traffic among routers in a data transmission system
US20070192065A1 (en) * 2006-02-14 2007-08-16 Sun Microsystems, Inc. Embedded performance forecasting of network devices
US8159961B1 (en) * 2007-03-30 2012-04-17 Amazon Technologies, Inc. Load balancing utilizing adaptive thresholding
JP5330026B2 (ja) * 2009-02-25 2013-10-30 株式会社エヌ・ティ・ティ・ドコモ 登録要求システム、登録要求サーバ装置、サーバ装置の登録要求制御方法
JP5244717B2 (ja) * 2009-07-02 2013-07-24 株式会社日立製作所 負荷割当制御方法および負荷分散システム
JP4995300B2 (ja) * 2010-04-20 2012-08-08 日本電信電話株式会社 サーバ選択制御装置、サービス要求装置、サーバ選択制御方法、サービス要求方法、サーバ選択制御プログラム、サービス要求プログラム、サービス提供システムおよびサービス提供方法
JP5637749B2 (ja) * 2010-06-30 2014-12-10 アラクサラネットワークス株式会社 パケット中継装置
US8838830B2 (en) * 2010-10-12 2014-09-16 Sap Portals Israel Ltd Optimizing distributed computer networks
TW201224738A (en) * 2010-12-01 2012-06-16 Inventec Corp Load-balancing method for a clustering system
EP2469756A1 (en) * 2010-12-24 2012-06-27 British Telecommunications Public Limited Company Communications network management
US9026814B2 (en) * 2011-06-17 2015-05-05 Microsoft Technology Licensing, Llc Power and load management based on contextual information
US8954587B2 (en) * 2011-07-27 2015-02-10 Salesforce.Com, Inc. Mechanism for facilitating dynamic load balancing at application servers in an on-demand services environment
JP5735899B2 (ja) * 2011-10-25 2015-06-17 日本電信電話株式会社 サービス提供システム、ファイル更新方法、および分散管理装置
JP6204168B2 (ja) * 2013-11-27 2017-09-27 株式会社日立製作所 転送装置、サーバ、および経路変更方法
US9426040B2 (en) * 2014-01-06 2016-08-23 Cisco Technology, Inc. Mixed distributed/centralized routing techniques based on closed-loop feedback from a learning machine to avoid dark zones
JP6281388B2 (ja) * 2014-04-08 2018-02-21 富士通株式会社 呼処理装置、呼制御装置、呼処理システム、及び呼処理方法
EP3228126A1 (en) * 2014-12-02 2017-10-11 Telefonaktiebolaget LM Ericsson (publ) Methods and nodes for m2m communication

Patent Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6038599A (en) * 1997-04-23 2000-03-14 Mpath Interactive, Inc. Latency server and matchmaker
CN101340327A (zh) * 2008-08-21 2009-01-07 腾讯科技（深圳）有限公司 实现网络服务器负载均衡的方法、系统和域名解析服务器
CN102055675A (zh) * 2011-01-21 2011-05-11 清华大学 一种基于负载均衡的多径路由分配方法
CN102244613A (zh) * 2011-08-11 2011-11-16 深信服网络科技（深圳）有限公司 基于dns进行多链路流量均衡的方法、网关和网络
US20130121178A1 (en) * 2011-11-11 2013-05-16 Itron, Inc. Routing communications based on link quality
CN103929454A (zh) * 2013-01-15 2014-07-16 中国移动通信集团四川有限公司 一种云计算平台中负载均衡存储的方法和系统
CN104219162A (zh) * 2014-09-10 2014-12-17 汉柏科技有限公司 基于dns的分组负载均衡方法、设备及系统
CN104580526A (zh) * 2015-02-03 2015-04-29 浪潮电子信息产业股份有限公司 一种高性能Web服务网络中的就近访问负载均衡调度方法
CN105872000A (zh) * 2015-12-21 2016-08-17 乐视云计算有限公司 P2p节点的分组方法、装置及系统
CN105872079A (zh) * 2016-05-12 2016-08-17 北京网瑞达科技有限公司 一种基于域名系统dns的链路均衡方法

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
肖磊，胡众义，郑小海.: "《基于智能DNS电子商务系统的负载均衡研究》", 《基于智能DNS电子商务系统的负载均衡研究》 *
韩凌玲: "《谈计算机网络中多链路及服务器负载均衡》", 《赤峰学院学报（科学教育版）》 *

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109450980A (zh) * 2018-10-11 2019-03-08 东南大学 无线云计算系统中基于时延要求差异的计算资源选择方法
CN110650195A (zh) * 2019-09-24 2020-01-03 支付宝(杭州)信息技术有限公司 分布式负载均衡方法以及装置
CN110650195B (zh) * 2019-09-24 2022-01-07 支付宝(杭州)信息技术有限公司 分布式负载均衡方法以及装置
CN112565327A (zh) * 2019-09-26 2021-03-26 广州虎牙科技有限公司 访问流量转发方法、集群管理方法及相关装置
CN112565327B (zh) * 2019-09-26 2022-09-30 广州虎牙科技有限公司 访问流量转发方法、集群管理方法及相关装置
CN111262783A (zh) * 2020-01-14 2020-06-09 深圳前海微众银行股份有限公司 一种动态路由的方法及装置
CN115550369A (zh) * 2022-08-29 2022-12-30 紫光云技术有限公司 一种实现智能负载均衡的方法

Also Published As

Publication number Publication date
EP3552111A1 (en) 2019-10-16
EP3552111A4 (en) 2020-01-22
WO2018106609A1 (en) 2018-06-14
US20180159920A1 (en) 2018-06-07
TW201822013A (zh) 2018-06-16
TWI759320B (zh) 2022-04-01
JP2020501237A (ja) 2020-01-16

Similar Documents

Publication Publication Date Title
CN108173894A (zh) 服务器负载均衡的方法、装置及服务器设备
CN103266452B (zh) 一种洗衣机控制方法及洗衣机系统
CN105765924B (zh) 应用状态变化通知方法以及存储介质
CN106933871A (zh) 短链接处理方法、装置及短链接服务器
CN106681921B (zh) 数据参数化的实现方法和装置
CN109547286A (zh) 一种cdn节点的选择方法及设备
JP4190455B2 (ja) 負荷分散装置及びプログラム
CN105791254A (zh) 网络请求处理方法、装置及终端
CN105548749B (zh) 一种基于互联网的通讯终端测试方法、装置及系统
CN113050735B (zh) 用于控制酒柜的方法、装置和智能酒柜
CN107800814B (zh) 虚拟机部署方法及装置
CN110198332A (zh) 内容分发网络节点的调度方法、装置及存储介质
CN108234319A (zh) 一种数据的传输方法和装置
CN105850162B (zh) 用于共享数据配额的方法和设备
CN109787854A (zh) 业务服务的测试方法及装置、存储介质、电子装置
CN111966556A (zh) 性能压测方法、装置及服务器和计算机可读存储介质
CN106201555B (zh) 一种应用资源更新方法、装置及系统
CN104683473A (zh) 监控服务质量的方法、服务端、客户端及系统
CN108228355A (zh) 任务处理方法及装置、任务调度方法及装置
CN108093047A (zh) 数据发送方法、装置、电子设备及中间件系统
CN110175820A (zh) 云计算业务的账单处理方法、装置、电子设备及存储介质
CN106506558A (zh) 消息交互的方法、装置及系统
CN108712483A (zh) 云存储方法、云平台及计算机可读存储介质
CN107528884B (zh) 一种聚合服务器的用户请求处理方法和装置
KR102091949B1 (ko) 정보 프로세싱 방법 및 장치

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
REG Reference to a national code

Ref country code: HK

Ref legal event code: DE

Ref document number: 1256835

Country of ref document: HK

RJ01 Rejection of invention patent application after publication
RJ01 Rejection of invention patent application after publication

Application publication date: 20180615