CN109922008A - 一种报文发送方法及装置 - Google Patents

一种报文发送方法及装置 Download PDF

Info

Publication number
CN109922008A
CN109922008A CN201910217166.1A CN201910217166A CN109922008A CN 109922008 A CN109922008 A CN 109922008A CN 201910217166 A CN201910217166 A CN 201910217166A CN 109922008 A CN109922008 A CN 109922008A
Authority
CN
China
Prior art keywords
server
weight
cluster
load factor
mean value
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201910217166.1A
Other languages
English (en)
Other versions
CN109922008B (zh
Inventor
岳炳词
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
New H3C Security Technologies Co Ltd
Original Assignee
New H3C Security Technologies Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by New H3C Security Technologies Co Ltd filed Critical New H3C Security Technologies Co Ltd
Priority to CN201910217166.1A priority Critical patent/CN109922008B/zh
Publication of CN109922008A publication Critical patent/CN109922008A/zh
Application granted granted Critical
Publication of CN109922008B publication Critical patent/CN109922008B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Abstract

本申请实施例提供了一种报文发送方法及装置，应用于LB设备，包括：确定服务器集群中各个服务器的权重；按照各个服务器的权重，为各个服务器分配缓冲队列，各个服务器对应的缓冲队列的长度的比值，与各个服务器的权重的比值相同；基于各个服务器的权重，分别从各个服务器对应的缓冲队列中获取相应数量个报文，并发送给各个服务器。应用本申请实施例提供的技术方案，减少了丢失的报文，提高了服务器集群的承载能力。

Description

一种报文发送方法及装置
技术领域
本申请涉及计算机技术领域，特别是涉及一种报文发送方法及装置。
背景技术
随着互联网技术的迅速发展，访问互联网的用户的数量以及用户单次访问流量急剧增加。为适应访问用户数量的增加以及用户单次访问流量的增加，服务器负载均衡技术应运而生。服务器负载均衡技术中，由多台具有同等服务功能的服务器组成服务器集群，通过负载均衡(Load Balance，LB)设备对外提供相同的服务，从而提高服务承载能力。
基于服务器负载均衡技术发送报文时，LB设备接收目的地址为服务器集群的虚地址的报文，根据预设的调度算法，从服务器集群中选择一台服务器，将报文的目的地址转换为所选择的服务器的地址，将转换地址后的报文发送给所选择的服务器。
采用上述方式实现服务器负载均衡时，调度算法均是预先设置的。这很可能导致服务器集群中多台服务器间的实际负载不均衡，出现由于服务器负载过重，导致报文丢失的问题，无法使服务器集群的承载能力发挥到最优。
发明内容
本申请实施例的目的在于提供一种报文发送方法及装置，以减少丢失的报文，提高服务器集群的承载能力。具体技术方案如下：
在第一方面，本申请实施例提供了一种报文发送方法，应用于LB设备，所述方法包括：
确定服务器集群中各个服务器的权重；
按照各个服务器的权重，为各个服务器分配缓冲队列，各个服务器对应的缓冲队列的长度的比值，与各个服务器的权重的比值相同；
基于各个服务器的权重，分别从各个服务器对应的缓冲队列中获取相应数量个报文，并发送给各个服务器。
在第二方面，本申请实施例提供了一种报文发送装置，应用于LB设备，所述装置包括：
确定单元，用于确定服务器集群中各个服务器的权重；
分配单元，用于按照各个服务器的权重，为各个服务器分配缓冲队列，各个服务器对应的缓冲队列的长度的比值，与各个服务器的权重的比值相同；
发送单元，用于基于各个服务器的权重，分别从各个服务器对应的缓冲队列中获取相应数量个报文，并发送给各个服务器。
在第三方面，本申请实施例提供了一种LB设备，包括处理器和机器可读存储介质，所述机器可读存储介质存储有能够被所述处理器执行的机器可执行指令，所述处理器被所述机器可执行指令促使：实现上述报文发送方法的任一步骤。
在第四方面，本申请实施例提供了一种机器可读存储介质，存储有机器可执行指令，在被处理器调用和执行时，所述机器可执行指令促使所述处理器：实现上述报文发送方法的任一步骤。
本申请实施例提供的技术方案中，LB设备按照各个服务器的权重，为服务器集群中各个服务器分配缓冲队列。由缓冲队列缓存向该缓冲队列对应的服务器发送的报文，这在一定程度上缓解了服务器集群中服务器的压力，减少了由于服务器负载过重所丢失的报文，提高了服务器集群的承载能力。当然，实施本申请的任一产品或方法必不一定需要同时达到以上所述的所有优点。
附图说明
为了更清楚地说明本申请实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本申请的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
图1为本申请实施例提供的网络架构的一种示意图；
图2为本申请实施例提供的报文发送方法的第一种流程示意图；
图3为本申请实施例提供的报文发送方法的第二种流程示意图；
图4为本申请实施例提供的报文发送方法的第三种流程示意图；
图5为本申请实施例提供的报文发送装置的一种结构示意图；
图6为本申请实施例提供的LB设备的一种结构示意图。
具体实施方式
下面将结合本申请实施例中的附图，对本申请实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本申请一部分实施例，而不是全部的实施例。基于本申请中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本申请保护的范围。
为便于理解，下面对本申请实施例中出现的词语进行解释。
服务器集群：包括提供相同服务的多台服务器。
加权轮询算法：按照服务器集群中各个服务器的权重，向各个服务器发送报文。例如，服务器集群包括服务器a、b和c。服务器a的权重为1，服务器b的权重为2，服务器c的权重为3。LB设备向服务器集群发送的报文时，每发送6个报文中，1个报文发送给服务器a，2个报文发送给服务器b，3个报文发送给服务器c。
目前，如图1所示的网络架构，包括用户设备100，LB设备101，服务器102-104。服务器102-104构成服务器集群，该服务器集群对应的虚网络协议(Internet Protocol，IP)地址为VIP1。LB设备为实现负载均衡的电子设备。LB设备可以位于一台独立的物理机上，也可以集成在服务器集群中的一台服务器上，本申请实施例对LB设备的形式不进行限定。
基于图1所示的网络架构，LB设备101接收用户设备100发送的报文1。若报文1的目的IP地址为VIP1，则LB设备101根据预设的调度算法，从服务器集群中选择一台服务器，如选择了服务器102，将报文1的目的IP地址VIP1转换为服务器102的IP地址，将转换地址后的报文1发送给服务器102。
服务器的负载受报文数量，单次访问流量等很多因素的影响。采用上述方式实现服务器负载均衡时，调度算法均是预先设置的。这很可能导致服务器集群中多台服务器间的实际负载不均衡，出现由于服务器负载过重，导致报文丢失的问题，无法使服务器集群的承载能力发挥到最优。
为了减少丢失的报文，提高服务器集群的承载能力，本申请实施例提供了一种应用于LB设备的报文发送方法。该方法中，LB设备按照各个服务器的权重，为服务器集群中各个服务器分配缓冲队列。由缓冲队列缓存向该缓冲队列对应的服务器发送的报文，这在一定程度上缓解了服务器集群中服务器的压力，减少了由于服务器负载过重所丢失的报文，提高了服务器集群的承载能力。
下面通过具体实施例，对本申请进行详细说明。
参考图2，图2为本申请实施例提供的报文发送方法的第一种流程示意图。该方法应用于LB设备，如图1所示的LB设备101。该报文发送方法包括如下步骤。
步骤201，确定服务器集群中各个服务器的权重。
一个实施例中，LB设备中预先存储了为服务器集群中各个服务器的权重。LB设备可定时获取预先存储的各个服务器的权重。
另一个实施例中，LB设备可以基于预设的规则(如，周期性的)获取到服务器集群中各服务器的负载率。LB设备可按照服务器集群中各个服务器的负载率，动态调整各个服务器的权重，保证负载率大的服务器，服务器的权重减小，负载率小的服务器，服务器的权重增大。这样，在后续，LB设备依据各个服务器的权重，按照加权轮询算法，将用户设备发送的报文发送给各个服务器时，获取各个服务器调整后的权重。基于调整后的权重将用户设备发送的报文发送给各个服务器，可保证了负载重的服务器，处理的报文减少，负载轻的服务器，处理的报文增多，实现服务器集群中各个服务器负载的动态平衡，减少由于服务器负载过重所丢失的报文，提高服务器集群的承载能力。
步骤202，按照各个服务器的权重，为各个服务器分配缓冲队列，各个服务器对应的缓冲队列的长度的比值，与各个服务器的权重的比值相同。
其中，缓冲队列用于缓冲向对应的服务器发送的报文。缓冲队列的长度可以为：缓冲队列中可缓存的报文的个数。
例如，服务器集群包括服务器a、b和c。各个服务器调整后的权重为：服务器a的权重为2，服务器b的权重为1，服务器c的权重为2。也就是，各个服务器的权重的比值为：服务器a的权重:服务器b的权重:服务器c的权重＝2:1:2。LB设备按照各个服务器的权重，为各个服务器分配缓冲队列，此时，各个服务器对应的缓冲队列的长度的比值：服务器a对应的缓冲队列的长度的比值:服务器b对应的缓冲队列的长度的比值:服务器c对应的缓冲队列的长度的比值＝2:1:2。
一个实施例中，LB设备中可设置缓冲队列的总长度。LB设备根据设置的缓冲队列的总长度，按照各个服务器的权重，为各个服务器分配缓冲队列。
仍以上述服务器a的权重:服务器b的权重:服务器c的权重＝2:1:2为例进行说明。假设，LB设备中可设置缓冲队列的总长度为10。LB设备按照各个服务器的权重，为各个服务器分配缓冲队列后，各个服务器对应的缓冲队列的长度分别为：服务器a对应的缓冲队列的长度为：[2/(2+1+2)]*10＝4，确定服务器b对应的缓冲队列的长度为：[1/(2+1+2)]*10＝2，确定服务器c对应的缓冲队列的长度为：[2/(2+1+2)]*10＝4。
在本申请的一个实施例中，为了节约LB设备的存储空间，LB设备可定时确定服务器集群中各个服务器的负载率。若服务器集群中存在负载率超过预设负载率阈值的服务器，则LB设备可确定当前服务器集群中存在负载过重的服务器，按照各个服务器的权重，为各个服务器分配缓冲队列，缓解了服务器集群中服务器的压力。若服务器集群中不存在负载率超过预设负载率阈值的服务器时，则LB设备可确定当前服务器集群中不存在负载过重的服务器，不必为各个服务器分配缓冲队列。
步骤203，基于各个服务器的权重，分别从各个服务器对应的缓冲队列中获取相应数量个报文，并发送给各个服务器。
当接收到用户设备发送的报文时，LB设备将接收的报文缓存至各个服务器对应的缓冲队列。LB设备基于各个服务器的权重，分别从各个服务器对应的缓冲队列中获取相应数量个报文，并发送给各个服务器。
一个实施例中，LB设备基于各个服务器的权重，按照加权轮询算法，分别从各个服务器对应的缓冲队列中获取相应个数的报文，并将获取的报文的目的地址转换为对应的服务器的地址后，生成发送队列，发送队列中包括向各个服务器发送的报文。LB设备将发送队列中的报文发送给对应的服务器。
例如，服务器集群包括服务器a、b和c。各个服务器的权重为：服务器a的权重为1，服务器b的权重为2，服务器c的权重为3。LB设备基于各个服务器的权重，从服务器a对应的的缓冲队列中获取1个报文，并将获取到的报文的目的地址修改为服务器a的地址，从服务器b对应的缓冲队列中获取2个报文，并将获取到的报文的目的地址修改为服务器b的地址，从服务器c对应的缓冲队列中获取3个报文，并将获取到的报文的目的地址修改为服务器c的地址，生成发送队列，如{b，c，a，b，c，c}。发送队列中的a表示向服务器a发送的报文，b表示向服务器b发送的报文，c表示向服务器c发送的报文。LB设备依次从发送队列中获取到报文b，c，a，b，c，c。LB设备从发送队列中获取到报文a后，则将报文a发送给对应的服务器a，从发送队列中获取到报文b后，则将报文b发送给对应的服务器b，从发送队列中获取到报文后c，则将报文c发送给对应的服务器c。
另一个实施例中，LB设备接收到用户设备发送的报文后，将接收的报文的目的地址修改为服务器集群中服务器的地址，并将修改地址后的报文缓存至该服务器对应的缓冲队列中。之后，LB设备基于各个服务器的权重，分别从各个服务器对应的缓冲队列中获取相应个数的报文，生成发送队列，发送队列中包括向各个服务器发送的报文。LB设备将发送队列中的报文发送给对应的服务器。
本申请实施例中，对于发送队列中，向各个服务器发送的报文的顺序可以随机生成，不作具体限定。
本申请实施例中，为服务器集群中的各个服务器分配中对应的缓冲队列，由缓冲队列缓存向该缓冲队列对应的服务器发送的报文，这在一定程度上缓解了服务器集群中服务器的压力，减少了由于服务器负载过重丢失的报文。
在本申请的一个实施例中，当接收到用户设备发送的报文时，LB设备将接收的报文缓存至各个服务器对应的缓冲队列的步骤可以包括：当接收到用户设备发送的报文时，LB设备可以计算各个服务器对应的缓冲队列中空闲单元数与缓冲队列的长度的比值，得到各个服务器对应的缓冲队列的空置比。LB设备将接收的报文缓存至空置比最大的缓冲队列。
例如，一缓冲队列的长度为10，该缓冲队列中缓存了3个报文，则可确定该缓冲队列中空闲单元数为10-3＝7。该缓冲队列的空置比为7/10＝0.7。若LB设备中设置了3个缓冲队列，分别为缓冲队列1、缓冲队列2和缓冲队列3。LB设备计算得到缓冲队列1的空置比为0.7，计算得到缓冲队列2的空置比为0.9，计算得到缓冲队列3的空置比为0.5。0.9>0.7>0.5，LB设备将接收的报文缓存至0.9对应的缓冲队列2。
在本申请的另一个实施例中，当接收到用户设备发送的报文时，LB设备将接收的报文缓存至各个服务器对应的缓冲队列的步骤可以包括：当接收到用户设备发送的报文时，LB设备按照各个服务器的权重，分别将接收的报文缓存至各个服务器对应的缓冲队列。
在本申请的一个实施例中，为了进一步减少丢失的报文，提高服务器集群的承载能力，本申请实施例还提供了一种报文发送方法。参考图3所示的报文发送方法的第二种流程示意图。该方法应用于LB设备，包括如下步骤。
步骤301，获取服务器集群中各个服务器的资源利用率。
为了实现服务器集群负载的动态平衡，LB设备可以周期性的对服务器集群中的各个服务器进行探测，即获取服务器集群中各个服务器的资源利用率。其中，资源利用率可以包括中央处理器(Central Processing Unit，CPU)利用率、内存利用率和网卡带宽利用率等。
步骤302，根据各个服务器的资源利用率，确定各个服务器的负载率。
LB设备获取到服务器集群中各个服务器的资源利用率，基于服务器集群中各个服务器的资源利用率，确定服务器集群中各个服务器的负载率。
以资源利用率包括CPU利用率、内存利用率和网卡带宽利用率为例进行说明。
一个示例中，LB设备可利用公式(1)，确定服务器集群中各个服务器的负载率。
Fi＝δi1*δi2*δi3 (1)
公式(1)中，i为正整数，表示服务器集群中的第i个服务器，1≤i≤n，n为服务器集群中包括的服务器的个数。Fi表示第i个服务器的负载率。δi1表示第i个服务器的CPU利用率。δi2表示第i个服务器的内存利用率。δi3表示第i个服务器的网卡带宽利用率。
另一个示例中，LB设备可利用公式(2)，确定服务器集群中各个服务器的负载率。
Fi＝αi1*δi1+αi2*δi2+αi3*δi3 (2)
公式(2)中，i为正整数，表示服务器集群中的第i个服务器，1≤i≤n，n为服务器集群中包括的服务器的个数。Fi表示第i个服务器的负载率。δi1表示第i个服务器的CPU利用率。δi2表示第i个服务器的内存利用率。δi3表示第i个服务器的网卡带宽利用率。αi1表示CPU利用率的权重，αi2表示内存利用率的权重，αi3表示网卡带宽利用率的权重。
本申请实施例中，服务器的负载率的计算方式可以根据实际需要进行设定。
一个可选的实施例中，为了便于管理各个服务器的负载率，以及后续调整各个服务器的权重，可以采用列表的形式管理各个服务器的负载率、权重等信息。其中，服务器的权重为后续调度算法所依据的参数。
一个示例中，列表中可以包括：服务器的标识，服务器的权重，服务器的负载率超过第一负载率阈值的持续时长，服务器的负载率低于第二负载率阈值的持续时长，服务器的负载率，以及服务器的状态等信息。如表1所示。
表1
ID Weight HKeepTime LKeepTime LoadF State
表1中，ID表示服务器的标识。
Weight表示服务器的权重。
HKeepTime表示服务器的负载率超过第一负载率阈值的持续时长。
LkeepTime表示服务器的负载率低于第二负载率阈值的持续时长。
LoadF表示服务器的负载率。
State表示服务器的状态。例如，State为0，表示服务器处于没有过载的状态。State为1，表示服务器处于过载的状态。
步骤303，检测服务器集群中是否存在目标服务器。如果是，则执行步骤304。其中，目标服务器为服务器集群中负载率超过第一负载率阈值的持续时长达到第一时长的服务器，或目标服务器为服务器集群中负载率低于第二负载率阈值的持续时长达到第二时长的服务器。
步骤304，根据各个服务器的负载率，调整各个服务器的权重。
LB设备在确定服务器集群中各个服务器的负载率后，基于各个服务器的负载率，调整各个服务器的权重。其中，服务器的负载率与服务器的权重负相关。具体的，负载率大的服务器，服务器的权重减小，负载率小的服务器，服务器的权重增大。在后续，LB设备依据调整后的各个服务器的权重，按照加权轮询算法，将用户设备发送的报文发送给各个服务器时，可保证了负载重的服务器，处理的报文减少，负载轻的服务器，处理的报文增多，实现服务器集群中各个服务器负载的动态平衡。
本申请实施例中，LB设备在确定服务器集群中各个服务器的负载率后，检测服务器集群中是否存在负载率超过第一负载率阈值的持续时长达到第一时长的目标服务器，得到第一检测结果。如果第一检测结果为是，即存在负载率超过第一负载率阈值的持续时长达到第一时长的目标服务器，则LB设备可确定目标服务器处于过载状态，根据各个服务器的负载率，调整各个服务器的权重，以减少由于服务器负载过重导致丢失的报文的数量。若第一检测结果为否，即不存在负载率超过第一负载率阈值的持续时长达到第一时长的目标服务器，则LB设备可确定目标服务器处于没有过载状态，目标服务器的负载率超过第一负载率阈值只是偶然事件，LB设备可不进行其他处理，这样，LB设备可以不必频繁的调整各个服务器的权重，节约了设备资源。
LB设备在确定服务器集群中各个服务器的负载率后，还可以检测服务器集群中是否存在负载率低于第二负载率阈值的持续时长达到第二时长的目标服务器，得到第二检测结果。如果第二检测结果为是，即存在负载率超过第二负载率阈值的持续时长达到第二时长的目标服务器，则LB设备可确定目标服务器处于负载过轻状态，根据各个服务器的负载率，调整各个服务器的权重，以实现服务器集群中服务器负载的动态平衡。若第二检测结果为否，即不存在负载率超过第二负载率阈值的持续时长达到第二时长的目标服务器，则LB设备可确定目标服务器处于没有负载过轻状态，目标服务器的负载率低于第二负载率阈值只是偶然事件，LB设备可不进行其他处理，这样，LB设备可以不必频繁的调整各个服务器的权重，节约了设备资源。
一个可选的实施例中，为了减少调整各个服务器的权重的频率，节约了设备资源，LB设备在检测到服务器集群中存在负载率低于第二负载率阈值的持续时长达到第二时长的目标服务器时，检测服务器集群中各个服务器的权重是否是在存在负载率超过第一负载率阈值的持续时长达到第一时长的目标服务器的情况下调整得到的。如果是，则LB设备根据各个服务器的负载率，调整各个服务器的权重。如果否，则LB设备可不进行其他处理。
一个实施例中，为了便于调整各个服务器的权重，LB设备可设置服务器状态(State)，如表1所示。例如，LB设备检测到服务器集群中存在负载率超过第一负载率阈值的持续时长达到第一时长的目标服务器时，设置目标服务器的State＝1。LB设备在检测到服务器集群中存在负载率低于第二负载率阈值的持续时长达到第二时长的目标服务器时，检测目标服务器的State是否为1。若目标服务器的State为1，则LB设备确定服务器集群中各个服务器的权重是在存在负载率超过第一负载率阈值的持续时长达到第一时长的目标服务器的情况下调整得到的，将目标服务器的State设置为0，并根据各个服务器的负载率，调整各个服务器的权重。若目标服务器的State不是1，如目标服务器的State＝0，则LB设备可不进行其他处理。
一个示例中，LB设备可以利用公式(3)，调整各个服务器的权重。
Wi'＝Wi*(1+1/Fi) (3)
公式(3)中，i为正整数，表示服务器集群中的第i个服务器，Wi'表示第i个服务器调整后的权重，Wi表示第i个服务器调整前的权重，Fi表示第i个服务器的负载率。
另一个示例中，LB设备调整各个服务器的权重时，可对服务器集群中各个服务器的负载率进行均值处理，得到负载率均值，根据各个服务器的负载率以及负载率均值，调整各个服务器的权重。
例如，LB设备可以利用公式(4)，调整各个服务器的权重。
Wi'＝Wi*(Ave_F/Fi) (4)
其中，i为正整数，表示服务器集群中的第i个服务器，Wi'表示第i个服务器调整后的权重，Wi表示第i个服务器调整前的权重，Ave_F表示负载率均值，即Ave_F表示服务器集群中服务器的负载率的均值，Fi表示第i个服务器的负载率。
步骤305，按照各个服务器的权重，为各个服务器分配缓冲队列，各个服务器对应的缓冲队列的长度的比值，与各个服务器调整后的权重的比值相同。
其中，缓冲队列用于缓冲向对应的服务器发送的报文。缓冲队列的长度可以为：缓冲队列中可缓存的报文的个数。
步骤306，基于各个服务器的权重，分别从各个服务器对应的缓冲队列中获取相应数量个报文，并发送给各个服务器。
步骤305-306与步骤202-203相同。
本申请实施例提供的报文发送方法中，调度算法为加权轮询算法，而加权轮询算法所依据的各个服务器的权重，可根据各个服务器的负载率进行调整，这可以保证负载率大的服务器，服务器的权重减小，负载率小的服务器，服务器的权重增大，也就是，保证了负载重的服务器，处理的报文减少，负载轻的服务器，处理的报文增多。这实现的服务器集群中各个服务器负载的动态平衡，减少了由于服务器负载过重所丢失的报文，提高了服务器集群的承载能力
在本申请的一个实施例中，为了减少由于服务器负载过重所丢失的报文，同时节约LB设备的资源，本申请实施例还提供了一种报文发送方法。参考图4，图4为本申请实施例提供的报文发送方法的第三种流程示意图。该方法应用于LB设备，可以包括如下步骤。
步骤401，确定服务器集群中各个服务器的权重。
步骤401与步骤201相同。
步骤402，计算服务器集群中服务器的负载率的均值。
本申请实施例中，并不限定步骤402和步骤401的执行顺序。
步骤403，判断计算得到的均值是否大于或等于第一预设均值阈值，并判断计算得到的均值是否小于第二预设均值阈值。第一预设均值阈值大于等于第二预设均值阈值。如果大于或等于第一预设均值阈值，则执行步骤404。如果小于第二预设均值阈值，则执行步骤405。
LB设备对服务器集群中各个服务器的负载率进行均值处理，得到负载率均值，判断负载率均值是否大于或等于第一预设均值阈值，并判断负载率均值是否小于第二预设均值阈值。若负载率均值大于或等于第一预设均值阈值，LB设备可确定服务器集群的整体的负载较大，执行步骤404。若负载率均值小于第二预设均值阈值，LB设备可确定服务器集群的整体的负载较小，执行步骤405。
步骤404，将服务器集群中所有服务器对应的缓冲队列的总长度扩大预设倍数。之后，执行步骤406。
其中，预设倍数可以根据LB设备的剩余内存，预设的队列扩大策略确定。LB设备若负载率均值大于或等于第一预设均值阈值，可确定服务器集群的整体的负载较大。为缓解服务器的压力，降低由于服务器负载过重导致的丢包率，LB设备可申请扩大总长度的缓冲队列。其中，扩大总长度为：扩大后的服务器集群中所有服务器对应的缓冲队列的总长度。
例如，预设倍数为3。服务器集群包括服务器a、b和c。服务器a对应的缓冲队列的长度为2，服务器b对应的缓冲队列的长度为4，服务器c对应的缓冲队列的长度为6。LB设备可确定服务器集群中所有服务器对应的缓冲队列的总长度为2+4+6＝12。LB设备在扩大服务器集群中所有服务器对应的缓冲队列的总长度后，扩大总长度为12*3＝36。
一个实施例中，为了避免占用过多的存储空间，LB设备中设置最大总长度。LB设备将服务器集群中所有服务器对应的缓冲队列的总长度扩大预设倍数，得到长度值。若长度值大于设置的最大总长度，则LB设备将扩大总长度设置为最大总长度。若长度值不大于设置的最大总长度，则LB设备将扩大总长度设置为得到的长度值。
步骤405，将服务器集群中所有服务器对应的缓冲队列的总长度缩小预设比例值。之后，执行步骤406。
其中，预设比例值可以根据LB设备的剩余内存，预设的队列缩小策略确定。LB设备若负载率均值小于第二预设均值阈值，可确定服务器集群的整体的负载不大。为节约LB设备的资源，LB设备可申请缩小总长度的缓冲队列。其中，缩小总长度为：缩小后的服务器集群中所有服务器对应的缓冲队列的总长度。
例如，预设比例值为0.5。服务器集群包括服务器a、b和c。服务器a对应的缓冲队列的长度为2，服务器b对应的缓冲队列的长度为4，服务器c对应的缓冲队列的长度为6。LB设备可确定服务器集群中所有服务器对应的缓冲队列的总长度为2+4+6＝12。LB设备在缩小服务器集群中所有服务器对应的缓冲队列的总长度后，缩小总长度为12*(1-0.5)＝6。
一个实施例中，为了避免各个服务器对应的缓冲队列过短，导致缓解服务器集群中服务器的压力的效果较差的问题，LB设备中设置最小总长度。LB设备将服务器集群中所有服务器对应的缓冲队列的总长度缩小预设比例值，得到长度值。若长度值小于设置的最小总长度，则LB设备将缩小总长度设置为最小总长度。若长度值不小于设置的最小总长度，则LB设备将缩小总长度设置为得到的长度值。
本申请的一个可选实施例中，若负载率均值大于或等于第二预设均值阈值，且小于第一预设均值阈值，则可以不做处理。
步骤406，基于当前服务器集群中所有服务器对应的缓冲队列的总长度，以及各个服务器的权重，为各个服务器分配缓冲队列。
若将服务器集群中所有服务器对应的缓冲队列的总长度扩大预设倍数，则当前服务器集群中所有服务器对应的缓冲队列的总长度为：扩大总长度。若将服务器集群中所有服务器对应的缓冲队列的总长度缩小预设比例值，则当前服务器集群中所有服务器对应的缓冲队列的总长度为：缩小总长度。
在本申请的一个实施例中，LB设备可以采用以下方式各个服务器分配缓冲队列。
步骤4061，基于当前服务器集群中所有服务器对应的缓冲队列的总长度，按照各个服务器的权重，确定服务器集群中各个服务器对应的缓冲队列的长度。
一个示例中，LB设备可以利用公式(5)，确定服务器集群中各个服务器对应的缓冲队列的长度。
QLi'＝QL_Len*[Wi'/(W1'+W2'+…+Wn')] (5)
其中，i为正整数，表示服务器集群中的第i个服务器，n为服务器集群中包括的服务器的个数，QLi'表示第i个服务器对应的缓冲队列的长度，Wi'表示第i个服务器的权重，QL_Len表示当前服务器集群中所有服务器对应的缓冲队列的总长度。
例如，服务器集群中包括服务器a、b和c。服务器a的权重为2，服务器b的权重为1，服务器c的权重为2。服务器集群中所有服务器对应的缓冲队列的总长度为10。LB设备确定服务器a对应的缓冲队列的长度为：10*[2/(2+1+2)]＝4；服务器b对应的缓冲队列的长度为：10*[1/(2+1+2)]＝2；服务器c对应的缓冲队列的长度为：10*[2/(2+1+2)]＝4。
步骤4062，基于确定各个服务器的对应的缓冲队列的长度，为各个服务器分配缓冲队列。
一个可选的实施例中，为避免实际使用缓冲队列的总长度超过当前服务器集群中所有服务器对应的缓冲队列的总长度，占用过多的存储空间，LB设备对确定各个服务器的对应的缓冲队列的长度进行向下取整，基于取整后的各个服务器的对应的缓冲队列的长度为各个服务器分配缓冲队列。
例如，LB设备确定服务器a对应的缓冲队列的长度为3.2，对3.2进行向下取整得到3。LB设备为服务器a分配长度为3的缓冲队列。
另一个可选的实施例中，为充分利用LB设备的存储空间，LB设备检测可用存储空间是否大于预设空间阈值。其中，可用存储空间为LB设备中除当前服务器集群中所有服务器对应的缓冲队列、以及其他服务占用的存储空间外，未被占用的存储空间。
若可用存储空间不大于预设空间阈值，则LB设备对确定各个服务器的对应的缓冲队列的长度进行向下取整，基于取整后的各个服务器的对应的缓冲队列的长度为各个服务器分配缓冲队列。若可用存储空间大于预设空间阈值，则LB设备对确定各个服务器的对应的缓冲队列的长度进行向上取整，基于取整后的各个服务器的对应的缓冲队列的长度为各个服务器分配缓冲队列。
在本申请的一个实施例中，LB设备基于确定各个服务器的对应的缓冲队列的长度，为各个服务器分配缓冲队列的步骤可以包括：LB设备在各个服务器对应的原有缓冲队列的基础上，基于确定各个服务器的对应的缓冲队列的长度，扩大或缩小各个服务器对应的缓冲队列。此时，LB设备不必回收各个服务器对应的原有缓冲队列再次重新分配，节约了设备计算资源。
例如，服务器a1对应的缓冲队列的长度为3，服务器b1对应的缓冲队列的长度为4。若LB设备重新确定服务器a1对应的缓冲队列的长度为4，服务器b1对应的缓冲队列的长度为3，则在服务器a1对应的长度为3的原有缓冲队列的基础上，为服务器a1再分配长度为4-3＝1的缓冲队列，扩大服务器a1对应的缓冲队列的长度至4；在服务器b1对应的长度为4的原有缓冲队列的基础上，回收为服务器b1分配长度为4-3＝1的缓冲队列，扩大服务器b1对应的缓冲队列的长度至3。
在本申请的一个实施例中，为实现各个服务器对应的缓冲队列为连续的存储空间，LB设备基于确定各个服务器的对应的缓冲队列的长度，为各个服务器分配缓冲队列的步骤可以包括：LB设备回收各个服务器对应的原有缓冲队列，重新为各个服务器分配对应长度的缓冲队列。
步骤407，基于各个服务器的权重，分别从各个服务器对应的缓冲队列中获取相应数量个报文，并发送给各个服务器。
步骤407与步骤203相同。
一个可选的实施例中，LB设备若确定服务器集群中各个服务器的负载率的均值大于第一预设均值阈值，为了进一步缓解服务器的负载压力，按照第一速率向各个服务器发送报文。LB设备若确定服务器集群中服务器的负载率的均值小于第二预设均值阈值，为了提高报文处理效率，按照第二速率向各个服务器发送报文。其中，第一速率小于第二速率。
一个示例中，LB设备以第二速率向服务器集群中的各个服务器发送报文。LB设备若确定服务器集群中各个服务器的负载率的均值大于或等于第一预设均值阈值，则将调小LB设备向服务器集群中服务器发送报文的速率至第一速率，按照第一速率向服务器集群中服务器发送报文。
LB设备若确定服务器集群中各个服务器的负载率均值小于第二预设均值阈值，则确定向服务器集群中服务器发送报文的速率是否小于第二速率。LB设备若确定向服务器集群中服务器发送报文的速率小于第二速率，即确定向服务器集群中服务器发送报文的速率等于第一速率，则恢复向服务器集群中服务器发送报文的速率，即提高向服务器集群中服务器发送报文的速率至第二速率，按照第二速率向服务器集群中服务器发送报文。
LB设备若确定向服务器集群中服务器发送报文的速率不小于第二速率，即确定向服务器集群中服务器发送报文的速率等于第二速率，则保持第二速率向服务器集群中服务器发送报文。
上述图2-4所示实施例可以任一组合，本申请实施例对此不进行限定。
相应的，根据上述报文发送方法实施例，本申请实施例还提供了一种报文发送装置。参考图5，图5为本申请实施例提供的报文发送装置的一种结构示意图。该装置应用于LB设备，包括：确定单元501、分配单元502和发送单元503。
确定单元501，用于确定服务器集群中各个服务器的权重；
分配单元502，用于按照各个服务器的权重，为各个服务器分配缓冲队列，各个服务器对应的缓冲队列的长度的比值，与各个服务器的权重的比值相同；
发送单元503，用于基于各个服务器的权重，分别从各个服务器对应的缓冲队列中获取相应数量个报文，并发送给各个服务器。
一个可选的实施例中，确定单元501，具体可以用于：
获取服务器集群中各个服务器的资源利用率；
根据各个服务器的资源利用率，确定各个服务器的负载率；
检测服务器集群中是否存在目标服务器，目标服务器为服务器集群中负载率超过第一负载率阈值的持续时长达到第一时长的服务器，或目标服务器为服务器集群中负载率低于第二负载率阈值的持续时长达到第二时长的服务器；
若存在，则根据各个服务器的负载率，调整各个服务器的权重。
一个可选的实施例中，确定单元501，具体可以用于：
计算所述服务器集群中服务器的负载率的均值；
利用以下公式，调整各个服务器的权重：
Wi'＝Wi*(Ave_F/Fi)；
其中，i表示服务器集群中的第i个服务器，Wi'表示第i个服务器调整后的权重，Wi表示第i个服务器调整前的权重，Ave_F表示服务器集群中服务器的负载率的均值，Fi表示第i个服务器的负载率。
一个可选的实施例中，分配单元502，还可以用于：
判断服务器集群中服务器的负载率的均值是否大于或等于第一预设均值阈值，并判断服务器集群中服务器的均值是否小于第二预设均值阈值；第一预设均值阈值大于等于第二预设均值阈值；
如果大于或等于第一预设均值阈值，则将服务器集群中所有服务器对应的缓冲队列的总长度扩大预设倍数；如果小于第二预设均值阈值，则将服务器集群中所有服务器对应的缓冲队列的总长度缩小预设比例值；
基于当前服务器集群中所有服务器对应的缓冲队列的总长度，为各个服务器分配缓冲队列。
一个可选的实施例中，发送单元503，还可以用于若确定服务器集群中服务器的负载率的均值大于或等于第一预设均值阈值，则按照第一速率向各个服务器发送报文；若确定服务器集群中服务器的负载率的均值小于第二预设均值阈值，则按照第二速率向各个服务器发送报文；其中，第一速率小于第二速率。
一个可选的实施例中，上述报文发送装置还可以包括：缓存单元，用于计算各个服务器对应的缓冲队列中空闲单元数与缓冲队列的长度的比值，得到各个服务器对应的缓冲队列的空置比；将接收的报文缓存至空置比最大的缓冲队列。
本申请实施例提供的技术方案中，LB设备按照各个服务器的权重，为服务器集群中各个服务器分配缓冲队列。由缓冲队列缓存向该缓冲队列对应的服务器发送的报文，这在一定程度上缓解了服务器集群中服务器的压力，减少了由于服务器负载过重所丢失的报文，提高了服务器集群的承载能力。
相应的，根据上述报文发送方法实施例，本申请实施例还提供了一种LB设备，如图6所示，包括处理器601和机器可读存储介质602，机器可读存储介质602存储有能够被处理器601执行的机器可执行指令。处理器601被机器可执行指令促使实现上述图2-4所示实施例提供的报文发送方法的任一步骤。具体的，该报文发送方法包括：
确定服务器集群中各个服务器的权重；
按照各个服务器的权重，为各个服务器分配缓冲队列，各个服务器对应的缓冲队列的长度的比值，与各个服务器的权重的比值相同；
基于各个服务器的权重，分别从各个服务器对应的缓冲队列中获取相应数量个报文，并发送给各个服务器。
本申请实施例提供的技术方案中，LB设备按照各个服务器的权重，为服务器集群中各个服务器分配缓冲队列。由缓冲队列缓存向该缓冲队列对应的服务器发送的报文，这在一定程度上缓解了服务器集群中服务器的压力，减少了由于服务器负载过重所丢失的报文，提高了服务器集群的承载能力。
一个可选的实施例中，如图6所示，LB设备还可以包括：通信接口603和通信总线604；其中，处理器601、机器可读存储介质602、通信接口603通过通信总线604完成相互间的通信，通信接口603用于上述LB设备与其他设备之间的通信。
上述通信总线604可以是外设部件互连标准(Peripheral ComponentInterconnect，PCI)总线或扩展工业标准结构(Extended Industry StandardArchitecture，EISA)总线等。该通信总线604可以分为地址总线、数据总线、控制总线等。为便于表示，图6中仅用一条粗线表示，但并不表示仅有一根总线或一种类型的总线。
机器可读存储介质602可以包括随机存取存储器(Random Access Memory，RAM)，也可以包括非易失性存储器(Non-Volatile Memory，NVM)，例如至少一个磁盘存储器。另外，机器可读存储介质602还可以是至少一个位于远离前述处理器的存储装置。
上述处理器601可以是通用处理器，包括中央处理器(Central Processing Unit，CPU)、网络处理器(Network Processor，NP)等；还可以是数字信号处理器(Digital SignalProcessing，DSP)、专用集成电路(Application Specific Integrated Circuit，ASIC)、现场可编程门阵列(Field-Programmable Gate Array，FPGA)或其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件。
相应的，根据上述报文发送方法实施例，本申请实施例还提供了一种机器可读存储介质，存储有机器可执行指令，在被处理器调用和执行时，机器可执行指令促使处理器：实现上述图2-4所示实施例提供的报文发送方法的任一步骤。具体的，该报文发送方法包括：
确定服务器集群中各个服务器的权重；
按照各个服务器的权重，为各个服务器分配缓冲队列，各个服务器对应的缓冲队列的长度的比值，与各个服务器的权重的比值相同；
基于各个服务器的权重，分别从各个服务器对应的缓冲队列中获取相应数量个报文，并发送给各个服务器。
本申请实施例提供的技术方案中，LB设备按照各个服务器的权重，为服务器集群中各个服务器分配缓冲队列。由缓冲队列缓存向该缓冲队列对应的服务器发送的报文，这在一定程度上缓解了服务器集群中服务器的压力，减少了由于服务器负载过重所丢失的报文，提高了服务器集群的承载能力。
需要说明的是，在本文中，诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来，而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。
本说明书中的各个实施例均采用相关的方式描述，各个实施例之间相同相似的部分互相参见即可，每个实施例重点说明的都是与其他实施例的不同之处。尤其，对于报文发送装置、LB设备和机器可读存储介质实施例而言，由于其基本相似于报文发送方法实施例，所以描述的比较简单，相关之处参见报文发送方法实施例的部分说明即可。
以上所述仅为本申请的较佳实施例而已，并非用于限定本申请的保护范围。凡在本申请的精神和原则之内所作的任何修改、等同替换、改进等，均包含在本申请的保护范围内。

Claims (12)

1.一种报文发送方法，其特征在于，应用于负载均衡LB设备，所述方法包括：
确定服务器集群中各个服务器的权重；
按照各个服务器的权重，为各个服务器分配缓冲队列，各个服务器对应的缓冲队列的长度的比值，与各个服务器的权重的比值相同；
基于各个服务器的权重，分别从各个服务器对应的缓冲队列中获取相应数量个报文，并发送给各个服务器。
2.根据权利要求1所述的方法，其特征在于，所述确定服务器集群中各个服务器的权重的步骤，包括：
获取服务器集群中各个服务器的资源利用率；
根据各个服务器的资源利用率，确定各个服务器的负载率；
检测所述服务器集群中是否存在目标服务器，所述目标服务器为所述服务器集群中负载率超过第一负载率阈值的持续时长达到第一时长的服务器，或所述目标服务器为所述服务器集群中负载率低于所述第二负载率阈值的持续时长达到第二时长的服务器；
若存在，则根据各个服务器的负载率，调整各个服务器的权重。
3.根据权利要求2所述的方法，其特征在于，所述根据各个服务器的负载率，调整各个服务器的权重的步骤，包括：
计算所述服务器集群中服务器的负载率的均值；
利用以下公式，调整各个服务器的权重：
Wi'＝Wi*(Ave_F/Fi)；
其中，i表示所述服务器集群中的第i个服务器，Wi'表示所述第i个服务器调整后的权重，Wi表示所述第i个服务器调整前的权重，Ave_F表示所述服务器集群中服务器的负载率的均值，Fi表示所述第i个服务器的负载率。
4.根据权利要求1-3任一项所述的方法，其特征在于，所述方法还包括：
判断所述服务器集群中服务器的负载率的均值是否大于或等于第一预设均值阈值，并判断所述服务器集群中服务器的负载率的均值是否小于第二预设均值阈值；所述第一预设均值阈值大于等于所述第二预设均值阈值；
如果大于或等于所述第一预设均值阈值，则将所述服务器集群中所有服务器对应的缓冲队列的总长度扩大预设倍数；如果小于所述第二预设均值阈值，则将所述服务器集群中所有服务器对应的缓冲队列的总长度缩小预设比例值；
基于当前所述服务器集群中所有服务器对应的缓冲队列的总长度，以及各个服务器的权重，为各个服务器分配缓冲队列。
5.根据权利要求1-3任一项所述的方法，其特征在于，所述方法还包括：
若确定所述服务器集群中服务器的负载率的均值大于或等于第一预设均值阈值，则按照第一速率向各个服务器发送报文；
若确定所述服务器集群中服务器的负载率的均值小于第二预设均值阈值，则按照第二速率向各个服务器发送报文；
其中，所述第一预设均值阈值大于等于所述第二预设均值阈值，所述第一速率小于所述第二速率。
6.根据权利要求1所述的方法，其特征在于，所述方法还包括：
当接收到用户设备发送的报文时，计算各个服务器对应的缓冲队列中空闲单元数与缓冲队列的长度的比值，得到各个服务器对应的缓冲队列的空置比；
将接收的报文缓存至空置比最大的缓冲队列。
7.一种报文发送装置，其特征在于，应用于负载均衡LB设备，所述装置包括：
确定单元，用于确定服务器集群中各个服务器的权重；
分配单元，用于按照各个服务器的权重，为各个服务器分配缓冲队列，各个服务器对应的缓冲队列的长度的比值，与各个服务器的权重的比值相同；
发送单元，用于基于各个服务器的权重，分别从各个服务器对应的缓冲队列中获取相应数量个报文，并发送给各个服务器。
8.根据权利要求7所述的装置，其特征在于，所述确定单元，具体用于：
获取服务器集群中各个服务器的资源利用率；
根据各个服务器的资源利用率，确定各个服务器的负载率；
检测所述服务器集群中是否存在目标服务器，所述目标服务器为所述服务器集群中负载率超过第一负载率阈值的持续时长达到第一时长的服务器，或所述目标服务器为所述服务器集群中负载率低于所述第二负载率阈值的持续时长达到第二时长的服务器；
若存在，则根据各个服务器的负载率，调整各个服务器的权重。
9.根据权利要求8所述的装置，其特征在于，所述确定单元，具体用于：
计算所述服务器集群中服务器的负载率的均值；
利用以下公式，调整各个服务器的权重：
Wi'＝Wi*(Ave_F/Fi)；
其中，i表示所述服务器集群中的第i个服务器，Wi'表示所述第i个服务器调整后的权重，Wi表示所述第i个服务器调整前的权重，Ave_F表示所述服务器集群中服务器的负载率的均值，Fi表示所述第i个服务器的负载率。
10.根据权利要求7-9任一项所述的装置，其特征在于，所述分配单元还用于：
判断所述服务器集群中服务器的负载率的均值是否大于或等于第一预设均值阈值，并判断所述服务器集群中服务器的负载率的均值是否小于第二预设均值阈值；所述第一预设均值阈值大于等于所述第二预设均值阈值；
如果大于或等于所述第一预设均值阈值，则将所述服务器集群中所有服务器对应的缓冲队列的总长度扩大预设倍数；如果小于所述第二预设均值阈值，则将所述服务器集群中所有服务器对应的缓冲队列的总长度缩小预设比例值；
基于当前所述服务器集群中所有服务器对应的缓冲队列的总长度，以及各个服务器的权重，为各个服务器分配缓冲队列。
11.根据权利要求7-9任一项所述的装置，其特征在于，所述发送单元还用于：
若确定所述服务器集群中服务器的负载率的均值大或等于于所述第一预设均值阈值，则按照第一速率向各个服务器发送报文；
若确定所述服务器集群中服务器的负载率的均值小于所述第二预设均值阈值，则按照第二速率向各个服务器发送报文；
其中，所述第一速率小于所述第二速率。
12.根据权利要求7所述的装置，其特征在于，所述装置还包括：缓存单元，用于计算各个服务器对应的缓冲队列中空闲单元数与缓冲队列的长度的比值，得到各个服务器对应的缓冲队列的空置比；将接收的报文缓存至空置比最大的缓冲队列。
CN201910217166.1A 2019-03-21 2019-03-21 一种报文发送方法及装置 Active CN109922008B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201910217166.1A CN109922008B (zh) 2019-03-21 2019-03-21 一种报文发送方法及装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201910217166.1A CN109922008B (zh) 2019-03-21 2019-03-21 一种报文发送方法及装置

Publications (2)

Publication Number Publication Date
CN109922008A true CN109922008A (zh) 2019-06-21
CN109922008B CN109922008B (zh) 2022-06-21

Family

ID=66966120

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201910217166.1A Active CN109922008B (zh) 2019-03-21 2019-03-21 一种报文发送方法及装置

Country Status (1)

Country Link
CN (1) CN109922008B (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112468573A (zh) * 2020-11-24 2021-03-09 新天科技股份有限公司 数据推送方法、装置、设备及存储介质

Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101815033A (zh) * 2010-03-12 2010-08-25 成都市华为赛门铁克科技有限公司 负载均衡的方法、设备及系统
US20160323369A1 (en) * 2009-10-13 2016-11-03 Huawei Digital Technologies(Cheng Du) Co., Limited Method and apparatus for buffering and obtaining resources, resource buffering system
CN106506701A (zh) * 2016-12-28 2017-03-15 北京奇艺世纪科技有限公司 一种服务器负载均衡方法及负载均衡器
US9641431B1 (en) * 2012-04-18 2017-05-02 Google Inc. System and methods for utilization-based balancing of traffic to an information retrieval system
CN107124472A (zh) * 2017-06-26 2017-09-01 杭州迪普科技股份有限公司 负载均衡方法及装置、计算机可读存储介质
CN107241418A (zh) * 2017-06-13 2017-10-10 腾讯科技（深圳）有限公司 一种负载均衡方法、装置、设备和计算机可读存储介质
CN107436813A (zh) * 2017-08-03 2017-12-05 郑州云海信息技术有限公司 一种元数据服务器动态负载均衡的方法及系统
CN108632394A (zh) * 2018-08-13 2018-10-09 北京奇艺世纪科技有限公司 一种web集群负载均衡调整方法及装置
CN109104500A (zh) * 2018-09-29 2018-12-28 广东省信息工程有限公司 一种动态调整的服务器负载均衡方法及装置
CN109274707A (zh) * 2017-07-18 2019-01-25 阿里巴巴集团控股有限公司 一种负载调度方法及装置

Patent Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20160323369A1 (en) * 2009-10-13 2016-11-03 Huawei Digital Technologies(Cheng Du) Co., Limited Method and apparatus for buffering and obtaining resources, resource buffering system
CN101815033A (zh) * 2010-03-12 2010-08-25 成都市华为赛门铁克科技有限公司 负载均衡的方法、设备及系统
US9641431B1 (en) * 2012-04-18 2017-05-02 Google Inc. System and methods for utilization-based balancing of traffic to an information retrieval system
CN106506701A (zh) * 2016-12-28 2017-03-15 北京奇艺世纪科技有限公司 一种服务器负载均衡方法及负载均衡器
CN107241418A (zh) * 2017-06-13 2017-10-10 腾讯科技（深圳）有限公司 一种负载均衡方法、装置、设备和计算机可读存储介质
CN107124472A (zh) * 2017-06-26 2017-09-01 杭州迪普科技股份有限公司 负载均衡方法及装置、计算机可读存储介质
CN109274707A (zh) * 2017-07-18 2019-01-25 阿里巴巴集团控股有限公司 一种负载调度方法及装置
CN107436813A (zh) * 2017-08-03 2017-12-05 郑州云海信息技术有限公司 一种元数据服务器动态负载均衡的方法及系统
CN108632394A (zh) * 2018-08-13 2018-10-09 北京奇艺世纪科技有限公司 一种web集群负载均衡调整方法及装置
CN109104500A (zh) * 2018-09-29 2018-12-28 广东省信息工程有限公司 一种动态调整的服务器负载均衡方法及装置

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
王春娟: "一种改进动态反馈调度算法的分析与实现", 《经营管理者》 *

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112468573A (zh) * 2020-11-24 2021-03-09 新天科技股份有限公司 数据推送方法、装置、设备及存储介质
CN112468573B (zh) * 2020-11-24 2023-05-23 新天科技股份有限公司 基于分布式部署的数据推送方法、装置、设备及存储介质

Also Published As

Publication number Publication date
CN109922008B (zh) 2022-06-21

Similar Documents

Publication Publication Date Title
CN110049130B (zh) 一种基于边缘计算的服务部署和任务调度方法及装置
CN109862592B (zh) 一种基于多基站协作的移动边缘计算环境下资源管理和调度方法
CN101677324B (zh) 业务管理方法、终端、网络系统及相关设备
CN113037869A (zh) 用于内容分发网络系统的回源的方法和装置
CN103067297A (zh) 一种基于资源消耗预测的动态负载均衡方法及装置
WO2020019743A1 (zh) 流量控制方法及装置
CN102035737A (zh) 一种基于认知网络的自适应负载均衡方法和装置
CN104202362A (zh) 负载均衡系统及其内容分发方法和装置、负载均衡器
CN104901898A (zh) 一种负载均衡方法及装置
CN102316133A (zh) 一种负载均衡方法及装置
CN111092921B (zh) 数据采集方法、装置及存储介质
CN112988354B (zh) 一种卫星通信系统出站资源优化管理方法
CN109992392B (zh) 一种资源部署方法、装置及资源服务器
CN106936867B (zh) 一种业务请求的响应方法及装置
CN104202305A (zh) 一种转码处理方法、装置及服务器
CN109922008A (zh) 一种报文发送方法及装置
EP3461085B1 (en) Method and device for queue management
CN112631504A (zh) 利用堆外内存实现本地缓存的方法和装置
CN101867580A (zh) 一种分配网络流量的方法及装置
CN107102799A (zh) 一种调整灭屏时间的方法及其智能终端
CN115686840A (zh) 请求处理方法以及系统
CN115580618A (zh) 一种负载均衡方法、装置、设备及介质
CN113867946A (zh) 访问资源的方法、装置、存储介质及电子设备
CN106790494A (zh) 一种地址信息的更新方法和缓存设备
CN104767772B (zh) 一种处理请求信息的方法及装置

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant