CN110855741B - 业务的自适应接入方法和装置、存储介质、电子装置 - Google Patents

业务的自适应接入方法和装置、存储介质、电子装置 Download PDF

Info

Publication number
CN110855741B
CN110855741B CN201910935543.5A CN201910935543A CN110855741B CN 110855741 B CN110855741 B CN 110855741B CN 201910935543 A CN201910935543 A CN 201910935543A CN 110855741 B CN110855741 B CN 110855741B
Authority
CN
China
Prior art keywords
service
resource
load balancing
target
network load
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201910935543.5A
Other languages
English (en)
Other versions
CN110855741A (zh
Inventor
于文超
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing QIYI Century Science and Technology Co Ltd
Original Assignee
Beijing QIYI Century Science and Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing QIYI Century Science and Technology Co Ltd filed Critical Beijing QIYI Century Science and Technology Co Ltd
Priority to CN201910935543.5A priority Critical patent/CN110855741B/zh
Publication of CN110855741A publication Critical patent/CN110855741A/zh
Application granted granted Critical
Publication of CN110855741B publication Critical patent/CN110855741B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00—Network arrangements or protocols for supporting network services or applications
    • H04L67/01—Protocols
    • H04L67/10—Protocols in which an application is distributed across nodes in the network
    • H04L67/1001—Protocols in which an application is distributed across nodes in the network for accessing one among a plurality of replicated servers
    • H04L67/1004—Server selection for load balancing
    • H04L67/1008—Server selection for load balancing based on parameters of servers, e.g. available memory or workload

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Hardware Design (AREA)
  • General Engineering & Computer Science (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Signal Processing (AREA)
  • Data Exchanges In Wide-Area Networks (AREA)

Abstract

本申请公开了一种业务的自适应接入方法和装置、存储介质、电子装置。其中，该方法包括：获取待接入网络负载均衡集群的目标服务器的资源消耗量和网络负载均衡集群的当前资源状态，负载均衡集群用于对接入的业务服务器的负载进行管理，资源消耗量为根据目标服务器承载的目标业务的配置确定的在网络负载均衡集群上消耗的资源量；基于当前资源状态和资源消耗量控制目标服务器在网络负载均衡集群上的接入状态。本申请解决了相关技术中网络负载均衡容易发生拥堵的技术问题。

Description

业务的自适应接入方法和装置、存储介质、电子装置
技术领域
本申请涉及互联网领域，具体而言，涉及一种业务的自适应接入方法和装置、存储介质、电子装置。
背景技术
负载均衡是由多台服务器以对称的方式组成一个服务器集合，每台服务器都具有等价的地位，都可以单独对外提供服务而无须其他服务器的辅助。通过某种负载分担技术，将外部发送来的请求均匀分配到对称结构中的某一台服务器上，而接收到请求的服务器独立地回应客户的请求。均衡负载能够平均分配客户请求到服务器列阵，籍此提供快速获取重要数据，解决大量并发访问服务问题。这种群集技术可以用最少的投资获得接近于大型主机的性能。
网络负载均衡器通过把工作负荷分配到多台业务服务器上实现负荷的分流、请求的快速响应、资源的优化利用和服务的高可用性。随着NFV(Network functionsvirtualization)和SDN(Software-defined networking)技术的兴起和发展，越来越多的解决方案使用通用服务器构建的负载均衡集群替代大型专用硬件负载均衡器以降低成本和提高服务的灵活性。
随着越来越多的业务接入到网络负载均衡器，从而造成了网络负载均衡器的拥堵。
针对上述的问题，目前尚未提出有效的解决方案。
发明内容
本申请实施例提供了一种业务的自适应接入方法和装置、存储介质、电子装置，以至少解决相关技术中网络负载均衡容易发生拥堵的技术问题。
根据本申请实施例的一个方面，提供了一种业务的自适应接入方法，包括：获取待接入网络负载均衡集群的目标服务器的资源消耗量和网络负载均衡集群的当前资源状态，负载均衡集群用于对接入的业务服务器的负载进行管理，资源消耗量为根据目标服务器承载的目标业务的配置确定的在网络负载均衡集群上消耗的资源量；基于当前资源状态和资源消耗量控制目标服务器在网络负载均衡集群上的接入状态。
根据本申请实施例的另一方面，还提供了一种业务的自适应接入装置，包括：获取单元，用于获取待接入网络负载均衡集群的目标服务器的资源消耗量和网络负载均衡集群的当前资源状态，负载均衡集群用于对接入的业务服务器的负载进行管理，资源消耗量为根据目标服务器承载的目标业务的配置确定的在网络负载均衡集群上消耗的资源量；控制单元，用于基于当前资源状态和资源消耗量控制目标服务器在网络负载均衡集群上的接入状态。
根据本申请实施例的另一方面，还提供了一种存储介质，该存储介质包括存储的程序，程序运行时执行上述的方法。
根据本申请实施例的另一方面，还提供了一种电子装置，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，处理器通过计算机程序执行上述的方法。
在本申请实施例中，通过获取待接入网络负载均衡集群的目标服务器的资源消耗量和网络负载均衡集群的当前资源状态，负载均衡集群用于对接入的业务服务器的负载进行管理，资源消耗量为根据目标服务器承载的目标业务的配置确定的在网络负载均衡集群上消耗的资源量；基于当前资源状态和资源消耗量控制目标服务器在网络负载均衡集群上的接入状态，即网络负载均衡集群的当前资源状态表明资源量足够的时候允许接入，否则不允许接入，可以解决相关技术中网络负载均衡容易发生拥堵的技术问题，进而达到业务的自适应接入的技术效果。
附图说明
此处所说明的附图用来提供对本申请的进一步理解，构成本申请的一部分，本申请的示意性实施例及其说明用于解释本申请，并不构成对本申请的不当限定。在附图中：
图1是根据本申请实施例的业务的自适应接入方法的硬件环境的示意图；
图2是根据本申请实施例的一种可选的业务的自适应接入方法的流程图；
图3是根据本申请实施例的一种可选的业务的接入接口的示意图；
图4是根据本申请实施例的一种可选的业务的自适应接入方案的示意图；
图5是根据本申请实施例的一种可选的业务的自适应接入装置的示意图；以及
图6是根据本申请实施例的一种终端的结构框图。
具体实施方式
为了使本技术领域的人员更好地理解本申请方案，下面将结合本申请实施例中的附图，对本申请实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本申请一部分的实施例，而不是全部的实施例。基于本申请中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都应当属于本申请保护的范围。
需要说明的是，本申请的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别类似的对象，而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换，以便这里描述的本申请的实施例能够以除了在这里图示或描述的那些以外的顺序实施。此外，术语“包括”和“具有”以及他们的任何变形，意图在于覆盖不排他的包含，例如，包含了一系列步骤或单元的过程、方法、系统、产品或设备不必限于清楚地列出的那些步骤或单元，而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。
根据本申请实施例的一方面，提供了一种负载均衡系统的实施例。
图1示出了一种可选的负载均衡系统，包括核心交换机101、接入交换机103、负载均衡集群105、业务服务器集群107，图1中的3台(此处的“3台”仅用于示意性说明，具体数量可以根据需求定)负载均衡器(可使用性价比较高的通用服务器)通过网络连接构成了一个负载均衡集群，负载均衡集群可由一组同构或异构的通用服务器构成，流量通过一定的路由策略(比如ECMP等价路由协议)分流到不同的负载均衡服务器，然后每台负载均衡服务器将其接收到的流量通过一定的策略分配到业务服务器上。
根据本申请实施例的一方面，提供了一种业务的自适应接入方法的实施例。图2是根据本申请实施例的一种可选的业务的自适应接入方法的流程图，该方法可以用于图1所示的系统，如图2所示，该方法可以包括以下步骤：
步骤S202，获取待接入网络负载均衡集群的目标服务器的资源消耗量和网络负载均衡集群的当前资源状态，负载均衡集群用于对接入的业务服务器的负载进行管理，资源消耗量为根据目标服务器承载的目标业务的配置确定的在网络负载均衡集群上消耗的资源量。
可选地，本申请的技术方案适用于业务扩展(即增加一个或者多个业务)，此时，上述目标服务器可以为承载该业务的所有业务服务器；本申请的技术方案也适用于业务扩容(即增加某个业务的业务容量，可以增加服务器的所有硬件资源来扩容、也可以增加服务器的部分硬件资源来扩容)，此时，上述目标服务器可以为用于扩容的新增服务器，也可以是有部分硬件资源已经被分配给该业务使用的已接入服务器(已接入服务器的另一部分资源闲置或者被其他业务使用)，此时的扩容相当于把已接入服务器的另一部分资源也分配给该业务使用。
需要说明的是，上述目标服务器的资源消耗量是指预估的目标业务在网络负载均衡集群上消耗的资源量，而不一定是实际消耗量，例如可以认为是该业务可能最繁忙时候的最大消耗量，故为了满足该业务的需求，对该业务按照该资源消耗量来分配。
步骤S204，基于当前资源状态和资源消耗量控制目标服务器在网络负载均衡集群上的接入状态(即确定接入和/或不接入)。
在上述方案中，基于当前资源状态和资源消耗量控制目标服务器在网络负载均衡集群上的接入状态，即网络负载均衡集群的当前资源状态表明资源量足以满足资源消耗量的时候允许接入，否则不允许接入，可以解决相关技术中网络负载均衡容易发生拥堵的技术问题，进而达到业务的自适应接入的技术效果。
本申请可解决业务自适应接入负载均衡集群的问题，可把业务的资源需求配额指标(即业务的资源配置参数，如业务请求数、业务流量以及并发连接数)转化为集群的容量配额指标(即在网络负载均衡集群上的资源消耗量，如业务流量消耗量、数据转发资源消耗量、并发资源消耗量)，然后根据当前集群所有业务的容量配额、新增业务的容量配额和集群最大容量确定新的业务是否可以接入该集群。集群最大容量的评估主要从网络带宽(BPS，bits per second)、数据转发能力(PPS，packets per second)、CPU等指标维度实现了集群容量和实际利用率的评估计算。由于实时的监控采集数据一般低于业务的需求配额指标，而且同一集群上不同业务的监控数据的峰值很可能出现在不同时刻，所以如果简单地采用实时监控数据评估集群业务接入会有低估集群所有业务并发能力的风险。本申请在从集群和业务“配额”的角度评估集群的业务接入能力，即：业务按需向服务集群申请一定额度资源，集群根据自己的当前负载情况和新申请业务的配额决定是否允许该业务接入该集群。下面结合图2所示的步骤和图3(图3中VPC表示业务服务器)进一步详述本申请的技术方案。
在步骤S202提供的技术方案中，获取待接入网络负载均衡集群的目标服务器的资源消耗量和网络负载均衡集群的当前资源状态，负载均衡集群用于对接入的业务服务器的负载进行管理，资源消耗量为根据目标服务器承载的目标业务的配置确定的在网络负载均衡集群上消耗的资源量。
可选地，获取待接入网络负载均衡集群的目标服务器的资源消耗量包括：获取目标业务在目标资源维度上的资源配置参数，目标资源维度上的资源配置参数用于指示在网络负载均衡集群上对该资源维度的资源需求；根据目标资源维度上的资源配置参数确定资源消耗量。
在本申请的实施例中，从负载均衡器集群的不同容量指标维度处理业务自适应接入问题，衡量负载均衡集群的容量主要维度有：网络带宽(BPS)，数据转发能力(PPS)，并发处理能力(CPS,connections per second)。
而业务可以给出的配额指标维度主要有：每秒请求量(QPS,queries persecond)，业务流量，分为上行流量BPS，可简称BPS(rx)和下行流量BPS,可简称BPS(tx)，并发连接数量(MAX_CONN，针对长连接)。
上述流量上行、下行是从负载均衡集群角度定义的，另外需要说明的是，从TCP/IP角度看，业务连接分为长连接和短连接，本申请在QPS计算时的一次query，对短连接是指每次完整的一次请求，包括连接建立、数据交互、连接释放；对长连接仅仅是指一次数据交互。
在上述实施例中，获取目标业务在目标资源维度上的资源配置参数时，可获取目标业务的业务请求数(即每秒请求量QPS)、业务流量以及并发连接数中的至少之一，目标业务在目标资源维度上的资源配置参数包括目标业务的业务请求数、业务流量以及并发连接数中的至少之一，业务流量包括目标业务的上行业务流量和下行业务流量。
在上述实施例中，业务配额指标和负载均衡集群的容量指标不是完全对应的，因此需要有一种机制将业务配额指标转换为负载均衡集群的容量指标，为了实现该目标，根据目标资源维度上的资源参数确定资源消耗量包括以下至少之一：将目标业务的业务流量转换为目标服务器的业务流量消耗量，其中，资源消耗量包括目标服务器的业务流量消耗量；将目标业务的业务流量和目标业务的业务请求数转换为目标服务器的数据转发资源消耗量，其中，资源消耗量包括目标服务器的数据转发资源消耗量；利用目标业务的业务请求数或目标业务的并发连接数确定目标服务器的并发资源消耗量，其中，资源消耗量包括目标服务器的并发资源消耗量。
可选地，将目标业务的业务流量转换为目标服务器的业务流量消耗量包括：将目标业务的业务流量作为目标服务器的业务流量消耗量。具体的业务配额指标到集群带宽容量的转换模型如下：
考虑到目前网络设备主要是全双工设备，因此可以独立评估上行和下行流量带宽，图1给出了外网two-arm集群的流量模型，对于这种服务形态，集群存在内网、外网两组网络接口，分别标识为public和private；存在两个独立的流量方向，分别标识为in和out。因此，业务配额指标到集群带宽容量的转换模型如下。
BPS(public,in)＝BPS(tx),
BPS(public,out)＝BPS(rx),
BPS(private,in)＝BPS(rx),
BPS(private,out)＝BPS(tx)。
对于内网two-arm集群，集群存在一组内网接口，上行和下行流量都流经同一接口，这种服务形态下，业务配额指标到集群带宽容量的转换模型如下：
BPS(private,in)＝BPS(rx)+BPS(tx),
BPS(private,out)＝BPS(rx)+BPS(tx)。
可选地，在业务配额指标到集群转发容量的转换模型中，业务配额指标到集群转发容量的转换需要区分长短连接，将目标业务的业务流量和目标业务的业务请求数转换为目标服务器的数据转发资源消耗量包括：在业务流量采用的连接类型为第一类型(即长连接)的情况下，按照第一模型确定目标服务器的数据转发资源消耗量PPS，也即对于长连接，第一模型通过如下公式描述：
Figure BDA0002221494090000081
在业务流量采用的连接类型为第二类型(即短连接)的情况下，按照第二模型确定目标服务器的数据转发资源消耗量PPS，也即对于短连接，第二模型通过如下公式描述：
Figure BDA0002221494090000082
BPS(inbound)表示目标业务的上行业务流量(或称上行流量配额数据)，a表示上行业务流量的平均包长因子(或称业务数据平均包长调整因子)，BPS(outbound)表示目标业务的下行业务流量(或称下行流量配额数据)，b表示下行业务流量的平均包长因子(或称业务数据平均包长调整因子)，QPS表示目标业务的业务请求数(或称业务每秒请求量数据)，pkt(conn_init)表示连接建立的数据包数量，pkt(conn_term)表示连接终止的数据包数量，pkt(residue)表示不足平均包长的数据包数量；CPS表示目标业务的并发连接数。
在上述实施例中，BPS(inbound),BPS(outbound)、QPS这三个数据可由业务申请接入负载均衡集群时提供，a和b初始值可取为链路MTU的50％(一般万兆以太网链路MTU为1500，因此a，b初始值可取750)；pkt(conn_init),pkt(conn_term),pkt(residue)。
对于TCP连接，初始值可取为pkt(conn_init)＝2.5,pkt(conn_term)＝3.5,pkt(residue)＝1.5；对于UDP连接，pkt(conn_init)＝pkt(conn_term)＝0，pkt(residue)初始值可取为1.5；CPS是每秒建立的连接数，可以通过监控采集数据测量得到，对于长连接，可认为pkt(residue)≈0，因此长连接的转换模型可以近似为：
Figure BDA0002221494090000091
a,b,pkt(conn_init),pkt(conn_term),pkt(residue),CPS这些是模型参数，其取值依赖于具体的业务形态，业务介入后可以用采集到的监控数据训练该模型，并通过反馈机制校正模型，从而可得到每个业务的准确模型。
业务配额指标到集群并发处理容量的转换模型中，对于two-arm的负载均衡集群，可采用FULLNAT(SNAT+DNAT)的实现形式，这种负载均衡集群的并发处理能力受限于本地可用的IP(local IP)和端口(local port)的数量。对于内网，local IP和local port一般资源不成问题，但配置负载均衡集群时也不可能设置为无限大，因此也需要用模型定性衡量。对于常见TCP/UDP服务，每个连接维护一个<协议，源IP，源端口，目的IP，目的端口>五元组，负载均衡集群转发时，目的IP和端口是业务的服务地址，是确定不变的；协议也是预先选定后不会再变；因此，负载均衡集群的最大并发处理能力受限于集群可用的源IP和端口数量，即上文的local IP和local port数量。需要注意的是，由于不同业务的目的IP、端口是不同的，因此，负载均衡集群的并发处理容量实际上就是单台业务服务器最大支持的并发连接数量。
可选地，在上述实施例中，利用目标业务的业务请求数或目标业务的并发连接数确定目标服务器的并发资源消耗量包括：在业务流量采用的连接类型为第二类型的情况下，按照第三模型确定目标服务器的并发资源消耗量LP，第三模型通过如下公式描述：
Figure BDA0002221494090000092
QPS表示目标业务的业务请求数，T(conn_last)表示连接持续时间，N(directors)表示网络负载均衡集群中处于工作状态的负载均衡器的数量，∑ωrs表示对业务服务器在网络负载均衡集群中设置的分流权重ωrs进行求和，max(ωrs)取业务服务器在网络负载均衡集群中设置的分流权重的极大值。
模型参数T(querry),T(conn_last)可以通过训练的方法获取，初始值可以根据服务器配置的连接超时时间设置，对于短连接一般地T(querry)≈0，因此，短连接的转换模型近似为：
Figure BDA0002221494090000101
在业务流量采用的连接类型为第一类型的情况下，按照第四模型确定目标服务器的并发资源消耗量LP，对于长连接，T(conn_last)→∞，可用业务申请时提供的最大连接数MAX_CONN评估长连接业务对负载均衡集群并发处理容量的影响，第四模型通过如下公式描述：
Figure BDA0002221494090000102
MAX_CONN表示目标业务的并发连接数。
在步骤S204提供的技术方案中，基于当前资源状态和资源消耗量控制目标服务器在网络负载均衡集群上的接入状态。
可选地，基于当前资源状态和资源消耗量控制目标服务器在网络负载均衡集群上的接入状态包括：在资源消耗量小于等于资源余量的情况下，在网络负载均衡集群上接入目标服务器，其中，资源余量为网络负载均衡集群的允许使用资源量与网络负载均衡集群的已分配资源量之间的差值，允许使用资源量为网络负载均衡集群的实际总资源量与配置的容量阈值之间的乘积，当前资源状态包括网络负载均衡集群的已分配资源量，容量阈值的取值在0到1之间。
在上述实施例中，在基于当前资源状态和资源消耗量控制目标服务器在网络负载均衡集群上的接入状态时，资源消耗量可以是目标服务器的业务流量消耗量、目标服务器的数据转发资源消耗量以及目标服务器的并发资源消耗量中的至少之一，这样就可以将对资源消耗量的判断转换为三个子判断：“判断目标服务器的业务流量消耗量是否小于等于网络负载均衡集群的业务流量的余量”，网络负载均衡集群的业务流量的余量为网络负载均衡集群的允许使用的业务流量与网络负载均衡集群的已分配的业务流量之间的差值；“判断目标服务器的数据转发资源消耗量是否小于等于网络负载均衡集群的数据转发资源的余量”，网络负载均衡集群的数据转发资源的余量为网络负载均衡集群的允许使用的数据转发资源与网络负载均衡集群的已分配的数据转发资源之间的差值；“判断目标服务器的并发资源消耗量是否小于等于网络负载均衡集群的并发资源的余量”，网络负载均衡集群的并发资源的余量为网络负载均衡集群的允许使用的并发资源与网络负载均衡集群的已分配的并发资源之间的差值。
在资源消耗量是目标服务器的业务流量消耗量、目标服务器的数据转发资源消耗量以及目标服务器的并发资源消耗量中的任意之一的情况下，“在资源消耗量小于等于资源余量的情况下，在网络负载均衡集群上接入目标服务器”即相当于转换为对相应一个条件的判断，如资源消耗量是目标服务器的业务流量消耗量，那么就是在业务流量消耗量小于等于业务流量的资源余量的情况下，在网络负载均衡集群上接入目标服务器。
相似地，在资源消耗量是目标服务器的业务流量消耗量、目标服务器的数据转发资源消耗量以及目标服务器的并发资源消耗量中的任意之二的情况下，“在资源消耗量小于等于资源余量的情况下，在网络负载均衡集群上接入目标服务器”即相当于转换为对相应两个条件的判断，如资源消耗量是目标服务器的数据转发资源消耗量以及目标服务器的并发资源消耗量，那么就是在目标服务器的数据转发资源消耗量小于等于网络负载均衡集群的数据转发资源的余量且目标服务器的并发资源消耗量小于等于网络负载均衡集群的并发资源的余量的情况下，在网络负载均衡集群上接入目标服务器。
相似地，在资源消耗量是目标服务器的业务流量消耗量、目标服务器的数据转发资源消耗量以及目标服务器的并发资源消耗量的情况下，在资源消耗量小于等于资源余量的情况下，在网络负载均衡集群上接入目标服务器”，即相当于在目标服务器的业务流量消耗量小于等于网络负载均衡集群的业务流量的余量、目标服务器的数据转发资源消耗量小于等于网络负载均衡集群的数据转发资源的余量且目标服务器的并发资源消耗量小于等于网络负载均衡集群的并发资源的余量的情况下，在网络负载均衡集群上接入目标服务器。
对于负载均衡集群业务配额容量、业务配额利用率计算可以按照下述方案实现：
负载均衡集群的配额容量是该集群所有业务的转换的配额指标之和，即
Figure BDA0002221494090000121
Tr是即前文的转换模型，当新业务接入时，可以采用下述增量模型计算：
负载均衡集业务群配额容量＝当前集群业务配额容量+Tr(新增业务配额指标)
集群的配额利用率为集群的配额容量与集群实际总容量之比(区别于实际利用率，即集群业务实际容量和集群实际总容量之比)，即：
Figure BDA0002221494090000122
在业务自适应接入和集群容量预警时，业务接入原则：
当前集群业务配额容量+Tr(新增业务配额指标)≤κ·集群实际容量，
其中，κ业务容量阈值，取值范围为0-1，建议默认值0.7；当新接入业务能满足该条件时，才允许业务接入当前负载均衡集群。
集群容量预警原则如下：
当前集群业务配额容量+Tr(新增业务配额指标)≥η·集群实际容量，
其中，η是集群容量预警阈值，取值范围为0.5-1，建议默认值0.6；当上述条件成立时，系统将自动通过报警方式通知系统管理员。
需要特别说明的是，以上是以基于two-arm负载均衡集群服务为例进行说明，one-arm负载均衡服务可以类推；配额容量、配额利用率计算和业务自适应接入时应该考虑集群的所有配额指标，若任何一个配额指标不满足要求可不接入该集群。
作为一种可选的实施例，负载均衡集群自适应接入的实现方案如图4所示。该实现主要包含如下6个步骤(每个步骤可以作为软件上的功能软件模块)。
步骤1，获取业务配额的输入、并对业务配额进行检测(可以通过业务配额输入和检测模块来实现)。
接收并记录不同的维度的业务配额指标，检查业务配额指标是否合理。在业务接入负载均衡集群后，会根据该业务的监控检测数据进一步评估该业务申请的配额指标是否合理，若不合理，将进一步采取相应措施，例如：
如果监控数据高于或接近业务配额数据，将先对业务进行限流以保证集群的可靠性和其他业务的资源配额，并通知业务方处理；如果监控数据远低于业务配额数据，将通知业务方减小业务配额容量申请，以保证负载均衡资源被合理有效利用。
步骤2，对业务配额指标转换(可以通过业务-集群容量配额转换模块实现)。
应用业务配额指标到集群容量配额的计算模型，将业务配额指标转换为负载均衡集群的容量配额。
步骤3，对计算模型的输出进行采集(可通过模型输出采集模块来实现)。
将模型计算结果反馈给模型参数校正模块，进而通过用监控采集模块采集到的实际数据的误差来校正调整模型参数，提高模型精度。
步骤4，对集群进行利用率评估、业务接入和容量预警(可以通过集群利用率评估、业务接入和容量预警模块来实现)。
结合给定的集群实际容量，设置合理的业务接入阈值和集群容量预警阈值，实现集群配额利用率的计算和更新，完成集群的业务自适应接入决策。
步骤5，对模型参数进行训练和实时校正(可通过模型参数校正模块来实现)。
通过训练样本训练模型参数，保证模型参数尽可能的准确；通过给定的模型误差实时或近实时地校正模型参数，保证模型的抗干扰能力。
步骤6，监控业务数据(可通过监控采集模块来实现)。
为模型参数校正模块和业务配额输入检测模块提供业务监控数据支持。
本申请针对负载均衡集群提供了一种全新的集群业务配额指标的计算方法，可以从不同维度计算负载均衡集群的配额利用率，并在此基础上实现了业务自适应接入和集群配额容量预警功能，该方案可为公司四层QLB服务的业务实现自适应接入，应用后可有效提高QLB服务的管理效率，另外，通过合理选取性能指标评价维度，也可推广应用到其他网络基础服务，如DNS服务、虚拟化服务、分布式存储服务等。
采用本申请的技术方案，能够实现如下功能和效果：业务配额指标到集群容量配额的变换模型和实现；负载均衡配额容量、配额利用率的计算方法和实现；基于集群配额利用率的业务自适应接入方案和实现；基于集群配额利用率的集群容量预警功能。该方案在保证集群稳定的前提下实现了负载均衡集群的业务自动化接入和智能容量预警，可以有效降低负载均衡服务管理员的运维操作成本，减少人为失误，提高服务的可靠性。
需要说明的是，对于前述的各方法实施例，为了简单描述，故将其都表述为一系列的动作组合，但是本领域技术人员应该知悉，本申请并不受所描述的动作顺序的限制，因为依据本申请，某些步骤可以采用其他顺序或者同时进行。其次，本领域技术人员也应该知悉，说明书中所描述的实施例均属于优选实施例，所涉及的动作和模块并不一定是本申请所必须的。
通过以上的实施方式的描述，本领域的技术人员可以清楚地了解到根据上述实施例的方法可借助软件加必需的通用硬件平台的方式来实现，当然也可以通过硬件，但很多情况下前者是更佳的实施方式。基于这样的理解，本申请的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质(如ROM/RAM、磁碟、光盘)中，包括若干指令用以使得一台终端设备(可以是手机，计算机，服务器，或者网络设备等)执行本申请各个实施例所述的方法。
根据本申请实施例的另一个方面，还提供了一种用于实施上述业务的自适应接入方法的业务的自适应接入装置。图5是根据本申请实施例的一种可选的业务的自适应接入装置的示意图，如图5所示，该装置可以包括：
获取单元501，用于获取待接入网络负载均衡集群的目标服务器的资源消耗量和网络负载均衡集群的当前资源状态，其中，负载均衡集群用于对接入的业务服务器的负载进行管理，资源消耗量为根据目标服务器承载的目标业务的配置确定的在网络负载均衡集群上消耗的资源量；
控制单元503，用于基于当前资源状态和资源消耗量控制目标服务器在网络负载均衡集群上的接入状态。
需要说明的是，该实施例中的获取单元501可以用于执行本申请实施例中的步骤S202，该实施例中的控制单元503可以用于执行本申请实施例中的步骤S204。
此处需要说明的是，上述模块与对应的步骤所实现的示例和应用场景相同，但不限于上述实施例所公开的内容。需要说明的是，上述模块作为装置的一部分可以运行在如图1所示的硬件环境中，可以通过软件实现，也可以通过硬件实现。
本申请可解决业务自适应接入负载均衡集群的问题，可把业务的资源需求配额指标转化为集群的容量配额指标，然后根据当前集群所有业务的容量配额、新增业务的容量配额和集群最大容量确定新的业务是否可以接入该集群。集群最大容量的评估主要从网络带宽(BPS)、数据转发能力(PPS)、CPU等指标维度实现了集群容量和实际利用率的评估计算。由于实时的监控采集数据一般低于业务的需求配额指标，而且同一集群上不同业务的监控数据的峰值很可能出现在不同时刻，所以如果简单地采用实时监控数据评估集群业务接入会有低估集群所有业务并发能力的风险。本申请在从集群和业务“配额”的角度评估集群的业务接入能力，即：业务按需向服务集群申请一定额度资源，集群根据自己的当前负载情况和新申请业务的配额决定是否允许该业务接入该集群。
可选地，获取单元501还可用于：获取目标业务在目标资源维度上的资源配置参数，其中，目标资源维度上的资源配置参数用于指示在网络负载均衡集群上对该资源维度的资源需求；根据目标资源维度上的资源配置参数确定资源消耗量。
可选地，获取单元501还可用于：获取目标业务的业务请求数、业务流量以及并发连接数中的至少之一，其中，目标业务在目标资源维度上的资源配置参数包括目标业务的业务请求数、业务流量以及并发连接数中的至少之一，业务流量包括目标业务的上行业务流量和下行业务流量。
可选地，获取单元501还可用于：将目标业务的业务流量转换为目标服务器的业务流量消耗量，其中，资源消耗量包括目标服务器的业务流量消耗量；将目标业务的业务流量和目标业务的业务请求数转换为目标服务器的数据转发资源消耗量，其中，资源消耗量包括目标服务器的数据转发资源消耗量；利用目标业务的业务请求数或目标业务的并发连接数确定目标服务器的并发资源消耗量，其中，资源消耗量包括目标服务器的并发资源消耗量。
可选地，获取单元501还可用于：在业务流量采用的连接类型为第一类型的情况下，按照第一模型确定目标服务器的数据转发资源消耗量PPS，第一模型通过如下公式描述：
Figure BDA0002221494090000171
其中，BPS(inbound)表示目标业务的上行业务流量，a表示上行业务流量的平均包长因子，BPS(outbound)表示目标业务的下行业务流量，b表示下行业务流量的平均包长因子，QPS表示目标业务的业务请求数，pkt(conn_init)表示连接建立的数据包数量，pkt(conn_term)表示连接终止的数据包数量，pkt(residue)表示不足平均包长的数据包数量；
在业务流量采用的连接类型为第二类型的情况下，按照第二模型确定目标服务器的数据转发资源消耗量PPS，第二模型通过如下公式描述：
Figure BDA0002221494090000172
其中，CPS表示目标业务的并发连接数。
可选地，获取单元501还可用于：在业务流量采用的连接类型为第二类型的情况下，按照第三模型确定目标服务器的并发资源消耗量LP，第三模型通过如下公式描述：
Figure BDA0002221494090000173
其中，QPS表示目标业务的业务请求数，T(querry)表示连接请求时间，T(conn_last)表示连接持续时间，N(directors)表示网络负载均衡集群中处于工作状态的负载均衡器的数量，Σωrs表示对业务服务器在网络负载均衡集群中设置的分流权重进行求和，max(ωrs)取业务服务器在网络负载均衡集群中设置的分流权重的极大值；
在业务流量采用的连接类型为第一类型的情况下，按照第四模型确定目标服务器的并发资源消耗量LP，第四模型通过如下公式描述：
Figure BDA0002221494090000181
MAX_CONN表示目标业务的并发连接数。
可选地，控制单元503还可用于：在资源消耗量小于等于资源余量的情况下，在网络负载均衡集群上接入目标服务器，其中，资源余量为网络负载均衡集群的允许使用资源量与网络负载均衡集群的已分配资源量之间的差值，允许使用资源量为网络负载均衡集群的实际总资源量与配置的容量阈值之间的乘积，当前资源状态包括网络负载均衡集群的已分配资源量，容量阈值的取值在0到1之间。
可选地，控制单元503还可用于：在目标服务器的业务流量消耗量小于等于网络负载均衡集群的业务流量的余量、目标服务器的数据转发资源消耗量小于等于网络负载均衡集群的数据转发资源的余量且目标服务器的并发资源消耗量小于等于网络负载均衡集群的并发资源的余量的情况下，在网络负载均衡集群上接入目标服务器，其中，资源余量包括网络负载均衡集群的业务流量的余量、网络负载均衡集群的数据转发资源的余量以及网络负载均衡集群的并发资源的余量。
此处需要说明的是，上述模块与对应的步骤所实现的示例和应用场景相同，但不限于上述实施例所公开的内容。需要说明的是，上述模块作为装置的一部分可以运行在如图1所示的硬件环境中，可以通过软件实现，也可以通过硬件实现，其中，硬件环境包括网络环境。
根据本申请实施例的另一个方面，还提供了一种用于实施上述业务的自适应接入方法的服务器。
图6是根据本申请实施例的一种服务器的结构框图，如图6所示，该服务器可以包括：一个或多个(图6中仅示出一个)处理器601、存储器603、以及传输装置605，如图6所示，该终端还可以包括输入输出设备607。
其中，存储器603可用于存储软件程序以及模块，如本申请实施例中的业务的自适应接入方法和装置对应的程序指令/模块，处理器601通过运行存储在存储器603内的软件程序以及模块，从而执行各种功能应用以及数据处理，即实现上述的业务的自适应接入方法。存储器603可包括高速随机存储器，还可以包括非易失性存储器，如一个或者多个磁性存储装置、闪存、或者其他非易失性固态存储器。在一些实例中，存储器603可进一步包括相对于处理器601远程设置的存储器，这些远程存储器可以通过网络连接至终端。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。
上述的传输装置605用于经由一个网络接收或者发送数据，还可以用于处理器与存储器之间的数据传输。上述的网络具体实例可包括有线网络及无线网络。在一个实例中，传输装置605包括一个网络适配器(Network Interface Controller，NIC)，其可通过网线与其他网络设备与路由器相连从而可与互联网或局域网进行通讯。在一个实例中，传输装置605为射频(Radio Frequency，RF)模块，其用于通过无线方式与互联网进行通讯。
其中，具体地，存储器603用于存储应用程序。
处理器601可以通过传输装置605调用存储器603存储的应用程序，以执行下述步骤：
获取待接入网络负载均衡集群的目标服务器的资源消耗量和网络负载均衡集群的当前资源状态，其中，负载均衡集群用于对接入的业务服务器的负载进行管理，资源消耗量为根据目标服务器承载的目标业务的配置确定的在网络负载均衡集群上消耗的资源量；
基于当前资源状态和资源消耗量控制目标服务器在网络负载均衡集群上的接入状态。
可选地，本实施例中的具体示例可以参考上述实施例中所描述的示例，本实施例在此不再赘述。
本领域普通技术人员可以理解，图6所示的结构仅为示意，终端可以是智能手机(如Android手机、iOS手机等)、平板电脑、掌上电脑以及移动互联网设备(Mobile InternetDevices，MID)、PAD等终端设备。图6其并不对上述电子装置的结构造成限定。例如，终端还可包括比图6中所示更多或者更少的组件(如网络接口、显示装置等)，或者具有与图6所示不同的配置。
本领域普通技术人员可以理解上述实施例的各种方法中的全部或部分步骤是可以通过程序来指令终端设备相关的硬件来完成，该程序可以存储于一计算机可读存储介质中，存储介质可以包括：闪存盘、只读存储器(Read-Only Memory，ROM)、随机存取器(RandomAccess Memory，RAM)、磁盘或光盘等。
本申请的实施例还提供了一种存储介质。可选地，在本实施例中，上述存储介质可以用于执行业务的自适应接入方法的程序代码。
可选地，在本实施例中，上述存储介质可以位于上述实施例所示的网络中的多个网络设备中的至少一个网络设备上。
可选地，在本实施例中，存储介质被设置为存储用于执行以下步骤的程序代码：
获取待接入网络负载均衡集群的目标服务器的资源消耗量和网络负载均衡集群的当前资源状态，其中，负载均衡集群用于对接入的业务服务器的负载进行管理，资源消耗量为根据目标服务器承载的目标业务的配置确定的在网络负载均衡集群上消耗的资源量；
基于当前资源状态和资源消耗量控制目标服务器在网络负载均衡集群上的接入状态。
可选地，本实施例中的具体示例可以参考上述实施例中所描述的示例，本实施例在此不再赘述。
可选地，在本实施例中，上述存储介质可以包括但不限于：U盘、只读存储器(ROM，Read-Only Memory)、随机存取存储器(RAM，Random Access Memory)、移动硬盘、磁碟或者光盘等各种可以存储程序代码的介质。
上述本申请实施例序号仅仅为了描述，不代表实施例的优劣。
上述实施例中的集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时，可以存储在上述计算机可读取的存储介质中。基于这样的理解，本申请的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的全部或部分可以以软件产品的形式体现出来，该计算机软件产品存储在存储介质中，包括若干指令用以使得一台或多台计算机设备(可为个人计算机、服务器或者网络设备等)执行本申请各个实施例所述方法的全部或部分步骤。
在本申请的上述实施例中，对各个实施例的描述都各有侧重，某个实施例中没有详述的部分，可以参见其他实施例的相关描述。
在本申请所提供的几个实施例中，应该理解到，所揭露的客户端，可通过其它的方式实现。其中，以上所描述的装置实施例仅仅是示意性的，例如所述单元的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式，例如多个单元或组件可以结合或者可以集成到另一个系统，或一些特征可以忽略，或不执行。另一点，所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口，单元或模块的间接耦合或通信连接，可以是电性或其它的形式。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的，作为单元显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外，在本申请各个实施例中的各功能单元可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现，也可以采用软件功能单元的形式实现。
以上所述仅是本申请的优选实施方式，应当指出，对于本技术领域的普通技术人员来说，在不脱离本申请原理的前提下，还可以做出若干改进和润饰，这些改进和润饰也应视为本申请的保护范围。

Claims (10)

1.一种业务的自适应接入方法，其特征在于，包括：
获取待接入网络负载均衡集群的目标服务器的资源消耗量和所述网络负载均衡集群的当前资源状态，其中，所述负载均衡集群用于对接入的业务服务器的负载进行管理，所述资源消耗量为根据所述目标服务器承载的目标业务的配置确定的在所述网络负载均衡集群上消耗的资源量；
基于所述当前资源状态和所述资源消耗量控制所述目标服务器在所述网络负载均衡集群上的接入状态。
2.根据权利要求1所述的方法，其特征在于，获取待接入网络负载均衡集群的目标服务器的资源消耗量包括：
获取所述目标业务在目标资源维度上的资源配置参数，其中，所述目标资源维度上的资源配置参数用于指示在所述网络负载均衡集群上对所述目标资源维度的资源需求；
根据所述目标资源维度上的资源配置参数确定所述目标服务器的资源消耗量。
3.根据权利要求2所述的方法，其特征在于，获取所述目标业务在目标资源维度上的资源配置参数包括：
获取所述目标业务的业务请求数、业务流量以及并发连接数中的至少之一，其中，所述目标业务在所述目标资源维度上的资源配置参数包括所述目标业务的业务请求数、业务流量以及并发连接数中的至少之一，所述业务流量包括所述目标业务的上行业务流量和下行业务流量。
4.根据权利要求2所述的方法，其特征在于，根据所述目标资源维度上的资源参数确定所述资源消耗量包括以下至少之一：
将所述目标业务的业务流量转换为所述目标服务器的业务流量消耗量，其中，所述资源消耗量包括所述目标服务器的业务流量消耗量；
将所述目标业务的业务流量和所述目标业务的业务请求数转换为所述目标服务器的数据转发资源消耗量，其中，所述资源消耗量包括所述目标服务器的数据转发资源消耗量；
利用所述目标业务的业务请求数或所述目标业务的并发连接数确定所述目标服务器的并发资源消耗量，其中，所述资源消耗量包括所述目标服务器的并发资源消耗量。
5.根据权利要求4所述的方法，其特征在于，将所述目标业务的业务流量和所述目标业务的业务请求数转换为所述目标服务器的数据转发资源消耗量包括：
在所述业务流量采用的连接类型为第一类型的情况下，按照第一模型确定所述目标服务器的数据转发资源消耗量PPS，所述第一模型通过如下公式描述：
Figure FDA0002221494080000021
其中，BPS(inbound)表示所述目标业务的上行业务流量，a表示上行业务流量的平均包长因子，BPS(outbound)表示所述目标业务的下行业务流量，b表示下行业务流量的平均包长因子，QPS表示所述目标业务的业务请求数，pkt(conn_init)表示连接建立的数据包数量，pkt(conn_term)表示连接终止的数据包数量，pkt(residue)表示不足平均包长的数据包数量；
在所述业务流量采用的连接类型为第二类型的情况下，按照第二模型确定所述目标服务器的数据转发资源消耗量PPS，所述第二模型通过如下公式描述：
Figure FDA0002221494080000022
其中，CPS表示所述目标业务的并发连接数。
6.根据权利要求4所述的方法，其特征在于，利用所述目标业务的业务请求数或所述目标业务的并发连接数确定所述目标服务器的并发资源消耗量包括：
在所述业务流量采用的连接类型为第二类型的情况下，按照第三模型确定所述目标服务器的并发资源消耗量LP，所述第三模型通过如下公式描述：
Figure FDA0002221494080000031
其中，QPS表示所述目标业务的业务请求数，T(querry)表示连接请求时间，T(conn_last)表示连接持续时间，N(directors)表示所述网络负载均衡集群中处于工作状态的负载均衡器的数量，∑ωrs表示对业务服务器在所述网络负载均衡集群中设置的分流权重ωrs进行求和，max(ωrs)取业务服务器在所述网络负载均衡集群中设置的分流权重的极大值；
在所述业务流量采用的连接类型为第一类型的情况下，按照第四模型确定所述目标服务器的并发资源消耗量LP，所述第四模型通过如下公式描述：
Figure FDA0002221494080000032
MAX_CONN表示所述目标业务的并发连接数。
7.根据权利要求1至6中任意一项所述的方法，其特征在于，基于所述当前资源状态和所述资源消耗量控制所述目标服务器在所述网络负载均衡集群上的接入状态包括：
在所述资源消耗量小于等于资源余量的情况下，在所述网络负载均衡集群上接入所述目标服务器，其中，所述资源余量为所述网络负载均衡集群的允许使用资源量与所述网络负载均衡集群的已分配资源量之间的差值，所述允许使用资源量为所述网络负载均衡集群的实际总资源量与配置的容量阈值之间的乘积，所述当前资源状态包括所述网络负载均衡集群的已分配资源量，所述容量阈值的取值在0到1之间。
8.一种业务的自适应接入装置，其特征在于，包括：
获取单元，用于获取待接入网络负载均衡集群的目标服务器的资源消耗量和所述网络负载均衡集群的当前资源状态，其中，所述负载均衡集群用于对接入的业务服务器的负载进行管理，所述资源消耗量为根据所述目标服务器承载的目标业务的配置确定的在所述网络负载均衡集群上消耗的资源量；
控制单元，用于基于所述当前资源状态和所述资源消耗量控制所述目标服务器在所述网络负载均衡集群上的接入状态。
9.一种存储介质，其特征在于，所述存储介质包括存储的程序，其中，所述程序运行时执行上述权利要求1至7任一项中所述的方法。
10.一种电子装置，包括存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序，其特征在于，所述处理器通过所述计算机程序执行上述权利要求1至7任一项中所述的方法。
CN201910935543.5A 2019-09-29 2019-09-29 业务的自适应接入方法和装置、存储介质、电子装置 Active CN110855741B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201910935543.5A CN110855741B (zh) 2019-09-29 2019-09-29 业务的自适应接入方法和装置、存储介质、电子装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201910935543.5A CN110855741B (zh) 2019-09-29 2019-09-29 业务的自适应接入方法和装置、存储介质、电子装置

Publications (2)

Publication Number Publication Date
CN110855741A CN110855741A (zh) 2020-02-28
CN110855741B true CN110855741B (zh) 2022-01-11

Family

ID=69597286

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201910935543.5A Active CN110855741B (zh) 2019-09-29 2019-09-29 业务的自适应接入方法和装置、存储介质、电子装置

Country Status (1)

Country Link
CN (1) CN110855741B (zh)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111787063B (zh) * 2020-06-02 2023-05-16 深圳前海移联科技有限公司 一种业务服务的通道路由管理方法
CN111782732A (zh) * 2020-07-21 2020-10-16 深圳市腾讯网域计算机网络有限公司 一种数据处理方法、装置及计算机可读存储介质
CN114385345A (zh) * 2020-10-22 2022-04-22 同方威视技术股份有限公司 资源调度方法、智能识别资源调度方法及相关设备
CN114143327B (zh) * 2021-12-09 2024-04-09 深圳前海微众银行股份有限公司 集群资源配额分配方法、装置及电子设备

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7647401B1 (en) * 2008-10-03 2010-01-12 International Business Machines Corporation System and method for managing resources of a network load balancer via use of a presence server
WO2014058566A2 (en) * 2012-10-08 2014-04-17 Motorola Mobility Llc Methods and apparatus for peforming dynamic load balancing of processing resources
CN206820879U (zh) * 2017-04-20 2017-12-29 北京蓝海华业科技股份有限公司 一种多媒体远程会议系统
CN107645520A (zh) * 2016-07-21 2018-01-30 阿里巴巴集团控股有限公司 一种负载均衡方法、装置以及系统
CN107707612A (zh) * 2017-08-10 2018-02-16 北京奇艺世纪科技有限公司 一种负载均衡集群的资源利用率的评估方法及装置

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7647401B1 (en) * 2008-10-03 2010-01-12 International Business Machines Corporation System and method for managing resources of a network load balancer via use of a presence server
WO2014058566A2 (en) * 2012-10-08 2014-04-17 Motorola Mobility Llc Methods and apparatus for peforming dynamic load balancing of processing resources
CN107645520A (zh) * 2016-07-21 2018-01-30 阿里巴巴集团控股有限公司 一种负载均衡方法、装置以及系统
CN206820879U (zh) * 2017-04-20 2017-12-29 北京蓝海华业科技股份有限公司 一种多媒体远程会议系统
CN107707612A (zh) * 2017-08-10 2018-02-16 北京奇艺世纪科技有限公司 一种负载均衡集群的资源利用率的评估方法及装置

Also Published As

Publication number Publication date
CN110855741A (zh) 2020-02-28

Similar Documents

Publication Publication Date Title
CN110855741B (zh) 业务的自适应接入方法和装置、存储介质、电子装置
US20230195499A1 (en) Technologies for deploying virtual machines in a virtual network function infrastructure
US9537773B2 (en) Ensuring predictable and quantifiable networking performance
US11070625B2 (en) Server connection capacity management
US11463511B2 (en) Model-based load balancing for network data plane
US8730806B2 (en) Congestion control and resource allocation in split architecture networks
CN110830391A (zh) 资源分配方法及装置、集群系统
US20120173709A1 (en) Seamless scaling of enterprise applications
CN110365748A (zh) 业务数据的处理方法和装置、存储介质及电子装置
CN107920366A (zh) 一种对移动终端的业务进行分流的方法及装置
US20160164690A1 (en) Communication system
WO2004017574A1 (en) Monitoring flow control signalling in a cellular network for service management and network dimensioning purposes
CN109067926A (zh) 负载均衡方法、装置、计算机设备及存储介质
US11985049B2 (en) Method and system for guaranteeing service application experience
CN108028828A (zh) 一种分布式拒绝服务DDoS攻击检测方法及相关设备
US20220255828A1 (en) Network traffic migration method and apparatus
KR20130060350A (ko) Atca-기반 장비에서 통신 트래픽을 스케줄링하기 위한 방법 및 장치
CN107147585B (zh) 一种流量控制方法及装置
CN110933135B (zh) 在计算机设备中建立网络连接的方法和装置
CN105939208B (zh) 采样数据的传输方法及装置
CN110309225B (zh) 数据处理方法及系统
Stanojevic et al. Generalized distributed rate limiting
CN105847172B (zh) 业务流量控制方法及装置
US20220141913A1 (en) Core network for mobile communication system
WO2017131674A1 (en) Managing network traffic using experiential capacity

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant