CN108200185A - 一种实现负载均衡的方法及装置 - Google Patents

一种实现负载均衡的方法及装置 Download PDF

Info

Publication number
CN108200185A
CN108200185A CN201810035257.9A CN201810035257A CN108200185A CN 108200185 A CN108200185 A CN 108200185A CN 201810035257 A CN201810035257 A CN 201810035257A CN 108200185 A CN108200185 A CN 108200185A
Authority
CN
China
Prior art keywords
connection
node
preset
minimum current
connection requests
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201810035257.9A
Other languages
English (en)
Other versions
CN108200185B (zh
Inventor
孙艳杰
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hangzhou DPtech Information Technology Co Ltd
Original Assignee
Hangzhou DPTech Technologies Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hangzhou DPTech Technologies Co Ltd filed Critical Hangzhou DPTech Technologies Co Ltd
Priority to CN201810035257.9A priority Critical patent/CN108200185B/zh
Publication of CN108200185A publication Critical patent/CN108200185A/zh
Application granted granted Critical
Publication of CN108200185B publication Critical patent/CN108200185B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00—Network arrangements or protocols for supporting network services or applications
    • H04L67/50—Network services
    • H04L67/60—Scheduling or organising the servicing of application requests, e.g. requests for application data transmissions using the analysis and optimisation of the required network resources
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00—Network arrangements or protocols for supporting network services or applications
    • H04L67/14—Session management
    • H04L67/141—Setup of application sessions
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00—Network arrangements or protocols for supporting network services or applications
    • H04L67/50—Network services
    • H04L67/60—Scheduling or organising the servicing of application requests, e.g. requests for application data transmissions using the analysis and optimisation of the required network resources
    • H04L67/63—Routing a service request depending on the request content or context

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Signal Processing (AREA)
  • Data Exchanges In Wide-Area Networks (AREA)

Abstract

本申请提供一种实现负载均衡的方法及装置。一种实现负载均衡的方法，所述方法包括：接收到连接请求后，确定各节点中当前连接数最小的节点；判断在预设的第一统计时段内接收到的连接请求的数量是否超出预设阈值；若超出所述预设阈值，则将接收到的连接请求中的N个连接请求分配给所述当前连接数最小的节点，所述N为大于1的整数；若未超出所述预设阈值，则将接收到的连接请求中的1个连接请求分配给所述当前连接数最小的节点。本申请可减少网络设备遍历节点的次数及分配连接请求的总耗时。

Description

一种实现负载均衡的方法及装置
技术领域
本申请涉及通信技术领域，尤其涉及一种实现负载均衡的方法及装置。
背景技术
负载均衡是将特定的业务，如网络服务、网络流量等，分担给多个设备，从而提高业务处理能力，保证业务的高可用性。
网络设备通常可采用最小连接算法实现业务的均衡调度。现有技术中，网络设备在接收到连接请求后，可通过遍历所连接的各个节点，获取各个节点当前的连接数，通过轮询比对确定连接数最小的节点，可将接收到的连接请求分配给连接数最小的节点。当再次接收到连接请求后，网络设备仍需重新确定连接数最小的节点。
随着网络设备连接的节点的数量的增加，遍历节点的耗时相应增长，由此将降低网络设备的处理性能。
发明内容
有鉴于此，本申请提供一种实现负载均衡的方法，以减少网络设备遍历节点的次数及分配连接请求的总耗时，从而提升网络设备的处理性能。
具体地，本申请是通过如下技术方案实现的：
一种实现负载均衡的方法，所述方法应用于负载均衡环境中的网络设备，所述网络设备连接若干个节点，所述方法包括：
接收到连接请求后，确定各节点中当前连接数最小的节点；
判断在预设的第一统计时段内接收到的连接请求的数量是否超出预设阈值；
若超出所述预设阈值，则将接收到的连接请求中的N个连接请求分配给所述当前连接数最小的节点，所述N为大于1的整数；
若未超出所述预设阈值，则将接收到的连接请求中的1个连接请求分配给所述当前连接数最小的节点。
一种实现负载均衡的装置，所述装置应用于负载均衡环境中的网络设备，所述网络设备连接若干个节点，所述装置包括：
确定模块，用于接收到连接请求后，确定各节点中当前连接数最小的节点；
判断模块，用于判断在预设的第一统计时段内接收到的连接请求的数量是否超出预设阈值；
分配模块，用于在确定接收到的连接请求的数量超出预设阈值时，将接收到的连接请求中的N个连接请求分配给所述当前连接数最小的节点，所述N为大于1的整数；
或者，
在确定接收到的连接请求的数量未超出预设阈值时，则将接收到的连接请求中的1个连接请求分配给所述当前连接数最小的节点。
本申请中，可在接收到连接请求后，确定各节点中当前连接数最小的节点，并根据预设的第一统计时段内接收到的连接请求的数量是否超出预设阈值，确定当前需要分配给上述当前连接数最小的节点的连接请求的数量为N还是1。与现有技术相比，在确定预设的第一统计时段内接收到的连接请求的数量超出预设阈值后，可连续将N个连接请求分配给所述当前连接数最小的节点，在与现有技术接收同等数量的连接请求的情况下，本申请可减少遍历节点的次数，使得分配连接请求的总耗时减少，从而可提升网络设备的处理性能。
附图说明
图1是本申请一示例性实施例示出的一种实现负载均衡的方法流程图；
图2是本申请一示例性实施例示出的实现负载均衡的组网图；
图3是本申请一示例性实施例示出的计算分配给节点的连接请求的数量N的流程图；
图4是本申请一示例性实施例示出的一种网络设备的硬件结构图；
图5是本申请一示例性实施例示出的一种实现负载均衡的装置的结构示意图。
具体实施方式
这里将详细地对示例性实施例进行说明，其示例表示在附图中。下面的描述涉及附图时，除非另有表示，不同附图中的相同数字表示相同或相似的要素。以下示例性实施例中所描述的实施方式并不代表与本申请相一致的所有实施方式。相反，它们仅是与如所附权利要求书中所详述的、本申请的一些方面相一致的装置和方法的例子。
在本申请使用的术语是仅仅出于描述特定实施例的目的，而非旨在限制本申请。在本申请和所附权利要求书中所使用的单数形式的“一种”、“所述”和“该”也旨在包括多数形式，除非上下文清楚地表示其他含义。还应当理解，本文中使用的术语“和/或”是指并包含一个或多个相关联的列出项目的任何或所有可能组合。
应当理解，尽管在本申请可能采用术语第一、第二、第三等来描述各种信息，但这些信息不应限于这些术语。这些术语仅用来将同一类型的信息彼此区分开。例如，在不脱离本申请范围的情况下，第一信息也可以被称为第二信息，类似地，第二信息也可以被称为第一信息。取决于语境，如在此所使用的词语“如果”可以被解释成为“在……时”或“当……时”或“响应于确定”。
负载均衡是将特定的业务，如网络服务、网络流量等，分担给多个设备，从而提高业务处理能力，保证业务的高可用性。
网络设备通常可采用最小连接算法实现业务的均衡调度。现有技术中，网络设备在接收到连接请求后，可通过遍历所连接的各个节点，获取各个节点当前的连接数，通过轮询比对确定连接数最小的节点，可将接收到的连接请求分配给连接数最小的节点。当再次接收到连接请求后，网络设备仍需重新确定连接数最小的节点。
随着网络设备连接的节点的数量的增加，遍历节点的耗时相应增长，由此将降低网络设备的处理性能。
因此，为了解决上述问题，本申请提供一种实现负载均衡的方法，可在接收到连接请求后，确定各节点中当前连接数最小的节点，并根据预设的第一统计时段内接收到的连接请求的数量是否超出预设阈值，确定当前需要分配给所述当前连接数最小的节点的连接请求的数量为N还是1。与现有技术相比，在确定预设的第一统计时段内接收到的连接请求的数量超出预设阈值后，可连续将N个连接请求分配给所述当前连接数最小的节点，在与现有技术接收同等数量的连接请求的情况下，本申请可减少遍历节点的次数，使得分配连接请求的总耗时减少，从而可提升网络设备的处理性能。
下面将结合具体实施例对本申请的实现过程进行描述。
请参考图1，图1为本申请实施例示出的一种实现负载均衡的方法流程图，该方法可应用于负载均衡环境中的网络设备，如服务器、路由器等。其中，上述网络设备还连接有若干个节点，该节点可以是服务器或路由器等网络设备。
其中，上述实现负载均衡的方法可以包括以下步骤：
S101，接收到连接请求后，确定各节点中当前连接数最小的节点。
在本申请实施例中，网络设备可在预设的统计时段内记录所接收的连接请求的数量，该预设的统计时段的时长可根据实际需求进行设定，例如可设定每隔一秒记录一次这一秒内所接收的连接请求的数量。此处可假设网络设备在接收到连接请求时已记录的所接收的连接请求的数量如表1所示。
另外，网络设备在接收到连接请求时，可先遍历与其连接的各个节点，获取各节点当前的连接数，通过比较各节点的连接数，确定出当前连接数最小的节点。
以图2所示的组网图为例，假设网络设备连接有n个节点，且节点4～n的连接数均大于3300。网络设备在接到连接请求后，可先获取节点1的连接数3320，接着获取节点2的连接数3300，并可将节点2的连接数与节点1的连接数进行比较，确定节点1和节点2中连接数最小的节点2，之后可继续获取节点3的连接数3280，并将节点3的连接数与节点2的连接数3300进行比较后，确定节点2和节点3中连接数最小的节点3，依次类推，即可确定出节点1～n中连接数最小的节点。此处可假设节点3为当前连接数最小的节点。
时间 接收的连接请求数量
... ...
第7秒 1200
第8秒 1400
第9秒 1100
第10秒 1500
表1
S102，判断在预设的第一统计时段内接收到的连接请求的数量是否超出预设阈值。
在确定出当前连接数最小的节点3后，网络设备可进一步获取表1中最近一次记录的接收的连接请求的数量，并判断该数量是否超出预设阈值。若未超出预设阈值，则可继续执行步骤S103；若超出预设阈值，则可继续执行步骤S104。
其中，上述预设阈值可由用户根据经验设定，例如可设定为1000或1200等，此处不作限定。
S103，将接收到的连接请求中的1个连接请求分配给所述当前连接数最小的节点。
在本申请实施例中，当最近一次记录的接收的连接请求的数量未超出预设阈值时，可确定分配给节点3的连接请求数量为1，并将接收到的连接请求中的1个连接请求分配给节点3。后续当再次接收到连接请求时，可继续执行步骤S101。
S104，计算当前需要分配给所述当前连接数最小的节点的连接请求的数量N。
在本申请实施例中，以设定的预设阈值为1200为例对N的计算过程进行说明。
根据步骤S101可知，在第10秒至第11秒间某一时刻接收到连接请求时，根据表1可知，最近一次记录的接收的连接请求的数量为第10秒记录的接收的连接请求的数量1500。由此可知，在接收到上述连接请求时，最近一次记录的接收的连接请求的数量超出了预设阈值1200，此时网络设备可进一步计算当前需要分配给连接数最小的节点3的连接请求的数量N。其中，N为大于1的整数。
针对上述N，其中一种计算方法可参考图3，具体的计算过程可包括以下步骤：
S301，获取需要分配给所述当前连接数最小的节点的连接请求的数量N1。
S302，针对预设的第二统计时段内多次记录的各节点的连接数，分别计算每次记录的各节点的连接数中最大连接数与最小连接数的偏差值。
在本申请实施例中，网络设备还可定期记录节点1～n的连接数，如可每隔一秒记录一次节点1～n的连接数，假设在接收到步骤S101的连接请求时，网络设备记录的节点1～n的连接数如表2所示。
... 第7秒 第8秒 第9秒 第10秒
节点1 ... 3040 3080 3250 3320
节点2 ... 3030 3090 3220 3300
节点3 ... 3020 3100 3200 3280
... ... ... ... ... ...
节点n ... 3030 3070 3260 3310
表2
在计算N之前，网络设备可先获取上次计算得到的或者预设的需要分配给所述当前连接数最小的节点的连接请求的数量N1，之后可根据表2，针对预设的第二统计时段内多次记录的各节点的连接数，分别计算每次记录的各节点的连接数中最大连接数与最小连接数的偏差值。
其中，N1为大于1的整数，此处可假设N1＝4。上述预设的第二统计时段可以设定为4秒，或者为保证结果更为精确，也可以设定较长的统计时段，如10秒等，此处不作特殊限定。
下面将以预设的第二统计时段为4秒为例对N的计算过程进行说明。
网络设备在获取N1后，可对表2中最近记录的第7～10秒这4秒内的各节点的连接数进行分析。首先，可对第7秒记录的各节点的连接数进行比较，分别确定出节点1～n中连接数最大和最小的节点，此处连接数最大和最小的节点分别为节点3和节点1。其次，可进一步计算节点1和节点3的连接数的偏差值D，即：
D＝(最大连接数-最小连接数)/最大连接数
＝(3040-3020)/3040＝0.6％
依照上述方法，可分别计算出第8秒、第9秒和第10秒中各节点的连接数中最大连接数与最小连接数的偏差值，分别为0.96％、1.8％和1.2％。
S303，判断所述偏差值是否超出第一预设偏差值。
在算得第7～10秒内各节点的连接数中最大连接数与最小连接数的偏差值后，可将算得的上述偏差值与第一预设偏差值进行比较，判断上述偏差值是否超出第一预设偏差值，若超出第一预设偏差值，则可继续执行步骤S304；若均未超出第一预设偏差值，则可继续执行步骤S305。
其中，上述第一预设偏差值可由用户根据网络设备的性能设定，若当前网络设备性能一般，可将上述第一预设偏差值设定为较大值，例如可设定为5％；若当前网络设备性能良好，可将上述第一预设偏差值设定为较小值，例如可设定为1％。
S304，确定当前需要分配给所述当前连接数最小的节点的连接请求的数量N小于N1。
此处假设第一预设偏差值为1％，由此可知，上述算得的偏差值中部分偏差值超出了该第一预设偏差值，可认为若继续按照为连接数最小的节点分配N1个连接请求的分配方法，将使得各节点的连接数差值逐渐变大，不能较好的实现负载均衡，由此可确定需减小N1，如可将N1减小至N1/2，此时即可确定当前需要分配给所述当前连接数最小的节点的连接请求的数量N＝N1/2＝2。
S305，将需要分配给所述当前连接数最小的节点的连接请求的数量增加至N2，并根据N2模拟得到所述预设的第二统计时段内多次记录的各节点的连接数。
S306，分别计算每次记录的各节点的连接数中最大连接数与最小连接数的偏差值，并判断所述偏差值是否超出第二预设偏差值。
S307，确定当前需要分配给所述当前连接数最小的节点的连接请求的数量N等于N1。
S308，确定当前需要分配给所述当前连接数最小的节点的连接请求的数量N等于N2。
而若步骤S302中算得的偏差值均未超出第一预设偏差值，如假设第一预设偏差值为5％，可知步骤S302中算得的偏差值均小于5％，此时可增加N1至N2，如可以是N2＝2*N1。
接着可在表2的基础上，按照每次分配给连接数最小的节点的连接请求的数量为N2＝2*N1，模拟统计第7～10秒各节点的连接数的情况，即相当于将表2中各节点每秒所增加的连接数成倍增加，如表2中节点1在第7秒时的连接数为3040，在第8秒时的连接数为3080，第8秒较第7秒增加的连接数为40，由此可确定当分配给连接数最小的节点的连接请求的数量由N1增至2*N1时，第8秒较第7秒增加的连接数可为80，则第8秒记录的节点1的连接数为3160。其中，模拟记录的各节点的连接数可如表3所示。
之后，可根据表3分别计算出第7～10秒各节点的连接数中最大连接数与最小连接数的偏差值，分别为0.98％、2.2％、4.3％和0.88％。
在算得上述偏差值后，可继续判断上述偏差值是否超出第二预设偏差值，若超出第二预设偏差值，表明按照数量N2＝2*N1进行连接请求的分配不合理，可能出现负载不均衡的现象，则可确定当前需要分配给所述当前连接数最小的节点的连接请求的数量可仍保持N1＝4不变，即确定N＝4；若均未超出第二预设偏差值，表明按照数量N2＝2*N1进行连接请求的分配是合理的，可以达到负载均衡的效果，则可确定当前需要分配给所述当前连接数最小的节点的连接请求的数量可为2*N1，即确定N＝N2＝8。
其中，需要说明的是，上述第二预设偏差值与步骤S303中的第一预设偏差值可以相同，也可以不同，此处不作限定。
... 第7秒 第8秒 第9秒 第10秒
节点1 ... 3050 3160 3420 3390
节点2 ... 3040 3150 3350 3380
节点3 ... 3030 3180 3300 3360
... ... ... ... ... ...
节点n ... 3060 3110 3450 3360
表3
除此之外，针对上述N，另外一种计算方法为，可根据表1中记录的所接收的连接请求的数量，计算第1～10秒内所接收到的连接请求的平均数量，之后可将算得的该平均数量与预设的节点性能参数相除，将两者的商值作为N。其中，预设的节点性能参数可由用户根据节点性能设定。
S105，将接收到的连接请求中的N个连接请求分配给所述当前连接数最小的节点。
根据上述方法，在确定了当前需要分配给连接数最小的节点3的连接请求的数量N后，可将步骤S101中接收到的连接请求，及后续接收到的N-1个连接请求分配给节点3，且在分配给节点3N个连接请求后，当再次接收到连接请求时，可继续执行步骤S101。
在本申请中，可在接收到连接请求后，确定各节点中当前连接数最小的节点，并根据预设的第一统计时段内接收到的连接请求的数量是否超出预设阈值，确定当前需要分配给所述当前连接数最小的节点的连接请求的数量为N还是1，并且可根据预设的策略计算N。与现有技术相比，在确定预设的第一统计时段内接收到的连接请求的数量超出预设阈值后，可连续将N个连接请求分配给所述当前连接数最小的节点，在与现有技术接收同等数量的连接请求的情况下，本申请可减少遍历节点的次数，使得分配连接请求的总耗时减少，从而可提升网络设备的处理性能。
与前述一种实现负载均衡的方法的实施例相对应，本申请还提供了一种实现负载均衡的装置的实施例。
本申请一种实现负载均衡的装置的实施例可以应用在网络设备上。装置实施例可以通过软件实现，也可以通过硬件或者软硬件结合的方式实现。以软件实现为例，作为一个逻辑意义上的装置，是通过其所在网络设备的处理器将非易失性存储器中对应的计算机程序指令读取到内存中运行形成的。从硬件层面而言，如图4所示，为本申请一种实现负载均衡装置所在网络设备的一种硬件结构图，除了图4所示的处理器、内存、网络出接口、以及非易失性存储器之外，实施例中装置所在的网络设备通常根据该网络设备的实际功能，还可以包括其他硬件，对此不再赘述。
请参考图5，图5为本申请实施例示出的一种实现负载均衡的装置的结构示意图，该装置可以包括：确定模块510、判断模块520、分配模块540。
其中，确定模块510，用于接收到连接请求后，确定各节点中当前连接数最小的节点；
判断模块520，用于判断在预设的第一统计时段内接收到的连接请求的数量是否超出预设阈值；
分配模块540，用于在确定接收到的连接请求的数量超出预设阈值时，将接收到的连接请求中的N个连接请求分配给所述当前连接数最小的节点，所述N为大于1的整数；
或者，
在确定接收到的连接请求的数量未超出预设阈值时，则将接收到的连接请求中的1个连接请求分配给所述当前连接数最小的节点。
在本申请实施例中，所述装置还包括：
计算模块530，用于根据上次计算得到的或预设的分配给连接数最小的节点的连接请求的数量N1，计算当前需要分配给所述当前连接数最小的节点的连接请求的数量N，所述N1为大于1的整数；
其中，所述计算模块530，具体用于：
针对预设的第二统计时段内多次记录的各节点的连接数，分别计算每次记录的各节点的连接数中最大连接数与最小连接数的偏差值；
判断所述偏差值是否超出第一预设偏差值；
若超出所述第一预设偏差值，则确定当前需要分配给所述当前连接数最小的节点的连接请求的数量N小于N1。
在本申请实施例中，所述计算模块530，还用于：
若均未超出所述第一预设偏差值，则将需要分配给所述当前连接数最小的节点的连接请求的数量增加至N2，N2为大于1的整数，且N2>N1，并根据N2模拟得到所述预设的第二统计时段内多次记录的各节点的连接数；
分别计算每次记录的各节点的连接数中最大连接数与最小连接数的偏差值，并判断所述偏差值是否超出第二预设偏差值；
若超出所述第二预设偏差值，则确定当前需要分配给所述当前连接数最小的节点的连接请求的数量N等于N1；
若均未超出所述第二预设偏差值，则确定当前需要分配给所述当前连接数最小的节点的连接请求的数量N等于N2。
在本申请实施例中，所述计算模块530，具体用于：
获取预设的第三统计时段内接收到的连接请求的平均数量；
将所述平均数量与预设的节点性能参数的商值确定为需要分配给所述当前连接数最小的节点的连接请求的数量。
上述装置中各个单元的功能和作用的实现过程具体详见上述方法中对应步骤的实现过程，在此不再赘述。
对于装置实施例而言，由于其基本对应于方法实施例，所以相关之处参见方法实施例的部分说明即可。以上所描述的装置实施例仅仅是示意性的，其中所述作为分离部件说明的单元可以是或者也可以不是物理上分开的，作为单元显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本申请方案的目的。本领域普通技术人员在不付出创造性劳动的情况下，即可以理解并实施。
以上所述仅为本申请的较佳实施例而已，并不用以限制本申请，凡在本申请的精神和原则之内，所做的任何修改、等同替换、改进等，均应包含在本申请保护的范围之内。

Claims (8)

1.一种实现负载均衡的方法，其特征在于，所述方法应用于负载均衡环境中的网络设备，所述网络设备连接若干个节点，所述方法包括：
接收到连接请求后，确定各节点中当前连接数最小的节点；
判断在预设的第一统计时段内接收到的连接请求的数量是否超出预设阈值；
若超出所述预设阈值，则将接收到的连接请求中的N个连接请求分配给所述当前连接数最小的节点，所述N为大于1的整数；
若未超出所述预设阈值，则将接收到的连接请求中的1个连接请求分配给所述当前连接数最小的节点。
2.根据权利要求1所述的方法，其特征在于，在超出所述预设阈值后，还包括：
根据上次计算得到的或预设的分配给连接数最小的节点的连接请求的数量N1，计算当前需要分配给所述当前连接数最小的节点的连接请求的数量N，所述N1为大于1的整数；
所述计算当前需要分配给所述当前连接数最小的节点的连接请求的数量N，包括：
针对预设的第二统计时段内多次记录的各节点的连接数，分别计算每次记录的各节点的连接数中最大连接数与最小连接数的偏差值；
判断所述偏差值是否超出第一预设偏差值；
若超出所述第一预设偏差值，则确定当前需要分配给所述当前连接数最小的节点的连接请求的数量N小于N1。
3.根据权利要求2所述的方法，其特征在于，还包括：
若均未超出所述第一预设偏差值，则将需要分配给所述当前连接数最小的节点的连接请求的数量增加至N2，所述N2为大于1的整数，且N2>N1，并根据N2模拟得到所述预设的第二统计时段内多次记录的各节点的连接数；
分别计算每次记录的各节点的连接数中最大连接数与最小连接数的偏差值，并判断所述偏差值是否超出第二预设偏差值；
若超出所述第二预设偏差值，则确定当前需要分配给所述当前连接数最小的节点的连接请求的数量N等于N1；
若均未超出所述第二预设偏差值，则确定当前需要分配给所述当前连接数最小的节点的连接请求的数量N等于N2。
4.根据权利要求2所述的方法，其特征在于，所述计算当前需要分配给所述当前连接数最小的节点的连接请求的数量N，包括：
获取预设的第三统计时段内接收到的连接请求的平均数量；
将所述平均数量与预设的节点性能参数的商值确定为需要分配给所述当前连接数最小的节点的连接请求的数量。
5.一种实现负载均衡的装置，其特征在于，所述装置应用于负载均衡环境中的网络设备，所述网络设备连接若干个节点，所述装置包括：
确定模块，用于接收到连接请求后，确定各节点中当前连接数最小的节点；
判断模块，用于判断在预设的第一统计时段内接收到的连接请求的数量是否超出预设阈值；
分配模块，用于在确定接收到的连接请求的数量超出预设阈值时，将接收到的连接请求中的N个连接请求分配给所述当前连接数最小的节点，所述N为大于1的整数；
或者，
在确定接收到的连接请求的数量未超出预设阈值时，则将接收到的连接请求中的1个连接请求分配给所述当前连接数最小的节点。
6.根据权利要求5所述的装置，其特征在于，在确定接收到的连接请求的数量超出预设阈值时，所述装置还包括：
计算模块，用于根据上次计算得到的或预设的分配给连接数最小的节点的连接请求的数量N1，计算当前需要分配给所述当前连接数最小的节点的连接请求的数量N，所述N1为大于1的整数；
所述计算模块，具体用于：
针对预设的第二统计时段内多次记录的各节点的连接数，分别计算每次记录的各节点的连接数中最大连接数与最小连接数的偏差值；
判断所述偏差值是否超出第一预设偏差值；
若超出所述第一预设偏差值，则确定当前需要分配给所述当前连接数最小的节点的连接请求的数量N小于N1。
7.根据权利要求6所述的装置，其特征在于，所述计算模块，还用于：
若均未超出所述第一预设偏差值，则将需要分配给所述当前连接数最小的节点的连接请求的数量增加至N2，所述N2为大于1的整数，且N2>N1，并根据N2模拟得到所述预设的第二统计时段内多次记录的各节点的连接数；
分别计算每次记录的各节点的连接数中最大连接数与最小连接数的偏差值，并判断所述偏差值是否超出第二预设偏差值；
若超出所述第二预设偏差值，则确定当前需要分配给所述当前连接数最小的节点的连接请求的数量N等于N1；
若均未超出所述第二预设偏差值，则确定当前需要分配给所述当前连接数最小的节点的连接请求的数量N等于N2。
8.根据权利要求6所述的装置，其特征在于，所述计算模块，具体用于：
获取预设的第三统计时段内接收到的连接请求的平均数量；
将所述平均数量与预设的节点性能参数的商值确定为需要分配给所述当前连接数最小的节点的连接请求的数量。
CN201810035257.9A 2018-01-15 2018-01-15 一种实现负载均衡的方法及装置 Active CN108200185B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201810035257.9A CN108200185B (zh) 2018-01-15 2018-01-15 一种实现负载均衡的方法及装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201810035257.9A CN108200185B (zh) 2018-01-15 2018-01-15 一种实现负载均衡的方法及装置

Publications (2)

Publication Number Publication Date
CN108200185A true CN108200185A (zh) 2018-06-22
CN108200185B CN108200185B (zh) 2020-12-04

Family

ID=62589440

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201810035257.9A Active CN108200185B (zh) 2018-01-15 2018-01-15 一种实现负载均衡的方法及装置

Country Status (1)

Country Link
CN (1) CN108200185B (zh)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108924212A (zh) * 2018-06-27 2018-11-30 郑州云海信息技术有限公司 一种负载均衡方法、系统、装置及计算机可读存储介质
CN111130936A (zh) * 2019-12-24 2020-05-08 杭州迪普科技股份有限公司 一种负载均衡算法的测试方法及装置
CN114205838A (zh) * 2020-09-02 2022-03-18 深圳绿米联创科技有限公司 网络接入方法、装置、电子设备及计算机可读存储介质

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104253859A (zh) * 2014-09-12 2014-12-31 国家电网公司 集中调度资源分配负载均衡装置和方法
CN104917839A (zh) * 2015-06-12 2015-09-16 浪潮电子信息产业股份有限公司 一种用于云计算环境下的负载均衡方法
CN105072182A (zh) * 2015-08-10 2015-11-18 北京佳讯飞鸿电气股份有限公司 一种负载均衡方法、负载均衡器和用户终端
US9531797B2 (en) * 2012-02-14 2016-12-27 Empire Technology Development Llc Load balancing in cloud-based game system
CN107566466A (zh) * 2017-08-24 2018-01-09 新华三大数据技术有限公司 负载均衡方法及装置
CN107579924A (zh) * 2017-09-29 2018-01-12 阿里巴巴集团控股有限公司 一种流量调拨方法和装置

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9531797B2 (en) * 2012-02-14 2016-12-27 Empire Technology Development Llc Load balancing in cloud-based game system
CN104253859A (zh) * 2014-09-12 2014-12-31 国家电网公司 集中调度资源分配负载均衡装置和方法
CN104917839A (zh) * 2015-06-12 2015-09-16 浪潮电子信息产业股份有限公司 一种用于云计算环境下的负载均衡方法
CN105072182A (zh) * 2015-08-10 2015-11-18 北京佳讯飞鸿电气股份有限公司 一种负载均衡方法、负载均衡器和用户终端
CN107566466A (zh) * 2017-08-24 2018-01-09 新华三大数据技术有限公司 负载均衡方法及装置
CN107579924A (zh) * 2017-09-29 2018-01-12 阿里巴巴集团控股有限公司 一种流量调拨方法和装置

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108924212A (zh) * 2018-06-27 2018-11-30 郑州云海信息技术有限公司 一种负载均衡方法、系统、装置及计算机可读存储介质
CN108924212B (zh) * 2018-06-27 2021-06-29 郑州云海信息技术有限公司 一种负载均衡方法、系统、装置及计算机可读存储介质
CN111130936A (zh) * 2019-12-24 2020-05-08 杭州迪普科技股份有限公司 一种负载均衡算法的测试方法及装置
CN114205838A (zh) * 2020-09-02 2022-03-18 深圳绿米联创科技有限公司 网络接入方法、装置、电子设备及计算机可读存储介质

Also Published As

Publication number Publication date
CN108200185B (zh) 2020-12-04

Similar Documents

Publication Publication Date Title
CN109218355B (zh) 负载均衡引擎，客户端，分布式计算系统以及负载均衡方法
CN109618002B (zh) 一种微服务网关优化方法、装置及存储介质
US7467291B1 (en) System and method for calibrating headroom margin
CN105279027B (zh) 一种虚拟机部署方法及装置
CN104714851B (zh) 一种实现资源分配的方法及装置
CN110830391A (zh) 资源分配方法及装置、集群系统
US10027760B2 (en) Methods, systems, and computer readable media for short and long term policy and charging rules function (PCRF) load balancing
CN108200185B (zh) 一种实现负载均衡的方法及装置
CN107589997B (zh) 数据中心环境下保证延迟敏感程序QoS的动态调节方法
CN106301864B (zh) 一种服务器系统扩容方法、装置及扩容处理设备
CN109597800B (zh) 一种日志分发方法及装置
CN111078391A (zh) 一种业务请求处理方法、装置及设备
Tomita et al. Congestion control method with fair resource allocation for cloud computing environments
CN112269657B (zh) 一种分布式存储系统中节点的带宽均衡控制方法及装置
CN109144666A (zh) 一种跨云平台的资源处理方法及系统
CN115168017B (zh) 一种任务调度云平台及其任务调度方法
CN109769020B (zh) Cdn集群加速服务资源管理方法及装置、电子设备和存储介质
CN112685167A (zh) 资源使用方法、电子设备和计算机程序产品
CN110995802A (zh) 任务的处理方法和装置、存储介质及电子装置
CN116546028A (zh) 服务请求的处理方法、装置、存储介质及电子设备
CN115842828A (zh) 一种网关负载均衡控制方法、装置、设备及可读存储介质
CN106612296A (zh) 一种用户设备连接请求分配的方法及装置
CN115633041A (zh) 多集群的管理方法、装置、电子设备和可读存储介质
CN112153138A (zh) 一种流量调度的方法及装置、电子设备、存储介质
CN109445934B (zh) 查询请求的分配方法及系统

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant
TR01 Transfer of patent right
TR01 Transfer of patent right

Effective date of registration: 20210611

Address after: 310051 05, room A, 11 floor, Chung Cai mansion, 68 Tong Xing Road, Binjiang District, Hangzhou, Zhejiang.

Patentee after: Hangzhou Dip Information Technology Co.,Ltd.

Address before: 6 / F, Zhongcai building, 68 Tonghe Road, Binjiang District, Hangzhou City, Zhejiang Province

Patentee before: Hangzhou DPtech Technologies Co.,Ltd.