CN112866132A - 面向海量标识的动态负载均衡器及方法 - Google Patents

面向海量标识的动态负载均衡器及方法 Download PDF

Info

Publication number
CN112866132A
CN112866132A CN202011625296.8A CN202011625296A CN112866132A CN 112866132 A CN112866132 A CN 112866132A CN 202011625296 A CN202011625296 A CN 202011625296A CN 112866132 A CN112866132 A CN 112866132A
Authority
CN
China
Prior art keywords
server
servers
module
calculating
flow
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202011625296.8A
Other languages
English (en)
Other versions
CN112866132B (zh
Inventor
霍如
彭开来
黄韬
谢人超
汪硕
刘韵洁
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Network Communication and Security Zijinshan Laboratory
Original Assignee
Network Communication and Security Zijinshan Laboratory
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Network Communication and Security Zijinshan Laboratory filed Critical Network Communication and Security Zijinshan Laboratory
Priority to CN202011625296.8A priority Critical patent/CN112866132B/zh
Publication of CN112866132A publication Critical patent/CN112866132A/zh
Application granted granted Critical
Publication of CN112866132B publication Critical patent/CN112866132B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L47/00—Traffic control in data switching networks
    • H04L47/10—Flow control; Congestion control
    • H04L47/12—Avoiding congestion; Recovering from congestion
    • H04L47/122—Avoiding congestion; Recovering from congestion by diverting traffic away from congested entities
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L47/00—Traffic control in data switching networks
    • H04L47/10—Flow control; Congestion control
    • H04L47/12—Avoiding congestion; Recovering from congestion
    • H04L47/125—Avoiding congestion; Recovering from congestion by balancing the load, e.g. traffic engineering

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Signal Processing (AREA)
  • Data Exchanges In Wide-Area Networks (AREA)
  • Computer And Data Communications (AREA)
  • Multi Processors (AREA)

Abstract

本发明公开一种面向海量标识的动态负载均衡器及方法，该均衡器包括：调度算法模块SAM计算服务器的权重，指定具体的服务器响应本次标识请求；均衡策略模块ESM计算出需要提供标识服务的服务器个数；流量统计模块TSM统计不同流量维度下的标识请求访问流量，并且统计出均值、峰值和谷值；数据存储模块DSM存储后端服务器的运行数据以及TSM基于不同维度的流量统计数据。信息采集模块ICM采集后端服务器的运作状态信息。状态控制模块SCM维护后端服务器的工作状态，同时负责对后端服务器的开启或者关闭。本发明针将负载均衡软件部署在独立的通用服务器上，通过扩展状态监控和流量调度模块，从而实现对海量标识的分发，提升二级节点整体的服务性能。

Description

面向海量标识的动态负载均衡器及方法
技术领域
本发明属于工业互联网标识解析领域，具体涉及一种面向海量标识的动态负载均衡器及方法。
背景技术
工业互联网标识解析体系作为工业互联网网络架构的重要组成部分，是支撑工业互联网互联互通的中枢神经。我国工业互联网标识解析体系由国际根节点、国家顶级节点、二级节点、企业节点、递归节点等要素组成。如图1所示。国家顶级节点是指一个国家或者地区内部最顶级的标识服务节点，能够面向全国范围提供顶级标识解析服务以及标识备案、标识认证等管理能力。国家顶级节点既要与各种标识体系的国际根节点保持连通，又要连通国内的各种二级及以下其他标识服务节点。二级节点是面向特定行业或者多个行业提供标识服务的公共节点。二级节点既要向上与国家顶级节点对接，又要向下为工业企业分配标识编码及提供标识注册、标识解析、标识数据服务等，同时满足安全性、稳定性和扩展性等方面的要求。
随着国内工业互联网面向众多行业的迅猛发展，从用户访问规模量的角度来看，二级节点注册量和访问量均属于海量级别。如何保障和提升二级节点支撑海量标识访问请求服务质量将是二级节点稳定运行的重要指标。负载均衡是一种建立在现有网络基础上，通过扩展网络设备和服务器的带宽，将访问流量均摊到多个服务器上执行任务，可以缩短系统对用户提供服务的响应时间、平衡多个服务器之间的负载，从而达到提升整体服务器集群性能的目的。
负载均衡有软件和硬件两种实现方案。软件方案主要是通过在一台或者多台后端服务器的操作系统上安装一个或者多个附加软件来实现负载均衡，通常都采用第三方开源软件。硬件方案是直接在后端服务器和外部网络之间安装特定的负载均衡设备，具备独立的操作系统，提供负载均衡、流量控制等功能，硬件实现方式一般都是由特定的设备商提供。
现有二级节点负载均衡技术中，常用的实现方案是采用软件方案，即在一台或者多台后端服务器的操作系统上安装第三方开源软件部署来实现负载均衡。
软件方案具有配置简单、使用灵活、成本低廉等优点，但是也存在如下缺点：
1、消耗站点资源：在server服务器本身安装额外的负载均衡软件会消耗不定量的资源，功能越强大，占用server服务的资源越多。因此当外部访问量比较大的时候，软件本身会成为制约server服务器成败的一个关键因素，这意味着server服务器没办法将全部的资源集中用来提供访问请求服务。
2、可靠性无法保障：由于第三方的负载均衡软件是跟提供服务的系统安装在同一server服务器，一旦软件本身由于某种原因发生故障，将会导致server服务无法完成任何访问请求服务，对于后端服务器将会是致命的打击。
3、可扩展性弱：由于是固定分配资源，负载均衡软件可扩展性并不是很好，无法根据访问请求量的特点做更多定制化功能和扩展特性。
4、性能一般：受限于server服务硬件、操作系统本身的限制，负载均衡软件支撑的并发量在空闲时可以满足访问请求，一旦出现海量并发，软件不一定能够满足要求。
5、均衡策略简单：负载均衡软件本身都会自带少量算法，但是不能区分server服务器的差异，也无法感知所有提供访问请求服务的server服务器的状态。
发明内容
本发明针对现有二级节点在面临海量标识并发请求的场景下，无法满足体量庞大的请求解析需求，提出了一种面向海量标识的动态负载均衡设计方法，将负载均衡软件部署在独立的通用服务器上，通过扩展状态监控和流量调度模块，从而实现对海量标识的分发，提升二级节点整体的服务性能。
为达到上述目的，本发明通过以下方案来实现：
面向海量标识的动态负载均衡器，所述动态负载均衡器部署于通用服务器上，其包括：
调度算法模块SAM，用于计算服务器的权重，并且指定具体的服务器响应本次标识请求；
均衡策略模块ESM，用于计算出需要提供标识服务的服务器个数；
流量统计模块TSM，用于统计不同流量维度下的标识请求访问流量，并且统计出均值、峰值和谷值；
数据存储模块DSM，用于存储后端服务器的运行数据以及TSM基于不同维度的流量统计数据。
信息采集模块ICM，用于采集后端服务器的运作状态信息以及计算出所述后端服务器的硬件资源利用率；
状态控制模块SCM，用于维护后端服务器的工作状态，同时负责对后端服务器的开启或者关闭。
进一步的，所述信息采集模块用于采集后端服务器CPU活动信息、内存占用信息、网卡收发包数量、服务标识连接数数据，并且计算出CPU利用率、内存利用率、网络带宽利用率、磁盘I/O利用率信息。
进一步的，所述负载均衡器直接与外部网络连接，内部连接二级节点站点内的服务器，服务器内部共享一个数据库。
基于上述系统，本申请还公开面向海量标识的动态负载均衡方法，所述方法包括以下步骤：
步骤一，采集后端服务器CPU的网络流量信息以及服务器的硬件资源利用率；
步骤二，计算后端服务器的权重集合，然后根据权重集合分配具体的服务器单元给本次标识请求；
步骤三，统计多维度的标识请求访问流量，并且统计出均值、峰值和谷值发送给均衡策略模块ESM；
步骤四，根据阈值计算出提供标识服务的服务器台数并且发送给状态控制模块SCM；
步骤五：维护后端服务器的工作状态，对后端服务器的开启或者关闭。
进一步的，所述步骤一包括以下内容：
步骤1.1，等待定时器周期T启动，如果定时器计时周期结束，执行步骤1.2，否则继续等待；
步骤1.2：从状态控制模块TSM获取所有后端服务器的工作状态；
步骤1.3：判断当前访问的服务器是否是最后一个服务器，如果是，返回步骤1.1，否则，执行步骤1.4；
步骤1.4：判断当前服务器是否处于工作状态，如果是，读取当前访问服务器的性能信息，计算当前服务器中器件的利用率；否则，返回步骤1.3。
更进一步的，所述步骤1.4中，读取当前访问服务器的性能信息，计算当前服务器中器件的利用率具体为：
步骤1.41：读取当前访问服务器的CPU活动信息，计算出当前访问服务器的CPU利用率Uc(i)；
步骤1.42：读取当前访问服务器的内存占用信息，计算当前访问服务器的内存利用率Um(i)；
步骤1.43：读取当前服务器网卡收发包数量，计算当前访问服务器的网络带宽利用率Ub(i)以及磁盘IO利用率Uh(i)；
步骤1.44：读取当前服务器处理的标识请求数量Ci；
步骤1.45：将Uc(i)、Um(i)、Ub(i)、Uh(i)和Ci分别存入到数据存储模块；
步骤1.46：发送消息通知状态控制模块和均衡策略模块，并且返回步骤1.3。
进一步的，所述步骤二包括以下内容：
步骤2.1：调度算法模块SAM读取所有后端服务器的性能指标的读数Un(i),n＝1,2,3,...m,，以及连接数Ci；
步骤2.2：计算所有后端服务器的性能权重，Qi为第i个工作的服务器节点处理标识请求的性能，则每台工作服务器的性能权重为：
Figure BDA0002878947590000051
步骤2.3：计算所有工作服务器的实时负载权重Wl(i)；
步骤2.4：计算所有工作服务器的连接数权重：
Figure BDA0002878947590000052
步骤2.5：计算出所有工作服务器中综合权重：
Wi＝Ws(i)×(1-Wl(i))+Ws(i)×(1-Wc(i))；
步骤2.6：将本次标识请求引流到综合权重Wi最大的后端服务器。
更进一步的，所述后端服务器的性能指标包含：CPU利用率Uc(i)、内存利用率Um(i)、网络带宽利用率Ub(i)、磁盘IO利用率Uh(i)；
α、β、γ、δ分别为服务器的后端服务器的性能参数的影响因素；则每个工作的服务器实时负载权重为：Wl(i)＝(α×Uc(i)+β×Um(i)+γ×Ub(i)+δ×Uh(i))/(α+β+γ+δ)。
进一步的，所述步骤三包括以下内容：
步骤3.1：流量统计模块TSM按照忙时、闲时2个维度统计当前请求的流量；
步骤3.2：统计出忙时访问流量的均值、峰值和谷值；
步骤3.3：统计出闲时访问流量的均值、峰值和谷值；
步骤3.4：将忙时、闲时的均值、峰值和谷值分别发送给均衡策略模块ESM；
步骤3.5：将当前时间段的访问流量发送给均衡策略模块ESM。
进一步的，所述步骤四包括以下内容：
步骤4.1：均衡策略模块ESM接收流量统计模块TSM发送的峰值、均值、谷值和当前时段流量；
步骤4.2：将前时段流量情况分为忙时、闲时，再在忙时、闲时中分别设定阈值，通过阈值来确定需要开启或关闭后端服务器的台数；
步骤4.3：将计算结果发送给送给状态控制模块SCM。
更进一步的，所述步骤4.2具体包括以下内容：
步骤4.21：判断当前时段是否为忙时，是则执行步骤4.22，否则执行步骤4.25；
步骤4.22：判断当前时段流量是否超过忙时峰值，如果超过，计算需要开启后端服务器的台数A，返回步骤4.1；如果未超过，判断当前时段流量是否超过忙时均值，如果超过，执行步骤4.23，否则执行步骤4.24；
步骤4.23：计算需要开启后端服务器的台数B，返回步骤4.1；
步骤4.24：判断当前时段流量是否超过忙时谷值，如果不超过，计算需要关闭后端服务器的台数C，返回步骤4.1；否则直接返回步骤4.1；
步骤4.25：判断当前时段流量是否超过闲时峰值，如果超过，计算需要开启后端服务器的台数D，返回步骤4.1；否则执行步骤4.26；
步骤4.26：判断当前时段流量是否超过闲时均值，如果超过，计算需要开启后端服务器的台数E，返回步骤4.1；否则执行步骤4.27；
步骤4.27：判断当前时段流量是否超过闲时谷值，如果不超过，计算需要关闭后端服务器的台数F，返回步骤4.1；否则直接返回步骤4.1。
更进一步的，所述步骤4.2中的各子步骤，通过以下方式计算开启或关闭服务器的台数：
根据当前流量，经开启或关闭服务器后，使得工作服务器台数为当前时段的流量状态系数*后端所有服务器台数。
进一步的，所述步骤五包括以下内容：
步骤5.1：接收均衡策略模块ESM发送的需要工作的服务器台数；
步骤5.2：判断当前工作的服务器台数是否小于指定的台数，如果是，执行步骤5.3，否则，执行步骤5.4；
步骤5.3：开启后端服务器，使得工作的服务器台数等于指定台数，返回步骤5.1；
步骤5.4：判断当前工作的服务器台数是否等于指定的台数，如果是，返回步骤5.1，否则，执行步骤5.5；
步骤5.5：关闭后端服务器，使得工作的服务器台数等于指定台数，返回步骤5.1。
一种计算机可读存储介质，所述存储介质中含有上述面向海量标识的动态负载均衡方法。
本发明具有如下有益效果：
1.本发明提出了一种面向海量标识的动态负载均衡设计方法，其将负载均衡软件部署在独立的通用服务器硬件上，解决了性能不足的瓶颈。
2.提出了一种硬件部署，通过新设置一台独立的通用服务器部署负载均衡系统，定义为负载均衡器。
3.在二级节点标识解析系统的前端加入动态负载均衡系统，通过负载均衡缩短整体二级节点对用户提供服务的响应时间，增加系统的抗压性、可靠性和可扩展性，提升整体二级节点的服务性能。
4.本发明提出了一种动态负载均衡调度系统功能设计，包含3大功能：流量调度、信息存储和状态监控，针对3大功能提出了6种模块，包括调度算法模块、均衡策略模块、流量统计模块、数据存储模块、信息采集模块和状态控制模块。
5.本发明提出一种动态负载均衡流程，包括信息采集流程、调度算法流程、状态控制流程、流量统计流程和均衡策略流程。
6.本发明提出了一种动态负载均衡调度系统整体数据流程。
附图说明
图1为现有技术中工业互联网标识解析体系示意图；
图2为本发明面向海量标识的动态负载均衡器硬件部署示意图；
图3为本发明面向海量标识的动态负载均衡器软件逻辑示意图；
图4为动态负载均衡调度模块功能示意图；
图5为动态负载均衡调度模块示意图；
图6为信息采集流程示意图；
图7为调度算法模块作业流程示意图；
图8为状态控制流程示意图；
图9为均衡策略示意图；
图10为流量统计流程示意图；
图11为动态负载均衡调度器整体数据流程示意图。
具体实施方式
下面结合具体实施例以及附图对本发明设计方法进行详细阐述。
实施例1
如图1所示，为本实施所公开的面向海量标识的动态负载均衡器硬件部署示意图定义了负载均衡软件部署位置、各server服务器的连接方式以及外网如何与二级节点连接。本实施公开一种面向海量标识的动态负载均衡器，所述动态负载均衡器包括：
调度算法模块SAM，用于计算服务器的权重，并且指定具体的服务器响应本次标识请求；
均衡策略模块ESM，用于计算出需要提供标识服务的服务器个数；
流量统计模块TSM，用于统计不同流量维度下的标识请求访问流量，并且统计出均值、峰值和谷值；流量统计模块(Traffic Statistics Module，TSM)：用于统计忙时(9:00～18:00)、闲时(18:00～次日9：00)2个维度的标识请求访问流量，并且统计出均值、峰值和谷值。
数据存储模块DSM，用于存储后端服务器的运行数据以及TSM基于不同维度的流量统计数据。
信息采集模块ICM，用于采集后端服务器的运作状态信息以及计算出硬件资源利用率，本申请所指硬件资源利用率包含：服务器CPU利用率、内存利用率、网络带宽利用率、磁盘I/O利用率等。信息采集模块用于采集后端服务器CPU活动信息、内存占用信息、网卡收发包数量、服务标识连接数等并且计算出CPU利用率、内存利用率、网络带宽利用率、磁盘I/O利用率等。
状态控制模块SCM，用于维护后端服务器的工作状态，同时负责对后端服务器的开启或者关闭，流程如图8所示。
进一步的，所述信息采集模块用于采集后端服务器CPU活动信息、内存占用信息、网卡收发包数量、服务标识连接数数据，并且计算出CPU利用率、内存利用率、网络带宽利用率、磁盘I/O利用率信息。
进一步的，所述负载均衡器部署于一台独立的服务器上，所述负载均衡器直接与外部网络连接，内部连接二级节点站点内的服务器，服务器内部共享一个数据库。
本发明面向海量标识的动态负载均衡器通过新设置一台独立的服务器部署负载均衡系统，定义为负载均衡器。负载均衡器直接与外部网络连接，对外体现一个独立的机器，内部连接二级节点站点内的server服务器，server服务器内部共享一个数据库。
该动态负载均衡器针对现有二级节点在面临海量标识并发请求的场景下，无法满足体量庞大的请求解析需求，提出了一种面向海量标识的动态负载均衡设计方法，首先将负载均衡软件部署在独立的通用服务器上，通过扩展状态监控和流量调度模块，从而实现对海量标识的分发，提升二级节点整体的服务性能。
负载均衡器直接与外部网络连接，对外体现一个独立的机器，内部连接各二级节站点内的server服务器，server服务器内部共享一个数据库。
实施例2
该方法将负载均衡软件部署在独立的硬件上，解决了性能不足的瓶颈，通过扩展各种功能模块，极大的提高了软件运行的稳定性。
该方法通过扩展流量调度功能，可以计算后端服务器的权重并且将用户的标识请求分配最优的后端服务器，来执行标识请求，还可以按照忙时、闲时2个维度统计流量并且计算出执行标识解析的单元数量。通过扩展状态监控功能，不仅可以实时监控后端服务器的各项运行指标，还可以根据访问量的情况对服务器进行开启和休眠等操作，从而降低了资源维护成本；
该方法由如下6部分构成：动态负载均衡调度系统硬件部署示意图、动态负载均衡调度系统软件逻辑示意图、动态负载均衡调度系统功能设计、动态负载均衡调度系统模块设计、动态负载均衡流程以及动态负载均衡调度系统整体数据流程。
具体的，本实施例公开一种面向海量标识的动态负载均衡方法，所述方法包括以下步骤：
步骤一，信息采集模块ICM采集服务器CPU的网络流量信息；
步骤二，调度算法模块SAM计算后端服务器的权重集合，然后根据权重集合分配具体的服务器单元给本次标识请求；
步骤三，流量统计模块TSM统计多维度的标识请求访问流量，并且统计出均值、峰值和谷值发送给均衡策略模块ESM；
步骤四，衡策略模块ESM根据阈值计算出提供标识服务的服务器台数并且发送给状态控制模块SCM；
步骤五：状态控制模块SCM维护后端服务器的工作状态，对后端服务器的开启或者关闭。
本实施例中软件逻辑示意图定义了动态负载均衡系统在整个二级节点平台中的逻辑位置，如图2所示为软件逻辑示意图。在标识解析系统的前端加入动态负载均衡系统，通过负载均衡缩短整体二级节点对用户提供服务的响应时间，增加系统的抗压性、可靠性和可扩展性，提升整体二级节点的服务性能。
针对图2所示的硬件部署示意图以及图3所示的软件逻辑示意图，本发明设计了动态负载均衡调度系统包含的功能，如图4所示。
本发明设计的动态负载均衡调度系统包含3大功能：流量调度、信息存储和状态监控。
流量调度：根据后端服务器的运行指标，计算出权重集合(服务器权重、实时负载权重、连接数权重和响应时间权重)然后根据权重集合分配给本次标识请求具体的服务器单元，同时按照忙时、闲时2个维度统计流量并且计算出执行标识解析的服务器单元数量。
信息存储：用于存储后端服务器的运行数据(包括：CPU利用率、内存利用率、网络带宽利用率、磁盘I/O利用率、连接数)以及流量调度基于忙时、闲时的流量统计数据。本模块存储的数据为流量调度和状态监控提供共享数据。
状态监控：定期搜集后端服务器CPU活动信息、内存占用信息、网卡收发包数量、服务标识连接数等，并且计算出CPU利用率、内存利用率、网络带宽利用率、磁盘I/O利用率。同时可以对后端服务器进行开启和休眠等操作，从而降低资源维护成本。
基于实施例1中的动态负载均衡调度系统模块，本发明设计了动态负载均衡中的5个关键模块处理过程的流程，包括信息采集流程、调度算法流程、状态控制流程、流量统计流程和均衡策略流程。
流程如图6所示，1、信息采集流程：
该实施例具体流程如下：
步骤1：等待定时器周期T启动(此处周期T可以自行设置，范围在分钟级别)，如果定时器周期到，执行步骤2，否则继续等待；
步骤2：从状态控制模块获取后端所有服务器的工作状态；
步骤3：判断当前访问的服务器是否是最后一个服务器，如果是，返回步骤1，否则，执行步骤4；
步骤4：判断当前服务器是否处于工作状态，如果是，执行步骤5，否则，返回步骤3；
步骤5：读取当前访问服务器的CPU活动信息；
步骤6：根据CPU活动信息计算出当前访问服务器的CPU利用率Uc(i)；
步骤7：读取当前访问服务器的内存占用信息；
步骤8：根据内存占用信息计算当前访问服务器的内存利用率Um(i)；
步骤9：读取当前服务器网卡收发包数量；
步骤10：根据所有网卡收发包数量计算当前访问服务器的网络带宽利用率Ub(i)以及磁盘IO利用率Uh(i)；
步骤11：读取当前服务器处理的标识请求数量Ci；
步骤12：将Uc(i)、Um(i)、Ub(i)、Uh(i)和Ci分别存入到数据存储模块；
步骤13：发消息通知状态控制模块和均衡策略模块，并且返回步骤3。
2、调度算法流程
调度算法模块(Scheduling Algorithm Module，SAM)：用于计算后端服务器的权重，并且指定具体的服务器响应本次标识请求。流程如图7所示。
该实施例具体流程如下：
步骤1：读取所有工作服务器的CPU利用率将Uc(i)、内存利用率Um(i)、网络带宽利用率Ub(i)、磁盘IO利用率Uh(i)和连接数Ci；
步骤2：计算所有工作服务器的性能权重，Qi为第i个工作的服务器节点处理标识请求的性能，则每台工作服务器的性能权重为：
Figure BDA0002878947590000141
步骤3：计算所有工作服务器的实时负载权重，αβγδ分别为服务器的CPU、内存、网络带宽以及磁盘的影响因素，并且(αβγδ取值范围为0～1，α+β+γ+δ＝1)，则每个工作的服务器实时负载权重为：Wl(i)＝(α×Uc(i)+β×Um(i)+γ×Ub(i)+δ×Uh(i))/(α+β+γ+δ)；
步骤4：计算所有工作服务器的连接数权重：
Figure BDA0002878947590000142
步骤5：计算出所有工作服务器中综合权重：Wi＝Ws(i)×(1-Wl(i))+Ws(i)×(1-Wc(i))
步骤6：将本次标识请求引流到综合权重Wi最大的后端服务器。
3、状态控制流程
该实施例具体流程如下：
步骤1：接收均衡策略模块发送的需要工作的服务器台数；
步骤2：判断当前工作的服务器台数是否小于指定的台数，如果是，执行步骤3，否则，执行步骤4；
步骤3：开启后端服务器，使得工作的服务器台数等于指定台数，返回步骤1；
步骤4：判断当前工作的服务器台数是否等于指定的台数，如果是，返回步骤1，否则，执行步骤5；
步骤5：关闭后端服务器，使得工作的服务器台数等于指定台数，返回步骤1；
4、均衡策略流程
均衡策略模块(Equilibrium Strategy Module，ESM)：用于计算出需要提供标识服务的服务器个数，流程如图9所示。
该实施例具体流程如下：
步骤1：接收访问流量模块发送的峰值、均值、谷值和当前时段流量；
步骤2：判断当前时段是否为忙时，是执行步骤3，否则执行步骤9；
步骤3：判断当前时段流量是否超过忙时峰值，如果超过，执行步骤4，否则执行步骤5；
步骤4：计算需要开启后端服务器的台数并且发送给状态控制模块，使得整体工作服务器台数为：Bp×N，其中Bp为忙时峰值系数，建议范围为(0.75～1)，N为后端所有服务器台数，返回步骤1；
步骤5：判断当前时段流量是否超过忙时均值，如果超过，执行步骤6，否则执行步骤7；
步骤6：计算需要开启后端服务器的台数并且发送给状态控制模块，使得整体工作服务器台数为：Ba×N，其中Ba为忙时均值系数，建议范围为(0.5～0.75)，N为后端所有服务器台数，返回步骤1；
步骤7：判断当前时段流量是否超过忙时谷值，如果不超过，执行步骤8，否则返回步骤1；
步骤8：计算需要关闭后端服务器的台数并且发送给状态控制模块，使得整体工作服务器台数为：Bl×N，其中Bl为忙时谷值系数，建议范围为(0.25～0.5)，N为后端所有服务器台数，返回步骤1；
步骤9：判断当前时段流量是否超过闲时峰值，如果超过，执行步骤10，否则执行步骤11；
步骤10：计算需要开启后端服务器的台数并且发送给状态控制模块，使得整体工作服务器台数为：Fp×N，其中Fp为闲时峰值系数，建议范围为(0.5～0.75)，N为后端所有服务器台数，返回步骤1；
步骤11：判断当前时段流量是否超过闲时均值，如果超过，执行步骤12，否则执行步骤13；
步骤12：计算需要开启后端服务器的台数并且发送给状态控制模块，使得整体工作服务器台数为：Fa×N，其中Fa为闲时均值系数，建议范围为(0.25～0.5)，N为后端所有服务器台数，返回步骤1；
步骤13：判断当前时段流量是否超过闲时谷值，如果不超过，执行步骤14，否则返回步骤1；
步骤14：计算需要关闭后端服务器的台数并且发送给状态控制模块，使得整体工作服务器台数为：Fl×N，其中Fl为闲时谷值系数，建议范围为(0～0.25)，N为后端所有服务器台数，返回步骤1；
5、流量统计流程，流程如图8所示。
该实施例具体流程如下：
步骤1：按照忙时、闲时2个维度统计当前请求的流量；
步骤2：统计出忙时访问流量的均值、峰值和谷值；
步骤3：统计出闲时访问流量的均值、峰值和谷值；
步骤4：将忙时、闲时的均值、峰值和谷值分别发送给均衡策略模块；
步骤5：将当前某一时间段的访问流量发送给均衡策略模块(具体时间段不在本发明中体现，根据具体业务设定)。
6、动态负载均衡调度系统整体数据流程
基于上述关键模块的工作流程，动态负载均衡调度系统整体数据流程如图11所示。
该实施例具体流程如下：
步骤1：ICM采集后端服务器CPU活动信息、内存占用信息、网卡收发包数量、服务标识连接数等；
步骤2：ICM计算出CPU利用率、内存利用率、网络带宽利用率、磁盘I/O利用率并且将数据存入数据存储模块；
步骤3：SAM获取CPU利用率、内存利用率、网络带宽利用率、磁盘IO利用率、连接数等；
步骤4：SAM计算出后端服务器的所占比权重；
步骤6：根据权重比给本次标识请求分配最优的服务器响应本次标识请求；
步骤7：TSM统计忙时、闲时2个维度的标识请求访问流量，并且统计出均值、峰值和谷值发送给ESM；
步骤8：ESM根据阈值计算出提供标识服务的服务器台数并且发送给SCM；
步骤9：SCM维护后端服务器的工作状态，对后端服务器的开启或者关闭。
通过扩展流量调度和状态监控模块，不仅可以实时感知后端服务器的各项运行指标，还可以根据访问量的情况对服务器进行开启和休眠等操作，从而降低了资源运维成本。
基于该方法，能够快速求解发动机由于设备老化带来的不确定性的参数，降低不确定性参数对控制矩阵的稳定性控制带来的影响，大大降低了计算强度，计算中避免了求逆矩阵的海量运算，在很大程度上化简了运算的复杂度，提高发动机系统的使用效果以及使用寿命。
以上内容是结合具体的实施例对本发明所作的详细说明，不能认定本发明具体实施仅限于这些说明。对于本发明所属技术领域的技术人员来说，在不脱离本发明构思的前提下，还可以做出若干简单推演或替换，都应当视为属于本发明保护的范围。

Claims (14)

1.面向海量标识的动态负载均衡器，其特征在于，所述动态负载均衡器部署于通用服务器上，其包括：
调度算法模块SAM，用于计算服务器的权重，并且指定具体的服务器响应本次标识请求；
均衡策略模块ESM，用于计算出需要提供标识服务的服务器个数；
流量统计模块TSM，用于统计不同流量维度下的标识请求访问流量，并且统计出均值、峰值和谷值；
数据存储模块DSM，用于存储后端服务器的运行数据以及TSM基于不同维度的流量统计数据。
信息采集模块ICM，用于采集后端服务器的运作状态信息以及计算出所述后端服务器的硬件资源利用率；
状态控制模块SCM，用于维护后端服务器的工作状态，同时负责对后端服务器的开启或者关闭。
2.根据权利要求1所述的面向海量标识的动态负载均衡器，其特征在于，所述信息采集模块用于采集后端服务器CPU活动信息、内存占用信息、网卡收发包数量、服务标识连接数数据，并且计算出CPU利用率、内存利用率、网络带宽利用率、磁盘I/O利用率信息。
3.根据权利要求1所述的一种面向海量标识的动态负载均衡器，其特征在于，所述负载均衡器直接与外部网络连接，内部连接二级节点站点内的服务器，服务器内部共享一个数据库。
4.面向海量标识的动态负载均衡方法，其特征在于，所述方法包括以下步骤：
步骤一，采集后端服务器CPU的网络流量信息以及服务器的硬件资源利用率；
步骤二，计算后端服务器的权重集合，然后根据权重集合分配具体的服务器单元给本次标识请求；
步骤三，统计多维度的标识请求访问流量，并且统计出均值、峰值和谷值发送给均衡策略模块ESM；
步骤四，根据阈值计算出提供标识服务的服务器台数并且发送给状态控制模块SCM；
步骤五：维护后端服务器的工作状态，对后端服务器的开启或者关闭。
5.根据权利要求4所述的面向海量标识的动态负载均衡方法，其特征在于，所述步骤一包括以下内容：
步骤1.1，等待定时器周期T启动，如果定时器计时周期结束，执行步骤1.2，否则继续等待；
步骤1.2：从状态控制模块TSM获取所有后端服务器的工作状态；
步骤1.3：判断当前访问的服务器是否是最后一个服务器，如果是，返回步骤1.1，否则，执行步骤1.4；
步骤1.4：判断当前服务器是否处于工作状态，如果是，读取当前访问服务器的性能信息，计算当前服务器中器件的利用率；否则，返回步骤1.3。
6.根据权利要求5所述的面向海量标识的动态负载均衡方法，其特征在于，所述步骤1.4中，读取当前访问服务器的性能信息，计算当前服务器中器件的利用率具体为：
步骤1.41：读取当前访问服务器的CPU活动信息，计算出当前访问服务器的CPU利用率Uc(i)；
步骤1.42：读取当前访问服务器的内存占用信息，计算当前访问服务器的内存利用率Um(i)；
步骤1.43：读取当前服务器网卡收发包数量，计算当前访问服务器的网络带宽利用率Ub(i)以及磁盘IO利用率Uh(i)；
步骤1.44：读取当前服务器处理的标识请求数量Ci；
步骤1.45：将Uc(i)、Um(i)、Ub(i)、Uh(i)和Ci分别存入到数据存储模块；
步骤1.46：发送消息通知状态控制模块和均衡策略模块，并且返回步骤1.3。
7.根据权利要求4所述的面向海量标识的动态负载均衡方法，其特征在于，所述步骤二包括以下内容：
步骤2.1：调度算法模块SAM读取所有后端服务器的性能指标的读数Un(i),n＝1,2,3,...,m，以及连接数Ci；
步骤2.2：计算所有后端服务器的性能权重，Qi为第i个工作的服务器节点处理标识请求的性能，则每台工作服务器的性能权重为：
Figure FDA0002878947580000031
步骤2.3：计算所有工作服务器的实时负载权重Wl(i)；
步骤2.4：计算所有工作服务器的连接数权重：
Figure FDA0002878947580000032
步骤2.5：计算出所有工作服务器中综合权重：
Wi＝Ws(i)×(1-Wl(i))+Ws(i)×(1-Wc(i))；
步骤2.6：将本次标识请求引流到综合权重Wi最大的后端服务器。
8.根据权利要求8所述的面向海量标识的动态负载均衡方法，其特征在于，所述后端服务器的性能指标包含：CPU利用率Uc(i)、内存利用率Um(i)、网络带宽利用率Ub(i)、磁盘IO利用率Uh(i)；
α、β、γ、δ分别为服务器的后端服务器的性能参数的影响因素；则每个工作的服务器实时负载权重为：Wl(i)＝(α×Uc(i)+β×Um(i)+γ×Ub(i)+δ×Uh(i))/(α+β+γ+δ)。
9.根据权利要求4所述的面向海量标识的动态负载均衡方法，其特征在于，所述步骤三包括以下内容：
步骤3.1：流量统计模块TSM按照忙时、闲时2个维度统计当前请求的流量；
步骤3.2：统计出忙时访问流量的均值、峰值和谷值；
步骤3.3：统计出闲时访问流量的均值、峰值和谷值；
步骤3.4：将忙时、闲时的均值、峰值和谷值分别发送给均衡策略模块ESM；
步骤3.5：将当前时间段的访问流量发送给均衡策略模块ESM。
10.根据权利要求4所述的面向海量标识的动态负载均衡方法，其特征在于，所述步骤四包括以下内容：
步骤4.1：均衡策略模块ESM接收流量统计模块TSM发送的峰值、均值、谷值和当前时段流量；
步骤4.2：将前时段流量情况分为忙时、闲时，再在忙时、闲时中分别设定阈值，通过阈值来确定需要开启或关闭后端服务器的台数；
步骤4.3：将计算结果发送给送给状态控制模块SCM。
11.根据权利要求10所述的面向海量标识的动态负载均衡方法，其特征在于，所述步骤4.2具体包括以下内容：
步骤4.21：判断当前时段是否为忙时，是则执行步骤4.22，否则执行步骤4.25；
步骤4.22：判断当前时段流量是否超过忙时峰值，如果超过，计算需要开启后端服务器的台数A，返回步骤4.1；如果未超过，判断当前时段流量是否超过忙时均值，如果超过，执行步骤4.23，否则执行步骤4.24；
步骤4.23：计算需要开启后端服务器的台数B，返回步骤4.1；
步骤4.24：判断当前时段流量是否超过忙时谷值，如果不超过，计算需要关闭后端服务器的台数C，返回步骤4.1；否则直接返回步骤4.1；
步骤4.25：判断当前时段流量是否超过闲时峰值，如果超过，计算需要开启后端服务器的台数D，返回步骤4.1；否则执行步骤4.26；
步骤4.26：判断当前时段流量是否超过闲时均值，如果超过，计算需要开启后端服务器的台数E，返回步骤4.1；否则执行步骤4.27；
步骤4.27：判断当前时段流量是否超过闲时谷值，如果不超过，计算需要关闭后端服务器的台数F，返回步骤4.1；否则直接返回步骤4.1。
12.根据权利要求11所述的面向海量标识的动态负载均衡方法，其特征在于，所述步骤4.2中的各子步骤，通过以下方式计算开启或关闭服务器的台数：
根据当前流量，经开启或关闭服务器后，使得工作服务器台数为当前时段的流量状态系数*后端所有服务器台数。
13.根据权利要求4所述的面向海量标识的动态负载均衡方法，其特征在于，所述步骤五包括以下内容：
步骤5.1：接收均衡策略模块ESM发送的需要工作的服务器台数；
步骤5.2：判断当前工作的服务器台数是否小于指定的台数，如果是，执行步骤5.3，否则，执行步骤5.4；
步骤5.3：开启后端服务器，使得工作的服务器台数等于指定台数，返回步骤5.1；
步骤5.4：判断当前工作的服务器台数是否等于指定的台数，如果是，返回步骤5.1，否则，执行步骤5.5；
步骤5.5：关闭后端服务器，使得工作的服务器台数等于指定台数，返回步骤5.1。
14.一种计算机可读存储介质，其特征在于，所述存储介质中含有如权利要求4至13任一项所述的面向海量标识的动态负载均衡方法。
CN202011625296.8A 2020-12-31 2020-12-31 面向海量标识的动态负载均衡器及方法 Active CN112866132B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202011625296.8A CN112866132B (zh) 2020-12-31 2020-12-31 面向海量标识的动态负载均衡器及方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202011625296.8A CN112866132B (zh) 2020-12-31 2020-12-31 面向海量标识的动态负载均衡器及方法

Publications (2)

Publication Number Publication Date
CN112866132A true CN112866132A (zh) 2021-05-28
CN112866132B CN112866132B (zh) 2023-04-07

Family

ID=75999452

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202011625296.8A Active CN112866132B (zh) 2020-12-31 2020-12-31 面向海量标识的动态负载均衡器及方法

Country Status (1)

Country Link
CN (1) CN112866132B (zh)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113709054A (zh) * 2021-07-16 2021-11-26 济南浪潮数据技术有限公司 一种基于keepalived的LVS系统部署调节方法、装置及系统
CN113742066A (zh) * 2021-08-09 2021-12-03 联通沃悦读科技文化有限公司 一种用于服务器集群的负载均衡系统和方法
CN113778683A (zh) * 2021-09-14 2021-12-10 码客工场工业科技(北京)有限公司 一种基于神经网络的Handle标识体系解析负载均衡方法
CN114035955A (zh) * 2021-11-10 2022-02-11 北京沃东天骏信息技术有限公司 一种信息处理方法及装置、存储介质
CN114979159A (zh) * 2022-05-19 2022-08-30 中国电信股份有限公司 标识解析节点负载优化方法、装置、电子设备和存储介质

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109218441A (zh) * 2018-10-18 2019-01-15 哈尔滨工业大学 一种基于预测和区域划分的p2p网络动态负载均衡方法
CN110995656A (zh) * 2019-11-06 2020-04-10 深信服科技股份有限公司 负载均衡方法、装置、设备及存储介质
CN111930511A (zh) * 2020-08-24 2020-11-13 北京工业大学 一种基于机器学习的标识解析节点负载均衡装置

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109218441A (zh) * 2018-10-18 2019-01-15 哈尔滨工业大学 一种基于预测和区域划分的p2p网络动态负载均衡方法
CN110995656A (zh) * 2019-11-06 2020-04-10 深信服科技股份有限公司 负载均衡方法、装置、设备及存储介质
CN111930511A (zh) * 2020-08-24 2020-11-13 北京工业大学 一种基于机器学习的标识解析节点负载均衡装置

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113709054A (zh) * 2021-07-16 2021-11-26 济南浪潮数据技术有限公司 一种基于keepalived的LVS系统部署调节方法、装置及系统
CN113742066A (zh) * 2021-08-09 2021-12-03 联通沃悦读科技文化有限公司 一种用于服务器集群的负载均衡系统和方法
CN113778683A (zh) * 2021-09-14 2021-12-10 码客工场工业科技(北京)有限公司 一种基于神经网络的Handle标识体系解析负载均衡方法
CN113778683B (zh) * 2021-09-14 2024-05-28 码客工场工业科技(北京)有限公司 一种基于神经网络的Handle标识体系解析负载均衡方法
CN114035955A (zh) * 2021-11-10 2022-02-11 北京沃东天骏信息技术有限公司 一种信息处理方法及装置、存储介质
CN114979159A (zh) * 2022-05-19 2022-08-30 中国电信股份有限公司 标识解析节点负载优化方法、装置、电子设备和存储介质
CN114979159B (zh) * 2022-05-19 2023-10-03 中国电信股份有限公司 标识解析节点负载优化方法、装置、电子设备和存储介质

Also Published As

Publication number Publication date
CN112866132B (zh) 2023-04-07

Similar Documents

Publication Publication Date Title
CN112866132B (zh) 面向海量标识的动态负载均衡器及方法
CN111726415B (zh) 一种基于负反馈机制的tcp长连接负载均衡调度方法及系统
CN107592345B (zh) 交易限流装置、方法及交易系统
US7437460B2 (en) Service placement for enforcing performance and availability levels in a multi-node system
US20130268678A1 (en) Method and Apparatus for Facilitating Fulfillment of Requests on a Communication Network
CN110677274A (zh) 一种基于事件的云网络服务调度方法及装置
GB2481422A (en) Controlling the power consumption of computers
CN108028850B (zh) 私有云管理平台
CN106375328A (zh) 一种大规模数据分发系统运行时自适应优化方法
CN111865817A (zh) 遥测采集器负载均衡管控方法、装置、设备及存储介质
CN114666335B (zh) 一种基于数据分发服务dds的分布式系统负载均衡装置
Zhang et al. Behavior reconstruction models for large-scale network service systems
Li et al. Dynamic load balancing algorithm based on FCFS
CN113377866B (zh) 一种虚拟化数据库代理服务的负载均衡方法及装置
CN118193188A (zh) 一种基于虚拟化平台动态负载均衡系统及方法
CN104702521A (zh) 负载均衡方法和装置
CN117370138A (zh) 大容量分布式存储系统
CN117478679A (zh) 基于数据分析的动态负载均衡方法
Lee et al. Development of an optimal load balancing algorithm based on ANFIS modeling for the clustering web-server
CN112732451A (zh) 一种云环境中的负载均衡系统
CN112954022A (zh) 一种基于智能变电站的多并发实时通信方法及装置
Tong et al. Service reliability oriented modeling for the failure of cloud data center
CN201499180U (zh) 一种实现银企互联通信的装置
CN118400377B (zh) 一种云存储平台资源分配方法
CN115866678B (zh) 一种基于网络能耗热点探测的移动边缘缓存资源优化方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant