CN109614228B - 基于动态负载均衡方式的综合监控前置系统及工作方法 - Google Patents

Abstract

本发明公开了一种基于动态负载均衡方式的综合监控前置系统及工作方法，包括：设备通信单元、调度管理单元、协议解析单元以及数据处理单元；其中核心的调度管理单元中包含了与动态负载均衡方法相关的通道管理模块、节点通讯模块、负载测量分析模块、任务调度模块与策略执行模块。在多台服务器工作的条件下，根据服务器的性能和负载等因素，提出了一种基于动态调节的负载均衡技术，该负载均衡技术可以有效地降低响应时间，提高系统的效率，并取得了良好的效果。

Description

基于动态负载均衡方式的综合监控前置系统及工作方法

技术领域

本发明属于数据采集技术领域，具体涉及一种大规模高并发的通道连接及数据接入情况下的基于动态负载均衡方式的综合监控前置系统及工作方法。

背景技术

在前置数据采集系统中，单一的服务器性能有限，难以面对高并发的通道连接和数据接入。所以，传统意义上的双机主备模式已不能满足现实中对于数据采集系统的要求。后来在双机主备的基础上提出了较为简单的负载均衡技术，但这些都存在很多不足，无法真正解决问题。

首先，传统的双机主备的模式，这种模式下的数据采集系统只是实现了一个采集通道的冗余，但所有的负载仍然全部压在了一个服务器节点上，并未实现有效的负载分担。而我们知道单个的服务器性能是有限的，这样就容易出现高负载，从而影响性能的情况。

其次，目前几个常用的负载均衡技术，包括：轮询负载均衡算法、最少连接负载均衡算法，他们都存在不足之处；具体如下：

轮询负载均衡算法没有考虑到服务器集群中服务器之间的性能差异，在服务器实际运行中，由于性能之间的差别以及网络请求的处理时间的差别，采用此算法可能导致处理性能较弱的服务器负载过重。

最少连接负载均衡算法以连接数量作为服务器的负载水平衡量标准，不过各个服务器的处理性能是不同的，而且连接数量也不能准确反映服务器的负载状态。

发明内容

针对于上述现有技术的不足，本发明的目的在于提供一种基于动态负载均衡方式的综合监控前置系统及工作方法，以解决现有技术中大规模高并发的通道连接及数据接入情况下前置数据的采集难以满足要求的问题。

为达到上述目的，本发明采用的技术方案如下：

本发明的一种基于动态负载均衡方式的综合监控前置系统，包括：设备通信单元、调度管理单元、协议解析单元以及数据处理单元；其中，

设备通信单元，其与外部设备进行SOCKET/COM通讯；

调度管理单元，其包含通道管理模块、节点通讯模块、负载测量分析模块、任务调度模块及策略执行模块；

通道管理模块，用于管理每个通道的启停；

节点通讯模块，用于对各节点上的前置系统实现数据交互；

负载测量分析模块，用于测量分析每个服务器节点上的网络带宽、内存大小和CPU频率；

任务调度模块，根据系统启动时间将启动时间最早的节点模块默认为任务调度主模块，其他节点上的均为任务调度备模块，任务调度主模块通过节点通讯模块获取各节点上负载处理能力的计算结果，从而得出各节点的负载处理能力之比，进而将数据采集任务进行初次分配；初次任务分配完成后，根据各节点的负载实时饱和度进行持续的优化调节；

策略执行模块根据任务调度主模块的任务分配，进行各节点间的通道任务切换，即将低饱和度节点的任务调度备用通道切换为任务调度主通道，及将高饱和度节点下的任务调度主通道切换为任务调度备用通道；

协议解析单元，其将各个通道的业务处理数据进行封装，以供各通道线程调用；将设备通信单元采集到的通信报文帧处理为以点为单位的生数据(即初次生成的数据)；

数据处理单元，其将上述生成的生数据进行二次处理，获得熟数据，并将熟数据发送给综合监控系统其他的平台服务。

进一步地，所述设备通信单元包含：TCP通信接口及UDP通信接口。

进一步地，所述负载测量分析模块将各节点的负载处理能力用下面的公式来表示：

A(n)＝X1*A(mem)+X2*A(cpu)+X3*A(width)   (1)

式中，A(mem)、A(cpu)、A(width)分别为节点的内存、CPU、网络带宽的性能参数；参数X表示静态的负载能力项权值的相关系数，并且∑(X)＝1。

进一步地，所述各节点的负载实时饱和度用下面的公式来表示：

U(n)＝Z1*U(mem)+Z2*U(cpu)+Z3*U(width)   (2)

其中，U(mem)、U(cpu)、U(width)分别为节点上的内存占用率、CPU占用率、网络带宽占用率；参数Z表示动态的实时饱和度项权值的相关系数，参数之和为1。

进一步地，所述任务调度主模块获取各节点的实时负载饱和度、主通道个数以及各通道内的数据点数，并通过获取到的数据，进行任务的分配调整优化。

本发明的一种基于动态负载均衡方式的综合监控前置系统工作方法，包括步骤如下：

根据综合监控前置系统各节点的内存、CPU、网络带宽的性能参数，计算出各个节点的负载处理能力值A(n)，从而得出各节点的负载处理能力之比，将数据采集任务进行初次分配；然后开始执行初次分配策略，对各个节点上的主备通道进行链路管理；

从综合监控前置系统中获取各个服务器节点的实时内存占比，CPU占比及带宽占比值，计算出各个节点的负载实时饱和度U(n)；各节点的负载饱和度占比P(n)＝U(n)/∑(U(n))；

各节点的平均负载饱和度Pa(n)＝∑(P(n))/n；

将P(n)与Pa(n)比较，若P(n)小于Pa(n)，则根据差值在该节点进行任务的增配，反之则进行任务的减配；每次调整以单个通道为基本单元；

各节点通过调整策略执行后，再循环监测各个节点的负载饱和度，然后循环调整各节点负载饱和度与平均值的差值，直至所有节点的负载饱和度达到相同。

进一步地，将各节点的负载处理能力用下面的公式来表示：

A(n)＝X1*A(mem)+X2*A(cpu)+X3*A(width)   (1)

式中，A(mem)、A(cpu)、A(width)分别为节点的内存、CPU、网络带宽的性能参数；参数X表示静态的负载能力项权值的相关系数，并且∑(X)＝1。

进一步地，各节点的负载实时饱和度用下面的公式来表示：

U(n)＝Z1*U(mem)+Z2*U(cpu)+Z3*U(width)   (2)

其中，U(mem)、U(cpu)、U(width)分别为节点上的内存占用率、CPU占用率、网络带宽占用率；参数Z表示动态的实时饱和度项权值的相关系数，参数之和为1。

本发明的有益效果：

本发明可以有效地降低响应时间，提高系统吞吐量，使系统的性能达到最优，取得了良好的效果，同时还具有如下特点：

1、处理性能方面，可以支持超过传统双机热备方式一倍的通道个数实现并发高效连接、数据收发及解析处理；

2、资源消耗方面，因为对已有资源的平均分配利用，可降低服务器的平均资源消耗水平近30％，节省硬件采购成本；

3、系统稳定方面，因为一主多备，可以大大提高系统的稳定性，防止数据采集通道通讯中断。

附图说明

图1为本发明前置系统的原理架构图；

图2为本发明前置系统动态调节的负载均衡算法流程图。

具体实施方式

为了便于本领域技术人员的理解，下面结合实施例与附图对本发明作进一步的说明，实施方式提及的内容并非对本发明的限定。

参照图1所示，本发明的一种基于动态负载均衡方式的综合监控前置系统，包括：设备通信单元、调度管理单元、协议解析单元以及数据处理单元；其中，

设备通信单元，其与外部设备进行各类SOCKET/COM通讯，该单元封装了各类设备的通信接口，供上层其他单元调用；

调度管理单元，其包含与动态负载均衡方法相关的通道管理模块、节点通讯模块、负载测量分析模块、任务调度模块及策略执行模块；通道管理模块是综合监控前置系统中针对逻辑通信通道的最小管理单元，管理着每个通道的启停；由于综合监控前置系统按通道各自独立开线程进行处理，所以各通道可以并行收发解析数据，提高了数据采集的时效性；节点通讯模块，因为前置系统是一个分布式的系统，可以部署在多个节点上，而节点通讯模块则对各节点上的系统实现数据交互；负载测量分析模块用于测量分析每个服务器节点上的网络带宽、内存大小和CPU频率；任务调度模块，根据系统启动时间将启动时间最早的节点模块默认为任务调度主模块，其他节点上的均为任务调度备模块，任务调度主模块通过节点通讯模块获取各节点上负载处理能力的计算结果，从而得出各节点的负载处理能力之比，进而将数据采集任务进行初次分配；初次任务分配完成后，综合监控前置系统根据各节点的负载实时饱和度进行持续的优化调节；策略执行模块根据任务调度主模块的任务分配，进行各节点间的通道任务切换，即将低饱和度节点的任务调度备用通道切换为任务调度主通道，及将高饱和度节点下的任务调度主通道切换为任务调度备用通道；

协议解析单元，其将各个通道的业务处理数据进行封装，以供各通道线程调用；将设备通信单元采集到的通信报文帧处理为以点为单位的生数据(即初次生成的数据)；

数据处理单元，其将上述生成的生数据按照规则(比如：模拟量的系数、偏移、上下限等计算规则，数字量的取反、抖动过滤等计算规则)进行二次处理，获得熟数据，并将熟数据发送给综合监控系统其他的平台服务。

其中，当前置系统节点中的调度管理单元根据各节点的测量分析结果分配建立任务后，前置系统依据调度管理单元的任务分配调用设备通信单元实现与底层设备间的数据通讯；当底层数据收到后，前置系统通过调用协议解析单元接口实现通讯报文的业务解析，从而生成生数据；最后前置系统通过数据处理单元的业务接口，将生数据按各个业务规则进行二次处理，获取熟数据并发送给综合监控系统其它的平台服务。

示例中，为了保证整个前置系统的高效与高可靠运行，系统分布式的部署在了多台服务器上，每个服务器节点上的系统分别接入了各自不同设备的主通道以及其他设备的备用通道。即：总共有3个节点和4个设备，每个节点上分别接入了1至2个设备的主通道，另外还有2至3个设备的备用通道。所以每个节点上的设备主通道与备用通道之和即为接入的设备总数。这种架构形式既能体现出资源集群的效率优势，也能体现每个接入信号1主2备的冗余优势。

在每个节点上都部署了调度管理单元(负载均衡决策组件)，包括通道管理模块、节点通讯模块、负载测量分析模块、任务调度模块和策略执行模块。其中只有任务调度模块有主备之分，其通过各节点系统的启动时间来决定主备状态，最早启动的节点上部署的即为任务调度主模块。首先，各个节点上的负载测量分析模块将本节点的负载情况进行测量分析后通过节点通讯模块传至任务调度主模块所在节点(本节点上无需通过节点通讯模块，可直接传送)，任务调度主模块节点通过对所有节点负载情况的对比分析计算，以单通道为最小调节单元在负载最高节点与负载最低节点之间进行任务的分配转移，即将最高节点的某个主通道状态转移至最低节点，该调度指令先由节点通讯模块传达至各个节点的策略执行模块(任务调度主模块节点无需通过节点通讯模块，可以直接传达)，再由策略执行模块通知通道管理模块进行通道的启停。这轮调度执行结束后再重新进行系统所有节点的负载情况检测，如果没有达到均衡的效果，则继续按最小单元进行调节，直至基本满足系统负载均衡的要求，整个过程其实就是实现了一个动态的实时调节。

本发明的一种基于动态负载均衡方式的综合监控前置系统工作方法，包括步骤如下：

根据综合监控前置系统各节点的内存、CPU、网络带宽的性能参数，计算出各个节点的负载处理能力值A(n)，从而得出各节点的负载处理能力之比，将数据采集任务进行初次分配；然后开始执行初次分配策略，对各个节点上的主备通道进行链路管理；

参照图2所示，从综合监控前置系统中获取各个服务器节点的实时内存占比，CPU占比及带宽占比值，计算出各个节点的负载实时饱和度U(n)；各节点的负载饱和度占比P(n)＝U(n)/∑(U(n))；

各节点的平均负载饱和度Pa(n)＝∑(P(n))/n；

将P(n)与Pa(n)比较，若P(n)小于Pa(n)，则根据差值在该节点进行任务的增配，反之则进行任务的减配；每次调整以单个通道为基本单元；

各节点通过调整策略执行后，再循环监测各个节点的负载饱和度，然后循环调整各节点负载饱和度与平均值的差值，直至所有节点的负载饱和度基本达到相同。

其中，将各节点的负载处理能力用下面的公式来表示：

A(n)＝X1*A(mem)+X2*A(cpu)+X3*A(width)   (1)

式中，A(mem)、A(cpu)、A(width)分别为节点的内存、CPU、网络带宽的性能参数；参数X表示静态的负载能力项权值的相关系数，并且∑(X)＝1。

其中，各节点的负载实时饱和度用下面的公式来表示：

U(n)＝Z1*U(mem)+Z2*U(cpu)+Z3*U(width)   (2)

其中，U(mem)、U(cpu)、U(width)分别为节点上的内存占用率、CPU占用率、网络带宽占用率；参数Z表示动态的实时饱和度项权值的相关系数，参数之和为1。

本发明具体应用途径很多，以上所述仅是本发明的优选实施方式，应当指出，对于本技术领域的普通技术人员来说，在不脱离本发明原理的前提下，还可以作出若干改进，这些改进也应视为本发明的保护范围。

Claims (6)

1.一种基于动态负载均衡方式的综合监控前置系统，其特征在于，包括：设备通信单元、调度管理单元、协议解析单元以及数据处理单元；其中，

设备通信单元，其与外部设备通讯；

调度管理单元，其包含通道管理模块、节点通讯模块、负载测量分析模块、任务调度模块及策略执行模块；

通道管理模块，用于管理每个通道的启停；

节点通讯模块，用于对各节点上的前置系统实现数据交互；

负载测量分析模块，用于测量分析每个服务器节点上的网络带宽、内存大小和CPU频率；

任务调度模块，根据系统启动时间将启动时间最早的节点模块默认为任务调度主模块，其他节点上的均为任务调度备模块，任务调度主模块通过节点通讯模块获取各节点上负载处理能力的计算结果，从而得出各节点的负载处理能力之比，进而将数据采集任务进行初次分配；初次任务分配完成后，根据各节点的负载实时饱和度进行持续的优化调节；

策略执行模块，根据任务调度主模块的任务分配，进行各节点间的通道任务切换，即将低饱和度节点的任务调度备用通道切换为任务调度主通道，及将高饱和度节点下的任务调度主通道切换为任务调度备用通道；

协议解析单元，其将各个通道的业务处理数据进行封装，以供各通道线程调用；将设备通信单元采集到的通信报文帧处理为以点为单位的生数据；

数据处理单元，其将上述生成的生数据进行二次处理，获得熟数据，并将熟数据发送给综合监控系统其他的平台服务；

所述负载测量分析模块将各节点的负载处理能力用下面的公式来表示：

A(n)＝X1*A(mem)+X2*A(cpu)+X3*A(width)            (1)

式中，A(mem)、A(cpu)、A(width)分别为节点的内存、CPU、网络带宽的性能参数；参数X表示静态的负载能力项权值的相关系数，并且∑(X)＝1；

所述各节点的负载实时饱和度用下面的公式来表示：

U(n)＝Z1*U(mem)+Z2*U(cpu)+Z3*U(width)            (2)

其中，U(mem)、U(cpu)、U(width)分别为节点上的内存占用率、CPU占用率、网络带宽占用率；参数Z表示动态的实时饱和度项权值的相关系数，参数之和为1；

任务调度主模块通过对所有节点负载情况的对比分析计算，以单通道为最小调节单元在负载最高节点与负载最低节点之间进行任务的分配转移，调度指令先由节点通讯模块传达至各个节点的策略执行模块，再由策略执行模块通知通道管理模块进行通道的启停。

2.根据权利要求1所述的基于动态负载均衡方式的综合监控前置系统，其特征在于，所述设备通信单元包含：TCP通信接口及UDP通信接口。

3.根据权利要求1所述的基于动态负载均衡方式的综合监控前置系统，其特征在于，所述任务调度主模块获取各节点的实时负载饱和度、主通道个数以及各通道内的数据点数，并通过获取到的数据，进行任务的分配调整优化。

4.一种基于动态负载均衡方式的综合监控前置系统工作方法，基于权利要求1-3中任意一项所述系统，其特征在于，包括步骤如下：

根据综合监控前置系统各节点的内存、CPU、网络带宽的性能参数，计算出各个节点的负载处理能力值A(n)，从而得出各节点的负载处理能力之比，将数据采集任务进行初次分配；然后开始执行初次分配策略，对各个节点上的主备通道进行链路管理；

从综合监控前置系统中获取各个服务器节点的实时内存占比，CPU占比及带宽占比值，计算出各个节点的负载实时饱和度U(n)；各节点的负载饱和度占比P(n)＝U(n)/∑(U(n))；

各节点的平均负载饱和度Pa(n)＝∑(P(n))/n；

将P(n)与Pa(n)比较，若P(n)小于Pa(n)，则根据差值在该节点进行任务的增配，反之则进行任务的减配；每次调整以单个通道为基本单元；

各节点通过调整策略执行后，再循环监测各个节点的负载饱和度，然后循环调整各节点负载饱和度与平均值的差值，直至所有节点的负载饱和度达到相同。

5.根据权利要求4所述的基于动态负载均衡方式的综合监控前置系统工作方法，其特征在于，将各节点的负载处理能力用下面的公式来表示：

A(n)＝X1*A(mem)+X2*A(cpu)+X3*A(width)            (3)

式中，A(mem)、A(cpu)、A(width)分别为节点的内存、CPU、网络带宽的性能参数；参数X表示静态的负载能力项权值的相关系数，并且∑(X)＝1。

6.根据权利要求4所述的基于动态负载均衡方式的综合监控前置系统工作方法，其特征在于，各节点的负载实时饱和度用下面的公式来表示：

U(n)＝Z1*U(mem)+Z2*U(cpu)+Z3*U(width)            (4)

其中，U(mem)、U(cpu)、U(width)分别为节点上的内存占用率、CPU占用率、网络带宽占用率；参数Z表示动态的实时饱和度项权值的相关系数，参数之和为1。

Images