CN108874623A - 分布式集群性能监控方法、装置、设备、系统及存储介质 - Google Patents

Abstract

本发明公开了一种分布式集群性能监控方法，涉及集群管理领域，分布式集群包括多个监控节点，在每个监控节点上分别设置有相应的子采集单元，子采集单元用于实时采集对应监控节点的度量数据，该方法包括：控制节点接收到性能监控指令时，向各子采集单元发送采集指令；接收各子采集单元采集的度量数据；对度量数据进行解析汇总，得到监控数据。该方法能够将性能监控压力分散到各个监控节点上，从而可以在保证监控数据获取的实时性的前提下降低主监控节点资源占用；本发明还公开了一种分布式集群性能监控装置、设备、系统及可读存储介质。

Description

分布式集群性能监控方法、装置、设备、系统及存储介质

技术领域

本发明涉及集群管理领域，特别涉及一种分布式集群性能监控方法、装置、设备、系统及可读存储介质。

背景技术

随着分布式集群体系架构得到业界的认可，集群性能监控方案的重要性也随之提升，通过研究集群系统的性能，能够更好地利用系统资源，在优化扩展集群时也可以取得更好的效果。

分布式集群系统一般由若干台服务器组成，每个服务器称为一个监控节点，监控节点角色分为主监控节点和普通监控节点。传统的分布式集群系统性能监控进程运行在主监控节点上，运行周期任务采集运行数据，通过snmp或解析ssh命令执行结果的方式主动到各个从监控节点上“拉”数据来定时获取集群内各个监控节点的性能数据。

这种形式下主监控节点的资源占用压力很高，在集群监控节点数量较多时更为明显。在集群监控节点数据较多时，如果主监控节点启动多线程并发调用查询接口，虽然数据获取及时，但会导致主监控节点CPU使用率高，而如果采用单线程依次调用每个监控节点查询接口，虽然资源占用不高，但一个查询周期要花费较长时间，数据获取不及时。

因此，如何在保证监控数据实时获取的前提下降低单个节点资源占用，是本领域技术人员需要解决的技术问题。

发明内容

本发明的目的是提供一种分布式集群性能监控方法，该方法将性能监控压力分散到各个监控节点上，从而可以在保证监控数据获取的实时性的前提下降低主监控节点资源占用；本发明的另一目的是提供一种分布式集群性能监控装置、设备、系统及可读存储介质。

为解决上述技术问题，本发明提供一种分布式集群性能监控方法，所述分布式集群包括多个监控节点，在每个所述监控节点上分别设置有相应的子采集单元，所述子采集单元用于实时采集对应监控节点的度量数据，该方法包括：

控制节点接收到性能监控指令时，向各所述子采集单元发送采集指令；

接收各所述子采集单元采集的度量数据；

对所述度量数据进行解析汇总，得到监控数据。

可选地，所述子采集单元的数据采集方法包括：

子采集单元接收采集指令；

根据所述采集指令调用各采集脚本采集对应目标部件或目标功能的性能数据；

对所述性能数据进行封装，得到度量数据。

可选地，分布式集群性能监控方法可以还包括：

当接收到增加采集第一参数的指令时，在所述采集脚本进行中增设所述第一参数对应的采集脚本。

可选地，分布式集群性能监控方法可以还包括：

当接收到增加采集第一监控节点度量数据的指令时，在所述第一监控节点设置相应的子采集单元。

可选地，接收各所述子采集单元采集的度量数据包括：

控制各子采集单元将采集到的度量数据发送至子汇总单元；其中，所述子汇总单元的数量少于所述子采集单元；

向所述子汇总单元发送汇总指令，得到初步汇总结果；

接收各所述初步汇总结果。

本发明公开一种分布式集群性能监控装置，包括：

采集指令发送单元，用于当接收到性能监控指令时，向各所述子采集单元发送采集指令；

度量数据接收单元，用于接收各所述子采集单元采集的度量数据；

分析单元，用于对所述度量数据进行解析汇总，得到监控数据。

本发明公开一种分布式集群性能监控设备，包括：

存储器，用于存储程序；

处理器，用于执行所述程序时实现所述分布式集群性能监控方法的步骤。

本发明公开一种分布式集群性能监控系统，包括：

监控节点，每个所述监控节点上分别设置有相应的子采集单元，所述子采集单元用于实时采集对应监控节点的度量数据；

控制节点，用于当接收到性能监控指令时，向各所述子采集单元发送采集指令；接收各所述子采集单元采集的度量数据；对所述度量数据进行分析。

可选地，所述监控节点通过rabbitmq与所述控制节点进行通信。

本发明公开一种可读存储介质，所述可读存储介质上存储有程序，所述程序被处理器执行时实现所述分布式集群性能监控方法的步骤。

本发明所提供的分布式集群性能监控方法，在每个监控节点上分别设置有相应的子采集单元，子采集单元用于实时采集对应监控节点的度量数据，即每个需要进行监控的监控节点都可以直接通过设置于其上的子采集单元进行数据采集。当接收到性能监控指令时，向各子采集单元发送采集指令，各子采集单元会自动采集所在节点的度量数据，采集完成后可以监控数据，通过这种方式将性能采集的压力分散到各个节点上，可以均衡利用各节点资源，避免对主节点的过分利用导致的主节点资源占用率高的问题，可以在保证监控数据实时获取的前提下降低单个节点的资源占用，实现了负载均衡。

本发明还公开了一种分布式集群性能监控装置、设备、系统及一种可读存储介质，具有上述有益效果，在此不再赘述。

附图说明

为了更清楚地说明本发明实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据提供的附图获得其他的附图。

图1为本发明实施例提供的分布性集群系统结构示意图；

图2为本发明实施例提供的分布式集群性能监控方法的流程图；

图3为本发明实施例提供的分布式集群性能监控装置的结构框图；

图4为本发明实施例提供的分布式集群性能监控设备的结构框图；

图5为本发明实施例提供的分布式集群性能监控系统的结构框图的结构框图；

图6为本发明实施例提供的集群管理系统性能采集架构示意图。

具体实施方式

本发明的核心是提供一种分布式集群性能监控方法，该方法能够在保证监控数据实时获取的前提下降低单个节点的资源占用；本发明的另一核心是提供一种分布式集群性能监控装置、设备、系统及可读存储介质。

为使本发明实施例的目的、技术方案和优点更加清楚，下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。

图1所示为本实施例提供的分布性集群系统结构示意图，分布式集群中包括多个节点，需要进行监控的节点即为监控节点，监控节点可以包括主节点以及普通节点。在每个监控节点上都设置有相应的子采集单元，监控节点与子采集单元一一对应，每个子采集单元用于采集对应监控节点的度量数据。

请参考图2，图2为本实施例提供的分布式集群性能监控方法的流程图；该方法可以包括：

步骤s200、控制节点接收到性能监控指令时，向各子采集单元发送采集指令。

这里的控制节点可以为主节点，也可以为普通节点，在本发明中控制节点可以为监控节点，也可以为非监控节点，在此不做限定。

其中采集指令可以根据监控节点的类型进行对应设置，也可以进行统一设置，即所有监控节点均采集同种类型的数据。当根据监控节点的类型进行特殊化设置时，采集指令中需包含要采集的数据类型，比如处理器使用率、内存使用率、风扇转速等；由于一个集群服务器系统结构是非常复杂的，包括大量监控节点，为减少资源的浪费，降低监控的时效性，也可以对所有监控节点采集相同类型的数据，当为后者时，采集指令可以不包括需要采集的数据类型，只需在每个子采集单元进行相应的默认设置即可。

步骤s210、接收各子采集单元采集的度量数据。

度量数据指每个监控节点的性能数据，在此对度量数据包括的具体数据种类不做限定，比如可以包括输入输出电压、功率、温度等。每个子采集单元的数据采集过程可以自行设定，比如可以通过一个脚本对一个节点中所有数据进行采集，而由于在一个节点中可能需要监控很多的部件或业务功能性能数据，优选地，子采集单元可以通过若干采集脚本对相应的需要采集的部件或业务功能进行性能数据的采集，则子采集单元的数据采集方法具体可以包括以下步骤：

步骤一：子采集单元接收采集指令；

步骤二：根据采集指令调用各采集脚本采集对应目标部件或目标功能的性能数据；

步骤三：对性能数据进行封装，得到度量数据。

脚本类型也不做限定，比如可以为python脚本，一个子采集单元包括若干个相互独立的python脚本，每个脚本负责采集各自部件或业务功能的性能数据，每个部件或业务功能与python脚本一一对应采集完成后将数据包装成统一的数据格式，比如json数据。

接收各子采集单元的度量数据可以直接接收，也可以通过间接接收的方式。其中，直接接收指直接接收各子采集单元采集的度量数据，各子采集单元均将数据直接发送至统一的一个监管节点。间接接收指各子采集节点将数据发送至中间的子汇总单元，子汇总节点可以根据区域或者地址等进行设置，一个子汇总单元可以辐射若干个监控节点。由于当集群规模十分庞大时，对庞大的数据进行解析汇总的过程可能十分繁琐，为减少单个节点的工作量，实现节点间的均衡，优选地，可以在子采集单元与监控节点间设置子汇总单元，由子汇总单元对小规模的若干子采集单元采集的度量数据进行初步汇总，将初步汇总后的结果再发送至监控节点进行统一的汇总解析工作，这种情况下接收各子采集单元采集的度量数据具体可以包括以下步骤：

步骤一：控制各子采集单元将采集到的度量数据发送至子汇总单元；其中，子汇总单元的数量少于子采集单元；

步骤二：向子汇总单元发送汇总指令，得到初步汇总结果；

步骤三：接收各初步汇总结果。

步骤s220、对度量数据进行解析汇总，得到监控数据。

对接收到的所有节点的度量数据进行解析汇总，可以得到分布式集群系统的实时监控数据。

基于上述实施例，当需要增加节点的监控参数时，可以直接新增监控参数对应的脚本，无需对已有代码进行修改，可以大大简化监控优化过程。

另外，如果需要在分布式集群中增加需要进行监控的节点时，可以直接在增加的监控节点设置相应的子采集单元，对监控系统的扩展十分简单方便。

基于上述技术方案，本发明实施例所提供的分布式集群性能监控方法，在每个监控节点上分别设置有相应的子采集单元，子采集单元用于实时采集对应监控节点的度量数据，即每个需要进行监控的监控节点都可以直接通过设置于其上的子采集单元进行数据采集。当接收到性能监控指令时，向各子采集单元发送采集指令，各子采集单元会自动采集所在节点的度量数据，采集完成后可以监控数据，通过这种方式将性能采集的压力分散到各个节点上，可以均衡利用各节点资源，避免对主节点的过分利用导致的主节点资源占用率高的问题，可以在保证监控数据实时获取的前提下降低单个节点的资源占用，实现了负载均衡。

请参考图3，图3为本发明实施例提供的分布式集群性能监控装置的结构框图；该装置可以包括：采集指令发送单元300、度量数据接收单元310以及分析单元320。本实施例提供的分布式集群性能监控装置可与上述分布式集群性能监控方法相互对照。

其中，采集指令发送单元300主要用于当接收到性能监控指令时，向各子采集单元发送采集指令；

度量数据接收单元310主要用于接收各子采集单元采集的度量数据；

分析单元320主要用于对度量数据进行解析汇总，得到监控数据。

其中，可选地，子采集单元可以包括：指令接收模块、采集模块以及封装模块。

其中，指令接收模块用于接收采集指令；

采集模块用于根据采集指令调用各采集脚本采集对应目标部件或目标功能的性能数据；

封装模块用于对性能数据进行封装，得到度量数据。

另外，对子采集单元进行功能性细化后，子采集单元具体还可以分为：性能采集模块、性能采集定时任务模块以及性能汇集模块。

性能采集模块中包含若干个相互独立的python脚本，其中，每个部件或业务功能与python脚本一一对应，每个脚本负责采集各自部件或业务功能的性能数据，将数据包装成统一的json数据。

其中，性能采集定时任务主要用于调度性能采集脚本，并将采集的json数据发送给性能汇集模块。

性能汇集模块用于保存已采集待发送的性能数据，定期将数据发送给监控节点。其中，性能汇集模块内部可以通过Queue来实现。

上述为两种子采集单元的划分方式，具体划分可参照上述介绍。

其中，可选地，度量数据接收单元210可以进一步包括：

发送子单元，用于控制各子采集单元将采集到的度量数据发送至子汇总单元；其中，子汇总单元的数量少于子采集单元；

初步汇总子单元，用于向子汇总单元发送汇总指令，得到初步汇总结果；

初步汇总接收子单元，用于接收各初步汇总结果。

可选地，分布式集群性能监控装置可以还包括脚本设置单元，用于当接收到增加采集第一参数的指令时，在采集脚本进行中增设第一参数对应的采集脚本。

可选地，分布式集群性能监控装置可以还包括节点设置单元，用于当接收到增加采集第一监控节点度量数据的指令时，在第一监控节点设置相应的子采集单元。

请参考图4，图4为本实施例提供的分布式集群性能监控设备的结构框图；该设备可以包括：存储器400以及处理器410。分布式集群性能监控设备可参照上述分布式集群性能监控方法的介绍。

其中，存储器400主要用于存储程序；

处理器410主要用于执行程序时实现上述分布式集群性能监控方法的步骤。

请参考图5，图5为本实施例提供的分布式集群性能监控系统的结构框图；该系统可以包括：监控节点500以及控制节点510。分布式集群性能监控系统可参照上述图2对应的分布式集群性能监控方法的介绍。

其中，每个监控节点500上分别设置有相应的子采集单元，子采集单元用于实时采集对应监控节点的度量数据；

控制节点510主要用于当接收到性能监控指令时，向各子采集单元发送采集指令；接收各子采集单元采集的度量数据；对度量数据进行分析。

监控节点为多个，即分布式集群系统中需要进行监控的节点，监控节点可以包括主节点，也可以包括普通节点。控制节点具体可以为主节点，也可以为可以实现上述功能的普通节点，其中，当控制节点为主节点时，便于根据解析汇总的结果对普通节点进行控制。

其中，监控节点500具体可以用于接收采集指令；根据采集指令调用各采集脚本采集对应目标部件或目标功能的性能数据；对性能数据进行封装，得到度量数据。

控制节点510可以进一步用于当接收到增加采集第一参数的指令时，在采集脚本进行中增设第一参数对应的采集脚本。当接收到增加采集第一监控节点度量数据的指令时，在第一监控节点设置相应的子采集单元。

具体地，对监控节点的控制可以通过perf-agentd进程来进行，对控制节点的控制可以通过perf-masterd进程来实现。

perf-agentd运行在各个监控节点上，负责收集本节点的度量数据(如处理器使用率、内存使用率、风扇转速等)，并将度量数据发送给perf-masterd进程。perf-agentd可以由三部分构成，具体为：性能采集模块、性能采集定时任务模块、性能汇集模块。

perf-masterd进程运行在控制节点，负责接收各节点perf-agentd发来的度量数据，并持久化。

控制节点与监控节点之间的通信方式不做限定，可参照现有技术，优选地，监控节点可以通过rabbitmq与控制节点进行通信，rabbitmq是通过在消息中发送数据进行通信，而不是通过直接调用彼此来通信，直接调用通常是用于诸如远程过程调用的技术，这样就将perf-agentd和perf-masterd进行了解耦。本实施例提供的分布式集群性能监控系统降低了单个节点(比如主节点)的资源占用率，低耦合，易扩展。

图6所示为本实施例提供的集群管理系统性能采集架构示意图，在此以图6所示的结构为例对监控过程进行介绍。

在监控节点(从节点或者普通节点)上运行perf-agentd进程，perf-agentd通过snmp或解析ssh命令执行结果的方式采集本节点的性能数据，然后通过rabbitmq消息主动将数据“推”给perf-masterd进程。在控制节点(主节点)上运行perf-masterd进程，负责接收从节点发来的rabbitmq消息，解析消息并持久化，通过这种方式将性能采集的压力分散到各个节点上，实现了负载均衡。

在这种架构下，集群新增节点时，只需在新节点部署perf-agentd进程即可，无需额外配置，维护简单。当新增性能采集指标时，只需新增一个性能采集的python脚本，无需修改已有代码，易扩展。

本实施例公开了一种可读存储介质，可读存储介质上存储有程序，程序被处理器执行时实现分布式集群性能监控方法的步骤，其中，分布式集群性能监控方法可参照图2对应的实施例，在此不再赘述。

说明书中各个实施例采用递进的方式描述，每个实施例重点说明的都是与其他实施例的不同之处，各个实施例之间相同相似部分互相参见即可。对于实施例公开的装置而言，由于其与实施例公开的方法相对应，所以描述的比较简单，相关之处参见方法部分说明即可。

专业人员还可以进一步意识到，结合本文中所公开的实施例描述的各示例的单元及算法步骤，能够以电子硬件、计算机软件或者二者的结合来实现，为了清楚地说明硬件和软件的可互换性，在上述说明中已经按照功能一般性地描述了各示例的组成及步骤。这些功能究竟以硬件还是软件方式来执行，取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能，但是这种实现不应认为超出本发明的范围。

结合本文中所公开的实施例描述的方法或算法的步骤可以直接用硬件、处理器执行的软件模块，或者二者的结合来实施。软件模块可以置于随机存储器(RAM)、内存、只读存储器(ROM)、电可编程ROM、电可擦除可编程ROM、寄存器、硬盘、可移动磁盘、CD-ROM、或技术领域内所公知的任意其它形式的存储介质中。

以上对本发明所提供的分布式集群性能监控方法、装置、设备、系统及可读存储介质进行了详细介绍。本文中应用了具体个例对本发明的原理及实施方式进行了阐述，以上实施例的说明只是用于帮助理解本发明的方法及其核心思想。应当指出，对于本技术领域的普通技术人员来说，在不脱离本发明原理的前提下，还可以对本发明进行若干改进和修饰，这些改进和修饰也落入本发明权利要求的保护范围内。

Claims (10)

1.一种分布式集群性能监控方法，其特征在于，所述分布式集群包括多个监控节点，在每个所述监控节点上分别设置有相应的子采集单元，所述子采集单元用于实时采集对应监控节点的度量数据，该方法包括：

控制节点接收到性能监控指令时，向各所述子采集单元发送采集指令；

接收各所述子采集单元采集的度量数据；

对所述度量数据进行解析汇总，得到监控数据。

2.如权利要求1所述的分布式集群性能监控方法，其特征在于，所述子采集单元的数据采集方法包括：

子采集单元接收采集指令；

根据所述采集指令调用各采集脚本采集对应目标部件或目标功能的性能数据；

对所述性能数据进行封装，得到度量数据。

3.如权利要求2所述的分布式集群性能监控方法，其特征在于，还包括：

当接收到增加采集第一参数的指令时，在所述采集脚本进行中增设所述第一参数对应的采集脚本。

4.如权利要求2所述的分布式集群性能监控方法，其特征在于，还包括：

当接收到增加采集第一监控节点度量数据的指令时，在所述第一监控节点设置相应的子采集单元。

5.如权利要求1所述的分布式集群性能监控方法，其特征在于，接收各所述子采集单元采集的度量数据包括：

控制各子采集单元将采集到的度量数据发送至子汇总单元；其中，所述子汇总单元的数量少于所述子采集单元；

向所述子汇总单元发送汇总指令，得到初步汇总结果；

接收各所述初步汇总结果。

6.一种分布式集群性能监控装置，其特征在于，包括：

采集指令发送单元，用于当接收到性能监控指令时，向各所述子采集单元发送采集指令；

度量数据接收单元，用于接收各所述子采集单元采集的度量数据；

分析单元，用于对所述度量数据进行解析汇总，得到监控数据。

7.一种分布式集群性能监控设备，其特征在于，包括：

存储器，用于存储程序；

处理器，用于执行所述程序时实现如权利要求1至5任一项所述分布式集群性能监控方法的步骤。

8.一种分布式集群性能监控系统，其特征在于，包括：

监控节点，每个所述监控节点上分别设置有相应的子采集单元，所述子采集单元用于实时采集对应监控节点的度量数据；

控制节点，用于当接收到性能监控指令时，向各所述子采集单元发送采集指令；接收各所述子采集单元采集的度量数据；对所述度量数据进行分析。

9.如权利要求8所述的分布式集群性能监控系统，其特征在于，所述监控节点通过rabbitmq与所述控制节点进行通信。

10.一种可读存储介质，其特征在于，所述可读存储介质上存储有程序，所述程序被处理器执行时实现如权利要求1至5任一项所述分布式集群性能监控方法的步骤。