CN112751926B

CN112751926B - 一种集群中工作节点的管理方法、系统及相关装置

Info

Publication number: CN112751926B
Application number: CN202011603946.9A
Authority: CN
Inventors: 吴振伟; 常洪耀
Original assignee: Beijing Inspur Data Technology Co Ltd
Current assignee: Beijing Inspur Data Technology Co Ltd
Priority date: 2020-12-29
Filing date: 2020-12-29
Publication date: 2023-05-26
Anticipated expiration: 2040-12-29
Also published as: CN112751926A

Abstract

本申请提供一种集群中工作节点的管理方法，包括：获取文件系统的工作节点；根据预设分组规则对所述工作节点进行分组；在每个分组内选取主工作节点，所述主工作节点用于接收分组内其余所有工作节点的心跳信息；控制所述主工作节点将心跳数据上传至管理节点，以便所述管理节点根据所述心跳数据管理所有工作节点。本申请可以降低与管理节点连接的工作节点数量，从而减少管理节点需要管控的工作节点数量，降低管理节点数据处理压力，从而提高HDFS的启动速度。本申请还提供一种集群中工作节点的管理系统、计算机可读存储介质和电子设备，具有上述有益效果。

Description

一种集群中工作节点的管理方法、系统及相关装置

技术领域

本申请涉及文件存储领域，特别涉及一种集群中工作节点的管理方法、系统及相关装置。

背景技术

随着业务的快速增长，集群的节点数也在增加，对单个大规模Hadoop(一种分布式系统基础架构)集群的需求也越来越强烈。单个大规模集群具有数据共享、计算资源共享、减轻运营负担和成本等三个方面的优势。但是单个大规模集群由于其规模庞大，可能包含相当于十几个集群的数据量。文件系统中工作节点的数量必然增多，这会导致管理节点压力也必然会很大，进而会导致大规模集群HDFS(Hadoop Distributed File System，Hadoop分布式文件系统)启动会非常的缓慢，不利于HDFS的应用。

发明内容

本申请的目的是提供一种集群中工作节点的管理方法、管理系统、计算机可读存储介质和电子设备，能够提高HDFS的启动速度。

为解决上述技术问题，本申请提供一种集群中工作节点的管理方法，具体技术方案如下：

获取文件系统的工作节点；

根据预设分组规则对所述工作节点进行分组；

在每个分组内选取主工作节点，所述主工作节点用于接收分组内其余所有工作节点的心跳信息；

控制所述主工作节点将心跳数据上传至管理节点，以便所述管理节点根据所述心跳数据管理所有工作节点；所述心跳数据包括各工作节点的心跳信息和主心跳信息，所述主心跳信息为所述主工作节点的心跳信息。

可选的，根据预设分组规则对所述工作节点进行分组包括：

根据所述工作节点的总量确定分组数；

根据所述分组数对所述工作节点进行划分；其中，各所述分组之间所述工作节点的数量差小于等于1。

可选的，根据预设分组规则对所述工作节点进行分组包括：

根据所述集群的实时集群性能确定组内预算数量；

根据所述组内预算数量对所述工作节点进行分组。

可选的，在每个分组内选取主工作节点包括：

获取分组内所有工作节点的节点IP；

对所述节点IP进行波段比较，将所述节点IP最小的工作节点作为主工作节点。

可选的，在每个分组内选取主工作节点包括：

获取分组内所有工作节点的节点IP；

将所述节点IP的哈希值最小的工作节点作为主工作节点。

可选的，在每个分组内选取主工作节点之后，还包括：

生成包含所有主工作节点的主节点信息列表；所述主节点信息列表用于指示所述管理节点获取各所述主工作节点的心跳数据。

可选的，若所述管理节点未接收到目标主工作节点的心跳数据，还包括：

向所述目标主工作节点所在目标分组中的所有工作节点发送校验请求，用于校验所述目标分组中各工作节点的在位状态。

本申请还提供一种集群中工作节点的管理系统，包括：

获取模块，用于获取文件系统的工作节点；

分组模块，用于根据预设分组规则对所述工作节点进行分组；

选取模块，用于在每个分组内选取主工作节点，所述主工作节点用于接收分组内其余所有工作节点的心跳信息；

上传模块，用于控制所述主工作节点将心跳数据上传至管理节点，以便所述管理节点根据所述心跳数据管理所有工作节点；所述心跳数据包括各工作节点的心跳信息和主心跳信息，所述主心跳信息为所述主工作节点的心跳信息。

本申请还提供一种计算机可读存储介质，其上存储有计算机程序，所述计算机程序被处理器执行时实现如上所述的方法的步骤。

本申请还提供一种电子设备，包括存储器和处理器，所述存储器中存有计算机程序，所述处理器调用所述存储器中的计算机程序时实现如上所述的方法的步骤。

本申请提供一种集群中工作节点的管理方法，包括：获取文件系统的工作节点；根据预设分组规则对所述工作节点进行分组；在每个分组内选取主工作节点，所述主工作节点用于接收分组内其余所有工作节点的心跳信息；控制所述主工作节点将心跳数据上传至管理节点，以便所述管理节点根据所述心跳数据管理所有工作节点；所述心跳数据包括各工作节点的心跳信息和主心跳信息，所述主心跳信息为所述主工作节点的心跳信息。

本申请通过对工作节点进行分组，并确定各分组内的主工作节点，利用主工作节点获取分组内其余工作节点的心跳信息，并仅建立主工作节点和管理节点的连接，即降低与管理节点连接的工作节点数量，从而减少管理节点需要管控的工作节点数量，降低管理节点数据处理压力，从而提高HDFS的启动速度。

本申请还提供一种集群中工作节点的管理系统、计算机可读存储介质和电子设备，具有上述有益效果，此处不再赘述。

附图说明

为了更清楚地说明本申请实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本申请的实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据提供的附图获得其他的附图。

图1为本申请实施例所提供的集群中工作节点的管理方法流程图；

图2为本申请实施例所提供的集群中工作节点的管理系统结构示意图。

具体实施方式

为使本申请实施例的目的、技术方案和优点更加清楚，下面将结合本申请实施例中的附图，对本申请实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本申请一部分实施例，而不是全部的实施例。基于本申请中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本申请保护的范围。

在文件系统中，DataNode指文件系统的工作节点，工作节点启动后向管理节点注册，通过后，周期性的向管理节点上报所有的块信息，即建立心跳连接。心跳默认是每3秒一次，心跳返回结果带有管理节点给该工作节点的命令如复制块数据到另一台机器，或删除某个数据块。如果超过一定时间例如10分钟没有收到某个工作节点的心跳，则认为该工作节点不可用。管理节点起一个统领的作用，它管理着工作节点,用户通过管理节点来实现对其他数据的访问和操作，它包含目录与数据块之间的关系，数据块和节点之间的关系等等。

显然，若集群中包含的工作节点数量较多时，管理节点需要同时与多个工作节点建立心跳连接，这将大大增加管理节点的管理压力，从而使得集群的启动速度过于缓慢。

为了解决上述问题，请参考图1，图1为本申请实施例所提供的集群中工作节点的管理方法流程图，该方法包括：

S101：获取文件系统的工作节点；

本步骤旨在获取文件系统的工作节点，在此对于工作节点的获取方式不作限定，可以直接从集群中获取所有工作节点的节点清单，以获得文件系统的所有工作节点。此外，在执行本步骤时，还可以获取文件系统的其他数据，用于辅助执行后续分组步骤，例如集群性能等。

S102：根据预设分组规则对所述工作节点进行分组；

本步骤旨在对工作节点进行分组，本实施例对于如何进行分组不作具体限定。无论采用何种分组方式，均可以实现本申请对应的技术效果。

该预设分组规则应为在本步骤执行前已确定的分组规则，其可以将工作节点的数量、集群的性能等作为分组参考条件。本实施例在此提供两种优选的分组方式。

第一种，可以先根据工作节点的总量确定分组数，根据分组数对所述工作节点进行划分。即确定工作节点的数量，显然，分组数量不宜过多，否则对于HDFS启动速度的优化效果并不明显。因此可以根据工作节点的数量确定分组数。为了进一步提高HDFS启动速度的优化效果，可以事先确定最优的分组数。即针对于管理节点同时建立心跳连接的工作节点数量作相应测试，从而判断工作节点在何种数量时HDFS启动速度最快。而经测试，发现HDFS启动速度与建立心跳连接的工作节点的数量关系类似于开口朝下的抛物线，即启动速度随着工作节点的数量出现先提高后下降的趋势，因此可以实现确定最优的分组数量，从而根据工作节点的总量确定各分组中工作节点的数量。而本分组方式类似于对工作节点的均分，因此各分组之间工作节点的数量差小于等于1。此外，若确定分组数，在进行工作节点划分时，最后一组的工作节点数量小于每组均值时，也可以独立成组。

第二种，可以根据集群的实时集群性能确定组内预算数量，再根据组内预算数量对工作节点进行分组。此时预设分组规则可以包含分组计算公式：

G＝[N/m]+1

其中，G为分组数量，N为工作节点总数，m为组内预算数量，[N/m]表示工作节点总数与组内预算数量的商值取整，此时可以由本领域技术人员自由设定向上取整或者向下取整。而组内预算数量m的值根据集群性能及节点数可变。

当然，本领域技术人员还可以采用其他分组方式，也应在本申请的保护范围内。

S103：在每个分组内选取主工作节点，所述主工作节点用于接收分组内其余所有工作节点的心跳信息；

本步骤旨在选取主工作节点，用于接收组内其他工作节点的心跳信息。在此对于如何选取主工作节点不作具体限定，需要注意的是，任何一个可以正常运行的工作节点均可以作为主工作节点。下文为本实施例提供的一种优选的选取主工作节点的方法：

第一步、获取分组内所有工作节点的节点IP；

第二步、对节点IP进行波段比较，将节点IP最小的工作节点作为主工作节点。

由于各工作节点均存在自身的节点IP，将节点IP最小的工作节点作为主工作节点。具体比较时，比较各节点IP的波段对应的数字大小。每个工作节点向组内发送自身的节点IP，若工作节点接收到比其自身节点IP还小的节点IP，则退出主工作节点的选取，等待结果。直至最后剩下的一个工作节点，自动成为主工作节点。

此外，还可以在获取分组内所有工作节点的节点IP之后，计算各节点IP对应的哈希值，将节点IP的哈希值最小的工作节点作为主工作节点。

显然，无论采用何种方式，只要可以得到唯一的主工作节点的方法均可以用于本实施例，且选取过程约简单，越有助于提高HDFS启动速度的优化效果。

在选取得到主工作节点后，将分组内其余工作节点的心跳信息全部发送至主工作节点，即所有工作节点除主工作节点外均不再与管理节点建立心跳连接，均改为与分组内主工作节点建立心跳连接。而主工作节点负责接收心跳连接、响应心跳并记录，得到心跳信息。即本步骤中的心跳信息包含分组内所有工作节点的心跳信息。

此外，作为本步骤的一种优选执行方式，在每个分组内选取主工作节点之后，还可以生成包含所有主工作节点的主节点信息列表，该主节点信息列表用于指示管理节点获取各主工作节点的心跳数据。

S104：控制所述主工作节点将心跳数据上传至管理节点，以便所述管理节点根据所述心跳数据管理所有工作节点。

本步骤中，主工作节点需要将心跳数据上传至管理节点。心跳数据包括各工作节点的心跳信息和主心跳信息，主心跳信息为主工作节点自身的心跳信息。对于主工作节点而言，其不仅需要上传自身的心跳信息，还需要将其与工作节点的心跳信息一并上传。

本申请实施例通过对工作节点进行分组，并确定各分组内的主工作节点，利用主工作节点获取分组内其余工作节点的心跳信息，并仅建立主工作节点和管理节点的连接，即降低与管理节点连接的工作节点数量，从而减少管理节点需要管控的工作节点数量，降低管理节点数据处理压力，从而提高HDFS的启动速度。

基于上述实施例，作为优选的实施例，由于主工作节点可能由于异常造成节点失联，或者节点异常停止工作。为了避免由于主工作节点的异常造成分组内其余工作节点的心跳收到影响，若管理节点未接收到目标主工作节点的心跳数据，还可以向目标主工作节点所在目标分组中的所有工作节点发送校验请求，用于校验目标分组中各工作节点的在位状态。若确认目标分组中存在在位的工作节点，则主工作节点可能发生异常，此时可以重新实施目标分组中主工作节点的选取过程。当然，还可以事先配置分组中的副工作节点，用于主工作节点异常时自动替代主工作节点，以保证系统的冗余性。

下面对本申请实施例提供的一种集群中工作节点的管理系统进行介绍，下文描述的管理系统与上文描述的一种集群中工作节点的管理方法可相互对应参照。

参见图2，图2为本申请实施例所提供的集群中工作节点的管理系统结构示意图，本申请还提供一种集群中工作节点的管理系统，包括：

获取模块100，用于获取文件系统的工作节点；

分组模块200，用于根据预设分组规则对所述工作节点进行分组；

选取模块300，用于在每个分组内选取主工作节点，所述主工作节点用于接收分组内其余所有工作节点的心跳信息；

上传模块400，用于控制所述主工作节点将心跳数据上传至管理节点，以便所述管理节点根据所述心跳数据管理所有工作节点；所述心跳数据包括各工作节点的心跳信息和主心跳信息，所述主心跳信息为所述主工作节点的心跳信息。

基于上述实施例，作为优选的实施例，分组模块200包括：

第一分组单元，用于根据所述工作节点的总量确定分组数；

第一划分单元，用于根据所述分组数对所述工作节点进行划分；其中，各所述分组之间所述工作节点的数量差小于等于1。

基于上述实施例，作为优选的实施例，分组模块200包括：

第二分组单元，用于根据所述集群的实时集群性能确定组内预算数量；

第二划分单元，用于根据所述组内预算数量对所述工作节点进行分组。

基于上述实施例，作为优选的实施例，选取模块300包括：

IP获取单元，用于获取分组内所有工作节点的节点IP；

IP比较单元，用于对所述节点IP进行波段比较，将所述节点IP最小的工作节点作为主工作节点。

基于上述实施例，作为优选的实施例，选取模块300包括：

IP获取单元，用于获取分组内所有工作节点的节点IP；

IP计算单元，用于将所述节点IP的哈希值最小的工作节点作为主工作节点。

基于上述实施例，作为优选的实施例，还可以包括：

主节点管理模块，用于生成包含所有主工作节点的主节点信息列表；所述主节点信息列表用于指示所述管理节点获取各所述主工作节点的心跳数据。

基于上述实施例，作为优选的实施例，还可以包括：

主节点更新模块，用于若所述管理节点未接收到目标主工作节点的心跳数据，向所述目标主工作节点所在目标分组中的所有工作节点发送校验请求，用于校验所述目标分组中各工作节点的在位状态。

本申请还提供了一种计算机可读存储介质，其上存有计算机程序，该计算机程序被执行时可以实现上述实施例所提供的步骤。该存储介质可以包括：U盘、移动硬盘、只读存储器(Read-Only Memory，ROM)、随机存取存储器(Random Access Memory，RAM)、磁碟或者光盘等各种可以存储程序代码的介质。

本申请还提供了一种电子设备，可以包括存储器和处理器，所述存储器中存有计算机程序，所述处理器调用所述存储器中的计算机程序时，可以实现上述实施例所提供的步骤。当然所述电子设备还可以包括各种网络接口，电源等组件。

说明书中各个实施例采用递进的方式描述，每个实施例重点说明的都是与其他实施例的不同之处，各个实施例之间相同相似部分互相参见即可。对于实施例提供的系统而言，由于其与实施例提供的方法相对应，所以描述的比较简单，相关之处参见方法部分说明即可。

本文中应用了具体个例对本申请的原理及实施方式进行了阐述，以上实施例的说明只是用于帮助理解本申请的方法及其核心思想。应当指出，对于本技术领域的普通技术人员来说，在不脱离本申请原理的前提下，还可以对本申请进行若干改进和修饰，这些改进和修饰也落入本申请权利要求的保护范围内。

还需要说明的是，在本说明书中，诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来，而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。

Claims

1.一种集群中工作节点的管理方法，其特征在于，包括：

获取文件系统的工作节点；

根据预设分组规则对所述工作节点进行分组；

控制所述主工作节点将心跳数据上传至管理节点，以便所述管理节点根据所述心跳数据管理所有工作节点；所述心跳数据包括各工作节点的心跳信息和主心跳信息，所述主心跳信息为所述主工作节点的心跳信息；

在每个分组内选取主工作节点包括：获取分组内所有工作节点的节点IP；

对所述节点IP进行波段比较，将所述节点IP最小的工作节点作为主工作节点；

其中，所属根据预设分组规则对所述工作节点进行分组包括：

根据所述工作节点的总量确定分组数；所述工作节点的总量为根据大规模集群HDFS的启动速度与所述工作节点的数量关系确定的，当HDFS的启动速度最大时的所述工作节点的数量；

2.根据权利要求1所述的管理方法，其特征在于，根据预设分组规则对所述工作节点进行分组包括：

根据所述集群的实时集群性能确定组内预算数量；

根据所述组内预算数量对所述工作节点进行分组。

3.根据权利要求1或2所述的管理方法，其特征在于，在每个分组内选取主工作节点包括：

获取分组内所有工作节点的节点IP；

将所述节点IP的哈希值最小的工作节点作为主工作节点。

4.根据权利要求1所述的管理方法，其特征在于，在每个分组内选取主工作节点之后，还包括：

5.根据权利要求4所述的管理方法，其特征在于，若所述管理节点未接收到目标主工作节点的心跳数据，还包括：

6.一种集群中工作节点的管理系统，其特征在于，包括：

获取模块，用于获取文件系统的工作节点，包括：获取分组内所有工作节点的节点IP；对所述节点IP进行波段比较，将所述节点IP最小的工作节点作为主工作节点

上传模块，用于控制所述主工作节点将心跳数据上传至管理节点，以便所述管理节点根据所述心跳数据管理所有工作节点；所述心跳数据包括各工作节点的心跳信息和主心跳信息，所述主心跳信息为所述主工作节点的心跳信息；

所述分组模块具体用于：根据所述工作节点的总量确定分组数；所述工作节点的总量为根据大规模集群HDFS的启动速度与所述工作节点的数量关系确定的，当HDFS的启动速度最大时的所述工作节点的数量；

7.一种计算机可读存储介质，其上存储有计算机程序，其特征在于，所述计算机程序被处理器执行时实现如权利要求1-5任一项所述的集群中工作节点的管理方法的步骤。

8.一种电子设备，其特征在于，包括存储器和处理器，所述存储器中存有计算机程序，所述处理器调用所述存储器中的计算机程序时实现如权利要求1-5任一项所述的集群中工作节点的管理方法的步骤。