CN105095030B - 基于Hadoop的硬盘损坏处理方法及装置 - Google Patents

Abstract

本发明提供了一种基于Hadoop的硬盘损坏处理方法及装置，其中，该方法包括：检测到基于Hadoop的损坏硬盘替换为替换硬盘的替换操作成功信息；判断替换硬盘是否支持数据读写操作；在判断结果为是的情况下，对替换硬盘进行数据读写处理，通过本发明，解决了相关技术中对硬盘损坏的处理只采用重启系统的方式，导致中断业务，以及增加成本的问题，进而达到了在不重启系统中断业务的情况下，对损坏硬盘的替换处理的效果。

Description

基于Hadoop的硬盘损坏处理方法及装置

技术领域

本发明涉及通信领域，具体而言，涉及一种基于Hadoop的硬盘损坏处理方法及装置。

背景技术

Hadoop，是一种开源的大数据存储和分析平台，已成为业界处理大数据的事实标准。Hadoop平台包含HDFS(分布式文件系统)和MapReduce(并行计算框架)两个重要的子系统。

图1是相关技术中Hadoop存储数据的平台架构示意图，如图1所示，Hadoop是一个高度容错的多副本的集群存储分布式系统，适用于部署在廉价的机器上，并且Hadoop支持机器上多块硬盘的并行数据写入和读取。随着大数据的发展，数据量急剧增加，企业为了减少成本采用Hadoop平台部署在廉价的PC Server上，每台服务器上至少会配置24块以上的硬盘，目前最大的集群机器数量已经超过5000台，每台设备上有24块硬盘，整个集群硬盘数量达到了10多万块硬盘，基本每天都会有硬盘损坏。

在相关技术中，硬盘损坏，Hadoop所采用的处理如下：当设备中有硬盘损失，系统无法写入数据，由异常事件触发，Hadoop将损失硬盘移入到损坏硬盘列表中，系统在后续运行中将不再往损坏硬盘mount的目录写数据。系统在运行期间，将不再访问损坏硬盘列表，即不对损坏硬盘对应的目录进行校验。当运维人员将新硬盘替换掉坏掉硬盘后，将新硬盘mount到目录，系统在运行期间不认为当前硬盘可以使用。只有在重启hadoop进程后，系统才重新对所有数据目录进行检查，新硬盘参与系统的运行。

然而上述硬盘损坏处理存在以下缺陷：(1)业务需要中断：由于必须要重启进程才可以使得新硬盘使用，在重启进程期间，业务需要中断，因而带来的业务上的损失。(2)运维成本高：硬盘损坏后，不但需要硬件工程师，还需要软件工程师对Hadoop集群进行重启和观察，大大增加了人力成本。

因此，在相关技术中对硬盘损坏的处理只采用重启系统的方式，导致中断业务，以及增加成本的问题。

发明内容

本发明提供了一种基于Hadoop的硬盘损坏处理方法及装置，以至少解决相关技术中对硬盘损坏的处理只采用重启系统的方式，导致中断业务，以及增加成本的问题。

根据本发明的一个方面，提供了一种基于Hadoop的硬盘损坏处理方法，包括：检测到基于Hadoop的损坏硬盘替换为替换硬盘的替换操作成功信息；判断所述替换硬盘是否支持数据读写操作；在判断结果为是的情况下，对所述替换硬盘进行数据读写处理。

优选地，在检测到基于Hadoop的所述损坏硬盘替换为所述替换硬盘的所述替换操作成功信息之前，还包括：检测到所述损坏硬盘的数据读写操作异常的硬盘异常信息；依据所述硬盘异常信息，中断对所述损坏硬盘的数据读写操作。

优选地，在判断所述替换硬盘是否支持数据读写操作之前，还包括：建立支持数据读写操作的可用目录，以及不支持数据读写操作的不可用目录，依据建立的所述可用目录以及所述不可用目录，判断所述替换硬盘是否支持数据读写操作。

优选地，在判断所述替换硬盘是否支持数据读写操作之前，还包括：依据检测到的硬盘状态信息对所述可用目录以及所述不可用目录进行动态更新，其中，所述硬盘状态信息包括所述替换操作成功信息或者硬盘异常信息。

优选地，通过以下方式至少之一，检测到基于Hadoop的所述损坏硬盘替换为所述替换硬盘的所述替换操作成功信息：接收到所述替换硬盘替换所述损坏硬盘的硬盘mount挂起事件；扫描到所述损坏硬盘目录由异常转为正常的通知消息。

根据本发明的另一方面，提供了一种基于Hadoop的硬盘损坏处理装置，包括：第一检测模块，用于检测到基于Hadoop的损坏硬盘替换为替换硬盘的替换操作成功信息；判断模块，用于判断所述替换硬盘是否支持数据读写操作；处理模块，用于在判断结果为是的情况下，对所述替换硬盘进行数据读写处理。

优选地，该装置还包括：第二检测模块，用于检测到所述损坏硬盘的数据读写操作异常的硬盘异常信息；中断模块，用于依据所述硬盘异常信息，中断对所述损坏硬盘的数据读写操作。

优选地，该装置还包括：建立模块，用于建立支持数据读写操作的可用目录，以及不支持数据读写操作的不可用目录，依据建立的所述可用目录以及所述不可用目录，判断所述替换硬盘是否支持数据读写操作。

优选地，该装置还包括：更新模块，用于依据检测到的硬盘状态信息对所述可用目录以及所述不可用目录进行动态更新，其中，所述硬盘状态信息包括所述替换操作成功信息或者硬盘异常信息。

优选地，该装置所述第一检测模块包括以下至少之一：接收单元，用于接收到所述替换硬盘替换所述损坏硬盘的硬盘mount挂起事件；扫描单元，用于扫描到所述损坏硬盘目录由异常转为正常的通知消息。

通过本发明，采用检测到基于Hadoop的损坏硬盘替换为替换硬盘的替换操作成功信息；判断所述替换硬盘是否支持数据读写操作；在判断结果为是的情况下，对所述替换硬盘进行数据读写处理，解决了相关技术中对硬盘损坏的处理只采用重启系统的方式，导致中断业务，以及增加成本的问题，进而达到了在不重启系统中断业务的情况下，对损坏硬盘的替换处理的效果。

附图说明

此处所说明的附图用来提供对本发明的进一步理解，构成本申请的一部分，本发明的示意性实施例及其说明用于解释本发明，并不构成对本发明的不当限定。在附图中：

图1是相关技术中Hadoop存储数据的平台架构示意图；

图2是根据本发明实施例的基于Hadoop的硬盘损坏处理方法的流程图；

图3是根据本发明实施例的基于Hadoop的硬盘损坏处理装置的结构框图；

图4是根据本发明实施例的基于Hadoop的硬盘损坏处理装置的优选结构框图一；

图5是根据本发明实施例的基于Hadoop的硬盘损坏处理装置的优选结构框图二；

图6是根据本发明实施例的基于Hadoop的硬盘损坏处理装置的优选结构框图三；

图7是根据本发明实施例的基于Hadoop的硬盘损坏处理装置中第一检测模块32的优选结构框图；

图8是根据本发明优选实施方式的硬盘异常处理方法的流程图；

图9是根据本发明优选实施方式的硬盘替换成功处理方法的流程图。

具体实施方式

下文中将参考附图并结合实施例来详细说明本发明。需要说明的是，在不冲突的情况下，本申请中的实施例及实施例中的特征可以相互组合。

在本实施例中提供了一种基于Hadoop的硬盘损坏处理方法，图2是根据本发明实施例的基于Hadoop的硬盘损坏处理方法的流程图，如图2所示，该流程包括如下步骤：

步骤S202，检测到基于Hadoop的损坏硬盘替换为替换硬盘的替换操作成功信息；

步骤S204，判断替换硬盘是否支持数据读写操作；

步骤S206，在判断结果为是的情况下，对替换硬盘进行数据读写处理。

通过上述步骤，增加对将损坏硬盘替换为替换硬盘的正常事件的事件响应处理，相对于相关技术中，在将损坏硬盘替换为替换硬盘后，只能通过重启系统来实现替换硬盘的重新读写操作，不仅解决了相关技术中对硬盘损坏的处理只采用重启系统的方式，导致中断业务，以及增加成本的问题，进而达到了在不重启系统中断业务的情况下，对损坏硬盘的替换处理的效果。

其中，除了增加上述处理中增加的对正常事件的事件响应处理，该方法还兼容硬盘异常的事件响应处理，例如，上述在检测到基于Hadoop的损坏硬盘替换为替换硬盘的替换操作成功信息之前，还可以检测到损坏硬盘的数据读写操作异常的硬盘异常信息；依据硬盘异常信息，中断对损坏硬盘的数据读写操作。从而防止在硬盘损坏后，还继续读写数据，造成系统崩溃。

在判断替换硬盘是否支持数据读写操作时，可以采用多种处理方式，例如，可以采用对硬盘建立对应的标记目录，对是否能够启用的状态将该硬盘划分为可用目录，以及不可用目录，即建立支持数据读写操作的可用目录，以及不支持数据读写操作的不可用目录，依据建立的可用目录以及不可用目录，判断替换硬盘是否支持数据读写操作。

其中，在判断替换硬盘是否支持数据读写操作之前，还可以依据检测到的硬盘状态信息对可用目录以及不可用目录进行动态更新，其中，硬盘状态信息包括替换操作成功信息或者硬盘异常信息。例如，在检测到损坏硬盘的数据读写操作异常的硬盘异常信息时，将硬盘对应的目录由可用目录移动到不可用目录，而在检测到基于Hadoop的损坏硬盘替换为替换硬盘的替换操作成功信息是地，将硬盘对应的目录由不可能目录移动到可用目录，依据目录状态的动态更新，来实现是否对该硬盘进行读写操作。

需要说明的是，检测到基于Hadoop的损坏硬盘替换为替换硬盘的替换操作成功信息可以采用多种处理方式，例如，可以采用以下两种方式至少之一：接收到操作系统层触发的替换硬盘替换损坏硬盘的硬盘mount挂起事件；扫描到业务系统层触发的损坏硬盘目录由异常转为正常的通知消息。

在本实施例中还提供了一种基于Hadoop的硬盘损坏处理装置，该装置用于实现上述实施例及优选实施方式，已经进行过说明的不再赘述。如以下所使用的，术语“模块”可以实现预定功能的软件和/或硬件的组合。尽管以下实施例所描述的装置较佳地以软件来实现，但是硬件，或者软件和硬件的组合的实现也是可能并被构想的。

图3是根据本发明实施例的基于Hadoop的硬盘损坏处理装置的结构框图，如图3所示，该装置包括第一检测模块32、判断模块34和处理模块36，下面对该装置进行说明。

第一检测模块32，用于检测到基于Hadoop的损坏硬盘替换为替换硬盘的替换操作成功信息；判断模块34，连接至上述第一检测模块32，用于判断替换硬盘是否支持数据读写操作；处理模块36，连接至上述判断模块34，用于在判断结果为是的情况下，对替换硬盘进行数据读写处理。

图4是根据本发明实施例的基于Hadoop的硬盘损坏处理装置的优选结构框图一，如图4所示，该装置除包括图3所示的所有模块外，还包括第二检测模块42和中断模块44，下面对该装置进行说明。

第二检测模块42，用于检测到损坏硬盘的数据读写操作异常的硬盘异常信息；中断模块44，连接至上述第二检测模块42和第一检测模块32，用于依据硬盘异常信息，中断对损坏硬盘的数据读写操作。

图5是根据本发明实施例的基于Hadoop的硬盘损坏处理装置的优选结构框图二，如图5所示，该装置除包括图3所示的所有模块外，还包括建立模块52，下面对该装置进行说明。

建立模块52，连接至上述第一检测模块32和判断模块34，用于建立支持数据读写操作的可用目录，以及不支持数据读写操作的不可用目录，依据建立的可用目录以及不可用目录，判断替换硬盘是否支持数据读写操作。

图6是根据本发明实施例的基于Hadoop的硬盘损坏处理装置的优选结构框图三，如图6所示，该装置除包括图5所示的所有模块外，还包括更新模块62，下面对该更新模块62进行说明。

更新模块62，连接至上述建立模块52和判断模块34，用于依据检测到的硬盘状态信息对可用目录以及不可用目录进行动态更新，其中，硬盘状态信息包括替换操作成功信息或者硬盘异常信息。

图7是根据本发明实施例的基于Hadoop的硬盘损坏处理装置中第一检测模块32的优选结构框图，如图7所示，该第一检测模块32包括以下至少之一：接收单元72、扫描单元74，下面对该第一检测模块32进行说明。

接收单元72，用于接收到替换硬盘替换损坏硬盘的硬盘mount挂起事件；扫描单元74，用于扫描到损坏硬盘目录由异常转为正常的通知消息。

考虑到相关技术中，只基于异常触发，即只对启动时目录负责处理，运行期间只基于异常事件触发处理，对于正常事件未有对应的处理流程，因而引起业务中断，以及成本增加的问题。在本实施例中，通过不仅考虑异常事件触发处理，而且考虑正常事件触发处理，即使得新替换的硬盘尽快替换损坏硬盘，不仅能够有效克服现有Hadoop对硬盘只在启动时处理以及异常事件触发的缺陷，而且不影响现有系统运行，成本也大大降低。该基于正常事件触发与异常事件触发相互结合的处理方案包含以下两个重要事件触发处理：硬盘写入异常事件和硬盘替换成功事件。硬盘写入异常事件用于触发Hadoop集群对当前硬盘进行异常处理，防止后续数据持续写入此硬盘，造成系统数据无法写入，进入使得系统崩溃。硬盘替换成功事件用于触发Hadoop集群使得对当前可用的硬盘激活，在运行期间自动识别使用。

下面对这两个事件触发处理分别进行说明：

硬盘异常处理：

步骤S1，Hadoop写入数据，硬盘无法写入；

步骤S2，Hadoop进程捕获到硬盘写入异常信息；

步骤S3，Hadoop进程将当前硬盘对应的数据目录删除；

步骤S4，Hadoop进行继续写其他可用正常硬盘。

需要说明的是，在上述步骤S1中，硬盘无法写入数据，硬件本身会通过操作系统上报错误。

在上述步骤S2中，Hadoop中子系统HDFS的datanode进程可以捕获到当前异常信息。

在上述步骤S3中，datanode进程将捕获异常硬盘对应的数据目录，移入到不可用目录。

在上述步骤S4中，datanode在写入数据时自动隔离已删除的不可用目录。

硬盘替换成功事件处理：

步骤S1，损坏硬盘替换成功后，触发hadoop进程；

步骤S2，hadoop进程检查新替换的硬盘mount的目录是否可用；

步骤S3，hadoop进程将当前目录从不可用列表中，动态移入到可用列表；

步骤S4，hadoop进程写入数据时，有数据写入新插入的硬盘；

需要说明的是，在上述步骤S1中，硬盘替换成功，操作系统触发hadoop进程。

在上述步骤S2、步骤S3中，hadoop的子系统HDFS的datanode进程负责检查当前目录是否可用，可用才将目录重启启用。

在上述步骤S4中，datanode在写入数据时，自动将新插入硬盘启用。

通过上述实施例及优选实施方式提供的硬盘替换自动识别接入方法，由于不需要重启hadoop进程，降低了业务中断的风险，大大简化了hadoop运维机制，不仅可靠有效，而且并未降低写入和读取的性能。

下面对本发明优选实施方式进行说明。

图8是根据本发明优选实施方式的硬盘异常处理方法的流程图，如图8所示，该流程包括如下步骤：

步骤S802，Hadoop启动后，HDFS会自动将配置的所有数据目录加载到内存中，Hadoop按可用目录列表进行并行写入；

步骤S804，当HDFS写入硬盘数据异常，底层会报数据异常，判断是否有硬盘损坏，在判断结果为是的情况下，进入步骤S806，否则进入步骤S808；

步骤S806，HDFS捕获到数据异常，将损坏硬盘删除，也将异常目录从内存中删除；

步骤S808，HDFS持续写入在内存中的正常数据目录；

步骤S810，数据写入结束。

图9是根据本发明优选实施方式的硬盘替换成功处理方法的流程图，如图9所示，该流程包括如下步骤：

步骤S902，硬盘正常通知可以由以下两种方式实现：

(1)由操作系统层触发硬盘mount事件，当Hadoop捕获到此事件时，进行后去处理。

(2)由业务系统循环扫描异常目录，当异常目录正常后，通知Hadoop，由Hadoop进行下一步处理。

步骤S904，Hadoop收到异常目录正常好的事件，HDFS再次检查该目录可用，即将损坏硬盘对应的目录恢复；

步骤S906，HDFS将此目录更新到内存中，即目录动态生效；

步骤S908，HDFS将数据写入内存中可用的硬盘目录(即系统可以在新的硬盘上写入数据)，不需要重启HDFS进程。

显然，本领域的技术人员应该明白，上述的本发明的各模块或各步骤可以用通用的计算装置来实现，它们可以集中在单个的计算装置上，或者分布在多个计算装置所组成的网络上，可选地，它们可以用计算装置可执行的程序代码来实现，从而，可以将它们存储在存储装置中由计算装置来执行，并且在某些情况下，可以以不同于此处的顺序执行所示出或描述的步骤，或者将它们分别制作成各个集成电路模块，或者将它们中的多个模块或步骤制作成单个集成电路模块来实现。这样，本发明不限制于任何特定的硬件和软件结合。

以上所述仅为本发明的优选实施例而已，并不用于限制本发明，对于本领域的技术人员来说，本发明可以有各种更改和变化。凡在本发明的精神和原则之内，所作的任何修改、等同替换、改进等，均应包含在本发明的保护范围之内。

Claims (10)

1.一种基于Hadoop的硬盘损坏处理方法，其特征在于，包括：

检测到基于Hadoop的损坏硬盘替换为替换硬盘的替换操作成功信息，其中，所述损坏硬盘替换为所述替换硬盘的替换操作成功后，触发hadoop进程；所述hadoop进程检查所述替换硬盘的目录是否可用；所述hadoop进程将当前目录从不可用列表中，动态移入到可用列表；

判断所述替换硬盘是否支持数据读写操作；

在判断结果为是的情况下，所述hadoop进程写入数据时，对所述替换硬盘进行数据读写处理。

2.根据权利要求1所述的方法，其特征在于，在检测到基于Hadoop的所述损坏硬盘替换为所述替换硬盘的所述替换操作成功信息之前，还包括：

检测到所述损坏硬盘的数据读写操作异常的硬盘异常信息；

依据所述硬盘异常信息，中断对所述损坏硬盘的数据读写操作。

3.根据权利要求1或2所述的方法，其特征在于，在判断所述替换硬盘是否支持数据读写操作之前，还包括：

建立支持数据读写操作的可用目录，以及不支持数据读写操作的不可用目录，依据建立的所述可用目录以及所述不可用目录，判断所述替换硬盘是否支持数据读写操作。

4.根据权利要求3所述的方法，其特征在于，在判断所述替换硬盘是否支持数据读写操作之前，还包括：

依据检测到的硬盘状态信息对所述可用目录以及所述不可用目录进行动态更新，其中，所述硬盘状态信息包括所述替换操作成功信息或者硬盘异常信息。

5.根据权利要求1、2或4所述的方法，其特征在于，通过以下方式至少之一，检测到基于Hadoop的所述损坏硬盘替换为所述替换硬盘的所述替换操作成功信息：

接收到所述替换硬盘替换所述损坏硬盘的硬盘mount挂起事件；

扫描到所述损坏硬盘目录由异常转为正常的通知消息。

6.一种基于Hadoop的硬盘损坏处理装置，其特征在于，包括：

第一检测模块，用于检测到基于Hadoop的损坏硬盘替换为替换硬盘的替换操作成功信息，其中，所述损坏硬盘替换为所述替换硬盘的替换操作成功后，触发hadoop进程；所述hadoop进程检查所述替换硬盘的目录是否可用；所述hadoop进程将当前目录从不可用列表中，动态移入到可用列表；

判断模块，用于判断所述替换硬盘是否支持数据读写操作；

处理模块，用于在判断结果为是的情况下，所述hadoop进程写入数据时，对所述替换硬盘进行数据读写处理。

7.根据权利要求6所述的装置，其特征在于，还包括：

第二检测模块，用于检测到所述损坏硬盘的数据读写操作异常的硬盘异常信息；

中断模块，用于依据所述硬盘异常信息，中断对所述损坏硬盘的数据读写操作。

8.根据权利要求6或7所述的装置，其特征在于，还包括：

建立模块，用于建立支持数据读写操作的可用目录，以及不支持数据读写操作的不可用目录，依据建立的所述可用目录以及所述不可用目录，判断所述替换硬盘是否支持数据读写操作。

9.根据权利要求8所述的装置，其特征在于，还包括：

更新模块，用于依据检测到的硬盘状态信息对所述可用目录以及所述不可用目录进行动态更新，其中，所述硬盘状态信息包括所述替换操作成功信息或者硬盘异常信息。

10.根据权利要求6、7或9所述的装置，其特征在于，所述第一检测模块包括以下至少之一：

接收单元，用于接收到所述替换硬盘替换所述损坏硬盘的硬盘mount挂起事件；

扫描单元，用于扫描到所述损坏硬盘目录由异常转为正常的通知消息。