CN105912451A

CN105912451A - 一种lustre文件系统检测方法及装置

Info

Publication number: CN105912451A
Application number: CN201610202628.9A
Authority: CN
Inventors: 唐珂
Original assignee: Inspur Electronic Information Industry Co Ltd
Current assignee: Inspur Electronic Information Industry Co Ltd
Priority date: 2016-04-01
Filing date: 2016-04-01
Publication date: 2016-08-31

Abstract

本发明提供了一种lustre文件系统检测方法及装置，其中，装置包括：网络检测装置，用于检测lustre文件系统下元数据服务器、客户端以及至少存储服务器之间的网络连接是否全部连通；远程存储对象检测装置，用于检测每一个客户端在所述至少两个存储服务器的每一个存储对象下读写目标业务数据时分别对应的文件读写速度；本地存储对象检测装置，用于检测每一个存储服务器在当前存储服务器的每一个存储对象下读写目标业务数据时分别对应的文件读写速度。通过本发明的技术方案，可实现对Lustre文件系统进行全面检测。

Description

一种lustre文件系统检测方法及装置

技术领域

本发明涉及信息处理技术领域，特别涉及一种lustre文件系统检测方法及装置。

背景技术

Luster文件系统是一种基于对象存储技术的并行文件系统，通过一台元数据服务器来管理多台存储服务器的存储对象，记录文件的元数据，存储服务器以存储对象为数据存储的基本单位，存储文件的实际内容，如此，多个客户端可分别根据元数据服务器中记录的元数据直接访问对应的存储服务器下的存储对象，提高存储容量和访问速度，解决了存储IO瓶颈问题。

目前，针对文件系统的IO性能检测时，通常需要在存储服务器上部署相应的检测工具以检测硬盘的IO性能，即检测存储服务器下硬盘的文件读写速度，将硬盘的文件读写速度作为评价文件存储系统IO性能的依据。

但是，Luster文件系统部署到实际应用场景后，实现将多台存储服务器下的业务数据共享给多个客户端，此时，影响Luster文件系统IO性能的因素不仅仅是存储服务器下硬盘的文件读写速度，还包括网络带宽、元数据服务器的数据处理能力等因素，可见，传统的IO性能检测工具检测项目过于单一，并不能实现对Luster文件系统进行全面检测。

发明内容

本发明实施例提供了一种lustre文件系统检测方法及装置，实现对Luster文件系统进行全面检测。

第一方面，本发明提供了一种lustre文件系统检测装置，包括：

网络检测装置，用于检测lustre文件系统下元数据服务器、至少一个客户端以及至少两个存储服务器之间的网络连接是否全部连通；

远程存储对象检测装置，用于当网络检测装置检测到元数据服务器、至少一个客户端以及至少两个存储服务器之间的网络连接全部连通时，检测每一个客户端在所述至少两个存储服务器的每一个存储对象下读写目标业务数据时分别对应的文件读写速度；

本地存储对象检测装置，用于检测每一个存储服务器在当前存储服务器的每一个存储对象下读写目标业务数据时分别对应的文件读写速度。

进一步的，还包括：

元数据服务器检测装置，用于检测所述元数据服务器创建目标元数据、修改目标元数据、删除目标元数据时分别对应的文件读写速度。

进一步的，

所述网络检测装置，进一步用于检测元数据服务器、至少一个客户端以及至少两个存储服务器之间的网络带宽。

进一步的，所述本地存储对象检测装置，包括：

配置单元，用于配置目标文件的大小及检测次数；

获取单元，用于获取每一个所述存储服务器分别对应的存储对象的数量；

处理单元，用于在每一个存储服务器下分别根据目标文件的大小及检测次数生成至少一个检测线程，其中，每一个检测线程对应当前存储服务器下的一个存储对象；

监控单元，用于监控每一个检测线程，获取每一个存储对象分别对应的检测线程的执行时间；

计算单元，用于根据目标文件的大小及每一个检测线程分别对应的执行时间，计算每一个存储对象分别对应的文件读写速度。

进一步的，所述本地存储对象检测装置，还包括：

确定单元，用于通过如下命令确定文件读写速度最快的目标存储对象：

./ost-survey-s 10/mnt/lustre；

其中，10表征目标文件大小为10kb。

第二方面，本发明提供了一种lustre文件系统检测方法，包括：

利用网络检测装置检测lustre文件系统下元数据服务器、至少一个客户端以及至少两个存储服务器之间的网络连接是否全部连通；

当网络检测装置检测到元数据服务器、至少一个客户端以及至少两个存储服务器之间的网络连接全部连通时，利用远程存储对象检测装置检测每一个客户端在所述至少两个存储服务器的每一个存储对象下读写目标业务数据时分别对应的文件读写速度；

利用本地存储对象检测装置检测每一个存储服务器在当前存储服务器的每一个存储对象下读写目标业务数据时分别对应的文件读写速度。

进一步的，还包括：

利用元数据检测装置检测所述元数据服务器创建目标元数据、修改目标元数据、删除目标元数据时分别对应的文件读写速度。

进一步的，所述利用网络检测装置检测lustre文件系统下元数据服务器、至少一个客户端以及至少两个存储服务器之间的网络连接是否全部连通，进一步包括：

利用网络检测装置检测元数据服务器、至少一个客户端以及至少两个存储服务器之间的网络带宽。

进一步的，所述利用本地存储对象检测装置检测每一个存储服务器在当前存储服务器的每一个存储对象下读写目标业务数据时分别对应的文件读写速度，包括：

利用配置单元配置目标文件的大小及检测次数；

利用获取单元获取每一个所述存储服务器分别对应的存储对象的数量；

利用处理单元在每一个存储服务器下分别根据目标文件的大小及检测次数生成至少一个检测线程，其中，每一个检测线程对应当前存储服务器下的一个存储对象；

利用监控单元监控每一个检测线程，获取每一个存储对象分别对应的检测线程的执行时间；

利用计算单元根据目标文件的大小及每一个检测线程分别对应的执行时间，计算每一个存储对象分别对应的文件读写速度。

进一步的，在所述计算每一个存储对象分别对应的文件读写速度之后，进一步包括：

利用通过如下命令确定文件读写速度最快的目标存储对象：

./ost-survey-s 10/mnt/lustre；

其中，10表征目标文件大小为10kb。

本发明实施例提供了一种lustre文件系统检测方法及装置，针对lustre文件系统中与IO性能相关的各组件，利用网络检测装置、远程存储对象检测装置及本地存储对象检测装置分别检测lustre文件系统的网络通信性能、每一个存储对象分别对应的远程读写性能和本地读写性能，实现对lustre文件系统进行全面检测。

附图说明

为了更清楚地说明本发明实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。

图1是本发明一实施例提供的一种lustre文件系统检测装置结构示意图；

图2是本发明一实施例提供的另一种lustre文件系统检测装置结构示意图；

图3是本发明一实施例提供的一种lustre文件系统检测方法的流程图；

图4是本发明一实施例提供的一种网络性能检测结果。

具体实施方式

为使本发明实施例的目的、技术方案和优点更加清楚，下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本发明一部分实施例，而不是全部的实施例，基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动的前提下所获得的所有其他实施例，都属于本发明保护的范围。

如图1所示，本发明实施例提供了一种lustre文件系统检测装置，包括：

网络检测装置101，用于检测lustre文件系统下元数据服务器、至少一个客户端以及至少两个存储服务器之间的网络连接是否全部连通；

远程存储对象检测装置102，用于当网络检测装置检测到元数据服务器、至少一个客户端以及至少两个存储服务器之间的网络连接全部连通时，检测每一个客户端在所述至少两个存储服务器的每一个存储对象下读写目标业务数据时分别对应的文件读写速度；

本地存储对象检测装置103，用于检测每一个存储服务器在当前存储服务器的每一个存储对象下读写目标业务数据时分别对应的文件读写速度。

本发明一实施例中，针对lustre文件系统中与IO性能相关的各组件，利用网络检测装置、远程存储对象检测装置及本地存储对象检测装置分别检测lustre文件系统的网络通信性能、每一个存储对象分别对应的远程读写性能和本地读写性能，实现对lustre文件系统进行全面检测。

进一步的，lustre文件系统中，元数据服务器管理至少两个存储服务器的文件命名空间，即元数据服务器管理每一个存储服务器下的存储对象，客户端在存储服务器的存储对象下读写业务数据时，元数据服务器也需要同时进行相应的管理操作，比如，创建元数据及修改元数据等；因此，还可以对lustre文件系统中元数据服务器的相关性能进行检测，具体地，如图2所示，本发明一个优选实施例中，还包括：

元数据服务器检测装置201，用于检测所述元数据服务器创建目标元数据、修改目标元数据、删除目标元数据时分别对应的文件读写速度。

进一步的，元数据服务器节点、至少一个客户端节点以及至少两个存储服务器节点之间通过专用的网络连接，不同带宽的网络具备不同的数据传输性能，因此，还可以对相邻两个节点之间的网络带宽进行分别检测，具体地，本发明一个优选实施例中，

所述网络检测装置101，进一步用于检测元数据服务器、至少一个客户端以及至少两个存储服务器之间的网络带宽。

本发明一实施例中，网络检测装置检测相邻两个节点之间的网络带宽时，可将任一客户端节点作为任务发起节点，相邻连接的元数据服务器节点和存储服务器节点作为被测节点，在任务发起节点上产生至少两个网络检测进程，全部网络检测进程位于同一个任务队列中，通过队列对全部网络检测进程进行统一管理，以分别利用每一个网络检测进程检测每一个被测节点与任务发起节点之间的网络性能(包括网络带宽)；举例来说，可通过如下脚本来检测任务发起节点与被测节点之间的网络性能：

#！/bin/bash

export LST_SESSION＝$$

lst new_session read_write

lst add_group servers 192.168.13.1@tcp

lst add_group readers 192.168.13.[100]@tcp

lst add_group writers 192.168.13.[100]@tcp

lst add_batch bulk_rw

lst add_test--batch bulk_rw--from readers--to servers brw readcheck＝simple size＝1M

lst add_test--batch bulk_rw--from writers--to servers brw write check＝fullsize＝4K

lst list_batch bulk_rw

lst run bulk_rw

lst stat servers&sleep 30；kill$！

lst end_session。

本发明一实施例中，通过上述脚本可得到如图4所示的网络性能检测结果。

进一步的，如图2所示，本发明一个优选实施例中，所述本地存储对象检测装置103，包括：

配置单元1031，用于配置目标文件的大小及检测次数；

获取单元1032，用于获取每一个所述存储服务器分别对应的存储对象的数量；

处理单元1033，用于在每一个存储服务器下分别根据目标文件的大小及检测次数生成至少一个检测线程，其中，每一个检测线程对应当前存储服务器下的一个存储对象；

监控单元1034，用于监控每一个检测线程，获取每一个存储对象分别对应的检测线程的执行时间；

计算单元1035，用于根据目标文件的大小及每一个检测线程分别对应的执行时间，计算每一个存储对象分别对应的文件读写速度。

本发明一实施例中，目标文件的大小以及检测检测次数可自定义配置，每一个存储服务器下存储对象的数量、位置等均可从元数据服务器中获取，目标文件的大小与当前存储对象对应的检测线程的执行时间、检测次数的商即为当前存储对象对应的文件读写速度，实现对全部存储服务器下的每一个存储对象的文件读写速度进行检测。

进一步的，本发明一个优选实施例中，所述本地存储对象检测装置103，还包括：

确定单元1036，用于通过如下命令确定文件读写速度最快的目标存储对象：

./ost-survey-s 10/mnt/lustre；

其中，10表征目标文件大小为10kb。

需要说明的是，目标文件的大小可自定义配置，包括但不限于10kb。

如图3所示，本发明实施例提供了一种lustre文件系统检测方法，可以包括如下步骤：

步骤301，利用网络检测装置检测lustre文件系统下元数据服务器、至少一个客户端以及至少两个存储服务器之间的网络连接是否全部连通；

步骤302，当网络检测装置检测到元数据服务器、至少一个客户端以及至少两个存储服务器之间的网络连接全部连通时，利用远程存储对象检测装置检测每一个客户端在所述至少两个存储服务器的每一个存储对象下读写目标业务数据时分别对应的文件读写速度；

步骤303，利用本地存储对象检测装置检测每一个存储服务器在当前存储服务器的每一个存储对象下读写目标业务数据时分别对应的文件读写速度。

具体地，本发明一实施例中，在检测lustre文件系统下存储服务器的本地读写性能时，目标文件的大小及检测次数可进行自定义配置，这里可将目标文件的大小配置为10kb；而且，每一个存储服务器下待检测的存储对象的位置及数量也可从元数据服务器中获取，进而在每一个存储服务器中生成与当前存储服务器下的存储对象一一对应的至少两个检测线程，通过检测每一个存储对象分别对应的检测线程以获取其执行时间，进而根据其执行时间及目标文件的大小及检测次数计算出每一个存储对象分别对应的文件读写速度，然后通过如下指令

./ost-survey-s 10/mnt/lustre；

确定读写速度最快的目标存储对象。

需要说明的是，目标文件的大小与检测次数、当前存储对象对应的检测时间的商即为当前存储对象的文件读写速度。

本发明一实施例中，还可以对元数据服务器、至少一个客户端及至少两个存储服务器等各组件之间的网络带宽进行分别检测；以及检测元数据服务器创建目标元数据、修改目标元数据、删除目标元数据时分别对应的文件读写速度。

本发明各个实施例至少具有如下有益效果：

1、针对lustre文件系统中与IO性能相关的各组件，利用网络检测装置、远程存储对象检测装置及本地存储对象检测装置分别检测lustre文件系统的网络通信性能、每一个存储对象分别对应的远程读写性能和本地读写性能，实现对lustre文件系统进行全面检测。

2、在利用本地存储对象检测装置检测每一个存储服务器在当前存储服务器的存储对象中读写业务数据时分别对应的文件读写速度，还可以确定lustre文件系统中文件读写速度最快的目标存储对象。

需要说明的是，在本文中，诸如第一和第二之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来，而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括一个〃·····”限定的要素，并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同因素。

本领域普通技术人员可以理解：实现上述方法实施例的全部或部分步骤可以通过程序指令相关的硬件来完成，前述的程序可以存储在计算机可读取的存储介质中，该程序在执行时，执行包括上述方法实施例的步骤；而前述的存储介质包括：ROM、RAM、磁碟或者光盘等各种可以存储程序代码的介质中。

最后需要说明的是：以上所述仅为本发明的较佳实施例，仅用于说明本发明的技术方案，并非用于限定本发明的保护范围。凡在本发明的精神和原则之内所做的任何修改、等同替换、改进等，均包含在本发明的保护范围内。

Claims

1.一种lustre文件系统检测装置，其特征在于，包括：

2.根据权利要求1所述的lustre文件系统检测装置，其特征在于，还包括：

3.根据权利要求1所述的lustre文件系统检测装置，其特征在于，

4.根据权利要求1至3中任一所述的lustre文件系统检测装置，其特征在于，所述本地存储对象检测装置，包括：

配置单元，用于配置目标文件的大小及检测次数；

5.根据权利要求4所述的lustre检测装置，其特征在于，所述本地存储对象检测装置，还包括：

./ost-survey-s 10/mnt/lustre；

其中，10表征目标文件大小为10kb。

6.一种lustre文件系统检测方法，其特征在于，包括：

7.根据权利要求6所述的lustre文件系统检测方法，其特征在于，还包括：

8.根据权利要求1所述的lustre文件系统检测方法，其特征在于，所述利用网络检测装置检测lustre文件系统下元数据服务器、至少一个客户端以及至少两个存储服务器之间的网络连接是否全部连通，进一步包括：

9.根据权利要求6至8中任一所述的lustre文件系统检测方法，其特征在于，所述利用本地存储对象检测装置检测每一个存储服务器在当前存储服务器的每一个存储对象下读写目标业务数据时分别对应的文件读写速度，包括：

利用配置单元配置目标文件的大小及检测次数；

10.根据权利要求9所述的lustre文件系统检测方法，其特征在于，在所述计算每一个存储对象分别对应的文件读写速度之后，进一步包括：

利用通过如下命令确定文件读写速度最快的目标存储对象：

./ost-survey-s 10/mnt/lustre；

其中，10表征目标文件大小为10kb。