CN109189738A - 一种分布式文件系统中主osd的选取方法、装置及系统 - Google Patents

Abstract

本发明实施例公开了一种分布式文件系统中主OSD的选取方法、装置、系统及计算机可读存储介质，该方法包括检测与PG对应的各个OSD中是否有正在重启的OSD，若是，则通过PG的当前主OSD获取PG的其他各个OSD的日志信息；依据当前主OSD的日志信息及其他各个OSD的日志信息选取出权威OSD，权威OSD的恢复进度为最大的、日志信息为最长的；依据预设规则从权威OSD和PE的上一次主OSD中选取出日志信息较长的、恢复进度较大的OSD作为与PE对应的本次主OSD。通过本申请中的方法选取的主OSD所需要恢复的数据量是最小的，从而能够在最大程度上降低对读操作业务的影响，有利于扩大存储系统的适用范围。

Description

一种分布式文件系统中主OSD的选取方法、装置及系统

技术领域

本发明实施例涉及分布式文件系统技术领域，特别是涉及一种分布式文件系统中主OSD的选取方法、装置、系统及计算机可读存储介质。

背景技术

分布式文件系统是指文件系统管理的物理存储资源不一定直接连接在本地节点上，而是通过计算机网络与节点相连，并且多个相互连接的节点构成集群。在集群运行时，会对出现故障的节点进行处理，并且经过处理后的节点需要上电恢复运行，在节点上电恢复运行、与其对应的各个OSD(Object-based Storage Device，对象存储设备)启动后，系统会针对与各个启动的OSD相关联的PG(Placement Grou，归置组)重新选取主OSD，通常将权威日志所在的OSD作为主OSD，若该OSD是刚启动的OSD，则这个OSD上的对象需要进行数据恢复，数据恢复会影响正在进行的读写业务，对于读操作来说，当读到的对象处于恢复状态时，则读操作需要等待，直到数据恢复完毕才能够开始读操作处理。

可见，若与PG对应的主OSD为节点上电恢复运行时刚启动的OSD，则在该主OSD收到客户端发送的读请求后，需要等待至数据恢复完毕后才能进行处理，这期间客户端将一直处于等待状态，会在很大程度上导致客户业务中断，使存储系统的适用范围受限。

鉴于此，如何提供一种解决上述技术问题的一种分布式文件系统中主OSD的选取方法、装置、系统及计算机可读存储介质成为本领域技术人员需要解决的问题。

发明内容

本发明实施例的目的是提供一种分布式文件系统中主OSD的选取方法、装置、系统及计算机可读存储介质，在使用过程中选取出的主OSD所需要恢复的数据量是最小的，从而能够在最大程度上降低对读操作业务的影响，有利于扩大存储系统的适用范围。

为解决上述技术问题，本发明实施例提供了一种分布式文件系统中主OSD的选取方法，包括：

检测与归置组PG对应的各个对象存储设备OSD中是否有正在重启的OSD，若是，则通过所述PG的当前主OSD获取所述PG的其他各个OSD的日志信息；

依据所述当前主OSD的日志信息及其他各个所述OSD的日志信息选取出权威OSD；所述权威OSD的恢复进度为最大的、日志信息为最长的；

依据预设规则从所述权威OSD和所述PE的上一次主OSD中选取出日志信息较长的、恢复进度较大的OSD作为与所述PE对应的本次主OSD。

可选的，所述依据所述当前主OSD的日志信息及其他各个所述OSD的日志信息选取出权威OSD的过程为：

依据所述当前主OSD的日志信息及其他各个所述OSD的日志信息确定出日志信息最长、恢复进度最大的OSD；

判断所述日志信息最长、恢复进度最大的OSD是否为多个，若是，则将所述当前主OSD作为所述权威OSD；否则，将所述日志信息最长、恢复进度最大的OSD作为所述权威OSD。

可选的，所述依据预设规则从所述权威OSD和所述PE的上一次主OSD中选取出日志信息较长的、恢复进度较大的OSD作为与所述PE对应的本次主OSD的过程为：

判断所述PE的上一次主OSD的日志信息长度是否大于等于所述权威OSD的日志信息长度；

若是，则判断所述PE的上一次主OSD的恢复进度是否大于等于所述权威OSD的恢复进度，若是，则将所述上一次主OSD作为与所述PE对应的本次主OSD；若否，则将所述权威OSD作为与所述PE对应的本次主OSD；

若否，则直接将所述权威OSD作为与所述PE对应的本次主OSD。

可选的，还包括：

依据所述当前主OSD的日志信息及其他各个所述OSD的日志信息对所述正在启动的OSD的日志信息进行更新。

可选的，还包括将所述本次主OSD添加至与所述PG对应的acting表中。

本发明实施例相应的还提供了一种分布式文件系统中主OSD的选取装置，包括：

检测模块，用于检测与PG对应的各个OSD中是否有正在重启的OSD，若是，则触发获取模块；

所述获取模块，用于通过所述PG的当前主OSD获取所述PG的其他各个OSD的日志信息；

第一选取模块，用于依据所述当前主OSD的日志信息及其他各个所述OSD的日志信息选取出权威OSD；所述权威OSD的恢复进度为最大的、日志信息为最长的；

第二选取模块，用于依据预设规则从所述权威OSD和所述PE的上一次主OSD中选取出日志信息较长的、恢复进度较大的OSD作为与所述PE对应的本次主OSD。

可选的，所述第一选取模块包括：

筛选单元，用于依据所述当前主OSD的日志信息及其他各个所述OSD的日志信息确定出日志信息最长、恢复进度最大的OSD；

第一判断单元，用于判断所述日志信息最长、恢复进度最大的OSD是否为多个，若是，则触发确定单元；否则，触发第二确定单元；

所述第一确定单元，用于将所述当前主OSD作为所述权威OSD；

所述第二确定单元，用于将所述日志信息最长、恢复进度最大的OSD作为所述权威OSD。

可选的，所述第二选取模块包括：

第二判断单元，用于判断所述PE的上一次主OSD的日志信息长度是否大于等于所述权威OSD的日志信息长度，若是，则触发第三判断单元；若否，则触发第四确定单元；

所述第三判断单元，用于判断所述PE的上一次主OSD的恢复进度是否大于等于所述权威OSD的恢复进度，若是，则触发第三确定单元；若否，则触发第四确定单元；

所述第三确定单元，用于将所述上一次主OSD作为与所述PE对应的本次主OSD；

所述第四确定单元，用于将所述权威OSD作为与所述PE对应的本次主OSD。

本发明实施例还提供了一种分布式文件系统中主OSD的选取系统，包括：

存储器，用于存储计算机程序；

处理器，用于执行所述计算机程序时实现如上述所述分布式文件系统中主OSD的选取方法的步骤。

本发明实施例还提供了一种计算机可读存储介质，所述计算机可读存储介质上存储有计算机程序，所述计算机程序被处理器执行时实现如上述所述分布式文件系统中主OSD的选取方法的步骤。

本发明实施例提供了一种分布式文件系统中主OSD的选取方法、装置、系统及计算机可读存储介质，包括：检测与PG对应的各个OSD中是否有正在重启的OSD，若是，则通过PG的当前主OSD获取PG的其他各个OSD的日志信息；依据当前主OSD的日志信息及其他各个OSD的日志信息选取出权威OSD，权威OSD的恢复进度为最大的、日志信息为最长的；依据预设规则从权威OSD和PE的上一次主OSD中选取出日志信息较长的、恢复进度较大的OSD作为与PE对应的本次主OSD。

可见，当与PG对应的各个OSD中存在正在重启的OSD时，需要从新为该PG选择主OSD，本申请中先从当前主OSD中和其他的各个OSD中选择出权威OSD，并且所选出的权威OSD的日志信息不仅是最长的，而且权威OSD的恢复进度也是最大的，然后再根据预设规则从该权威OSD和该PG的上一次主OSD中选择出本次主OSD，本申请中在为PG选取主OSD使不仅考虑到OSD的日志信息而且还考虑到OSD的恢复进度，从而确定出本次主OSD，故通过本申请中的方法选取的主OSD所需要恢复的数据量是最小的，从而能够在最大程度上降低对读操作业务的影响，有利于扩大存储系统的适用范围。

附图说明

为了更清楚地说明本发明实施例中的技术方案，下面将对现有技术和实施例中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。

图1为本发明实施例提供的一种分布式文件系统中主OSD的选取方法的流程示意图；

图2为本发明实施例提供的一种分布式文件系统中主OSD的选取装置的结构示意图；

图3为本发明实施例提供的一种分布式文件系统中主OSD的选取系统的结构示意图。

具体实施方式

本发明实施例提供了一种分布式文件系统中主OSD的选取方法、装置、系统及计算机可读存储介质，在使用过程中选取出的主OSD所需要恢复的数据量是最小的，从而能够在最大程度上降低对读操作业务的影响，有利于扩大存储系统的适用范围。

为使本发明实施例的目的、技术方案和优点更加清楚，下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。

在节点宕机后重新启动时，与该节点有关的各个OSD启动，并且各个OSD所属的PG加入至pg peering队列中，开始为相应的各个PG选择与其对应的主OSD，本实施例以其中一个PG为例进行具体介绍：

需要说明的是，与PG有关的OSD可以为多个，并且宕掉的OSD也可能为多个，在宕掉的OSD中的一个OSD启动后，PG的当前主OSD就会获取当前正在工作的各个OSD各自的日志信息，并且然后从自身的日志信息和其他OSD的日志信息中找出日志信息最长的(也即日志版本最细腻的)OSD作为权威日志所在的OSD，并且现有技术中在选择主OSD时还需要从选择出的权威日志所在的OSD和在当前主OSD的上一次主OSD(上一任的主OSD)选择出本次的主OSD，具体当上一次主OSD的日志版本大于等于权威日志所在OSD的日志版本时，将上一次OSD选为本次的主OSD，否则，将权威日志所在的OSD作为本次的主OSD，而且在Pg peering流程结束后，将本次启动的OSD的日志版本进行更新，更新为与权威日志所在OSD的日志版本一致。此时虽然对本次启动的OSD的日志版本更新为了最新的日志版本，但是，该OSD所缺失的数据还正在恢复中。那么对于PG的多个OSD宕机的情况，在多个宕机的OSD逐个启动时，就会出现所选择的主OSD为启动后数据信息尚未恢复完全的OSD，此时，就会导致在数据读写时出现断流的情况，为客户业务带来影响。

本申请中所提供的分布式文件系统中主OSD的选取方法(也即PG主OSD的选择方法)就能够解决现有技术中出现的问题，本申请具体以一个PG为例进行详细说明：

请参照图1，图1为本发明实施例提供的一种分布式文件系统中主OSD的选取方法的流程示意图。该方法可以包括：

S110：检测与归置组PG对应的各个对象存储设备OSD中是否有正在重启的OSD，若是，则进入S120；

S120：通过PG的当前主OSD获取PG的其他各个OSD的日志信息；

需要说明的是，在OSD宕掉后重新启动时，其所归属的PG中的当前主OSD会想该PG的其他各个OSD发送获取日志信息的指令，该PG的其他各个OSD在接受到指令后，将自己的日志信息发送至PG的当前主OSD。

S130：依据当前主OSD的日志信息及其他各个OSD的日志信息选取出权威OSD；权威OSD的恢复进度为最大的、日志信息为最长的；

具体的，权威OSD的选取过程可以为：

依据当前主OSD的日志信息及其他各个OSD的日志信息确定出日志信息最长、恢复进度最大的OSD；

判断日志信息最长、恢复进度最大的OSD是否为多个，若是，则将当前主OSD作为权威OSD；否则，将日志信息最长、恢复进度最大的OSD作为权威OSD。

需要说明的是，PG的当前主OSD在获取了其他各个OSD的日志信息后，根据当前主OSD的日志信息和各个其他OSD的日志信息找出各个日志信息最长的(即日志版本最新的)、恢复进度最大的OSD，其中，当所确定出的日志信息最长的、恢复进度最大的OSD为多个时，则直接将当前主OSD作为权威OSD，若所确定出的日志信息最长的、恢复进度最大的OSD为一个，则直接将该OSD作为权威OSD。其中，OSD的恢复进度可以根据日志信息的具体情况确定。

S140：依据预设规则从权威OSD和PE的上一次主OSD中选取出日志信息较长的、恢复进度较大的OSD作为与PE对应的本次主OSD。

需要说明的是，在确定出权威OSD后，再选取与PE对应的本次主OSD，其中，与PE对应的本次主OSD的选取过程具体可以为：

判断PE的上一次主OSD的日志信息长度是否大于等于权威OSD的日志信息长度；

若是，则判断PE的上一次主OSD的恢复进度是否大于等于权威OSD的恢复进度，若是，则将上一次主OSD作为与PE对应的本次主OSD；若否，则将权威OSD作为与PE对应的本次主OSD；

若否，则直接将权威OSD作为与PE对应的本次主OSD。

具体的，将从权威OSD和PG的上一次主OSD中选取出本次的主OSD(即本次主OSD)，在上一次主OSD的日志信息长度大于等于权威OSD的日志信息长度、且上一次主OSD的恢复进度大于等于权威OSD的恢复进度时，本申请将上一次主OSD作为与PE对应的本次主OSD；否则，直接将上述选取的权威OSD作为与PE对应的本次主OSD。

本申请中的方法能够在节点上电时，使读请求不断流，以便保证读请求的顺利进行。

进一步的，该还包括：

依据当前主OSD的日志信息及其他各个OSD的日志信息对正在启动的OSD的日志信息进行更新。

具体的，在确定本次主OSD后，还可以根据当前主OSD的日志信息及其他各个OSD的日志信息将本次正在启动的OSD的日志信息进度更新，将其日志信息更新为最新的日志信息，也即将其日志版本更新为最新的日志版本，以便完善相应的OSD的日志信息。

另外，在确定出本次主OSD后，还可以将本次主OSD添加至与PG对应的acting表中，以便后续客户端通过acting表中获取PG的主OSD，并与该主OSD进行读写业务。

可见，当与PG对应的各个OSD中存在正在重启的OSD时，需要从新为该PG选择主OSD，本申请中先从当前主OSD中和其他的各个OSD中选择出权威OSD，并且所选出的权威OSD的日志信息不仅是最长的，而且权威OSD的恢复进度也是最大的，然后再根据预设规则从该权威OSD和该PG的上一次主OSD中选择出本次主OSD，本申请中在为PG选取主OSD使不仅考虑到OSD的日志信息而且还考虑到OSD的恢复进度，从而确定出本次主OSD，故通过本申请中的方法选取的主OSD所需要恢复的数据量是最小的，从而能够在最大程度上降低对读操作业务的影响，有利于扩大存储系统的适用范围。

在上述实施例的基础上，本发明实施例相应的还提供了一种分布式文件系统中主OSD的选取装置，具体请参照图2。该装置包括：

检测模块21，用于检测与PG对应的各个OSD中是否有正在重启的OSD，若是，则触发获取模块22；

获取模块22，用于通过PG的当前主OSD获取PG的其他各个OSD的日志信息；

第一选取模块23，用于依据当前主OSD的日志信息及其他各个OSD的日志信息选取出权威OSD；权威OSD的恢复进度为最大的、日志信息为最长的；

第二选取模块24，用于依据预设规则从权威OSD和PE的上一次主OSD中选取出日志信息较长的、恢复进度较大的OSD作为与PE对应的本次主OSD。

在上一实施例的基础上，进一步的，第一选取模块包括：

筛选单元，用于依据当前主OSD的日志信息及其他各个OSD的日志信息确定出日志信息最长、恢复进度最大的OSD；

第一判断单元，用于判断日志信息最长、恢复进度最大的OSD是否为多个，若是，则触发确定单元；否则，触发第二确定单元；

第一确定单元，用于将当前主OSD作为权威OSD；

第二确定单元，用于将日志信息最长、恢复进度最大的OSD作为权威OSD。

在上述任意实施例的基础上，进一步的，第二选取模块包括：

第二判断单元，用于判断PE的上一次主OSD的日志信息长度是否大于等于权威OSD的日志信息长度，若是，则触发第三判断单元；若否，则触发第四确定单元；

第三判断单元，用于判断PE的上一次主OSD的恢复进度是否大于等于权威OSD的恢复进度，若是，则触发第三确定单元；若否，则触发第四确定单元；

第三确定单元，用于将上一次主OSD作为与PE对应的本次主OSD；

第四确定单元，用于将权威OSD作为与PE对应的本次主OSD。

在上述实施例的基础上，本发明实施例还提供了一种分布式文件系统中主OSD的选取系统，具体请参照图3。该系统包括：

存储器31，用于存储计算机程序；

处理器32，用于执行计算机程序时实现如上述分布式文件系统中主OSD的选取方法的步骤。

例如，处理器32用于实现检测与PG对应的各个OSD中是否有正在重启的OSD，若是，则通过PG的当前主OSD获取PG的其他各个OSD的日志信息；依据当前主OSD的日志信息及其他各个OSD的日志信息选取出权威OSD，权威OSD的恢复进度为最大的、日志信息为最长的；依据预设规则从权威OSD和PE的上一次主OSD中选取出日志信息较长的、恢复进度较大的OSD作为与PE对应的本次主OSD。

在上述实施例的基础上，本发明实施例还提供了一种计算机可读存储介质，计算机可读存储介质上存储有计算机程序，计算机程序被处理器执行时实现如上述分布式文件系统中主OSD的选取方法的步骤。

该计算机可读存储介质可以包括：U盘、移动硬盘、只读存储器(Read-OnlyMemory，ROM)、随机存取存储器(Random Access Memory，RAM)、磁碟或者光盘等各种可以存储程序代码的介质。

本说明书中各个实施例采用递进的方式描述，每个实施例重点说明的都是与其他实施例的不同之处，各个实施例之间相同相似部分互相参见即可。对于实施例公开的装置而言，由于其与实施例公开的方法相对应，所以描述的比较简单，相关之处参见方法部分说明即可。

还需要说明的是，在本说明书中，诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来，而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。

对所公开的实施例的上述说明，使本领域专业技术人员能够实现或使用本发明。对这些实施例的多种修改对本领域的专业技术人员来说将是显而易见的，本文中所定义的一般原理可以在不脱离本发明的精神或范围的情况下，在其他实施例中实现。因此，本发明将不会被限制于本文所示的这些实施例，而是要符合与本文所公开的原理和新颖特点相一致的最宽的范围。

Claims (10)

1.一种分布式文件系统中主OSD的选取方法，其特征在于，包括：

检测与归置组PG对应的各个对象存储设备OSD中是否有正在重启的OSD，若是，则通过所述PG的当前主OSD获取所述PG的其他各个OSD的日志信息；

依据所述当前主OSD的日志信息及其他各个所述OSD的日志信息选取出权威OSD；所述权威OSD的恢复进度为最大的、日志信息为最长的；

依据预设规则从所述权威OSD和所述PE的上一次主OSD中选取出日志信息较长的、恢复进度较大的OSD作为与所述PE对应的本次主OSD。

2.根据权利要求1所述的分布式文件系统中主OSD的选取方法，其特征在于，所述依据所述当前主OSD的日志信息及其他各个所述OSD的日志信息选取出权威OSD的过程为：

依据所述当前主OSD的日志信息及其他各个所述OSD的日志信息确定出日志信息最长、恢复进度最大的OSD；

判断所述日志信息最长、恢复进度最大的OSD是否为多个，若是，则将所述当前主OSD作为所述权威OSD；否则，将所述日志信息最长、恢复进度最大的OSD作为所述权威OSD。

3.根据权利要求2所述的分布式文件系统中主OSD的选取方法，其特征在于，所述依据预设规则从所述权威OSD和所述PE的上一次主OSD中选取出日志信息较长的、恢复进度较大的OSD作为与所述PE对应的本次主OSD的过程为：

判断所述PE的上一次主OSD的日志信息长度是否大于等于所述权威OSD的日志信息长度；

若是，则判断所述PE的上一次主OSD的恢复进度是否大于等于所述权威OSD的恢复进度，若是，则将所述上一次主OSD作为与所述PE对应的本次主OSD；若否，则将所述权威OSD作为与所述PE对应的本次主OSD；

若否，则直接将所述权威OSD作为与所述PE对应的本次主OSD。

4.根据权利要求1-3任意一项所述的分布式文件系统中主OSD的选取方法，其特征在于，还包括：

依据所述当前主OSD的日志信息及其他各个所述OSD的日志信息对所述正在启动的OSD的日志信息进行更新。

5.根据权利要求1所述的分布式文件系统中主OSD的选取方法，其特征在于，还包括将所述本次主OSD添加至与所述PG对应的acting表中。

6.一种分布式文件系统中主OSD的选取装置，其特征在于，包括：

检测模块，用于检测与PG对应的各个OSD中是否有正在重启的OSD，若是，则触发获取模块；

所述获取模块，用于通过所述PG的当前主OSD获取所述PG的其他各个OSD的日志信息；

第一选取模块，用于依据所述当前主OSD的日志信息及其他各个所述OSD的日志信息选取出权威OSD；所述权威OSD的恢复进度为最大的、日志信息为最长的；

第二选取模块，用于依据预设规则从所述权威OSD和所述PE的上一次主OSD中选取出日志信息较长的、恢复进度较大的OSD作为与所述PE对应的本次主OSD。

7.根据权利要求6所述的分布式文件系统中主OSD的选取装置，其特征在于，所述第一选取模块包括：

筛选单元，用于依据所述当前主OSD的日志信息及其他各个所述OSD的日志信息确定出日志信息最长、恢复进度最大的OSD；

第一判断单元，用于判断所述日志信息最长、恢复进度最大的OSD是否为多个，若是，则触发确定单元；否则，触发第二确定单元；

所述第一确定单元，用于将所述当前主OSD作为所述权威OSD；

所述第二确定单元，用于将所述日志信息最长、恢复进度最大的OSD作为所述权威OSD。

8.根据权利要求7所述的分布式文件系统中主OSD的选取装置，其特征在于，所述第二选取模块包括：

第二判断单元，用于判断所述PE的上一次主OSD的日志信息长度是否大于等于所述权威OSD的日志信息长度，若是，则触发第三判断单元；若否，则触发第四确定单元；

所述第三判断单元，用于判断所述PE的上一次主OSD的恢复进度是否大于等于所述权威OSD的恢复进度，若是，则触发第三确定单元；若否，则触发第四确定单元；

所述第三确定单元，用于将所述上一次主OSD作为与所述PE对应的本次主OSD；

所述第四确定单元，用于将所述权威OSD作为与所述PE对应的本次主OSD。

9.一种分布式文件系统中主OSD的选取系统，其特征在于，包括：

存储器，用于存储计算机程序；

处理器，用于执行所述计算机程序时实现如权利要求1至5任意一项所述分布式文件系统中主OSD的选取方法的步骤。

10.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质上存储有计算机程序，所述计算机程序被处理器执行时实现如权利要求1至5任意一项所述分布式文件系统中主OSD的选取方法的步骤。