WO2022095638A1 - 基于分组的分布式存储scsi目标服务管理方法、系统 - Google Patents
基于分组的分布式存储scsi目标服务管理方法、系统 Download PDFInfo
- Publication number
- WO2022095638A1 WO2022095638A1 PCT/CN2021/121439 CN2021121439W WO2022095638A1 WO 2022095638 A1 WO2022095638 A1 WO 2022095638A1 CN 2021121439 W CN2021121439 W CN 2021121439W WO 2022095638 A1 WO2022095638 A1 WO 2022095638A1
- Authority
- WO
- WIPO (PCT)
- Prior art keywords
- group
- nodes
- module
- node
- volume export
- Prior art date
Links
- 238000007726 management method Methods 0.000 title claims abstract description 83
- 238000012545 processing Methods 0.000 claims abstract description 44
- 238000012544 monitoring process Methods 0.000 claims abstract description 10
- 230000008859 change Effects 0.000 claims description 9
- 230000009471 action Effects 0.000 claims description 5
- 238000000034 method Methods 0.000 abstract description 7
- 238000006467 substitution reaction Methods 0.000 description 3
- 238000010168 coupling process Methods 0.000 description 2
- 238000005859 coupling reaction Methods 0.000 description 2
- 238000013507 mapping Methods 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 230000008569 process Effects 0.000 description 2
- 230000007547 defect Effects 0.000 description 1
- 238000012217 deletion Methods 0.000 description 1
- 230000037430 deletion Effects 0.000 description 1
- 238000010586 diagram Methods 0.000 description 1
- 238000003672 processing method Methods 0.000 description 1
- 230000001960 triggered effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
- G06F9/5083—Techniques for rebalancing the load in a distributed system
- G06F9/5088—Techniques for rebalancing the load in a distributed system involving task migration
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F11/00—Error detection; Error correction; Monitoring
- G06F11/30—Monitoring
- G06F11/3003—Monitoring arrangements specially adapted to the computing system or computing system component being monitored
- G06F11/3006—Monitoring arrangements specially adapted to the computing system or computing system component being monitored where the computing system is distributed, e.g. networked systems, clusters, multiprocessor systems
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F2209/00—Indexing scheme relating to G06F9/00
- G06F2209/50—Indexing scheme relating to G06F9/50
- G06F2209/508—Monitor
Definitions
- the present application relates to the technical field of distributed storage service management, and in particular to a group-based distributed storage SCSI target service management method and system.
- the usual processing methods include 1. exporting volumes on all storage nodes, and 2. exporting volumes on specified storage nodes.
- these two methods can basically meet the usage requirements.
- the scale of the distributed storage cluster gradually expands, if the volume is exported on all nodes, due to the large number of nodes, on the one hand, the export process will take a long time, and on the other hand, the logic of synchronously processing all nodes will be extremely complicated. It is easy to cause problems; if it is only exported on the specified storage node, due to the large number of volumes, the single-point pressure on the corresponding storage node will be too large, which will limit the storage performance.
- the present application provides a method and system for managing a distributed storage SCSI target service based on a group.
- the technical solution of the present application provides a group-based distributed storage SCSI target service management method, comprising the following steps:
- the purpose of group division is to make each group an independent autonomous space when processing volume export operations. Accept external volume export management requests, coordinate the forwarding of volume management operations in each group, and complete the application of related operations in groups. It realizes a highly cohesive and low-coupling management method for volume export management, improves management efficiency, improves service reliability, and can also share business loads within the cluster to improve system performance.
- the steps of dividing the nodes in the distributed storage cluster into groups include:
- the nodes belonging to the same level in the cluster are divided into the same selection domain;
- a corresponding number of nodes are selected from the cluster as nodes in a group, wherein, for each selection, the node with the lowest weight is selected from the selection field with the lowest weight as the selected node.
- the steps of dividing the nodes belonging to the same level in the cluster into the same selection domain include:
- the node is selected to add one weight unit at a time, and the weight unit of all nodes is initially 0;
- the weight of a selection domain is the average of the weights of all nodes in the selection domain. When a node is selected, the weight of the node and the weight of the selection domain where the node is located will change.
- the step of monitoring the running status of each group includes:
- the steps of planning the group to which the changed node belongs include:
- the node adding or node removing action is issued to the corresponding grouping unit.
- each node in the distributed cluster is divided into groups, and the running status of each group is monitored.
- steps of accepting an external volume export management request and forwarding the received volume export operation request include:
- the steps of receiving the volume export operation task forwarded to the group and applying the corresponding operation to all nodes in the group include:
- the processing scope of the volume export operation is limited to a certain grouping scope, which can effectively reduce the implementation complexity, improve the processing speed, and increase the reliability of the system.
- the technical solution of the present application provides a group-based distributed storage SCSI target service management system, including a service group management module, a management task forwarding module, and a grouping unit module;
- the service group management module is used to divide the nodes in the distributed storage cluster into groups and monitor the running status of each group;
- the management task forwarding module is used to accept the external volume export management request, and forward the received volume export operation request according to the status of each grouping unit module in the system, and return the processing result of the grouping unit module to the front end;
- the grouping unit module is used to receive the volume export operation task forwarded to this group, and apply the corresponding operation to all nodes in this group; it is also used to complete the corresponding volume export task on the nodes in this group, Feedback the processing result to the management task forwarding module.
- the service group management module includes a division sub-module, a node processing sub-module and a state acquisition sub-module;
- Dividing sub-modules is used to divide nodes belonging to the same level in the cluster into the same selection domain according to the fault tolerance level; and according to the number of nodes in the group, select the corresponding number of nodes from the cluster as nodes in a group;
- the node processing sub-module is used for interacting with each grouping unit module, and according to the node change information of the storage cluster, the node adding and node removing actions are issued to the corresponding grouping unit;
- the status acquisition sub-module is used to acquire the status of each grouping unit.
- management task forwarding module includes a registration submodule, a request receiving submodule, a forwarding submodule and a return submodule;
- the registration sub-module is used to accept the registration of the grouping unit module after startup;
- the request receiving sub-module is used to provide a unified volume export operation interface and accept external volume export operation requests;
- the return sub-module is used to receive the processing result returned by the grouping unit module and return the processing result of the grouping unit module to the front end.
- grouping unit module is used to manage all nodes in this grouping according to the grouping information divided by the service group management module;
- the grouping unit module includes an operation processing submodule, a result feedback submodule, and an information adjustment submodule;
- the operation processing submodule is used to receive the volume export operation task forwarded by the management task forwarding module to the grouping unit, and apply the corresponding operation to all nodes in the grouping;
- the result feedback sub-module is used to feed back the processing result to the management task forwarding module after completing the corresponding volume export task on the nodes in the group;
- the information adjustment sub-module is used to interact with the service group management module, report its own running status, and adjust the volume export related information on the corresponding nodes in the group according to the node join and node removal operations issued by the service group management module. .
- the present application has the following advantages: when the scale of the distributed storage cluster is large, by grouping the nodes in the cluster, the processing scope of the volume export operation is limited to a certain grouping scope, which can Effectively reduce the implementation complexity, improve the processing speed, and increase the reliability of the system; it is also possible to distribute the load to multiple nodes to avoid excessive load on some nodes, thereby providing higher performance.
- FIG. 1 is a schematic flowchart of a method according to an embodiment of the present application.
- FIG. 2 is a schematic block diagram of a system according to an embodiment of the present application.
- an embodiment of the present application provides a group-based distributed storage SCSI target service management method, including the following steps:
- S1 Divide the nodes in the distributed storage cluster into groups, and monitor the running status of each group;
- group division is to make each group an independent autonomous space when processing the volume export operation. Accept external volume export management requests, coordinate the forwarding of volume management operations in each group, and complete the application of related operations in groups. It realizes a highly cohesive and low-coupling management method for volume export management, improves management efficiency, improves service reliability, and can also share business loads within the cluster to improve system performance.
- step S1 the nodes in the distributed storage cluster are divided into groups, and in the step of monitoring the running status of each group, the step of dividing the nodes in the distributed storage cluster into groups includes:
- the nodes belonging to the same level in the cluster are divided into the same selection domain; according to the fault tolerance level (such as nodes, cabinets, cabinet columns, equipment rooms, etc.), the nodes belonging to the same level in the cluster are divided to the same selection field;
- S1-12 According to the number of nodes in the group, select a corresponding number of nodes from the cluster as nodes in a group, wherein, for each selection, the node with the lowest weight is selected as the selected node from the selection field with the lowest weight.
- a corresponding number of nodes are selected from the cluster as nodes in a group.
- the node with the lowest weight is selected from the selection field with the lowest weight as the selected node; the allocation process is completed after the specified number of groupings are completed according to the requirements.
- step S1-11 the steps of dividing the nodes belonging to the same level in the cluster into the same selection domain include: setting the node to be selected and adding a weight unit to itself once, and, initially, The weight unit of all nodes is 0; the weight of a selection domain is the average of the weights of all nodes in the selection domain. When a node is selected, the weight of the node and the weight of the selection domain where the node is located will change.
- step S1 the nodes in the distributed storage cluster are divided into groups, and in the step of monitoring the running status of each group, the step of monitoring the running status of each group includes:
- S1-21 When a node is removed or a node is added in the cluster, plan the group to which the changed node belongs, and obtain the status of each grouping unit, wherein the step of planning the group to which the changed node belongs includes: : According to the node change information of the storage cluster, the node adding or node removing action is issued to the corresponding grouping unit. According to the fault tolerance level and reliability level, each node in the distributed cluster is divided into groups, and the running status of each group is monitored.
- the step of accepting an external volume export management request in step S2 and forwarding the received volume export operation request includes:
- S21 Provide a unified volume export operation interface externally, and accept external volume export operation requests;
- the step of receiving the volume export operation task forwarded to the group in step S3 and applying the corresponding operation to all nodes in the group includes:
- S31 Receive the volume export operation task forwarded to this group, and apply the corresponding operation to all nodes in this group; it should be noted that, receive the volume export operation task forwarded to this group, such as the creation/deletion of the target , mapping/de-mapping of volumes, setting of access restrictions, etc., apply the corresponding operations to all nodes in this group.
- the processing scope of the volume export operation is limited to a certain grouping scope, which can effectively reduce the implementation complexity, improve the processing speed, and increase the reliability of the system.
- an embodiment of the present application provides a group-based distributed storage SCSI target service management system, including a service group management module, a management task forwarding module, and a grouping unit module;
- the service group management module is used to divide the nodes in the distributed storage cluster into groups and monitor the running status of each group;
- the management task forwarding module is used to accept the external volume export management request, and forward the received volume export operation request according to the status of each grouping unit module in the system, and return the processing result of the grouping unit module to the front end;
- the grouping unit module is used to receive the volume export operation task forwarded to this group, and apply the corresponding operation to all nodes in this group; it is also used to complete the corresponding volume export task on the nodes in this group, Feedback the processing result to the management task forwarding module.
- the service group management module includes a division sub-module, a node processing sub-module and a state acquisition sub-module;
- Dividing sub-modules is used to divide nodes belonging to the same level in the cluster into the same selection domain according to the fault tolerance level; and according to the number of nodes in the group, select the corresponding number of nodes from the cluster as nodes in a group;
- the node processing sub-module is used for interacting with each grouping unit module, and according to the storage cluster node change information, the node is added to the corresponding grouping unit, and the node is removed;
- the status acquisition sub-module is used to acquire the status of each grouping unit.
- the management task forwarding module includes a registration submodule, a request receiving submodule, a forwarding submodule and a returning submodule;
- the registration sub-module is used to accept the registration of the grouping unit module after startup;
- the request receiving sub-module is used to provide a unified volume export operation interface and accept external volume export operation requests;
- the return sub-module is used to receive the processing result returned by the grouping unit module and return the processing result of the grouping unit module to the front end.
- the grouping unit module is configured to manage all nodes in the group according to the grouping information divided by the service group management module;
- the grouping unit module includes an operation processing submodule, a result feedback submodule, and an information adjustment submodule;
- the operation processing submodule is used to receive the volume export operation task forwarded by the management task forwarding module to the grouping unit, and apply the corresponding operation to all nodes in the grouping;
- the result feedback sub-module is used to feed back the processing result to the management task forwarding module after completing the corresponding volume export task on the nodes in the group;
- the information adjustment sub-module is used to interact with the service group management module, report its own running status, and adjust the volume export related information on the corresponding nodes in the group according to the node join and node removal operations issued by the service group management module. .
- the nodes in the distributed cluster are grouped by the service group management module, and the nodes are added to the cluster.
- the group where the node is located is triggered to perform corresponding processing; the management of each node in the group is realized by the grouping unit module. It will register with the management task forwarding module, and subsequently receive the volume export operation request forwarded by the management task forwarding module, and apply it to each node in the group; the management task forwarding module acts as a unified agent for each grouping unit module in the cluster to provide external services. , after receiving the front-end operation request, the management task forwarding module forwards the operation to the designated grouping unit module, and the corresponding grouping unit module performs specific processing.
- This group-based SCSI target service management method can limit the execution scope of the specified volume export operation to the nodes in a specific group, which can simplify the implementation complexity of volume export management in large-scale clusters.
- the system load can also be distributed in the entire storage cluster to avoid heavy load on some nodes, thereby increasing the performance of the entire system.
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Software Systems (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Computing Systems (AREA)
- Mathematical Physics (AREA)
- Quality & Reliability (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
一种基于分组的分布式存储SCSI目标服务管理方法、系统，所述方法包括如下步骤：将分布式存储集群内的节点进行组的划分，并对各组的运行状态进行监控（S1）；接受外部的卷导出管理请求，并将接收到的卷导出操作请求进行转发（S2）；接收分发到本组的卷导出操作任务，并将相应的操作应用到本组内的所有节点上（S3）；在本组内的节点上完成相应的卷导出任务后，反馈处理结果（S4）。可以有效降低实现复杂度，提高处理速度，增加系统的可靠性；也可以将负载分摊到多个节点中，避免部分节点负载过重，进而提供更高的性能。
Description
本申请要求在2020年11月9日提交中国专利局、申请号为202011238059.6、发明名称为“基于分组的分布式存储SCSI目标服务管理方法、系统”的中国专利申请的优先权，其全部内容通过引用结合在本申请中。
本申请涉及分布式存储服务管理技术领域，具体涉及一种基于分组的分布式存储SCSI目标服务管理方法、系统。
分布式存储集群对外提供SCSI(Small Computer System Interface)服务时，通常的处理方式包括1.在所有的存储节点上导出卷，2.在指定的存储节点上导出卷。在分布式集群规模比较小的时候，这两种方式基本可以满足使用要求。当分布式存储集群规模逐渐扩大以后，映射卷时，如果在所有节点上导出，由于节点数较多，一方面导出过程耗时会比较长，另一方面同步处理所有节点的逻辑会异常复杂，容易产生问题；如果只在指定的存储节点上导出，由于卷的数量较多，也会导致相应的存储节点单点压力过大，使得存储性能受限。
发明内容
针对现有技术中存在的上述缺陷和问题，本申请提供一种基于分组的分 布式存储SCSI目标服务管理方法、系统。
本申请的技术方案是：
一方面，本申请技术方案提供一种基于分组的分布式存储SCSI目标服务管理方法，包括如下步骤：
将分布式存储集群内的节点进行组的划分，并对各组的运行状态进行监控；
接受外部的卷导出管理请求，并将接收到的卷导出操作请求进行转发；
接收转发到本组的卷导出操作任务，并将相应的操作应用到本组内的所有节点上；
在本组内的节点上完成相应的卷导出任务后，反馈处理结果。
进行组的划分的目的是使每个分组在处理卷的导出操作时，是一个独立的自治空间。接受外部的卷导出管理请求，并协调卷管理操作在各个分组内的转发，完成相关操作在分组内的应用。实现一种对卷导出管理的高内聚，低耦合的管理方式，提升管理效率，提高服务可靠性，也可以将业务负载在集群范围内进行分担，提高系统的性能。
进一步的，将分布式存储集群内的节点进行组的划分，并对各组的运行状态进行监控的步骤中，将分布式存储集群内的节点进行组的划分的步骤包括：
根据容错等级，对集群中的属于同一等级的节点划分到同一个选择域；
根据分组内节点数量，从集群中选中对应数量的节点作为一个分组内的节点，其中，每次选择均从权重最低的选择域中选出权重最低的节点作为选中节点。
进一步的，根据容错等级，对集群中的属于同一等级的节点划分到同一个选择域的步骤中，包括：
设定节点被选中一次自身增加一个权重单元，并且，初始时所有节点的权重单元均为0；
一个选择域的权重为选择域内所有节点权重的均值，节点被选中时，节点的权重，节点所在选择域的权重均发生变化。
进一步的，将分布式存储集群内的节点进行组的划分，并对各组的运行状态进行监控的步骤中，对各组的运行状态进行监控的步骤包括：
当集群中发生节点移除或节点加入时，对发生变动的节点所属的组进行规划，并获取各分组单元的状态，其中，对发生变动的节点所属的组进行规划的步骤包括：
根据存储集群节点变动信息对对应分组单元下发节点加入或节点移除动作。根据容错等级、可靠性级别对分布式集群中的各节点进行所属组的划分，对各组的运行状态进行监控。
进一步的，接受外部的卷导出管理请求，并将接收到的卷导出操作请求进行转发的步骤包括：
对外提供统一的卷导出操作接口，接受外部的卷导出操作请求；
将接收到的卷导出操作请求转发到相应的组。
降低系统的实现复杂度，增强系统可靠性；同时由于存在多个分组，可以将系统的负载在整个集群内部分摊，提高系统整体性能。
进一步的，接收转发到本组的卷导出操作任务，并将相应的操作应用到本组内的所有节点上的步骤包括：
接收转发到本组的卷导出操作任务，并将相应的操作应用到本组内的所有节点上；
上报自身的运行状态，并根据下发的节点加入、节点移除操作对本组内对应节点上的卷导出相关信息进行调整。
通过对集群中的节点进行分组，将卷导出操作的处理范围限制到某一个分组范围内中，可以有效降低实现复杂度，提高处理速度，增加系统的可靠性。
另一方面，本申请技术方案提供一种基于分组的分布式存储SCSI目标服务管理系统，包括服务组管理模块、管理任务转发模块、分组单元模块；
服务组管理模块，用于将分布式存储集群内的节点进行组的划分，并对 各组的运行状态进行监控；
管理任务转发模块，用于接受外部的卷导出管理请求，并将接收到的卷导出操作请求根据系统中各个分组单元模块的状态进行转发，并将分组单元模块的处理结果返回到前端；
分组单元模块，用于接收转发到本组的卷导出操作任务，并将相应的操作应用到本组内的所有节点上；还用于在本组内的节点上完成相应的卷导出任务后，反馈处理结果到管理任务转发模块。
进一步的，服务组管理模块包括划分子模块、节点处理子模块和状态获取子模块；
划分子模块，用于根据容错等级，对集群中的属于同一等级的节点划分到同一个选择域；并根据分组内节点数量，从集群中选中对应数量的节点作为一个分组内的节点；
节点处理子模块，用于与各分组单元模块进行交互，根据存储集群节点变动信息对对应分组单元下发节点加入，节点移除动作；
状态获取子模块，用于获取各分组单元的状态。
进一步的，管理任务转发模块包括注册子模块、请求接收子模块、转发子模块和返回子模块；
注册子模块，用于启动后，接受分组单元模块的注册；
请求接收子模块，用于对外提供统一的卷导出操作接口，接受外部的卷导出操作请求；
转发子模块，用于将接收到的卷导出操作请求转发到相应的分组单元模块；
返回子模块，用于接收分组单元模块返回的处理结果并将分组单元模块的处理结果返回到前端。
进一步的，分组单元模块，用于根据服务组管理模块划分的分组信息管理本分组内的所有节点；
分组单元模块包括操作处理子模块、结果反馈子模块、信息调整子模块；
操作处理子模块，用于接收管理任务转发模块转发到本分组单元的卷导出操作任务，并将相应的操作应用到本分组内的所有节点上；
结果反馈子模块，用于在分组内的节点上完成相应的卷导出任务后，将处理结果反馈到管理任务转发模块；
信息调整子模块，用于与服务组管理模块进行交互，上报自身的运行状态，并根据服务组管理模块下发的节点加入、节点移除操作对分组内对应节点上的卷导出相关信息进行调整。
从以上技术方案可以看出，本申请具有以下优点：当分布式存储集群规模较大时，通过对集群中的节点进行分组，将卷导出操作的处理范围限制到 某一个分组范围内中，可以有效降低实现复杂度，提高处理速度，增加系统的可靠性；也可以将负载分摊到多个节点中，避免部分节点负载过重，进而提供更高的性能。
为了更清楚地说明本申请实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，对于本领域普通技术人员而言，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
图1是本申请一个实施例的方法的示意性流程图。
图2是本申请一个实施例的系统的示意性框图。
为了使本技术领域的人员更好地理解本申请中的技术方案，下面将结合本申请实施例中的附图，对本申请实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本申请一部分实施例，而不是全部的实施例。基于本申请中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都应当属于本申请保护的范围。
如图1所示，本申请实施例提供一种基于分组的分布式存储SCSI目标服务管理方法，包括如下步骤：
S1：将分布式存储集群内的节点进行组的划分，并对各组的运行状态进行监控；
S2：接受外部的卷导出管理请求，并将接收到的卷导出操作请求进行转发；
S3：接收转发到本组的卷导出操作任务，并将相应的操作应用到本组内的所有节点上；
S4：在本组内的节点上完成相应的卷导出任务后，反馈处理结果。
需要说明的是，进行组的划分的目的是使每个分组在处理卷的导出操作时，是一个独立的自治空间。接受外部的卷导出管理请求，并协调卷管理操作在各个分组内的转发，完成相关操作在分组内的应用。实现一种对卷导出管理的高内聚，低耦合的管理方式，提升管理效率，提高服务可靠性，也可以将业务负载在集群范围内进行分担，提高系统的性能。
在有些实施例中，步骤S1将分布式存储集群内的节点进行组的划分，并对各组的运行状态进行监控的步骤中，将分布式存储集群内的节点进行组的划分的步骤包括：
S1-11：根据容错等级，对集群中的属于同一等级的节点划分到同一个选择域；根据容错等级(如节点，机柜，机柜列，机房等)，对集群中的属于同一等级的节点划分到同一个选择域；
S1-12：根据分组内节点数量，从集群中选中对应数量的节点作为一个分组内的节点，其中，每次选择均从权重最低的选择域中选出权重最低的节点作为选中节点。
根据分组内节点数量即可靠性等级，从集群中选中对应数量的节点作为一个分组内的节点。每次选择均从权重最低的选择域中选出权重最低的节点作为选中节点；根据要求完成指定数量的分组划分后分配过程即完成。
需要说明的是，步骤S1-11根据容错等级，对集群中的属于同一等级的节点划分到同一个选择域的步骤中，包括：设定节点被选中一次自身增加一个权重单元，并且，初始时所有节点的权重单元均为0；一个选择域的权重为选择域内所有节点权重的均值，节点被选中时，节点的权重，节点所在选择域的权重均发生变化。
步骤S1将分布式存储集群内的节点进行组的划分，并对各组的运行状态进行监控的步骤中，对各组的运行状态进行监控的步骤包括：
S1-21：当集群中发生节点移除或节点加入时，对发生变动的节点所属的组进行规划，并获取各分组单元的状态，其中，对发生变动的节点所属的组进行规划的步骤包括：根据存储集群节点变动信息对对应分组单元下发节点加入或节点移除动作。根据容错等级、可靠性级别对分布式集群中的各节点进行所属组的划分，对各组的运行状态进行监控。
在有些实施例中，步骤S2接受外部的卷导出管理请求，并将接收到的卷导出操作请求进行转发的步骤包括：
S21：对外提供统一的卷导出操作接口，接受外部的卷导出操作请求；
S22：将接收到的卷导出操作请求转发到相应的组。
需要说明的是，启动后，首先接受分组单元模块的注册，对外提供统一的卷导出操作接口，接受外部的卷导出操作请求；将接收到的卷导出操作请求转发到相应的分组单元模块，并将分组单元模块的处理结果返回到前端。
降低系统的实现复杂度，增强系统可靠性；同时由于存在多个分组，可以将系统的负载在整个集群内部分摊，提高系统整体性能。
在有些实施例中，步骤S3接收转发到本组的卷导出操作任务，并将相应的操作应用到本组内的所有节点上的步骤包括：
S31：接收转发到本组的卷导出操作任务，并将相应的操作应用到本组内的所有节点上；需要说明的是，接收转发到本组的卷导出操作任务，如目标的创建/删除，卷的映射/解映射，访问限制的设置等，将相应的操作应用到本组内的所有节点上。
S32：上报自身的运行状态，并根据下发的节点加入、节点移除操作对本组内对应节点上的卷导出相关信息进行调整。
通过对集群中的节点进行分组，将卷导出操作的处理范围限制到某一个 分组范围内中，可以有效降低实现复杂度，提高处理速度，增加系统的可靠性。
如图2所示，本申请实施例提供一种基于分组的分布式存储SCSI目标服务管理系统，包括服务组管理模块、管理任务转发模块、分组单元模块；
服务组管理模块，用于将分布式存储集群内的节点进行组的划分，并对各组的运行状态进行监控；
管理任务转发模块，用于接受外部的卷导出管理请求，并将接收到的卷导出操作请求根据系统中各个分组单元模块的状态进行转发，并将分组单元模块的处理结果返回到前端；
分组单元模块，用于接收转发到本组的卷导出操作任务，并将相应的操作应用到本组内的所有节点上；还用于在本组内的节点上完成相应的卷导出任务后，反馈处理结果到管理任务转发模块。
在有些实施例中，服务组管理模块包括划分子模块、节点处理子模块和状态获取子模块；
划分子模块，用于根据容错等级，对集群中的属于同一等级的节点划分到同一个选择域；并根据分组内节点数量，从集群中选中对应数量的节点作为一个分组内的节点；
节点处理子模块，用于与各分组单元模块进行交互，根据存储集群节点 变动信息对对应分组单元下发节点加入，节点移除动作；
状态获取子模块，用于获取各分组单元的状态。
在有些实施例中，管理任务转发模块包括注册子模块、请求接收子模块、转发子模块和返回子模块；
注册子模块，用于启动后，接受分组单元模块的注册；
请求接收子模块，用于对外提供统一的卷导出操作接口，接受外部的卷导出操作请求；
转发子模块，用于将接收到的卷导出操作请求转发到相应的分组单元模块；
返回子模块，用于接收分组单元模块返回的处理结果并将分组单元模块的处理结果返回到前端。
在有些实施例中，分组单元模块，用于根据服务组管理模块划分的分组信息管理本分组内的所有节点；
分组单元模块包括操作处理子模块、结果反馈子模块、信息调整子模块；
操作处理子模块，用于接收管理任务转发模块转发到本分组单元的卷导出操作任务，并将相应的操作应用到本分组内的所有节点上；
结果反馈子模块，用于在分组内的节点上完成相应的卷导出任务后，将处理结果反馈到管理任务转发模块；
信息调整子模块，用于与服务组管理模块进行交互，上报自身的运行状态，并根据服务组管理模块下发的节点加入、节点移除操作对分组内对应节点上的卷导出相关信息进行调整。
通过服务组管理模块对分布式集群中的节点进行分组，并在集群中加入节点，去除节点时，触发节点所在分组进行对应的处理；通过分组单元模块实现对分组内各节点的管理，启动后会向管理任务转发模块进行注册，后续会接收管理任务转发模块转发过来的卷导出操作请求，并应用到分组内的各节点；管理任务转发模块作为集群中各分组单元模块的统一代理对外提供服务，收到前端操作请求以后，管理任务转发模块则将操作转发到指定的分组单元模块，由相应的分组单元模块进行具体的处理。这种基于分组的SCSI目标服务管理方式，可以将指定卷导出操作的执行范围限制到具体的分组内的节点，可以简化大规模集群中卷导出管理的实现复杂度，同时由于是在整个集群范围内进行分组，也可以将系统负载分布在整个存储集群，避免部分节点负载过重，进而增加整个系统的性能。
尽管通过参考附图并结合优选实施例的方式对本申请进行了详细描述，但本申请并不限于此。在不脱离本申请的精神和实质的前提下，本领域普通技术人员可以对本申请的实施例进行各种等效的修改或替换，而这些修改或替换都应在本申请的涵盖范围内/任何熟悉本技术领域的技术人 员在本申请揭露的技术范围内，可轻易想到变化或替换，都应涵盖在本申请的保护范围之内。因此，本申请的保护范围应以所述权利要求的保护范围为准。
Claims (10)
- 一种基于分组的分布式存储SCSI目标服务管理方法，其特征在于，包括如下步骤：将分布式存储集群内的节点进行组的划分，并对各组的运行状态进行监控；接受外部的卷导出管理请求，并将接收到的卷导出操作请求进行转发；接收转发到本组的卷导出操作任务，并将相应的操作应用到本组内的所有节点上；在本组内的节点上完成相应的卷导出任务后，反馈处理结果。
- 根据权利要求1所述的基于分组的分布式存储SCSI目标服务管理方法，其特征在于，将分布式存储集群内的节点进行组的划分，并对各组的运行状态进行监控的步骤中，将分布式存储集群内的节点进行组的划分的步骤包括：根据容错等级，对集群中的属于同一等级的节点划分到同一个选择域；根据分组内节点数量，从集群中选中对应数量的节点作为一个分组内的节点，其中，每次选择均从权重最低的选择域中选出权重最低的节点作为选中节点。
- 根据权利要求2所述的基于分组的分布式存储SCSI目标服务管理方法，其特征在于，根据容错等级，对集群中的属于同一等级的节点划分到同 一个选择域的步骤中，包括：设定节点被选中一次自身增加一个权重单元，并且，初始时所有节点的权重单元均为0；一个选择域的权重为选择域内所有节点权重的均值，节点被选中时，节点的权重，节点所在选择域的权重均发生变化。
- 根据权利要求2所述的基于分组的分布式存储SCSI目标服务管理方法，其特征在于，将分布式存储集群内的节点进行组的划分，并对各组的运行状态进行监控的步骤中，对各组的运行状态进行监控的步骤包括：当集群中发生节点移除或节点加入时，对发生变动的节点所属的组进行规划，并获取各分组单元的状态，其中，对发生变动的节点所属的组进行规划的步骤包括：根据存储集群节点变动信息对对应分组单元下发节点加入或节点移除动作。
- 根据权利要求4所述的基于分组的分布式存储SCSI目标服务管理方法，其特征在于，接受外部的卷导出管理请求，并将接收到的卷导出操作请求进行转发的步骤包括：对外提供统一的卷导出操作接口，接受外部的卷导出操作请求；将接收到的卷导出操作请求转发到相应的组。
- 根据权利要求5所述的基于分组的分布式存储SCSI目标服务管理方法，其特征在于，接收转发到本组的卷导出操作任务，并将相应的操作应用到本组内的所有节点上的步骤包括：接收转发到本组的卷导出操作任务，并将相应的操作应用到本组内的所有节点上；上报自身的运行状态，并根据下发的节点加入、节点移除操作对本组内对应节点上的卷导出相关信息进行调整。
- 一种基于分组的分布式存储SCSI目标服务管理系统，其特征在于，包括服务组管理模块、管理任务转发模块、分组单元模块；服务组管理模块，用于将分布式存储集群内的节点进行组的划分，并对各组的运行状态进行监控；管理任务转发模块，用于接受外部的卷导出管理请求，并将接收到的卷导出操作请求根据系统中各个分组单元模块的状态进行转发，并将分组单元模块的处理结果返回到前端；分组单元模块，用于接收转发到本组的卷导出操作任务，并将相应的操作应用到本组内的所有节点上；还用于在本组内的节点上完成相应的卷导出任务后，反馈处理结果到管理任务转发模块。
- 根据权利要求7所述的基于分组的分布式存储SCSI目标服务管理系 统，其特征在于，服务组管理模块包括划分子模块、节点处理子模块和状态获取子模块；划分子模块，用于根据容错等级，对集群中的属于同一等级的节点划分到同一个选择域；并根据分组内节点数量，从集群中选中对应数量的节点作为一个分组内的节点；节点处理子模块，用于与各分组单元模块进行交互，根据存储集群节点变动信息对对应分组单元下发节点加入，节点移除动作；状态获取子模块，用于获取各分组单元的状态。
- 根据权利要求8所述的基于分组的分布式存储SCSI目标服务管理系统，其特征在于，管理任务转发模块包括注册子模块、请求接收子模块、转发子模块和返回子模块；注册子模块，用于启动后，接受分组单元模块的注册；请求接收子模块，用于对外提供统一的卷导出操作接口，接受外部的卷导出操作请求；转发子模块，用于将接收到的卷导出操作请求转发到相应的分组单元模块；返回子模块，用于接收分组单元模块返回的处理结果并将分组单元模块的处理结果返回到前端。
- 根据权利要求8所述的基于分组的分布式存储SCSI目标服务管理系统，其特征在于，分组单元模块，用于根据服务组管理模块划分的分组信息管理本分组内的所有节点；分组单元模块包括操作处理子模块、结果反馈子模块、信息调整子模块；操作处理子模块，用于接收管理任务转发模块转发到本分组单元的卷导出操作任务，并将相应的操作应用到本分组内的所有节点上；结果反馈子模块，用于在分组内的节点上完成相应的卷导出任务后，将处理结果反馈到管理任务转发模块；信息调整子模块，用于与服务组管理模块进行交互，上报自身的运行状态，并根据服务组管理模块下发的节点加入、节点移除操作对分组内对应节点上的卷导出相关信息进行调整。
Applications Claiming Priority (2)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202011238059.6A CN112463364A (zh) | 2020-11-09 | 2020-11-09 | 基于分组的分布式存储scsi目标服务管理方法、系统 |
| CN202011238059.6 | 2020-11-09 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| WO2022095638A1 true WO2022095638A1 (zh) | 2022-05-12 |
Family
ID=74825274
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| PCT/CN2021/121439 WO2022095638A1 (zh) | 2020-11-09 | 2021-09-28 | 基于分组的分布式存储scsi目标服务管理方法、系统 |
Country Status (2)
| Country | Link |
|---|---|
| CN (1) | CN112463364A (zh) |
| WO (1) | WO2022095638A1 (zh) |
Cited By (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN117170690A (zh) * | 2023-11-02 | 2023-12-05 | 湖南三湘银行股份有限公司 | 一种分布式构件管理系统 |
Families Citing this family (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN112463364A (zh) * | 2020-11-09 | 2021-03-09 | 苏州浪潮智能科技有限公司 | 基于分组的分布式存储scsi目标服务管理方法、系统 |
| CN116821166B (zh) * | 2023-08-31 | 2023-12-08 | 云筑信息科技(成都)有限公司 | 一种分布式数据导出的方法 |
Citations (7)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US8751533B1 (en) * | 2009-11-25 | 2014-06-10 | Netapp, Inc. | Method and system for transparently migrating storage objects between nodes in a clustered storage system |
| CN106302607A (zh) * | 2015-06-05 | 2017-01-04 | 腾讯科技（深圳）有限公司 | 应用于云计算的块存储系统及方法 |
| CN107179946A (zh) * | 2017-04-24 | 2017-09-19 | 合肥赛猊腾龙信息技术有限公司 | 一种写操作负载均衡系统的多节点调度方法 |
| CN107547653A (zh) * | 2017-09-11 | 2018-01-05 | 华北水利水电大学 | 一种分布式文件存储系统 |
| CN109672714A (zh) * | 2017-10-17 | 2019-04-23 | 中移(苏州)软件技术有限公司 | 一种分布式存储系统的数据处理方法及分布式存储系统 |
| CN112463364A (zh) * | 2020-11-09 | 2021-03-09 | 苏州浪潮智能科技有限公司 | 基于分组的分布式存储scsi目标服务管理方法、系统 |
| CN112948128A (zh) * | 2021-03-30 | 2021-06-11 | 华云数据控股集团有限公司 | Target端的选择方法、系统及计算机可读介质 |
-
2020
- 2020-11-09 CN CN202011238059.6A patent/CN112463364A/zh not_active Withdrawn
-
2021
- 2021-09-28 WO PCT/CN2021/121439 patent/WO2022095638A1/zh active Application Filing
Patent Citations (7)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US8751533B1 (en) * | 2009-11-25 | 2014-06-10 | Netapp, Inc. | Method and system for transparently migrating storage objects between nodes in a clustered storage system |
| CN106302607A (zh) * | 2015-06-05 | 2017-01-04 | 腾讯科技（深圳）有限公司 | 应用于云计算的块存储系统及方法 |
| CN107179946A (zh) * | 2017-04-24 | 2017-09-19 | 合肥赛猊腾龙信息技术有限公司 | 一种写操作负载均衡系统的多节点调度方法 |
| CN107547653A (zh) * | 2017-09-11 | 2018-01-05 | 华北水利水电大学 | 一种分布式文件存储系统 |
| CN109672714A (zh) * | 2017-10-17 | 2019-04-23 | 中移(苏州)软件技术有限公司 | 一种分布式存储系统的数据处理方法及分布式存储系统 |
| CN112463364A (zh) * | 2020-11-09 | 2021-03-09 | 苏州浪潮智能科技有限公司 | 基于分组的分布式存储scsi目标服务管理方法、系统 |
| CN112948128A (zh) * | 2021-03-30 | 2021-06-11 | 华云数据控股集团有限公司 | Target端的选择方法、系统及计算机可读介质 |
Cited By (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN117170690A (zh) * | 2023-11-02 | 2023-12-05 | 湖南三湘银行股份有限公司 | 一种分布式构件管理系统 |
| CN117170690B (zh) * | 2023-11-02 | 2024-03-22 | 湖南三湘银行股份有限公司 | 一种分布式构件管理系统 |
Also Published As
| Publication number | Publication date |
|---|---|
| CN112463364A (zh) | 2021-03-09 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| WO2022095638A1 (zh) | 基于分组的分布式存储scsi目标服务管理方法、系统 | |
| US10701141B2 (en) | Managing software licenses in a disaggregated environment | |
| WO2018094909A1 (zh) | 节点连接方法及分布式计算系统 | |
| US20180091588A1 (en) | Balancing workload across nodes in a message brokering cluster | |
| US20180091586A1 (en) | Self-healing a message brokering cluster | |
| US11068499B2 (en) | Method, device, and system for peer-to-peer data replication and method, device, and system for master node switching | |
| CN105242872B (zh) | 一种面向虚拟集群的共享存储系统 | |
| US9201747B2 (en) | Real time database system | |
| CN102271145A (zh) | 一种虚拟计算机集群及其实施方法 | |
| CN110537169A (zh) | 分布式计算系统中的集群资源管理 | |
| US20200042608A1 (en) | Distributed file system load balancing based on available node capacity | |
| CN105577430A (zh) | 一种高端容错服务器的节点管理方法 | |
| CN103023973A (zh) | 一种基于cpci结构的集群服务器设计方法 | |
| CN102983996A (zh) | 一种高可用集群资源管理的动态配置方法与系统 | |
| US20170147492A1 (en) | Method and System for Implementing Directory Structure of Host System | |
| CN111541599B (zh) | 基于数据总线的集群软件系统及方法 | |
| CN103064964B (zh) | 一种支持分布式事务的数据库的连接方法 | |
| CN110519354A (zh) | 一种分布式对象存储系统及其业务处理方法和存储介质 | |
| CN106951456A (zh) | 一种内存数据库系统及数据处理系统 | |
| WO2019100701A1 (zh) | 一种SAS Switch控制器扩展架构及设计方法 | |
| CN103106242A (zh) | 一种话单查询方法及查询系统 | |
| US9374416B2 (en) | Universal architecture for client management extensions on monitoring, control, and configuration | |
| CN106815318A (zh) | 一种时序数据库的集群化方法及系统 | |
| CN107491270B (zh) | 一种多控存储系统的资源访问方法及装置 | |
| CN111193674B (zh) | 一种基于场景与服务状态的负载分流实现方法和系统 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| 121 | Ep: the epo has been informed by wipo that ep was designated in this application |
Ref document number: 21888335 Country of ref document: EP Kind code of ref document: A1 |
|
| NENP | Non-entry into the national phase |
Ref country code: DE |
|
| 122 | Ep: pct application non-entry in european phase |
Ref document number: 21888335 Country of ref document: EP Kind code of ref document: A1 |