CN113835623B - 基于异构存储引擎的集群服务扩容方法、装置及存储介质 - Google Patents
基于异构存储引擎的集群服务扩容方法、装置及存储介质 Download PDFInfo
- Publication number
- CN113835623B CN113835623B CN202111003827.4A CN202111003827A CN113835623B CN 113835623 B CN113835623 B CN 113835623B CN 202111003827 A CN202111003827 A CN 202111003827A CN 113835623 B CN113835623 B CN 113835623B
- Authority
- CN
- China
- Prior art keywords
- service
- capacity expansion
- storage engine
- setting
- storage
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000003860 storage Methods 0.000 title claims abstract description 197
- 238000000034 method Methods 0.000 title claims abstract description 38
- 230000002085 persistent effect Effects 0.000 claims abstract description 6
- 230000004044 response Effects 0.000 claims description 15
- 238000004590 computer program Methods 0.000 claims description 5
- 230000009286 beneficial effect Effects 0.000 abstract description 4
- 238000005192 partition Methods 0.000 description 11
- 238000010586 diagram Methods 0.000 description 8
- 230000001360 synchronised effect Effects 0.000 description 3
- 230000014509 gene expression Effects 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 238000012544 monitoring process Methods 0.000 description 2
- 230000000007 visual effect Effects 0.000 description 2
- 238000004140 cleaning Methods 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 230000006870 function Effects 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 230000002688 persistence Effects 0.000 description 1
- 230000008569 process Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/06—Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
- G06F3/0601—Interfaces specially adapted for storage systems
- G06F3/0668—Interfaces specially adapted for storage systems adopting a particular infrastructure
- G06F3/067—Distributed or networked storage systems, e.g. storage area networks [SAN], network attached storage [NAS]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/06—Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
- G06F3/0601—Interfaces specially adapted for storage systems
- G06F3/0628—Interfaces specially adapted for storage systems making use of a particular technique
- G06F3/0629—Configuration or reconfiguration of storage systems
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/48—Program initiating; Program switching, e.g. by interrupt
- G06F9/4806—Task transfer initiation or dispatching
- G06F9/4843—Task transfer initiation or dispatching by program, e.g. task dispatcher, supervisor, operating system
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04J—MULTIPLEX COMMUNICATION
- H04J3/00—Time-division multiplex systems
- H04J3/02—Details
- H04J3/06—Synchronising arrangements
- H04J3/0635—Clock or time synchronisation in a network
- H04J3/0638—Clock or time synchronisation among nodes; Internode synchronisation
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
- H04L67/10—Protocols in which an application is distributed across nodes in the network
- H04L67/1097—Protocols in which an application is distributed across nodes in the network for distributed storage of data in networks, e.g. transport arrangements for network file system [NFS], storage area networks [SAN] or network attached storage [NAS]
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Human Computer Interaction (AREA)
- Software Systems (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本发明提出了一种基于异构存储引擎的集群服务扩容方法、装置及存储介质。其中，方法包括：获取预设的WEB界面中的参数设置以及服务标识设置；将参数设置与服务标识设置关联存储，并持久化到预设的关系型数据库的扩容参数表中；响应于扩容参数表更新，基于更新的参数及服务标识启动线程池，并加载预设的Filestore存储引擎或Bluestore存储引擎对相应节点进行服务扩容操作。本发明的有益效果包括：本发明可以实现对存储引擎为filestore的集群扩入存储引擎为bluestore的节点，从而实现分布式存储集群中多引擎共存，充分利用SSD的空间，提高集群的性能，有效的提高了分布式存储系统的安全性和可扩展性。
Description
技术领域
本发明涉及集群扩容领域，尤其涉及一种基于异构存储引擎的集群服务扩容方法、装置及存储介质。
背景技术
在部署的分布式存储集群中，一方面随着业务数据的增长，对集群有着强烈的扩容需求，另一方面，为了保障存储数据的安全，随着存储业务在SSD上的应用增多，提高性能，保持原集群业务不受影响，多存储引擎共存的需求也凸显出来，分布式存储对异构扩容的支持显得尤为重要。
目前存储管理软件扩容一般采用单一模式，只能保持与集群现有存储引擎一致，这样就存在一个弊端，在现场实际生产环境中，运行长时间的系统，重置部署需要停止业务，数据的备份等操作，比较麻烦，同时想要扩容并提高集群的性能，就需要设计一种兼容不同存储引擎的扩容方案。
发明内容
为解决上述技术问题，在本发明的一个方面，提出了一种基于异构存储引擎的集群服务扩容方法，所述方法包括：获取预设的WEB界面中的参数设置以及服务标识设置；将所述参数设置与所述服务标识设置关联存储，并持久化到预设的关系型数据库的扩容参数表中；响应于所述扩容参数表更新，基于更新的参数及服务标识启动线程池，并加载预设的Filestore存储引擎或Bluestore存储引擎对相应节点进行服务扩容操作。
在一个或多个实施例中，所述参数设置以及服务标识设置，包括：设置待扩容节点的IP地址、目标存储盘以及所要扩容的服务的服务标识。
在一个或多个实施例中，在设置待扩容节点的IP地址时，可以设置一个或多个IP地址。
在一个或多个实施例中，所述将所述参数设置与所述服务标识设置关联存储，包括：响应于设置的待扩容节点的IP地址为多个时，将每个IP地址分别与所述目标存储盘以及所述服务标识关联存储。
在一个或多个实施例中，所述响应于所述扩容参数表更新，基于更新的参数及服务标识启动线程池，包括：响应于所述扩容参数表更新，解析所述更新的内容获得一个或多个IP地址；根据所述一个或多个IP地址启动一个或多个并发的线程。
在一个或多个实施例中，所述基于异构存储引擎的集群服务扩容方法还包括判断目标存储盘的种类，并基于所述目标存储盘的种类执行的以下步骤：响应于所述目标存储盘的种类为HDD，在所述一个或多个并发的线程中，加载预设的Filestore存储引擎对一个或多个节点进行服务扩容操作；响应于所述目标存储盘的种类为SSD，在所述一个或多个并发的线程中，加载预设的Bluestore存储引擎对一个或多个节点进行服务扩容操作。
在一个或多个实施例中，所述基于异构存储引擎的集群服务扩容方法还包括：在加载预设的Filestore存储引擎或Bluestore存储引擎对相应节点进行服务扩容操作之前，对目标磁盘进行格式化处理；以及根据选择的存储引擎进行OSD初始化。
在一个或多个实施例中，所述基于异构存储引擎的集群服务扩容方法还包括：响应于OSD初始化完成，进行NTP时钟同步，以使得所述待扩容节点的NTP时钟和所述集群的NTP时钟保持一致。
在本发明的另一个方面，提出了一种基于异构存储引擎的集群服务扩容装置，包括：参数获取模块，配置用于获取预设的WEB界面中的参数设置以及服务标识设置；关联存储模块，配置用于将所述参数设置与所述服务标识设置关联存储，并持久化到预设的关系型数据库的扩容参数表中；以及服务扩容模块，配置用于响应于所述扩容参数表更新，基于更新的参数及服务标识启动线程池，并加载预设的Filestore存储引擎或Bluestore存储引擎对相应节点进行服务扩容操作。
在一个或多个实施例中，所述参数获取模块还配置用于设置待扩容节点的IP地址、目标存储盘以及所要扩容的服务的服务标识。
在一个或多个实施例中，所述参数获取模块还配置用于在设置待扩容节点的IP地址时，可以设置一个或多个IP地址。
在一个或多个实施例中，所述关联存储模块还配置用于响应于设置的待扩容节点的IP地址为多个，将每个IP地址分别与所述目标存储盘以及所述服务标识关联存储。
在一个或多个实施例中，所述服务扩容模块还配置用于响应于所述扩容参数表更新，解析所述更新的内容获得一个或多个IP地址；根据所述一个或多个IP地址启动一个或多个并发的线程。
在一个或多个实施例中，所述服务扩容模块还配置用于判断目标存储盘的种类，并基于所述目标存储盘的种类执行的以下步骤：响应于所述目标存储盘的种类为HDD，在所述一个或多个并发的线程中，加载预设的Filestore存储引擎对一个或多个节点进行服务扩容操作；响应于所述目标存储盘的种类为SSD，在所述一个或多个并发的线程中，加载预设的Bluestore存储引擎对一个或多个节点进行服务扩容操作。
在一个或多个实施例中，所述服务扩容模块还配置用于在加载预设的Filestore存储引擎或Bluestore存储引擎对相应节点进行服务扩容操作之前，对目标磁盘进行格式化处理；以及根据选择的存储引擎进行OSD初始化。
在一个或多个实施例中，所述服务扩容模块还配置用于响应于OSD初始化完成，进行NTP时钟同步，以使得所述待扩容节点的NTP时钟和所述集群的NTP时钟保持一致。
在本发明的另一个方面，提出了一种存储介质，所述存储介质中存储有可运行的计算机程序，所述计算机程序被执行时用于实现如下实施例中的步骤，步骤包括：获取预设的WEB界面中的参数设置以及服务标识设置；将所述参数设置与所述服务标识设置关联存储，并持久化到预设的关系型数据库的扩容参数表中；响应于所述扩容参数表更新，基于更新的参数及服务标识启动线程池，并加载预设的Filestore存储引擎或Bluestore存储引擎对相应节点进行服务扩容操作。
在一个或多个实施例中，所述参数设置以及服务标识设置，包括：设置待扩容节点的IP地址、目标存储盘以及所要扩容的服务的服务标识。
在一个或多个实施例中，在设置待扩容节点的IP地址时，可以设置一个或多个IP地址。
在一个或多个实施例中，所述将所述参数设置与所述服务标识设置关联存储，包括：响应于设置的待扩容节点的IP地址为多个时，将每个IP地址分别与所述目标存储盘以及所述服务标识关联存储。
在一个或多个实施例中，所述响应于所述扩容参数表更新，基于更新的参数及服务标识启动线程池，包括：响应于所述扩容参数表更新，解析所述更新的内容获得一个或多个IP地址；根据所述一个或多个IP地址启动一个或多个并发的线程。
在一个或多个实施例中，所述基于异构存储引擎的集群服务扩容方法还包括判断目标存储盘的种类，并基于所述目标存储盘的种类执行的以下步骤：响应于所述目标存储盘的种类为HDD，在所述一个或多个并发的线程中，加载预设的Filestore存储引擎对一个或多个节点进行服务扩容操作；响应于所述目标存储盘的种类为SSD，在所述一个或多个并发的线程中，加载预设的Bluestore存储引擎对一个或多个节点进行服务扩容操作。
在一个或多个实施例中，所述基于异构存储引擎的集群服务扩容方法还包括：在加载预设的Filestore存储引擎或Bluestore存储引擎对相应节点进行服务扩容操作之前，对目标磁盘进行格式化处理；以及根据选择的存储引擎进行OSD初始化。
在一个或多个实施例中，所述基于异构存储引擎的集群服务扩容方法还包括：响应于OSD初始化完成，进行NTP时钟同步，以使得所述待扩容节点的NTP时钟和所述集群的NTP时钟保持一致。
本发明的有益效果包括：本发明可以实现对存储引擎为filestore的集群扩入存储引擎为bluestore的节点，从而实现分布式存储集群中多引擎共存，充分利用SSD的空间，提高集群的性能，有效的提高了分布式存储系统的安全性和可扩展性。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的实施例。
图1为本发明的一种基于异构存储引擎的集群服务扩容方法的工作流程图；
图2为本发明实施例的基于异构存储引擎的集群服务扩容方法的工作流程图；
图3为本发明实施例的执行扩容任务的工作流程图；
图4为本发明的一种基于异构存储引擎的集群服务扩容装置的结构示意图；
图5为本发明的一种可读存储介质的结构示意图。
具体实施方式
为使本发明的目的、技术方案和优点更加清楚明白，以下结合具体实施例，并参照附图，对本发明实施例进一步详细说明。
需要说明的是，本发明实施例中所有使用“第一”和“第二”的表述均是为了区分两个相同名称非相同的实体或者非相同的参量，可见“第一”“第二”仅为了表述的方便，不应理解为对本发明实施例的限定，后续实施例对此不再一一说明。
块存储是指在一个RAID(独立磁盘冗余阵列)集中，一个控制器加入一组磁盘驱动器，然后提供固定大小的RAID块作为LUN(逻辑单元号)的卷(即逻辑卷)。块存储的主要目的是将裸磁盘空间整个映射给主机使用，包括划分逻辑盘、做Raid或者LVM等方式划分出N各逻辑盘。
图1为本发明的一种基于异构存储引擎的集群服务扩容方法的工作流程图。如图1所示，本发明的基于异构存储引擎的集群服务扩容方法的工作流程包括：步骤S1、获取预设的WEB界面中的参数设置以及服务标识设置；步骤S2、将参数设置与服务标识设置关联存储，并持久化到预设的关系型数据库的扩容参数表中；步骤S3、响应于扩容参数表更新，基于更新的参数及服务标识启动线程池，并加载预设的Filestore存储引擎或Bluestore存储引擎对相应节点进行服务扩容操作。
具体的，WEB界面提供异构扩容时所需的参数设置，服务的标识设置，设置完成后将参数统一持久化到关系型数据库的扩容参数数据表中，表字段包括扩容节点IP，存储引擎，所选磁盘，是否扩mon服务，是否扩tgtd服务，是否扩ctdb服务。数据库解析器通过解析数据表的参数字段，将扩容ID和参数下发至任务管理器模块，任务管理器模块属于系统的公共服务模块，任务管理器模块接收到扩容ID后和参数后，根据扩容节点的IP数量启用线程池。线程池根据扩容IP节点数创建相同数量的线程，每个线程执行一个扩容节点任务，根据IP分别在扩容节点上并行执行扩容任务。执行扩容任务时，根据存储引擎的选择来调用相应的存储引擎模块进行OSD的初始化和crush结构的生成。其中，始化生成osd资源后，需要采用Crush算法生成crush结构，层次分为root，host和osd，然后将每个节点生成的多个osd批量移到各自host(主机名)下，供后续存储池的使用。
本发明的有益效果包括：本发明可以实现对存储引擎为filestore的集群扩入存储引擎为bluestore的节点，从而实现分布式存储集群中多引擎共存，充分利用SSD的空间，提高集群的性能，有效的提高了分布式存储系统的安全性和可扩展性。
在一些实施例中，参数设置以及服务标识设置，包括：设置待扩容节点的IP地址、目标存储盘以及所要扩容的服务的服务标识。
在一些实施例中，在设置待扩容节点的IP地址时，可以设置一个或多个IP地址。
在一些实施例中，在设置待扩容节点的IP地址时，可以设置一个或多个IP地址，且可以为不同的IP地址设置不同的服务标识。
在一些实施例中，将参数设置与服务标识设置关联存储，包括：响应于设置的待扩容节点的IP地址为多个，将每个IP地址分别与目标存储盘以及服务标识关联存储。
在一些实施例中，响应于扩容参数表更新，基于更新的参数及服务标识启动线程池，包括：响应于扩容参数表更新，解析更新的内容获得一个或多个IP地址；根据一个或多个IP地址启动一个或多个并发的线程。
在一些实施例中，本发明的方法还包括判断目标存储盘的种类，并基于目标存储盘的种类执行的以下步骤：响应于目标存储盘的种类为HDD，在一个或多个并发的线程中，加载预设的Filestore存储引擎对一个或多个节点进行服务扩容操作；响应于目标存储盘的种类为SSD，在一个或多个并发的线程中，加载预设的Bluestore存储引擎对一个或多个节点进行服务扩容操作。
在一些实施例中，本发明的方法还包括：在加载预设的Filestore存储引擎或Bluestore存储引擎对相应节点进行服务扩容操作之前，对目标磁盘进行格式化处理；以及根据选择的存储引擎进行OSD初始化。
在一些实施例中，本发明的方法还包括：响应于OSD初始化完成，进行NTP时钟同步，以使得待扩容节点的NTP时钟和集群的NTP时钟保持一致。
为了更清楚的阐述本发明的方法，以下讲义扩容MON服务(监控服务)来进行说明。其中，MON服务可以配置单独的IP节点实现监控服务也可以在集群中现有的节点中选择负载较轻的节点设置MON功能分区，相比于独立的MON节点，具有MON功能分区的节点只能实现部分主要的监控功能。
图2为本发明实施例的基于异构存储引擎的集群服务扩容方法的工作流程图。如图2所示，在本实施例中，工作流程包括：提供可视化的Web操作界面，在Web界面选择节点扩容，输入要扩容的节点IP，支持单独节点和多节点扩容。可以选择将扩容节点作为MON节点，为了提供高性能的MON节点，可以将需要扩容的节点设置MON分区，并选择目标存储盘的，由于MON节点需要较高的读写速度，因此该分区在SSD上进行划分，一般化为50G，这样MON数据会写入SSD盘中，从而提高性能。根据选择的目标磁盘进行存储引擎的参数选择，以便后续进行SSD应用的操作。当存储引擎选择为bluestore时，需要对SSD进行分区划分，划分成对的分区做OSD使用，每对分区包括一个100M的控制分区和固定大小的数据分区，根据预留的WAL分区来计算，一般设置WAL分区为2G，最后根据所选择的磁盘将所需的参数下发到对应的任务管理器执行扩容的任务。
通过上述实施例的方案，本发明可以实现对存储引擎为filestore的集群扩入存储引擎为bluestore的节点，从而实现分布式存储集群中多引擎共存，充分利用SSD的空间，提高集群的性能，有效的提高了分布式存储系统的安全性和可扩展性。
图3为本发明实施例的执行扩容任务的工作流程图。如图3所示，在上述实施例的基础上，执行扩容任务的工作流程包括：任务管理器接收到扩容任务后，首先会对扩容节点进行磁盘清理流程，对磁盘进行格式化，以防被扩节点磁盘存在分区或挂载目录等残留信息。然后根据选择的存储引擎进行OSD初始化流程，完成HDD和SSD上的OSD生成，并移动crush结构，将OSD资源移动到host故障域中，如果扩容节点为多个节点，该过程是并发在每个节点执行，OSD初始化完成之后，需进行NTP时钟的同步，将扩容节点和现有集群NTP时钟保持一致，根据WEB界面传入到扩容任务管理器中的标识参数，可以动态的进行扩服务操作。如果下发的扩MON参数为True，则进行扩MON服务，如果下发的扩TGTD参数为True，则进行扩TGTD服务，如果原集群配置有CTDB，则进行扩CTDB服务的操作。扩服务完成之后，被扩容节点则加入集群，节点上的OSD资源供集群使用。其中，MDS(Meta Data Service，元数据服务)：元数据服务节点开启MDS服务后，一方面管理和存储元数据信息，另一方面感知集群状态并进行调度。TGT(SCSI target framework，为创建、维护SCSI target驱动(包括iSCSI、FC、SRP等)提供支持的体系结构)：ISCSI的Target套件服务开启后，进行target，lun的管理，以及对target的访问控制。CTDB(Cluster Trivial Database)：集群数据库提供TDB数据库的集群版本，并在节点故障时自动重建，恢复数据库；监视节点上运行的服务。为集群高可用服务。
本发明方案的有益效果包括：(1)当分布式存储系统出现扩容需求时，可以提供可视化的扩容界面，当所需参数设置好之后，进行智能化的扩容流程完成扩容操作，同时为了提高集群的性能，支持多引擎共存使用。(2)当扩容流程执行过程中，可以动态的进行扩服务的操作，例如块场景下可以扩tgtd服务，文件场景下扩mds服务等，增加了集群的可扩展性。
在上述各实施例的基础上，本发明还提出了一种基于异构存储引擎的集群服务扩容装置。图4为本发明的一种基于异构存储引擎的集群服务扩容装置的结构示意图。如图4所示，本发明的基于异构存储引擎的集群服务扩容装置包括：参数获取模块10，配置用于获取预设的WEB界面中的参数设置以及服务标识设置；关联存储模块20，配置用于将参数设置与服务标识设置关联存储，并持久化到预设的关系型数据库的扩容参数表中；以及服务扩容模块30，配置用于响应于扩容参数表更新，基于更新的参数及服务标识启动线程池，并加载预设的Filestore存储引擎或Bluestore存储引擎对相应节点进行服务扩容操作。
在一个或多个实施例中，参数获取模块还配置用于设置待扩容节点的IP地址、目标存储盘以及所要扩容的服务的服务标识。
在一个或多个实施例中，参数获取模块还配置用于在设置待扩容节点的IP地址时，可以设置一个或多个IP地址。
在一个或多个实施例中，关联存储模块还配置用于响应于设置的待扩容节点的IP地址为多个，将每个IP地址分别与目标存储盘以及服务标识关联存储。
在一个或多个实施例中，服务扩容模块还配置用于响应于扩容参数表更新，解析更新的内容获得一个或多个IP地址；根据一个或多个IP地址启动一个或多个并发的线程。
在一个或多个实施例中，服务扩容模块还配置用于判断目标存储盘的种类，并基于目标存储盘的种类执行的以下步骤：响应于目标存储盘的种类为HDD，在一个或多个并发的线程中，加载预设的Filestore存储引擎对一个或多个节点进行服务扩容操作；响应于目标存储盘的种类为SSD，在一个或多个并发的线程中，加载预设的Bluestore存储引擎对一个或多个节点进行服务扩容操作。
在一个或多个实施例中，服务扩容模块还配置用于在加载预设的Filestore存储引擎或Bluestore存储引擎对相应节点进行服务扩容操作之前，对目标磁盘进行格式化处理；以及根据选择的存储引擎进行OSD初始化。
在一个或多个实施例中，服务扩容模块还配置用于响应于OSD初始化完成，进行NTP时钟同步，以使得待扩容节点的NTP时钟和集群的NTP时钟保持一致。
通过本发明的一种基于异构存储引擎的集群服务扩容装置可以实现对存储引擎为filestore的集群扩入存储引擎为bluestore的节点，从而实现分布式存储集群中多引擎共存，充分利用SSD的空间，提高集群的性能，有效的提高了分布式存储系统的安全性和可扩展性。
基于上述各实施例，本发明还提出了一种存储介质。图5为本发明的一种可读存储介质的结构示意图，如图5所示，本发明的可读存储介质包括：存储介质40，该存储介质40中存储有可运行的计算机程序401，该计算机程序401被执行时用于实现如下实施例中的步骤，步骤包括：获取预设的WEB界面中的参数设置以及服务标识设置；将参数设置与服务标识设置关联存储，并持久化到预设的关系型数据库的扩容参数表中；响应于扩容参数表更新，基于更新的参数及服务标识启动线程池，并加载预设的Filestore存储引擎或Bluestore存储引擎对相应节点进行服务扩容操作。
在一个或多个实施例中，参数设置以及服务标识设置，包括：设置待扩容节点的IP地址、目标存储盘以及所要扩容的服务的服务标识。
在一个或多个实施例中，在设置待扩容节点的IP地址时，可以设置一个或多个IP地址。
在一个或多个实施例中，将参数设置与服务标识设置关联存储，包括：响应于设置的待扩容节点的IP地址为多个时，将每个IP地址分别与目标存储盘以及服务标识关联存储。
在一个或多个实施例中，响应于扩容参数表更新，基于更新的参数及服务标识启动线程池，包括：响应于扩容参数表更新，解析更新的内容获得一个或多个IP地址；根据一个或多个IP地址启动一个或多个并发的线程。
在一个或多个实施例中，基于异构存储引擎的集群服务扩容方法还包括判断目标存储盘的种类，并基于目标存储盘的种类执行的以下步骤：响应于目标存储盘的种类为HDD，在一个或多个并发的线程中，加载预设的Filestore存储引擎对一个或多个节点进行服务扩容操作；响应于目标存储盘的种类为SSD，在一个或多个并发的线程中，加载预设的Bluestore存储引擎对一个或多个节点进行服务扩容操作。
在一个或多个实施例中，基于异构存储引擎的集群服务扩容方法还包括：在加载预设的Filestore存储引擎或Bluestore存储引擎对相应节点进行服务扩容操作之前，对目标磁盘进行格式化处理；以及根据选择的存储引擎进行OSD初始化。
在一个或多个实施例中，基于异构存储引擎的集群服务扩容方法还包括：响应于OSD初始化完成，进行NTP时钟同步，以使得待扩容节点的NTP时钟和集群的NTP时钟保持一致。
通过本发明的存储介质中的计算机程序所实现的方法可以实现对存储引擎为filestore的集群扩入存储引擎为bluestore的节点，从而实现分布式存储集群中多引擎共存，充分利用SSD的空间，提高集群的性能，有效的提高了分布式存储系统的安全性和可扩展性。
最后需要说明的是，本文的计算机可读存储介质(例如，存储器)可以是易失性存储器或非易失性存储器，或者可以包括易失性存储器和非易失性存储器两者。作为例子而非限制性的，非易失性存储器可以包括只读存储器(ROM)、可编程ROM(PROM)、电可编程ROM(EPROM)、电可擦写可编程ROM(EEPROM)或快闪存储器。易失性存储器可以包括随机存取存储器(RAM)，该RAM可以充当外部高速缓存存储器。作为例子而非限制性的，RAM可以以多种形式获得，比如同步RAM(DRAM)、动态RAM(DRAM)、同步DRAM(SDRAM)、双数据速率SDRAM(DDRSDRAM)、增强SDRAM(ESDRAM)、同步链路DRAM(SLDRAM)、以及直接Rambus RAM(DRRAM)。所公开的方面的存储设备意在包括但不限于这些和其它合适类型的存储器。
以上是本发明公开的示例性实施例，但是应当注意，在不背离权利要求限定的本发明实施例公开的范围的前提下，可以进行多种改变和修改。根据这里描述的公开实施例的方法权利要求的功能、步骤和/或动作不需以任何特定顺序执行。此外，尽管本发明实施例公开的元素可以以个体形式描述或要求，但除非明确限制为单数，也可以理解为多个。
应当理解的是，在本文中使用的，除非上下文清楚地支持例外情况，单数形式“一个”旨在也包括复数形式。还应当理解的是，在本文中使用的“和/或”是指包括一个或者一个以上相关联地列出的项目的任意和所有可能组合。
上述本发明实施例公开实施例序号仅仅为了描述，不代表实施例的优劣。
所属领域的普通技术人员应当理解：以上任何实施例的讨论仅为示例性的，并非旨在暗示本发明实施例公开的范围(包括权利要求)被限于这些例子；在本发明实施例的思路下，以上实施例或者不同实施例中的技术特征之间也可以进行组合，并存在如上的本发明实施例的不同方面的许多其它变化，为了简明它们没有在细节中提供。因此，凡在本发明实施例的精神和原则之内，所做的任何省略、修改、等同替换、改进等，均应包含在本发明实施例的保护范围之内。
Claims (6)
1.一种基于异构存储引擎的集群服务扩容方法，其特征在于，所述方法包括：
获取预设的WEB界面中的参数设置以及服务标识设置；
将所述参数设置与所述服务标识设置关联存储，并持久化到预设的关系型数据库的扩容参数表中；
响应于所述扩容参数表更新，基于更新的参数及服务标识启动线程池，并加载预设的Filestore存储引擎或Bluestore存储引擎对相应节点进行服务扩容操作；
其中，所述参数设置以及服务标识设置，包括：设置待扩容节点的IP地址、目标存储盘以及所要扩容的服务的服务标识；
在设置待扩容节点的IP地址时，可以设置一个或多个IP地址；
所述响应于所述扩容参数表更新，基于更新的参数及服务标识启动线程池，包括：响应于所述扩容参数表更新，解析所述更新的内容获得一个或多个IP地址；根据所述一个或多个IP地址启动一个或多个并发的线程；
所述方法还包括判断目标存储盘的种类，并基于所述目标存储盘的种类执行的以下步骤：响应于所述目标存储盘的种类为HDD，在所述一个或多个并发的线程中，加载预设的Filestore存储引擎对一个或多个节点进行服务扩容操作；响应于所述目标存储盘的种类为SSD，在所述一个或多个并发的线程中，加载预设的Bluestore存储引擎对一个或多个节点进行服务扩容操作。
2.如权利要求1所述的基于异构存储引擎的集群服务扩容方法，其特征在于，所述将所述参数设置与所述服务标识设置关联存储，包括：
响应于设置的待扩容节点的IP地址为多个，将每个IP地址分别与所述目标存储盘以及所述服务标识关联存储。
3.如权利要求1所述的基于异构存储引擎的集群服务扩容方法，其特征在于，所述方法还包括：
在加载预设的Filestore存储引擎或Bluestore存储引擎对相应节点进行服务扩容操作之前， 对目标磁盘进行格式化处理；以及
根据选择的存储引擎进行OSD初始化。
4.如权利要求3所述的基于异构存储引擎的集群服务扩容方法，其特征在于，所述方法还包括：
响应于OSD初始化完成，进行NTP时钟同步，以使得所述待扩容节点的NTP时钟和所述集群的NTP时钟保持一致。
5.一种基于异构存储引擎的集群服务扩容装置，其特征在于，包括：
参数获取模块，配置用于获取预设的WEB界面中的参数设置以及服务标识设置；
关联存储模块，配置用于将所述参数设置与所述服务标识设置关联存储，并持久化到预设的关系型数据库的扩容参数表中；以及
服务扩容模块，配置用于响应于所述扩容参数表更新，基于更新的参数及服务标识启动线程池，并加载预设的Filestore存储引擎或Bluestore存储引擎对相应节点进行服务扩容操作；
其中，所述参数设置以及服务标识设置，包括：设置待扩容节点的IP地址、目标存储盘以及所要扩容的服务的服务标识；
在设置待扩容节点的IP地址时，可以设置一个或多个IP地址；
所述响应于所述扩容参数表更新，基于更新的参数及服务标识启动线程池，包括：响应于所述扩容参数表更新，解析所述更新的内容获得一个或多个IP地址；根据所述一个或多个IP地址启动一个或多个并发的线程；
方法还包括判断目标存储盘的种类，并基于所述目标存储盘的种类执行的以下步骤：响应于所述目标存储盘的种类为HDD，在所述一个或多个并发的线程中，加载预设的Filestore存储引擎对一个或多个节点进行服务扩容操作；响应于所述目标存储盘的种类为SSD，在所述一个或多个并发的线程中，加载预设的Bluestore存储引擎对一个或多个节点进行服务扩容操作。
6.一种存储介质，其特征在于，所述存储介质中存储有可运行的计算机程序，所述计算机程序被执行时用于实现如上述权利要求1-4任意一项所述的一种基于异构存储引擎的集群服务扩容方法的步骤。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202111003827.4A CN113835623B (zh) | 2021-08-30 | 2021-08-30 | 基于异构存储引擎的集群服务扩容方法、装置及存储介质 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202111003827.4A CN113835623B (zh) | 2021-08-30 | 2021-08-30 | 基于异构存储引擎的集群服务扩容方法、装置及存储介质 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN113835623A CN113835623A (zh) | 2021-12-24 |
| CN113835623B true CN113835623B (zh) | 2023-12-29 |
Family
ID=78961546
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202111003827.4A Active CN113835623B (zh) | 2021-08-30 | 2021-08-30 | 基于异构存储引擎的集群服务扩容方法、装置及存储介质 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN113835623B (zh) |
Citations (6)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US9558194B1 (en) * | 2013-05-03 | 2017-01-31 | EMC IP Holding Company LLC | Scalable object store |
| CN110275681A (zh) * | 2019-06-27 | 2019-09-24 | 深圳前海微众银行股份有限公司 | 一种数据存储方法及数据存储系统 |
| CN110515919A (zh) * | 2019-08-20 | 2019-11-29 | 苏州浪潮智能科技有限公司 | 一种分布式集群提供多存储服务的方法、设备及可读介质 |
| CN111240901A (zh) * | 2020-01-13 | 2020-06-05 | 苏州浪潮智能科技有限公司 | 分布式块存储系统的节点动态扩展系统、方法及设备 |
| WO2020248493A1 (zh) * | 2019-06-10 | 2020-12-17 | 平安科技（深圳）有限公司 | 基于存储引擎bluestore的压缩方法、装置及存储介质 |
| CN112860186A (zh) * | 2021-02-05 | 2021-05-28 | 中国科学技术大学 | 一种千亿级别的对象存储桶的扩容方法 |
Family Cites Families (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US10454791B2 (en) * | 2015-10-28 | 2019-10-22 | Qomplx, Inc. | Highly scalable distributed connection interface for data capture from multiple network service sources |
-
2021
- 2021-08-30 CN CN202111003827.4A patent/CN113835623B/zh active Active
Patent Citations (6)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US9558194B1 (en) * | 2013-05-03 | 2017-01-31 | EMC IP Holding Company LLC | Scalable object store |
| WO2020248493A1 (zh) * | 2019-06-10 | 2020-12-17 | 平安科技（深圳）有限公司 | 基于存储引擎bluestore的压缩方法、装置及存储介质 |
| CN110275681A (zh) * | 2019-06-27 | 2019-09-24 | 深圳前海微众银行股份有限公司 | 一种数据存储方法及数据存储系统 |
| CN110515919A (zh) * | 2019-08-20 | 2019-11-29 | 苏州浪潮智能科技有限公司 | 一种分布式集群提供多存储服务的方法、设备及可读介质 |
| CN111240901A (zh) * | 2020-01-13 | 2020-06-05 | 苏州浪潮智能科技有限公司 | 分布式块存储系统的节点动态扩展系统、方法及设备 |
| CN112860186A (zh) * | 2021-02-05 | 2021-05-28 | 中国科学技术大学 | 一种千亿级别的对象存储桶的扩容方法 |
Non-Patent Citations (1)
| Title |
|---|
| 基于IC芯片设计企业的分布式存储应用;贺强;宗萍;;电子技术与软件工程(第15期);全文 * |
Also Published As
| Publication number | Publication date |
|---|---|
| CN113835623A (zh) | 2021-12-24 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| JP6708929B2 (ja) | ストレージ制御装置、ストレージシステムおよびストレージ制御プログラム | |
| CN107807794B (zh) | 一种数据存储方法和装置 | |
| JP4215606B2 (ja) | ディスクアレイ装置および記憶容量拡張方法ならびにプログラム | |
| CN109542342B (zh) | 元数据管理与数据重构方法、设备及存储介质 | |
| US9367598B2 (en) | Merging an out of synchronization indicator and a change recording indicator in response to a failure in consistency group formation | |
| US20060047926A1 (en) | Managing multiple snapshot copies of data | |
| JP4419884B2 (ja) | データ複製装置、方法及びプログラム並びに記憶システム | |
| JP4519179B2 (ja) | 論理ボリューム管理プログラム、論理ボリューム管理装置、論理ボリューム管理方法、および分散ストレージシステム | |
| US20120265935A1 (en) | Method for implementing disk array, and method and apparatus for reading or writing data | |
| JP2013196290A (ja) | バックアップ装置，バックアップ方法，およびバックアッププログラム | |
| JP4225206B2 (ja) | 記憶装置の複製データ格納システムと複製データ格納プログラム | |
| US8140886B2 (en) | Apparatus, system, and method for virtual storage access method volume data set recovery | |
| CN110597663A (zh) | 一种事务处理方法及装置 | |
| US7970736B2 (en) | System, method and computer program product for storing transient state information | |
| JP2019191951A (ja) | 情報処理システム及びボリューム割当て方法 | |
| CN111506253A (zh) | 一种分布式存储系统及其存储方法 | |
| JP2019204527A (ja) | 記憶機器のデータ位置の処理方法及び処理装置、コンピュータ機器並びにコンピュータ読み取り可能な記憶媒体 | |
| US9942324B2 (en) | Rebalancing and elastic storage scheme with elastic named distributed circular buffers | |
| CN116450418B (zh) | 基于卷备份的断点差异同步方法、系统及卷实时备份方法 | |
| CN113835623B (zh) | 基于异构存储引擎的集群服务扩容方法、装置及存储介质 | |
| US8775735B2 (en) | Storage system and operation method of a storage system | |
| KR102277731B1 (ko) | 스토리지 시스템의 구동 방법 및 스토리지 컨트롤러 | |
| CN114020541B (zh) | 备份数据展示方法、装置、设备及存储介质 | |
| CN109508140B (zh) | 存储资源管理方法、装置、电子设备及电子设备、系统 | |
| CN115587141A (zh) | 一种数据库同步方法和装置 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |