CN112905119B

CN112905119B - 一种分布式存储系统的数据写入控制方法、装置及设备

Info

Publication number: CN112905119B
Application number: CN202110189184.0A
Authority: CN
Inventors: 赵晓青
Original assignee: Shandong Yingxin Computer Technology Co Ltd
Current assignee: Shandong Yingxin Computer Technology Co Ltd
Priority date: 2021-02-19
Filing date: 2021-02-19
Publication date: 2022-10-28
Anticipated expiration: 2041-02-19
Also published as: CN112905119A

Abstract

本发明公开了一种分布式存储系统的数据写入控制方法、装置、设备及计算机可读存储介质，基于磁盘存入新数据的概率与所述磁盘的权重值成正相关的机制，通过预先建立磁盘的权重值与所述磁盘的容量利用率成负相关的对应关系，获取分布式存储系统中各磁盘的容量利用率，根据磁盘的容量利用率调节磁盘的权重值，实现对磁盘权重值的动态调节，使得磁盘容量利用率较高时降低被存入新数据的几率，在磁盘容量利用率较低时提高被存入新数据的几率，从而在整个分布式存储系统中实现各磁盘的存储均衡，避免出现因部分磁盘容量占满而导致数据存储中断、数据丢失的问题。

Description

一种分布式存储系统的数据写入控制方法、装置及设备

技术领域

本发明涉及分布式存储技术领域，特别是涉及一种分布式存储系统的数据写入控制方法、装置、设备及计算机可读存储介质。

背景技术

随着云计算和大数据技术在现代社会发展中的飞速发展，生产生活中所积累的生产资料数据也呈指数级增长，海量存储技术在互联网发展中越发成为不可或缺的一部分。而在分布式存储系统中，由于海量的数据请求会按照一定的crush规则存储到磁盘，集群中部分磁盘会优先到达容量水位，可能会出现nearfull(近满)状态，导致数据存储中断，由此造成数据丢失等问题。

因此，如何进行分布式存储系统的均衡存储，是本领域技术人员需要解决的技术问题。

发明内容

本发明的目的是提供一种分布式存储系统的数据写入控制方法、装置、设备及计算机可读存储介质，用于实现分布式存储系统的均衡存储。

为解决上述技术问题，本发明提供一种分布式存储系统的数据写入控制方法，包括：

获取分布式存储系统中各磁盘的容量利用率；

根据所述磁盘的容量利用率调节所述磁盘的权重值；

当需存入新数据时，根据各所述磁盘的权重值确定各所述磁盘的存储优先级，而后根据各所述磁盘的存储优先级确定所述新数据的存储位置；

其中，所述磁盘的权重值与所述磁盘的容量利用率成负相关；所述磁盘的存储优先级与所述磁盘的权重值成正相关。

可选的，还包括：

当所述磁盘的容量利用率达到第二阈值时，对所述磁盘进行数据隔离以禁止新数据存入所述磁盘。

可选的，当所述磁盘的容量利用率达到第二阈值时，还包括：

检查所述磁盘的健康状态参数；

当根据所述磁盘的健康状态参数确定所述磁盘处于健康运行状态时，调用数据重构脚本以将所述磁盘的数据重构至其他磁盘。

可选的，所述调用数据重构脚本以将所述磁盘的数据重构至其他磁盘，具体包括：

确定容量利用率小于第三阈值的磁盘为目标磁盘；

按数据连续性将所述磁盘的数据重构为多组数据后，将各组数据均匀存入所述磁盘和各所述目标磁盘。

可选的，还包括：

根据所述磁盘的容量利用率更新所述磁盘的历史容量利用率曲线；

依据所述历史容量利用率曲线预测所述磁盘的容量利用率达到预设阈值的时间预测值；

相应的，所述根据所述磁盘的容量利用率调节所述磁盘的权重值，具体为：

根据所述磁盘的容量利用率和所述时间预测值调节所述磁盘的权重值。

可选的，还包括：

当接收到查询指令时，在查询界面显示所述历史容量利用率曲线。

可选的，所述按预设的磁盘容量利用率和磁盘权重值的对应关系，根据所述磁盘的容量利用率调节所述磁盘的权重值，具体为：

当所述磁盘的容量利用率达到第一阈值时，将所述磁盘的权重值调节至第一权重值。

为解决上述技术问题，本发明还提供一种分布式存储系统的数据写入控制装置，包括：

获取单元，用于获取分布式存储系统中各磁盘的容量利用率；

调节单元，用于根据所述磁盘的容量利用率调节所述磁盘的权重值；

控制单元，用于当需存入新数据时，根据各所述磁盘的权重值确定各所述磁盘的存储优先级，而后根据各所述磁盘的存储优先级确定所述新数据的存储位置；

为解决上述技术问题，本发明还提供一种分布式存储系统的数据写入控制设备，包括：

存储器，用于存储指令，所述指令包括上述任意一项所述分布式存储系统的数据写入控制方法的步骤；

处理器，用于执行所述指令。

为解决上述技术问题，本发明还提供一种计算机可读存储介质，其上存储有计算机程序，所述计算机程序被处理器执行时实现如上述任意一项所述分布式存储系统的数据写入控制方法的步骤。

本发明所提供的分布式存储系统的数据写入控制方法，基于磁盘存入新数据的概率与所述磁盘的权重值成正相关的机制，通过预先建立磁盘的权重值与所述磁盘的容量利用率成负相关的对应关系，获取分布式存储系统中各磁盘的容量利用率，根据磁盘的容量利用率调节磁盘的权重值，实现对磁盘权重值的动态调节，使得磁盘容量利用率较高时降低被存入新数据的几率，在磁盘容量利用率较低时提高被存入新数据的几率，从而在整个分布式存储系统中实现各磁盘的存储均衡，避免出现因部分磁盘容量占满而导致数据存储中断、数据丢失的问题。

本发明还提供一种分布式存储系统的数据写入控制装置、设备及计算机可读存储介质，具有上述有益效果，在此不再赘述。

附图说明

为了更清楚的说明本发明实施例或现有技术的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单的介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。

图1为本发明实施例提供的一种分布式存储系统的数据写入控制方法的流程图；

图2为本发明实施例提供的一种分布式存储系统的数据写入控制装置的结构示意图；

图3为本发明实施例提供的一种分布式存储系统的数据写入控制设备的结构示意图。

具体实施方式

本发明的核心是提供一种分布式存储系统的数据写入控制方法、装置、设备及计算机可读存储介质，用于实现分布式存储系统的均衡存储。

下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。

图1为本发明实施例提供的一种分布式存储系统的数据写入控制方法的流程图。

如图1所示，本发明实施例提供的分布式存储系统的数据写入控制方法包括：

S101：获取分布式存储系统中各磁盘的容量利用率。

S102：根据磁盘的容量利用率调节磁盘的权重值。

S103：当需存入新数据时，根据各磁盘的权重值确定各磁盘的存储优先级，而后根据各磁盘的存储优先级确定新数据的存储位置。

其中，磁盘的权重值与磁盘的容量利用率成负相关；磁盘的存储优先级与磁盘的权重值成正相关。

在具体实施中，对于步骤S101来说，选择分布式存储系统中的某个节点开启磁盘容量信息检测进程，对集群中所有磁盘的容量利用率进行检测。具体可以为每隔固定的时长执行一次检测，也可以按照用户存储习惯，在不同的时间段设置不同的检测频次。在获得各磁盘的容量利用率，按预设存储规则将之存入数据库，可以定期对历史容量利用率数据进行清理，保留自当前时刻向前预设时长内的历史容量利用率数据。

对于步骤S102来说，磁盘的权重(weight)值用于分布式存储系统在存储新数据时确定存储节点的优先级，即优先存储于权重值更大的磁盘。通常情况下，各磁盘的权重值在出厂设定好后将不会改变，这将无法适应磁盘利用率的变化，有可能导致数据被优先存储于即将写满的磁盘。故在本发明实施例中，通过预先磁盘的权重值与磁盘的容量利用率成负相关的调节原则，在磁盘的容量利用率发生变化时适应地调整磁盘的权重值。可以预先建立磁盘的权重值与磁盘的容量利用率之间的函数关系式，也可以设置一个或多个磁盘的容量利用率的阈值，以在磁盘的容量利用率达到阈值时再调整磁盘的权重值。则步骤S102具体可以为：

当磁盘的容量利用率达到第一阈值时，将磁盘的权重值调节至第一权重值。

在实际应用中，第一阈值的数量可以为一个，例如当磁盘的容量利用率达到70％时，调低该磁盘的权重值，此后再来的请求数据会优先存入分布式存储系统中的其他磁盘，从而降低了对该磁盘的数据写入频率。第一阈值的数量也可以为多个，第一权重值与第一阈值一一对应。可以理解的是，随着第一阈值的增加，第一权重值减小。

对于步骤S103来说，当需存入新数据时，比较各磁盘的权重值，权重值越高的磁盘具有更高的存入新数据的概率，在各磁盘存入新数据的概率的基础上通过均衡存储计算，确定新数据的存储位置。

进一步的，本发明实施例提供的分布式存储系统的数据写入控制方法还可以包括：

当磁盘的容量利用率达到告警阈值时，执行与告警阈值对应的告警办法。

在实际应用中，告警阈值可以和第一阈值相同，也可以为不同的阈值。可以设置多个告警阈值，对应不同的告警办法。告警办法可以包括但不限于邮件或短信的方式通知系统管理人员达到容量利用率达到告警阈值的磁盘的信息。

告警阈值可以包括异常告警阈值和正常告警阈值，异常告警阈值为磁盘容量利用率较高(如70％)时的阈值，正常告警阈值为磁盘容量利用率恢复正常时的阈值。

本发明实施例中提到的第一阈值和告警阈值，可以由系统管理人员根据需要设定。

本发明实施例提供的分布式存储系统的数据写入控制方法，基于磁盘的权重值越高，存入新数据的几率越大的机制，通过预先建立以磁盘的容量利用率越高，磁盘的权重值越小为原则的对应关系，定时获取分布式存储系统中各磁盘的容量利用率，按照对应关系根据磁盘的容量利用率调节磁盘的权重值，实现对磁盘权重值的动态调节，使得磁盘容量利用率较高时降低被存入新数据的几率，在磁盘容量利用率较低时提高被存入新数据的几率，从而在整个分布式存储系统中实现各磁盘的存储均衡，避免出现因部分磁盘容量占满而导致数据存储中断、数据丢失的问题。

在上述实施例的基础上，为进一步保证存储安全性，本发明实施例提供的分布式存储系统的数据写入控制方法还包括：

当磁盘的容量利用率达到第二阈值时，对磁盘进行数据隔离以拒绝新数据存入磁盘。

在具体实施中，第二阈值为磁盘使用的限制值，当磁盘的容量利用率达到第二阈值时，对该磁盘进行数据隔离以禁止新数据存入该磁盘。第二阈值具体采用接近但小于磁盘最大容量的一个阈值。

进一步的，当磁盘的容量利用率达到第二阈值时，本发明实施例提供的分布式存储系统的数据写入控制方法还可以包括：

检查磁盘的健康状态参数；

当根据磁盘的健康状态参数确定磁盘处于健康运行状态时，调用数据重构脚本以将磁盘的数据重构至其他磁盘。

当磁盘的容量利用率达到第二阈值时，在确保磁盘处于健康运行状态、数据无损坏的情况下，利用分布式存储系统的数据重构功能，将磁盘的数据重构至其他磁盘，以保证存储均衡。

其中，调用数据重构脚本以将磁盘的数据重构至其他磁盘，具体可以包括：

确定容量利用率小于第三阈值的磁盘为目标磁盘；

按数据连续性将磁盘的数据重构为多组数据后，将各组数据均匀存入该磁盘和各目标磁盘。

在实际应用中，可以设置按照磁盘的容量利用率从小到大的顺序对磁盘进行排列，选取前几个磁盘作为目标磁盘；也可以以第三阈值作为选取目标磁盘的基准。在保证数据连续性的前提下，将容量利用率达到第二阈值且处于健康运行状态的磁盘的数据重构为多组数据，从而将一部分数据留在原磁盘，将其他组数据均匀存入各目标磁盘，实现数据重构。

在上述实施例的基础上，本发明实施例提供的分布式存储系统的数据写入控制方法还包括：

根据磁盘的容量利用率更新磁盘的历史容量利用率曲线；

依据历史容量利用率曲线预测磁盘的容量利用率达到预设阈值的时间预测值。

相应的，步骤S102中根据磁盘的容量利用率调节磁盘的权重值，具体为：

根据磁盘的容量利用率和时间预测值调节磁盘的权重值。

为进一步保证存储均衡，根据各次检测中磁盘的容量利用率建立磁盘的历史容量利用率曲线，并在每次获取磁盘的容量利用率后更新该历史容量利用率曲线。更新方式可以是延长历史容量利用率曲线，也可以包括对当前时刻向前预设时长前的曲线数据进行删除。

预设阈值可以为磁盘的最大容量利用率，也可以为小于磁盘最大容量利用率的某个值，以便根据磁盘容量利用率的增长速率针对性的调节磁盘的权重值。可以理解的是，在同样的磁盘的容量利用率下，时间预测值越小，即预测磁盘达到预设阈值的速率越快，将磁盘的权重值降到更小的值。

当接收到查询指令时，在查询界面显示历史容量利用率曲线。

在分布式存储系统正常运行时，在接收到查询指令时，在查询界面显示历史容量利用率曲线。此外，也可以定时自动在查询界面显示历史容量利用率曲线以及其他与磁盘容量利用率有关的参数。

上文详述了分布式存储系统的数据写入控制方法对应的各个实施例，在此基础上，本发明还公开了与上述方法对应的分布式存储系统的数据写入控制装置、设备及计算机可读存储介质。

图2为本发明实施例提供的一种分布式存储系统的数据写入控制装置的结构示意图。

如图2所示，本发明实施例提供的分布式存储系统的数据写入控制装置包括：

获取单元201，用于获取分布式存储系统中各磁盘的容量利用率；

调节单元202，用于根据磁盘的容量利用率调节磁盘的权重值；

控制单元203，用于当需存入新数据时，根据各磁盘的权重值确定各磁盘的存储优先级，而后根据各磁盘的存储优先级确定新数据的存储位置；

进一步的，本发明实施例提供的分布式存储系统的数据写入控制装置还可以包括：

隔离单元，用于当磁盘的容量利用率达到第二阈值时，对磁盘进行数据隔离以禁止新数据存入磁盘。

重构单元，用于当磁盘的容量利用率达到第二阈值时，检查磁盘的健康状态参数；当根据磁盘的健康状态参数确定磁盘处于健康运行状态时，调用数据重构脚本以将磁盘的数据重构至其他磁盘。

绘图单元，用于根据磁盘的容量利用率更新磁盘的历史容量利用率曲线；

预测单元，用于依据历史容量利用率曲线预测磁盘达到写满状态的时间预测值；

相应的，调节单元202根据磁盘的容量利用率调节磁盘的权重值，具体为：

根据磁盘的容量利用率和时间预测值调节磁盘的权重值。

显示单元，用于当接收到查询指令时，在查询界面显示历史容量利用率曲线。

告警单元，用于当磁盘的容量利用率达到告警阈值时，执行与告警阈值对应的告警办法。

由于装置部分的实施例与方法部分的实施例相互对应，因此装置部分的实施例请参见方法部分的实施例的描述，这里暂不赘述。

如图3所示，本发明实施例提供的分布式存储系统的数据写入控制设备包括：

存储器310，用于存储指令，所述指令包括上述任意一项实施例所述的分布式存储系统的数据写入控制方法的步骤；

处理器320，用于执行所述指令。

其中，处理器320可以包括一个或多个处理核心，比如3核心处理器、8核心处理器等。处理器320可以采用数字信号处理DSP(Digital Signal Processing)、现场可编程门阵列FPGA(Field－Programmable Gate Array)、可编程逻辑阵列PLA(Programmable LogicArray)中的至少一种硬件形式来实现。处理器320也可以包括主处理器和协处理器，主处理器是用于对在唤醒状态下的数据进行处理的处理器，也称中央处理器CPU(CentralProcessing Unit)；协处理器是用于对在待机状态下的数据进行处理的低功耗处理器。在一些实施例中，处理器320可以集成有图像处理器GPU(Graphics Processing Unit)，GPU用于负责显示屏所需要显示的内容的渲染和绘制。一些实施例中，处理器320还可以包括人工智能AI(Artificial Intelligence)处理器，该AI处理器用于处理有关机器学习的计算操作。

存储器310可以包括一个或多个计算机可读存储介质，该计算机可读存储介质可以是非暂态的。存储器310还可包括高速随机存取存储器，以及非易失性存储器，比如一个或多个磁盘存储设备、闪存存储设备。本实施例中，存储器310至少用于存储以下计算机程序311，其中，该计算机程序311被处理器320加载并执行之后，能够实现前述任一实施例公开的分布式存储系统的数据写入控制方法中的相关步骤。另外，存储器310所存储的资源还可以包括操作系统312和数据313等，存储方式可以是短暂存储或者永久存储。其中，操作系统312可以为Windows。数据313可以包括但不限于上述方法所涉及到的数据。

在一些实施例中，分布式存储系统的数据写入控制设备还可包括有显示屏330、电源340、通信接口350、输入输出接口360、传感器370以及通信总线380。

本领域技术人员可以理解，图3中示出的结构并不构成对分布式存储系统的数据写入控制设备的限定，可以包括比图示更多或更少的组件。

本申请实施例提供的分布式存储系统的数据写入控制设备，包括存储器和处理器，处理器在执行存储器存储的程序时，能够实现如上所述的分布式存储系统的数据写入控制方法，效果同上。

需要说明的是，以上所描述的装置、设备实施例仅仅是示意性的，例如，模块的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式，例如多个模块或组件可以结合或者可以集成到另一个系统，或一些特征可以忽略，或不执行。另一点，所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口，装置或模块的间接耦合或通信连接，可以是电性，机械或其它的形式。作为分离部件说明的模块可以是或者也可以不是物理上分开的，作为模块显示的部件可以是或者也可以不是物理模块，即可以位于一个地方，或者也可以分布到多个网络模块上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。

另外，在本申请各个实施例中的各功能模块可以集成在一个处理模块中，也可以是各个模块单独物理存在，也可以两个或两个以上模块集成在一个模块中。上述集成的模块既可以采用硬件的形式实现，也可以采用软件功能模块的形式实现。

集成的模块如果以软件功能模块的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读存储介质中。基于这样的理解，本发明的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的全部或部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质中，执行本发明各个实施例所述方法的全部或部分步骤。

为此，本发明实施例还提供一种计算机可读存储介质，该计算机可读存储介质上存储有计算机程序，计算机程序被处理器执行时实现如分布式存储系统的数据写入控制方法的步骤。

该计算机可读存储介质可以包括：U盘、移动硬盘、只读存储器ROM(Read-OnlyMemory)、随机存取存储器RAM(Random Access Memory)、磁碟或者光盘等各种可以存储程序代码的介质。

本实施例中提供的计算机可读存储介质所包含的计算机程序能够在被处理器执行时实现如上所述的分布式存储系统的数据写入控制方法的步骤，效果同上。

以上对本发明所提供的一种分布式存储系统的数据写入控制方法、装置、设备及计算机可读存储介质进行了详细介绍。说明书中各个实施例采用递进的方式描述，每个实施例重点说明的都是与其他实施例的不同之处，各个实施例之间相同相似部分互相参见即可。对于实施例公开的装置、设备及计算机可读存储介质而言，由于其与实施例公开的方法相对应，所以描述的比较简单，相关之处参见方法部分说明即可。应当指出，对于本技术领域的普通技术人员来说，在不脱离本发明原理的前提下，还可以对本发明进行若干改进和修饰，这些改进和修饰也落入本发明权利要求的保护范围内。

还需要说明的是，在本说明书中，诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来，而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。

Claims

1.一种分布式存储系统的数据写入控制方法，其特征在于，包括：

获取分布式存储系统中各磁盘的容量利用率；

根据所述磁盘的容量利用率调节所述磁盘的权重值；

其中，所述磁盘的权重值与所述磁盘的容量利用率成负相关；所述磁盘的存储优先级与所述磁盘的权重值成正相关；

还包括：

2.根据权利要求1所述的数据写入控制方法，其特征在于，还包括：

3.根据权利要求2所述的数据写入控制方法，其特征在于，当所述磁盘的容量利用率达到第二阈值时，还包括：

检查所述磁盘的健康状态参数；

4.根据权利要求3所述的数据写入控制方法，其特征在于，所述调用数据重构脚本以将所述磁盘的数据重构至其他磁盘，具体包括：

确定容量利用率小于第三阈值的磁盘为目标磁盘；

5.根据权利要求1所述的数据写入控制方法，其特征在于，还包括：

6.根据权利要求1所述的数据写入控制方法，其特征在于，按预设的磁盘容量利用率和磁盘权重值的对应关系，根据所述磁盘的容量利用率调节所述磁盘的权重值，具体为：

7.一种分布式存储系统的数据写入控制装置，其特征在于，包括：

所述控制装置还包括：

相应的，调节单元根据磁盘的容量利用率调节磁盘的权重值，具体为：

根据磁盘的容量利用率和时间预测值调节磁盘的权重值。

8.一种分布式存储系统的数据写入控制设备，其特征在于，包括：

存储器，用于存储指令，所述指令包括权利要求1至6任意一项所述分布式存储系统的数据写入控制方法的步骤；

处理器，用于执行所述指令。

9.一种计算机可读存储介质，其上存储有计算机程序，其特征在于，所述计算机程序被处理器执行时实现如权利要求1至6任意一项所述分布式存储系统的数据写入控制方法的步骤。