CN110955644A

CN110955644A - 一种存储系统的io控制方法、装置、设备及存储介质

Info

Publication number: CN110955644A
Application number: CN201911161198.0A
Authority: CN
Inventors: 李朋辉; 梁珂铭; 胡永刚
Original assignee: Inspur Electronic Information Industry Co Ltd
Current assignee: Inspur Electronic Information Industry Co Ltd
Priority date: 2019-11-24
Filing date: 2019-11-24
Publication date: 2020-04-03

Abstract

本发明公开了一种存储系统的IO控制方法，通过在预设的时间节点，获取存储系统的各执行节点执行的节点任务的类型以及执行节点的资源状态，根据节点任务的类型和资源状态，确定执行节点对节点任务在自时间节点起下一个时间步长的IO速率，控制各执行节点按对应的IO速率执行对各节点任务，实现在每个时间步长内均调整执行节点分配给各节点任务的IO速率，使得在满足节点任务类型的要求的前提下，各执行节点执行节点任务的IO速率随执行节点的资源状态动态调整，达到了对存储系统处理请求任务的更为精细的控制，实现了对存储系统资源更为充分的利用。本发明还公开了一种存储系统的IO控制装置、设备及存储介质，具有上述有益效果。

Description

一种存储系统的IO控制方法、装置、设备及存储介质

技术领域

本发明涉及存储技术领域，特别是涉及一种存储系统的IO控制方法、装置、设备及存储介质。

背景技术

分布式文件系统支持文件系统、块存储和对象存储，其中文件系统和块存储发展较早，二者都有自己的应用场景，而对象存储综合了二者的优点，最近发展很快。在存储系统中，当多个用户同时发起服务请求时，系统性能到达瓶颈，就会出现资源的竞争，如果不加以控制，就可能会造成某些用户抢占过多资源导致其他用户抢不到资源的问题，QoS(Quality of Service，服务质量)就是用于解决此类问题。对于整个存储系统，总资源有限的情况下，必须通过限制某些用户的OPS(Operation Per Second，服务器或者服务器集群每秒钟处理的请求个数)来保证其他用户的服务质量，因此，对用户OPS进行限制是很有必要的。

令牌桶算法是以一种常见的QoS方法令牌桶算法为例，其基本原理是：请求处理时，需要从令牌桶获取令牌才能继续，令牌桶中令牌的数量以固定速率增加，当令牌数不够时，请求需等待令牌生成，这样在单个节点上，通过控制令牌产生的速度，即可控制此节点请求的处理速度。对于分布式系统而言，常见的做法是通过切片，提前将用户所需资源的数据分配到各个节点，各个节点根据自身分配到的数据，再使用令牌桶控制即可。令牌桶算法可以用下述公式表示：

S_i＝V_i·t (2)

其中，S为存储系统针对某个用户每秒最多处理请求数，S_i为系统中第i个节点处理此用户的请求的个数，V为第i个节点令牌桶令牌的产生速度，t通常为1s。

然而，存储系统中各节点的资源状态往往是实时变动的，现有的各节点对各请求任务以固定速率处理的方式使得存储系统中部分节点的资源无法得到充分利用，使得一些请求任务在充分满足时延要求得到处理的情况下，另一些请求任务可能无法满足时延要求。

发明内容

本发明的目的是提供一种存储系统的IO控制方法、装置、设备及存储介质，用以使存储系统的资源得到更为充分的利用。

为解决上述技术问题，本发明提供一种存储系统的IO控制方法，包括：

在预设的时间节点，获取存储系统的各执行节点执行的节点任务的类型以及所述执行节点的资源状态；

根据所述节点任务的类型和所述资源状态，确定所述执行节点对所述节点任务在自所述时间节点起下一个时间步长的IO速率；

控制各所述执行节点按对应的IO速率执行对各所述节点任务。

可选的，在所述在预设的时间节点，获取存储系统的各执行节点执行的节点任务的类型以及所述执行节点的资源状态之前，还包括：

接收对所述存储系统的IOPS设置和时间步长设置；

根据所述IOPS设置和所述时间步长设置进行各所述执行节点的IO初始设置。

可选的，所述资源状态具体包括所述执行节点自所述时间节点起上一个所述时间步长内所处理的IO请求的数量，以及所述执行节点在所述时间节点的剩余资源。

可选的，所述根据所述节点任务的类型和所述资源状态，确定所述执行节点对所述节点任务在自所述时间节点起下一个时间步长的IO速率，具体包括：

根据所述节点任务的类型获取预先设置的所述节点任务的IO速率范围；

依据所述资源状态，在所述IO速率范围内确定所述执行节点对所述节点任务在自所述时间节点起下一个时间步长的IO速率。

可选的，所述控制各所述执行节点按对应的IO速率执行对各所述节点任务，具体为：

控制各所述执行节点对各所述节点任务的令牌的产生速率，以使各所述执行节点按所述对应的IO速率执行各所述节点任务。

可选的，还包括：

当所述存储系统接收到请求任务时，根据各所述执行节点的资源状态，将所述请求任务划分为对应一个所述执行节点或多个所述执行节点的节点任务；

将所述节点任务分配至对应的执行节点。

可选的，所述当所述存储系统接收到请求任务时，根据各所述执行节点的资源状态，将所述请求任务划分为对应一个所述执行节点或多个所述执行节点的节点任务，具体包括：

当所述存储系统接收到请求任务时，根据所述节点任务的类型以及在所述时间节点各所述执行节点的资源状态，确定下一个所述时间步长内各所述执行节点的请求数量范围；

根据各所述执行节点的请求数量范围，将所述请求任务划分为所述节点任务。

为解决上述技术问题，本发明还提供一种存储系统的IO控制装置，包括：

获取单元，用于在预设的时间节点，获取存储系统的各执行节点执行的节点任务的类型以及所述执行节点的资源状态；

计算单元，用于根据所述节点任务的类型和所述资源状态，确定所述执行节点对所述节点任务在自所述时间节点起下一个时间步长的IO速率；

控制单元，用于控制各所述执行节点按对应的IO速率执行对各所述节点任务。

为解决上述技术问题，本发明还提供一种存储系统的IO控制设备，包括：

存储器，用于存储指令，所述指令包括上述任意一项所述存储系统的IO控制方法的步骤；

处理器，用于执行所述指令。

为解决上述技术问题，本发明还提供一种存储介质，其上存储有计算机程序，所述计算机程序被处理器执行时实现如上述任意一项所述存储系统的IO控制方法的步骤。

本发明所提供的存储系统的IO控制方法，通过在预设的时间节点，获取存储系统的各执行节点执行的节点任务的类型以及执行节点的资源状态，根据节点任务的类型和资源状态，确定执行节点对节点任务在自时间节点起下一个时间步长的IO速率，控制各执行节点按对应的IO速率执行对各节点任务，实现在每个时间步长内均调整执行节点分配给各节点任务的IO速率，使得在满足节点任务类型的要求的前提下，各执行节点执行节点任务的IO速率随执行节点的资源状态动态调整，达到了对存储系统处理请求任务的更为精细的控制，实现了对存储系统资源更为充分的利用。本发明还提供一种存储系统的IO控制装置、设备及存储介质，具有上述有益效果，在此不再赘述。

附图说明

为了更清楚的说明本发明实施例或现有技术的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单的介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。

图1为本发明实施例提供的一种存储系统的IO控制方法的流程图；

图2为本发明实施例提供的另一种存储系统的IO控制方法的流程图；

图3为本发明实施例提供的一种存储系统的IO控制装置的结构示意图；

图4为本发明实施例提供的一种存储系统的IO控制设备的结构示意图。

具体实施方式

本发明的核心是提供一种存储系统的IO控制方法、装置、设备及存储介质，用以使存储系统的资源得到更为充分的利用。

下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。

图1为本发明实施例提供的一种存储系统的IO控制方法的流程图。

如图1所示，本发明实施例提供的存储系统的IO控制方法包括：

S101：在预设的时间节点，获取存储系统的各执行节点执行的节点任务的类型以及执行节点的资源状态。

本发明实施例提供的方案适用于分布式存储系统(简称存储系统)，包括多个用于执行节点任务的执行节点，节点任务为针对存储系统的请求任务或请求任务的子任务。本发明实施例提供的方案可以选择存储系统内或存储系统外的一个代理节点(代理服务器)执行。

在步骤S101中，预设的时间节点为针对整个分布式存储系统或执行节点本身预先设置的时间节点，相邻的两个时间节点之间为一个时间步长，该时间步长即为执行节点更新执行节点任务的IO速率的最小时间单位。资源状态具体可以包括执行节点自时间节点起上一个时间步长内所处理的IO请求的数量，以及执行节点在时间节点的剩余资源。

因此，在步骤S101之前，本发明实施例提供的存储系统的IO控制方法还可以包括：

接收对存储系统的IOPS设置和时间步长设置；

根据IOPS设置和时间步长设置进行各执行节点的IO初始设置。

其中，IOPS(Input/Output Operations Per Second)设置指每秒进行读写操作的次数，当然，也可以采用每秒钟处理的请求个数OPS设置。时间步长设置可以为对固定的时间步长的设置，如时间步长设置为1s，则执行节点每隔1s执行一次步骤S101-S103。时间步长设置还可以为一个时间范围，如0.5s-2s，根据执行节点的资源状态从该时间范围内选择合理的时间步长，如在执行节点处于繁忙状态时，时间步长可以稍长，而在执行节点处于闲时，时间步长可以稍短。为了节约节点资源，时间步长设置还可以为一天中几个不同的时间段对应的时间步长设置，如在白天繁忙时段时间步长稍长，在夜晚空闲时段，时间步长稍短。

S102：根据节点任务的类型和资源状态，确定执行节点对节点任务在自时间节点起下一个时间步长的IO速率。

以节点任务的类型和资源状态作为更新执行节点任务的IO速率的依据，其中，节点任务的类型用于标识该节点任务的IO速率的范围，在该IO速率的范围内，根据执行节点的资源状态选择合适的IO速率。

因此，步骤S102具体可以包括：

根据节点任务的类型获取预先设置的节点任务的IO速率范围；

依据资源状态，在IO速率范围内确定执行节点对节点任务在自时间节点起下一个时间步长的IO速率。

根据节点任务的类型可以确定该节点任务允许的IO速率的范围，该范围的上限通常为存储系统对该节点任务所制定的最大IO速率，该范围的下限根据该节点任务允许的最大处理时延而定。进而根据执行节点的资源状态，即上一个时间步长内所处理的IO请求的数量以及当前时间节点的剩余资源，代入预设的计算公式，得到对该节点任务的IO速率。当分配给该节点任务的IO速率大于该节点任务允许的最小IO速率时，说明执行节点非处于繁忙状态，可以依据分配给该节点任务的IO速率执行该节点任务；当分配给该节点任务的IO速率小于该节点任务允许的最小IO速率时，说明执行节点处于繁忙状态，此时将超出该节点任务的最大执行时长要求，可以将同一执行节点上各节点任务按优先级进行排序，优先满足优先级较高的节点任务的最小IO速率要求。需要说明的是，执行节点分配给节点任务的IO速率不超过存储系统对该节点任务所允许的IO速率的上限。

S103：控制各执行节点按对应的IO速率执行对各节点任务。

在当前的时间节点的下一个时间步长内，对各执行节点上的各节点任务，按照分配的IO速率执行。步骤S103具体可以为：

控制各执行节点对各节点任务的令牌的产生速率，以使各执行节点按对应的IO速率执行各节点任务。

令牌桶算法是以一种常见的QoS方法，在单个执行点上，通过控制令牌产生的速度，即可控制此执行节点在每个时间步长内执行节点任务的IO速率，则在背景技术所描述的现有技术中令牌桶算法对应的公式(1)的基础上，公式(2)替换为：

其中，S_i为存储系统中第i个执行节点处理此用户的请求的个数，V_it为在t’的时间步长内，第i个执行节点令牌桶令牌的产生速度。

本发明实施例提供的存储系统的IO控制方法，通过在预设的时间节点，获取存储系统的各执行节点执行的节点任务的类型以及执行节点的资源状态，根据节点任务的类型和资源状态，确定执行节点对节点任务在自时间节点起下一个时间步长的IO速率，控制各执行节点按对应的IO速率执行对各节点任务，实现在每个时间步长内均调整执行节点分配给各节点任务的IO速率，使得在满足节点任务类型的要求的前提下，各执行节点执行节点任务的IO速率随执行节点的资源状态动态调整，达到了对存储系统处理请求任务的更为精细的控制，实现了对存储系统资源更为充分的利用。

图2为本发明实施例提供的另一种存储系统的IO控制方法的流程图。

在分布式存储系统中，对于请求任务往往会拆分为多个节点任务分配至多个执行节点执行，即对请求任务进行切片。为保证对节点资源的合理利用，如图2所示，在步骤S101之前，本发明实施例提供的存储系统的IO控制方法还包括：

S201：当存储系统接收到请求任务时，根据各执行节点的资源状态，将请求任务划分为对应一个执行节点或多个执行节点的节点任务。

S202：将节点任务分配至对应的执行节点。

在具体实施中，根据各执行节点在当前的时间节点的上一个时间步长内处理的请求数量以及当前的时间节点各执行节点的剩余资源，按照繁忙节点少分配任务，空闲节点多分配任务的原则，将请求任务划分为对应一个执行节点或多个执行节点的节点任务。

在接收到请求任务时直接将执行节点的资源状态对请求任务进行切片，虽然可以实现所在时刻的节点资源的充分利用，但是在将请求任务切分为节点任务后，各执行节点的资源状态依然在实时变动，此前的分配还可能会造成节点资源的不合理使用。为实现更加精细的控制，步骤S201具体包括：

当存储系统接收到请求任务时，根据节点任务的类型以及在时间节点各执行节点的资源状态，确定下一个所述时间步长内各执行节点的请求数量范围；

根据各执行节点的请求数量范围，将请求任务划分为所述节点任务。

在具体实施中，可以不将请求任务进行一次性切片，而是根据当前的时间节点各执行节点的资源状态进行针对下一时间步长处理的节点任务，若当前的时间节点未将请求任务分配完毕，则在下一个时间节点，继续对请求任务中未分配的任务继续执行依照上述原则的分配。

上文详述了存储系统的IO控制方法对应的各个实施例，在此基础上，本发明还公开了与上述方法对应的存储系统的IO控制装置、设备及存储介质。

图3为本发明实施例提供的一种存储系统的IO控制装置的结构示意图。

如图3所示，本发明实施例提供的存储系统的IO控制装置包括：

获取单元301，用于在预设的时间节点，获取存储系统的各执行节点执行的节点任务的类型以及执行节点的资源状态；

计算单元302，用于根据节点任务的类型和资源状态，确定执行节点对节点任务在自时间节点起下一个时间步长的IO速率；

控制单元303，用于控制各执行节点按对应的IO速率执行对各节点任务。

其中，资源状态具体包括执行节点自时间节点起上一个时间步长内所处理的IO请求的数量，以及执行节点在时间节点的剩余资源。

可选的，本发明实施例提供的存储系统的IO控制装置还包括：

接收单元，用于接收对存储系统的IOPS设置和时间步长设置；

初始化单元，用于根据IOPS设置和时间步长设置进行各执行节点的IO初始设置。

进一步的，计算单元302具体包括：

获取子单元，用于根据节点任务的类型获取预先设置的节点任务的IO速率范围；

第一计算子单元，用于依据资源状态，在IO速率范围内确定执行节点对节点任务在自时间节点起下一个时间步长的IO速率。

控制单元303控制各执行节点按对应的IO速率执行对各节点任务，具体为：

控制各执行节点对各节点任务的令牌的产生速率，以使各执行节点按对应的IO速率执行各所述节点任务。

进一步的，本发明实施例提供的存储系统的IO控制装置还包括：

切分单元，用于当存储系统接收到请求任务时，根据各执行节点的资源状态，将请求任务划分为对应一个执行节点或多个执行节点的节点任务；

分配单元，用于将节点任务分配至对应的执行节点。

进一步的，切分单元具体包括：

第二计算子单元，用于当存储系统接收到请求任务时，根据节点任务的类型以及在时间节点各执行节点的资源状态，确定下一个时间步长内各执行节点的请求数量范围；

切分子单元，用于根据各执行节点的请求数量范围，将请求任务划分为节点任务。

由于装置部分的实施例与方法部分的实施例相互对应，因此装置部分的实施例请参见方法部分的实施例的描述，这里暂不赘述。

如图4所示，本发明实施例提供的存储系统的IO控制设备包括：

存储器410，用于存储指令，所述指令包括上述任意一项实施例所述的存储系统的IO控制方法的步骤；

处理器420，用于执行所述指令。

其中，处理器420可以包括一个或多个处理核心，比如3核心处理器、8核心处理器等。处理器420可以采用DSP(Digital Signal Processing，数字信号处理)、FPGA(Field－Programmable Gate Array，现场可编程门阵列)、PLA(Programmable Logic Array，可编程逻辑阵列)中的至少一种硬件形式来实现。处理器420也可以包括主处理器和协处理器，主处理器是用于对在唤醒状态下的数据进行处理的处理器，也称CPU(Central ProcessingUnit，中央处理器)；协处理器是用于对在待机状态下的数据进行处理的低功耗处理器。在一些实施例中，处理器420可以在集成有GPU(Graphics Processing Unit，图像处理器)，GPU用于负责显示屏所需要显示的内容的渲染和绘制。一些实施例中，处理器420还可以包括AI(Artificial Intelligence，人工智能)处理器，该AI处理器用于处理有关机器学习的计算操作。

存储器410可以包括一个或多个存储介质，该存储介质可以是非暂态的。存储器410还可包括高速随机存取存储器，以及非易失性存储器，比如一个或多个磁盘存储设备、闪存存储设备。本实施例中，存储器410至少用于存储以下计算机程序411，其中，该计算机程序411被处理器420加载并执行之后，能够实现前述任一实施例公开的存储系统的IO控制方法中的相关步骤。另外，存储器410所存储的资源还可以包括操作系统412和数据413等，存储方式可以是短暂存储或者永久存储。其中，操作系统412可以为Windows。数据413可以包括但不限于上述方法所涉及到的数据。

在一些实施例中，存储系统的IO控制设备还可包括有显示屏430、电源440、通信接口450、输入输出接口460、传感器470以及通信总线480。

本领域技术人员可以理解，图4中示出的结构并不构成对存储系统的IO控制设备的限定，可以包括比图示更多或更少的组件。

本申请实施例提供的存储系统的IO控制设备，包括存储器和处理器，处理器在执行存储器存储的程序时，能够实现如上所述的存储系统的IO控制方法，效果同上。

需要说明的是，以上所描述的装置、设备实施例仅仅是示意性的，例如，模块的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式，例如多个模块或组件可以结合或者可以集成到另一个系统，或一些特征可以忽略，或不执行。另一点，所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口，装置或模块的间接耦合或通信连接，可以是电性，机械或其它的形式。作为分离部件说明的模块可以是或者也可以不是物理上分开的，作为模块显示的部件可以是或者也可以不是物理模块，即可以位于一个地方，或者也可以分布到多个网络模块上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。

另外，在本申请各个实施例中的各功能模块可以集成在一个处理模块中，也可以是各个模块单独物理存在，也可以两个或两个以上模块集成在一个模块中。上述集成的模块既可以采用硬件的形式实现，也可以采用软件功能模块的形式实现。

集成的模块如果以软件功能模块的形式实现并作为独立的产品销售或使用时，可以存储在一个存储介质中。基于这样的理解，本发明的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的全部或部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质中，执行本发明各个实施例所述方法的全部或部分步骤。

为此，本发明实施例还提供一种存储介质，该存储介质上存储有计算机程序，计算机程序被处理器执行时实现如存储系统的IO控制方法的步骤。

该存储介质可以包括：U盘、移动硬盘、只读存储器(Read-Only Memory，ROM)、随机存取存储器(Random Access Memory，RAM)、磁碟或者光盘等各种可以存储程序代码的介质。

本实施例中提供的存储介质所包含的计算机程序能够在被处理器执行时实现如上所述的存储系统的IO控制方法的步骤，效果同上。

以上对本发明所提供的一种存储系统的IO控制方法、装置、设备及存储介质进行了详细介绍。说明书中各个实施例采用递进的方式描述，每个实施例重点说明的都是与其他实施例的不同之处，各个实施例之间相同相似部分互相参见即可。对于实施例公开的装置、设备及存储介质而言，由于其与实施例公开的方法相对应，所以描述的比较简单，相关之处参见方法部分说明即可。应当指出，对于本技术领域的普通技术人员来说，在不脱离本发明原理的前提下，还可以对本发明进行若干改进和修饰，这些改进和修饰也落入本发明权利要求的保护范围内。

还需要说明的是，在本说明书中，诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来，而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。

Claims

1.一种存储系统的IO控制方法，其特征在于，包括：

2.根据权利要求1所述的IO控制方法，其特征在于，在所述在预设的时间节点，获取存储系统的各执行节点执行的节点任务的类型以及所述执行节点的资源状态之前，还包括：

接收对所述存储系统的IOPS设置和时间步长设置；

3.根据权利要求1所述的IO控制方法，其特征在于，所述资源状态具体包括所述执行节点自所述时间节点起上一个所述时间步长内所处理的IO请求的数量，以及所述执行节点在所述时间节点的剩余资源。

4.根据权利要求1所述的IO控制方法，其特征在于，所述根据所述节点任务的类型和所述资源状态，确定所述执行节点对所述节点任务在自所述时间节点起下一个时间步长的IO速率，具体包括：

5.根据权利要求1所述的IO控制方法，其特征在于，所述控制各所述执行节点按对应的IO速率执行对各所述节点任务，具体为：

6.根据权利要求1所述的IO控制方法，其特征在于，还包括：

将所述节点任务分配至对应的执行节点。

7.根据权利要求6所述的IO控制方法，其特征在于，所述当所述存储系统接收到请求任务时，根据各所述执行节点的资源状态，将所述请求任务划分为对应一个所述执行节点或多个所述执行节点的节点任务，具体包括：

8.一种存储系统的IO控制装置，其特征在于，包括：

9.一种存储系统的IO控制设备，其特征在于，包括：

存储器，用于存储指令，所述指令包括权利要求1至7任意一项所述存储系统的IO控制方法的步骤；

处理器，用于执行所述指令。

10.一种存储介质，其上存储有计算机程序，其特征在于，所述计算机程序被处理器执行时实现如权利要求1至7任意一项所述存储系统的IO控制方法的步骤。