CN110740099B - 一种数据流控方法和装置 - Google Patents

Abstract

本申请提出一种数据流控方法和装置，所述方法包括：从当前批次的IO请求中抽取预设数量的IO请求或预设大小的IO数据量对应的IO请求作为流控请求；对所述流控请求进行流控计算确定每个流控请求是否允许立刻下发。本申请基于抽样原则，将一定比例的IO请求，经过判断跳过流控过程的检查和处理工作，减少进行流控处理的IO请求数量，降低整体系统的资源消耗，可较大降低IO转发系统中流控相关的CPU消耗。

Description

一种数据流控方法和装置

技术领域

本发明涉及云计算领域，具体涉及一种数据流控方法和装置。

背景技术

目前随着云计算技术和云服务器的发展，用户能以远程登陆的方式进行操作管理的服务器。用户在使用建立在分布式存储系统之上的云磁盘时，最基本的操作就是读取磁盘的数据，往磁盘写入数据。用户的每一个读、写请求，需要从使用云磁盘的云服务器，到后端真正存储数据的存储系统，其间往往要走过多台物理服务器，一级级往后传输。每台服务器上有专门的模块，接收上一级下来的IO(Input/Output，输入/输出)请求，然后再转发给下一级。对于IO转发系统和负责数据接收或输出的系统，其控制传输量的功能行为，称之为数据流控。数据流控是IO转发系统和负责数据收发的系统中很重要的功能。譬如家用宽带都会通过运营商的流控装置限制速度上限(10MB/s、100MB/s)。

如图1所示，现有的IO转发系统，其数据流控的功能实现，过程如下：

1.IO转发系统中的流控模块，其中会记录IO转发系统的限速数值，以及当前已下发的数据量。一般记录数据包含两个维度：IO请求数量，字节数量。

2.IO转发系统把新收到的IO请求先交付给流控模块。

3.流控模块获取当前的时间点，并结合系统设定的限速值及内部记录的已下发数据量，计算当前时间点能够下发的数据量，其中，设定的限速值包括：IOPS(Input/OutputOperations Per Second，每秒允许处理的IO请求个数)上限、BPS(Bits Per Second，每秒允许处理的IO中数据量)上限。

4.对比计算出来的当前时间点能够下发的数据量，确定当前IO是否允许下发。

5.如果允许，则直接下发并订正已下发数据量；否则，让该IO请求等待到可下发的时间点(同样通过计算得出)，然后再下发并订正已下发数据量。

但是，现有方案存在如下缺点：

每一个IO请求，都需要走一遍流控模块，经过上述的一套计算和判断逻辑。这些计算和判断都是需要消耗一定的CPU(Central Processing Unit，中央处理器)的能力。

在高性能的IO转发系统中，每个IO走过一遍流控，其消耗的计算能力，占整体的比重不容忽视。

发明内容

本申请提供一种IO数据流控方法和装置，减少进入流控模块的IO数量，降低整体系统的资源消耗。

采取的技术方案如下：

第一方面，本发明提供一种数据流控方法，包括：

从当前批次的IO请求中抽取预设数量的IO请求或预设大小的IO数据量对应的IO请求作为流控请求；

对所述流控请求进行流控计算确定每个流控请求是否允许立刻下发。

优选地，所述方法应用于云计算块存储领域。

优选地，所述的方法还包括：对当前批次中除了流控请求外的其他IO请求转发至IO流程的下一个处理单元。

优选地，从当前批次的IO请求中抽取预设数量的IO请求包括：

按照预设的抽样比例k，从当前批次的M1个IO请求中抽取M1×k个IO请求作为流控请求；

从当前批次的IO请求中抽取预设大小的IO数据量对应的IO请求包括：

按照预设的抽样比例k，从当前批次的M2比特的IO数据量中抽取M2×k比特的数据量对应的IO请求作为流控请求；

其中，0≤k≤100％。

优选地，抽取流控请求的方式包括：

从当前批次的IO请求中连续抽样。

优选地，所述连续抽样的M1×k个IO请求的数量大于或者等于IO转发系统的同时转发的个数上限X；

所述连续抽样的M2×k比特的数据量大于或者等于IO转发系统的同时转发的数据量上限Y。

优选地，对所述流控请求进行流控计算确定每个流控请求是否允许立刻下发包括：

根据当前批次中除了流控请求外的其他IO请求的转发速度和IO转发系统设定的每秒允许处理的IO请求个数上限或每秒允许处理的IO中数据量的上限，确定所述流控请求是否允许立刻下发；

当确定的所述流控请求不允许立刻下发时，等待至有下发的配额时发送所述流控请求。

第二方面，本发明提供一种数据流控装置，包括：

抽样模块，设置为从当前批次的IO请求中抽取预设数量的IO请求或预设大小的IO数据量对应的IO请求作为流控请求；

流控模块，设置为对所述流控请求进行流控计算确定每个流控请求是否允许立刻下发。

优选地，所述的装置还包括：

转发模块，设置为对当前批次中除了流控请求外的其他IO请求转发至IO流程的下一个处理单元。

优选地，所述抽样模块从当前批次的IO请求中抽取预设数量的IO请求包括：

按照预设的抽样比例k，从当前批次的M1个IO请求中抽取M1×k个IO请求作为流控请求；

所述抽样模块从当前批次的IO请求中抽取预设大小的IO数据量对应的IO请求包括：

按照预设的抽样比例k，从当前批次的M2比特的IO数据量中抽取M2×k比特的数据量对应的IO请求作为流控请求；

其中，0≤k≤100％。

优选地，所述抽样模块抽取流控请求的方式包括：

从当前批次的IO请求中连续抽样。

优选地，所述抽样模块连续抽样的M1×k个IO请求的数量大于或者等于IO转发系统的同时转发的个数上限X；

所述抽样模块连续抽样的M2×k比特的数据量大于或者等于IO转发系统的同时转发的数据量上限Y。

优选地，所述流控模块对所述流控请求进行流控计算确定每个流控请求是否允许立刻下发包括：

根据当前批次中除了流控请求外的其他IO请求的转发速度和IO转发系统设定的每秒允许处理的IO请求个数上限或每秒允许处理的IO中数据量的上限，确定所述流控请求是否允许立刻下发；

当确定的所述流控请求不允许立刻下发时，等待至有下发的配额时发送所述流控请求。

本申请和现有技术相比，具有如下有益效果：

本申请基于抽样原则，将一定比例的IO请求，经过判断跳过流控过程的检查和处理工作，减少进行流控处理的IO请求数量，降低整体系统的资源消耗，可较大降低IO转发系统中流控相关的CPU消耗。

附图说明

图1为相关技术的IO转发系统数据流控的流程图；

图2为本发明实施例的数据流控方法的流程图；

图3为本发明实施例的数据流控装置的结构示意图；

图4为本发明实施例的数据流控过程的流程图。

具体实施方式

下面将结合附图及实施例对本申请的技术方案进行更详细的说明。

需要说明的是，如果不冲突，本申请实施例以及实施例中的各个特征可以相互结合，均在本申请的保护范围之内。另外，虽然在流程图中示出了逻辑顺序，但是在某些情况下，可以以不同于此处的顺序执行所示出或描述的步骤。

在一种配置中，进行数据流控的计算设备可包括一个或多个处理器(CPU)、输入/输出接口、网络接口和内存(memory)。

内存可能包括计算机可读介质中的非永久性存储器，随机存取存储器(RAM)和/或非易失性内存等形式，如只读存储器(ROM)或闪存(flash RAM)。内存是计算机可读介质的示例。内存可能包括一个或多个模块。

计算机可读介质包括永久性和非永久性、可移动和非可移动存储介质，可以由任何方法或技术来实现信息存储。信息可以是计算机可读指令、数据结构、程序的模块或其他数据。计算机的存储介质的例子包括，但不限于相变内存(PRAM)、静态随机存取存储器(SRAM)、动态随机存取存储器(DRAM)、其他类型的随机存取存储器(RAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)，快闪记忆体或其他内存技术、只读光盘只读存储器(CD-ROM)、数字多功能光盘(DVD)或其他光学存储、磁盒式磁带，磁盘存储或其他磁性存储设备或任何其他非传输介质，可用于存储可以被计算设备访问的信息。

实施例一

如图2所示，本实施例提供一种数据流控方法，应用于云计算块存储领域，包括：

S101、从当前批次的IO请求中抽取预设数量的IO请求或预设大小的IO数据量对应的IO请求作为流控请求；

S102、对所述流控请求进行流控计算确定每个流控请求是否允许立刻下发。

本实施例中，对当前批次中除了流控请求外的其他IO请求转发至IO流程的下一个处理单元。

本实施例中为了减少流控的处理时间，利用抽样原则进行流控，对一部分的IO请求进行流控判断，将其他的IO请求，跳过流控过程的检查和处理工作，直接放行，这样可以减少进行流控处理的IO请求数量，降低整体系统的资源消耗，可较大降低IO转发系统中流控相关的CPU消耗。

在工程实践上，多数能够达到流控上限的场景，其IO请求的大小都是比较均匀随机的。故而抽样流控和全局流控的实际流控准确性差别不大。

本实施例可以利用两种抽样的方法：一种基于IO请求数量抽样，另一种基于IO请求数据量抽样。两种抽样分别控制IOPS和BPS。实际使用时，如果不需要两个都控制，也可只启用一个流程。

IOPS：Input/Output Operations Per Second，标识系统每秒允许处理的IO请求个数。单位为个/秒。

BPS：Bits Per Second，标识系统每秒允许处理的IO中数据量。单位为字节/秒。

对于不同的IO请求，其处理的字节数不同。譬如一个是IO请求读取100字节数据，另一个是IO请求写入5000字节数据。故而BPS与IOPS是两个流控的维度。

其中，步骤S101从当前批次的IO请求中抽取预设数量的IO请求包括：

按照预设的抽样比例k，从当前批次的M1个IO请求中抽取M1×k个IO请求作为流控请求；

从当前批次的IO请求中抽取预设大小的IO数据量对应的IO请求包括：

按照预设的抽样比例k，从当前批次的M2比特的IO数据量中抽取M2×k比特的数据量对应的IO请求作为流控请求；

其中，0≤k≤100％，M1为当前批次IO请求的数量，M2为当前批次IO请求的数据量。

本实施例中，抽样比例k影响IO转发系统的性能。抽样比例k越低，需要进入流控系统的IO数量就越少，流控带来的性能开销就越少，本实施例在实践中，设置10％至50％的抽样比例。由此可较大降低IO转发系统中流控相关的CPU消耗。

本实施例中，抽取流控请求的方式包括：

从当前批次的IO请求中连续抽样。

本实施例可以采用每批次中在连续区域抽样的方式。即每批次的T个IO请求(或IO数据量)，会抽取其中连续的N个IO请求进行流控，例如IO转发系统中每收到2000个IO请求，其中连续的1000个会被作为流控请求进行流控，而另1000个直接放行；或每100MB的IO数据量，其中连续的50MB对应的IO请求被作为流控请求进行流控。本实施例基于批次连续抽样的方式，保证即便IO转发系统批量接收IO请求，也会有间隔固定时间能够对整个系统的IO请求进行整体流控，可以使得流控的准确性不会受到大的影响。

本实施例中，所述连续抽样的M1×k个IO请求的数量大于或者等于IO转发系统的同时转发的个数上限X；

所述连续抽样的M2×k比特的数据量大于或者等于IO转发系统的同时转发的数据量上限Y。

IOPS上限：系统每秒允许处理的IO请求个数上限。这个一般是使用者给转发系统配置的参数。

BPS上限：系统每秒允许处理的IO中数据量的上限。这个一般是使用者给转发系统配置的参数。

IO转发系统中，都会有同时转发IO请求个数上限X，及同时转发数据量上限Y，例如，IO转发系统中最多能同时处理1000个IO请求，当前在处理的IO请求个数低于1000个时，才会接收新的请求。

本实施例中，对所述流控请求进行流控计算确定每个流控请求是否允许立刻下发包括：

根据当前批次中除了流控请求外的其他IO请求的转发速度和IO转发系统设定的每秒允许处理的IO请求个数上限或每秒允许处理的IO中数据量的上限，确定所述流控请求是否允许立刻下发；

当确定的所述流控请求不允许立刻下发时，等待至有下发的配额时发送所述流控请求。

实施例二

如图3所示，本实施例提供一种IO数据流控装置，包括：

抽样模块100，设置为从当前批次的IO请求中抽取预设数量的IO请求和/或预设大小的IO数据量对应的IO请求作为流控请求；

流控模块200，设置为对所述流控请求进行流控计算确定每个流控请求是否允许立刻下发。

本实施例中所述的装置还包括：

转发模块300，设置为对当前批次中除了流控请求外的其他IO请求转发至IO流程的下一个处理单元。

本实施例中，所述抽样模块100从当前批次的IO请求中抽取预设数量的IO请求包括：

按照预设的抽样比例k，从当前批次的M1个IO请求中抽取M1×k个IO请求作为流控请求；

所述抽样模块100从当前批次的IO请求中抽取预设大小的IO数据量对应的IO请求包括：

按照预设的抽样比例k，从当前批次的M2比特的IO数据量中抽取M2×k比特的数据量对应的IO请求作为流控请求。

本实施例中，所述抽样模块100抽取流控请求的方式包括：

从当前批次的IO请求中连续抽样。

本实施例中，所述抽样模块100连续抽样的M1×k个IO请求的数量大于或者等于IO转发系统的同时转发的个数上限X；

所述抽样模块100连续抽样的M2×k比特的数据量大于或者等于IO转发系统的同时转发的数据量上限Y。

本实施例中，所述流控模块200对所述流控请求进行流控计算确定每个流控请求是否允许立刻下发包括：

根据当前批次中除了流控请求外的其他IO请求的转发速度和IO转发系统设定的每秒允许处理的IO请求个数上限或每秒允许处理的IO中数据量的上限，确定所述流控请求是否允许立刻下发；

当确定的所述流控请求不允许立刻下发时，等待至有下发的配额时发送所述流控请求。

实施例三

如图4所示，本实施例说明连续抽样的IO数据流控过程：

对于IOPS的流控。为了保证流控的准确性，本实施例采用连续抽样，并要求连续抽样的IO数量不低于IO转发系统的同时转发上限，即X。由此保证IO转发系统在处理IO请求时，每隔一段时间都会有一个时间点，其内部正在同时处理的所有IO请求都是被抽样并进行了流控处理，这样做意味着每隔一段时间整个IO转发系统的IO流控会做一次准确计算，由此可保证流控准确。

例如抽样比例k＝50％，连续抽样个数N＝1000，设定IOPS上限＝1000/s。则每2000个IO请求，前1000个直接转发，后1000个会被限制1秒时间才全部下发完成。由此实现IO转发系统整体IOPS上限＝1000/s。

对于BPS的流控。其原理同上。保证每批次中被连续抽样的IO请求的数据量大于IO转发系统的同时转发数据量上限，即Y。由此保证数据量流控的准确性；针对IO请求的字节数累加值进行抽样，可以实现BPS的抽样流控。

本实施例中IOPS和BPS的流控要各自分开计算抽样，各自独立进行，分开后各自计算，可以保证每一流程进入流控的比例都等于k。

实施例四

如图4所示，本实施例说明IO数据流控过程：

IO转发系统初始化的相关动作：

1.设定流控模块的IOPS上限P1，BPS上限P2；抽样比例k(k≤100％)。系统可得知同时转发IO个数上限X，及同时转发IO数据量上限Y。

2.根据上述数值，设定IOPS流控流程的每批次IO数量M1＝X/k；BPS流控流程的每批次IO数据量M2＝Y/k。

3.设定一个整体IO数据量计数器Cy，初始值为0。

处理IO请求的流程：

1.如果不需要做IOPS流控，则跳至第5步。

2.基于当前IO请求对应的自增ID(Identification，标识)。计算当前请求在IOPS流控批次中的序号pid＝id mod M1(mod为取模操作)。

3.如果pid>X，则不需要被流控，跳至第5步。

4.否则，IO请求作为IOPS流控的流控请求。这里只针对IO个数进行配额计算。此处理完成后，此IO请求进入第5步。

5.如果不需要做BPS流控，跳至第10步。

6.计数器Cy加上当前IO请求的数据量。

7.计算当前IO请求在BPS流控批次中的序号bid＝Cy mod M2(mod为取模操作)。

8.如果bid>Y，则不需要被流控，跳至第10步。

9.否则，IO请求作为BPS流控的流控请求。这里只针对IO数据量进行配额计算。此处理完成后，此IO请求进入第10步。

10.流控相关检查完成，进入转发流程的其他阶段。

虽然本发明所揭示的实施方式如上，但其内容只是为了便于理解本发明的技术方案而采用的实施方式，并非用于限定本发明。任何本发明所属技术领域内的技术人员，在不脱离本发明所揭示的核心技术方案的前提下，可以在实施的形式和细节上做任何修改与变化，但本发明所限定的保护范围，仍须以所附的权利要求书限定的范围为准。

Claims (11)

1.一种数据流控方法，其特征在于，包括：

从当前批次的IO请求中抽取预设数量的IO请求或预设大小的IO数据量对应的IO请求作为流控请求；

从当前批次的IO请求中抽取预设数量的IO请求包括：

按照预设的抽样比例k，从当前批次的M1个IO请求中抽取M1×k个IO请求作为流控请求；

从当前批次的IO请求中抽取预设大小的IO数据量对应的IO请求包括：

按照预设的抽样比例k，从当前批次的M2比特的IO数据量中抽取M2×k比特的数据量对应的IO请求作为流控请求；

其中，0≤k≤100％；

对所述流控请求进行流控计算确定每个流控请求是否允许立刻下发。

2.如权利要求1所述的方法，其特征在于：所述方法应用于云计算块存储领域。

3.如权利要求1所述的方法，其特征在于：还包括：对当前批次中除了流控请求外的其他IO请求转发至IO流程的下一个处理单元。

4.如权利要求3所述的方法，其特征在于：抽取流控请求的方式包括：

从当前批次的IO请求中连续抽样。

5.如权利要求4所述的方法，其特征在于：

所述连续抽样的M1×k个IO请求的数量大于或者等于IO转发系统的同时转发的个数上限X；

所述连续抽样的M2×k比特的数据量大于或者等于IO转发系统的同时转发的数据量上限Y。

6.如权利要求1所述的方法，其特征在于：对所述流控请求进行流控计算确定每个流控请求是否允许立刻下发包括：

根据当前批次中除了流控请求外的其他IO请求的转发速度和IO转发系统设定的每秒允许处理的IO请求个数上限或每秒允许处理的IO中数据量的上限，确定所述流控请求是否允许立刻下发；

当确定的所述流控请求不允许立刻下发时，等待至有下发的配额时发送所述流控请求。

7.一种数据流控装置，其特征在于，包括：

抽样模块，设置为从当前批次的IO请求中抽取预设数量的IO请求或预设大小的IO数据量对应的IO请求作为流控请求；

所述抽样模块从当前批次的IO请求中抽取预设数量的IO请求包括：

按照预设的抽样比例k，从当前批次的M1个IO请求中抽取M1×k个IO请求作为流控请求；

所述抽样模块从当前批次的IO请求中抽取预设大小的IO数据量对应的IO请求包括：

按照预设的抽样比例k，从当前批次的M2比特的IO数据量中抽取M2×k比特的数据量对应的IO请求作为流控请求；

其中，0≤k≤100％；

流控模块，设置为对所述流控请求进行流控计算确定每个流控请求是否允许立刻下发。

8.如权利要求7所述的装置，其特征在于：还包括：

转发模块，设置为对当前批次中除了流控请求外的其他IO请求转发至IO流程的下一个处理单元。

9.如权利要求8所述的装置，其特征在于：所述抽样模块抽取流控请求的方式包括：

从当前批次的IO请求中连续抽样。

10.如权利要求7所述的装置，其特征在于：

所述抽样模块连续抽样的M1×k个IO请求的数量大于或者等于IO转发系统的同时转发的个数上限X；

所述抽样模块连续抽样的M2×k比特的数据量大于或者等于IO转发系统的同时转发的数据量上限Y。

11.如权利要求7所述的装置，其特征在于：所述流控模块对所述流控请求进行流控计算确定每个流控请求是否允许立刻下发包括：

根据当前批次中除了流控请求外的其他IO请求的转发速度和IO转发系统设定的每秒允许处理的IO请求个数上限或每秒允许处理的IO中数据量的上限，确定所述流控请求是否允许立刻下发；

当确定的所述流控请求不允许立刻下发时，等待至有下发的配额时发送所述流控请求。

Images