CN102148871A - 存储资源调度方法和装置 - Google Patents

Abstract

本发明提供了一种存储资源调度方法和装置。涉及计算机领域；解决了如何最快的获取各个存储资源子存储节点信息以完成资源调度的问题。该方法包括：获取最近更新的计算机集群中各存储设备的状态信息；根据所述各存储设备的状态信息，计算所述计算机集群中各存储节点被调度的概率，一台存储设备包括至少一个存储节点；选择可被调度系数较高的存储节点，对该存储节点进行资源调度。本发明提供的技术方案适用于云系统，实现了存储资源的快速调度。

Description

存储资源调度方法和装置

技术领域

本发明涉及计算机领域，尤其涉及一种存储资源调度方法和装置。

背景技术

云存储系统的存储资源，可以由专属的存储服务器充当，但为了更好地实现‘云’的概念，提倡只要有多余的存储资源，加到云端，便可被调度使用，所以通常情况下对存储资源不做专属限制，可以是普通个人计算机的多余存储，也可以是专属服务器的多余存储资源。

在有成千上万的存储设备时，如何最快的获取各个存储资源子存储节点的信息以完成资源调度，是一个迫切需要解决的问题。

发明内容

本发明提供了一种存储资源调度方法和装置，解决了如何最快的获取各个存储资源子存储节点信息以完成资源调度的问题。

一种存储资源调度方法，包括：

获取最近更新的计算机集群中各存储设备的状态信息；

根据所述各存储设备的状态信息，计算所述计算机集群中各存储节点的被调度概率系数，一台存储设备包括至少一个存储节点；

选择被调度概率系数值较高的存储节点，对该节点进行调度使用。

优选的，所述获取最近更新的计算机集群中各存储设备的状态信息具体为：

从缓存(Memcached)服务器上读取所述计算机集群中各存储设备的状态信息，所述状态信息包括存储设备端口、各端口剩余空间、各端口总空间、各存储设备的存储节点总数和各存储设备的剩余存储节点数。

优选的，上述存储资源调度方法还包括：

所述计算机集群中的各存储设备定期向所述Memcached服务器上报该存储设备的状态信息；

所述Memcached服务器使用存储数组存储所述状态信息，所述存储数组的每个元素至少包括一存储设备的主机名(hostname)及该存储设备的端口(port)。

优选的，所述根据所述各存储设备的状态信息，计算所述计算机集群中各存储节点被调度概率系数包括：

建立二维坐标系，设存储节点所对应存储设备的空间利用率，即剩余空间与总空间的比率space_ratio为X轴，设该存储设备的存储节点利用率，即剩余存储节点数与总存储节点数的比率inode_ratio为Y轴；

设(1，1)点为p，(space_ratio，inode_ratio)点为q，(0＜space_ratio＜＝1，0＜inode_ratio＜＝1)；

连接pq，并延长使得其与坐标轴相交，设交点为r；

Z为qr线段长度，即q点的得分权重(0＜Z＜＝1)；

将Z作为所述存储节点的被调度概率系数。

优选的，所述选择被调度概率系数值较高的存储节点具体为：

在多个存储节点的被调度概率系数相同时，对所述存储设备中的多个剩余存储节点做随机选择，从中选择出一个存储节点，调度该存储节点。

优选的，所述存储数组的元素还包括存储节点的被调度概率系数，该方法还包括：

在所述Memcached服务器上的存储数组中存入各存储节点被调度的概率。

本发明还提供了一种存储资源调度装置，其特征在于，包括：

数据获取模块，用于获取最近更新的计算机集群中各存储设备的状态信息；

概率计算模块，用于根据所述各存储设备的状态信息，计算所述计算机集群中各存储节点被调度的概率，一台存储设备包括至少一个存储节点；

存储节点调度模块，用于选择被调度概率较高的存储节点，对该节点进行资源调度。

本发明提供了一种存储资源调度方法和装置，获取最近更新的计算机集群中各存储设备的状态信息；根据所述各存储设备的状态信息，计算所述计算机集群中各存储节点被调度的概率，一台存储设备包括至少一个存储节点；选择被调度概率较高的存储节点，对该存储节点进行资源调度。以存储节点为单位完成调度，实现了调度的快速完成，解决了如何最快的获取各个存储资源子存储节点信息以完成资源调度的问题。

附图说明

图1为本发明的实施例提供的一种存储资源调度方法的流程图；

图2为本发明的实施例提供的一种存储资源调度装置的结构示意图。

具体实施方式

下文中将结合附图对本发明的实施例进行详细说明。需要说明的是，在不冲突的情况下，本申请中的实施例及实施例中的特征可以相互任意组合。

首先，结合附图，对本发明的实施例一进行说明。

本发明实施例提供了一种存储资源调度方法，使用该方法完成存储资源调度的流程如图1所示，包括：

步骤101、计算机集群中的各存储设备定期向Memcached服务器上报该存储设备的状态信息；

本发明的实施例所涉及的存储设备中均部署有Linux操作系统，通过利用Memcached协议获取存储资源状态。本发明实施例中，存储设备的状态存在Memcached服务器当中，由存储设备上的汇报程序定期向Memcached服务器上报状态信息。如果Memcached服务器超时未更新某一存储设备的状态信息，则视为该存储设备失效，不再将该存储设备置于待调度的行列。

本发明实施例中，所述Memcached服务器使用存储数组存储所述状态信息，所述存储数组的每个元素至少包括一存储设备的hostname及该存储设备的port。

步骤102、获取最近更新的计算机集群中各存储设备的状态信息；

本步骤中，当外部的存储资源请求到达的时候，读取Memcached服务器中的计算机集群内各存储设备的状态信息。

步骤103、根据所述各存储设备的状态信息，计算所述计算机集群中各存储节点的被调度概率系数，一台存储设备包括至少一个存储节点；

本步骤中，根据状态信息计算各个存储节点的被调度概率系数。每台存储设备具有至少一个接受读写的端口，每个端口均对应一个存储节点，当一个存储设备具有多个端口时，该存储设备便具有多个存储节点，此时需要一个数组来存储每个存储节点的hostname：port和被调度概率(实际存储的时候，最初存的是该存储设备的概率区间的起始值)。

计算被调度概率的方法具体如下：

建立二维坐标系，设存储设备的空间利用率，即剩余空间与总空间的比率space_ratio为X轴，设存储设备的文件系统inode节点利用率，即剩余文件系统inode节点数与总文件系统inode节点数的比率inode_ratio为Y轴；

设(1，1)点为p，(space_ratio，inode_ratio)点为q；

(0＜space_ratio＜＝1，0＜inode_ratio＜＝1)；

连接pq，并延长使得其与坐标轴相交，设交点为r；

Z为qr线段长度为该点的得分权重(0＜Z＜＝1)；

返回整数(Z*SCORE_MULTI)(SCORE_MULTI仅为了将浮点数转为整数)。

步骤104、选择被调度概率系数值较高的存储节点，对该存储节点进行资源调度；

本步骤中，按步骤103计算获得的被调度概率系数选择提供存储资源的存储节点，一般选择被调度概率系数值较高的存储节点进行调度。当一个存储设备具有多个端口(即包括多个存储节点时)，这些存储节点的被调度概率系数值一般情况下是一样的，此时，还需要通过随机算法从多个被调度系数值一样的存储节点中选择一个存储节点(可以理解为保持设备内部存储目录层面的存储均衡)。

此外，如果Fcopy大于1，则需要选择Fcopy台互不相同的机器。Fcopy即系统拷贝次数，是系统中为了进行灾备设置的参数，同时存在多个存储节点上，以进行冗余备份(进行冗余备份的多个存储节点是可跨地区的)，防止灾难。如果不备份的话，默认的Fcopy值是1，如果需要多备份，就是根据调度算法选择多次，分别存储多次，做到冗余备份。如果需要选择多个拷贝点，会再次进行多次的存储节点选择，但是，此时会加入前一次选中的存储节点的参数，避免选到同一个设备(通过比较hostname实现)。

具体的，在同一存储设备的多个存储节点中选择一个的算法如下：

设有n个存储节点，每个存储节点的分数分布为N1，N2，...，Nn；

生成一个区间数组M，其中，Mi＝Mi-1+Ni(i＞1)，M1＝N1，则Mk(0＜k＜n+1)为一个单调递增序列；

取m＝rand(0，Mn)，则m必定落在某一个区间[Mj，Mj+1)中，Nj则为被选中的存储节点。

步骤105、分别计算被选中存储节点的/path/to/store/this/file/加上hostname：port，一起置入Memcached服务器缓冲区，以此作为外部的存储资源请求访问该选中的存储节点的依据。如/path/to/store/this/file即为存储的路径。

需要说明的是，使用memcached服务器完成存储设备状态信息的获取和存储并不是收集存储设备状态信息的唯一方式。亦可以通过存储设备构成的集群的控制设备完成各存储设备状态信息的获取，本发明实施例中对此不作限定。

本发明的实施例还提供了一种存储资源调度装置，其结构如图2所示，包括：

数据获取模块201，用于获取最近更新的计算机集群中各存储设备的状态信息；

概率计算模块202，用于根据所述各存储设备的状态信息，计算所述计算机集群中各节点的被调度概率系数，一台存储设备包括至少一个存储节点；

存储节点调度模块203，用于选择被调度概率系数值较高的存储节点，对该存储节点进行资源调度。

本发明的实施例提供了一种存储资源调度方法和装置，获取最近更新的计算机集群中各存储设备的状态信息；根据所述各存储设备的状态信息，计算所述计算机集群中各存储节点被调度的概率，一台存储设备包括至少一个存储节点；选择被调度概率较高的存储节点，对该存储节点进行资源调度。以存储节点为单位完成调度，实现了调度的快速完成，解决了如何最快的获取各个存储资源子存储节点信息以完成资源调度的问题。当云存储系统由成千上万的存储资源组成时，在合理的存储资源反馈的基础之上，进行合理的资源调度分配，使各存储资源的负载处于均衡状态。本发明的实施例所提供的存储资源调度方法所使用的算法占用资源少，且需要的存储(如存储数据)非常少，不随请求的增加而增加，实现了使用次少的资源快速的完成存储资源调度。

本领域普通技术人员可以理解上述实施例的全部或部分步骤可以使用计算机程序流程来实现，所述计算机程序可以存储于一计算机可读存储介质中，所述计算机程序在相应的硬件平台上(如系统、设备、装置、器件等)执行，在执行时，包括方法实施例的步骤之一或其组合。

可选地，上述实施例的全部或部分步骤也可以使用集成电路来实现，这些步骤可以被分别制作成一个个集成电路模块，或者将它们中的多个模块或步骤制作成单个集成电路模块来实现。这样，本发明不限制于任何特定的硬件和软件结合。

上述实施例中的各装置/功能模块/功能单元可以采用通用的计算装置来实现，它们可以集中在单个的计算装置上，也可以分布在多个计算装置所组成的网络上。

上述实施例中的各装置/功能模块/功能单元以软件功能模块的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读取存储介质中。上述提到的计算机可读取存储介质可以是只读存储器，磁盘或光盘等。

任何熟悉本技术领域的技术人员在本发明揭露的技术范围内，可轻易想到变化或替换，都应涵盖在本发明的保护范围之内。因此，本发明的保护范围应以权利要求所述的保护范围为准。

Claims (7)

1.一种存储资源调度方法，其特征在于，包括：

获取最近更新的计算机集群中各存储设备的状态信息；

根据所述各存储设备的状态信息，计算所述计算机集群中各存储节点的被调度概率系数，一台存储设备包括至少一个存储节点；

选择被调度概率系数值较高的存储节点，对该节点进行调度使用。

2.根据权利要求1所述的存储资源调度方法，其特征在于，所述获取最近更新的计算机集群中各存储设备的状态信息具体为：

从缓存(Memcached)服务器上读取所述计算机集群中各存储设备的状态信息，所述状态信息包括存储设备端口、各端口剩余空间、各端口总空间、各存储设备的存储节点总数和各存储设备的剩余存储节点数。

3.根据权利要求2所述的存储资源调度方法，其特征在于，该方法还包括：

所述计算机集群中的各存储设备定期向所述Memcached服务器上报该存储设备的状态信息；

所述Memcached服务器使用存储数组存储所述状态信息，所述存储数组的每个元素至少包括一存储设备的主机名(hostname)及该存储设备的端口(port)。

4.根据权利要求2所述的存储资源调度方法，其特征在于，所述根据所述各存储设备的状态信息，计算所述计算机集群中各存储节点被调度概率系数包括：

建立二维坐标系，设存储节点所对应存储设备的空间利用率，即剩余空间与总空间的比率space_ratio为X轴，设该存储设备的存储节点利用率，即剩余存储节点数与总存储节点数的比率inode_ratio为Y轴；

设(1，1)点为p，(space_ratio，inode_ratio)点为q，(0＜space_ratio＜＝1，0＜inode_ratio＜＝1)；

连接pq，并延长使得其与坐标轴相交，设交点为r；

Z为qr线段长度，即q点的得分权重(0＜Z＜＝1)；

将Z作为所述存储节点的被调度概率系数。

5.根据权利要求4所述的存储资源调度方法，其特征在于，所述选择被调度概率系数值较高的存储节点具体为：

在多个存储节点的被调度概率系数相同时，对所述存储设备中的多个剩余存储节点做随机选择，从中选择出一个存储节点，调度该存储节点。

6.根据权利要求3或4所述的存储资源调度方法，其特征在于，所述存储数组的元素还包括存储节点的被调度概率系数，该方法还包括：

在所述Memcached服务器上的存储数组中存入各存储节点被调度的概率。

7.一种存储资源调度装置，其特征在于，包括：

数据获取模块，用于获取最近更新的计算机集群中各存储设备的状态信息；

概率计算模块，用于根据所述各存储设备的状态信息，计算所述计算机集群中各存储节点被调度的概率，一台存储设备包括至少一个存储节点；

存储节点调度模块，用于选择被调度概率较高的存储节点，对该节点进行资源调度。

Images