CN102148871B - 存储资源调度方法和装置 - Google Patents
存储资源调度方法和装置 Download PDFInfo
- Publication number
- CN102148871B CN102148871B CN 201110066971 CN201110066971A CN102148871B CN 102148871 B CN102148871 B CN 102148871B CN 201110066971 CN201110066971 CN 201110066971 CN 201110066971 A CN201110066971 A CN 201110066971A CN 102148871 B CN102148871 B CN 102148871B
- Authority
- CN
- China
- Prior art keywords
- memory
- memory device
- memory node
- ratio
- node
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000003860 storage Methods 0.000 title claims abstract description 75
- 238000000034 method Methods 0.000 title claims abstract description 27
- 238000004364 calculation method Methods 0.000 claims description 6
- 239000000872 buffer Substances 0.000 claims description 4
- 238000004422 calculation algorithm Methods 0.000 description 4
- 238000004590 computer program Methods 0.000 description 3
- 239000012141 concentrate Substances 0.000 description 1
- 238000009826 distribution Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 230000006870 function Effects 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
Images
Landscapes
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本发明提供了一种存储资源调度方法和装置。涉及计算机领域;解决了如何最快的获取各个存储资源子存储节点信息以完成资源调度的问题。该方法包括:获取最近更新的计算机集群中各存储设备的状态信息;根据所述各存储设备的状态信息,计算所述计算机集群中各存储节点被调度的概率,一台存储设备包括至少一个存储节点;选择可被调度系数较高的存储节点,对该存储节点进行资源调度。本发明提供的技术方案适用于云系统,实现了存储资源的快速调度。
Description
技术领域
本发明涉及计算机领域,尤其涉及一种存储资源调度方法和装置。
背景技术
云存储系统的存储资源,可以由专属的存储服务器充当,但为了更好地实现‘云’的概念,提倡只要有多余的存储资源,加到云端,便可被调度使用,所以通常情况下对存储资源不做专属限制,可以是普通个人计算机的多余存储,也可以是专属服务器的多余存储资源。
在有成千上万的存储设备时,如何最快的获取各个存储资源子存储节点的信息以完成资源调度,是一个迫切需要解决的问题。
发明内容
本发明提供了一种存储资源调度方法和装置,解决了如何最快的获取各个存储资源子存储节点信息以完成资源调度的问题。
一种存储资源调度方法,包括:
获取最近更新的计算机集群中各存储设备的状态信息;
根据所述各存储设备的状态信息,计算所述计算机集群中各存储节点的被调度概率系数,一台存储设备包括至少一个存储节点;
选择被调度概率系数值较高的存储节点,对该节点进行调度使用。
优选的,所述获取最近更新的计算机集群中各存储设备的状态信息具体为:
从缓存(Memcached)服务器上读取所述计算机集群中各存储设备的状态信息,所述状态信息包括存储设备端口、各端口剩余空间、各端口总空间、各存储设备的存储节点总数和各存储设备的剩余存储节点数。
优选的,上述存储资源调度方法还包括:
所述计算机集群中的各存储设备定期向所述Memcached服务器上报该存储设备的状态信息;
所述Memcached服务器使用存储数组存储所述状态信息,所述存储数组的每个元素至少包括一存储设备的主机名(hostname)及该存储设备的端口(port)。
优选的,所述根据所述各存储设备的状态信息,计算所述计算机集群中各存储节点被调度概率系数包括:
建立二维坐标系,设存储节点所对应存储设备的空间利用率,即剩余空间与总空间的比率space_ratio为X轴,设该存储设备的存储节点利用率,即剩余存储节点数与总存储节点数的比率inode_ratio为Y轴;
设(1,1)点为p,(space_ratio,inode_ratio)点为q,(0<space_ratio<=1,0<inode_ratio<=1);
连接pq,并延长使得其与坐标轴相交,设交点为r;
Z为qr线段长度,即q点的得分权重(0<Z<=1);
将Z作为所述存储节点的被调度概率系数。
优选的,所述选择被调度概率系数值较高的存储节点具体为:
在多个存储节点的被调度概率系数相同时,对所述存储设备中的多个剩余存储节点做随机选择,从中选择出一个存储节点,调度该存储节点。
优选的,所述存储数组的元素还包括存储节点的被调度概率系数,该方法还包括:
在所述Memcached服务器上的存储数组中存入各存储节点被调度的概率。
本发明还提供了一种存储资源调度装置,其特征在于,包括:
数据获取模块,用于获取最近更新的计算机集群中各存储设备的状态信息;
概率计算模块,用于根据所述各存储设备的状态信息,计算所述计算机集群中各存储节点被调度的概率,一台存储设备包括至少一个存储节点;
存储节点调度模块,用于选择被调度概率较高的存储节点,对该节点进行资源调度。
本发明提供了一种存储资源调度方法和装置,获取最近更新的计算机集群中各存储设备的状态信息;根据所述各存储设备的状态信息,计算所述计算机集群中各存储节点被调度的概率,一台存储设备包括至少一个存储节点;选择被调度概率较高的存储节点,对该存储节点进行资源调度。以存储节点为单位完成调度,实现了调度的快速完成,解决了如何最快的获取各个存储资源子存储节点信息以完成资源调度的问题。
附图说明
图1为本发明的实施例提供的一种存储资源调度方法的流程图;
图2为本发明的实施例提供的一种存储资源调度装置的结构示意图。
具体实施方式
下文中将结合附图对本发明的实施例进行详细说明。需要说明的是,在不冲突的情况下,本申请中的实施例及实施例中的特征可以相互任意组合。
首先,结合附图,对本发明的实施例一进行说明。
本发明实施例提供了一种存储资源调度方法,使用该方法完成存储资源调度的流程如图1所示,包括:
步骤101、计算机集群中的各存储设备定期向Memcached服务器上报该存储设备的状态信息;
本发明的实施例所涉及的存储设备中均部署有Linux操作系统,通过利用Memcached协议获取存储资源状态。本发明实施例中,存储设备的状态存在Memcached服务器当中,由存储设备上的汇报程序定期向Memcached服务器上报状态信息。如果Memcached服务器超时未更新某一存储设备的状态信息,则视为该存储设备失效,不再将该存储设备置于待调度的行列。
本发明实施例中,所述Memcached服务器使用存储数组存储所述状态信息,所述存储数组的每个元素至少包括一存储设备的hostname及该存储设备的port。
步骤102、获取最近更新的计算机集群中各存储设备的状态信息;
本步骤中,当外部的存储资源请求到达的时候,读取Memcached服务器中的计算机集群内各存储设备的状态信息。
步骤103、根据所述各存储设备的状态信息,计算所述计算机集群中各存储节点的被调度概率系数,一台存储设备包括至少一个存储节点;
本步骤中,根据状态信息计算各个存储节点的被调度概率系数。每台存储设备具有至少一个接受读写的端口,每个端口均对应一个存储节点,当一个存储设备具有多个端口时,该存储设备便具有多个存储节点,此时需要一个数组来存储每个存储节点的hostname:port和被调度概率(实际存储的时候,最初存的是该存储设备的概率区间的起始值)。
计算被调度概率的方法具体如下:
建立二维坐标系,设存储设备的空间利用率,即剩余空间与总空间的比率space_ratio为X轴,设存储设备的文件系统inode节点利用率,即剩余文件系统inode节点数与总文件系统inode节点数的比率inode_ratio为Y轴;
设(1,1)点为p,(space_ratio,inode_ratio)点为q;
(0<space_ratio<=1,0<inode_ratio<=1);
连接pq,并延长使得其与坐标轴相交,设交点为r;
Z为qr线段长度为该点的得分权重(0<Z<=1);
返回整数(Z*SCORE_MULTI)(SCORE_MULTI仅为了将浮点数转为整数)。
步骤104、选择被调度概率系数值较高的存储节点,对该存储节点进行资源调度;
本步骤中,按步骤103计算获得的被调度概率系数选择提供存储资源的存储节点,一般选择被调度概率系数值较高的存储节点进行调度。当一个存储设备具有多个端口(即包括多个存储节点时),这些存储节点的被调度概率系数值一般情况下是一样的,此时,还需要通过随机算法从多个被调度系数值一样的存储节点中选择一个存储节点(可以理解为保持设备内部存储目录层面的存储均衡)。
此外,如果Fcopy大于1,则需要选择Fcopy台互不相同的机器。Fcopy即系统拷贝次数,是系统中为了进行灾备设置的参数,同时存在多个存储节点上,以进行冗余备份(进行冗余备份的多个存储节点是可跨地区的),防止灾难。如果不备份的话,默认的Fcopy值是1,如果需要多备份,就是根据调度算法选择多次,分别存储多次,做到冗余备份。如果需要选择多个拷贝点,会再次进行多次的存储节点选择,但是,此时会加入前一次选中的存储节点的参数,避免选到同一个设备(通过比较hostname实现)。
具体的,在同一存储设备的多个存储节点中选择一个的算法如下:
设有n个存储节点,每个存储节点的分数分布为N1,N2,...,Nn;
生成一个区间数组M,其中,Mi=Mi-1+Ni(i>1),M1=N1,则Mk(0<k<n+1)为一个单调递增序列;
取m=rand(0,Mn),则m必定落在某一个区间[Mj,Mj+1)中,Nj则为被选中的存储节点。
步骤105、分别计算被选中存储节点的/path/to/store/this/file/加上hostname:port,一起置入Memcached服务器缓冲区,以此作为外部的存储资源请求访问该选中的存储节点的依据。如/path/to/store/this/file即为存储的路径。
需要说明的是,使用memcached服务器完成存储设备状态信息的获取和存储并不是收集存储设备状态信息的唯一方式。亦可以通过存储设备构成的集群的控制设备完成各存储设备状态信息的获取,本发明实施例中对此不作限定。
本发明的实施例还提供了一种存储资源调度装置,其结构如图2所示,包括:
数据获取模块201,用于获取最近更新的计算机集群中各存储设备的状态信息;
概率计算模块202,用于根据所述各存储设备的状态信息,计算所述计算机集群中各节点的被调度概率系数,一台存储设备包括至少一个存储节点;
存储节点调度模块203,用于选择被调度概率系数值较高的存储节点,对该存储节点进行资源调度。
本发明的实施例提供了一种存储资源调度方法和装置,获取最近更新的计算机集群中各存储设备的状态信息;根据所述各存储设备的状态信息,计算所述计算机集群中各存储节点被调度的概率,一台存储设备包括至少一个存储节点;选择被调度概率较高的存储节点,对该存储节点进行资源调度。以存储节点为单位完成调度,实现了调度的快速完成,解决了如何最快的获取各个存储资源子存储节点信息以完成资源调度的问题。当云存储系统由成千上万的存储资源组成时,在合理的存储资源反馈的基础之上,进行合理的资源调度分配,使各存储资源的负载处于均衡状态。本发明的实施例所提供的存储资源调度方法所使用的算法占用资源少,且需要的存储(如存储数据)非常少,不随请求的增加而增加,实现了使用次少的资源快速的完成存储资源调度。
本领域普通技术人员可以理解上述实施例的全部或部分步骤可以使用计算机程序流程来实现,所述计算机程序可以存储于一计算机可读存储介质中,所述计算机程序在相应的硬件平台上(如系统、设备、装置、器件等)执行,在执行时,包括方法实施例的步骤之一或其组合。
可选地,上述实施例的全部或部分步骤也可以使用集成电路来实现,这些步骤可以被分别制作成一个个集成电路模块,或者将它们中的多个模块或步骤制作成单个集成电路模块来实现。这样,本发明不限制于任何特定的硬件和软件结合。
上述实施例中的各装置/功能模块/功能单元可以采用通用的计算装置来实现,它们可以集中在单个的计算装置上,也可以分布在多个计算装置所组成的网络上。
上述实施例中的各装置/功能模块/功能单元以软件功能模块的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。上述提到的计算机可读取存储介质可以是只读存储器,磁盘或光盘等。
任何熟悉本技术领域的技术人员在本发明揭露的技术范围内,可轻易想到变化或替换,都应涵盖在本发明的保护范围之内。因此,本发明的保护范围应以权利要求所述的保护范围为准。
Claims (5)
1.一种存储资源调度方法,其特征在于,包括:
获取最近更新的计算机集群中各存储设备的状态信息,具体为:从缓存Memcached服务器上读取所述计算机集群中各存储设备的状态信息,所述状态信息包括存储设备端口、各端口剩余空间、各端口总空间、各存储设备的存储节点总数和各存储设备的剩余存储节点数;
根据所述各存储设备的状态信息,计算所述计算机集群中各存储节点的被调度概率系数,包括:建立二维坐标系,设存储节点所对应存储设备的空间利用率,即剩余空间与总空间的比率space_ratio为X轴,设该存储设备的存储节点利用率,即剩余存储节点数与总存储节点数的比率inode_ratio为Y轴;设(1,1)点为p,(space_ratio,inode_ratio)点为q,(0<space_ratio<=1,0<inode_ratio<=1);连接pq,并延长使得其与坐标轴相交,设交点为r;Z为qr线段长度,即q点的得分权重(0<Z<=1);将Z作为所述存储节点的被调度概率系数;一台存储设备包括至少一个存储节点;
选择被调度概率系数值较高的存储节点,对该节点进行调度使用。
2.根据权利要求1所述的存储资源调度方法,其特征在于,该方法还包括:
所述计算机集群中的各存储设备定期向所述Memcached服务器上报该存储设备的状态信息;
所述Memcached服务器使用存储数组存储所述状态信息,所述存储数组的每个元素至少包括一存储设备的主机名(hostname)及该存储设备的端口(port)。
3.根据权利要求1所述的存储资源调度方法,其特征在于,所述选择被调度概率系数值较高的存储节点具体为:
在多个存储节点的被调度概率系数相同时,对所述存储设备中的多个剩余存储节点做随机选择,从中选择出一个存储节点,调度该存储节点。
4.根据权利要求2所述的存储资源调度方法,其特征在于,所述存储数组的元素还包括存储节点的被调度概率系数,该方法还包括:
在所述Memcached服务器上的存储数组中存入各存储节点被调度的概率。
5.一种存储资源调度装置,其特征在于,包括:
数据获取模块,用于获取最近更新的计算机集群中各存储设备的状态信息,具体为:从缓存Memcached服务器上读取所述计算机集群中各存储设备的状态信息,所述状态信息包括存储设备端口、各端口剩余空间、各端口总空间、各存储设备的存储节点总数和各存储设备的剩余存储节点数;
概率计算模块,用于根据所述各存储设备的状态信息,计算所述计算机集群中各存储节点被调度的概率,包括:建立二维坐标系,设存储节点所对应存储设备的空间利用率,即剩余空间与总空间的比率space_ratio为X轴,设该存储设备的存储节点利用率,即剩余存储节点数与总存储节点数的比率inode_ratio为Y轴;设(1,1)点为p,(space_ratio,inode_ratio)点为q,(0<space_ratio<=1,0<inode_ratio<=1);连接pq,并延长使得其与坐标轴相交,设交点为r;Z为qr线段长度,即q点的得分权重(0<Z<=1);将Z作为所述存储节点的被调度概率系数;一台存储设备包括至少一个存储节点;
存储节点调度模块,用于选择被调度概率较高的存储节点,对该节点进行资源调度。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN 201110066971 CN102148871B (zh) | 2011-03-18 | 2011-03-18 | 存储资源调度方法和装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN 201110066971 CN102148871B (zh) | 2011-03-18 | 2011-03-18 | 存储资源调度方法和装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN102148871A CN102148871A (zh) | 2011-08-10 |
CN102148871B true CN102148871B (zh) | 2013-07-10 |
Family
ID=44422857
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN 201110066971 Active CN102148871B (zh) | 2011-03-18 | 2011-03-18 | 存储资源调度方法和装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN102148871B (zh) |
Families Citing this family (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103152191A (zh) * | 2011-12-06 | 2013-06-12 | 中国移动通信集团福建有限公司 | 一种物联网业务网关数据处理方法和系统 |
CN102902598B (zh) * | 2012-09-10 | 2015-08-19 | 曙光信息产业(北京)有限公司 | 一种与作业调度系统相结合的资源检测预处理方法 |
CN102917036A (zh) * | 2012-10-08 | 2013-02-06 | 浪潮齐鲁软件产业有限公司 | 一种基于Memcached的分布式缓存数据同步实现方法 |
CN103812886B (zh) * | 2012-11-09 | 2018-04-17 | 中国科学院上海高等研究院 | 计算机集群资源分配系统和方法 |
CN103475690B (zh) * | 2013-06-17 | 2016-06-08 | 上海携程商务有限公司 | Memcached节点配置方法及装置 |
CN103593240B (zh) * | 2013-11-08 | 2016-11-23 | 华为技术有限公司 | 一种优化的调度方法及管理设备 |
CN103731505A (zh) * | 2014-01-17 | 2014-04-16 | 中国联合网络通信集团有限公司 | 一种数据分布式存储方法及系统 |
CN108196791A (zh) * | 2017-12-29 | 2018-06-22 | 北京奇虎科技有限公司 | 基于多个存储设备的数据访问方法及装置 |
CN110022337A (zh) * | 2018-01-09 | 2019-07-16 | 阿里巴巴集团控股有限公司 | 资源调度方法、装置、设备和系统 |
CN108924202B (zh) * | 2018-06-25 | 2021-12-03 | 郑州云海信息技术有限公司 | 一种分布式集群的数据容灾方法以及相关装置 |
CN112565829B (zh) * | 2020-11-26 | 2023-03-17 | 湖南快乐阳光互动娱乐传媒有限公司 | 网络调度方法、装置、系统及可读存储介质 |
CN113010309B (zh) * | 2021-03-02 | 2022-10-25 | 北京达佳互联信息技术有限公司 | 集群资源调度方法、装置、存储介质、设备和程序产品 |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101360042A (zh) * | 2007-08-01 | 2009-02-04 | 中国电信股份有限公司 | 可运营p2p网络应用路由系统及其路由实现方法 |
CN101753617A (zh) * | 2009-12-11 | 2010-06-23 | 中兴通讯股份有限公司 | 一种云存储系统和方法 |
-
2011
- 2011-03-18 CN CN 201110066971 patent/CN102148871B/zh active Active
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101360042A (zh) * | 2007-08-01 | 2009-02-04 | 中国电信股份有限公司 | 可运营p2p网络应用路由系统及其路由实现方法 |
CN101753617A (zh) * | 2009-12-11 | 2010-06-23 | 中兴通讯股份有限公司 | 一种云存储系统和方法 |
Also Published As
Publication number | Publication date |
---|---|
CN102148871A (zh) | 2011-08-10 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN102148871B (zh) | 存储资源调度方法和装置 | |
US11036691B2 (en) | Heterogeneous distributed file system using different types of storage mediums | |
US10990561B2 (en) | Parameter server and method for sharing distributed deep learning parameter using the same | |
KR101502896B1 (ko) | 맵 리듀스를 이용한 분산 메모리 클러스터 제어 장치 및 방법 | |
CN109376197B (zh) | 一种数据同步方法、服务器及计算机存储介质 | |
CN105359120B (zh) | 使用双phy来支持多个pcie链路宽度的存储器和控制器 | |
US20150331744A1 (en) | Data device grouping across multiple-data-storage-devices enclosures for data reconstruction | |
JP5943430B2 (ja) | 分散記憶システムおよび分散記憶方法 | |
CN102117248A (zh) | 一种缓存系统和在缓存系统中缓存数据的方法 | |
CN106843745A (zh) | 容量扩展方法及装置 | |
JP7234479B2 (ja) | ストレージアドレスの決定に関してマルチレベルハッシュ関数を用いるオブジェクトストレージシステム | |
US10084860B2 (en) | Distributed file system using torus network and method for configuring and operating distributed file system using torus network | |
CN106990915A (zh) | 一种基于存储介质类型和加权配额的存储资源管理方法 | |
US9557938B2 (en) | Data retrieval based on storage device activation schedules | |
CN105138281B (zh) | 一种物理磁盘的共享方法及装置 | |
CN100530069C (zh) | 一种非同质存储设备的虚拟化系统及方法 | |
CN105426427A (zh) | 基于raid 0 存储的mpp 数据库集群副本实现方法 | |
CN102143228A (zh) | 一种云存储系统、云客户端及实现存储区域网络服务的方法 | |
JP5035708B2 (ja) | 並列計算機システム、ジョブサーバ、ジョブスケジューリング方法及びジョブスケジューリングプログラム | |
KR20160121380A (ko) | 토러스 네트워크를 이용하는 분산 파일 시스템 및 토러스 네트워크를 이용하는 분산 파일 시스템의 구성 및 운영 방법 | |
CN107729536A (zh) | 一种数据存储方法和装置 | |
KR20180046078A (ko) | 데이터베이스 리밸런싱 방법 | |
CN103365740A (zh) | 一种数据冷备方法及装置 | |
US9753803B2 (en) | Storage system and information processing apparatus | |
CN102521155B (zh) | 实现表项在物理存储器上动态分配的方法和装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
C14 | Grant of patent or utility model | ||
GR01 | Patent grant | ||
TR01 | Transfer of patent right |
Effective date of registration: 20201111 Address after: 215100 No. 1 Guanpu Road, Guoxiang Street, Wuzhong Economic Development Zone, Suzhou City, Jiangsu Province Patentee after: SUZHOU LANGCHAO INTELLIGENT TECHNOLOGY Co.,Ltd. Address before: 100085 Beijing, Haidian District on the road to information on the ground floor, building 2-1, No. 1, C Patentee before: Inspur (Beijing) Electronic Information Industry Co.,Ltd. |
|
TR01 | Transfer of patent right |