CN106790368A - 一种分布式系统中的资源调度方法和装置 - Google Patents
一种分布式系统中的资源调度方法和装置 Download PDFInfo
- Publication number
- CN106790368A CN106790368A CN201611034600.5A CN201611034600A CN106790368A CN 106790368 A CN106790368 A CN 106790368A CN 201611034600 A CN201611034600 A CN 201611034600A CN 106790368 A CN106790368 A CN 106790368A
- Authority
- CN
- China
- Prior art keywords
- resource
- node
- distributed system
- resources
- leading
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
- H04L67/10—Protocols in which an application is distributed across nodes in the network
- H04L67/1001—Protocols in which an application is distributed across nodes in the network for accessing one among a plurality of replicated servers
- H04L67/1004—Server selection for load balancing
Landscapes
- Engineering & Computer Science (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Multi Processors (AREA)
Abstract
本发明提供一种分布式系统中的资源调度方法和装置,包括,分别计算分布式系统中每个节点的丰富资源和所收到的资源请求的主导资源;将资源请求的主导资源与分布式系统中每个节点的丰富资源进行匹配,调度主导资源与丰富资源相匹配的节点。实现了多资源类型分布式系统中的智能平衡调度,提高了资源利用率。
Description
技术领域
本发明涉及资源调度领域,特别是涉及一种分布式系统中的资源调度方法和装置。
背景技术
现有的分布式资源调度系统,在单一资源类型的环境下充分发挥系统资源,较好的提供服务。但是,在多类资源分布式环境下,往往会出现这样的情况,如,分布式系统中部分节点CPU满载,但内存还有大部分剩余;或者,分布式系统中部分节点内存占满,但CPU负载较低的情况;从集群整体的角度看虽然资源还有剩余,但却再也分配不出资源来了。
因此,如何提供一种能够智能平衡调度资源的分布式系统中的资源调度方法和装置成为亟待解决的技术问题。
发明内容
本发明实施例提供一种分布式系统中的资源调度方法和装置,实现智能平衡调度资源。
为了解决上述问题,本发明公开了一种分布式系统中的资源调度方法,包括,
分别计算分布式系统中每个节点的丰富资源和所收到的资源请求的主导资源;
将资源请求的主导资源与分布式系统中每个节点的丰富资源进行匹配,调度主导资源与丰富资源相匹配的节点。
本发明所述的方法,其中,
所述计算分布式系统中每个节点的丰富资源是计算并获得每个节点的剩余资源中占分布式系统中总资源比例中最大的资源;
所述计算所收到的资源请求的主导资源是计算并获得该资源请求中占分布式系统中总资源比例最大的资源。
本发明所述的方法,其中,进一步包括,
计算分布式系统中的每种资源间的基准比例;
将每个节点的剩余资源量分别除以所述分布式系统中的每种资源间的基准比例,获取最大值对应的资源类型,得到每个节点的丰富资源;
将请求资源中每种资源需求量分别除以所述分布式系统中的每种资源间的基准比例,获取最大值对应的资源类型,得到所述资源请求的主导资源。
本发明所述的方法,其中,
所述计算分布式系统中每种资源间的基准比例是根据分布式系统中整体资源情况分别计算CPU、内存、网络资源的比例。
本发明所述的方法,其中,
将资源请求的主导资源与分布式系统中节点的丰富资源进行匹配,当主导资源与丰富资源不相同时,调度任意节点,并重新计算已调度节点的丰富资源。
为了解决上述问题,本发明还公开了一种分布式系统中的资源调度装置,包括,
节点丰富资源计算单元,用于计算分布式系统中每个节点的丰富资源;
资源请求主导资源计算单元,用于计算所收到的资源请求的主导资源;
资源匹配调度单元,用于将资源请求的主导资源与分布式系统中每个节点的丰富资源进行匹配,调度主导资源与丰富资源相匹配的节点。
本发明所述的装置,其中,
所述节点丰富资源计算单元,进一步用于计算并获得每个节点的剩余资源中占分布式系统中总资源比例中最大的资源;
所述资源请求主导资源计算单元,进一步用于计算并获得该资源请求中占分布式系统中总资源比例最大的资源。
本发明所述的装置,还包括,
资源间基准比例计算单元,用于计算分布式系统中的每种资源间的基准比例;
其中,
所述节点丰富资源计算单元,进一步用于将每个节点的剩余资源量分别除以所述分布式系统中的每种资源间的基准比例,获取最大值对应的资源类型,得到每个节点的丰富资源;
所述资源请求主导资源计算单元,进一步用于将请求资源中每种资源需求量分别除以所述分布式系统中的每种资源间的基准比例,获取最大值对应的资源类型,得到所述资源请求的主导资源。
本发明所述的装置,其中,还包括,
所述资源间基准比例计算单元,进一步用于根据分布式系统中整体资源情况分别计算CPU、内存、网络资源的比例。
本发明所述的装置,其中,还包括,
所述资源匹配调度单元,进一步用于将资源请求的主导资源与分布式系统中节点的丰富资源进行匹配,当主导资源与丰富资源不相同时,调度任意节点,并重新触发节点丰富资源计算单元计算已调度节点的丰富资源。
本发明实施例提供的一种分布式系统中的资源调度方法和装置,包括,节点丰富资源计算单元、资源请求主导资源计算单元、资源匹配调度单元。通过节点丰富资源计算单元计算分布式系统中每个节点的丰富资源;资源请求主导资源计算单元计算所收到的资源请求的主导资源;资源匹配调度单元将资源请求的主导资源与分布式系统中每个节点的丰富资源进行匹配,调度主导资源与丰富资源相匹配的节点。实现了多资源类型分布式系统中的智能平衡调度,提高了资源利用率。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作一简单地介绍,显而易见地,下面描述中的附图是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1是本发明一种分布式系统中的资源调度方法实施例的步骤流程图;
图2是本发明一种分布式系统中的资源调度装置实施例的结构框图。
具体实施方式
为使本发明实施例的目的、技术方案和优点更加清楚,下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
实施例一
参照图1,示出了本发明实施例一种分布式系统中的资源调度方法的步骤流程图。
本实施例一种分布式系统中的资源调度方法包括以下步骤:
步骤101:计算分布式系统中的每种资源间的基准比例;例如,当分布式系统中有CPU、内存、网络三种资源时,分别选取常用的单位,计算集群所有资源的比例。集群的CPU共1000vcore,内存共10000GB,网络共100000Mbps,则基准比例为1:10:100,单位省略。
步骤102:计算分布式系统中每个节点的丰富资源;丰富资源定义为该节点剩余资源中占分布式系统总资源比例最大的资源。可以通过计算并获得每个节点的剩余资源中占分布式系统中总资源比例中最大的资源类型;例如,将每个节点的剩余资源量分别除以所述分布式系统中的每种资源间的基准比例,获取最大值对应的资源类型,得到每个节点的丰富资源;
步骤103:计算所收到的资源请求的主导资源;主导资源定义为该资源请求中占集群总资源比例最大的资源。可以通过计算并获得该资源请求中占分布式系统中总资源比例最大的资源类型。例如,将请求资源中每种资源需求量分别除以所述分布式系统中的每种资源间的基准比例,获取最大值对应的资源类型,得到所述资源请求的主导资源。例如,如:资源请求包含CPU1vcore、20GB内存、50Mbps网络,除以1:10:100后,分别是1、2和0.5,则判定主导资源为内存。
步骤104:将资源请求的主导资源与分布式系统中每个节点的丰富资源进行匹配,优先调度主导资源与丰富资源相匹配的节点,并重新计算已调度节点的丰富资源;当主导资源与丰富资源不相同时,调度任意节点,并重新计算已调度节点的丰富资源。
通过本实施例所述的一种分布式系统中的资源调度,实现了智能平衡调度,提高了资源利用率。
实施例二
参照图2,示出了本发明实施例二的一种分布式系统中的资源调度装置的结构框图。
本实施例一种分布式系统中的资源调度装置1,包括,
资源间基准比例计算单元2,节点丰富资源计算单元3、资源请求主导资源计算单元4、及资源匹配调度单元5。
资源间基准比例计算单元2,用于计算分布式系统中的每种资源间的基准比例;例如,当分布式系统中有CPU、内存、网络三种资源时,分别选取常用的单位,计算集群所有资源的比例。集群的CPU共1000vcore,内存共10000GB,网络共100000Mbps,则基准比例为1:10:100,单位省略。
节点丰富资源计算单元3,用于计算分布式系统中每个节点的丰富资源;丰富资源定义为该节点剩余资源中占分布式系统总资源比例最大的资源。可以用于计算并获得每个节点的剩余资源中占分布式系统中总资源比例中最大的资源类型。例如,将每个节点的剩余资源量分别除以所述分布式系统中的每种资源间的基准比例,获取最大值对应的资源类型,得到每个节点的丰富资源;
资源请求主导资源计算单元4,用于计算所收到的资源请求的主导资源;主导资源定义为该资源请求中占集群总资源比例最大的资源。可以用于计算并获得该资源请求中占分布式系统中总资源比例最大的资源类型。例如,将请求资源中每种资源需求量分别除以所述分布式系统中的每种资源间的基准比例,获取最大值对应的资源类型,得到所述资源请求的主导资源。
资源匹配调度单元5,用于将资源请求的主导资源与分布式系统中每个节点的丰富资源进行匹配,优先调度主导资源与丰富资源相同的节点,并重新触发节点丰富资源计算单元3计算已调度节点的丰富资源。当主导资源与丰富资源不相同时,调度任意节点,并重新触发节点丰富资源计算单元3计算已调度节点的丰富资源。
本实施例的一种分布式系统中的资源调度装置用于实现前述实施例一中相应的一种分布式系统中的资源调度方法,并且具有相应的方法实施例的有益效果,在此不再赘述。
以上所描述的装置实施例仅仅是示意性的,其中所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。本领域普通技术人员在不付出创造性的劳动的情况下,即可以理解并实施。
通过以上的实施方式的描述,本领域的技术人员可以清楚地了解到各实施方式可借助软件加必需的通用硬件平台的方式来实现,当然也可以通过硬件。基于这样的理解,上述技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来,该计算机软件产品可以存储在计算机可读存储介质中,如ROM/RAM、磁碟、光盘等,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行各个实施例或者实施例的某些部分所述的方法。
最后应说明的是:以上实施例仅用以说明本发明的技术方案,而非对其限制;尽管参照前述实施例对本发明进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本发明各实施例技术方案的精神和范围。
Claims (10)
1.一种分布式系统中的资源调度方法,其特征在于,包括:
分别计算分布式系统中每个节点的丰富资源和所收到的资源请求的主导资源。
2.将资源请求的主导资源与分布式系统中每个节点的丰富资源进行匹配,调度主导资源与丰富资源相匹配的节点。根据权利要求1所述的方法,其特征在于,
所述计算分布式系统中每个节点的丰富资源是计算并获得每个节点的剩余资源中占分布式系统中总资源比例中最大的资源
所述计算所收到的资源请求的主导资源是计算并获得该资源请求中占分布式系统中总资源比例最大的资源。
3.根据权利要求2所述的方法,其特征在于,进一步包括:
计算分布式系统中的每种资源间的基准比例;
将每个节点的剩余资源量分别除以所述分布式系统中的每种资源间的基准比例,获取最大值对应的资源类型,得到每个节点的丰富资源;
将请求资源中每种资源需求量分别除以所述分布式系统中的每种资源间的基准比例,获取最大值对应的资源类型,得到所述资源请求的主导资源。
4.根据权利要求3所述的方法,其特征在于,
所述计算分布式系统中每种资源间的基准比例是根据分布式系统中整体资源情况分别计算CPU、内存、网络资源的比例。
5.根据权利要求1所述的方法,其特征在于,
将资源请求的主导资源与分布式系统中节点的丰富资源进行匹配,当主导资源与丰富资源不匹配时,调度任意节点,并重新计算已调度节点的丰富资源。
6.一种分布式系统中的资源调度装置,其特征在于,包括:
节点丰富资源计算单元,用于计算分布式系统中每个节点的丰富资源;
资源请求主导资源计算单元,用于计算所收到的资源请求的主导资源;
资源匹配调度单元,用于将资源请求的主导资源与分布式系统中每个节点的丰富资源进行匹配,调度主导资源与丰富资源相匹配的节点。
7.根据权利要求6所述的装置,其特征在于,
所述节点丰富资源计算单元,进一步用于计算并获得每个节点的剩余资源中占分布式系统中总资源比例中最大的资源;
所述资源请求主导资源计算单元,进一步用于计算并获得该资源请求中占分布式系统中总资源比例最大的资源。
8.根据权利要求7所述的装置,其特征在于,还包括:
资源间基准比例计算单元,用于计算分布式系统中的每种资源间的基准比例;
其中,
所述节点丰富资源计算单元,进一步用于将每个节点的剩余资源量分别除以所述分布式系统中的每种资源间的基准比例,获取最大值对应的资源类型,得到每个节点的丰富资源;
所述资源请求主导资源计算单元,进一步用于将请求资源中每种资源需求量分别除以所述分布式系统中的每种资源间的基准比例,获取最大值对应的资源类型,得到所述资源请求的主导资源。
9.根据权利要求8所述的装置,其特征在于,还包括:
所述资源间基准比例计算单元,进一步用于根据分布式系统中整体资源情况分别计算CPU、内存、网络资源的比例。
10.根据权利要求6所述的装置,其特征在于,还包括:
所述资源匹配调度单元,进一步用于将资源请求的主导资源与分布式系统中节点的丰富资源进行匹配,当主导资源与丰富资源不相同时,调度任意节点,并重新触发节点丰富资源计算单元计算已调度节点的丰富资源。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201611034600.5A CN106790368A (zh) | 2016-11-17 | 2016-11-17 | 一种分布式系统中的资源调度方法和装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201611034600.5A CN106790368A (zh) | 2016-11-17 | 2016-11-17 | 一种分布式系统中的资源调度方法和装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN106790368A true CN106790368A (zh) | 2017-05-31 |
Family
ID=58971815
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201611034600.5A Pending CN106790368A (zh) | 2016-11-17 | 2016-11-17 | 一种分布式系统中的资源调度方法和装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN106790368A (zh) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109413117A (zh) * | 2017-08-15 | 2019-03-01 | 中兴通讯股份有限公司 | 分布式数据计算方法、装置、服务器及计算机存储介质 |
CN110138883A (zh) * | 2019-06-10 | 2019-08-16 | 北京贝斯平云科技有限公司 | 混合云资源分配方法和装置 |
CN111221631A (zh) * | 2018-11-23 | 2020-06-02 | 中国移动通信集团有限公司 | 一种任务调度方法、装置及存储介质 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP1166560B1 (en) * | 1999-03-09 | 2003-01-08 | PowerTV, Inc. | Tv manager |
WO2015080752A1 (en) * | 2013-11-29 | 2015-06-04 | New Jersey Institute Of Technology | Allocation of virtual machines to physical machines through dominant resource assisted heuristics |
CN104881322A (zh) * | 2015-05-18 | 2015-09-02 | 中国科学院计算技术研究所 | 一种基于装箱模型的集群资源调度方法及装置 |
CN104915407A (zh) * | 2015-06-03 | 2015-09-16 | 华中科技大学 | 一种基于Hadoop多作业环境下的资源调度方法 |
CN105872114A (zh) * | 2016-06-22 | 2016-08-17 | 北京邮电大学 | 一种视频监控云平台资源调度方法及装置 |
-
2016
- 2016-11-17 CN CN201611034600.5A patent/CN106790368A/zh active Pending
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP1166560B1 (en) * | 1999-03-09 | 2003-01-08 | PowerTV, Inc. | Tv manager |
WO2015080752A1 (en) * | 2013-11-29 | 2015-06-04 | New Jersey Institute Of Technology | Allocation of virtual machines to physical machines through dominant resource assisted heuristics |
CN104881322A (zh) * | 2015-05-18 | 2015-09-02 | 中国科学院计算技术研究所 | 一种基于装箱模型的集群资源调度方法及装置 |
CN104915407A (zh) * | 2015-06-03 | 2015-09-16 | 华中科技大学 | 一种基于Hadoop多作业环境下的资源调度方法 |
CN105872114A (zh) * | 2016-06-22 | 2016-08-17 | 北京邮电大学 | 一种视频监控云平台资源调度方法及装置 |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109413117A (zh) * | 2017-08-15 | 2019-03-01 | 中兴通讯股份有限公司 | 分布式数据计算方法、装置、服务器及计算机存储介质 |
CN111221631A (zh) * | 2018-11-23 | 2020-06-02 | 中国移动通信集团有限公司 | 一种任务调度方法、装置及存储介质 |
CN110138883A (zh) * | 2019-06-10 | 2019-08-16 | 北京贝斯平云科技有限公司 | 混合云资源分配方法和装置 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10474504B2 (en) | Distributed node intra-group task scheduling method and system | |
Ishii et al. | Elastic stream computing with clouds | |
CN106534318B (zh) | 一种基于流量亲和性的OpenStack云平台资源动态调度系统和方法 | |
CN108989238A (zh) | 一种分配业务带宽的方法以及相关设备 | |
CN109218355A (zh) | 负载均衡引擎,客户端,分布式计算系统以及负载均衡方法 | |
CN110661842B (zh) | 一种资源的调度管理方法、电子设备和存储介质 | |
CN104239144A (zh) | 一种多级分布式任务处理系统 | |
CN106919449A (zh) | 一种计算任务的调度控制方法及电子设备 | |
CN108270805B (zh) | 用于数据处理的资源分配方法及装置 | |
CN104536804A (zh) | 面向关联任务请求的虚拟资源调度系统及调度和分配方法 | |
CN103401939A (zh) | 一种采用混合调度策略的负载均衡方法 | |
CN106557471A (zh) | 任务调度方法及装置 | |
CN108845874A (zh) | 资源的动态分配方法及服务器 | |
CN110187960A (zh) | 一种分布式资源调度方法及装置 | |
CN106790368A (zh) | 一种分布式系统中的资源调度方法和装置 | |
CN115134371A (zh) | 包含边缘网络算力资源的调度方法、系统、设备及介质 | |
Delavar et al. | A synthetic heuristic algorithm for independent task scheduling in cloud systems | |
CN106326339A (zh) | 任务分配方法及装置 | |
CN108924243A (zh) | 基于微服务架构的数据分发及处理方法 | |
CN105404549A (zh) | 基于yarn架构的虚拟机调度系统 | |
CN115543624A (zh) | 异构算力编排调度方法、系统、设备及存储介质 | |
CN105872082B (zh) | 基于容器集群负载均衡算法的细粒度资源响应系统 | |
CN109146212B (zh) | 众包系统中的大规模同构任务分配方法 | |
CN104123135B (zh) | 一种统一后台接口的方法及装置 | |
CN105208119A (zh) | 一种云数据中心任务分配方法、装置和系统 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
RJ01 | Rejection of invention patent application after publication |
Application publication date: 20170531 |
|
RJ01 | Rejection of invention patent application after publication |