CN104836819A - 动态负载均衡的方法、系统及监控调度设备 - Google Patents

动态负载均衡的方法、系统及监控调度设备 Download PDF

Info

Publication number
CN104836819A
CN104836819A CN201410046269.3A CN201410046269A CN104836819A CN 104836819 A CN104836819 A CN 104836819A CN 201410046269 A CN201410046269 A CN 201410046269A CN 104836819 A CN104836819 A CN 104836819A
Authority
CN
China
Prior art keywords
virtual machine
resource
load balancing
dynamic load
situation
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201410046269.3A
Other languages
English (en)
Inventor
冯亮
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Alibaba Group Holding Ltd
Original Assignee
Alibaba Group Holding Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Alibaba Group Holding Ltd filed Critical Alibaba Group Holding Ltd
Priority to CN201410046269.3A priority Critical patent/CN104836819A/zh
Publication of CN104836819A publication Critical patent/CN104836819A/zh
Priority to HK15109868.3A priority patent/HK1209248A1/zh
Pending legal-status Critical Current

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00Network arrangements or protocols for supporting network services or applications
    • H04L67/01Protocols
    • H04L67/10Protocols in which an application is distributed across nodes in the network
    • H04L67/1001Protocols in which an application is distributed across nodes in the network for accessing one among a plurality of replicated servers
    • H04L67/1004Server selection for load balancing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00Arrangements for program control, e.g. control units
    • G06F9/06Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46Multiprogramming arrangements
    • G06F9/50Allocation of resources, e.g. of the central processing unit [CPU]
    • G06F9/5061Partitioning or combining of resources
    • G06F9/5077Logical partitioning of resources; Management or configuration of virtualized resources
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L43/00Arrangements for monitoring or testing data switching networks
    • H04L43/08Monitoring or testing based on specific metrics, e.g. QoS, energy consumption or environmental parameters
    • H04L43/0876Network utilisation, e.g. volume of load or congestion level
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L43/00Arrangements for monitoring or testing data switching networks
    • H04L43/08Monitoring or testing based on specific metrics, e.g. QoS, energy consumption or environmental parameters
    • H04L43/0876Network utilisation, e.g. volume of load or congestion level
    • H04L43/0882Utilisation of link capacity
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00Network arrangements or protocols for supporting network services or applications
    • H04L67/01Protocols
    • H04L67/10Protocols in which an application is distributed across nodes in the network
    • H04L67/1097Protocols in which an application is distributed across nodes in the network for distributed storage of data in networks, e.g. transport arrangements for network file system [NFS], storage area networks [SAN] or network attached storage [NAS]

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Signal Processing (AREA)
  • Environmental & Geological Engineering (AREA)
  • Software Systems (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Debugging And Monitoring (AREA)

Abstract

本申请针对云计算环境中各种共享资源动态变化的问题,公开了一种动态负载均衡的方法,包括:获取云计算环境下虚拟化系统的资源耗用状况,虚拟化系统的资源耗用状况包括各虚拟机节点对应的宿主机整体容量和资源耗用状况,相关远程服务整体容量和资源耗用状况,以及应用集群虚拟机分布状况;根据虚拟化系统的资源耗用状况,按预设策略综合计算并推送虚拟机负载均衡权重列表;依照虚拟机负载均衡权重列表,调整相应虚拟机节点的虚拟机负载均衡权重。相应地,本申请还公开了一种动态负载均衡的系统及监控调度设备,通过综合分析虚拟化系统中资源耗用状况,可以主动调整相应虚拟机的负载均衡权重,从而适应共享资源的动态变化,保证有关应用的可用性。

Description

动态负载均衡的方法、系统及监控调度设备
技术领域
本申请涉及共享环境下的网络资源分配技术,尤其涉及云计算环境中的动态负载均衡的方法、系统及监控调度设备。
背景技术
云计算(Cloud Computing)是一种通过Internet以服务方式提供动态可伸缩的虚拟资源的计算模式,通过这种方式,共享的软硬件资源和信息可以按需求提供给计算机和其他设备。云计算的基础环境是虚拟化,虚拟化环境中存在资源共享。云计算环境中经常使用虚拟机(VM,Virtual Machine),这些虚拟机主要关联的系统资源有CPU、内存、磁盘I/O、网络带宽等等。
可以理解的是,云计算环境中的这些资源只要是处于共享状态的,就都会被多个虚拟机争抢。比如,云计算环境中的虚拟机磁盘共享远端存储集群,所有磁盘I/O都要通过网络访问远端的存储集群。通常,一台物理服务器上有十几个虚拟机,这样就存在两种资源争抢的情况:其一为,远端存储集群的服务能力有上限,因而多个虚拟机对于远端存储集群的磁盘I/O资源将进行资源争抢;其二为,物理服务器的网卡和上联链路带宽容量有上限,因而同一台物理服务器上所有虚拟机磁盘I/O所耗用的网络流量和该服务器上所有非磁盘I/O所耗用的网络流量之间将进行资源争抢。由于虚拟机的资源争抢,使得云计算环境下的资源分配成为一个动态的过程。
正因为存在上述资源争抢的状况,使得在虚拟机用户角度观察到的系统资源容量上限不是传统物理机环境中的水平直线,而是一条上下波动的曲线,从而使容量规划从一个静态的问题变成一个动态的问题。当系统资源容量不再是确定的,而是动态变化的前提下,再继续沿用与系统资源容量实际变化无关的传统负载均衡算法,将无法保证应用的实际可用性。否则,因为系统资源容量上限是刚性的,一旦应用实际耗用资源水平达到该上限,就会产生系统层面的崩溃。所以,应根据系统中各维度系统资源的动态变化来实时调整负载均衡权重,使得应用的实际耗用资源水平始终处于不断变化的系统资源容量上限范围内,才能保证应用的可用性。
发明人认知的现有业务分配系统和负载均衡模块的基本原理为:负载均衡模块接收各系统/各节点上报的自身资源使用状况;根据各系统/各节点上报的所述资源使用状况,确定出所述各系统/各节点的业务分配比率;按照所述业务分配比率,将待分配业务分配给所述各系统/各节点。该方法能实现根据各系统/各节点的当前资源使用状况进行业务的动态分配,使得各系统/各节点之间的实际负荷量基本达到均衡。但是该技术方案也存在明显的不足,主要体现为:
一方面,该方案未详述根据资源使用率来计算资源空闲率,可以推断该方案认为的资源空闲率=100%-资源使用率。然而在云计算环境中,类似于磁盘I/O、网络带宽这样存在多虚拟机争抢的共享资源,是无法通过该方案所述简单方式计算资源使用率和资源空闲率的。由于该负载均衡算法并不关心后端实际容量变化,因而无法适应云计算环境。
另一方面,该方案中的所述监控数据采集依赖于各节点上报,若节点本身异常或上报数据错误,会导致该系统作出错误的决策,由此无法保证应用可用性。由于各节点处于主动地位,主动采集并根据设定的上报条件有选择地上报,处理逻辑都在各节点,而负载均衡模块端处于被动地位,其只负责接收上报的信息,并没有介绍如何应对节点失效、少报/错报/漏报的问题。因此,该方案由于依赖于各节点的主动性和功能完整性,没有考虑节点失效的问题,存在较大的故障风险。
由于存在以上缺陷,导致上述技术方案并不能有效地保证云计算环境下的负载均衡,最终使得云计算客户应用可用性较差。有鉴于此,有必要设计一种基于云计算环境下的新的动态负载均衡方案。
发明内容
针对现有技术存在的缺陷,本申请的目的在于针对云计算环境中虚拟机共享的特点,设计一种动态负载均衡的方法,以便克服传统负载均衡算法无视后端资源动态变化,导致无法保证云计算客户应用可用性问题。
在此基础上,本申请的另一目的在于提供与上述动态负载均衡方法相配套的动态负载均衡监控调度系统及动态负载均衡监控调度设备,由此较好地保证云计算客户应用的可用性。
为解决以上技术问题,本申请相应提供了一种动态负载均衡的方法,其技术方案包括以下步骤:
获取云计算环境下虚拟化系统资源耗用状况,虚拟化系统的资源耗用状况包括各虚拟机节点对应的宿主机整体容量和资源耗用状况,相关远程服务整体容量和资源耗用状况,以及应用集群虚拟机分布状况;
根据虚拟化系统的资源耗用状况,按预设策略综合计算并推送虚拟机负载均衡权重列表;
依照虚拟机负载均衡权重列表,调整相应虚拟机节点的虚拟机负载均衡权重。
这些虚拟化系统资源耗用状况包括虚拟化系统当前负载状况数据,该虚拟化系统当前负载状况数据包括各虚拟机的系统资源耗用状况数据、网络资源耗用状况数据以及远程服务I/O性能资源耗用状况数据,其中:
各虚拟机的系统资源耗用状况数据可以表征虚拟机预设维度系统资源的耗用情况,虚拟机预设维度系统资源包括CPU、内存、磁盘I/O及网络带宽,它们可以通过在各个虚拟机中安装探针程序,来获取相应虚拟机的系统资源耗用状况数据。具体方式之一是,探针程序根据系统资源采集指令,抓取并反馈相应维度的本地虚拟机的系统资源耗用数据。更具体地,探针程序根据以一定频率下发的系统资源采集指令,抓取并反馈相应维度的本地虚拟机的系统资源耗用数据。其中,当某节点虚拟机上探针程序未正常抓取并反馈相应维度的本地虚拟机的系统资源耗用数据时,重置对应虚拟机节点负载均衡权重,一般是将对应虚拟机节点负载均衡权重置为0;与此同时,还可以相应地触发报警。
网络资源耗用状况数据包括带宽、处理器利用率,它们可以通过云计算系统中的网络设备,来获取相应的网络资源耗用状况数据。
远程服务I/O性能资源耗用状况数据,包括用于提供虚拟磁盘的远端存储集群I/O性能资源耗用状况数据,它们可以通过云计算系统中的远程服务模块,来获取虚拟机所依赖的远程服务I/O性能资源耗用状况数据。
本申请的一个改进方案中,当某一虚拟机节点上某个维度的虚拟机的系统资源耗用总和达到对应维度宿主机系统资源容量上限的安全阈值时,逐步降低该宿主机上相关虚拟机的负载均衡权重。此时可以结合应用集群虚拟机部署情况,调整相应虚拟机节点的虚拟机负载均衡权重。
特别地,本申请对于耗用系统资源总和即将整体超过安全阈值的应用集群,通过触发相应的自动扩容程序对应用集群扩容。其中,对于耗用系统资源总和即将整体超过安全阈值的应用集群,自动扩容程序通过自动安装新的虚拟机,并自动部署应用到该新的虚拟机,并将该新的虚拟机加入应用集群以对外提供服务,来实现对应用集群扩容。并且,对于耗用系统资源总和即将整体超过安全阈值的应用集群,触发报警。
类似地,对于耗用系统资源总和长期低于某个临界阈值的应用集群,通过触发相应的自动缩容程序以回收并释放闲置的虚拟机。具体方案可以是,对于耗用系统资源总和长期低于某个临界阈值的应用集群,自动缩容程序通过在原应用集群中剔除一个或多个虚拟机,来实现对应用集群缩容。
本申请同时提供一种动态负载均衡的系统,其包括:
监控调度模块,被配置为获取云计算环境下虚拟化系统的资源耗用状况,虚拟化系统的资源耗用状况包括各虚拟机节点对应的宿主机整体容量和资源耗用状况,相关远程服务整体容量和资源耗用状况,以及应用集群虚拟机分布状况;以及根据虚拟化系统的资源耗用状况,按预设策略综合计算并推送虚拟机负载均衡权重列表;
负载均衡模块,被配置为依照虚拟机负载均衡权重列表,调整相应虚拟机节点的虚拟机负载均衡权重。
相应地,本申请还相应提供一种动态负载均衡监控调度设备,其包括:
系统资源耗用感知器,被配置为获取云计算环境下虚拟化系统的资源耗用状况,虚拟化系统的资源耗用状况包括各虚拟机节点对应的宿主机整体容量和资源耗用状况,相关远程服务整体容量和资源耗用状况,以及应用集群虚拟机分布状况;
负载均衡权重运算器,被配置为根据虚拟化系统的资源耗用状况,按预设策略综合计算虚拟机负载均衡权重列表;以及
负载均衡权重推送器,被配置为推送虚拟机负载均衡权重列表至负载均衡设备进行处理。
与现有技术相比,本申请针对云计算环境中各种共享资源动态变化的状况,设计了一种感知所述变化的动态负载均衡方法、系统及调度监控设备,其通过主动感知云计算环境下的虚拟化系统资源状况变化,并主动调整相应虚拟机的负载均衡权重,可以适应云计算环境下共享资源的变化,由此可以保证应用的可用性。特别地,本申请通过监控调度模块从探针程序获取虚拟机内部系统资源状况的设计,而不是依赖于探针程序上报,可以有效规避探针程序本身失效而导致的负载均衡失效。更进一步地,本申请可以根据整体资源利用率状况进行自动扩容和缩容,由此可以保证应用集群使用的虚拟机规模始终处于合理范围,这样只需要支付必要的费用,就能节约相应的成本。
附图说明
通过阅读下文优选实施方式的详细描述,各种其他的优点和益处对于本领域普通技术人员将变得清楚明了。附图仅用于示出优选实施方式的目的,而并不认为是对本发明的限制。而且在整个附图中,用相同的参考符号来表示相同的部件。在附图中:
图1示出了根据本申请一个实施例的动态负载均衡的方法流程图;
图2示出了根据本申请另一个实施例的动态负载均衡的方法流程图;
图3示出了根据本申请又一个实施例的动态负载均衡的方法流程图;
图4示出了根据本申请一个实施例的动态负载均衡的系统结构框图;
图5为根据图4动态负载均衡的系统的工作过程图;
图6示出了根据本申请一个实施例的动态负载均衡监控调度设备组成框图。
具体实施方式
在下面的描述中阐述了很多具体细节以便于充分理解本申请。但是本申请能够以很多不同于在此描述的其它方式来实施,本领域技术人员可以在不违背本申请内涵的情况下做类似推广,因此本申请不受下面公开的具体实施例的限制。
众所周知,在物理服务器上直接安装的OS,若相关物理资源如CPU、内存、磁盘、网络等无共享,则这些资源的容量极限一般是固定的,可以根据标称或实测容量极限进行容量规划。对于云计算环境,或者类似于云计算环境的物理资源有共享环境,则上述某个或某几个物理资源是与其它服务器共享的,其需要根据后端资源动态变化来实施动态负载均衡,以避免容量动态变化和前端静态算法之间的矛盾,最终避免产生故障。
如前所述,针对云计算环境中系统资源动态变化导致虚拟机容量动态变化,从而使得传统的负载均衡方法失效而必须要采用改进的技术方案。这种技术方案需要综合考虑上述状况,才能动态地评估各个虚拟机的容量极限,并动态地调整各个虚拟机的权重,从而使应用集群在如此动态变化的环境中得到最佳的负载均衡,本申请的技术方案即据此进行重点考虑。
在本申请中,分别提供了一种动态负载均衡的方法、系统及监控调度设备,其通过主动感知云计算环境下的虚拟化系统资源状况变化,并主动调整相应虚拟机的负载均衡权重,可以适应云计算环境下共享资源的动态变化,由此可以保证客户应用的可用性。在下面的实施例中将逐一进行详细说明。
参见图1,其示出根据本申请一个实施例的动态负载均衡的方法流程图。该动态负载均衡的方法的基本过程为:获取云计算环境下虚拟化系统的资源耗用状况,其中虚拟化系统的资源耗用状况包括各虚拟机节点对应的宿主机整体容量和资源耗用状况,相关远程服务整体容量和资源耗用状况,以及应用集群虚拟机分布状况(如步骤S110),这种资源获取方式有利于客观地反映云环境下后端资源的动态变化;根据虚拟化系统的资源耗用状况,按预设策略综合计算并推送虚拟机负载均衡权重列表(如步骤S120),这里的策略可以根据云计算环境事先进行设定(具体可参考下文应用实例所述);依照虚拟机负载均衡权重列表,调整相应虚拟机节点的虚拟机负载均衡权重(如步骤S130),此一步骤按照现有的公知技术实施即可,不再赘述。
如前所述,现有技术涉及的传统负载均衡算法并不关心后端实际容量变化,因而无法适应云计算环境。与之不同,图1所示实施例针对多虚拟机争抢共享资源的云计算环境,为了合理地计算资源使用率和资源空闲率,其从宿主机整体容量和资源耗用、相关远程服务整体容量和资源耗用、以及应用集群虚拟机分布的综合角度分析得出资源耗用状况,这样就能够针对云计算环境的复杂情况,综合地给出可行的动态负载计算方法,这无疑是对于现有技术的重大改进。
图1所示实施例中,步骤S210获取的虚拟化系统的资源耗用状况一般为虚拟化系统当前负载状况数据,其具体包括各虚拟机的系统资源耗用状况数据、网络资源耗用状况数据以及远程服务I/O性能资源耗用状况数据,其中:各虚拟机的系统资源耗用状况数据可以表征虚拟机预设维度系统资源的耗用情况,这些虚拟机预设维度系统资源一般包括CPU、内存、磁盘I/O及网络带宽等内容;网络资源耗用状况数据包括带宽、处理器利用率等内容;远程服务I/O性能资源耗用状况数据包括用于提供虚拟磁盘的远端存储集群I/O性能资源耗用状况数据等内容。此外,也还可以考虑其它维度的系统资源,在此不一一列出。
在本实施例中,上述虚拟化系统当前负载状况数据的获取方式可以采用多种方式。一种较为便捷的组合方式是:通过在各个虚拟机中安装探针程序,来获取相应虚拟机的系统资源耗用状况数据;通过云计算系统中的网络设备,来获取相应的网络资源耗用状况数据;以及,通过云计算系统中的远程服务模块,来获取虚拟机所依赖的远程服务I/O性能资源耗用状况数据。
值得注意的是,本申请中采用一种被动方式来采集虚拟机数据。具体方案是通过探针程序来获取相应虚拟机的系统资源耗用状况数据,其基本过程为:探针程序根据系统资源采集指令,抓取并反馈相应维度的本地虚拟机的系统资源耗用数据。具体而言:本实施例中的探针程序是被动地上报本地虚拟机的系统资源耗用数据,即探针程序根据以一定频率下发的系统资源采集指令,抓取并反馈相应维度的本地虚拟机的系统资源耗用数据。当某节点虚拟机上探针程序未正常抓取并反馈相应维度的本地虚拟机的系统资源耗用数据时,重置对应虚拟机节点负载均衡权重(一般是重置为0);与此同时,还可以相应触发报警以驱动人工进行处理,当然触发报警后也可由系统自动或半自动进行处理(为简便起见,下文仅对人工处理方式进行描述,而对自动或半自动方式不展开说明)。
参考前文,现有技术中各节点虚拟机上报本地资源时处于主动地位,其主动采集并根据设定的上报条件有选择地上报,各个处理逻辑都在各对应节点;而负载均衡模块处于被动地位,其只负责接收上报的信息,没有充分考虑如何应对节点失效、少报/错报/漏报的问题。由此,可以认为现有技术依赖于各节点的主动性和功能完整性,没有考虑节点失效的问题,因而存在较大的风险。
与此不同,在本申请中的负载均衡模块端处于主动地位,系统的所有逻辑处理都在负载均衡模块一端,对于节点失效问题有相应的处理,由此避免了故障发生。这就表明,本申请通过由负载均衡模块端主动采集探针程序抓取的本地资源耗用状况数据实现方案更为有利,其对于无法采集或采集异常的情况可以通过将对应虚拟机节点的权重置(一般重置为0),并且同时触发报警驱动人工处理,从而可以有效地规避风险。
以上实施例中,当某一虚拟机节点上某个维度的虚拟机的系统资源耗用总和达到对应维度宿主机系统资源容量上限的安全阈值时,将逐步降低该宿主机上相关虚拟机的负载均衡权重。这时,需要结合应用集群虚拟机部署情况,来调整相应虚拟机节点的虚拟机负载均衡权重。
可以理解的是,由于云计算是一种按实际使用量付费的服务,因而系统资源的利用率将极大地影响使用成本。因此,本申请的技术方案中进一步根据资源整体利用率状况来进行自动扩容和缩容,这样可以保证应用集群使用的虚拟机规模始终处于合理范围,以下简要说明。
参见图2,其示出了根据本申请另一个实施例的动态负载均衡的方法流程图。该实施例中,步骤S210~步骤S230与实施例1相同,区别在于增加了对系统资源进行扩容或缩容的步骤S240~步骤S250。在步骤S240中,判断是否需要对整体资源扩容/缩容,如否的话,返回步骤S210,继续采集各个维度的系统资源耗用情况;否则,调用相应的自动扩容/缩容程序,实施对整体系统资源进行扩容或缩容后,再返回步骤S210继续采集各个维度的系统资源耗用情况。
在图2中,步骤S240判断是否需要对整体资源扩容/缩容的条件可以为:对于耗用系统资源总和即将整体超过安全阈值的应用集群,确定通过触发相应的自动扩容程序;类似地,对于耗用系统资源总和长期低于某个临界阈值的应用集群,确定触发相应的自动缩容程序来回收并释放闲置的虚拟机。
在步骤S250中,触发相应的自动扩容程序对应用集群扩容后,应用集群扩容的基本过程为:自动安装新的虚拟机,并自动部署应用到该新的虚拟机,并将该新的虚拟机加入应用集群以对外提供服务,来实现对应用集群扩容,此时,对于耗用系统资源总和即将整体超过安全阈值的应用集群,也还可以触发报警以驱动人工处理。对应地,对于耗用系统资源总和长期低于某个临界阈值的应用集群,确定触发相应的自动缩容程序来回收并释放闲置的虚拟机,其具体方式可以为:在原应用集群中剔除一个或多个虚拟机,来实现对应用集群缩容。
参见图3,其示出了根据本申请又一个实施例的动态负载均衡的方法流程图。该实施例在图1所示实施例的基础上,增加了虚拟机负载均衡权重重置/触发人工报警,以及根据整体系统资源扩容/缩容的过程,因而为一个更为完整的实施例,其中:步骤S310获取云计算环境下虚拟化系统的资源耗用状况,该虚拟化系统的资源耗用状况包括各虚拟机节点对应的宿主机整体容量和资源耗用状况,相关远程服务整体容量和资源耗用状况,以及应用集群虚拟机分布状况;步骤S320判断获取的云计算环境下虚拟化系统的资源耗用状况是否正常,若是进入步骤S330,若否则将对应虚拟机节点负载均衡权重重置为0,并且触发报警驱动人工处理(如步骤S370);步骤S330,根据虚拟化系统的资源耗用状况,按预设策略综合计算并推送虚拟机负载均衡权重列表;步骤S340则根据虚拟机负载均衡权重列表,重新调整各节点虚拟机的负载均衡权重;此后,步骤S350~步骤360则给出了关于对系统整体资源自动扩容或自动缩容的过程。
这一实施例中对动态负载均衡的方法进行了详细的描述。该实施例的方案针对云计算环境中各种共享资源动态变化的状况,通过探针程序和监控调度模块感知这些变化,主动调整相应虚拟机的负载均衡权重,以适应变化,由此可以保证有关应用的可用性。特别地,该方案中负载均衡模块端从探针程序获取虚拟机内部系统资源状况的设计,而不是依赖于探针程序上报,可以有效规避探针程序本身失效导致的负载均衡失效。进一步地,该方案根据整体利用率状况进行自动扩容和缩容,可以保证应用集群使用的虚拟机规模始终处于合理范围,由此只需要支付必要的费用,就能节约相应的成本。
在此基础上,本申请还相应地构设了动态负载均衡的系统(以下简称系统),以下进行详细的描述。
顺便指出的是,本实施例系统中的动态负载均衡过程如有描述不尽之处,请参见前文方法部分的描述内容;同样地,前述方法部分中如涉及到系统,也可引见以下描述内容。
请参见图4,其示出根据本申请一个实施例的动态负载均衡的系统结构框图。在图4所示的系统架构图中,动态负载均衡的系统处于互联网410云计算环境中,其具有监控若干虚拟机430(每一虚拟机中装探针431)、网络设备440、远程服务模块450、监控调度模块460、负载均衡模块420等,其中的监控调度模块460为关键设备,以下对各模块的主要功能进行描述。
虚拟机430:位于云计算环境中各个节点的虚拟机430,它们分别通过Xen/KVM/VMWare/Hyper-V等虚拟化软件逻辑分割物理服务器(宿主机,Host)资源所得。这些虚拟机430中分别安装探针431,可以方便地检测、采集各节点虚拟机的系统资源耗用状况数据。
探针431:为分别安装在每个虚拟机430中的代理(Agent)程序,主要用于以一定频率提取各个维度的系统资源耗用状况,这里的系统资源包括但不限于CPU、内存、磁盘I/O、网络带宽等。这些探针431安装在各个虚拟机430中,被配置为用来获取相应虚拟机的系统资源耗用状况数据,它们具体根据系统资源采集指令,抓取并反馈相应维度的本地虚拟机的系统资源耗用数据。当某节点虚拟机上探针程序未正常抓取并反馈相应维度的本地虚拟机的系统资源耗用数据时,监控调度模块460重置对应虚拟机节点负载均衡权重;同时,监控调度模块460也还可以相应触发报警以驱动人工进行处理。
网络设备440:云计算环境中的所有网络设备,包括交换机、路由器等等,具体根据网络架构确定。这些网络设备440被配置在云计算系统中,用来获取相应的网络资源耗用状况数据。
远程服务模块450:是用来提供虚拟机430依赖的远程服务,比如用于提供虚拟磁盘的远端存储集群。这些远程服务模块450被配置在云计算系统中,可以获取虚拟机所依赖的远程服务I/O性能资源耗用状况数据。
监控调度模块460:该监控调度模块460是动态负载均衡装置中的关键设备之一,其可以获取云计算环境下虚拟化系统的资源耗用状况,该虚拟化系统的资源耗用状况包括各虚拟机节点对应的宿主机整体容量和资源耗用状况,相关远程服务整体容量和资源耗用状况,以及应用集群虚拟机分布状况;该监控调度模块460还根据虚拟化系统的资源耗用状况,按预设策略综合计算并推送虚拟机负载均衡权重列表,这样负载均衡模块420就可以依照虚拟机负载均衡权重列表,来调整相应虚拟机节点的虚拟机负载均衡权重。具体地,该监控调度模块460从各虚拟机430里安装的探针程序定时获取该虚拟机430各个维度的系统资源耗用状况数据,从网络设备440获取带宽、处理器利用率等资源耗用状况数据,从远程服务模块450获取I/O性能资源耗用状况数据,综合计算整体负载状况,并且将计算得出的各虚拟机负载均衡权重推送给负载均衡模块420。
负载均衡模块420:用于负载均衡调度,根据监控调度模块460推送过来的各虚拟机负载均衡权重调整相应的虚拟机权重,由此将各虚拟机430的负载均衡权重调整到合适的水平,最终将保证云计算环境下系统应用的可用性。
需强调的是,本实施例中的探针程序本身驻扎在虚拟机操作系统里,其具有获取各个维度系统资源的功能,但是这些探针程序在这里不会主动地执行相关功能,而只有当监控调度模块460调度时才会根据监控调度模块460的具体要求抓取并反馈本地相应维度的系统资源耗用状况数据。这样设计的好处是,探针程序可以做得比较简单,它们只要能准确及时获取相应维度的资源即可,而不用维护逻辑,也不用经常更新。实际上,云计算环境下的虚拟机430原本就不用考虑太多硬件适配的问题,因为虚拟化系统本身已经将硬件差异隔离,但是云计算系统往往需要大规模部署几十万甚至上百万的服务器,一次成型的探针程序可以随操作系统进行部署,由此大大减少了维护工作量。同时,探针程序本身没有逻辑,完全被动地听从监控调度模块460的指挥操作,可以减少不必要的性能消耗,这使得整个负载均衡调度系统比较简单,可以更好地避免故障。
可以理解的是,图4所示的动态负载均衡系统中的监控调度模块460与负载均衡模块420逻辑上两者可以是分立的。其中,监控调度模块460是关键设备,其负责与探针(程序)通讯,处理各种异常,根据动态变化情况计算权重,并推送给负载均衡模块420,具体分工是:监控调度模块460以一定频率下发指令给探针程序,提取各个维度的系统资源耗用状况数据;负载均衡模块420主要的工作是进行负载均衡,其根据监控调度模块460推送过来的权重数值调整相应的虚拟机权重,并根据当前的各虚拟机权重分发访问请求到相应的虚拟机430。这里,当监控调度模块460获知在某一虚拟机节点上某个维度的虚拟机的系统资源耗用总和达到对应维度宿主机系统资源容量上限的安全阈值时,可以结合应用集群虚拟机部署情况,逐步降低该宿主机上相关虚拟机的负载均衡权重。
可以理解的是,图4所示的动态负载均衡系统还可以包括自动扩容模块(图未示出),这些自动扩容模块在监控调度模块监测到耗用系统资源总和即将整体超过安全阈值的应用集群时,被触发而对应用集群扩容。此外,图4所示的动态负载均衡系统也还可以包括自动缩容模块(图未示出),这些自动缩容模块在监控调度模块监测到耗用系统资源总和长期低于某个临界阈值的应用集群时,被触发而回收并释放闲置的虚拟机,在此不再赘述。
通过以上技术手段,图4所示动态负载均衡的系统可以保证有关应用的可用性,现简述其工作过程如下。
参见图5,表示图4所示动态负载均衡的系统的工作过程。请参见步骤S510~步骤580所示,本申请动态负载均衡系统的主要工作过程为:
1、在每个虚拟机中安装探针程序,由此可以一定频率提取各个维度的系统资源耗用状况,其中的系统资源包括但不限于CPU、内存、磁盘I/O、网络带宽等。
2、当某个维度的系统资源耗用总和达到该维度系统资源容量上限的安全阈值,比如,某台宿主机上所有虚拟机网络带宽消耗总和在某个时刻达到该宿主机物理网卡极限带宽的70%时,负载均衡系统通过探针程序获知上述信息,并根据跨宿主机部署的应用集群所属虚拟机分布情况,逐步微调降低该物理机上相关虚拟机的负载均衡权重,从而使该宿主机和宿主机上的虚拟机带宽耗用水平保持在安全阈值之内。
应当注意的是,此处需要根据跨宿主机部署的应用集群所属虚拟机分布情况,逐步微调降低该物理机上相关虚拟机的负载均衡权重,其原因在于:在云计算环境里,每台物理服务器(宿主机)虚拟10-15个虚拟机,为了避免虚拟机的单点风险(比如虚拟机操作系统崩溃),一般应用集群至少由两个虚拟机组成;为了避免宿主机的单点风险,应用集群所属的虚拟机至少分布在两台宿主机(比如宿主机掉电、硬件物理损坏)上;为了避免单个机架的风险,应用集群所属的虚拟机一般分布在位于不同机架的两台宿主机上。此外,还要求宿主机和宿主机上的虚拟机带宽耗用水平都保持在安全阈值之内,这是由于只要两者之一的带宽耗用水平(或其它系统资源耗用水平)到100%,那么虚拟机里的应用就不可用了,即意味着虚拟机里的应用无法再接纳/处理更多的访问请求,而目前已接纳/处理的访问请求也会因系统资源耗尽而导致阻滞、延时。
3、同样地,其它各维度系统资源也由负载均衡系统通过探针程序监控,实时统计分析数据,结合应用集群部署情况,自动调整虚拟机负载均衡权重,使虚拟机的系统资源耗用水平与云计算动态变化的整体环境相适应。
4、负载均衡系统除了通过动态调整负载均衡权重达到上述目的之外,对于耗用系统资源总和即将整体超过安全阈值的应用集群,也可以通过触发相应的自动扩容程序对应用集群扩容,或触发报警而驱动人工处理。
这里的扩容过程大致如下:假设原应用集群有10个虚拟机,监控调度模块发现该集群10个虚拟机的某个或某几个维度的系统资源都已达到安全阈值,则触发自动扩容程序,自动安装一个新的虚拟机,自动部署应用到该虚拟机,并且在负载均衡模块中将该新虚拟机加入应用集群,同时对外提供服务。此时,该应用集群扩容到11个虚拟机。若该集群整体仍然超过安全阈值,则以上述方式继续追加新虚拟机进行扩容。根据超过安全阈值的程度,可以相应地一次追加多个虚拟机,以尽快缓解该应用集群系统资源紧张的状况。为了不让特殊的异常导致空闲虚拟机资源池耗尽,可以为每个应用集群设置扩容的上线,比如上述10个虚拟机的应用集群,可以设置为自动扩容虚拟机数量不超过1倍,也就是10个虚拟机。
5、对于耗用系统资源总和长期低于某个临界阈值的应用集群,负载均衡系统可以通过触发相应的自动缩容程序回收并释放闲置的虚拟机,并通过上述几个步骤使应用集群的系统资源耗用水平始终保持在安全阈值之内。
这里的缩容过程可以是:假设原应用集群有10个虚拟机,监控调度模块发现该集群10个虚拟机的某个或某几个维度的系统资源在设定的周期内(比如3个小时)一直低于设定的临界阈值(比如30%),则触发自动缩容程序,在原应用集群中剔除一个或多个虚拟机,从负载均衡模块中将该应用集群的成员中剔除上述一个或多个虚拟机。此时,该应用集群的虚拟机数量为9。如果经过一个设定的周期后,该应用集群的虚拟机资源耗用水平仍低于临界阈值,则继续以上述方式剔除虚拟机。为了避免剔除虚拟机影响应用集群的冗余性,可以设置保留虚拟机的最低数量,比如设置保留3个虚拟机,在应用集群虚拟机数量仅存3个时,不能继续剔除虚拟机。
6、对于无法通过探针程序获取监控信息,或通过探针程序获取监控信息异常的虚拟机,负载均衡系统将该虚拟机对应的权重置为0,不再对外提供服务,并触发报警驱动人工处理。
以上对本申请的动态负载均衡的系统进行了详细的描述,它与现有的负载均衡系统有明显的不同,主要表现在以下方面:
其一,本实施例针对云计算环境中各种共享资源动态变化的状况,设计了一种感知资源变化的动态负载均衡系统,其通过探针程序和监控调度模块感知这些变化,主动调整相应虚拟机的负载均衡权重,以适应变化,由此可以保证应用的可用性。
其二,该实施例中通过监控调度模块从探针程序获取虚拟机内部系统资源状况的设计,而不是依赖于探针程序上报,可以有效规避探针程序本身失效而导致的负载均衡失效。
其三,由于云计算是一种按实际使用量付费的服务,通过采用本申请技术方案,根据资源整体利用率状况进行自动扩容和缩容,可以保证应用集群使用的虚拟机规模始终处于合理范围,这样只需要支付必要的费用,就能节约相应的成本。
图5所示实施例构设了一种动态负载均衡的系统。可以理解的是,其中的监控调度模块可以作为单独设备,或与负载均衡模块一起作为整套装置来提供服务。为此,本申请同时提供一种动态负载均衡监控调度设备,以下简要描述。
参见图6,示出本申请动态负载均衡监控调度设备的组成框图。同时参考图4和图5,本实施例的动态负载均衡监控调度设备600主要包括系统资源耗用感知器610、负载均衡权重运算器620、负载均衡权重推送器630、资源感知异常处理器640及系统资源异常处理器650等,以下进行描述。
如图6所示,动态负载均衡监控调度设备600中具有系统资源耗用感知器610,其可以获取云计算环境下虚拟化系统的资源耗用状况,所述虚拟化系统的资源耗用状况包括各虚拟机节点对应的宿主机整体容量和资源耗用状况,相关远程服务整体容量和资源耗用状况,以及应用集群虚拟机分布状况。该系统资源耗用感知器610具体通过以一定频率下发系统资源采集指令,来主动获取相应虚拟机的系统资源耗用状况数据。由于系统资源耗用感知器610从探针程序获取虚拟机内部系统资源状况的设计,而不是依赖于探针程序上报,因而可以有效规避探针程序本身失效导致的负载均衡失效。
该动态负载均衡监控调度设备600还具有负载均衡权重运算器620,它可以根据所述虚拟化系统的资源耗用状况,按预设策略综合计算虚拟机负载均衡权重列表。该负载均衡权重运算器620,应当结合应用集群虚拟机部署情况,调整相应虚拟机节点的虚拟机负载均衡权重。当某一虚拟机节点上某个维度的虚拟机的系统资源耗用总和达到对应维度宿主机系统资源容量上限的安全阈值时,逐步降低该宿主机上相关虚拟机的负载均衡权重。
在图6中,动态负载均衡监控调度设备600中的负载均衡权重推送器630,可以推送虚拟机负载均衡权重列表至负载均衡设备进行处理,具体过程可以按照本领域习知的惯用技术实施即可。
本实施例中的动态负载均衡监控调度设备600还具有资源感知异常处理器640。这样,资源感知异常处理器640在某节点虚拟机上所述探针程序未正常抓取并反馈相应维度的本地虚拟机的系统资源耗用数据时,重置对应虚拟机节点负载均衡权重;和/或,相应触发报警以驱动人工进行处理。
此外,动态负载均衡监控调度设备600同时配置有系统资源异常处理器650,其对于耗用系统资源总和即将整体超过安全阈值的应用集群,通过触发相应的自动扩容程序对应用集群扩容,或者触发报警以驱动人工处理;和/或,对于耗用系统资源总和长期低于某个临界阈值的应用集群,通过触发相应的自动缩容程序以回收并释放闲置的虚拟机,来实现对应用集群缩容。
可以理解的是,由于云计算是一种按实际使用量付费的服务,本实施例的技术方案在配置资源感知异常处理器640和系统资源异常处理器650后,可以根据整体利用率状况进行自动扩容和缩容,由此保证应用集群使用的虚拟机规模始终处于合理范围,这样只需要支付必要的费用,能节约相应的成本。
通过上述配置的动态负载均衡监控调度设备600可以获取云计算环境下虚拟化系统的资源耗用状况,其按预设策略综合计算并推送虚拟机负载均衡权重列表,这样后续的负载均衡设备就可以根据负载均衡权重推送器630推送过来的各虚拟机负载均衡权重调整相应的虚拟机权重,由此将各虚拟机的负载均衡权重调整到合适的水平。其中,关于负载均衡设备的工作过程请参见对图4动态负载均衡系统的描述,在此不再赘述。
在图6所示的实施例中,动态负载均衡调度设备600可以主动地感知云计算环境中各种共享资源动态变化的状况,并主动地调整相应虚拟机的负载均衡权重,以适应共享资源的变化,由此可以保证客户应用的可用性。
为了更好地理解本申请的技术方案,现举出若干应用实例进行详细描述。
应用实例
如前所述,为了避免虚拟机、宿主机、机架的单点风险,云计算环境中的虚拟机一般尽可能部署在不同机架的多台宿主机上。具体地,本应用实例中设某应用集群有10个虚拟机(VM)节点,编号为VM1-10。初始状态下每个VM在负载均衡模块上设置的权重均为10,亦即每个VM的负载均等,负载均衡模块会均匀地依次将外部访问请求轮流发给VM1-10。若采用本申请所述技术方案,以下几种资源容量变化状况发生时,相应的动态负载均衡调整方案如下:
1、部分VM依赖的远端存储集群性能下降:设VM1-5依赖的远端存储集群性能正常,而VM6-10依赖的远端存储集群因负载较高导致性能下降20%,当监控调度模块检测到上述情况时,将VM6-10的5个VM权重相应下降20%,设置为8,并将以下列表1推送给负载均衡模块执行VM负载权重变更操作:
表1:调整后的有关虚拟机负载均衡权重
VM编号 权重
6 8
7 8
8 8
9 8
10 8
当监控调度模块检测到VM6-10依赖的远端存储集群性能恢复时,再将VM6-10的权重恢复设置为10,并将相应列表推送给负载均衡模块执行VM负载权重变更操作。
2、部分VM相关的网络设备带宽或处理器利用率超过安全阈值(70%):设VM1-5相关的网络设备带宽或处理器利用率超过70%的安全阈值,当监控调度模块检测到上述情况时,将VM1-5的权重以10%为步进单位逐步下调,直至相关的网络设备带宽或处理器利用率降低到70%的安全阈值以内。当监控调度模块检测到VM1-5相关的网络设备带宽或处理器利用率低于50%时,再将VM1-5的权重恢复设置为10,并将相应列表推送给负载均衡模块执行VM负载权重变更操作。
3、部分VM所在宿主机网卡带宽利用率超过安全阈值(70%):设VM6-10所在宿主机网卡带宽利用率超过70%的安全阈值,当监控调度模块检测到上述情况时,将VM6-10的权重以10%为步进单位逐步下调,直至相关的宿主机网卡带宽利用率降低到70%的安全阈值以内。当监控调度模块检测到VM6-10所在宿主机网卡带宽利用率低于50%时,再将VM6-10的权重恢复为10,并将相应列表推送给负载均衡模块执行VM负载权重变更操作。
4、部分VM内部某维度系统资源(CPU、内存、磁盘性能)利用率超过安全阈值(70%):设VM1-5内部某维度系统资源(CPU、内存、磁盘性能)利用率超过70%的安全阈值,当监控调度模块检测到上述情况时,将VM1-5的权重以10%为步进单位逐步下调,直至该维度系统资源利用率降低到70%的安全阈值以内。当监控调度模块检测到VM1-5该维度系统资源利用率低于50%时,再将VM1-5的权重恢复为10,并将相应列表推送给负载均衡模块执行VM负载权重变更操作。
5、所有VM整体利用率超过安全阈值(70%):监控调度程序检测到上述情况时,调用扩容程序进行逐步增加VM操作,将新增VM权重设置为与其它VM一致,直至所有VM整体利用率低于70%的安全阈值。
6、所有VM整体利用率低于临界阈值(30%):监控调度程序检测到上述情况时,调用缩容程序进行逐步减少VM操作,将冗余VM从应用集群中剔除(可销毁),直至所有VM整体利用率高于30%的临界阈值。
这样,通过上述方式综合考虑后端资源的动态变化,来计算各节点虚拟机的负载均衡权重后,就可以有效地保证云计算客户应用的可用性。
本申请虽然以较佳实施例公开如上,但其并不是用来限定本申请,任何本领域技术人员在不脱离本申请的精神和范围内,都可以做出可能的变动和修改,因此本申请的保护范围应当以本申请权利要求所界定的范围为准。
在一个典型的配置中,计算设备包括一个或多个处理器(CPU)、输入/输出接口、网络接口和内存。
内存可能包括计算机可读介质中的非永久性存储器,随机存取存储器(RAM)和/或非易失性内存等形式,如只读存储器(ROM)或闪存(flash RAM)。内存是计算机可读介质的示例。
1、计算机可读介质包括永久性和非永久性、可移动和非可移动媒体可以由任何系统或技术来实现信息存储。信息可以是计算机可读指令、数据结构、程序的模块或其他数据。计算机的存储介质的例子包括,但不限于相变内存(PRAM)、静态随机存取存储器(SRAM)、动态随机存取存储器(DRAM)、其他类型的随机存取存储器(RAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、快闪记忆体或其他内存技术、只读光盘只读存储器(CD-ROM)、数字多功能光盘(DVD)或其他光学存储、磁盒式磁带,磁带磁磁盘存储或其他磁性存储设备或任何其他非传输介质,可用于存储可以被计算设备访问的信息。按照本文中的界定,计算机可读介质不包括非暂存电脑可读媒体(transitory media),如调制的数据信号和载波。
2、本领域技术人员应明白,本申请的实施例可提供为系统、系统或计算机程序产品。因此,本申请可采用完全硬件实施例、完全软件实施例或结合软件和硬件方面的实施例的形式。而且,本申请可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。

Claims (36)

1.一种动态负载均衡的方法,其特征在于,包括:
获取云计算环境下虚拟化系统的资源耗用状况,所述虚拟化系统的资源耗用状况包括各虚拟机节点对应的宿主机整体容量和资源耗用状况,相关远程服务整体容量和资源耗用状况,以及应用集群虚拟机分布状况;
根据所述虚拟化系统的资源耗用状况,按预设策略综合计算并推送虚拟机负载均衡权重列表;
依照所述虚拟机负载均衡权重列表,调整相应虚拟机节点的虚拟机负载均衡权重。
2.根据权利要求1所述的动态负载均衡的方法,其特征在于,所述虚拟化系统的资源耗用状况包括虚拟化系统当前负载状况数据,该虚拟化系统当前负载状况数据包括各虚拟机的系统资源耗用状况数据、网络资源耗用状况数据以及远程服务I/O性能资源耗用状况数据。
3.根据权利要求2所述的动态负载均衡的方法,其特征在于,所述各虚拟机的系统资源耗用状况数据可以表征虚拟机预设维度系统资源的耗用情况,所述虚拟机预设维度系统资源包括CPU、内存、磁盘I/O及网络带宽。
4.根据权利要求2所述的动态负载均衡的方法,其特征在于,通过在各个虚拟机中安装探针程序,来获取相应虚拟机的系统资源耗用状况数据。
5.根据权利要求4所述的动态负载均衡的方法,其特征在于,所述探针程序根据系统资源采集指令,抓取并反馈相应维度的本地虚拟机的系统资源耗用数据。
6.根据权利要求5所述的动态负载均衡的方法,其特征在于,所述探针程序根据以一定频率下发的系统资源采集指令,抓取并反馈相应维度的本地虚拟机的系统资源耗用数据。
7.根据权利要求4所述的动态负载均衡的方法,其特征在于,当某节点虚拟机上所述探针程序未正常抓取并反馈相应维度的本地虚拟机的系统资源耗用数据时,重置对应虚拟机节点负载均衡权重。
8.根据权利要求7所述的动态负载均衡的方法,其特征在于,当某节点虚拟机上所述探针程序未正常抓取并反馈相应维度的本地虚拟机的系统资源耗用数据时,将对应虚拟机节点负载均衡权重置为0。
9.根据权利要求7所述的动态负载均衡的方法,其特征在于,当某节点虚拟机上所述探针程序未正常抓取并反馈相应维度的本地虚拟机的系统资源耗用数据时,在重置对应虚拟机节点负载均衡权重的同时,触发报警。
10.根据权利要求2所述的动态负载均衡的方法,其特征在于,所述网络资源耗用状况数据包括带宽、处理器利用率。
11.根据权利要求2所述的动态负载均衡的方法,其特征在于,通过云计算系统中的网络设备,来获取相应的网络资源耗用状况数据。
12.根据权利要求2所述的动态负载均衡的方法,其特征在于,所述远程服务I/O性能资源耗用状况数据,包括用于提供虚拟磁盘的远端存储集群I/O性能资源耗用状况数据。
13.根据权利要求2所述的动态负载均衡的方法,其特征在于,通过云计算系统中的远程服务模块,来获取所述虚拟机所依赖的远程服务I/O性能资源耗用状况数据。
14.根据权利要求1所述的动态负载均衡的方法,其特征在于,当某一虚拟机节点上某个维度的虚拟机的系统资源耗用总和达到对应维度宿主机系统资源容量上限的安全阈值时,逐步降低该宿主机上相关虚拟机的负载均衡权重。
15.根据权利要求1所述的动态负载均衡的方法,其特征在于,结合应用集群虚拟机部署情况,调整相应虚拟机节点的虚拟机负载均衡权重。
16.根据权利要求1所述的动态负载均衡的方法,其特征在于,对于耗用系统资源总和即将整体超过安全阈值的应用集群,通过触发相应的自动扩容程序对应用集群扩容。
17.根据权利要求16所述的动态负载均衡的方法,其特征在于,对于耗用系统资源总和即将整体超过安全阈值的应用集群,所述自动扩容程序通过自动安装新的虚拟机,并自动部署应用到该新的虚拟机,并将该新的虚拟机加入应用集群以对外提供服务,来实现对应用集群扩容。
18.根据权利要求1所述的动态负载均衡的方法,其特征在于,对于耗用系统资源总和即将整体超过安全阈值的应用集群,触发报警。
19.根据权利要求1所述的动态负载均衡的方法,其特征在于,对于耗用系统资源总和长期低于某个临界阈值的应用集群,通过触发相应的自动缩容程序以回收并释放闲置的虚拟机。
20.根据权利要求19所述的动态负载均衡的方法,其特征在于,对于耗用系统资源总和长期低于某个临界阈值的应用集群,所述自动缩容程序通过在原应用集群中剔除一个或多个虚拟机,来实现对应用集群缩容。
21.一种动态负载均衡的系统,其特征在于,包括:
监控调度模块,被配置为获取云计算环境下虚拟化系统的资源耗用状况,所述虚拟化系统的资源耗用状况包括各虚拟机节点对应的宿主机整体容量和资源耗用状况,相关远程服务整体容量和资源耗用状况,以及应用集群虚拟机分布状况;以及根据所述虚拟化系统的资源耗用状况,按预设策略综合计算并推送虚拟机负载均衡权重列表;
负载均衡模块,被配置为依照所述虚拟机负载均衡权重列表,调整相应虚拟机节点的虚拟机负载均衡权重。
22.根据权利要求21所述的动态负载均衡的系统,其特征在于,所述监控调度模块被配置为,当某一虚拟机节点上某个维度的虚拟机的系统资源耗用总和达到对应维度宿主机系统资源容量上限的安全阈值时,逐步降低该宿主机上相关虚拟机的负载均衡权重。
23.根据权利要求21所述的动态负载均衡的系统,其特征在于,所述监控调度模块被配置为,结合应用集群虚拟机部署情况,调整相应虚拟机节点的虚拟机负载均衡权重。
24.根据权利要求21所述的动态负载均衡的系统,其特征在于,包括若干探针,所述探针安装在各个虚拟机中,被配置为用来获取相应虚拟机的系统资源耗用状况数据。
25.根据权利要求24所述的动态负载均衡的系统,其特征在于,所述探针被配置为,根据系统资源采集指令,抓取并反馈相应维度的本地虚拟机的系统资源耗用数据。
26.根据权利要求25所述的动态负载均衡的系统,其特征在于,所述监控调度模块被配置为,当某节点虚拟机上所述探针程序未正常抓取并反馈相应维度的本地虚拟机的系统资源耗用数据时,重置对应虚拟机节点负载均衡权重;和/或,触发报警。
27.根据权利要求21所述的动态负载均衡的系统,其特征在于,包括若干网络设备,所述网络设备被配置在云计算系统中,用来获取相应的网络资源耗用状况数据。
28.根据权利要求21所述的动态负载均衡的系统,其特征在于,包括若干远程服务模块,所述远程服务模块被配置在云计算系统中,用来获取所述虚拟机所依赖的远程服务I/O性能资源耗用状况数据。
29.根据权利要求21述的动态负载均衡的系统,其特征在于,包括自动扩容模块,所述自动扩容模块被配置为,在所述监控调度模块监测到耗用系统资源总和即将整体超过安全阈值的应用集群时,被触发而对应用集群扩容。
30.根据权利要求21所述的动态负载均衡的系统,其特征在于,包括自动缩容模块,所述自动缩容模块被配置为,在所述监控调度模块监测到耗用系统资源总和长期低于某个临界阈值的应用集群时,被触发而回收并释放闲置的虚拟机。
31.一种动态负载均衡监控调度设备,其特征在于,包括:
系统资源耗用感知器,被配置为获取云计算环境下虚拟化系统的资源耗用状况,所述虚拟化系统的资源耗用状况包括各虚拟机节点对应的宿主机整体容量和资源耗用状况,相关远程服务整体容量和资源耗用状况,以及应用集群虚拟机分布状况;
负载均衡权重运算器,被配置为根据所述虚拟化系统的资源耗用状况,按预设策略综合计算虚拟机负载均衡权重列表;以及
负载均衡权重推送器,被配置为推送虚拟机负载均衡权重列表至负载均衡设备进行处理。
32.根据权利要求31所述的动态负载均衡监控调度设备,其特征在于,所述系统资源耗用感知器被配置为,通过以一定频率下发系统资源采集指令,来主动获取相应虚拟机的系统资源耗用状况数据。
33.根据权利要求31所述的动态负载均衡监控调度设备,其特征在于,所述负载均衡权重运算器被配置为,当某一虚拟机节点上某个维度的虚拟机的系统资源耗用总和达到对应维度宿主机系统资源容量上限的安全阈值时,逐步降低该宿主机上相关虚拟机的负载均衡权重。
34.根据权利要求31所述的动态负载均衡监控调度设备,其特征在于,所述负载均衡权重运算器被配置为,结合应用集群虚拟机部署情况,调整相应虚拟机节点的虚拟机负载均衡权重。
35.根据权利要求31所述的动态负载均衡监控调度设备,其特征在于,包括资源感知异常处理器,所述资源感知异常处理器被配置为当某节点虚拟机上所述探针程序未正常抓取并反馈相应维度的本地虚拟机的系统资源耗用数据时,重置对应虚拟机节点负载均衡权重;和/或,触发报警。
36.根据权利要求31所述的动态负载均衡监控调度设备,其特征在于,包括系统资源异常处理器,所述系统资源异常处理器被配置为,对于耗用系统资源总和即将整体超过安全阈值的应用集群,通过触发相应的自动扩容程序对应用集群扩容,或者触发报警;和/或,对于耗用系统资源总和长期低于某个临界阈值的应用集群,通过触发相应的自动缩容程序以回收并释放闲置的虚拟机,来实现对应用集群缩容。
CN201410046269.3A 2014-02-10 2014-02-10 动态负载均衡的方法、系统及监控调度设备 Pending CN104836819A (zh)

Priority Applications (2)

Application Number Priority Date Filing Date Title
CN201410046269.3A CN104836819A (zh) 2014-02-10 2014-02-10 动态负载均衡的方法、系统及监控调度设备
HK15109868.3A HK1209248A1 (zh) 2014-02-10 2015-10-09 動態負載均衡的方法、系統及監控調度設備

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201410046269.3A CN104836819A (zh) 2014-02-10 2014-02-10 动态负载均衡的方法、系统及监控调度设备

Publications (1)

Publication Number Publication Date
CN104836819A true CN104836819A (zh) 2015-08-12

Family

ID=53814455

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201410046269.3A Pending CN104836819A (zh) 2014-02-10 2014-02-10 动态负载均衡的方法、系统及监控调度设备

Country Status (2)

Country Link
CN (1) CN104836819A (zh)
HK (1) HK1209248A1 (zh)

Cited By (59)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105245381A (zh) * 2015-10-22 2016-01-13 上海斐讯数据通信技术有限公司 云服务器宕机监控迁移系统和方法
CN105607868A (zh) * 2015-12-14 2016-05-25 华为数字技术(成都)有限公司 扩容存储阵列的方法及装置
CN105682124A (zh) * 2016-02-23 2016-06-15 工业和信息化部电信研究院 一种基于虚拟网络的节能方法
CN106095483A (zh) * 2016-05-31 2016-11-09 乐视控股(北京)有限公司 服务的自动化部署方法及装置
CN106293944A (zh) * 2016-08-11 2017-01-04 上海交通大学 虚拟化多核环境下基于非一致性i/o访问系统和优化方法
CN106407013A (zh) * 2016-09-30 2017-02-15 郑州云海信息技术有限公司 资源动态调度的方法、装置、资源调度服务器及系统
CN106559448A (zh) * 2015-09-28 2017-04-05 北京国双科技有限公司 服务器负载均衡方法和装置
CN106856510A (zh) * 2017-02-27 2017-06-16 中国联合网络通信集团有限公司 虚拟私有云路由转发调度方法、系统和虚拟路由器
CN106911501A (zh) * 2017-02-22 2017-06-30 广东网金控股股份有限公司 一种自动化的减容方法及其装置
CN106970839A (zh) * 2017-02-22 2017-07-21 广东网金控股股份有限公司 一种自动化的扩容方法及其装置
CN106991170A (zh) * 2017-04-01 2017-07-28 广东浪潮大数据研究有限公司 一种分布式文件容量均衡的方法与装置
CN107124449A (zh) * 2017-04-17 2017-09-01 吉林工程技术师范学院 一种云计算系统中的资源分配方法
CN107231421A (zh) * 2017-05-27 2017-10-03 北京力尊信通科技股份有限公司 一种虚拟机计算能力动态调整方法、装置以及系统
CN107229646A (zh) * 2016-03-24 2017-10-03 中兴通讯股份有限公司 数据集群的部署方法、装置及系统
CN107306234A (zh) * 2016-04-20 2017-10-31 北京亿阳信通科技有限公司 一种云平台资源分配系统和方法
WO2017215415A1 (zh) * 2016-06-13 2017-12-21 中兴通讯股份有限公司 一种资源控制方法、装置和iptv服务器
WO2018001004A1 (zh) * 2016-06-27 2018-01-04 中兴通讯股份有限公司 一种基于Docker的云平台控制方法及装置
CN107645454A (zh) * 2016-07-22 2018-01-30 中国电信股份有限公司 虚拟化与传统设备的混合组网方法和系统、负载分担器
CN107733814A (zh) * 2017-09-15 2018-02-23 武汉市工程科学技术研究院 基于云服务器和虚拟系统的企业服务资源消息分发系统及方法
CN107784440A (zh) * 2017-10-23 2018-03-09 国网辽宁省电力有限公司 一种电力信息系统资源调配系统及方法
CN107819632A (zh) * 2017-11-24 2018-03-20 郑州云海信息技术有限公司 一种基于性能监控系统和Docker Swarm的动态负载均衡集群系统
CN107861809A (zh) * 2016-09-21 2018-03-30 三星Sds株式会社 计算资源管理装置及方法
CN107862615A (zh) * 2017-12-22 2018-03-30 平安养老保险股份有限公司 理赔信息处理方法、装置、计算机设备和存储介质
CN107977264A (zh) * 2016-10-24 2018-05-01 阿里巴巴集团控股有限公司 一种虚拟机内存资源的调度方法以及装置
CN107977266A (zh) * 2016-10-25 2018-05-01 中兴通讯股份有限公司 云应用动态伸缩系统及方法
CN108076082A (zh) * 2016-11-09 2018-05-25 阿里巴巴集团控股有限公司 一种应用集群的扩容方法、装置和系统
CN105407057B (zh) * 2015-12-07 2018-09-25 中国联合网络通信集团有限公司 一种负载均衡的方法及装置
CN108713191A (zh) * 2016-02-04 2018-10-26 思杰系统有限公司 用于云感知应用传送控制器的系统和方法
CN109144658A (zh) * 2017-06-27 2019-01-04 阿里巴巴集团控股有限公司 有限资源的负载均衡方法、装置及电子设备
CN109379298A (zh) * 2018-12-06 2019-02-22 江苏华生基因数据科技股份有限公司 一种大数据系统的负载均衡方法
CN109416650A (zh) * 2016-06-30 2019-03-01 诺基亚美国公司 具有加权散列函数的集中式负载均衡器
CN109445931A (zh) * 2018-08-31 2019-03-08 安徽四创电子股份有限公司 一种大数据资源调度系统及方法
CN109643090A (zh) * 2016-06-24 2019-04-16 施耐德电子系统美国股份有限公司 动态地促进无边界、高可用性m:n工作配置系统管理的方法、系统和设备
CN109639480A (zh) * 2018-12-10 2019-04-16 北京京东金融科技控股有限公司 一种数据上报的系统和方法
CN109672709A (zh) * 2017-10-17 2019-04-23 上海仪电(集团)有限公司中央研究院 一种混合云业务调度系统及方法
CN109800084A (zh) * 2018-12-21 2019-05-24 平安科技(深圳)有限公司 释放虚拟机资源的方法及终端设备
CN109918190A (zh) * 2017-12-13 2019-06-21 华为技术有限公司 一种数据采集方法及相关设备
CN110008000A (zh) * 2019-03-05 2019-07-12 阿里巴巴集团控股有限公司 应用集群缩容方法及装置
CN110261392A (zh) * 2019-06-19 2019-09-20 北京百度网讯科技有限公司 质量检测方法、装置、电子设备和系统
CN110417686A (zh) * 2019-06-12 2019-11-05 北京因特睿软件有限公司 云资源动态调度系统
CN110457114A (zh) * 2019-07-24 2019-11-15 杭州数梦工场科技有限公司 应用集群部署方法及装置
CN110471769A (zh) * 2019-08-14 2019-11-19 中国工商银行股份有限公司 一种虚拟机的资源管理方法及装置
CN110493071A (zh) * 2018-05-15 2019-11-22 中国移动通信集团浙江有限公司 消息系统资源均衡装置、方法及设备
CN110781006A (zh) * 2019-10-28 2020-02-11 重庆紫光华山智安科技有限公司 负载均衡方法、装置、节点及计算机可读存储介质
CN110865872A (zh) * 2019-11-14 2020-03-06 北京京航计算通讯研究所 基于资源合理化应用的虚拟化集群资源调度系统
CN110874248A (zh) * 2018-08-31 2020-03-10 上海仪电(集团)有限公司中央研究院 一种云计算环境中虚拟机启动加速方法及系统
CN111124692A (zh) * 2020-01-02 2020-05-08 神州数码融信软件有限公司 一种业务请求处理系统
CN111309476A (zh) * 2020-01-22 2020-06-19 福建天泉教育科技有限公司 推送系统自动调整资源的方法、存储介质
CN111324464A (zh) * 2020-03-12 2020-06-23 北京首汽智行科技有限公司 一种基于微服务架构的负载分配方法
CN111858040A (zh) * 2020-07-07 2020-10-30 中国建设银行股份有限公司 一种资源调度方法和装置
CN112214278A (zh) * 2020-09-11 2021-01-12 浙江运达风电股份有限公司 一种私有云僵尸虚拟机的识别和处理方法
CN112711465A (zh) * 2021-03-23 2021-04-27 腾讯科技(深圳)有限公司 基于云平台的数据处理方法、装置、电子设备及存储介质
CN112817694A (zh) * 2021-02-02 2021-05-18 中国工商银行股份有限公司 分布式系统的自动负载均衡方法及装置
CN113127146A (zh) * 2020-01-16 2021-07-16 上海盛霄云计算技术有限公司 一种异构动态随机调度方法及系统
CN113312142A (zh) * 2021-02-26 2021-08-27 阿里巴巴集团控股有限公司 虚拟化处理系统、方法、装置及设备
CN113542051A (zh) * 2021-05-27 2021-10-22 贵州电网有限责任公司 一种基于软件定义网络的监控流量负载均衡方法
CN113778668A (zh) * 2021-08-18 2021-12-10 中国光大银行股份有限公司 虚拟资源部署方法、系统和计算机可读介质
CN114003374A (zh) * 2021-09-30 2022-02-01 苏州浪潮智能科技有限公司 基于云平台的节点调度方法、装置及电子设备和存储介质
WO2024000443A1 (en) * 2022-06-30 2024-01-04 Intel Corporation Enforcement of maximum memory access latency for virtual machine instances

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101719082A (zh) * 2009-12-24 2010-06-02 中国科学院计算技术研究所 虚拟化计算平台中应用请求调度的方法及其系统
CN102446115A (zh) * 2012-01-09 2012-05-09 浙江大学 一种虚拟机的动态部署方法
CN102508693A (zh) * 2011-09-29 2012-06-20 华中科技大学 基于虚拟机的Web服务器扩容系统
CN102790793A (zh) * 2012-05-08 2012-11-21 北京邮电大学 一种面向云计算虚拟机迁移的决策方法及控制模块
CN102801587A (zh) * 2012-08-29 2012-11-28 北京邮电大学 面向大规模网络的虚拟化监测系统与动态监测方法
CN103095599A (zh) * 2013-01-18 2013-05-08 浪潮电子信息产业股份有限公司 一种云计算操作系统中动态反馈加权综合负载调度方法

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101719082A (zh) * 2009-12-24 2010-06-02 中国科学院计算技术研究所 虚拟化计算平台中应用请求调度的方法及其系统
CN102508693A (zh) * 2011-09-29 2012-06-20 华中科技大学 基于虚拟机的Web服务器扩容系统
CN102446115A (zh) * 2012-01-09 2012-05-09 浙江大学 一种虚拟机的动态部署方法
CN102790793A (zh) * 2012-05-08 2012-11-21 北京邮电大学 一种面向云计算虚拟机迁移的决策方法及控制模块
CN102801587A (zh) * 2012-08-29 2012-11-28 北京邮电大学 面向大规模网络的虚拟化监测系统与动态监测方法
CN103095599A (zh) * 2013-01-18 2013-05-08 浪潮电子信息产业股份有限公司 一种云计算操作系统中动态反馈加权综合负载调度方法

Cited By (81)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106559448A (zh) * 2015-09-28 2017-04-05 北京国双科技有限公司 服务器负载均衡方法和装置
CN105245381A (zh) * 2015-10-22 2016-01-13 上海斐讯数据通信技术有限公司 云服务器宕机监控迁移系统和方法
CN105245381B (zh) * 2015-10-22 2019-08-16 上海斐讯数据通信技术有限公司 云服务器宕机监控迁移系统和方法
CN105407057B (zh) * 2015-12-07 2018-09-25 中国联合网络通信集团有限公司 一种负载均衡的方法及装置
CN105607868A (zh) * 2015-12-14 2016-05-25 华为数字技术(成都)有限公司 扩容存储阵列的方法及装置
CN108713191A (zh) * 2016-02-04 2018-10-26 思杰系统有限公司 用于云感知应用传送控制器的系统和方法
CN105682124A (zh) * 2016-02-23 2016-06-15 工业和信息化部电信研究院 一种基于虚拟网络的节能方法
CN105682124B (zh) * 2016-02-23 2018-10-30 工业和信息化部电信研究院 一种基于虚拟网络的节能方法
CN107229646A (zh) * 2016-03-24 2017-10-03 中兴通讯股份有限公司 数据集群的部署方法、装置及系统
CN107306234A (zh) * 2016-04-20 2017-10-31 北京亿阳信通科技有限公司 一种云平台资源分配系统和方法
CN106095483A (zh) * 2016-05-31 2016-11-09 乐视控股(北京)有限公司 服务的自动化部署方法及装置
WO2017215415A1 (zh) * 2016-06-13 2017-12-21 中兴通讯股份有限公司 一种资源控制方法、装置和iptv服务器
CN109643090A (zh) * 2016-06-24 2019-04-16 施耐德电子系统美国股份有限公司 动态地促进无边界、高可用性m:n工作配置系统管理的方法、系统和设备
CN107547596B (zh) * 2016-06-27 2022-01-25 中兴通讯股份有限公司 一种基于Docker的云平台控制方法及装置
CN107547596A (zh) * 2016-06-27 2018-01-05 中兴通讯股份有限公司 一种基于Docker的云平台控制方法及装置
WO2018001004A1 (zh) * 2016-06-27 2018-01-04 中兴通讯股份有限公司 一种基于Docker的云平台控制方法及装置
CN109416650A (zh) * 2016-06-30 2019-03-01 诺基亚美国公司 具有加权散列函数的集中式负载均衡器
CN107645454A (zh) * 2016-07-22 2018-01-30 中国电信股份有限公司 虚拟化与传统设备的混合组网方法和系统、负载分担器
CN107645454B (zh) * 2016-07-22 2020-03-20 中国电信股份有限公司 虚拟化与传统设备的混合组网方法和系统、负载分担器
CN106293944A (zh) * 2016-08-11 2017-01-04 上海交通大学 虚拟化多核环境下基于非一致性i/o访问系统和优化方法
CN106293944B (zh) * 2016-08-11 2019-12-10 上海交通大学 虚拟化多核环境下基于非一致性i/o访问系统和优化方法
CN107861809A (zh) * 2016-09-21 2018-03-30 三星Sds株式会社 计算资源管理装置及方法
CN106407013B (zh) * 2016-09-30 2020-05-26 苏州浪潮智能科技有限公司 资源动态调度的方法、装置、资源调度服务器及系统
CN106407013A (zh) * 2016-09-30 2017-02-15 郑州云海信息技术有限公司 资源动态调度的方法、装置、资源调度服务器及系统
CN107977264A (zh) * 2016-10-24 2018-05-01 阿里巴巴集团控股有限公司 一种虚拟机内存资源的调度方法以及装置
CN107977266A (zh) * 2016-10-25 2018-05-01 中兴通讯股份有限公司 云应用动态伸缩系统及方法
CN108076082A (zh) * 2016-11-09 2018-05-25 阿里巴巴集团控股有限公司 一种应用集群的扩容方法、装置和系统
CN106970839A (zh) * 2017-02-22 2017-07-21 广东网金控股股份有限公司 一种自动化的扩容方法及其装置
CN106911501A (zh) * 2017-02-22 2017-06-30 广东网金控股股份有限公司 一种自动化的减容方法及其装置
CN106856510B (zh) * 2017-02-27 2019-08-16 中国联合网络通信集团有限公司 虚拟私有云路由转发调度方法、系统和虚拟路由器
CN106856510A (zh) * 2017-02-27 2017-06-16 中国联合网络通信集团有限公司 虚拟私有云路由转发调度方法、系统和虚拟路由器
CN106991170A (zh) * 2017-04-01 2017-07-28 广东浪潮大数据研究有限公司 一种分布式文件容量均衡的方法与装置
CN107124449A (zh) * 2017-04-17 2017-09-01 吉林工程技术师范学院 一种云计算系统中的资源分配方法
CN107231421A (zh) * 2017-05-27 2017-10-03 北京力尊信通科技股份有限公司 一种虚拟机计算能力动态调整方法、装置以及系统
CN109144658A (zh) * 2017-06-27 2019-01-04 阿里巴巴集团控股有限公司 有限资源的负载均衡方法、装置及电子设备
CN107733814B (zh) * 2017-09-15 2021-01-08 武汉市工程科学技术研究院 基于云服务器和虚拟系统的企业服务资源消息分发系统及方法
CN107733814A (zh) * 2017-09-15 2018-02-23 武汉市工程科学技术研究院 基于云服务器和虚拟系统的企业服务资源消息分发系统及方法
CN109672709B (zh) * 2017-10-17 2023-03-24 上海仪电(集团)有限公司中央研究院 一种混合云业务调度系统及方法
CN109672709A (zh) * 2017-10-17 2019-04-23 上海仪电(集团)有限公司中央研究院 一种混合云业务调度系统及方法
CN107784440A (zh) * 2017-10-23 2018-03-09 国网辽宁省电力有限公司 一种电力信息系统资源调配系统及方法
CN107819632A (zh) * 2017-11-24 2018-03-20 郑州云海信息技术有限公司 一种基于性能监控系统和Docker Swarm的动态负载均衡集群系统
CN109918190A (zh) * 2017-12-13 2019-06-21 华为技术有限公司 一种数据采集方法及相关设备
CN107862615A (zh) * 2017-12-22 2018-03-30 平安养老保险股份有限公司 理赔信息处理方法、装置、计算机设备和存储介质
CN110493071A (zh) * 2018-05-15 2019-11-22 中国移动通信集团浙江有限公司 消息系统资源均衡装置、方法及设备
CN109445931A (zh) * 2018-08-31 2019-03-08 安徽四创电子股份有限公司 一种大数据资源调度系统及方法
CN110874248A (zh) * 2018-08-31 2020-03-10 上海仪电(集团)有限公司中央研究院 一种云计算环境中虚拟机启动加速方法及系统
CN109379298A (zh) * 2018-12-06 2019-02-22 江苏华生基因数据科技股份有限公司 一种大数据系统的负载均衡方法
CN109639480A (zh) * 2018-12-10 2019-04-16 北京京东金融科技控股有限公司 一种数据上报的系统和方法
CN109800084A (zh) * 2018-12-21 2019-05-24 平安科技(深圳)有限公司 释放虚拟机资源的方法及终端设备
CN110008000A (zh) * 2019-03-05 2019-07-12 阿里巴巴集团控股有限公司 应用集群缩容方法及装置
CN110417686A (zh) * 2019-06-12 2019-11-05 北京因特睿软件有限公司 云资源动态调度系统
CN110417686B (zh) * 2019-06-12 2021-12-14 因特睿科技有限公司 云资源动态调度系统
CN110261392B (zh) * 2019-06-19 2022-07-08 北京百度网讯科技有限公司 质量检测方法、装置、电子设备和系统
CN110261392A (zh) * 2019-06-19 2019-09-20 北京百度网讯科技有限公司 质量检测方法、装置、电子设备和系统
CN110457114B (zh) * 2019-07-24 2020-11-27 杭州数梦工场科技有限公司 应用集群部署方法及装置
CN110457114A (zh) * 2019-07-24 2019-11-15 杭州数梦工场科技有限公司 应用集群部署方法及装置
CN110471769B (zh) * 2019-08-14 2022-03-29 中国工商银行股份有限公司 一种虚拟机的资源管理方法及装置
CN110471769A (zh) * 2019-08-14 2019-11-19 中国工商银行股份有限公司 一种虚拟机的资源管理方法及装置
CN110781006A (zh) * 2019-10-28 2020-02-11 重庆紫光华山智安科技有限公司 负载均衡方法、装置、节点及计算机可读存储介质
CN110781006B (zh) * 2019-10-28 2022-06-03 重庆紫光华山智安科技有限公司 负载均衡方法、装置、节点及计算机可读存储介质
CN110865872A (zh) * 2019-11-14 2020-03-06 北京京航计算通讯研究所 基于资源合理化应用的虚拟化集群资源调度系统
CN111124692A (zh) * 2020-01-02 2020-05-08 神州数码融信软件有限公司 一种业务请求处理系统
CN111124692B (zh) * 2020-01-02 2023-05-12 神州数码融信软件有限公司 一种业务请求处理系统
CN113127146A (zh) * 2020-01-16 2021-07-16 上海盛霄云计算技术有限公司 一种异构动态随机调度方法及系统
CN111309476A (zh) * 2020-01-22 2020-06-19 福建天泉教育科技有限公司 推送系统自动调整资源的方法、存储介质
CN111309476B (zh) * 2020-01-22 2023-11-03 福建天泉教育科技有限公司 推送系统自动调整资源的方法、存储介质
CN111324464A (zh) * 2020-03-12 2020-06-23 北京首汽智行科技有限公司 一种基于微服务架构的负载分配方法
CN111858040A (zh) * 2020-07-07 2020-10-30 中国建设银行股份有限公司 一种资源调度方法和装置
CN112214278A (zh) * 2020-09-11 2021-01-12 浙江运达风电股份有限公司 一种私有云僵尸虚拟机的识别和处理方法
CN112817694A (zh) * 2021-02-02 2021-05-18 中国工商银行股份有限公司 分布式系统的自动负载均衡方法及装置
CN112817694B (zh) * 2021-02-02 2024-08-02 中国工商银行股份有限公司 分布式系统的自动负载均衡方法及装置
CN113312142A (zh) * 2021-02-26 2021-08-27 阿里巴巴集团控股有限公司 虚拟化处理系统、方法、装置及设备
CN113312142B (zh) * 2021-02-26 2023-12-26 阿里巴巴集团控股有限公司 虚拟化处理系统、方法、装置及设备
CN112711465B (zh) * 2021-03-23 2021-06-18 腾讯科技(深圳)有限公司 基于云平台的数据处理方法、装置、电子设备及存储介质
CN112711465A (zh) * 2021-03-23 2021-04-27 腾讯科技(深圳)有限公司 基于云平台的数据处理方法、装置、电子设备及存储介质
CN113542051B (zh) * 2021-05-27 2022-08-30 贵州电网有限责任公司 一种基于软件定义网络的监控流量负载均衡方法
CN113542051A (zh) * 2021-05-27 2021-10-22 贵州电网有限责任公司 一种基于软件定义网络的监控流量负载均衡方法
CN113778668A (zh) * 2021-08-18 2021-12-10 中国光大银行股份有限公司 虚拟资源部署方法、系统和计算机可读介质
CN114003374A (zh) * 2021-09-30 2022-02-01 苏州浪潮智能科技有限公司 基于云平台的节点调度方法、装置及电子设备和存储介质
CN114003374B (zh) * 2021-09-30 2023-11-14 苏州浪潮智能科技有限公司 基于云平台的节点调度方法、装置及电子设备和存储介质
WO2024000443A1 (en) * 2022-06-30 2024-01-04 Intel Corporation Enforcement of maximum memory access latency for virtual machine instances

Also Published As

Publication number Publication date
HK1209248A1 (zh) 2016-03-24

Similar Documents

Publication Publication Date Title
CN104836819A (zh) 动态负载均衡的方法、系统及监控调度设备
US11108852B2 (en) Load balanced network file accesses
CN111818159B (zh) 数据处理节点的管理方法、装置、设备及存储介质
US10733029B2 (en) Movement of services across clusters
EP3507692B1 (en) Resource oversubscription based on utilization patterns in computing systems
US20200019315A1 (en) Fabric attached storage
US20240259327A1 (en) Software load balancer to maximize utilization
US9444764B2 (en) Scalable and secure interconnectivity in server cluster environments
CN106133693B (zh) 虚拟机的迁移方法、装置及设备
CN107729185B (zh) 一种故障处理方法及装置
US11461199B2 (en) Redundancy method, device, and system
CN106790565A (zh) 一种网络附属存储集群系统
CN109388488B (zh) 计算机系统中的功率分配
CN106681839B (zh) 弹性计算动态分配方法
WO2019108465A1 (en) Automated capacity management in distributed computing systems
US20120233313A1 (en) Shared scaling server system
CN106959820A (zh) 一种数据提取方法和系统
CN104426694A (zh) 一种调整虚拟机资源的方法和装置
CN110858986A (zh) 带宽调整方法、装置、通信设备及计算机可读存储介质
KR101586354B1 (ko) 병렬 연결식 서버시스템의 통신 장애 복구방법
US20200272526A1 (en) Methods and systems for automated scaling of computing clusters
CN105915630A (zh) 跨网络数据传输系统及负载均衡调度方法
CN107770296B (zh) 分配地址的方法及装置
CN112887224B (zh) 流量调度处理方法、装置、电子设备及存储介质
CN117938860A (zh) 基于虚拟化技术的数据中心网络资源优化分配方法及系统

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
EXSB Decision made by sipo to initiate substantive examination
SE01 Entry into force of request for substantive examination
REG Reference to a national code

Ref country code: HK

Ref legal event code: DE

Ref document number: 1209248

Country of ref document: HK

RJ01 Rejection of invention patent application after publication

Application publication date: 20150812

RJ01 Rejection of invention patent application after publication
REG Reference to a national code

Ref country code: HK

Ref legal event code: WD

Ref document number: 1209248

Country of ref document: HK