CN110399226B - 云系统用负载平衡器 - Google Patents

云系统用负载平衡器 Download PDF

Info

Publication number
CN110399226B
CN110399226B CN201910699084.5A CN201910699084A CN110399226B CN 110399226 B CN110399226 B CN 110399226B CN 201910699084 A CN201910699084 A CN 201910699084A CN 110399226 B CN110399226 B CN 110399226B
Authority
CN
China
Prior art keywords
module
load balancer
customer demands
virtual machine
threshold
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201910699084.5A
Other languages
English (en)
Other versions
CN110399226A (zh
Inventor
赵国喜
梁桂珍
周贵祥
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Xinxiang University
Original Assignee
Xinxiang University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Xinxiang University filed Critical Xinxiang University
Priority to CN201910699084.5A priority Critical patent/CN110399226B/zh
Publication of CN110399226A publication Critical patent/CN110399226A/zh
Application granted granted Critical
Publication of CN110399226B publication Critical patent/CN110399226B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00—Arrangements for program control, e.g. control units
    • G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46—Multiprogramming arrangements
    • G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
    • G06F9/5061—Partitioning or combining of resources
    • G06F9/5077—Logical partitioning of resources; Management or configuration of virtualized resources
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00—Arrangements for program control, e.g. control units
    • G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46—Multiprogramming arrangements
    • G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
    • G06F9/5083—Techniques for rebalancing the load in a distributed system
    • Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
    • Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management

Landscapes

  • Engineering & Computer Science (AREA)
  • Software Systems (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Abstract

本发明公开了一种基于阈值调控算法的云系统用负载平衡器，属计算机处理器领域。其包括两层组件：第一层组件包括第一识别计数器模块、第二识别计数器模块、系统指标监测器（含显示屏）、和随机参数生成器模块；第二层组件为虚拟机驱动器模块。所述第一计数器模块用于识别到达的客户需求、对到达系统的客户需求进行计数，对到达率进行计算并感知正在排队的客户需求数量，所述第二识别计数器模块用于识别已处理的客户需求、对离开系统的客户需求进行计数，对输出率进行计算并感知系统中的总客户需求数量。所述随机参数生成器模块对策略参数随机生成，也可手动设置。所述系统指标监测器，实时感知并显示系统的各项指标、基于第一层组件的识别结果，经过阈值算法可以计算出最优阈值及系统最小费用，结果同样显示在系统指标监测屏上，并通过虚拟机驱动器模块接收到最优阈值命令，从而控制虚拟机的调度，实现最优的虚拟机调度。该负载平衡器的优势在于能实时调控虚拟机的数量使系统性能达到最优。

Description

云系统用负载平衡器
技术领域
本发明属计算机处理器领域，涉及一种基于阈值调控算法的负载平衡器。
背景技术
随着计算机技术以及互联网技术的蓬勃发展，信息时代到来已久。近年来，互联网技术与各行各业深度融合，逐渐形成了“互联网+”，惠及了人类生活的方方面面，同时也导致了更严重的数据爆发和信息泛滥，这使得客户对各类处理器的性能要求更加严格。在云平台上，虚拟机调度及优化方法是实现云计算资源的合理分配及节能的重要方式。虚拟机的动态调度策略愈来愈优，能使得整个云平台更加高效且低耗地处理客户需求。
对于负载平衡器的设计以及虚拟机的动态调度问题，目前已有一些相关的研究。
首先是对负载平衡器的设计问题的研究，负载平衡器把客户需求分发到不同虚拟机上，有研究合理设计了负载均衡器的网络接入，通过对三种网络工作模式数据包的转发过程进行研究，分别针对不同模式做出合适的设计：透明模式配置了网络设备策略路由,保证往返数据包；反向代理模式可充分优化服务性能；三角模式实现了高性能、不对称的网络传输。有的文章致力于降低负载均衡设备的价格，设计了一种低成本的 Web服务负载均衡器，设计了负载均衡器的框架，通过设计判定服务器性能、检测健康状态、提供持续服务等算法，解决了Web服务负载均衡器设计的部分问题。可以看出，已有的对负载均衡器的研究大都提供了优化的思路，没有对负载均衡器具体的内部运作进行研究，而对其内部运行进行研究有利于利用率最优，使系统能耗降到最低，对于大数据的收发和管理有很大的现实意义。
也有部分研究致力于通过基于虚拟机调度优化的方法降低云数据中心能耗，但很少考虑在线迁移虚拟机的同时系统的服务等级协议(SLA)违约率往往会上升，从而影响服务质量(QoS)；也有研究结合动态电压/频率调整技术与虚拟机整合方法，提出了一种动态的资源管理方案，以降低能源消耗，缓解SLA违规；有研究结合FCFS算法提出了一种优化方法来处理云环境下的任务调度问题，这一方法根据执行时间和执行成本进行分组，然后根据请求顺序依次将任务分配到合适的虚拟机上执行；有的研究提出了一种选择待迁虚拟机的方法，其结构模式是选择CPU利用率和内存占用比值最高的虚拟机迁移，但该策略只考虑了CPU的资源，而未考虑虚拟机资源的分配和利用。
有的研究提出一种将各种资源需求互补的虚拟机迁移到同一物理主机上的调度策略。有的研究以任务执行时间与能耗作为优化目标，建立了一个节能调度模型。有的研究提出了负荷控制管理机制的解决方法,但无法避免频繁的系统调用和来回切换等弊端,且系统开销过大。
有的研究从云计算资源提供商的角度出发，充分考虑收益、优先级、资源风险、时间调度底线等调度因素，分别提出云计算环境中的批调度策略以及在线调度策略。有的研究提出了一种多目标虚拟机迁移算法，确保较高的资源利用率的同时，减少关联虚拟机之间的流量负担，有的研究提出了Scattered算法来优化虚拟机之间的流量，同时尽量减少迁移的频率，但是这些作者较少考虑到迁移本身产生的费用。更重要的是，这些基于虚拟机个体的迁移策略会由于虚拟机之间的关联而导致通信成本的增加，并不适用于实际的虚拟机迁移场景。
综上所述，目前关于虚拟机调度的研究中，大多数都是针对虚拟机在物理机上进行放置与迁移，并设计算法以提升数据中心的性能。而提高系统资源利用率的根本在于优化模型，产生最小阈值，考虑实际产生的多种费用并计算系统最小费用。
发明内容
为实现虚拟机的负载均衡，提高系统性能，本发明设计了一种基于阈值调控算法的负载平衡器，负责将客户需求分配到虚拟机上。
为实现本发明目的，本发明主要研究虚拟机的处理位置与到达任务之间的映射关系，建立优化模型，计算最小费用，最后根据模型设计出负载均衡器的具体结构。
该云系统用负载平衡器由阈值算法调控模块，负载平衡器第一层模块，负载平衡器第二层模块组成，阈值算法调控模块并联连接负载平衡器第一层模块和负载平衡器第二层模块，负载平衡器第一层模块和负载平衡器第二层模块串联连接。负载平衡器第一层模块由第一识别计数器模块、第二识别计数器模块、系统指标监测器模块(含显示屏)和随机参数生成器模块组成，各组件之间串联连接；负载平衡器第二层模块为虚拟机驱动器模块。
所述第一计数器模块用于识别到达的客户需求、对到达系统的客户需求进行计数，对到达率进行计算并感知正在排队的客户需求数量；所述第二识别计数器模块用于识别已处理的客户需求、对离开系统的客户需求进行计数，对输出率进行计算并感知系统中的总客户需求数量；所述随机参数生成器模块对策略参数随机生成，也可手动设置；所述系统指标监测器模块，显示并保存第一计数器收集到的输入数据和和第二计数器收集到的输出数据，实时记录系统中的虚拟机台数，实时感知并显示系统的各项指标。将第一层组负载平衡器的识别结果传入阈值算法调控模块，经过阈值算法计算出最优阈值及系统最小费用，显示在系统指标监测器模块的显示屏上，并通过虚拟机驱动器模块接收到最优阈值命令，从而控制虚拟机的调度，实现最优的虚拟机调度。
所述第一计数器模块主要收集和保留三种数据：一是自起始时刻开始到达系统的客户需求的总数量，二是计算单位时间客户需求的到达率，三是感应系统中正在排队等待的客户需求数量，即排队队长，第一计数器模块收集的数据称为输入数据。
所述第二计数器模块主要收集和保留三种数据：一是自起始时刻开始离开系统的客户需求的总数量，二是计算单位时间客户需求的输出率，三是感应系统中正在排队等待和正在处理的客户总数量，即系统队长，第二计数器模块收集的数据称为输出数据。
所述随机参数生成器模块，带有键盘，可以随机生成阈值算法所需要的参数值，也可以手动设置相关参数。
所述系统指标监测器模块，自带显示屏，实时监测系统运行状态下的各项指标并在显示屏上显示，监测到的数据用于阈值调控算法，帮助计算出最优阈值。
在没有负载均衡器的系统中截取一个时刻放入负载均衡器，此时起始时刻的指标就是截取时刻的指标，此时系统有自己的最大排队队长， (或是系统中有负载均衡器，系统开启时自己设置最大排队队长)经过负载均衡器时，首先第一计数器记录和保存初始的输入数据，第二计数器提供输出数据，在负载均衡器中，经过本文提出的阈值调控算法，得到最优阈值，结果传回虚拟机驱动器，虚拟机驱动器根据结果在排队队长达到最优阈值的时候及时增加虚拟机，虚拟机就呈现最优的调度状态，此时的调度状态使得系统耗费最低.
本发明优点：通过构建具有双速率与部分服务台异步(N,T)策略多重休假的排队模型，结合矩阵几何解方法，得到云请求平均时延与系统能量节省率等系统性能，并根据性能结果对云虚拟机分簇调度策略进行理论分析和实验仿真，设计了一种基于阈值调控算法的负载均衡器，使虚拟机的利用率最优，使系统能耗降到最低。
附图说明
图1本发明负载平衡器结构示意图；图中，1-阈值算法调控模块，2-负载平衡器第一层模块，3-负载平衡器第二层模块，4-第一计数器模块， 5-系统指标监测器模块，6-随机参数生成器模块，7-第二计数器模块。
图2为本发明负载平衡器工作原理图。
图3为M/M/C(t)排队系统图示。
图4为虚拟机调度模拟图。
具体实施方式
为了更好地说明本发明技术方案，举实施例如下：
实施例1
结合附图，该云系统用负载平衡器由阈值算法调控模块1，负载平衡器第一层模块2，负载平衡器第二层模块3组成。阈值算法调控模块1并联连接负载平衡器第一层模块2和负载平衡器第二层模块3，负载平衡器第一层模块2和负载平衡器第二层模块3串联连接。负载平衡器第一层模块2由第一识别计数器模块4、第二识别计数器模块7、系统指标监测器模块5(含显示屏)和随机参数生成器模块6组成，各组件之间串联连接；负载平衡器第二层模块3为虚拟机驱动器模块。
所述第一计数器模块用于识别到达的客户需求、对到达系统的客户需求进行计数，对到达率进行计算并感知正在排队的客户需求数量；所述第二识别计数器模块用于识别已处理的客户需求、对离开系统的客户需求进行计数，对输出率进行计算并感知系统中的总客户需求数量；所述随机参数生成器模块对策略参数随机生成，也可手动设置；所述系统指标监测器模块，显示并保存第一计数器收集到的输入数据和和第二计数器收集到的输出数据，实时记录系统中的虚拟机台数，实时感知并显示系统的各项指标。将第一层组负载平衡器的识别结果传入阈值算法调控模块，经过阈值算法计算出最优阈值及系统最小费用，显示在系统指标监测屏上，并通过虚拟机驱动器模块接收到最优阈值命令，从而控制虚拟机的调度，实现最优的虚拟机调度。
所述第一计数器模块主要收集和保留三种数据：一是自起始时刻开始到达系统的客户需求的总数量，二是计算单位时间客户需求的到达率，三是感应系统中正在排队等待的客户需求数量，即排队队长，第一计数器模块收集的数据称为输入数据。显示保持一个最大排队队长不变持续的时间,若最大排队队长发生改变，就重新计时。
所述第二计数器模块主要收集和保留三种数据：一是自起始时刻开始离开系统的客户需求的总数量，二是计算单位时间客户需求的输出率，三是感应系统中正在排队等待和正在处理的客户总数量，即系统队长，第二计数器模块收集的数据称为输出数据。
所述随机参数生成器模块，带有键盘，可以随机生成阈值算法所需要的参数值，也可以手动设置相关参数。
所述系统指标监测器模块，自带显示屏，实时监测系统运行状态下的各项指标并在显示屏上显示，监测到的数据用于阈值调控算法，帮助计算出最优阈值。
实施例2阈值算法调控模块
本发明负载平衡器的设计基于一种阈值算法，主要通过调控虚拟机的数量来优化系统性能，所以本发明针对虚拟机的负载平衡模拟出一个 M/M/C(t)排队系统模型，并求出负载平衡时的稳态分布，分析系统的稳态性能指标，并根据某一时刻系统指标的值调控负载平衡器的工作状态，使得虚拟机充分利用。列出系统单位时间内的平均费用函数，由负载均衡器的部件生成策略参数，然后借助数值实验对系统阈值进行计算，负载平衡器实时记录系统指标、最优阈值以及阈值的变化情况。负载均衡器的优化设计不但丰富了云排队系统理论，还对于云服务系统性能的提升具有明确的现实意义。
将客户需求的到达过程，虚拟机的动态迁移过程以及虚拟机处理任务后输出客户需求的过程整合构造成一个M/M/C(t)排队系统。
具体的排队系统如图3。
C(t) 表示处于工作状态的虚拟机数量，且n＝C(t)
s 系统中的最大排队队长
l(t) 表示在t时刻的系统队长,且l＝0,1,…
i(t) 表示在t时刻的排队队长，且i＝0,1,,s-1.
p<sub>l</sub>(t) 表示在t时刻的系统队长为l的概率
r<sub>n</sub> 单位时间内系统服务率从μ<sub>n</sub>转移到μ<sub>n-1</sub>的平均调整次数
c<sub>1</sub> 以虚拟机单位服务率服务单位时间的服务费用
c<sub>2</sub> 每个客户需求在系统中等待单位时间的排队费用
c<sub>3</sub> 单位时间内虚拟机每调整一次产生的费用
本发明排队系统与经典的M/M/1排队系统相比，相同之处在于：客户需求的到达过程仍是一个参数为λ的Poisson过程，即客户需求的到达率为λ；个体虚拟机的服务过程仍服从参数为μ的负指数分布，即个体虚拟机的服务率为μ。不同之处在于：本文的排队系统中虚拟机可以无限多的调用。
一方面,处于工作状态的虚拟机数量取决于系统队长的值。把系统中正在处理以及等待处理的任务总数称为系统队长，l(t)表示在t时刻的系统队长。当系统中处于工作状态的虚拟机有n台时，系统队长为l，也可以表示为ns+i，此时s(n-1)＜l＜sn。把系统中正在等待处理的任务数称为排队队长，i表示排队队长，且系统中最大的排队队长为s，因此i≤s总成立。由于单个虚拟机只能同时处理一个任务，且当系统中的排队队长达到s时，才会调用新的虚拟机。所以当i＜s时，系统中有i个客户需求正在等待处理，当i＝s时，系统会自动调用一台新的虚拟机，此时系统中的等待现象消失。
另一方面，正因为本发明排队系统中虚拟机可以无限多的调用，所以系统的总服务率时刻发生变化，而客户需求到达速率始终保持稳定，根据系统队长来刻画系统总到达率则有：
λl＝λ (1)
根据系统队长来刻画系统总服务率的变化情况，则有：
Figure BDA0002150257720000071
考虑到在实际情况下，不存在系统队长为-1转移到系统队长为0的输入速率，也不存在系统队长为0转移到系统队长为 -1的输出速率，因此，规定
λ-1＝μ0＝0. (3)
实施例3客户需求及虚拟机数量的稳态分析
根据图4图解，系统输入和输出达到平衡状态时，有以下等式成立：
p'ns(t)＝-(λ+nμ)pns(t)+λpns-1(t)+(n+1)μpns+1(t)
p'ns+i(t)＝-(λ+(n+1)μ)pns+i(t)+λpns+i-1(t)+(n+1)μpns+i+1(t)
其中n＝0,1,…，i＝1,2,…,s-1.
根据l＝x(t)＝ns+i,则有：
pl'(t)＝λl-1pl-1(t)-(λl+μl)pl(t)+μl+1pl+1(t) (4)
其中λl表示系统队长为l转移到系统队长为l+1的输入速率，μl表示系统队长为l转移到系统队长为l-1的输出速率.
下面，令θl表示系统现有负载率，则有：
Figure BDA0002150257720000081
因此，θl就可以表示为：
Figure BDA0002150257720000082
其中
Figure BDA0002150257720000083
根据不同时刻的稳态方程，依次迭代，得到pns+i和p0之间的关系为：
Figure BDA0002150257720000084
即θns+i为p0的系数.
将pl做归一化处理，最终求得：
Figure BDA0002150257720000085
其中n＝0,1,…，这样，我们可以计算系统队长为不同值时对应的概率，即pns+i.
根据不同系统队长下的概率求平均队长，则有：
Figure BDA0002150257720000091
系统中的平均虚拟机数量是衡量系统性能的一个重要参数，根据不同系统队长下的概率，它可以表示为：
Figure BDA0002150257720000092
即对于任意的s，系统中不同时刻的平均虚拟机数量和系统现有负载总是相等的，它不受最大系统队长的影响，但是，系统中不同时刻的虚拟机数量的方差会受到系统队长的影响，随s的变化而变化。
最终，计算系统中不同时刻的虚拟机数量的方差为：
Figure BDA0002150257720000093
所以可以知道方差随着个体虚拟机最大能处理的需求数s的增大而增大，因此可以计算变异系数为：
Figure BDA0002150257720000094
实施例4最优阈值的优化
虚拟机动态迁移过程中，系统会产生费用，为使系统费用最小，本发明建立了系统费用的函数式，通过最优阈值的控制，得到最小的系统费用。本发明排队系统中会产生三类费用：
一是服务费用：对客户需求做处理，需要开启虚拟机，虚拟机工作就会产生费用，因此规定以单位服务率服务单位时间产生的服务费用为c1。
二是排队费用：系统中的客户需求一旦出现等待现象，客户的满意度会随等待时间的延长而下降，而客户的满意度是决定客户是否会进行下次消费的重要指标，如果造成客户不满，系统会损失消费者，从而产生费用，因此规定每个客户需求在系统中等待单位时间的排队费用为c2。
三是调整费用：系统中虚拟机数量每增加或减少一台，成为虚拟机数量的一次调整。虚拟机数量每做一次调整，会对虚拟机本身以及系统产生消费行为，对虚拟机的使用寿命产生巨大影响。因此，规定虚拟机数量每调整一次产生的费用为c3.
故单位时间内系统产生的平均总费用为：
f(s)＝c1E(N)+c2E(l)+c3E(r)(22)
其中，E{r}为单位时间内整个系统中虚拟机数量的平均调整次数，令单位时间内系统服务率从μn转移到μn-1的平均调整次数(即单位时间内系统中虚拟机数量从n台下降到n-1的平均次数)为rn.则
Figure BDA0002150257720000101
即
rn＝nμp(n-1)s+1. (23)
由于单位时间内系统服务率从μn转移到μn-1的平均调整次数等于系统服务率从μn-1转移到μn的平均调整次数，即
Figure BDA0002150257720000102
因此单位时间内系统中产生的平均总调整次数为
Figure BDA0002150257720000103
得平均总费用f(s)的表达式：
Figure BDA0002150257720000111
对服务费用、排队费用、调整费用等策略参数赋值，在λ、μ为常数的基础上，s为待定的控制变量，只要给定s的一个值，就能计算出一个对应的平均总费用f(s)的值，同时也可以计算出相对应的平均队长E(L) 和平均虚拟机数量E(N).
首先，对费用等策略参数赋值，如下表：
参数 设定值
服务费用c<sub>1</sub>. 0.5
排队费用c<sub>2</sub>. 0.6
调整费用c<sub>3</sub> 0.7
排队队长i 5
截取前n个虚拟机 30
此时，将
Figure BDA0002150257720000112
取确定后，再取s为离散的几个值.通过表格分析，就能得到最优阈值下的最小平均总费用。
例如：取s分别为5,10,15,20,25,30,则有下表：
Figure BDA0002150257720000113
Figure BDA0002150257720000121
/>

Claims (2)

1.云系统用负载平衡器，其特征在于，由阈值算法调控模块，负载平衡器第一层模块，负载平衡器第二层模块组成，阈值算法调控模块并联连接负载平衡器第一层模块和负载平衡器第二层模块，负载平衡器第一层模块和负载平衡器第二层模块串联连接；负载平衡器第一层模块由第一识别计数器模块、第二识别计数器模块、系统指标监测器模块和随机参数生成器模块组成，各组件之间串联连接；负载平衡器第二层模块为虚拟机驱动器模块；
所述第一识别计数器模块用于识别到达的客户需求、对到达系统的客户需求进行计数，对到达率进行计算并感知正在排队的客户需求数量；所述第二识别计数器模块用于识别已处理的客户需求、对离开系统的客户需求进行计数，对输出率进行计算并感知系统中的总客户需求数量；所述随机参数生成器模块对策略参数随机生成或手动设置；所述系统指标监测器模块，显示并保存第一识别计数器模块收集到的输入数据和第二识别计数器模块收集到的输出数据，记录系统中的虚拟机台数，感知并显示系统的各项指标；
负载平衡器第一层模块的识别结果传入阈值算法调控模块，经过阈值算法计算出最优阈值及系统最小费用，显示在系统指标监测器模块显示屏上，并通过虚拟机驱动器模块接收到最优阈值命令，从而控制虚拟机的调度，实现最优的虚拟机调度。
2.如权利要求1所述的云系统用负载平衡器，其特征在于，所述第一识别计数器模块主要收集和保留三种数据：一是自起始时刻开始到达系统的客户需求的总数量，二是计算单位时间客户需求的到达率，三是感应系统中正在排队等待的客户需求数量，即排队队长，第一识别计数器模块收集的数据称为输入数据；
所述第二识别计数器模块主要收集和保留三种数据：一是自起始时刻开始离开系统的客户需求的总数量，二是计算单位时间客户需求的输出率，三是感应系统中正在排队等待和正在处理的客户总数量，即系统队长，第二识别计数器模块收集的数据称为输出数据；
所述随机参数生成器模块，带有键盘，随机生成阈值算法所需要的参数值，或手动设置相关参数；
所述系统指标监测器模块，自带显示屏，监测系统运行状态下的各项指标并在显示屏上显示，监测到的数据用于阈值调控算法，帮助计算出最优阈值。
CN201910699084.5A 2019-07-31 2019-07-31 云系统用负载平衡器 Active CN110399226B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201910699084.5A CN110399226B (zh) 2019-07-31 2019-07-31 云系统用负载平衡器

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201910699084.5A CN110399226B (zh) 2019-07-31 2019-07-31 云系统用负载平衡器

Publications (2)

Publication Number Publication Date
CN110399226A CN110399226A (zh) 2019-11-01
CN110399226B true CN110399226B (zh) 2023-03-24

Family

ID=68326823

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201910699084.5A Active CN110399226B (zh) 2019-07-31 2019-07-31 云系统用负载平衡器

Country Status (1)

Country Link
CN (1) CN110399226B (zh)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111856978A (zh) * 2020-08-11 2020-10-30 苏州畅简智能科技有限公司 一种应用于工业设备的远程节能控制系统

Citations (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102710746A (zh) * 2012-04-30 2012-10-03 电子科技大学 一种基于序贯博弈的虚拟机竞价分配方法
CN103605567A (zh) * 2013-10-29 2014-02-26 河海大学 面向实时性需求变化的云计算任务调度方法
CN103841208A (zh) * 2014-03-18 2014-06-04 北京工业大学 基于响应时间最优化的云计算任务调度方法
CN104010028A (zh) * 2014-05-04 2014-08-27 华南理工大学 一种云平台下性能加权的虚拟资源动态管理策略方法
CN104123189A (zh) * 2014-06-30 2014-10-29 复旦大学 一种基于IaaS层应用感知的Web多层应用动态资源调整方法
CN104756444A (zh) * 2012-11-01 2015-07-01 微软公司 云中的cdn负载平衡
CN104850450A (zh) * 2015-05-14 2015-08-19 华中科技大学 一种面向混合云应用的负载均衡方法及系统
CN106020933A (zh) * 2016-05-19 2016-10-12 山东大学 基于超轻量虚拟机的云计算动态资源调度系统及方法
CN107273185A (zh) * 2017-06-19 2017-10-20 成都鼎智汇科技有限公司 一种基于虚拟机的负载均衡控制方法
CN108055292A (zh) * 2017-10-30 2018-05-18 中国人民解放军空军工程大学 一种虚拟机向物理机映射的优化方法
CN109726351A (zh) * 2018-11-05 2019-05-07 阜阳师范学院 带休假延迟和启动时间的n策略多重休假排队系统
CN109885397A (zh) * 2019-01-15 2019-06-14 长安大学 一种边缘计算环境中时延优化的负载任务迁移算法

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7151744B2 (en) * 2001-09-21 2006-12-19 Slt Logic Llc Multi-service queuing method and apparatus that provides exhaustive arbitration, load balancing, and support for rapid port failover
US7444459B2 (en) * 2006-12-12 2008-10-28 Lsi Logic Corporation Methods and systems for load balancing of virtual machines in clustered processors using storage related load information
US7826359B2 (en) * 2008-03-24 2010-11-02 Oracle America, Inc. Method and system for load balancing using queued packet information
US20140325524A1 (en) * 2013-04-25 2014-10-30 Hewlett-Packard Development Company, L.P. Multilevel load balancing
US9363190B2 (en) * 2013-07-31 2016-06-07 Manjrasoft Pty. Ltd. System, method and computer program product for energy-efficient and service level agreement (SLA)-based management of data centers for cloud computing
US9391919B2 (en) * 2013-08-14 2016-07-12 International Business Machines Corporation Adaptive algorithm for cloud admission policies
US10992739B2 (en) * 2016-01-25 2021-04-27 Vmware, Inc. Integrated application-aware load balancer incorporated within a distributed-service-application-controlled distributed computer system

Patent Citations (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102710746A (zh) * 2012-04-30 2012-10-03 电子科技大学 一种基于序贯博弈的虚拟机竞价分配方法
CN104756444A (zh) * 2012-11-01 2015-07-01 微软公司 云中的cdn负载平衡
CN103605567A (zh) * 2013-10-29 2014-02-26 河海大学 面向实时性需求变化的云计算任务调度方法
CN103841208A (zh) * 2014-03-18 2014-06-04 北京工业大学 基于响应时间最优化的云计算任务调度方法
CN104010028A (zh) * 2014-05-04 2014-08-27 华南理工大学 一种云平台下性能加权的虚拟资源动态管理策略方法
CN104123189A (zh) * 2014-06-30 2014-10-29 复旦大学 一种基于IaaS层应用感知的Web多层应用动态资源调整方法
CN104850450A (zh) * 2015-05-14 2015-08-19 华中科技大学 一种面向混合云应用的负载均衡方法及系统
CN106020933A (zh) * 2016-05-19 2016-10-12 山东大学 基于超轻量虚拟机的云计算动态资源调度系统及方法
CN107273185A (zh) * 2017-06-19 2017-10-20 成都鼎智汇科技有限公司 一种基于虚拟机的负载均衡控制方法
CN108055292A (zh) * 2017-10-30 2018-05-18 中国人民解放军空军工程大学 一种虚拟机向物理机映射的优化方法
CN109726351A (zh) * 2018-11-05 2019-05-07 阜阳师范学院 带休假延迟和启动时间的n策略多重休假排队系统
CN109885397A (zh) * 2019-01-15 2019-06-14 长安大学 一种边缘计算环境中时延优化的负载任务迁移算法

Non-Patent Citations (7)

* Cited by examiner, † Cited by third party
Title
An M/G/1 Queue System with Single Working Vacation;Shan Gao 等;《2010 2nd International Conference on Information Engineering and Computer Science》;20101230;第1-4页 *
Ｍ／Ｍ／１延迟工作休假系统的均衡策略;赵国喜;《河南师范大学学报（自然科学版）》;20160131;第44卷(第1期);第36-42页 *
Modeling Active Virtual Machines on IaaS Clouds Using an M/G/m/m+KQueue;Xiaolin Chang 等;《 IEEE Transactions on Services Computing ( Volume: 9, Issue: 3, 01 May-June 2016)》;20141202;第408-420页 *
云数据中心中负载均衡的虚拟机调度方法;栾志坤等;《计算机与现代化》;20170531(第05期);全文 *
云计算中基于M/Geom/C/∞排队系统的任务调度模型研究;甘娜等;《计算机测量与控制》;20180331(第03期);全文 *
基于新型休眠模式的云虚拟机分簇调度策略及性能优化;金顺福 等;《吉林大学学报（工学版）》;20190316;第1-10页 *
带有双阈值控制策略的排队服务系统建模与优化;何丽红等;《工业工程与管理》;20170228(第01期);全文 *

Also Published As

Publication number Publication date
CN110399226A (zh) 2019-11-01

Similar Documents

Publication Publication Date Title
CN106790726B (zh) 一种基于Docker云平台的优先级队列动态反馈负载均衡资源调度方法
Ali et al. Grouped tasks scheduling algorithm based on QoS in cloud computing network
CN105491138B (zh) 一种基于负载率分级触发的分布式负载调度方法
Armony et al. On customer contact centers with a call-back option: Customer decisions, routing rules, and system design
CN108845874B (zh) 资源的动态分配方法及服务器
CN107357652B (zh) 一种基于分段排序及标准差调整因子的云计算任务调度方法
JP2002278945A (ja) マルチプロセッサ構成の計算機間におけるトランザクション負荷分散方法及び方式並びにプログラム
CN103699433B (zh) 一种于Hadoop平台中动态调整任务数目的方法及系统
CN111338807B (zh) 一种面向边缘人工智能应用的QoE感知的服务增强方法
Evans et al. Dynamic load balancing using task-transfer probabilities
Urgaonkar et al. Cataclysm: Handling extreme overloads in internet services
Squillante et al. Threshold-based priority policies for parallel-server systems with affinity scheduling
CN109861850A (zh) 一种基于sla的无状态云工作流负载均衡调度的方法
CN107566535B (zh) 基于Web地图服务并发访问时序规则的自适应负载均衡方法
JP4265377B2 (ja) 負荷分散方法及び装置とシステム並びにプログラム
CN110399226B (zh) 云系统用负载平衡器
CN115878260A (zh) 一种低碳自适应云主机任务调度系统
CN116909735A (zh) 算力调度方法及装置、服务器和存储介质
Li et al. Dynamic load balancing algorithm based on FCFS
Tran et al. Multi-stage resource-aware scheduling for data centers with heterogeneous servers
CN116302404B (zh) 面向资源解耦合数据中心的服务器无感知计算调度方法
CN109586971B (zh) 一种基于线性关系的负载资源需求量评估方法
Garg et al. Optimal virtual machine scheduling in virtualized cloud environment using VIKOR method
US20200314019A1 (en) Managing bandwidth based on user behavior
Yu et al. Optimize the server provisioning and request dispatching in distributed memory cache services

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant