CN107589997B - 数据中心环境下保证延迟敏感程序QoS的动态调节方法 - Google Patents

数据中心环境下保证延迟敏感程序QoS的动态调节方法 Download PDF

Info

Publication number
CN107589997B
CN107589997B CN201710758311.8A CN201710758311A CN107589997B CN 107589997 B CN107589997 B CN 107589997B CN 201710758311 A CN201710758311 A CN 201710758311A CN 107589997 B CN107589997 B CN 107589997B
Authority
CN
China
Prior art keywords
program
delay sensitive
delay
resource
sensitive program
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201710758311.8A
Other languages
English (en)
Other versions
CN107589997A (zh
Inventor
王琳
耿世超
张化祥
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shandong Normal University
Original Assignee
Shandong Normal University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Shandong Normal University filed Critical Shandong Normal University
Priority to CN201710758311.8A priority Critical patent/CN107589997B/zh
Publication of CN107589997A publication Critical patent/CN107589997A/zh
Application granted granted Critical
Publication of CN107589997B publication Critical patent/CN107589997B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Debugging And Monitoring (AREA)
  • Stored Programmes (AREA)

Abstract

本发明公开了数据中心环境下保证延迟敏感程序QoS的动态调节方法，分别对处理器和内存设置若干资源限制点，计算每一个需要执行的延迟敏感程序在资源限制点处的资源敏感度，画出延迟敏感程序的资源敏感度平面；假设每个服务器节点上执行一个延迟敏感程序和若干个批量程序，计算延迟敏感程序在满足服务质量要求的情况下占用的资源；设置延迟敏感程序的占用资源；剩余的资源按需分配给批量程序进行使用，根据分配结果设置批量程序的占用资源；根据设置的结果，执行延迟敏感程序和执行批量程序；动态调节批量程序的执行个数。通过动态的调整批量程序的个数，来减少对延迟敏感程序所产生的压力，从而保证延迟敏感程序的性能。

Description

数据中心环境下保证延迟敏感程序QoS的动态调节方法
技术领域
本发明涉及并行与分布计算技术领域，特别是涉及数据中心环境下保证延迟敏感程序QoS(Quality of Service，服务质量)的动态调节方法。
背景技术
数据中心已经从概念走向成熟。在数据中心中，为了提高资源利用率，大量的程序在尽可能少的服务器上执行。而在一个服务器节点中，会有多个程序在一个节点上执行。多个程序共同执行的好处是可以增加服务器的利用率，而问题是会导致程序性能下降。程序性能下降程度取决于程序特征，对于某些程序，与其他程序共同执行时，性能下降不明显，而对于某些程序，与其他程序共同执行时，性能会明显下降。
于此同时，数据中心中云心着大量的延迟敏感程序。客户将程序在数据中心执行，并对程序有一定的QoS需求，比如程序性能不能低于单独执行时的90％。当延迟敏感程序与其他程序共同执行时，很容易由于性能干扰导致严重的性能下降，从而不能满足客户的QoS需求。而且，现有技术不能动态的调整批量程序的个数，来减少对延迟敏感程序所产生的压力，因此，需要一种方法，在尽可能提升系统资源利用率的基础上，还要保证延迟敏感程序的QoS，同时，在保证QoS的基础上保证系统的资源利用率最大化。
发明内容
为了解决现有技术的不足，本发明提供了数据中心环境下保证延迟敏感程序QoS的动态调节方法，该方法能够保证延迟敏感程序与批量程序共同执行时的性能，同时尽可能的提升系统的资源利用率。该方法通过动态的调整批量程序的个数，来减少对延迟敏感程序所产生的压力，从而保证延迟敏感程序的性能。
数据中心环境下保证延迟敏感程序QoS的动态调节方法，包括如下步骤：
步骤(1)：分别对处理器和内存设置若干资源限制点，计算每一个需要执行的延迟敏感程序在资源限制点处的资源敏感度，画出延迟敏感程序的资源敏感度平面；
步骤(2)：假设每个服务器节点上执行一个延迟敏感程序和若干个批量程序，计算延迟敏感程序在满足服务质量要求的情况下占用的资源；
步骤(3)：根据步骤(2)的计算结果，确定延迟敏感程序的占用资源；
步骤(4)：除去步骤(3)的延时敏感程序占用的资源，剩余的资源按需分配给批量程序进行使用，根据分配结果设置批量程序的占用资源；
步骤(5)：执行延迟敏感程序，同时，根据步骤(4)设置的结果，执行批量程序；
步骤(6)：动态调节批量程序的执行个数。
进一步的，所述分别对处理器和内存设置若干资源限制点的步骤为：
在延迟敏感程序运行时对处理器资源占用率范围M内设置m个资源限制点，在延迟敏感程序运行时对内存资源占用率范围N内设置n个资源限制点，记录延迟敏感程序在每个资源限制点(i,j)上执行时，延迟敏感程序的执行时间，其中，i的取值范围是1到m，j的取值范围是1到n。
进一步的，所述计算每一个需要执行的延迟敏感程序在资源限制点处的资源敏感度的步骤为：
计算延迟敏感程序在资源不受限的情况下执行时间与延迟敏感程序在每个资源限制点执行时间的比值，所述比值为延迟敏感程序在每个资源限制点处的程序资源敏感度。
进一步的，所述画出延迟敏感程序的敏感度平面的步骤为：
以延迟敏感程序运行时对处理器的资源占用率为X轴，对延迟敏感程序运行时对内存的资源占用率为Y轴，以程序的资源敏感度为Z轴，建立空间直角坐标系，将所有的程序资源敏感度点值拟合成曲面，所述曲面为延迟敏感程序的敏感度平面。
进一步的，所述分别对处理器和内存设置若干资源限制点，计算每一个需要执行的延迟敏感程序在资源限制点处的资源敏感度，画出延迟敏感程序的敏感度平面步骤之前还包括：
利用性能分析工具获取延迟敏感程序在资源不受限的情况下分别对处理器的资源占用率M和对内存的资源占用率N；利用性能分析工具获取每个批量程序在资源不受限的情况下分别对处理器的资源占用量和对内存的资源占用量；
进一步的，所述步骤(2)计算延迟敏感程序在满足服务质量要求的情况下占用的资源：
假设延迟敏感程序的服务质量要求为不低于延迟敏感程序单独执行时性能的90％，则对于延迟敏感程序的敏感度平面，以延迟敏感程序单独执行时性能的90％为基准画一个同时平行于X轴和Y轴的新平面；则延迟敏感程序所占用的处理器和内存的资源组合是Z轴正方向上，新平面以上的结点，假设延迟敏感程序从资源组合中选择的处理器为Clat，选择的内存结点为Mlat。
例如：以z＝0.9为界面，小于0.9为新平面以下，大于0.9为新平面以上；
进一步的，所述步骤(4)的步骤为：
步骤(41)：批量程序可占用的处理器为Call-Clat，批量程序可占用的内存资源为Mall-Mlat；Call为处理器资源总量，Clat为设定延迟敏感程序所占用的处理器资源；Mall为内存资源总量，Mlat为设定延迟敏感程序所占用的内存资源；
步骤(42)：批量程序可执行的个数的要求为：所有批量程序所占用的处理器资源不超过(Call-Clat)*160％，同时，所有批量程序所占用的内存资源不超过(Mall-Mlat)*160％；
步骤(43)：根据步骤(42)的计算结果，执行批量程序。
所述步骤(6)，由于延迟敏感程序同批量程序共同执行时竞争处理器、内存、LLC等共享资源，会导致延迟敏感程序性能不同程度的下降，所以需要在线实时监控延迟敏感程序的性能。
所述步骤(6)，假设延迟敏感程序的服务质量要求为性能不低于单独执行时性能的90％；
在程序执行时，如果发现延迟敏感程序的性能低于延迟敏感程序单独执行时性能的90％，且低于90％超过30秒，则动态的关闭任意一个批量程序；
如果发现延迟敏感程序的性能高于程序单独执行时性能的95％，且高于90％超过30秒，则动态开启任意一个批量程序。
所述步骤(6)的有益效果是：为了在保证QoS的基础上保证系统的资源利用率最大化。
与现有技术相比，本发明的有益效果是：
1.本发明在保证程序QoS的同时，可以尽可能的提升系统的资源利用率和吞吐量。
2.本发明通过动态调节批量程序的执行个数来保证延迟敏感程序的QoS。在延迟敏感程序性能较低时减少批量程序的执行个数，在延迟敏感程序性能较高时增加批量程序的执行个数。；
附图说明
构成本申请的一部分的说明书附图用来提供对本申请的进一步理解，本申请的示意性实施例及其说明用于解释本申请，并不构成对本申请的不当限定。
图1是动态调节方法流程图。
具体实施方式
应该指出，以下详细说明都是例示性的，旨在对本申请提供进一步的说明。除非另有指明，本文使用的所有技术和科学术语具有与本申请所属技术领域的普通技术人员通常理解的相同含义。
需要注意的是，这里所使用的术语仅是为了描述具体实施方式，而非意图限制根据本申请的示例性实施方式。如在这里所使用的，除非上下文另外明确指出，否则单数形式也意图包括复数形式，此外，还应当理解的是，当在本说明书中使用术语“包含”和/或“包括”时，其指明存在特征、步骤、操作、器件、组件和/或它们的组合。
图1描述保证程序QoS的动态调节方法方法。
一：离线工作
对于需要执行的每一个程序，利用性能分析工具获取其对处理器、内存的资源占用信息。同时获取程序的资源敏感度信息。
二：在线工作
对于延迟敏感程序：
1.计算其应占用的资源。计算方法如下：我们假设程序的QoS要求为不低于单独执行时性能的90％，则对于程序的敏感度平面，以程序性能的90％为基准画一个平行于X轴和Y轴的平面。
2.则延迟敏感程序所占用的处理器、内存的资源组合可以是该平面以上的结点。执行延迟敏感程序。
对于批量程序：
1.计算批量程序的资源占用。资源占用值为(服务器总的资源值-延迟敏感程序的资源占用值)*160％。
2.计算批量程序的初始可执行个数，并执行批量程序。
3.动态调节批量程序的个数。假设延迟敏感程序的QoS要求为性能不低于单独执行时性能的90％。在程序执行时，一旦发现延迟敏感程序的性能低于程序单独执行时性能的90％30秒，则动态的关闭一个批量程序；一旦发现延迟敏感程序的性能高于程序单独执行时性能的95％，且高于90％超过30秒，则开启一个批量程序。
以上所述仅为本申请的优选实施例而已，并不用于限制本申请，对于本领域的技术人员来说，本申请可以有各种更改和变化。凡在本申请的精神和原则之内，所作的任何修改、等同替换、改进等，均应包含在本申请的保护范围之内。

Claims (8)

1.数据中心环境下保证延迟敏感程序QoS的动态调节方法，其特征是，包括如下步骤：
步骤(1)：分别对处理器和内存设置若干资源限制点，计算每一个需要执行的延迟敏感程序在资源限制点处的资源敏感度，画出延迟敏感程序的资源敏感度平面；
步骤(2)：假设每个服务器节点上执行一个延迟敏感程序和若干个批量程序，计算延迟敏感程序在满足服务质量要求的情况下占用的资源；
步骤(3)：根据步骤(2)的计算结果，确定延迟敏感程序的占用资源；
步骤(4)：除去步骤(3)的延时敏感程序占用的资源，剩余的资源按需分配给批量程序进行使用，根据分配结果设置批量程序的占用资源；
步骤(5)：执行延迟敏感程序，同时，根据步骤(4)设置的结果，执行批量程序；
步骤(6)：动态调节批量程序的执行个数。
2.如权利要求1所述的数据中心环境下保证延迟敏感程序QoS的动态调节方法，其特征是，所述分别对处理器和内存设置若干资源限制点的步骤为：
在延迟敏感程序运行时对处理器资源占用率范围M内设置m个资源限制点，在延迟敏感程序运行时对内存资源占用率范围N内设置n个资源限制点，记录延迟敏感程序在每个资源限制点(i,j)上执行时，延迟敏感程序的执行时间，其中，i的取值范围是1到m，j的取值范围是1到n。
3.如权利要求1所述的数据中心环境下保证延迟敏感程序QoS的动态调节方法，其特征是，所述计算每一个需要执行的延迟敏感程序在资源限制点处的资源敏感度的步骤为：
计算延迟敏感程序在资源不受限的情况下执行时间与延迟敏感程序在每个资源限制点执行时间的比值，所述比值为延迟敏感程序在每个资源限制点处的程序资源敏感度。
4.如权利要求1所述的数据中心环境下保证延迟敏感程序QoS的动态调节方法，其特征是，所述画出延迟敏感程序的敏感度平面的步骤为：
以延迟敏感程序运行时对处理器的资源占用率为X轴，对延迟敏感程序运行时对内存的资源占用率为Y轴，以程序的资源敏感度为Z轴，建立空间直角坐标系，将所有的程序资源敏感度点值拟合成曲面，所述曲面为延迟敏感程序的敏感度平面。
5.如权利要求1所述的数据中心环境下保证延迟敏感程序QoS的动态调节方法，其特征是，所述分别对处理器和内存设置若干资源限制点，计算每一个需要执行的延迟敏感程序在资源限制点处的资源敏感度，画出延迟敏感程序的敏感度平面步骤之前还包括：
利用性能分析工具获取延迟敏感程序在资源不受限的情况下分别对处理器的资源占用率M和对内存的资源占用率N；利用性能分析工具获取每个批量程序在资源不受限的情况下分别对处理器的资源占用量和对内存的资源占用量。
6.如权利要求1所述的数据中心环境下保证延迟敏感程序QoS的动态调节方法，其特征是，所述步骤(2)计算延迟敏感程序在满足服务质量要求的情况下占用的资源：
假设延迟敏感程序的服务质量要求为不低于延迟敏感程序单独执行时性能的90％，则对于延迟敏感程序的敏感度平面，以延迟敏感程序单独执行时性能的90％为基准画一个同时平行于X轴和Y轴的新平面；则延迟敏感程序所占用的处理器和内存的资源组合是Z轴正方向上，新平面以上的结点，假设延迟敏感程序从资源组合中选择的处理器为Clat，选择的内存结点为Mlat。
7.如权利要求1所述的数据中心环境下保证延迟敏感程序QoS的动态调节方法，其特征是，所述步骤(4)的步骤为：
步骤(41)：批量程序可占用的处理器为Call-Clat，批量程序可占用的内存资源为Mall-Mlat；Call为处理器资源总量，Clat为设定延迟敏感程序所占用的处理器资源；Mall为内存资源总量，Mlat为设定延迟敏感程序所占用的内存资源；
步骤(42)：批量程序可执行的个数的要求为：所有批量程序所占用的处理器资源不超过(Call-Clat)*160％，同时，所有批量程序所占用的内存资源不超过(Mall-Mlat)*160％；
步骤(43)：根据步骤(42)的计算结果，执行批量程序。
8.如权利要求1所述的数据中心环境下保证延迟敏感程序QoS的动态调节方法，其特征是，所述步骤(6)，假设延迟敏感程序的服务质量要求为性能不低于单独执行时性能的90％；
在程序执行时，如果发现延迟敏感程序的性能低于延迟敏感程序单独执行时性能的90％，且低于90％超过30秒，则动态的关闭任意一个批量程序；
如果发现延迟敏感程序的性能高于程序单独执行时性能的95％，且高于90％超过30秒，则动态开启任意一个批量程序。
CN201710758311.8A 2017-08-29 2017-08-29 数据中心环境下保证延迟敏感程序QoS的动态调节方法 Active CN107589997B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201710758311.8A CN107589997B (zh) 2017-08-29 2017-08-29 数据中心环境下保证延迟敏感程序QoS的动态调节方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201710758311.8A CN107589997B (zh) 2017-08-29 2017-08-29 数据中心环境下保证延迟敏感程序QoS的动态调节方法

Publications (2)

Publication Number Publication Date
CN107589997A CN107589997A (zh) 2018-01-16
CN107589997B true CN107589997B (zh) 2019-12-06

Family

ID=61051326

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201710758311.8A Active CN107589997B (zh) 2017-08-29 2017-08-29 数据中心环境下保证延迟敏感程序QoS的动态调节方法

Country Status (1)

Country Link
CN (1) CN107589997B (zh)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109947619B (zh) * 2019-03-05 2021-07-13 上海交通大学 基于服务质量感知提高吞吐量的多资源管理系统及服务器
CN110618872B (zh) * 2019-09-25 2022-04-15 山东师范大学 混合内存动态调度方法及系统
CN111399995A (zh) * 2020-02-10 2020-07-10 山东师范大学 保证延迟敏感程序服务质量的调节方法及系统
CN112000465B (zh) * 2020-07-21 2023-02-03 山东师范大学 数据中心环境下减少延迟敏感程序性能干扰的方法及系统
CN113312323B (zh) * 2021-06-03 2022-07-19 中国人民解放军国防科技大学 并行文件系统中降低访问延迟的io请求调度方法及系统

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101849393A (zh) * 2007-11-05 2010-09-29 高通股份有限公司 调度尽力交付(be)流和延迟qos流的混合流
CN103605623A (zh) * 2013-10-31 2014-02-26 北京智谷睿拓技术服务有限公司 存储设备的读写控制方法和读写控制设备
CN104346220A (zh) * 2013-07-31 2015-02-11 中国科学院计算技术研究所 一种任务调度方法与系统

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101849393A (zh) * 2007-11-05 2010-09-29 高通股份有限公司 调度尽力交付(be)流和延迟qos流的混合流
CN104346220A (zh) * 2013-07-31 2015-02-11 中国科学院计算技术研究所 一种任务调度方法与系统
CN103605623A (zh) * 2013-10-31 2014-02-26 北京智谷睿拓技术服务有限公司 存储设备的读写控制方法和读写控制设备

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
Speeding up profiling program"s runtime characteristics for workload consolidation;wang l.etal;《PLoS ONE》;20170427;第12卷(第4期);第1-21页 *
高效支持负载聚合的程序资源敏感度获取及分析方法;王琳 等;《西安交通大学学报》;20170430;第51卷(第4期);第79-84页 *

Also Published As

Publication number Publication date
CN107589997A (zh) 2018-01-16

Similar Documents

Publication Publication Date Title
CN107589997B (zh) 数据中心环境下保证延迟敏感程序QoS的动态调节方法
CN106385459B (zh) 一种连接请求报文的分配方法及装置
US9329901B2 (en) Resource health based scheduling of workload tasks
CN109617826B (zh) 一种基于布谷鸟搜索的storm动态负载均衡方法
US10652360B2 (en) Access scheduling method and apparatus for terminal, and computer storage medium
CN107124472A (zh) 负载均衡方法及装置、计算机可读存储介质
CN110351375B (zh) 一种数据处理方法、装置及计算机装置、可读存储介质
CN103401947A (zh) 多个服务器的任务分配方法和装置
CN109918170A (zh) 一种云数据中心虚拟机动态资源配置方法及系统
US20220195434A1 (en) Oversubscription scheduling
Xiang et al. Rb-storm: Resource balance scheduling in apache storm
CN110838987B (zh) 队列限流方法、存储介质
CN106059940A (zh) 一种流量控制方法及装置
CN111338750A (zh) 执行节点的压力调节方法、装置、服务器及存储介质
CN109347982A (zh) 一种数据中心的调度方法及装置
CN114116173A (zh) 动态调整任务分配的方法、装置和系统
CN114168312A (zh) 一种分布式集群负载均衡方法、装置及存储介质
US11513856B2 (en) Method, devices and computer program products for resource usage
CN106775925B (zh) 一种虚拟机cpu的限额处理方法和装置
CN108200185B (zh) 一种实现负载均衡的方法及装置
CN115168017B (zh) 一种任务调度云平台及其任务调度方法
CN107656810B (zh) 数据中心环境下保证延迟敏感程序服务质量的方法
CN104301944A (zh) 资源能力分配方法和设备
US11106680B2 (en) System, method of real-time processing under resource constraint at edge
CN113672382B (zh) 一种业务资源分配方法、装置、电子设备和存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant