CN110580192A - 一种基于服务特征的混部场景中容器i/o隔离性优化方法 - Google Patents

一种基于服务特征的混部场景中容器i/o隔离性优化方法 Download PDF

Info

Publication number
CN110580192A
CN110580192A CN201910687987.1A CN201910687987A CN110580192A CN 110580192 A CN110580192 A CN 110580192A CN 201910687987 A CN201910687987 A CN 201910687987A CN 110580192 A CN110580192 A CN 110580192A
Authority
CN
China
Prior art keywords
service
optimization
throughput
isolation
scene
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201910687987.1A
Other languages
English (en)
Other versions
CN110580192B (zh
Inventor
蒋从锋
周鑫
黄杰
张坚成
仇烨亮
殷昱煜
张纪林
李尤慧子
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hangzhou Electronic Science and Technology University
Original Assignee
Hangzhou Electronic Science and Technology University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hangzhou Electronic Science and Technology University filed Critical Hangzhou Electronic Science and Technology University
Priority to CN201910687987.1A priority Critical patent/CN110580192B/zh
Publication of CN110580192A publication Critical patent/CN110580192A/zh
Application granted granted Critical
Publication of CN110580192B publication Critical patent/CN110580192B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00—Arrangements for program control, e.g. control units
    • G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/44—Arrangements for executing specific programs
    • G06F9/455—Emulation; Interpretation; Software simulation, e.g. virtualisation or emulation of application or operating system execution engines
    • G06F9/45533—Hypervisors; Virtual machine monitors
    • G06F9/45558—Hypervisor-specific management and integration aspects
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00—Arrangements for program control, e.g. control units
    • G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46—Multiprogramming arrangements
    • G06F9/48—Program initiating; Program switching, e.g. by interrupt
    • G06F9/4806—Task transfer initiation or dispatching
    • G06F9/4843—Task transfer initiation or dispatching by program, e.g. task dispatcher, supervisor, operating system
    • G06F9/4881—Scheduling strategies for dispatcher, e.g. round robin, multi-level priority queues
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00—Arrangements for program control, e.g. control units
    • G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/44—Arrangements for executing specific programs
    • G06F9/455—Emulation; Interpretation; Software simulation, e.g. virtualisation or emulation of application or operating system execution engines
    • G06F9/45533—Hypervisors; Virtual machine monitors
    • G06F9/45558—Hypervisor-specific management and integration aspects
    • G06F2009/45579—I/O management, e.g. providing access to device drivers or storage

Landscapes

  • Engineering & Computer Science (AREA)
  • Software Systems (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)
  • General Factory Administration (AREA)

Abstract

本发明公开了一种基于服务特征的混部场景中容器I/O隔离性的优化方法。本发明使用磁盘资源划分与磁盘I/O并发控制相融合的方式来解决多服务混部场景中容器I/O隔离性的优化问题。本发明首先识别分类所有服务类型和性能特征，并为每种服务设置合理的性能基准值，通过检测各个服务的性能数据是否符合预先设置的基准值，判断当前服务的运行状态，若未能达到预期性能，则根据服务的类型施加针对性的优化策略。本发明可以克服基于单服务混部场景的隔离性优化方法在多服务混部场景中应用的局限性，通过错开各个服务的优化时机来保证优化效果，避免产生过度优化，从而实现多服务混部场景下的容器I/O隔离性优化。

Description

一种基于服务特征的混部场景中容器I/O隔离性优化方法
技术领域
本发明涉及容器I/O性能隔离性的优化，尤其是具有多种不同类型服务混合部署场景下的容器隔离性自动优化方法。
背景技术
随着公有云服务的不断发展，越来越多的云服务供应商希望通过容器技术将不同类型的服务部署到同一台服务器中来提高公有云服务集群资源利用率，降低云服务成本。多服务的混合部署带来了服务间性能干扰问题。混部场景中的容器I/O(输入输出,Input/Output)隔离性问题已经成为制约公有云服务扩展规模，提高服务质量的关键因素。近年来，容器I/O隔离性优化以及相关的资源调度与资源隔离技术已经成为工业界和学术界广泛关注的问题。在保证公有云服务集群资源利用率的前提下，尽可能提高混部公有云集群的I/O性能隔离性，保证集群中各个服务的正常运行，对公有云服务的发展至关重要。
为了提高公有云服务集群的资源利用率，降低运营成本，公有云服务提供商逐步在已经部署了延迟敏感型服务的服务器中增加批处理服务，该类型服务对响应的实时性要求较低，任务运行过程中即使是偶尔被推迟或者重新启动也能够正常运行。批处理服务能够在延迟敏感型服务处于负载低谷期时进行工作并充分利用服务器闲置的资源，提高集群的资源利用率，减少购买新设备的成本。容器技术(LXC和Docker等)的成熟与普及使得服务部署更加简单与高效。容器技术作为一种新型的轻量级虚拟化技术，通过依赖宿主机操作系统提供的Namespace机制实现容器之间的相互隔离，即容器之间的进程通过命名空间实现相互不可见，本质上仍然共同运行在宿主机操作系统内核中，因此容器之间的I/O隔离性是非常薄弱的，服务彼此间也会产生性能影响。
另外，由于公有云混部场景中部署的服务类型各不相同，服务的运行特征以及性能指标也并不一致，这导致优化不同服务性能的方式具有较大差异。传统的隔离性优化方法，优化手段单一，优化速度较慢，应对突发情况能力较差，已经无法快速对容器场景下的服务性能进行分析和优化，也无法对多服务混部场景中复杂的服务类型做出有针对性的优化调整。
公有云服务中部署的多种类型服务均具有各自的性能特征，其中典型的性能指标包括平均延迟，尾部延迟以及吞吐量等，这些性能指标能够反映出服务当前的运行状况，通过对服务进行分类并收集不同的性能指标，可以简化复杂的公有云服务场景，从中抽象出典型的服务混部场景。基于简化的服务混部场景以及其中各个类型服务的运行时性能数据，可以建模出混部场景中I/O隔离性的变化规律，以及影响服务I/O隔离性的因素，用于设计优化I/O隔离性的方法。
发明内容
本发明针对现有技术的不足，提出了一种基于服务特征的混部场景中容器I/O隔离性优化方法。
本发明针对多服务混部场景中容器I/O隔离性的主要优化方式是：首先识别并分类所有的服务类型，如吞吐量优先型服务、延迟敏感型服务等，同时为每种服务的性能特征设置不同的基准值和针对性的优化方法。然后收集每个服务对应的性能数据，判断当前服务的性能是否符合预设的基准值，若不符合则为该服务计算当前需要优化的程度，最后调用为该服务类型设计的优化方法进行隔离性优化。
本发明在优化多服务混部场景中的延迟敏感型服务时，提出了基于服务优先级和错峰优化的优先级划分算法，通过为每个延迟敏感型服务设置相应的优先级来错开各个服务的优化时机，以提高多服务混部场景中延迟敏感型服务的隔离性优化效果。
该发明具体包括两部分：基于服务类型实施优化手段的层次化优化方法和基于服务资源影响力的优先级划分方法。
(1)基于服务类型实施优化手段的层次化优化方法
本发明通过识别分类当前混部场景中所有服务的类型，为每种服务收集不同的性能数据，并根据预先设置的性能基准值判断当前服务的运行情况，若性能未能达到基准值则为该服务类型调用针对性的优化方法，从而保证所有服务的正常运行，达到优化容器服务I/O隔离性的效果。
公有云服务中部署的服务主要分为尾部延迟敏感型服务和吞吐量优先型服务两种，本发明分别设计了磁盘I/O并发控制与磁盘I/O资源分配两种优化方法作为这两种服务的针对性优化手段，并基于两种优化手段的特性提出层次化执行的优化思路，先进行磁盘I/O资源划分，后进行磁盘I/O并发控制，从而保证优化的有效性，本发明同时为两种优化方法设计了配套的执行算法用于计算当前服务需要优化的程度。其中吞吐量作为一种直观的性能数据，直接利用磁盘I/O资源与吞吐量的正比例函数作为吞吐量优化算法。尾部延迟的优化算法则通过线性迭代的方式实现，并利用实时尾部延迟与预先设置的尾部延迟基准值的比值作为迭代优化的动态步长。
本发明的层次化优化方法可以避免传统的单一优化方法无法兼顾不同类型服务的性能指标、优化周期慢、应对负载突变能力差的问题，通过多个针对性的优化方法及其配套的执行算法实现精确的隔离性优化。
(2)基于服务优先级的尾部延迟错峰优化方法
错峰优化方案主要用于优化多服务混部场景中同时受到相同与相异类型的服务干扰的尾部延迟敏感型服务的隔离性，即保证多服务混部场景中所有的尾部延迟敏感型服务的正常运行。
多服务混部场景中的尾部延迟敏感型服务在运行过程中会受到来自相同类型服务与相异类型服务的性能干扰，若直接施加磁盘I/O并发控制对其进行优化会导致性能优化过度，本发明利用错峰优化的方法，通过错开不同服务的优化时机保证尾部延迟的优化精确性。同时引入服务优先级概念，通过合理的优化顺序保证优化的有效性。
服务优先级划分的依据是根据服务对当前磁盘I/O资源的影响力，该影响力可以视作该服务进行I/O并发控制时出现的吞吐量变化量大小Thdif。因此该影响力具有两个影响因素，分别是Vio和Thcur。其中：Vio表示当前该服务的尾部延迟违规程度，服务违规程度越大，该服务所进行的I/O并发控制程度越大，该服务的吞吐量变化量越大，该服务的优先级可能越高；Thcur表示该服务当前的吞吐量测量值，吞吐量越大，该服务进行I/O并发控制时的吞吐量变化越大，该服务的优先级越高。
本发明提出的混部场景中容器I/O隔离性优化方法仅在场景中服务性能出现违规时才会进行优化措施的调用。对于吞吐量优先型服务，将收集的吞吐量Thcur与该服务吞吐量基准值ThSLO进行对比，并调用磁盘I/O资源分配的方式对其吞吐量进行优化，其配套的吞吐量优化算法主要是根据吞吐量与磁盘I/O资源具有的线性关系进行设计，将服务吞吐量基准值等价转换为服务所能够占用的磁盘I/O资源，从而保证服务实时吞吐量符合基准值。而对于尾部延迟而言，作为一种复杂的统计型性能指标，尾部延迟在不同的服务器集群与不同的部署环境中与磁盘I/O并发等级均可能具有不同的数学关系，因此采用线性迭代的方式找到一组最优解，该最优解表示在该磁盘I/O并发等级程度下该服务的尾部延迟可以达到预先设定的尾部延迟基准值，因此本发明设计了一种能够迭代计算最优磁盘I/O并发等级的优化算法，通过若干个周期的反馈迭代计算出最优的磁盘I/O并发等级。此外由于多服务混部场景中相同服务的性能干扰，优化算法可能会出现优化过度的问题，因此本发明提出服务错峰优化的方法，从服务的资源影响力出发设计了服务优先级划分算法，保证多服务混部场景下尾部延迟优化的精确性。
本发明使用I/O并发控制与磁盘I/O资源划分双优化手段结合的方式优化混部场景中容器I/O隔离性，通过循环收集各个服务的性能数据，判断当前服务的运行情况，并利用对应的优化算法制定合理的优化决策，再通过反馈迭代优化机制，持续保证服务的正常运行。
本发明提出的基于服务特征的混部场景中容器I/O隔离性优化方法的具体步骤是：
步骤1：识别当前混部场景中服务的类型与数量，分类各个服务的性能指标类型并预设基准值。
步骤2：收集当前混部场景中各个服务的实时性能数据，包括吞吐量优先型服务的吞吐量，以及延迟敏感型服务的尾部延迟。
步骤3：判断当前吞吐量优先型服务吞吐量是否符合预设基准值，若符合则跳转至步骤5，否则跳转到步骤4。
步骤4：调用吞吐量优化算法，制定磁盘I/O资源分配方案，进行吞吐量性能优化。
步骤5：判断当前延迟敏感型服务的尾部延迟是否符合基准值，若符合则跳转至步骤7，否则跳转到步骤6。
步骤6：调用服务优先级划分算法为延迟敏感型服务划分优先级，并调用尾部延迟优化算法计算各个服务合理的磁盘I/O并发等级，进行尾部延迟优化。
步骤7：不断循环步骤1到步骤6，防止当前混部场景的I/O隔离性被破坏。
本发明提出的基于服务特征的混部场景中容器I/O隔离性优化方法可以根据收集到的性能数据与其性能指标合理优化各个服务的性能，并通过反馈迭代机制实时保证服务的正常运行，从而保证混部场景的容器I/O隔离性。
附图说明
图1为利用容器技术部署的典型多服务混部场景示意图。
图2为本发明提出的吞吐量优化流程示意图。
图3为本发明提出的服务优先级影响因素示意图。
图4本发明提出的尾部延迟错峰优化流程示意图。
图5本发明提出多服务混部场景下容器I/O隔离性优化方法示意图。
具体实施方式
以下结合附图对本发明作进一步说明，请参阅图1。本发明主要针对的是如图1所示的多服务混部场景，服务混部所依赖的虚拟化技术主要为Docker容器技术。根据服务性能指标类型，将服务分为尾部延迟敏感型服务与吞吐量优先型服务。其中尾部延迟敏感型服务代表实际公有云集群中需要实时响应的现代应用。这类应用的请求通常被切分为多个子请求并发执行以提高响应速度，其响应时间取决于最慢的子请求，因此选用尾部延迟作为该类服务的性能指标能够更加准确的反映服务运行情况。吞吐量优先型服务代表公有云集群中用于填补资源闲置的批处理服务，这类服务不要求实时响应，因此选用典型的吞吐量作为其性能指标。
由于该混部场景中每个服务均会受到其他服务的性能干扰，包括相同类型与相异类型服务，因此本发明需要针对服务受到的双重性能干扰做出优化，其中不同类型服务的性能干扰主要通过磁盘I/O资源划分的方式进行隔离，而针对相同服务类型的性能优化主要通过对服务设置优先级，错开优化时机来实现。
图2展示了本发明提出的基于服务特征的多服务混部场景下容器I/O隔离性优化方法中关于吞吐量优化的主要流程。该流程中的数据收集即为服务吞吐量数据的收集，由于本发明提出的优化方法是通过收集性能数据并采用反馈调节的方式进行优化，因此需要一定的优化生效时间，因此服务吞吐量数据的收集周期设定为10s。
在图2所示流程中最关键的部分在于制定吞吐量优化决策，吞吐量数据收集后需要与服务预设的吞吐量基准值进行对比，判断当前服务运行是否正常，如果其吞吐量满足基准值，则忽略本次吞吐量数据并等待下一周期。如果其吞吐量未达到基准值，则需要调用吞吐量优化算法进行优化。吞吐量优化算法具体如下：
其中Th′(k,t+1)表示下一周期吞吐量优先型服务k的磁盘资源分配值，Th(k,t)表示在t时刻k服务的实时吞吐量，ThSLO(k)表示服务k预先设定的吞吐量基准值。该吞吐量优化算法主要解决的问题在于当出现吞吐量违规时如何为每个服务分配合适的磁盘I/O资源。由于吞吐量与磁盘I/O资源具有明显的正相关线性关系，因此本发明直接采用基准值代换的方式，将吞吐量基准值作为该服务优化时磁盘I/O资源的分配值。
图3显示了本发明所提出的服务优先级的影响因素，其中Thdif表示当前服务进行磁盘I/O并发控制后的吞吐量变化，该变化值将直接决定服务优先级的高低。其变化值越大，表明该服务对当前磁盘资源的影响力越大，因此需要优先进行磁盘I/O并发控制以优化尾部延迟。反之则表明其影响力小，服务优先级低。吞吐量变化值主要受两个因素影响，分别是Vio以及Thcur，其中Vio表示该服务的尾部延迟违规度，服务违规度越高，该服务需要施加的磁盘I/O并发控制程度越高，其吞吐量变化值越大，违规度计算如下所示：
其中Lcur表示该服务当前的尾部延迟，LSLO代表该服务的尾部延迟基准值。Thcur表示该服务当前的吞吐量大小，该值是Thdif的基数，该值越大，则Thdif越大。
因此Thdif的计算公式，也即服务优先级的计算公式如下所示：
通过Vio与LSLO的比值，结合当前服务吞吐量的值Thcur，能够推测并计算出该服务在进行I/O并发控制后的吞吐量变化预测值Thdif，从而判断该服务的优先级，为后续尾部延迟优化提供优化顺序指导。
结合前述优先级划分方法，本发明提出了基于服务优先级的尾部延迟错峰优化方法。
图4给出了尾部延迟错峰优化的整体流程图，主要包括尾部延迟数据收集，服务优先级计算，尾部延迟优化决策以及磁盘I/O并发控制。在该流程开始时，需要首先收集各个延迟敏感型服务的尾部延迟与吞吐量数据，然后通过与其尾部延迟基准值进行比较，判断当前服务是否需要进行尾部延迟优化，若符合基准值则忽略本次数据，等待下一周期。若其性能不符合，则需要对尾部延迟敏感型服务进行优先级排序，根据排序结果调用尾部延迟优化算法进行磁盘I/O并发控制。
该流程中的尾部延迟数据收集主要通过收集一段时间内所有请求的响应时间，并将其按时间长短进行排序，取响应排序中指定位置的响应时间作为该时间点的近似尾部延迟值。
该流程中的尾部延迟优化决策主要通过调用尾部延迟优化算法实现，该优化算法用于计算当前违规服务的理想并发等级。具体如下所示：
其中P(l,t)指l服务(l服务是尾部延迟敏感型服务)在t时刻的I/O并发等级，TlSLO(l)指l服务的尾部延迟基准值，而Tl(l,t)表示l服务在t时刻的实时尾部延迟，P(l,t+1)表示l服务在下一周期可能需要调整的I/O并发程度，且该调整幅度至少是1，从而保证多周期迭代步长的有效性，避免出现调整幅度过小的情况。P′(l,t+1)则代表了最终的I/O并发数的计算结果，为避免I/O并发等级被设置为负数或零的不合理现象出现，需要将P(l,t+1)与1进行比较，保证新的并发等级至少是1。
根据前述优化流程，本发明提出基于服务特征的多服务混部场景下容器I/O隔离性优化方法。
图5给出了本发明的整体架构图。该优化方法的主要思路是通过识别分类混部场景中服务的类型，并循环收集各个服务的性能数据，实时判断当前服务的运行状态，并根据服务类型对违规服务进行及时优化，从而保证多服务混部场景下容器I/O隔离性，其具体流程如算法1所示。
算法1会循环收集性能数据，保证服务数据收集的实时性，并且当混部场景中的服务出现性能违规时，算法1会根据服务类型调用相应的优化方法。违规服务如果是吞吐量优先型服务，则调用吞吐量优化方法，根据相应优化方法的计算结果重新对磁盘I/O资源进行分配。如果违规服务是尾部延迟敏感型服务，则需要先对服务进行优先级划分，然后调用尾部延迟优化方法，并根据优先级排序结果重新对服务的并发等级进行设置。
本发明提出的基于服务特征的多服务混部场景下容器I/O隔离性优化方法的具体步骤是：
步骤1：识别当前混部场景中服务的类型与数量，并分类各个服务的性能指标类型与基准值。
步骤2：收集当前混部场景中各个服务的实时性能数据，包括吞吐量优先型服务的吞吐量，以及延迟敏感型服务的尾部延迟。
步骤3：判断当前吞吐量优先型服务的吞吐量是否符合预先设定的基准值，若符合则跳转至步骤5，否则跳转到步骤4。
步骤4：调用吞吐量优化算法，制定磁盘I/O资源分配方案，进行吞吐量优化。
步骤5：判断当前延迟敏感型服务的尾部延迟是否符合预先设定的基准值，若符合则跳转至步骤7，否则跳转到步骤6。
步骤6：先调用服务优先级划分算法为延迟敏感型服务设置优先级，然后调用尾部延迟优化算法计算各个服务合理的I/O并发等级，并优化尾部延迟。
步骤7：循环步骤1到步骤6，保证当前混部场景的I/O隔离性能够维持正常。
下面分别对上述实施步骤进行详细说明。
(1)步骤1
识别当前混部场景中服务的类型与数量及其性能指标，包括：
服务类型，即根据其需求的性能指标类型将服务划分为尾部延迟敏感型服务和吞吐量优先型服务。
服务数量，即各个类型服务的数量，并为每个服务设定独立的标号用于性能数据的统计。
服务性能基准值，即各个服务需求的性能基准，当服务实时性能数据满足该基准时认为该服务运行正常，当所有服务均正常运行时，认为该场景的I/O隔离性未遭到破坏。
(2)步骤2
按周期循环收集场景中各个服务的吞吐量与尾部延迟数据。
其中吞吐量的收集需要使用性能监控工具IOSTAT，利用Docker为每个容器创建虚拟磁盘并分配独立磁盘设备号，通过收集每个容器对应虚拟磁盘的IOPS计算得到实时吞吐量。
尾部延迟作为一种统计型性能指标，其实时数据收集较为复杂。本发明中尾部延迟的收集主要通过收集一小段时间中所有请求的响应时间，对其排序后取该序列中处于尾部的响应时间作为该时间点的近似尾部延迟。
(3)步骤3
将收集到的吞吐量数据与该服务的吞吐量基准进行对比，若服务的当前吞吐量小于预设的吞吐量基准值，表示该服务处于性能违规状态，需要进行优化，跳转至步骤4。若服务当前的吞吐量大于吞吐量基准值，则该服务运行正常，不需要进行优化，跳转至步骤5。
(4)步骤4
在本步骤中将调用吞吐量优化算法，即将违规的吞吐量优先型服务的吞吐量基准值作为该服务制定磁盘I/O资源分配值，从而完成吞吐量优化工作。
(5)步骤5
将收集到的尾部延迟数据与该服务的尾部延迟指标进行对比，若服务当前尾部延迟大于服务尾部延迟基准值，则该服务处于性能违规状态，需要进行优化，跳转至步骤6。若服务当前尾部延迟小于基准值，则该服务运行正常，不需要进行优化，跳转至步骤7。
(6)步骤6
本步骤主要是为需要优化的延迟敏感型服务划分优先级，并调用尾部延迟优化算法。
其中服务优先级的划分需要计算每个服务尾部延迟的违规度Vio并收集其该服务的吞吐量，根据这两个影响因素计算当前服务优先级。
根据服务优先级计算结果为优先级最高的服务调用尾部延迟优化算法，完成尾部延迟优化工作。
(7)步骤7
为保证当前混部场景的容器I/O隔离性能够维持正常，需要循环步骤(1)至步骤(6)，从而在服务性能受损，I/O隔离性遭到破坏时及时进行优化。

Claims (1)

1.一种基于服务特征的混部场景中容器I/O隔离性优化方法，其特征在于该方法包括如下步骤：
步骤（1）：识别当前混部场景中服务的类型与数量，并分类各个服务的性能指标类型与基准值；
步骤（2）：收集当前混部场景中各个服务的实时性能数据，包括吞吐量优先型服务的吞吐量以及延迟敏感型服务的尾部延迟；
步骤（3）：判断当前吞吐量优先型服务的吞吐量是否符合预先设定的基准值，若不符合则跳转至步骤（5），否则跳转到步骤（4）；
步骤（4）：调用吞吐量优化算法，制定磁盘I/O资源分配方案，进行吞吐量优化；
步骤（5）：判断当前延迟敏感型服务的尾部延迟是否符合预先设定的基准值，若符合则跳转至步骤（7），否则跳转到步骤（6）；
步骤（6）：先调用服务优先级划分算法为延迟敏感型服务设置优先级，然后调用尾部延迟优化算法计算各个服务合理的I/O并发等级，并优化尾部延迟；
步骤（7）：不断循环步骤（1）到步骤（6），保证当前混部场景的I/O隔离性能够维持正常。
CN201910687987.1A 2019-07-29 2019-07-29 一种基于服务特征的混部场景中容器i/o隔离性优化方法 Active CN110580192B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201910687987.1A CN110580192B (zh) 2019-07-29 2019-07-29 一种基于服务特征的混部场景中容器i/o隔离性优化方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201910687987.1A CN110580192B (zh) 2019-07-29 2019-07-29 一种基于服务特征的混部场景中容器i/o隔离性优化方法

Publications (2)

Publication Number Publication Date
CN110580192A true CN110580192A (zh) 2019-12-17
CN110580192B CN110580192B (zh) 2022-05-20

Family

ID=68810760

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201910687987.1A Active CN110580192B (zh) 2019-07-29 2019-07-29 一种基于服务特征的混部场景中容器i/o隔离性优化方法

Country Status (1)

Country Link
CN (1) CN110580192B (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111597045A (zh) * 2020-05-15 2020-08-28 上海交通大学 管理混合部署的共享资源管理方法、系统及服务器系统

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109062655A (zh) * 2018-06-05 2018-12-21 腾讯科技（深圳）有限公司 一种容器化云平台及服务器
US10303576B1 (en) * 2018-05-04 2019-05-28 6Fusion Usa, Inc. Systems and methods for IT intelligence and management based on container-level metering

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10303576B1 (en) * 2018-05-04 2019-05-28 6Fusion Usa, Inc. Systems and methods for IT intelligence and management based on container-level metering
CN109062655A (zh) * 2018-06-05 2018-12-21 腾讯科技（深圳）有限公司 一种容器化云平台及服务器

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
张一凡: "面向容器云的I/O性能隔离性优化研究", 《信息科技辑》 *

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111597045A (zh) * 2020-05-15 2020-08-28 上海交通大学 管理混合部署的共享资源管理方法、系统及服务器系统
CN111597045B (zh) * 2020-05-15 2023-04-07 上海交通大学 管理混合部署的共享资源管理方法、系统及服务器系统

Also Published As

Publication number Publication date
CN110580192B (zh) 2022-05-20

Similar Documents

Publication Publication Date Title
CN108829494B (zh) 基于负载预测的容器云平台智能资源优化方法
CN110096349B (zh) 一种基于集群节点负载状态预测的作业调度方法
CN106776005B (zh) 一种面向容器化应用的资源管理系统及方法
CN105487930B (zh) 一种基于Hadoop的任务优化调度方法
US20170255496A1 (en) Method for scheduling data flow task and apparatus
CN109542603B (zh) 一种提高不同优先级任务间隔离性的多维资源隔离系统
CN102111337A (zh) 任务调度方法和系统
CN103401939A (zh) 一种采用混合调度策略的负载均衡方法
CN109005130B (zh) 网络资源配置调度方法和装置
CN108270805B (zh) 用于数据处理的资源分配方法及装置
CN109189552B (zh) 虚拟网络功能扩容与缩容方法及系统
CN109558216B (zh) 一种基于在线迁移的单根i/o虚拟化优化方法及其系统
CN113806018A (zh) 基于神经网络和分布式缓存的Kubernetes集群资源混合调度方法
CN115904666A (zh) 面向gpu集群的深度学习训练任务调度系统
CN114625500A (zh) 云环境下拓扑感知的微服务应用调度的方法及应用
CN116126488A (zh) 一种服务器无感知计算自适应资源调度方法、系统及计算机设备
CN112905317A (zh) 快速可重构信号处理异构平台下任务调度方法和系统
CN110580192B (zh) 一种基于服务特征的混部场景中容器i/o隔离性优化方法
CN117573373B (zh) 一种基于云计算的cpu虚拟化调度方法及系统
CN107203256B (zh) 一种网络功能虚拟化场景下的节能分配方法与装置
CN110084507A (zh) 云计算环境下分级感知的科学工作流调度优化方法
CN109992408B (zh) 一种资源分配方法、装置、电子设备和存储介质
CN116841753B (zh) 一种流处理和批处理的切换方法及切换装置
CN109739634A (zh) 一种原子任务执行方法及装置
CN107423114B (zh) 一种基于服务分类的虚拟机动态迁移方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant