CN117591285A - 一种算力资源调度分配系统及方法 - Google Patents

Abstract

本申请公开了一种算力资源调度分配系统及方法，属于计算机算力资源技术领域，用以解决传统静态分配方法和基于规则的动态调度方法在面临多变的任务需求和算力资源状态时存在算力资源调度效率低的技术问题。系统包括：编排器，获取算力资源状态；调度器，根据任务需求以及所述算力资源状态对算力资源进行调度分配；评估器，获取任务执行结果，并根据所述任务执行结果对算力资源的调度分配结果进行评估；优化器，根据所述评估器发送的算力资源调度分配评估结果，调整所述算力资源的调度分配方案。本申请通过上述方法提高了算力资源的利用率与任务执行效率，能够适应多变的应用场景，提高了系统的适应性和灵活性。

Description

一种算力资源调度分配系统及方法

技术领域

本申请涉及计算机算力资源技术领域，尤其涉及一种算力资源调度分配系统及方法。

背景技术

随着计算机技术的迅猛发展和云计算的兴起，大规模分布式计算系统成为了处理海量数据和复杂任务的重要工具。这些系统通常由大量的计算节点组成，每个节点都具备一定的计算能力和存储资源。然而，如何高效地分配和利用这些计算资源成为了一个关键问题。

在传统的静态分配方法中，计算资源被预先分配给各个任务，而不考虑任务的实际需求和资源的可用性。这种方法在面对动态变化的任务需求时表现不佳，导致资源利用率低下。例如，某些节点可能被低优先级任务占用，而高优先级任务却得不到足够的资源支持，从而降低了整体系统的性能。为了应对动态任务需求和提高资源利用率，出现了基于规则的动态调度方法。这些方法根据任务的优先级、资源的可用性等因素进行调度决策，实现了资源的动态分配。然而，在复杂的场景下，基于规则的调度方法难以满足多变的需求，无法充分发挥计算资源的潜力。例如，当面临大量任务同时到达或资源状态频繁变化时，基于规则的方法可能无法及时做出合理的调度决策，导致资源浪费或任务延迟。

发明内容

为解决上述技术问题，本申请实施例提供了一种算力资源调度分配系统及方法。

一方面，本申请实施例提供了一种算力资源调度分配系统，所述系统包括：编排器，获取算力资源状态；调度器，根据任务需求以及所述算力资源状态对算力资源进行调度分配；评估器，获取任务执行结果，并根据所述任务执行结果对算力资源的调度分配结果进行评估；优化器，根据所述评估器发送的算力资源调度分配评估结果，调整所述算力资源的调度分配方案。

在本申请说明书的一个或多个实施例中，所述算力资源至少包括计算机的计算节点；所述编排器，获取算力资源状态，具体为，收集所述计算节点的计算能力信息、负载信息以及内存使用信息。

在本申请说明书的一个或多个实施例中，所述编排器，在所述算力资源的调度分配结果进行调整之后，对所述算力资源状态进行更新。

在本申请说明书的一个或多个实施例中，所述任务需求至少包括任务优先级、任务所需内存信息以及任务所需计算能力信息中的任一项或者多项。

在本申请说明书的一个或多个实施例中，所述调度器，根据所述任务所需计算能力信息以及所述任务所需内存信息对所述算力资源进行初步筛选，对筛选得到的算力资源根据负载信息进行二次筛选，根据所述任务优先级将任务调度给二次筛选得到的算力资源。

在本申请说明书的一个或多个实施例中，所述评估器，获取任务执行指标以及算力资源利用率，所述任务执行指标至少包括任务完成时间以及任务执行延迟时间，通过评估所述任务执行指标以及所述算力资源利用率，实现算力资源调度分配结果的评估。

在本申请说明书的一个或多个实施例中，所述优化器，根据所述任务执行指标以及所述算力资源利用率，调整所述算力资源的调度分配方案。

在本申请说明书的一个或多个实施例中，所述任务执行指标以及所述算力资源利用率，可以通过所述优化器内置的预测模型预测得到。

在本申请说明书的一个或多个实施例中，所述优化器内置的预测模型根据所述算力资源状态与所述任务需求，预测生成所述算力资源的调度分配方案。

另一方面，本申请实施例还提供了一种算力资源调度分配方法，所述方法包括：获取算力资源状态；根据任务需求以及所述算力资源状态对算力资源进行调度分配；获取任务执行结果，并根据所述任务执行结果对算力资源的调度分配结果进行评估；根据接收到的算力资源调度分配评估结果，调整所述算力资源的调度分配方案。

本申请实施例提供的一种算力资源调度分配系统及方法，具有以下有益效果：提高算力资源的利用率：通过动态调度和优化，能够高效地分配和利用计算资源，提高系统整体的资源利用率。提升任务执行效率：根据任务的优先级和资源的可用性，合理安排任务的执行顺序和资源的分配，提高任务的执行效率。自适应应对场景变化：通过优化器的自动调整，能够适应不同场景下的任务需求和资源状态变化，提高系统的适应性和灵活性。总的来说，本申请中的算力资源调度分配系统及方法，填补了传统静态分配和基于规则动态调度方法的不足之处，具有智能化、高效和自适应的特点，能够在大规模分布式计算系统中实现智能调度的优化循环，提高算力资源的分配效率和系统性能，为用户提供更高效、可靠的计算服务，具有良好的应用前景。

附图说明

此处所说明的附图用来提供对本申请的进一步理解，构成本申请的一部分，本申请的示意性实施例及其说明用于解释本申请，并不构成对本申请的不当限定。在附图中：

图1为本申请实施例提供的一种算力资源调度分配系统结构图；

图2为本申请实施例提供的一种算力资源调度分配方法流程图。

具体实施方式

为使本申请的目的、技术方案和优点更加清楚，下面将结合本申请具体实施例及相应的附图对本申请技术方案进行清楚、完整地描述。显然，所描述的实施例仅是本申请一部分实施例，而不是全部的实施例。基于本申请中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本申请保护的范围。

下面通过附图对本申请实施例提出的技术方案进行详细的说明。

图1为本申请实施例提供的一种算力资源调度分配系统结构图。如图1所示，本申请实施例中的算力资源调度分配系统100至少包括：

编排器101、用于获取算力资源状态。

在本申请的一个示例中，算力资源至少包括计算节点，因此，算力资源状态至少包括收集计算节点的计算能力信息、负载信息以及内存使用信息，这些信息可以直接向计算节点请求获取，并且，算力资源被存放在一个资源池中，通过编排器进行统一的管理处置。

在本申请的另一个示例中，编排器还可以对资源池中的算力资源进行更新，所谓更新其实更新的也是算力资源的状态，并且，此处的更新可以在优化器对算力资源调度分配方案进行优化调整之后进行，也即，根据最新的算力资源调度分配方案进行算力资源状态的更新。

调度器102、用于调度算力资源生成算力资源调度分配方案，此处调度算力资源时还会考虑任务需求，在本申请的一个示例中，任务需求至少包括任务优先级、任务所需内存信息以及任务所需计算能力信息中的任一项或者多项。

在本申请的一个示例中，在进行算力资源调度分配时，需要考虑算力资源本身的状态以及任务的需求，例如，A任务执行时要求较大的内存，因此，在对A任务进行算力资源调度分配时，就会优先考虑算力资源也即计算节点的内存信息。由此，调度器在进行计算节点调度时，可以先根据任务所需计算能力信息以及任务所需内存信息对算力资源也即计算节点进行初步筛选，找出满足计算能力要求且同时满足内存要求的计算节点，之后，对筛选得到的这些计算节点再根据负载信息进行二次筛选，将负载较大的计算节点进行剔除，最后根据任务优先级，将优先级高的任务优先调度给二次筛选得到的计算节点算力资源。

评估器103、用于根据任务执行结果，对算力资源调度分配方案进行评估。

在本申请的一个示例中，为了提高算力资源的调度效率，提高计算节点的利用率，能够将任务优先分配给最佳的计算节点，还会对前述生成的算力资源调度方案进行优化调整，具体地，评估器通过获取任务执行过程中的状态信息或任务执行结果信息，对任务执行情况进行评估，通过任务执行情况来反映算力资源的调度结果是否合理或最优。前述任务执行结果或任务执行的状态信息可以通过任务执行指标以及算力资源利用率体现，并且，任务执行指标至少包括任务完成时间以及任务执行延迟时间。

优化器104、用于根据前述算力资源调度分配方案的评估情况，对算力资源调度分配进行优化调整，此处的优化调整可以是根据任务执行过程中反馈回来的信息，判断计算节点执行任务的效率等情况，之后，调整计算节点执行任务，例如，可以更换计算阶段执行A任务，以提高任务执行效率。

在本申请的一个示例中，前述任务执行指标可以通过优化器内置的预测模型预测得到，这是因为，任务在被计算节点执行时，可能由于执行未完成还不能得到最终的任务执行指标，但能够通过当前的任务执行情况预测得到最终的任务完成时间等信息，因此，可以通过模型预测得到。同时，优化器中内置的预测模型还可以用来预测生成算力资源调度分配方案，主要是通过任务的需求以及计算节点算力资源的状态实现，也即，可以通过任务需求去匹配对应的计算节点算力资源。需要说明的是，预测模型可以通过神经网络模型实现，具体的实现过程可以通过现有技术实现，本申请实施例对此不做赘述。

也即，本申请中的算力资源调度系统，首先，通过编排器来监控和管理计算资源，包括收集资源状态信息和维护资源池。然后，调度器根据任务需求和资源状态，进行算力资源的分配和调度。调度器可以根据任务的优先级、资源的可用性等因素进行决策，实现资源的动态分配。同时，为了进一步提高资源调度的效率和质量，本申请实施例的系统中还引入了优化器和评估器。优化器通过对调度器的输出进行优化，利用机器学习、遗传算法等技术自动调整调度策略，以适应不同场景下的需求。评估器则可以对资源调度的效果进行评估和反馈，收集任务执行的指标和性能数据，并将其反馈给优化器，用于调整优化策略，由此高效地分配和利用计算资源，提高系统整体的资源利用率。

为了对本申请实施例中提供的算力资源调度分配系统，进行更为详细的解释，本申请实施例中还进行了如下补充描述：

本申请实施例提供的一种算力资源调度分配系统，通过编排器、调度器、优化器和评估器的协同工作，实现智能调度的优化循环，提高算力资源的分配效率和系统性能，具体如下：

编排器：编排器是系统的核心组件，负责监控和管理计算资源。编排器收集计算节点的状态信息，包括节点的计算能力、负载情况、可用性等。同时，编排器维护资源池，跟踪和更新资源的状态，确保调度器能够准确获取资源信息。

调度器：调度器根据任务需求和资源状态进行算力资源的分配和调度。调度器考虑任务的优先级、节点的可用性、资源需求等因素，以动态的方式为任务选择合适的计算节点。调度器使用先进的调度算法和策略，使得任务能够在最佳的计算节点上得到执行。

优化器：优化器是本申请系统的关键部分，通过对调度器的输出进行优化，提高资源调度的效率和质量。优化器采用自动化的方式，根据实时的任务情况和资源状态，动态地调整调度策略。优化器可以利用机器学习、遗传算法等技术，根据历史数据和模型训练结果，预测和优化资源的分配方式，以提高系统性能。

评估器：评估器对资源调度的效果进行评估和反馈。评估器收集任务执行的指标和性能数据，如任务完成时间、资源利用率、延迟等，并将这些数据反馈给优化器。基于评估器的反馈，优化器可以动态地调整优化策略，使得调度器的决策更加准确和合理。

通过编排器、调度器、优化器和评估器的协同工作，形成了智能调度的优化循环。在系统运行过程中，编排器持续监控资源状态，调度器根据任务需求和资源状态进行动态调度，优化器基于评估器的反馈不断优化调度策略。这种循环迭代的方式，使得资源调度能够自适应地适应不同场景下的需求和变化，提高系统的适应性和灵活性。

总而言之，本申请实施例中的技术方案通过编排器、调度器、优化器和评估器的有机组合，实现了一种智能化的算力资源调度分配系统，该系统能够根据任务需求和资源状态，智能地分配和利用计算资源，优化系统性能，提高资源调度的效率和质量，适用于大规模分布式计算系统，并具备广泛的应用前景。

以上为本申请实施例中的系统实施例，基于同样的发明构思，本申请实施例还提供了一种算力资源调度分配方法。

图2为本申请实施例提供的一种算力资源调度分配方法流程图。如图2所示，本申请实施例中的算力资源调度分配方法，至少包括以下执行步骤：

步骤201、获取算力资源状态。

本申请实施例中的算力资源调度方法，首先是获取算力资源的状态，此处的算力资源可以是计算节点，此时，算力资源状态就可以指计算节点的内存使用信息、计算能力以及可用性等信息。

步骤202、根据任务需求以及所述算力资源状态对算力资源进行调度分配。

在获取到算力资源状态之后，就可以根据任务需求，为各项任务匹配调度最合适的计算节点。具体地，可以先根据任务所需计算能力信息以及任务所需内存信息对算力资源也即计算节点进行初步筛选，找出满足计算能力要求且同时满足内存要求的计算节点，之后，对筛选得到的这些计算节点再根据负载信息进行二次筛选，将负载较大的计算节点进行剔除，最后根据任务优先级，将优先级高的任务优先调度给二次筛选得到的计算节点算力资源。

步骤203、获取任务执行结果，并根据所述任务执行结果对算力资源的调度分配结果进行评估。

完成计算节点的调度分配之后，在计算节点执行具体任务时，获取任务的执行结果，此处的任务执行结果即使在任务还没有被执行完成时，也可以通过预测模型预测得到，该预测过程可以通过现有方案实现，本申请实施例在此不作赘述。

进一步地，得到任务执行结果之后，利用该任务执行结果就可以评价算力资源的调度分配方案进行评价/评估，也即，可以根据任务执行情况的好坏来评价算力资源的调度是否合理。

步骤204、根据接收到的算力资源调度分配评估结果，调整所述算力资源的调度分配方案。

在前述算力资源调度分配不合理时，也即任务执行的情况不能满足预期，或任务执行情况还有待提升时，对算力资源的调度分配进行调整，具体地，可以通过更换计算节点执行任务，使得任务能够有更好的执行结果，来实现算力资源的优化调整。

本申请中的各个实施例均采用递进的方式描述，各个实施例之间相同相似的部分互相参见即可，每个实施例重点说明的都是与其他实施例的不同之处。尤其，对于装置实施例而言，由于其基本相似于方法实施例，所以描述的比较简单，相关之处参见方法实施例的部分说明即可。

还需要说明的是，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、商品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、商品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括所述要素的过程、方法、商品或者设备中还存在另外的相同要素。

以上所述仅为本申请的实施例而已，并不用于限制本申请。对于本领域技术人员来说，本申请可以有各种更改和变化。凡在本申请的精神和原理之内所作的任何修改、等同替换、改进等，均应包含在本申请的权利要求范围之内。

Claims (10)

1.一种算力资源调度分配系统，其特征在于，所述系统包括：

编排器，获取算力资源状态；

调度器，根据任务需求以及所述算力资源状态对算力资源进行调度分配；

评估器，获取任务执行结果，并根据所述任务执行结果对算力资源的调度分配结果进行评估；

优化器，根据所述评估器发送的算力资源调度分配评估结果，调整所述算力资源的调度分配方案。

2.根据权利要求1所述的一种算力资源调度分配系统，其特征在于，所述算力资源至少包括计算机的计算节点；

所述编排器，获取算力资源状态，具体为，收集所述计算节点的计算能力信息、负载信息以及内存使用信息。

3.根据权利要求2所述的一种算力资源调度分配系统，其特征在于，所述编排器，在所述算力资源的调度分配结果进行调整之后，对所述算力资源状态进行更新。

4.根据权利要求1所述的一种算力资源调度分配系统，其特征在于，所述任务需求至少包括任务优先级、任务所需内存信息以及任务所需计算能力信息中的任一项或者多项。

5.根据权利要求4所述的一种算力资源调度分配系统，其特征在于，所述调度器，根据所述任务所需计算能力信息以及所述任务所需内存信息对所述算力资源进行初步筛选，对筛选得到的算力资源根据负载信息进行二次筛选，根据所述任务优先级将任务调度给二次筛选得到的算力资源。

6.根据权利要求1所述的一种算力资源调度分配系统，其特征在于，所述评估器，获取任务执行指标以及算力资源利用率，所述任务执行指标至少包括任务完成时间以及任务执行延迟时间，通过评估所述任务执行指标以及所述算力资源利用率，实现算力资源调度分配结果的评估。

7.根据权利要求6所述的一种算力资源调度分配系统，其特征在于，所述优化器，根据所述任务执行指标以及所述算力资源利用率，调整所述算力资源的调度分配方案。

8.根据权利要求6所述的一种算力资源调度分配系统，其特征在于，所述任务执行指标以及所述算力资源利用率，可以通过所述优化器内置的预测模型预测得到。

9.根据权利要求8所述的一种算力资源调度分配系统，其特征在于，所述优化器内置的预测模型根据所述算力资源状态与所述任务需求，预测生成所述算力资源的调度分配方案。

10.一种算力资源调度分配方法，其特征在于，所述方法包括：

获取算力资源状态；

根据任务需求以及所述算力资源状态对算力资源进行调度分配；

获取任务执行结果，并根据所述任务执行结果对算力资源的调度分配结果进行评估；

根据接收到的算力资源调度分配评估结果，调整所述算力资源的调度分配方案。