CN116185588A - 一种任务调度方法、装置、电子设备及可读存储介质 - Google Patents

一种任务调度方法、装置、电子设备及可读存储介质 Download PDF

Info

Publication number
CN116185588A
CN116185588A CN202310116404.6A CN202310116404A CN116185588A CN 116185588 A CN116185588 A CN 116185588A CN 202310116404 A CN202310116404 A CN 202310116404A CN 116185588 A CN116185588 A CN 116185588A
Authority
CN
China
Prior art keywords
task
hierarchical
training
tasks
cluster
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202310116404.6A
Other languages
English (en)
Inventor
毛弘亚
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shenzhen Paikrypton Technology Co ltd
Original Assignee
Shenzhen Paikrypton Technology Co ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Shenzhen Paikrypton Technology Co ltd filed Critical Shenzhen Paikrypton Technology Co ltd
Priority to CN202310116404.6A priority Critical patent/CN116185588A/zh
Publication of CN116185588A publication Critical patent/CN116185588A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00—Arrangements for program control, e.g. control units
    • G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46—Multiprogramming arrangements
    • G06F9/48—Program initiating; Program switching, e.g. by interrupt
    • G06F9/4806—Task transfer initiation or dispatching
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00—Arrangements for program control, e.g. control units
    • G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46—Multiprogramming arrangements
    • G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
    • G06F9/5005—Allocation of resources, e.g. of the central processing unit [CPU] to service a request
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00—Machine learning
    • Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
    • Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management

Landscapes

  • Engineering & Computer Science (AREA)
  • Software Systems (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Artificial Intelligence (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Computation (AREA)
  • Medical Informatics (AREA)
  • Computing Systems (AREA)
  • Mathematical Physics (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)
  • Retry When Errors Occur (AREA)

Abstract

本申请适用于强化学习技术领域，提供了一种任务调度方法、装置、电子设备及可读存储介质。所述方法包括：获取待调度任务；对待调度任务进行划分，获得多个层级任务，层级任务包括待调度子任务；按照预设层级顺序，将多个层级任务输入至基于强化学习的已训练调度模型，获得已训练调度模型输出的每个层级任务的最优任务计算顺序；按照预设层级顺序计算层级任务；针对每个层级任务，按照最优任务计算顺序计算待调度子任务。本申请能够有效调节集群计算资源的均衡性，使数据的计算更加合理安全，减少因某个时间段内集群计算资源不足而导致任务失败，也减少某个时间段内集群计算资源没有充分使用导致计算资源浪费的情况。

Description

一种任务调度方法、装置、电子设备及可读存储介质
技术领域
本申请属于强化学习技术领域，尤其涉及一种任务调度方法、装置、电子设备及可读存储介质。
背景技术
离线数据仓库中不同的层级有不同的计算任务，不同的计算任务消耗的计算资源存在差异。
集群计算时，集群体系通常由多个分机构成，指挥分机工作的进程称为主机，分机运行时，可以接收计算请求，并计算本地的网格文件，将计算结果返回到主机。但集群是随机选择任务计算的，使得集群的计算资源会因离线数据仓库的不同任务消耗的计算资源而存在差异，也会因同一时间任务数量的不同而存在差异。最终导致集群计算资源在不同时间段消耗水平的均值存在很大差异。
发明内容
本申请实施例提供了一种任务调度方法、装置、电子设备、计算机可读存储介质和计算机程序产品，可以解决集群计算离线数据仓库的层级任务时存在的集群计算资源在不同时间段消耗水平的均值有很大差异的问题。
第一方面，本申请实施例提供了一种任务调度方法，包括：
获取待调度任务；
对所述待调度任务进行划分，获得多个层级任务，所述层级任务包括待调度子任务；
按照预设层级顺序，将多个所述层级任务输入至基于强化学习的已训练调度模型，获得所述已训练调度模型输出的每个所述层级任务的最优任务计算顺序，所述最优任务计算顺序为所述已训练调度模型中每个集群状态的目标反馈值最高的待调度子任务，所述目标反馈值用于表征集群计算所述待调度子任务后所述集群的承载值；
按照所述预设层级顺序计算所述层级任务；
针对每个所述层级任务，按照所述最优任务计算顺序计算所述待调度子任务。
可选的，所述将多个所述层级任务输入至基于强化学习的已训练调度模型中之前，还包括：
获取训练任务；
将所述训练任务进行划分，获得多个层级训练任务，所述层级训练任务包括训练子任务，所述层级训练任务用于训练基于强化学习的调度模型；
在训练所述调度模型的过程中，在所述调度模型按照预设层级顺序将多个所述层级训练任务放入所述集群后，确定对应每个所述层级训练任务的模型参数，所述模型参数包括每个时间步的所述集群状态和所述训练子任务的目标反馈值；
当所述调度模型基于所述模型参数，在每个所述集群状态中选择目标反馈值最高的训练子任务，获得所述已训练调度模型。
可选的，将所述训练任务进行划分，获得多个层级训练任务，包括：
对所述训练任务进行分割，获得多个所述训练子任务；
将所述训练子任务进行层级划分，获得多个所述层级训练任务；
在每个所述层级训练任务中，当存在具有依赖关系的训练子任务，将所述具有依赖关系的训练子任务的计算顺序进行编排，获得非独立子任务组，所述层级训练任务包括所述非独立子任务组和/或独立子任务。
可选的，所述在所述调度模型按照预设层级顺序将多个所述层级训练任务放入所述集群后，确定对应每个所述层级训练任务的模型参数，包括：
针对每个所述层级训练任务，每个时间步执行下述步骤，直至全部所述训练子任务计算完毕：
在所述调度模型将待计算任务集中目标非独立子任务组和/或目标独立子任务放入所述集群后，确定所述目标非独立子任务组的目标反馈值和/或所述目标独立子任务的目标反馈值；
确定所述集群的所述集群状态；
其中，所述待计算任务集包括除去历史时间步中目标反馈值最高的训练子任务后的训练子任务，所述调度模型将所述目标非独立子任务组放入所述集群为将所述目标非独立子任务组的训练子任务按照对应的编排顺序放入所述集群中。
可选的，所述确定所述目标非独立子任务组的目标反馈值和/或所述目标独立子任务的目标反馈值，包括：
在所述集群计算所述目标非独立子任务组后，计算所述集群的当前承载值；
基于预设对应关系，确定所述当前承载值对应的目标奖励值，得到所述目标非独立子任务组的目标反馈值；
在所述集群计算所述目标独立子任务后，计算所述集群的所述当前承载值；
基于所述预设对应关系，确定所述当前承载值对应的所述目标奖励值，得到所述目标独立子任务的目标反馈值，所述预设对应关系用于表征所述集群的承载值与奖励值之间的关系。
可选的，所述预设对应关系为所述集群的承载值与奖励值的线性变化关系。
可选的，所述预设层级任务顺序为维表层，数据明细层，数据服务层，数据应用层。
第二方面，本申请实施例提供了一种任务调度装置，包括：
获取模块，用于获取待调度任务；
任务划分模块，用于对所述待调度任务进行划分，获得多个层级任务，所述层级任务包括待调度子任务；
任务调度模块，用于按照预设层级顺序，将多个所述层级任务输入至基于强化学习的已训练调度模型，获得所述已训练调度模型输出的每个所述层级任务的最优任务计算顺序，所述最优任务计算顺序为所述已训练调度模型中每个集群状态的目标反馈值最高的待调度子任务，所述目标反馈值用于表征所述已训练调度模型计算所述待调度子任务后集群的承载值；
任务计算模块，用于按照所述预设层级顺序计算所述层级任务；
还用于针对每个所述层级任务，按照所述最优任务计算顺序计算所述待调度子任务。
第三方面，本申请实施例提供了一种电子设备，包括存储器、处理器以及存储在所述存储器中并可在所述处理器上运行的计算机程序，所述处理器执行所述计算机程序时实现如上述第一方面中任一项所述的方法。
第四方面，本申请实施例提供了一种计算机可读存储介质，所述计算机可读存储介质存储有计算机程序，所述计算机程序被处理器执行时实现如上述第一方面中任一项所述的方法。
第五方面，本申请实施例提供了一种计算机程序产品，当计算机程序产品在电子设备上运行时，使得电子设备执行上述第一方面中任一项所述的方法。
本申请实施例与现有技术相比存在的有益效果是：
本申请实施例通过获取待调度任务；对待调度任务进行划分，获得多个层级任务，层级任务包括待调度子任务；按照预设层级顺序，将多个层级任务输入至基于强化学习的已训练调度模型，获得已训练调度模型输出的最优任务计算顺序，能够有效调节集群计算资源的均衡性，使数据的计算更加合理安全，减少因某个时间段内集群计算资源不足而导致任务失败的情况，也减少某个时间段内集群计算资源没有充分使用导致计算资源浪费的情况。
可以理解的是，上述第二方面至第五方面的有益效果可以参见上述第一方面中的相关描述，在此不再赘述。
附图说明
为了更清楚地说明本申请实施例中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本申请的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
图1是本申请一实施例提供的离线数据仓库的示意图；
图2是本申请一实施例提供的任务调度方法的第一种流程示意图；
图3是本申请一实施例提供的具有依赖关系的子任务的示例图；
图4是本申请一实施例提供的任务调度优化前的示意图；
图5是本申请一实施例提供的任务调度优化后的示意图；
图6是本申请一实施例提供的任务调度方法的第二种流程示意图；
图7是本申请一实施例提供的预设对应关系的示例图；
图8是本申请一实施例提供的任务调度装置的结构示意图；
图9是本申请一实施例提供的电子设备的结构示意图。
具体实施方式
以下描述中，为了说明而不是为了限定，提出了诸如特定系统结构、技术之类的具体细节，以便透彻理解本申请实施例。然而，本领域的技术人员应当清楚，在没有这些具体细节的其它实施例中也可以实现本申请。在其它情况中，省略对众所周知的系统、装置、电路以及方法的详细说明，以免不必要的细节妨碍本申请的描述。
应当理解，当在本申请说明书和所附权利要求书中使用时，术语“包括”指示所描述特征、整体、步骤、操作、元素和/或组件的存在，但并不排除一个或多个其它特征、整体、步骤、操作、元素、组件和/或其集合的存在或添加。
还应当理解，在本申请说明书和所附权利要求书中使用的术语“和/或”是指相关联列出的项中的一个或多个的任何组合以及所有可能组合，并且包括这些组合。
如在本申请说明书和所附权利要求书中所使用的那样，术语“如果”可以依据上下文被解释为“当...时”或“一旦”或“响应于确定”或“响应于检测到”。类似地，短语“如果确定”或“如果检测到[所描述条件或事件]”可以依据上下文被解释为意指“一旦确定”或“响应于确定”或“一旦检测到[所描述条件或事件]”或“响应于检测到[所描述条件或事件]”。
另外，在本申请说明书和所附权利要求书的描述中，术语“第一”、“第二”、“第三”等仅用于区分描述，而不能理解为指示或暗示相对重要性。
在本申请说明书中描述的参考“一个实施例”或“一些实施例”等意味着在本申请的一个或多个实施例中包括结合该实施例描述的特定特征、结构或特点。由此，在本说明书中的不同之处出现的语句“在一个实施例中”、“在一些实施例中”、“在其他一些实施例中”、“在另外一些实施例中”等不是必然都参考相同的实施例，而是意味着“一个或多个但不是所有的实施例”，除非是以其他方式另外特别强调。术语“包括”、“包含”、“具有”及它们的变形都意味着“包括但不限于”，除非是以其他方式另外特别强调。
企业中业务线的运营需要大量的数据报表支撑，通常会通过建设离线数据仓库计算不同维度的数据，以获得时效性为t+1的数据。图1是本申请一实施例提供的离线数据仓库的示意图。如图1所示，离线数据仓库包括维表层(DIM层)，数据明细层(DWD层)，数据服务层(DWS层)，数据应用层(ADS层)。其中，离线数据仓库中不同的层级有不同的计算任务，不同的计算任务消耗的计算资源不同。
集群计算时，集群体系通常由多个分机构成，指挥分机工作的进程称为主机，分机运行时，可以接收计算请求，并计算本地的网格文件，将计算结果返回到主机。但集群是随机选择任务计算的，使得集群的计算资源会因离线数据仓库的不同任务消耗的计算资源而存在差异，也会因同一时间任务数量的不同而存在差异。最终导致集群计算资源在不同时间段消耗水平的均值存在很大差异。使得集群会出现计算资源消耗水平的均值过大，负载过高，部分计算任务终止，或计算资源消耗水平的均值过小，负载过小，形成计算资源的限制浪费的情况。
本申请提供了一种任务调度方法、装置、电子设备、计算机可读存储介质和计算机程序产品，对任务的计算顺序进行合理调整，优化集群的资源使用率，使得所有计算任务不中断，且最大化利用集群的计算资源。
图2是本申请一实施例提供的任务调度方法的第一种流程示意图。如图2所示，所述方法，包括：
S11：获取待调度任务。
在应用中，从离线数据仓库中获取待调度任务。
S12：对待调度任务进行划分，获得多个层级任务，层级任务包括待调度子任务。
在一种可能的实现中，对待调度任务进行分割，获得多个待调度子任务，这些待调度子任务为最小颗粒子任务。待调度子任务为独立子任务或与其他子任务具有依赖关系的子任务。其中，当存在具有依赖关系的子任务，将具有依赖关系的子任务的计算顺序进行编排。
然后根据待调度子任务的计算结果的表属于哪层，对应划分至维表层，数据明细层，数据服务层，数据应用层。
S13：按照预设层级顺序，将多个层级任务输入至基于强化学习的已训练调度模型，获得已训练调度模型输出的每个所述层级任务的最优任务计算顺序。
其中，预设层级任务顺序为维表层，数据明细层，数据服务层，数据应用层。最优任务计算顺序为已训练调度模型中每个集群状态的目标反馈值最高的待调度子任务。目标反馈值用于表征集群计算待调度子任务后集群的承载值，目标反馈值决定上一个任务完成后下一个计算的任务。承载值为处理器和内存的使用率。
在应用中，先将维表层的层级任务输入至基于强化学习的已训练调度模型，已训练调度模型将层级任务中待调度子任务放入集群中，获得每个集群状态和待调度子任务的目标反馈值，在每个集群状态中选择目标反馈值最高的待调度子任务，对应的获得已训练调度模型输出的最优任务计算顺序，接着将数据明细层的层级任务输入至基于强化学习的已训练调度模型，同理获得已训练调度模型输出的最优任务计算顺序；然后将数据服务层的层级任务输入至基于强化学习的已训练调度模型，同理获得已训练调度模型输出的最优任务计算顺序，最后将数据应用层的层级任务输入至基于强化学习的已训练调度模型，同理获得已训练调度模型输出的最优任务计算顺序。
在已训练调度模型中，当层级任务存在具有依赖关系的子任务，已训练调度模型会按编排的顺序将具有依赖关系的子任务放入集群中计算，集群将这些具有依赖关系的子任务作为一个完整的任务赋予对应的目标反馈值。集群将不具有依赖关系的独立子任务单独作为一个完整的任务赋予对应的目标反馈值。已训练调度模型在每个集群状态中选择目标反馈值最高的待调度子任务，输出层级任务的最优任务计算顺序。
示例的，图3是本申请一实施例提供的具有依赖关系的子任务的示例图。如图3所示，具有依赖关系的子任务为任务a、b、c，已训练调度模型必须先计算任务完毕后，使用任务a计算完毕得到的数据进行任务b的计算，任务b计算完毕后，使用任务b计算完毕得到的数据进行任务c的计算，编排顺序为任务a、b、c。对应的，已训练调度模型按编排顺序依次将任务a、b、c放入集群中。
S14：按照预设层级顺序计算层级任务；
S15：针对每个层级任务，按照最优任务计算顺序计算待调度子任务。
在应用中，按照预设层级顺序计算层级任务，在计算层级任务中，按照最优任务计算顺序计算层级任务中的待调度子任务。
图4是本申请一实施例提供的任务调度优化前的示意图。如图4所示，图中的线为优选的集群的承载值，优化前的任务计算顺序会使得某个时间段内集群计算资源不足或某个时间段内集群计算资源没有充分使用。图5是本申请一实施例提供的任务调度优化后的示意图。如图5所示，图中的线为优选的集群的承载值，优化后的任务计算顺序有效调节集群计算资源的均衡性，使数据的计算更加合理安全。
可以理解的，以最优任务计算顺序调度任务，能够提高集群的计算效率，使得计算任务更加高效，增强数据时效性，同时降低计算成本。
本申请实施例通过获取待调度任务；对待调度任务进行划分，获得多个层级任务，层级任务包括待调度子任务；按照预设层级顺序，将多个层级任务输入至基于强化学习的已训练调度模型，获得已训练调度模型输出的最优任务计算顺序，能够有效调节集群计算资源的均衡性，使数据的计算更加合理安全，减少因某个时间段内集群计算资源不足而导致任务失败的情况，也减少某个时间段内集群计算资源没有充分使用导致计算资源浪费的情况。
图6是本申请一实施例提供的任务调度方法的第二种流程示意图。如图6所示，步骤S13之前，还包括：
S21：获取训练任务。
S22：将训练任务进行划分，获得多个层级训练任务，层级训练任务包括训练子任务，层级训练任务用于训练基于强化学习的调度模型。
在应用中，步骤S22，包括：
S221：对训练任务进行分割，获得多个训练子任务。
其中，训练子任务为独立子任务或与其他子任务具有依赖关系的训练子任务。
S222：将训练子任务进行层级划分，获得多个层级训练任务。
S223：在每个层级训练任务中，当存在具有依赖关系的训练子任务，将具有依赖关系的训练子任务的计算顺序进行编排，获得非独立子任务组，层级训练任务包括非独立子任务组和/或独立子任务。
在一种可能的实现方式，通过DAG(Database Availability Group数据库可用性组)编排对具有依赖关系的训练子任务的计算顺序进行编排。
S23：在训练调度模型的过程中，在调度模型按照预设层级顺序将多个层级训练任务放入集群后，确定对应每个层级训练任务的模型参数。
其中，模型参数包括每个时间步的集群状态和训练子任务的目标反馈值。
在应用中，步骤S23，包括：
S231：针对每个层级训练任务，每个时间步执行下述步骤，直至全部训练子任务计算完毕：
S232：在调度模型将待计算任务集中目标非独立子任务组和/或目标独立子任务放入集群后，确定目标非独立子任务组的目标反馈值和/或目标独立子任务的目标反馈值。
其中，待计算任务集包括除去历史时间步中目标反馈值最高的训练子任务后的训练子任务。即上一个时间步确定了最优计算的训练子任务后，将其从待计算任务集中除去，以使调度模型只在未确定顺序的训练子任务中选择子任务进行计算。
具体的，在当前时间步中，调度模型的智能体将子任务放入集群中，相当于智能体向环境发出尝试。
调度模型将目标非独立子任务组放入集群为将目标非独立子任务组的训练子任务按照对应的编排顺序放入集群中。即在当前时间步中，调度模型的智能体按照编排顺序依次将目标非独立子任务组的训练子任务放入集群中进行计算。
在一种可能的实现方式中，确定目标非独立子任务组的目标反馈值和/或目标独立子任务的目标反馈值，包括：
在集群计算目标非独立子任务组后，计算集群的当前承载值；
基于预设对应关系，确定当前承载值对应的目标奖励值，得到目标非独立子任务组的目标反馈值；
在集群计算目标独立子任务后，计算集群的当前承载值；
基于预设对应关系，确定当前承载值对应的目标奖励值，得到目标独立子任务的目标反馈值，预设对应关系用于表征集群的承载值与奖励值之间的关系。
具体的，在当前时间步中，集群计算任务后监控集群的处理器和内存的使用率，确定集群的当前承载值，然后根据预设对应关系，确定对应的目标反馈值。
其中，预先设置预设对应关系为先初步设定集群承载的安全计算阈值，具体安全计算阈值根据集群实际情况和使用场景进行合理调整。然后，设置安全计算阈值对应的奖励值最大，越偏离安全计算阈值，奖励值越小。图7是本申请一实施例提供的预设对应关系的示例图。如图7所示，预设对应关系为集群的承载值与奖励值的线性变化关系，以表达越偏离安全计算阈值，奖励值越小。
S233：确定集群的集群状态；
在应用中，在当前时间步中，集群计算任务后记录集群的集群状态。
示例的，在当前时间步t中，集群计算任务后确定对应的目标反馈值R[t]，并记录集群的集群状态S[t]。
S24：当调度模型基于模型参数，在每个集群状态中选择目标反馈值最高的训练子任务，获得已训练调度模型。
在应用中，基于模型参数，调度模型在每个集群状态中选择目标反馈值最高的训练子任务作为最优计算任务，以达到全局最优的任务编排状态，获得最优任务计算顺序，达到计算收敛，进而得到已训练调度模型。
应理解，上述实施例中各步骤的序号的大小并不意味着执行顺序的先后，各过程的执行顺序应以其功能和内在逻辑确定，而不应对本申请实施例的实施过程构成任何限定。
对应于上文实施例所述的方法，为了便于说明，仅示出了与本申请实施例相关的部分。
图8是本申请一实施例提供的任务调度装置的结构示意图。如图8所示，所述装置，包括：
获取模块10，用于获取待调度任务。
任务划分模块11，用于对待调度任务进行划分，获得多个层级任务，层级任务包括待调度子任务。
任务调度模块12，用于按照预设层级顺序，将多个层级任务输入至基于强化学习的已训练调度模型，获得已训练调度模型输出的每个所述层级任务的最优任务计算顺序，最优任务计算顺序为已训练调度模型中每个集群状态的目标反馈值最高的待调度子任务，目标反馈值用于表征集群计算待调度子任务后集群的承载值。
任务计算模块13，用于按照预设层级顺序计算层级任务；
还用于针对每个层级任务，按照最优任务计算顺序计算待调度子任务。
在一个实施例中，所述装置还包括训练模型模块；
获取模块，还用于获取训练任务；
任务划分模块，还用于将训练任务进行划分，获得多个层级训练任务，层级训练任务包括训练子任务，层级训练任务用于训练基于强化学习的调度模型；
训练模型模块，用于在训练调度模型的过程中，在调度模型按照预设层级顺序将层级训练任务放入集群后，确定对应每个层级训练任务的模型参数，模型参数包括每个时间步的集群状态和训练子任务的目标反馈值；
还用于当调度模型基于模型参数，在每个集群状态中选择目标反馈值最高的训练子任务，获得已训练调度模型。
在一个实施例中，任务划分模块包括：
分割单元，用于对训练任务进行分割，获得多个训练子任务。
划分单元，用于将训练子任务进行层级划分，获得多个层级训练任务。
编排单元，用于在每个层级训练任务中，当存在具有依赖关系的训练子任务，将具有依赖关系的训练子任务的计算顺序进行编排，获得非独立子任务组，层级训练任务包括非独立子任务组和/或独立子任务。
在一个实施例中，训练模型模块，具体用于针对每个层级训练任务，每个时间步执行下述步骤，直至全部训练子任务计算完毕：
具体用于在调度模型将待计算任务集中目标非独立子任务组和/或目标独立子任务放入集群后，确定目标非独立子任务组的目标反馈值和/或目标独立子任务的目标反馈值；
具体用于确定集群的集群状态；
其中，待计算任务集包括除去历史时间步中目标反馈值最高的训练子任务后的训练子任务，调度模型将目标非独立子任务组放入集群为将目标非独立子任务组的训练子任务按照对应的编排顺序放入集群中。
在一个实施例中，训练模型模块，具体用于在集群计算目标非独立子任务组后，计算集群的当前承载值；
具体用于基于预设对应关系，确定当前承载值对应的目标奖励值，得到目标非独立子任务组的目标反馈值；
具体用于在集群计算目标独立子任务后，计算集群的当前承载值；
具体用于基于预设对应关系，确定当前承载值对应的目标奖励值，得到目标独立子任务的目标反馈值，预设对应关系用于表征集群的承载值与奖励值之间的关系。
图9为本申请一实施例提供的电子设备的结构示意图。如图9所示，该实施例的电子设备2包括：至少一个处理器20(图9中仅示出一个)、存储器21以及存储在所述存储器21中并可在所述至少一个处理器20上运行的计算机程序22，所述处理器20执行所述计算机程序22时实现上述任意各个方法实施例中的步骤。
所述电子设备2可以是桌上型计算机、笔记本、掌上电脑及云端服务器等计算设备。该电子设备2可包括，但不仅限于，处理器20、存储器21。本领域技术人员可以理解，图9仅仅是电子设备2的举例，并不构成对电子设备2的限定，可以包括比图示更多或更少的部件，或者组合某些部件，或者不同的部件，例如还可以包括输入输出设备、网络接入设备等。
所称处理器20可以是中央处理单元(Central Processing Unit，CPU)，该处理器20还可以是其他通用处理器、数字信号处理器(Digital Signal Processor，DSP)、专用集成电路(Application Specific Integrated Circuit，ASIC)、现成可编程门阵列(Field-Programmable Gate Array，FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。
所述存储器21在一些实施例中可以是所述电子设备2的内部存储单元，例如电子设备2的硬盘或内存。所述存储器21在另一些实施例中也可以是所述电子设备2的外部存储设备，例如所述电子设备2上配备的插接式硬盘，智能存储卡(Smart Media Card,SMC)，安全数字(Secure Digital,SD)卡，闪存卡(Flash Card)等。进一步地，所述存储器21还可以既包括所述电子设备2的内部存储单元也包括外部存储设备。所述存储器21用于存储操作系统、应用程序、引导装载程序(BootLoader)、数据以及其他程序等，例如所述计算机程序的程序代码等。所述存储器21还可以用于暂时地存储已经输出或者将要输出的数据。
需要说明的是，上述装置/单元之间的信息交互、执行过程等内容，由于与本申请方法实施例基于同一构思，其具体功能及带来的技术效果，具体可参见方法实施例部分，此处不再赘述。
所属领域的技术人员可以清楚地了解到，为了描述的方便和简洁，仅以上述各功能单元、模块的划分进行举例说明，实际应用中，可以根据需要而将上述功能分配由不同的功能单元、模块完成，即将所述装置的内部结构划分成不同的功能单元或模块，以完成以上描述的全部或者部分功能。实施例中的各功能单元、模块可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个单元中，上述集成的单元既可以采用硬件的形式实现，也可以采用软件功能单元的形式实现。另外，各功能单元、模块的具体名称也只是为了便于相互区分，并不用于限制本申请的保护范围。上述系统中单元、模块的具体工作过程，可以参考前述方法实施例中的对应过程，在此不再赘述。
本申请实施例还提供了一种计算机可读存储介质，所述计算机可读存储介质存储有计算机程序，所述计算机程序被处理器执行计算时可实现上述各个方法实施例中的步骤。
本申请实施例提供了一种计算机程序产品，当计算机程序产品在电子设备上运行时，使得电子设备执行时可实现上述各个方法实施例中的步骤。
所述集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读取存储介质中。基于这样的理解，本申请实现上述实施例方法中的全部或部分流程，可以通过计算机程序来指令相关的硬件来完成，所述的计算机程序可存储于一计算机可读存储介质中，该计算机程序在被处理器执行时，可实现上述各个方法实施例的步骤。其中，所述计算机程序包括计算机程序代码，所述计算机程序代码可以为源代码形式、对象代码形式、可执行文件或某些中间形式等。所述计算机可读介质至少可以包括：能够将计算机程序代码携带到拍照装置/终端设备的任何实体或装置、记录介质、计算机存储器、只读存储器(ROM，Read-Only Memory)、随机存取存储器(RAM，RandomAccess Memory)、电载波信号、电信信号以及软件分发介质。例如U盘、移动硬盘、磁碟或者光盘等。在某些司法管辖区，根据立法和专利实践，计算机可读介质不可以是电载波信号和电信信号。
在上述实施例中，对各个实施例的描述都各有侧重，某个实施例中没有详述或记载的部分，可以参见其它实施例的相关描述。
本领域普通技术人员可以意识到，结合本文中所公开的实施例描述的各示例的单元及算法步骤，能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟以硬件还是软件方式来执行，取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能，但是这种实现不应认为超出本申请的范围。
在本申请所提供的实施例中，应该理解到，所揭露的装置/网络设备和方法，可以通过其它的方式实现。例如，以上所描述的装置/网络设备实施例仅仅是示意性的，例如，所述模块或单元的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式，例如多个单元或组件可以结合或者可以集成到另一个系统，或一些特征可以忽略，或不执行。另一点，所显示或讨论的相互之间的耦合或直接耦合或通讯连接可以是通过一些接口，装置或单元的间接耦合或通讯连接，可以是电性，机械或其它的形式。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的，作为单元显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
以上所述实施例仅用以说明本申请的技术方案，而非对其限制；尽管参照前述实施例对本申请进行了详细的说明，本领域的普通技术人员应当理解：其依然可以对前述各实施例所记载的技术方案进行修改，或者对其中部分技术特征进行等同替换；而这些修改或者替换，并不使相应技术方案的本质脱离本申请各实施例技术方案的精神和范围，均应包含在本申请的保护范围之内。

Claims (10)

1.一种任务调度方法，其特征在于，包括：
获取待调度任务；
对所述待调度任务进行划分，获得多个层级任务，所述层级任务包括待调度子任务；
按照预设层级顺序，将多个所述层级任务输入至基于强化学习的已训练调度模型，获得所述已训练调度模型输出的每个所述层级任务的最优任务计算顺序，所述最优任务计算顺序为所述已训练调度模型中每个集群状态的目标反馈值最高的待调度子任务，所述目标反馈值用于表征集群计算所述待调度子任务后所述集群的承载值；
按照所述预设层级顺序计算所述层级任务；
针对每个所述层级任务，按照所述最优任务计算顺序计算所述待调度子任务。
2.根据权利要求1所述的方法，其特征在于，所述将多个所述层级任务输入至基于强化学习的已训练调度模型中之前，还包括：
获取训练任务；
将所述训练任务进行划分，获得多个层级训练任务，所述层级训练任务包括训练子任务，所述层级训练任务用于训练基于强化学习的调度模型；
在训练所述调度模型的过程中，在所述调度模型按照预设层级顺序将多个所述层级训练任务放入所述集群后，确定对应每个所述层级训练任务的模型参数，所述模型参数包括每个时间步的所述集群状态和所述训练子任务的目标反馈值；
当所述调度模型基于所述模型参数，在每个所述集群状态中选择目标反馈值最高的训练子任务，获得所述已训练调度模型。
3.根据权利要求2所述的方法，其特征在于，将所述训练任务进行划分，获得多个层级训练任务，包括：
对所述训练任务进行分割，获得多个所述训练子任务；
将所述训练子任务进行层级划分，获得多个所述层级训练任务；
在每个所述层级训练任务中，当存在具有依赖关系的训练子任务，将所述具有依赖关系的训练子任务的计算顺序进行编排，获得非独立子任务组，所述层级训练任务包括所述非独立子任务组和/或独立子任务。
4.根据权利要求3所述的方法，其特征在于，所述在所述调度模型按照预设层级顺序将多个所述层级训练任务放入所述集群后，确定对应每个所述层级训练任务的模型参数，包括：
针对每个所述层级训练任务，每个时间步执行下述步骤，直至全部所述训练子任务计算完毕：
在所述调度模型将待计算任务集中目标非独立子任务组和/或目标独立子任务放入所述集群后，确定所述目标非独立子任务组的目标反馈值和/或所述目标独立子任务的目标反馈值；
确定所述集群的所述集群状态；
其中，所述待计算任务集包括除去历史时间步中目标反馈值最高的训练子任务后的训练子任务，所述调度模型将所述目标非独立子任务组放入所述集群为将所述目标非独立子任务组的训练子任务按照对应的编排顺序放入所述集群中。
5.根据权利要求4所述的方法，其特征在于，所述确定所述目标非独立子任务组的目标反馈值和/或所述目标独立子任务的目标反馈值，包括：
在所述集群计算所述目标非独立子任务组后，计算所述集群的当前承载值；
基于预设对应关系，确定所述当前承载值对应的目标奖励值，得到所述目标非独立子任务组的目标反馈值；
在所述集群计算所述目标独立子任务后，计算所述集群的所述当前承载值；
基于所述预设对应关系，确定所述当前承载值对应的所述目标奖励值，得到所述目标独立子任务的目标反馈值，所述预设对应关系用于表征所述集群的承载值与奖励值之间的关系。
6.根据权利要求5所述的方法，其特征在于，所述预设对应关系为所述集群的承载值与奖励值的线性变化关系。
7.根据权利要求1至6任一项所述的方法，其特征在于，所述预设层级任务顺序为维表层，数据明细层，数据服务层，数据应用层。
8.一种任务调度装置，其特征在于，包括：
获取模块，用于获取待调度任务；
任务划分模块，用于对所述待调度任务进行划分，获得多个层级任务，所述层级任务包括待调度子任务；
任务调度模块，用于按照预设层级顺序，将多个所述层级任务输入至基于强化学习的已训练调度模型，获得所述已训练调度模型输出的每个所述层级任务的最优任务计算顺序，所述最优任务计算顺序为所述已训练调度模型中每个集群状态的目标反馈值最高的待调度子任务，所述目标反馈值用于表征集群计算所述待调度子任务后所述集群的承载值；
任务计算模块，用于按照所述预设层级顺序计算所述层级任务；
还用于针对每个所述层级任务，按照所述最优任务计算顺序计算所述待调度子任务。
9.一种电子设备，包括存储器、处理器以及存储在所述存储器中并可在所述处理器上运行的计算机程序，其特征在于，所述处理器执行所述计算机程序时实现如权利要求1至7任一项所述的方法。
10.一种计算机可读存储介质，所述计算机可读存储介质存储有计算机程序，其特征在于，所述计算机程序被处理器执行时实现如权利要求1至7任一项所述的方法。
CN202310116404.6A 2023-01-31 2023-01-31 一种任务调度方法、装置、电子设备及可读存储介质 Pending CN116185588A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202310116404.6A CN116185588A (zh) 2023-01-31 2023-01-31 一种任务调度方法、装置、电子设备及可读存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202310116404.6A CN116185588A (zh) 2023-01-31 2023-01-31 一种任务调度方法、装置、电子设备及可读存储介质

Publications (1)

Publication Number Publication Date
CN116185588A true CN116185588A (zh) 2023-05-30

Family

ID=86439910

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202310116404.6A Pending CN116185588A (zh) 2023-01-31 2023-01-31 一种任务调度方法、装置、电子设备及可读存储介质

Country Status (1)

Country Link
CN (1) CN116185588A (zh)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116594757A (zh) * 2023-07-18 2023-08-15 深圳须弥云图空间科技有限公司 利用大语言模型执行复杂任务的方法及装置
CN116680063A (zh) * 2023-08-03 2023-09-01 苏州浪潮智能科技有限公司 任务调度方法、装置、计算系统、电子设备和存储介质

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116594757A (zh) * 2023-07-18 2023-08-15 深圳须弥云图空间科技有限公司 利用大语言模型执行复杂任务的方法及装置
CN116594757B (zh) * 2023-07-18 2024-04-12 深圳须弥云图空间科技有限公司 利用大语言模型执行复杂任务的方法及装置
CN116680063A (zh) * 2023-08-03 2023-09-01 苏州浪潮智能科技有限公司 任务调度方法、装置、计算系统、电子设备和存储介质
CN116680063B (zh) * 2023-08-03 2023-11-03 苏州浪潮智能科技有限公司 任务调度方法、装置、计算系统、电子设备和存储介质

Similar Documents

Publication Publication Date Title
US10558498B2 (en) Method for scheduling data flow task and apparatus
CN116185588A (zh) 一种任务调度方法、装置、电子设备及可读存储介质
US9336493B2 (en) Systems and methods for clustering time series data based on forecast distributions
CN109324875B (zh) 一种基于强化学习的数据中心服务器功耗管理与优化方法
EP2524277B1 (en) Methods and apparatus for coordinated energy management in virtualized data centers
CN107621973B (zh) 一种跨集群的任务调度方法及装置
US9037880B2 (en) Method and system for automated application layer power management solution for serverside applications
CN110413412B (zh) 一种基于gpu集群资源分配的方法和装置
CN102707995B (zh) 基于云计算环境的业务调度的方法及装置
US11657302B2 (en) Model selection in a forecasting pipeline to optimize tradeoff between forecast accuracy and computational cost
CN113515382B (zh) 云资源的分配方法、装置、电子设备及存储介质
CN111639793A (zh) 一种锅炉群组调度优化方法及装置
US7925755B2 (en) Peer to peer resource negotiation and coordination to satisfy a service level objective
CN117407178B (zh) 一种自适应负载分配的加速子卡管理方法及系统
CN110708197A (zh) 监控装置、监控装置的监控策略的设置方法及存储介质
CN107203256A (zh) 一种网络功能虚拟化场景下的节能分配方法与装置
CN112565391A (zh) 调整工业互联网平台中实例的方法、装置、设备和介质
CN109981396B (zh) docker服务容器集群的监控方法及装置、介质及电子设备
CN114817288A (zh) 数据处理方法、装置、电子设备及存储介质
CN109901931B (zh) 一种归约函数数量确定方法、装置及系统
CN114153592A (zh) 云平台的物理主机负载调度方法、装置、电子设备及介质
CN111783487A (zh) 一种读卡器设备的故障预警方法及装置
CN110493071A (zh) 消息系统资源均衡装置、方法及设备
CN117453376B (zh) 高通量计算的控制方法、装置、设备及存储介质
CN113900800B (zh) 一种边缘计算系统的分配方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination