CN116737178B - 一种训练任务编排方法及系统 - Google Patents

一种训练任务编排方法及系统 Download PDF

Info

Publication number
CN116737178B
CN116737178B CN202311001654.1A CN202311001654A CN116737178B CN 116737178 B CN116737178 B CN 116737178B CN 202311001654 A CN202311001654 A CN 202311001654A CN 116737178 B CN116737178 B CN 116737178B
Authority
CN
China
Prior art keywords
computing
load
energy consumption
training
group
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202311001654.1A
Other languages
English (en)
Other versions
CN116737178A (zh
Inventor
吕超星
丁鹏
吴清忠
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Wanjie Data Technology Co ltd Wuhan Branch
Beijing Wanjie Data Technology Co ltd
Original Assignee
Beijing Wanjie Data Technology Co ltd Wuhan Branch
Beijing Wanjie Data Technology Co ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Wanjie Data Technology Co ltd Wuhan Branch, Beijing Wanjie Data Technology Co ltd filed Critical Beijing Wanjie Data Technology Co ltd Wuhan Branch
Priority to CN202311001654.1A priority Critical patent/CN116737178B/zh
Publication of CN116737178A publication Critical patent/CN116737178A/zh
Application granted granted Critical
Publication of CN116737178B publication Critical patent/CN116737178B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F8/00—Arrangements for software engineering
    • G06F8/60—Software deployment
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00—Error detection; Error correction; Monitoring
    • G06F11/30—Monitoring
    • G06F11/3003—Monitoring arrangements specially adapted to the computing system or computing system component being monitored
    • G06F11/3006—Monitoring arrangements specially adapted to the computing system or computing system component being monitored where the computing system is distributed, e.g. networked systems, clusters, multiprocessor systems
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00—Error detection; Error correction; Monitoring
    • G06F11/30—Monitoring
    • G06F11/3003—Monitoring arrangements specially adapted to the computing system or computing system component being monitored
    • G06F11/3017—Monitoring arrangements specially adapted to the computing system or computing system component being monitored where the computing system is implementing multitasking
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00—Error detection; Error correction; Monitoring
    • G06F11/30—Monitoring
    • G06F11/3058—Monitoring arrangements for monitoring environmental properties or parameters of the computing system or of the computing system component, e.g. monitoring of power, currents, temperature, humidity, position, vibrations
    • G06F11/3062—Monitoring arrangements for monitoring environmental properties or parameters of the computing system or of the computing system component, e.g. monitoring of power, currents, temperature, humidity, position, vibrations where the monitored property is the power consumption
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00—Arrangements for program control, e.g. control units
    • G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46—Multiprogramming arrangements
    • G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
    • G06F9/5083—Techniques for rebalancing the load in a distributed system
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F2209/00—Indexing scheme relating to G06F9/00
    • G06F2209/50—Indexing scheme relating to G06F9/50
    • G06F2209/5017—Task decomposition
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F2209/00—Indexing scheme relating to G06F9/00
    • G06F2209/50—Indexing scheme relating to G06F9/50
    • G06F2209/5021—Priority
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F2209/00—Indexing scheme relating to G06F9/00
    • G06F2209/50—Indexing scheme relating to G06F9/50
    • G06F2209/508—Monitor
    • Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
    • Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Computing Systems (AREA)
  • General Physics & Mathematics (AREA)
  • Software Systems (AREA)
  • Quality & Reliability (AREA)
  • Mathematical Physics (AREA)
  • Data Exchanges In Wide-Area Networks (AREA)

Abstract

本发明提供了一种训练任务编排方法及系统，涉及云计算技术领域。本发明通过设置BMC监控模块和负载监测模块实现对计算执行设备负载监测和能耗监测，并综合网络通信质量和计算能耗性价比，完成对计算执行设备的选取和对应算力的设置，以达到网络负载和计算负载的双平衡；在获取数据上传地址后，便能为其分配最速上传接口，从而实现训练数据快速上传，通过负载状态和通信评分结合，得到训练任务编排序列，通过训练任务编排序列进行算力认领，从而实现将负载与通信双优的设备接收训练任务，达到最佳能耗性价比。

Description

一种训练任务编排方法及系统
技术领域
本发明涉及云计算技术领域，尤其涉及一种训练任务编排方法及系统。
背景技术
云计算平台用处理各类任务；其中，最为常见的便是训练任务，在执行训练任务时会消耗大量的算力资源，若是对训练任务编排不当，则会造成计算资源的浪费。
为此，申请号为：CN202211420673.3的发明申请公开了一种分布式算力资源的编排方法、装置、设备及存储介质，在接收到任务训练请求时，通过分布式锁将算力资源池进行锁定，并将训练任务添加至排队任务队列；在接收到训练任务添加成功信息时，根据预设资源算法计算出训练任务所需的算力资源；在训练任务所需的算力资源小于或等于剩余算力资源时，将所述训练任务从排队任务队列中移除；根据训练任务所需的算力资源通过训练节点对所述训练任务进行训练。
但是，在进行训练任务编排时，不仅需要关注平台资源的利用率，还需要综合考虑数据传输带来的网络负载影响和训练执行带来的计算负载影响，在充分利用计算资源的情况下，寻求高效且经济的训练任务编排方法，以达到网络负载和计算负载的双平衡。
因此，针对现有技术在网络负载和计算负载上的空缺，有必要提供一种训练任务编排方法及系统来解决上述技术问题。
发明内容
为解决上述技术问题，本发明提供的一种训练任务编排系统，部署在云计算平台上，所述云计算平台上部署有若干计算执行设备和数据存储设备；包括接收前端和编排后端，并在计算执行设备上部署任务执行模块、BMC监控模块和负载监测模块；在计算执行设备和数据存储设备上分别部署网络通信模块；
其中，云计算平台通过接收前端获取用户上传的训练任务；训练任务由训练模型、训练算法和训练数据组成，编排后端为用户分配API上传接口和对应数据存储设备完成对训练数据的接收存储；训练模型和训练算法则一起部署至对应计算执行设备中，并编排计算执行设备所需完成的对应算力计算；
在进行训练任务编排时，编排后端通过BMC监控模块和负载监测模块获取各计算执行设备的能耗和负载情况，并综合网络通信质量和计算能耗性价比，完成对计算执行设备的选取和对应算力的设置。
一种训练任务编排方法，运用于如上所述的一种训练任务编排系统，通过如下步骤进行训练任务编排：
获取待编排训练任务的算法类型、算力需求和数据上传地址；
为数据上传地址分配最速上传接口，训练数据上传并存储至接口对应数据存储设备中；
各计算执行设备分别PING接口对应数据存储设备，得到各计算执行设备的通信评分；
各计算执行设备上传算法类型对应负载状态，并进行分类得到计算执行设备状态分组；
对各执行设备状态分组进行组内通信评分排序，得到分组对应的组内通信优先级序列；
对执行设备状态分组进行组间状态优先级排序，得到分组对应的组间状态优先级序列；
将各组内通信优先级序列按照组间状态优先级序列进行排序，得到训练任务编排序列；
各计算执行设备按照训练任务编排序列顺序进行算力认领，直至算力需求完全被认领；
将待编排训练任务按照算力认领分割为若干子训练任务，并编排到对应计算执行设备。
作为更进一步的解决方案，通过如下步骤获取各计算执行设备的负载状态：
获取待编排训练任务的算法类型；
查询各类型—阈值对照表，得到各计算执行设备在当前算法类型下的判断阈值；
询问各计算执行设备的当前算力负载值，并与判断阈值进行比较，得到负载状态；
若当前算力负载值未超第一判断阈值，则为第一负载状态；
若当前算力负载值超过第一判断阈值，未超第二判断阈值，则为第二负载状态；
若当前算力负载值超过第二判断阈值，则为第三负载状态；
重复上述步骤，得到各计算执行设备的负载状态。
作为更进一步的解决方案，通过如下步骤获取各计算执行设备针对不同算法类型的判断阈值：
设置不同算法类型对应的训练测试任务；
执行当前算法类型的训练测试任务，并记录能耗变化率曲线；
通过能耗变化率曲线获取能耗下降区间、能耗稳定区间和能耗上升区间；
进行当前算法类型的判断阈值获取：
将能耗下降区间和能耗稳定区间之间的算力负载值设置为第一判断阈值，
将能耗稳定区间和能耗上升区间之间的算力负载值设置为第二判断阈值；
完成不同算法类型的判断阈值获取，并整理为当前计算执行设备的类型_阈值对照表；
各计算执行设备分别执行上述步骤，得到各计算执行设备的类型_阈值对照表。
作为更进一步的解决方案，通过如下步骤获取能耗变化率曲线和各能耗区间：
获取当前算法类型设置计算测试任务，并下放至子域范围内的各计算执行设备上；
计算执行设备开始执行计算测试任务，并线性改变计算执行设备的算力负载情况；
通过BMC监测模块记录执行计算测试任务时的单位计算能耗；
通过负载监测模块记录执行计算测试任务时的算力负载情况；
将单位计算能耗和算力负载情况进行匹配，得到负载能耗曲线；
对负载能耗曲线的各点进行数据平滑和求导操作，得到能耗变化率曲线；
通过能耗变化率曲线划分能耗下降区间、能耗稳定区间和能耗上升区间；
其中，能耗下降区间位于能耗变化率曲线负半轴，能耗稳定区间位于能耗变化率曲线零值附近，能耗上升区间位于能耗变化率曲线正半轴。
作为更进一步的解决方案，通过如下步骤进行训练任务编排序列生成/更新：
各计算执行设备上传算法类型对应负载状态并进行分类，得到第一负载状态分组、第二负载状态分组和第三负载状态分组；
对各执行设备状态分组进行组内通信评分由高到低排序，得到第一组内通信优先级序列、第二组内通信优先级序列和第三组内通信优先级序列；
对执行设备状态分组进行组间状态优先级排序；其中，组间状态优先级序列：第一负载状态分组优先于第二负载状态分组，第二负载状态分组优先于第三负载状态分组；
将各组内通信优先级序列按照组间状态优先级序列进行排序，得到训练任务编排序列；其中，训练任务编排序列：[第一组内通信优先级序列，第二组内通信优先级序列，第三组内通信优先级序列]。
作为更进一步的解决方案，各计算执行设备通过如下步骤进行算力认领：
按照训练任务编排序列，询问优先级最高的计算执行设备进行算力认领：计算执行设备获取达到下一负载状态的算力负载裕度，并与未认领算力需求进行比较；
若算力负载裕度小于未认领算力需求，则认领算力负载裕度；
若算力负载裕度不小于未认领算力需求，则认领未认领算力需求；
更新训练任务编排序列和未认领算力需求，若仍存在未认领算力需求，则按照更新后的训练任务编排序列，询问优先级最高的计算执行设备进行算力认领，直至算力需求均被认领。
作为更进一步的解决方案，当优先级最高的计算执行设备为第三负载状态时，则暂停训练任务编排，直至负载状态回落至第一负载状态或第二负载状态。
与相关技术相比较，本发明提供的一种训练任务编排方法及系统具有如下有益效果：
本发明通过设置BMC监控模块和负载监测模块实现对计算执行设备负载监测和能耗监测，并综合网络通信质量和计算能耗性价比，完成对计算执行设备的选取和对应算力的设置，以达到网络负载和计算负载的双平衡；在获取数据上传地址后，便能为其分配最速上传接口，从而实现训练数据快速上传，通过负载状态和通信评分结合，得到训练任务编排序列，通过训练任务编排序列进行算力认领，从而实现将负载与通信双优的设备接收训练任务，达到最佳能耗性价比。
附图说明
图1为本发明提供的一种训练任务编排系统的结构示意图；
图2为本发明提供的一种训练任务编排方法的较佳流程图；
图3为本发明实施例提供的负载能耗曲线较佳示意图；
图4为本发明实施例提供能耗变化率曲线较佳示意图。
具体实施方式
下面结合附图和实施方式对本发明作进一步说明。
如图1所示，本实施例提供的一种训练任务编排系统，部署在云计算平台上，所述云计算平台上部署有若干计算执行设备和数据存储设备；包括接收前端和编排后端，并在计算执行设备上部署任务执行模块、BMC监控模块和负载监测模块；在计算执行设备和数据存储设备上分别部署网络通信模块；
其中，云计算平台通过接收前端获取用户上传的训练任务；训练任务由训练模型、训练算法和训练数据组成，编排后端为用户分配API上传接口和对应数据存储设备完成对训练数据的接收存储；训练模型和训练算法则一起部署至对应计算执行设备中，并编排计算执行设备所需完成的对应算力计算；
在进行训练任务编排时，编排后端通过BMC监控模块和负载监测模块获取各计算执行设备的能耗和负载情况，并综合网络通信质量和计算能耗性价比，完成对计算执行设备的选取和对应算力的设置。
需要说明的是：现有的训练任务编排系统仅关注平台资源的利用率，未综合考虑数据传输带来的网络负载影响和训练执行带来的计算负载影响；为此，本实施例通过设置BMC监控模块和负载监测模块实现对计算执行设备负载监测和能耗监测，并综合网络通信质量和计算能耗性价比，完成对计算执行设备的选取和对应算力的设置，以达到网络负载和计算负载的双平衡。注：BMC监测模块：用于监测设备的能耗情况，负载监测模块：用于获取设备的当前负载情况。
如图2所示，一种训练任务编排方法，运用于如上所述的一种训练任务编排系统，通过如下步骤进行训练任务编排：
获取待编排训练任务的算法类型、算力需求和数据上传地址；
为数据上传地址分配最速上传接口，训练数据上传并存储至接口对应数据存储设备中；
各计算执行设备分别PING接口对应数据存储设备，得到各计算执行设备的通信评分；
各计算执行设备上传算法类型对应负载状态，并进行分类得到计算执行设备状态分组；
对各执行设备状态分组进行组内通信评分排序，得到分组对应的组内通信优先级序列；
对执行设备状态分组进行组间状态优先级排序，得到分组对应的组间状态优先级序列；
将各组内通信优先级序列按照组间状态优先级序列进行排序，得到训练任务编排序列；
各计算执行设备按照训练任务编排序列顺序进行算力认领，直至算力需求完全被认领；
将待编排训练任务按照算力认领分割为若干子训练任务，并编排到对应计算执行设备。
需要说明的是：本实施例在获取数据上传地址后，便能为其分配最速上传接口（通信质量好和通信延迟低），从而实现训练数据快速上传，通过负载状态和通信评分结合，得到训练任务编排序列，通过训练任务编排序列进行算力认领，从而实现将负载与通信双优的设备接收训练任务，达到最佳能耗性价比。
作为更进一步的解决方案，通过如下步骤获取各计算执行设备的负载状态：
获取待编排训练任务的算法类型；
查询各类型—阈值对照表，得到各计算执行设备在当前算法类型下的判断阈值；
询问各计算执行设备的当前算力负载值，并与判断阈值进行比较，得到负载状态；
若当前算力负载值未超第一判断阈值，则为第一负载状态；
若当前算力负载值超过第一判断阈值，未超第二判断阈值，则为第二负载状态；
若当前算力负载值超过第二判断阈值，则为第三负载状态；
重复上述步骤，得到各计算执行设备的负载状态。
需要说明的是：由于各训练算法采用的算法类型不同，其不同的算法类型有不同的判断阈值，因此我们需要构建类型—阈值对照表来快速寻找各算法类型对应的判断阈值，以准确判断设备的负载状态，通过负载状态能更好地感知各设备的情况。
作为更进一步的解决方案，通过如下步骤获取各计算执行设备针对不同算法类型的判断阈值：
设置不同算法类型对应的训练测试任务；
执行当前算法类型的训练测试任务，并记录能耗变化率曲线；
通过能耗变化率曲线获取能耗下降区间、能耗稳定区间和能耗上升区间；
进行当前算法类型的判断阈值获取：
将能耗下降区间和能耗稳定区间之间的算力负载值设置为第一判断阈值，
将能耗稳定区间和能耗上升区间之间的算力负载值设置为第二判断阈值；
完成不同算法类型的判断阈值获取，并整理为当前计算执行设备的类型_阈值对照表；
各计算执行设备分别执行上述步骤，得到各计算执行设备的类型_阈值对照表。
需要说明的是：如图3所示，由于计算执行设备存在基础能耗，因此，在算力负载较低时，其均摊到各单位计算能耗是很高的，但是随着算力负载增大，基础能耗会被均摊，这时单位计算能耗会随之下降，我们将这个区间称为下降区间，在算力负载达到一定值后，其单位计算能耗会较为平稳，我们将这个区间称为稳定区间，之后我们再增加算力负载，设备便会出现过载发热等情况，因此会伴随能耗增加但是算力提升并不明显，我们将这个区间称之为上升区间。
作为更进一步的解决方案，通过如下步骤获取能耗变化率曲线和各能耗区间：
获取当前算法类型设置计算测试任务，并下放至子域范围内的各计算执行设备上；
计算执行设备开始执行计算测试任务，并线性改变计算执行设备的算力负载情况；
通过BMC监测模块记录执行计算测试任务时的单位计算能耗；
通过负载监测模块记录执行计算测试任务时的算力负载情况；
将单位计算能耗和算力负载情况进行匹配，得到负载能耗曲线；
对负载能耗曲线的各点进行数据平滑和求导操作，得到能耗变化率曲线；
通过能耗变化率曲线划分能耗下降区间、能耗稳定区间和能耗上升区间；
其中，能耗下降区间位于能耗变化率曲线负半轴，能耗稳定区间位于能耗变化率曲线零值附近，能耗上升区间位于能耗变化率曲线正半轴。
需要说明的是：如图4所示，从能耗变化率曲线上我们不难看出，在下降区间时，其单位计算能耗先是急剧下降，再缓慢下降直至到达稳定区间，稳定区间基本没什么变化，也就是变化率为0，此后到达上升区间，其单位计算能耗先是缓慢上升，再急剧上升直至最大到达负载；因此，能耗下降区间位于能耗变化率曲线负半轴，能耗稳定区间位于能耗变化率曲线零值附近，能耗上升区间位于能耗变化率曲线正半轴。
作为更进一步的解决方案，通过如下步骤进行训练任务编排序列生成/更新：
各计算执行设备上传算法类型对应负载状态并进行分类，得到第一负载状态分组、第二负载状态分组和第三负载状态分组；
对各执行设备状态分组进行组内通信评分由高到低排序，得到第一组内通信优先级序列、第二组内通信优先级序列和第三组内通信优先级序列；
对执行设备状态分组进行组间状态优先级排序；其中，组间状态优先级序列：第一负载状态分组优先于第二负载状态分组，第二负载状态分组优先于第三负载状态分组；
将各组内通信优先级序列按照组间状态优先级序列进行排序，得到训练任务编排序列；其中，训练任务编排序列：[第一组内通信优先级序列，第二组内通信优先级序列，第三组内通信优先级序列]。
需要说明的是：在进行优先级排序时，首选要考虑第一负载状态的设备，再考虑第二负载状态的设备，最后才是第三负载状态的设备，这就是我们的组间状态优先级序列；我们通过负载状态进行分类，这就得到了第一负载状态分组、第二负载状态分组和第三负载状态分组，再结合组间状态优先级序列，就得到了组件排序；然后再结合通信质量评分，我们就得到了各组内通信优先级序列，将各组内通信优先级序列按照组间状态优先级序列进行排序，我们就能得到训练任务编排序列，通过训练任务编排序列我们能兼顾能耗和网络质量。
作为更进一步的解决方案，各计算执行设备通过如下步骤进行算力认领：
按照训练任务编排序列，询问优先级最高的计算执行设备进行算力认领：计算执行设备获取达到下一负载状态的算力负载裕度，并与未认领算力需求进行比较；
若算力负载裕度小于未认领算力需求，则认领算力负载裕度；
若算力负载裕度不小于未认领算力需求，则认领未认领算力需求；
更新训练任务编排序列和未认领算力需求，若仍存在未认领算力需求，则按照更新后的训练任务编排序列，询问优先级最高的计算执行设备进行算力认领，直至算力需求均被认领。
需要说明的是：单次算力认领最大量为达到下一负载状态的算力负载裕度，若是已处于第三负载状态，则一下负载状态是最大负载状态；完成一次算力认领后，需要对各计算执行设备的负载状态进行更新，如有设备本处在第一算力状态，在认领算力后达到第二算力状态，第一组内通信优先级序列与第二组内通信优先级序列均会发生变化，此时就需要更新负载状态，并对训练任务编排序列进行更新，生成当前的训练任务编排序列，然后再进行下一次算力认领。
作为更进一步的解决方案，当优先级最高的计算执行设备为第三负载状态时，则暂停训练任务编排，直至负载状态回落至第一负载状态或第二负载状态。
需要说明的是：由于第三负载状态为单位算力高耗能状态；因此，若是优先级最高的计算执行设备为第三负载状态时，则说明整个计算平台都处于第三负载状态，其单位计算力耗能高；因此，我们这时需要暂停训练任务编排，直至负载状态回落至第一负载状态或第二负载状态，以保证整个系统的运行稳定并保证能耗算力性价比。
以上仅为本发明的实施例，并非因此限制本发明的专利范围，凡是利用本发明说明书及附图内容所作的等效结构或等效流程变换，或直接或间接运用在其它相关的技术领域，均同理包括在本发明的专利保护范围内。

Claims (7)

1.一种训练任务编排方法，运用于在云计算平台上，所述云计算平台上部署有若干计算执行设备和数据存储设备；其特征在于，包括接收前端和编排后端，并在计算执行设备上部署任务执行模块、BMC监控模块和负载监测模块；在计算执行设备和数据存储设备上分别部署网络通信模块；
其中，云计算平台通过接收前端获取用户上传的训练任务；训练任务由训练模型、训练算法和训练数据组成，编排后端为用户分配API上传接口和对应数据存储设备完成对训练数据的接收存储；训练模型和训练算法则一起部署至对应计算执行设备中，并编排计算执行设备所需完成的对应算力计算；
在进行训练任务编排时，编排后端通过BMC监控模块和负载监测模块获取各计算执行设备的能耗和负载情况，并综合网络通信质量和计算能耗性价比，完成对计算执行设备的选取和对应算力的设置；通过如下步骤进行训练任务编排：
获取待编排训练任务的算法类型、算力需求和数据上传地址；
为数据上传地址分配最速上传接口，训练数据上传并存储至接口对应数据存储设备中；
各计算执行设备分别PING接口对应数据存储设备，得到各计算执行设备的通信评分；
各计算执行设备上传算法类型对应负载状态，并进行分类得到计算执行设备状态分组；
对各执行设备状态分组进行组内通信评分排序，得到分组对应的组内通信优先级序列；
对执行设备状态分组进行组间状态优先级排序，得到分组对应的组间状态优先级序列；
将各组内通信优先级序列按照组间状态优先级序列进行排序，得到训练任务编排序列；
各计算执行设备按照训练任务编排序列顺序进行算力认领，直至算力需求完全被认领；
将待编排训练任务按照算力认领分割为若干子训练任务，并编排到对应计算执行设备。
2.根据权利要求1所述的一种训练任务编排方法，其特征在于，通过如下步骤获取各计算执行设备的负载状态：
获取待编排训练任务的算法类型；
查询各类型—阈值对照表，得到各计算执行设备在当前算法类型下的判断阈值；
询问各计算执行设备的当前算力负载值，并与判断阈值进行比较，得到负载状态；
若当前算力负载值未超第一判断阈值，则为第一负载状态；
若当前算力负载值超过第一判断阈值，未超第二判断阈值，则为第二负载状态；
若当前算力负载值超过第二判断阈值，则为第三负载状态；
重复上述步骤，得到各计算执行设备的负载状态。
3.根据权利要求2所述的一种训练任务编排方法，其特征在于，通过如下步骤获取各计算执行设备针对不同算法类型的判断阈值：
设置不同算法类型对应的训练测试任务；
执行当前算法类型的训练测试任务，并记录能耗变化率曲线；
通过能耗变化率曲线获取能耗下降区间、能耗稳定区间和能耗上升区间；
进行当前算法类型的判断阈值获取：
将能耗下降区间和能耗稳定区间之间的算力负载值设置为第一判断阈值，
将能耗稳定区间和能耗上升区间之间的算力负载值设置为第二判断阈值；
完成不同算法类型的判断阈值获取，并整理为当前计算执行设备的类型_阈值对照表；
各计算执行设备分别执行上述步骤，得到各计算执行设备的类型_阈值对照表。
4.根据权利要求3所述的一种训练任务编排方法，其特征在于，通过如下步骤获取能耗变化率曲线和各能耗区间：
获取当前算法类型设置计算测试任务，并下放至子域范围内的各计算执行设备上；
计算执行设备开始执行计算测试任务，并线性改变计算执行设备的算力负载情况；
通过BMC监测模块记录执行计算测试任务时的单位计算能耗；
通过负载监测模块记录执行计算测试任务时的算力负载情况；
将单位计算能耗和算力负载情况进行匹配，得到负载能耗曲线；
对负载能耗曲线的各点进行数据平滑和求导操作，得到能耗变化率曲线；
通过能耗变化率曲线划分能耗下降区间、能耗稳定区间和能耗上升区间；
其中，能耗下降区间位于能耗变化率曲线负半轴，能耗稳定区间位于能耗变化率曲线零值附近，能耗上升区间位于能耗变化率曲线正半轴。
5.根据权利要求4所述的一种训练任务编排方法，其特征在于，通过如下步骤进行训练任务编排序列生成/更新：
各计算执行设备上传算法类型对应负载状态并进行分类，得到第一负载状态分组、第二负载状态分组和第三负载状态分组；
对各执行设备状态分组进行组内通信评分由高到低排序，得到第一组内通信优先级序列、第二组内通信优先级序列和第三组内通信优先级序列；
对执行设备状态分组进行组间状态优先级排序；其中，组间状态优先级序列：第一负载状态分组优先于第二负载状态分组，第二负载状态分组优先于第三负载状态分组；
将各组内通信优先级序列按照组间状态优先级序列进行排序，得到训练任务编排序列；其中，训练任务编排序列：[第一组内通信优先级序列，第二组内通信优先级序列，第三组内通信优先级序列]。
6.根据权利要求5所述的一种训练任务编排方法，其特征在于，各计算执行设备通过如下步骤进行算力认领：
按照训练任务编排序列，询问优先级最高的计算执行设备进行算力认领：计算执行设备获取达到下一负载状态的算力负载裕度，并与未认领算力需求进行比较；
若算力负载裕度小于未认领算力需求，则认领算力负载裕度；
若算力负载裕度不小于未认领算力需求，则认领未认领算力需求；
更新训练任务编排序列和未认领算力需求，若仍存在未认领算力需求，则按照更新后的训练任务编排序列，询问优先级最高的计算执行设备进行算力认领，直至算力需求均被认领。
7.根据权利要求6所述的一种训练任务编排方法，其特征在于，当优先级最高的计算执行设备为第三负载状态时，则暂停训练任务编排，直至负载状态回落至第一负载状态或第二负载状态。
CN202311001654.1A 2023-08-10 2023-08-10 一种训练任务编排方法及系统 Active CN116737178B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202311001654.1A CN116737178B (zh) 2023-08-10 2023-08-10 一种训练任务编排方法及系统

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202311001654.1A CN116737178B (zh) 2023-08-10 2023-08-10 一种训练任务编排方法及系统

Publications (2)

Publication Number Publication Date
CN116737178A CN116737178A (zh) 2023-09-12
CN116737178B true CN116737178B (zh) 2023-10-20

Family

ID=87915356

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202311001654.1A Active CN116737178B (zh) 2023-08-10 2023-08-10 一种训练任务编排方法及系统

Country Status (1)

Country Link
CN (1) CN116737178B (zh)

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110969198A (zh) * 2019-11-24 2020-04-07 广东浪潮大数据研究有限公司 深度学习模型的分布式训练方法、装置、设备及存储介质
CN113760180A (zh) * 2021-04-22 2021-12-07 腾讯科技（深圳）有限公司 存储资源管理方法、装置、设备及计算机可读存储介质
CN115421901A (zh) * 2022-08-03 2022-12-02 北京邮电大学 一种面向算力网络的优先感知任务调度方法和系统
CN115543624A (zh) * 2022-10-13 2022-12-30 联通(广东)产业互联网有限公司 异构算力编排调度方法、系统、设备及存储介质
CN115562877A (zh) * 2022-11-15 2023-01-03 北京阿丘科技有限公司 分布式算力资源的编排方法、装置、设备及存储介质

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11868812B2 (en) * 2021-08-12 2024-01-09 International Business Machines Corporation Predictive scaling of container orchestration platforms

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110969198A (zh) * 2019-11-24 2020-04-07 广东浪潮大数据研究有限公司 深度学习模型的分布式训练方法、装置、设备及存储介质
CN113760180A (zh) * 2021-04-22 2021-12-07 腾讯科技（深圳）有限公司 存储资源管理方法、装置、设备及计算机可读存储介质
CN115421901A (zh) * 2022-08-03 2022-12-02 北京邮电大学 一种面向算力网络的优先感知任务调度方法和系统
CN115543624A (zh) * 2022-10-13 2022-12-30 联通(广东)产业互联网有限公司 异构算力编排调度方法、系统、设备及存储介质
CN115562877A (zh) * 2022-11-15 2023-01-03 北京阿丘科技有限公司 分布式算力资源的编排方法、装置、设备及存储介质

Also Published As

Publication number Publication date
CN116737178A (zh) 2023-09-12

Similar Documents

Publication Publication Date Title
CN103516807B (zh) 一种云计算平台服务器负载均衡系统及方法
CN109992403B (zh) 多租户资源调度的优化方法、装置、终端设备及存储介质
CN103401947A (zh) 多个服务器的任务分配方法和装置
CN109981744B (zh) 数据的分发方法、装置、存储介质及电子设备
CN113110933B (zh) 一种具有Nginx负载均衡技术的系统
CN108446179B (zh) 基于负载均衡机制的权重优先Task任务调度方法
CN109412841A (zh) 虚拟机资源的调整方法、装置和云平台
CN111404185B (zh) 一种充电系统控制方法、控制器及系统
CN113810304A (zh) 一种负载均衡方法、装置、设备和计算机存储介质
CN104765643A (zh) 实现云计算资源混合调度的方法和系统
CN108819774B (zh) 电动汽车以及其电池管理系统
CN109992392B (zh) 一种资源部署方法、装置及资源服务器
CN113138860A (zh) 消息队列的管理方法及装置
CN106998340B (zh) 一种板卡资源的负载均衡方法及装置
CN111046091A (zh) 数据交换系统的运行方法、装置及设备
CN114422508B (zh) 一种网络设备性能采集的方法和系统
CN116737178B (zh) 一种训练任务编排方法及系统
CN105430083B (zh) 一种云平台部署方法
CN109298932B (zh) 基于OpenFlow的资源调度方法、调度器及系统
CN116302578A (zh) 一种QoS约束的流应用延迟确保方法及系统
CN115883391A (zh) 单用户服务选择方法及装置
Zhou et al. Deep reinforcement learning based admission control for throughput maximization in mobile edge computing
Swarnakar et al. A novel improved hybrid model for load balancing in cloud environment
CN113641499A (zh) 一种分布式控制器集群负载均衡系统
CN209913501U (zh) 一种三级电压控制系统及自动电压控制系统

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant