CN114035919A - 基于配电网分层分布特征的任务调度系统及方法 - Google Patents
基于配电网分层分布特征的任务调度系统及方法 Download PDFInfo
- Publication number
- CN114035919A CN114035919A CN202111312158.9A CN202111312158A CN114035919A CN 114035919 A CN114035919 A CN 114035919A CN 202111312158 A CN202111312158 A CN 202111312158A CN 114035919 A CN114035919 A CN 114035919A
- Authority
- CN
- China
- Prior art keywords
- task
- subtasks
- scheduling
- computing
- subtask
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000009826 distribution Methods 0.000 title claims abstract description 119
- 238000000034 method Methods 0.000 title claims abstract description 38
- 238000004364 calculation method Methods 0.000 claims abstract description 60
- 238000012545 processing Methods 0.000 claims abstract description 27
- 230000008569 process Effects 0.000 claims abstract description 14
- 238000003860 storage Methods 0.000 claims description 25
- 238000000354 decomposition reaction Methods 0.000 claims description 15
- 230000005540 biological transmission Effects 0.000 claims description 10
- 239000011159 matrix material Substances 0.000 claims description 7
- 238000004891 communication Methods 0.000 claims description 6
- 230000006870 function Effects 0.000 description 9
- 238000005457 optimization Methods 0.000 description 9
- 238000010586 diagram Methods 0.000 description 6
- 238000012544 monitoring process Methods 0.000 description 6
- 238000013500 data storage Methods 0.000 description 4
- 238000005516 engineering process Methods 0.000 description 3
- 238000011160 research Methods 0.000 description 3
- 238000007689 inspection Methods 0.000 description 2
- 238000007726 management method Methods 0.000 description 2
- 238000004519 manufacturing process Methods 0.000 description 2
- 239000000463 material Substances 0.000 description 2
- 230000004044 response Effects 0.000 description 2
- 230000003044 adaptive effect Effects 0.000 description 1
- 230000004075 alteration Effects 0.000 description 1
- 238000012790 confirmation Methods 0.000 description 1
- 238000007405 data analysis Methods 0.000 description 1
- 238000011156 evaluation Methods 0.000 description 1
- 238000013210 evaluation model Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 230000008447 perception Effects 0.000 description 1
- 230000011218 segmentation Effects 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/48—Program initiating; Program switching, e.g. by interrupt
- G06F9/4806—Task transfer initiation or dispatching
- G06F9/4843—Task transfer initiation or dispatching by program, e.g. task dispatcher, supervisor, operating system
- G06F9/4881—Scheduling strategies for dispatcher, e.g. round robin, multi-level priority queues
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
- G06F9/5061—Partitioning or combining of resources
- G06F9/5072—Grid computing
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/54—Interprogram communication
- G06F9/546—Message passing systems or structures, e.g. queues
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q10/00—Administration; Management
- G06Q10/06—Resources, workflows, human or project management; Enterprise or organisation planning; Enterprise or organisation modelling
- G06Q10/063—Operations research, analysis or management
- G06Q10/0631—Resource planning, allocation, distributing or scheduling for enterprises or organisations
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q10/00—Administration; Management
- G06Q10/20—Administration of product repair or maintenance
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q50/00—Systems or methods specially adapted for specific business sectors, e.g. utilities or tourism
- G06Q50/06—Electricity, gas or water supply
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F2209/00—Indexing scheme relating to G06F9/00
- G06F2209/54—Indexing scheme relating to G06F9/54
- G06F2209/548—Queue
Landscapes
- Engineering & Computer Science (AREA)
- Business, Economics & Management (AREA)
- Theoretical Computer Science (AREA)
- Human Resources & Organizations (AREA)
- Physics & Mathematics (AREA)
- Software Systems (AREA)
- General Physics & Mathematics (AREA)
- Economics (AREA)
- Strategic Management (AREA)
- Entrepreneurship & Innovation (AREA)
- Tourism & Hospitality (AREA)
- Marketing (AREA)
- General Business, Economics & Management (AREA)
- General Engineering & Computer Science (AREA)
- Operations Research (AREA)
- Health & Medical Sciences (AREA)
- Quality & Reliability (AREA)
- General Health & Medical Sciences (AREA)
- Public Health (AREA)
- Game Theory and Decision Science (AREA)
- Educational Administration (AREA)
- Development Economics (AREA)
- Water Supply & Treatment (AREA)
- Primary Health Care (AREA)
- Mathematical Physics (AREA)
- Supply And Distribution Of Alternating Current (AREA)
Abstract
本发明提供了一种基于配电网分层分布特征的任务调度系统及方法,系统应用于广域化分布的多个数据中心,系统包括:任务层,用于接收配电网计算请求,其中,配电网计算请求携带广域计算任务流,任务流包含多个计算任务;规划层,用于将每个计算任务分解为多个子任务;调度层,用于从多个数据中心选择每个子任务对应的目标数据中心,将子任务上传至对应的目标数据中心,及进行计算资源调度和计算任务调度,以使目标数据中心对对应的子任务进行处理。由此,不仅可以实现广域化分布的任务流调度,而且有利于加快配电网计算任务的处理速度。
Description
技术领域
本发明涉及配电网技术领域,具体涉及一种基于配电网分层分布特征的任务调度系统和一种基于配电网分层分布特征的任务调度方法。
背景技术
随着配电网设备规模的不断扩大,监控业务范围不断扩大,以及电力领域大数据的深化应用,对基于配电网分层分布的特征的多数据中心的任务规划、调度、计算能力的均衡和计算节点的效率提出了更高要求。
目前已有研究的几种计算优化方法,如面向多用户并发作业的细粒度资源共享公平调度算法,在小并发作业时能够大幅提升集群吞吐率;再如一种基于已知节点及任务优先级的MapReduce任务调度策略,结合数据分布情况进行全局任务调度;此外,基于任务进度感知的自适应任务调度方案,实现了异构Hadoop平台的任务合理分配问题,改善了系统的计算性能指标,包括吞吐率、响应时间等;另外,面向MapReduce的自适应延迟调度算法,能够根据节点的释放速度动态调整作业的延迟等待时间,这样就避免了节点释放速度快时,作业因静态延迟时间而进行的无效等待,有效减少了整个作业的响应时间。基于Q学习的分布式多任务流调度算法,建立了任务影响评估模型,实现了多任务流的优化分配。
然而,以上各算法模型,关注点多集中在本地数据中心的任务规划、调度与并行计算,对于广域化分布的多数据中心计算任务流规划调度技术欠缺研究,这导致以运检、营销为代表的配电网各专业难以全面、对称地了解业务相关的配电网运行信息,从而带来配电网生产风险,需要对信息反复进行确认,造成沟通成本过高。
发明内容
本发明旨在至少在一定程度上解决对于广域化分布的多数据中心计算任务流规划调度技术欠缺研究的问题。
为此,本发明提出了如下技术方案:
本发明第一方面实施例提出了一种基于配电网分层分布特征的任务调度系统,所述系统应用于广域化分布的多个数据中心,所述系统包括:
任务层,用于接收配电网计算请求,其中,所述配电网计算请求携带广域计算任务流,所述任务流包含多个计算任务,并将所述多个计算任务发送至规划层;
所述规划层,用于将每个所述计算任务分解为多个子任务,并将所述多个子任务发送至调度层;
所述调度层,用于从所述多个数据中心选择每个所述子任务对应的目标数据中心,将所述子任务上传至对应的所述目标数据中心,及进行计算资源调度和计算任务调度,以使所述目标数据中心对对应的所述子任务进行处理。
另外,根据本发明上述实施例提出的基于配电网分层分布特征的任务调度系统还可以具有如下附加的技术特征:
根据本发明的一个实施例,所述规划层,在将每个所述计算任务进行分解为多个子任务时,具体用于:
采用基于逻辑关系的最优粒度分解法,根据所述计算任务的空间规则、要素规则、时序规则和功能规则将每个所述计算任务进行层次分解,直至将每个所述计算任务分解为多个最优粒度子任务。
根据本发明的一个实施例,所述规划层,在根据所述计算任务的空间规则、要素规则、时序规则和功能规则将每个所述计算任务进行层次分解时,具体用于:
根据所述空间规则将每个所述计算任务分解为一个最优粒度子任务、一个第一子任务和一个第二子任务;
根据所述要素规则将所述第一子任务分解为两个最优粒度子任务,并根据所述要素规则将所述第二子任务分解为两个最优粒度子任务和一个第三子任务;
根据所述时序规则将所述第三子任务分解为两个最优粒度子任务和一个第四子任务;
根据所述功能规则将所述第四子任务分解为两个最优粒度子任务。
根据本发明的一个实施例,所述调度层,在从所述多个数据中心选择每个所述子任务对应的目标数据中心时,具体用于:
确定每个所述数据中心的当前资源特征;
确定每个所述子任务的任务特征;
根据所述数据中心的当前资源特征和所述子任务的任务特征,从所述多个数据中心选择所述最优粒度子任务对应的目标数据中心。
根据本发明的一个实施例,所述数据中心的当前资源特征包括:计算资源配置信息、已承载任务信息和当前计算资源利用率;所述子任务的任务特征包括:复杂度、性能要求和待处理数据大小。
根据本发明的一个实施例,所述调度层,在进行计算任务调度时,具体用于:建立各个所述子任务之间的协作关系,并建立每个所述子任务与对应的计算资源之间的依赖关系;根据所述协作关系和所述依赖关系进行各个所述子任务之间的调度。
根据本发明的一个实施例,所述调度层,在进行计算资源调度时,具体用于:确定每个所述数据中心的存储节点信息和网络传输特性参数;根据所述存储节点信息和所述网络传输特性参数,对所述数据中心的各个存储节点进行调度。
根据本发明的一个实施例,所述存储节点信息包括:存储节点的个数、不同存储节点上数据副本的个数、每个存储节点当前已有的访问请求及资源利用比率;所述网络传输特性参数包括:并发任务数量、网络带宽参数、网络时延参数和通信质量参数。
根据本发明的一个实施例,所述调度层,在使所述目标数据中心对对应的所述子任务进行处理时,具体用于:
确定所述目标数据中心的可用计算资源与对应的子任务数量;
如果所述可用计算资源的数量多于所述子任务数量,则构建时间–费用矩阵,根据所述时间–费用矩阵从所述可用计算资源中选取目标计算资源,并通过所述目标计算资源对所述目标数据中心对应的子任务进行处理;
如果所述目标数据中心的可用计算资源的数量少于所述子任务数量,则根据自动聚类策略对所述目标数据中心对应的子任务进行处理。
本发明第二方面实施例提出了一种基于配电网分层分布特征的任务调度方法,所述方法应用于广域化分布的多个数据中心,所述方法包括:
接收配电网计算请求,其中,所述配电网计算请求携带广域计算任务流,所述任务流包含多个计算任务;
将每个所述计算任务分解为多个子任务;
从所述多个数据中心选择每个所述子任务对应的目标数据中心,将所述子任务上传至对应的所述目标数据中心,及进行计算资源调度和计算任务调度后使所述目标数据中心对对应的所述子任务进行处理。
本发明的技术方案,将广域化分布的计算任务进行分解后,选取最优的数据中心,并进行计算资源调度和计算任务调度,从而实现资源和任务的最优配置,不仅可以实现广域化分布的任务流调度,而且有利于加快配电网计算任务的处理速度。
附图说明
图1为本发明实施例的基于配电网分层分布特征的任务调度系统的方框示意图。
图2为本发明一个实施例的任务调度系统在配电网系统的分布示意图。
图3为本发明一个示例的将计算任务进行最优粒度分解的示意图。
图4为本发明一个实施例的面向配电网大数据的分布式任务协同调度优化模型示意图。
图5为本发明实施例的基于配电网分层分布特征的任务调度方法的流程图。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
图1为本发明实施例的基于配电网分层分布特征的任务调度系统的方框示意图。
本发明实施例的基于配电网分层分布特征的任务调度系统应用于广域化分布的多个数据中心,其中,一个数据中心对应一个区域的电网处理中心,数据中心用于传递、加速、展示、计算、存储对应区域内的配电网数据信息。
如图1所示,该系统包括:任务层1、规划层2和调度层3。
任务层1,用于接收配电网计算请求,其中,配电网计算请求携带广域计算任务流,任务流包含多个计算任务,并将多个计算任务发送至规划层2;规划层2,用于将每个计算任务进行分解为多个子任务,并将多个子任务发送至调度层3;调度层3,用于从多个数据中心选择每个子任务对应的目标数据中心,将子任务上传至对应的目标数据中心,及进行计算资源调度和计算任务调度后使目标数据中心对对应的子任务进行处理。
其中,配电网计算请求,可以是电力大数据分析用户发起的,例如,用户需要对配电网进行检修、维护或者调度时可发起配电网计算请求;也可以是配电网运行过程中产生的,例如配电网的某一处发生故障时,自动发起配电网计算请求,此时,计算任务携带监测系统搜集的配电网故障信息。
其中,广域计算任务流,可以理解为广域化分布的多个数据中心的计算任务流,其包含多个计算任务,各个计算任务之间可能存在依赖关系,也可能不存在依赖关系。
具体地,可基于配电网分层分布特征构建本发明实施例的任务调度系统,以该系统为处理框架来实现多个数据中心的任务优化协调。任务层1接收携带多个计算任务的配电网计算请求,配电网计算请求携带的广域计算任务流涉及的数据可以是各级监控系统传来的配电网故障信息、潮流负荷信息等,还可能涉及存放于空间分布的数据中心、逻辑分散的物理服务器上的数据,进而规划层2将每个计算任务分解为多个子任务,并将多个子任务发送给调度层3,调度层3针对每个子任务,从多个数据中心中选择最优数据中心作为目标数据中心,之后,调度层3将每个子任务上传至对应的目标数据中心,并在目标数据中心进行任务协同调度,通过协同调度算法和策略,分别实现目标数据中心本地的计算资源调度和计算任务调度,利用本地数据中心的协同调度算法库,从而将计算资源和计算任务进行合理配置,配置完成后,目标数据中心对对应的子任务进行执行、计算等处理,实现任务的最优协调规划。
本发明实施例中,计算资源调度可以指资源池通过闲置资源队列和运行资源队列对调度对象所需要的资源进行管理,并在任务执行完毕后进行资源回收,在任务开始执行前进行资源的分配;资源池以调度对象为任务的执行单元对调度任务进行执行。计算任务调度根据任务执行时间评估、调度任务类型判断对待处理的任务调度队列。
需要说明的是,每个子任务对应一个目标数据中心,一个数据中心可能对应一个子任务,也可能对应多个子任务。
如图2所示,基于配电网分层分布特征的任务调度系统的任务层1可以布置于配电系统的主站端,用于接收各个计算任务,规划层2可以配置于主站端或者场站端,调度层3可以布置于各个厂站端。调度层3通过协同任务模型库实现资源协同调度、任务协同调度以及模型选择与组合。
也就是说,本发明实施例为了实现广域化分布的多数据中心的计算任务流规划调度,基于配电网分层分布特征构建任务调度系统,通过该系统,将广域化分布的计算任务进行分解后,针对每个子任务选取最优的数据中心(即目标数据中心),并在本地数据中心进行计算资源调度和计算任务调度,从而实现资源和任务的最优配置,配置完成后,进行任务处理,其中的任务分解、最优数据中心的选择以及资源和任务的调度可以加快配电网计算任务的处理速度。
由此。本发明实施例的基于配电网分层分布特征的任务调度系统,将广域化分布的计算任务进行分解后,选取最优的数据中心,并进行计算资源调度和计算任务调度,从而实现资源和任务的最优配置,不仅可以实现广域化分布的任务流调度,而且有利于加快配电网计算任务的处理速度。
为了加快配电网计算任务的处理速度,本发明实施例通过顾及逻辑关系的最优粒度任务分解方法,将计算任务进行层次规范分解,即:将一个复杂计算任务划分为多个独立子任务,各个子任务的输入输出之间存在一定的逻辑关系,具体来说,根据计算任务的空间规则、要素规则等内在规则,对计算任务进行分解,直至将各个子任务优化至最低粒度。
即在本发明的一个实施例中,规划层2,在将每个计算任务进行分解为多个子任务时,具体可用于:采用基于逻辑关系的最优粒度分解法,根据计算任务的空间规则、要素规则、时序规则和功能规则将每个计算任务进行层次分解,直至将每个计算任务分解为多个最优粒度子任务。
其中,空间规则表征计算任务包含的数据源所在的地理位置(归属哪个数据中心),要素规则表征计算任务所包含的必要要素特征,时序规则表征计算任务所包含的执行时间顺序,功能规则表征计算任务所包含的各种功能。
进一步地,规划层,在根据计算任务的空间规则、要素规则、时序规则和功能规则将每个计算任务进行层次分解时,具体可用于:根据空间规则将每个计算任务分解为一个最优粒度子任务、一个第一子任务和一个第二子任务;根据要素规则将第一子任务分解为两个最优粒度子任务,并根据要素规则将第二子任务分解为两个最优粒度子任务和一个第三子任务;根据时序规则将第三子任务分解为两个最优粒度子任务和一个第四子任务;根据功能规则将第四子任务分解为两个最优粒度子任务。
具体而言,如图3所示,规划层2首先根据每个计算任务所包含的数据源所在的地理位置,将计算任务分解为一个最优粒度子任务(是指粒度最低的子任务)、一个第一子任务和一个第二子任务,根据第一子任务中的各个要素特征将第一子任务分解为两个最优粒度子任务,并根据第二子任务中的各个要素特征将第二子任务分解为两个最优粒度子任务和一个第三子任务,再根据第三子任务中所包含的任务执行时间将第三子任务分解为两个最优粒度子任务和一个第四子任务,最后根据第四子任务所包含的功能特征将第四子任务分解得到两个最优粒度子任务。分解完成后,规划层2将各个最优粒度子任务发送至调度层3,非最优粒度的任务(过粗或过细)会影响计算效率,因此调度层3对最优粒度子任务进行计算时可以保证高计算效率。
在调度层3从规划层2获取到每个计算任务的最优粒度子任务之后,可针对每个最优粒度子任务进行计算资源调度和计算任务调度,使每个最优粒度子任务的处理过程达到最优。
由此,采用层次规范分解法,充分考虑待分解任务内在的空间规则、要素规则、时序规则和功能规则进行任务分解,并使任务粒度达到最优,提升了任务的计算效率。
在本发明的一个实施例中,调度层,在从多个数据中心选择每个子任务对应的目标数据中心时,具体可用于:确定每个数据中心的当前资源特征;确定每个子任务的任务特征;根据数据中心的当前资源特征和子任务的任务特征,从多个数据中心选择最优粒度子任务对应的目标数据中心。
其中,数据中心的当前资源特征可以理解为与数据中心的计算资源有关的当前特征,例如数据中心的当前资源特征可包括:计算资源配置信息、已承载任务信息和当前计算资源利用率。
子任务的任务特征可以理解为子任务内部的各个任务属性的特征,例如子任务的任务特征可包括:复杂度、性能要求和待处理数据大小。
具体而言,调度层3根据每个数据中心的计算资源配置信息、已承载任务信息和当前计算资源利用率,以及每个子任务的复杂度、性能要求和待处理数据大小,同时还可以考虑各个数据中心所在的位置,从多个数据中心选取对各个子任务来说最优的数据中心(处理速度、处理时间等处理方式最优的数据中心),即为目标数据中心。
之后,调度层3进行计算任务调度和计算资源调度,以使计算任务和计算资源达到最优配置的情况下,实现任务处理。
在本发明的一个实施例中,调度层,在进行计算任务调度时,具体可用于:建立各个子任务之间的协作关系,并建立每个子任务与对应的计算资源之间的依赖关系;根据协作关系和依赖关系进行各个子任务之间的调度。
具体地,调度层3根据各个任务之间的协作关系和子任务与计算资源之间的依赖关系,实现各个子任务之间的协调。
具体而言,为了实现各个子任务之间的协调以及各个子任务的处理,调度层3可构建广域计算任务协作模型,该模型可包括:计算任务协作管理模块、计算任务执行模块和计算任务监控模块3部分。其中,计算任务协作管理模块主要负责计算任务流集合中各子任务之间的协作关系建立,以及各子计算任务与计算资源之间的依赖关系建立;计算任务执行模块负责具体计算任务的处理程序生成、释放等;计算任务监控模块主要负责监控整个计算任务流的执行情况。
在本发明的一个实施例中,调度层,在进行计算资源调度时,具体可用于:确定每个数据中心的存储节点信息和网络传输特性参数;根据存储节点信息和网络传输特性参数,对数据中心的各个存储节点进行调度。
其中,存储节点信息可包括:存储节点的个数、不同存储节点上数据副本的个数、每个存储节点当前已有的访问请求及资源利用比率;网络传输特性参数可包括:并发任务数量、网络带宽参数、网络时延参数和通信质量参数。
具体而言,为了实现各个数据节点之间的协调,调度层3可依据各存储电力大数据及其副本节点的资源负载情况和网络传输特性参数,如整体数据存储节点的个数、不同存储节点上数据副本的个数、每个存储节点当前已有的访问请求执行及资源利用比率、并发任务数量、网络带宽、网络时延、通信质量等条件,在参数最优化利用条件下,构建面向广域计算任务流和数据存储节点的多目标优化模型。
利用加权和法将面向广域计算任务流和数据存储节点的多目标优化模型分解为若干个面向子计算任务和数据存储节点的单目标优化子问题。在此基础上,利用进化算法同时求解单目标优化问题。
在本发明的一个实施例中,调度层,在使目标数据中心对对应的子任务进行处理时,具体可用于:确定目标数据中心的可用计算资源与对应的子任务数量;如果可用计算资源的数量多于子任务数量,则构建时间–费用矩阵,根据时间–费用矩阵从可用计算资源中选取目标计算资源,并通过目标计算资源对目标数据中心对应的子任务进行处理;如果目标数据中心的可用计算资源的数量少于子任务数量,则根据自动聚类策略对目标数据中心对应的子任务进行处理。
具体而言,考虑“资源多任务少”、“资源少任务多”2种情况下进行配电网分布式任务协同调度:
如图4所示,资源少任务多的情况下,即可用计算资源的数量少于提交的子任务数时,会出现某几个任务提交给某一个计算资源进行处理的情况,任务之间可以按照加权公平排队规则进行排队等候,以便资源能够及时公平处理当前任务。为了更好地描述问题和聚类处理,对描述任务的关键元数据进行量化,形成待聚类的任务序列,然后计算各自的“z-分值”,最后采用优化的分布式任务自动聚类技术实现计算资源数量和任务数量相等。
资源多任务少的情况下,即可用计算资源的数量大于提交的子任务数量时,根据时间–费用矩阵,从当前可用计算资源中,按照计算资源执行任务时间最少的策略选择出相应的计算资源来处理相应的任务,构建资源任务模型。同时,构建计算资源和任务相结合的非线性编码,通过自适应分割的方式,实现分布式任务的调度优化。
图4为本发明一个实施例的面向配电网大数据的分布式任务协同调度优化模型示意图,如图4所示,首先,将计算任务进行分解得到多个最优粒度子任务,针对每个最优粒度子任务通过协同调度算法库进行调度算法配置,然后,考虑“资源多任务少”和“资源少任务多”2种情况下配电网分布式任务的协同调度,调度完成后,实现任务-资源配置,以使任务与资源之间达到最优的配置。
综上所述,本发明实施例对已经规划好的子任务,传到数据中心,通过协同调度算法及策略,分别对基础资源和计算任务进行协调调度,利用本地数据中心的协同调度算法库,合理配置基础资源对计算任务进行处理,实现了基于配电网的广域计算任务规划,且加快任务处理速度,可以加快电网故障的数据处理速度。从而可以避免这样的现象出现:以运检、营销为代表的配电网各专业难以全面、对称地了解业务相关的配电网运行信息,进一步可以避免配电网生产风险,无需对信息进行确认,降低沟通成本。
图5为本发明实施例的基于配电网分层分布特征的任务调度方法的流程图。
需要说明的是,基于配电网分层分布特征的任务调度方法应用于广域化分布的多个数据中心。
如图5所示,该基于配电网分层分布特征的任务调度方法,包括以下步骤:
S1,接收配电网计算请求,其中,配电网计算请求携带广域计算任务流,任务流包含多个计算任务。
S2,将每个计算任务分解为多个子任务。
S3,从多个数据中心选择每个子任务对应的目标数据中心,将子任务上传至对应的目标数据中心,及进行计算资源调度和计算任务调度后使目标数据中心对对应的子任务进行处理。
需要说明的是,本发明实施例中基于配电网分层分布特征的任务调度方法的其他具体实施方式,可参见上述基于配电网分层分布特征的任务调度系统的具体实施方式,为避免冗余,此处不再赘述。
本发明实施例的基于配电网分层分布特征的任务调度方法,将广域化分布的计算任务进行分解后,选取最优的数据中心,并进行计算资源调度和计算任务调度,从而实现资源和任务的最优配置,不仅可以实现广域化分布的任务流调度,而且有利于加快配电网计算任务的处理速度。
在本发明的描述中,术语“第一”、“第二”仅用于描述目的,而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。由此,限定有“第一”、“第二”的特征可以明示或者隐含地包括一个或者更多个该特征。“多个”的含义是两个或两个以上,除非另有明确具体的限定。
在本说明书的描述中,参考术语“一个实施例”、“一些实施例”、“示例”、“具体示例”、或“一些示例”等的描述意指结合该实施例或示例描述的具体特征、结构、材料或者特点包含于本发明的至少一个实施例或示例中。在本说明书中,对上述术语的示意性表述不必须针对的是相同的实施例或示例。而且,描述的具体特征、结构、材料或者特点可以在任一个或多个实施例或示例中以合适的方式结合。此外,在不相互矛盾的情况下,本领域的技术人员可以将本说明书中描述的不同实施例或示例以及不同实施例或示例的特征进行结合和组合。
流程图中或在此以其他方式描述的任何过程或方法描述可以被理解为,表示包括一个或更多个用于实现特定逻辑功能或过程的步骤的可执行指令的代码的模块、片段或部分,并且本发明的优选实施方式的范围包括另外的实现,其中可以不按所示出或讨论的顺序,包括根据所涉及的功能按基本同时的方式或按相反的顺序,来执行功能,这应被本发明的实施例所属技术领域的技术人员所理解。
在流程图中表示或在此以其他方式描述的逻辑和/或步骤,例如,可以被认为是用于实现逻辑功能的可执行指令的定序列表,可以具体实现在任何计算机可读介质中,以供指令执行系统、装置或设备(如基于计算机的系统、包括处理器的系统或其他可以从指令执行系统、装置或设备取指令并执行指令的系统)使用,或结合这些指令执行系统、装置或设备而使用。就本说明书而言,“计算机可读介质”可以是任何可以包含、存储、通信、传播或传输程序以供指令执行系统、装置或设备或结合这些指令执行系统、装置或设备而使用的装置。计算机可读介质的更具体的示例(非穷尽性列表)包括以下:具有一个或多个布线的电连接部(电子装置),便携式计算机盘盒(磁装置),随机存取存储器(RAM),只读存储器(ROM),可擦除可编辑只读存储器(EPROM或闪速存储器),光纤装置,以及便携式光盘只读存储器(CDROM)。另外,计算机可读介质甚至可以是可在其上打印所述程序的纸或其他合适的介质,因为可以例如通过对纸或其他介质进行光学扫描,接着进行编辑、解译或必要时以其他合适方式进行处理来以电子方式获得所述程序,然后将其存储在计算机存储器中。
应当理解,本发明的各部分可以用硬件、软件、固件或它们的组合来实现。在上述实施方式中,多个步骤或方法可以用存储在存储器中且由合适的指令执行系统执行的软件或固件来实现。例如,如果用硬件来实现,和在另一实施方式中一样,可用本领域公知的下列技术中的任一项或他们的组合来实现:具有用于对数据信号实现逻辑功能的逻辑门电路的离散逻辑电路,具有合适的组合逻辑门电路的专用集成电路,可编程门阵列(PGA),现场可编程门阵列(FPGA)等。
本技术领域的普通技术人员可以理解实现上述实施例方法携带的全部或部分步骤是可以通过程序来指令相关的硬件完成,所述的程序可以存储于一种计算机可读存储介质中,该程序在执行时,包括方法实施例的步骤之一或其组合。
尽管已经示出和描述了本发明的实施例,对于本领域的普通技术人员而言,可以理解在不脱离本发明的原理和精神的情况下可以对这些实施例进行多种变化、修改、替换和变型,本发明的范围由所附权利要求及其等同物限定。
Claims (10)
1.一种基于配电网分层分布特征的任务调度系统,其特征在于,所述系统应用于广域化分布的多个数据中心,所述系统包括:
任务层,用于接收配电网计算请求,其中,所述配电网计算请求携带广域计算任务流,所述任务流包含多个计算任务,并将所述多个计算任务发送至规划层;
所述规划层,用于将每个所述计算任务分解为多个子任务,并将所述多个子任务发送至调度层;
所述调度层,用于从所述多个数据中心选择每个所述子任务对应的目标数据中心,将所述子任务上传至对应的所述目标数据中心,及进行计算资源调度和计算任务调度,以使所述目标数据中心对对应的所述子任务进行处理。
2.根据权利要求1所述的基于配电网分层分布特征的任务调度系统,其特征在于,所述规划层,在将每个所述计算任务进行分解为多个子任务时,具体用于:
采用基于逻辑关系的最优粒度分解法,根据所述计算任务的空间规则、要素规则、时序规则和功能规则将每个所述计算任务进行层次分解,直至将每个所述计算任务分解为多个最优粒度子任务。
3.根据权利要求2所述的基于配电网分层分布特征的任务调度系统,其特征在于,所述规划层,在根据所述计算任务的空间规则、要素规则、时序规则和功能规则将每个所述计算任务进行层次分解时,具体用于:
根据所述空间规则将每个所述计算任务分解为一个最优粒度子任务、一个第一子任务和一个第二子任务;
根据所述要素规则将所述第一子任务分解为两个最优粒度子任务,并根据所述要素规则将所述第二子任务分解为两个最优粒度子任务和一个第三子任务;
根据所述时序规则将所述第三子任务分解为两个最优粒度子任务和一个第四子任务;
根据所述功能规则将所述第四子任务分解为两个最优粒度子任务。
4.根据权利要求2所述的基于配电网分层分布特征的任务调度系统,其特征在于,所述调度层,在从所述多个数据中心选择每个所述子任务对应的目标数据中心时,具体用于:
确定每个所述数据中心的当前资源特征;
确定每个所述子任务的任务特征;
根据所述数据中心的当前资源特征和所述子任务的任务特征,从所述多个数据中心选择所述最优粒度子任务对应的目标数据中心。
5.根据权利要求4所述的基于配电网分层分布特征的任务调度系统,其特征在于,所述数据中心的当前资源特征包括:计算资源配置信息、已承载任务信息和当前计算资源利用率;
所述子任务的任务特征包括:复杂度、性能要求和待处理数据大小。
6.根据权利要求1所述的基于配电网分层分布特征的任务调度系统,其特征在于,所述调度层,在进行计算任务调度时,具体用于:
建立各个所述子任务之间的协作关系,并建立每个所述子任务与对应的计算资源之间的依赖关系;
根据所述协作关系和所述依赖关系进行各个所述子任务之间的调度。
7.根据权利要求1所述的基于配电网分层分布特征的任务调度系统,其特征在于,所述调度层,在进行计算资源调度时,具体用于:
确定每个所述数据中心的存储节点信息和网络传输特性参数;
根据所述存储节点信息和所述网络传输特性参数,对所述数据中心的各个存储节点进行调度。
8.根据权利要求7所述的基于配电网分层分布特征的任务调度系统,其特征在于,所述存储节点信息包括:存储节点的个数、不同存储节点上数据副本的个数、每个存储节点当前已有的访问请求及资源利用比率;
所述网络传输特性参数包括:并发任务数量、网络带宽参数、网络时延参数和通信质量参数。
9.根据权利要求1所述的基于配电网分层分布特征的任务调度系统,其特征在于,所述调度层,在使所述目标数据中心对对应的所述子任务进行处理时,具体用于:
确定所述目标数据中心的可用计算资源与对应的子任务数量;
如果所述可用计算资源的数量多于所述子任务数量,则构建时间–费用矩阵,根据所述时间–费用矩阵从所述可用计算资源中选取目标计算资源,并通过所述目标计算资源对所述目标数据中心对应的子任务进行处理;
如果所述目标数据中心的可用计算资源的数量少于所述子任务数量,则根据自动聚类策略对所述目标数据中心对应的子任务进行处理。
10.一种基于配电网分层分布特征的任务调度方法,其特征在于,所述方法应用于广域化分布的多个数据中心,所述方法包括:
接收配电网计算请求,其中,所述配电网计算请求携带广域计算任务流,所述任务流包含多个计算任务;
将每个所述计算任务分解为多个子任务;
从所述多个数据中心选择每个所述子任务对应的目标数据中心,将所述子任务上传至对应的所述目标数据中心,及进行计算资源调度和计算任务调度后使所述目标数据中心对对应的所述子任务进行处理。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111312158.9A CN114035919A (zh) | 2021-11-08 | 2021-11-08 | 基于配电网分层分布特征的任务调度系统及方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111312158.9A CN114035919A (zh) | 2021-11-08 | 2021-11-08 | 基于配电网分层分布特征的任务调度系统及方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN114035919A true CN114035919A (zh) | 2022-02-11 |
Family
ID=80143182
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202111312158.9A Pending CN114035919A (zh) | 2021-11-08 | 2021-11-08 | 基于配电网分层分布特征的任务调度系统及方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN114035919A (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114781900A (zh) * | 2022-05-07 | 2022-07-22 | 中国航空工业集团公司沈阳飞机设计研究所 | 一种多任务同时工作资源调度方法、系统及飞机 |
-
2021
- 2021-11-08 CN CN202111312158.9A patent/CN114035919A/zh active Pending
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114781900A (zh) * | 2022-05-07 | 2022-07-22 | 中国航空工业集团公司沈阳飞机设计研究所 | 一种多任务同时工作资源调度方法、系统及飞机 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Aburukba et al. | Scheduling Internet of Things requests to minimize latency in hybrid Fog–Cloud computing | |
Wang et al. | Multi-agent imitation learning for pervasive edge computing: A decentralized computation offloading algorithm | |
Nikoui et al. | Cost-aware task scheduling in fog-cloud environment | |
CN109788315A (zh) | 视频转码方法、装置及系统 | |
CN114610474B (zh) | 一种异构超算环境下多策略的作业调度方法及系统 | |
CN113946431B (zh) | 一种资源调度方法、系统、介质及计算设备 | |
Naik et al. | Workflow scheduling optimisation for distributed environment using artificial neural networks and reinforcement learning | |
Hu et al. | Requirement-aware scheduling of bag-of-tasks applications on grids with dynamic resilience | |
Tchernykh et al. | Mitigating uncertainty in developing and applying scientific applications in an integrated computing environment | |
CN114035919A (zh) | 基于配电网分层分布特征的任务调度系统及方法 | |
CN112437449B (zh) | 联合资源分配方法 | |
Yu et al. | Efficient computation offloading in edge computing enabled smart home | |
CN116996941A (zh) | 基于配网云边端协同的算力卸载方法、装置及系统 | |
CN116402318A (zh) | 面向配电网的多级算力资源分配方法、装置及网络架构 | |
CN116389591A (zh) | 一种基于跨域分布式处理系统及调度优化方法 | |
Tuli et al. | Optimizing the Performance of Fog Computing Environments Using AI and Co-Simulation | |
Fang et al. | A Scheduling Strategy for Reduced Power Consumption in Mobile Edge Computing | |
Dai et al. | Collaborative task scheduling with new task arrival in cloud manufacturing using improved multi-population biogeography-based optimization | |
Masdari et al. | Energy-aware computation offloading in mobile edge computing using quantum-based arithmetic optimization algorithm | |
CN109600251B (zh) | 一种虚拟网络部署方法、系统及装置 | |
Hu et al. | Joint deployment and request routing for microservice call graphs in data centers | |
Wang et al. | A genetic algorithm based efficient static load distribution strategy for handling large-scale workloads on sustainable computing systems | |
CN116089021B (zh) | 面向深度学习的大规模负载混部调度方法、装置及介质 | |
Banerjee et al. | Advanced task scheduling for cloud service provider using genetic algorithm | |
Tang et al. | A Survey on Scheduling Techniques in Computing and Network Convergence |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |