CN113434265A - 工作流调度方法、服务器和介质 - Google Patents
工作流调度方法、服务器和介质 Download PDFInfo
- Publication number
- CN113434265A CN113434265A CN202010207152.4A CN202010207152A CN113434265A CN 113434265 A CN113434265 A CN 113434265A CN 202010207152 A CN202010207152 A CN 202010207152A CN 113434265 A CN113434265 A CN 113434265A
- Authority
- CN
- China
- Prior art keywords
- node
- nodes
- operated
- workflow
- degree
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/48—Program initiating; Program switching, e.g. by interrupt
- G06F9/4806—Task transfer initiation or dispatching
- G06F9/4843—Task transfer initiation or dispatching by program, e.g. task dispatcher, supervisor, operating system
- G06F9/4881—Scheduling strategies for dispatcher, e.g. round robin, multi-level priority queues
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q10/00—Administration; Management
- G06Q10/10—Office automation; Time management
- G06Q10/103—Workflow collaboration or project management
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q40/00—Finance; Insurance; Tax strategies; Processing of corporate or income taxes
- G06Q40/12—Accounting
- G06Q40/125—Finance or payroll
Abstract
本发明提供了一种工作流调度方法、服务器和介质。该方法包括:在组成待运行工作流的有向无环图的全部节点中,选择入度数为初始值且状态为待运行的一个或多个节点,作为待运行节点;将所述待运行节点运行完成,得到运行完成节点;将所述运行完成节点的下游节点的入度数减少一个预设单位。本发明减小了上游节点任务状态检查耗时长对调度性能造成的影响。
Description
技术领域
本发明涉及信息处理领域,具体而言,涉及一种工作流调度方法、服务器和介质。
背景技术
随着网络的发展,信息处理越来越规模化。经常需要对包含许许多多任务的工作流进行调度。调度的含义是将工作流中的各节点任务根据节点任务的性质分配到不同的任务执行节点去执行。在工作流中,各节点任务有其自己的上游节点任务和下游节点任务。上游节点任务是指当前节点任务的执行所依赖的节点任务,只有当前节点任务的上游节点任务全都执行完毕,当前节点任务才能执行。下游节点任务是指依赖当前节点任务的执行的节点任务。当前节点任务执行完后,下游节点任务才能执行。
由于工作流中,各节点任务存在依赖关系,在大数据的情形下,某个节点任务的执行可能依赖几万或数十万的上游节点任务的执行,因此,当调用当前节点任务执行时,会因为依赖的上游节点任务过多,上游节点任务状态检查要花费大量时间,会造成执行节点任务延迟,调度性能不高。
发明内容
有鉴于此,本发明旨在减小上游节点任务状态检查耗时长对调度性能造成的影响。
为了达到这个目的,根据本发明的第一方面,本发明实施例提供了一种工作流调度方法,包括:
在组成待运行工作流的有向无环图的全部节点中,选择入度数为初始值且状态为待运行的一个或多个节点,作为待运行节点;
将所述待运行节点运行完成,得到运行完成节点;
将所述运行完成节点的下游节点的入度数减少一个预设单位。
可选地,所述方法还包括:计算所述待运行工作流的有向无环图的全部节点的入度数。
可选地,所述全部节点中的根节点的入度数为初始值。
可选地,所述计算所述待运行工作流的有向无环图的全部节点的入度数,包括:
确定所述有向无环图中指向某一特定节点的有向边数;
将所述有向变数乘以预设单位再加上所述初始值的结果,作为所述特定节点的入度数。
可选地,将所述待运行节点运行完成,得到运行完成节点的过程中,所述方法还包括:
运行过程中,标记节点状态为运行中;
运行完成后,标记节点状态为终态。
可选地,所述方法还包括:将所述全部节点的入度数发送至服务器进行保存;相应地,所述将所述运行完成节点的下游节点的入度数减少一个预设单位,包括:在所述服务器上将所述运行完成节点的下游节点的入度数减少一个预设单位。
根据本发明的第二方面,提供了一种工作流调度装置,包括:
待运行节点选择单元,用于在组成待运行工作流的有向无环图的全部节点中,选择入度数为初始值且状态为待运行的一个或多个节点,作为待运行节点;
运行单元,用于将所述待运行节点运行完成,得到运行完成节点;
入度数减少单元,用于将所述运行完成节点的下游节点的入度数减少一个预设单位。
可选地,所述装置还包括:入度数计算单元,用于计算所述待运行工作流的有向无环图的全部节点的入度数。
可选地,所述全部节点中的根节点的入度数为初始值。
可选地,所述入度数计算单元进一步用于:
确定所述有向无环图中指向某一特定节点的有向边数;
将所述有向变数乘以预设单位再加上所述初始值的结果,作为所述特定节点的入度数。
可选地,所述运行单元进一步用于:
在运行过程中,标记节点状态为运行中;
在运行完成后,标记节点状态为终态。
可选地,所述装置还包括:发送单元,用于将所述全部节点的入度数发送至服务器进行保存;相应地,所述入度数减少单元进一步用于:在所述服务器上将所述运行完成节点的下游节点的入度数减少一个预设单位。
根据本发明的第三方面,提供了一种工作流调度服务器,包括:存储器,用于存储计算机可执行代码;处理器,用于执行所述存储器存储的计算机可执行代码,以实现根据如上所述的方法。
根据本发明的第四方面,提供了一种计算机存储介质,所述计算机存储介质存储计算机可执行代码,当所述计算机可执行代码被处理器执行时,实现如上所述的方法。
本发明实施例首先在组成待运行工作流的有向无环图的全部节点中,选择入度数为初始值且状态为待运行的一个或多个节点,作为待运行节点。入度数是初始值,表明了该节点的所有上游节点都已经执行完,可以将其执行,执行完后,将该节点的所有下游节点的入度数减少一个预设单位。当其下游某个节点入度数又减少为初始值时,其又可以执行了。通过这种不断选择入度数为初始值且状态为待运行的一个或多个节点来执行,执行完再减少下游节点的入度数的方式,实现了每个节点都是在其上游节点被执行完后执行的目的。其不用费时检查上游节点任务状态,也能正常进行工作流调度,减小了上游节点任务状态检查耗时长对调度性能造成的影响。
附图说明
通过参考以下附图对本发明实施例的描述,本发明的上述以及其它目的、特征和优点将更为清楚,在附图中:
图1示出了根据本发明实施例的工作流调度方法所应用的体系构架图;
图2A、B分别是图1的体系结构图应用于财务审批流、网站利用大数据处理结果来运维的场景下的示意图;
图3A-C分别示出了有向树、有向无环图和有向有环图的例子;
图4示出了根据本发明一个实施例的工作流调度方法的流程图;
图5示出了根据本发明一个实施例的利用节点任务的字段来区分入度数和状态的示意图;
图6示出了根据本发明一个实施例的将入度数和状态存储在与节点任务不同的分区的示意图;
图7示出了根据本发明一个实施例的工作流调度装置的框图;
图8示出了根据本发明一个实施例的工作流调度服务器的结构图。
具体实施方式
以下基于实施例对本发明进行描述,但是本发明并不仅仅限于这些实施例。在下文对本发明的细节描述中,详尽描述了一些特定的细节部分。对本领域技术人员来说没有这些细节部分的描述也可以完全理解本发明。为了避免混淆本发明的实质,公知的方法、过程、流程没有详细叙述。另外附图不一定是按比例绘制的。
图1示出了根据本发明实施例的工作流调度方法所应用的体系构架图。该体系构架包括工作调度服务器110、工作流产生终端120、数据库130和任务执行单元群组140。任务执行单元群组140包括多个任务执行单元141。
工作流产生终端120是产生待运行工作流的终端。工作流就是由一系列任务组成、合在一起完成一项总体的工作的流。流中的每个任务称为一个节点。待运行工作流就是要运行的工作流,将工作流的各节点按照依赖关系的顺序运行后,完成了总体工作。待运行工作流的实质是用于执行特定工作的程序代码集合,其中每个节点相当于一个代码块。代码块调用之前的代码块,或引用之前的代码块生成的计算结果,这就是节点的依赖关系。
工作调度服务器110是本发明实施例的核心部件,它完成工作流中的各个节点向真正执行它们的任务执行单元141的分配,从而让相应任务执行单元141执行,完成总体工作。
数据库130是存储节点的执行过程中需要的各种信息的库。
任务执行单元141是执行节点任务的单元,它接收工作流调度服务器110的调度执行相应节点任务。
上述的工作流调度服务器110可以体现为单台计算机的形式,也可以体现为多台计算机构成的集合。当体现为多台计算机构成的集合时,多台计算机相互配合,各自完成一部分调度工作。
上述的任务执行单元141可以是单台计算机,也可以是单台计算机的一部分,例如在单台物理机上划分出的虚拟机。在一些情况下,任务执行单元群组140可以是单台计算机,每个任务执行单元141可以是该计算机上划分出的虚拟机。
图2A-B分别是图1的体系结构图应用于财务审批流、网站利用大数据处理结果来运维的场景下的示意图。
在图2A的财务审批流的应用场景之下,工作流产生终端120具体化为财务审批流产生终端,它可能是一个具体的经办人员的终端,例如手机。当经办人员因公务需要,需要从公司预先支取一笔款项时,其从自己的手机的应用上发起预先支取的请求,该请求要经过基层领导、中层领导、高层领导的层次审批。这次财务审批流可能包括依次连接的3个节点,分别是基层领导审批、中层领导审批、高层领导审批。这个工作流的执行都是各层领导依次审批的过程。
工作流调度服务器110在这里具体化为一个财务审批流调度服务器,它将工作流中的各个节点,即基层领导审批、中层领导审批、高层领导审批,分别调度到基层审批单元、中层审批单元、高层审批单元去审批。由于中层审批节点的审批要依赖于基层审批节点审批完毕,高层审批节点的审批要依赖于中层审批节点审批完毕,因此,这种调度应该是有序的、考虑各节点之间的依赖关系的合理调度。
数据库130在这里具体化为财务数据库,其放置基层领导审批、中层领导审批、高层领导审批的节点需要的数据。
各任务执行单元141在这里具体化为基层审批单元、中层审批单元、高层审批单元。基层领导审批、中层领导审批、高层领导审批分别是由基层审批单元、中层审批单元、高层审批单元执行的。
当具体经办人员产生财务用款需求时,在其手机,即财务审批产生终端120上,发送一个待运行财务审批流到财务审批流调度服务器110。财务审批流调度服务器110将财务审批流中的各节点调度给基层、中层、高层审批节点141执行。在调度时,要考虑到各节点之间的依赖关系,即,只有一个节点的上游节点全部执行完毕后,该节点才能调度执行,否则会因为依赖其上游节点的执行结果而不能得到执行。
在图2B的网站利用大数据处理结果来运维的场景之下,用户终端170是使用互联网160的用户的终端,它可以是计算机终端,也可以是诸如手机、PDA等移动终端,也可以是车载终端等专用设备终端。
用户终端170通过互联网160访问特定网站或使用特定应用,特定网站或应用的服务器端会设置前端服务器150,用于收集用户在特定网站或特定应用操作的基础数据,例如,用户在XX年X月X日X时X分访问了网站主页上的某个链接(如淘宝网站上的某商品链接)。目前的网站或应用一般都会利用这些基础数据进行大数据分析,分析出用户的浏览偏好,以为用户之后在网页上多推荐符合其偏好的商品等。这种大数据分析可能是针对一个用户的,例如分析该用户的浏览偏好,也可能是针对总体用户的,例如,如果网页上的某个商品很长时间没有被用户浏览,或成交,说明其不符合大多数用户偏好,可能不再向用户推荐,等等。为了进行这种大数据分析,前端服务器150将带有收集的用户基础数据的待运行工作流(用于大数据分析的工作流)发送到大数据处理流调度服务器110。这里的前端服务器150相当于图1中的工作流产生终端120,大数据处理流调度服务器110即图1中的工作流调度服务器。
用于大数据分析的工作流中包含大量节点,这些节点不是在大数据处理流调度服务器110上执行的,而是调度到大数据处理单元群组140中的各大数据处理单元141执行的。这里的各大数据处理单元141就是图1的任务执行单元。大数据处理单元群组140就是图1的任务执行单元群组。大数据处理流调度服务器110在调度大数据处理流中的各节点给各大数据处理单元141执行时,要考虑到各节点之间的依赖关系。
当大数据处理流中的各节点全部调度到各大数据处理单元141执行完成后,各大数据处理单元141将处理结果返回给处理结果运营节点180,由处理结果运营节点180按照处理结果(例如得到的用户偏好等)控制前端服务器150调整对用户界面的显示,使得向用户显示的界面反映大数据处理结果。
在介绍本发明实施例的具体工作流调度方法之前,先介绍一下有向无环图、以及它与有向树、有向有环图的区别。
图3A-C分别示出了有向树、有向无环图和有向有环图的例子。在图论中,图是用边将若干顶点或节点连接起来而形成的形状。如果图中的每条边是有方向的,则图是有向图,反之是无向图。可以用有向图来表示一个工作流。工作流是由节点组成的,每个节点如图3A-C的一个带字母的圆圈。各节点的依赖关系看作是有向边,方向用箭头表示。如果节点B的执行依赖于节点A的执行,则用一条由A指向B的带箭头的有向边表示B对A的依赖关系。节点A可以看作节点B的上游节点任务。节点B可以看作节点A的下游节点任务。
如果一个有向图从任意节点出发都无法经过若干条边回到该节点,该有向图叫做有向无环图。如图3B中,从任意一个节点210出发都无法经过若干条边回到该节点210。如果一个有向图从至少一个节点出发能够经过若干条边回到该节点,该有向图叫做有向有环图。如图3C中,从节点B出发经过节点D、F,最终又回到了节点B,即形成了节点B、D、F组成的环,图3C是一个有向有环图。有向树是有向无环图的特例,有向树是每个顶点或节点都最多只有一个上游节点的有向无环图,即指向每个节点的有向边数最多只有一个。如图3A中,顶点或节点A没有有向边指向其,顶点B-E分别各有一个有向边指向其。
本发明实施例中,画出待运行工作流的每个节点,并用节点之间的有向边表示节点之间的依赖关系,待运行工作流就可以转换为一个图。如果这个图是有向无环图,就可以利用本发明实施例的方法进行工作流调度。如果这个图是有向有环图,在该环内会陷入死循环,不能应用本发明实施例的方法。
如图4所示,根据本发明一个实施例的工作流调度方法包括:步骤410、在组成待运行工作流的有向无环图的全部节点中,选择入度数为初始值且状态为待运行的一个或多个节点,作为待运行节点;步骤420、将所述待运行节点运行完成,得到运行完成节点;步骤430、将所述运行完成节点的下游节点的入度数减少一个预设单位。
该方法是由图1的工作流调度服务器110执行的。下面对这些步骤分别详细描述。
在步骤410中,在组成待运行工作流的有向无环图的全部节点中,选择入度数为初始值且状态为待运行的一个或多个节点,作为待运行节点。
在步骤410之前,可以计算出待运行工作流的有向无环图的全部节点的入度数。
待运行工作流是由工作流调度服务器110从工作流产生终端120接收的工作流。画出待运行工作流的每个节点,并用节点之间的有向边表示节点之间的依赖关系,这样,就可以将待运行工作流转换为一个有向无环图。入度数是反映有向无环图中的一个节点的执行所依赖的还未执行完的节点多少的量,入度数越高,往往意味着其依赖的节点越多。一般来说,要等到节点的入度数体现出其依赖的节点全执行完(或者说,其依赖的、且未执行完的节点为0),才能开始执行该节点。
在一个实施例中,可以通过以下方式,计算所述待运行工作流的有向无环图的全部节点的入度数:确定所述有向无环图中指向某一特定节点的有向边数;将所述有向变数乘以预设单位再加上所述初始值的结果,作为所述特定节点的入度数。
有向无环图中,没有任何有向边指向其的节点为根节点,如图3A-B中的节点A。也就是说,从根节点只有有向边指向其它节点,没有有向边从其它节点执行根节点。根节点的入度数为初始值。给其它节点的入度数也指定同样的初始值,然后,该节点每有一个有向边指向其,就在该初始值的基础上加一个预设单位,最后得到的值就是该节点的入度数。也就是说,节点的入度数等于所述有向无环图中指向节点的有向边数乘以预设单位,再加上所述初始值的结果。例如,在图3B中,对于节点E来说,指向其的有向边数为2,初始值为3,预设单位为2,则节点E的入度数为3+2×2=7;节点E的执行要依赖于节点B和C的执行完毕;对于节点D来说,指向其的有向边数为1,则节点D的入度数为3+2×1=5,节点D的执行要依赖于节点B的执行完毕。
在一个特例中,初始值为0,预设单位为1,这样,入度数与有向无环图中指向节点的有向边数是相等的。
计算出全部节点的入度数后,可以将所述全部节点的入度数发送至工作流调度服务器110进行保存,工作流调度服务器110也可以将其存储在数据库130中。
在保存时,入度数可以以增设字段的形式存储在节点任务中,也可以在专门的存储区内保存。节点任务是一个数据结构,其中存储了该节点对应的执行代码。
在增设字段的方式中,为所述节点任务增加入度数字段,填充确定的入度数,将填充后的节点任务进行存储。如图5所示,可以给节点任务增加入度数字段530,放置确定的入度数。节点任务还包括节点任务内容字段520,放置该节点任务的内容,即节点对应的执行代码。另外,该节点任务中还可以包括节点任务标识字段,用于放置为该节点任务分配的标识,该标识使该节点任务区别于其他节点任务。
在增设存储区的方式中,如图6所示,可以设置节点任务区610和入度数存储区620,分别用来存储节点任务和对应的入度数。可以将节点任务发送到所述节点任务区610存储,将所述入度数613与节点任务标识611关联发送到所述入度数存储区620存储。将所述入度数613与节点任务标识611关联存储是为了之后凭该节点任务标识611能够在节点任务区610中找回该节点任务标识611对应的节点任务内容。一般来说,节点任务标识611是节点任务的一部分,节点任务一般包括节点任务标识611和节点任务的执行代码(节点任务内容)612。
另外,在后续取节点任务运行时,不仅要考察入度数,可能还要考察运行状态。因此,还要表示出节点任务的运行状态供之后查找。表示节点任务的运行状态,也可以通过增设字段的方式,和增设存储区的方式。
在增设字段的方式中,如图5所示,可以为所述节点任务增加运行状态字段540,表示节点任务运行的状态,即待运行,还是运行中,还是终态。在本步骤中,需要在增加的运行状态字段中填充待运行。
在增设存储区的方式中,如图6所示,数据库130还包括运行状态存储区630,用来存储节点任务的运行状态。本步骤中,可以将待运行的运行状态614与节点任务标识611关联存储到运行状态存储区630。将所述运行状态614与节点任务标识611关联存储是为了之后凭该节点任务标识611能够在节点任务区610中找回该节点任务标识611对应的节点任务内容。
如上所述,节点的入度数等于所述有向无环图中指向节点的有向边数乘以预设单位,再加上所述初始值的结果。其相当于,节点的初始入度数为所述初始值,然后,该节点每有一个有向边指向其,就在该初始值的基础上加一个预设单位,最后得到的值就是该节点的入度数。但是,如果其上游的节点(有向边执行其的节点)执行完,就将该节点的入度数再减一个预设单位。这样,当节点上游的节点全都执行完后,入度数又变回初始值。这样,只有在全部节点中,选择入度数为初始值且状态为待运行的一个或多个节点,作为待运行节点,这些待运行节点由于没有其依赖的、还未执行完的节点,就可以立即运行。另外,之所以要检查状态是否为待运行,是因为有些节点入度数为初始值,但它可以执行过了,因此,不检查运行状态,会导致重复执行。
在图5所示的设置入度数字段的情况下,判定入度数为初始值,是通过判断各待运行节点任务的入度数字段是否为初始值进行的。
在图5所示的设置运行状态字段的情况下,判定节点任务是否待运行,是通过判断各节点任务的运行状态字段是否是未运行来进行的。
综上所述,如果入度数字段为0,且运行状态字段为待运行,则取出该节点作为待运行节点。
在图6所示的设置入度数存储区620的情况下,选择入度数为初始值的节点,是通过从所述入度数存储区620查找入度数为初始值的节点任务标识,按照找到的节点任务标识在所述节点任务区610查找对应的节点任务进行的。也就是说,首先,在入度数存储区620找到为初始值的那些入度数对应的任务标识,再根据这些任务标识在节点任务区610中找到对应的节点任务。
在图6所示的设置运行状态存储区630的情况下,选择状态为待运行的节点,是通过从所述运行状态存储区630查找运行状态为待运行的节点任务标识,按照找到的节点任务标识在所述节点任务区610查找对应的节点任务取出实现的。也就是说,首先,在运行状态存储区620找到待运行的运行状态对应的任务标识,再根据这些任务标识在节点任务区610中找到对应的节点任务。
综上所述,在一个实施例中,选择入度数为初始值的、且状态为待运行的一个或多个节点,作为待运行节点,可以通过先在所述入度数存储区620查找入度数为初始值的节点任务标识,然后在所述运行状态存储区630中判定这些节点任务标识的每一个是否对应的运行状态为待运行,找出这些节点任务标识中运行状态为待运行的节点任务标识,在节点任务区610中确定找到的节点任务标识对应的节点任务取出。
在另一个实施例中,选择入度数为初始值的、且状态为待运行的一个或多个节点,作为待运行节点,可以通过先在所述运行状态存储区630查找运行状态为待运行的节点任务标识,然后在所述入度数存储区620中判定这些节点任务标识的每一个是否对应的入度数为初始值,找出这些节点任务标识中入度数为初始值的节点任务标识,在节点任务区610中确定找到的节点任务标识对应的节点任务取出。
在步骤420中,将所述待运行节点运行完成,得到运行完成节点。
将所述待运行节点运行完成,是指如图1所示,将待运行节点分配给任务执行单元140执行。执行过程中,待运行节点成为运行中节点,这时需要标记节点状态为运行中。执行完成后,运行中节点成为运行完成节点,这时需要标记节点状态为终态。当需要标记节点状态为运行中时,在上述运行状态由运行状态字段表示的情况下和运行状态存储在运行状态存储区的情况下,修改方式又有不同。
在运行状态由运行状态字段表示的情况下,可以直接将取出的入度数为初始值的、且状态为待运行的节点任务的运行状态字段改为运行中。而在运行状态存储在运行状态存储区的情况下,就需要将所述运行状态存储区630中与取出的节点任务标识对应的运行状态改为运行中。当需要标记节点状态为终态时,在上述运行状态由运行状态字段表示的情况下和运行状态存储在运行状态存储区的情况下,修改方式不同。在运行状态由运行状态字段表示的情况下,可以直接将该执行完成的节点任务的运行状态字段改为终态。而在运行状态存储在运行状态存储区的情况下,就需要将所述运行状态存储区630中与该执行完成的节点任务标识对应的运行状态改为终态。
在步骤430中,将所述运行完成节点的下游节点的入度数减少一个预设单位。
对于当前节点来说,下游节点是指在有向无环图中有有向边从当前节点指向其的节点。
如上所述,可以将节点的初始入度数看成所述初始值,然后,该节点每有一个有向边指向其,就在该初始值的基础上加一个预设单位,最后得到的值就是该节点的入度数。然后,如果其上游的节点(有向边执行其的节点)执行完,就将该节点的入度数再减一个预设单位。这样,当节点上游的节点全都执行完后,入度数又变回初始值。这样,该节点就可以作为待运行节点了。因此,一旦某一节点被执行完,需要将其下游节点的入度数减少一个预设单位,这样,之后的过程中,才能继续正确找出待运行节点。
在上述入度数由入度数字段表示的情况下和入度数存储在入度数存储区的情况下,减少一个预设单位的方式又有不同。
在入度数由入度数字段表示的情况下,可以直接找到这些下游节点任务,将其入度数字段减一个预设单位。在入度数存储在入度数存储区620的情况下,就需要根据这些下游节点任务的标识,在入度数存储区620中找到这些标识对应的入度数,将其减一个预设单位。
现有技术有一种全量加载工作流到工作流调度服务器110的调度方式。即,全量加载工作流的所有节点到工作流调度服务器110中,从根节点开始调度。在调度某一节点运行时,在工作流调度服务器110中逐一遍历所有上游节点状态,满足运行条件后开始运行该节点。这种全量加载的做法占用内存太大,受内存大小影响,可同时运行的工作流节点数量有限制。本发明实施例每次只取出入度数为初始值的、且状态为待运行的节点任务运行,不需要遍历所有节点,大大提高了效率,且降低了使用内存。
现有技术还有一种把工作流存储在数据库中,频繁与数据库交互的方式。即,把待运行工作流存储到数据库中。调度某一节点时,从数据库获取该节点任务的上游节点任务状态信息,并逐一遍历检查,满足节点运行条件即可运行。这种方案在遍历该节点任务的上游节点任务状态信息时,会频繁与数据库交互,对数据库性能有依赖。当数据量达到一定级别后,会出现查询性能瓶颈,对节点任务的最大入度数有限制,这个限制阈值和数据库性能有关。本发明实施例直接从所述数据库中取出入度数为初始值的、且状态为待运行的节点运行,不需要反复交互,减少了对数据库性能的依赖。
如图7所示,根据本公开的一个实施例,提供了一种工作流调度装置700包括:
待运行节点选择单元710,用于在组成待运行工作流的有向无环图的全部节点中,选择入度数为初始值且状态为待运行的一个或多个节点,作为待运行节点;
运行单元720,用于将所述待运行节点运行完成,得到运行完成节点;
入度数减少单元730,用于将所述运行完成节点的下游节点的入度数减少一个预设单位。
可选地,所述装置700还包括:入度数计算单元(未示),用于计算所述待运行工作流的有向无环图的全部节点的入度数。
可选地,所述全部节点中的根节点的入度数为初始值。
可选地,所述入度数计算单元进一步用于:
确定所述有向无环图中指向某一特定节点的有向边数;
将所述有向变数乘以预设单位再加上所述初始值的结果,作为所述特定节点的入度数。
可选地,所述运行单元720进一步用于:
在运行过程中,标记节点状态为运行中;
在运行完成后,标记节点状态为终态。
可选地,所述装置还包括:发送单元(未示),用于将所述全部节点的入度数发送至服务器进行保存;相应地,所述入度数减少单元进一步用于:在所述服务器上将所述运行完成节点的下游节点的入度数减少一个预设单位。
下面参照图8来描述根据本公开实施例的工作流调度服务器110的硬件结构。图8显示的工作流调度服务器110仅仅是一个示例,不应对本公开实施例的功能和使用范围带来任何限制。
如图8所示,工作流调度服务器110以通用计算设备的形式表现。工作流调度服务器110的组件可以包括但不限于:上述至少一个处理单元810、上述至少一个存储单元820、连接不同系统组件(包括存储单元820和处理单元810)的总线830。
其中,所述存储单元存储有程序代码,所述程序代码可以被所述处理单元810执行,使得所述处理单元810执行本说明书上述示例性方法的描述部分中描述的本发明各种示例性实施方式的步骤。例如,所述处理单元810可以执行如图4中所示的各个步骤。
存储单元820可以包括易失性存储单元形式的可读介质,例如随机存取存储单元(RAM)8201和/或高速缓存存储单元8202,还可以进一步包括只读存储单元(ROM)8203。
存储单元820还可以包括具有一组(至少一个)程序模块8205的程序/实用工具8204,这样的程序模块8205包括但不限于:操作系统、一个或者多个应用程序、其它程序模块以及程序数据,这些示例中的每一个或某种组合中可能包括网络环境的实现。
总线830可以为表示几类总线结构中的一种或多种,包括存储单元总线或者存储单元控制器、外围总线、图形加速端口、处理单元或者使用多种总线结构中的任意总线结构的局域总线。
工作流调度服务器110也可以与一个或多个外部设备700(例如键盘、指向设备、蓝牙设备等)通信,还可与一个或者多个使得用户能与该工作流调度服务器110交互的设备通信,和/或与使得该工作流调度服务器110能与一个或多个其它计算设备进行通信的任何设备(例如路由器、调制解调器等等)通信。这种通信可以通过输入/输出(I/O)接口850进行。并且,工作流调度服务器110还可以通过网络适配器860与一个或者多个网络(例如局域网(LAN),广域网(WAN)和/或公共网络,例如因特网)通信。如图所示,网络适配器860通过总线830与工作流调度服务器110的其它模块通信。应当明白,尽管图中未示出,可以结合工作流调度服务器110使用其它硬件和/或软件模块,包括但不限于:微代码、设备驱动器、冗余处理单元、外部磁盘驱动阵列、RAID系统、磁带驱动器以及数据备份存储系统等。
通过以上的实施方式的描述,本领域的技术人员易于理解,这里描述的示例实施方式可以通过软件实现,也可以通过软件结合必要的硬件的方式来实现。因此,根据本公开实施方式的技术方案可以以软件产品的形式体现出来,该软件产品可以存储在一个非易失性存储介质(可以是CD-ROM,U盘,移动硬盘等)中或网络上,包括若干指令以使得一台计算设备(可以是个人计算机、服务器、终端装置、或者网络设备等)执行根据本公开实施方式的方法。
在本公开的示例性实施例中,还提供了一种计算机程序介质,其上存储有计算机可读指令,当所述计算机可读指令被计算机的处理器执行时,使计算机执行上述方法实施例描述的方法。
根据本公开的一个实施例,还提供了一种用于实现上述方法实施例中的方法的程序产品,其可以采用便携式紧凑盘只读存储器(CD-ROM)并包括程序代码,并可以在终端设备,例如个人电脑上运行。然而,本发明的程序产品不限于此,在本文件中,可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。
所述程序产品可以采用一个或多个可读介质的任意组合。可读介质可以是可读信号介质或者可读存储介质。可读存储介质例如可以为但不限于电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。可读存储介质的更具体的例子(非穷举的列表)包括:具有一个或多个导线的电连接、便携式盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。
计算机可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了可读程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。可读信号介质还可以是可读存储介质以外的任何可读介质,该可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。
可读介质上包含的程序代码可以用任何适当的介质传输,包括但不限于无线、有线、光缆、RF等等,或者上述的任意合适的组合。
可以以一种或多种程序设计语言的任意组合来编写用于执行本发明操作的程序代码,所述程序设计语言包括面向对象的程序设计语言—诸如Java、C++等,还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、作为一个独立的软件包执行、部分在用户计算设备上部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。在涉及远程计算设备的情形中,远程计算设备可以通过任意种类的网络,包括局域网(LAN)或广域网(WAN),连接到用户计算设备,或者,可以连接到外部计算设备(例如利用因特网服务提供商来通过因特网连接)。
应当注意,尽管在上文详细描述中提及了用于动作执行的设备的若干模块或者单元,但是这种划分并非强制性的。实际上,根据本公开的实施方式,上文描述的两个或更多模块或者单元的特征和功能可以在一个模块或者单元中具体化。反之,上文描述的一个模块或者单元的特征和功能可以进一步划分为由多个模块或者单元来具体化。
此外,尽管在附图中以特定顺序描述了本公开中方法的各个步骤,但是,这并非要求或者暗示必须按照该特定顺序来执行这些步骤,或是必须执行全部所示的步骤才能实现期望的结果。附加的或备选的,可以省略某些步骤,将多个步骤合并为一个步骤执行,以及/或者将一个步骤分解为多个步骤执行等。
通过以上的实施方式的描述,本领域的技术人员易于理解,这里描述的示例实施方式可以通过软件实现,也可以通过软件结合必要的硬件的方式来实现。因此,根据本公开实施方式的技术方案可以以软件产品的形式体现出来,该软件产品可以存储在一个非易失性存储介质(可以是CD-ROM,U盘,移动硬盘等)中或网络上,包括若干指令以使得一台计算设备(可以是个人计算机、服务器、移动终端、或者网络设备等)执行根据本公开实施方式的方法。
本领域技术人员在考虑说明书及实践这里公开的发明后,将容易想到本公开的其它实施方案。本申请旨在涵盖本公开的任何变型、用途或者适应性变化,这些变型、用途或者适应性变化遵循本公开的一般性原理并包括本公开未公开的本技术领域中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的,本公开的真正范围和精神由所附的权利要求指出。
Claims (14)
1.一种工作流调度方法,其特征在于,包括:
在组成待运行工作流的有向无环图的全部节点中,选择入度数为初始值且状态为待运行的一个或多个节点,作为待运行节点;
将所述待运行节点运行完成,得到运行完成节点;
将所述运行完成节点的下游节点的入度数减少一个预设单位。
2.根据权利要求1所述的方法,其特征在于,所述方法还包括:
计算所述待运行工作流的有向无环图的全部节点的入度数。
3.根据权利要求1或2所述的方法,其特征在于,所述全部节点中的根节点的入度数为初始值。
4.根据权利要求2所述的方法,其特征在于,所述计算所述待运行工作流的有向无环图的全部节点的入度数,包括:
确定所述有向无环图中指向某一特定节点的有向边数;
将所述有向变数乘以预设单位再加上所述初始值的结果,作为所述特定节点的入度数。
5.根据权利要求1所述的方法,其特征在于,将所述待运行节点运行完成,得到运行完成节点的过程中,所述方法还包括:
运行过程中,标记节点状态为运行中;
运行完成后,标记节点状态为终态。
6.根据权利要求2所述的方法,其特征在于,所述方法还包括:
将所述全部节点的入度数发送至服务器进行保存;
相应地,所述将所述运行完成节点的下游节点的入度数减少一个预设单位,包括:
在所述服务器上将所述运行完成节点的下游节点的入度数减少一个预设单位。
7.一种工作流调度装置,其特征在于,包括:
待运行节点选择单元,用于在组成待运行工作流的有向无环图的全部节点中,选择入度数为初始值且状态为待运行的一个或多个节点,作为待运行节点;
运行单元,用于将所述待运行节点运行完成,得到运行完成节点;
入度数减少单元,用于将所述运行完成节点的下游节点的入度数减少一个预设单位。
8.根据权利要求7所述的装置,其特征在于,所述装置还包括:
入度数计算单元,用于计算所述待运行工作流的有向无环图的全部节点的入度数。
9.根据权利要求7或8所述的装置,其特征在于,所述全部节点中的根节点的入度数为初始值。
10.根据权利要求8所述的装置,其特征在于,所述入度数计算单元进一步用于:
确定所述有向无环图中指向某一特定节点的有向边数;
将所述有向变数乘以预设单位再加上所述初始值的结果,作为所述特定节点的入度数。
11.根据权利要求7所述的装置,其特征在于,所述运行单元进一步用于:
在运行过程中,标记节点状态为运行中;
在运行完成后,标记节点状态为终态。
12.根据权利要求8所述的装置,其特征在于,所述装置还包括:
发送单元,用于将所述全部节点的入度数发送至服务器进行保存;
相应地,所述入度数减少单元进一步用于:在所述服务器上将所述运行完成节点的下游节点的入度数减少一个预设单位。
13.一种工作流调度服务器,其特征在于,包括:
存储器,用于存储计算机可执行代码;
处理器,用于执行所述存储器存储的计算机可执行代码,以实现根据权利要求1-6中任一个所述的方法。
14.一种计算机存储介质,其特征在于,所述计算机存储介质存储计算机可执行代码,当所述计算机可执行代码被处理器执行时,实现根据权利要求1-6中任一个所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010207152.4A CN113434265A (zh) | 2020-03-23 | 2020-03-23 | 工作流调度方法、服务器和介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010207152.4A CN113434265A (zh) | 2020-03-23 | 2020-03-23 | 工作流调度方法、服务器和介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN113434265A true CN113434265A (zh) | 2021-09-24 |
Family
ID=77752332
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010207152.4A Pending CN113434265A (zh) | 2020-03-23 | 2020-03-23 | 工作流调度方法、服务器和介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN113434265A (zh) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113986203A (zh) * | 2021-10-25 | 2022-01-28 | 重庆允成互联网科技有限公司 | 一种触发器自动校验方法、系统、电子设备及存储介质 |
CN114510338A (zh) * | 2022-04-19 | 2022-05-17 | 浙江大华技术股份有限公司 | 一种任务调度方法、任务调度设备和计算机可读存储介质 |
-
2020
- 2020-03-23 CN CN202010207152.4A patent/CN113434265A/zh active Pending
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113986203A (zh) * | 2021-10-25 | 2022-01-28 | 重庆允成互联网科技有限公司 | 一种触发器自动校验方法、系统、电子设备及存储介质 |
CN113986203B (zh) * | 2021-10-25 | 2022-05-17 | 重庆允成互联网科技有限公司 | 一种触发器自动校验方法、系统、电子设备及存储介质 |
CN114510338A (zh) * | 2022-04-19 | 2022-05-17 | 浙江大华技术股份有限公司 | 一种任务调度方法、任务调度设备和计算机可读存储介质 |
CN114510338B (zh) * | 2022-04-19 | 2022-09-06 | 浙江大华技术股份有限公司 | 一种任务调度方法、任务调度设备和计算机可读存储介质 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US20220027195A1 (en) | System and method for batch evaluation programs | |
US9772890B2 (en) | Sophisticated run-time system for graph processing | |
US9471370B2 (en) | System and method for stack-based batch evaluation of program instructions | |
US8387066B1 (en) | Dependency-based task management using set of preconditions to generate scheduling data structure in storage area network | |
CN104662538B (zh) | 半连接加速 | |
US9400700B2 (en) | Optimized system for analytics (graphs and sparse matrices) operations | |
CN110457277A (zh) | 业务处理性能分析方法、装置、设备及存储介质 | |
CN106104468B (zh) | 动态地确定数据处理应用程序的模式 | |
US8745622B2 (en) | Standalone software performance optimizer system for hybrid systems | |
CN113434265A (zh) | 工作流调度方法、服务器和介质 | |
CN114691148A (zh) | 模型推理加速方法、装置、电子设备及存储介质 | |
CN114357029A (zh) | 业务数据的处理方法、装置、设备、介质及程序产品 | |
CN111858366A (zh) | 一种测试用例生成方法、装置、设备及存储介质 | |
CN114090514A (zh) | 分布式系统的日志检索方法及装置 | |
CN114661571A (zh) | 模型评测方法、装置、电子设备和存储介质 | |
US9158536B2 (en) | Program code library consolidation in an integrated development environment | |
CN112906723A (zh) | 一种特征选择的方法和装置 | |
US11157252B2 (en) | Assessment of the benefit of post-inlining program transformation in inlining decisions | |
CN117539401A (zh) | 数据存储方法、装置、设备和存储介质 | |
CN113205421A (zh) | 理财产品的核算方法及装置 | |
CN113419922A (zh) | 主机批量作业运行数据的处理方法及装置 | |
CN114816433A (zh) | 基于异步编程在项目中的编码方法、系统、设备及介质 | |
CN113704687A (zh) | 一种张量计算运行方法、装置及运算系统 | |
CN115904968A (zh) | 接口测试方法、装置、计算机设备和存储介质 | |
CN116266110A (zh) | 函数结果预测 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
REG | Reference to a national code |
Ref country code: HK Ref legal event code: DE Ref document number: 40062490 Country of ref document: HK |