CN102129390A - 片上多核计算平台的任务调度系统及进行任务并行化方法 - Google Patents

Abstract

本发明公开了一种片上多核计算平台的任务调度系统及进行任务并行化方法，所述系统包括提供需要执行的任务的用户服务模块、在片上多核计算平台执行多个任务的计算服务模块，其特征在于所述用户服务模块与计算服务模块间设置核心调度服务模块，所述核心调度服务模块接受用户服务模块的任务请求为输入，通过记录判断不同任务之间的数据依赖关系，将任务请求并行地调度到不同的计算服务模块上执行。该系统通过在运行时对任务进行相关性的监测和自动并行化来提高平台的吞吐率和系统的性能。

Description

片上多核计算平台的任务调度系统及进行任务并行化方法

技术领域

本发明属于片上多核计算平台的调度技术领域，具体涉及一种片上多核计算平台的任务调度系统及进行任务并行化方法。

背景技术

随着超大规模集成电路(VLSI)的复杂性按照摩尔定律飞速提高，单个处理器的性能提升已经到达极限，多核处理器已经成为微处理器体系结构发展的必然方向。特别是单片异构多核系统，它将通用处理器、DSP、ASIP、甚至混合信号电路等异构处理单元集成在同一块芯片上，充分发挥异构处理单元各自的优势，可以满足嵌入式系统对实时性和功耗等方面的要求，成为嵌入式系统的研究热点。

在对于给定的任务集合，为了能够使其在可重构计算平台上高效的完成，发挥可重构计算平台中各个器件的能力，首先需要对任务进行合理的划分，划分出在通用处理器(General-Purpose Processor，GPP)上运行的软件任务和布局在可重构逻辑单元上的硬件任务；同时还要决定任务与GPP和可重构逻辑单元的动态映射关系。软硬件任务划分和任务调度是保证任务集合在可重构计算平台上高效运行的重要技术。

由于片上多核系统上提供了充分的计算资源，为任务的高效运行提供了保证，因此，在此基础上提高任务集在多核平台上的并行性是提高系统吞吐率的一个有效手段。然而，在研究时由于存在不同任务间的数据依赖和同步问题，目前的研究和解决方案不能完全实现任务的自动并行化。在任务并行化中，常见的相关有写后读(RAW)，写后写(WAW)和读后写(WAR)三种不同类型的相关，其中WAW和WAR为伪数据相关，可以通过调度算法或者编程模型来解决。目前现有的编程模型主要有OpenMP和MPI两种。其中OpenMP提供了一种通用的线程级编程模型，它主要依赖互斥锁的机制来实现线程间任务间的同步，但是由于互斥锁是由程序员来进行控制，因此无法实现任务的自动并行执行。其他的编程模型例如MPI也需要程序员对任务进行手动划分，甚至需要显示地进行任务的并行调度，从而任务能够取得的加速效果和性能提升收到了程序员本身的很大限制。

总的来说，目前的并行编程模型中的任务并行调度方法中的任务划分和调度方法均需要程序员进行手动干预和配置，从而限制了平台能够获得的性能优化效果。本发明因此而来。

发明内容

为了克服背景技术中存在的不足，本发明的一个目的在于提供一个片上多核计算平台上的任务调度系统和利用所述任务调度系统所使用的任务并行化方法，通过在运行时对任务进行相关性的监测和自动并行化来提高平台的吞吐率和系统的性能。

为了解决现有技术中的这些问题，本发明提供的技术方案是：

一种片上多核计算平台的任务调度系统，包括提供需要执行的任务的用户服务模块、在片上多核计算平台执行多个任务的计算服务模块，其特征在于所述用户服务模块与计算服务模块间设置核心调度服务模块，所述核心调度服务模块接受用户服务模块的任务请求为输入，通过记录判断不同任务之间的数据依赖关系，将任务请求并行地调度到不同的计算服务模块上执行。所述核心调度服务模块包括接受用户服务模块的若干个任务请求形成的任务队列、用来提供在任务发射到计算服务模块时对可能存在相关的数据进行相关判断和数据索引的变量状态表、用来缓存任务并记录任务状态的ROB以及用来标记目前所执行的任务请求及其状态、源操作数和对应ROB入口的保留站。

所述变量状态表包括多个再请求编号Reorder和繁忙状态信息Busy的表项。

所述保留站包括若干个标记目前保留站中所执行的任务请求名称Name、当前任务请求的繁忙状态Busy、源操作数Vj和Vk、源操作数的标记位Qj和Qk以及目标ROB的入口值Dest的表项。

所述ROB表包括若干个标记目前保留站中所执行的功能名称Entry、繁忙状态Busy、执行的任务Task、源操作数的标记位State、目标变量Destination以及目标变量的值Value的表项。

本发明的另一目的在于提供一种片上多核计算平台上进行任务并行化的方法，其特征在于所述方法包括以下步骤：

(1)用户服务模块提供新的服务请求，核心调度服务模块接收到请求后根据任务队列的状态判断是否将新的服务请求加入任务队列；当任务队列未满时加入任务队列；

(2)核心调度服务模块查询变量状态表，判断新的服务请求采用的目标变量是否存在于变量表中；当变量表中没有相应目标变量且变量表非满时，将变量加入变量表；

(3)查询所述保留站和ROB表中的空闲状态；当保留站和ROB表均有空闲空间时将该任务加入所述保留站和ROB表中；在保留站表项中，若有源操作数仍处于忙的状态，则将对应的源操作数的标记位Qj/Qk置为保留站的编号；否则将实际值赋给源操作数Vj/Vk，同时设置标记位Qj/Qk；

(4)当任务请求中的源数据都准备完毕之后，任务请求被发送到特定的计算服务模块；计算完毕，更新保留站和ROB表中的值；然后判断执行完毕的任务请求是否为访问请求队列的第一条请求，如果是则保留站和变量状态表中的Busy状态修改为no，并在ROB表中将该表项去掉，若该任务为ROB表中最后一个使用其目标变量的任务，则在变量状态表中也去掉相应的表项。

优选的，所述方法步骤(3)中将该任务请求加入所述ROB表时若有其它任务请求在使用目标变量，则标记该任务为最后一个使用该目标变量的任务。

优选的，所述方法步骤(4)中当计算服务模块计算完毕后，释放保留站，并对目标变量的数据进行广播，使保留站中其他表项更新数据，将ROB表中源操作数的标记位State修改为Write Result。

本发明涉及一种多核计算平台的任务调度系统，具体涉及一种片上多核计算平台上的任务调度系统及其使用的任务并行方法。因此本发明提供一种片上多核计算平台上的任务调度系统及其使用的任务并行调度方法，可以自动检测任务间的数据依赖关系，并将任务自动分配到不同的计算资源上运行，极大的拓展了任务在片上多核平台上运行的并行性。

本发明片上多核计算平台的任务调度系统接受任务请求为输入，通过记录判断不同任务之间的数据依赖关系，将任务请求并行地调度到不同的计算资源上执行。其模块中包括一个任务队列，一个变量状态表，一组保留站以及再请求缓冲表组成。不同的模块之前通过消息传递的方式进行通信。本发明的模块及其使用的任务并行方法可以有效地判断片上多核系统多任务之间的相关性，极大地扩展了系统的并行性和吞吐率。

进一步的，所述变量状态表中由多个表项构成，其中每个表项包含再请求编号Reorder，繁忙状态信息Busy，用来进行在指令发射时对可能存在相关的数据进行相关判断和数据索引。进一步的，所述保留站由多个表项构成，其中每个表项中保存了如下信息：标记目前保留站中所执行的功能名称Name、当前功能模块的繁忙状态Busy、源操作数Vj和Vk、源操作数的标记位Qj和Qk以及目标ROB的入口值Dest。进一步的，所述再请求缓冲表由多个表项构成，其中每个表项包括标记目前保留站中所执行的功能名称Entry、繁忙状态Busy、执行的指令Instruction、源操作数的标记位State、目标变量Destination以及目标变量的值Value。

本发明通过任务调度系统进行任务并行化的方法包括以下步骤：

(1)所述任务调度系统接收到一条新的服务请求，标记为Serv(a，b)；其中，a、b是该请求要使用的变量，如果所述队列未满，将该请求加入到所述访问请求队列中。

(2)查询所述变量状态表，判断此请求采用的目标变量(a，b)是否在表中。若目标变量不存在且所述变量状态表不满，则将变量加入表中；若表中已经存在有对应的表项(a或者b)，且表项的Busy属性为yes，则表示当前已经有其它的任务写入目标变量。

(3)查询所述保留站表和所述ROB表中的空闲状态。直到两者都有空闲空间则将任务加入所述保留站表和再请求缓冲表。在保留站表项中，若有源操作数仍处于忙的状态，则将对应的Qj/Qk置为保留站的编号；否则将实际值赋给Vj/Vk。

(4)当请求中的源数据都准备完毕之后，访问请求被发送到特定的计算服务模块。目标功能单元取决于当前系统的决策结果，使得等待时间+运行时间最短。同时ROB表中对应表项的状态标记State改为Execute。

(5)当请求任务执行完毕之后，ROB表中的对应表项的状态标记State改为Write result，将Value值修改为执行结果中的变量值，同时更新保留站中对应表项的Busy为no。

(6)在所述保留站表中对计算的结果进行广播，若有使用此数据的表项，将Qj/Qk的标志位重置，并更新对应的Vj/Vk值。在更新之后，若有某条新的服务请求准备就绪，则发射该任务至计算单元，并将ROB表中对应表项的状态标记State改为Execute。

(7)如果执行完毕的访问请求为访问请求队列的第一条请求，则保留站和变量状态表中的Busy状态修改为no，并在ROB表中将该表项去掉，若该任务为ROB表中最后一个使用其目标变量的任务，则在变量状态表中也去掉相应的表项。

与现有技术相比，本发明具有以下显著的优点：

1、本发明接收用户的任务请求之后，可以直接判断该任务与目前平台中执行的任务的数据相关性，并通过调度算法消除了写后写(WAW)和读后写(WAR)两种不同类型的数据依赖，除此之外，将不能即时执行的任务请求进行缓冲，当数据和计算单元都准备完毕时实现任务的自动发射。因此，本发明消除了不同任务之间的WAW和WAR两种伪相关。

2、本发明包含任务自动划分和调度模块。由于平台中集成了不同类型的计算资源，模块中记录了各种计算资源的属性和运行时状态。在任务运行时，该模块及其调度方法可以针对任务的属性和计算资源的实时状态来进行任务的划分和调度。

附图说明

下面结合附图及实施例对本发明作进一步描述：

图1是本发明片上多核计算平台的任务调度系统的系统架构图；

图2是本发明的任务调度系统进行任务并行化的方法流程图。

具体实施方式

上述说明仅是本发明技术方案的概述，为了能够更清楚了解本发明的技术手段，并可依照说明书的内容予以实施，以下以本发明的较佳实施例并配合附图详细说明如后。以下结合具体实施例对上述方案做进一步说明。应理解，这些实施例是用于说明本发明而不限于限制本发明的范围。

实施例

如图1和图2所示，该片上多核计算平台的任务调度系统，包括提供需要执行的任务的用户服务模块、在片上多核计算平台执行多个任务的计算服务模块，所述用户服务模块与计算服务模块间设置核心调度服务模块，所述核心调度服务模块接受用户服务模块的任务请求为输入，通过记录判断不同任务之间的数据依赖关系，将任务请求并行地调度到不同的计算服务模块上执行。

图1显示了片上多核计算平台的任务调度系统的系统架构图，模块中包括一个任务队列，一个变量状态表，一组保留站以及ROB表组成，具体的模块如下：

1)任务队列

任务队列用来对用户发送的任务请求进行存储。由于不同的任务之间存在数据依赖关系，因此任务在发射到不同的处理器上执行之前在任务队列上存储。

2)变量状态表

变量状态表所实现的功能为：在任务发射时，对可能存在相关的数据进行相关判断和数据索引。

表1变量状态表

表1为变量状态表，主要用来记录在程序运行过程中的各个变量对应关系。由于在多核系统中，可以将每一条服务请求抽象成一条指令来对待，所有的请求的相关性都是通过变量的使用依赖来判断的。由于本模块向用户提供编程时使用的变量，因此表格的大小取决于存储空间和效率的限制。变量的数目太多会导致系统的查找开销会比较大，若太少则无法充分扩展系统的性能。因此本发明以32为典型值，提供了32个变量供用户使用。

在表中，Reorder域中保存的信息为使用当前变量的目标指令的入口，用于标记该变量依赖的目标指令。

Busy域中保存的信息为使用当前变量的繁忙状态：如果当前服务请求的执行阶段为Commit阶段，则Busy域为空闲；否则为繁忙。

3)保留站

表2保留站表

上表为本发明所述的保留站表。在保留站表中，保存的信息有如下：

Name：标记目前保留站中所执行的功能名称；Busy：当前功能模块的繁忙状态；Vj Vk：两个源操作数；Qj Qk：两个源操作数的标记位：若执行完毕，则对源操作数赋值，否则将对应的标记位标记为源操作指令的ROB表项的入口；Dest：目标ROB表项的入口值。

4)ROB表

表3ROB表

在ROB表中，需要保存的信息如下：

Entry：标记目前ROB表项中所执行的功能名称；Busy：ROB表项的繁忙状态；Task：执行的目标请求；State：ROB表项中的任务状态标记。Destination：目标变量；Value：目标变量的值；其中，Busy状态与State相对应。当State为Commit时，Busy变为no，否则为yes。

除此之外，由于ROB表中的任务都是顺序提交，因此将ROB表本身通过一个循环队列来实现。并通过记录的队列头的位置来保证顺序提交，队列中的任务即是所有未提交任务的实际发射顺序。

图2为任务并行调度方法流程。具体的并行化调度方案流程如下：

(1)用户发送一条新的服务请求到任务调度系统。请求表示为Serv(a，b)；其中，a、b是该请求要使用的变量。

(2)将该请求加入到访问请求队列中，若队列已满，则等待。

(3)查询变量状态表，判断此请求采用的目标变量(a，b)是否在表中。若目标变量不存在且变量状态表不满，则将变量加入表中，；若表满则当前请求等待，直到变量表中有空闲表项时再进行发射。若表中已经存在有对应的表项(a或者b)，且表项的Busy属性为yes，则标识着当前已经有其它的任务写入目标变量。

(4)查询保留站表和ROB中的空闲状态。直到两者都有空闲空间时才发射指令，同时将该指令加入保留站和ROB。在保留站表项中，若有源操作数仍处于忙的状态，则将对应的Qj/Qk置为保留站的编号；否则将实际值赋给Qj/Qk。

(5)当所有的数据都准备就绪之后，访问请求被发送到特定的计算服务模块。计算服务模块的目标选择取决于当前系统的决策结果，使得等待时间+运行时间最短。同时将对应的再请求缓冲表项中的Busy状态改为Execute。

(6)请求任务执行完毕之后，将再请求缓冲表项中的Busy状态改为Write result，保留站中的Busy为no，Value修改为执行结果中的变量值。

(7)在保留站表中对计算的结果进行广播，若有使用此数据的表项，将Q的标志位去掉，并更新对应的V值。若有准备好的服务请求，则将对应的访问请求通过决策之后发送到计算单元。

(8)如果执行完毕的访问请求为访问请求队列的第一条请求，则保留站和变量状态表中的Busy状态修改为no，并在再请求缓冲表中将该表项去掉，且在变量状态表中也去掉相应的表项。

上述实例只为说明本发明的技术构思及特点，其目的在于让熟悉此项技术的人是能够了解本发明的内容并据以实施，并不能以此限制本发明的保护范围。凡根据本发明精神实质所做的等效变换或修饰，都应涵盖在本发明的保护范围之内。

Claims (8)

1.一种片上多核计算平台的任务调度系统，包括提供需要执行的任务的用户服务模块、在片上多核计算平台执行多个任务的计算服务模块，其特征在于所述用户服务模块与计算服务模块间设置核心调度服务模块，所述核心调度服务模块接受用户服务模块的任务请求为输入，通过记录判断不同任务之间的数据依赖关系，将任务请求并行地调度到不同的计算服务模块上执行。

2.根据权利要求1所述的片上多核计算平台的任务调度系统，其特征在于所述核心调度服务模块包括接受用户服务模块的若干个任务请求形成的任务队列、用来提供在任务发射到计算服务模块时对可能存在相关的数据进行相关判断和数据索引的变量状态表、用来缓存任务并记录任务状态的重排序缓冲器（Re-Order-Buffer，ROB）以及用来标记目前所执行的任务请求及其状态、源操作数和对应ROB入口的保留站。

3.根据权利要求2所述的片上多核计算平台的任务调度系统，其特征在于所述变量状态表包括多个再请求编号Reorder和繁忙状态信息Busy的表项。

4.根据权利要求2所述的片上多核计算平台的任务调度系统，其特征在于所述保留站包括若干个标记目前保留站中所执行的任务请求名称Name、当前任务请求的繁忙状态Busy、源操作数Vj和Vk、源操作数的标记位Qj和Qk以及目标ROB的入口值Dest的表项。

5.根据权利要求2所述的片上多核计算平台的任务调度系统，其特征在于所述ROB表包括若干个标记目前保留站中所执行的功能名称Entry、繁忙状态Busy、执行的任务Task、源操作数的标记位State、目标变量Destination以及目标变量的值Value的表项。

6.一种片上多核计算平台上进行任务并行化的方法，其特征在于所述方法包括以下步骤：

（1）用户服务模块提供新的服务请求，核心调度服务模块接收到请求后根据任务队列的状态判断是否将新的服务请求加入任务队列；当任务队列未满时加入任务队列；

（2）核心调度服务模块查询变量状态表，判断新的服务请求采用的目标变量是否存在于变量表中；当变量表中没有相应目标变量且变量表非满时，将变量加入变量表； 

（3）查询所述保留站和ROB表中的空闲状态；当保留站和ROB表均有空闲空间时将该任务加入所述保留站和ROB表中；在保留站表项中，若有源操作数仍处于忙的状态，则将对应的源操作数的标记位Qj/Qk置为保留站的编号；否则将实际值赋给源操作数Vj/Vk，同时设置标记位Qj/Qk；

（4）当任务请求中的源数据都准备完毕之后，任务请求被发送到特定的计算服务模块；计算完毕，更新保留站和ROB表中的值；然后判断执行完毕的任务请求是否为访问请求队列的第一条请求，如果是则保留站和变量状态表中的Busy状态修改为no，并在ROB表中将该表项去掉，若该任务为ROB表中最后一个使用其目标变量的任务，则在变量状态表中也去掉相应的表项。

7.根据权利要求6所述的方法，其特征在于所述方法步骤（3）中将该任务请求加入所述ROB表时若有其它任务请求在使用目标变量，则标记该任务为最后一个使用该目标变量的任务。

8.根据权利要求6所述的方法，其特征在于所述方法步骤（4）中当计算服务模块计算完毕后，释放保留站，并对目标变量的数据进行广播，使保留站中其他表项更新数据，将ROB表中源操作数的标记位State修改为Write Result。

Images