CN101539872A - 超级计算机的自适应调度系统及方法 - Google Patents

Abstract

本发明提供了一种超级计算机的自适应调度系统及方法。所述方法包括：收集超级计算机中各节点的节点信息；获取并行程序的优先模式及对节点的能力要求，根据所述优先模式和对节点的能力要求以及所述节点信息，计算得到节点的调度优先度；根据所述节点的调度优先度生成节点列表，以及根据所述节点列表将并行程序调度到相应节点。采用本发明提供的超级计算机的自适应调度系统及方法，能合理分配超级计算机的资源，从而提高了并行程序的运行效率。

Description

超级计算机的自适应调度系统及方法

技术领域

本发明涉及计算机技术领域，更具体地说，涉及一种超级计算机的自适应调度系统及方法。

背景技术

超级计算机，是指多个计算节点组合起来的能平行进行大规模计算或数据处理的计算机，也称为并行计算机。目前，并行环境在运行时，需指定一个节点列表，执行并行程序时则根据节点列表将并行程序调度到相应的计算节点。现有的节点列表大都事先由用户给定或管理员设定好的，也有动态生成的节点列表，但仅考虑了各节点的综合负载能力。由于现有的节点列表未充分考虑到不同的并行程序对节点的各种能力要求，运行并行程序的节点若达不到程序的能力要求，则可能会降低程序的运行效率和速度，从而影响超级计算机的性能。

发明内容

基于此，有必要提供一种能合理分配超级计算机资源、提高并行程序运行效率的超级计算机的自适应调度系统。

此外，还有必要提供一种能合理分配超级计算机资源、提高并行程序运行效率的超级计算机的自适应调度方法。

所述超级计算机的自适应调度系统包括：节点信息收集模块，用于收集超级计算机中各节点的节点信息；运算模块，与所述节点信息收集模块相连，根据所述节点信息以及并行程序的优先模式和对节点的能力要求，计算得到节点的调度优先度；节点列表生成模块，与所述运算模块相连，根据所述节点的调度优先度生成节点列表；调度模块，与所述节点列表生成模块相连，根据所述节点列表将并行程序调度到对应节点。

所述系统还包括：程序设定模块，与所述运算模块相连，用于设定并行程序的优先模式和对节点的能力要求。

所述运算模块包括：节点优先度计算模块，用于根据所述节点信息计算得到节点的优先度信息；节点优先度选择模块，与所述节点优先度计算模块相连，根据所述并行程序的优先模式，从所述节点的优先度信息中选择与所述优选模式对应的优先度；符合度计算模块，用于将所述并行程序对节点的能力要求与所述节点信息进行对比，获取节点对并行程序能力要求的符合度；调度优先度计算模块，与所述符合度计算模块相连，根据所述与优先模式对应的优先度和所述符合度，计算得到节点的调度优先度。

所述调度模块用于判断调度优先度最大的节点是否能达到并行程序对节点的能力要求，若是，则将所述并行程序调度到该节点，否则，通知所述运算模块重新计算节点的调度优先度。

所述超级计算机的自适应调度方法包括：收集超级计算机中各节点的节点信息；获取并行程序的优先模式及对节点的能力要求，根据所述优先模式和对节点的能力要求以及所述节点信息，计算得到节点的调度优先度；根据所述节点的调度优先度生成节点列表，以及根据所述节点列表将并行程序调度到相应节点。

所述方法还包括：设定并行程序的优先模式和对节点的能力要求。

计算节点的调度优先度的步骤包括：根据所述节点信息获取节点的优先度信息；根据所述并行程序的优先模式，从所述节点的优先度信息中选择与所述优先模式对应的优先度；将所述并行程序对节点的能力要求与所述节点信息进行对比，获取节点对并行程序能力要求的符合度；根据所述与优先模式对应的优先度和所述符合度，计算得到节点的调度优先度。

根据节点的调度优先度生成节点列表的步骤包括：选择调度优先度最大的节点，将所述节点的节点地址和/或其对应的处理器地址和/或内核地址加入所述节点列表中。

根据节点的调度优先度生成节点列表的步骤还包括：生成节点列表之前清空节点列表。

根据节点列表将并行程度调度到对应节点的步骤包括：根据所述调度优先度最大的节点的节点信息，判断所述节点信息是否能达到并行程序对节点的能力要求，若是，则将所述并行程序调度到该节点，否则，重新计算各节点的调度优先度。

上述超级计算机的自适应调度系统及方法，通过收集各节点的节点信息，并根据节点信息及并行程序对节点的能力要求动态生成节点列表，所生成的节点列表充分考虑到并行程序对优先模式及节点的各种能力要求，能合理分配超级计算机的资源，从而提高了并行程序的运行效率。

附图说明

图1是一个实施例中超级计算机的自适应调度系统的结构示意图；

图2是图1中运算模块的结构示意图；

图3是一个实施例中超级计算机的自适应调度方法的流程图；

图4是一个实施例中计算节点调度优先度的方法流程图；

图5是另一个实施例中超级计算机的自适应调度方法的流程图。

具体实施方式

图1示出了一个实施例中的超级计算机的自适应调度系统，该系统包括节点信息收集模块100、程序设定模块200、运算模块300、节点列表生成模块400及调度模块500，其中：

节点信息收集模块100用于收集超级计算机中各节点的节点信息。

程序设定模块200用于设定并行程序的优先模式和对节点的能力要求。

运算模块300分别与节点信息收集模块100及程序设定模块200相连，根据节点信息以及并行程序的优先模式和对节点的能力要求，计算得到节点的调度优先度。

节点列表生成模块400与运算模块300相连，根据节点的调度优先度生成节点列表。

调度模块500与节点列表生成模块400相连，根据节点列表将并行程序调度到相应节点。

在一个实施方式中，节点信息收集模块100收集的节点信息包括节点的剩余能力，所谓节点的剩余能力，是指超级计算机中各节点可供支配的剩余的能力，例如剩余的计算能力(可以是浮点运算次数等)、剩余的存储能力(可以是内存大小等)、剩余的网络带宽(可以是每秒传输的字节数等)以及温度等信息。程序设定模块200事先设定的并行程序对节点的能力要求也可包括计算能力、存储能力、网络带宽以及温度等。在一个实施例中，节点信息收集模块100可定时收集节点信息。

图2示出了图1中的运算模块300，该运算模块300包括节点优先度计算模块301、节点优先度选择模块302、符合度计算模块303和调度优先度计算模块304，其中：

节点优先度计算模块301用于根据节点信息计算得到节点的优先度信息。在一个实施方式中，节点优先度计算模块301可定制某一特定函数来根据收集到的节点信息计算得到节点的优先度信息。优先度信息可包括综合优先度、计算优先度、存储优先度、网络优先度、稳定优先度等，也可包括计算存储优先度、计算网络优先度、存储网络优先度等。

在一个实施例中，节点优先度计算模块301定制函数f，对于某一个节点i，节点信息收集模块100收集到其剩余运算能力为Ai，剩余存储能力为Bi，剩余网络带宽为Ci，温度为Di等，则节点优先度计算模块301通过函数f计算综合优先度Ei＝f(Ai，Bi，Ci，Di)、计算优先度Fi＝f(Ai)、存储优先度Gi＝f(Bi)、网络优先度Hi＝f(Ci)、稳定优先度Ii＝f(Di)，其中，节点优先度计算模块301定制的函数需遵循Ai越大则Ei越大、且Bi越大则Ei越大、且Ci越大则Ei越大、且Di越大则Ei越小的原则。例如，节点优先度计算模块301可采用以下函数计算节点i的综合优先度Ei、计算优先度Fi、存储优先度Gi、网络优先度Hi以及稳定优先度Ii：

Ei＝Ai/Aall+Bi/Ball+Ci/Call-Di/Dall

Fi＝Ai/Aall

Gi＝Bi/Ball

Hi＝Ci/Call

Ii＝1-Di/Dall

其中，Aall是节点i的总计算能力，Ball是节点i的总存储能力，Call是节点i的总网络带宽，Dall是节点i所能容忍的最高温度。

节点优先度选择模块302与节点优先度计算模块301相连，根据并行程序的优先模式，从节点的优先度信息中选择与所述优先模式对应的优先度。在一个实施方式中，程序设定模块200事先设定了并行程序的优先模式，这里的优先模式可包括计算优先、存储优先及网络优先等，可根据并行程序的特性设定每个并行程序不同的优先模式。节点优先度选择模块302根据并行程序的优先模式，从节点的优先度信息中选择与该优先模式对应的优先度，例如，并行程序的优先模式是计算优先，则节点优先度选择模块302选择节点的计算优先度，以此类推。

符合度计算模块303用于将并行程序对节点的能力要求与节点信息进行比对，获取节点对并行程序能力要求的符合度。在一个实施方式中，程序设定模块202事先设定了并行程序对节点的能力要求，例如运行该并行程序的可用内存大小不能小于M、运行该并行程序的可用浮点运算次数不能小于F、运行该并行程序的可用带宽不能小于C、运行并行程序的节点温度不能大于T等。符合度计算模块303可定制一个特定函数h，根据并行程序的能力要求及节点信息计算得到节点对并行程序能力要求的符合度。例如，对于某一个节点i，符合度计算模块303定制函数Ui＝h(Bi/M，Ai/F，Ci/C，Di/T)，其中h需遵循节点i的剩余能力越大于其限定值时Ui越大，越小于其限定值时Ui越小，当节点i的剩余能力等于其限定值时Ui＝1。

调度优先度计算模块304与符合度计算模块303相连，根据上述与优先模式对应的优先度和计算得到的符合度，计算得到节点的调度优先度。在一个实施方式中，调度优先度计算模块304可定制一个特定的函数w来计算节点的调度优先度。例如，对于节点i，并行程序的优先模式是计算优先，节点优先度选择模块302则从节点优先度信息中选择计算优先度Fi，符合度计算模块303计算节点i对并行程序能力要求的符合度为Ui，则调度优先度计算模块304计算节点i的调度优先度为Si＝w(Fi，Ui)，其中，函数w需遵循Fi越大则Si越大，Ui越大则Si越大的原则。例如可采用如下函数计算节点i的调度优先度：

Si＝Fi*Ui

其中，Fi是节点i的计算优先度，Ui是节点i对并行程度能力要求的符合度。

在一个实施例中，调度优先度计算模块304计算得到各节点的调度优先度后，节点列表生成模块400则选择调度优先度最大的节点，并将该节点对应的节点地址加入节点列表中。对于以节点的中央处理器(Central Process Unit，简称“CPU)或其内核为单位进行调用的并行程序，则还可将节点对应的CPU地址和/或其内核地址一并加入节点列表中，这里的CPU地址可以是CPU编号或计算机名，内核地址也可以内核编号等。节点列表生成模块400在生成节点列表之前，可清空一次节点列表。

在一个实施例中，调度模块500可进一步判断调度优先度最大的节点是否能达到并行程序对节点的能力要求，若是，则根据节点列表将并行程序调度到对应节点，否则，通知运算模块300重新计算节点的调度优先度。即当运算模块300计算得到的调度优先度最大的节点达不到并行程度对节点的能力要求时，则运算模块300根据节点信息收集模块100动态收集到的节点信息继续计算节点的调度优先度，直到所选的调度优先度最大的节点能达到并行程序对节点的能力要求。

这样，针对不同应用的并行程序，通过上述系统可找到最适合运行该并行程序的节点，实现了超级计算机资源的合理分配，同时提高了并行程序的运行效率。

图3示出了一个实施例中的超级计算机的自适应调度方法流程，具体过程如下：

在步骤S301中，收集超级计算机中各节点的节点信息。

在步骤S302中，获取并行程序的优先模式及对节点的能力要求，根据优先模式及对节点的能力要求和所述节点信息，计算得到节点的调度优先度。

在步骤S303中，根据节点的调度优先度生成节点列表，以及根据节点列表将并行程序调度到相应节点。

在一个实施方式中，所收集的节点信息包括节点的剩余能力，例如剩余的计算能力(可以是浮点运算次数等)、剩余的存储能力(可以是内存大小等)、剩余的网络带宽(可以是每秒传输的字节数等)以及温度等信息。在一个实施例中，节点信息收集模块100可定时收集节点信息。

上述实施方式中，程序设定模块200可事先设定并行程序的优先模式及对节点的能力要求，其中，优先模式可包括计算优先、存储优先及网络优先等，对节点的能力要求可包括计算能力、存储能力、网络带宽以及温度等。

图4示出了一个实施例中计算节点调度优先度的方法流程图，具体过程如下：

在步骤S401中，根据节点信息获取节点的优先度信息。

在一个实施方式中，节点优先度计算模块301可定制某一特定函数来根据收集到的节点信息计算得到节点的优先度信息。优先度信息可包括综合优先度、计算优先度、存储优先度、网络优先度、稳定优先度等，也可包括计算存储优先度、计算网络优先度、存储网络优先度等。

在一个实施例中，节点优先度计算模块301定制函数f，对于某一个节点i，节点信息收集模块100收集到其剩余运算能力为Ai，剩余存储能力为Bi，剩余网络带宽为Ci，温度为Di等，则节点优先度计算模块301通过函数f计算综合优先度Ei＝f(Ai，Bi，Ci，Di)、计算优先度Fi＝f(Ai)、存储优先度Gi＝f(Bi)、网络优先度Hi＝f(Ci)、稳定优先度Ii＝f(Di)，其中，节点优先度计算模块301定制的函数需遵循Ai越大则Ei越大、且Bi越大则Ei越大、且Ci越大则Ei越大、且Di越大则Ei越小的原则。例如，节点优先度计算模块301可采用以下函数计算节点i的综合优先度Ei、计算优先度Fi、存储优先度Gi、网络优先度Hi以及稳定优先度Ii：

Ei＝Ai/Aall+Bi/Ball+Ci/Call-Di/Dall

Fi＝Ai/Aall

Gi＝Bi/Ball

Hi＝Ci/Call

Ii＝1-Di/Dall

其中，Aall是节点i的总计算能力，Ball是节点i的总存储能力，Call是节点i的总网络带宽，Dall是节点i所能容忍的最高温度。

在步骤S402中，根据并行程序的优先模式，从节点的优先度信息中选择与该优先模式对应的优先度。

在一个实施方式中，程序设定模块200可根据并行程序的特性设定每个并行程序不同的优先模式。节点优先度选择模块302根据并行程序的优先模式，从节点的优先度信息中选择与该优先模式对应的优先度。例如，并行程序的优先模式是计算优先，则节点优先度选择模块302选择节点的计算优先度，以此类推。

在步骤S403中，将并行程序对节点的能力要求与节点信息进行对比，获取节点对并行程序能力要求的符合度。

在一个实施方式中，程序设定模块202事先设定了并行程序对节点的能力要求，例如运行该并行程序的可用内存大小不能小于M、运行该并行程序的可用浮点运算次数不能小于F、运行该并行程序的可用带宽不能小于C、运行并行程序的节点温度不能大于T等。符合度计算模块303可定制一个特定函数h，根据并行程序的能力要求及节点信息计算得到节点对并行程序能力要求的符合度。例如，对于某一个节点i，符合度计算模块303定制函数Ui＝h(Bi/M，Ai/F，Ci/C，Di/T)，其中h需遵循节点i的剩余能力越大于其限定值时Ui越大，越小于其限定值时Ui越小，当节点i的剩余能力等于其限定值时Ui＝1。

在步骤S404中，根据优先模式对应的优先度和所述符合度，计算得到节点的调度优先度。

在一个实施方式中，调度优先度计算模块304可定制一个特定的函数w来计算节点的调度优先度。例如，对于节点i，并行程序的优先模式是计算优先，节点优先度选择模块302则从节点优先度信息中选择计算优先度Fi，符合度计算模块303计算节点i对并行程序能力要求的符合度为Ui，则调度优先度计算模块304计算节点i的调度优先度为Si＝w(Fi，Ui)，其中，函数w需遵循Fi越大则Si越大，Ui越大则Si越大。例如可采用如下函数计算节点i的调度优先度Si：

Si＝Fi*Ui

其中，Fi是节点i的计算优先度，Ui是节点i对并行程度能力要求的符合度。

图5示出了一个实施例中的超级计算机的自适应调度方法流程，具体过程如下：

在步骤S501中，计算得到各节点的调度优先度。关于调度优先度的计算过程上面已进行了详细阐述，在此则不再赘述。

在步骤S502中，清空节点列表。由于并行程序调度的过程中，节点列表不断更新，为使之前的数据不影响新的节点列表，则可在生成新的节点列表之前清空一次节点列表。

在步骤S503中，选择调度优先度最大的节点加入节点列表中。在一个实施例中，调度优先度计算模块304计算得到各节点的调度优先度后，节点列表生成模块400则选择调度优先度最大的节点，并将该节点对应的节点地址加入节点列表中。对于以节点的CPU或其内核为单位进行调用的并行程序，则还可将节点对应的CPU地址和/或其内核地址一并加入节点列表中，这里的CPU地址可以是CPU编号或计算机名，内核地址也可以内核编号等。

在步骤S504中，判断调度优先度最大的节点是否能达到并行程序的能力要求，若是，则执行步骤S505，否则，返回步骤S501。

在步骤S505中，根据节点列表将并行程序调度到相应节点。此时，用于运行并行程度的节点能达到并行程序对节点的能力要求，正由于此，上述方法可找到最适合运行该并行程序的节点，实现了超级计算机资源的合理分配，同时提高了并行程序的运行效率。

应当说明的是，上述超级计算机的自适应调度系统及方法可使用在超级计算机的各种并行环境中，例如MPI、OPENMP、HPF、PGAS等，并可结合PBS、GIOBUS等作业调度和网格技术使用。

以上所述仅为本发明的较佳实施例而已，并不用以限制本发明，凡在本发明的精神和原则之内所作的任何修改、等同替换和改进等，均应包含在本发明的保护范围之内。

Claims (10)

1、一种超级计算机的自适应调度系统，其特征在于，包括：

节点信息收集模块，用于收集超级计算机中各节点的节点信息；

运算模块，与所述节点信息收集模块相连，根据所述节点信息以及并行程序的优先模式和对节点的能力要求，计算得到节点的调度优先度；

节点列表生成模块，与所述运算模块相连，根据所述节点的调度优先度生成节点列表；

调度模块，与所述节点列表生成模块相连，根据所述节点列表将并行程序调度到对应节点。

2、根据权利要求1所述的超级计算机的自适应调度系统，其特征在于，还包括：

程序设定模块，与所述运算模块相连，用于设定并行程序的优先模式和对节点的能力要求。

3、根据权利要求1所述的超级计算机的自适应调度系统，其特征在于，所述运算模块包括：

节点优先度计算模块，用于根据所述节点信息计算得到节点的优先度信息；

节点优先度选择模块，与所述节点优先度计算模块相连，根据所述并行程序的优先模式，从所述节点的优先度信息中选择与所述优选模式对应的优先度；

符合度计算模块，用于将所述并行程序对节点的能力要求与所述节点信息进行对比，获取节点对并行程序能力要求的符合度；

调度优先度计算模块，与所述符合度计算模块相连，根据所述与优先模式对应的优先度和所述符合度，计算得到节点的调度优先度。

4、根据权利要求1所述的超级计算机的自适应调度系统，其特征在于，所述调度模块用于判断调度优先度最大的节点是否能达到并行程序对节点的能力要求，若是，则将所述并行程序调度到该节点，否则，通知所述运算模块重新计算节点的调度优先度。

5、一种超级计算机的自适应调度方法，其特征在于，所述方法包括：

收集超级计算机中各节点的节点信息；

获取并行程序的优先模式及对节点的能力要求，根据所述优先模式和对节点的能力要求以及所述节点信息，计算得到节点的调度优先度；

根据所述节点的调度优先度生成节点列表，以及根据所述节点列表将并行程序调度到相应节点。

6、根据权利要求5所述的超级计算机的自适应调度方法，其特征在于，所述方法还包括：设定并行程序的优先模式和对节点的能力要求。

7、根据权利要求5所述的超级计算机的自适应调度方法，其特征在于，计算节点的调度优先度的步骤包括：

根据所述节点信息获取节点的优先度信息；

根据所述并行程序的优先模式，从所述节点的优先度信息中选择与所述优先模式对应的优先度；

将所述并行程序对节点的能力要求与所述节点信息进行对比，获取节点对并行程序能力要求的符合度；

根据所述与优先模式对应的优先度和所述符合度，计算得到节点的调度优先度。

8、根据权利要求5所述的超级计算机的自适应调度方法，其特征在于，根据节点的调度优先度生成节点列表的步骤包括：选择调度优先度最大的节点，将所述节点的节点地址和/或其对应的处理器地址和/或内核地址加入所述节点列表中。

9、根据权利要求8所述的超级计算机的自适应调度方法，其特征在于，根据节点的调度优先度生成节点列表的步骤还包括：生成节点列表之前清空节点列表。

10、根据权利要求5所述的超级计算机的自适应调度方法，其特征在于，根据节点列表将并行程度调度到对应节点的步骤包括：根据所述调度优先度最大的节点的节点信息，判断所述节点信息是否能达到并行程序对节点的能力要求，若是，则将所述并行程序调度到该节点，否则，重新计算各节点的调度优先度。

Images