JPH0675786A - タスクスケジュリング方法 - Google Patents

Abstract

(57)【要約】 【目的】 本発明の目的は、プロセッサ間の通信路の性
能が均一でないタイプの超並列計算機に対するタスクス
ケジューリング方法を提供することにある。 【構成】 タスクの演算時間とタスク間のデータ転送量
の評価から各タスクをプロセッサ上にスケジュールする
ための優先順位を決め（１０５）、その優先順位に従っ
て各タスクをプロセッサ上にスケジュールし（１０
７）、データ転送が必要なタスクについて、該スケジュ
ールで決まる割付プロセッサ間の通信路の速度とデータ
転送量からデータ転送時間を評価してスケジュールの優
先順位を再度計算し（１０９３）し、タスクスケジュー
ルを反復改良（１０９）する。 【効果】 本発明では、プロセッサ間の通信路の性能が
均一でないタイプの超並列計算機上で応用プログラムを
実行する場合の、タスクスケジュールを求めることがで
きる。また、反復改良機構により、より実行時間の短く
なるタスクスケジュールを選定することが可能である。

Description

【発明の詳細な説明】

【０００１】

【産業上の利用分野】本発明は、プログラムを分散記憶
型並列計算機上で効率的に実行させるために必要な、タ
スクスケジュリング方法に関する。

【０００２】

【従来の技術】超並列計算機は、今後の物理、化学およ
び工学の諸分野での大規模で多様な数値シミュレ−ショ
ンを効率良く実施するための有力手段として期待されて
いる。実用的な超並列計算機システム開発のための技術
課題の一つは自動マッピングである。マッピングとは、
並列性解析を行った後、プログラムをタスクに分割し、
そのタスク群を実行する順序と分担プロセッサを決定す
るスケジュリングを意味する。

【０００３】これまでに、任意のプロセッサ対の間の通
信路の性能は全て同じという前提のもとに、一般のプロ
グラムのタスクの構造を表したタスクグラフを任意の台
数のプロセッサにスケジュールする方法として、クリテ
ィカルパス法をベースとしたリストスケジュリング法が
用いられている。その一つが、アイ・イー・イー・イー
トランザクション オン コンピューターズ Ｃ−３
３ Ｎｏｖ．１９８４第１０２３頁から第１０２９頁
（ＩＥＥＥ Ｔｒａｎｓａｃｓｉｏｎ ｏｎＣｏｍｐｕ
ｔｅｒｓ， Ｃ−３３， Ｎｏｖ．１９８４， ｐｐ．
１０２３−１０２９）において論じられている。そこで
は、クリティカルパス法によるタスクの優先順位付けで
複数のタスクが同一優先順位となる場合の解決法、すな
わち実用的な順序決定法などが述べられている。しか
し、本論文ではプロセッサ対の位置関係によってその通
信路の性能が異なる場合のスケジュール方法については
言及していない。

【０００４】

【発明が解決しようとする課題】超並列計算機におい
て、プロセッサ台数が非常に多い場合はハードウェアコ
ストの都合上、全プロセッサ間に完全に均一な通信網を
設置することは一般に行なわれず、プロセッサを幾つか
のグループに分割し、グループ内とグループ間の通信機
構に性能の差があるものが多くなっている。このタイプ
の超並列機に対して、従来のリストスケジューリング法
を用いて実際の通信コストを正確に反映したスケジュー
ルを決定することは不可能であるという問題があった。
なぜなら、リストスケジュール法では、タスク割付優先
度をまず計算する必要があり、その計算に通信コストを
含めなければならない。しかし、真の通信コストは、送
信タスクと受信タスクを実行するプロセッサ同志がどの
ような相対位置関係になるか決まるまでは計算できない
からである。

【０００５】本発明の目的は、プロセッサ間の通信路の
性能が均一でないタイプの超並列計算機に対するタスク
スケジューリング方法を提供することにある。

【０００６】

【課題を解決するための手段】(a)各タスクの演算時間
とタスク間のデータ転送量の評価から各タスクをプロセ
ッサ上にスケジュールするための優先順位を決め、(b)
該優先順位に従って各タスクをプロセッサ上にスケジュ
ールし、(c)データ転送が必要なタスクについて、該ス
ケジュールで決まる割付プロセッサ間の通信路の速度と
データ転送量からデータ転送時間を評価し、(d)該転送
時間とタスクの演算時間からスケジュールの優先順位を
再度計算し、(e)処理(b)(c)(d)を繰り返し実行すること
によってスケジュールを決定するようにしたものであ
る。

【０００７】

【作用】(a)各タスクの演算時間とタスク間のデータ転
送量の評価から各タスクをプロセッサ上にスケジュール
するための優先順位を決め、(b)該優先順位に従って各
タスクをプロセッサ上にスケジュールし、(c)データ転
送が必要なタスクについて、該スケジュールで決まる割
付プロセッサ間の通信路の速度とデータ転送量からデー
タ転送時間を評価し、(d)該転送時間とタスクの演算時
間からスケジュールの優先順位を再度計算し、(e)処理
(b)(c)(d)を繰り返し実行するので、タスクが割り付け
られるプロセッサ間の実際の通信時間がスケジュールに
次第に反映され、実機通信機構に適合するスケジュール
を得ることができる。

【０００８】

【実施例】以下、本発明の１実施例を図面を用いて説明
する。基本的なアイディアは次のようなものである。す
なわち、まず、プロセッサ間の通信路の性能は均一であ
ると仮定してタスクスケジュールの優先度を計算して、
初期スケジュールを決める。その結果、各タスクが割り
付けられるプロセッサが具体的に決まる。するとプロセ
ッサ間の各通信路の性能から実際のデータ転送時間が計
算できる。つまり、初期スケジュールではこのデータ転
送時間が真のものではなかった。初期スケジュール後に
はじめて真のデータ転送時間が計算できた。そこで、こ
の真の転送時間をタスク優先度計算に反映して再度計算
すれば、それを使うスケジュールは次第に実機の通信路
の性能を反映した正しいものになってゆくであろう。遅
い通信路で結ばれたタスクが多量のデータ転送を必要と
している場合には、使用するクリティカルパス法の性質
上高い優先度が与えられるようになるので、この反復を
繰り返すと、それらのタスクは次第に近いプロセッサ、
すなわち性能の高い通信路を持つプロセッサに集まるよ
うになるはずである。もちろんタスク間に実行順序の制
約が元々あるので、反復毎に処理時間が減少するスケジ
ュールが得られるとは限らず、振動することがあると考
えられる。しかし、この反復で得られるスケジュールの
うちから、より処理時間が短いスケジュールを選択する
ことができる。

【０００９】図１は本発明によるタスクスケジュリング
処理１００の全体構成図である。１０１は対象とする応
用問題のソースプログラムである。このプログラムを処
理１０２で、分散記憶型並列機用にタスクに分割する。
処理１０３では、分割された個々のタスクの大きさ、す
なわちタスクの演算量と、元のプログラムをタスクに分
割したことによって必要となるタスク間のデータ転送量
を評価する。それが済むと、処理１０４でタスクグラフ
１２０を作成する。タスクグラフの構造は図３のようで
あるが、これは後に説明する。次に、処理１０５でタス
クグラフに記載されているタスクの演算量とタスク間の
データ転送量から、タスクをプロセッサにスケジュール
するための、タスクの優先順位を計算する。ここで述べ
るスケジュールとは、どのタスクをどのプロセッサにい
つ割り付けるかを指す。実際のスケジュールでは、この
優先順位の高いタスクを、現時点で空いており、かつ開
始時刻が最も早くなるプロセッサに優先的に割り付けて
ゆく。これを実行するのが処理１０７である。１０７は
プロセッサ台数情報１０６を用いる。

【００１０】１０８は任意のプロセッサ対に対してその
間の通信路の速度情報を与えるものである。１０９で
は、１０７が作成したスケジュールを、１０８を使って
反復改良する。すなわち、１０７の結果、どのタスクが
どのプロセッサに割り付けられたが分かる。従って１０
８の情報からタスク間のデータ転送時間が計算できる。
これを使って、より実機の通信性能を反映した、処理時
間の短くなるスケジュールを探索する。１１０では、１
０９の反復改良で作成されたスケジュールのうち、処理
時間が最も短くなるものを選ぶ。１１２では、こうして
決定されたスケジュールでタスクを処理するための制御
コードを生成する。１１２で作られる制御コードのもと
で、入力データ１１１を使って並列計算機上での実行１
１３を実施する。これにより、応用プログラムを効率よ
く並列実行させることができる。

【００１１】図２は、本発明が対象とする超並列計算機
のネットワークの例である。プロセッサ２０１から２０
２へデータ転送が必要な場合は通信路２１１だけを通れ
ばよい。しかし、２０１から２０３へデータ転送するに
は、さらに２１２を通らなければならない。されに２０
４へ転送するには２１３を通る必要がある。このよう
に、データ転送が必要なプロセッサ対がどのような位置
関係にあるかによって通信経路に長短があり、通信コス
トが異なる。本発明ではこのような並列計算機用のスケ
ジュール方法を提供するものである。

【００１２】図３は、タスクグラフ１２０の構造を示し
たものである。Ｔ０やＴ１等のノードは各タスクを表
す。各タスクの左に記載された数値はそのタスクの演算
時間を示す。ノード間の矢印はタスクの実行順序を示
す。どのようにタスクがスケジュールされるにせよ、こ
の順序関係は守られなければならない。矢印の横に書か
れた数値は、タスク間のデータ転送量を示している。

【００１３】図５は、プロセッサ間の通信コストモデル
１０８である。ここでは簡単のため、３台のプロセッサ
１０８１〜１０８３が通信路１０８５、１０８６で結合
された場合を取り上げる。プロセッサ間の通信時間Ｔは
Ｔ＝ｂ＋ａ＊Ｌで与えられる。Ｌは単位データ量当りの
データ転送時間、ａはデータ転送量、ｂは通信立ち上が
りのオーバヘッド時間である。ここで、ｂは１０８１と
１０８２間、および１０８２と１０８３間では０である
が、１０８１と１０８３間では二つの通信路を通る必要
からｂ＝１とする。

【００１４】図６は、タスク優先順位の計算１０５を示
したものである。１０５１では、タスクグラフ１２０の
中のいずれかのノードＮ１を取り出す。次に１０５２
で、出口ノードから、すなわちタスクグラフ１２０では
ノードＴ７からＮ１への全ての経路を取り出す。この時
の経路は矢印を逆にたどった経路を指す。具体的には、
もしＮ１としてノードＴ０が選ばれた場合にはＴ７から
の４つの経路が取り出される。次に１０５３にて、上記
経路の各々について、その経路上のノードの演算時間と
通信時間の合計Ｓを計算する。通信時間Ｔは、既に述べ
た通信コストモデル１０８に従って、Ｔ＝ｂ＋ａ＊Ｌで
計算される。ａはタスクグラフの矢印の横に記載された
データ転送量である。その他のパラメータは、上記図５
の説明で既に述べてある。このうち、ｂは通信立ち上が
りオーバヘッド時間であるが、第１回目のタスク優先順
位計算時にはまだ割付プロセッサが具体的にきまらない
ので、ｂは全ての通信路で０とする。

【００１５】１０５４では、上記経路に関するＳの値の
最大値を算出し、それをノードＮ１のタスク優先度とす
る。１０５５の判定で、タスクグラフ内に未処理のノー
ドがあれば処理１０５１に戻る。全てのノードが処理済
みなら、１０５６にて、このタスク優先度の大きい順に
優先度が高くなるよう、タスク優先順位リストを作成す
る。もしも複数のタスクが同一優先度を持つ場合は、タ
スク番号の小さいものを優先する。１０５６の結果、タ
スク１２０に対しては、図４（ａ）に示すようなタスク
優先順位リストができる。

【００１６】図７は、上記タスク優先順位リストを用い
たスケジュールの生成１０７の詳細を説明したものであ
る。１０７１ではタスク優先順位リストから先頭のタス
クＴ０を取り出す。次に１０７２にて、Ｔ０をいずれか
のプロセッサの時刻０にスケジュールする。１０７３で
は、タスク優先順位リストの先頭タスク、この場合はＴ
０を削除し、現在の先頭タスクＴ１を取り出す。１０７
４にて、Ｔ１の先行タスク、すなわち、Ｔ１の直接の親
となっているタスクＰ１，Ｐ２，...,Ｐｎを検出する。
次に、１０７５にて、各先行タスクＰｉ（ｉ＝１，
２，...，ｎ）からＴ１の割付プロセッサへのデータ転
送時間を計算する。Ｔ１の割付プロセッサはこの時点で
は未定であるので、全てのプロセッサを割付候補として
このデータ転送時間を計算する。その計算法は処理１０
５３での通信時間の計算法と同一である。次に１０７６
にて、各Ｐｉの終了時刻にＰｉからＴ１へのデータ転送
時間を加えた時間のうち、ｉに関する最大値をＴ１の可
能開始時刻とする。次に、１０７７にて、Ｔ１の割付プ
ロセッサの候補のうち、Ｔ１についての可能開始時刻が
最も早くなるものをＴ１の割付プロセッサと決定する。
１０７８ではタスク優先順位リストは空か否か判定し、
空でなければ残りのタスクについて処理１０７３を行
う。

【００１７】１０７のスケジュール生成により、タスク
グラフ１２０に対しては図４（ｂ）のタイムチャートが
得られる。

【００１８】図８は、タスクスケジュールの反復改良１
０９を示したものである。１０９１では第１回目の１０
７の処理で生成した初期スケジュールを読み込む。この
スケジュールにより各タスクの割付プロセッサが決って
いるので、プロセッサ間の通信時間を計算する。これを
１０９２で行う。通信時間は１０５３での通信時間の計
算と同一であるが、立ち上がりオーバヘッド時間ｂは、
１０８のプロセッサ間通信コストモデルに従って、プロ
セッサ対によって異なる値を使用することになる。次
に、１０９３にて、元のタスクグラフ上各辺に記載され
ていたデータ転送量の代わりに、上記で計算したプロセ
ッサ間通信時間を用いてタスク優先順位を再度計算す
る。例えば、タスクグラフ１２０に対しては、図９
（ａ）のような変形タスクグラフができる。この中の各
辺の横に記述してある数値はデータ転送時間である。図
３ではＴ３からＴ６へデータ転送量が３単位あったが、
初期スケジュールの結果、図４（ｂ）にあるとおり、Ｔ
３とＴ６は同一プロセッサに割り付けられた。従って、
図９（ａ）ではＴ３とＴ６の間の通信時間は０となって
いる。この変形タスクグラフについて、１０９３でタス
ク優先順位を再計算した結果が図９（ｂ）である。優先
順位は、通信時間を反映した結果、前回のものとは異な
っていることがわかる。

【００１９】１０９３に引続き、スケジュールの生成１
０７を再びここで行う。次に、予め与えた反復改良の回
数の限界を越えたか否かを１０９４で判定し、越えてい
なければ１０９２へ戻る。反復回数の限界に達していれ
ば終了し、１１０にて、これまでに得られたスケジュー
ルのうち、最短処理時間を与えるものをタスクスケジュ
ールとして決定する。

【００２０】図９（ｃ）は、第２回目のスケジュール結
果を示したものである。第１回目のスケジュール結果で
ある図４（ｂ）にくらべ、処理時間が２単位時間短くな
っている。その要因の一つは、タスクＴ４とＴ７の関係
にあると考えられる。初期スケジュールではＴ４とＴ７
の間に２単位のデータ転送量があるのに、両者はプロセ
ッサ３とプロセッサ１に割付られた。プロセッサ１と３
は通信立ち上がりオーバヘッドが最も大きい関係にあ
り、その間の通信時間は図９（ａ）のＴ４とＴ９の間で
は、３単位時間という大きな値になる。これに対する再
スケジュールの結果、これらの両タスクをより近いプロ
セッサどうし、プロセッサ３とプロセッサ２に割り付け
るように働いた。その結果、短い実行時間が得られるよ
うになった

【００２１】。

【発明の効果】本発明では、プロセッサ間の通信路の性
能が均一でないタイプの超並列計算機上で応用プログラ
ムを実行する場合の、タスクスケジュールを求めること
ができる。

【図面の簡単な説明】

【図１】本発明の一実施例を示す全体構成図である。

【図２】超並列計算機のネットワークの例を示す図であ
る。

【図３】タスクグラフの詳細図である。

【図４】初期タスク優先順位と初期スケジュールを示す
図である。

【図５】プロセッサ間の通信コストモデルの説明図であ
る。

【図６】タスク優先順位の計算の詳細内容を示す図であ
る。

【図７】スケジュールの生成の説明図である。

【図８】タスクスケジュールの反復改良の説明図であ
る。

【図９】再スケジュリングの結果の説明図である。

Claims (1)

【特許請求の範囲】
1. 【請求項１】プログラムをタスクに分割して分散記憶型
   並列計算機で実行させる場合において、(a)各タスクの
   演算時間とタスク間のデータ転送量の評価から各タスク
   をプロセッサ上にスケジュールするための優先順位を決
   め、(b)該優先順位に従って各タスクをプロセッサ上に
   スケジュールし、(c)データ転送が必要なタスクについ
   て、該スケジュールで決まる割付プロセッサ間の通信路
   の速度とデータ転送量からデータ転送時間を評価し、
   (d)該転送時間とタスクの演算時間からスケジュールの
   優先順位を再度計算し、(e)処理(b)(c)(d)を繰り返し実
   行することによってスケジュールを決定することを特徴
   とするタスクスケジュリング方法。