JP2728601B2 - 並列処理の性能評価装置 - Google Patents

Description

【発明の詳細な説明】

【０００１】

【産業上の利用分野】本発明は，並列計算機において，
通信・同期の処理のオーバヘッドとプロセッサのアイド
ル状態によるオーバヘッドとを区別して求める並列処理
の性能評価装置に関する。

【０００２】並列計算機を制御するプログラムや並列計
算機上で並列処理を行うアプリケーションプログラムの
実行性能を向上させるためには，詳細なオーバヘッドに
関する情報が必要になる。

【０００３】

【従来の技術】いわゆるＳＰＭＤ（single program mul
tiple data stream)型や，ＭＩＭＤ（multiple instruc
tion stream multiple data stream) 型というような各
種の並列計算機が，プログラムの高速処理のために使用
されている。この種の並列計算機では，プログラムまた
はデータを各プロセッサに配分し，同時に多数のプロセ
ッサでデータを並列処理することにより，処理の高速化
を実現している。各プロセッサ間の処理の連携のため
に，通常，メッセージ通信が行われる。

【０００４】このような並列計算機において，アプリケ
ーションプログラムを動作させる場合，できるだけプロ
セッサのアイドル状態を少なくし，処理の並列性を高め
る必要がある。そのため，アプリケーションプログラム
を改善する場合には，どの部分がオーバヘッドになって
いるかについての性能評価データが必要になる。

【０００５】従来の性能評価方式として，実行と並列処
理のオーバヘッドの割合を調べるもの，各プロセッサの
稼動率を求めるもの，実行最大遅延パスを求めるものな
どが考えられていた。

【０００６】しかし，従来の性能評価方式によるオーバ
ヘッドの算出は，各プロセッサにおける処理全体のオー
バヘッドを求めるものであり，従来，メッセージ通信や
同期のための処理のオーバヘッドと，メッセージ受信待
ちや同期待ちによるアイドル状態のオーバヘッドとを区
別して求めるようにしたものはなかった。

【０００７】

【発明が解決しようとする課題】並列処理におけるオー
バヘッドは，処理要求のメッセージ受信待ちや同期待ち
のアイドル状態によるオーバヘッドと，メッセージ通信
と同期の処理のオーバヘッドの２種類に分けることがで
きる。

【０００８】アプリケーションプログラムの実行性能を
向上させるためには，これらのオーバヘッドを削減する
必要があり，どのようなオーバヘッドがあるかを知る必
要がある。例えば，アイドル状態によるオーバヘッドが
大きい場合には，各プロセッサへの処理またはデータの
分配をもっと効率よく行うように，アプリケーションプ
ログラムのアルゴリズムを改善することが必要になる。
また，メッセージ通信と同期の処理のオーバヘッドが大
きい場合には，通信や同期の処理に関する制御用プログ
ラムの改良またはアプリケーションプログラムによる通
信要求の削減などの改良を図ることが必要になる。

【０００９】従来方式では，並列計算機において，プロ
セッサのアイドル状態によるオーバヘッドと，通信・同
期処理のオーバヘッドとを区別して求めていなかったた
め，アプリケーションプログラム等を改善するための十
分に有効な資料を得ることができないという問題があっ
た。

【００１０】本発明は上記問題点の解決を図り，並列計
算機における処理の並列性を高めるための，アプリケー
ションプログラム等の改善に役立つ有効な性能評価デー
タを取得する手段を提供することを目的としている。

【００１１】

【課題を解決するための手段】図１は本発明の原理説明
図である。図１において，１０−１〜１０−ｎは並列計
算機を構成するプロセッサ，１１−１〜１１−ｎは各プ
ロセッサで動作するアプリケーションプログラム，１２
−１〜１２−ｎは各プロセッサにおいて発生したイベン
トに関する情報を収集するトレースデータ収集部，１３
−１〜１３−ｎは収集したトレースデータを格納するト
レースデータ格納メモリ，１４はトレースデータを解析
する解析プロセッサ，１５はトレースデータをもとにオ
ーバヘッドを算出するオーバヘッド解析部，１６はオー
バヘッドの解析結果を出力する性能評価データ出力部，
１７はディスプレイ等の出力装置を表す。

【００１２】プロセッサ１０−１〜１０−ｎは，メッセ
ージ通信により並列処理を行う処理装置であり，例えば
ＳＰＭＤ型などの並列計算機を構成する装置である。ト
レースデータ収集部１２−１〜１２−ｎは，少なくとも
メッセージ送信開始，メッセージ送信終了，メッセージ
受信開始，メッセージ受信終了，アイドル状態の開始，
アイドル状態の終了のイベントを含むイベントの種類と
発生時刻とに関する情報を収集し，各々トレースデータ
格納メモリ１３−１〜１３−ｎに格納する処理手段であ
る。

【００１３】解析プロセッサ１４は，トレースデータを
解析する処理装置であり，オーバヘッド解析部１５，性
能評価データ出力部１６を持つ。この解析プロセッサ１
４は，並列計算機を構成するプロセッサ１０−１〜１０
−ｎの１つまたは複数が担当してもよい。

【００１４】オーバヘッド解析部１５は，収集したトレ
ースデータに基づいて，少なくともメッセージ送信開始
からメッセージ送信終了までの時間とメッセージ受信開
始から受信待ちおよびメッセージ受信から受信終了まで
の時間とを含む通信・同期の処理のオーバヘッド，およ
びアイドル状態の開始から終了までの時間を含むプロセ
ッサのアイドル状態によるオーバヘッドを算出する処理
手段である。

【００１５】性能評価データ出力部１６は，オーバヘッ
ド解析部１５によるオーバヘッドの解析結果を，通信・
同期の処理のオーバヘッドとプロセッサのアイドル状態
によるオーバヘッドとを区別した態様で出力装置１７に
出力する処理手段である。

【００１６】性能評価データ出力部１６は，例えば図１
に示すように，各単位時間ごとに，(a) アイドル状態の
プロセッサ台数と，(b) 通信・同期の処理に関与してい
るプロセッサ台数と，(c) その他の稼動しているプロセ
ッサ台数とを，横軸に時間，縦軸にプロセッサ台数をと
ったグラフにより表し，それを出力する。

【００１７】

【作用】本発明によれば，並列処理におけるオーバヘッ
ドについて，プロセッサのアイドル状態によるオーバヘ
ッドと，通信・同期の処理によるオーバヘッドの２種類
のオーバヘッドが，別に算出され求められる。請求項２
記載の発明の場合，特に，これらのオーバヘッドと時間
との関係がグラフ化されて出力されるので，アプリケー
ションプログラムのアルゴリズム等に係るオーバヘッド
の原因追求が可能になる。

【００１８】

【実施例】図２は，本発明の実施例に係るシステム構成
例を示す。図２において，図１と同符号のものは図１に
示すものに対応し，２０は各プロセッサにクロック信号
を供給するクロック生成部，２１は各プロセッサを相互
に接続する相互結合網，２２は並列計算機を制御するプ
ロセッサである制御装置を表す。

【００１９】図２の（イ）に示すシステムの場合，トレ
ースデータを各プロセッサ１０−１〜１０−ｎが各々採
取し，制御装置２２は，各プロセッサが採取したトレー
スデータを，相互結合網２１を介して収集する。さら
に，制御装置２２は，収集したトレースデータをもとに
オーバヘッドを解析し，出力装置１７に解析結果を出力
する。

【００２０】図２の（イ）に示すシステムが，逐次処理
的にオーバヘッドを解析するのに対し，図２の（ロ）に
示すシステムでは，オーバヘッドの解析を，各プロセッ
サ１０−１〜１０−ｎが自プロセッサ分について並列処
理で行い，制御装置２２がその結果を収集して，出力装
置１７に出力する。

【００２１】図１に示すトレースデータ収集部１２−１
〜１２−ｎが収集するトレースデータは，以下のような
イベントに関する情報である。イベントの種類とその発
生時刻の情報がイベントごとに蓄積される。

【００２２】 (1) アプリケーションプログラムの実行開始 アプリケーションプログラムの実行時のオプションとし
て，トレースデータを収集するかしないかを指定するこ
とができ，ユーザの指定により，トレースデータ収集が
選択されたならば，この実行開始イベント以降のトレー
スデータが採取される。

【００２３】 (2) アプリケーションプログラムの実行終了 この実行終了イベントにより，トレースデータの採取を
終了する。 (3) メッセージ送信開始 アプリケーションプログラムが他のプロセッサへメッセ
ージを送信する場合，ライブラリとして提供されるメッ
セージ送信の関数を使用する。その関数呼び出しによっ
て発生するイベントである。

【００２４】(4) メッセージ送信終了 メッセージ送信関数からの復帰時に発生するイベントで
ある。 (5) メッセージ受信開始 アプリケーションプログラムが他のプロセッサからメッ
セージを受信する場合，メッセージ受信の関数を使用す
る。その関数呼び出しによって発生するイベントであ
る。

【００２５】(6) メッセージ受信待ち メッセージ受信関数によって，他のプロセッサからのメ
ッセージの到着を待つ状態に入るときに発生するイベン
トである。

【００２６】(7) メッセージ受信 メッセージ受信待ちの状態で，他のプロセッサから実際
にメッセージが送られてきたときに発生するイベントで
ある。

【００２７】(8) メッセージ受信終了 他のプロセッサから送られてきたメッセージの受信が終
了したときに発生するイベントである。

【００２８】(9) バリア同期開始 バリア同期とは，各プロセッサの同期要求により，並列
計算機を構成する全プロセッサが同期をとる場合に用い
られる同期処理である。アプリケーションプログラムが
バリア同期を要求する関数を発行すると，バリア同期開
始のイベントが発生する。

【００２９】(10)バリア同期要求 バリア同期を要求する関数の処理が終了し，バリア同期
の成立を待つ状態になったときに発生するイベントであ
る。

【００３０】(11)バリア同期成立 すべてのプロセッサがバリア同期を要求する関数を発行
し，バリア同期が成立したときに発生するイベントであ
る。

【００３１】(12)バリア同期終了 バリア同期成立の処理によって，各プロセッサが稼動で
きる状態になったときに発生するイベントである。

【００３２】(13)割り込み処理開始 プロセッサに対して何らかの割り込みが発生したときに
発生するイベントである。

【００３３】(14)割り込み処理終了 割り込みの処理が終了して，割り込み処理から抜け出す
ときに発生するイベントである。

【００３４】(15)アイドルタスク実行開始 アプリケーションプログラムの動作が停止または中断
し，アイドルタスクが走行するときに発生するイベント
である。

【００３５】(16)アイドルタスク実行終了 アプリケーションプログラムが再走行するときに発生す
るイベントである。以上のようなイベントに関する種類
と時刻の情報により，次のようにオーバヘッドを解析す
る。

【００３６】図３は，そのオーバヘッド解析説明図であ
る。図３の（イ）に示すように，メッセージ受信開始時
刻Ｔ１からメッセージ受信待ち時刻Ｔ２までの時間は，
通信・同期の処理によるオーバヘッドである。メッセー
ジ受信待ち時刻Ｔ２からメッセージ受信時刻Ｔ３までの
時間は，プロセッサのアイドル状態によるオーバヘッド
である。メッセージ受信時刻Ｔ３からメッセージ受信終
了時刻Ｔ４までの時間は，通信・同期の処理によるオー
バヘッドである。

【００３７】また，図３の（ロ）に示すように，メッセ
ージ送信開始時刻Ｔ１１からメッセージ送信終了時刻Ｔ
１２までの時間は，通信・同期の処理によるオーバヘッ
ドである。

【００３８】また，図３の（ハ）に示すように，バリア
同期開始時刻Ｔ２１からバリア同期要求時刻Ｔ２２まで
の時間は，通信・同期の処理によるオーバヘッドであ
り，バリア同期要求時刻Ｔ２２からバリア同期成立時刻
Ｔ２３までの時間は，プロセッサのアイドル状態による
オーバヘッドであり，バリア同期成立時刻Ｔ２３からバ
リア同期終了時刻Ｔ２４までの時間は，通信・同期の処
理によるオーバヘッドである。

【００３９】また，図３の（ニ）に示すように，アイド
ルタスク実行開始時刻Ｔ３１からアイドルタスク実行終
了時刻Ｔ３２までの時間は，プロセッサのアイドル状態
によるオーバヘッドである。

【００４０】また，図３の（ホ）に示すように，割り込
み処理開始時刻Ｔ４１から割り込み処理終了時刻Ｔ４２
までの時間は，通信・同期の処理によるオーバヘッドで
ある。

【００４１】本発明では，蓄積したイベントの情報を解
析することにより，以上のようなオーバヘッドの時間お
よび各時間におけるオーバヘッド状態にあるプロセッサ
台数などを算出する。

【００４２】図４は，本発明の実施例に係るオーバヘッ
ド解析処理フローを示す。図４に示す処理は，図２の
（イ）に示す逐次処理型では，全プロセッサのイベント
についてまとめて実行し，図２の（ロ）に示す並列処理
型では，各プロセッサごとに実行する。

【００４３】(a) 収集したトレースデータを調べ，イベ
ント情報を順次取り出す。取り出すイベント情報がなく
なったならば，処理を終了する。 (b) イベントがメッセージ送信開始である場合，対応す
るメッセージ送信終了のイベントを探し，メッセージ送
信終了までの時間を求める。

【００４４】(c) イベントがメッセージ受信開始である
場合，対応するメッセージ受信終了のイベントを探し，
メッセージ受信終了までの時間を求める。 (d) イベントがバリア同期開始である場合，対応するバ
リア同期終了のイベントを探し，バリア同期終了までの
時間を求める。

【００４５】(e) イベントが割り込み処理開始である場
合，対応する割り込み処理終了のイベントを探し，割り
込み処理終了までの時間を求める。 (f) イベントがメッセージ受信待ちである場合，対応す
るメッセージ受信のイベントを探し，メッセージ受信ま
での時間を求める。

【００４６】(g) イベントがアイドルタスク実行開始で
ある場合，対応するアイドルタスク実行終了のイベント
を探し，アイドルタスク実行終了までの時間を求める。 (h) イベントがバリア同期要求である場合，対応するバ
リア同期成立のイベントを探し，バリア同期成立までの
時間を求める。

【００４７】以上のようにして求めた各時間の情報を，
その開始時刻とオーバヘッドの種類に関する情報ととも
にレコード化して出力する。アイドル状態と通信・同期
の処理を含めた処理全体のオーバヘッドは，上記(b) ，
(c) ，(d) ，(e) ，(g) を合わせた時間である。

【００４８】プロセッサのアイドル状態によるオーバヘ
ッドは，上記(f) ，(g) ，(h) を合わせた時間である。
処理全体のオーバヘッドから，プロセッサのアイドル状
態によるオーバヘッドを差し引くことにより，通信・同
期の処理のオーバヘッドを求めることができる。

【００４９】図５は，本発明の実施例に係る性能評価デ
ータ出力処理フローを示す。 (a) 実行開始時刻から実行終了時刻までを所定の単位時
間または指定された単位時間で分割し，その単位時間ご
とに以下の処理を行う。

【００５０】(b) 実行終了時刻になったならば，処理
(f) へ移る。 (c) オーバヘッド解析部１５の出力レコードに基づき，
その単位時間における処理全体のオーバヘッドとなって
いるプロセッサ台数を求める。

【００５１】(d) また，その単位時間におけるプロセッ
サのアイドル状態によるオーバヘッドに係るプロセッサ
台数を求める。 (e) 処理(c) で求めた台数から処理(d) で求めた台数を
減算することにより，通信・同期の処理によるオーバヘ
ッドに係るプロセッサ台数を求める。その後，処理(a)
へ戻り，単位時間を進めて同様に処理を繰り返す。

【００５２】(f) 実行終了時刻になったならば，求めた
台数に従って，図５の（ロ）に示す表示例のような，プ
ロセッサのアイドル状態によるオーバヘッドに係るプロ
セッサの台数と，通信・同期の処理のオーバヘッドに係
るプロセッサの台数と，稼動しているプロセッサの台数
とを示すグラフを編集する。

【００５３】(g) 編集したグラフをディスプレイに表示
する。 なお，以上のような性能評価データの出力は一例であ
り，もちろん他の形式により性能評価データを出力する
ことも可能である。例えばグラフに合わせて，プロセッ
サの稼動率を数値で出力してもよい。

【００５４】

【発明の効果】以上説明したように，本発明によれば，
オーバヘッドに関する情報が，プロセッサのアイドル状
態によるものと，通信・同期の処理によるものとに分け
て出力されるので，並列処理の性能向上を妨げている原
因を容易に追求することができるようになり，アプリケ
ーションプログラムのアルゴリズム等を改善して高速化
を図ることができるようになる。

【図面の簡単な説明】

【図１】本発明の原理説明図である。

【図２】本発明の実施例に係るシステム構成例を示す図
である。

【図３】本発明の実施例に係るオーバヘッド解析説明図
である。

【図４】本発明の実施例によるオーバヘッド解析処理フ
ローを示す図である。

【図５】本発明の実施例による性能評価データ出力処理
フローを示す図である。

【符号の説明】

１０−１〜１０−ｎ プロセッサ １１−１〜１１−ｎ アプリケーションプログラム １２−１〜１２−ｎ トレースデータ収集部 １３−１〜１３−ｎ トレースデータ格納メモリ １４ 解析プロセッサ １５ オーバヘッド解析部 １６ 性能評価データ出力部 １７ 出力装置

Claims (2)

(57)【特許請求の範囲】
1. 【請求項１】 複数のプロセッサ(10)を備え，プロセッ
   サ間のメッセージ通信により並列処理を行う並列計算機
   において，少なくともメッセージ送信開始，メッセージ
   送信終了，メッセージ受信開始，メッセージ受信終了，
   アイドル状態の開始，アイドル状態の終了のイベントを
   含むイベントの種類と発生時刻とに関する情報を収集す
   るトレースデータ収集部(12)と，収集したトレースデー
   タに基づいて，少なくともメッセージ送信のための処理
   の時間およびメッセージ受信のための処理の時間を含む
   通信・同期の処理のオーバヘッド，およびアイドル状態
   の開始から終了までの時間を含むプロセッサのアイドル
   状態によるオーバヘッドを算出するオーバヘッド解析部
   (15)と，オーバヘッドの解析結果を，通信・同期の処理
   のオーバヘッドとプロセッサのアイドル状態によるオー
   バヘッドとを区別した態様で出力する性能評価データ出
   力部(16)とを備えたことを特徴とする並列処理の性能評
   価装置。
2. 【請求項２】 請求項１記載の並列処理の性能評価装置
   において，前記性能評価データ出力部(16)は，各単位時
   間ごとに，通信・同期の処理に関与しているプロセッサ
   台数と，アイドル状態にあるプロセッサ台数と，その他
   の稼動しているプロセッサ台数とを示すグラフを編集し
   出力するように構成されていることを特徴とする並列処
   理の性能評価装置。