JP2001051966A - ノード装置、並列処理システム、並列処理方法、および、並列処理プログラムを記録した記録媒体 - Google Patents

Abstract

(57)【要約】 【課題】同期機構の複雑化を招かずしかも特別な通信機
構を不要として、１つのジョブを複数のプロセスに分割
しこれらを複数のノード装置で並列処理する。 【解決手段】ノード内バリア同期機構２１０ａが、自装
置内に設けたＣＰＵからの同期リクエストに基づいて自
装置内でのバリア同期が成立したことを検出すると共
に、この自装置内でのバリア同期成立の情報を、並列処
理を実行する全ノード装置に通知する。一方、ノード間
バリア同期機構２２０ａは、この並列処理を実行する他
のノード装置から通知される他装置内でのバリア同期成
立の情報に基づいて、並列処理が完了したことを検出す
る。したがって、バリア同期機構の複雑化を招かずしか
も特別な通信機構を設けずに、自装置内でのバリア同期
成立の情報を送受信することによって並列処理の完了が
検出される。

Description

【発明の詳細な説明】

【０００１】

【発明の属する技術分野】本発明は、１つのジョブを複
数のプロセスに分割し複数のノード装置で並列処理する
ノード装置、並列処理システム、並列処理方法および並
列処理プログラムを記録した記録媒体に関する。

【０００２】

【従来の技術】複雑な科学計算等の各種のジョブを実行
するために、近年、１つのジョブを複数のプロセスに分
割しそれらを並列処理することが提案されており、この
並列処理によれば複雑な科学計算等も高速に実行され
る。

【０００３】このような並列処理を行う並列計算システ
ムとして、１つのプロセッサとメモリと通信制御等を行
う通信制御ユニットを基本構成とし、この基本構成を持
つ装置を特別な通信機構を設けた専用通信網で接続した
完全分散メモリ型並列計算機がある。しかし、近年で
は、専用通信網を介して送受信される情報転送等による
並列処理オーバーヘッドの少なさから、複数のプロセッ
サがメモリを共有するＳＭＰ（Symmetric Multiple P
rocessor）部と通信制御ユニットを基本構成とし、この
基本構成を持つ装置を特別な通信機構を設けた専用通信
網で接続した分散共有メモリ型並列計算機システムが注
目を浴びている。

【０００４】これらの並列計算機システムにおいては、
複数のプロセッサが同期をとりながら夫々に割り付けら
れたプロセスを実行することによって、１つのジョブを
並列処理していく必要があるため、同期処理の高速化や
同期機構の簡素化は重要な事項である。例えば、特許番
号第２７８３１９２号公報によれば、そのための同期装
置が開示されており、１つのＣＰＵを同期単位として各
ＣＰＵとバリア同期機構との間に論理ゲートや多数の信
号線からなる通信路を設けたものであった。

【０００５】

【発明が解決しようとする課題】しかしながら、分散共
有メモリ型並列計算機にあっては、複数のプロセッサを
備える各ノード装置内での同期をとりながら、さらに、
特別な通信機構を用いてノード装置間で各装置内での同
期情報をやりとりすることによって１つのジョブを並列
処理していく、いわば２階層（ノード装置内とノード装
置間）での同期を行うものである。

【０００６】したがって、特許番号第２７８３１９２号
公報に記載のもののように、各ＣＰＵを同期単位とし
た、いわば１階層（ノード装置間は考慮せず）の同期技
術をそのまま適用することはできず、しかも実際には数
百〜数千個となるＣＰＵの夫々とバリア同期機構との間
にこの公報に記載されているような通信路を設けると同
期機構が複雑になるといった問題もあった。

【０００７】また、特開平１０−８３３７９号公報に記
載の技術によれば、複数のプロセッサを備える計算機間
で情報を送受信しながら１つのジョブを実行させる技術
が開示されているものの、送受信される情報が複雑であ
ったり、同期を行うための特別な通信機構も必要になる
といった問題があった。

【０００８】本発明は、かかる従来の課題を解決するた
めになされたもので、同期機構の複雑化を招かずしかも
特別な通信機構を不要として、１つのジョブを複数のプ
ロセスに分割しこれらを複数のノード装置で並列処理す
るための手段を提供することを目的とする。

【０００９】

【課題を解決するための手段】上記目的を達成するため
に、請求項１に係る発明は、１つのジョブを複数のプロ
セスに分割しこれらを１以上の他ノード装置と共同で並
列処理するためのノード装置であって、自ノード装置内
でのバリア同期の対象となる複数のプロセッサと、前記
複数のプロセッサからの同期リクエストに基づいて自ノ
ード装置内でのバリア同期が成立したことを検出し、こ
の自ノード装置内でのバリア同期成立の情報を、前記並
列処理を実行する全ノード装置に通知するノード内バリ
ア同期機構と、前記並列処理を実行する他の全ノード装
置から通知される他ノード装置内でのバリア同期成立の
情報に基づいて、前記並列処理が完了したことを検出す
るノード間バリア同期機構と、を備えることを特徴とす
るノード装置である。

【００１０】この発明によれば、ノード内バリア同期機
構が、複数のプロセッサからの同期リクエストに基づい
て自ノード装置内でのバリア同期が成立したことを検出
し、この自ノード装置内でのバリア同期成立の情報を、
並列処理を実行する全ノード装置に通知する。

【００１１】一方、ノード間バリア同期機構は、この並
列処理を実行する他の全ノード装置から通知される他ノ
ード装置内でのバリア同期成立の情報に基づいて、並列
処理が完了したことを検出する。したがって、バリア同
期機構の複雑化を招かずしかも特別な通信機構を設けず
に、自ノード装置内でのバリア同期成立の情報を送受信
することによって並列処理の完了が検出される。

【００１２】また、請求項２に係る発明は、上記請求項
１に記載のノード装置において、前記ノード内バリア同
期機構は、 第１の制御信号が与えられる毎に計数する
第１のカウンタと、 この第１のカウンタが、自ノード
装置内でのバリア同期の対象となるプロセッサ数に相当
する数を計数したことを検出する第１の検出部と、 前
記複数のプロセッサの夫々からの同期リクエストを受け
付ける毎に前記第１のカウンタに第１の制御信号を与え
る動作や、前記第１の検出部の検出結果に基づいて自ノ
ード装置内でのバリア同期成立の情報を前記並列処理を
実行する全ノード装置に通知する動作を行なうノード内
制御部と、を含んで成ることを特徴とする。

【００１３】この発明によれば、ノード内制御部が、各
プロセッサからの同期リクエストを受け付ける毎に第１
の制御信号を第１のカウンタに与えるので、第１のカウ
ンタの計数値が変化していく。この時、第１の検出部
が、第１のカウンタが自ノード装置内でのバリア同期の
対象となるプロセッサ数に相当する数を計数したことを
検出すると、ノード内制御部は、自ノード装置内でのバ
リア同期成立の情報を、並列処理を実行する全ノード装
置に通知する。したがって、ノード内バリア同期機構
は、ノード内制御部、第１のカウンタ、第１の検出部を
用いた簡易な構成で実現できる。

【００１４】また、請求項３に係る発明は、上記請求項
１および２のいずれかに記載のノード装置において、前
記ノード間バリア同期機構は、第２の制御信号が与えら
れる毎に計数する第２のカウンタと、この第２のカウン
タが、バリア同期の対象となる全ノード装置数に相当す
る数を計数したことを検出する第２の検出部と、前記並
列処理を実行する他の全ノード装置から通知される他ノ
ード装置内でのバリア同期成立の情報を受け付けると前
記第２の制御信号を与える動作や、前記第２の検出部の
検出結果に基づいて前記並列処理が完了したことを検出
する動作を行うノード間制御部と、を含んで成ることを
特徴とする。

【００１５】この発明によれば、ノード間制御部は、並
列処理を実行する他の全ノード装置から通知される他ノ
ード装置内でのバリア同期成立の情報を受け付けると第
２の制御信号を第２のカウンタに与えるので、第２のカ
ウンタの計数値が変化していく。この時、第２の検出部
が、第２のカウンタがバリア同期の対象となる全ノード
装置数に相当する数を計数したことを検出すると、ノー
ド間制御部は並列処理の完了を把握する。したがって、
ノード間バリア同期機構は、ノード間制御部、第２のカ
ウンタ、第２の検出部を用いた簡易な構成で実現でき
る。

【００１６】また、請求項４に係る発明は、上記請求項
２および３のいずれかに記載のノード装置において、前
記第１のカウンタの計数値、および／または、第２のカ
ウンタの計数値を出力する出力手段をさらに備えたこと
を特徴とする。

【００１７】この発明によれば、出力手段が、第１のカ
ウンタの計数値、および／または、第２のカウンタの計
数値を出力するので、並列処理の実行状態を把握でき
る。

【００１８】また、請求項５に係る発明は、上記請求項
１、２、３および４のいずれかに記載のノード装置にお
いて、前記並列処理を実行する全ノード装置に通知す
る、自ノード装置内でのバリア同期成立の情報は、自ノ
ード装置の識別子であることを特徴とする。

【００１９】この発明によれば、ノード装置は、自ノー
ド装置の識別子を自ノード装置内でのバリア同期成立の
情報として、並列処理を実行する全ノード装置に通知す
るので、並列処理に関するトラフィック量が低減され
る。

【００２０】さらに、請求項６に係る発明は、請求項
１、２、３、４および５のいずれかに記載のノード装置
を複数備え、複数備えられたノード装置の夫々が、ノー
ド装置内でのバリア同期成立の情報を相互に送受信可能
に構成された並列処理システムである。

【００２１】この発明によれば、以上のようなノード装
置を複数備えてそれらのノード装置間において自ノード
装置内でのバリア同期成立の情報が送受信されるので、
以上のようなノード装置を複数備えた並列処理システム
を構築できる。

【００２２】さらに、請求項７に係る発明は、１つのジ
ョブを複数のプロセスに分割しこれらを１以上の他ノー
ド装置と共同で並列処理するための方法であって、自ノ
ード装置内に設けた複数のプロセッサからの同期リクエ
ストに基づいて自ノード装置内でのバリア同期が成立し
たことを検出し、この自ノード装置内でのバリア同期成
立の情報を、前記並列処理を実行する全ノード装置に通
知し、前記並列処理を実行する他の全ノード装置から通
知される他ノード装置内でのバリア同期成立の情報に基
づいて、前記並列処理が完了したことを検出することを
特徴とする並列処理方法である。

【００２３】この発明によれば、自ノード装置内に設け
たプロセッサからの同期リクエストに基づいて自ノード
装置内でのバリア同期が成立したことを検出し、この自
ノード装置内でのバリア同期成立の情報を、並列処理を
実行する全ノード装置に通知する。一方、並列処理を実
行する他のノード装置から通知される他ノード装置内で
のバリア同期成立の情報に基づいて、並列処理が完了し
たことを検出する。したがって、この並列処理方法によ
れば、バリア同期機構の複雑化を招かずしかも特別な通
信機構を設けずに、自ノード装置内でのバリア同期成立
の情報を送受信することによって並列処理の完了が検出
される。

【００２４】そして、請求項８に係る発明は、１つのジ
ョブを複数のプロセスに分割しこれらを１以上の他ノー
ド装置と共同で並列処理するための並列処理プログラム
を記録したコンピュータ読み取り可能な記録媒体であっ
て、自ノード装置内に設けた複数のプロセッサからの同
期リクエストに基づいて自ノード装置内でのバリア同期
が成立したことを検出し、この自ノード装置内でのバリ
ア同期成立の情報を、前記並列処理を実行する全ノード
装置に通知する処理と、前記並列処理を実行する他の全
ノード装置から通知される他ノード装置内でのバリア同
期成立の情報に基づいて、前記並列処理が完了したこと
を検出する処理とを、コンピュータに実行させる並列処
理プログラムを記録したことを特徴とする並列処理プロ
グラムを記録した記録媒体である。

【００２５】この記録媒体に記録される並列処理プログ
ラムをコンピュータが実行することによって、自ノード
装置内に設けたプロセッサからの同期リクエストに基づ
いて自ノード装置内でのバリア同期が成立したことを検
出し、この自ノード装置内でのバリア同期成立の情報
を、並列処理を実行する全ノード装置に通知する処理
と、並列処理を実行する他の全ノード装置から通知され
る他ノード装置内でのバリア同期成立の情報に基づい
て、並列処理が完了したことを検出する処理とが実行さ
れる。したがって、バリア同期機構の複雑化を招かずし
かも特別な通信機構を設けずに、自ノード装置内でのバ
リア同期成立の情報を送受信することによって並列処理
の完了が検出される。

【００２６】なお、このような記録媒体としては、ＲＯ
Ｍ、半導体ＩＣ等の半導体記録媒体、ＤＶＤＲＯＭ、Ｃ
ＤＲＯＭ等の光記録媒体、ＨＤ、フレキシブルディスク
等の磁気記録媒体、ＭＯ等の光磁気記録媒体が挙げられ
る。

【００２７】

【発明の実施の形態】以下、本発明の実施の形態を図面
を参照しつつ説明する。

【００２８】図１は、本発明の実施の形態である並列処
理システムのブロック構成図、図２はそれを構成するノ
ード装置のブロック構成図である。図１に示すように、
この並列処理システムは、複数のノード装置１００ａ、
１００ｎの夫々を光ファイバ、同軸ケーブル等の通信ケ
ーブル５００によって相互に所要の情報を送受信可能に
構成されている。なお、図示の容易さ等のため図１にお
いては２台のノード装置しか図示していないがノード装
置の接続台数には特に制限が無く、また夫々のノード装
置の構成は同一である。

【００２９】図２に示すように、このノード装置１００
ａは、通信制御ユニット２００ａと、複数台のプロセッ
サであるＣＰＵ３００ａ、３００ｂ、３００ｎと、これ
らのＣＰＵが共用する共用メモリとしての主記憶４００
ａとを有している。通信制御ユニット２００ａは、ＣＰ
Ｕ３００ａ、３００ｂ、３００ｎからの同期リクエスト
に基づいて自ノード装置内でのバリア同期が成立したこ
とを検出し、この自ノード装置内でのバリア同期成立の
情報を、並列処理を実行する全ノード装置に通信ケーブ
ル５００を介して通知するノード内バリア同期機構２１
０ａと、並列処理を実行する他の全ノード装置から通信
ケーブル５００を介して通知される他ノード装置内での
バリア同期成立の情報に基づいて並列処理が完了したこ
とを検出するノード間バリア同期機構２２０ａとを有し
ている。

【００３０】ノード内バリア同期機構２１０ａは、自ノ
ード装置内でのバリア同期の対象となるＣＰＵ数を初期
値とし、制御信号が与えられる毎にその初期値を１ずつ
減じていくカウンタ２１４ａと、カウンタ２１４ａのカ
ウント値（計数値）がゼロになったことを検出するゼロ
検出部２１６ａと、ＣＰＵ３００ａ、３００ｂ、３００
ｎからの同期リクエストを受け付けるとカウンタ２１４
ａに制御信号を与える動作やゼロ検出部２１６ａがカウ
ンタ２１４ａのカウント値がゼロになったことを検出し
た旨の信号を送るとこれを受け付けて、自ノード装置内
でのバリア同期が検出されたとして、その旨の情報を通
信ケーブル５００を介して並列処理を実行する全ノード
装置に通知する動作等を行うノード内制御部２１２ａと
を含んで構成されている。

【００３１】一方、ノード間バリア同期機構２２０ａ
は、バリア同期の対象となる全ノード装置数を初期値と
し、制御信号が与えられる毎にその初期値を１ずつ減じ
ていくカウンタ２２４ａと、カウンタ２２４ａのカウン
ト値（計数値）がゼロになったことを検出するゼロ検出
部２２６ａと、並列処理を実行する他のノード装置から
通知される他ノード装置内でのバリア同期成立の情報を
受け付けるとカウンタ２２４ａに制御信号を与える動作
やゼロ検出部２１６ａがカウンタ２２４ａのカウント値
がゼロになったことを検出してその旨の信号を送るとこ
れを受けとって、並列処理が完了したことを検出して各
ＣＰＵ３００ａ、３００ｂ、３００ｎに並列処理の終了
通知を行う等の動作を行うノード間制御部２２２ａとを
含んで構成されている。

【００３２】図３は、ノード内制御部２１０ａが、並列
処理を実行する全ノード装置に通知する自ノード装置内
でのバリア同期が検出された旨の情報（ノード間制御部
２２２ａが受け付ける、並列処理を実行する他のノード
装置から通知される他ノード装置内でのバリア同期成立
の情報でもある）のデータフォーマットの模式的説明図
であり、図３に示すように、この情報は予めノード装置
毎に付与されたノード装置の識別子であるノード番号か
らなっている。この例では、ノード番号が「」である
場合を示しており、このような単純なデータフォーマッ
トを有するデータが通信ケーブル５００上を転送される
だけなので、並列処理に関するトラフィック量が低減さ
れる。

【００３３】次に動作を説明する。なお、１つのノード
装置におけるいずれかのＣＰＵは、親プロセスが割り当
てられる親ＣＰＵの役割を担っていて、この親ＣＰＵ
は、主記憶４００ａの所定領域に予め記憶されている、
並列処理を実行する全ノード装置数や各ノード装置内で
の同期対象となるプロセッサ数等の並列処理に必要な情
報をアクセスして、並列処理の実行準備を行なうように
なっている。

【００３４】まず、各ＣＰＵ３００ａ、３００ｂ、３０
０ｎのうち親プロセスが割り付けられた親ＣＰＵが、ノ
ード内制御部２１２ａに対して、同期対象となるＣＰＵ
数を通知すると、ノード内制御部２１２ａはこれを受け
取ってカウンタ２１４ａに初期値として記憶させる。ま
た、親ＣＰＵは、ノード間制御部２２２ａに対して、ノ
ード装置間での同期対象となるノード装置数を通知する
と、ノード間制御部２２２ａはこれを受け取ってカウン
タ２２４ａに初期値を記憶させる。なお、カウンタ２２
４ａの初期値の設定にあっては、並列処理システムを構
成する或るノード装置内の親ＣＰＵが、自ノード装置内
のみならず他のノード装置内のノード間制御部に初期値
を通知して初期値を設定させるようにしても良い。

【００３５】次に、各ＣＰＵ３００ａ、３００ｂ、３０
０ｎが主記憶４００ａを使用して夫々に割り付けられた
プロセスを実行していく。この際、プロセスの実行を終
了してバリア同期の同期点に到達したＣＰＵは、同期リ
クエストをノード内制御部２１２ａに対して送る。ノー
ド内制御部２１２ａは、同期リクエストを受けとる毎に
制御信号をカウンタ２１４ａに与え、カウンタ２１４ａ
はこの制御信号を受け取る毎にカウント値を１だけ減じ
る。そして、ゼロ検出部２１６ａが、カウンタ２１４ａ
のカウント値がゼロになったことを検出するとこの旨の
信号をノード内制御部２１２ａに送る。これを受け取っ
たノード内制御部２１２ａは、自ノード装置内でのバリ
ア同期が成立したとして、図３に示すような、自ノード
装置内でのバリア同期の成立を示す情報を並列処理を実
行する全ノード装置（自ノード装置を含む）に通知す
る。

【００３６】一方、ノード間制御部２２２ａは、このよ
うな通知を受け取る毎に制御信号をカウンタ２２４ａに
与え、カウンタ２２４ａはこの制御信号を受け取る毎に
カウント値を１だけ減じる。そして、ゼロ検出部２２６
ａが、カウンタ２２４ａのカウント値がゼロになったこ
とを検出するとその旨の信号をノード間制御部２２２ａ
に送るので、ノード間制御部２２２ａは、複数のノード
装置で実行される並列処理が完了したことを検出して、
各ＣＰＵ３００ａ、３００ｂ、３００ｎに対して並列処
理の終了通知を行う。この通知を受け取った各ＣＰＵ３
００ａ、３００ｂ、３００ｎは次の段階の処理を行う。

【００３７】したがって、この実施の形態によれば、ノ
ード内バリア同期機構２１０ａが、自ノード装置内に設
けた複数のＣＰＵからの同期リクエストに基づいて自装
置内でのバリア同期が成立したことを検出し、この自ノ
ード装置内でのバリア同期成立の情報を、並列処理を実
行する全ノード装置に通知する。

【００３８】一方、ノード間バリア同期機構２２０ａ
は、この並列処理を実行する他の全ノード装置から通知
される他ノード装置内でのバリア同期成立の情報に基づ
いて、並列処理が完了したことを検出する。したがっ
て、バリア同期機構の複雑化を招かずしかも特別な通信
機構を設けずに、自ノード装置内でのバリア同期成立の
情報を送受信することによって並列処理の完了が検出さ
れる。しかも、ノード内バリア同期機構２１０ａやノー
ド間バリア同期機構２２０ａは、制御部（２１２ａ、２
２２ａ）、カウンタ（２１４ａ、２２４ａ）、ゼロ検出
部（２１６ａ、２２６ａ）を用いた簡易な構成で実現で
きる。

【００３９】また、ノード内制御部２１２ａ、ノード間
制御部２２２ａに図示しないＣＲＴ、液晶ディスプレイ
等の表示装置を接続しておいて、両制御部がカウンタ２
１４ａ、のカウント値（計数値）および２２４ａのカウ
ント値（計数値）のうちの少なくとも一方を表示装置に
表示させるようにしておけば、並列処理の実行状態を把
握でき、実行対象となるプログラムのデバッグ等の便宜
にもなる。

【００４０】なお、ノード内バリア同期機構２１０ａお
よびノード間バリア同期機構２２０ａを、同期機構用の
ＣＰＵと、このＣＰＵの動作手順を記述したプログラム
を記録したＲＯＭ、ＨＤＤ等の記録媒体と、ワークエリ
アが形成されるＲＡＭと、を備えた構成にしておき、Ｃ
ＰＵがこのプログラムを実行するようにして、以上説明
したきたような動作を行わせることが可能である。

【００４１】次に、図４、図５を参照して、より具体的
な動作説明を行う。図４、５は、具体的な動作を説明す
るためのブロック構成図、タイミングチャートである。
この動作説明においては、図４に示すように、１つのジ
ョブをプロセス１〜プロセス１６までの１６個のプロセ
スに分割し、プロセス１〜４はノード装置１００ａのＣ
ＰＵ３００ａ〜３００ｄに、プロセス５〜８はノード装
置１００ｂのＣＰＵ３００ａ〜３００ｄに、プロセス９
〜１２はノード装置１００ｃのＣＰＵ３００ａ〜３００
ｄに、プロセス１３〜１６はノード装置１００ｄのＣＰ
Ｕ３００ａ〜３００ｄに夫々割り当てて、４台のノード
装置で１つのジョブを並列処理するシーンを想定してい
る。

【００４２】まず、各ＣＰＵ３００ａ、３００ｂ、３０
０ｃ、３００ｄのうちＣＰＵ３００ａが、ノード内制御
部２１２ａに対して、同期対象となるＣＰＵ数「４」を
通知すると、ノード内制御部２１２ａはこれを受け取っ
てカウンタ２１４ａに初期値「４」を記憶させる。ま
た、ノード内制御部２２０ａに対して、ノード装置間で
の同期対象となる装置数「４」を通知すると、ノード内
制御部２２０ａはこれを受け取ってカウンタ２２４ａに
初期値「４」を記憶させる。

【００４３】次に、各ＣＰＵ３００ａ、３００ｂ、３０
０ｎが主記憶４００ａを使用して夫々に割り付けられた
プロセスを実行していく。そして、図５（ａ）に示すよ
うに、第２サイクルでＣＰＵ３００ｂからの同期リクエ
ストが送られると、ノード内制御部２１２ａはカウンタ
２１４ａに制御信号を与えるので、第３サイクルでカウ
ンタ２１４ａのカウント値は「３」となる。

【００４４】また、第４サイクルでは、ＣＰＵ３００
ａ、ＣＰＵ３００ｃからの同期リクエストが送られるの
で、ノード内制御部２１２ａはカウンタ２１４ａに制御
信号を２回与えて、第５サイクルでカウンタ２１４ａの
カウント値は「１」となり、さらに、第５サイクルでＣ
ＰＵ３００ｄからの同期リクエストが送られるので、ノ
ード内制御部２１２ａはカウンタ２１４ａに制御信号を
与えて、第６サイクルでカウンタ２１４ａのカウント値
は「０」となる。

【００４５】すると、ゼロ検出部２１６ａはカウンタ２
１４ａのカウント値が「０」になった旨の信号をノード
内制御部２１２ａに送るので、ノード内制御部２１２ａ
は自ノード装置内でバリア同期が成立したことを検出
し、第７サイクルで図３に示すようなノード内同期成立
信号を全ノード装置１００ａ、１００ｂ、１００ｃ、１
００ｄに通知する。同様にして、各ノード装置１００
ｂ、１００ｃ、１００ｄにおいても自ノード装置の同期
成立の情報が全ノード装置に通知される。

【００４６】一方、ノード間制御部２２２ａは、図５
（ｂ）に示すように、このような通知（ノード内同期成
立信号）を受け取る毎に制御信号をカウンタ２２４ａに
与え、カウンタ２２４ａはこの制御信号を受け取る毎に
カウント値を１だけ減じる。そして、ゼロ検出部２２６
ａがカウンタ２２４ａのカウント値がゼロになったこと
を検出するとその旨の信号をノード間制御部２２２ａに
送るので、ノード間制御部２２２ａは、並列処理に参加
する全ノード装置で実行される並列処理が完了したこと
を検出して、各ＣＰＵ３００ａ、３００ｂ、３００ｃ、
３００ｄに対して並列処理の終了通知を行う。この終了
通知を受け取った各ＣＰＵ３００ａ、３００ｂ、３００
ｃ、３００ｄは次の段階の処理を行う。かくして、プロ
セス１〜１６までの各プロセスが実行完了してそのジョ
ブの並列処理が完了する。

【００４７】このように、この実施の形態によれば、１
つのジョブを１６個のプロセスに分割し、各プロセス
を、４個のＣＰＵを備える４台のノード装置の各ＣＰＵ
に割り当てて１つのジョブを並列処理し、その際に、自
ノード装置内でのバリア同期成立の情報を送受信するこ
とによって並列処理の完了が検出される。したがって、
通信ケーブル５００上のトラフィック量が小さくてデー
タ転送による処理オーバーヘッドが少ない並列処理シス
テムを、バリア同期機構の複雑化を招かずしかも特別な
通信機構を設けずに実現できる。

【００４８】なお、本発明の要旨を逸脱しない範囲で、
以上説明してきた本発明の実施の形態を適宜変更しても
良いことは言うまでもなく、例えば、ノード内制御部２
１２ａが、自ノード装置内でのバリア同期成立を検出し
た場合にはその旨を直接、自ノード装置内のノード間制
御部２２２ａに通知するようにしてカウンタ２２４ａの
値を高速に減じるようにすること等種々の変更が考えら
れる。

【００４９】

【発明の効果】以上説明してきたように、本発明によれ
ば、バリア同期機構の複雑化を招かずしかも特別な通信
機構を設けずに、自ノード装置内でのバリア同期成立の
情報を送受信することによって並列処理の完了が検出さ
れるという効果が得られる。

【図面の簡単な説明】

【図１】 本発明の実施の形態の並列処理システムのブ
ロック構成図である。

【図２】 並列処理システムを構成するノード装置１０
０ａのブロック構成図である。

【図３】 ノード内でのバリア同期が成立した旨を全ノ
ード装置に通知する情報のデータフォーマットの模式的
説明図である。

【図４】 本発明の実施の形態の並列処理システムの具
体的な動作を説明するためのブロック構成図である。

【図５】 本発明の実施の形態の並列処理システムの具
体的な動作を説明するためのタイミングチャートであ
る。

【符号の説明】

１００、１００ａ、１００ｂ、１００ｃ、１００ｄ、１
００ｎ ノード装置 ２００、２００ａ、２００ｎ 通信制御ユニット ２１０ａ ノード内バリア同期機構 ２１２ａ ノード制御部 ２１４ａ カウンタ ２１６ａ ゼロ検出部 ２２０ａ ノード間バリア同期機構 ２２２ａ ノード間制御部 ２２４ａ カウンタ ２２６ａ ゼロ検出部 ３００、３００ａ、３００ｂ、３００ｃ、３００ｄ、３
００ｎ ＣＰＵ ４００、４００ａ 主記憶

Claims (8)

【特許請求の範囲】
1. 【請求項１】 １つのジョブを複数のプロセスに分割し
   これらを１以上の他ノード装置と共同で並列処理するた
   めのノード装置であって、 自ノード装置内でのバリア同期の対象となる複数のプロ
   セッサと、 前記複数のプロセッサからの同期リクエストに基づいて
   自ノード装置内でのバリア同期が成立したことを検出
   し、この自ノード装置内でのバリア同期成立の情報を、
   前記並列処理を実行する全ノード装置に通知するノード
   内バリア同期機構と、 前記並列処理を実行する他の全ノード装置から通知され
   る他ノード装置内でのバリア同期成立の情報に基づい
   て、前記並列処理が完了したことを検出するノード間バ
   リア同期機構と、を備えることを特徴とするノード装
   置。
2. 【請求項２】 前記ノード内バリア同期機構は、 第１の制御信号が与えられる毎に計数する第１のカウン
   タと、 この第１のカウンタが、自ノード装置内でのバリア同期
   の対象となるプロセッサ数に相当する数を計数したこと
   を検出する第１の検出部と、 前記複数のプロセッサの夫々からの同期リクエストを受
   け付ける毎に前記第１のカウンタに第１の制御信号を与
   える動作や、前記第１の検出部の検出結果に基づいて自
   ノード装置内でのバリア同期成立の情報を前記並列処理
   を実行する全ノード装置に通知する動作を行なうノード
   内制御部と、を含んで成ることを特徴とする請求項１に
   記載のノード装置。
3. 【請求項３】 前記ノード間バリア同期機構は、 第２の制御信号が与えられる毎に計数する第２のカウン
   タと、 この第２のカウンタが、バリア同期の対象となる全ノー
   ド装置数に相当する数を計数したことを検出する第２の
   検出部と、 前記並列処理を実行する他の全ノード装置から通知され
   る他ノード装置内でのバリア同期成立の情報を受け付け
   ると前記第２の制御信号を与える動作や、前記第２の検
   出部の検出結果に基づいて前記並列処理が完了したこと
   を検出する動作を行うノード間制御部と、を含んで成る
   ことを特徴とする請求項１および２のいずれかに記載の
   ノード装置。
4. 【請求項４】 前記第１のカウンタの計数値、および／
   または、第２のカウンタの計数値を出力する出力手段を
   さらに備えたことを特徴とする請求項２および３のいず
   れかに記載のノード装置。
5. 【請求項５】 前記並列処理を実行する全ノード装置に
   通知する、自ノード装置内でのバリア同期成立の情報
   は、自ノード装置の識別子であることを特徴とする請求
   項１、２、３および４のいずれかに記載のノード装置。
6. 【請求項６】 請求項１、２、３、４および５のいずれ
   かに記載のノード装置を複数備え、 複数備えられたノード装置の夫々が、ノード装置内での
   バリア同期成立の情報を相互に送受信可能に構成された
   並列処理システム。
7. 【請求項７】 １つのジョブを複数のプロセスに分割し
   これらを１以上の他ノード装置と共同で並列処理するた
   めの方法であって、 自ノード装置内に設けた複数のプロセッサからの同期リ
   クエストに基づいて自ノード装置内でのバリア同期が成
   立したことを検出し、この自ノード装置内でのバリア同
   期成立の情報を、前記並列処理を実行する全ノード装置
   に通知し、 前記並列処理を実行する他の全ノード装置から通知され
   る他ノード装置内でのバリア同期成立の情報に基づい
   て、前記並列処理が完了したことを検出することを特徴
   とする並列処理方法。
8. 【請求項８】 １つのジョブを複数のプロセスに分割し
   これらを１以上の他ノード装置と共同で並列処理するた
   めの並列処理プログラムを記録したコンピュータ読み取
   り可能な記録媒体であって、 自ノード装置内に設けた複数のプロセッサからの同期リ
   クエストに基づいて自ノード装置内でのバリア同期が成
   立したことを検出し、この自ノード装置内でのバリア同
   期成立の情報を、前記並列処理を実行する全ノード装置
   に通知する処理と、 前記並列処理を実行する他の全ノード装置から通知され
   る他ノード装置内でのバリア同期成立の情報に基づい
   て、前記並列処理が完了したことを検出する処理とを、 コンピュータに実行させる並列処理プログラムを記録し
   たことを特徴とする並列処理プログラムを記録した記録
   媒体。