JPH0784967A - プロセスパイプライン処理方式 - Google Patents

Abstract

(57)【要約】 【目的】処理時間を大幅に短縮することができるプロセ
スパイプライン処理方式を提供する。 【構成】プロセスパイプライン処理方式は、ジョブの実
行を管理・制御する処理制御手段２１，各プロセスを適
切なプロセッサに割り当てるプロセス配置手段２２，処
理制御手段２１などの外部からの情報，データに基づい
てプロセスを実行するプロセス実行手段２３，必要に応
じジョブを並列に実行可能にするために必要なデータフ
ァイルやジョブの情報を自動的に生成するデータファイ
ル自動生成手段２４，ユーザジョブの実行状況をプロセ
ス単位で管理するためのジョブ／プロセス管理情報２
５，分散処理環境の設定情報を有するシステム環境情報
２８より構成される。

Description

【発明の詳細な説明】

【０００１】

【産業上の利用分野】本発明は、ネットワークで接続さ
れた計算機システムのプロセスパイプライン処理方式に
関する。

【０００２】

【従来の技術】一つのジョブを分割して複数のプロセッ
サで処理する技術に関して、特開平3−85664 号公報が
ある。これは、ジョブを分割し、分割された小さな処理
単位毎に最適なプロセッサを選択して全体の処理を実行
するものである。

【０００３】また、複数のジョブを複数のプロセッサで
分散処理するものとして、特開平1−259446号公報があ
るが、特開平3−85664号公報も含め、複数のジョブを並
列実行可能とするためにはすべてのジョブに対して実行
可能なデータの準備，並列性のチェックなどを行ってお
く必要があった。

【０００４】

【発明が解決しようとする課題】特開平3−85664号公報
のような方法の場合、ジョブが一つだけの場合には、最
も高速なプロセッサでジョブ全体を処理する方が処理時
間を最小にできるため、分割する効果がなくなることが
多い。したがって、ジョブを数多く実行する方がよいわ
けであるが、多くのジョブを連続的に実行する際、プロ
セッサの処理能力や担当する分割された処理によって処
理時間に差が生じ、結果として遊ぶプロセッサが発生
し、ネットワーク内のプロセッサを有効に利用できない
ことがある。また、ジョブを多く実行するするために
は、各ジョブを独立に実行できるよう、入力データなど
の準備をしておかなければならないが、これはすべてユ
ーザが行うことになるため、実行開始までの準備に時間
がかかるという問題点が発生する。

【０００５】本発明の目的は、大きな処理を高速なプロ
セッサに、小さな処理を低速なプロセッサに割当てられ
るよう、ジョブをより小さなプロセスに分解し、プロセ
ス単位で分散処理を行い、プロセッサをできるだけ平均
的に利用することにより、全体の処理時間を短縮できる
分散処理方式を提供することにある。また、実行準備に
要するユーザの手間を削減するために、同一形式のデー
タについては、変更箇所の記述のみで該データを生成す
る手段を提供することにある。

【０００６】

【課題を解決するための手段】図１に本発明の基本要素
構成を示す。本発明のプロセスパイプライン処理方式
は、クライアントプロセッサ１１，一つ以上のサーバプ
ロセッサ１２，ジョブの実行を管理・制御する処理制御
手段２１，各プロセスを適切なプロセッサに割り当てる
プロセス配置手段２２，処理制御手段２１などの外部か
らの情報・データに基づいてプロセスを実行するプロセ
ス実行手段２３，必要に応じジョブを並列に実行可能に
するために必要なデータファイルやジョブの情報を自動
的に生成するデータファイル自動生成手段２４，ユーザ
ジョブの実行状況をプロセス単位で管理するためのジョ
ブ／プロセス管理情報２５，分散処理環境の設定情報を
有するシステム環境情報２８より構成されている。

【０００７】

【作用】本発明の計算機ネットワークにおけるプロセス
パイプライン処理方式では、以下の手順により処理を実
行する。

【０００８】（１）ユーザからジョブ実行指示情報２７
を受けたプロセッサは、クライアントプロセッサ１１と
してまず、処理制御手段２１を起動する。処理制御手段
２１はユーザから与えられるジョブ実行指示情報２７を
もとに、実行すべきジョブの認識、および、全ジョブに
対しての入力データファイル５１，入力データファイル
５２，…，入力データファイル５Ｎの有無をチェックす
る。入力データファイルがすべてそろっている場合に
は、ジョブ／プロセス管理情報２５を生成する。入力デ
ータファイルがすべてそろっていない場合には、データ
ファイル自動生成手段２４を起動し、入力データファイ
ル５０をベースに５１，５２，…，５３の入力データフ
ァイルを作成する。入力データファイルがすべて準備さ
れた後、ジョブ／プロセス管理情報２５を生成する。

【０００９】（２）次に、処理制御手段２１は、ユーザ
からの実行プロセッサの指定がない場合、プロセス配置
手段２２を起動する。プロセス配置手段２２は、ジョブ
実行指示情報２７および入力データファイル５１，５
２，…，５Ｎを解析し、目的の処理を行うプロセス実行
手段２３を実行するサーバプロセッサ１２を決定する。
このとき、より適切なプロセス配置を行うときには、プ
ロセス配置手段２２がジョブの内容や各プロセッサの特
性をデータベースとして持つジョブ／プロセッサデータ
ベース２６を参照し、各プロセスの実行時間を推定し、
実行時間の分散が最小となるプロセス配置を決定する。
ただし、プロセス配置の最適配置を行うか否かの指定は
ユーザがジョブ実行指示情報２７の中に記述する。最適
配置指定がない場合は、プロセス配置手段２２はジョブ
／プロセッサデータベース２６が持つ標準実行環境情報
にしたがってプロセス配置を行う。

【００１０】（３）プロセス配置が決定した後、処理制
御手段２１は、サーバプロセッサ１２上のプロセス実行
手段２３に対して、担当すべきプロセスの実行準備をす
るよう指示を出す。ジョブの第１プロセスを担当するプ
ロセス実行手段２３は第一プロセス実行手段３１とな
る。実行準備指示を受けた第一プロセス実行手段３１は
実行待機状態に移る。他のプロセス実行手段２３につい
ても同様である。

【００１１】（４）各プロセス実行手段２３は、動作開
始の制御コード、または、自分自身の実行に必要なデー
タが与えられるとプロセスの実行を開始する。ジョブの
先頭プロセスを実行する第一プロセス実行手段３１は、
処理制御手段２１からの実行開始の制御コードにより、
動作を開始する。第一プロセス実行手段３１以外のプロ
セスは、他のプロセスからのジョブに関するデータ／制
御コードにより、動作を開始する。

【００１２】各プロセス実行手段２３は、状態の変化が
ある毎に処理制御手段２１へ変化内容を通知し、通知を
受けた処理制御手段２１は通知内容をジョブ／プロセス
管理情報２５に記述する。

【００１３】各プロセス実行手段２３は、実行完了後、
次のプロセス実行手段へデータ／制御コードを送る、ま
たは、処理制御手段２１へ実行完了の制御コードを送
る。

【００１４】ユーザは、ジョブ実行指示情報２７の中に
同期制御指定を行うことができる。同期制御指定がある
場合、処理制御手段２１はブロードキャストでプロセス
実行手段２３に動作開始の制御コードを送る。プロセス
実行手段２３は、プロセスの実行準備を非同期で行い、
動作開始制御コードのメッセージを受けた後、プロセス
の実行を開始する。

【００１５】（５）処理制御手段２１，プロセス実行手
段２３は、ジョブの全プロセスが実行完了となるまで、
または、コンピュータシステムの異常やユーザからのジ
ョブキャンセルなどにより、ジョブの実行継続が不可
能，不必要となるまで、（４）を実行する。

【００１６】（２)〜(５）の処理を行うことにより、一
つのジョブを実行することができる。これらの処理を
（１）で発生する入力データの数だけ繰り返すことによ
り、ユーザの要求するジョブをすべて実行できる。第一
プロセス実行手段３１は、一つ目のジョブの第一プロセ
スを実行後、次の処理を第二プロセス実行手段３２にま
かせ、二つ目のジョブの第一プロセスを実行する。第二
プロセス実行手段３２は一つ目のジョブの第二プロセス
を実行後、次の処理を第三プロセス実行手段３３にまか
せ、二つ目のジョブの第二プロセスを実行する。プロセ
ス毎に処理量は変化するが、処理量の多いプロセスを高
速なプロセッサに実行させることにより、各プロセスの
処理時間を平均化することができ、各プロセスをパイプ
ライン的に実行することができる。このパイプライン制
御により、複数のジョブがある場合でも、全部のジョブ
を効率よく実行できる。

【００１７】

【実施例】本発明の実施例を図２ないし図８を用いて説
明する。

【００１８】まず、図２ないし図７により、パラメータ
サーベイの実行例を説明する。

【００１９】本実行例のパラメータサーベイで使用する
プログラムはＮ個のシーケンシャルなプロセスに分割可
能で、その分割コーディングがされているものとする。
個々のプロセスはネットワーク内の一つ以上のプロセッ
サで稼働可能である。また、稼働に適したプロセッサが
ジョブ／プロセッサデータベース２６に標準環境として
設定されている。

【００２０】図３は、本発明によるクライアント／サー
バの位置づけを示す図である。パラメータサーベイの実
行は、ユーザがパラメータサーベイのジョブ実行指示情
報２７を一つのプロセッサに与えることにより起動され
る。ユーザがジョブ実行指示情報２７を与えたプロセッ
サがクライアントプロセッサ１１となり、クライアント
プロセッサ１１からのメッセージを受けて、実際にプロ
セス実行手段２３を実行するプロセッサがサーバプロセ
ッサ１２となる。マルチタスクが可能で、かつ、クライ
アントプロセッサ１１が高い処理能力を持つ場合、クラ
イアントプロセッサ１１自身がサーバプロセッサ１２と
なることもある。

【００２１】図４はパラメータサーベイ実行のための最
初の準備であるデータファイルの自動生成を示す。処理
制御手段２１は、ユーザから与えられたパラメータサー
ベイのジョブ実行指示情報２７の内容から実行すべきジ
ョブの入力データファイルがすべてあるか否かをチェッ
クする。必要なデータファイルがそろっていない場合に
は、データファイル自動生成手段２４を起動する。デー
タファイル自動生成手段２４は、ジョブ実行指示情報２
７の内容にしたがって各パラメータに対応する入力デー
タファイル１〜Ｎ（５１〜５Ｎ）を用意する。パラメー
タサーベイを行うためには、あらかじめすべての入力デ
ータファイルが用意されているか、該ジョブ実行指示情
報２７にパラメータサーベイの実行内容が記述されてい
なければならない。この条件が満足されていない場合に
は、処理制御手段２１はパラメータサーベイの実行不可
能をユーザに通知し、処理を中断する。

【００２２】次に、処理制御手段２１はプロセス配置手
段２２を起動し、プロセスの配置を行う。実行プログラ
ムと入力データファイルの内容とをジョブ／プロセッサ
データベース２６に記述されているジョブやプロセスの
負荷情報と照らし合わせ、プロセッサの割り当ての標準
環境が適切かどうかを調べる。標準環境が適切でないと
判断した場合、より適切な割り当てを構成し、実行環境
とする。この方法を図５に示す。ジョブ／プロセッサデ
ータベース２６には、ジョブデータベースとして、ユー
ザが行い得る処理の種類、および処理のプロセス毎に入
力データのサンプルなどに対応した処理量と、プロセッ
サデータベースとして、ネットワーク内のあるプロセッ
サを基準としたときの相対性能値、または、ベンチマー
ク結果などによる性能値が保持されている。プロセス配
置手段２２は各プロセスの処理量を入力データファイル
の内容とジョブ／プロセッサデータベース２６から推定
し、処理量の多いプロセスを相対性能の高いプロセッサ
に割当て、各プロセスの処理時間の分散が最小となるよ
うな割当てを行う。例えば、処理量３のプロセスを相対
性能３のプロセッサで実行し、処理量１のプロセスを相
対性能１のプロセッサで実行すると、両者の実行時間は
同じとなり、パイプライン動作の乱れを少なくできる。
一方、標準環境が適切であると判断した場合には、標準
環境をそのまま実行環境とする。

【００２３】以上の準備を行うと図２のような実行環境
を構成できる。次に、処理制御手段２１は、各プロセッ
サで実行すべきプロセス実行手段２３のチェックを行
う。必要なプロセス実行手段２３がない場合、該プロセ
ス実行手段２３を起動し、プロセスの実行待機状態状態
とする。すべてのプロセス実行手段２３が実行待機状態
となった時点で、処理制御手段２１は一番目のジョブの
第一プロセスを実行するよう、第一プロセス担当のプロ
セス実行手段２３、すなわち、第一プロセス実行手段３
１に対して一番目のジョブの第一プロセス実行開始の制
御コードを送る。

【００２４】各プロセス実行手段２３は、プロセスの実
行開始，実行完了，待ち状態などのプロセスの状態情報
を処理制御手段２１へ通知する。処理制御手段２１は該
通知の内容をジョブ／プロセス管理情報２５へ書き込
む。

【００２５】第一プロセス実行手段３１は実行完了後、
第二プロセス実行手段３２を起動し、第二プロセス実行
手段３２にジョブを引き継ぐ。第一プロセス実行手段３
１から第二プロセス実行手段３２、第二プロセス実行手
段３２から第三プロセス実行手段３３のように、後続の
プロセスを起動する方法には、次の方法がある。

【００２６】（１）第ｉプロセス実行手段３ｉ（ｉ＝
１，２，…，Ｎ−１）が実行完了後、後続のプロセス実
行手段が稼働するプロセッサを指定し、該プロセッサの
みに対して、後続プロセス実行手段を起動するようメッ
セージを送る。

【００２７】（２）第ｉプロセス実行手段３ｉ（ｉ＝
１，２，…，Ｎ−１）が実行完了後、ネットワークに後
続のプロセス実行手段２３および後続のプロセス実行手
段２３を実行するプロセッサを指定したメッセージをブ
ロードキャストする。ネットワーク内の各プロセッサは
ブロードキャストメッセージを読み込み、中に記述され
ているプロセッサ名が自プロセッサを示すものであるか
否かをチェックする。ブロードキャストメッセージが自
プロセッサを指定したものである場合、ブロードキャス
トメッセージ中に記述されているプロセス実行手段２３
を起動する。ブロードキャストメッセージが自プロセッ
サを指定したものでない場合には、ブロードキャストメ
ッセージを無視する。

【００２８】（３）第ｉプロセス実行手段３ｉ（ｉ＝
１，２，…，Ｎ−１）が実行完了後、ジョブの実行制御
権を処理制御手段２１に渡し、処理制御手段２１が後続
プロセス実行手段の起動を行う。この場合、（１)，
(２）同様、後続プロセス実行手段の起動のためのメッ
セージ送信方法に、直接対象プロセッサに送る方法と、
ネットワークにブロードキャストする方法がある。

【００２９】これらのどの方法を用いるかは、処理制御
手段２１のシステム環境情報２８の一つとして、ユー
ザ、または、システム管理者が設定する。

【００３０】ここで、処理制御手段２１とプロセス実行
手段２３の詳細を、図６を用いて説明する。処理制御手
段２１は、ジョブ実行指示情報解析部２１１，プロセス
実行制御管理部２１２，管理情報アクセス部２１３，制
御モード切替え部２１４，制御コード送信部２１５，実
行情報受信部２１６，データ送信部２１７，データ受信
部２１８より構成されている。また、プロセス実行手段
２３は制御コード受信部２３１，制御コード解析部２３
２，プロセス制御部２３３，実行情報送信部２３４，デ
ータ受信部２３５、データ送信部２３６，データ領域２
３７より構成され、さらにプロセス実行手段２３から起
動される実行プロセス２３８がある。

【００３１】まず、ジョブ実行指示情報解析部２１１が
ユーザが指定したジョブ実行指示情報２７を読み込み、
管理情報アクセス部２１３を通してジョブ／プロセス管
理情報２５を作成する。この時、各プロセスの状態は未
処理で初期化される。プロセス実行制御管理部２１２は
ジョブ／プロセス管理情報２５の中から、最初に実行す
べきジョブ１の第一プロセスを実行するプロセス実行手
段２３に対し、起動のための制御コードを送信する。制
御コードの送信の方法は上述のように、いくつかの方法
を採ることができるが、どの方法で送信するかは環境情
報２８の設定、または、ジョブ実行指示情報２７の設定
に従って制御モード切替え部２１４が選択する。送信さ
れた制御コードは制御コード受信部２３１が受け、制御
コード解析部２３２がどのどうな処理か（例えば、プロ
セスの起動，処理の中断、など）を識別し、プロセス制
御部２３３が該処理を行う。制御コードがプロセスの起
動を指示するものである場合、プロセス制御部２３３は
実行プロセス２３８を起動する。このとき、実行に必要
なデータを保持するため、プロセス制御部２３３はデー
タ領域２３７を確保し、データ領域２３７をアクセスす
るためのキーを実行プロセス２３８に渡す。また、プロ
セス制御部２３３はプロセスの実行状態を実行情報送信
部２３４，実行情報受信部２１６を介して、プロセス実
行制御管理部２１２へ報告する。プロセス実行制御管理
部２１２は実行状態を管理情報アクセス部２１３を通し
てジョブ／プロセス管理情報２５へ記録する。一方、実
行プロセス２３８は処理制御手段２１、または、別のプ
ロセス実行手段２３から、プロセスの実行に必要なデー
タをデータ受信部２３５を通して受け取り、データ領域
２３７に格納する。どこからデータを受けるかは、環境
情報２８の設定、または、ジョブ実行指示情報２７の設
定による。プロセスの実行により得られるデータもデー
タ領域２３７に格納・保持し、データ送信部２３６から
処理制御手段２１、または、別のプロセス実行手段２３
へ送信する。データの転送時に処理制御手段２１を介す
る場合、処理制御手段２１はプロセス実行手段２３から
受けたデータをデータ受信部２１８からデータ送信部２
１７へ直接渡し、データ送信部217が次のプロセス実行
手段２３へ向けてデータを送信する。

【００３２】以上の制御により、各プロセスが実行され
る様子を図７に示す。一番目のジョブの第一プロセスを
実行している第一プロセス実行手段３１は、一番目のジ
ョブの第一プロセスの実行完了後、処理制御手段２１よ
り、二番目のジョブに関する情報を得、二番目のジョブ
の第一プロセスの実行に移る。このとき、一番目のジョ
ブの第二プロセスは第二プロセス実行手段３２によって
実行される。第一プロセッサの第一プロセス実行手段３
１は二番目のジョブの第一プロセスの実行完了後、三番
目のジョブの第一プロセスの実行を行う。また、第二プ
ロセス実行手段３２は二番目のジョブの第二プロセス
を、第三プロセス実行手段３３が一番目のジョブの第三
プロセスをそれぞれ実行する。このように、各プロセッ
サがパイプライン的にプロセスを実行することにより、
効率よくジョブの実行を行うことができる。

【００３３】図８は本発明の応用による計算機シミュレ
ーションのトラッキングを実現したものである。第一プ
ロセッサ１３ではシミュレーションプログラム６１を、
第二プロセッサ１４ではシミュレーション結果の表示を
行うポストプロセッサ６２を起動する。ユーザは第二プ
ロセッサ１４の表示ウィンドウを見る。シミュレーショ
ンプログラム６１は時間ステップ毎などのように、一定
間隔で結果を出力する。第一プロセッサ１３は該出力結
果を第二プロセッサ１４へ送り、第一プロセッサ１３自
身は次のステップの計算を行う。第二プロセッサ１４は
第一プロセッサ１３より送られる結果のデータに対し、
表示処理を行い、画面に表示する。第一プロセッサ１３
と第二プロセッサ１４の処理するステップは第一プロセ
ッサ１３の方が先行する。例えば、第一プロセッサ１３
が第一ステップの処理を行い、その結果を第二プロセッ
サ１４へ送ると、第二プロセッサ１４は第一ステップの
表示処理を開始し、第一プロセッサは第二ステップの処
理を行う。第一プロセッサ１３は第二ステップの処理を
終わるとその結果を第二プロセッサへ送り、第二プロセ
ッサ１４は第二ステップの表示処理を開始する。第一プ
ロセッサは第三ステップの処理を開始する。

【００３４】これらの中で、第一プロセッサ１３の第二
ステップの処理と第二プロセッサ１４の第一ステップの
表示処理，第一プロセッサ１３の第三ステップの処理と
第二プロセッサ１４の第二ステップの表示処理はそれぞ
れ同時に実行される。すなわち、第一プロセッサ１３と
第二プロセッサ１４はパイプライン的に動作する。これ
により、シミュレーションプログラムの実行を止めるこ
となく、その処理結果を連続的に表示できる。

【００３５】

【発明の効果】本発明では、ジョブを複数のプロセスに
分解し、個々のプロセスを別々のプロセッサで処理する
ことにより、ジョブが複数ある場合に、パイプライン的
にプロセスを実行することにより、ジョブ全体の処理を
１台のプロセッサを使用した場合に比べて非常に短くす
ることができる。

【００３６】パラメータサーベイなどの場合には、ジョ
ブ数をＭ、ジョブをプロセスに分解したときのプロセス
数をＮ、一つのプロセスの処理時間の平均をＴｐとする
と、ジョブ全体の処理に要する時間Ｔａｌｌは、 １台のプロセッサで処理する場合：Ｔａｌｌ＝Ｔｐ・Ｎ
・Ｍ 本発明による方式で処理する場合：Ｔａｌｌ＝Ｔｐ・
（Ｎ＋Ｍ−１） となり、 短縮時間＝Ｔｐ・（Ｎ−１）（Ｍ−１） となる。したがって、Ｎ≧２、かつ、Ｍ≧２であると、
分散処理の効果が現れる。なお、データファイル自動生
成手段を設けることにより、パラメータサーベイ時には
同じ形式の入力データを計算機側で自動的に生成するた
め、ユーザにかかる負担を最小限に抑えることができ
る。

【００３７】また、シミュレーションの計算と表示など
のような相互関連する処理に適用すると、個々の処理の
実行速度を落とすことなく、トラッキングを行うことが
できる。

【図面の簡単な説明】

【図１】

【図１】本発明による分散処理方式のブロック図。

【図２】本発明による分散処理方式の処理要素の関係を
示すブロック図。

【図３】本発明の実施例によるクライアント／サーバの
位置づけを示すブロック図。

【図４】本発明の実施例によるデータファイルの自動生
成方法を示すブロック図。

【図５】本発明の実施例によるプロセスの配置方法を示
すブロック図。

【図６】本発明の実施例によるプロセス制御の詳細を示
すブロック図。

【図７】本発明の実施例によるジョブの実行過程を示す
説明図。

【図８】本発明の応用によるシミュレーションのトラッ
キングを示す説明図。

【符号の説明】

１０…ネットワーク、１１…クライアントプロセッサ、
１２…サーバプロセッサ、２１…処理制御手段、２２…
プロセス配置手段、２３…プロセス実行手段、２４…デ
ータファイル自動生成手段、２５…ジョブ／プロセス管
理情報、２８…システム環境情報。

Claims (3)

【特許請求の範囲】
1. 【請求項１】計算機ネットワークにおいて、一つ以上の
   プロセスからなるジョブを複数個実行するために、前記
   計算機ネットワーク内のプロセッサに特定のプロセスを
   処理するようプロセスの割り当てを行うプロセス配置手
   段と、各プロセスの実行状況と全ジョブの実行状況を管
   理し、プロセス単位でパイプライン的にジョブの実行制
   御を行う処理制御手段と、前記処理制御手段または他の
   プロセスからのメッセージにより目的の処理を実行する
   プロセス実行手段とにより、複数のジョブを複数のプロ
   セッサでパイプライン的に実行する分散処理手段を有す
   ることを特徴とするプロセスパイプライン処理方式。
2. 【請求項２】一つ以上のプロセスからなるジョブの各プ
   ロセスの処理量と、計算機ネットワーク内の個々のプロ
   セッサの処理性能をもとに、処理量の多いプロセスを相
   対的に高速なプロセッサに、処理量の少ないプロセスを
   相対的に低速なプロセッサに割り当てることにより、前
   記ジョブの各プロセスがそれぞれほぼ同じ時間で処理さ
   れ、複数のジョブを時間単位でパイプライン的に処理可
   能とするためのプロセス配置手段を有することを特徴と
   するプロセスパイプライン処理方式。
3. 【請求項３】計算機で行う処理に必要な入力データファ
   イルと、そのファイルのどこをどのようなデータに変え
   るかを指定する内容などの処理の条件を記述した分散処
   理指示ファイルとから、データファイル中の一部または
   複数箇所が異なり、他の部分が同一である複数のデータ
   ファイル、および、前記データファイルを用いた処理を
   行うための情報を自動的に生成するデータファイル自動
   生成手段を有することを特徴とするプロセスパイプライ
   ン処理方式。