JPH06175984A

JPH06175984A - 計算機システムにおける負荷分散方法

Info

Publication number: JPH06175984A
Application number: JP35053892A
Authority: JP
Inventors: Makoto Saito; 誠齋藤; Tsutomu Tashiro; 勤田代; Mitsutaka Kosaka; 満隆小坂
Original assignee: Hitachi Ltd
Current assignee: Hitachi Ltd
Priority date: 1992-12-05
Filing date: 1992-12-05
Publication date: 1994-06-24

Abstract

(57)【要約】【目的】要求処理計算機ができる限り空きとならず、振
分け計算機における処理要求振分けオーバーヘッドが小
さく、かつ振分け計算機内の処理要求の割振り順序に関
し、システム全体としての応答性能が良くなるような計
算機システムの負荷分散方法を提供することを目的とす
る。【構成】処理要求を振分ける振分け計算機（１０１，１
０２）が、処理要求の到着とは非同期に処理要求を要求
に従い処理する要求処理計算機（１０３〜１０５）から
総暫定残余時間を得て、振分け計算機内の処理要求を要
求処理計算機での処理時間の期待値の上昇順に総暫定残
余時間の小さい要求処理計算機から割振ることで負荷分
散を図る。

Description

【発明の詳細な説明】

【０００１】

【産業上の利用分野】本発明は、計算機システムにおけ
る負荷分散方法に関する。

【０００２】

【従来技術】複数の計算機を備えた分散システムにおい
て、投入された負荷を分散して実行する負荷分散方法を
用いることにより、計算機間の負荷の偏りをなくし、シ
ステム全体の実行効率を向上させることができる。従来
の負荷分散に関する方法は、例えば、Y.Wang and R.J.
T.Morris : "Load sharing in distributed systems";
IEEE Trans. Comput. , Ｃ−３４，３，ＰＰ２０４−２
１７（１９８５）などに開示されている。入力された負
荷（処理要求）は、まず振分け計算機によってどの要求
処理計算機に割振るかが決定される。振分け計算機は、
割振った要求処理計算機にその処理要求を送り、要求処
理計算機はそれを実行する。

【０００３】特に、応答性能が良いとされる負荷分散方
法としては、以下のような方法がある。まず、要求処理
計算機は振分け計算機からの処理要求の処理がすべて終
了するたびに処理終了した旨を示す情報を振分け計算機
に送り、振分け計算機はその情報に基づいて次の処理要
求を割振る方法がある。また、振分け計算機が処理要求
到着時に要求処理計算機に負荷状況を問合せ、要求処理
計算機はその問合せに対して自機の負荷状況を回答し、
振分け計算機はその回答に基づいて処理要求を割振る方
法がある。振分け計算機内の処理要求は、到着順等で要
求処理計算機に割振られている。

【０００４】

【発明が解決しようとする課題】しかしながら、要求処
理計算機が処理終了するたびにその旨を振分け計算機に
送り、振分け計算機が次の処理要求を割振る方法では、
次の処理要求が要求処理計算機に到着するまでの間、要
求処理計算機が空きになることがある。また、振分け計
算機から要求処理計算機に負荷状況を問合せる方法で
は、振分け計算機における処理要求の振分けオーバーヘ
ッドが大きいという問題がある。

【０００５】また、振分け計算機内の処理要求の要求処
理計算機への割振り順序に関してはさらに効率化の余地
がある。

【０００６】本発明の目的は、上述の従来例における問
題点に鑑み、（１）要求処理計算機ができる限り空きと
ならず、（２）振分け計算機における処理要求振分けオ
ーバーヘッドが小さく、かつ、（３）振分け計算機内の
処理要求の割振り順序に関し、システム全体としての応
答性能が良くなる計算機システムの負荷分散方法を提供
することにある。

【０００７】

【課題を解決するための手段】上記の目的を達成するた
め、本発明は、処理要求を受付ける幾つかの振分け計算
機と、処理要求を要求に従い処理する複数の要求処理計
算機と、これらの計算機を結ぶネットワークとを備えた
計算機システムに適用する負荷分散方法であって、将
来、処理要求の到着がないとしたときの要求処理計算機
内の処理要求の当該要求処理計算機到着から処理終了ま
での時間の和である総暫定残余時間に基づいて、前記振
分け計算機が、処理要求を要求処理計算機に割振ること
を特徴とする。

【０００８】具体的には、総暫定残余時間が最小の要求
処理計算機に処理要求を割振るようにするとよい。ま
た、割振る処理要求の順序としては、要求処理計算機で
の処理時間の期待値の上昇順（処理時間がより小さいも
のから順に）に割振るとよい。

【０００９】さらに、振分け計算機が、他の振分け計算
機内の処理要求の要求処理計算機での処理時間の期待値
を得て、その期待値が最小の処理要求を振分け計算機間
での上記最小値の下降順に総暫定残余時間の小さい要求
処理計算機から割振るようにするとよい。すなわち、振
分け計算機が複数台あるときは、各振分け計算機が次に
出す処理要求の処理時間の期待値（見積もり）をそれぞ
れ交換し、その期待値が１番大きい振分け計算機は総暫
定残余時間が１番小さい要求処理計算機に、その期待値
が２番目に大きい振分け計算機は総暫定残余時間が２番
目に小さい要求処理計算機に、…というように振分ける
とよい。

【００１０】また、振分けは、総暫定残余時間の上昇順
に幾つかの要求処理計算機を選んで均等に処理要求を割
振るようにしてもよい。この場合、振分け計算機の台数
分の要求処理計算機を選ぶとよい。

【００１１】総暫定残余時間や他の振分け計算機からの
当該振分け計算機内の処理要求の要求処理計算機での処
理時間の期待値の最小値は、処理要求の授受とは非同期
に行なってもよい。

【００１２】要求処理計算機への処理要求の送信は、振
分け計算機内の処理要求の要求処理計算機での処理時間
の期待値を他の振分け計算機に送信した後に行なえばよ
い。また、振分け計算機は、当該計算機内に要求処理計
算機に一度に送る処理要求がただ１つあるときに、当該
処理要求を要求処理計算機に送信した後に、再び振分け
計算機内に処理要求があるかを調べ、処理要求がないと
きは、その旨を他の振分け計算機に送信するようにする
とよい。総暫定残余時間は、処理要求の処理結果に重畳
して送信するようにしてもよい。

【００１３】さらに、前記要求処理計算機は、振分け計
算機の総暫定残余時間に基づいて選択した振分け計算機
に、処理要求に対する処理結果を送信するようにしても
よい。この場合、要求処理計算機は、処理要求に対する
処理結果を、総暫定残余時間の小さい振分け計算機に送
信するようにするとよい。このように負荷の小さい振分
け計算機に処理結果を送るような場合は、振分け計算機
が自機の総暫定残余時間を処理要求に重畳して送信し、
要求処理計算機は負荷の少ない振分け計算機に処理結果
を送信するようにするとよい。

【００１４】なお、前記総暫定残余時間の代りに、平均
応答時間すなわち（総暫定残余時間）／（系内数）を用
いて、要求処理計算機の負荷を判別し、同様に負荷分散
処理を行なうこともできる。また、前記計算機システム
が、ネットワークで計算機を結合する代りに、メモリを
共有することで結合された計算機システムでも本発明は
同様に適用可能である。

【００１５】

【作用】処理要求を受付ける幾つかの振分け計算機と処
理要求を要求に従い処理する複数の要求処理計算機とこ
れらの計算機を結ぶネットワークからなる計算機システ
ムにおいて、振分け計算機が要求処理計算機から総暫定
残余時間を得て、処理要求を総暫定残余時間の小さい要
求処理計算機に割振るようにしているため、要求処理計
算機が空きとならず、振分け計算機における処理要求振
分けオーバーヘッドが小さくなる。また、各振分け計算
機内の処理要求を要求処理計算機での処理時間の期待値
の上昇順に総暫定残余時間の小さい要求処理計算機に割
振るため、振分け計算機内の処理要求の割振り順序に起
因して応答性能が向上する。

【００１６】

【実施例】以下、本発明の一実施例を図１〜図１１に従
って説明する。

【００１７】図２は、本実施例で取り扱う計算機システ
ムのハードウェア構成を示す。本システムは以下から構
成される。１０７，１０８は、それぞれ処理要求を入力
する端末である。１０１，１０２は、それぞれ端末１０
７、端末１０８から処理要求を受け付け、計算機１０
３、計算機１０４、または計算機１０５に処理要求を振
分ける振分け計算機である。１０３，１０４，１０５
は、処理要求を要求に従い処理する要求処理計算機であ
る。１０６は、振分け計算機１０１，１０２、および要
求処理計算機１０３，１０４，１０５を結ぶネットワー
クである。

【００１８】最初に、本実施例のシステムにおける処理
の流れの概略を述べる。

【００１９】端末１０７（端末１０８）から入力された
処理要求は、振分け計算機１０１（振分け計算機１０
２）に送られる。端末１０７（端末１０８）から処理要
求を受信すると、振分け計算機１０１（振分け計算機１
０２）は、要求処理計算機１０３，１０４，１０５の総
暫定残余時間および振分け計算機１０２内の処理要求の
処理時間の期待値の最小値に基づいて、処理要求を割振
るべき要求処理計算機を決定する。

【００２０】ここで、本実施例のシステムにおいて、振
分け計算機が処理要求を割振るべき要求処理計算機をど
のように決定するか、その方式の概要を説明する。

【００２１】簡単にいえば、振分け計算機は、まず現在
の負荷の量が少ない要求処理計算機に処理要求を割振
る。また、この実施例では２台の振分け計算機が独立に
処理要求を出すので、両振分け計算機で次に出す処理要
求（各振分け計算機内で一番処理時間の期待値（見積も
り）が小さい処理要求）の処理時間の期待値を交換し、
処理時間の期待値が大きい処理要求は現在の負荷の量が
１番少ない要求処理計算機に割振られ、処理時間の期待
値が小さい処理要求は現在の負荷の量が２番目に少ない
要求処理計算機に割振られるようにしている。

【００２２】要求処理計算機の負荷の量を判断するた
め、本実施例では、「総暫定残余時間」という量を導入
している。

【００２３】「総暫定残余時間」とは、要求処理計算機
が現在どれ程の負荷を負っているかを示す量である。具
体的には、その要求処理計算機に、将来、処理要求の到
着がないとしたときの要求処理計算機内の処理要求の当
該計算機到着から処理終了までの時間の和が総暫定残余
時間である。例えば、処理要求計算機１０３の処理要求
キューにＡ，Ｂ，Ｃの３つの処理要求が格納され、新た
に処理要求Ｄがなされたとき、この計算機１０３の総暫
定残余時間は、以下のように算出される。

【００２４】総暫定残余時間＝（処理要求Ａが処理終了するまでの時間）＋（処理要求Ｂが処理終了するまでの時間）＋（処理要求Ｃが処理終了するまでの時間）＋（処理要求Ｄが処理終了するまでの時間）

【００２５】この総暫定残余時間を系内数（処理要求キ
ュー内の処理要求の数）で割った値を「平均応答時間」
と呼ぶ。平均応答時間は、要求処理計算機が処理要求を
終了するまでの平均的な応答時間を示す値である。総暫
定残余時間および平均応答時間は、要求処理計算機の負
荷量の目安となる。

【００２６】なお、上記の定義に関連して、「暫定残余
時間」とは、要求処理計算機内の処理要求の処理時間の
和をいう。上記の例では、処理要求Ｄの暫定残余時間
は、暫定残余時間＝（処理要求Ａの処理時間）＋（処理要求Ｂの処理時間）＋（処理要求Ｃの処理時間）＋（処理要求Ｄの処理時間）となる。同様に、処理要求Ａの暫定残余時間は、暫定残余時間＝（処理要求Ａの処理時間）であり、処理要求Ｂの暫定残余時間は、暫定残余時間＝（処理要求Ａの処理時間）＋（処理要求Ｂの処理時間）であり、処理要求Ｃの暫定残余時間は、暫定残余時間＝（処理要求Ａの処理時間）＋（処理要求Ｂの処理時間）＋（処理要求Ｃの処理時間）である。

【００２７】ここで、処理要求Ａが処理開始するまでの
待ち時間を「０」とすれば、その時点で、（処理要求Ａが処理終了するまでの時間）＝（処理要求Ａの処理時間）（処理要求Ｂが処理終了するまでの時間）＝（処理要求Ｂが処理開始するまでの時間）＋（処理要求Ｂの処理時間）＝（処理要求Ａの処理時間）＋（処理要求Ｂの処理時間）（処理要求Ｃが処理終了するまでの時間）＝（処理要求Ｃが処理開始するまでの時間）＋（処理要求Ｃの処理時間）＝（処理要求Ａの処理時間）＋（処理要求Ｂの処理時間）＋（処理要求Ｃの処理時間）（処理要求Ｄが処理終了するまでの時間）＝（処理要求Ａの処理時間）＋（処理要求Ｂの処理時間）＋（処理要求Ｃの処理時間）＋（処理要求Ｄの処理時間）＝暫定残余時間となる。したがって、処理要求が到着するごとに暫定残
余時間と総暫定残余時間を算出し直すようにすれば、処
理要求Ｄが到着したときは、（新たな総暫定残余時間）＝（前の総暫定残余時間）＋（処理要求Ｄの処理時間）＝（処理要求Ａの暫定残余時間）＋（処理要求Ｂの暫定残余時間）＋（処理要求Ｃの暫定残余時間）＋（処理要求Ｄの暫定残余時間）が成立することとなる。

【００２８】一方、要求処理計算機で処理要求Ａが処理
終了したとすると、その時点で、処理要求Ｂ，Ｃ，Ｄの
各暫定残余時間は処理要求Ａの処理時間の分だけ減らす
必要がある。処理要求Ａの暫定残余時間（＝処理要求Ａ
の処理時間）も考慮すれば、新たな総暫定残余時間は、（新たな総暫定残余時間）＝（前の総暫定残余時間） −（（処理要求Ａの処理時間）×４）で算出できる。「４」は処理要求キュー内にあった処理
要求の数である。

【００２９】この実施例の負荷分散方法では、上述した
ように定義される総暫定残余時間に基づいて、振分け計
算機１０１，１０２から処理要求を割振るべき要求処理
計算機を決定するようにしている。

【００３０】振分け計算機１０１，１０２は、要求処理
計算機１０３，１０４，１０５からこれらの計算機の総
暫定残余時間を受け取るが、これは処理要求とは非同期
に受け取る。また、振分け計算機１０２（振分け計算機
１０１）から、やはり処理要求とは非同期に、当該振分
け計算機内の処理要求の要求処理計算機１０３あるいは
要求処理計算機１０４あるいは要求処理計算機１０５で
の処理時間の期待値の最小値を受け取る。これらの総暫
定残余時間および他方の振分け計算機が次に出す処理要
求の処理時間の期待値の最小値に基づいて、割振る要求
処理計算機を決定し、要求処理計算機１０３、要求処理
計算機１０４、要求処理計算機１０５のいずれかに処理
要求を送信する。

【００３１】要求処理計算機１０３あるいは要求処理計
算機１０４あるいは要求処理計算機１０５では、振分け
計算機１０１（振分け計算機１０２）から処理要求を受
信すると、これを要求に従い処理し、処理結果を送信元
計算機である振分け計算機１０１（振分け計算機１０
２）に返す。また、総暫定残余時間を計算し、計算結果
を振分け計算機１０１、振分け計算機１０２に送信す
る。振分け計算機１０１（振分け計算機１０２）では、
上記処理結果を受信すると、端末１０７（端末１０８）
に送信する。

【００３２】以上のようにして、負荷分散を図ってい
る。ここで、例を挙げて説明する。例えば、端末１０７
から、ある処理要求が振分け計算機１０１に入力された
とする。振分け計算機１０１は、その処理要求が、要求
処理計算機１０３，１０４，１０５で処理されたと仮定
したときの処理時間の期待値を得る。これは、後述する
ように、その処理要求の種別を判別して所定のテーブル
を参照することで得られる。振分け計算機１０１は、現
在の要求処理計算機１０３，１０４，１０５のそれぞれ
の総暫定残余時間を受信している。また、振分け計算機
１０１は、もう１台の振分け計算機１０２から、振分け
計算機１０２が次に出す処理要求（処理時間の期待値が
最小の処理要求を出すようになっている）の処理時間の
期待値を受信している。

【００３３】振分け計算機１０１が次に出す処理要求の
処理時間の期待値をα１、振分け計算機１０２が次に出
す処理要求の処理時間の期待値をα２、要求処理計算機
１０３の総暫定残余時間をβ１、要求処理計算機１０４
の総暫定残余時間をβ２、要求処理計算機１０５の総暫
定残余時間をβ３とすれば、振分け計算機１０１は、以
下のように要求処理計算機を決定する。

【００３４】α１≧α２、すなわち振分け計算機１０
１が次に出す処理要求のほうが振分け計算機１０２のも
のより負荷が大きいなら、β１，β２，β３中で最小の
総暫定残余時間を有する要求処理計算機（現在の負荷が
最小の要求処理計算機）に、処理時間の期待値がα１の
処理要求を出す。このとき、もう一方の振分け計算機１
０２では、処理時間の期待値がα２の処理要求を、β
１，β２，β３中で２番目に小さい総暫定残余時間を有
する要求処理計算機（現在の負荷が２番目に小さい要求
処理計算機）に出すこととなる。

【００３５】α１＜α２、すなわち振分け計算機１０
１が次に出す処理要求のほうが振分け計算機１０２のも
のより負荷が小さいなら、β１，β２，β３中で２番目
に小さい総暫定残余時間を有する要求処理計算機（現在
の負荷が２番目に小さい要求処理計算機）に、処理時間
の期待値がα１の処理要求を出す。このとき、もう一方
の振分け計算機１０２では、処理時間の期待値がα２の
処理要求を、β１，β２，β３中で最小の総暫定残余時
間を有する要求処理計算機（現在の負荷が最小の要求処
理計算機）に出すこととなる。

【００３６】図３は、図２に示した振分け計算機１０
１、振分け計算機１０２、要求処理計算機１０３、要求
処理計算機１０４および要求処理計算機１０５内のプロ
グラムおよびテーブル等を示している。図３により、処
理要求の処理動作を詳しく説明する。

【００３７】端末１０７（端末１０８）から入力された
処理要求は、振分け計算機１０１（振分け計算機１０
２）に送信される。端末１０７から処理要求を受信する
と、振分け計算機１０１内の処理要求受信プログラム２
０１が、これを処理要求振分けキュー２０２にキューイ
ングする。

【００３８】処理要求振分けプログラム２０３は、処理
要求制御テーブル２０４上の要求処理計算機１０３、要
求処理計算機１０４、要求処理計算機１０５の総暫定残
余時間、および振分け計算機１０２内の処理要求の要求
処理計算機１０３あるいは要求処理計算機１０４あるい
は要求処理計算機１０５での処理時間の期待値の最小値
に基づいて、送信先計算機を決定する。そして、処理要
求振分けキュー２０２から処理時間の期待値が最小の処
理要求を取り出し、送信先として決定された要求処理計
算機に送信する。

【００３９】処理結果出力プログラム２０５は、要求処
理計算機１０３、要求処理計算機１０４、要求処理計算
機１０５から送られて来る処理要求の処理結果を、端末
１０７に送信する。また、要求処理計算機１０３、要求
処理計算機１０４、要求処理計算機１０５から送られて
来る総暫定残余時間を、処理要求制御テーブル２０４に
書き込む。

【００４０】要求処理計算機１０３が振分け計算機１０
１（振分け計算機１０２）からの処理要求を受信したと
する。振分け計算機１０１（振分け計算機１０２）から
処理要求を受信すると、要求処理計算機１０３内の処理
要求キューイングプログラム２０６は、この処理要求を
処理要求キュー２０７にキューイングし、処理要求管理
テーブル２０８のキュー長、暫定残余時間、および総暫
定残余時間を更新する。

【００４１】これとは非同期に、処理要求処理・負荷計
算プログラム２０９は、処理要求キュー２０７から処理
要求を取り出して、要求に従いこれを処理する。この
後、処理要求管理テーブル２０８のキュー長、暫定残余
時間、および総暫定残余時間を更新し、処理要求の処理
結果を送信元計算機である振分け計算機１０１（振分け
計算機１０２）に、総暫定残余時間を振分け計算機１０
１、および振分け計算機１０２に送信する。

【００４２】なお、振分け計算機１０２は、振分け計算
機１０１と同様に動作する。また、要求処理計算機１０
４、および要求処理計算機１０５は、要求処理計算機１
０３と同様に動作する。

【００４３】次に、本実施例の特徴である負荷分散に係
わる部分について、図１を参照して詳細に説明する。

【００４４】図１は、本実施例の図２，３のシステムに
おける負荷分散方法の手順を示すフローチャートであ
る。

【００４５】まずステップ１で、振分け計算機１０１
（振分け計算機１０２）は、処理要求の送信先計算機を
決定する。これは、要求処理計算機１０３、要求処理計
算機１０４、および要求処理計算機１０５から送られて
くる総暫定残余時間に基づいて、かつ振分け計算機１０
２（振分け計算機１０１）から振分け計算機１０２（振
分け計算機１０１）内の処理要求の要求処理計算機１０
３あるいは要求処理計算機１０４あるいは要求処理計算
機１０５での処理時間の期待値の中で最小のものを受信
し、その値に基づいて、決定される。

【００４６】次に、ステップ２で、振分け計算機１０１
（振分け計算機１０２）は、振分け計算機１０２（振分
け計算機１０１）に、後続処理要求の要求処理計算機１
０３あるいは要求処理計算機１０４あるいは要求処理計
算機１０５での処理時間の期待値の中で最小のものを送
信する。その後、ステップ３で、送信先決定済み処理要
求を、要求処理計算機１０３あるいは要求処理計算機１
０４あるいは要求処理計算機１０５に、送信する。

【００４７】ステップ４で、要求処理計算機１０３ある
いは要求処理計算機１０４あるいは要求処理計算機１０
５は、処理要求を受信し、これを要求に従い処理する。
次に、ステップ５で、要求処理計算機１０３あるいは要
求処理計算機１０４あるいは要求処理計算機１０５は、
総暫定残余時間を計算する。

【００４８】ステップ６で、要求処理計算機１０３，１
０４，１０５は、上記処理要求の処理結果を送信元計算
機である振分け計算機１０１（振分け計算機１０２）に
送信する。また、総暫定残余時間の計算結果を、振分け
計算機１０１、および振分け計算機１０２に送信する。
さらに、ステップ７で、振分け計算機１０１（振分け計
算機１０２）は、要求処理計算機１０３，１０４，１０
５から処理結果を受信すると、端末１０７（端末１０
８）に送信する。

【００４９】以下では、まず本実施例で用いているテー
ブルの構造を説明する。その後、ステップ１、ステップ
２、ステップ３、およびステップ７（振分け計算機側の
処理）について、図６、図７、図８、および図１１のフ
ローチャートを参照して詳細に説明する。また、ステッ
プ４、ステップ５、およびステップ６（要求処理計算機
側の処理）について、図９および図１０のフローチャー
トを参照して詳細に説明する。

【００５０】図４は、処理要求制御テーブル２０４の詳
細な構造を示した図である。処理要求制御テーブル２０
４は、要求処理計算機１０３の総暫定残余時間エリア４
０１、要求処理計算機１０４の総暫定残余時間エリア４
０２、要求処理計算機１０５の総暫定残余時間エリア４
０３、振分け計算機１０１内の処理要求の最小処理時間
エリア４０４、振分け計算機１０２内の処理要求の最小
処理時間エリア４０５、および種別ｘの処理要求の処理
時間エリア４０６ｘ（ｘ＝１〜ｎ）から成る。

【００５１】要求処理計算機１０３の総暫定残余時間エ
リア４０１には、要求処理計算機１０３の総暫定残余時
間が格納される。要求処理計算機１０４の総暫定残余時
間エリア４０２には、要求処理計算機１０４の総暫定残
余時間が格納される。要求処理計算機１０５の総暫定残
余時間エリア４０３には、要求処理計算機１０５の総暫
定残余時間が格納される。

【００５２】振分け計算機１０１内の処理要求の最小処
理時間エリア４０４には、振分け計算機１０１内の処理
要求の要求処理計算機１０３あるいは要求処理計算機１
０４あるいは要求処理計算機１０５での処理時間の期待
値の最小値が格納される。振分け計算機１０２内の処理
要求の最小処理時間エリア４０５には、振分け計算機１
０２内の処理要求の要求処理計算機１０３あるいは要求
処理計算機１０４あるいは要求処理計算機１０５での処
理時間の期待値の最小値が格納される。

【００５３】種別ｘの処理要求の処理時間エリア４０６
ｘには、種別ｘの処理要求の要求処理計算機１０３ある
いは要求処理計算機１０４あるいは要求処理計算機１０
５での処理時間の期待値が格納される。本実施例の方法
では、ある処理要求が要求処理計算機にてどれ程の処理
時間で処理されるかを示す見積もり値があらかじめ判明
している必要がある。そこで、処理要求を幾つかの種別
に分け、各種別の処理要求はどれ程の処理時間で処理さ
れるかその期待値をあらかじめ上記エリアに格納するよ
うにしている。

【００５４】図５は、処理要求管理テーブル２０８の詳
細な構造を示した図である。処理要求管理テーブル２０
８は、キュー長エリア５０１、暫定残余時間エリア５０
２、総暫定残余時間エリア５０３、および種別ｘの処理
要求の処理時間エリア５０４ｘ（ｘ＝１〜ｎ）から成
る。

【００５５】キュー長エリア５０１には、要求処理計算
機１０３内の処理要求のキュー長が格納される。暫定残
余時間エリア５０２には、要求処理計算機１０３の暫定
残余時間（要求処理計算機１０３内の処理要求の処理時
間の和）が格納される。総暫定残余時間エリア５０３に
は、要求処理計算機１０３の総暫定残余時間が格納され
る。種別ｘの処理要求の処理時間エリア５０４ｘには、
種別ｘの処理要求の要求処理計算機１０３あるいは要求
処理計算機１０４あるいは要求処理計算機１０５での処
理時間の期待値が格納される。

【００５６】以下、本実施例の特徴である負荷分散の動
作を詳細に説明する。

【００５７】図１のステップ１、ステップ２、ステップ
３、およびステップ７は、処理要求受信プログラム２０
１、処理要求振分けプログラム２０３、および処理結果
出力プログラム２０５により実行される。

【００５８】まず、図６のフローチャートを参照して、
処理要求受信プログラム２０１の動作を詳しく説明す
る。振分け計算機は、端末１０７から処理要求を受信す
ると（ステップ６０１）、受信した処理要求を処理要求
振分けキュー２０２にキューイングする（ステップ６０
２）。そして、再び処理要求受信待ちとなる（ステップ
６０１）。

【００５９】次に、図７および図８のフローチャートを
参照して、処理要求振分けプログラム２０３の動作を詳
しく説明する。まず、処理要求振分けキュー２０２に処
理要求があるかどうかを判別する（ステップ７０１）。
処理要求がなければ、タイマーをセットし一定時間後の
起動を待つ（ステップ７０２）。処理要求振分けキュー
２０２に処理要求があれば、要求処理計算機１０３の総
暫定残余時間エリアの値と要求処理計算機１０４の総暫
定残余時間エリアの値と要求処理計算機１０５の総暫定
残余時間エリアの値の大小を比較する（ステップ７０
３）。比較結果のうち、総暫定残余時間が最小の要求処
理計算機、および２番目に小さい要求処理計算機を記憶
しておく。

【００６０】次に、振分け計算機１０１内の処理要求の
最小処理時間エリアの値と振分け計算機１０２内の処理
要求の処理時間エリアの値を比較する（ステップ７０
４）。前者が後者より大きい場合は、振分け計算機１０
１から出そうとしている処理要求の処理時間の方が振分
け計算機１０２から出そうとしている処理要求の処理時
間よりも大きい（負荷量が大きい）ということであるか
ら、現在の負荷量が小さい総暫定残余時間が最小の要求
処理計算機に対して処理要求の送信準備（電文編集）を
行う（ステップ７０５）。

【００６１】逆の場合は、振分け計算機１０１から出そ
うとしている処理要求の処理時間の方が振分け計算機１
０２から出そうとしている処理要求の処理時間よりも小
さい（負荷量が小さい）ということであるから、総暫定
残余時間が２番目に小さい要求処理計算機に対して送信
準備（電文編集）を行う（ステップ７０６）。

【００６２】次に、処理要求キュー２０２を参照し、ま
だ処理要求があるかどうか判別する（ステップ７０
７）。まだ処理要求がある場合は、後続処理要求を処理
時間の上昇順（処理時間が小さい順）にソートし（ステ
ップ７０８）、その先頭処理要求の処理時間を振分け計
算機１０２に送信する（ステップ７０９）。また、送信
準備済みの処理要求を送信する（ステップ７１０）。そ
の後、ステップ７０１に戻る。

【００６３】処理要求振分けキュー２０２に処理要求が
ない場合には（ステップ７０７）、送信準備済みの処理
要求の処理時間を振分け計算機１０２に送信し（ステッ
プ７１１）、送信準備済みの処理要求を送信する（ステ
ップ７１２）。次に、処理要求振分けキュー２０２を参
照し、これにまだ処理要求があるかどうかを判別する
（ステップ７１３）。処理要求がある場合は、後続処理
要求を処理時間の上昇順にソートし（ステップ７１
４）、ステップ７０１に戻る。処理要求振分けキュー２
０２に処理要求がない場合には、「０」（処理要求なし
を意味する）を振分け計算機１０２に送信し（ステップ
７１５）、ステップ７０１に戻る。

【００６４】次に、図１１のフローチャートを参照し
て、処理結果出力プログラム２０５の動作を詳しく説明
する。振分け計算機は、要求処理計算機１０３あるいは
要求処理計算機１０４あるいは要求処理計算機１０５か
らの電文受信を待津（ステップ１００１）。電文を受信
すると、電文の内容が処理要求の処理結果か総暫定残余
時間かを判断する（ステップ１００２）。総暫定残余時
間である場合には、処理要求制御テーブル２０４の総暫
定残余時間エリアにこれを書き込む（ステップ１００
３）。処理結果である場合には、これを端末１０７に送
信する（ステップ１００４）。ステップ１００３，１０
０４の後、ステップ１００１に戻る。

【００６５】図１のステップ４、ステップ５、およびス
テップ６は、処理要求キューイングプログラム２０６お
よび処理要求処理・負荷計算プログラム２０９により実
行される。

【００６６】図９のフローチャートを参照して、処理要
求キューイングプログラム２０６の動作を詳しく説明す
る。要求処理計算機は、振分け計算機１０１から送られ
てくる処理要求の受信を待つ（ステップ８０１）。処理
要求を受信したら、これを処理要求キュー２０７にキュ
ーイングする（ステップ８０２）。次に、暫定残余時間
エリアの値に、キューイングした処理要求に対応した種
別の処理時間エリアの値を加える（ステップ８０３）。
そして、総暫定残余時間エリアの値に暫定残余時間エリ
アの値を加える（ステップ８０４）。さらに、キュー長
エリアの値を１増やす（ステップ８０５）。その後、ス
テップ８０１に戻る。

【００６７】次に、図１０のフローチャートを参照し
て、処理要求処理・負荷計算プログラム２０９の動作を
詳しく説明する。まず要求処理計算機は、処理要求キュ
ー２０７に処理要求があるかどうか判別する（ステップ
９０１）。処理要求がない場合は、タイマーをセット
し、一定時間後の起動を待つ（ステップ９０２）。その
後、再びステップ９０１に戻る。

【００６８】ステップ９０１で処理要求キュー２０７に
処理要求がある場合には、処理要求キュー２０７から先
頭の処理要求を取りはずし（ステップ９０３）、要求に
従い処理する（ステップ９０４）。

【００６９】次に、暫定残余時間エリアの値から処理し
た処理要求に対応した種別の処理時間エリアの値を引く
（ステップ９０５）。暫定残余時間は、処理要求キュー
２０７内の処理要求の処理時間の和であり、いまステッ
プ９０３，９０４で先頭の処理要求が取り外され実行さ
れたから、その分を引いて暫定残余時間を更新したもの
である。

【００７０】次に、総暫定残余時間エリアの値から、処
理した処理要求に対応した種別の処理時間エリアの値に
キュー長エリアの値をかけた値を、引く。さらに、キュ
ー長エリアの値を１減らす（ステップ９０６）。総暫定
残余時間は、上述したように、処理要求キュー２０７内
の処理要求のそれぞれの暫定残余時間の和である。いま
ステップ９０３，９０４で先頭の処理要求が取り外され
実行されたから、残った処理要求の暫定残余時間は、そ
れぞれ、取り外された処理要求の処理時間の分だけ減る
ことになる。さらに、取り外された処理要求の分もある
ので、総暫定残余時間から、処理した処理要求の処理時
間にキュー長エリアの値をかけた値を引くようにしてい
る。

【００７１】この後、総暫定残余時間エリアの値を、振
分け計算機１０１および振分け計算機１０２に送信し
（ステップ９０７）、処理要求の処理結果を送信元計算
機である振分け計算機１０１に送信して（ステップ９０
８）、ステップ９０１に戻る。

【００７２】以上のようにして、本実施例における負荷
分散処理が行なわれる。

【００７３】なお、上記実施例では、振分け計算機１０
１と振分け計算機１０２の間で、当該計算機内の処理要
求の要求処理計算機１０３あるいは要求処理計算機１０
４あるいは要求処理計算機１０５での処理時間の期待値
の最小値を交換し（ステップ７０９，７１１）、その期
待値の最小値が大きい方の処理要求を一番負荷が少ない
要求処理計算機に割振り、その期待値の最小値が小さい
方の処理要求を２番目に負荷が少ない要求処理計算機に
割振るようにしている。しかし、互いに次に出す処理要
求の処理時間の期待値を交換するのでなく、両振分け計
算機とも、一律に総暫定残余時間が最小の要求処理計算
機に処理要求を送信するようにしてもよい。

【００７４】また、振分け計算機１０１と振分け計算機
１０２との間で、当該計算機内の処理要求の要求処理計
算機１０３あるいは要求処理計算機１０４あるいは要求
処理計算機１０５での処理時間の期待値の最小値を交換
せず、つねに総暫定残余時間の小さい計算機を２台（あ
るいは２台より多い数を選んでもよい）選んで、振分け
計算機１０１および振分け計算機１０２が、総暫定残余
時間が１番小さい計算機と２番目に小さい計算機に、交
互に処理要求を送信するようにしてもよい。

【００７５】さらに、上記実施例では要求処理計算機の
負荷の尺度として、総暫定残余時間を用いているが、そ
の代りに平均応答時間、すなわち（総暫定残余時間）／
（系内数）を用いてもよい。

【００７６】なお、振分け計算機１０１あるいは振分け
計算機１０２が要求処理計算機１０３あるいは要求処理
計算機１０４あるいは要求処理計算機１０５に一度に複
数の処理要求を送ってもよい。

【００７７】また、要求処理計算機１０３あるいは要求
処理計算機１０４あるいは要求処理計算機１０５は、総
暫定残余時間を送信する際に、処理要求の処理結果に総
暫定残余時間を重畳して送信するようにしてもよい。

【００７８】さらに、要求処理計算機１０３あるいは要
求処理計算機１０４あるいは要求処理計算機１０５から
処理結果を返すときには、総暫定残余時間の最小の計算
機（振分け計算機１０１あるいは振分け計算機１０２）
に返してもよい。この場合、例えば、図２の端末１０７
を振分け計算機１０２に、端末１０８を振分け計算機１
０１に、クロスして接続するようにしておき、常に処理
要求が入力された端末に対応する処理結果を返すように
するとよい。振分け計算機１０１あるいは振分け計算機
１０２の負荷量（総暫定残余時間）を要求処理計算機１
０３，１０４，１０５に送るときには、総暫定残余時間
を処理要求に重畳して送るようにしてもよい。

【００７９】振分け計算機１０１、振分け計算機１０
２、要求処理計算機１０３、要求処理計算機１０４、お
よび要求処理計算機１０５は、上記実施例ではネットワ
ークにより結合されているが、ネットワークの代りにメ
モリを共有することで結合してもよい。

【００８０】上記実施例によれば、振分け計算機１０１
および振分け計算機１０２が、処理要求の到着とは非同
期に要求処理計算機１０３、要求処理計算機１０４、お
よび要求処理計算機１０５から総暫定残余時間を得て、
振分け計算機１０１内、あるいは振分け計算機１０２内
の処理時間の期待値が最小の処理要求を総暫定残余時間
の小さい計算機に送信するため、（１）要求処理計算機
１０３、要求処理計算機１０４、および要求処理計算機
１０５が空きとならない、（２）振分け計算機１０１、
および振分け計算機１０２における処理要求振分けオー
バーヘッドが小さくなる、（３）（振分け計算機１０
１、振分け計算機１０２内の処理要求の割振り順序に起
因して）応答性能が向上する、という効果がある。

【００８１】

【発明の効果】以上説明したように、本発明によれば、
処理要求を受付ける幾つかの振分け計算機と処理要求を
要求に従い処理する複数の要求処理計算機とこれらの計
算機を結ぶネットワークからなる計算機システムにおい
て、振分け計算機が処理要求の到着とは非同期に要求処
理計算機から総暫定残余時間を得て、処理要求を総暫定
残余時間の小さい要求処理計算機に割振るため、要求処
理計算機が空きとならず、振分け計算機における処理要
求振分けオーバーヘッドが小さくなるという効果があ
る。また、各振分け計算機内の処理要求を要求処理計算
機での処理時間の期待値の上昇順に総暫定残余時間の小
さい要求処理計算機に割振るため、振分け計算機内の処
理要求の割振り順序に起因して、応答性能が向上すると
いう効果がある。

【図面の簡単な説明】

【図１】本発明の一実施例による基本的な動作を示すフ
ローチャートである。

【図２】本発明の実施例が適用される計算機システムの
ハードウェア構成である。

【図３】図２の計算機システム内に適用される各プログ
ラムおよび各テーブルの構成図である。

【図４】処理要求制御テーブル２０４の詳細図である。

【図５】処理要求管理テーブル２０８の詳細図である。

【図６】処理要求受信プログラムの詳細な動作を示すフ
ローチャートである。

【図７】処理要求振分けプログラムの詳細な動作を示す
フローチャートである。

【図８】処理要求振分けプログラムの詳細な動作を示す
フローチャート（続き）である。

【図９】処理要求キューイングプログラムの詳細な動作
を示すフローチャートである。

【図１０】処理要求処理・負荷計算プログラムの詳細な
動作を示すフローチャートである。

【図１１】処理結果出力プログラムの詳細な動作を示す
フローチャートである。

【符号の説明】

１０１，１０２…振分け計算機、１０３，１０４，１０
５…要求処理計算機、１０６…ネットワーク、１０７，
１０８…端末、２０１…処理要求受信プログラム、２０
２…処理要求振分けキュー、２０３…処理要求振分けプ
ログラム、２０４…処理要求制御テーブル、２０５…処
理結果出力プログラム、２０６…処理要求キューイング
プログラム、２０７…処理要求キュー、２０８…処理要
求管理テーブル、２０９…処理要求処理・負荷計算プロ
グラム。

Claims

【特許請求の範囲】

【請求項１】処理要求を受付ける幾つかの振分け計算機
と、処理要求を要求に従い処理する複数の要求処理計算
機と、これらの計算機を結ぶネットワークとを備えた計
算機システムに適用する負荷分散方法であって、将来、処理要求の到着がないとしたときの要求処理計算
機内の処理要求の当該要求処理計算機到着から処理終了
までの時間の和である総暫定残余時間に基づいて、前記
振分け計算機が、処理要求を要求処理計算機に割振るこ
とを特徴とする計算機システムにおける負荷分散方法。
【請求項２】処理要求を受付ける幾つかの振分け計算機
と、処理要求を要求に従い処理する複数の要求処理計算
機と、これらの計算機を結ぶネットワークとを備えた計
算機システムに適用する負荷分散方法であって、前記振分け計算機は、将来、処理要求の到着がないとし
たときの要求処理計算機内の処理要求の当該要求処理計
算機到着から処理終了までの時間の和である総暫定残余
時間が最小の要求処理計算機に、処理要求を割振ること
を特徴とする計算機システムにおける負荷分散方法。
【請求項３】さらに、前記振分け計算機は、前記処理要
求を、要求処理計算機での処理時間の期待値の上昇順に
要求処理計算機に割振ることを特徴とする請求項１また
は２に記載の計算機システムにおける負荷分散方法。
【請求項４】さらに、前記振分け計算機は、他の振分け
計算機内の処理要求の要求処理計算機での処理時間の期
待値を得て、その期待値が最小の処理要求を振分け計算
機間での上記最小値の下降順に総暫定残余時間の小さい
要求処理計算機から割振ることを特徴とする請求項１な
いし３に記載の計算機システムにおける負荷分散方法。
【請求項５】前記振分け計算機は、前記総暫定残余時間
の上昇順に幾つかの要求処理計算機を選んで処理要求を
均等に割振ることを特徴とする請求項１ないし４に記載
の計算機システムにおける負荷分散方法。
【請求項６】前記振分け計算機は、前記総暫定残余時間
の上昇順に振分け計算機の台数分の要求処理計算機を選
ぶことを特徴とする請求項５に記載の計算機システムに
おける負荷分散方法。
【請求項７】前記振分け計算機は、処理要求の到着とは
非同期に要求処理計算機から総暫定残余時間を得ること
を特徴とする請求項１ないし６に記載の計算機システム
における負荷分散方法。
【請求項８】前記振分け計算機は、処理要求の到着とは
非同期に、前記要求処理計算機からの総暫定残余時間、
および他の振分け計算機からの当該振分け計算機内の処
理要求の要求処理計算機での処理時間の期待値の最小値
を得ることを特徴とする請求項４ないし７に記載の計算
機システムにおける負荷分散方法。
【請求項９】前記振分け計算機は、前記振分け計算機内
の処理要求の要求処理計算機での処理時間の期待値を他
の振分け計算機に送信した後に、要求処理計算機に処理
要求を送信することを特徴とする請求項４ないし８に記
載の計算機システムにおける負荷分散方法。
【請求項１０】前記振分け計算機は、当該計算機内に要
求処理計算機に一度に送る処理要求がただ１つあるとき
に、当該処理要求を要求処理計算機に送信した後に、再
び振分け計算機内に処理要求があるかを調べ、処理要求
がないときは、その旨を他の振分け計算機に送信するこ
とを特徴とする請求項４ないし９に記載の計算機システ
ムにおける負荷分散方法。
【請求項１１】前記要求処理計算機は、前記総暫定残余
時間を処理要求の処理結果に重畳して送信することを特
徴とする請求項１ないし１０に記載の計算機システムに
おける負荷分散方法。
【請求項１２】前記要求処理計算機は、振分け計算機の
総暫定残余時間に基づいて選択した振分け計算機に、処
理要求に対する処理結果を送信することを特徴とする請
求項１ないし１１に記載の計算機システムにおける負荷
分散方法。
【請求項１３】前記要求処理計算機は、処理要求に対す
る処理結果を、総暫定残余時間の小さい振分け計算機に
送信することを特徴とする請求項１２に記載の計算機シ
ステムにおける負荷分散方法。
【請求項１４】前記振分け計算機は、自機の総暫定残余
時間を処理要求に重畳して送信することを特徴とする請
求項１２または１３に記載の計算機システムにおける負
荷分散方法。
【請求項１５】前記総暫定残余時間の代りに、平均応答
時間すなわち（総暫定残余時間）／（系内数）を用いる
ことを特徴とする請求項１ないし１４に記載の計算機シ
ステムにおける負荷分散方法。
【請求項１６】前記計算機システムが、ネットワークで
計算機を結合する代りに、メモリを共有することで結合
された計算機システムにおける請求項１ないし１５に記
載の計算機システムにおける負荷分散方法。