JPH11110360A

JPH11110360A - トランザクション分配方法およびシステムおよびトランザクション分配処理用記録媒体

Info

Publication number: JPH11110360A
Application number: JP9266472A
Authority: JP
Inventors: Yoshimitsu Aoyanagi; 慶光青柳; Hideki Fujioka; 秀樹藤岡
Original assignee: Hitachi Software Engineering Co Ltd
Current assignee: Hitachi Software Engineering Co Ltd
Priority date: 1997-09-30
Filing date: 1997-09-30
Publication date: 1999-04-23

Abstract

(57)【要約】【課題】サーバ装置に不必要な負荷をかけることな
く、また、ネットワークトラフィックを増大させること
なく、各サーバ装置に対するトランザクションリクエス
トを分配すること。【解決手段】プロキシサーバ装置において、過去のト
ランザクションサービスと応答時間の履歴からトランザ
クション応答時間の分布を導出し、その導出されたトラ
ンザクション応答時間の分布から複数のサーバ装置の最
大応答待ち時間をそれぞれ動的に決定し、その決定され
た最大応答待ち時間に応じて前記クライアント装置から
のトランザクションリクエストをいずれかのサーバ装置
に分配する。

Description

【発明の詳細な説明】

【０００１】

【発明の属する技術分野】本発明は、ネットワークによ
って接続されたプロキシサーバ装置、複数のクライアン
ト装置および前記クライアント装置からのトランザクシ
ョンリクエストに対し同一のサービスを提供可能なサー
ビスプログラムを有する複数のサーバ装置を備え、クラ
イアント装置からのトランザクションリクエストを前記
プロキシサーバ装置がいずれかのサーバ装置に分配する
トランザクション分配方法およびシステム並びにトラン
ザクション分配処理用記録媒体に関するものである。

【０００２】

【従来の技術】トランザクションリクエストを発行する
複数のクライアント装置と、そのトランザクションリク
エストに対して同一のトランザクションサービスを提供
可能なサービスプログラムを有する複数のサーバ装置と
をネットワークを介して接続し、クライアント装置から
のトランザクションリクエストを複数のサーバ装置のい
ずれかに分配し、サーバ装置の負荷を分散させる従来の
方法として以下に示す３通りの方法がある。

【０００３】１つ目は、DNS（ドメインネームサービ
ス）を利用する方法である。これは、トランザクション
サービスを提供しているサーバ装置のDNSエントリの順
番にトランザクションリクエストを分配し、全てのサー
バ装置を巡回した場合、DNSエントリの最初のサーバ装
置に戻り、再びDNSエントリの順番にトランザクション
リクエストを分配する方法である。

【０００４】２つ目は、TP Monitor(トランザクション
プロセシングモニタ)等を利用して各サーバ装置にかか
っているＣＰＵ使用率を監視し、TP Monitorとプロキシ
サーバ装置でCPU使用率の同期を取り、プロキシサーバ
装置が負荷のかかっていないサーバ装置にトランザクシ
ョンリクエストを分配する方法である。

【０００５】３つ目は、サーバ装置とプロキシサーバ装
置間のネットワークトラフィックを監視し、トラフィッ
クが少ないネットワーク経路上に存在しているサーバ装
置にトランザクションリクエストを分配する方法であ
る。

【０００６】

【発明が解決しようとする課題】しかしながら、上記の
DNSを利用した方法では、プロキシサーバ装置は、トラ
ンザクションリクエストを分配するサーバ装置の稼動状
況を考慮していないため、CPU負荷のかかるトランザク
ションリクエストを分配されたサーバ装置がトランザク
ション処理を終了する前に、再びCPU負荷のかかるトラ
ンザクションを分配される可能性があり、１台のサーバ
装置に負荷が集中するという問題が生じる。

【０００７】一方、TP Monitor等を利用する方法では、
サーバ装置のＣＰＵ使用率を監視するプログラム（TP M
onitor）を各サーバ装置上で稼動させなくてはならない
ため、サーバ装置に不必要な負荷をかけるという問題が
ある。また、TP Monitorとプロキシサーバ装置間でＣＰ
Ｕ使用率の情報の同期をとる必要があるため、サーバ装
置とプロキシサーバ装置間のネットワークトラフィック
を増大させるという問題が生じる。

【０００８】また、サーバ装置とプロキシサーバ装置間
のネットワークトラフィックを利用する方法にあって
は、プロキシサーバ装置がトランザクションリクエスト
を分配するサーバ装置の稼動状況を考慮せず、ネットワ
ークトラフィックだけを考慮しているため、DNSを利用
した方法と同様に、１台のサーバ装置に負荷が集中する
可能性が生じるという問題がある。

【０００９】本発明の目的は、トランザクションリクエ
ストの分配を行う場合に、サーバ装置に不必要な負荷を
かけることなく、また、サーバ装置とプロキシサーバ装
置間のネットワークトラフィックを増大させることなく
サーバ装置の稼動状況を把握し、各サーバ装置に対する
トランザクションリクエストを分配し、信頼性と応答性
を向上させることができるトランザクション分配方法お
よびシステム並びにトランザクション分配処理用記録媒
体を提供することにある。

【００１０】

【課題を解決するための手段】本発明は、上記目的を達
成するために、プロキシサーバ装置において、過去のト
ランザクションサービスと応答時間の履歴からトランザ
クション応答時間の分布を導出し、その導出されたトラ
ンザクション応答時間の分布から前記複数のサーバ装置
の最大応答待ち時間をそれぞれ動的に決定し、その決定
された最大応答待ち時間に応じて前記クライアント装置
からのトランザクションリクエストをいずれかのサーバ
装置に分配するようにしたものである。

【００１１】

【発明の実施の形態】以下、本発明を図面に示す実施形
態を用いて詳細に説明する。

【００１２】図１は、本発明を適用したトランザクショ
ン分配システムの実施形態を示すシステム構成図であ
る。この実施形態のシステムは、大別すると、サーバ装
置１、２と、プロキシサーバ装置３およびクライアント
装置４とがネットワーク５で接続された構成である。

【００１３】このうち、サーバ装置１は、ＣＰＵ１１
Ａ、メモリ１１Ｂからなる端末装置１１、サービスプロ
グラム１２Ａが格納されている外部記憶装置１２と通信
ポート１３から構成され、同様に、サーバ装置２はＣＰ
Ｕ２１Ａ、メモリ２１Ｂからなる端末装置２１、サービ
スプログラム２２Ａが格納されている外部記憶装置２２
と通信ポート２３から構成されている。

【００１４】また、プロキシサーバ装置３は、ＣＰＵ３
１Ａ、メモリ３１Ｂからなる端末装置３１、トランザク
ション分配プログラム３２Ａ、統計情報収集プログラム
３２Ｂ、応答状況監視プログラム３２Ｃが格納されてい
る外部記憶装置３２と通信ポート３３とから構成されて
いる。

【００１５】さらに、クライアント装置４は、ＣＰＵ４
１Ａ、メモリ４１Ｂからなる端末装置４１、タスク要求
プログラム４２Ａが格納されている外部記憶装置４２と
通信ポート４３とから構成されている。

【００１６】この実施形態におけるトランザクション分
配方法の概要は、次の通りである。まず、各サーバ装置
１，２には、それぞれクライアント装置４が発行するト
ランザクションリクエストを処理することができるサー
ビスプログラム１２Ａ，２２Ａが稼動している。このサ
ービスプログラム１２Ａ，２２Ａは、同一のトランザク
ションリクエストであるならば、全てのサーバ装置で同
一の結果を与えることができるものである。

【００１７】また、プロキシサーバ装置３には、クライ
アント装置４からのトランザクションリクエストを受信
した場合、そのトランザクションリクエストを分配する
サーバ装置の決定、リクエストテーブルへの追加、及
び、いずれかのサーバ装置へのトランザクションリクエ
ストの発行を行い、リクエスト発行先のサーバ装置から
トランザクションリクエストの応答を受信した場合、リ
クエスト発行元のクライアント装置４に結果を送信する
ことができるトランザクション分配プログラム３２Ａが
稼動している。

【００１８】また、各サーバ装置１，２に発行したトラ
ンザクションリクエストの応答時間を登録した応答時間
テーブルを作成し、トランザクション分配プログラム３
２Ａからの要求に応じて、トランザクションの応答時間
のヒストグラムを作成し、作成したヒストグラムを利用
して、最大応答待ち時間やサーバ装置１，２にかかって
いる負荷の評価値や評価値の変化率を計算し、応答時間
とサーバ装置負荷の評価値の対応を登録したサーバ装置
負荷評価テーブルを作成すると共に、サーバ装置１，２
にトランザクションリクエストを発行した時点で各サー
バ装置１，２にかかっていた負荷の評価値と、実際のト
ランザクションの応答時間の組み合わせから応答時間学
習テーブルを作成し、その応答時間学習テーブルを利用
してトランザクションの応答時間の予測値を計算するこ
とができる統計情報収集プログラム３２Ｂが稼動してい
る。

【００１９】また、トランザクション開始時刻に最大応
答待ち時間を加算して得られるトランザクション最大終
了時刻を計算し、トランザクション最大終了時刻を登録
したトランザクションテーブルを作成する。さらに、各
サーバ装置１，２にリクエストしたトランザクションサ
ービスの応答状況を監視し、トランザクション最大終了
時刻を超えて応答がない場合、そのトランザクションリ
クエストと同一のトランザクションリクエストを別のサ
ーバ装置に再発行するようにトランザクション分配プロ
グラム３２Ａに要求することができる応答状況監視プロ
グラム３２Ｃが稼動している。

【００２０】トランザクション分配プログラム３２Ａ
は、クライアント装置４からのトランザクションリクエ
ストを受信すると、統計情報収集プログラム３２Ｂと応
答状況監視プログラム３２Ｃに、新規トランザクション
開始通知を送信する。また、トランザクションを処理し
て応答するまでの、各サーバ装置１，２のトランザクシ
ョンサービスの応答時間の予測値を計算するように統計
情報収集プログラム３２Ｂに依頼する。

【００２１】トランザクション分配プログラム３２Ａ
は、応答時間の予測値が小さいサーバ装置から順番に応
答時間評価要求と応答時間変化率評価要求を統計情報収
集プログラム３２Ｂに依頼する。

【００２２】ここで、応答時間評価要求とは、応答時間
テーブルのレコードの中で、応答時間と現在の時刻の差
が最も小さいレコードの応答時間と最大応答待ち時間と
の大小を比較し、応答時間が最大応答待ち時間より小さ
い値である場合Trueを返し、そうでない場合にはFalse
を返すような要求を意味している。また、応答時間変化
率評価要求とは、サーバ装置に対する負荷の評価値の変
化率を計算し、変化率とあらかじめ設定されている閾値
との大小を比較し、変化率が閾値より小さい値である場
合Trueを返し、そうでない場合にはFalseを返すような
要求を意味する。

【００２３】まず、応答時間の予測値が一番小さいサー
バ装置に対して応答時間評価要求を発行する。応答時間
評価要求に対する返り値がFalseの場合、応答時間の予
測値が２番目に小さいサーバ装置に応答時間評価要求を
発行する。これに対し、応答時間評価要求に対する返り
値がTrueの場合、応答時間変化率評価要求を発行する。

【００２４】応答時間変化率評価要求に対する返り値が
Falseの場合、応答時間の予測値が２番目に小さいサー
バ装置に応答時間評価要求を発行する。応答時間変化率
評価要求に対する返り値がTrueの場合、応答時間が１番
小さいサーバ装置にトランザクションリクエストを分配
することを決定する。以後、応答時間の予測値が小さい
順に応答時間評価要求と応答時間変化率評価要求を繰り
返し、応答時間評価要求と応答時間変化率評価要求の返
り値が両方Trueであるサーバ装置にトランザクションリ
クエストを分配することを決定する。

【００２５】このようにして、トランザクションリクエ
ストを分配するサーバ装置を決定すると、トランザクシ
ョン分配プログラム３２Ａはリクエストテーブルに、一
意なリクエストＩＤ、新規トランザクションのサービス
名、トランザクションリクエストを発行するサーバ装置
名やサーバ装置のアドレス、リクエストを要求したクラ
イアント装置４のアドレスを登録したリクエストテーブ
ルに新規レコードを追加する。

【００２６】また、トランザクション分配プログラム３
２Ａは、サーバ装置１，２からトランザクションサービ
スの結果を受信すると、統計情報収集プログラム３２Ｂ
と応答状況監視プログラム３２Ｃに、トランザクション
終了通知を送信し、クライアント装置４に結果を送信す
る。クライアント装置４に結果を送信した後で、リクエ
ストテーブルの該当するレコードを削除する。

【００２７】また、トランザクション分配プログラム３
２Ａは、応答状況監視プログラム３２Ｃからトランザク
ション再分配要求としてサーバ装置名を受信すると、ク
ライアント装置４からのトランザクションリクエストを
受信した場合と同様にしてトランザクションリクエスト
を分配するサーバ装置を決定する。ただし、応答時間評
価要求を発行する前に、トランザクション再分配要求の
際に受信したサーバ装置名と応答時間評価や応答時間変
化率評価を行おうとしているサーバ装置のサーバ装置名
が一致した場合は、応答時間評価や応答時間変化率の評
価をスキップし、次に応答時間の予測値が小さいサーバ
装置から繰り返す。こうすることで同一のサーバ装置に
同一のトランザクションを分配するのを防ぐことができ
る。

【００２８】以上で述べたトランザクション分配プログ
ラム３２Ａの機能によって、信頼性と応答性を同時に考
慮したトランザクションの分配が可能になる。

【００２９】一方、統計情報収集プログラム３２Ｂは、
リクエストしたトランザクションサービスや応答時間を
格納した応答時間テーブルを各サーバ装置１，２ごとに
保持している。トランザクション分配プログラム３２Ａ
から新規トランザクション開始通知を受信すると、トラ
ンザクション開始通知の際受信したリクエストＩＤ、サ
ービス名、トランザクション開始時刻を登録した新規レ
コードを追加する。そして、統計情報収集プログラム３
２Ｂはトランザクション分配プログラム３２Ａからトラ
ンザクション終了通知を受信すると、応答時間テーブル
にトランザクション終了時刻や応答時間を追加する。そ
して、応答時間テーブルを利用して、トランザクション
の応答時間と出現頻度のヒストグラムを作成し、ヒスト
グラムの平均値μと分散σからあらかじめ設定されてい
る閾値αを利用して、最大応答待ち時間Ｔを「Ｔ＝μ＋
α・σ」として計算する。

【００３０】応答状況監視プログラム３２Ｃから最大応
答待ち時間の値を要求された場合、Ｔの値を計算して返
答する。また、作成されたヒストグラムから、全トラン
ザクションの頻度数の和をＡ、トランザクションが応答
時間ｔ₁とｔ₂の範囲に入っている度数Ｓ(t)としたとき
に、応答時間ｔがｔ₂以下になるような累積度数を利用
して、トランザクションが応答時間ｔ₂以内に終了する
確率、つまり応答時間ｔがｔ₂以下になるような累積相
対度数Ｐ(ｔ≦ｔ₂)を「Ｐ(ｔ≦ｔ₂)＝Ｓ(ｔ≦ｔ₂)/Ａ」
によって計算し、この値を応答時間がｔ１からｔ₂の範
囲に入っている場合のサーバ装置に対する負荷評価値と
する。応答時間ｔがｔ₂以下になるような累積度数は、
次の「数１」によって示される。

【００３１】

【数１】

【００３２】統計情報収集プログラム３２Ｂは、全ての
応答時間に対応するサーバ装置の負荷評価値を計算し、
応答時間とサーバ装置負荷評価値を登録したサーバ装置
負荷評価テーブルを作成する。統計情報収集プログラム
３２Ｂはサーバ装置負荷評価テーブルを利用して、応答
時間テーブルの応答時間に対応するサーバ装置の負荷評
価値を求め、応答時間テーブルに追加登録する。また、
各サーバ装置１，２にかかっている負荷評価値を利用し
て、サーバ装置１，２にかかっている負荷評価値の変化
率を計算し、変化率の時間的な変化を示すグラフを作成
し、変化率を応答時間テーブルに追加する。

【００３３】統計情報収集プログラム３２Ｂは、トラン
ザクション分配プログラム３２Ａから応答時間評価要求
を出されると、応答時間テーブルを利用して、終了時刻
と現在の時刻との差が最も小さいレコードの応答時間と
最大応答待ち時間との大小を比較し、応答時間が最大応
答待ち時間より小さい値である場合Trueを返し、そうで
ない場合にはFalseを返す。また、応答時間変化率評価
要求を出されると、応答時間テーブルのレコードの中
で、応答時間と現在の時刻の差が最も小さいレコードの
変化率がしきい値より小さい値である場合Trueを返し、
そうでない場合にはFalseを返す。

【００３４】統計情報収集プログラム３２Ｂは、サーバ
装置１，２にトランザクションリクエストを発行した時
点でサーバ装置１，２にかかっていた負荷の評価値と、
実際のトランザクションの応答時間の組み合わせを登録
した応答時間学習テーブルを保持している。トランザク
ション分配プログラム３２Ａからトランザクションの応
答時間の予測値を計算するように依頼を受けると、統計
情報収集プログラム３２Ｂは応答時間学習テーブルか
ら、横軸をトランザクション発行時のサーバ装置の負荷
の評価値Ｘとし、縦軸を実際のトランザクションの応答
時間Ｙとする座標にマッピングし、直線ｙ＝ａ・ｘ＋ｂ
に回帰する。ただし、ａ，ｂは次の「数２」で定義され
るものとする。また、ｘはＸの平均値、ｙはＹの平均値
を示す。

【００３５】

【数２】

【００３６】この「数２」のｉはリクエストＩＤを意味
し、ＸｉおよびＹｉは、それぞれ後述の図６におけるサ
ーバ負荷評価値６０３、トランザクション応答時間６０
４に該当する。

【００３７】応答時間テーブルのレコードの中で、応答
時間と現在の時刻の差が最も小さいレコードの応答時間
をＸ座標に持つ場合の回帰直線のＹ座標が求める応答時
間予測値となり、この値をトランザクション分配プログ
ラム３２Ａに返答する。

【００３８】以上で述べた統計情報収集プログラム３２
Ｂの機能によって、ネットワークトラフィックを増大さ
せることなく、各サーバ装置１，２のＣＰＵ負荷とサー
バ装置・プロキシサーバ装置間のトラフィックを総合的
に評価することができる。

【００３９】ただし、サーバ装置の負荷の評価値にはノ
イズが含まれ、これが増大していく可能性があるので、
定期的に応答時間テーブルを初期化するのが望ましい。

【００４０】一方、応答状況監視プログラム３２Ｃは、
トランザクション分配プログラム３２Ａから新規トラン
ザクション開始通知を受信すると、統計情報収集プログ
ラム３２Ｂに最大応答待ち時間を問い合わせ、トランザ
クション開始時刻に最大応答待ち時間を加算した最大終
了時刻を計算し、トランザクション最大終了時刻を登録
したトランザクションテーブルを作成する。そして、ト
ランザクション分配プログラム３２Ａからトランザクシ
ョン終了通知を受信すると、トランザクションテーブル
から該当するレコードを削除する。

【００４１】応答状況監視プログラム３２Ｃは、トラン
ザクションテーブルを常に監視し、最大応答時刻になっ
てもトランザクション分配プログラム３２Ａから終了通
知がないレコードが存在する場合、そのトランザクショ
ンを処理しているサーバ装置に障害が発生したか、もし
くは、サーバ装置に過剰負荷がかかっていると判断し、
トランザクションリクエストを発行したサーバ装置とは
別のサーバ装置にトランザクションリクエストを再発行
するようにトランザクション分配プログラム３２Ａに依
頼する。以上で述べた応答状況監視プログラム３２Ｃの
機能によって、トランザクションサービスの応答性を向
上させることができる。

【００４２】以下、実施形態の各部の詳細について説明
する。図２は本実施形態のプロキシサーバ装置上で稼動
するトランザクション分配プログラム３２Ａが作成する
リクエストテーブル２００の構成例である。トランザク
ション分配プログラム３２Ａは、クライアント装置４か
ら新規トランザクションリクエストを受信すると、その
トランザクションリクエストを分配するサーバ装置を決
定し、リクエストテーブル２００に新規レコードを追加
する。新規トランザクションレコードには、一意なリク
エストＩＤ２０１を割り当て、トランザクションのサー
ビス名２０２、トランザクションを分配したサーバ装置
名２０３とサーバ装置のアドレス２０４、トランザクシ
ョンリクエストを要求したクライアント装置のアドレス
２０５を登録する。

【００４３】また、トランザクション分配プログラム３
２Ａは、サーバ装置からトランザクションの結果の応答
を受信すると、リクエストテーブル２００の該当するリ
クエストＩＤのレコードを削除する。こうすることで、
リクエストテーブル２００に登録されているレコードは
サーバ装置上で処理中のトランザクションに関するもの
だけが登録されることになる。

【００４４】図３は、プロキシサーバ装置３上で稼動す
る統計情報収集プログラム３２Ｂが作成する応答時間テ
ーブル３００の構成例である。応答時間テーブル３００
は、サーバ装置ごとに別々に作成する。統計情報収集プ
ログラム３２Ｂはトランザクション分配プログラム３２
Ａから新規トランザクション開始通知としてリクエスト
ＩＤ、新規トランザクションのサービス名、トランザク
ションリクエストを分配したサーバ装置名を受信する
と、該当するサーバ装置の応答時間テーブル３００にレ
コードを追加し、開始通知の際に受け取ったリクエスト
ＩＤを一意なサービスリクエストＩＤ３０１として登録
し、新規トランザクションのサービス名をサービス３０
２として登録し、トランザクション開始通知を受信した
ときの現在時刻をトランザクション開始時刻３０３とし
て登録する。

【００４５】また、トランザクション分配プログラム３
２Ａからトランザクション終了通知としてリクエストＩ
Ｄを受信すると、応答時間テーブル３００のリクエスト
ＩＤが受信したリクエストＩＤと一致するレコードに、
通知を受信したときの現在時刻をトランザクション終了
時刻３０４とし、開始時刻と終了時刻の差をとった時間
を応答時間３０５として登録する。また、応答時間テー
ブル３００から次の図４に示す方法で計算したサーバ装
置の負荷の評価値３０６と、負荷の評価値の時間的な変
化の割合を計算した負荷の評価値の変化率３０７も同様
に計算して応答時間テーブル３００に登録する。応答時
間テーブル３００は、時間とともに中に含まれるサーバ
装置の負荷の評価値に対するノイズが増大する可能性が
あるので一定時間の間隔で初期化するのが望ましい。

【００４６】図４（ａ）は、プロキシサーバ装置３上で
稼動する統計情報収集プログラム３２Ｂが最大応答待ち
時間やサーバ装置の負荷の評価値を計算するときに利用
するヒストグラム４００の例を示したものである。統計
情報収集プログラム３２Ｂはトランザクション分配プロ
グラム３２Ａからトランザクションの終了通知を受信す
るたびに、図３に示した応答時間テーブル３００を利用
して、応答時間４０１を横軸にとり、応答時間の出現頻
度４０２を縦軸にとったヒストグラム４００を作成す
る。そして、ヒストグラム４００から平均値μ４０３と
分散σ４０４を以下に示す方法で計算する。応答時間テ
ーブル３００の全レコード数をＮとし、応答時間テーブ
ル３００のリクエストＩＤがｉのときの応答時間をＲ
（ｉ）とした場合に、μとσを次の「数３」によって計
算する。

【００４７】

【数３】

【００４８】この平均値μと分散σを利用して、あらか
じめ設定されている閾値αを考慮すると、最大応答待ち
時間Ｔ（４０５）がＴ＝μ＋α・σとして算出される。
また、サーバ装置の負荷の評価値を計算するために、応
答時間が２．０秒以上で２．１秒以下の場合を例にとっ
て説明する。

【００４９】本実施形態のシステムでは、応答時間テー
ブル３００の応答時間に対する累積相対度数をサーバ装
置の負荷の評価値としているため、応答が２．０秒以上
で２．１秒以下で返ってきた場合、その時にサーバ装置
にかかっている負荷の評価値として、図４（ａ）の斜線
部分の面積４０６をヒストグラムの全面積４０７で割っ
た値がサーバ装置の負荷の評価値となる。よって、サー
バ装置の負荷の評価値は最低値が０で、最大値は１とな
る。

【００５０】統計情報収集プログラム３２Ｂは、トラン
ザクション分配プログラム３２Ａからの応答時間評価要
求を受信すると、終了時刻と現在時刻との差が最も小さ
いレコードの応答時間が最大応答待ち時間より小さい値
である場合はＴｒｕｅを返し、そうでない場合にはＦａ
ｌｓｅを返す。これにより、サーバ装置に過剰に負荷が
かかっている、またはサーバ装置に障害が発生している
と判断されたサーバ装置へのトランザクションリクエス
トの発行を抑制することができる。

【００５１】図４（ｂ）は、プロキシサーバ装置３上で
稼動する統計情報収集プログラム３２Ｂが図４（ａ）に
示したヒストグラム４００の全ての階級に関しての累積
相対度数を登録したサーバ装置負荷評価テーブル４１２
の構成を示したものである。なお、本例では階級の幅を
「０．１」としている。トランザクションの応答時間４
１０についてサーバ装置の負荷の評価値４１１が対応し
ている。統計情報収集プログラム３２Ｂはサーバ装置負
荷評価テーブル４１２を利用して、トランザクションの
応答時間４１０からそのサーバ装置にかかっている負荷
の評価値４１１を求めることができる。

【００５２】図５は、統計情報収集プログラム３２Ｂが
作成するサーバ装置の負荷の評価値の変化率のグラフ５
００の例を示したものである。統計情報収集プログラム
３２Ｂはトランザクション分配プログラム３２Ａからト
ランザクション終了通知を受信すると、図３に示した応
答時間テーブル３００を作成する。そして、応答時間テ
ーブル３００を利用して、応答時間テーブル３００のリ
クエストＩＤの値をサービス５０１として横軸にとり、
応答時間テーブル３００のサーバ装置の負荷の評価値の
変化率５０２を縦軸にとった折れ線グラフ５０３を作成
する。サーバ装置の負荷の評価値の変化率には、閾値５
０４があらかじめ設定されている。

【００５３】統計情報収集プログラム３２Ｂは、トラン
ザクション分配プログラム３２Ａからの応答時間変化率
評価要求を受信すると、現在の変化率の値が閾値５０４
より小さい値である場合はＴｒｕｅを返し、そうでない
場合にはＦａｌｓｅを返す。これにより、サーバ装置の
負荷が急激に上昇している状態のサーバ装置へのトラン
ザクションリクエストの発行を抑制することができる。

【００５４】図６（ａ）は、プロキシサーバ装置３上で
稼動する統計情報収集プログラム３２Ｂが作成する応答
時間学習テーブル６００の構成例である。応答時間学習
テーブル６００は、サーバ装置ごとに別々に作成する。
統計情報収集プログラム３２Ｂは、トランザクション分
配プログラム３２Ａからトランザクションの終了通知を
受信すると、図３に示した応答時間テーブル３００を作
成する。そして、応答時間テーブル３００を利用して、
応答時間学習テーブル６００にレコードを追加する。こ
のとき、応答時間テーブル３００の該当するレコードの
リクエストＩＤの値をリクエストＩＤ６０１とし、応答
時間テーブル３００の該当するレコードのサービスをサ
ービス６０２とする。また、応答時間テーブル３００の
該当するレコードの開始時刻を読み取り、終了時刻が前
述の開始時刻の直前にあたるレコードを応答時間テーブ
ル３００から検索し、そのレコードのサーバ装置の負荷
評価値をトランザクション開始時のサーバ装置の負荷評
価値６０３とする。また、応答時間テーブル３００の該
当するレコードの応答時間を実際のトランザクション応
答時間６０４とする。

【００５５】図６（ｂ）は、統計情報収集プログラム３
２Ｂがトランザクション分配プログラム３２Ａからの依
頼を受け、応答時間学習テーブル６００から応答時間の
予測値を計算するときに作成する回帰直線の例を示した
ものである。統計情報収集プログラム３２Ｂは、トラン
ザクション分配プログラム３２Ａからトランザクション
を処理して応答するまでの、各サーバ装置のトランザク
ションの応答時間の予測値を計算するように依頼される
と、図６（ａ）で示した応答時間学習テーブル６００を
利用して、応答時間学習テーブル６００のトランザクシ
ョン開始時のサーバ装置の負荷の評価値６１０を横軸に
とり、応答時間学習テーブル６００の実際のトランザク
ション応答時間６１１を縦軸にとった座標軸上に、応答
時間学習テーブル６００の全てのデータをプロットす
る。そして、プロットした点６１２の集合から回帰直線
６１３を求める。この回帰直線６１３と、図３で示した
応答時間テーブル３００の全てのレコードの中で、終了
時刻と現在時刻の差が一番小さいレコードのサーバ装置
の負荷の評価値を現在のサーバ装置負荷の評価値６１４
とした場合に、現在のサーバ装置負荷の評価値と回帰直
線の交わる値を応答時間の予測値６１５とする。統計情
報収集プログラム３２Ｂは、サーバ装置にかかっている
負荷を考慮した応答時間予測値６１５を計算し、トラン
ザクション分配プログラム３２Ａに返送する。

【００５６】図７は、応答状況監視プログラム３２Ｃが
トランザクション分配プログラム３２Ａからの依頼を受
けて作成するトランザクションテーブル７００の構成を
示したものである。応答状況監視プログラム３２Ｃは、
トランザクション分配プログラム３２Ａから新規トラン
ザクション開始通知としてリクエストＩＤ、新規トラン
ザクションのサービス名、トランザクションリクエスト
を分配したサーバ装置名を受信すると、トランザクショ
ンテーブル７００にレコードを追加する。レコードに
は、開始通知の際に受信したリクエストＩＤを一意なリ
クエストＩＤ７０１とし、新規トランザクションのサー
ビス名をサービス７０２とし、トランザクションリクエ
ストを分配したサーバ装置名をサーバ装置７０３とし、
現在時刻をトランザクション開始時刻７０４として登録
する。また、応答状況監視プログラム３２Ｃは、統計情
報収集プログラム３２Ｂに、サーバ装置の最大応答待ち
時間を問い合わせ、現在時刻に最大応答待ち時間を加算
した値を計算し、この値をトランザクション最大終了時
刻７０５として新規レコードに登録する。

【００５７】また、応答状況監視プログラム３２Ｃは、
トランザクション分配プログラム３２Ａからトランザク
ション終了通知としてリクエストＩＤを受信すると、ト
ランザクションテーブル７００のリクエストＩＤが受信
したリクエストＩＤと一致するレコードを削除する。応
答状況監視プログラム３２Ｃは絶えずトランザクション
テーブル７００を監視しており、トランザクション最大
終了時刻７０５を超えて応答がないトランザクションが
存在した場合、トランザクションテーブル７００のサー
バ装置で示されるサーバ装置以外のサーバ装置にトラン
ザクションを再発行するようにトランザクション分配プ
ログラム３２Ａに要求する。これにより、トランザクシ
ョンの応答性を高めることができる。

【００５８】以下、フローチャートを用いて、本実施形
態の動作を説明する。

【００５９】図８は、プロキシサーバ装置３上で稼動す
るトランザクション分配プログラム３２Ａがクライアン
ト装置４からのトランザクションリクエストを処理する
ときの動作を示すフローチャートである。

【００６０】トランザクション分配プログラム３２Ａ
は、クライアント装置４からトランザクションリクエス
トの受信を待っている状態で（ステップ８０１）、トラ
ンザクションリクエストを受信した場合（ステップ８０
２）、統計情報プログラム３２Ｂにこのトランザクショ
ンリクエストにおける各サーバ装置の応答時間予測を依
頼する（ステップ８０３）。結果として、各サーバ装置
のトランザクション応答時間の予測値を受け取ると、応
答時間予測値の小さいサーバ装置順にソートをかける
（ステップ８０４）。そして、ソートされたサーバ装置
順に統計情報収集プログラム３２Ｂに応答時間評価要求
を出し（ステップ８０５）、その応答時間評価要求に対
しての統計情報収集プログラム３２Ｂの返り値がＴｒｕ
ｅかどうかチェックする（ステップ８０６）。

【００６１】応答時間評価要求に対しての統計情報収集
プログラム３２Ｂの返り値がＦａｌｓｅの場合、ステッ
プ８０４に戻り、次に応答時間予測値の小さいサーバ装
置に関して、ステップ８０５から同じ処理を繰り返す。
応答時間予測値に対しての統計情報収集プログラム３２
Ｂの返り値がＴｒｕｅの場合、統計情報収集プログラム
３２Ｂにサーバ装置の応答時間変化率評価要求を出す
（ステップ８０７）。

【００６２】この応答時間変化率評価要求に対しての統
計情報収集プログラム３２Ｂの返り値がＴｒｕｅかどう
かチェックする（ステップ８０８）。応答時間変化率評
価要求に対しての統計情報収集プログラム３２Ｂの返り
値がＦａｌｓｅの場合、ステップ８０４に戻り、次に応
答時間予測値の小さいサーバ装置に関して、ステップ８
０５から同じ処理を繰り返す。

【００６３】ステップ８０７の応答時間変化率評価要求
に対しての統計情報収集プログラム３２Ｂの返り値がＴ
ｒｕｅの場合、図２に示したリクエストテーブル２００
に新規レコードを追加する（ステップ８０９）。以降は
この処理を繰り返す。

【００６４】ステップ８０９に処理が進んだ場合、統計
情報収集プログラム３２Ｂと応答状況監視プログラム３
２Ｃにトランザクション開始通知を行い（ステップ８１
０）、ステップ８０４からステップ８０８で決定したサ
ーバ装置にトランザクションを発行する（ステップ８１
１）。ステップ８１１を終了すると、再びステップ８０
１から繰り返す。

【００６５】図９は，プロキシサーバ装置３上で稼動す
るトランザクション分配プログラム３２Ａが各サーバ装
置１，２からのトランザクションの結果を処理するとき
の動作を示すフローチャートである。

【００６６】トランザクション分配プログラム３２Ａ
は、各サーバ装置１，２からトランザクションの終了通
知の受信を待ち（ステップ８２０）、トランザクション
の結果を受信した場合（ステップ８２１）、統計情報収
集プログラム３２Ｂと応答状況監視プログラム３２Ｃに
トランザクションの終了通知として、リクエストテーブ
ル２００の該当するレコードのリクエストＩＤ、トラン
ザクションのサービス名、トランザクションリクエスト
を分配したサーバ装置名を送信する（ステップ８２
２）。そして、トランザクションを要求したクライアン
ト装置４に対してトランザクションリクエストの結果を
送信する（ステップ８２３）。最後に、リクエストテー
ブル２００の該当するレコードを削除する（ステップ８
２４）。ステップ８２４を終了すると、再びステップ８
２０から繰り返す。

【００６７】図１０は、プロキシサーバ装置３上で稼動
するトランザクション分配プログラム３２Ａが応答状況
監視プログラム３２Ｂからのトランザクション再分配要
求を処理するときの動作を示すフローチャートである。

【００６８】トランザクション分配プログラム３２Ａ
は、応答状況監視プログラム３２Ｂからトランザクショ
ン再分配要求受信を待ち（ステップ８３０）、サーバ装
置名を引数としたトランザクション再分配要求を受信し
た場合（ステップ８３１）、統計情報収集プログラム３
２Ｂにこのトランザクションにおける各サーバ装置の応
答時間予測を依頼する（ステップ８３２）。結果とし
て、各サーバ装置のトランザクション応答時間の予測値
を受け取ると、応答時間予測値の小さいサーバ装置順に
ソートをかけ（ステップ８３３）、ソートされたサーバ
装置順にサーバ装置名がトランザクション再分配要求の
際に受信したサーバ装置名と同一でないかどうかのチェ
ックを行う（ステップ８３４）。ステップ８３４の結果
がＦａｌｓｅの場合、ステップ８３３に戻り、次に応答
時間予測値の小さいサーバ装置に関して、ステップ８３
４から繰り返す。

【００６９】ステップ８３４の結果がＴｒｕｅの場合、
統計情報収集プログラム３２Ｂに応答時間評価要求を出
す（ステップ８３５）。この応答時間評価要求に対して
の統計情報収集プログラム３２Ｂの返り値がＴｒｕｅか
どうかチェックする（ステップ８３６）。応答時間評価
要求に対しての統計情報収集プログラム３２Ｂの返り値
がＦａｌｓｅの場合、ステップ８３３に戻り、次に応答
時間予測値の小さいサーバ装置に関して、ステップ８３
４から繰り返す。

【００７０】応答時間評価要求に対しての統計情報収集
プログラム３２Ｂの返り値がＴｒｕｅの場合、統計情報
収集プログラム３２Ｂにサーバ装置の応答時間変化率評
価要求を出す（ステップ８３７）。そして、この応答時
間変化率評価要求に対しての統計情報収集プログラム３
２Ｂの返り値がＴｒｕｅかどうかチェックする（ステッ
プ８３８）。応答時間変化率評価要求に対しての統計情
報収集プログラム３２Ｂの返り値がＦａｌｓｅの場合、
ステップ８３３に戻り、次に応答時間予測値の小さいサ
ーバ装置に関して、ステップ８３４から繰り返す。ま
た、応答時間変化率評価要求に対しての統計情報収集プ
ログラム３２Ｂの返り値がＴｒｕｅの場合、図２に示し
たリクエストテーブル２００に新規レコードを追加する
（ステップ８３９）。以後はこの処理を繰り返す。ステ
ップ８３９に処理が進んだ場合、統計情報収集プログラ
ム３２Ｂと応答状況監視プログラム３２Ｃにトランザク
ション開始通知を行い（ステップ８４０）、ステップ８
３３からステップ８３８で決定したサーバ装置にトラン
ザクションリクエストを発行する（ステップ８４１）。
ステップ８４１を終了すると、再びステップ８３０から
繰り返す。

【００７１】図１１は、プロキシサーバ装置３上で稼動
する統計情報収集プログラム３２Ｃが応答時間テーブル
３００に新規レコードを追加するときの動作を示すフロ
ーチャートである。

【００７２】統計情報収集プログラム３２Ｂは、トラン
ザクション分配プログラム３２Ａからトランザクション
開始通知を待ち（ステップ９０１）、リクエストＩＤ、
新規トランザクションのサービス名、トランザクション
を分配したサーバ装置名を引数としたトランザクション
開始通知を受けると（ステップ９０２）、図３で示した
応答時間テーブル３００に新規レコードを追加する（ス
テップ９０３）。ステップ９０３を終了すると、再びス
テップ９０１から繰り返す。

【００７３】図１２は、プロキシサーバ装置３で稼動す
る統計情報収集プログラム３２Ｂにおいて、応答時間テ
ーブル３００の該当するレコードを変更するときの動作
を示すフローチャートである。

【００７４】統計情報収集プログラム３２Ｂは、トラン
ザクション分配プログラム３２Ａからトランザクション
終了通知を待ち（ステップ９１０）、リクエストＩＤを
引数としたトランザクション終了通知を受けると（ステ
ップ９１１）、図３で示した応答時間テーブル３００か
ら、図４（ａ）で示した応答時間の頻度のヒストグラム
４００を作成する（ステップ９１２）。そして、その作
成したヒストグラム４００の平均μと分散σを利用し、
あらかじめ設定されている閾値を利用して、最大応答待
ち時間を計算する（ステップ９１３）。このヒストグラ
ム４００を利用して、図４（ｂ）で示したサーバ装置負
荷評価テーブル４１２を更新し、その更新されたサーバ
装置負荷評価テーブル４１２を利用して、終了通知を受
信したトランザクションにおけるサーバ装置の負荷の評
価値４１１を求める（ステップ９１４）。この求めたサ
ーバ装置の負荷の評価値４１１を利用して、サーバ装置
の負荷の評価値の変化率５０２を計算し、図５に示した
変化率の時間的推移のグラフ５００を作成する（ステッ
プ９１５）。この後、応答時間テーブル３００の該当す
るレコードに、トランザクションの終了時刻３０４、サ
ーバ装置の負荷の評価値３０６、評価値の変化率３０７
を追加する（ステップ９１６）。ステップ９１６を終了
すると、再びステップ９１０から繰り返す。

【００７５】図１３は、プロキシサーバ装置３上で稼動
する統計情報収集プログラム３２Ｂにおいて、トランザ
クション分配プログラム３２Ａからサーバ装置１，２の
負荷評価依頼を受信した場合の動作を示すフローチャー
トである。

【００７６】統計情報収集プログラム３２Ｂは、トラン
ザクション分配プログラム３２Ａからのサーバ装置１，
２の負荷の評価依頼を待ち（ステップ９２０）、サーバ
装置１，２の負荷の評価依頼を受信した場合（ステップ
９２１）、依頼内容がサーバ装置１，２の応答時間の予
測値を要求しているのかどうかをチェックする（ステッ
プ９２２）。依頼内容が応答時間の予測値を要求してい
る場合には、図６（ａ）で示したトランザクション学習
テーブル６００から図６（ｂ）で示した回帰直線６１３
を利用して、応答時間予測値６１５を計算し（ステップ
９２３）、計算結果を返答する（ステップ９２７）。依
頼内容がサーバ装置１，２の応答時間予測値６１５を要
求していない場合、依頼内容が応答時間評価要求である
かどうかのチェックを行う（ステップ９２４）。依頼内
容が応答時間評価要求である場合、図４（ａ）で説明し
た方法で応答時間評価を行い（ステップ９２５）、評価
結果を応答する（ステップ９２７）。依頼内容が応答時
間評価要求でない場合、図５で説明した方法で応答時間
変化率評価を行い（ステップ９２６）、評価結果を応答
する（ステップ９２７）。ステップ９２７を終了する
と、再びステップ９２０から繰り返す。

【００７７】図１４（ａ）は、プロキシサーバ装置３上
で稼動する応答状況監視プログラム３２Ｃがトランザク
ションテーブル７００に新規レコードを追加するときの
動作を示すフローチャートである。

【００７８】応答状況監視プログラム３２Ｃは、トラン
ザクション分配プログラム３２Ａからトランザクション
開始通知を待ち（ステップ１００１）、リクエストＩ
Ｄ、新規トランザクションのサービス名、トランザクシ
ョンを分配したサーバ装置名を引数としたトランザクシ
ョン開始通知を受けると（ステップ１００２）、統計情
報収集プログラム３２Ｂに最大応答待ち時間を問い合わ
せ、トランザクション開始時刻に最大応答待ち時間を加
算した値を求め、トランザクション最大終了時刻７０５
とし、図７で示したトランザクションテーブル７００に
新規レコードを追加する（ステップ１００３）。ステッ
プ１００３を終了すると、再びステップ１００１から繰
り返す。

【００７９】図１４（ｂ）は、プロキシサーバ装置３上
で稼動する応答状況監視プログラム３２Ｃがトランザク
ションテーブル７００を監視するときの動作を示すフロ
ーチャートである。

【００８０】応答状況監視プログラム３２Ｃは、図７で
示したトランザクションテーブル７００のトランザクシ
ョン最大終了時刻７１５を監視し（ステップ１０１
０）、トランザクション最大終了時刻７１５を超えて応
答がないトランザクションが存在するかどうかチェック
する（ステップ１０１１）。トランザクション最大終了
時刻７１５を超えて応答がないトランザクションが存在
している場合、リクエストを発行したサーバ装置以外の
サーバ装置にトランザクションを再発行するようにトラ
ンザクション分配プログラム３２Ａに依頼する（ステッ
プ１０１２）。

【００８１】具体的には、トランザクションテーブル７
００のトランザクション最大終了時刻７１５が現在時刻
より大きい値であるレコードが存在するかどうかのチェ
ックを行い、存在している場合には、トランザクション
の再発行をトランザクション分配プログラム３２Ａに依
頼するという処理を行う。ステップ１０１２を終了する
と、再びステップ１０１０から繰り返す。

【００８２】図１５は、プロキシサーバ装置３で稼動す
る応答状況監視プログラム３２Ｃがトランザクションテ
ーブル７００からレコードを削除するときの動作を示す
フローチャートである。

【００８３】応答状況監視プログラム３２Ｃは、トラン
ザクション分配プログラム３２Ａからトランザクション
終了通知を待ち（ステップ１０２０）、リクエストＩＤ
を引数としたトランザクション終了通知を受けると（ス
テップ１０２１）、図７で示したトランザクションテー
ブル７００のリクエストＩＤの値とトランザクション分
配プログラム３２Ａから受信したリクエストＩＤが一致
するレコードを削除する（ステップ１０２２）。ステッ
プ１０２２を終了すると、再びステップ１０２０から繰
り返す。

【００８４】以上のように本実施形態においては、複数
のサーバ装置１，２が同一のサービスを提供することが
可能なシステム環境において、クライアント装置４から
トランザクションリクエストが発生した場合、プロキシ
サーバ装置３上で稼動しているプログラム３２Ｂが単独
で過去のトランザクションサービスと応答時間の履歴か
ら各サーバ装置１，２にかかっている負荷を予測し、そ
の予測結果に基づいてクライアント装置４からのトラン
ザクションリクエストを分配するため、サーバ装置１，
２に不必要な負荷をかけることなく、サーバ装置１，２
の負荷を把握することができる。

【００８５】特に、各サーバ装置１，２の過去の応答時
間の履歴を利用して各サーバ装置１，２にかかっている
負荷を予測するため、ネットワークトラフィックを増大
させることなくサーバ装置１，２の負荷を把握すること
ができる。

【００８６】さらに、各サーバ装置１，２の最大応答待
ち時間を超えて応答がないサーバ装置を過負荷状態また
は障害発生状態であると判断し、クライアント装置４か
ら新しいトランザクションリクエストが発生した時に、
該当するサーバ装置にはトランザクションリクエストを
分配させないようにしているため、無駄な分配処理がな
くなり、信頼性および応答性を向上させることができ
る。

【００８７】また、最大応答待ち時間を超えて応答がな
いサーバ装置があった場合、そのサーバ装置とは別のサ
ーバ装置に対し前記応答のないサーバ装置へのトランザ
クションリクエストと同一のトランザクションリクエス
トを発行し、先に応答があったサーバ装置の結果をクラ
イアント装置４に返答することにより、クライアント装
置に対する応答性が良くなり、システム全体のスループ
ットを向上させることができる。

【００８８】さらに、トランザクション応答時間の分布
からそれぞれのサーバ装置１，２にかかっている負荷の
評価値を求め、その評価値の変化率と予め設定されてい
る閾値との大小を比較することにより各サーバ装置１，
２にかかっている負荷の上昇度を評価し、その負荷の上
昇度の評価値によってトランザクションリクエストの分
配を行なうことにより、サーバ装置の負荷が過剰に増大
するのを未然に抑止し、システムの信頼性を向上させる
ことができる。

【００８９】さらにまた、各サーバ装置１，２にかかっ
ている負荷の評価値と実際のトランザクションサービス
の応答時間の組み合わせを学習し、その学習した結果を
利用してサーバ装置ごとにトランザクションサービスの
応答時間の予測値を計算し、予測値の小さいサーバ装置
から順番に各サーバ装置にかかっている負荷を評価し、
負荷が小さいサーバ装置にトランザクションを分配する
ことにより、トランザクションの応答性を向上させるこ
とができる。

【００９０】なお、本発明は上記実施形態に限定される
ものではなく、実施に際しては細部を種々変更して実施
できることは言うまでもない。

【００９１】また、プロキシサーバ装置３で稼動してい
るプログラム３２Ａ，３２Ｂ，３２Ｃは、ＣＤＲＯＭ等
の記録媒体あるいはインターネット等の通信媒体を通じ
てプロキシサーバ装置３で使用可能なように提供され
る。ＣＤＲＯＭ等の記録媒体で提供することにより、汎
用のサーバ装置をトランザクション分配用のプロキシサ
ーバ装置３として稼動させることが可能になる。

【００９２】

【発明の効果】以上説明したように本発明によれば、プ
ロキシサーバ装置上で稼動しているプログラムが単独で
過去のトランザクションサービスと応答時間の履歴から
各サーバ装置にかかっている負荷を予測し、その予測結
果に基づいてクライアント装置からのトランザクション
リクエストを分配するため、サーバ装置に不必要な負荷
をかけることなく、サーバ装置の負荷を把握することが
できる。

【００９３】特に、各サーバ装置の過去の応答時間の履
歴を利用して各サーバ装置にかかっている負荷を予測す
るため、ネットワークトラフィックを増大させることな
くサーバ装置の負荷を把握することができる。

【００９４】また、負荷がかかっていないと予測したサ
ーバ装置の中で、応答時間が最も短いと予測されるサー
バ装置にトランザクションリクエストを分配することに
より、システムの信頼性および応答性を向上することが
できる。

【００９５】さらに、各サーバ装置の最大応答待ち時間
を超えて応答がないサーバ装置を過負荷状態または障害
発生状態であると判断し、クライアント装置から新しい
トランザクションリクエストが発生した時に、該当する
サーバ装置にはトランザクションリクエストを分配させ
ないようにしているため、無駄な分配処理がなくなり、
信頼性および応答性を向上させることができる。

【００９６】また、最大応答待ち時間を超えて応答がな
いサーバ装置があった場合、そのサーバ装置とは別のサ
ーバ装置に対し前記応答のないサーバ装置へのトランザ
クションリクエストと同一のトランザクションリクエス
トを発行し、先に応答があったサーバ装置の結果をクラ
イアント装置に返答することにより、システム全体のス
ループットを向上させることができる。

【００９７】さらに、トランザクション応答時間の分布
からそれぞれのサーバ装置にかかっている負荷の評価値
を求め、その評価値の変化率と予め設定されている閾値
との大小を比較することにより各サーバ装置にかかって
いる負荷の上昇度を評価し、その負荷の上昇度の評価値
によってトランザクションリクエストの分配を行なうこ
とにより、サーバ装置の負荷が過剰に増大するのを未然
に抑止し、システムの信頼性を向上させることができ
る。

【００９８】さらにまた、各サーバ装置にかかっている
負荷の評価値と実際のトランザクションサービスの応答
時間の組み合わせを学習し、その学習した結果を利用し
てサーバ装置ごとにトランザクションサービスの応答時
間の予測値を計算し、予測値の小さいサーバ装置から順
番に各サーバ装置にかかっている負荷を評価し、負荷が
小さいサーバ装置にトランザクションを分配することに
より、トランザクションの応答性を向上させることがで
きる。

【図面の簡単な説明】

【図１】本発明を適用したトランザクション分配システ
ムの実施形態を示すシステム構成図である。

【図２】トランザクション分配プログラムが管理するリ
クエストテーブルの構成例を示す図である。

【図３】統計情報収集プログラムが管理する応答時間テ
ーブルの構成例を示す図である。

【図４】統計情報収集プログラムが応答時間テーブルか
ら作成するヒストグラムの構成例および統計情報収集プ
ログラムが管理するサーバ装置負荷評価テーブルの構成
例を示す図である。

【図５】サーバ装置にかかっている負荷の評価値の変化
率の時間的推移を示す図である。

【図６】統計情報収集プログラムが管理する応答時間学
習テーブルの構成例および応答時間学習テーブルから求
めた回帰直線を示す図である。

【図７】応答状況監視プログラムが管理するトランザク
ションテーブルの構成例を示す図である。

【図８】トランザクション分配プログラムがクライアン
ト装置からのトランザクションリクエストを処理すると
きの動作を示すフローチャートである。

【図９】トランザクション分配プログラムが各サーバ装
置からのトランザクションの結果を処理するときの動作
を示すフローチャートである。

【図１０】トランザクション分配プログラムが応答状況
監視プログラムからのトランザクション再分配要求を処
理するときの動作を示すフローチャートである。

【図１１】統計情報収集プログラムが応答時間テーブル
に新規レコードを追加するときの動作を示すフローチャ
ートである。

【図１２】統計情報収集プログラムが応答時間テーブル
の該当するレコードを変更するときの動作を示すフロー
チャートである。

【図１３】統計情報収集プログラムがトランザクション
分配プログラムからサーバ装置の評価依頼を受信した場
合の動作を示すフローチャートである。

【図１４】応答状況監視プログラムがトランザクション
テーブルに新規レコードを追加するときの動作およびト
ランザクションテーブルを監視するときの動作を示すフ
ローチャートである。

【図１５】応答状況監視プログラムがトランザクション
テーブルからレコードを削除するときの動作を示すフロ
ーチャートである。

【符号の説明】

１，２…サーバ装置、３…プロキシサーバ装置、４…ク
ライアント装置、５…ネットワーク、１１，２１，３
１，４１…端末装置、１２，２２，３２，４２…外部記
憶装置、１２Ａ，２２Ａ…サービスプログラム、３２Ａ
…トランザクション分配プログラム、３２Ｂ…統計情報
収集プログラム、３２Ｃ…応答状況監視プログラム、４
２Ａ…タスク要求プログラム。

Claims

【特許請求の範囲】

【請求項１】ネットワークによって接続されたプロキ
シサーバ装置、複数のクライアント装置および前記クラ
イアント装置からのトランザクションリクエストに対し
同一のトランザクションサービスを提供可能な複数のサ
ーバ装置を備え、クライアント装置からのトランザクシ
ョンリクエストを前記プロキシサーバ装置がいずれかの
サーバ装置に分配するトランザクション分配方法であっ
て、前記プロキシサーバ装置において、過去のトランザクシ
ョンサービスと応答時間の履歴からトランザクション応
答時間の分布を導出し、その導出されたトランザクショ
ン応答時間の分布から前記複数のサーバ装置の最大応答
待ち時間をそれぞれ動的に決定し、その決定された最大
応答待ち時間に応じて前記クライアント装置からのトラ
ンザクションリクエストをいずれかのサーバ装置に分配
することを特徴とするトランザクション分配方法。
【請求項２】前記最大応答待ち時間を超えて応答がな
いサーバ装置を過負荷状態または障害発生状態であると
判断し、クライアント装置から新しいトランザクション
リクエストが発生した時に、該当するサーバ装置にはト
ランザクションリクエストを分配させないことを特徴と
する請求項１記載のトランザクション分配方法。
【請求項３】前記最大応答待ち時間を超えて応答がな
いサーバ装置があった場合、そのサーバ装置とは別のサ
ーバ装置に対し前記応答のないサーバ装置へのトランザ
クションリクエストと同一のトランザクションリクエス
トを発行し、先に応答があったサーバ装置の結果をクラ
イアント装置に返答することを特徴とする請求項２記載
のトランザクション分配方法。
【請求項４】トランザクション応答時間の分布からそ
れぞれのサーバ装置にかかっている負荷の評価値を求め
る手段と、その評価値の変化率と予め設定されている閾
値との大小を比較することにより各サーバ装置にかかっ
ている負荷の上昇度を評価し、前記負荷の上昇度の評価
値によってトランザクションリクエストの分配を決定す
ることを特徴とする請求項３記載のトランザクション分
配方法。
【請求項５】各サーバ装置にかかっている負荷の評価
値と実際のトランザクションサービスの応答時間の組み
合わせを学習し、その学習した結果を利用してサーバ装
置ごとにトランザクションサービスの応答時間の予測値
を計算し、予測値の小さいサーバ装置から順番に各サー
バ装置にかかっている負荷を評価し、負荷が小さいサー
バ装置にトランザクションを分配することを特徴とする
請求項４記載のトランザクション分配方法。
【請求項６】ネットワークによって接続されたプロキ
シサーバ装置、複数のクライアント装置および前記クラ
イアント装置からのトランザクションリクエストに対し
同一のトランザクションサービスを提供可能なサービス
プログラムを有する複数のサーバ装置を備え、クライア
ント装置からのトランザクションリクエストを前記プロ
キシサーバ装置がいずれかのサーバ装置に分配するトラ
ンザクション分配システムであって、前記プロキシサーバ装置は、過去のトランザクションサ
ービスと応答時間の履歴からトランザクション応答時間
の分布を導出する手段と、その導出されたトランザクシ
ョン応答時間の分布から前記複数のサーバ装置の最大応
答待ち時間をそれぞれ動的に決定する手段と、その決定
された最大応答待ち時間に応じて前記クライアント装置
からのトランザクションリクエストをいずれかのサーバ
装置に分配する手段とを備えることを特徴とするトラン
ザクション分配システム。
【請求項７】前記プロキシサーバ装置は、前記最大応
答待ち時間を超えて応答がないサーバ装置を過負荷状態
または障害発生状態であると判断し、クライアント装置
から新しいトランザクションリクエストが発生した時
に、該当するサーバ装置にはトランザクションリクエス
トを分配させない手段を備えることを特徴とする請求項
６記載のトランザクション分配システム。
【請求項８】前記プロキシサーバ装置は、前記最大応
答待ち時間を超えて応答がないサーバ装置があった場
合、そのサーバ装置とは別のサーバ装置に対し前記応答
のないサーバ装置へのトランザクションリクエストと同
一のトランザクションリクエストを発行し、先に応答が
あったサーバ装置の結果をクライアント装置に返答する
手段を備えることを特徴とする請求項７記載のトランザ
クション分配システム。
【請求項９】前記プロキシサーバ装置は、トランザク
ション応答時間の分布からそれぞれのサーバ装置にかか
っている負荷の評価値を求める手段と、その評価値の変
化率と予め設定されている閾値との大小を比較すること
により各サーバ装置にかかっている負荷の上昇度を評価
する手段と、前記負荷の上昇度の評価値によってトラン
ザクションリクエストの分配を決定する手段とを備える
ことを特徴とする請求項８記載のトランザクション分配
システム。
【請求項１０】前記プロキシサーバ装置は、各サーバ
装置にかかっている負荷の評価値と実際のトランザクシ
ョンサービスの応答時間の組み合わせを学習する手段
と、学習した結果を利用してサーバ装置ごとにトランザ
クションサービスの応答時間の予測値を計算し、予測値
の小さいサーバ装置から順番に各サーバ装置にかかって
いる負荷を評価し、負荷が小さいサーバ装置にトランザ
クションを分配する手段とを備えることを特徴とする請
求項９記載のトランザクション分配システム。
【請求項１１】ネットワークによって接続されたプロ
キシサーバ装置、複数のクライアント装置および前記ク
ライアント装置からのトランザクションリクエストに対
し同一のトランザクションサービスを提供可能なサービ
スプログラムを有する複数のサーバ装置を備え、クライ
アント装置からのトランザクションリクエストを前記プ
ロキシサーバ装置がいずれかのサーバ装置に分配するト
ランザクション分配システムに使用するトランザクショ
ン処理用記録媒体であって、前記プロキシサーバ装置内において、過去のトランザク
ションサービスと応答時間の履歴からトランザクション
応答時間の分布を導出する処理と、その導出されたトラ
ンザクション応答時間の分布から前記複数のサーバ装置
の最大応答待ち時間をそれぞれ動的に決定する処理と、
その決定された最大応答待ち時間に応じて前記クライア
ント装置からのトランザクションリクエストをいずれか
のサーバ装置に分配する処理とを含むトランザクション
分配処理用プログラムが記録されていることを特徴とす
るトランザクション分配処理用記録媒体。