JP3369445B2 - ネットワークサービスサーバ負荷調整装置、方法および記録媒体 - Google Patents
ネットワークサービスサーバ負荷調整装置、方法および記録媒体Info
- Publication number
- JP3369445B2 JP3369445B2 JP25739397A JP25739397A JP3369445B2 JP 3369445 B2 JP3369445 B2 JP 3369445B2 JP 25739397 A JP25739397 A JP 25739397A JP 25739397 A JP25739397 A JP 25739397A JP 3369445 B2 JP3369445 B2 JP 3369445B2
- Authority
- JP
- Japan
- Prior art keywords
- control means
- load
- conversion information
- adjusting
- server
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L47/00—Traffic control in data switching networks
- H04L47/10—Flow control; Congestion control
- H04L47/11—Identifying congestion
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L47/00—Traffic control in data switching networks
- H04L47/10—Flow control; Congestion control
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L47/00—Traffic control in data switching networks
- H04L47/10—Flow control; Congestion control
- H04L47/12—Avoiding congestion; Recovering from congestion
- H04L47/125—Avoiding congestion; Recovering from congestion by balancing the load, e.g. traffic engineering
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
- H04L67/10—Protocols in which an application is distributed across nodes in the network
- H04L67/1001—Protocols in which an application is distributed across nodes in the network for accessing one among a plurality of replicated servers
- H04L67/1004—Server selection for load balancing
- H04L67/1023—Server selection for load balancing based on a hash applied to IP addresses or costs
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
- H04L67/10—Protocols in which an application is distributed across nodes in the network
- H04L67/1001—Protocols in which an application is distributed across nodes in the network for accessing one among a plurality of replicated servers
- H04L67/1029—Protocols in which an application is distributed across nodes in the network for accessing one among a plurality of replicated servers using data related to the state of servers by a load balancer
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L61/00—Network arrangements, protocols or services for addressing or naming
- H04L61/09—Mapping addresses
- H04L61/25—Mapping addresses of the same type
- H04L61/2503—Translation of Internet protocol [IP] addresses
Description
ーバのサービス負荷の調整に関し、特に、複数のサーバ
のそれぞれの状態に応じて、ネットワークサービスによ
る負荷を各サーバへ動的に、かつ、最適に分配する、サ
ーバの負荷調整装置および方法および調整プログラムを
記録したコンピュータ読取り可能な記録媒体に関するも
のである。
トの急速な普及によるネットワークサービスの増大に伴
い、クライアントサーバシステムの性能向上や効率的利
用およびサーバのサービス安定性が要求されてきてい
る。特に、WWWサーバなどへのアクセス集中を回避し
たり、故障を遮蔽したりする環境が求められている。こ
のため、1つのサービス(ftpやHTTPやteln
etなど)を複数のサーバ(あるいはノード)で行うシ
ステムが提供されている。
は、各サーバへの適切なサービス分配を行う必要があ
る。ところが、ネットワークサービスは、ますます多種
多様化・複雑化・高度化してきており、サーバ群の構成
やサービス分配方法などを変更する頻度が高くなってき
ている。また、一部のサーバの予期せぬダウンにより生
じるサービスの一部停止を回避する要求も高まってい
る。
ものとしては、次に示すようなものが知られている。 (a)ラウンドロビンDNS DNSサービスにおいて、1つのドメイン名に対し複数
のサーバIPアドレスを対応させるようエントリー表に
設定しておき、クライアントからのサーバIPアドレス
の問い合わせ要求に対し、各サーバをエントリー表に従
い循環的(ラウンドロビン)に割り当て、割り当てられ
たサーバのIPアドレスを選択し応えることで、サービ
スを複数のサーバへ分配する方式。
との通信を中継するハードウェア装置を置き、このハー
ドウェア装置と各サーバ間とで負荷計測のための通信を
行ったり、中継するパケットを監視して接続数やレスポ
ンス時間を計測することで、各サーバの負荷状態を把握
し、これに応じてサービスを分配する方式。
る機能が、それぞれのサーバにおけるCPU負荷やディ
スク使用率等を計測することで各自のサーバの負荷状態
を知り、これらを通知された負荷分散システムがサービ
スを分配する方式。
方法では、次のような問題点があった。上記(a)のラ
ウンドロビンDNS方式においては、サービスの分配率
は、均等であるかあるいは単純な比率でしか行なえず、
各サーバは、それぞれの能力や動的な負荷状況に関係な
く、割り当てられた分配率に応じてサービスを行なわな
ければならないので、各サーバの負荷状況に差が生じて
しまい、全体として非効率的になってしまう。また、予
期せぬサーバ停止など、サーバ群の構成に変更が生じた
ような場合には、そのたびにエントリー表から停止した
サーバを削除するなどの設定変更を人手によらなければ
ならないなど、即時対処が困難なため、システム全体に
対しサービスの一時停止などの影響がでてしまう。
おいては、ハードウェアであるがため、導入コストが高
くついてしまったり、サーバに組み込めないなど、運用
形態に制限がある。また、各サーバとの間で、常に負荷
計測のためのやり取りが必要であるため、本来の通信と
は別の余分な負荷がかかってしまい、通信の混雑をさら
にひどくしてしまうだけでなく、サーバのダウンを招く
おそれもある。さらに、パケット単位で負荷を測定しサ
ーバの切り替えを行なっているので、継続中ののサービ
スの途中でもサーバを切り替えてしまい、エラーを起こ
してしまう可能性がある。
は、エージェント機能は、各サーバ上に存在するため、
導入時にサーバに手を加えなければならない上に、サー
バの各OSに対応したエージェントが必要となる。ま
た、常にサーバの負荷計測を行なうため、サーバの負荷
をさらに上げてしまう結果となる。さらに、上記(b)
の負荷分散ハードウェア方式と同様、パケット単位で負
荷を測定しサーバの切り替えを行なっているので、継続
中のサービスの途中でもサーバを切り替えてしまい、エ
ラーを起こしてしまう可能性がある。
されたもので、サーバ構成やサーバの状態の変更に即座
に対処し、かつ、クライアントへも即座に反映させ、ま
た、導入時にサーバへ手を入れることを必要とせず、多
彩な運用形態へ柔軟に対処できるサーバの負荷調整装置
および方法および調整プログラムを記録したコンピュー
タ読取り可能な記録媒体を提供することを目的とする。
決するため、以下の手段を採用した。すなわち、請求項
1の発明は、第1の制御手段からネットワークを介して
複数の第2の制御手段に向けて送信されるデータを受信
し、該データを第2の制御手段のいずれかに分配する装
置において、該第1の制御手段と該第2の制御手段との
対応関係である変換情報を格納する変換情報格納手段
と、該変換情報格納手段に格納されている該対応関係に
基づいて、該第1の制御手段から送信される該データを
該第2の制御手段のいずれかに転送する分配中継手段
と、該変換情報格納手段に格納されている該変換情報の
該対応関係を調整する分配率調整手段と、該第2の制御
手段の負荷状況を計測し、該変換情報格納手段に格納さ
れている該変換情報の該対応関係を調整するために該負
荷状況を該分配率調整手段に通知する負荷計測手段と、
から構成され、前記負荷計測手段は前記データの単位時
間あたりの前記第2の制御手段への接続平均時間と接続
回数に基づいて負荷を計測することを特徴とするネット
ワーク負荷調整装置である。
状況を計測し、各サーバの負荷状況に応じてクライアン
トからのパケットをサーバに送信しているのでバランス
のよい効率的なサービスの提供ができ、さらに、一連の
パケットをどのサーバへ送信しているのかの対応関係を
把握しているので、一連のサービスの途中でサーバの切
り換えが起こることがないという効果がある。さらに、
負荷調整のための専用のデータを余分に通信経路に流す
必要がないので、通信経路をサービスのみに有効活用で
きる。
ーバほど、多くのサービスが分配されるので、サービス
分配率をスロット数の割り当て比率で制御することがで
き、高負荷判断の際、接続平均時間が長くかつ接続回数
が少なくなることを利用しているので、サーバへの接続
回数が一時的に増えた場合や接続そのものが少なくなっ
た場合などの高負荷か否かの誤判断を回避できる。
前記データの前記各第2の制御手段への接続平均時間お
よび接続回数を基準に該第2の制御手段の高負荷を判断
し該第1の制御手段から前記複数の第2の制御手段の各
への前記データの分配率の調整を行なうことにより該第
2の制御手段の負荷の調整を行なうことを特徴とする請
求項1記載のネットワーク負荷調整装置である。
ど、多くのサービスが分配されるので、サービス分配率
をスロット数の割り当て比率で制御することができ、高
負荷判断の際、接続平均時間が長くかつ接続回数が少な
くなることを利用しているので、サーバへの接続回数が
一時的に増えた場合や接続そのものが少なくなった場合
などの誤判断を回避できる。
ットワークを介して複数の第2の制御手段に向けて送信
されるデータを受信し、該データを第2の制御手段のい
ずれかに分配する装置において、該第1の制御手段と該
第2の制御手段との対応関係である変換情報を格納する
変換情報格納手段と、該変換情報格納手段に格納されて
いる該対応関係に基づいて、該第1の制御手段から送信
される該データを該第2の制御手段のいずれかに転送す
る分配中継手段と、該変換情報格納手段に格納されてい
る該変換情報の該対応関係を調整する分配率調整手段
と、該第2の制御手段の負荷状況を計測し、該変換情報
格納手段に格納されている該変換情報の該対応関係を調
整するために該負荷状況を該分配率調整手段に通知する
負荷計測手段と、から構成されされることを特徴とする
ネットワーク負荷調整装置であって、前記変換情報格納
手段は、前記第1の制御手段を複数の前記第2の制御手
段が対応するように割り当てたテーブルと、一連のデー
タ送信中は前記第1の制御手段と該第2の制御手段との
対応関係を維持するようにした手段を含み、前記分配率
調整手段は、前記各第2の制御手段について計測した前
記負荷状況が異常値であれば停止状態であると判断する
手段と、前記第2の制御手段への接続平均時間の最小
値、接続回数の最大値をそれぞれ基準値とし、該接続平
均時間および該接続回数をそれぞれの基準値である接続
平均時間基準値および接続回数基準値と比較し、該接続
平均時間が接続平均時間基準値より十分大きく、かつ、
該接続回数が接続回数基準値より十分小さい場合を高負
荷と判断する手段と、前記第2の制御手段への分配率を
前記変換情報での該第2の制御手段への割り当て数とし
て管理する手段と、該管理手段は更に停止状態であると
判断された該第2の制御手段がある場合は、停止状態で
ある該第2の制御手段の割り当て数を停止状態でない該
第2の制御手段の割り当て数との比で分配する停止状態
管理手段と、高負荷と判断された該第2の制御手段の割
り当て数を減じ、高負荷と判断されない該第2の制御手
段の割り当て数を増す高負荷管理手段とからなり、さら
に該高負荷管理手段は調整を行なったサイクルごとに該
割り当て数の増減値を減少させ、増減後の値が取り得る
範囲を狭めて分配率を収束させる手段を含み、前記負荷
計測手段は、複数の該第2の制御手段の状態を、中継す
るデータから単位時間あたりの該第2の制御手段との接
続平均時間と接続回数を定期的に計測し、該分配率調整
手段へ通知する手段を含むことを特徴とするネットワー
ク負荷調整装置である。
状況を計測し、各サーバの負荷状況に応じてクライアン
トからのパケットをサーバに送信しているのでバランス
のよい効率的なサービスの提供ができ、さらに、一連の
パケットをどのサーバへ送信しているのかの対応関係を
把握しているので、一連のサービスの途中でサーバの切
り換えが起こることがないという効果がある。さらに、
負荷調整のための専用のデータを余分に通信経路に流す
必要がないので、通信経路をサービスのみに有効活用で
きる。また、多くのスロットを割り当てられたサーバほ
ど、多くのサービスが分配されるので、サービス分配率
をスロット数の割り当て比率で制御することができ、高
負荷判断の際、接続平均時間が長くかつ接続回数が少な
くなることを利用しているので、サーバへの接続回数が
一時的に増えた場合や接続そのものが少なくなった場合
などの誤判断を回避できる。
であって、調整変更前の状態を保存し、復旧時に元の状
態へ戻す状態管理手段とを更に含むことを特徴とするネ
ットワーク負荷調整装置である。
ど、多くのサービスが分配されるので、サービス分配率
をスロット数の割り当て比率で制御することができ、高
負荷判断の際、接続平均時間が長くかつ接続回数が少な
くなることを利用しているので、サーバへの接続回数が
一時的に増えた場合や接続そのものが少なくなった場合
などの誤判断を回避できる。
であって、前記負荷計測手段は、中継するデータから単
位時間あたりの前記第2の制御手段それぞれについての
接続エラー回数と接続回数を計測し、前記分配率調整手
段へ定期的に通知する手段を含み、前記分配率調整手段
は、前記第2の制御手段について計測した前記負荷状況
が異常値であれば停止状態であると判断し、前記第2の
制御手段への接続エラー回数と接続回数の比である接続
エラー率について最小値を接続エラー率の最小値、接続
回数の最大値をそれぞれ接続平均エラー率基準値および
接続回数基準値とし、該接続平均エラー率および該接続
回数を該接続平均エラー率基準値および該接続回数基準
値と比較し、該接続平均エラー率が該接続平均エラー率
基準値より十分大きく、かつ、該接続回数が該接続回数
基準値より十分小さい場合を高負荷と判断する手段を更
に含むことを特徴とするネットワーク負荷調整装置であ
る。
ので、サーバからクライアントへの通信経路を別にとっ
た場合でも、負荷調整が可能である。請求項6の発明
は、第1の制御手段からネットワークを介して複数の第
2の制御手段に向けて送信されるデータを受信し、該デ
ータを第2の制御手段のいずれかに分配する装置におい
て、該第1の制御手段と該第2の制御手段との対応関係
である変換情報を格納する変換情報格納手段と、該変換
情報格納手段に格納されている該対応関係に基づいて、
該第1の制御手段から送信される該データを該第2の制
御手段のいずれかに転送する分配中継手段と、該変換情
報格納手段に格納されている該変換情報の該対応関係を
調整する分配率調整手段と、該第2の制御手段の負荷状
況を計測し、該変換情報格納手段に格納されている該変
換情報の該対応関係を調整するために該負荷状況を該分
配率調整手段に通知する負荷計測手段と、から構成され
されることを特徴とするネットワーク負荷調整装置であ
って、前記負荷計測手段は、中継するデータから単位時
間あたりの前記第2の制御手段それぞれについてのVC
数を計測し、前記分配調整手段へ定期的に通知する手段
を更に含み、前記分配率調整手段は、VC数があらかじ
め設定した基準値を超えた該第2の制御手段を高負荷と
判断する手段を更に含むことを特徴とするネットワーク
負荷調整装置である。
ービスの開始から終了までの時間が長く、接続数が少な
いケースでのサーバの負荷を推測することが可能であ
る。
ットワークを介して複数の第2の制御手段に向けて送信
されるデータを受信し、該データを第2の制御手段のい
ずれかに分配する装置において、該第1の制御手段と該
第2の制御手段との対応関係である変換情報を格納する
変換情報格納手段と、該変換情報格納手段に格納されて
いる該対応関係に基づいて、該第1の制御手段から送信
される該データを該第2の制御手段のいずれかに転送す
る分配中継手段と、該変換情報格納手段に格納されてい
る該変換情報の該対応関係を調整する分配率調整手段
と、該第2の制御手段の負荷状況を計測し、該変換情報
格納手段に格納されている該変換情報の該対応関係を調
整するために該負荷状況を該分配率調整手段に通知する
負荷計測手段と、から構成されされることを特徴とする
ネットワーク負荷調整装置であって、前記負荷計測手段
部は、前記第2の制御手段が送信する情報データにおけ
る前記第1の制御手段を模倣して決められた操作を行
い、該操作に要したサービス時間を計測し、平均時間を
前記分配率調整手段へ定期的に通知し、前記分配率調整
手段は、サービス平均時間が予め設定した基準値を超え
た該第2の制御手段を高負荷と判断する手段を更に含む
ことを特徴とするネットワーク負荷調整装置である。
状況を計測し、各サーバの負荷状況に応じてクライアン
トからのパケットをサーバに送信しているのでバランス
のよい効率的なサービスの提供ができ、さらに、一連の
パケットをどのサーバへ送信しているのかの対応関係を
把握しているので、一連のサービスの途中でサーバの切
り換えが起こることがないという効果がある。さらに、
負荷調整のための専用のデータを余分に通信経路に流す
必要がないので、通信経路をサービスのみに有効活用で
きる。また、模倣したサービスのレスポンス時間を高負
荷判断に用いているので、サービスごとの特性の違いを
反映した負荷調整が可能である。
ットワークを介して複数の第2の制御手段に向けて送信
されるデータを受信し、該データを第2の制御手段のい
ずれかに分配する装置において、該第1の制御手段と該
第2の制御手段との対応関係である変換情報を格納する
変換情報格納手段と、該変換情報格納手段に格納されて
いる該対応関係に基づいて、該第1の制御手段から送信
される該データを該第2の制御手段のいずれかに転送す
る分配中継手段と、該変換情報格納手段に格納されてい
る該変換情報の該対応関係を調整する分配率調整手段
と、該第2の制御手段の負荷状況を計測し、該変換情報
格納手段に格納されている該変換情報の該対応関係を調
整するために該負荷状況を該分配率調整手段に通知する
負荷計測手段と、から構成されされることを特徴とする
ネットワーク負荷調整装置であって、前記分配率調整手
段は、前記増減値を前記高負荷第2の制御手段のその時
点の割り当てスロット数に対応して決める手段を更に含
むことを特徴とするネットワーク負荷調整装置である。
状況を計測し、各サーバの負荷状況に応じてクライアン
トからのパケットをサーバに送信しているのでバランス
のよい効率的なサービスの提供ができ、さらに、一連の
パケットをどのサーバへ送信しているのかの対応関係を
把握しているので、一連のサービスの途中でサーバの切
り換えが起こることがないという効果がある。さらに、
負荷調整のための専用のデータを余分に通信経路に流す
必要がないので、通信経路をサービスのみに有効活用で
きる。また、調整量の増減を割り当て数の比で行なうの
で、調整量がサーバによって大きすぎたり小さすぎたり
することがない。請求項9の発明は、請求項1及至7に
記載の装置であって、前記分配率調整手段は、前記増減
値を前記高負荷第2の制御手段のその時点の割り当てス
ロット数に対応して決める手段を更に含むことを特徴と
するネットワーク負荷調整装置である。
で、調整量がサーバによって大きすぎたり小さすぎたり
することがない。請求項10の発明は、第1の制御手段
からネットワークを介して複数の第2の制御手段に向け
て送信されるデータを受信し、該データを第2の制御手
段のいずれかに分配する装置において、該第1の制御手
段と該第2の制御手段との対応関係である変換情報を格
納する変換情報格納手段と、該変換情報格納手段に格納
されている該対応関係に基づいて、該第1の制御手段か
ら送信される該データを該第2の制御手段のいずれかに
転送する分配中継手段と、該変換情報格納手段に格納さ
れている該変換情報の該対応関係を調整する分配率調整
手段と、該第2の制御手段の負荷状況を計測し、該変換
情報格納手段に格納されている該変換情報の該対応関係
を調整するために該負荷状況を該分配率調整手段に通知
する負荷計測手段と、から構成されされることを特徴と
するネットワーク負荷調整装置であって、前記分配率調
整手段は、前記高負荷第2の制御手段のその時点での割
り当てスロット数を高負荷でない全ての前記第2の制御
手段へ、高負荷でない前記第2の制御手段間でのその時
点での割り当てスロット数比に応じて分配する手段を更
に含むことを特徴とするネットワーク負荷調整装置であ
る。ネットワークを形成するサーバ構成の負荷状況を計
測し、各サーバの負荷状況に応じてクライアントからの
パケットをサーバに送信しているのでバランスのよい効
率的なサービスの提供ができ、さらに、一連のパケット
をどのサーバへ送信しているのかの対応関係を把握して
いるので、一連のサービスの途中でサーバの切り換えが
起こることがないという効果がある。さらに、負荷調整
のための専用のデータを余分に通信経路に流す必要がな
いので、通信経路をサービスのみに有効活用できる。ま
た、調整量の増減を高負荷でないサーバの割り当て数の
比で行なうので、サーバ間の処理能力の差が大きい場
合、調整量がサーバによって大きすぎたり小さすぎたり
することがない。請求項11の発明は、請求項1及至9
に記載の装置であって、前記分配率調整手段は、前記高
負荷第2の制御手段のその時点での割り当てスロット数
を高負荷でない全ての前記第2の制御手段へ、高負荷で
ない前記第2の制御手段間でのその時点での割り当てス
ロット数比に応じて分配する手段を更に含むことを特徴
とするネットワーク負荷調整装置である。
当て数の比で行なうので、サーバ間の処理能力の差が大
きい場合、調整量がサーバによって大きすぎたり小さす
ぎたりすることがない。
置であって、前記分配率調整手段は、前記第2の制御手
段の負荷の計測値の各第2の制御手段間の平均値を求
め、平均値から幅δ以上離れた前記第2の制御手段につ
いて、平均値からの高低を含めた距離の比に従い割り当
て数を求めて更新する手段を更に含むことを特徴とする
ネットワーク負荷調整装置である。
本装置は複数のサーバを代表する代表アドレスvipを
持ち、クライアントはvipへパケットを送信する。パ
ケット配送はクライアントからのパケットの宛先をサー
バへ変えることで行なう。パケットの宛先を変更する
時、パケット配送の主な動作は、パケットを受信し、ヘ
ッダ部にマスクをかけてパタンを求め(mask(he
ad)→pat)、パタンpatをハッシュ関数を用い
て変換テーブルのインデックスへ変換(hash(pa
t)→ix)、変換テーブルのスロットixが持つサー
バアドレスipを宛先アドレスとし、パケットの宛先を
vipからipへ修正し、パケットをサーバへ送信す
る。負荷計測では、パケットをサーバへ送信する処理で
接続時間を計り、計測開始(計測値リセット)からの接
続時間合計を計算し、接続回数をカウントアップする。
調整装置は、クライアントからサーバへ送られたパケッ
トを、変換テーブルを見て分配するものである。そし
て、この変換テーブルは、各サーバの負荷状況や故障状
況の情報に応じて、各サーバへの分配率を動的に、か
つ、最適な状態へ収束するように更新される。
して詳細に説明する。図2は、本発明のシステム構成を
説明するブロック図である。1−1,1−2,…,1−
mは、ユーザが利用できるクライアント計算機で、ネッ
トワーク2およびネットワークサービスサーバ負荷調整
装置3を介してサーバ5−1,5−2,…,5−nから
サービスの提供を受ける。2は、インターネット,イン
トラネット,LAN,WAN等のネットワークである。
5−1,5−2,…,5−nは、ネットワークを介して
各種サービスを提供するサーバ計算機である。11は、
サーバ群5−1,5−2,…,5−nを構成するネット
ワークである。3は、分配中継部4、変換テーブル4−
a、負荷計測部6、分配率調整部7、故障監視部8、制
御部9、状態管理部10から構成されるネットワークサ
ービスサーバ負荷調整装置で、仮想アドレスvip_
1,vip_2,…,vip_lを持ち、あるクライア
ントがvip_i(1≦i≦l)でアクセスする場合、
サーバ5−1,5−2,…,5−nがアドレスvip_
iを持つ単一の計算機に見えるようにするものである。
分配中継部4は、クライアント1−1,1−2,…,1
−mとサーバ5−1,5−2,…,5−nとの間の通信
を中継するもので、クライアント1−1,1−2,…,
1−mのいずれかから来たアドレスvip_i宛てのパ
ケットを受信し、パケットヘッダ部(クライアント自身
のIPアドレス、ftpやHTTPやtelnetなど
のサービスごとの種類を表わすポート番号、宛先サーバ
のIPアドレスなど)をマスキングしてパタンを求め、
vip_iに対する変換テーブル4−aからパタンを持
つ構造データをパタンマッチングで特定し、パタンをイ
ンデックスへ変換してスロットを特定し、特定したスロ
ットが保持するサーバ情報からパケット配送先サーバを
決定し、サーバ5−1,5−2,…,5−nのいずれか
へパケットを配送するものである。変換テーブル4−a
の詳細については、後述する。負荷計測部6は、サーバ
5−1,5−2,…,5−nの負荷を計測するものであ
り、分配中継部4が中継するパケットを監視し、サーバ
5−1,5−2,…,5−nそれぞれについて、単位時
間あたりの接続平均時間と接続回数などのサーバ負荷状
況を計測し、分配率調整部7へ定期的に結果を通知する
ものである。分配率調整部7は、負荷計測部6からの通
知を受けて、異常値であるかどうかでサーバ停止を検出
し、基準値を用いて高負荷サーバの検出を行ない、故障
監視部8からの停止サーバ通知や制御部9からの指示を
受け、高負荷サーバ検出や停止サーバ検出やユーザの指
示に従いサービス分配率を再計算し、変換テーブル4−
aを更新するものである。故障監視部8は、定期的にp
ingなどのコマンドを各サーバに対して実行し、ある
回数以上タイムアウトで失敗したサーバを停止状態と判
断し、分配率調整部7へ通知するものである。制御部9
は、ユーザからの指示により、ネットワークサービスサ
ーバ負荷調整装置3全体を制御するものであり、負荷計
測部6、分配率調整部7、故障監視部8の起動停止や設
定情報および変換テーブル4−aを保存、復元するもの
である。状態管理部10は、変換テーブル4−aおよび
ネットワークサービスサーバ負荷調整装置3の各設定情
報をファイルに保存、復旧するものであり、分配率調整
部7の停止時およびサーバおよびサービスの追加あるい
はユーザからの指示があると、変換テーブル4−aおよ
びネットワークサービスサーバ負荷調整装置3の各設定
情報をファイルに保存し、分配率調整部7の起動時およ
びサーバもしくはサービス復旧時あるいはユーザからの
指示があると、サーバの構成が停止前あるいはサーバも
しくはサービス停止前とファイルの記録とが同一である
ならば復旧するようにしている。
からサーバへ送られたパケットを、どのように分配する
のかについてと、各サーバへの分配率を動的に、かつ、
最適な状態へどのように収束させるのかについてとに分
けてそれぞれ説明する。
パケットを、どのように分配するのかについて、説明す
る。図3に示すように、ハッシュ関数がインデックスへ
一様に分散させることができれば、パケット配送動作よ
り、サーバへのサービス分配率は変換テーブルのスロッ
トへ割り当てられた数の比に等しくなる(ハッシュ関数
は既に実現している)。
ト(0〜255)を持ち、サーバ1へ64個、サーバ2
へ192個のスロットを割り当てれば(連続である必要
はない)、サービスをサーバ1とサーバ2で1対3
(1:3)に分配できる。従って、変換スロットの割り
当て数を変えることでサービス分配率を制御できる。例
えば、上述のサーバ2へ割り当てているスロットのうち
64個をサーバ1へ割り当てれば、スロット数比は1対
1(1:1)となり、サービス分配率も1対1(1:
1)となる。
換テーブル4−aは、パケットヘッダ部をマスキングし
て求めるパタンとパタンへハッシュ関数を適用して求め
るインデックスでアクセスできる1つ以上のスロットで
構成する構造データであるパタン・ハッシュ表と称する
変換テーブルであり、メモリ上にパタンごとに持ち、運
用時にデータの追加削除ができるものである。スロット
は、サーバ5−1,5−2,…,5−nのいずれか1つ
を特定できる情報とそのスロットを介して中継している
中継サービス中のクライアント−サービス情報を保持す
るVCP(Virtual Circuit Preservation)リストを持
つ。サービス分配率をスロット数の割り当て比率で制御
することができるので、多くのスロットに割り当てられ
たサーバほど、多くのサービスが分配される。
るかのフローを示したフローチャートである。まず、ネ
ットワークサービスサーバ負荷調整装置3が、クライア
ントから送信されたパケットを受信し(S301)、分
配中継部4が、受信したパケットのヘッダ部のパタンを
求める(S302)。ヘッダ部のパタンとは、パケット
のヘッダ部をマスキングして得られたビット列の組のこ
とで、例えば、(cip_1,cpo_1,23)のよ
うな形となる。ここでは、cip_1はクライアントI
Pアドレス、cpo_1はクライアントポート番号、2
3はサービスポート番号である。さらに、分配中継部4
は、変換テーブル4−aのパタン・ハッシュ表の中から
パタン(cip_1,cpo_1,23)とマッチする
パタンを探す(S303)。例えば、図6のようなパタ
ン(*,*,23)が得られる。このパタンは、任意の
クライアントIPアドレス、任意のクライアントポート
番号、サービスポート番号23のパタンとマッチするこ
とができる。次に、ステップS302で求めたパタンに
ハッシュ関数を適用し、解を得る(S304)。ハッシ
ュ関数は、例えば、8で割った余りを解とするものであ
る。ここでは、解「3」が得られたとする。これは、図
6のスロット3が選ばれたこと(S305)を意味す
る。スロット3には、サーバ情報として、サーバ5−1
が設定されている。次に、このパケットが一連のパケッ
トの最初のパケットであるかどうかを判断する。一連の
パケットとは、例えば、同じクライアントIPアドレス
cip_1のクライアントから、同じクライアントポー
トcpo_1に対して、同じサービスポート番号23の
サービスを要求したパケットであるということである。
このパケットが一連のパケットの最初のものであるかど
うかは、このスロット3のVCPリストにVCP(ci
p_1,cpo_1,5−1)があるかどうかを見る
(S306)。このパケットが一連のパケットの最初の
パケットであった場合には、VCPリスト22にはVC
P(cip_1,cpo_1,5−1)はない。そこ
で、VCPリスト22にVCP(cip_1,cpo_
1,5−1)を作成し(S307)、このパケットをサ
ーバ5−1に転送する(S308)。ステップS306
で、VCPリスト22にVCP(cip_1,cpo_
1,5−1)があった場合には、すなわち、同じクライ
アントIPアドレスcip_1のクライアントから、同
じクライアントポートcpo_1に対して、同じサービ
スポート番号23のサービスを要求したパケットのパケ
ット転送が継続中である場合には、VCPリスト22の
VCP(cip_1,cpo_1,5−1)で設定され
ているサーバ5−1へ、このパケットを転送する(S3
09)。次に、このパケットが最終パケットかどうかを
見る(S310)。最終パケットであった場合には、V
CPリスト22からVCP(cip_1,cpo_1,
5−1)を削除する(S311)。
トを1つも受信していない状態から、4つのパケットが
どのようにサーバに転送されるのかを述べる。説明を簡
単にするために、これらのパケットは、同じクライアン
トIPアドレスcip_1のクライアント、同じクライ
アントポートcpo_1、同じサービスポート番号23
であるものとする。また、図5のステップ301からス
テップ305までは、全てのパケットについて同じであ
るとする。すなわち、パケットのパタンとマッチしたパ
タン・ハッシュ表のパタンは(*,*,23)となり、
パケットのパタンをハッシュした値は「3」、つまり、
スロット番号は3であるとする。
_1,23)がクライアント1−1から送信される。V
CPリストには何もない(S306,図6)ので、VC
P(cip_1,cpo_1,5−1)を作成し(S3
07,図7)、パケット1をスロット3にあるサーバ5
−1へ転送する(S308)。この後、分配率調整部7
によりスロット3のサーバ情報が5−1から5−2に更
新されたものとする。この更新については、詳細を後述
する。次に、パケット2(cip_1,cpo_1,2
3)がパケット1を送信したクライアントと同じクライ
アント1−1から送信される。スロット3はサーバ5−
2となっているにも関わらず、VCPリストにVCP
(cip_1,cpo_1,5−1)があるので(S3
06,図8)、パケット2はサーバ5−1へ転送する
(S309)。このスロット3がサーバ5−2ではなく
サーバ5−1に転送されるということは、継続中のサー
ビスの中断を防止することを意味する。次に、パケット
3(cip_2,cpo_2,23)がクライアント1
−2から送信される。VCPリストにはクライアント2
に関するVCPはない(S306,図8)ので、VCP
(cip_2,cpo_2,5−2)をVCPリストに
追加し(S307,図9)、パケット3をスロット3に
あるサーバ5−2へ転送する(S308)。最後に、パ
ケット4(cip_1,cpo_1,23)がクライア
ント1−1から送信される。このパケット4は、最終パ
ケットだとする。VCPリストにVCP(cip_1,
cpo_1,5−1)があるので(S306,図9)、
パケット4はサーバ5−1へ転送する(S309)。こ
のパケットは最終パケットなので(S310)、VCP
リストからVCP(cip_1,cpo_1,5−1)
を削除する(S311,図10)。
ロットのVCPリストとしてへ付加し、サービス終了ま
で保持するので、スロットアクセス時にスロットが持つ
VCPリストを調べ、継続中のサービスのパケットであ
るならば、VCPリストからパケット配送先サーバを決
定しているので、サービス分配率制御時のスロットが保
持するサーバ情報変更に伴い生じる継続中サービスの中
断を防ぐことができる。
つ、最適な状態へどのように収束させるのかについて、
すなわち、各サーバの負荷状況や故障状況の情報に応じ
て、各サーバへの分配率を動的に、かつ、最適な状態へ
収束するように変換テーブル4−aを変換させるわけで
あるが、これがどのように行われるのかについて以下に
述べる。
見て、負荷の計測を行なうフローのフローチャートであ
る。負荷計測部6が、全サーバの負荷状況を計測する
(S111)。負荷計測はパケット送信時に計測した値
をもとに行なう。従って、負荷計測のための通信とサー
バの処理(負荷計測および通知)が不要となるので、本
装置をサーバ群へ一切の影響を与えずに導入、運用する
ことが可能になる。負荷計測の具体的動作は、以下の動
作の繰り返しとなる。すなわち、計測結果をリセット
し、n秒間待機し、計測結果(接続時間総和と接続回
数)を取得し、分配率調整部7へ計測結果を通知する動
作である。負荷状況としては、例えば、パケットデータ
の送信に先立つサーバへの接続要求信号の送信から接続
完了信号の受信までの時間を計測し、この時間から求め
た単位時間あたりの接続平均時間および接続回数を用い
る。負荷計測部6は、これらの結果を、分配率調整部7
へ通知する(S112)。
ローのフローチャートである。分配率調整部7は、負荷
計測部6からの負荷状況の通知を割込みとして受け(S
911)、以下に説明する負荷調整を行なう。
バが高負荷かどうかあるいは停止かの判断を行なう(S
912,S913)。図14のフローチャートに示すよ
うに、高負荷かどうかの判断としては、前述の負荷状況
計測の例の場合では、単位時間あたりの接続平均時間が
接続平均時間基準値よりも長く、かつ、単位時間あたり
の接続回数が接続回数基準値より少なければ高負荷であ
るとする(図15参照)。図14中のNSはサーバ数、
ctiはサーバiの接続平均時間、CTiはサーバiの
接続平均時間基準値、cniはサーバiの接続回数、C
Niはサーバiの接続回数基準値、OLiはサーバの高
負荷フラグである。図15の左側は、接続処理が高負荷
のため接続要求に追いつかず、接続失敗回数が増加し、
接続失敗を含んだ接続時間が長いタイムアウト時間を含
むため、接続平均時間が長くなる様子を示しており、図
15の右側は、接続時間が長くなれば、単位時間あたり
に接続できる回数が減少する様子を示している。すなわ
ち、高負荷判断は、接続時間総和と接続時間から接続平
均時間を求め、サーバが高負荷状態になった時に観測で
きる上記2つの特徴を利用して判断を行なう。接続平均
時間と接続回数との2つの指標を用いる理由は、次の2
点の原因による誤判断を避けるためである。1点は、サ
ーバが同時に受け付けることができる接続要求は限られ
ているため、サーバが高負荷でもなくてもサーバが受け
付けることができる数以上の接続要求があった場合、接
続平均時間が長くなる点である。これは、サーバの同時
受付可能接続数がボトルネックになっていることを意味
し、サーバが高負荷でない限り接続回数は最大値かそれ
に近い値になる。もう1点は、サーバへのサービスリク
エスト(接続要求)そのものの数が減少した場合、接続
回数も比例して減少する点、すなわち、リクエストが少
ないためにサーバの負荷が低くなる点である。従って、
接続平均時間と接続回数の両方を判断に用いることで、
正しい高負荷判断が可能となる。ここで用いている接続
平均時間基準値および接続回数基準値は、それぞれ今ま
での単位時間あたりの接続平均時間の最小値および接続
回数の最大値とする。これは、高負荷状態のサーバは接
続平均時間が長くなり接続回数が少なくなることを利用
しており、接続平均時間と接続回数との両方を用いて判
断することで、サーバへの接続数がサーバが同時受付可
能な数を一時的に超えた場合やクライアントからの接続
そのものが少なくなった場合などの誤判断を回避するよ
うにしている。この高負荷と判断されたサーバは、その
時の変換テーブル4−aに設定されているそのサーバの
スロット数を最大スロット数としておく(S914,図
16,図17)。図17中のOLiはサーバiについて
の高負荷フラグ、OLHiはサーバiについての高負荷
経験フラグ、SLTiはサーバiについてのスロット
数、MAXiはサーバiについてのスロット数上限、M
INiはサーバiについてのスロット数下限、nはスロ
ット調整量である。そして、この高負荷と判断されたサ
ーバは、変換テーブル4−aのパタン・ハッシュ表に設
定されているそのサーバのスロット数を減少調整量だけ
減じることになる(S917)が、その減じるスロット
数を減少調整量と呼び、ステップ(S917)で減じる
前に決定されている(S915)。この減少調整量は、
例えば、3などの予め設定した適当な整数値であるが、
この際、そのサーバに設定されている最小スロット数よ
り小さくならないようにする。減少調整量を決定した
ら、この調整量が0かどうかを判断し(S916)、0
でない場合は、その調整量だけ変換テーブル4−aのパ
タン・ハッシュ表に設定されているそのサーバのスロッ
ト数を減じる(S917)。スロット数を減じたサーバ
は、高負荷経験フラグをONとする(S918)。次
に、他のサーバに高負荷でも停止でもないサーバがある
かどうかを判断する(S919)。判断基準は、ステッ
プ(S913)と同様である。他のサーバに高負荷でも
停止でもないサーバがなければ、ステップ(S927)
へ行く。他のサーバに高負荷でも停止でもないサーバが
あれば、ステップ(S919)で選んだサーバの中でス
ロット数を増やせるサーバがあるかどうかを見る(S9
20)。スロット数を増やせるサーバがあれば、ステッ
プ(S920)で選んだ経験フラグOFFのサーバの中
で経験フラグOFFのサーバがあるかを見る(S92
1)。OFFのサーバがあれば、OFFのサーバから任
意のサーバ、例えば、一番負荷の小さいサーバを選択し
(S922)、OFFのサーバがなければ、ステップ
(S920)で選んだサーバの中から任意の、例えば、
一番負荷の小さいサーバを選択する(S923)。そし
て、ステップ(S922)または(S923)で選択さ
れたサーバの、その時の変換テーブル4−aに設定され
ているスロット数を最小スロット数としておく(S92
4,図16)。次に、変換テーブル4−aのパタン・ハ
ッシュ表に設定されているそのサーバのスロット数を増
加調整量だけ増やす(S926)わけであるが、その前
に、増加調整量を決定(S925)しなければならな
い。増加調整量は、例えば、高負荷であると判断された
別のサーバの減じられたスロット数であるが、この際、
そのサーバに設定されている最大スロット数より大きく
ならないようにする。増加調整量を決定したら、その調
整量だけ変換テーブル4−aのパタン・ハッシュ表に設
定されているそのサーバのスロット数を増やし(S92
6)、全サーバを処理したかを見るステップ(S93
0)へ行く。
負荷でも停止でもないサーバがない場合、および、ステ
ップ(S920)で、スロット数を増やせるサーバがな
い場合、減じるスロット数を減じる前の状態に戻し(S
927)、ステップ(S930)へ行く。
計測した計測値が異常値であった場合は、そのサーバが
停止していると判断し、他の全サーバが停止している場
合を除いて(S928)、そのサーバのスロット数を0
にし(S929)、他のサーバに高負荷でも停止でもな
いサーバがあるかを見るステップ(S919)へ行く。
図18は、高負荷過ぎることによる異常のために、サー
バが停止状態であると判断されるフローである。図18
中のNSはサーバ数、Ciはサーバiの接続回数基準
値、O(Ci)は基準値最適化関数である。停止と判断
したサーバのスロット数を0にするということは、この
サーバへのサービス分配を止めることができ、クライア
ントからサーバ停止を隠蔽することができる。
図で、サーバ1は、高負荷と判断され、かつ、経験フラ
グがONのサーバであり、スロット数をn減じる。サー
バ2は、高負荷と判断され、かつ、経験フラグがOFF
のサーバであり、経験フラグをONにして、スロット数
をm減じる。サーバ3は、経験フラグはONであるが、
この時は、高負荷と判断されなかったサーバである。サ
ーバ4は、高負荷と判断されず、経験フラグもOFFな
ので、サーバ1の減ずるスロット数nおよびサーバ2の
減ずるスロット数mの分を増やす。
負荷でもなく停止でもないと判断されたら、全サーバを
処理したかを見る(S930)。全サーバを処理してい
なければ、ステップ(S931)で、次のサーバの処理
に移り、ステップ(S913)に戻る。次に、全サーバ
について、高負荷経験フラグがONかどうかを見て(S
932)、1つでも高負荷経験フラグがONでないサー
バが存在した場合は、負荷計測の結果を受けるステップ
(S911)へ戻る。全サーバの高負荷経験フラグがO
Nであったら、全サーバの高負荷経験フラグをOFFに
戻し(S934)、減少調整量を適当な値、例えば前述
の例では調整量の初期値が3であったので、1だけ減じ
て(S935)2としてから、負荷計測の結果を受ける
ステップ(S911)へ戻る。
荷経験フラグがONであったということは、調整が一巡
したことを意味し、さらに、ステップ(S935)で、
減少調整量の値を小さくすることで、調整の度合いを小
さくしていく。このことは、調整が有限回数で、だんだ
んと収束していくことを意味し、各サーバの負荷を最適
値に近づけていくことができる。
げて、負荷の計測を行なうフローおよび負荷の調整を行
なうフローを説明してきたが、これら各ステップでの他
の例を次に説明する。
の負荷計測の結果として、負荷計測部6が、パケットデ
ータの送信に先立つサーバへの接続要求信号の送信から
接続完了信号の受信までの時間を計測し、この時間から
求めた単位時間あたりの接続平均時間および接続回数を
用いたが、接続要求信号に対する接続エラーを検出し、
その接続エラー検出の回数から、単位時間あたりと接続
エラー率(接続エラー回数を接続回数で除した値および
接続回数を用いてもよい。この場合は、ステップ(S9
13)の高負荷かどうかの判断としては、単位時間あた
りの接続エラー率が接続エラー率基準値よりも高く、か
つ、単位時間あたりの接続回数が接続回数基準値より少
ない場合を高負荷とする。ここで用いている接続エラー
率基準値および接続回数基準値は、それぞれ今までの単
位時間あたりの接続エラー率の最小値および接続回数の
最大値とする。図20は、ステップ(S913)の高負
荷かどうかの判断として、単位時間あたりの接続エラー
率と単位時間あたりの接続回数を用いた高負荷判断のフ
ローである。図20中のNSはサーバ数、ceiはサー
バiの接続平均時間、CEiはサーバiの接続平均時間
基準値、cniはサーバiの接続回数、CNiはサーバ
iの接続回数基準値、OLiはサーバiの高負荷フラグ
である。
て、各サーバの負荷計測の結果として、負荷計測部6
が、VC数を計測し、その単位時間あたりのVC数を負
荷計測の結果としてもよい。この場合は、ステップ(S
913)の高負荷かどうかの判断としては、単位時間あ
たりのVC数がVC数基準値よりも高い場合を高負荷と
する。ここで用いているVC数基準値は、あらかじめ設
定した値とする。図21は、ステップ(S913)の高
負荷かどうかの判断として、単位時間あたりのVC数を
用いた高負荷判断とフロー(11−aの場合)である。
図21中のNSはサーバ数、Piはサーバiの計測値で
単位時間VC数,レスポンス平均時間,模倣サービスレ
スポンス平均時間、Ciはサーバiのユーザ設定基準
値、OLiはサーバiの高負荷フラグである。
各サーバの負荷計測の結果として、負荷計測部6が、サ
ービス開始から終了までのレスポンス時間を計測し、そ
の単位時間あたりのレスポンス平均時間を負荷計測の結
果としてもよい。この場合は、ステップ(S913)の
高負荷かどうかの判断としては、単位時間あたりのレス
ポンス平均時間がレスポンス平均時間基準値よりも長い
場合を高負荷とする。ここで用いているレスポンス平均
時間基準値は、あらかじめ設定した値とする。図21
は、ステップ(S913)の高負荷かどうかの判断とし
て、レスポンス平均時間を用いた高負荷判断とフロー
(11−bの場合)である。
各サーバの負荷計測の結果として、負荷計測部6が、図
22に示すように、クライアントを疑似クライアントと
して模倣して適当な任意のサービス操作を行ない、その
サービス開始から終了までのレスポンス時間を計測し、
その単位時間あたりの模倣サービスレスポンス平均時間
を負荷計測の結果としてもよい。この場合は、ステップ
(S913)の高負荷かどうかの判断としては、単位時
間あたりの模倣サービスレスポンス平均時間が模倣サー
ビスレスポンス平均時間基準値よりも長い場合を高負荷
とする。ここで用いている模倣サービスレスポンス平均
時間基準値は、あらかじめ設定した値とする。図21
は、ステップ(S913)の高負荷かどうかの判断とし
て、模倣サービスレスポンス平均時間を用いた高負荷判
断とフロー(11−cの場合)である。
判断の際、接続平均時間基準値や接続回数基準値や接続
エラー率基準値を、今までの単位時間あたりの接続平均
時間の最小値や接続回数の最大値や接続エラー率基準値
としていたが、これらの基準値を操作者が任意に指定で
きるようにしてもよい(図23,図24参照)。図23
は、接続平均時間基準値および接続回数基準値を操作者
が設定した場合の高負荷判断のフローである。図23中
のNSはサーバ数、ctiはサーバiの接続平均時間、
CTiはサーバiの接続平均時間基準値、cniはサー
バiの接続回数、CNiはサーバiの接続回数基準値、
OLiはサーバiの高負荷フラグである。図24は、接
続エラー率基準値および接続回数基準値を操作者が設定
した場合の高負荷判断のフローである。図24中のNS
はサーバ数、ceiはサーバiの接続平均時間、CEi
はサーバiの接続平均時間基準値、cniはサーバiの
接続回数、CNiはサーバiの接続回数基準値、OLi
はサーバiの高負荷フラグである。
値、接続エラー率基準値、VC数基準値、レスポンス平
均時間基準値、模倣サービスレスポンス平均時間基準値
などの基準値を、状態管理部10で適時保存するように
してもよい。例えば、停止サーバを検出した時に保存
し、このサーバが復活した時に、保存してある基準値を
用いるようにしてもよい。
少調整量は、3などの予め設定した適当な整数値である
としたが、高負荷であると判断されたそのサーバの変換
テーブル4−aに設定されているスロット数の、あらか
じめ定められた任意の割合としてもよい。
判断されたサーバの減少調整量を決定するわけだが、こ
の減少調整量を、負荷情報の平均値を求め、この平均値
からあらかじめ定めた任意の値以上離れたサーバについ
て、平均値からの距離の比に従って割り当て数を求め更
新するようにしてもよい(図25参照)。図25は、計
測値の平均値から任意の値だけ離れたサーバを求めるこ
とにより、クライアントから見えるサーバ性能を一定に
する負荷調整動作のフローである。図25中のtxはサ
ーバxの計測値である。
も停止でもないと判断されたサーバの増加調整量を決定
するわけだが、この増加調整量を、負荷情報の平均値を
求め、この平均値からあらかじめ定めた任意の値以上離
れたサーバについて、平均値からの距離の比に従って割
り当て数を求め更新するようにしてもよい。
も停止でもないと判断されたサーバの増加調整量を決定
するわけだが、この増加調整量を、高負荷と判断された
別のサーバの減少調整量と同じ値としてもよい(図1
7,図18)。
も停止でもないと判断されたサーバの増加調整量を決定
するわけだが、この増加調整量を、高負荷でも停止でも
ないと判断された全てのサーバに対して、変換テーブル
4−aに割り当てられている高負荷でも停止でもないと
判断されたサーバ間の割り当て数に応じて分配するよう
にしてもよい(図26,図27)。図27は、割り当て
スロット数を変換テーブル4−aの割り当て数に応じて
割り当てるフローで、図18中のステップ11の代わり
に用いる。
部6が計測した計測値が異常値であった場合は、そのサ
ーバが停止していると判断しているが、各サーバに対し
て、図28に示すように、例えば、pingのようなコ
マンドを定期的に実行し、任意の一定回数以上タイムア
ウトで失敗したサーバを停止状態と判断し、分配率調整
部7へ通知するような故障監視部8を別に設けてもよ
い。もちろん、負荷計測部6でのサーバ停止の判断と故
障監視部8でのサーバ停止の判断を併用しても構わな
い。
すように、pingに限らず、サーバのサービスに対
し、サービスポートをオープンできるかどうかを試み、
任意の一定回数オープンに失敗したらサービスが停止状
態であると判断するようにしてもよい。
ーバ負荷調整装置3は、クライアント1−1,1−2,
…,1−mからのパケットをネットワーク2を介して受
診し、サーバ5−1,5−2,…,5−nへ転送し、さ
らに、サーバ5−1,5−2,…,5−nからのサービ
スを受診し、ネットワーク2を介してクライアント1−
1,1−2,…,1−mへ返信する形態で説明してきた
が、このネットワークサービスサーバ負荷調整装置3の
運用形態は、図29に示すような形態、すなわち、ネッ
トワークサービスサーバ負荷調整装置3がいずれかのサ
ーバ上にある形態(12−a)、サーバからクライアン
トへの返信は別の通信経路をとる形態(12−b)、ネ
ットワークサービスサーバ負荷調整装置3が他のネット
ワークも調整対象とする形態でもかまわない。
ば、単体の装置であっても、複数の装置からなるシステ
ムあるいは統合装置であっても、LAN等のネットワー
クを介して処理が行なわれるシステムであっても本発明
を適用できることは言うまでもない。
述した実施形態の機器を実現するソフトウェアのプログ
ラムコードを記録した記録媒体(例えば、ROM、ハー
ドディスクまたはフロッピーディスク)を、システムあ
るいは装置に供給し、そのシステムあるいは装置のコン
ピュータ(またはCPUやMPU)が記録媒体に格納さ
れたプログラムコードを読み出し実行することによって
も、達成されることは言うまでもない。
グラムコード自体が本発明の新規な機能を実現すること
になり、そのプログラムコードを記録した記録媒体は本
発明を構成することになる。
体としては、例えば、フロッピーディスク、ハードディ
スク、光ディスク、光磁気ディスク、CD−ROM、C
D−R、磁気テープ、不揮発性のメモリーカード、RO
M、電子メールやパソコン通信等のネットワーク(言い
換えれば、通信回線)を介して記録した種々の記録媒体
などを用いることができる。
ムコードを実行することによって、前述した実施形態の
機能が実現される他、そのプログラムコードの指示に基
づき、コンピュータ上で稼動しているOSなどが実際の
処理の一部または全部を行ない、その処理によっても前
述した実施形態の機能が実現される。
ラムコードが、コンピュータに挿入された機能拡張ボー
ドやコンピュータに接続された機能拡張ユニットに備わ
るメモリーに書き込まれた後、そのプログラムコードの
指示に基づき、その機能拡張ボードや機能拡張ユニット
に備わるCPUなどが実際の処理の一部または全部を行
ない、その処理によっても前述した実勢形態の機能が実
現され得る。
ーバの提供するサービスを複数のサーバに分担させる
際、サーバ構成の変更やサーバの状態の変化に対し、各
サーバの負荷分担を自動的に、かつ、効率的に割り振る
ので、クライアントにとって、迅速なサービスの供給を
受けることができる効果があると共に一時停止などのト
ラブルをなくす効果もある。
ある。
を示したフローチャートである。
示す図である。
示す図である。
示す図である。
を示す図である。
である。
である。
である。
示す図である。
ためのフローである。
る。
計測のブロック図である。
バを求めるフローである。
当て数に応じて割り当てるフローである。
Claims (12)
- 【請求項1】 第1の制御手段からネットワークを介し
て複数の第2の制御手段に向けて送信されるデータを受
信し、該データを第2の制御手段のいずれかに分配する
装置において、 該第1の制御手段と該第2の制御手段との対応関係であ
る変換情報を格納する変換情報格納手段と、 該変換情報格納手段に格納されている該対応関係に基づ
いて、該第1の制御手段から送信される該データを該第
2の制御手段のいずれかに転送する分配中継手段と、 該変換情報格納手段に格納されている該変換情報の該対
応関係を調整する分配率調整手段と、 該第2の制御手段の負荷状況を計測し、該変換情報格納
手段に格納されている該変換情報の該対応関係を調整す
るために該負荷状況を該分配率調整手段に通知する負荷
計測手段と、 から構成され、 前記負荷計測手段は前記データの単位時間あたりの前記
第2の制御手段への接続平均時間と接続回数に基づいて
負荷を計測することを特徴とするネットワーク負荷調整
装置。 - 【請求項2】 前記分配率調整手段は前記データの前記
各第2の制御手段への接続平均時間および接続回数を基
準に該第2の制御手段の高負荷を判断し該第1の制御手
段から前記複数の第2の制御手段の各への前記データの
分配率の調整を行なうことにより該第2の制御手段の負
荷の調整を行なうことを特徴とする請求項1記載のネッ
トワーク負荷調整装置。 - 【請求項3】 第1の制御手段からネットワークを介し
て複数の第2の制御手段に向けて送信されるデータを受
信し、該データを第2の制御手段のいずれかに分配する
装置において、 該第1の制御手段と該第2の制御手段との対応関係であ
る変換情報を格納する変換情報格納手段と、 該変換情報格納手段に格納されている該対応関係に基づ
いて、該第1の制御手 段から送信される該データを該第
2の制御手段のいずれかに転送する分配中継手段と、 該変換情報格納手段に格納されている該変換情報の該対
応関係を調整する分配率調整手段と、 該第2の制御手段の負荷状況を計測し、該変換情報格納
手段に格納されている該変換情報の該対応関係を調整す
るために該負荷状況を該分配率調整手段に通知する負荷
計測手段と、 から構成されることを特徴とするネットワーク負荷調整
装置であって、 前記変換情報格納手段は、 前記第1の制御手段を複数の前記第2の制御手段が対応
するように割り当てたテーブルと、一連のデータ送信中
は前記第1の制御手段と該第2の制御手段との対応関係
を維持するようにした手段を含み、 前記分配率調整手段は、 前記各第2の制御手段について計測した前記負荷状況が
異常値であれば停止状態であると判断する手段と、 前記第2の制御手段への接続平均時間の最小値、接続回
数の最大値をそれぞれ基準値とし、該接続平均時間およ
び該接続回数をそれぞれの基準値である接続平均時間基
準値および接続回数基準値と比較し、該接続平均時間が
接続平均時間基準値より十分大きく、かつ、該接続回数
が接続回数基準値より十分小さい場合を高負荷と判断す
る手段と、 前記第2の制御手段への分配率を前記変換情報での該第
2の制御手段への割り当て数として管理する手段と、 該管理手段は更に停止状態であると判断された該第2の
制御手段がある場合は、停止状態である該第2の制御手
段の割り当て数を停止状態でない該第2の制御手段の割
り当て数との比で分配する停止状態管理手段と、 高負荷と判断された該第2の制御手段の割り当て数を減
じ、高負荷と判断されない該第2の制御手段の割り当て
数を増す高負荷管理手段とからなり、 さらに該高負荷管理手段は調整を行なったサイクルごと
に該割り当て数の増減値を減少させ、増減後の値が取り
得る範囲を狭めて分配率を収束させる手段とを含み、 前記負荷計測手段は、 複数の該第2の制御手段の状態を、中継するデータから
単位時間あたりの該第2の制御手段との接続平均時間と
接続回数を定期的に計測し、該分配率調整手段へ通知す
る手段を含むことを特徴とするネットワーク負荷調整装
置。 - 【請求項4】 請求項3に記載の装置であって、 調整変更前の状態を保存し、復旧時に元の状態へ戻す状
態管理手段とを更に含むことを特徴とするネットワーク
負荷調整装置。 - 【請求項5】 請求項3に記載の装置であって、 前記負荷計測手段は、 中継するデータから単位時間あたりの前記第2の制御手
段それぞれについての接続エラー回数と接続回数を計測
し、前記分配率調整手段へ定期的に通知する手段を含
み、 前記分配率調整手段は、 前記第2の制御手段について計測した前記負荷状況が異
常値であれば停止状態であると判断し、前記第2の制御
手段への接続エラー回数と接続回数の比である接続エラ
ー率について最小値を接続エラー率の最小値、接続回数
の最大値をそれぞれ接続平均エラー率基準値および接続
回数基準値とし、該接続平均エラー率および該接続回数
を該接続平均エラー率基準値および該接続回数基準値と
比較し、該接続平均エラー率が該接続平均エラー率基準
値より十分大きく、かつ、該接続回数が該接続回数基準
値より十分小さい場合を高負荷と判断する手段を更に含
むことを特徴とするネットワーク負荷調整装置。 - 【請求項6】 第1の制御手段からネットワークを介し
て複数の第2の制御手段に向けて送信されるデータを受
信し、該データを第2の制御手段のいずれかに分配する
装置において、 該第1の制御手段と該第2の制御手段との対応関係であ
る変換情報を格納する変換情報格納手段と、 該変換情報格納手段に格納されている該対応関係に基づ
いて、該第1の制御手段から送信される該データを該第
2の制御手段のいずれかに転送する分配中継手 段と、 該変換情報格納手段に格納されている該変換情報の該対
応関係を調整する分配率調整手段と、 該第2の制御手段の負荷状況を計測し、該変換情報格納
手段に格納されている該変換情報の該対応関係を調整す
るために該負荷状況を該分配率調整手段に通知する負荷
計測手段と、 から構成されることを特徴とするネットワーク負荷調整
装置であって、 前記負荷計測手段は、 中継するデータから単位時間あたりの前記第2の制御手
段それぞれについてのバーチャルサーキット(VC)数
を計測し、前記分配率調整手段へ定期的に通知する手段
を更に含み、 前記分配率調整手段は、 VC数があらかじめ設定した基準値を超えた該第2の制
御手段を高負荷と判断する手段を更に含むことを特徴と
するネットワーク負荷調整装置。 - 【請求項7】 第1の制御手段からネットワークを介し
て複数の第2の制御手段に向けて送信されるデータを受
信し、該データを第2の制御手段のいずれかに分配する
装置において、 該第1の制御手段と該第2の制御手段との対応関係であ
る変換情報を格納する変換情報格納手段と、 該変換情報格納手段に格納されている該対応関係に基づ
いて、該第1の制御手段から送信される該データを該第
2の制御手段のいずれかに転送する分配中継手段と、 該変換情報格納手段に格納されている該変換情報の該対
応関係を調整する分配率調整手段と、 該第2の制御手段の負荷状況を計測し、該変換情報格納
手段に格納されている該変換情報の該対応関係を調整す
るために該負荷状況を該分配率調整手段に通知する負荷
計測手段と、 から構成されることを特徴とするネットワーク負荷調整
装置であって、 前記負荷計測手段部は、 前記第2の制御手段が送信する情報データにおける前記
第1の制御手段を模倣して決められた操作を行い、該操
作に要したサービス時間を計測し、平均時間を前記分配
率調整手段へ定期的に通知し、 前記分配率調整手段は、 サービス平均時間が予め設定した基準値を超えた該第2
の制御手段を高負荷と判断する手段を更に含むことを特
徴とするネットワーク負荷調整装置。 - 【請求項8】 第1の制御手段からネットワークを介し
て複数の第2の制御手段に向けて送信されるデータを受
信し、該データを第2の制御手段のいずれかに分配する
装置において、 該第1の制御手段と該第2の制御手段との対応関係であ
る変換情報を格納する変換情報格納手段と、 該変換情報格納手段に格納されている該対応関係に基づ
いて、該第1の制御手段から送信される該データを該第
2の制御手段のいずれかに転送する分配中継手段と、 該変換情報格納手段に格納されている該変換情報の該対
応関係を調整する分配率調整手段と、 該第2の制御手段の負荷状況を計測し、該変換情報格納
手段に格納されている該変換情報の該対応関係を調整す
るために該負荷状況を該分配率調整手段に通知する負荷
計測手段と、 から構成されることを特徴とするネットワーク負荷調整
装置であって、 前記分配率調整手段は、 前記増減値を前記高負荷第2の制御手段のその時点の割
り当てスロット数に対応して決める手段を更に含むこと
を特徴とするネットワーク負荷調整装置。 - 【請求項9】 請求項1及至7に記載の装置であって、 前記分配率調整手段は、 前記増減値を前記高負荷第2の制御手段のその時点の割
り当てスロット数に対応して決める手段を更に含むこと
を特徴とするネットワーク負荷調整装置。 - 【請求項10】 第1の制御手段からネットワークを介
して複数の第2の制御手段に向けて送信されるデータを
受信し、該データを第2の制御手段のいずれ かに分配す
る装置において、 該第1の制御手段と該第2の制御手段との対応関係であ
る変換情報を格納する変換情報格納手段と、 該変換情報格納手段に格納されている該対応関係に基づ
いて、該第1の制御手段から送信される該データを該第
2の制御手段のいずれかに転送する分配中継手段と、 該変換情報格納手段に格納されている該変換情報の該対
応関係を調整する分配率調整手段と、 該第2の制御手段の負荷状況を計測し、該変換情報格納
手段に格納されている該変換情報の該対応関係を調整す
るために該負荷状況を該分配率調整手段に通知する負荷
計測手段と、 から構成されることを特徴とするネットワーク負荷調整
装置であって、 前記分配率調整手段は、 前記高負荷第2の制御手段のその時点での割り当てスロ
ット数を高負荷でない全ての前記第2の制御手段へ、高
負荷でない前記第2の制御手段間でのその時点での割り
当てスロット数比に応じて分配する手段を更に含むこと
を特徴とするネットワーク負荷調整装置。 - 【請求項11】 請求項1及至9に記載の装置であっ
て、 前記分配率調整手段は、 前記高負荷第2の制御手段のその時点での割り当てスロ
ット数を高負荷でない全ての前記第2の制御手段へ、高
負荷でない前記第2の制御手段間でのその時点での割り
当てスロット数比に応じて分配する手段を更に含むこと
を特徴とするネットワーク負荷調整装置。 - 【請求項12】 請求項7に記載の装置であって、 前記分配率調整手段は、 前記第2の制御手段の負荷の計測値の各第2の制御手段
間の平均値を求め、平均値から幅δ以上離れた前記第2
の制御手段について、平均値からの高低を含めた距離の
比に従い割り当て数を求めて更新する手段を更に含むこ
とを特徴とするネットワーク負荷調整装置。
Priority Applications (4)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP25739397A JP3369445B2 (ja) | 1997-09-22 | 1997-09-22 | ネットワークサービスサーバ負荷調整装置、方法および記録媒体 |
US09/048,156 US6259705B1 (en) | 1997-09-22 | 1998-03-26 | Network service server load balancing device, network service server load balancing method and computer-readable storage medium recorded with network service server load balancing program |
DE69839719T DE69839719D1 (de) | 1997-09-22 | 1998-03-30 | Server-Lastausgleich für Netzdienste |
EP19980302410 EP0903901B1 (en) | 1997-09-22 | 1998-03-30 | Network service server load balancing |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP25739397A JP3369445B2 (ja) | 1997-09-22 | 1997-09-22 | ネットワークサービスサーバ負荷調整装置、方法および記録媒体 |
Publications (2)
Publication Number | Publication Date |
---|---|
JPH1196128A JPH1196128A (ja) | 1999-04-09 |
JP3369445B2 true JP3369445B2 (ja) | 2003-01-20 |
Family
ID=17305774
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP25739397A Expired - Fee Related JP3369445B2 (ja) | 1997-09-22 | 1997-09-22 | ネットワークサービスサーバ負荷調整装置、方法および記録媒体 |
Country Status (4)
Country | Link |
---|---|
US (1) | US6259705B1 (ja) |
EP (1) | EP0903901B1 (ja) |
JP (1) | JP3369445B2 (ja) |
DE (1) | DE69839719D1 (ja) |
Families Citing this family (165)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20030191717A1 (en) * | 1998-06-05 | 2003-10-09 | Johnson Teddy C. | High performance server data delivery system and method |
JP3786328B2 (ja) * | 1998-07-27 | 2006-06-14 | 株式会社日立製作所 | サーバおよび通信制御方法 |
JP3633321B2 (ja) * | 1998-10-23 | 2005-03-30 | 富士通株式会社 | 広域負荷分散装置及び方法 |
US6691165B1 (en) * | 1998-11-10 | 2004-02-10 | Rainfinity, Inc. | Distributed server cluster for controlling network traffic |
US6587431B1 (en) * | 1998-12-18 | 2003-07-01 | Nortel Networks Limited | Supertrunking for packet switching |
US6606661B1 (en) * | 1998-12-23 | 2003-08-12 | At&T Corp. | Method for dynamic connection closing time selection |
US6671259B1 (en) * | 1999-03-30 | 2003-12-30 | Fujitsu Limited | Method and system for wide area network load balancing |
US6801949B1 (en) | 1999-04-12 | 2004-10-05 | Rainfinity, Inc. | Distributed server cluster with graphical user interface |
US6571288B1 (en) * | 1999-04-26 | 2003-05-27 | Hewlett-Packard Company | Apparatus and method that empirically measures capacity of multiple servers and forwards relative weights to load balancer |
US6446218B1 (en) | 1999-06-30 | 2002-09-03 | B-Hub, Inc. | Techniques for maintaining fault tolerance for software programs in a clustered computer system |
EP1205078A2 (en) * | 1999-07-01 | 2002-05-15 | Openwave Systems Inc. | An intelligent network management system |
US7197491B1 (en) * | 1999-09-21 | 2007-03-27 | International Business Machines Corporation | Architecture and implementation of a dynamic RMI server configuration hierarchy to support federated search and update across heterogeneous datastores |
US7272649B1 (en) * | 1999-09-30 | 2007-09-18 | Cisco Technology, Inc. | Automatic hardware failure detection and recovery for distributed max sessions server |
JP3769999B2 (ja) * | 1999-09-30 | 2006-04-26 | 富士通株式会社 | サービス振り分け装置 |
US6754714B1 (en) * | 1999-10-05 | 2004-06-22 | Cisco Technology, Inc. | Multilink point-to-point protocol network access server channel allocation method and apparatus |
JP2001117887A (ja) * | 1999-10-14 | 2001-04-27 | Nec Corp | 分散型アプリケーションサーバシステム,サービス方法および記録媒体 |
SE514979C2 (sv) * | 1999-11-24 | 2001-05-28 | Telia Ab | Förfarande och system för att bestämma tillgängligheten för en datafil i ett distribuerat system |
US6728770B1 (en) * | 1999-12-03 | 2004-04-27 | Storage Technology Corporation | Method and apparatus for workload balancing along multiple communication paths to a plurality of devices |
US20020010783A1 (en) * | 1999-12-06 | 2002-01-24 | Leonard Primak | System and method for enhancing operation of a web server cluster |
KR100358105B1 (ko) * | 1999-12-24 | 2002-10-25 | 한국전자통신연구원 | 서버의 과부하 상태를 감안한 분산 공간 분석 시스템 및그 방법 |
JP2001236293A (ja) * | 2000-02-24 | 2001-08-31 | Nec Corp | サーバ負荷分散装置 |
US7082471B2 (en) * | 2000-03-20 | 2006-07-25 | International Business Machines Corporation | Method and system of dispatching socks traffic using type of service (TOS) field of IP datagrams |
JP3792985B2 (ja) | 2000-04-05 | 2006-07-05 | キヤノン株式会社 | ディレクトリサーバおよび周辺装置、その制御方法、並びに記録媒体 |
JP3502009B2 (ja) * | 2000-04-14 | 2004-03-02 | 日本電信電話株式会社 | 負荷分散制御装置および方法ならびに記録媒体 |
US6970425B1 (en) * | 2000-04-27 | 2005-11-29 | At&T Corp. | Method and apparatus for throttling and distributing data transmissions across a network |
JP3576922B2 (ja) * | 2000-04-28 | 2004-10-13 | エヌイーシーネクサソリューションズ株式会社 | アプリケーションプログラムの監視方法、及びアプリケーション・サービスを提供する方法 |
JP3725401B2 (ja) * | 2000-04-28 | 2005-12-14 | 株式会社エヌ・ティ・ティ ピー・シー コミュニケーションズ | アクセス振り分け方法、装置、及び記録媒体 |
US6763372B1 (en) * | 2000-07-06 | 2004-07-13 | Nishant V. Dani | Load balancing of chat servers based on gradients |
KR100368108B1 (ko) * | 2000-07-13 | 2003-01-15 | (주) 멀티웨이브 | 부하 분산기 |
TW536670B (en) * | 2000-07-15 | 2003-06-11 | Ibm | A method for availability monitoring via a shared database |
US6880156B1 (en) * | 2000-07-27 | 2005-04-12 | Hewlett-Packard Development Company. L.P. | Demand responsive method and apparatus to automatically activate spare servers |
JP3504596B2 (ja) * | 2000-08-17 | 2004-03-08 | 日本電信電話株式会社 | 情報提供システム、情報提供方法および記録媒体 |
JP2002091936A (ja) * | 2000-09-11 | 2002-03-29 | Hitachi Ltd | 負荷分散装置及び負荷見積もり方法 |
US7801978B1 (en) | 2000-10-18 | 2010-09-21 | Citrix Systems, Inc. | Apparatus, method and computer program product for efficiently pooling connections between clients and servers |
JP2002150000A (ja) * | 2000-11-13 | 2002-05-24 | Dainippon Screen Mfg Co Ltd | サーバシステム |
US20020065922A1 (en) * | 2000-11-30 | 2002-05-30 | Vijnan Shastri | Method and apparatus for selection and redirection of an existing client-server connection to an alternate data server hosted on a data packet network (DPN) based on performance comparisons |
US7778981B2 (en) | 2000-12-01 | 2010-08-17 | Netapp, Inc. | Policy engine to control the servicing of requests received by a storage server |
US7346928B1 (en) * | 2000-12-01 | 2008-03-18 | Network Appliance, Inc. | Decentralized appliance virus scanning |
US20020120743A1 (en) * | 2001-02-26 | 2002-08-29 | Lior Shabtay | Splicing persistent connections |
US6820126B2 (en) * | 2001-04-02 | 2004-11-16 | Motorola, Inc. | System for dynamic process assignment in a local area network and method therefor |
US6886164B2 (en) * | 2001-05-08 | 2005-04-26 | Emc Corporation | Selection of a resource in a distributed computer system |
US7734676B2 (en) * | 2001-06-27 | 2010-06-08 | International Business Machines Corporation | Method for controlling the number of servers in a hierarchical resource environment |
US20030005080A1 (en) * | 2001-06-28 | 2003-01-02 | Watkins James S. | Systems and methods for accessing data |
US20030009559A1 (en) * | 2001-07-09 | 2003-01-09 | Naoya Ikeda | Network system and method of distributing accesses to a plurality of server apparatus in the network system |
US7774492B2 (en) * | 2001-07-26 | 2010-08-10 | Citrix Systems, Inc. | System, method and computer program product to maximize server throughput while avoiding server overload by controlling the rate of establishing server-side net work connections |
TW576061B (en) * | 2001-08-13 | 2004-02-11 | Via Tech Inc | Device and method for load balancing of packet switching |
US7092399B1 (en) * | 2001-10-16 | 2006-08-15 | Cisco Technology, Inc. | Redirecting multiple requests received over a connection to multiple servers and merging the responses over the connection |
US7242687B2 (en) * | 2002-05-24 | 2007-07-10 | Intel Corporation | Method and system for distribution of session scheduling |
US7930423B2 (en) * | 2002-06-14 | 2011-04-19 | Alcatel-Lucent Usa Inc. | Dynamic load balancing within a network |
US7908355B2 (en) | 2002-06-20 | 2011-03-15 | International Business Machines Corporation | Method for improving network server load balancing |
CN100539580C (zh) * | 2002-06-24 | 2009-09-09 | 国际商业机器公司 | 数据网络中的负载平衡方法和装置 |
US7165103B2 (en) * | 2002-06-26 | 2007-01-16 | Microsoft Corporation | Method and system for matching network clients and servers under matching constraints |
WO2004006115A1 (en) * | 2002-07-02 | 2004-01-15 | Netscaler, Inc | System, method and computer program product to avoid server overload by controlling http denial of service (dos) attacks |
US8909926B2 (en) * | 2002-10-21 | 2014-12-09 | Rockwell Automation Technologies, Inc. | System and methodology providing automation security analysis, validation, and learning in an industrial controller environment |
US9009084B2 (en) | 2002-10-21 | 2015-04-14 | Rockwell Automation Technologies, Inc. | System and methodology providing automation security analysis and network intrusion protection in an industrial environment |
US7542471B2 (en) | 2002-10-30 | 2009-06-02 | Citrix Systems, Inc. | Method of determining path maximum transmission unit |
US8270423B2 (en) | 2003-07-29 | 2012-09-18 | Citrix Systems, Inc. | Systems and methods of using packet boundaries for reduction in timeout prevention |
US7630305B2 (en) | 2003-07-29 | 2009-12-08 | Orbital Data Corporation | TCP selective acknowledgements for communicating delivered and missed data packets |
US7616638B2 (en) | 2003-07-29 | 2009-11-10 | Orbital Data Corporation | Wavefront detection and disambiguation of acknowledgments |
US8233392B2 (en) | 2003-07-29 | 2012-07-31 | Citrix Systems, Inc. | Transaction boundary detection for reduction in timeout penalties |
US7461146B2 (en) * | 2003-01-20 | 2008-12-02 | Equallogic, Inc. | Adaptive storage block data distribution |
WO2004073269A1 (ja) * | 2003-02-13 | 2004-08-26 | Fujitsu Limited | 伝送システム,配信経路制御装置,負荷情報収集装置および配信経路制御方法 |
US20040215703A1 (en) * | 2003-02-18 | 2004-10-28 | Xiping Song | System supporting concurrent operation of multiple executable application operation sessions |
US7392318B1 (en) | 2003-03-21 | 2008-06-24 | Novell, Inc. | Method and system for balancing a traffic load in a half-duplex environment |
US20050195834A1 (en) * | 2003-03-31 | 2005-09-08 | Shunsuke Kikuchi | Load distribution system |
JPWO2004088940A1 (ja) * | 2003-03-31 | 2006-07-06 | 富士通株式会社 | 負荷分散システム |
US20050169254A1 (en) * | 2003-04-14 | 2005-08-04 | Fujitsu Limited | Data relay apparatus, data relay method, data relay program, service selection apparatus, service selection method and service selection program |
US8428117B2 (en) | 2003-04-24 | 2013-04-23 | Fujitsu Semiconductor Limited | Image encoder and image encoding method |
US8432800B2 (en) | 2003-07-29 | 2013-04-30 | Citrix Systems, Inc. | Systems and methods for stochastic-based quality of service |
US8437284B2 (en) | 2003-07-29 | 2013-05-07 | Citrix Systems, Inc. | Systems and methods for additional retransmissions of dropped packets |
US8238241B2 (en) | 2003-07-29 | 2012-08-07 | Citrix Systems, Inc. | Automatic detection and window virtualization for flow control |
US7656799B2 (en) | 2003-07-29 | 2010-02-02 | Citrix Systems, Inc. | Flow control system architecture |
CA2535440C (en) * | 2003-08-19 | 2012-10-09 | Telecom Italia S.P.A. | System architecture method and computer program product for managing telecommunication networks |
DE10346303B3 (de) * | 2003-10-06 | 2005-03-24 | Sap Ag | Verfahren zur Bearbeitung von aufeinanderfolgenden Anfragen eines externen Computers in einem Computersystem mit mindestens einem ersten Computer und einem zweiten Computer, sowie Computerprogramm und Computersystem |
US7451209B1 (en) | 2003-10-22 | 2008-11-11 | Cisco Technology, Inc. | Improving reliability and availability of a load balanced server |
US7421695B2 (en) * | 2003-11-12 | 2008-09-02 | Cisco Tech Inc | System and methodology for adaptive load balancing with behavior modification hints |
US8078483B1 (en) | 2003-12-16 | 2011-12-13 | Ticketmaster | Systems and methods for queuing access to network resources |
JP2005217815A (ja) * | 2004-01-30 | 2005-08-11 | Hitachi Ltd | パス制御方法 |
US7020090B2 (en) * | 2004-06-21 | 2006-03-28 | Cisco Technology, Inc. | System and method for loadbalancing in a network environment using feedback information |
JP2006119941A (ja) * | 2004-10-22 | 2006-05-11 | Hitachi Ltd | 動画像蓄積方法 |
JP2006277458A (ja) * | 2005-03-30 | 2006-10-12 | Hitachi Ltd | リソース割当管理装置およびリソース割当方法 |
US20070055768A1 (en) * | 2005-08-23 | 2007-03-08 | Cisco Technology, Inc. | Method and system for monitoring a server |
US8171127B2 (en) * | 2005-10-07 | 2012-05-01 | Citrix Systems, Inc. | Systems and methods for response monitoring |
JP4377369B2 (ja) * | 2005-11-09 | 2009-12-02 | 株式会社日立製作所 | リソース割当調停装置およびリソース割当調停方法 |
JP4735298B2 (ja) * | 2006-02-03 | 2011-07-27 | 沖電気工業株式会社 | サービス提供システムおよびそのサービス提供方法 |
US7675854B2 (en) | 2006-02-21 | 2010-03-09 | A10 Networks, Inc. | System and method for an adaptive TCP SYN cookie with time validation |
US20070233843A1 (en) * | 2006-03-30 | 2007-10-04 | Gabriele Frey-Ganzel | Method and system for an improved work-load balancing within a cluster |
JP4829670B2 (ja) * | 2006-04-28 | 2011-12-07 | 株式会社日立製作所 | San管理方法およびsan管理システム |
US20080013552A1 (en) * | 2006-07-12 | 2008-01-17 | Steven Allan Wright | Methods, systems and computer program products for communication load routing at a user location |
US8312507B2 (en) | 2006-10-17 | 2012-11-13 | A10 Networks, Inc. | System and method to apply network traffic policy to an application session |
US9021140B2 (en) * | 2007-03-12 | 2015-04-28 | Citrix Systems, Inc. | Systems and methods for error detection |
US8572160B2 (en) | 2007-03-12 | 2013-10-29 | Citrix Systems, Inc. | Systems and methods for script injection |
US20080225714A1 (en) * | 2007-03-12 | 2008-09-18 | Telefonaktiebolaget Lm Ericsson (Publ) | Dynamic load balancing |
US8782085B2 (en) * | 2007-04-10 | 2014-07-15 | Apertio Limited | Variant entries in network data repositories |
US9112873B2 (en) * | 2007-04-10 | 2015-08-18 | Apertio Limited | Alias hiding in network data repositories |
US8402147B2 (en) * | 2007-04-10 | 2013-03-19 | Apertio Limited | Nomadic subscriber data system |
US20080276002A1 (en) * | 2007-05-01 | 2008-11-06 | Yahoo! Inc. | Traffic routing based on client intelligence |
US7730171B2 (en) * | 2007-05-08 | 2010-06-01 | Teradata Us, Inc. | Decoupled logical and physical data storage within a database management system |
US7783666B1 (en) | 2007-09-26 | 2010-08-24 | Netapp, Inc. | Controlling access to storage resources by using access pattern based quotas |
US7826465B2 (en) * | 2007-10-04 | 2010-11-02 | At&T Intellectual Property I, L.P. | Methods, systems and computer program products for dynamic communication data routing by a multi-network remote communication terminal |
JP4984169B2 (ja) * | 2008-03-28 | 2012-07-25 | 富士通株式会社 | 負荷分散プログラム、負荷分散方法、負荷分散装置およびそれを含むシステム |
JP5217573B2 (ja) * | 2008-03-31 | 2013-06-19 | Kddi株式会社 | サーバ輻輳制御方法およびシステム |
US7647401B1 (en) * | 2008-10-03 | 2010-01-12 | International Business Machines Corporation | System and method for managing resources of a network load balancer via use of a presence server |
US8856376B1 (en) * | 2008-12-18 | 2014-10-07 | Bank Of America Corporation | Stabilization tool for a high-capacity network infrastructure |
US8364163B2 (en) * | 2009-02-23 | 2013-01-29 | Research In Motion Limited | Method, system and apparatus for connecting a plurality of client machines to a plurality of servers |
JP2010238051A (ja) * | 2009-03-31 | 2010-10-21 | Fujitsu Ltd | 負荷分散プログラム及び負荷分散装置 |
US9960967B2 (en) | 2009-10-21 | 2018-05-01 | A10 Networks, Inc. | Determining an application delivery server based on geo-location information |
US9215275B2 (en) | 2010-09-30 | 2015-12-15 | A10 Networks, Inc. | System and method to balance servers based on server load status |
US9609052B2 (en) | 2010-12-02 | 2017-03-28 | A10 Networks, Inc. | Distributing application traffic to servers based on dynamic service response time |
US9065831B2 (en) * | 2011-03-01 | 2015-06-23 | Cisco Technology, Inc. | Active load distribution for control plane traffic using a messaging and presence protocol |
US9235447B2 (en) | 2011-03-03 | 2016-01-12 | Cisco Technology, Inc. | Extensible attribute summarization |
CN102323896B (zh) * | 2011-05-12 | 2013-02-27 | 中山爱科数字科技股份有限公司 | 一种能根据业务节点数自动进行负载均衡的综合业务平台 |
US8897154B2 (en) | 2011-10-24 | 2014-11-25 | A10 Networks, Inc. | Combining stateless and stateful server load balancing |
JP5947540B2 (ja) | 2011-11-07 | 2016-07-06 | 株式会社スクウェア・エニックス・ホールディングス | 管理装置、管理装置の制御方法 |
US9094364B2 (en) | 2011-12-23 | 2015-07-28 | A10 Networks, Inc. | Methods to manage services over a service gateway |
US10044582B2 (en) | 2012-01-28 | 2018-08-07 | A10 Networks, Inc. | Generating secure name records |
TW201338537A (zh) * | 2012-03-09 | 2013-09-16 | Ind Tech Res Inst | 動態派工錄影系統與方法 |
US8782221B2 (en) | 2012-07-05 | 2014-07-15 | A10 Networks, Inc. | Method to allocate buffer for TCP proxy session based on dynamic network conditions |
CN104704788A (zh) | 2012-09-14 | 2015-06-10 | 惠普发展公司,有限责任合伙企业 | 确定针对分组检查设备处的数据单元的负载分配 |
US10002141B2 (en) | 2012-09-25 | 2018-06-19 | A10 Networks, Inc. | Distributed database in software driven networks |
EP2901308B1 (en) | 2012-09-25 | 2021-11-03 | A10 Networks, Inc. | Load distribution in data networks |
US9843484B2 (en) | 2012-09-25 | 2017-12-12 | A10 Networks, Inc. | Graceful scaling in software driven networks |
US10021174B2 (en) | 2012-09-25 | 2018-07-10 | A10 Networks, Inc. | Distributing service sessions |
JP5839495B2 (ja) * | 2012-11-12 | 2016-01-06 | 日本電信電話株式会社 | 負荷分散装置 |
US9338225B2 (en) | 2012-12-06 | 2016-05-10 | A10 Networks, Inc. | Forwarding policies on a virtual service network |
US9531846B2 (en) | 2013-01-23 | 2016-12-27 | A10 Networks, Inc. | Reducing buffer usage for TCP proxy session based on delayed acknowledgement |
US9900252B2 (en) | 2013-03-08 | 2018-02-20 | A10 Networks, Inc. | Application delivery controller and global server load balancer |
WO2014144837A1 (en) | 2013-03-15 | 2014-09-18 | A10 Networks, Inc. | Processing data packets using a policy based network path |
JP6167587B2 (ja) | 2013-03-21 | 2017-07-26 | 富士通株式会社 | 通信装置、通信ネットワークシステム、通信装置におけるコンテンツサーバ選択方法 |
WO2014179753A2 (en) | 2013-05-03 | 2014-11-06 | A10 Networks, Inc. | Facilitating secure network traffic by an application delivery controller |
US10027761B2 (en) | 2013-05-03 | 2018-07-17 | A10 Networks, Inc. | Facilitating a secure 3 party network session by a network device |
US10230770B2 (en) | 2013-12-02 | 2019-03-12 | A10 Networks, Inc. | Network proxy layer for policy-based application proxies |
US9274722B2 (en) * | 2013-12-06 | 2016-03-01 | Concurrent Ventures, LLP | System, method and article of manufacture for monitoring, controlling and improving storage media system performance |
US10235096B2 (en) | 2013-12-06 | 2019-03-19 | Concurrent Ventures, LLC | System and method for dynamically load balancing storage media devices based on an average or discounted average sustained performance level |
US9436404B2 (en) | 2013-12-06 | 2016-09-06 | Concurrent Ventures, LLC | System and method for dynamically load balancing across storage media devices having fast access rates |
US8954615B1 (en) * | 2013-12-06 | 2015-02-10 | Concurrent Ventures, LLC | System, method and article of manufacture for monitoring, controlling and improving storage media system performance based on temperature ranges |
US8984172B1 (en) * | 2013-12-06 | 2015-03-17 | Concurrent Ventures, LLC | System, method and article of manufacture for monitoring, controlling and improving storage media system performance based on storage media device fill percentage |
US10048895B2 (en) | 2013-12-06 | 2018-08-14 | Concurrent Ventures, LLC | System and method for dynamically load balancing storage media devices based on a mid-range performance level |
US8954614B1 (en) * | 2013-12-06 | 2015-02-10 | Concurrent Ventures, LLC | System, method and article of manufacture for monitoring, controlling and improving storage media system performance based on temperature |
US9444735B2 (en) | 2014-02-27 | 2016-09-13 | Cisco Technology, Inc. | Contextual summarization tag and type match using network subnetting |
US9942152B2 (en) | 2014-03-25 | 2018-04-10 | A10 Networks, Inc. | Forwarding data packets using a service-based forwarding policy |
US9942162B2 (en) | 2014-03-31 | 2018-04-10 | A10 Networks, Inc. | Active application response delay time |
US9560124B2 (en) * | 2014-05-13 | 2017-01-31 | Google Inc. | Method and system for load balancing anycast data traffic |
US9906422B2 (en) | 2014-05-16 | 2018-02-27 | A10 Networks, Inc. | Distributed system to determine a server's health |
US9992229B2 (en) | 2014-06-03 | 2018-06-05 | A10 Networks, Inc. | Programming a data network device using user defined scripts with licenses |
US10129122B2 (en) | 2014-06-03 | 2018-11-13 | A10 Networks, Inc. | User defined objects for network devices |
US9986061B2 (en) | 2014-06-03 | 2018-05-29 | A10 Networks, Inc. | Programming a data network device using user defined scripts |
JP6398559B2 (ja) * | 2014-10-02 | 2018-10-03 | 富士通株式会社 | 情報共有プログラム、情報共有システム及び情報共有方法 |
US10834065B1 (en) | 2015-03-31 | 2020-11-10 | F5 Networks, Inc. | Methods for SSL protected NTLM re-authentication and devices thereof |
US10091112B1 (en) * | 2015-04-24 | 2018-10-02 | Cisco Technology, Inc. | Highly-scalable virtual IP addresses in a load balancing switch |
US10581976B2 (en) | 2015-08-12 | 2020-03-03 | A10 Networks, Inc. | Transmission control of protocol state exchange for dynamic stateful service insertion |
US10243791B2 (en) | 2015-08-13 | 2019-03-26 | A10 Networks, Inc. | Automated adjustment of subscriber policies |
US10404698B1 (en) | 2016-01-15 | 2019-09-03 | F5 Networks, Inc. | Methods for adaptive organization of web application access points in webtops and devices thereof |
WO2017144123A1 (en) * | 2016-02-26 | 2017-08-31 | Nec Europe Ltd. | Load balancer for multipath-capable clients and servers |
US10432709B2 (en) | 2016-03-28 | 2019-10-01 | Industrial Technology Research Institute | Load balancing method, load balancing system, load balancing device and topology reduction method |
US10848432B2 (en) | 2016-12-18 | 2020-11-24 | Cisco Technology, Inc. | Switch fabric based load balancing |
US11082312B2 (en) | 2017-10-04 | 2021-08-03 | Cisco Technology, Inc. | Service chaining segmentation analytics |
US10965596B2 (en) | 2017-10-04 | 2021-03-30 | Cisco Technology, Inc. | Hybrid services insertion |
US10965598B1 (en) | 2017-10-04 | 2021-03-30 | Cisco Technology, Inc. | Load balancing in a service chain |
JP6977600B2 (ja) * | 2018-02-14 | 2021-12-08 | オムロン株式会社 | 制御装置、制御システム、制御方法、および、制御プログラム |
CN109104493A (zh) * | 2018-09-04 | 2018-12-28 | 南京群顶科技有限公司 | 一种云资源池业务负载感知与自处理装置及方法 |
CN110933182B (zh) * | 2019-12-12 | 2022-06-24 | 新华三大数据技术有限公司 | 负载分担方法、装置及系统 |
US11487969B2 (en) * | 2020-02-18 | 2022-11-01 | Xayn Ag | Apparatuses, computer program products, and computer-implemented methods for privacy-preserving federated learning |
CN114500542A (zh) * | 2020-11-12 | 2022-05-13 | 中移信息技术有限公司 | 业务流量分发方法、装置、设备及计算机存储介质 |
CN116339975B (zh) * | 2023-02-10 | 2023-11-14 | 浙江仰天云信息技术有限公司 | 一种用于卷宗批量处理的协同服务器通信管理系统 |
Family Cites Families (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US5548724A (en) * | 1993-03-22 | 1996-08-20 | Hitachi, Ltd. | File server system and file access control method of the same |
GB2281793A (en) * | 1993-09-11 | 1995-03-15 | Ibm | A data processing system for providing user load levelling in a network |
US5850517A (en) * | 1995-08-31 | 1998-12-15 | Oracle Corporation | Communication link for client-server having agent which sends plurality of requests independent of client and receives information from the server independent of the server |
SE515901C2 (sv) * | 1995-12-28 | 2001-10-22 | Dynarc Ab | Resursadministrering, plan och arrangemang |
US5872930A (en) * | 1996-07-11 | 1999-02-16 | Microsoft Corporation | Load balancing between E-mail servers within a local area network |
US5864535A (en) * | 1996-09-18 | 1999-01-26 | International Business Machines Corporation | Network server having dynamic load balancing of messages in both inbound and outbound directions |
US5742587A (en) * | 1997-02-28 | 1998-04-21 | Lanart Corporation | Load balancing port switching hub |
-
1997
- 1997-09-22 JP JP25739397A patent/JP3369445B2/ja not_active Expired - Fee Related
-
1998
- 1998-03-26 US US09/048,156 patent/US6259705B1/en not_active Expired - Lifetime
- 1998-03-30 EP EP19980302410 patent/EP0903901B1/en not_active Expired - Lifetime
- 1998-03-30 DE DE69839719T patent/DE69839719D1/de not_active Expired - Lifetime
Non-Patent Citations (3)
Title |
---|
A Scalable and Highly Available Web Servers,米国,IEEE COMPCON,P.85−92 |
CISCO LocalDirector Whitepaper,米国,CISCO Systems Inc.,1996年12月31日 |
Damani,O.P.,et al,ONE−IP:techniques for hosting a service on a cluster of machines,Proc.of 6th WWW Conf.,米国,1997年4月7日,発表番号196 |
Also Published As
Publication number | Publication date |
---|---|
EP0903901B1 (en) | 2008-07-16 |
DE69839719D1 (de) | 2008-08-28 |
EP0903901A2 (en) | 1999-03-24 |
JPH1196128A (ja) | 1999-04-09 |
EP0903901A3 (en) | 2005-07-20 |
US6259705B1 (en) | 2001-07-10 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP3369445B2 (ja) | ネットワークサービスサーバ負荷調整装置、方法および記録媒体 | |
US11381507B2 (en) | Virtual network device and related method | |
US5918021A (en) | System and method for dynamic distribution of data packets through multiple channels | |
US7855957B2 (en) | Method and system of transmit load balancing across multiple physical ports | |
CN107026907A (zh) | 一种负载均衡方法、负载均衡器及负载均衡系统 | |
US7539129B2 (en) | Server, method for controlling data communication of server, computer product | |
JP2012055012A (ja) | バックアップリソースを選択する方法、システム | |
US10372633B1 (en) | Interconnection of peripheral devices on different electronic devices | |
CN112839081A (zh) | 一种云集群的负载均衡方法 | |
CN115174674A (zh) | 流量的转发方法 | |
US20240048477A1 (en) | Packet forwarding method, apparatus, and system, and computer-readable storage medium | |
JP4309321B2 (ja) | ネットワークシステムの運用管理方法及びストレージ装置 | |
CN112350845B (zh) | 广域网口配置方法、网络设备及计算机可读存储介质 | |
CN116962441A (zh) | 云存储控制方法、装置及云存储系统 | |
CN114928615B (zh) | 负载均衡方法、装置、设备及可读存储介质 | |
US7649892B2 (en) | Method and system of network communication receive load balancing | |
JP3510623B2 (ja) | ネットワークサーバ割当装置 | |
JP2003234752A (ja) | タグ変換を用いた負荷分散方法及びタグ変換装置、負荷分散制御装置 | |
CN110958326B (zh) | 一种负载均衡方法、装置、系统、设备及介质 | |
JP5205783B2 (ja) | コンテンツ配信システム | |
US11106359B1 (en) | Interconnection of peripheral devices on different electronic devices | |
CN109039680B (zh) | 一种切换主宽带网络网关bng和备bng的方法、系统和bng | |
WO2023116458A1 (zh) | 通信方法及装置、通信系统 | |
US11689611B2 (en) | Network optimization system using server latency measurements | |
CN116962446B (zh) | 一种NVMe-oF链路动态管理方法及系统 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20021029 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20081115 Year of fee payment: 6 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20081115 Year of fee payment: 6 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20091115 Year of fee payment: 7 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20101115 Year of fee payment: 8 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20101115 Year of fee payment: 8 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20111115 Year of fee payment: 9 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20111115 Year of fee payment: 9 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20121115 Year of fee payment: 10 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20121115 Year of fee payment: 10 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20131115 Year of fee payment: 11 |
|
LAPS | Cancellation because of no payment of annual fees |