JP3989682B2 - キャッシュ・サーバ・ロード・バランシング方法 - Google Patents
キャッシュ・サーバ・ロード・バランシング方法 Download PDFInfo
- Publication number
- JP3989682B2 JP3989682B2 JP2000576365A JP2000576365A JP3989682B2 JP 3989682 B2 JP3989682 B2 JP 3989682B2 JP 2000576365 A JP2000576365 A JP 2000576365A JP 2000576365 A JP2000576365 A JP 2000576365A JP 3989682 B2 JP3989682 B2 JP 3989682B2
- Authority
- JP
- Japan
- Prior art keywords
- load
- cache
- cache server
- request
- transfer
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F17/00—Digital computing or data processing equipment or methods, specially adapted for specific functions
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
- G06F9/5005—Allocation of resources, e.g. of the central processing unit [CPU] to service a request
- G06F9/5027—Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resource being a machine, e.g. CPUs, Servers, Terminals
- G06F9/505—Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resource being a machine, e.g. CPUs, Servers, Terminals considering the load
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Software Systems (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- Databases & Information Systems (AREA)
- Mathematical Physics (AREA)
- Computer And Data Communications (AREA)
- Information Transfer Between Computers (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
- Multi Processors (AREA)
Description
【０００１】
技術分野
本発明は、連携キャッシュ・サーバ相互間のロード・バランシングに関し、詳しくは、ロード状態及び連携キャッシュ・サーバからリクエストが転送される頻度に基づいたロード・バランシングに関するものである。
【０００２】
背景技術
ワールド・ワイド・ウェブの使用法における成長は急激に増大してきた。その結果、ウェブ・オブジェクトのアクセスに対する応答時間は満足し得ないほど遅いものとなることがある。ウェブ・アクセス・タイムを改良するための１つの方法は、ブラウザと起点ウェブ・サーバとの間で１つ又は複数のプロキシ・キャッシュ・サーバを使用することである。プロキシ・キャッシュ・サーバの例は、ＩＢＭ社から出ているＮＥＴＦＩＮＩＴＹ（商標）サーバのようなマイクロソフト社のＷｉｎｄｏｗｓ ＮＴ（商標）を走らせるＰＣサーバのクラスタ、及びＩＢＭ ＲＳ／６０００（商標）又はＳＰ／２（商標）のようなＩＢＭ社のＡＩＸ（商標）オペレーティング・システムを走らせるワークステーション・サーバを含む。実際に、インターネット・サービス・プロバイダ（ＩＳＰ）社のような益々多くの組織が、応答時間の改良及びインターネットに対するトラフィックの減少を助けるために連携プロキシ・キャッシュ・サーバの集合体を使用しようとしている。連携キャッシュ・サーバの集合体は、信頼性及び性能に関して単一のキャッシュ・サーバを越える卓越した利点を有する。１つのキャッシュ・サーバが故障した場合でも、リクエストは他の連携キャッシュ・サーバによってサービスされることが可能である。リクエストはサーバ相互間で分散され、従って、スケーラビリティを高めることができる。結局、リクエストされたオブジェクトがそれらのキャッシュ・サーバの１つにおいて見つかる確立が高くなるように、総合キャッシュ・サイズは非常に大きいものである。
【０００３】
連係キャッシュ・サーバの場合、キャッシュ・ミスによりローカル的にサービスされ得ないリクエストは、そのリクエストされたオブジェクトを記憶する他のキャッシュ・サーバに転送されることがある。その結果、キャッシュ・サーバに到来し得るリクエストには２つの種類、即ち、直接リクエスト及び転送リクエストが存在する。直接リクエストは、クライアントから直接に受け取られるリクエストである。転送リクエストは、他のキャッシュ・サーバにおけるキャッシュ・ミスのためにそれらのクライアントに代わりに他のキャッシュ・サーバから到来するリクエストである。リクエストがキャッシュ・サーバ相互間で転送されることによって、その時点ではほとんどのクライアントが関連するイン・デマンド（又は、"ホット"）オブジェクトを１つのキャッシュ・サーバが含むということが生じる場合、そのキャッシュ・サーバは容易にオーバロードになってキャッシュ・サーバ相互間で不平等なワークロードを生じさせることになる。同じオーバロードのキャッシュ・サーバがそれに転送されたリクエストに応答することを大多数のキャッシュ・サーバは期待するので、不平等なワークロードはパフォーマンス障害を生じさせることがある。従って、プロキシ・キャッシュ・サーバの集合体の間で動的なロード・バランシングを行うための方法に対する要求が存在する。本発明はそのような要求に対処するものである。
【０００４】
ロード・バランシングは、伝統的には、到来する直接リクエストをキャッシュ・サーバ相互間で「公平に分散させる」フロント・エンド・スケジューラによって行われる。例えば、ロード・バランシングは、サン・マイクロシステムズ社によるＮＥＴＲＡ（商標）プロキシ・キャッシュによって行われるように、マッピング・テーブルを操作することによってＤＮＳレベルで行われ得るものである（サン・マイクロシステムズ社の「プロキシ・キャッシュ・サーバ 製品概要（Proxy Cache Server, Product Overview）白書 http://www.sun.com/ 参照）。サーバのクラスタ相互間のロード・バランシングは、ＩＢＭ社によって提案されたＮＥＴＤＩＳＰＡＴＣＨＥＲ（商標）のようなフロント・エンド・ルータによっても行われ得るものである（例えば、IBM Research Report, RC 20853, May 1997 における G. Goldman 及び G. Hunt 氏による "NetDispatcher: A TCP Connection Router"と題した論文参照）。ここでは、到来するリクエストはＮＥＴＤＩＳＰＡＴＣＨＥＲ（商標）によってそのクラスタにおける最もロードの少ないサーバに分配される。しかし、これらの伝統的な方法は「直接リクエスト」だけを分配し、同じプロキシ・サーバへ同時に転送されるホット・オブジェクトに対する過剰のリクエストに起因したロード・インバランス問題を処理するものではない。本発明はそのような要求に対処する。
【０００５】
連係キャッシング又はリモート・キャッシングは、システム・パフォーマンスを改善するために分散型ファイル・システムにおいて使用されている（例えば、１９９４年の Pro. of 1st Symp. on Operating Systems Design and Implementation誌の pp.1-14 における M. D. Dahlin 氏他による「連係キャッシング：ファイル・システム・パフォーマンスを改善するためにリモート・クライアント・メモリを使用する（Cooperative caching : Using Remote Client Memory to Improve File System Performance）」と題した論文参照）。ここでは、ＬＡＮ上に分散したワークステーションの集合体のファイル・キャッシュが更に効果的な総合ファイル・キャッシュを形成するように調整される。各ワークステーションは、ローカル・リクエストによって参照されたオブジェクトのみならず、リモート・ワークステーションからのリクエストによって参照され得るオブジェクトもキャッシュする。ローカル・キャッシュ・ミスの時、ローカル・リクエストは、コピーが見つかる場合、そのコピーを得ることができる他のクライアント・ワークステーションに送られることも可能である。別の方法では、オブジェクトはオブジェクト・サーバから得られる。ここで重要なことは、主として、更新の際にキャッシュ・コヒーレンシを維持する方法及びローカル的に置換されたオブジェクトを他のワークステーションのキャッシュ・メモリに移動することによってキャッシュ・ヒット率を維持する方法である。動的なロード・バランシングは存在しない。
【０００６】
連係キャッシングは、アクセス・タイムを減少させるために集合プロキシ・キャッシュ・サーバにおいても使用される。キャッシュ・ミスの時、場合によってはＷＡＮを通して起点のウェブ・サーバへ直接に指向する代わりに、キャッシュ・サーバは、ＬＡＮ又は地域的なエリア・ネットワークにおける連係キャッシュ・サーバからオブジェクトを得るようにリクエストを転送してもよい。例えば、ＳＱＵＩＤシステムにおけるローカル・キャッシュ・ミスの時、キャッシュ・サーバは（インターネット・キャッシュ・プロトコル（ＩＣＰ）を使用して）他のキャッシュ・サーバのセットにリクエストをマルチキャストする（D. Wessels氏他による「Ｓｑｕｉｄインターネット・オブジェクト・キャッシュ（Squid Internet Object Cache）」と題した論文参照 http://squid.nlanr.net/）。それらのキャッシュがリクエストされたオブジェクトを含む場合、これらの連係キャッシュ・サーバは、それを表すメッセージでもって応答する。そこで、そのリクエストされたオブジェクトは、インターネット上のオリジナル・ウェブ・サーバの代わりに、そのリクエストに最初に応答した連係キャッシュ・サーバから得られる。しかし、タイム・アウト期間を過ぎてもどれも応答しない場合、そのリクエストされたオブジェクトは起点のウェブ・サーバからフェッチされるであろう。転送リクエストのために、キャッシュ・サーバにおいてロード・インバランスが生じることがある。
【０００７】
マルチキャスティングの代わりに、ＣＲＩＳＰシステムは、他のプロキシ・サーバにおいてキャッシュされたオブジェクトを見つけるためにロジカル・セントラル・ディレクトリを使用する（１９９７年 Duke University 発行の Technical Report CS-1997-18, Dept. of Computer Science 誌における S. Gadda 氏他による「スケーラブル・インターネット・キャッシュのためのディレクトリ構造（Directory Structure for Scaleable Internet Caches）」と題した論文参照）。ここでは、キャッシュ・ミスの際、キャッシュ・サーバはディレクトリ・サーバにそのオブジェクトに関して尋ねる。キャッシュ・オブジェクト記憶装置が表す主要な意味に従って、ディレクトリ・サーバは、そのオブジェクトを含んだキャッシュを有するサーバにそのようなリクエストを送る。それが見つかった場合、そのオブジェクトはリクエスティング・サーバに送られ、一方、オリジナル・サーバはそのオブジェクトをキャッシュし続ける。リクエストされたオブジェクトのコピーを有するキャッシュがない場合、リクエスティング・サーバは起点のウェブ・サーバからインターネットを介して（場合によってはＷＡＮを介して）そのオブジェクトを得る。再び、これは、このキャッシュ・サーバに転送されたその後のリクエストによって、そのキャッシュ・サーバにおいてロード・インバランスを生じさせることがある。
【０００８】
連係キャッシュ・サーバにおいてオブジェクトを見つけるための更にもう１つの方法はハッシュ関数によるものである。その一例がキャッシュ・アレイ・ルーティング・プロトコル（ＣＡＲＰ）である（V. Valloppillil 及び K. W. Ross 氏による「キャッシュ・アレイ・ルーティング・プロトコル v1.0（Cache Array Routing Protocol v1.0」と題した論文参照 http://ircache.nlanr.net/Cache/ICP/draft-vinod-carp-v1-03.txt, Feb. 1998）。ＣＡＲＰでは、オブジェクト・スペース全体が連係キャッシュ・サーバ相互間で、各キャッシュ・サーバに対して１つのパーティションでもって区画化される。構成されたクライアント・ブラウザからのリクエストがキャッシュ・サーバによって受け取られる時、そのパーティションを識別するためにＵＲＬ又は宛先ＩＰアドレスのようなそのリクエストからのキーにハッシュ関数が適用される。リクエスティング・キャッシュ・サーバにハッシュ・パーティションが割り当てられる場合、そのリクエストはローカル的にサービスされる。そうでない場合、それは、識別されたパーティションにおける適切なキャッシュ・サーバに転送される。
【０００９】
ＳＱＵＩＤ、ＣＲＩＳＰ、及びＣＡＲＰは、ミスしたオブジェクトのためにＷＡＮを通さなければならない可能性を減ずるために他のプロキシ・サーバのキャッシュを使用する。それらは、リクエストされたオブジェクトのコピーを含み得るキャッシュを持った連係キャッシュ・サーバを見つけるための機構が異なっている。各キャッシュ・サーバは２種類のリクエスト、即ち、直接リクエスト及び転送リクエストをサービスする。直接リクエストは、プロキシ・サーバに接続されたブラウザから直接に行われるリクエストである。転送リクエストは、リクエストされたオブジェクトを持たないキャッシュを有する連係キャッシュ・サーバによって行われるリクエストである。いずれの場合も、プロキシ・サーバが所与の瞬間にキャッシュするオブジェクトのタイプに従って、それのＣＰＵは、それが直接リクエスト及び転送リクエストの両方をサービスするのに忙しいので、オーバロードなることがある。
【００１０】
発明の開示
前述の要求に従って、本発明の１つの局面はキャッシュ・サーバ・バランシング方法を提供する。その方法は、連係キャッシュ・サーバにおける１つのオブジェクトに関するキャッシュ・ミスに応答してその連係キャッシュ・サーバから転送リクエストを受け取るステップと、ロード状態及びそのオブジェクトに対する転送頻度に基づいて連係キャッシュ・サーバ相互間で前記転送リクエストのうちのそのオブジェクトに対する１つ又は複数個の転送リクエストをシフトするステップを含む。
【００１１】
本発明のもう１つの局面は、各キャッシュ・サーバが直接リクエスト及び転送リクエストを受け取ることができ、しかも、キャッシュ・ミスが生じた場合、そのオブジェクトをキャッシュする所有キャッシュ・サーバにリクエストが転送されることがある連携キャッシュ・サーバの集合体においてロード・バランスする方法を提供する。この方法は、前記連携キャッシュ・サーバに対するロード状態及び転送頻度をモニタするステップと、そのロード状態及び転送頻度の変化に基づいて１つの連携キャッシュ・サーバから第２の連携キャッシュ・サーバに１つ又は複数個の転送リクエストをシフトするステップとを含む。
【００１２】
例えば、連携プロキシ・キャッシュ・サーバの集合体を含むシステムでは、リクエストされたオブジェクトがローカル的に見つからない場合、リクエストは他の連携キャッシュ・サーバに転送可能である。そのオブジェクトを起点ウェブ・サーバからインターネットを介してフェッチする代わりに、キャッシュ・サーバはローカル・エリア・ネットワーク又はイントラネットにおける連携キャッシュ・サーバからコピーを得ることができる。１つのオブジェクトへのアクセスのための平均的な応答時間を連携キャッシュ・サーバによってかなり改善することが可能である。しかし、リファレンス・スキューのために、或るオブジェクトはすべてのクライアントによる高い需要があることがある。その結果、それらのホット・オブジェクトを含むプロキシ・キャッシュ・サーバは、他のキャッシュ・プロキシ・キャッシュ・サーバから到来する転送リクエストによってオーバロードになり、パフォーマンス障害を生じることがある。本発明によれば、出願人は、オーバロードのキャッシュ・サーバから少ないロードのキャッシュ・サーバに幾つかの又はすべての転送リクエストをシフトすることによる、連携プロキシ・キャッシュ・サーバの集合体のロード・バランシング方法を提案する。
【００１３】
本発明によるキャッシュ・サーバ・ロード・バランシング方法の一例は、連携キャッシュ・サーバにおけるオブジェクトに関するるキャッシュ・ミスに応答して連携キャッシュ・サーバから転送リクエストを受け取るステップと、ロード状態及びそのオブジェクトに対する転送頻度に基づいて連携キャッシュ・サーバ相互間でそのその転送リクエストのうちのそのオブジェクトに対する１つ又は複数個の転送リクエストをシフトするステップとを含む。
【００１４】
本発明は、所有キャッシュ・サーバにおけるロード状態及びそれに対する転送頻度を周期的にモニタするフィーチャ、及び、そのモニタリングに応答して、キャッシュされたオブジェクトに関する１つ又は複数のその後の転送リクエストを、その所有キャッシュ・サーバから１つ又は複数の連携キャッシュ・サーバに先見的にシフトするためのフィーチャも含む。別の方法として、そのシフトするステップは、更に、転送リクエストの受け取りに応答してロード状態及び転送頻度をチェックするステップを含む。１つの例では、連携キャッシュ・サーバのロード状態は、前記連携キャッシュ・サーバへの前記転送リクエストの数及び直接リクエストの数のウェート付けされた和である。別の例では、キャッシュ情報が各オブジェクト・レベル又はオブジェクト・レベルのパーティションにおいて維持される。
【００１５】
本実施例は、集中型環境及び分散型環境の両方及びそれらの種々のハイブリッドを含んだ、ロード・バランシングを遂行するための種々のインプリメンテーションを含む。例えば、分散型ロード・モニタは、各連携キャッシュ・サーバにおけるキャッシュされたオブジェクトに対するローカル・ロード状態、転送頻度、及び所有の情報をモニタし及び維持するために使用可能である。連携キャッシュ・サーバは、ロード状態情報、転送頻度、及び所有の情報のうちの１つ又は複数個を定期的に交換及び維持することができる。例えば、連携キャッシュ・サーバは、ロード状態情報、転送頻度、及び所有の情報の１つ又は複数個を、１つ又、複数の転送リクエスト及び応答と結合することによって情報を交換することができる。
【００１６】
もう１つの例では、オーバロードの連携キャッシュ・サーバが少ないロードの連携キャッシュ・サーバを識別することができ、シフト・リクエスト及びキャッシュされたオブジェクトのコピーを（その後そのオブジェクトをキャッシュする）少ないロードの連携キャッシュ・サーバにコミュニケートすることができるので、そのオブジェクトに対するその後のリクエストは転送されないであろう。別の代替え方法として、オーバロードの連携キャッシュ・サーバは、少ないロードの連携キャッシュ・サーバにシフト・リクエストコミュニケートすることができる。その後、その少ないロードの連携キャッシュ・サーバは、シフト・リクエストに応答して起点オブジェクト・サーバからオブジェクトのコピーを得る。更にもう１つの代替え方法では、所有キャッシュ・サーバは、その後の転送リクエストがシフトされるように、１つ又は複数の他の連携キャッシュ・サーバにシフト・リクエスト・メッセージをマルチキャストすることができる。
【００１７】
本発明の完全分散型のインプリメンテーションでは、連携キャッシュ・サーバは、それぞれ、ロード状態をモニタし且つローカル的に維持するための分散型ロード・モニタを含むことができ、キャッシング・テーブルのローカル・コピーにおいて又はハッシュ関数によって転送頻度及び所有情報を維持することもできる。連携キャッシュ・サーバは、キャッシング・テーブルのローカル・コピー又はハッシュ関数によって所有情報を修正することができる。
【００１８】
本実施例は、オブジェクトに関する所有を少なくとも２つの連携キャッシュ・サーバ相互間で共同所有に修正するためのフィーチャ及びその後のオブジェクト・リクエストをそのオブジェクトの１つ又は複数の少ないロードの共同所有者に転送するための更に別のフィーチャを含む。共有オブジェクトに対するロード状態の減少が検出される場合、そのロード状態の減少に応答して、共同所有は一体化されることが可能である。
【００１９】
更にもう１つの例では、ロード状態及び転送頻度に基づいて１つ又は複数の転送リクエストをシフトすることは、オブジェクトのコピーを所有キャッシュ・サーバから１つ又は複数の連携キャッシュ・サーバにコミュニケートすることによって達成され得るし、従って、（そのオブジェクトが受領側のキャッシュに残っている限り）その後のリクエストは転送されないであろう。
【００２０】
本実施例による集中型環境の一例は、連携キャッシュ・サーバに対する転送頻度及びロード状態を維持するための集中型論理的ロード・モニタを含む。そのロード・モニタは、それらのキャッシュ・サーバにおけるロードをモニタするためのロード・テーブル、並びに転送頻度をモニタし且つオブジェクトを見つけるためのキャッシング・テーブル（又は、ハッシュ関数）を維持するための論理的ディレクトリ・サーバを含むことがある。そのディレクトリ・サーバは、ローカル的にミスしたオブジェクトのに対する他のキャッシュ・サーバにおけるオブジェクト・ロケーションに関するリクエストを受け取り、ローカル的にミスしたオブジェクトに対するリクエストを転送する。そのディレクトリ・サーバは、オブジェクト・ロケーションに対するリクエストに応答して、ロード及び所与のオブジェクトに対する転送頻度に基づいてキャッシング・テーブルを操作することによって連携キャッシュ・サーバの間でリクエストのロード・バランスをとる。
【００２１】
発明を実施するための最良の形態
集中型アーキテクチャ及び分散型アーキテクチャの両方に対する本実施例のロード・バランシング・ロジックの例を説明することにする。図１は、本発明において提案された集中型ロード・バランシング・ロジックを適用し得る、プロキシ・キャッシュ・サーバの集合体を使用したシステムのブロック図の一例を示す。図示のように、このシステムはプロキシ・キャッシュ・サーバ１５０の集合体を含む。単一レベルのキャッシュ・サーバしか示されてないけれども、キャッシュ・サーバ１５０のハイアラーキがあってもよい。通常のように、これらのプロキシ・キャッシュ・サーバは、ローカル・エリア・ネットワーク（ＬＡＮ）又はリージョナル・エリア・ネットワーク、或いはイントラネット１４０を介して相互に接続される。各キャッシュ・サーバ１５０は広域ネットワーク（ＷＡＮ）又はインターネット１１０にも接続される。そのＷＡＮ及び１１５を介して、これらのプロキシ・キャッシュ・サーバは、それら自身のキャッシュにおいてローカル的に見つけることができないオブジェクトに対する起点ウェブ・サーバにも届き得るものである。
【００２２】
本実施例によれば、論理的ロード・モニタ１２０は、連携キャッシュ・サーバ１５０のロード状態及び転送頻度（図３）をモニタするためのロード・バランシング・ロジック１３０を含み、それらに対してロード・バランシングを施す。後述するように、ロード・モニタ１２０の種々のフィーチャは、１つ又は複数のキャッシュ・サーバに常駐することができ、キャッシュ・サーバの間で重複及び分散されることが可能であり、又はパーソナル・コンピュータ（ＰＣ）サーバ又はワークステーションのような他の専用システムに常駐することができる。集中型のシステム構成では、ロード・モニタ１２０は、転送リクエスト１２５をキャッシュ・サーバに指向させる場合に中央ディレクトリ機能を遂行することができる。１つ又は複数のブラウザ１６０が各キャッシュ・サーバ１５０に接続するように構成可能である。直接リクエスト１５５は、通常のブラウザ１６０を走らせるコンピュータのようなクライアントからその構成されたキャッシュ・サーバ１５０に送られる。リクエストされたオブジェクトがローカル的に見つかる場合、それはブラウザに戻される。そうでない場合、キャッシュ・サーバ１５０はロード・モニタ１２０にメッセージをコミュニケートする。ロード・モニタ１２０に関する種々の例示インプリメンテーションを以下で更に詳細に説明することにする。ロード・インバランス状態又は傾向が終わらない場合、ロード・モニタ１２０は、そのリクエストされたオブジェクトを所有キャッシュ・サーバ１５０にリクエスト１２５を転送する。そこで、その所有キャッシュ・サーバは、例えば、ＬＡＮ１４０を介してリクエスティング・キャッシュ・サーバにそのリクエストされたオブジェクトを送る。
【００２３】
実際のロード・インバランスが識別されるか又はロードの傾向に基づいて予測される場合、ロード・モニタ１２０は、オーバロードのキャッシュ・サーバから１つ又は複数のアンダーロードの（少ないロードの）キャッシュ・サーバへの転送リクエストのシフトを開始させる。更に詳細に後述するように、所有のシフトは、サーバ１５０のロード状態及び転送頻度、並びに他の要素に基づき得るものである。
【００２４】
図３及び図４は、ロードモニタによって維持された２つのテーブルのデータ・フォーマットの例を示す。図示のように、それらのテーブルはロード・テーブル１０２及びキャッシング・テーブル１０１を含む。単一のテーブル又は種々の他のデータ構造が代替的に又は等価的に使用可能であることは当業者には明らかであろう。ロード・テーブル１０２は、オーバロード及びアンダローダのサーバが識別されるように、各キャッシュ・サーバ１５０（Ａ、Ｂ、Ｃ・・・"１０２２"）のロード状態１０２１を含む。通常のように、ロード状態１０２１は各キャッシュ・サーバをプローブすることによって定期的に更新可能である。キャッシュ・サーバのロードは、転送リクエストの数及び直接リクエストの数のウェート付けされた和であってもよい。オーバロードのキャッシュ・サーバ１５０は任意の一般的な技法によって識別可能である。例えば、ロード・モニタは過去のインターバルにおけるすべてのプロキシ・キャッシュ・サーバの平均的ロードを計算することができる。オーバロードのキャッシュ・サーバは、その平均的なロードより上の閾値を越えたロードを有するサーバとなり得る。
【００２５】
本実施例によれば、ロード・バランシングは、オーバロードの量及びキャッシュされたオブジェクトの転送頻度１０１１によるロードを考慮している。このように、ロード・モニタは、オーバロードのキャッシュ・サーバＣ"１０２１３"からアンダロードのキャッシュ・サーバＡ"１０２１１"にいくつかの又はすべての転送リクエストをシフトし続けるべきかどうかを決定することができる。キャッシング・テーブル１０１は、１つのオブジェクト又はオブジェクトのパーティションに関する転送頻度１０１１及び所有１０１２の情報を含んでいる。後述するように、所有は、Ａ"１０１２２"におけるような単独であってもよく、或いは２つ又はそれ以上の連携キャッシュ・サーバの間の共有Ｂ、Ｃ"１０１２１"及びＣ，Ａ"１０１２３"であってもよい。転送頻度１０１１は、オブジェクトに対するリクエストがロード・モニタを通して転送された回数を表す。転送頻度１０１１に加えて、キャッシング・テーブル１０１は、オブジェクトに対するリクエストが転送された最新の時間を表すタイムスタンプ１０１３を維持することもできる。更に、オブジェクト又はパーティションに対するキャッシング情報は、ロード・モニタ１２０によってオブジェクトｉｄ又はパーティションｉｄ１０１０に対する所与の時間的期間における転送頻度（カウント／時間）を含むことが可能である。代替え方法として、オブジェクトｉｄ／パーティションｉｄ１０１０はオブジェクト識別子に関するハッシュ関数に基づくものであってもよく、或いは、ウェブ・サーバにおいてオブジェクトが編成されるというディレクトリ構造に基づくものであってもよい。パーティションの場合、１つのパーティションに属する如何なるオブジェクトもロード・モニタによって転送されるであろう。所有のシフトは、サーバのロード状態、転送頻度１０１１、及びタイム・スタンプ情報のような他の情報に基づくことも可能である。
【００２６】
図５は、キャッシュ・ミスのために、キャッシュ・サーバ１５０からのリクエスト１２５に応答してロード・モニタ１２０によって取られるステップに対するロジック・フローの一例を示す。図示のように、ステップ２０１において、リクエストされたオブジェクト／パーティションがキャッシング・テーブルにおいて見つかるかどうか知るためのチェックが行われる。それが見つからない場合、ステップ２０２において、そのオブジェクト／パーティションのための新しいエントリが作成され、１つのキャッシュ・サーバがそれの所有者として割り当てられる。キャッシング・テーブルにおいてエントリが見つかる場合、ステップ２０３において、転送頻度１０１１が更新される、例えば、１だけインクレメントされる。そこで、ロード・モニタは、ステップ２０４において、その所有者がその時オーバロードであるかどうか（及び、転送頻度１０１１がそれに対する重要な貢献者であること）を知るためにロード・テーブル１０２を調べる。それが肯定される場合、ステップ２０５において、ロード・モニタはアンダロード（又は少ないロードの）キャッシュ・サーバを見つけ、それをそのリクエストされたオブジェクトの新しい（又は、共同の）所有者"１０１２２"として割り当てる。従って、キャッシング・テーブル１０１におけるオブジェクトに対する所有情報１０１２が更新される。そのロジック・フローがキャッシング・テーブル１０１又は使用される他のデータ構造における共同所有"１０１２３"又は階層的所有１０１２より成り得ることは当業者には明らかであろう。そこで、リクエスト（おそらく、そのリクエストされたオブジェクトのコピーを有するリクエスト）が、ステップ２０６において、新しい単独の所有者"１０１２２"（又は、共同所有者 "１０１２３"）に転送される。
【００２７】
別の方法として、新しい所有者は、起点オブジェクト・サーバから、例えば、インターネット１１０を介してオブジェクト・コピーを得るようにリクエストすることが可能である。所与のオブジェクトｉｄ／パーティションｉｄ１０１０及びキャッシュ・サーバ（所有１０１２）に対して、少なくとも部分的には高い転送頻度１０１１のために、ロード・チェック・ステップ２０４が先見的に、即ち、定期的に、或いは、識別されたオーバロード又はオーバロード傾向のロード状態１０２１に応答して遂行され得ることは当業者には明らかであろう。それが肯定される場合、ステップ２０５において、ロード・モニタはアンダロードの（少ないロードの）キャッシュ・サーバを見つけ、それをそのリクエストされたオブジェクトの新しい（又は、共同の）所有者として割り当て、おそらく、上記のように新しい（共同の）所有者にそのオブジェクトのコピーを送る。逆に、ステップ２０８において共同所有モデルが使用される場合、共同所有オブジェクト（ｐ "１０１０１"）に対するロード状態１０２１１及び転送頻度１０１１１が所定の閾値以下に降下する時、ステップ２０９において、共同所有（Ｂ，Ａ "１０１２１"）は、例えば、他のホット・オブジェクトのための空間を作るために、単独の所有及びキャッシュ・サーバＢ，Ａ "１０１２１"の１つからそれらの追放されたコピーの１つにマージされることもあり得る。
【００２８】
図６は、１つのオブジェクトに対するリクエストがブラウザ１６０から直接に受け取られる（１５５）又はロード・モニタ１２０から転送される（１２５）時のキャッシュ・サーバに対するロジック・フローの一例を示す。図示のように、ステップ３０１において、それは、先ず、リクエストされたオブジェクトがそれにキャッシュにおいてローカル的に見つかるかどうかを知るためのチェックを行う。それが肯定される場合、ステップ３０２において、それはオブジェクトを戻し、ステップ３０６において、プロセスは終了する。そうでない場合、ステップ３０３において、リクエストが直接リクエストであるか又は転送リクエストであるかを知るためのチェックが行われる。それが直接リクエストである場合、ステップ３０４においてそのリクエストはロード・モニタに送られ、ステップ３０６においてプロセスは終了する。一方、そのリクエストが転送リクエストである場合、ステップ３０５においてキャッシュ・サーバは起点のウェブ・サーバからオブジェクトをフェッチし、そのオブジェクトを戻すであろう。そこで、ステップ３０６においてプロセスは終了である。
【００２９】
次に、図１及び図２に戻ると、例えば、キャッシュ・サーバＣ "１０２２３"に接続しているブラウザ１６０がオブジェクトｐ "１０１０１"を接続するものと仮定する。キャッシング・テーブル１０１から、オブジェクトｐ "１０１０１"がサーバＣにおいてキャッシュされず、（Ｂ，Ａ "１０１２１"が、最初は、Ｂによって単独で指定されるだけであると仮定すると）キャッシュ・サーバＢにおいてキャッシュされる（キャッシュ・サーバＢによって「所有される」）ことがわかる。オブジェクトｐにおけるキャッシュ・ミスに応答して、サーバＣ "１０２２３"はオブジェクトｐに対するリクエストをロード・モニタ１２０に送る。サーバＢにおけるロード状態"１０２１２"及びｐ "１０１０１"に対するリクエストの転送頻度１０１１に従って、ロード・モニタは、オブジェクトｐのコピーをサーバＣに送ることを要請するリクエストをサーバＢに転送することが可能である。或いは、サーバＢがその時オーバロードである場合又はそのような傾向にある場合、ロード・モニタは、オブジェクトｐの新しい（又は、Ｂ，Ａ "１０１２１"におけるように共同の）所有者として働くようにアンダロードの（又は、少ないロードの）サーバを見つけることによってその転送リクエストをシフトしてもよい。そこで、リクエストはそのオブジェクトに対する新しい（又は、共同の、例えば、Ａの）所有サーバに転送される。所有の移動の後でも、オブジェクトｐのコピーは依然としてサーバＢのキャッシュにあり、依然として、サーバＢに到来する直接リクエストをサービスすることができる。しかし、この例では、オブジェクトｐに対するすべての（又は、共同所有の場合にはいくつかの）その後の転送リクエストはサーバＡにシフトされるであろう。別の方法として、共同所有Ｂ，Ａ "１０１２１"の場合、オブジェクトｐ "１０１０１"に対するその後の転送リクエストが少ないロードのサーバに送られることも可能である。
【００３０】
今や、オブジェクト見つけるために論理的に中心のディレクトリが使用されるプロキシ・キャッシュ・サーバの集合体に関して本実施例によるロード・バランシング方法を説明したが、種々の代替え方法が考えられるであろう。本発明は、更に、これらのシステムに対するロード・バランシングを得るためにも適用可能である。
【００３１】
例えば、本発明は、ローカル的にミスしたオブジェクトのコピーを見つけるために各キャッシュ・サーバ１５０が連携キャッシュ・サーバのリストをマルチキャストする連携プロキシ・キャッシュ・サーバの集合体に対してロード・バランシングを行うように構成可能である。この場合、特定の所有情報がそのシステム内のどこかに維持される必要はない。しかし、それらの連携キャッシュ・サーバからオブジェクトが見つかるという保証もない。すべてのプロキシ・キャッシュ・サーバのロード状態１０２１を維持するために及びこの情報を各キャッシュ・サーバ１５０と共有するために論理的ロード・モニタ１２０が使用されるものと仮定する。ロード・バランシングは、キャッシュ・サーバがそれのリクエスト（シフト・リクエストとも呼ばれる）をマルチキャストする宛先の連携サーバのリストからオーバロードのサーバを排除することによって達成され得る。その結果、少ないロードのキャッシュ・サーバだけが転送リクエスト１２５を受け取るであろう。
【００３２】
もう１つの代替え方法は、ローカル的にミスしたオブジェクトのコピーを見つけるためにハッシュ関数が使用されるという連携プロキシ・キャッシュ・サーバの集合体のためのロード・バランシング方法である。この場合、連携プロキシ・キャッシュ・サーバ１５０の間で、各キャッシュ・サーバに対して１つのパーティションとして、オブジェクト空間を区画化することが可能である。転送リクエストをシフトすることによってロード・バランシングを達成するためには、転送リクエストがオーバロードのサーバに指向しないようにハッシュ関数を変更することが可能である。１つの望ましい方法は、プロキシ・キャッシュ・サーバの合計数よりもずっと大きい多数のバケットにオブジェクト空間をハッシュすることである。その場合、これらのハッシュ・バケットは、キャッシュ・サーバの間でロードをバランスさせるという最終目的を持ってそれらのキャッシュ・サーバに割り当てられる。ハッシュ関数を効果的に変更して、１つのオーバロードのサーバからアンダロードのサーバに１つ又は複数のハッシュ・バケットを定期的に移動させることが可能である。
【００３３】
いずれの場合も、連携キャッシュ・サーバのロード状態は、計算されたロード状態に直接に転送頻度で解することができる。例えば、ロード状態は、前記転送リクエストの数及び前記連携キャッシュ・サーバへの直接リクエストの数のウェート付けされた和であってもよい。別の方法として、ロード・モニタは、各連携キャッシュ・サーバに対する転送頻度全体を別々に維持することもできる。
【００３４】
図２、図３及び図４を参照すると、更に別の代替え方法は、分散しているロード・モニタ１２０である。即ち、キャッシュ・サーバ１５０にまたがっていくつかの又はすべてのロード・モニタが複製される。１つの例では、分散ロード・モニタは、連携キャッシュ・サーバのローカルのロード状態情報１０２１（及び、後述するように、おそらく、Ａ、Ｂ、Ｃ、．．．"１０２２"すべてのロード状態）を含む。分散ロード・モニタ１２０' は、各オブジェクトｉｄ／パーティションｉｄ １０１０に対する転送頻度１０１１及び所有１０１２の情報を持ったキャッシング・テーブル１０１も含むことが望ましい。別の方法として、例えば上記のようなハッシュ関数は分散され、キャッシュ・サーバに記憶されてもよい。ロード状態情報１０２１及び／又はキャッシング・テーブル１０１は、状態の変化（所有、又はロード状態の重大な変化）がある時、又はキャッシュ転送リクエスト及び応答と共に結合処理される時、定期的に交換可能である。ロード状態情報１０２１は、トラッキングのために又は他の目的でそれと関連づけられたタイム・スタンプ（図示されてない）を持つこともできる。
【００３５】
ここで、キャッシュ・サーバ１５０がキャッシュ・ミスを有する場合、ローカルのロード・モニタ１２０' は、それのローカル・キャッシング・テーブル１０１においてそのリクエストされたオブジェクトの所有者をルップアップし、そのリクエストを所有キャッシュ・サーバに転送する。別の方法として、ハッシュ関数が、パーティションを識別するためにＵＲＬ又は宛先ＩＰアドレスのようなリクエストからのキーに適用され、しかる後そのリクエストが正しいキャッシュ・サーバに転送されてもよい。転送リクエスト（即ち、キャッシュ・ミスを持ったキャッシュ・サーバからのリクエスト）が受け取られる時、所有キャッシュ・サーバは、それを転送リクエストとして（例えば、クライアントと対立する他のキャッシュ・サーバからのリクエストとしてそれを識別することによって）識別し、それの転送頻度情報１０１１を適用可能なものとして更新する（図５のステップ２０３）。オーバロードの傾向又は状態が現れる場合（ステップ２０４）、所有キャッシュ・サーバは、シフト・リクエスト及びキャッシュされたオブジェクトのコピーでもってリクエスティング・キャッシュ・サーバに応答することができる。
【００３６】
別の方法として、リクエスティング・キャッシュ・サーバは、起点オブジェクト・サーバからイントラネット、ＷＡＮ、又はインターネットを介してコピーを得ることができる。いずれの場合も、転送サーバがそのオブジェクトのコピーをキャッシュする時、このサーバは、それがキャッシュに残っている限り、転送リクエストを最早発生しないであろうし（ステップ３０１，３０２）、従って、所有キャッシュ・サーバにおけるロードを比例的に減少させるであろう。更に、所有キャッシュ・サーバは、シフト・リクエスト・メッセージを１つ又は複数の他の連携キャッシュ・サーバ１５０にマルチキャストすることができ、従って、その後の転送リクエストは、例えば、キャッシュ・テーブルのそれらのローカル・コピーを更新することによって又はハッシュ関数を修正することによってシフトされるであろう（ステップ２０５）。この時点で、他のキャッシュ・サーバは、キャッシング・テーブル１０１のそれらのローカル・コピーに表されるように、新しい所有者に（又は、所有を分け合う場合には２つ又はそれ以上のキャッシュ・サーバ１５０の最も少ないロードの所有者に）それらのリクエストを転送することができる。オリジナル・キャッシュ所有者のロードが受容可能なレベル、例えば、閾値によって表されるレベルまで減少した時（ステップ２０４）、共同所有者の情報はそれのオリジナル状態にマージされ得る（例えば、Ｂ，Ａ "１０１２１"-->Ｂ）。
【００３７】
すべてのキャッシュ・サーバ（Ａ，Ｂ，Ｃ、．．．"１０２２"）に対するロード状態情報１０２１が十分に分散している場合、リクエスティング・キャッシュ・サーバは所有サーバのロード状態（及び関連するタイム・スタンプ）を先見的に、即ち、そのリクエストを転送する前にチェックすることができるであろう。それがオーバロードである場合、リクエスティング・キャッシュ・サーバは所有キャッシュ・サーバから（又は、起点キャッシュ・サーバからイントラネット又はインターネット１１０を介して）オブジェクトのコピーを、及び、恐らく、ロード状態情報をリクエストすることができるであろう。所有キャッシュ・サーバはそれのキャッシング・テーブルを更新すること又は新しい共同所有を表すようにハッシュ関数を修正することができるであろう。そこで、リクエスティング・サーバ（又は、所有サーバ）は、そのオブジェクトの新しい共同所有を表すメッセージを他のすべてのキャッシュ・サーバ１５０にマルチキャストすることができ、恐らく、更新されたロード状態を含むことができるであろう。この時点で、他のキャッシュ・サーバはそれらのキャッシング・テーブルを更新するか又は新しい共同所有を表すようにハッシュ関数を修正するであろうし、キャッシング・テーブル１０１のローカル・コピーにおいて表された所有を分け合う２つ又はそれ以上のキャッシュ・サーバ１５０の最も少ないロードの所有者にそれらのリクエストを転送することができる（ステップ２０６）。共有キャッシュ所有者のロードが、例えば、閾値によって表されるような受容可能なレベルまで減少した時（ステップ２０４及び２０８）、ステップ２０９において、所有情報はそれのオリジナル状態にマージされることが可能である。
【００３８】
本発明の望ましい実施例は、キャッシュ・サーバ１５０を具備したプロセッサ（図示されてない）上で又は前述の集中型モデルのようなロード・モニタ１２０を具体化した他のコンピュータ上で実行するためのコンピュータ・プログラム製品又はプログラム記憶装置において有形的に具体化されたソフトウエアとしてインプリメントされ得るフィーチャを含んでいる。例えば、ＪＡＶＡのような一般的なオブジェクト指向コンピュータの実行可能なコードでインプリメントされたソフトウエアは種々なプラットフォームに跨る移植性を与える。ＲＥＸＸ、Ｃ、Ｃ++、及びＳｍａｌｌｔａｌｋを含むがそれらに限定されない他の多くのコンパイルされた又はインタープリットされたプロシージャ指向及び／又はオブジェクト指向（ＯＯ）プログラミング環境が使用されてもよいことは当業者には明らかであろう。
【００３９】
本実施例の方法が、磁気的、電気的、光学的、又は他の永続的なプログラム又はデータ記憶装置において具体化され得ることも当業者には明らかであろう。なお、上記の記憶装置は、磁気ディスク、ダイレクト・アクセス記憶装置（ＤＡＳＤ）、バブル・メモリ、テープ、ＣＤ−ＲＯＭ及びＤＶＤのような光ディスク・フォーマット、及び、コア、ＲＯＭ、ＰＲＯＭ、フラッシュ・メモリ又はバッテリ・バックアップＲＡＭのような他の永続的（不揮発性とも呼ばれる）記憶装置を含むが、それらに限定されない。本発明の精神及び技術範囲では、サーバ１２０' のメモリにおいて実証された１つ又は複数のコンポーネントがディスク（図示されてない）、ネットワーク、他のサーバを介して直接にアクセス及び維持され得ることは当業者には明らかであろう。
【００４０】
要約すると、プロキシ・キャッシュ・サーバのような連携キャッシュ・サーバの集合体を含むシステムにおいて、リクエストされたオブジェクトをローカル的に見つけることができなかった場合、１つの連携キャッシュ・サーバにリクエストが転送されることが可能である。例えば、リファレンス・スキューのために、或るオブジェクトがすべてのクライアントによって高い要求状態にある場合、及びそれらのホット・オブジェクトを含むキャッシュ・サーバが転送リクエストのためにオーバロードになっている場合、オーバロード状態が検出される。それに応答して、オーバロードのキャッシュ・サーバから少ないロードのキャッシュ・サーバにいくつかの又はすべての転送リクエストをシフトすることによってロードはバランスをとられる。集中型ロード・バランシング環境及び分散型ロード・バランシング環境の両方が説明されている。
【００４１】
本発明の望ましい実施例を代替え方法と共に説明したけれども、現在及び将来とも、当業者が本願の特許請求の範囲に記載された技術的範囲内で種々の改良及び拡張を行い得ることは明らかであろう。これらの特許請求の範囲は、上述の本発明に対する適正な保護を維持するためのものと解されるべきである。
【図面の簡単な説明】
【図１】 本発明による集中型ロード・バランシング・ロジックを適用し得る、プロキシ・キャッシュ・サーバの集合体を使用するシステムの例をブロック図形式で示す。
【図２】 本発明による分散型ロード・バランシング・ロジックを適用し得る、プロキシ・キャッシュ・サーバの集合体を使用するシステムのもう１つの例をブロック図形式で示す。
【図３】 図１に示されたロード・モニタが維持し得るテーブルに対するデータ・フォーマットの例を示す。
【図４】 図２に示されたロード・モニタが維持し得るテーブルに対するデータ・フォーマットの例を示す。
【図５】 キャッシュ・ミスのために、キャッシュ・サーバからのリクエストに応答してロード・モニタに対するロジック・フローの例を示す。
【図６】 オブジェクトに対するリクエストに応答してキャッシュ・サーバに対するロジック・フローの例を示す。
技術分野
本発明は、連携キャッシュ・サーバ相互間のロード・バランシングに関し、詳しくは、ロード状態及び連携キャッシュ・サーバからリクエストが転送される頻度に基づいたロード・バランシングに関するものである。
【０００２】
背景技術
ワールド・ワイド・ウェブの使用法における成長は急激に増大してきた。その結果、ウェブ・オブジェクトのアクセスに対する応答時間は満足し得ないほど遅いものとなることがある。ウェブ・アクセス・タイムを改良するための１つの方法は、ブラウザと起点ウェブ・サーバとの間で１つ又は複数のプロキシ・キャッシュ・サーバを使用することである。プロキシ・キャッシュ・サーバの例は、ＩＢＭ社から出ているＮＥＴＦＩＮＩＴＹ（商標）サーバのようなマイクロソフト社のＷｉｎｄｏｗｓ ＮＴ（商標）を走らせるＰＣサーバのクラスタ、及びＩＢＭ ＲＳ／６０００（商標）又はＳＰ／２（商標）のようなＩＢＭ社のＡＩＸ（商標）オペレーティング・システムを走らせるワークステーション・サーバを含む。実際に、インターネット・サービス・プロバイダ（ＩＳＰ）社のような益々多くの組織が、応答時間の改良及びインターネットに対するトラフィックの減少を助けるために連携プロキシ・キャッシュ・サーバの集合体を使用しようとしている。連携キャッシュ・サーバの集合体は、信頼性及び性能に関して単一のキャッシュ・サーバを越える卓越した利点を有する。１つのキャッシュ・サーバが故障した場合でも、リクエストは他の連携キャッシュ・サーバによってサービスされることが可能である。リクエストはサーバ相互間で分散され、従って、スケーラビリティを高めることができる。結局、リクエストされたオブジェクトがそれらのキャッシュ・サーバの１つにおいて見つかる確立が高くなるように、総合キャッシュ・サイズは非常に大きいものである。
【０００３】
連係キャッシュ・サーバの場合、キャッシュ・ミスによりローカル的にサービスされ得ないリクエストは、そのリクエストされたオブジェクトを記憶する他のキャッシュ・サーバに転送されることがある。その結果、キャッシュ・サーバに到来し得るリクエストには２つの種類、即ち、直接リクエスト及び転送リクエストが存在する。直接リクエストは、クライアントから直接に受け取られるリクエストである。転送リクエストは、他のキャッシュ・サーバにおけるキャッシュ・ミスのためにそれらのクライアントに代わりに他のキャッシュ・サーバから到来するリクエストである。リクエストがキャッシュ・サーバ相互間で転送されることによって、その時点ではほとんどのクライアントが関連するイン・デマンド（又は、"ホット"）オブジェクトを１つのキャッシュ・サーバが含むということが生じる場合、そのキャッシュ・サーバは容易にオーバロードになってキャッシュ・サーバ相互間で不平等なワークロードを生じさせることになる。同じオーバロードのキャッシュ・サーバがそれに転送されたリクエストに応答することを大多数のキャッシュ・サーバは期待するので、不平等なワークロードはパフォーマンス障害を生じさせることがある。従って、プロキシ・キャッシュ・サーバの集合体の間で動的なロード・バランシングを行うための方法に対する要求が存在する。本発明はそのような要求に対処するものである。
【０００４】
ロード・バランシングは、伝統的には、到来する直接リクエストをキャッシュ・サーバ相互間で「公平に分散させる」フロント・エンド・スケジューラによって行われる。例えば、ロード・バランシングは、サン・マイクロシステムズ社によるＮＥＴＲＡ（商標）プロキシ・キャッシュによって行われるように、マッピング・テーブルを操作することによってＤＮＳレベルで行われ得るものである（サン・マイクロシステムズ社の「プロキシ・キャッシュ・サーバ 製品概要（Proxy Cache Server, Product Overview）白書 http://www.sun.com/ 参照）。サーバのクラスタ相互間のロード・バランシングは、ＩＢＭ社によって提案されたＮＥＴＤＩＳＰＡＴＣＨＥＲ（商標）のようなフロント・エンド・ルータによっても行われ得るものである（例えば、IBM Research Report, RC 20853, May 1997 における G. Goldman 及び G. Hunt 氏による "NetDispatcher: A TCP Connection Router"と題した論文参照）。ここでは、到来するリクエストはＮＥＴＤＩＳＰＡＴＣＨＥＲ（商標）によってそのクラスタにおける最もロードの少ないサーバに分配される。しかし、これらの伝統的な方法は「直接リクエスト」だけを分配し、同じプロキシ・サーバへ同時に転送されるホット・オブジェクトに対する過剰のリクエストに起因したロード・インバランス問題を処理するものではない。本発明はそのような要求に対処する。
【０００５】
連係キャッシング又はリモート・キャッシングは、システム・パフォーマンスを改善するために分散型ファイル・システムにおいて使用されている（例えば、１９９４年の Pro. of 1st Symp. on Operating Systems Design and Implementation誌の pp.1-14 における M. D. Dahlin 氏他による「連係キャッシング：ファイル・システム・パフォーマンスを改善するためにリモート・クライアント・メモリを使用する（Cooperative caching : Using Remote Client Memory to Improve File System Performance）」と題した論文参照）。ここでは、ＬＡＮ上に分散したワークステーションの集合体のファイル・キャッシュが更に効果的な総合ファイル・キャッシュを形成するように調整される。各ワークステーションは、ローカル・リクエストによって参照されたオブジェクトのみならず、リモート・ワークステーションからのリクエストによって参照され得るオブジェクトもキャッシュする。ローカル・キャッシュ・ミスの時、ローカル・リクエストは、コピーが見つかる場合、そのコピーを得ることができる他のクライアント・ワークステーションに送られることも可能である。別の方法では、オブジェクトはオブジェクト・サーバから得られる。ここで重要なことは、主として、更新の際にキャッシュ・コヒーレンシを維持する方法及びローカル的に置換されたオブジェクトを他のワークステーションのキャッシュ・メモリに移動することによってキャッシュ・ヒット率を維持する方法である。動的なロード・バランシングは存在しない。
【０００６】
連係キャッシングは、アクセス・タイムを減少させるために集合プロキシ・キャッシュ・サーバにおいても使用される。キャッシュ・ミスの時、場合によってはＷＡＮを通して起点のウェブ・サーバへ直接に指向する代わりに、キャッシュ・サーバは、ＬＡＮ又は地域的なエリア・ネットワークにおける連係キャッシュ・サーバからオブジェクトを得るようにリクエストを転送してもよい。例えば、ＳＱＵＩＤシステムにおけるローカル・キャッシュ・ミスの時、キャッシュ・サーバは（インターネット・キャッシュ・プロトコル（ＩＣＰ）を使用して）他のキャッシュ・サーバのセットにリクエストをマルチキャストする（D. Wessels氏他による「Ｓｑｕｉｄインターネット・オブジェクト・キャッシュ（Squid Internet Object Cache）」と題した論文参照 http://squid.nlanr.net/）。それらのキャッシュがリクエストされたオブジェクトを含む場合、これらの連係キャッシュ・サーバは、それを表すメッセージでもって応答する。そこで、そのリクエストされたオブジェクトは、インターネット上のオリジナル・ウェブ・サーバの代わりに、そのリクエストに最初に応答した連係キャッシュ・サーバから得られる。しかし、タイム・アウト期間を過ぎてもどれも応答しない場合、そのリクエストされたオブジェクトは起点のウェブ・サーバからフェッチされるであろう。転送リクエストのために、キャッシュ・サーバにおいてロード・インバランスが生じることがある。
【０００７】
マルチキャスティングの代わりに、ＣＲＩＳＰシステムは、他のプロキシ・サーバにおいてキャッシュされたオブジェクトを見つけるためにロジカル・セントラル・ディレクトリを使用する（１９９７年 Duke University 発行の Technical Report CS-1997-18, Dept. of Computer Science 誌における S. Gadda 氏他による「スケーラブル・インターネット・キャッシュのためのディレクトリ構造（Directory Structure for Scaleable Internet Caches）」と題した論文参照）。ここでは、キャッシュ・ミスの際、キャッシュ・サーバはディレクトリ・サーバにそのオブジェクトに関して尋ねる。キャッシュ・オブジェクト記憶装置が表す主要な意味に従って、ディレクトリ・サーバは、そのオブジェクトを含んだキャッシュを有するサーバにそのようなリクエストを送る。それが見つかった場合、そのオブジェクトはリクエスティング・サーバに送られ、一方、オリジナル・サーバはそのオブジェクトをキャッシュし続ける。リクエストされたオブジェクトのコピーを有するキャッシュがない場合、リクエスティング・サーバは起点のウェブ・サーバからインターネットを介して（場合によってはＷＡＮを介して）そのオブジェクトを得る。再び、これは、このキャッシュ・サーバに転送されたその後のリクエストによって、そのキャッシュ・サーバにおいてロード・インバランスを生じさせることがある。
【０００８】
連係キャッシュ・サーバにおいてオブジェクトを見つけるための更にもう１つの方法はハッシュ関数によるものである。その一例がキャッシュ・アレイ・ルーティング・プロトコル（ＣＡＲＰ）である（V. Valloppillil 及び K. W. Ross 氏による「キャッシュ・アレイ・ルーティング・プロトコル v1.0（Cache Array Routing Protocol v1.0」と題した論文参照 http://ircache.nlanr.net/Cache/ICP/draft-vinod-carp-v1-03.txt, Feb. 1998）。ＣＡＲＰでは、オブジェクト・スペース全体が連係キャッシュ・サーバ相互間で、各キャッシュ・サーバに対して１つのパーティションでもって区画化される。構成されたクライアント・ブラウザからのリクエストがキャッシュ・サーバによって受け取られる時、そのパーティションを識別するためにＵＲＬ又は宛先ＩＰアドレスのようなそのリクエストからのキーにハッシュ関数が適用される。リクエスティング・キャッシュ・サーバにハッシュ・パーティションが割り当てられる場合、そのリクエストはローカル的にサービスされる。そうでない場合、それは、識別されたパーティションにおける適切なキャッシュ・サーバに転送される。
【０００９】
ＳＱＵＩＤ、ＣＲＩＳＰ、及びＣＡＲＰは、ミスしたオブジェクトのためにＷＡＮを通さなければならない可能性を減ずるために他のプロキシ・サーバのキャッシュを使用する。それらは、リクエストされたオブジェクトのコピーを含み得るキャッシュを持った連係キャッシュ・サーバを見つけるための機構が異なっている。各キャッシュ・サーバは２種類のリクエスト、即ち、直接リクエスト及び転送リクエストをサービスする。直接リクエストは、プロキシ・サーバに接続されたブラウザから直接に行われるリクエストである。転送リクエストは、リクエストされたオブジェクトを持たないキャッシュを有する連係キャッシュ・サーバによって行われるリクエストである。いずれの場合も、プロキシ・サーバが所与の瞬間にキャッシュするオブジェクトのタイプに従って、それのＣＰＵは、それが直接リクエスト及び転送リクエストの両方をサービスするのに忙しいので、オーバロードなることがある。
【００１０】
発明の開示
前述の要求に従って、本発明の１つの局面はキャッシュ・サーバ・バランシング方法を提供する。その方法は、連係キャッシュ・サーバにおける１つのオブジェクトに関するキャッシュ・ミスに応答してその連係キャッシュ・サーバから転送リクエストを受け取るステップと、ロード状態及びそのオブジェクトに対する転送頻度に基づいて連係キャッシュ・サーバ相互間で前記転送リクエストのうちのそのオブジェクトに対する１つ又は複数個の転送リクエストをシフトするステップを含む。
【００１１】
本発明のもう１つの局面は、各キャッシュ・サーバが直接リクエスト及び転送リクエストを受け取ることができ、しかも、キャッシュ・ミスが生じた場合、そのオブジェクトをキャッシュする所有キャッシュ・サーバにリクエストが転送されることがある連携キャッシュ・サーバの集合体においてロード・バランスする方法を提供する。この方法は、前記連携キャッシュ・サーバに対するロード状態及び転送頻度をモニタするステップと、そのロード状態及び転送頻度の変化に基づいて１つの連携キャッシュ・サーバから第２の連携キャッシュ・サーバに１つ又は複数個の転送リクエストをシフトするステップとを含む。
【００１２】
例えば、連携プロキシ・キャッシュ・サーバの集合体を含むシステムでは、リクエストされたオブジェクトがローカル的に見つからない場合、リクエストは他の連携キャッシュ・サーバに転送可能である。そのオブジェクトを起点ウェブ・サーバからインターネットを介してフェッチする代わりに、キャッシュ・サーバはローカル・エリア・ネットワーク又はイントラネットにおける連携キャッシュ・サーバからコピーを得ることができる。１つのオブジェクトへのアクセスのための平均的な応答時間を連携キャッシュ・サーバによってかなり改善することが可能である。しかし、リファレンス・スキューのために、或るオブジェクトはすべてのクライアントによる高い需要があることがある。その結果、それらのホット・オブジェクトを含むプロキシ・キャッシュ・サーバは、他のキャッシュ・プロキシ・キャッシュ・サーバから到来する転送リクエストによってオーバロードになり、パフォーマンス障害を生じることがある。本発明によれば、出願人は、オーバロードのキャッシュ・サーバから少ないロードのキャッシュ・サーバに幾つかの又はすべての転送リクエストをシフトすることによる、連携プロキシ・キャッシュ・サーバの集合体のロード・バランシング方法を提案する。
【００１３】
本発明によるキャッシュ・サーバ・ロード・バランシング方法の一例は、連携キャッシュ・サーバにおけるオブジェクトに関するるキャッシュ・ミスに応答して連携キャッシュ・サーバから転送リクエストを受け取るステップと、ロード状態及びそのオブジェクトに対する転送頻度に基づいて連携キャッシュ・サーバ相互間でそのその転送リクエストのうちのそのオブジェクトに対する１つ又は複数個の転送リクエストをシフトするステップとを含む。
【００１４】
本発明は、所有キャッシュ・サーバにおけるロード状態及びそれに対する転送頻度を周期的にモニタするフィーチャ、及び、そのモニタリングに応答して、キャッシュされたオブジェクトに関する１つ又は複数のその後の転送リクエストを、その所有キャッシュ・サーバから１つ又は複数の連携キャッシュ・サーバに先見的にシフトするためのフィーチャも含む。別の方法として、そのシフトするステップは、更に、転送リクエストの受け取りに応答してロード状態及び転送頻度をチェックするステップを含む。１つの例では、連携キャッシュ・サーバのロード状態は、前記連携キャッシュ・サーバへの前記転送リクエストの数及び直接リクエストの数のウェート付けされた和である。別の例では、キャッシュ情報が各オブジェクト・レベル又はオブジェクト・レベルのパーティションにおいて維持される。
【００１５】
本実施例は、集中型環境及び分散型環境の両方及びそれらの種々のハイブリッドを含んだ、ロード・バランシングを遂行するための種々のインプリメンテーションを含む。例えば、分散型ロード・モニタは、各連携キャッシュ・サーバにおけるキャッシュされたオブジェクトに対するローカル・ロード状態、転送頻度、及び所有の情報をモニタし及び維持するために使用可能である。連携キャッシュ・サーバは、ロード状態情報、転送頻度、及び所有の情報のうちの１つ又は複数個を定期的に交換及び維持することができる。例えば、連携キャッシュ・サーバは、ロード状態情報、転送頻度、及び所有の情報の１つ又は複数個を、１つ又、複数の転送リクエスト及び応答と結合することによって情報を交換することができる。
【００１６】
もう１つの例では、オーバロードの連携キャッシュ・サーバが少ないロードの連携キャッシュ・サーバを識別することができ、シフト・リクエスト及びキャッシュされたオブジェクトのコピーを（その後そのオブジェクトをキャッシュする）少ないロードの連携キャッシュ・サーバにコミュニケートすることができるので、そのオブジェクトに対するその後のリクエストは転送されないであろう。別の代替え方法として、オーバロードの連携キャッシュ・サーバは、少ないロードの連携キャッシュ・サーバにシフト・リクエストコミュニケートすることができる。その後、その少ないロードの連携キャッシュ・サーバは、シフト・リクエストに応答して起点オブジェクト・サーバからオブジェクトのコピーを得る。更にもう１つの代替え方法では、所有キャッシュ・サーバは、その後の転送リクエストがシフトされるように、１つ又は複数の他の連携キャッシュ・サーバにシフト・リクエスト・メッセージをマルチキャストすることができる。
【００１７】
本発明の完全分散型のインプリメンテーションでは、連携キャッシュ・サーバは、それぞれ、ロード状態をモニタし且つローカル的に維持するための分散型ロード・モニタを含むことができ、キャッシング・テーブルのローカル・コピーにおいて又はハッシュ関数によって転送頻度及び所有情報を維持することもできる。連携キャッシュ・サーバは、キャッシング・テーブルのローカル・コピー又はハッシュ関数によって所有情報を修正することができる。
【００１８】
本実施例は、オブジェクトに関する所有を少なくとも２つの連携キャッシュ・サーバ相互間で共同所有に修正するためのフィーチャ及びその後のオブジェクト・リクエストをそのオブジェクトの１つ又は複数の少ないロードの共同所有者に転送するための更に別のフィーチャを含む。共有オブジェクトに対するロード状態の減少が検出される場合、そのロード状態の減少に応答して、共同所有は一体化されることが可能である。
【００１９】
更にもう１つの例では、ロード状態及び転送頻度に基づいて１つ又は複数の転送リクエストをシフトすることは、オブジェクトのコピーを所有キャッシュ・サーバから１つ又は複数の連携キャッシュ・サーバにコミュニケートすることによって達成され得るし、従って、（そのオブジェクトが受領側のキャッシュに残っている限り）その後のリクエストは転送されないであろう。
【００２０】
本実施例による集中型環境の一例は、連携キャッシュ・サーバに対する転送頻度及びロード状態を維持するための集中型論理的ロード・モニタを含む。そのロード・モニタは、それらのキャッシュ・サーバにおけるロードをモニタするためのロード・テーブル、並びに転送頻度をモニタし且つオブジェクトを見つけるためのキャッシング・テーブル（又は、ハッシュ関数）を維持するための論理的ディレクトリ・サーバを含むことがある。そのディレクトリ・サーバは、ローカル的にミスしたオブジェクトのに対する他のキャッシュ・サーバにおけるオブジェクト・ロケーションに関するリクエストを受け取り、ローカル的にミスしたオブジェクトに対するリクエストを転送する。そのディレクトリ・サーバは、オブジェクト・ロケーションに対するリクエストに応答して、ロード及び所与のオブジェクトに対する転送頻度に基づいてキャッシング・テーブルを操作することによって連携キャッシュ・サーバの間でリクエストのロード・バランスをとる。
【００２１】
発明を実施するための最良の形態
集中型アーキテクチャ及び分散型アーキテクチャの両方に対する本実施例のロード・バランシング・ロジックの例を説明することにする。図１は、本発明において提案された集中型ロード・バランシング・ロジックを適用し得る、プロキシ・キャッシュ・サーバの集合体を使用したシステムのブロック図の一例を示す。図示のように、このシステムはプロキシ・キャッシュ・サーバ１５０の集合体を含む。単一レベルのキャッシュ・サーバしか示されてないけれども、キャッシュ・サーバ１５０のハイアラーキがあってもよい。通常のように、これらのプロキシ・キャッシュ・サーバは、ローカル・エリア・ネットワーク（ＬＡＮ）又はリージョナル・エリア・ネットワーク、或いはイントラネット１４０を介して相互に接続される。各キャッシュ・サーバ１５０は広域ネットワーク（ＷＡＮ）又はインターネット１１０にも接続される。そのＷＡＮ及び１１５を介して、これらのプロキシ・キャッシュ・サーバは、それら自身のキャッシュにおいてローカル的に見つけることができないオブジェクトに対する起点ウェブ・サーバにも届き得るものである。
【００２２】
本実施例によれば、論理的ロード・モニタ１２０は、連携キャッシュ・サーバ１５０のロード状態及び転送頻度（図３）をモニタするためのロード・バランシング・ロジック１３０を含み、それらに対してロード・バランシングを施す。後述するように、ロード・モニタ１２０の種々のフィーチャは、１つ又は複数のキャッシュ・サーバに常駐することができ、キャッシュ・サーバの間で重複及び分散されることが可能であり、又はパーソナル・コンピュータ（ＰＣ）サーバ又はワークステーションのような他の専用システムに常駐することができる。集中型のシステム構成では、ロード・モニタ１２０は、転送リクエスト１２５をキャッシュ・サーバに指向させる場合に中央ディレクトリ機能を遂行することができる。１つ又は複数のブラウザ１６０が各キャッシュ・サーバ１５０に接続するように構成可能である。直接リクエスト１５５は、通常のブラウザ１６０を走らせるコンピュータのようなクライアントからその構成されたキャッシュ・サーバ１５０に送られる。リクエストされたオブジェクトがローカル的に見つかる場合、それはブラウザに戻される。そうでない場合、キャッシュ・サーバ１５０はロード・モニタ１２０にメッセージをコミュニケートする。ロード・モニタ１２０に関する種々の例示インプリメンテーションを以下で更に詳細に説明することにする。ロード・インバランス状態又は傾向が終わらない場合、ロード・モニタ１２０は、そのリクエストされたオブジェクトを所有キャッシュ・サーバ１５０にリクエスト１２５を転送する。そこで、その所有キャッシュ・サーバは、例えば、ＬＡＮ１４０を介してリクエスティング・キャッシュ・サーバにそのリクエストされたオブジェクトを送る。
【００２３】
実際のロード・インバランスが識別されるか又はロードの傾向に基づいて予測される場合、ロード・モニタ１２０は、オーバロードのキャッシュ・サーバから１つ又は複数のアンダーロードの（少ないロードの）キャッシュ・サーバへの転送リクエストのシフトを開始させる。更に詳細に後述するように、所有のシフトは、サーバ１５０のロード状態及び転送頻度、並びに他の要素に基づき得るものである。
【００２４】
図３及び図４は、ロードモニタによって維持された２つのテーブルのデータ・フォーマットの例を示す。図示のように、それらのテーブルはロード・テーブル１０２及びキャッシング・テーブル１０１を含む。単一のテーブル又は種々の他のデータ構造が代替的に又は等価的に使用可能であることは当業者には明らかであろう。ロード・テーブル１０２は、オーバロード及びアンダローダのサーバが識別されるように、各キャッシュ・サーバ１５０（Ａ、Ｂ、Ｃ・・・"１０２２"）のロード状態１０２１を含む。通常のように、ロード状態１０２１は各キャッシュ・サーバをプローブすることによって定期的に更新可能である。キャッシュ・サーバのロードは、転送リクエストの数及び直接リクエストの数のウェート付けされた和であってもよい。オーバロードのキャッシュ・サーバ１５０は任意の一般的な技法によって識別可能である。例えば、ロード・モニタは過去のインターバルにおけるすべてのプロキシ・キャッシュ・サーバの平均的ロードを計算することができる。オーバロードのキャッシュ・サーバは、その平均的なロードより上の閾値を越えたロードを有するサーバとなり得る。
【００２５】
本実施例によれば、ロード・バランシングは、オーバロードの量及びキャッシュされたオブジェクトの転送頻度１０１１によるロードを考慮している。このように、ロード・モニタは、オーバロードのキャッシュ・サーバＣ"１０２１３"からアンダロードのキャッシュ・サーバＡ"１０２１１"にいくつかの又はすべての転送リクエストをシフトし続けるべきかどうかを決定することができる。キャッシング・テーブル１０１は、１つのオブジェクト又はオブジェクトのパーティションに関する転送頻度１０１１及び所有１０１２の情報を含んでいる。後述するように、所有は、Ａ"１０１２２"におけるような単独であってもよく、或いは２つ又はそれ以上の連携キャッシュ・サーバの間の共有Ｂ、Ｃ"１０１２１"及びＣ，Ａ"１０１２３"であってもよい。転送頻度１０１１は、オブジェクトに対するリクエストがロード・モニタを通して転送された回数を表す。転送頻度１０１１に加えて、キャッシング・テーブル１０１は、オブジェクトに対するリクエストが転送された最新の時間を表すタイムスタンプ１０１３を維持することもできる。更に、オブジェクト又はパーティションに対するキャッシング情報は、ロード・モニタ１２０によってオブジェクトｉｄ又はパーティションｉｄ１０１０に対する所与の時間的期間における転送頻度（カウント／時間）を含むことが可能である。代替え方法として、オブジェクトｉｄ／パーティションｉｄ１０１０はオブジェクト識別子に関するハッシュ関数に基づくものであってもよく、或いは、ウェブ・サーバにおいてオブジェクトが編成されるというディレクトリ構造に基づくものであってもよい。パーティションの場合、１つのパーティションに属する如何なるオブジェクトもロード・モニタによって転送されるであろう。所有のシフトは、サーバのロード状態、転送頻度１０１１、及びタイム・スタンプ情報のような他の情報に基づくことも可能である。
【００２６】
図５は、キャッシュ・ミスのために、キャッシュ・サーバ１５０からのリクエスト１２５に応答してロード・モニタ１２０によって取られるステップに対するロジック・フローの一例を示す。図示のように、ステップ２０１において、リクエストされたオブジェクト／パーティションがキャッシング・テーブルにおいて見つかるかどうか知るためのチェックが行われる。それが見つからない場合、ステップ２０２において、そのオブジェクト／パーティションのための新しいエントリが作成され、１つのキャッシュ・サーバがそれの所有者として割り当てられる。キャッシング・テーブルにおいてエントリが見つかる場合、ステップ２０３において、転送頻度１０１１が更新される、例えば、１だけインクレメントされる。そこで、ロード・モニタは、ステップ２０４において、その所有者がその時オーバロードであるかどうか（及び、転送頻度１０１１がそれに対する重要な貢献者であること）を知るためにロード・テーブル１０２を調べる。それが肯定される場合、ステップ２０５において、ロード・モニタはアンダロード（又は少ないロードの）キャッシュ・サーバを見つけ、それをそのリクエストされたオブジェクトの新しい（又は、共同の）所有者"１０１２２"として割り当てる。従って、キャッシング・テーブル１０１におけるオブジェクトに対する所有情報１０１２が更新される。そのロジック・フローがキャッシング・テーブル１０１又は使用される他のデータ構造における共同所有"１０１２３"又は階層的所有１０１２より成り得ることは当業者には明らかであろう。そこで、リクエスト（おそらく、そのリクエストされたオブジェクトのコピーを有するリクエスト）が、ステップ２０６において、新しい単独の所有者"１０１２２"（又は、共同所有者 "１０１２３"）に転送される。
【００２７】
別の方法として、新しい所有者は、起点オブジェクト・サーバから、例えば、インターネット１１０を介してオブジェクト・コピーを得るようにリクエストすることが可能である。所与のオブジェクトｉｄ／パーティションｉｄ１０１０及びキャッシュ・サーバ（所有１０１２）に対して、少なくとも部分的には高い転送頻度１０１１のために、ロード・チェック・ステップ２０４が先見的に、即ち、定期的に、或いは、識別されたオーバロード又はオーバロード傾向のロード状態１０２１に応答して遂行され得ることは当業者には明らかであろう。それが肯定される場合、ステップ２０５において、ロード・モニタはアンダロードの（少ないロードの）キャッシュ・サーバを見つけ、それをそのリクエストされたオブジェクトの新しい（又は、共同の）所有者として割り当て、おそらく、上記のように新しい（共同の）所有者にそのオブジェクトのコピーを送る。逆に、ステップ２０８において共同所有モデルが使用される場合、共同所有オブジェクト（ｐ "１０１０１"）に対するロード状態１０２１１及び転送頻度１０１１１が所定の閾値以下に降下する時、ステップ２０９において、共同所有（Ｂ，Ａ "１０１２１"）は、例えば、他のホット・オブジェクトのための空間を作るために、単独の所有及びキャッシュ・サーバＢ，Ａ "１０１２１"の１つからそれらの追放されたコピーの１つにマージされることもあり得る。
【００２８】
図６は、１つのオブジェクトに対するリクエストがブラウザ１６０から直接に受け取られる（１５５）又はロード・モニタ１２０から転送される（１２５）時のキャッシュ・サーバに対するロジック・フローの一例を示す。図示のように、ステップ３０１において、それは、先ず、リクエストされたオブジェクトがそれにキャッシュにおいてローカル的に見つかるかどうかを知るためのチェックを行う。それが肯定される場合、ステップ３０２において、それはオブジェクトを戻し、ステップ３０６において、プロセスは終了する。そうでない場合、ステップ３０３において、リクエストが直接リクエストであるか又は転送リクエストであるかを知るためのチェックが行われる。それが直接リクエストである場合、ステップ３０４においてそのリクエストはロード・モニタに送られ、ステップ３０６においてプロセスは終了する。一方、そのリクエストが転送リクエストである場合、ステップ３０５においてキャッシュ・サーバは起点のウェブ・サーバからオブジェクトをフェッチし、そのオブジェクトを戻すであろう。そこで、ステップ３０６においてプロセスは終了である。
【００２９】
次に、図１及び図２に戻ると、例えば、キャッシュ・サーバＣ "１０２２３"に接続しているブラウザ１６０がオブジェクトｐ "１０１０１"を接続するものと仮定する。キャッシング・テーブル１０１から、オブジェクトｐ "１０１０１"がサーバＣにおいてキャッシュされず、（Ｂ，Ａ "１０１２１"が、最初は、Ｂによって単独で指定されるだけであると仮定すると）キャッシュ・サーバＢにおいてキャッシュされる（キャッシュ・サーバＢによって「所有される」）ことがわかる。オブジェクトｐにおけるキャッシュ・ミスに応答して、サーバＣ "１０２２３"はオブジェクトｐに対するリクエストをロード・モニタ１２０に送る。サーバＢにおけるロード状態"１０２１２"及びｐ "１０１０１"に対するリクエストの転送頻度１０１１に従って、ロード・モニタは、オブジェクトｐのコピーをサーバＣに送ることを要請するリクエストをサーバＢに転送することが可能である。或いは、サーバＢがその時オーバロードである場合又はそのような傾向にある場合、ロード・モニタは、オブジェクトｐの新しい（又は、Ｂ，Ａ "１０１２１"におけるように共同の）所有者として働くようにアンダロードの（又は、少ないロードの）サーバを見つけることによってその転送リクエストをシフトしてもよい。そこで、リクエストはそのオブジェクトに対する新しい（又は、共同の、例えば、Ａの）所有サーバに転送される。所有の移動の後でも、オブジェクトｐのコピーは依然としてサーバＢのキャッシュにあり、依然として、サーバＢに到来する直接リクエストをサービスすることができる。しかし、この例では、オブジェクトｐに対するすべての（又は、共同所有の場合にはいくつかの）その後の転送リクエストはサーバＡにシフトされるであろう。別の方法として、共同所有Ｂ，Ａ "１０１２１"の場合、オブジェクトｐ "１０１０１"に対するその後の転送リクエストが少ないロードのサーバに送られることも可能である。
【００３０】
今や、オブジェクト見つけるために論理的に中心のディレクトリが使用されるプロキシ・キャッシュ・サーバの集合体に関して本実施例によるロード・バランシング方法を説明したが、種々の代替え方法が考えられるであろう。本発明は、更に、これらのシステムに対するロード・バランシングを得るためにも適用可能である。
【００３１】
例えば、本発明は、ローカル的にミスしたオブジェクトのコピーを見つけるために各キャッシュ・サーバ１５０が連携キャッシュ・サーバのリストをマルチキャストする連携プロキシ・キャッシュ・サーバの集合体に対してロード・バランシングを行うように構成可能である。この場合、特定の所有情報がそのシステム内のどこかに維持される必要はない。しかし、それらの連携キャッシュ・サーバからオブジェクトが見つかるという保証もない。すべてのプロキシ・キャッシュ・サーバのロード状態１０２１を維持するために及びこの情報を各キャッシュ・サーバ１５０と共有するために論理的ロード・モニタ１２０が使用されるものと仮定する。ロード・バランシングは、キャッシュ・サーバがそれのリクエスト（シフト・リクエストとも呼ばれる）をマルチキャストする宛先の連携サーバのリストからオーバロードのサーバを排除することによって達成され得る。その結果、少ないロードのキャッシュ・サーバだけが転送リクエスト１２５を受け取るであろう。
【００３２】
もう１つの代替え方法は、ローカル的にミスしたオブジェクトのコピーを見つけるためにハッシュ関数が使用されるという連携プロキシ・キャッシュ・サーバの集合体のためのロード・バランシング方法である。この場合、連携プロキシ・キャッシュ・サーバ１５０の間で、各キャッシュ・サーバに対して１つのパーティションとして、オブジェクト空間を区画化することが可能である。転送リクエストをシフトすることによってロード・バランシングを達成するためには、転送リクエストがオーバロードのサーバに指向しないようにハッシュ関数を変更することが可能である。１つの望ましい方法は、プロキシ・キャッシュ・サーバの合計数よりもずっと大きい多数のバケットにオブジェクト空間をハッシュすることである。その場合、これらのハッシュ・バケットは、キャッシュ・サーバの間でロードをバランスさせるという最終目的を持ってそれらのキャッシュ・サーバに割り当てられる。ハッシュ関数を効果的に変更して、１つのオーバロードのサーバからアンダロードのサーバに１つ又は複数のハッシュ・バケットを定期的に移動させることが可能である。
【００３３】
いずれの場合も、連携キャッシュ・サーバのロード状態は、計算されたロード状態に直接に転送頻度で解することができる。例えば、ロード状態は、前記転送リクエストの数及び前記連携キャッシュ・サーバへの直接リクエストの数のウェート付けされた和であってもよい。別の方法として、ロード・モニタは、各連携キャッシュ・サーバに対する転送頻度全体を別々に維持することもできる。
【００３４】
図２、図３及び図４を参照すると、更に別の代替え方法は、分散しているロード・モニタ１２０である。即ち、キャッシュ・サーバ１５０にまたがっていくつかの又はすべてのロード・モニタが複製される。１つの例では、分散ロード・モニタは、連携キャッシュ・サーバのローカルのロード状態情報１０２１（及び、後述するように、おそらく、Ａ、Ｂ、Ｃ、．．．"１０２２"すべてのロード状態）を含む。分散ロード・モニタ１２０' は、各オブジェクトｉｄ／パーティションｉｄ １０１０に対する転送頻度１０１１及び所有１０１２の情報を持ったキャッシング・テーブル１０１も含むことが望ましい。別の方法として、例えば上記のようなハッシュ関数は分散され、キャッシュ・サーバに記憶されてもよい。ロード状態情報１０２１及び／又はキャッシング・テーブル１０１は、状態の変化（所有、又はロード状態の重大な変化）がある時、又はキャッシュ転送リクエスト及び応答と共に結合処理される時、定期的に交換可能である。ロード状態情報１０２１は、トラッキングのために又は他の目的でそれと関連づけられたタイム・スタンプ（図示されてない）を持つこともできる。
【００３５】
ここで、キャッシュ・サーバ１５０がキャッシュ・ミスを有する場合、ローカルのロード・モニタ１２０' は、それのローカル・キャッシング・テーブル１０１においてそのリクエストされたオブジェクトの所有者をルップアップし、そのリクエストを所有キャッシュ・サーバに転送する。別の方法として、ハッシュ関数が、パーティションを識別するためにＵＲＬ又は宛先ＩＰアドレスのようなリクエストからのキーに適用され、しかる後そのリクエストが正しいキャッシュ・サーバに転送されてもよい。転送リクエスト（即ち、キャッシュ・ミスを持ったキャッシュ・サーバからのリクエスト）が受け取られる時、所有キャッシュ・サーバは、それを転送リクエストとして（例えば、クライアントと対立する他のキャッシュ・サーバからのリクエストとしてそれを識別することによって）識別し、それの転送頻度情報１０１１を適用可能なものとして更新する（図５のステップ２０３）。オーバロードの傾向又は状態が現れる場合（ステップ２０４）、所有キャッシュ・サーバは、シフト・リクエスト及びキャッシュされたオブジェクトのコピーでもってリクエスティング・キャッシュ・サーバに応答することができる。
【００３６】
別の方法として、リクエスティング・キャッシュ・サーバは、起点オブジェクト・サーバからイントラネット、ＷＡＮ、又はインターネットを介してコピーを得ることができる。いずれの場合も、転送サーバがそのオブジェクトのコピーをキャッシュする時、このサーバは、それがキャッシュに残っている限り、転送リクエストを最早発生しないであろうし（ステップ３０１，３０２）、従って、所有キャッシュ・サーバにおけるロードを比例的に減少させるであろう。更に、所有キャッシュ・サーバは、シフト・リクエスト・メッセージを１つ又は複数の他の連携キャッシュ・サーバ１５０にマルチキャストすることができ、従って、その後の転送リクエストは、例えば、キャッシュ・テーブルのそれらのローカル・コピーを更新することによって又はハッシュ関数を修正することによってシフトされるであろう（ステップ２０５）。この時点で、他のキャッシュ・サーバは、キャッシング・テーブル１０１のそれらのローカル・コピーに表されるように、新しい所有者に（又は、所有を分け合う場合には２つ又はそれ以上のキャッシュ・サーバ１５０の最も少ないロードの所有者に）それらのリクエストを転送することができる。オリジナル・キャッシュ所有者のロードが受容可能なレベル、例えば、閾値によって表されるレベルまで減少した時（ステップ２０４）、共同所有者の情報はそれのオリジナル状態にマージされ得る（例えば、Ｂ，Ａ "１０１２１"-->Ｂ）。
【００３７】
すべてのキャッシュ・サーバ（Ａ，Ｂ，Ｃ、．．．"１０２２"）に対するロード状態情報１０２１が十分に分散している場合、リクエスティング・キャッシュ・サーバは所有サーバのロード状態（及び関連するタイム・スタンプ）を先見的に、即ち、そのリクエストを転送する前にチェックすることができるであろう。それがオーバロードである場合、リクエスティング・キャッシュ・サーバは所有キャッシュ・サーバから（又は、起点キャッシュ・サーバからイントラネット又はインターネット１１０を介して）オブジェクトのコピーを、及び、恐らく、ロード状態情報をリクエストすることができるであろう。所有キャッシュ・サーバはそれのキャッシング・テーブルを更新すること又は新しい共同所有を表すようにハッシュ関数を修正することができるであろう。そこで、リクエスティング・サーバ（又は、所有サーバ）は、そのオブジェクトの新しい共同所有を表すメッセージを他のすべてのキャッシュ・サーバ１５０にマルチキャストすることができ、恐らく、更新されたロード状態を含むことができるであろう。この時点で、他のキャッシュ・サーバはそれらのキャッシング・テーブルを更新するか又は新しい共同所有を表すようにハッシュ関数を修正するであろうし、キャッシング・テーブル１０１のローカル・コピーにおいて表された所有を分け合う２つ又はそれ以上のキャッシュ・サーバ１５０の最も少ないロードの所有者にそれらのリクエストを転送することができる（ステップ２０６）。共有キャッシュ所有者のロードが、例えば、閾値によって表されるような受容可能なレベルまで減少した時（ステップ２０４及び２０８）、ステップ２０９において、所有情報はそれのオリジナル状態にマージされることが可能である。
【００３８】
本発明の望ましい実施例は、キャッシュ・サーバ１５０を具備したプロセッサ（図示されてない）上で又は前述の集中型モデルのようなロード・モニタ１２０を具体化した他のコンピュータ上で実行するためのコンピュータ・プログラム製品又はプログラム記憶装置において有形的に具体化されたソフトウエアとしてインプリメントされ得るフィーチャを含んでいる。例えば、ＪＡＶＡのような一般的なオブジェクト指向コンピュータの実行可能なコードでインプリメントされたソフトウエアは種々なプラットフォームに跨る移植性を与える。ＲＥＸＸ、Ｃ、Ｃ++、及びＳｍａｌｌｔａｌｋを含むがそれらに限定されない他の多くのコンパイルされた又はインタープリットされたプロシージャ指向及び／又はオブジェクト指向（ＯＯ）プログラミング環境が使用されてもよいことは当業者には明らかであろう。
【００３９】
本実施例の方法が、磁気的、電気的、光学的、又は他の永続的なプログラム又はデータ記憶装置において具体化され得ることも当業者には明らかであろう。なお、上記の記憶装置は、磁気ディスク、ダイレクト・アクセス記憶装置（ＤＡＳＤ）、バブル・メモリ、テープ、ＣＤ−ＲＯＭ及びＤＶＤのような光ディスク・フォーマット、及び、コア、ＲＯＭ、ＰＲＯＭ、フラッシュ・メモリ又はバッテリ・バックアップＲＡＭのような他の永続的（不揮発性とも呼ばれる）記憶装置を含むが、それらに限定されない。本発明の精神及び技術範囲では、サーバ１２０' のメモリにおいて実証された１つ又は複数のコンポーネントがディスク（図示されてない）、ネットワーク、他のサーバを介して直接にアクセス及び維持され得ることは当業者には明らかであろう。
【００４０】
要約すると、プロキシ・キャッシュ・サーバのような連携キャッシュ・サーバの集合体を含むシステムにおいて、リクエストされたオブジェクトをローカル的に見つけることができなかった場合、１つの連携キャッシュ・サーバにリクエストが転送されることが可能である。例えば、リファレンス・スキューのために、或るオブジェクトがすべてのクライアントによって高い要求状態にある場合、及びそれらのホット・オブジェクトを含むキャッシュ・サーバが転送リクエストのためにオーバロードになっている場合、オーバロード状態が検出される。それに応答して、オーバロードのキャッシュ・サーバから少ないロードのキャッシュ・サーバにいくつかの又はすべての転送リクエストをシフトすることによってロードはバランスをとられる。集中型ロード・バランシング環境及び分散型ロード・バランシング環境の両方が説明されている。
【００４１】
本発明の望ましい実施例を代替え方法と共に説明したけれども、現在及び将来とも、当業者が本願の特許請求の範囲に記載された技術的範囲内で種々の改良及び拡張を行い得ることは明らかであろう。これらの特許請求の範囲は、上述の本発明に対する適正な保護を維持するためのものと解されるべきである。
【図面の簡単な説明】
【図１】 本発明による集中型ロード・バランシング・ロジックを適用し得る、プロキシ・キャッシュ・サーバの集合体を使用するシステムの例をブロック図形式で示す。
【図２】 本発明による分散型ロード・バランシング・ロジックを適用し得る、プロキシ・キャッシュ・サーバの集合体を使用するシステムのもう１つの例をブロック図形式で示す。
【図３】 図１に示されたロード・モニタが維持し得るテーブルに対するデータ・フォーマットの例を示す。
【図４】 図２に示されたロード・モニタが維持し得るテーブルに対するデータ・フォーマットの例を示す。
【図５】 キャッシュ・ミスのために、キャッシュ・サーバからのリクエストに応答してロード・モニタに対するロジック・フローの例を示す。
【図６】 オブジェクトに対するリクエストに応答してキャッシュ・サーバに対するロジック・フローの例を示す。
Claims (18)
- 各々にブラウザが接続された、複数の連携キャッシュ・サーバに接続されたロード・モニタを有する、ロード・バランシングのためのキャッシュ・サーバ・システムにおいて、ロード・バランシングを行う方法であって、
前記連携キャッシュ・サーバのうちの、前記ブラウザが接続された連携キャッシュ・サーバが、前記ブラウザから、オブジェクトにアクセスするリクエストを受け取るステップと、
前記ロード・モニタが、前記ブラウザから前記連携キャッシュ・サーバにリクエストされた前記オブジェクト毎に、該オブジェクトにアクセスするリクエストを他の連携キャッシュ・サーバに転送し、該転送頻度をキャッシング・テーブルに記録するステップと、
前記ロード・モニタが、前記複数の連携キャッシュ・サーバの、個々の連携キャッシュ・サーバのロード状態を、ロード・テーブルに記録するステップと、
前記ブラウザから、アクセスするリクエストを受けた前記オブジェクトが前記連携キャッシュ・サーバ中に見つからないというキャッシュ・ミスに応答して、前記ロード・モニタが、前記連携キャッシュ・サーバから、前記ブラウザから受け取ったリクエストの転送を依頼する転送リクエストを受け取るステップと、
前記ロード・モニタが、前記転送リクエストに応答して、前記ロード・テーブルに記録された前記オブジェクトを所有する連携キャッシュ・サーバにおけるロード状態及び、前記キャッシング・テーブルに記録された、前記オブジェクトに対する転送頻度に基づいて、前記オブジェクトを所有する第１の連携キャッシュ・サーバよりも負荷の少ない第２の連携キャッシュ・サーバに、前記オブジェクトに対する前記転送リクエストの送信先をシフトするステップと、
を含むキャッシュ・サーバ・ロード・バランシング方法。 - 前記シフトするステップは、更に、前記ロード・モニタが、前記転送リクエストに応答して前記ロード状態及び転送頻度をチェックするステップを有する、請求項１に記載の方法。
- 更に、前記ロード・モニタが分散型ロード・モニタであり、前記分散型ロード・モニタがローカル・ロード状態、前記各連携キャッシュ・サーバにおけるキャッシュされたオブジェクトに対する転送頻度及び所有情報をモニタ及び維持するステップを含む、請求項２に記載の方法。
- 更に、前記各連携キャッシュ・サーバが前記ローカル・ロード状態の情報、転送頻度、及び所有情報のうちの１つ又は複数を定期的に交換及び維持するステップを含む、請求項３に記載の方法。
- 更に、前記各連携キャッシュ・サーバが前記ローカル・ロード状態の情報、転送頻度、及び所有情報のうちの１つ又は複数個を、前記転送リクエスト及び応答のうちの１つ又は複数個と共に結合処理することによって交換するステップを含む、請求項３に記載の方法。
- 更に、前記ロード・モニタが、前記オブジェクトに対する転送リクエストを受け取り、前記オブジェクトに対する転送頻度を更新するステップを含む、請求項１乃至請求項５のうちのいずれかに記載の方法。
- 前記少ないロードの連携キャッシュ・サーバが前記シフト・リクエストを受け取るステップと、
前記少ないロードの連携キャッシュ・サーバが前記シフト・リクエストに応答して起点のオブジェクト・サーバからの前記オブジェクトのコピーをリクエストするステップと、を更に含む、請求項６に記載の方法。 - 前記ロード・モニタが過去のインターバルにおける各キャッシュ・サーバのロード状態を計算するステップと、
前記ロード・モニタが過去のインターバルにおけるすべてのキャッシュ・サーバの平均的なロードを計算するステップと、
前記ロード・モニタが前記平均的なロードより上の閾値を超えるロード状態を有するキャッシュ・サーバを検出するステップと、
を更に含む、請求項１乃至請求項７のうちのいずれかに記載の方法。 - 前記連携キャッシュ・サーバのロード状態は前記転送リクエストの数及び前記連携キャッシュ・サーバへの直接リクエストの数のウェート付けされた和である、請求項１乃至請求項８のうちのいずれかに記載の方法。
- 前記ロード・モニタが、前記オブジェクトまたは前記オブジェクトを含むパーティションに関するキャッシュ情報を維持するステップを更に含む、請求項１乃至請求項９のうちのいずれかに記載の方法。
- 前記オブジェクト又は前記パーティションのキャッシュ情報は前記オブジェクトに関連した転送頻度を含む、請求項１０に記載の方法。
- 前記ロード・モニタが分散型ロード・モニタであり、前記分散型ロード・モニタがロード状態、転送頻度、及び各連携キャッシュ・サーバにおけるキャッシュされたオブジェクトに対する所有情報をモニタし、ローカル的に維持するステップを更に含む、請求項１１に記載の方法。
- 前記各連携キャッシュ・サーバが前記ロード状態、転送頻度、及び所有情報のうちの１つ又は複数個を定期的に交換するステップを更に含む、請求項１２に記載の方法。
- 前記各連携キャッシュ・サーバが、前記ロード状態、転送頻度、及び所有情報のうちの１つ又は複数個を前記転送リクエスト及び応答のうちの１つ又は複数個と共に結合処理することによって交換するステップを更に含む、請求項１１、請求項１２，又は請求項１３に記載の方法。
- 各々にブラウザが接続された、複数の連携キャッシュ・サーバに接続されたロード・モニタを有する、ロード・バランシングのためのキャッシュ・サーバ・システムであって、
前記ロード・モニタが、
前記ブラウザから、前記ブラウザが接続された連携キャッシュ・サーバにリクエストされた前記オブジェクト毎に、該オブジェクトにアクセスするリクエストを、他の連携キャッシュ・サーバに転送し、該転送頻度をキャッシング・テーブルに記録する手段と、
前記複数の連携キャッシュ・サーバの、個々の連携キャッシュ・サーバのロード状態を、ロード・テーブルに記録する手段と、
前記ブラウザのアクセスによる、前記複数の連携キャッシュ・サーバの１つにおけるオブジェクトに関するキャッシュ・ミスに応答して前記キャッシュ・ミスを生じた前記連携キャッシュ・サーバから転送リクエストを受け取る手段と、
前記ロード・テーブルに記録された前記オブジェクトを所有する連携キャッシュ・サーバにおけるロード状態及び、前記キャッシング・テーブルに記録された前記オブジェクトに対する転送頻度に基づいて、前記オブジェクトを所有する第１の連携キャッシュ・サーバよりも負荷の少ない第２の連携キャッシュ・サーバに、前記オブジェクトに対する前記転送リクエストの送信先をシフトする手段とを有する、
キャッシュ・サーバ・ロード・バランシング・システム。 - 前記シフトする手段は、更に、前記転送リクエストに応答して前記ロード状態及び転送頻度をチェックする手段を有する、請求項１５に記載のシステム。
- 更に、前記ロード・モニタは、前記オブジェクトに対する転送リクエストを受け取り、前記オブジェクトに対する転送頻度を更新する手段を含む、請求項１５乃至請求項１６のいずれかに記載のシステム。
- 前記ロード・モニタは、前記オブジェクトまたは前記オブジェクトを含むパーティションに関するキャッシュ情報を維持する手段を更に含み、前記キャッシュ情報が前記オブジェクトに関連した転送頻度を含む、請求項１５乃至請求項１７のいずれかに記載のシステム。
Applications Claiming Priority (3)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| US09/169,223 US6438652B1 (en) | 1998-10-09 | 1998-10-09 | Load balancing cooperating cache servers by shifting forwarded request |
| US09/169,223 | 1998-10-09 | ||
| PCT/GB1999/003360 WO2000022526A1 (en) | 1998-10-09 | 1999-10-08 | Load balancing cooperating cache servers |
Related Child Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2007114983A Division JP2007220140A (ja) | 1998-10-09 | 2007-04-25 | ロード・バランシング連携キャッシュ・サーバ |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JP2002527818A JP2002527818A (ja) | 2002-08-27 |
| JP3989682B2 true JP3989682B2 (ja) | 2007-10-10 |
Family
ID=22614704
Family Applications (2)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2000576365A Expired - Fee Related JP3989682B2 (ja) | 1998-10-09 | 1999-10-08 | キャッシュ・サーバ・ロード・バランシング方法 |
| JP2007114983A Withdrawn JP2007220140A (ja) | 1998-10-09 | 2007-04-25 | ロード・バランシング連携キャッシュ・サーバ |
Family Applications After (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2007114983A Withdrawn JP2007220140A (ja) | 1998-10-09 | 2007-04-25 | ロード・バランシング連携キャッシュ・サーバ |
Country Status (13)
| Country | Link |
|---|---|
| US (1) | US6438652B1 (ja) |
| EP (1) | EP1119808A1 (ja) |
| JP (2) | JP3989682B2 (ja) |
| KR (1) | KR100473671B1 (ja) |
| CN (1) | CN1255728C (ja) |
| AU (1) | AU6114499A (ja) |
| CA (1) | CA2343802C (ja) |
| CZ (1) | CZ20011281A3 (ja) |
| HU (1) | HU224787B1 (ja) |
| IL (1) | IL141973A (ja) |
| PL (1) | PL195958B1 (ja) |
| TW (1) | TW444458B (ja) |
| WO (1) | WO2000022526A1 (ja) |
Families Citing this family (301)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CZ266699A3 (cs) * | 1997-01-13 | 1999-12-15 | John Overton | Automatizovaný systém pro archivaci obrazů |
| US7233978B2 (en) * | 1998-07-08 | 2007-06-19 | Econnectix, Llc | Method and apparatus for managing location information in a network separate from the data to which the location information pertains |
| US7103640B1 (en) | 1999-09-14 | 2006-09-05 | Econnectix, Llc | Network distributed tracking wire transfer protocol |
| US6993034B1 (en) * | 1998-10-15 | 2006-01-31 | International Business Machines Corporation | Cluster destination address table—IP routing for clusters |
| US6691165B1 (en) * | 1998-11-10 | 2004-02-10 | Rainfinity, Inc. | Distributed server cluster for controlling network traffic |
| US6553376B1 (en) * | 1998-11-18 | 2003-04-22 | Infolibria, Inc. | Efficient content server using request redirection |
| US6490615B1 (en) * | 1998-11-20 | 2002-12-03 | International Business Machines Corporation | Scalable cache |
| JP2000163288A (ja) * | 1998-11-30 | 2000-06-16 | Nec Corp | データ記憶システム、データ再配置方法及び記録媒体 |
| US8225002B2 (en) | 1999-01-22 | 2012-07-17 | Network Disk, Inc. | Data storage and data sharing in a network of heterogeneous computers |
| US6801949B1 (en) | 1999-04-12 | 2004-10-05 | Rainfinity, Inc. | Distributed server cluster with graphical user interface |
| US6622127B1 (en) | 1999-05-11 | 2003-09-16 | Kaiser Foundation Hospitals | Order allocation to select from inventory locations stocking few units of inventory |
| US7177825B1 (en) | 1999-05-11 | 2007-02-13 | Borders Louis H | Integrated system for ordering, fulfillment, and delivery of consumer products using a data network |
| US6975937B1 (en) * | 1999-05-11 | 2005-12-13 | Christopher Kantarjiev | Technique for processing customer service transactions at customer site using mobile computing device |
| US7146505B1 (en) * | 1999-06-01 | 2006-12-05 | America Online, Inc. | Secure data exchange between date processing systems |
| US6751191B1 (en) | 1999-06-29 | 2004-06-15 | Cisco Technology, Inc. | Load sharing and redundancy scheme |
| US7185114B1 (en) * | 1999-08-07 | 2007-02-27 | Shrikumar Hariharasubrahmanian | Virtual memory systems and methods |
| US6667980B1 (en) | 1999-10-21 | 2003-12-23 | Sun Microsystems, Inc. | Method and apparatus for providing scalable services using a packet distribution table |
| US7401115B1 (en) * | 2000-10-23 | 2008-07-15 | Aol Llc | Processing selected browser requests |
| JP3463803B2 (ja) * | 1999-11-09 | 2003-11-05 | 松下電器産業株式会社 | クラスタサーバ装置 |
| US6681251B1 (en) * | 1999-11-18 | 2004-01-20 | International Business Machines Corporation | Workload balancing in clustered application servers |
| US6405252B1 (en) * | 1999-11-22 | 2002-06-11 | Speedera Networks, Inc. | Integrated point of presence server network |
| US7925713B1 (en) * | 1999-11-22 | 2011-04-12 | Akamai Technologies, Inc. | Method for operating an integrated point of presence server network |
| US7523181B2 (en) | 1999-11-22 | 2009-04-21 | Akamai Technologies, Inc. | Method for determining metrics of a content delivery and global traffic management network |
| US6694358B1 (en) | 1999-11-22 | 2004-02-17 | Speedera Networks, Inc. | Performance computer network method |
| US6754699B2 (en) | 2000-07-19 | 2004-06-22 | Speedera Networks, Inc. | Content delivery and global traffic management network system |
| US7590739B2 (en) * | 1999-11-22 | 2009-09-15 | Akamai Technologies, Inc. | Distributed on-demand computing system |
| US7349979B1 (en) * | 1999-12-02 | 2008-03-25 | Cisco Technology, Inc. | Method and apparatus for redirecting network traffic |
| US6799202B1 (en) * | 1999-12-16 | 2004-09-28 | Hachiro Kawaii | Federated operating system for a server |
| US6754706B1 (en) | 1999-12-16 | 2004-06-22 | Speedera Networks, Inc. | Scalable domain name system with persistence and load balancing |
| US6735205B1 (en) | 2000-01-10 | 2004-05-11 | Sun Microsystems, Inc. | Method and apparatus for fast packet forwarding in cluster networking |
| US6587866B1 (en) * | 2000-01-10 | 2003-07-01 | Sun Microsystems, Inc. | Method for distributing packets to server nodes using network client affinity and packet distribution table |
| US6748437B1 (en) | 2000-01-10 | 2004-06-08 | Sun Microsystems, Inc. | Method for creating forwarding lists for cluster networking |
| US6862613B1 (en) | 2000-01-10 | 2005-03-01 | Sun Microsystems, Inc. | Method and apparatus for managing operations of clustered computer systems |
| US6757836B1 (en) | 2000-01-10 | 2004-06-29 | Sun Microsystems, Inc. | Method and apparatus for resolving partial connectivity in a clustered computing system |
| US6789213B2 (en) * | 2000-01-10 | 2004-09-07 | Sun Microsystems, Inc. | Controlled take over of services by remaining nodes of clustered computing system |
| US6735206B1 (en) | 2000-01-10 | 2004-05-11 | Sun Microsystems, Inc. | Method and apparatus for performing a fast service lookup in cluster networking |
| US6769008B1 (en) | 2000-01-10 | 2004-07-27 | Sun Microsystems, Inc. | Method and apparatus for dynamically altering configurations of clustered computer systems |
| US6839829B1 (en) | 2000-01-18 | 2005-01-04 | Cisco Technology, Inc. | Routing protocol based redundancy design for shared-access networks |
| US7058007B1 (en) | 2000-01-18 | 2006-06-06 | Cisco Technology, Inc. | Method for a cable modem to rapidly switch to a backup CMTS |
| US6823377B1 (en) * | 2000-01-28 | 2004-11-23 | International Business Machines Corporation | Arrangements and methods for latency-sensitive hashing for collaborative web caching |
| US6850968B1 (en) * | 2000-02-01 | 2005-02-01 | Service Co. | Reduction of network server loading |
| US6865601B1 (en) * | 2000-02-11 | 2005-03-08 | Hewlett-Packard Development Company L.P. | Method for allocating web sites on a web server cluster based on balancing memory and load requirements |
| US7313616B1 (en) * | 2000-02-17 | 2007-12-25 | International Business Machines Corporation | Web site management in a world wide web communication network through periodic reassignment of the server computers designated for respective web documents related to document weight based on byte count and program content |
| US7565450B2 (en) * | 2000-03-16 | 2009-07-21 | Adara Networks Inc. | System and method for using a mapping between client addresses and addresses of caches to support content delivery |
| US7552233B2 (en) * | 2000-03-16 | 2009-06-23 | Adara Networks, Inc. | System and method for information object routing in computer networks |
| US7162539B2 (en) * | 2000-03-16 | 2007-01-09 | Adara Networks, Inc. | System and method for discovering information objects and information object repositories in computer networks |
| US7650376B1 (en) * | 2000-03-27 | 2010-01-19 | Blumenau Trevor I | Content distribution system for distributing content over a network, with particular applicability to distributing high-bandwidth content |
| US7058706B1 (en) | 2000-03-31 | 2006-06-06 | Akamai Technologies, Inc. | Method and apparatus for determining latency between multiple servers and a client |
| US6862623B1 (en) * | 2000-04-14 | 2005-03-01 | Microsoft Corporation | Capacity planning for server resources |
| US20020002611A1 (en) * | 2000-04-17 | 2002-01-03 | Mark Vange | System and method for shifting functionality between multiple web servers |
| US6980533B1 (en) * | 2000-04-19 | 2005-12-27 | Lucent Technologies Inc. | Load balancing technique for a wireless internet access system |
| US6970425B1 (en) * | 2000-04-27 | 2005-11-29 | At&T Corp. | Method and apparatus for throttling and distributing data transmissions across a network |
| US7908337B2 (en) * | 2000-04-28 | 2011-03-15 | Adara Networks, Inc. | System and method for using network layer uniform resource locator routing to locate the closest server carrying specific content |
| US7725596B2 (en) * | 2000-04-28 | 2010-05-25 | Adara Networks, Inc. | System and method for resolving network layer anycast addresses to network layer unicast addresses |
| US7343422B2 (en) | 2000-04-28 | 2008-03-11 | Adara Networks, Inc. | System and method for using uniform resource locators to map application layer content names to network layer anycast addresses |
| US7577754B2 (en) * | 2000-04-28 | 2009-08-18 | Adara Networks, Inc. | System and method for controlling access to content carried in a caching architecture |
| US6611906B1 (en) * | 2000-04-30 | 2003-08-26 | Hewlett-Packard Development Company, L.P. | Self-organizing hardware processing entities that cooperate to execute requests |
| US6598140B1 (en) * | 2000-04-30 | 2003-07-22 | Hewlett-Packard Development Company, L.P. | Memory controller having separate agents that process memory transactions in parallel |
| EP1154356A1 (en) * | 2000-05-09 | 2001-11-14 | Alcatel | Caching of files during loading from a distributed file system |
| US7240283B1 (en) | 2000-11-10 | 2007-07-03 | Narasimha Rao Paila | Data transmission and rendering techniques implemented over a client-server system |
| US6757796B1 (en) * | 2000-05-15 | 2004-06-29 | Lucent Technologies Inc. | Method and system for caching streaming live broadcasts transmitted over a network |
| AU2001265075A1 (en) * | 2000-05-26 | 2001-12-11 | Infolibria, Inc. | High performance efficient subsystem for data object storage |
| US20080005275A1 (en) * | 2000-06-02 | 2008-01-03 | Econnectix, Llc | Method and apparatus for managing location information in a network separate from the data to which the location information pertains |
| US7143128B1 (en) * | 2000-06-08 | 2006-11-28 | International Business Machines Corporation | Interactive data processor controlled display interface for tracking of allocated messages in a dynamic workload balancing communication system |
| US6738614B1 (en) * | 2000-06-19 | 2004-05-18 | 1477.Com Wireless, Inc. | Method and system for communicating data to a wireless device |
| US6704781B1 (en) * | 2000-06-27 | 2004-03-09 | Intel Corporation | System and method for content caching implementing compensation for providing caching services |
| US6999988B2 (en) * | 2000-07-13 | 2006-02-14 | Lucent Technologies Inc. | Method and system for data layout and replacement in distributed streaming caches on the Internet |
| US8060581B2 (en) | 2000-07-19 | 2011-11-15 | Akamai Technologies, Inc. | Dynamic image delivery system |
| US8341297B2 (en) | 2000-07-19 | 2012-12-25 | Akamai Technologies, Inc. | Latencies and weightings in a domain name service (DNS) system |
| AU2002222964A1 (en) * | 2000-07-19 | 2002-01-30 | Speedera Networks, Inc. | Content delivery and global traffic management across a network system |
| US7912978B2 (en) | 2000-07-19 | 2011-03-22 | Akamai Technologies, Inc. | Method for determining metrics of a content delivery and global traffic management network |
| US7346676B1 (en) | 2000-07-19 | 2008-03-18 | Akamai Technologies, Inc. | Load balancing service |
| US7653706B2 (en) | 2000-07-19 | 2010-01-26 | Akamai Technologies, Inc. | Dynamic image delivery system |
| US7725602B2 (en) | 2000-07-19 | 2010-05-25 | Akamai Technologies, Inc. | Domain name resolution using a distributed DNS network |
| US6804077B1 (en) * | 2000-07-25 | 2004-10-12 | Certance Llc | Method and apparatus for reinitializing a tape drive after a power loss |
| US7454516B1 (en) * | 2000-08-03 | 2008-11-18 | Microsoft Corporation | Scalable virtual partitioning of resources |
| CA2415888C (en) * | 2000-08-04 | 2008-10-21 | Avaya Technology Corporation | Intelligent demand driven recognition of url objects in connection oriented transactions |
| US7711790B1 (en) * | 2000-08-24 | 2010-05-04 | Foundry Networks, Inc. | Securing an accessible computer system |
| GB2366406A (en) | 2000-09-01 | 2002-03-06 | Ncr Int Inc | Downloading and uploading data in information networks |
| US9130954B2 (en) * | 2000-09-26 | 2015-09-08 | Brocade Communications Systems, Inc. | Distributed health check for global server load balancing |
| US7657629B1 (en) | 2000-09-26 | 2010-02-02 | Foundry Networks, Inc. | Global server load balancing |
| US7454500B1 (en) | 2000-09-26 | 2008-11-18 | Foundry Networks, Inc. | Global server load balancing |
| JP2002108840A (ja) * | 2000-09-28 | 2002-04-12 | Toshiba Corp | 分散型注文受付システム、受付サーバ、コンテンツサーバ、分散型注文受付方法及びコンピュータプログラム製品 |
| JP2002123435A (ja) * | 2000-10-17 | 2002-04-26 | Hitachi Ltd | 情報提供装置および方法 |
| JP2002140202A (ja) * | 2000-11-01 | 2002-05-17 | Hitachi Ltd | 情報配信システムおよびその負荷分散方法 |
| US6950849B1 (en) * | 2000-11-01 | 2005-09-27 | Hob Gmbh & Co. Kg | Controlling load-balanced access by user computers to server computers in a computer network |
| US6785707B2 (en) * | 2000-11-14 | 2004-08-31 | Bitfone Corp. | Enhanced multimedia mobile content delivery and message system using cache management |
| US20020069241A1 (en) * | 2000-12-06 | 2002-06-06 | Girija Narlikar | Method and apparatus for client-side proxy selection |
| US7233914B1 (en) | 2000-12-27 | 2007-06-19 | Joyo Wijaya | Technique for implementing item substitution for unavailable items relating to a customer order |
| US7035911B2 (en) | 2001-01-12 | 2006-04-25 | Epicrealm, Licensing Llc | Method and system for community data caching |
| US7188145B2 (en) | 2001-01-12 | 2007-03-06 | Epicrealm Licensing Llc | Method and system for dynamic distributed data caching |
| US7024479B2 (en) * | 2001-01-22 | 2006-04-04 | Intel Corporation | Filtering calls in system area networks |
| US6990667B2 (en) * | 2001-01-29 | 2006-01-24 | Adaptec, Inc. | Server-independent object positioning for load balancing drives and servers |
| US7155515B1 (en) * | 2001-02-06 | 2006-12-26 | Microsoft Corporation | Distributed load balancing for single entry-point systems |
| US7193968B1 (en) * | 2001-02-08 | 2007-03-20 | Cisco Technology, Inc. | Sample netflow for network traffic data collection |
| JP2002251313A (ja) * | 2001-02-23 | 2002-09-06 | Fujitsu Ltd | キャッシュサーバ及び分散キャッシュサーバシステム |
| US7555561B2 (en) * | 2001-03-19 | 2009-06-30 | The Aerospace Corporation | Cooperative adaptive web caching routing and forwarding web content data broadcasting method |
| US7308423B1 (en) | 2001-03-19 | 2007-12-11 | Franklin Goodhue Woodward | Technique for handling sales of regulated items implemented over a data network |
| US20020184327A1 (en) * | 2001-05-11 | 2002-12-05 | Major Robert Drew | System and method for partitioning address space in a proxy cache server cluster |
| US7584418B2 (en) | 2001-05-31 | 2009-09-01 | Oracle International Corporation | Methods, systems, and articles of manufacture for prefabricating an information page |
| US20020184612A1 (en) * | 2001-06-01 | 2002-12-05 | Hunt Joseph R. | Runtime configurable caching for component factories |
| US7899911B2 (en) * | 2001-06-07 | 2011-03-01 | Intel Corporation | Method and apparatus to retrieve information in a network |
| US7881208B1 (en) | 2001-06-18 | 2011-02-01 | Cisco Technology, Inc. | Gateway load balancing protocol |
| US7117242B2 (en) * | 2001-06-20 | 2006-10-03 | Hewlett-Packard Development Company, L.P. | System and method for workload-aware request distribution in cluster-based network servers |
| US8041814B2 (en) * | 2001-06-28 | 2011-10-18 | International Business Machines Corporation | Method, system and computer program product for hierarchical load balancing |
| US7610357B1 (en) * | 2001-06-29 | 2009-10-27 | Cisco Technology, Inc. | Predictively responding to SNMP commands |
| US20030014596A1 (en) * | 2001-07-10 | 2003-01-16 | Naohiko Irie | Streaming data cache for multimedia processor |
| US7274659B2 (en) * | 2001-07-27 | 2007-09-25 | Western Digital Ventures, Inc. | Providing streaming media data |
| US20030028583A1 (en) * | 2001-07-31 | 2003-02-06 | International Business Machines Corporation | Method and apparatus for providing dynamic workload transition during workload simulation on e-business application server |
| US20030041215A1 (en) * | 2001-08-27 | 2003-02-27 | George Robert T. | Method and apparatus for the utilization of distributed caches |
| CN1290027C (zh) * | 2001-08-27 | 2006-12-13 | 皇家飞利浦电子股份有限公司 | 高速缓存方法 |
| US6973536B1 (en) * | 2001-08-31 | 2005-12-06 | Oracle Corporation | Self-adaptive hybrid cache |
| US6721845B1 (en) * | 2001-09-24 | 2004-04-13 | Lsi Logic Corporation | Algorithm for maintaining maximum streaming performance of mirrored disks |
| US6839758B2 (en) * | 2001-09-28 | 2005-01-04 | Intel Corporation | Network processor for cache array routing |
| US7769823B2 (en) * | 2001-09-28 | 2010-08-03 | F5 Networks, Inc. | Method and system for distributing requests for content |
| US7373644B2 (en) | 2001-10-02 | 2008-05-13 | Level 3 Communications, Llc | Automated server replication |
| US7761594B1 (en) * | 2001-10-15 | 2010-07-20 | Netapp, Inc. | Method and apparatus for forwarding requests in a cache hierarchy based on user-defined forwarding rules |
| US20030079027A1 (en) | 2001-10-18 | 2003-04-24 | Michael Slocombe | Content request routing and load balancing for content distribution networks |
| WO2003039143A1 (fr) * | 2001-10-30 | 2003-05-08 | Nikon Corporation | Appareil d'accumulation d'images, appareil de support d'accumulation d'images, systeme d'accumulation d'images, appareil de commande d'images, appareil de stockage d'images |
| US7984110B1 (en) * | 2001-11-02 | 2011-07-19 | Hewlett-Packard Company | Method and system for load balancing |
| US7734726B2 (en) * | 2001-11-27 | 2010-06-08 | International Business Machines Corporation | System and method for dynamically allocating processing on a network amongst multiple network servers |
| US20030105830A1 (en) * | 2001-12-03 | 2003-06-05 | Duc Pham | Scalable network media access controller and methods |
| KR100426306B1 (ko) * | 2001-12-11 | 2004-04-08 | 한국전자통신연구원 | 인트라 도메인내에서의 ｓｉｐ 서버간 로드 분산 처리 방법 |
| US6775673B2 (en) * | 2001-12-19 | 2004-08-10 | Hewlett-Packard Development Company, L.P. | Logical volume-level migration in a partition-based distributed file system |
| US6772161B2 (en) * | 2001-12-19 | 2004-08-03 | Hewlett-Packard Development Company, L.P. | Object-level migration in a partition-based distributed file system |
| US6775672B2 (en) * | 2001-12-19 | 2004-08-10 | Hewlett-Packard Development Company, L.P. | Updating references to a migrated object in a partition-based distributed file system |
| US6687793B1 (en) * | 2001-12-28 | 2004-02-03 | Vignette Corporation | Method and system for optimizing resources for cache management |
| JP2003296226A (ja) * | 2002-04-05 | 2003-10-17 | Hitachi Ltd | ウェブアクセス提供方法およびサーバ装置 |
| US8819252B1 (en) | 2002-05-03 | 2014-08-26 | Foundry Networks, Llc | Transaction rate limiting |
| US8554929B1 (en) * | 2002-05-03 | 2013-10-08 | Foundry Networks, Llc | Connection rate limiting for server load balancing and transparent cache switching |
| US7707295B1 (en) * | 2002-05-03 | 2010-04-27 | Foundry Networks, Inc. | Connection rate limiting |
| JP2003323329A (ja) * | 2002-05-07 | 2003-11-14 | Fujitsu Ltd | 分散ファイル管理方法及びプログラム |
| US20040010786A1 (en) * | 2002-07-11 | 2004-01-15 | Microsoft Corporation | System and method for automatically upgrading a software application |
| US7334124B2 (en) * | 2002-07-22 | 2008-02-19 | Vormetric, Inc. | Logical access block processing protocol for transparent secure file storage |
| US6931530B2 (en) | 2002-07-22 | 2005-08-16 | Vormetric, Inc. | Secure network file access controller implementing access control and auditing |
| US6678828B1 (en) * | 2002-07-22 | 2004-01-13 | Vormetric, Inc. | Secure network file access control system |
| US7676576B1 (en) | 2002-08-01 | 2010-03-09 | Foundry Networks, Inc. | Method and system to clear counters used for statistical tracking for global server load balancing |
| US7086061B1 (en) | 2002-08-01 | 2006-08-01 | Foundry Networks, Inc. | Statistical tracking of global server load balancing for selecting the best network address from ordered list of network addresses based on a set of performance metrics |
| US7574508B1 (en) | 2002-08-07 | 2009-08-11 | Foundry Networks, Inc. | Canonical name (CNAME) handling for global server load balancing |
| US7162579B2 (en) * | 2002-08-19 | 2007-01-09 | Aristos Logic Corporation | Asymmetrical load balancing for mirrored storage volumes |
| US7552223B1 (en) | 2002-09-16 | 2009-06-23 | Netapp, Inc. | Apparatus and method for data consistency in a proxy cache |
| US7171469B2 (en) * | 2002-09-16 | 2007-01-30 | Network Appliance, Inc. | Apparatus and method for storing data in a proxy cache in a network |
| US7284030B2 (en) * | 2002-09-16 | 2007-10-16 | Network Appliance, Inc. | Apparatus and method for processing data in a network |
| US7143288B2 (en) * | 2002-10-16 | 2006-11-28 | Vormetric, Inc. | Secure file system server architecture and methods |
| US7353538B2 (en) * | 2002-11-08 | 2008-04-01 | Federal Network Systems Llc | Server resource management, analysis, and intrusion negation |
| US7986625B2 (en) * | 2002-12-10 | 2011-07-26 | International Business Machines Corporation | Resource-aware system, method and program product for managing request traffic based on a management policy |
| KR100901622B1 (ko) * | 2002-12-13 | 2009-06-08 | 주식회사 케이티 | 디렉토리 트래픽 부하 감소를 위해 로컬 캐슁 기법을이용한 사용자 정보 검색 방법 |
| US7349997B2 (en) * | 2003-01-15 | 2008-03-25 | Hewlett-Packard Development Company, L.P. | Dynamic command filter |
| US20040215703A1 (en) * | 2003-02-18 | 2004-10-28 | Xiping Song | System supporting concurrent operation of multiple executable application operation sessions |
| US7636917B2 (en) * | 2003-06-30 | 2009-12-22 | Microsoft Corporation | Network load balancing with host status information |
| US20050027862A1 (en) * | 2003-07-18 | 2005-02-03 | Nguyen Tien Le | System and methods of cooperatively load-balancing clustered servers |
| US9584360B2 (en) * | 2003-09-29 | 2017-02-28 | Foundry Networks, Llc | Global server load balancing support for private VIP addresses |
| US8655755B2 (en) * | 2003-10-22 | 2014-02-18 | Scottrade, Inc. | System and method for the automated brokerage of financial instruments |
| EP1697833B1 (en) * | 2003-11-04 | 2018-03-28 | Thomson Licensing | Cache server at hotspots for downloading services |
| US7543041B2 (en) * | 2003-11-12 | 2009-06-02 | International Business Machines Corporation | Pattern based web services using caching |
| US8572249B2 (en) | 2003-12-10 | 2013-10-29 | Aventail Llc | Network appliance for balancing load and platform services |
| US20050188055A1 (en) * | 2003-12-31 | 2005-08-25 | Saletore Vikram A. | Distributed and dynamic content replication for server cluster acceleration |
| US7631081B2 (en) * | 2004-02-27 | 2009-12-08 | International Business Machines Corporation | Method and apparatus for hierarchical selective personalization |
| CN100370770C (zh) * | 2004-03-03 | 2008-02-20 | 华为技术有限公司 | 实现网络长连接倒换的方法 |
| JPWO2005086003A1 (ja) * | 2004-03-08 | 2008-01-24 | アネックスシステムズ株式会社 | データベース・システム |
| US8782654B2 (en) | 2004-03-13 | 2014-07-15 | Adaptive Computing Enterprises, Inc. | Co-allocating a reservation spanning different compute resources types |
| WO2005089236A2 (en) | 2004-03-13 | 2005-09-29 | Cluster Resources, Inc. | System and method for providing intelligent pre-staging of data in a compute environment |
| JP4147198B2 (ja) * | 2004-03-23 | 2008-09-10 | 株式会社日立製作所 | ストレージシステム |
| US20060064478A1 (en) * | 2004-05-03 | 2006-03-23 | Level 3 Communications, Inc. | Geo-locating load balancing |
| US8089972B2 (en) | 2004-05-03 | 2012-01-03 | Level 3 Communications, Llc | Registration redirect server |
| US7496651B1 (en) | 2004-05-06 | 2009-02-24 | Foundry Networks, Inc. | Configurable geographic prefixes for global server load balancing |
| US7584301B1 (en) | 2004-05-06 | 2009-09-01 | Foundry Networks, Inc. | Host-level policies for global server load balancing |
| JP4190455B2 (ja) * | 2004-05-11 | 2008-12-03 | 富士通株式会社 | 負荷分散装置及びプログラム |
| US20070266388A1 (en) | 2004-06-18 | 2007-11-15 | Cluster Resources, Inc. | System and method for providing advanced reservations in a compute environment |
| CN100359891C (zh) * | 2004-06-30 | 2008-01-02 | 中兴通讯股份有限公司 | 一种通过缓存提高多媒体消息中心业务处理性能的方法 |
| US7660897B2 (en) * | 2004-08-03 | 2010-02-09 | International Business Machines Corporation | Method, system, and program for distributing application transactions among work servers |
| US8176490B1 (en) | 2004-08-20 | 2012-05-08 | Adaptive Computing Enterprises, Inc. | System and method of interfacing a workload manager and scheduler with an identity manager |
| US7423977B1 (en) | 2004-08-23 | 2008-09-09 | Foundry Networks Inc. | Smoothing algorithm for round trip time (RTT) measurements |
| KR101078484B1 (ko) * | 2004-08-30 | 2011-10-31 | 주식회사 케이티 | 부하를 고려한 네트워크 관리시스템 및 관리방법 |
| US8346956B2 (en) | 2004-10-29 | 2013-01-01 | Akamai Technologies, Inc. | Dynamic image delivery system |
| US8271980B2 (en) | 2004-11-08 | 2012-09-18 | Adaptive Computing Enterprises, Inc. | System and method of providing system jobs within a compute environment |
| US20060123217A1 (en) * | 2004-12-07 | 2006-06-08 | International Business Machines Corporation | Utilization zones for automated resource management |
| US7734019B1 (en) * | 2004-12-09 | 2010-06-08 | Level 3 Communications, Llc | Systems and methods for third party emergency call termination |
| US9843557B2 (en) | 2004-12-09 | 2017-12-12 | Level 3 Communications, Llc | Systems and methods for dynamically registering endpoints in a network |
| US8768350B2 (en) | 2004-12-09 | 2014-07-01 | Level 3 Communications, Llc | Systems and methods for locating endpoints in a communication network |
| US7877547B2 (en) * | 2004-12-29 | 2011-01-25 | International Business Machines Corporation | Method, system and circuit for efficiently managing a cache storage device |
| JP4963794B2 (ja) * | 2005-03-10 | 2012-06-27 | 株式会社日立製作所 | 情報処理システム及び方法 |
| US8863143B2 (en) | 2006-03-16 | 2014-10-14 | Adaptive Computing Enterprises, Inc. | System and method for managing a hybrid compute environment |
| US7685289B2 (en) * | 2005-03-15 | 2010-03-23 | International Business Machines Corporation | Method and apparatus for proxying initial client requests to support asynchronous resource initialization |
| US9231886B2 (en) | 2005-03-16 | 2016-01-05 | Adaptive Computing Enterprises, Inc. | Simple integration of an on-demand compute environment |
| CN100461806C (zh) * | 2005-04-07 | 2009-02-11 | 华为技术有限公司 | 一种语音增值业务数据信息处理方法 |
| ES2614751T3 (es) | 2005-04-07 | 2017-06-01 | Iii Holdings 12, Llc | Acceso bajo demanda a recursos informáticos |
| US20060248547A1 (en) * | 2005-04-14 | 2006-11-02 | International Business Machines Corporation | Multi-level cache apparatus and method for enhanced remote invocation performance |
| US7895308B2 (en) * | 2005-05-11 | 2011-02-22 | Tindall Steven J | Messaging system configurator |
| TWI314823B (en) * | 2005-06-24 | 2009-09-11 | Era Digital Media Co | Distributed streaming server |
| US8549513B2 (en) | 2005-06-29 | 2013-10-01 | Microsoft Corporation | Model-based virtual system provisioning |
| US8849752B2 (en) * | 2005-07-21 | 2014-09-30 | Google Inc. | Overloaded communication session |
| US8943180B1 (en) | 2005-07-29 | 2015-01-27 | 8X8, Inc. | Server-based service configuration system and approach |
| CN100440891C (zh) * | 2005-12-26 | 2008-12-03 | 北京航空航天大学 | 均衡网格负载的方法 |
| KR100862659B1 (ko) * | 2006-01-04 | 2008-10-10 | 삼성전자주식회사 | 인터넷 스토리지에 접근하는 방법 및 장치 |
| US7624168B2 (en) | 2006-02-02 | 2009-11-24 | Hostway Corporation | Multi-layer system for scalable hosting platform |
| US7685367B2 (en) * | 2006-03-08 | 2010-03-23 | Microsoft Corporation | Multi-cache cooperation for response output caching |
| EP1999883A4 (en) | 2006-03-14 | 2013-03-06 | Divx Llc | FEDERATED DIGITAL RIGHTS MANAGEMENT SYSTEM COMPRISING CONFIDENCE SYSTEMS |
| JP2007257357A (ja) * | 2006-03-23 | 2007-10-04 | Fujitsu Ltd | サーバおよび接続先サーバ切替制御方法 |
| US9049268B2 (en) | 2006-05-05 | 2015-06-02 | Microsoft Technology Licensing, Llc | Global provisioning of millions of users with deployment units |
| US7970856B2 (en) * | 2006-06-02 | 2011-06-28 | International Business Machines Corporation | System and method for managing and distributing assets over a network |
| JP2008059315A (ja) * | 2006-08-31 | 2008-03-13 | Hitachi Ltd | 負荷分散方法及び計算機システム |
| CN100466551C (zh) * | 2006-09-20 | 2009-03-04 | 杭州华三通信技术有限公司 | 一种实现负载均衡的方法和一种负载均衡设备 |
| US7996421B2 (en) * | 2007-01-03 | 2011-08-09 | International Business Machines Corporation | Method, computer program product, and system for coordinating access to locally and remotely exported file systems |
| US9794310B2 (en) * | 2007-01-11 | 2017-10-17 | Samsung Electronics Co., Ltd. | Meta data information providing server, client apparatus, method of providing meta data information, and method of providing content |
| US8700759B2 (en) | 2007-01-19 | 2014-04-15 | International Business Machines Corporation | Autonomic optimization of presence server performance |
| US8209417B2 (en) * | 2007-03-08 | 2012-06-26 | Oracle International Corporation | Dynamic resource profiles for clusterware-managed resources |
| KR100892885B1 (ko) * | 2007-03-08 | 2009-04-09 | (주)에임투지 | 로드 밸런싱 시스템의 요청 배정 장치 및 로드 밸런싱 방법 |
| US8676223B2 (en) * | 2007-03-23 | 2014-03-18 | Qualcomm Incorporated | Backhaul communication for interference management |
| EP2153340A4 (en) * | 2007-05-08 | 2015-10-21 | Riverbed Technology Inc | HYBRID SEGMENT ORIENTED FILE SERVER, AND WAN ACCELERATOR |
| US8086674B2 (en) * | 2007-06-21 | 2011-12-27 | Research In Motion Limited | Attachment server network for viewing attachments on a portable electronic device |
| US8615008B2 (en) | 2007-07-11 | 2013-12-24 | Foundry Networks Llc | Duplicating network traffic through transparent VLAN flooding |
| KR101467558B1 (ko) * | 2007-07-26 | 2014-12-01 | 엘지전자 주식회사 | 그래픽데이터 처리 장치 및 방법 |
| US7958200B2 (en) * | 2007-08-14 | 2011-06-07 | International Business Machines Corporation | Methods, computer program products, and apparatuses for providing remote client access to exported file systems |
| US8041773B2 (en) | 2007-09-24 | 2011-10-18 | The Research Foundation Of State University Of New York | Automatic clustering for self-organizing grids |
| US8248928B1 (en) | 2007-10-09 | 2012-08-21 | Foundry Networks, Llc | Monitoring server load balancing |
| US20090138220A1 (en) * | 2007-11-28 | 2009-05-28 | Bell Jr Robert H | Power-aware line intervention for a multiprocessor directory-based coherency protocol |
| JP5169178B2 (ja) * | 2007-11-29 | 2013-03-27 | ソニー株式会社 | 配信サーバおよび配信サーバにおけるコンテンツ配信方法 |
| US20090144404A1 (en) * | 2007-12-04 | 2009-06-04 | Microsoft Corporation | Load management in a distributed system |
| US20090150536A1 (en) * | 2007-12-05 | 2009-06-11 | Microsoft Corporation | Application layer congestion control |
| JP4973560B2 (ja) * | 2008-03-26 | 2012-07-11 | 富士通株式会社 | サーバおよび接続先サーバ切替制御方法 |
| JP2008259215A (ja) * | 2008-04-14 | 2008-10-23 | Nikon Corp | 画像管理装置 |
| US20090307329A1 (en) * | 2008-06-06 | 2009-12-10 | Chris Olston | Adaptive file placement in a distributed file system |
| JP5187017B2 (ja) | 2008-06-18 | 2013-04-24 | 富士通株式会社 | 分散ディスクキャッシュシステム及び分散ディスクキャッシュ方法 |
| JP2010049502A (ja) * | 2008-08-21 | 2010-03-04 | Hitachi Ltd | ストレージサブシステム、及びこれを有するストレージシステム |
| KR101635876B1 (ko) | 2009-01-07 | 2016-07-04 | 쏘닉 아이피, 아이엔씨. | 온라인 콘텐츠를 위한 미디어 가이드의 단일, 공동 및 자동 생성 |
| JP5417944B2 (ja) * | 2009-04-02 | 2014-02-19 | ソニー株式会社 | 配信サーバ、配信サーバにおけるコンテンツ配信方法、コンテンツ配信システムおよびコンテンツ配信方法 |
| US20110040893A1 (en) * | 2009-08-14 | 2011-02-17 | Broadcom Corporation | Distributed Internet caching via multiple node caching management |
| CN101668046B (zh) * | 2009-10-13 | 2012-12-19 | 成都市华为赛门铁克科技有限公司 | 资源缓存方法及其装置、系统 |
| US11720290B2 (en) | 2009-10-30 | 2023-08-08 | Iii Holdings 2, Llc | Memcached server functionality in a cluster of data processing nodes |
| US10877695B2 (en) | 2009-10-30 | 2020-12-29 | Iii Holdings 2, Llc | Memcached server functionality in a cluster of data processing nodes |
| US20110131341A1 (en) * | 2009-11-30 | 2011-06-02 | Microsoft Corporation | Selective content pre-caching |
| EP2507995A4 (en) | 2009-12-04 | 2014-07-09 | Sonic Ip Inc | SYSTEMS AND METHODS FOR TRANSPORTING ELEMENTARY BIT TRAIN CRYPTOGRAPHIC MATERIAL |
| JP4995296B2 (ja) * | 2010-03-11 | 2012-08-08 | 株式会社日立製作所 | 計算機システムおよびキャッシュ制御方法 |
| US8984048B1 (en) | 2010-04-18 | 2015-03-17 | Viasat, Inc. | Selective prefetch scanning |
| US8392368B1 (en) * | 2010-08-27 | 2013-03-05 | Disney Enterprises, Inc. | System and method for distributing and accessing files in a distributed storage system |
| US20120054440A1 (en) * | 2010-08-31 | 2012-03-01 | Toby Doig | Systems and methods for providing a hierarchy of cache layers of different types for intext advertising |
| US8549148B2 (en) | 2010-10-15 | 2013-10-01 | Brocade Communications Systems, Inc. | Domain name system security extensions (DNSSEC) for global server load balancing |
| US9465885B2 (en) * | 2010-12-03 | 2016-10-11 | Salesforce.Com, Inc. | Method and system for providing information to a mobile handheld device from a database system |
| KR101544480B1 (ko) * | 2010-12-24 | 2015-08-13 | 주식회사 케이티 | 복수 개의 프락시 서버를 포함하는 분산 저장 시스템 및 그 오브젝트 관리 방법 및 컴퓨터에 의하여 독출가능한 저장 매체 |
| CN102118433A (zh) * | 2010-12-27 | 2011-07-06 | 网宿科技股份有限公司 | 多层次的分布式集群系统 |
| US8914534B2 (en) | 2011-01-05 | 2014-12-16 | Sonic Ip, Inc. | Systems and methods for adaptive bitrate streaming of media stored in matroska container files using hypertext transfer protocol |
| KR101191544B1 (ko) | 2011-01-21 | 2012-10-15 | 엔에이치엔(주) | 캐시 클라우드 구조를 이용한 캐시 시스템 및 캐싱 서비스 제공 방법 |
| US8612550B2 (en) | 2011-02-07 | 2013-12-17 | Microsoft Corporation | Proxy-based cache content distribution and affinity |
| US8768979B2 (en) * | 2011-05-25 | 2014-07-01 | International Business Machines Corporation | In-memory data grid hash scheme optimization |
| US9244745B2 (en) * | 2011-06-16 | 2016-01-26 | Kodak Alaris Inc. | Allocating tasks by sending task-available messages requesting assistance with an image processing task from a server with a heavy task load to all other servers connected to the computer network |
| US8862814B2 (en) | 2011-08-10 | 2014-10-14 | International Business Machines Corporation | Video object placement for cooperative caching |
| US9467708B2 (en) | 2011-08-30 | 2016-10-11 | Sonic Ip, Inc. | Selection of resolutions for seamless resolution switching of multimedia content |
| US8964977B2 (en) | 2011-09-01 | 2015-02-24 | Sonic Ip, Inc. | Systems and methods for saving encoded media streamed using adaptive bitrate streaming |
| US8909922B2 (en) | 2011-09-01 | 2014-12-09 | Sonic Ip, Inc. | Systems and methods for playing back alternative streams of protected content protected using common cryptographic information |
| WO2013035796A1 (ja) * | 2011-09-07 | 2013-03-14 | 日本電気株式会社 | コンテンツ配信システム、制御装置およびコンテンツ配信方法 |
| US9083710B1 (en) * | 2012-01-03 | 2015-07-14 | Google Inc. | Server load balancing using minimally disruptive hash tables |
| US8595239B1 (en) | 2012-01-03 | 2013-11-26 | Google Inc. | Minimally disruptive hash table |
| KR101434887B1 (ko) * | 2012-03-21 | 2014-09-02 | 네이버 주식회사 | 네트워크 스위치를 이용한 캐시 시스템 및 캐시 서비스 제공 방법 |
| CN103580903A (zh) * | 2012-08-02 | 2014-02-12 | 人人游戏网络科技发展（上海）有限公司 | 识别服务器系统中的热点和可能故障的方法、设备和系统 |
| US9246998B2 (en) | 2012-10-16 | 2016-01-26 | Microsoft Technology Licensing, Llc | Load balancer bypass |
| CN103810189B (zh) * | 2012-11-08 | 2018-06-05 | 腾讯科技（深圳）有限公司 | 一种热点消息处理方法及系统 |
| US9385915B2 (en) * | 2012-11-30 | 2016-07-05 | Netapp, Inc. | Dynamic caching technique for adaptively controlling data block copies in a distributed data processing system |
| US9191457B2 (en) | 2012-12-31 | 2015-11-17 | Sonic Ip, Inc. | Systems, methods, and media for controlling delivery of content |
| US9313510B2 (en) | 2012-12-31 | 2016-04-12 | Sonic Ip, Inc. | Use of objective quality measures of streamed content to reduce streaming bandwidth |
| US9906785B2 (en) | 2013-03-15 | 2018-02-27 | Sonic Ip, Inc. | Systems, methods, and media for transcoding video data according to encoding parameters indicated by received metadata |
| US10397292B2 (en) | 2013-03-15 | 2019-08-27 | Divx, Llc | Systems, methods, and media for delivery of content |
| US9094737B2 (en) | 2013-05-30 | 2015-07-28 | Sonic Ip, Inc. | Network video streaming with trick play based on separate trick play files |
| CN103297528B (zh) * | 2013-06-05 | 2016-08-24 | 北京奇虎科技有限公司 | 一种获取票务信息的方法和装置 |
| CN103345432B (zh) * | 2013-06-07 | 2016-12-28 | 深圳中兴网信科技有限公司 | 多核cpu过载检测装置和多核cpu过载检测方法 |
| US10091282B2 (en) * | 2013-06-12 | 2018-10-02 | Sap Se | Metadata-driven dynamic load balancing in multi-tenant systems |
| US9967305B2 (en) | 2013-06-28 | 2018-05-08 | Divx, Llc | Systems, methods, and media for streaming media content |
| JP6252158B2 (ja) * | 2013-12-17 | 2017-12-27 | 富士通株式会社 | 通信システム、通信装置および通信方法 |
| US9565138B2 (en) | 2013-12-20 | 2017-02-07 | Brocade Communications Systems, Inc. | Rule-based network traffic interception and distribution scheme |
| US20150188758A1 (en) * | 2013-12-31 | 2015-07-02 | Sonic Ip, Inc. | Flexible network configuration in a content distribution network |
| US9584617B2 (en) | 2013-12-31 | 2017-02-28 | Successfactors, Inc. | Allocating cache request in distributed cache system based upon cache object and marker identifying mission critical data |
| US9648542B2 (en) | 2014-01-28 | 2017-05-09 | Brocade Communications Systems, Inc. | Session-based packet routing for facilitating analytics |
| US10924542B2 (en) * | 2014-02-27 | 2021-02-16 | Verizon Patent And Licensing Inc. | Content delivery system |
| US9866878B2 (en) | 2014-04-05 | 2018-01-09 | Sonic Ip, Inc. | Systems and methods for encoding and playing back video at different frame rates using enhancement layers |
| CN105025042B (zh) * | 2014-04-16 | 2019-06-28 | 中国移动通信集团河北有限公司 | 一种确定数据信息的方法及系统、代理服务器 |
| US9871855B2 (en) * | 2014-09-19 | 2018-01-16 | Facebook, Inc. | Balancing load across cache servers in a distributed data store |
| CN104601720A (zh) * | 2015-01-30 | 2015-05-06 | 乐视网信息技术（北京）股份有限公司 | 一种缓存访问控制方法及装置 |
| CN104683459B (zh) * | 2015-02-13 | 2018-05-11 | 华为技术有限公司 | 一种发送业务数据的方法和存储系统 |
| US10771475B2 (en) | 2015-03-23 | 2020-09-08 | Extreme Networks, Inc. | Techniques for exchanging control and configuration information in a network visibility system |
| US10129088B2 (en) | 2015-06-17 | 2018-11-13 | Extreme Networks, Inc. | Configuration of rules in a network visibility system |
| US9866478B2 (en) | 2015-03-23 | 2018-01-09 | Extreme Networks, Inc. | Techniques for user-defined tagging of traffic in a network visibility system |
| US10911353B2 (en) | 2015-06-17 | 2021-02-02 | Extreme Networks, Inc. | Architecture for a network visibility system |
| US9755945B2 (en) * | 2015-04-01 | 2017-09-05 | Verizon Digital Media Services Inc. | Stream publishing and distribution capacity testing |
| US10530688B2 (en) | 2015-06-17 | 2020-01-07 | Extreme Networks, Inc. | Configuration of load-sharing components of a network visibility router in a network visibility system |
| US10057126B2 (en) | 2015-06-17 | 2018-08-21 | Extreme Networks, Inc. | Configuration of a network visibility system |
| CN104994152B (zh) * | 2015-06-30 | 2018-11-09 | 中国科学院计算技术研究所 | 一种Web协同缓存系统和方法 |
| CN105376332A (zh) * | 2015-12-14 | 2016-03-02 | 江苏名通信息科技有限公司 | 一种用于手机游戏服务器的负荷迁徙方法 |
| US10243813B2 (en) | 2016-02-12 | 2019-03-26 | Extreme Networks, Inc. | Software-based packet broker |
| US10999200B2 (en) | 2016-03-24 | 2021-05-04 | Extreme Networks, Inc. | Offline, intelligent load balancing of SCTP traffic |
| US10362134B2 (en) * | 2016-08-15 | 2019-07-23 | Verizon Digital Media Services Inc. | Peer cache filling |
| US10567259B2 (en) | 2016-10-19 | 2020-02-18 | Extreme Networks, Inc. | Smart filter generator |
| US11138178B2 (en) * | 2016-11-10 | 2021-10-05 | Futurewei Technologies, Inc. | Separation of computation from storage in database for better elasticity |
| US10171614B2 (en) * | 2017-02-09 | 2019-01-01 | International Business Machines Corporation | Cache memory balancing based on moving object prediction |
| US10498795B2 (en) | 2017-02-17 | 2019-12-03 | Divx, Llc | Systems and methods for adaptive switching between multiple content delivery networks during adaptive bitrate streaming |
| CN107025270A (zh) * | 2017-03-09 | 2017-08-08 | 珠海昊星自动化系统有限公司 | 一种分布式高性能高并发大数据系统 |
| JP6862977B2 (ja) * | 2017-03-22 | 2021-04-21 | 富士通株式会社 | 通信制御プログラム、通信制御方法、および通信制御装置 |
| CN107707597A (zh) * | 2017-04-26 | 2018-02-16 | 贵州白山云科技有限公司 | 一种突发热点访问均衡处理方法及装置 |
| US10721719B2 (en) * | 2017-06-20 | 2020-07-21 | Citrix Systems, Inc. | Optimizing caching of data in a network of nodes using a data mapping table by storing data requested at a cache location internal to a server node and updating the mapping table at a shared cache external to the server node |
| KR102071955B1 (ko) * | 2018-06-07 | 2020-03-02 | 주식회사 티맥스소프트 | 분산 캐시 환경에서 멀티캐스트를 수행하는 방법 및 이를 이용한 분산 캐시 서버 |
| JP7310378B2 (ja) * | 2019-07-08 | 2023-07-19 | 富士通株式会社 | 情報処理プログラム、情報処理方法、および情報処理装置 |
| KR102166036B1 (ko) * | 2019-12-13 | 2020-10-15 | (주)교림소프트 | 인공 지능 기반 캐시 관리 시스템 |
Family Cites Families (22)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US5511208A (en) * | 1993-03-23 | 1996-04-23 | International Business Machines Corporation | Locating resources in computer networks having cache server nodes |
| JPH0855072A (ja) * | 1994-08-12 | 1996-02-27 | Matsushita Electric Ind Co Ltd | ネットワークシステムとデータ処理システムとデータ蓄積方法 |
| JPH08235127A (ja) * | 1995-02-28 | 1996-09-13 | Chugoku Nippon Denki Software Kk | 自動負荷分散方法および装置 |
| US6047309A (en) * | 1995-10-02 | 2000-04-04 | International Business Machines Corporation | Recording observed and reported response characteristics at server and/or client nodes in a replicated data environment, and selecting a server to provide data based on the observed and/or reported response characteristics |
| JPH09179820A (ja) * | 1995-12-26 | 1997-07-11 | Mitsubishi Electric Corp | 負荷分散方式及び方法 |
| JP3190813B2 (ja) * | 1996-02-15 | 2001-07-23 | 日本電気株式会社 | 配信システム |
| JP3422400B2 (ja) * | 1996-03-28 | 2003-06-30 | 三菱電機株式会社 | 分散処理システム |
| US5935207A (en) * | 1996-06-03 | 1999-08-10 | Webtv Networks, Inc. | Method and apparatus for providing remote site administrators with user hits on mirrored web sites |
| JP3481054B2 (ja) * | 1996-07-04 | 2003-12-22 | シャープ株式会社 | ゲートウェイ装置、クライアント計算機およびそれらを接続した分散ファイルシステム |
| US6185601B1 (en) * | 1996-08-02 | 2001-02-06 | Hewlett-Packard Company | Dynamic load balancing of a network of client and server computers |
| US5787470A (en) * | 1996-10-18 | 1998-07-28 | At&T Corp | Inter-cache protocol for improved WEB performance |
| US6026474A (en) * | 1996-11-22 | 2000-02-15 | Mangosoft Corporation | Shared client-side web caching using globally addressable memory |
| US6173311B1 (en) * | 1997-02-13 | 2001-01-09 | Pointcast, Inc. | Apparatus, method and article of manufacture for servicing client requests on a network |
| US5933849A (en) * | 1997-04-10 | 1999-08-03 | At&T Corp | Scalable distributed caching system and method |
| US6167438A (en) * | 1997-05-22 | 2000-12-26 | Trustees Of Boston University | Method and system for distributed caching, prefetching and replication |
| US6070191A (en) * | 1997-10-17 | 2000-05-30 | Lucent Technologies Inc. | Data distribution techniques for load-balanced fault-tolerant web access |
| US6167427A (en) * | 1997-11-28 | 2000-12-26 | Lucent Technologies Inc. | Replication service system and method for directing the replication of information servers based on selected plurality of servers load |
| US6141759A (en) * | 1997-12-10 | 2000-10-31 | Bmc Software, Inc. | System and architecture for distributing, monitoring, and managing information requests on a computer network |
| US6122666A (en) * | 1998-02-23 | 2000-09-19 | International Business Machines Corporation | Method for collaborative transformation and caching of web objects in a proxy network |
| US6112279A (en) * | 1998-03-31 | 2000-08-29 | Lucent Technologies, Inc. | Virtual web caching system |
| US6078960A (en) * | 1998-07-03 | 2000-06-20 | Acceleration Software International Corporation | Client-side load-balancing in client server network |
| US6253230B1 (en) * | 1998-09-22 | 2001-06-26 | International Business Machines Corporation | Distributed scalable device for selecting a server from a server cluster and a switched path to the selected server |
-
1998
- 1998-10-09 US US09/169,223 patent/US6438652B1/en not_active Expired - Lifetime
-
1999
- 1999-10-07 TW TW088117310A patent/TW444458B/zh not_active IP Right Cessation
- 1999-10-08 WO PCT/GB1999/003360 patent/WO2000022526A1/en not_active Application Discontinuation
- 1999-10-08 CA CA002343802A patent/CA2343802C/en not_active Expired - Lifetime
- 1999-10-08 CN CNB998118281A patent/CN1255728C/zh not_active Expired - Lifetime
- 1999-10-08 CZ CZ20011281A patent/CZ20011281A3/cs unknown
- 1999-10-08 AU AU61144/99A patent/AU6114499A/en not_active Abandoned
- 1999-10-08 EP EP99947777A patent/EP1119808A1/en not_active Ceased
- 1999-10-08 PL PL99347159A patent/PL195958B1/pl not_active IP Right Cessation
- 1999-10-08 KR KR10-2001-7004187A patent/KR100473671B1/ko not_active IP Right Cessation
- 1999-10-08 JP JP2000576365A patent/JP3989682B2/ja not_active Expired - Fee Related
- 1999-10-08 HU HU0104250A patent/HU224787B1/hu not_active IP Right Cessation
- 1999-10-08 IL IL14197399A patent/IL141973A/xx not_active IP Right Cessation
-
2007
- 2007-04-25 JP JP2007114983A patent/JP2007220140A/ja not_active Withdrawn
Also Published As
| Publication number | Publication date |
|---|---|
| IL141973A0 (en) | 2002-03-10 |
| WO2000022526A1 (en) | 2000-04-20 |
| CA2343802C (en) | 2004-04-20 |
| HUP0104250A3 (en) | 2002-04-29 |
| AU6114499A (en) | 2000-05-01 |
| PL195958B1 (pl) | 2007-11-30 |
| CA2343802A1 (en) | 2000-04-20 |
| KR20010075542A (ko) | 2001-08-09 |
| TW444458B (en) | 2001-07-01 |
| US6438652B1 (en) | 2002-08-20 |
| HU224787B1 (en) | 2006-02-28 |
| EP1119808A1 (en) | 2001-08-01 |
| US20020026560A1 (en) | 2002-02-28 |
| CZ20011281A3 (cs) | 2001-10-17 |
| IL141973A (en) | 2005-11-20 |
| JP2002527818A (ja) | 2002-08-27 |
| HUP0104250A2 (hu) | 2002-02-28 |
| CN1322315A (zh) | 2001-11-14 |
| CN1255728C (zh) | 2006-05-10 |
| PL347159A1 (en) | 2002-03-25 |
| KR100473671B1 (ko) | 2005-03-08 |
| JP2007220140A (ja) | 2007-08-30 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| JP3989682B2 (ja) | キャッシュ・サーバ・ロード・バランシング方法 | |
| Iyengar et al. | High performance web site design techniques | |
| US9893957B2 (en) | Forward-based resource delivery network management techniques | |
| US7908337B2 (en) | System and method for using network layer uniform resource locator routing to locate the closest server carrying specific content | |
| US9438520B2 (en) | Synchronizing state among load balancer components | |
| Iyer et al. | Squirrel: A decentralized peer-to-peer web cache | |
| US7577754B2 (en) | System and method for controlling access to content carried in a caching architecture | |
| US20010034752A1 (en) | Method and system for symmetrically distributed adaptive matching of partners of mutual interest in a computer network | |
| US7565450B2 (en) | System and method for using a mapping between client addresses and addresses of caches to support content delivery | |
| US6760756B1 (en) | Distributed virtual web cache implemented entirely in software | |
| US7343422B2 (en) | System and method for using uniform resource locators to map application layer content names to network layer anycast addresses | |
| US8423662B1 (en) | Forward request queuing in a distributed edge processing environment | |
| US7725596B2 (en) | System and method for resolving network layer anycast addresses to network layer unicast addresses | |
| CN112698941A (zh) | 一种基于动态负载均衡的实时数据库查询方法 | |
| Ramaswamy et al. | Scalable delivery of dynamic content using a cooperative edge cache grid | |
| EP1277327B1 (en) | System and method for using network layer uniform resource locator routing to locate the closest server carrying specific content | |
| EP1259864A2 (en) | Distributed virtual web cache implemented entirely in software | |
| Kim et al. | Efficient and scalable client clustering for web proxy cache | |
| Wu et al. | Replication for load balancing and hot-spot relief on proxy web caches with hash routing | |
| Yang et al. | Efficient content placement and management on cluster-based Web servers | |
| Zhu et al. | Exploiting client caches: An approach to building large web caches | |
| Chen et al. | p‐Jigsaw: a cluster‐based Web server with cooperative caching support | |
| Hsiao et al. | Tornado: a capability-aware peer-to-peer storage network | |
| Bitorika | Scalability Issues in Cluster Web Servers | |
| Kim et al. | Efficient and scalable client-clustering for proxy cache |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20010423 |
|
| RD04 | Notification of resignation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7424 Effective date: 20020624 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20030506 |
|
| RD12 | Notification of acceptance of power of sub attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7432 Effective date: 20030519 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A821 Effective date: 20030519 |
|
| A601 | Written request for extension of time |
Free format text: JAPANESE INTERMEDIATE CODE: A601 Effective date: 20030804 |
|
| A602 | Written permission of extension of time |
Free format text: JAPANESE INTERMEDIATE CODE: A602 Effective date: 20030922 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20031106 |
|
| A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20040121 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20040325 |
|
| A911 | Transfer to examiner for re-examination before appeal (zenchi) |
Free format text: JAPANESE INTERMEDIATE CODE: A911 Effective date: 20040430 |
|
| A912 | Re-examination (zenchi) completed and case transferred to appeal board |
Free format text: JAPANESE INTERMEDIATE CODE: A912 Effective date: 20040528 |
|
| A601 | Written request for extension of time |
Free format text: JAPANESE INTERMEDIATE CODE: A601 Effective date: 20070207 |
|
| A602 | Written permission of extension of time |
Free format text: JAPANESE INTERMEDIATE CODE: A602 Effective date: 20070213 |
|
| RD14 | Notification of resignation of power of sub attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7434 Effective date: 20070306 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20070425 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20070618 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20070718 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20100727 Year of fee payment: 3 |
|
| R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 Ref document number: 3989682 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110727 Year of fee payment: 4 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110727 Year of fee payment: 4 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120727 Year of fee payment: 5 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130727 Year of fee payment: 6 |
|
| LAPS | Cancellation because of no payment of annual fees |