JP2007220140A - ロード・バランシング連携キャッシュ・サーバ - Google Patents

ロード・バランシング連携キャッシュ・サーバ Download PDF

Info

Publication number
JP2007220140A
JP2007220140A JP2007114983A JP2007114983A JP2007220140A JP 2007220140 A JP2007220140 A JP 2007220140A JP 2007114983 A JP2007114983 A JP 2007114983A JP 2007114983 A JP2007114983 A JP 2007114983A JP 2007220140 A JP2007220140 A JP 2007220140A
Authority
JP
Japan
Prior art keywords
load
cache server
cache
server
request
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Withdrawn
Application number
JP2007114983A
Other languages
English (en)
Inventor
Kevin Michael Jordan
ジョーダン、ケビン、マイケル
Kun-Lung Wu
ウー、クン−ラン
Philip Shi-Lung Yu
ユー、フィリップ、シ−ラン
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
International Business Machines Corp
Original Assignee
International Business Machines Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by International Business Machines Corp filed Critical International Business Machines Corp
Publication of JP2007220140A publication Critical patent/JP2007220140A/ja
Withdrawn legal-status Critical Current

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F17/00—Digital computing or data processing equipment or methods, specially adapted for specific functions
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00—Arrangements for program control, e.g. control units
    • G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46—Multiprogramming arrangements
    • G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
    • G06F9/5005—Allocation of resources, e.g. of the central processing unit [CPU] to service a request
    • G06F9/5027—Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resource being a machine, e.g. CPUs, Servers, Terminals
    • G06F9/505—Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resource being a machine, e.g. CPUs, Servers, Terminals considering the load

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Software Systems (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Databases & Information Systems (AREA)
  • Mathematical Physics (AREA)
  • Data Mining & Analysis (AREA)
  • Computer And Data Communications (AREA)
  • Information Transfer Between Computers (AREA)
  • Multi Processors (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

【課題】 キャッシュ・サーバ・バランシング方法及びシステムを提供すること。
【解決手段】 プロキシ・キャッシュ・システムのような連係キャッシュ・サーバの集合体を含むシステムにおいて、リクエストされたオブジェクトがローカル的に見つからない場合、連係キャッシュ・サーバにリクエストが転送される。例えば、或るオブジェクトがリファレンス・スキューのためにすべてのクライアントによる高い要求状態にあるかどうか、及びホット・オブジェクトを含むキャッシュ・サーバが転送リクエストのためにオーバロードになったかどうかをオーバロード状態が決定する。それの応答して、オーバロードのキャッシュ・サーバから少ないロードのキャッシュ・サーバに或る又はすべての転送リクエストをシフトすることによって、ロードがバランスを取られる。集中型及び分散型のロード・バランシングが開示される。
【選択図】 図１

Description

本発明は、連携キャッシュ・サーバ相互間のロード・バランシングに関し、詳しくは、ロード状態及び連携キャッシュ・サーバからリクエストが転送される頻度に基づいたロード・バランシングに関するものである。
ワールド・ワイド・ウェブの使用法における成長は急激に増大してきた。その結果、ウェブ・オブジェクトのアクセスに対する応答時間は満足し得ないほど遅いものとなることがある。ウェブ・アクセス・タイムを改良するための１つの方法は、ブラウザと起点ウェブ・サーバとの間で１つ又は複数のプロキシ・キャッシュ・サーバを使用することである。プロキシ・キャッシュ・サーバの例は、ＩＢＭ社から出ているＮＥＴＦＩＮＩＴＹ（商標）サーバのようなマイクロソフト社のＷｉｎｄｏｗｓ ＮＴ（商標）を走らせるＰＣサーバのクラスタ、及びＩＢＭ ＲＳ／６０００（商標）又はＳＰ／２（商標）のようなＩＢＭ社のＡＩＸ（商標）オペレーティング・システムを走らせるワークステーション・サーバを含む。実際に、インターネット・サービス・プロバイダ（ＩＳＰ）社のような益々多くの組織が、応答時間の改良及びインターネットに対するトラフィックの減少を助けるために連携プロキシ・キャッシュ・サーバの集合体を使用しようとしている。連携キャッシュ・サーバの集合体は、信頼性及び性能に関して単一のキャッシュ・サーバを越える卓越した利点を有する。１つのキャッシュ・サーバが故障した場合でも、リクエストは他の連携キャッシュ・サーバによってサービスされることが可能である。リクエストはサーバ相互間で分散され、従って、スケーラビリティを高めることができる。結局、リクエストされたオブジェクトがそれらのキャッシュ・サーバの１つにおいて見つかる確立が高くなるように、総合キャッシュ・サイズは非常に大きいものである。
連係キャッシュ・サーバの場合、キャッシュ・ミスによりローカル的にサービスされ得ないリクエストは、そのリクエストされたオブジェクトを記憶する他のキャッシュ・サーバに転送されることがある。その結果、キャッシュ・サーバに到来し得るリクエストには２つの種類、即ち、直接リクエスト及び転送リクエストが存在する。直接リクエストは、クライアントから直接に受け取られるリクエストである。転送リクエストは、他のキャッシュ・サーバにおけるキャッシュ・ミスのためにそれらのクライアントに代わりに他のキャッシュ・サーバから到来するリクエストである。リクエストがキャッシュ・サーバ相互間で転送されることによって、その時点ではほとんどのクライアントが関連するイン・デマンド（又は、"ホット"）オブジェクトを１つのキャッシュ・サーバが含むということが生じる場合、そのキャッシュ・サーバは容易にオーバロードになってキャッシュ・サーバ相互間で不平等なワークロードを生じさせることになる。同じオーバロードのキャッシュ・サーバがそれに転送されたリクエストに応答することを大多数のキャッシュ・サーバは期待するので、不平等なワークロードはパフォーマンス障害を生じさせることがある。従って、プロキシ・キャッシュ・サーバの集合体の間で動的なロード・バランシングを行うための方法に対する要求が存在する。本発明はそのような要求に対処するものである。
ロード・バランシングは、伝統的には、到来する直接リクエストをキャッシュ・サーバ相互間で「公平に分散させる」フロント・エンド・スケジューラによって行われる。例えば、ロード・バランシングは、サン・マイクロシステムズ社によるＮＥＴＲＡ（商標）プロキシ・キャッシュによって行われるように、マッピング・テーブルを操作することによってＤＮＳレベルで行われ得るものである（サン・マイクロシステムズ社の「プロキシ・キャッシュ・サーバ 製品概要（Proxy Cache Server, Product Overview）白書 http://www.sun.com/ 参照）。サーバのクラスタ相互間のロード・バランシングは、ＩＢＭ社によって提案されたＮＥＴＤＩＳＰＡＴＣＨＥＲ（商標）のようなフロント・エンド・ルータによっても行われ得るものである（例えば、IBM Research Report, RC 20853, May 1997 における G. Goldman 及び G. Hunt 氏による "NetDispatcher: A TCP Connection Router"と題した論文参照）。ここでは、到来するリクエストはＮＥＴＤＩＳＰＡＴＣＨＥＲ（商標）によってそのクラスタにおける最もロードの少ないサーバに分配される。しかし、これらの伝統的な方法は「直接リクエスト」だけを分配し、同じプロキシ・サーバへ同時に転送されるホット・オブジェクトに対する過剰のリクエストに起因したロード・インバランス問題を処理するものではない。本発明はそのような要求に対処する。
連係キャッシング又はリモート・キャッシングは、システム・パフォーマンスを改善するために分散型ファイル・システムにおいて使用されている（例えば、１９９４年の Pro. of 1st Symp. on Operating Systems Design and Implementation誌の pp.1-14 における M. D. Dahlin 氏他による「連係キャッシング：ファイル・システム・パフォーマンスを改善するためにリモート・クライアント・メモリを使用する（Cooperative caching : Using Remote Client Memory to Improve File System Performance）」と題した論文参照）。ここでは、ＬＡＮ上に分散したワークステーションの集合体のファイル・キャッシュが更に効果的な総合ファイル・キャッシュを形成するように調整される。各ワークステーションは、ローカル・リクエストによって参照されたオブジェクトのみならず、リモート・ワークステーションからのリクエストによって参照され得るオブジェクトもキャッシュする。ローカル・キャッシュ・ミスの時、ローカル・リクエストは、コピーが見つかる場合、そのコピーを得ることができる他のクライアント・ワークステーションに送られることも可能である。別の方法では、オブジェクトはオブジェクト・サーバから得られる。ここで重要なことは、主として、更新の際にキャッシュ・コヒーレンシを維持する方法及びローカル的に置換されたオブジェクトを他のワークステーションのキャッシュ・メモリに移動することによってキャッシュ・ヒット率を維持する方法である。動的なロード・バランシングは存在しない。
連係キャッシングは、アクセス・タイムを減少させるために集合プロキシ・キャッシュ・サーバにおいても使用される。キャッシュ・ミスの時、場合によってはＷＡＮを通して起点のウェブ・サーバへ直接に指向する代わりに、キャッシュ・サーバは、ＬＡＮ又は地域的なエリア・ネットワークにおける連係キャッシュ・サーバからオブジェクトを得るようにリクエストを転送してもよい。例えば、ＳＱＵＩＤシステムにおけるローカル・キャッシュ・ミスの時、キャッシュ・サーバは（インターネット・キャッシュ・プロトコル（ＩＣＰ）を使用して）他のキャッシュ・サーバのセットにリクエストをマルチキャストする（D. Wessels氏他による「Ｓｑｕｉｄインターネット・オブジェクト・キャッシュ（Squid Internet Object Cache）」と題した論文参照 http://squid.nlanr.net/）。それらのキャッシュがリクエストされたオブジェクトを含む場合、これらの連係キャッシュ・サーバは、それを表すメッセージでもって応答する。そこで、そのリクエストされたオブジェクトは、インターネット上のオリジナル・ウェブ・サーバの代わりに、そのリクエストに最初に応答した連係キャッシュ・サーバから得られる。しかし、タイム・アウト期間を過ぎてもどれも応答しない場合、そのリクエストされたオブジェクトは起点のウェブ・サーバからフェッチされるであろう。転送リクエストのために、キャッシュ・サーバにおいてロード・インバランスが生じることがある。
マルチキャスティングの代わりに、ＣＲＩＳＰシステムは、他のプロキシ・サーバにおいてキャッシュされたオブジェクトを見つけるためにロジカル・セントラル・ディレクトリを使用する（１９９７年 Duke University 発行の Technical Report CS-1997-18, Dept. of Computer Science 誌における S. Gadda 氏他による「スケーラブル・インターネット・キャッシュのためのディレクトリ構造（Directory Structure for Scaleable Internet Caches）」と題した論文参照）。ここでは、キャッシュ・ミスの際、キャッシュ・サーバはディレクトリ・サーバにそのオブジェクトに関して尋ねる。キャッシュ・オブジェクト記憶装置が表す主要な意味に従って、ディレクトリ・サーバは、そのオブジェクトを含んだキャッシュを有するサーバにそのようなリクエストを送る。それが見つかった場合、そのオブジェクトはリクエスティング・サーバに送られ、一方、オリジナル・サーバはそのオブジェクトをキャッシュし続ける。リクエストされたオブジェクトのコピーを有するキャッシュがない場合、リクエスティング・サーバは起点のウェブ・サーバからインターネットを介して（場合によってはＷＡＮを介して）そのオブジェクトを得る。再び、これは、このキャッシュ・サーバに転送されたその後のリクエストによって、そのキャッシュ・サーバにおいてロード・インバランスを生じさせることがある。
連係キャッシュ・サーバにおいてオブジェクトを見つけるための更にもう１つの方法はハッシュ関数によるものである。その一例がキャッシュ・アレイ・ルーティング・プロトコル（ＣＡＲＰ）である（V. Valloppillil 及び K. W. Ross 氏による「キャッシュ・アレイ・ルーティング・プロトコル v1.0（Cache Array Routing Protocol v1.0」と題した論文参照 http://ircache.nlanr.net/Cache/ICP/draft-vinod-carp-v1-03.txt, Feb. 1998）。ＣＡＲＰでは、オブジェクト・スペース全体が連係キャッシュ・サーバ相互間で、各キャッシュ・サーバに対して１つのパーティションでもって区画化される。構成されたクライアント・ブラウザからのリクエストがキャッシュ・サーバによって受け取られる時、そのパーティションを識別するためにＵＲＬ又は宛先ＩＰアドレスのようなそのリクエストからのキーにハッシュ関数が適用される。リクエスティング・キャッシュ・サーバにハッシュ・パーティションが割り当てられる場合、そのリクエストはローカル的にサービスされる。そうでない場合、それは、識別されたパーティションにおける適切なキャッシュ・サーバに転送される。
ＳＱＵＩＤ、ＣＲＩＳＰ、及びＣＡＲＰは、ミスしたオブジェクトのためにＷＡＮを通さなければならない可能性を減ずるために他のプロキシ・サーバのキャッシュを使用する。それらは、リクエストされたオブジェクトのコピーを含み得るキャッシュを持った連係キャッシュ・サーバを見つけるための機構が異なっている。各キャッシュ・サーバは２種類のリクエスト、即ち、直接リクエスト及び転送リクエストをサービスする。直接リクエストは、プロキシ・サーバに接続されたブラウザから直接に行われるリクエストである。転送リクエストは、リクエストされたオブジェクトを持たないキャッシュを有する連係キャッシュ・サーバによって行われるリクエストである。いずれの場合も、プロキシ・サーバが所与の瞬間にキャッシュするオブジェクトのタイプに従って、それのＣＰＵは、それが直接リクエスト及び転送リクエストの両方をサービスするのに忙しいので、オーバロードなることがある。
前述の要求に従って、本発明の１つの局面はキャッシュ・サーバ・バランシング方法を提供する。その方法は、連係キャッシュ・サーバにおける１つのオブジェクトに関するキャッシュ・ミスに応答してその連係キャッシュ・サーバから転送リクエストを受け取るステップと、ロード状態及びそのオブジェクトに対する転送頻度に基づいて連係キャッシュ・サーバ相互間で前記転送リクエストのうちのそのオブジェクトに対する１つ又は複数個の転送リクエストをシフトするステップを含む。
本発明のもう１つの局面は、各キャッシュ・サーバが直接リクエスト及び転送リクエストを受け取ることができ、しかも、キャッシュ・ミスが生じた場合、そのオブジェクトをキャッシュする所有キャッシュ・サーバにリクエストが転送されることがある連携キャッシュ・サーバの集合体においてロード・バランスする方法を提供する。この方法は、前記連携キャッシュ・サーバに対するロード状態及び転送頻度をモニタするステップと、そのロード状態及び転送頻度の変化に基づいて１つの連携キャッシュ・サーバから第２の連携キャッシュ・サーバに１つ又は複数個の転送リクエストをシフトするステップとを含む。
例えば、連携プロキシ・キャッシュ・サーバの集合体を含むシステムでは、リクエストされたオブジェクトがローカル的に見つからない場合、リクエストは他の連携キャッシュ・サーバに転送可能である。そのオブジェクトを起点ウェブ・サーバからインターネットを介してフェッチする代わりに、キャッシュ・サーバはローカル・エリア・ネットワーク又はイントラネットにおける連携キャッシュ・サーバからコピーを得ることができる。１つのオブジェクトへのアクセスのための平均的な応答時間を連携キャッシュ・サーバによってかなり改善することが可能である。しかし、リファレンス・スキューのために、或るオブジェクトはすべてのクライアントによる高い需要があることがある。その結果、それらのホット・オブジェクトを含むプロキシ・キャッシュ・サーバは、他のキャッシュ・プロキシ・キャッシュ・サーバから到来する転送リクエストによってオーバロードになり、パフォーマンス障害を生じることがある。本発明によれば、出願人は、オーバロードのキャッシュ・サーバから少ないロードのキャッシュ・サーバに幾つかの又はすべての転送リクエストをシフトすることによる、連携プロキシ・キャッシュ・サーバの集合体のロード・バランシング方法を提案する。
本発明によるキャッシュ・サーバ・ロード・バランシング方法の一例は、連携キャッシュ・サーバにおけるオブジェクトに関するるキャッシュ・ミスに応答して連携キャッシュ・サーバから転送リクエストを受け取るステップと、ロード状態及びそのオブジェクトに対する転送頻度に基づいて連携キャッシュ・サーバ相互間でそのその転送リクエストのうちのそのオブジェクトに対する１つ又は複数個の転送リクエストをシフトするステップとを含む。
本発明は、所有キャッシュ・サーバにおけるロード状態及びそれに対する転送頻度を周期的にモニタするフィーチャ、及び、そのモニタリングに応答して、キャッシュされたオブジェクトに関する１つ又は複数のその後の転送リクエストを、その所有キャッシュ・サーバから１つ又は複数の連携キャッシュ・サーバに先見的にシフトするためのフィーチャも含む。別の方法として、そのシフトするステップは、更に、転送リクエストの受け取りに応答してロード状態及び転送頻度をチェックするステップを含む。１つの例では、連携キャッシュ・サーバのロード状態は、前記連携キャッシュ・サーバへの前記転送リクエストの数及び直接リクエストの数のウェート付けされた和である。別の例では、キャッシュ情報が各オブジェクト・レベル又はオブジェクト・レベルのパーティションにおいて維持される。
本実施例は、集中型環境及び分散型環境の両方及びそれらの種々のハイブリッドを含んだ、ロード・バランシングを遂行するための種々のインプリメンテーションを含む。例えば、分散型ロード・モニタは、各連携キャッシュ・サーバにおけるキャッシュされたオブジェクトに対するローカル・ロード状態、転送頻度、及び所有の情報をモニタし及び維持するために使用可能である。連携キャッシュ・サーバは、ロード状態情報、転送頻度、及び所有の情報のうちの１つ又は複数個を定期的に交換及び維持することができる。例えば、連携キャッシュ・サーバは、ロード状態情報、転送頻度、及び所有の情報の１つ又は複数個を、１つ又、複数の転送リクエスト及び応答と結合することによって情報を交換することができる。
もう１つの例では、オーバロードの連携キャッシュ・サーバが少ないロードの連携キャッシュ・サーバを識別することができ、シフト・リクエスト及びキャッシュされたオブジェクトのコピーを（その後そのオブジェクトをキャッシュする）少ないロードの連携キャッシュ・サーバにコミュニケートすることができるので、そのオブジェクトに対するその後のリクエストは転送されないであろう。別の代替え方法として、オーバロードの連携キャッシュ・サーバは、少ないロードの連携キャッシュ・サーバにシフト・リクエストコミュニケートすることができる。その後、その少ないロードの連携キャッシュ・サーバは、シフト・リクエストに応答して起点オブジェクト・サーバからオブジェクトのコピーを得る。更にもう１つの代替え方法では、所有キャッシュ・サーバは、その後の転送リクエストがシフトされるように、１つ又は複数の他の連携キャッシュ・サーバにシフト・リクエスト・メッセージをマルチキャストすることができる。
本発明の完全分散型のインプリメンテーションでは、連携キャッシュ・サーバは、それぞれ、ロード状態をモニタし且つローカル的に維持するための分散型ロード・モニタを含むことができ、キャッシング・テーブルのローカル・コピーにおいて又はハッシュ関数によって転送頻度及び所有情報を維持することもできる。連携キャッシュ・サーバは、キャッシング・テーブルのローカル・コピー又はハッシュ関数によって所有情報を修正することができる。
本実施例は、オブジェクトに関する所有を少なくとも２つの連携キャッシュ・サーバ相互間で共同所有に修正するためのフィーチャ及びその後のオブジェクト・リクエストをそのオブジェクトの１つ又は複数の少ないロードの共同所有者に転送するための更に別のフィーチャを含む。共有オブジェクトに対するロード状態の減少が検出される場合、そのロード状態の減少に応答して、共同所有は一体化されることが可能である。
更にもう１つの例では、ロード状態及び転送頻度に基づいて１つ又は複数の転送リクエストをシフトすることは、オブジェクトのコピーを所有キャッシュ・サーバから１つ又は複数の連携キャッシュ・サーバにコミュニケートすることによって達成され得るし、従って、（そのオブジェクトが受領側のキャッシュに残っている限り）その後のリクエストは転送されないであろう。
本実施例による集中型環境の一例は、連携キャッシュ・サーバに対する転送頻度及びロード状態を維持するための集中型論理的ロード・モニタを含む。そのロード・モニタは、それらのキャッシュ・サーバにおけるロードをモニタするためのロード・テーブル、並びに転送頻度をモニタし且つオブジェクトを見つけるためのキャッシング・テーブル（又は、ハッシュ関数）を維持するための論理的ディレクトリ・サーバを含むことがある。そのディレクトリ・サーバは、ローカル的にミスしたオブジェクトに対する他のキャッシュ・サーバにおけるオブジェクト・ロケーションに関するリクエストを受け取り、ローカル的にミスしたオブジェクトに対するリクエストを転送する。そのディレクトリ・サーバは、オブジェクト・ロケーションに対するリクエストに応答して、ロード及び所与のオブジェクトに対する転送頻度に基づいてキャッシング・テーブルを操作することによって連携キャッシュ・サーバの間でリクエストのロード・バランスをとる。
集中型アーキテクチャ及び分散型アーキテクチャの両方に対する本実施例のロード・バランシング・ロジックの例を説明することにする。図１は、本発明において提案された集中型ロード・バランシング・ロジックを適用し得る、プロキシ・キャッシュ・サーバの集合体を使用したシステムのブロック図の一例を示す。図示のように、このシステムはプロキシ・キャッシュ・サーバ１５０の集合体を含む。単一レベルのキャッシュ・サーバしか示されてないけれども、キャッシュ・サーバ１５０のハイアラーキがあってもよい。通常のように、これらのプロキシ・キャッシュ・サーバは、ローカル・エリア・ネットワーク（ＬＡＮ）又はリージョナル・エリア・ネットワーク、或いはイントラネット１４０を介して相互に接続される。各キャッシュ・サーバ１５０は広域ネットワーク（ＷＡＮ）又はインターネット１１０にも接続される。そのＷＡＮ及び１１５を介して、これらのプロキシ・キャッシュ・サーバは、それら自身のキャッシュにおいてローカル的に見つけることができないオブジェクトに対する起点ウェブ・サーバにも届き得るものである。
本実施例によれば、論理的ロード・モニタ１２０は、連携キャッシュ・サーバ１５０のロード状態及び転送頻度（図３）をモニタするためのロード・バランシング・ロジック１３０を含み、それらに対してロード・バランシングを施す。後述するように、ロード・モニタ１２０の種々のフィーチャは、１つ又は複数のキャッシュ・サーバに常駐することができ、キャッシュ・サーバの間で重複及び分散されることが可能であり、又はパーソナル・コンピュータ（ＰＣ）サーバ又はワークステーションのような他の専用システムに常駐することができる。集中型のシステム構成では、ロード・モニタ１２０は、転送リクエスト１２５をキャッシュ・サーバに指向させる場合に中央ディレクトリ機能を遂行することができる。１つ又は複数のブラウザ１６０が各キャッシュ・サーバ１５０に接続するように構成可能である。直接リクエスト１５５は、通常のブラウザ１６０を走らせるコンピュータのようなクライアントからその構成されたキャッシュ・サーバ１５０に送られる。リクエストされたオブジェクトがローカル的に見つかる場合、それはブラウザに戻される。そうでない場合、キャッシュ・サーバ１５０はロード・モニタ１２０にメッセージをコミュニケートする。ロード・モニタ１２０に関する種々の例示インプリメンテーションを以下で更に詳細に説明することにする。ロード・インバランス状態又は傾向が終わらない場合、ロード・モニタ１２０は、そのリクエストされたオブジェクトを所有キャッシュ・サーバ１５０にリクエスト１２５を転送する。そこで、その所有キャッシュ・サーバは、例えば、ＬＡＮ１４０を介してリクエスティング・キャッシュ・サーバにそのリクエストされたオブジェクトを送る。
実際のロード・インバランスが識別されるか又はロードの傾向に基づいて予測される場合、ロード・モニタ１２０は、オーバロードのキャッシュ・サーバから１つ又は複数のアンダーロードの（少ないロードの）キャッシュ・サーバへの転送リクエストのシフトを開始させる。更に詳細に後述するように、所有のシフトは、サーバ１５０のロード状態及び転送頻度、並びに他の要素に基づき得るものである。
図３及び図４は、ロードモニタによって維持された２つのテーブルのデータ・フォーマットの例を示す。図示のように、それらのテーブルはロード・テーブル１０２及びキャッシング・テーブル１０１を含む。単一のテーブル又は種々の他のデータ構造が代替的に又は等価的に使用可能であることは当業者には明らかであろう。ロード・テーブル１０２は、オーバロード及びアンダローダのサーバが識別されるように、各キャッシュ・サーバ１５０（Ａ、Ｂ、Ｃ・・・"１０２２"）のロード状態１０２１を含む。通常のように、ロード状態１０２１は各キャッシュ・サーバをプローブすることによって定期的に更新可能である。キャッシュ・サーバのロードは、転送リクエストの数及び直接リクエストの数のウェート付けされた和であってもよい。オーバロードのキャッシュ・サーバ１５０は任意の一般的な技法によって識別可能である。例えば、ロード・モニタは過去のインターバルにおけるすべてのプロキシ・キャッシュ・サーバの平均的ロードを計算することができる。オーバロードのキャッシュ・サーバは、その平均的なロードより上の閾値を越えたロードを有するサーバとなり得る。
本実施例によれば、ロード・バランシングは、オーバロードの量及びキャッシュされたオブジェクトの転送頻度１０１１によるロードを考慮している。このように、ロード・モニタは、オーバロードのキャッシュ・サーバＣ"１０２１３"からアンダロードのキャッシュ・サーバＡ"１０２１１"にいくつかの又はすべての転送リクエストをシフトし続けるべきかどうかを決定することができる。キャッシング・テーブル１０１は、１つのオブジェクト又はオブジェクトのパーティションに関する転送頻度１０１１及び所有１０１２の情報を含んでいる。後述するように、所有は、Ａ"１０１２２"におけるような単独であってもよく、或いは２つ又はそれ以上の連携キャッシュ・サーバの間の共有Ｂ、Ｃ"１０１２１"及びＣ，Ａ"１０１２３"であってもよい。転送頻度１０１１は、オブジェクトに対するリクエストがロード・モニタを通して転送された回数を表す。転送頻度１０１１に加えて、キャッシング・テーブル１０１は、オブジェクトに対するリクエストが転送された最新の時間を表すタイムスタンプ１０１３を維持することもできる。更に、オブジェクト又はパーティションに対するキャッシング情報は、ロード・モニタ１２０によってオブジェクトｉｄ又はパーティションｉｄ１０１０に対する所与の時間的期間における転送頻度（カウント／時間）を含むことが可能である。代替え方法として、オブジェクトｉｄ／パーティションｉｄ１０１０はオブジェクト識別子に関するハッシュ関数に基づくものであってもよく、或いは、ウェブ・サーバにおいてオブジェクトが編成されるというディレクトリ構造に基づくものであってもよい。パーティションの場合、１つのパーティションに属する如何なるオブジェクトもロード・モニタによって転送されるであろう。所有のシフトは、サーバのロード状態、転送頻度１０１１、及びタイム・スタンプ情報のような他の情報に基づくことも可能である。
図５は、キャッシュ・ミスのために、キャッシュ・サーバ１５０からのリクエスト１２５に応答してロード・モニタ１２０によって取られるステップに対するロジック・フローの一例を示す。図示のように、ステップ２０１において、リクエストされたオブジェクト／パーティションがキャッシング・テーブルにおいて見つかるかどうか知るためのチェックが行われる。それが見つからない場合、ステップ２０２において、そのオブジェクト／パーティションのための新しいエントリが作成され、１つのキャッシュ・サーバがそれの所有者として割り当てられる。キャッシング・テーブルにおいてエントリが見つかる場合、ステップ２０３において、転送頻度１０１１が更新される、例えば、１だけインクレメントされる。そこで、ロード・モニタは、ステップ２０４において、その所有者がその時オーバロードであるかどうか（及び、転送頻度１０１１がそれに対する重要な貢献者であること）を知るためにロード・テーブル１０２を調べる。それが肯定される場合、ステップ２０５において、ロード・モニタはアンダロード（又は少ないロードの）キャッシュ・サーバを見つけ、それをそのリクエストされたオブジェクトの新しい（又は、共同の）所有者"１０１２２"として割り当てる。従って、キャッシング・テーブル１０１におけるオブジェクトに対する所有情報１０１２が更新される。そのロジック・フローがキャッシング・テーブル１０１又は使用される他のデータ構造における共同所有"１０１２３"又は階層的所有１０１２より成り得ることは当業者には明らかであろう。そこで、リクエスト（おそらく、そのリクエストされたオブジェクトのコピーを有するリクエスト）が、ステップ２０６において、新しい単独の所有者"１０１２２"（又は、共同所有者 "１０１２３"）に転送される。
別の方法として、新しい所有者は、起点オブジェクト・サーバから、例えば、インターネット１１０を介してオブジェクト・コピーを得るようにリクエストすることが可能である。所与のオブジェクトｉｄ／パーティションｉｄ１０１０及びキャッシュ・サーバ（所有１０１２）に対して、少なくとも部分的には高い転送頻度１０１１のために、ロード・チェック・ステップ２０４が先見的に、即ち、定期的に、或いは、識別されたオーバロード又はオーバロード傾向のロード状態１０２１に応答して遂行され得ることは当業者には明らかであろう。それが肯定される場合、ステップ２０５において、ロード・モニタはアンダロードの（少ないロードの）キャッシュ・サーバを見つけ、それをそのリクエストされたオブジェクトの新しい（又は、共同の）所有者として割り当て、おそらく、上記のように新しい（共同の）所有者にそのオブジェクトのコピーを送る。逆に、ステップ２０８において共同所有モデルが使用される場合、共同所有オブジェクト（ｐ "１０１０１"）に対するロード状態１０２１１及び転送頻度１０１１１が所定の閾値以下に降下する時、ステップ２０９において、共同所有（Ｂ，Ａ "１０
１２１"）は、例えば、他のホット・オブジェクトのための空間を作るために、
単独の所有及びキャッシュ・サーバＢ，Ａ "１０１２１"の１つからそれらの追放されたコピーの１つにマージされることもあり得る。
図６は、１つのオブジェクトに対するリクエストがブラウザ１６０から直接に受け取られる（１５５）又はロード・モニタ１２０から転送される（１２５）時のキャッシュ・サーバに対するロジック・フローの一例を示す。図示のように、ステップ３０１において、それは、先ず、リクエストされたオブジェクトがそれにキャッシュにおいてローカル的に見つかるかどうかを知るためのチェックを行う。それが肯定される場合、ステップ３０２において、それはオブジェクトを戻し、ステップ３０６において、プロセスは終了する。そうでない場合、ステップ３０３において、リクエストが直接リクエストであるか又は転送リクエストであるかを知るためのチェックが行われる。それが直接リクエストである場合、ステップ３０４においてそのリクエストはロード・モニタに送られ、ステップ３０６においてプロセスは終了する。一方、そのリクエストが転送リクエストである場合、ステップ３０５においてキャッシュ・サーバは起点のウェブ・サーバからオブジェクトをフェッチし、そのオブジェクトを戻すであろう。そこで、ステップ３０６においてプロセスは終了である。
次に、図１及び図２に戻ると、例えば、キャッシュ・サーバＣ "１０２２３"に接続しているブラウザ１６０がオブジェクトｐ "１０１０１"を接続するものと仮定する。キャッシング・テーブル１０１から、オブジェクトｐ "１０１０１"がサーバＣにおいてキャッシュされず、（Ｂ，Ａ "１０１２１"が、最初は、Ｂによって単独で指定されるだけであると仮定すると）キャッシュ・サーバＢにおいてキャッシュされる（キャッシュ・サーバＢによって「所有される」）ことがわかる。オブジェクトｐにおけるキャッシュ・ミスに応答して、サーバＣ "１０２２３"はオブジェクトｐに対するリクエストをロード・モニタ１２０に送る。サーバＢにおけるロード状態"１０２１２"及びｐ "１０１０１"に対するリクエストの転送頻度１０１１に従って、ロード・モニタは、オブジェクトｐのコピーをサーバＣに送ることを要請するリクエストをサーバＢに転送することが可能である。或いは、サーバＢがその時オーバロードである場合又はそのような傾向にある場合、ロード・モニタは、オブジェクトｐの新しい（又は、Ｂ，Ａ "１０１２１"におけるように共同の）所有者として働くようにアンダロードの（又は、少ないロードの）サーバを見つけることによってその転送リクエストをシフトしてもよい。そこで、リクエストはそのオブジェクトに対する新しい（又は、共同の、例えば、Ａの）所有サーバに転送される。所有の移動の後でも、オブジェクトｐのコピーは依然としてサーバＢのキャッシュにあり、依然として、サーバＢに到来する直接リクエストをサービスすることができる。しかし、この例では、オブジェクトｐに対するすべての（又は、共同所有の場合にはいくつかの）その後の転送リクエストはサーバＡにシフトされるであろう。別の方法として、共同所有Ｂ，Ａ "１０１２１"の場合、オブジェクトｐ "１０１０１"に対するその後の転送リクエストが少ないロードのサーバに送られることも可能である。
今や、オブジェクト見つけるために論理的に中心のディレクトリが使用されるプロキシ・キャッシュ・サーバの集合体に関して本実施例によるロード・バランシング方法を説明したが、種々の代替え方法が考えられるであろう。本発明は、更に、これらのシステムに対するロード・バランシングを得るためにも適用可能である。
例えば、本発明は、ローカル的にミスしたオブジェクトのコピーを見つけるために各キャッシュ・サーバ１５０が連携キャッシュ・サーバのリストをマルチキャストする連携プロキシ・キャッシュ・サーバの集合体に対してロード・バランシングを行うように構成可能である。この場合、特定の所有情報がそのシステム内のどこかに維持される必要はない。しかし、それらの連携キャッシュ・サーバからオブジェクトが見つかるという保証もない。すべてのプロキシ・キャッシュ・サーバのロード状態１０２１を維持するために及びこの情報を各キャッシュ・サーバ１５０と共有するために論理的ロード・モニタ１２０が使用されるものと仮定する。ロード・バランシングは、キャッシュ・サーバがそれのリクエスト（シフト・リクエストとも呼ばれる）をマルチキャストする宛先の連携サーバのリストからオーバロードのサーバを排除することによって達成され得る。その結果、少ないロードのキャッシュ・サーバだけが転送リクエスト１２５を受け取るであろう。
もう１つの代替え方法は、ローカル的にミスしたオブジェクトのコピーを見つけるためにハッシュ関数が使用されるという連携プロキシ・キャッシュ・サーバの集合体のためのロード・バランシング方法である。この場合、連携プロキシ・キャッシュ・サーバ１５０の間で、各キャッシュ・サーバに対して１つのパーティションとして、オブジェクト空間を区画化することが可能である。転送リクエストをシフトすることによってロード・バランシングを達成するためには、転送リクエストがオーバロードのサーバに指向しないようにハッシュ関数を変更することが可能である。１つの望ましい方法は、プロキシ・キャッシュ・サーバの合計数よりもずっと大きい多数のバケットにオブジェクト空間をハッシュすることである。その場合、これらのハッシュ・バケットは、キャッシュ・サーバの間でロードをバランスさせるという最終目的を持ってそれらのキャッシュ・サーバに割り当てられる。ハッシュ関数を効果的に変更して、１つのオーバロードのサーバからアンダロードのサーバに１つ又は複数のハッシュ・バケットを定期的に移動させることが可能である。
いずれの場合も、連携キャッシュ・サーバのロード状態は、計算されたロード状態に直接に転送頻度で解することができる。例えば、ロード状態は、前記転送リクエストの数及び前記連携キャッシュ・サーバへの直接リクエストの数のウェート付けされた和であってもよい。別の方法として、ロード・モニタは、各連携キャッシュ・サーバに対する転送頻度全体を別々に維持することもできる。
図２、図３及び図４を参照すると、更に別の代替え方法は、分散しているロード・モニタ１２０である。即ち、キャッシュ・サーバ１５０にまたがっていくつかの又はすべてのロード・モニタが複製される。１つの例では、分散ロード・モニタは、連携キャッシュ・サーバのローカルのロード状態情報１０２１（及び、後述するように、おそらく、Ａ、Ｂ、Ｃ、．．．"１０２２"すべてのロード状態）を含む。分散ロード・モニタ１２０' は、各オブジェクトｉｄ／パーティションｉｄ １０１０に対する転送頻度１０１１及び所有１０１２の情報を持ったキャッシング・テーブル１０１も含むことが望ましい。別の方法として、例えば上記のようなハッシュ関数は分散され、キャッシュ・サーバに記憶されてもよい。ロード状態情報１０２１及び／又はキャッシング・テーブル１０１は、状態の変化（所有、又はロード状態の重大な変化）がある時、又はキャッシュ転送リクエスト及び応答と共に結合処理される時、定期的に交換可能である。ロード状態情報１０２１は、トラッキングのために又は他の目的でそれと関連づけられたタイム・スタンプ（図示されてない）を持つこともできる。
ここで、キャッシュ・サーバ１５０がキャッシュ・ミスを有する場合、ローカルのロード・モニタ１２０' は、それのローカル・キャッシング・テーブル１０１においてそのリクエストされたオブジェクトの所有者をルップアップし、そのリクエストを所有キャッシュ・サーバに転送する。別の方法として、ハッシュ関数が、パーティションを識別するためにＵＲＬ又は宛先ＩＰアドレスのようなリクエストからのキーに適用され、しかる後そのリクエストが正しいキャッシュ・サーバに転送されてもよい。転送リクエスト（即ち、キャッシュ・ミスを持ったキャッシュ・サーバからのリクエスト）が受け取られる時、所有キャッシュ・サーバは、それを転送リクエストとして（例えば、クライアントと対立する他のキャッシュ・サーバからのリクエストとしてそれを識別することによって）識別し、それの転送頻度情報１０１１を適用可能なものとして更新する（図５のステップ２０３）。オーバロードの傾向又は状態が現れる場合（ステップ２０４）、所有キャッシュ・サーバは、シフト・リクエスト及びキャッシュされたオブジェクトのコピーでもってリクエスティング・キャッシュ・サーバに応答することができる。
別の方法として、リクエスティング・キャッシュ・サーバは、起点オブジェクト・サーバからイントラネット、ＷＡＮ、又はインターネットを介してコピーを得ることができる。いずれの場合も、転送サーバがそのオブジェクトのコピーをキャッシュする時、このサーバは、それがキャッシュに残っている限り、転送リクエストを最早発生しないであろうし（ステップ３０１，３０２）、従って、所有キャッシュ・サーバにおけるロードを比例的に減少させるであろう。更に、所有キャッシュ・サーバは、シフト・リクエスト・メッセージを１つ又は複数の他の連携キャッシュ・サーバ１５０にマルチキャストすることができ、従って、その後の転送リクエストは、例えば、キャッシュ・テーブルのそれらのローカル・コピーを更新することによって又はハッシュ関数を修正することによってシフトされるであろう（ステップ２０５）。この時点で、他のキャッシュ・サーバは、キャッシング・テーブル１０１のそれらのローカル・コピーに表されるように、新しい所有者に（又は、所有を分け合う場合には２つ又はそれ以上のキャッシュ・サーバ１５０の最も少ないロードの所有者に）それらのリクエストを転送することができる。オリジナル・キャッシュ所有者のロードが受容可能なレベル、例えば、閾値によって表されるレベルまで減少した時（ステップ２０４）、共同所有者の情報はそれのオリジナル状態にマージされ得る（例えば、Ｂ，Ａ "１０
１２１"-->Ｂ）。
すべてのキャッシュ・サーバ（Ａ，Ｂ，Ｃ、．．．"１０２２"）に対するロード状態情報１０２１が十分に分散している場合、リクエスティング・キャッシュ・サーバは所有サーバのロード状態（及び関連するタイム・スタンプ）を先見的に、即ち、そのリクエストを転送する前にチェックすることができるであろう。それがオーバロードである場合、リクエスティング・キャッシュ・サーバは所有キャッシュ・サーバから（又は、起点キャッシュ・サーバからイントラネット又はインターネット１１０を介して）オブジェクトのコピーを、及び、恐らく、ロード状態情報をリクエストすることができるであろう。所有キャッシュ・サーバはそれのキャッシング・テーブルを更新すること又は新しい共同所有を表すようにハッシュ関数を修正することができるであろう。そこで、リクエスティング・サーバ（又は、所有サーバ）は、そのオブジェクトの新しい共同所有を表すメッセージを他のすべてのキャッシュ・サーバ１５０にマルチキャストすることができ、恐らく、更新されたロード状態を含むことができるであろう。この時点で、他のキャッシュ・サーバはそれらのキャッシング・テーブルを更新するか又は新しい共同所有を表すようにハッシュ関数を修正するであろうし、キャッシング・テーブル１０１のローカル・コピーにおいて表された所有を分け合う２つ又はそれ以上のキャッシュ・サーバ１５０の最も少ないロードの所有者にそれらのリクエストを転送することができる（ステップ２０６）。共有キャッシュ所有者のロードが、例えば、閾値によって表されるような受容可能なレベルまで減少した時（ステップ２０４及び２０８）、ステップ２０９において、所有情報はそれのオリジナル状態にマージされることが可能である。
本発明の望ましい実施例は、キャッシュ・サーバ１５０を具備したプロセッサ（図示されてない）上で又は前述の集中型モデルのようなロード・モニタ１２０を具体化した他のコンピュータ上で実行するためのコンピュータ・プログラム製品又はプログラム記憶装置において有形的に具体化されたソフトウエアとしてインプリメントされ得るフィーチャを含んでいる。例えば、ＪＡＶＡ(R)のような一般的なオブジェクト指向コンピュータの実行可能なコードでインプリメントされたソフトウエアは種々なプラットフォームに跨る移植性を与える。ＲＥＸＸ、Ｃ、Ｃ++、及びＳｍａｌｌｔａｌｋを含むがそれらに限定されない他の多くのコンパイルされた又はインタープリットされたプロシージャ指向及び／又はオブジェクト指向（ＯＯ）プログラミング環境が使用されてもよいことは当業者には明らかであろう。
本実施例の方法が、磁気的、電気的、光学的、又は他の永続的なプログラム又はデータ記憶装置において具体化され得ることも当業者には明らかであろう。なお、上記の記憶装置は、磁気ディスク、ダイレクト・アクセス記憶装置（ＤＡＳＤ）、バブル・メモリ、テープ、ＣＤ−ＲＯＭ及びＤＶＤのような光ディスク・フォーマット、及び、コア、ＲＯＭ、ＰＲＯＭ、フラッシュ・メモリ又はバッテリ・バックアップＲＡＭのような他の永続的（不揮発性とも呼ばれる）記憶装置を含むが、それらに限定されない。本発明の精神及び技術範囲では、サーバ１２０' のメモリにおいて実証された１つ又は複数のコンポーネントがディスク（図示されてない）、ネットワーク、他のサーバを介して直接にアクセス及び維持され得ることは当業者には明らかであろう。
要約すると、プロキシ・キャッシュ・サーバのような連携キャッシュ・サーバの集合体を含むシステムにおいて、リクエストされたオブジェクトをローカル的に見つけることができなかった場合、１つの連携キャッシュ・サーバにリクエストが転送されることが可能である。例えば、リファレンス・スキューのために、或るオブジェクトがすべてのクライアントによって高い要求状態にある場合、及びそれらのホット・オブジェクトを含むキャッシュ・サーバが転送リクエストのためにオーバロードになっている場合、オーバロード状態が検出される。それに応答して、オーバロードのキャッシュ・サーバから少ないロードのキャッシュ・サーバにいくつかの又はすべての転送リクエストをシフトすることによってロードはバランスをとられる。集中型ロード・バランシング環境及び分散型ロード・バランシング環境の両方が説明されている。
本発明の望ましい実施例を代替え方法と共に説明したけれども、現在及び将来とも、当業者が本願の特許請求の範囲に記載された技術的範囲内で種々の改良及び拡張を行い得ることは明らかであろう。これらの特許請求の範囲は、上述の本発明に対する適正な保護を維持するためのものと解されるべきである。
本発明による集中型ロード・バランシング・ロジックを適用し得る、プロキシ・キャッシュ・サーバの集合体を使用するシステムの例をブロック図形式で示す。 本発明による分散型ロード・バランシング・ロジックを適用し得る、プロキシ・キャッシュ・サーバの集合体を使用するシステムのもう１つの例をブロック図形式で示す。 図１に示されたロード・モニタが維持し得るテーブルに対するデータ・フォーマットの例を示す。 図２に示されたロード・モニタが維持し得るテーブルに対するデータ・フォーマットの例を示す。 キャッシュ・ミスのために、キャッシュ・サーバからのリクエストに応答してロード・モニタに対するロジック・フローの例を示す。 オブジェクトに対するリクエストに応答してキャッシュ・サーバに対するロジック・フローの例を示す。

Claims (18)

  1. 各々にブラウザが接続された、複数の連携キャッシュ・サーバに接続されたロード・モニタを有する、ロード・バランシングのためのキャッシュ・サーバ・システムにおいて、ロード・バランシングを行う方法であって、
    前記連携キャッシュ・サーバのうちの第１の連携キャッシュ・サーバが、前記ブラウザから、オブジェクトにアクセスするリクエストを受け取るステップと、
    前記ブラウザから前記連携キャッシュ・サーバにリクエストされた前記オブジェクト毎に、該オブジェクトにアクセスするリクエストが、他の連携キャッシュ・サーバに転送された転送頻度を記録するステップと、
    前記複数の連携キャッシュ・サーバの、個々の連携キャッシュ・サーバのロード状態を記録するステップと、
    前記ブラウザから、アクセスするリクエストを受けた前記オブジェクトが前記第１の連携キャッシュ・サーバ中に見つからないというキャッシュ・ミスに応答して、前記ロード・モニタが、前記連携キャッシュ・サーバから、前記ブラウザから受け取ったリクエストの転送を依頼する転送リクエストを受け取るステップと、
    前記ロード・モニタが、 前記転送リクエストに応答して、 前記キャッシュ・ミスを生じた連携キャッシュ・サーバ以外の、前記オブジェクトを所有する第１の連携キャッシュ・サーバにおけるロード状態及び前記オブジェクトに対する転送頻度に基づいて、前記第１の連携キャッシュ・サーバよりも負荷の少ない第２の連携キャッシュ・サーバに、前記オブジェクトに対する前記転送リクエストの送信先をシフトするステップと、
    を含むキャッシュ・サーバ・ロード・バランシング方法。
  2. 前記シフトするステップは、更に、前記ロード・モニタが、前記転送リクエストに応答して前記ロード状態及び転送頻度をチェックするステップを有する、請求項１に記載の方法。
  3. 更に、前記ロード・モニタが分散型ロード・モニタであり、前記分散型ロード・モニタがローカル・ロード状態、前記各連携キャッシュ・サーバにおけるキャッシュされたオブジェクトに対する転送頻度及び所有情報をモニタ及び維持するステップを含む、請求項２に記載の方法。
  4. 更に、前記各連携キャッシュ・サーバが前記ローカル・ロード状態の情報、転送頻度、及び所有情報のうちの１つ又は複数を定期的に交換及び維持するステップを含む、請求項３に記載の方法。
  5. 更に、前記各連携キャッシュ・サーバが前記ローカル・ロード状態の情報、転送頻度、及び所有情報のうちの１つ又は複数個を、前記転送リクエスト及び応答のうちの１つ又は複数個と共に結合処理することによって交換するステップを含む、請求項３に記載の方法。
  6. 更に、前記ロード・モニタが、前記オブジェクトに対する転送リクエストを受け取り、前記オブジェクトに対する転送頻度を更新するステップを含む、請求項１乃至請求項５のうちのいずれかに記載の方法。
  7. 前記少ないロードの連携キャッシュ・サーバが前記シフト・リクエストを受け取るステップと、
    前記少ないロードの連携キャッシュ・サーバが前記シフト・リクエストに応答して起点のオブジェクト・サーバからの前記オブジェクトのコピーをリクエストするステップと、を更に含む、請求項６に記載の方法。
  8. 前記ロード・モニタが過去のインターバルにおける各キャッシュ・サーバのロード状態を計算するステップと、
    前記ロード・モニタが過去のインターバルにおけるすべてのキャッシュ・サーバの平均的なロードを計算するステップと、
    前記ロード・モニタが前記平均的なロードより上の閾値を超えるロード状態を有するキャッシュ・サーバを検出するステップと、
    を更に含む、請求項１乃至請求項７のうちのいずれかに記載の方法。
  9. 前記連携キャッシュ・サーバのロード状態は前記転送リクエストの数及び前記連携キャッシュ・サーバへの直接リクエストの数のウェート付けされた和である、請求項１乃至請求項８のうちのいずれかに記載の方法。
  10. 前記ロード・モニタが、前記オブジェクトまたは前記オブジェクトを含むパーティションに関するキャッシュ情報を維持するステップを更に含む、請求項１乃至請求項９のうちのいずれかに記載の方法。
  11. 前記オブジェクト又は前記パーティションのキャッシュ情報は前記オブジェクトに関連した転送頻度を含む、請求項１０に記載の方法。
  12. 前記ロード・モニタが分散型ロード・モニタであり、前記分散型ロード・モニタがロード状態、転送頻度、及び各連携キャッシュ・サーバにおけるキャッシュされたオブジェクトに対する所有情報をモニタし、ローカル的に維持するステップを更に含む、請求項１１に記載の方法。
  13. 前記各連携キャッシュ・サーバが前記ロード状態、転送頻度、及び所有情報のうちの１つ又は複数個を定期的に交換するステップを更に含む、請求項１２に記載の方法。
  14. 前記各連携キャッシュ・サーバが、前記ロード状態、転送頻度、及び所有情報のうちの１つ又は複数個を前記転送リクエスト及び応答のうちの１つ又は複数個と共に結合処理することによって交換するステップを更に含む、請求項１１、請求項１２，又は請求項１３に記載の方法。
  15. 各々にブラウザが接続された、複数の連携キャッシュ・サーバに接続されたロード・モニタを有する、ロード・バランシングのためのキャッシュ・サーバ・システムであって、
    前記ブラウザから前記連携キャッシュ・サーバにリクエストされた前記オブジェクト毎に、該オブジェクトにアクセスするリクエストが、他の連携キャッシュ・サーバに転送された転送頻度を記録する手段と、
    前記複数の連携キャッシュ・サーバの、個々の連携キャッシュ・サーバのロード状態を記録する手段と、
    前記ブラウザのアクセスによる、 前記複数の連携キャッシュ・サーバの１つにおけるオブジェクトに関するキャッシュ・ミスに応答して前記キャッシュ・ミスを生じた連携キャッシュ・サーバから転送リクエストを受け取る手段と、
    前記キャッシュ・ミスを生じた連携キャッシュ・サーバ以外の、前記オブジェクトを所有する第１の連携キャッシュ・サーバにおけるロード状態及び前記オブジェクトに対する転送頻度に基づいて、前記第１の連携キャッシュ・サーバよりも負荷の少ない第２連携キャッシュ・サーバに、前記オブジェクトに対する前記転送リクエストの送信先をシフトする手段と、
    を含むキャッシュ・サーバ・ロード・バランシング・システム。
  16. 前記シフトする手段は、更に、前記転送リクエストに応答して前記ロード状態及び転送頻度をチェックする手段を有する、請求項１５に記載のシステム。
  17. 更に、前記オブジェクトに対する転送リクエストを受け取り、前記オブジェクトに対する転送頻度を更新する手段を含む、請求項１５乃至請求項１６のいずれかに記載のシステム。
  18. 前記オブジェクトまたは前記オブジェクトを含むパーティションに関するキャッシュ情報を維持する手段を更に含み、前記キャッシュ情報が前記オブジェクトに関連した転送頻度を含む、請求項１５乃至請求項１７のいずれかに記載のシステム。
JP2007114983A 1998-10-09 2007-04-25 ロード・バランシング連携キャッシュ・サーバ Withdrawn JP2007220140A (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
US09/169,223 US6438652B1 (en) 1998-10-09 1998-10-09 Load balancing cooperating cache servers by shifting forwarded request

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2000576365A Division JP3989682B2 (ja) 1998-10-09 1999-10-08 キャッシュ・サーバ・ロード・バランシング方法

Publications (1)

Publication Number Publication Date
JP2007220140A true JP2007220140A (ja) 2007-08-30

Family

ID=22614704

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2000576365A Expired - Fee Related JP3989682B2 (ja) 1998-10-09 1999-10-08 キャッシュ・サーバ・ロード・バランシング方法
JP2007114983A Withdrawn JP2007220140A (ja) 1998-10-09 2007-04-25 ロード・バランシング連携キャッシュ・サーバ

Family Applications Before (1)

Application Number Title Priority Date Filing Date
JP2000576365A Expired - Fee Related JP3989682B2 (ja) 1998-10-09 1999-10-08 キャッシュ・サーバ・ロード・バランシング方法

Country Status (13)

Country Link
US (1) US6438652B1 (ja)
EP (1) EP1119808A1 (ja)
JP (2) JP3989682B2 (ja)
KR (1) KR100473671B1 (ja)
CN (1) CN1255728C (ja)
AU (1) AU6114499A (ja)
CA (1) CA2343802C (ja)
CZ (1) CZ20011281A3 (ja)
HU (1) HU224787B1 (ja)
IL (1) IL141973A (ja)
PL (1) PL195958B1 (ja)
TW (1) TW444458B (ja)
WO (1) WO2000022526A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013196688A (ja) * 2012-03-21 2013-09-30 Nhn Corp ネットワークスイッチを用いたキャッシュシステム及びキャッシュサービスの提供方法

Families Citing this family (301)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO1998031138A1 (en) * 1997-01-13 1998-07-16 John Overton Automated system for image archiving
US7233978B2 (en) * 1998-07-08 2007-06-19 Econnectix, Llc Method and apparatus for managing location information in a network separate from the data to which the location information pertains
US7103640B1 (en) 1999-09-14 2006-09-05 Econnectix, Llc Network distributed tracking wire transfer protocol
US6993034B1 (en) * 1998-10-15 2006-01-31 International Business Machines Corporation Cluster destination address table—IP routing for clusters
US6691165B1 (en) * 1998-11-10 2004-02-10 Rainfinity, Inc. Distributed server cluster for controlling network traffic
US6553376B1 (en) * 1998-11-18 2003-04-22 Infolibria, Inc. Efficient content server using request redirection
US6490615B1 (en) * 1998-11-20 2002-12-03 International Business Machines Corporation Scalable cache
JP2000163288A (ja) * 1998-11-30 2000-06-16 Nec Corp データ記憶システム、データ再配置方法及び記録媒体
US8225002B2 (en) 1999-01-22 2012-07-17 Network Disk, Inc. Data storage and data sharing in a network of heterogeneous computers
US6801949B1 (en) 1999-04-12 2004-10-05 Rainfinity, Inc. Distributed server cluster with graphical user interface
AU4839300A (en) 1999-05-11 2000-11-21 Webvan Group, Inc. Electronic commerce enabled delivery system and method
US6975937B1 (en) * 1999-05-11 2005-12-13 Christopher Kantarjiev Technique for processing customer service transactions at customer site using mobile computing device
US7177825B1 (en) 1999-05-11 2007-02-13 Borders Louis H Integrated system for ordering, fulfillment, and delivery of consumer products using a data network
US7146505B1 (en) 1999-06-01 2006-12-05 America Online, Inc. Secure data exchange between date processing systems
US6751191B1 (en) 1999-06-29 2004-06-15 Cisco Technology, Inc. Load sharing and redundancy scheme
US7185114B1 (en) * 1999-08-07 2007-02-27 Shrikumar Hariharasubrahmanian Virtual memory systems and methods
US6667980B1 (en) 1999-10-21 2003-12-23 Sun Microsystems, Inc. Method and apparatus for providing scalable services using a packet distribution table
US7401115B1 (en) * 2000-10-23 2008-07-15 Aol Llc Processing selected browser requests
JP3463803B2 (ja) * 1999-11-09 2003-11-05 松下電器産業株式会社 クラスタサーバ装置
US6681251B1 (en) * 1999-11-18 2004-01-20 International Business Machines Corporation Workload balancing in clustered application servers
US6405252B1 (en) * 1999-11-22 2002-06-11 Speedera Networks, Inc. Integrated point of presence server network
US6694358B1 (en) 1999-11-22 2004-02-17 Speedera Networks, Inc. Performance computer network method
US7523181B2 (en) 1999-11-22 2009-04-21 Akamai Technologies, Inc. Method for determining metrics of a content delivery and global traffic management network
US7590739B2 (en) * 1999-11-22 2009-09-15 Akamai Technologies, Inc. Distributed on-demand computing system
US6754699B2 (en) 2000-07-19 2004-06-22 Speedera Networks, Inc. Content delivery and global traffic management network system
US7925713B1 (en) * 1999-11-22 2011-04-12 Akamai Technologies, Inc. Method for operating an integrated point of presence server network
US7349979B1 (en) * 1999-12-02 2008-03-25 Cisco Technology, Inc. Method and apparatus for redirecting network traffic
US6754706B1 (en) 1999-12-16 2004-06-22 Speedera Networks, Inc. Scalable domain name system with persistence and load balancing
US6799202B1 (en) * 1999-12-16 2004-09-28 Hachiro Kawaii Federated operating system for a server
US6757836B1 (en) 2000-01-10 2004-06-29 Sun Microsystems, Inc. Method and apparatus for resolving partial connectivity in a clustered computing system
US6735205B1 (en) 2000-01-10 2004-05-11 Sun Microsystems, Inc. Method and apparatus for fast packet forwarding in cluster networking
US6862613B1 (en) 2000-01-10 2005-03-01 Sun Microsystems, Inc. Method and apparatus for managing operations of clustered computer systems
US6735206B1 (en) 2000-01-10 2004-05-11 Sun Microsystems, Inc. Method and apparatus for performing a fast service lookup in cluster networking
US6587866B1 (en) * 2000-01-10 2003-07-01 Sun Microsystems, Inc. Method for distributing packets to server nodes using network client affinity and packet distribution table
US6769008B1 (en) 2000-01-10 2004-07-27 Sun Microsystems, Inc. Method and apparatus for dynamically altering configurations of clustered computer systems
US6748437B1 (en) 2000-01-10 2004-06-08 Sun Microsystems, Inc. Method for creating forwarding lists for cluster networking
US6789213B2 (en) * 2000-01-10 2004-09-07 Sun Microsystems, Inc. Controlled take over of services by remaining nodes of clustered computing system
US6839829B1 (en) 2000-01-18 2005-01-04 Cisco Technology, Inc. Routing protocol based redundancy design for shared-access networks
US7058007B1 (en) 2000-01-18 2006-06-06 Cisco Technology, Inc. Method for a cable modem to rapidly switch to a backup CMTS
US6823377B1 (en) * 2000-01-28 2004-11-23 International Business Machines Corporation Arrangements and methods for latency-sensitive hashing for collaborative web caching
US6850968B1 (en) * 2000-02-01 2005-02-01 Service Co. Reduction of network server loading
US6865601B1 (en) * 2000-02-11 2005-03-08 Hewlett-Packard Development Company L.P. Method for allocating web sites on a web server cluster based on balancing memory and load requirements
US7313616B1 (en) * 2000-02-17 2007-12-25 International Business Machines Corporation Web site management in a world wide web communication network through periodic reassignment of the server computers designated for respective web documents related to document weight based on byte count and program content
US7552233B2 (en) * 2000-03-16 2009-06-23 Adara Networks, Inc. System and method for information object routing in computer networks
US7162539B2 (en) 2000-03-16 2007-01-09 Adara Networks, Inc. System and method for discovering information objects and information object repositories in computer networks
US7565450B2 (en) * 2000-03-16 2009-07-21 Adara Networks Inc. System and method for using a mapping between client addresses and addresses of caches to support content delivery
US7650376B1 (en) 2000-03-27 2010-01-19 Blumenau Trevor I Content distribution system for distributing content over a network, with particular applicability to distributing high-bandwidth content
US7058706B1 (en) 2000-03-31 2006-06-06 Akamai Technologies, Inc. Method and apparatus for determining latency between multiple servers and a client
US6862623B1 (en) * 2000-04-14 2005-03-01 Microsoft Corporation Capacity planning for server resources
AU2001259075A1 (en) * 2000-04-17 2001-10-30 Circadence Corporation System and method for web serving
US6980533B1 (en) * 2000-04-19 2005-12-27 Lucent Technologies Inc. Load balancing technique for a wireless internet access system
US6970425B1 (en) * 2000-04-27 2005-11-29 At&T Corp. Method and apparatus for throttling and distributing data transmissions across a network
US7343422B2 (en) 2000-04-28 2008-03-11 Adara Networks, Inc. System and method for using uniform resource locators to map application layer content names to network layer anycast addresses
US7908337B2 (en) * 2000-04-28 2011-03-15 Adara Networks, Inc. System and method for using network layer uniform resource locator routing to locate the closest server carrying specific content
US7725596B2 (en) * 2000-04-28 2010-05-25 Adara Networks, Inc. System and method for resolving network layer anycast addresses to network layer unicast addresses
US7577754B2 (en) * 2000-04-28 2009-08-18 Adara Networks, Inc. System and method for controlling access to content carried in a caching architecture
US6598140B1 (en) * 2000-04-30 2003-07-22 Hewlett-Packard Development Company, L.P. Memory controller having separate agents that process memory transactions in parallel
US6611906B1 (en) * 2000-04-30 2003-08-26 Hewlett-Packard Development Company, L.P. Self-organizing hardware processing entities that cooperate to execute requests
EP1154356A1 (en) * 2000-05-09 2001-11-14 Alcatel Caching of files during loading from a distributed file system
US7240283B1 (en) 2000-11-10 2007-07-03 Narasimha Rao Paila Data transmission and rendering techniques implemented over a client-server system
US6757796B1 (en) * 2000-05-15 2004-06-29 Lucent Technologies Inc. Method and system for caching streaming live broadcasts transmitted over a network
WO2001093106A2 (en) * 2000-05-26 2001-12-06 Infolibria, Inc. High performance efficient subsystem for data object storage
US20080005275A1 (en) * 2000-06-02 2008-01-03 Econnectix, Llc Method and apparatus for managing location information in a network separate from the data to which the location information pertains
US7143128B1 (en) * 2000-06-08 2006-11-28 International Business Machines Corporation Interactive data processor controlled display interface for tracking of allocated messages in a dynamic workload balancing communication system
US6738614B1 (en) * 2000-06-19 2004-05-18 1477.Com Wireless, Inc. Method and system for communicating data to a wireless device
US6704781B1 (en) * 2000-06-27 2004-03-09 Intel Corporation System and method for content caching implementing compensation for providing caching services
US6999988B2 (en) * 2000-07-13 2006-02-14 Lucent Technologies Inc. Method and system for data layout and replacement in distributed streaming caches on the Internet
US7346676B1 (en) 2000-07-19 2008-03-18 Akamai Technologies, Inc. Load balancing service
US7912978B2 (en) 2000-07-19 2011-03-22 Akamai Technologies, Inc. Method for determining metrics of a content delivery and global traffic management network
US7653706B2 (en) 2000-07-19 2010-01-26 Akamai Technologies, Inc. Dynamic image delivery system
US7725602B2 (en) 2000-07-19 2010-05-25 Akamai Technologies, Inc. Domain name resolution using a distributed DNS network
AU2002222964A1 (en) * 2000-07-19 2002-01-30 Speedera Networks, Inc. Content delivery and global traffic management across a network system
US8060581B2 (en) 2000-07-19 2011-11-15 Akamai Technologies, Inc. Dynamic image delivery system
US8341297B2 (en) 2000-07-19 2012-12-25 Akamai Technologies, Inc. Latencies and weightings in a domain name service (DNS) system
US6804077B1 (en) * 2000-07-25 2004-10-12 Certance Llc Method and apparatus for reinitializing a tape drive after a power loss
US7454516B1 (en) * 2000-08-03 2008-11-18 Microsoft Corporation Scalable virtual partitioning of resources
CA2415888C (en) * 2000-08-04 2008-10-21 Avaya Technology Corporation Intelligent demand driven recognition of url objects in connection oriented transactions
US7711790B1 (en) * 2000-08-24 2010-05-04 Foundry Networks, Inc. Securing an accessible computer system
GB2366406A (en) * 2000-09-01 2002-03-06 Ncr Int Inc Downloading and uploading data in information networks
US7657629B1 (en) 2000-09-26 2010-02-02 Foundry Networks, Inc. Global server load balancing
US7454500B1 (en) 2000-09-26 2008-11-18 Foundry Networks, Inc. Global server load balancing
US9130954B2 (en) * 2000-09-26 2015-09-08 Brocade Communications Systems, Inc. Distributed health check for global server load balancing
JP2002108840A (ja) * 2000-09-28 2002-04-12 Toshiba Corp 分散型注文受付システム、受付サーバ、コンテンツサーバ、分散型注文受付方法及びコンピュータプログラム製品
JP2002123435A (ja) * 2000-10-17 2002-04-26 Hitachi Ltd 情報提供装置および方法
JP2002140202A (ja) * 2000-11-01 2002-05-17 Hitachi Ltd 情報配信システムおよびその負荷分散方法
US6950849B1 (en) * 2000-11-01 2005-09-27 Hob Gmbh & Co. Kg Controlling load-balanced access by user computers to server computers in a computer network
US6785707B2 (en) * 2000-11-14 2004-08-31 Bitfone Corp. Enhanced multimedia mobile content delivery and message system using cache management
US20020069241A1 (en) * 2000-12-06 2002-06-06 Girija Narlikar Method and apparatus for client-side proxy selection
US7233914B1 (en) 2000-12-27 2007-06-19 Joyo Wijaya Technique for implementing item substitution for unavailable items relating to a customer order
US7188145B2 (en) 2001-01-12 2007-03-06 Epicrealm Licensing Llc Method and system for dynamic distributed data caching
US7035911B2 (en) 2001-01-12 2006-04-25 Epicrealm, Licensing Llc Method and system for community data caching
US7024479B2 (en) * 2001-01-22 2006-04-04 Intel Corporation Filtering calls in system area networks
US6990667B2 (en) 2001-01-29 2006-01-24 Adaptec, Inc. Server-independent object positioning for load balancing drives and servers
US7155515B1 (en) * 2001-02-06 2006-12-26 Microsoft Corporation Distributed load balancing for single entry-point systems
US7193968B1 (en) * 2001-02-08 2007-03-20 Cisco Technology, Inc. Sample netflow for network traffic data collection
JP2002251313A (ja) * 2001-02-23 2002-09-06 Fujitsu Ltd キャッシュサーバ及び分散キャッシュサーバシステム
US7308423B1 (en) 2001-03-19 2007-12-11 Franklin Goodhue Woodward Technique for handling sales of regulated items implemented over a data network
US7555561B2 (en) * 2001-03-19 2009-06-30 The Aerospace Corporation Cooperative adaptive web caching routing and forwarding web content data broadcasting method
US20020184327A1 (en) * 2001-05-11 2002-12-05 Major Robert Drew System and method for partitioning address space in a proxy cache server cluster
US7584418B2 (en) 2001-05-31 2009-09-01 Oracle International Corporation Methods, systems, and articles of manufacture for prefabricating an information page
US20020184612A1 (en) * 2001-06-01 2002-12-05 Hunt Joseph R. Runtime configurable caching for component factories
US7899911B2 (en) * 2001-06-07 2011-03-01 Intel Corporation Method and apparatus to retrieve information in a network
US7881208B1 (en) 2001-06-18 2011-02-01 Cisco Technology, Inc. Gateway load balancing protocol
US7117242B2 (en) * 2001-06-20 2006-10-03 Hewlett-Packard Development Company, L.P. System and method for workload-aware request distribution in cluster-based network servers
US8041814B2 (en) * 2001-06-28 2011-10-18 International Business Machines Corporation Method, system and computer program product for hierarchical load balancing
US7610357B1 (en) * 2001-06-29 2009-10-27 Cisco Technology, Inc. Predictively responding to SNMP commands
US20030014596A1 (en) * 2001-07-10 2003-01-16 Naohiko Irie Streaming data cache for multimedia processor
US7274659B2 (en) * 2001-07-27 2007-09-25 Western Digital Ventures, Inc. Providing streaming media data
US20030028583A1 (en) * 2001-07-31 2003-02-06 International Business Machines Corporation Method and apparatus for providing dynamic workload transition during workload simulation on e-business application server
KR100935586B1 (ko) * 2001-08-27 2010-01-07 코닌클리케 필립스 일렉트로닉스 엔.브이. 캐시 방법
US20030041215A1 (en) * 2001-08-27 2003-02-27 George Robert T. Method and apparatus for the utilization of distributed caches
US6973536B1 (en) * 2001-08-31 2005-12-06 Oracle Corporation Self-adaptive hybrid cache
US6721845B1 (en) * 2001-09-24 2004-04-13 Lsi Logic Corporation Algorithm for maintaining maximum streaming performance of mirrored disks
US7769823B2 (en) 2001-09-28 2010-08-03 F5 Networks, Inc. Method and system for distributing requests for content
US6839758B2 (en) * 2001-09-28 2005-01-04 Intel Corporation Network processor for cache array routing
US7373644B2 (en) * 2001-10-02 2008-05-13 Level 3 Communications, Llc Automated server replication
US7761594B1 (en) * 2001-10-15 2010-07-20 Netapp, Inc. Method and apparatus for forwarding requests in a cache hierarchy based on user-defined forwarding rules
US20030079027A1 (en) 2001-10-18 2003-04-24 Michael Slocombe Content request routing and load balancing for content distribution networks
US7336775B2 (en) * 2001-10-30 2008-02-26 Nikon Corporation Image storage apparatus, image storage supporting apparatus, image storage system, image management apparatus and image saving apparatus
US7984110B1 (en) * 2001-11-02 2011-07-19 Hewlett-Packard Company Method and system for load balancing
US7734726B2 (en) * 2001-11-27 2010-06-08 International Business Machines Corporation System and method for dynamically allocating processing on a network amongst multiple network servers
US20030105830A1 (en) * 2001-12-03 2003-06-05 Duc Pham Scalable network media access controller and methods
KR100426306B1 (ko) * 2001-12-11 2004-04-08 한국전자통신연구원 인트라 도메인내에서의 ｓｉｐ 서버간 로드 분산 처리 방법
US6775672B2 (en) * 2001-12-19 2004-08-10 Hewlett-Packard Development Company, L.P. Updating references to a migrated object in a partition-based distributed file system
US6772161B2 (en) * 2001-12-19 2004-08-03 Hewlett-Packard Development Company, L.P. Object-level migration in a partition-based distributed file system
US6775673B2 (en) * 2001-12-19 2004-08-10 Hewlett-Packard Development Company, L.P. Logical volume-level migration in a partition-based distributed file system
US6687793B1 (en) * 2001-12-28 2004-02-03 Vignette Corporation Method and system for optimizing resources for cache management
JP2003296226A (ja) * 2002-04-05 2003-10-17 Hitachi Ltd ウェブアクセス提供方法およびサーバ装置
US8554929B1 (en) * 2002-05-03 2013-10-08 Foundry Networks, Llc Connection rate limiting for server load balancing and transparent cache switching
US7707295B1 (en) * 2002-05-03 2010-04-27 Foundry Networks, Inc. Connection rate limiting
US8819252B1 (en) 2002-05-03 2014-08-26 Foundry Networks, Llc Transaction rate limiting
JP2003323329A (ja) * 2002-05-07 2003-11-14 Fujitsu Ltd 分散ファイル管理方法及びプログラム
US20040010786A1 (en) * 2002-07-11 2004-01-15 Microsoft Corporation System and method for automatically upgrading a software application
US6931530B2 (en) 2002-07-22 2005-08-16 Vormetric, Inc. Secure network file access controller implementing access control and auditing
US6678828B1 (en) * 2002-07-22 2004-01-13 Vormetric, Inc. Secure network file access control system
US7334124B2 (en) * 2002-07-22 2008-02-19 Vormetric, Inc. Logical access block processing protocol for transparent secure file storage
US7676576B1 (en) 2002-08-01 2010-03-09 Foundry Networks, Inc. Method and system to clear counters used for statistical tracking for global server load balancing
US7086061B1 (en) 2002-08-01 2006-08-01 Foundry Networks, Inc. Statistical tracking of global server load balancing for selecting the best network address from ordered list of network addresses based on a set of performance metrics
US7574508B1 (en) 2002-08-07 2009-08-11 Foundry Networks, Inc. Canonical name (CNAME) handling for global server load balancing
US7162579B2 (en) * 2002-08-19 2007-01-09 Aristos Logic Corporation Asymmetrical load balancing for mirrored storage volumes
US7171469B2 (en) * 2002-09-16 2007-01-30 Network Appliance, Inc. Apparatus and method for storing data in a proxy cache in a network
US7284030B2 (en) * 2002-09-16 2007-10-16 Network Appliance, Inc. Apparatus and method for processing data in a network
US7552223B1 (en) 2002-09-16 2009-06-23 Netapp, Inc. Apparatus and method for data consistency in a proxy cache
US7143288B2 (en) * 2002-10-16 2006-11-28 Vormetric, Inc. Secure file system server architecture and methods
US7353538B2 (en) 2002-11-08 2008-04-01 Federal Network Systems Llc Server resource management, analysis, and intrusion negation
US7986625B2 (en) * 2002-12-10 2011-07-26 International Business Machines Corporation Resource-aware system, method and program product for managing request traffic based on a management policy
KR100901622B1 (ko) * 2002-12-13 2009-06-08 주식회사 케이티 디렉토리 트래픽 부하 감소를 위해 로컬 캐슁 기법을이용한 사용자 정보 검색 방법
US7349997B2 (en) * 2003-01-15 2008-03-25 Hewlett-Packard Development Company, L.P. Dynamic command filter
US20040215703A1 (en) * 2003-02-18 2004-10-28 Xiping Song System supporting concurrent operation of multiple executable application operation sessions
US7636917B2 (en) * 2003-06-30 2009-12-22 Microsoft Corporation Network load balancing with host status information
US20050027862A1 (en) * 2003-07-18 2005-02-03 Nguyen Tien Le System and methods of cooperatively load-balancing clustered servers
US9584360B2 (en) * 2003-09-29 2017-02-28 Foundry Networks, Llc Global server load balancing support for private VIP addresses
US8655755B2 (en) * 2003-10-22 2014-02-18 Scottrade, Inc. System and method for the automated brokerage of financial instruments
US7814483B2 (en) * 2003-11-04 2010-10-12 Thomson Licensing Cache server at hotspots for downloading services
US7543041B2 (en) * 2003-11-12 2009-06-02 International Business Machines Corporation Pattern based web services using caching
US8572249B2 (en) 2003-12-10 2013-10-29 Aventail Llc Network appliance for balancing load and platform services
US20050188055A1 (en) * 2003-12-31 2005-08-25 Saletore Vikram A. Distributed and dynamic content replication for server cluster acceleration
US7631081B2 (en) * 2004-02-27 2009-12-08 International Business Machines Corporation Method and apparatus for hierarchical selective personalization
CN100370770C (zh) * 2004-03-03 2008-02-20 华为技术有限公司 实现网络长连接倒换的方法
WO2005086003A1 (ja) * 2004-03-08 2005-09-15 Annex Systems Incorporated データベース・システム
US8782654B2 (en) 2004-03-13 2014-07-15 Adaptive Computing Enterprises, Inc. Co-allocating a reservation spanning different compute resources types
WO2005089241A2 (en) 2004-03-13 2005-09-29 Cluster Resources, Inc. System and method for providing object triggers
JP4147198B2 (ja) * 2004-03-23 2008-09-10 株式会社日立製作所 ストレージシステム
US20060064478A1 (en) * 2004-05-03 2006-03-23 Level 3 Communications, Inc. Geo-locating load balancing
US8089972B2 (en) 2004-05-03 2012-01-03 Level 3 Communications, Llc Registration redirect server
US7496651B1 (en) 2004-05-06 2009-02-24 Foundry Networks, Inc. Configurable geographic prefixes for global server load balancing
US7584301B1 (en) 2004-05-06 2009-09-01 Foundry Networks, Inc. Host-level policies for global server load balancing
JP4190455B2 (ja) * 2004-05-11 2008-12-03 富士通株式会社 負荷分散装置及びプログラム
US20070266388A1 (en) 2004-06-18 2007-11-15 Cluster Resources, Inc. System and method for providing advanced reservations in a compute environment
CN100359891C (zh) * 2004-06-30 2008-01-02 中兴通讯股份有限公司 一种通过缓存提高多媒体消息中心业务处理性能的方法
US7660897B2 (en) * 2004-08-03 2010-02-09 International Business Machines Corporation Method, system, and program for distributing application transactions among work servers
US8176490B1 (en) 2004-08-20 2012-05-08 Adaptive Computing Enterprises, Inc. System and method of interfacing a workload manager and scheduler with an identity manager
US7423977B1 (en) 2004-08-23 2008-09-09 Foundry Networks Inc. Smoothing algorithm for round trip time (RTT) measurements
KR101078484B1 (ko) * 2004-08-30 2011-10-31 주식회사 케이티 부하를 고려한 네트워크 관리시스템 및 관리방법
US8346956B2 (en) 2004-10-29 2013-01-01 Akamai Technologies, Inc. Dynamic image delivery system
US8271980B2 (en) 2004-11-08 2012-09-18 Adaptive Computing Enterprises, Inc. System and method of providing system jobs within a compute environment
US20060123217A1 (en) * 2004-12-07 2006-06-08 International Business Machines Corporation Utilization zones for automated resource management
US7734019B1 (en) * 2004-12-09 2010-06-08 Level 3 Communications, Llc Systems and methods for third party emergency call termination
US8768350B2 (en) 2004-12-09 2014-07-01 Level 3 Communications, Llc Systems and methods for locating endpoints in a communication network
US9843557B2 (en) 2004-12-09 2017-12-12 Level 3 Communications, Llc Systems and methods for dynamically registering endpoints in a network
US7877547B2 (en) * 2004-12-29 2011-01-25 International Business Machines Corporation Method, system and circuit for efficiently managing a cache storage device
JP4963794B2 (ja) * 2005-03-10 2012-06-27 株式会社日立製作所 情報処理システム及び方法
US8863143B2 (en) 2006-03-16 2014-10-14 Adaptive Computing Enterprises, Inc. System and method for managing a hybrid compute environment
US8631130B2 (en) 2005-03-16 2014-01-14 Adaptive Computing Enterprises, Inc. Reserving resources in an on-demand compute environment from a local compute environment
US7685289B2 (en) * 2005-03-15 2010-03-23 International Business Machines Corporation Method and apparatus for proxying initial client requests to support asynchronous resource initialization
US9231886B2 (en) 2005-03-16 2016-01-05 Adaptive Computing Enterprises, Inc. Simple integration of an on-demand compute environment
CA2603577A1 (en) 2005-04-07 2006-10-12 Cluster Resources, Inc. On-demand access to compute resources
CN100461806C (zh) * 2005-04-07 2009-02-11 华为技术有限公司 一种语音增值业务数据信息处理方法
US20060248547A1 (en) * 2005-04-14 2006-11-02 International Business Machines Corporation Multi-level cache apparatus and method for enhanced remote invocation performance
US7895308B2 (en) * 2005-05-11 2011-02-22 Tindall Steven J Messaging system configurator
TWI314823B (en) * 2005-06-24 2009-09-11 Era Digital Media Co Distributed streaming server
US8549513B2 (en) 2005-06-29 2013-10-01 Microsoft Corporation Model-based virtual system provisioning
US8849752B2 (en) * 2005-07-21 2014-09-30 Google Inc. Overloaded communication session
US8943180B1 (en) 2005-07-29 2015-01-27 8X8, Inc. Server-based service configuration system and approach
CN100440891C (zh) * 2005-12-26 2008-12-03 北京航空航天大学 均衡网格负载的方法
KR100862659B1 (ko) * 2006-01-04 2008-10-10 삼성전자주식회사 인터넷 스토리지에 접근하는 방법 및 장치
US7624168B2 (en) * 2006-02-02 2009-11-24 Hostway Corporation Multi-layer system for scalable hosting platform
US7685367B2 (en) * 2006-03-08 2010-03-23 Microsoft Corporation Multi-cache cooperation for response output caching
US7515710B2 (en) 2006-03-14 2009-04-07 Divx, Inc. Federated digital rights management scheme including trusted systems
JP2007257357A (ja) * 2006-03-23 2007-10-04 Fujitsu Ltd サーバおよび接続先サーバ切替制御方法
US9049268B2 (en) * 2006-05-05 2015-06-02 Microsoft Technology Licensing, Llc Global provisioning of millions of users with deployment units
US7970856B2 (en) * 2006-06-02 2011-06-28 International Business Machines Corporation System and method for managing and distributing assets over a network
JP2008059315A (ja) * 2006-08-31 2008-03-13 Hitachi Ltd 負荷分散方法及び計算機システム
CN100466551C (zh) * 2006-09-20 2009-03-04 杭州华三通信技术有限公司 一种实现负载均衡的方法和一种负载均衡设备
US7996421B2 (en) * 2007-01-03 2011-08-09 International Business Machines Corporation Method, computer program product, and system for coordinating access to locally and remotely exported file systems
US9794310B2 (en) * 2007-01-11 2017-10-17 Samsung Electronics Co., Ltd. Meta data information providing server, client apparatus, method of providing meta data information, and method of providing content
US8700759B2 (en) 2007-01-19 2014-04-15 International Business Machines Corporation Autonomic optimization of presence server performance
KR100892885B1 (ko) * 2007-03-08 2009-04-09 (주)에임투지 로드 밸런싱 시스템의 요청 배정 장치 및 로드 밸런싱 방법
US8209417B2 (en) * 2007-03-08 2012-06-26 Oracle International Corporation Dynamic resource profiles for clusterware-managed resources
US8676223B2 (en) * 2007-03-23 2014-03-18 Qualcomm Incorporated Backhaul communication for interference management
EP2153340A4 (en) * 2007-05-08 2015-10-21 Riverbed Technology Inc HYBRID SEGMENT ORIENTED FILE SERVER, AND WAN ACCELERATOR
US8086674B2 (en) * 2007-06-21 2011-12-27 Research In Motion Limited Attachment server network for viewing attachments on a portable electronic device
US8615008B2 (en) 2007-07-11 2013-12-24 Foundry Networks Llc Duplicating network traffic through transparent VLAN flooding
KR101467558B1 (ko) * 2007-07-26 2014-12-01 엘지전자 주식회사 그래픽데이터 처리 장치 및 방법
US7958200B2 (en) * 2007-08-14 2011-06-07 International Business Machines Corporation Methods, computer program products, and apparatuses for providing remote client access to exported file systems
US8041773B2 (en) 2007-09-24 2011-10-18 The Research Foundation Of State University Of New York Automatic clustering for self-organizing grids
US8248928B1 (en) 2007-10-09 2012-08-21 Foundry Networks, Llc Monitoring server load balancing
US20090138220A1 (en) * 2007-11-28 2009-05-28 Bell Jr Robert H Power-aware line intervention for a multiprocessor directory-based coherency protocol
JP5169178B2 (ja) * 2007-11-29 2013-03-27 ソニー株式会社 配信サーバおよび配信サーバにおけるコンテンツ配信方法
US20090144404A1 (en) * 2007-12-04 2009-06-04 Microsoft Corporation Load management in a distributed system
US20090150536A1 (en) * 2007-12-05 2009-06-11 Microsoft Corporation Application layer congestion control
JP4973560B2 (ja) * 2008-03-26 2012-07-11 富士通株式会社 サーバおよび接続先サーバ切替制御方法
JP2008259215A (ja) * 2008-04-14 2008-10-23 Nikon Corp 画像管理装置
US20090307329A1 (en) * 2008-06-06 2009-12-10 Chris Olston Adaptive file placement in a distributed file system
JP5187017B2 (ja) * 2008-06-18 2013-04-24 富士通株式会社 分散ディスクキャッシュシステム及び分散ディスクキャッシュ方法
JP2010049502A (ja) * 2008-08-21 2010-03-04 Hitachi Ltd ストレージサブシステム、及びこれを有するストレージシステム
WO2010080911A1 (en) 2009-01-07 2010-07-15 Divx, Inc. Singular, collective and automated creation of a media guide for online content
JP5417944B2 (ja) * 2009-04-02 2014-02-19 ソニー株式会社 配信サーバ、配信サーバにおけるコンテンツ配信方法、コンテンツ配信システムおよびコンテンツ配信方法
US20110040893A1 (en) * 2009-08-14 2011-02-17 Broadcom Corporation Distributed Internet caching via multiple node caching management
CN101668046B (zh) 2009-10-13 2012-12-19 成都市华为赛门铁克科技有限公司 资源缓存方法及其装置、系统
US10877695B2 (en) 2009-10-30 2020-12-29 Iii Holdings 2, Llc Memcached server functionality in a cluster of data processing nodes
US11720290B2 (en) 2009-10-30 2023-08-08 Iii Holdings 2, Llc Memcached server functionality in a cluster of data processing nodes
US20110131341A1 (en) * 2009-11-30 2011-06-02 Microsoft Corporation Selective content pre-caching
WO2011068668A1 (en) 2009-12-04 2011-06-09 Divx, Llc Elementary bitstream cryptographic material transport systems and methods
JP4995296B2 (ja) * 2010-03-11 2012-08-08 株式会社日立製作所 計算機システムおよびキャッシュ制御方法
US9043385B1 (en) 2010-04-18 2015-05-26 Viasat, Inc. Static tracker
US8392368B1 (en) * 2010-08-27 2013-03-05 Disney Enterprises, Inc. System and method for distributing and accessing files in a distributed storage system
US20120054440A1 (en) * 2010-08-31 2012-03-01 Toby Doig Systems and methods for providing a hierarchy of cache layers of different types for intext advertising
US8549148B2 (en) 2010-10-15 2013-10-01 Brocade Communications Systems, Inc. Domain name system security extensions (DNSSEC) for global server load balancing
US9465885B2 (en) * 2010-12-03 2016-10-11 Salesforce.Com, Inc. Method and system for providing information to a mobile handheld device from a database system
KR101544480B1 (ko) * 2010-12-24 2015-08-13 주식회사 케이티 복수 개의 프락시 서버를 포함하는 분산 저장 시스템 및 그 오브젝트 관리 방법 및 컴퓨터에 의하여 독출가능한 저장 매체
CN102118433A (zh) * 2010-12-27 2011-07-06 网宿科技股份有限公司 多层次的分布式集群系统
US8914534B2 (en) 2011-01-05 2014-12-16 Sonic Ip, Inc. Systems and methods for adaptive bitrate streaming of media stored in matroska container files using hypertext transfer protocol
KR101191544B1 (ko) 2011-01-21 2012-10-15 엔에이치엔(주) 캐시 클라우드 구조를 이용한 캐시 시스템 및 캐싱 서비스 제공 방법
US8612550B2 (en) 2011-02-07 2013-12-17 Microsoft Corporation Proxy-based cache content distribution and affinity
US8768979B2 (en) * 2011-05-25 2014-07-01 International Business Machines Corporation In-memory data grid hash scheme optimization
US9244745B2 (en) 2011-06-16 2016-01-26 Kodak Alaris Inc. Allocating tasks by sending task-available messages requesting assistance with an image processing task from a server with a heavy task load to all other servers connected to the computer network
US8862814B2 (en) 2011-08-10 2014-10-14 International Business Machines Corporation Video object placement for cooperative caching
US9467708B2 (en) 2011-08-30 2016-10-11 Sonic Ip, Inc. Selection of resolutions for seamless resolution switching of multimedia content
US8964977B2 (en) 2011-09-01 2015-02-24 Sonic Ip, Inc. Systems and methods for saving encoded media streamed using adaptive bitrate streaming
US8909922B2 (en) 2011-09-01 2014-12-09 Sonic Ip, Inc. Systems and methods for playing back alternative streams of protected content protected using common cryptographic information
JP5850057B2 (ja) * 2011-09-07 2016-02-03 日本電気株式会社 コンテンツ配信システム、制御装置およびコンテンツ配信方法
US8595239B1 (en) 2012-01-03 2013-11-26 Google Inc. Minimally disruptive hash table
US9083710B1 (en) * 2012-01-03 2015-07-14 Google Inc. Server load balancing using minimally disruptive hash tables
CN103580903A (zh) * 2012-08-02 2014-02-12 人人游戏网络科技发展（上海）有限公司 识别服务器系统中的热点和可能故障的方法、设备和系统
US9246998B2 (en) 2012-10-16 2016-01-26 Microsoft Technology Licensing, Llc Load balancer bypass
CN103810189B (zh) * 2012-11-08 2018-06-05 腾讯科技（深圳）有限公司 一种热点消息处理方法及系统
US9385915B2 (en) * 2012-11-30 2016-07-05 Netapp, Inc. Dynamic caching technique for adaptively controlling data block copies in a distributed data processing system
US9191457B2 (en) 2012-12-31 2015-11-17 Sonic Ip, Inc. Systems, methods, and media for controlling delivery of content
US9313510B2 (en) 2012-12-31 2016-04-12 Sonic Ip, Inc. Use of objective quality measures of streamed content to reduce streaming bandwidth
US10397292B2 (en) 2013-03-15 2019-08-27 Divx, Llc Systems, methods, and media for delivery of content
US9906785B2 (en) 2013-03-15 2018-02-27 Sonic Ip, Inc. Systems, methods, and media for transcoding video data according to encoding parameters indicated by received metadata
US9094737B2 (en) 2013-05-30 2015-07-28 Sonic Ip, Inc. Network video streaming with trick play based on separate trick play files
CN103297528B (zh) * 2013-06-05 2016-08-24 北京奇虎科技有限公司 一种获取票务信息的方法和装置
CN103345432B (zh) * 2013-06-07 2016-12-28 深圳中兴网信科技有限公司 多核cpu过载检测装置和多核cpu过载检测方法
US10091282B2 (en) * 2013-06-12 2018-10-02 Sap Se Metadata-driven dynamic load balancing in multi-tenant systems
US9967305B2 (en) 2013-06-28 2018-05-08 Divx, Llc Systems, methods, and media for streaming media content
JP6252158B2 (ja) * 2013-12-17 2017-12-27 富士通株式会社 通信システム、通信装置および通信方法
US9565138B2 (en) 2013-12-20 2017-02-07 Brocade Communications Systems, Inc. Rule-based network traffic interception and distribution scheme
US20150188758A1 (en) * 2013-12-31 2015-07-02 Sonic Ip, Inc. Flexible network configuration in a content distribution network
US9584617B2 (en) 2013-12-31 2017-02-28 Successfactors, Inc. Allocating cache request in distributed cache system based upon cache object and marker identifying mission critical data
US9648542B2 (en) 2014-01-28 2017-05-09 Brocade Communications Systems, Inc. Session-based packet routing for facilitating analytics
US10924542B2 (en) * 2014-02-27 2021-02-16 Verizon Patent And Licensing Inc. Content delivery system
US9866878B2 (en) 2014-04-05 2018-01-09 Sonic Ip, Inc. Systems and methods for encoding and playing back video at different frame rates using enhancement layers
CN105025042B (zh) * 2014-04-16 2019-06-28 中国移动通信集团河北有限公司 一种确定数据信息的方法及系统、代理服务器
US9871855B2 (en) * 2014-09-19 2018-01-16 Facebook, Inc. Balancing load across cache servers in a distributed data store
CN104601720A (zh) * 2015-01-30 2015-05-06 乐视网信息技术（北京）股份有限公司 一种缓存访问控制方法及装置
CN104683459B (zh) * 2015-02-13 2018-05-11 华为技术有限公司 一种发送业务数据的方法和存储系统
US10771475B2 (en) 2015-03-23 2020-09-08 Extreme Networks, Inc. Techniques for exchanging control and configuration information in a network visibility system
US9866478B2 (en) 2015-03-23 2018-01-09 Extreme Networks, Inc. Techniques for user-defined tagging of traffic in a network visibility system
US10129088B2 (en) 2015-06-17 2018-11-13 Extreme Networks, Inc. Configuration of rules in a network visibility system
US10911353B2 (en) 2015-06-17 2021-02-02 Extreme Networks, Inc. Architecture for a network visibility system
US9755945B2 (en) * 2015-04-01 2017-09-05 Verizon Digital Media Services Inc. Stream publishing and distribution capacity testing
US10057126B2 (en) 2015-06-17 2018-08-21 Extreme Networks, Inc. Configuration of a network visibility system
US10530688B2 (en) 2015-06-17 2020-01-07 Extreme Networks, Inc. Configuration of load-sharing components of a network visibility router in a network visibility system
CN104994152B (zh) * 2015-06-30 2018-11-09 中国科学院计算技术研究所 一种Web协同缓存系统和方法
CN105376332A (zh) * 2015-12-14 2016-03-02 江苏名通信息科技有限公司 一种用于手机游戏服务器的负荷迁徙方法
US10091075B2 (en) 2016-02-12 2018-10-02 Extreme Networks, Inc. Traffic deduplication in a visibility network
US10999200B2 (en) 2016-03-24 2021-05-04 Extreme Networks, Inc. Offline, intelligent load balancing of SCTP traffic
US10362134B2 (en) * 2016-08-15 2019-07-23 Verizon Digital Media Services Inc. Peer cache filling
US10567259B2 (en) 2016-10-19 2020-02-18 Extreme Networks, Inc. Smart filter generator
US11138178B2 (en) * 2016-11-10 2021-10-05 Futurewei Technologies, Inc. Separation of computation from storage in database for better elasticity
US10171614B2 (en) * 2017-02-09 2019-01-01 International Business Machines Corporation Cache memory balancing based on moving object prediction
US10498795B2 (en) 2017-02-17 2019-12-03 Divx, Llc Systems and methods for adaptive switching between multiple content delivery networks during adaptive bitrate streaming
CN107025270A (zh) * 2017-03-09 2017-08-08 珠海昊星自动化系统有限公司 一种分布式高性能高并发大数据系统
JP6862977B2 (ja) * 2017-03-22 2021-04-21 富士通株式会社 通信制御プログラム、通信制御方法、および通信制御装置
CN107707597A (zh) * 2017-04-26 2018-02-16 贵州白山云科技有限公司 一种突发热点访问均衡处理方法及装置
US10721719B2 (en) * 2017-06-20 2020-07-21 Citrix Systems, Inc. Optimizing caching of data in a network of nodes using a data mapping table by storing data requested at a cache location internal to a server node and updating the mapping table at a shared cache external to the server node
KR102071955B1 (ko) * 2018-06-07 2020-03-02 주식회사 티맥스소프트 분산 캐시 환경에서 멀티캐스트를 수행하는 방법 및 이를 이용한 분산 캐시 서버
JP7310378B2 (ja) * 2019-07-08 2023-07-19 富士通株式会社 情報処理プログラム、情報処理方法、および情報処理装置
KR102166036B1 (ko) * 2019-12-13 2020-10-15 (주)교림소프트 인공 지능 기반 캐시 관리 시스템

Family Cites Families (22)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5511208A (en) * 1993-03-23 1996-04-23 International Business Machines Corporation Locating resources in computer networks having cache server nodes
JPH0855072A (ja) * 1994-08-12 1996-02-27 Matsushita Electric Ind Co Ltd ネットワークシステムとデータ処理システムとデータ蓄積方法
JPH08235127A (ja) * 1995-02-28 1996-09-13 Chugoku Nippon Denki Software Kk 自動負荷分散方法および装置
US6047309A (en) * 1995-10-02 2000-04-04 International Business Machines Corporation Recording observed and reported response characteristics at server and/or client nodes in a replicated data environment, and selecting a server to provide data based on the observed and/or reported response characteristics
JPH09179820A (ja) * 1995-12-26 1997-07-11 Mitsubishi Electric Corp 負荷分散方式及び方法
JP3190813B2 (ja) * 1996-02-15 2001-07-23 日本電気株式会社 配信システム
JP3422400B2 (ja) * 1996-03-28 2003-06-30 三菱電機株式会社 分散処理システム
US5935207A (en) * 1996-06-03 1999-08-10 Webtv Networks, Inc. Method and apparatus for providing remote site administrators with user hits on mirrored web sites
JP3481054B2 (ja) * 1996-07-04 2003-12-22 シャープ株式会社 ゲートウェイ装置、クライアント計算機およびそれらを接続した分散ファイルシステム
US6185601B1 (en) * 1996-08-02 2001-02-06 Hewlett-Packard Company Dynamic load balancing of a network of client and server computers
US5787470A (en) * 1996-10-18 1998-07-28 At&T Corp Inter-cache protocol for improved WEB performance
US6026474A (en) * 1996-11-22 2000-02-15 Mangosoft Corporation Shared client-side web caching using globally addressable memory
US6173311B1 (en) * 1997-02-13 2001-01-09 Pointcast, Inc. Apparatus, method and article of manufacture for servicing client requests on a network
US5933849A (en) * 1997-04-10 1999-08-03 At&T Corp Scalable distributed caching system and method
US6167438A (en) * 1997-05-22 2000-12-26 Trustees Of Boston University Method and system for distributed caching, prefetching and replication
US6070191A (en) * 1997-10-17 2000-05-30 Lucent Technologies Inc. Data distribution techniques for load-balanced fault-tolerant web access
US6167427A (en) * 1997-11-28 2000-12-26 Lucent Technologies Inc. Replication service system and method for directing the replication of information servers based on selected plurality of servers load
US6141759A (en) * 1997-12-10 2000-10-31 Bmc Software, Inc. System and architecture for distributing, monitoring, and managing information requests on a computer network
US6122666A (en) * 1998-02-23 2000-09-19 International Business Machines Corporation Method for collaborative transformation and caching of web objects in a proxy network
US6112279A (en) * 1998-03-31 2000-08-29 Lucent Technologies, Inc. Virtual web caching system
US6078960A (en) * 1998-07-03 2000-06-20 Acceleration Software International Corporation Client-side load-balancing in client server network
US6253230B1 (en) * 1998-09-22 2001-06-26 International Business Machines Corporation Distributed scalable device for selecting a server from a server cluster and a switched path to the selected server

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013196688A (ja) * 2012-03-21 2013-09-30 Nhn Corp ネットワークスイッチを用いたキャッシュシステム及びキャッシュサービスの提供方法

Also Published As

Publication number Publication date
CN1255728C (zh) 2006-05-10
JP2002527818A (ja) 2002-08-27
US6438652B1 (en) 2002-08-20
HUP0104250A2 (hu) 2002-02-28
TW444458B (en) 2001-07-01
CN1322315A (zh) 2001-11-14
CA2343802C (en) 2004-04-20
KR100473671B1 (ko) 2005-03-08
IL141973A (en) 2005-11-20
AU6114499A (en) 2000-05-01
CZ20011281A3 (cs) 2001-10-17
IL141973A0 (en) 2002-03-10
PL195958B1 (pl) 2007-11-30
HUP0104250A3 (en) 2002-04-29
CA2343802A1 (en) 2000-04-20
JP3989682B2 (ja) 2007-10-10
PL347159A1 (en) 2002-03-25
WO2000022526A1 (en) 2000-04-20
HU224787B1 (en) 2006-02-28
EP1119808A1 (en) 2001-08-01
KR20010075542A (ko) 2001-08-09
US20020026560A1 (en) 2002-02-28

Similar Documents

Publication Publication Date Title
JP3989682B2 (ja) キャッシュ・サーバ・ロード・バランシング方法
Iyengar et al. High performance web site design techniques
US9438520B2 (en) Synchronizing state among load balancer components
US7908337B2 (en) System and method for using network layer uniform resource locator routing to locate the closest server carrying specific content
US7577754B2 (en) System and method for controlling access to content carried in a caching architecture
US7565450B2 (en) System and method for using a mapping between client addresses and addresses of caches to support content delivery
US7343422B2 (en) System and method for using uniform resource locators to map application layer content names to network layer anycast addresses
US20010034752A1 (en) Method and system for symmetrically distributed adaptive matching of partners of mutual interest in a computer network
US7725596B2 (en) System and method for resolving network layer anycast addresses to network layer unicast addresses
US6760756B1 (en) Distributed virtual web cache implemented entirely in software
CN112698941A (zh) 一种基于动态负载均衡的实时数据库查询方法
Ramaswamy et al. Scalable delivery of dynamic content using a cooperative edge cache grid
EP1277327B1 (en) System and method for using network layer uniform resource locator routing to locate the closest server carrying specific content
EP1259864A2 (en) Distributed virtual web cache implemented entirely in software
Kim et al. Efficient and scalable client clustering for web proxy cache
Wu et al. Replication for load balancing and hot-spot relief on proxy web caches with hash routing
Hsiao et al. Tornado: a capability-aware peer-to-peer storage network
WO2001084802A2 (en) System and method for using uniform resource locators to map application layer content names to network layer anycast addresses

Legal Events

Date Code Title Description
A761 Written withdrawal of application

Free format text: JAPANESE INTERMEDIATE CODE: A761

Effective date: 20070803