JP2000322366A - データ・サービス・システム - Google Patents

データ・サービス・システム

Info

Publication number
JP2000322366A
JP2000322366A JP2000079687A JP2000079687A JP2000322366A JP 2000322366 A JP2000322366 A JP 2000322366A JP 2000079687 A JP2000079687 A JP 2000079687A JP 2000079687 A JP2000079687 A JP 2000079687A JP 2000322366 A JP2000322366 A JP 2000322366A
Authority
JP
Japan
Prior art keywords
content
server
adaptive
access
load
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2000079687A
Other languages
English (en)
Other versions
JP2000322366A5 (ja
Inventor
Nina T Bhatti
ニナ・ティー・バッティ
Tarek Farouk Abdelzaher
テレック・ファルーク・アブデルザハー
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
HP Inc
Original Assignee
Hewlett Packard Co
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hewlett Packard Co filed Critical Hewlett Packard Co
Publication of JP2000322366A publication Critical patent/JP2000322366A/ja
Publication of JP2000322366A5 publication Critical patent/JP2000322366A5/ja
Pending legal-status Critical Current

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00Network arrangements or protocols for supporting network services or applications
    • H04L67/01Protocols
    • H04L67/02Protocols based on web technology, e.g. hypertext transfer protocol [HTTP]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00Arrangements for program control, e.g. control units
    • G06F9/06Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46Multiprogramming arrangements
    • G06F9/50Allocation of resources, e.g. of the central processing unit [CPU]
    • G06F9/5005Allocation of resources, e.g. of the central processing unit [CPU] to service a request
    • G06F9/5011Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resources being hardware resources other than CPUs, Servers and Terminals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L65/00Network arrangements, protocols or services for supporting real-time applications in data packet communication
    • H04L65/60Network streaming of media packets
    • H04L65/61Network streaming of media packets for supporting one-way streaming services, e.g. Internet radio
    • H04L65/612Network streaming of media packets for supporting one-way streaming services, e.g. Internet radio for unicast
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L65/00Network arrangements, protocols or services for supporting real-time applications in data packet communication
    • H04L65/80Responding to QoS
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00Network arrangements or protocols for supporting network services or applications
    • H04L67/01Protocols
    • H04L67/10Protocols in which an application is distributed across nodes in the network
    • H04L67/1001Protocols in which an application is distributed across nodes in the network for accessing one among a plurality of replicated servers
    • H04L67/1004Server selection for load balancing
    • H04L67/1008Server selection for load balancing based on parameters of servers, e.g. available memory or workload
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2209/00Indexing scheme relating to G06F9/00
    • G06F2209/50Indexing scheme relating to G06F9/50
    • G06F2209/5013Request control

Abstract

(57)【要約】 【課題】データ・サービス・システムにおけるコンテン
ツ・サーバが過大な負荷状態になった時サーバへのアク
セス要求を自動的に制御して、安全負荷状態を維持す
る。 【解決手段】データ・サービス・システムはコンテンツ
・サーバに加えて適応型負荷制御システムを含む。コン
テンツ・サーバは、外部アクセス要求によるアクセスに
備えて完全コンテンツ形式または適応型コンテンツ形式
で複数のコンテンツ・ファイルを記憶する。適応型はサ
ービスのため完全形式ほど資源を必要としないコンテン
ツ形式である。適応型負荷制御システムは、コンテンツ
・サーバが過負荷状態にある時、コンテンツ・サーバが
安全負荷状態に維持されるように、適応型コンテンツ形
式ファイルにアクセスするように、また、負荷が過大で
ない場合は完全形式にアクセスするように、それぞれア
クセス要求を修正する。

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明は、一般的には、イン
ターネット/イントラネット・システムに関するもので
あり、特に、ウェブ・サーバの負荷が過大である時資源
集約度の比較的小さいコンテンツに向けられるようにユ
ーザ・アクセス要求を処理する適応型ウェブ・サーバに
関するものである。
【0002】
【従来の技術】データ・アクセス・ネットワーク・シス
テムの1つの例は、インターネットまたはイントラネッ
ト・ネットワーク・システムである。インターネット/
イントラネット・ネットワーク・システムは、典型的に
は、相互接続ネットワークを通して相互に接続される多
数のデータ・サービス・システムを含む。データ・サー
ビス・システムは、典型的には、種々のカスタマまたは
アプリケーションのためコンテンツをサービスするウェ
ブまたはコンテンツ・サーバを含む。カスタマは、加入
者またはユーザがコンピュータ端末を介してコンテンツ
にアクセスすることができるようにデータ・サービス・
システムでサービスされるコンテンツの所有者である。
コンテンツ・サーバは、典型的には、電子メール、電子
掲示板、ニュース・グループおよびワールドワイド・ウ
ェブ(すなわちWWW)アクセスのようなインターネット
・アプリケーションを利用する。サービスされるコンテ
ンツは、コンテンツ・サーバの範囲内のコンテンツ・サ
イトの形式で構成される。各サイトは、多数のページ
(例えばWWWページ)を含む。典型的には、1つのコン
テンツ・サイトはそのサーバの1つのカスタマのための
ものであるが、一方、特定の1カスタマは多数のコンテ
ンツ・サイトを所有することができる。コンテンツ・サ
ーバは、また、ウェブ・サーバとも呼ばれる。
【0003】しばしば、ウェブ・ページは、テキスト・
ファイル、画像ファイル、オーディオ・ファイル、ビデ
オ・ファイルおよびアプリケーション・プログラム・フ
ァイルのような多数のデータや実行可能プログラム・フ
ァイルから形成される。ファイルの各々は、"オブジェ
クト"と呼ばれる。ウェブ・ページは、任意のデータ・
サービス・システムに接続しているユーザ端末(例えば
パーソナル・コンピュータ・システムまたはウェブ・ア
クセス装置)からユーザによってアクセスされることが
できる。
【0004】周知の通り、インターネット経由のウェブ
・ページへのアクセスは、典型的には、HTTP(Hyper
Text Transfer Protocol)というプロトコルを中心にし
て構築される。HTTPプロトコルは、要求−応答プロ
トコルである。クライアント装置におけるユーザが特定
のウェブ・ページを指定すると、少なくとも1つの要求
が生成される。要求の数は、指定されたウェブ・ページ
の複雑度に依存する。上述のように、1つのウェブ・ペ
ージは1つまたは複数の"オブジェクト"を含むことがで
きる。複数オブジェクトからなるページは、美学的に心
地よいが、各オブジェクトはそれぞれの要求およびそれ
ぞれの応答を必要とする。従って、要求と応答の往復そ
れぞれに要する時間が、ユーザが完全なウェブ・ページ
を見るために待たなければならない合計時間を決定する
役割を演ずる。
【0005】
【発明が解決しようとする課題】ウェブ・サーバは同時
に複数ユーザによってアクセスされることができる。ウ
ェブ・サーバは、典型的には、先入先出(FIFO)順に
ユーザ・アクセス要求を取り扱う。このタイプの従来技
術のウェブ・サーバ構成の1つの欠点は、過大な負荷状
態に対する保護メカニズムをウェブ・サーバが備えてい
ないことである。周知の通り、ウェブ・サーバは、典型
的には、秒あたりに取り扱うことができる要求数に関し
て制約を持つ。それに加えて、ウェブ・サーバは、ま
た、サービスすることができる応答時間およびバンド幅
に関する制約を持つ。高い負荷の下では、ウェブ・サー
バは要求に圧倒されることがあり、その結果、ユーザに
対する応答時間が一層長くなり、パフォーマンスが低下
する。このように、ウェブ・サーバに対するユーザ・ア
クセス要求の数がウェブ・サーバの処理容量を大幅に超
える時、すなわち、負荷が過大となる時、ウェブ・サー
バは、耐えられないほど長い時間をかけて要求を処理す
るか、あるいは、単に応答しなくなるか、いずれかであ
る。サーバ応答時間の急激な増加は、ユーザ接続にタイ
ムアウトを発生させ、サーバが停止または破壊したとみ
なされる事態となる。電子商取引のような常に批評の目
にさらされているアプリケーションにおいては、サーバ
停止と認識されることは、販売やその他の財政的損失に
つながる可能性がある。
【0006】このように、ウェブ・サーバが過負荷状態
になった時過負荷の継続または機能停止とならないよう
にウェブ・サーバのパフォーマンスを改良することが必
要とされている。
【0007】
【課題を解決するための手段】発明の課題を解決するた
め、本発明が提供するデータ・サービス・ネットワーク
・システムにおけるデータ・サービス・システムは、外
部アクセス要求によるアクセスに備えて完全コンテンツ
形式またはサービスのため完全形式ほど資源を必要とし
ない適応型コンテンツ形式で各々記憶される複数のコン
テンツ・ファイルを記憶するコンテンツ・サーバ、およ
び、コンテンツ・サーバにアクセス要求を渡すためコン
テンツ・サーバに接続された適応型負荷制御システムを
備える。このような構成において、本発明の適応型負荷
制御システムは、コンテンツ・サーバが過負荷状態にあ
る時、コンテンツ・サーバが安全負荷状態に維持される
ように、適応型コンテンツ形式の対応するコンテンツ・
ファイルにアクセスするようにアクセス要求を修正す
る。
【0008】本発明の1つの機能は、ウェブ・サーバの
パフォーマンスを改良することである。また、本発明の
別の機能は、ウェブ・サーバが過大な負荷という状態に
なった時ユーザ・アクセス要求を資源集約度の比較的小
さいコンテンツで処理することによってウェブ・サーバ
のパフォーマンスを向上させる。更に別の本発明の機能
は、ウェブ・サーバが過大な負荷状態になった時、過負
荷または機能停止とならないように、資源集約度の小さ
いコンテンツにユーザ・アクセス要求を向かわせる適応
型ウェブ・サーバを提供する。
【0009】本発明のデータ・アクセス・ネットワーク
・システムにおけるデータ・サービス・システムは、外
部アクセス要求によるアクセスのためコンテンツ・ファ
イルを記憶するコンテンツ・サーバを含む。コンテンツ
・ファイルの各々は、完全コンテンツ形式、および、完
全コンテンツ形式より資源集約度の低い1つまたは複数
の適応型すなわち格下げ型コンテンツ形式で記憶され
る。データ・サービス・システムは、また、アクセス要
求をコンテンツ・サーバに渡すためコンテンツ・サーバ
に接続された適応型負荷制御システムを含む。適応型負
荷制御システムは、コンテンツ・サーバが過負荷状態に
ある時、コンテンツ・サーバが安全荷重状態で維持され
ることができるように、適応型コンテンツ形式のうちの
1つの形式の対応するコンテンツ・ファイルにアクセス
するようにアクセス要求を修正する。
【0010】更に、外部アクセス要求によるアクセスの
ためコンテンツ・ファイルを記憶するコンテンツ・サー
バを有するデータ・アクセス・ネットワーク・システム
のデータ・サービス・システムにおいて、安全荷重状態
でコンテンツ・サーバを維持する方法が提供される。該
方法は、コンテンツ・サーバに記憶されているコンテン
ツ・ファイルの1つにアクセスするアクセス要求をデー
タ・サービス・システムが受け取る時コンテンツ・サー
バの負荷状態を判断するステップを含む。このステップ
は、コンテンツ・サーバの内部でも外部でも実行される
ことができる。コンテンツ・サーバが過負荷状態にある
と判断されると、コンテンツ・サーバが安全荷重状態で
維持されることができるように、完全コンテンツ形式ほ
ど資源集約的でない適応型コンテンツ形式のうちの1つ
の形式の対応するコンテンツ・ファイルにアクセスする
ようにアクセス要求が修正される。
【0011】
【発明の実施の形態】図1はデータ・アクセス・ネット
ワーク・システム10を示している。1つの実施形態に
おいて、ネットワーク・システム10はインターネット
・システムである。別の1つの実施形態において、ネッ
トワーク・システム10はイントラネット・システムで
ある。代替的に、データ・アクセス・ネットワーク・シ
ステム10は、既知の通信プロトコルを利用するその他
のいかなる既知のネットワーク・システムでもよい。図
1に示されているように、データ・サービス・システム
20は、相互接続ネットワーク12を通して多数のユー
ザ端末11a乃至11nが接続されている。ユーザ端末
11a乃至11nの各々におけるユーザは、データ・サ
ービス・システム20によって提供されるサービスを受
けるためデータ・サービス・システム20にアクセスす
ることができる。ユーザ端末11a乃至11nの各々に
おけるユーザは、また、データ・サービス・システム1
5によって提供されるサービスを受けるためデータ・サ
ービス・システム20およびインターネット13を経由
してデータ・サービス・システム15にアクセスするこ
とができる。ユーザ端末11a乃至11nはクライアン
ト装置とも呼ばれる。
【0012】ユーザ端末11a乃至11nの各々は、ユ
ーザの住宅、学校またはオフィスに置かれている。ユー
ザ端末11a乃至11nの各々は、データ・サービス・
システム15および20によって提供されるデータ・サ
ービスにユーザがアクセスすることを可能にするネット
ワーク・アクセス・アプリケーション・プログラム(例
えばNetscape(登録商標) Navigato
rのようなウェブ・ブラウザ・アプリケーション・プロ
グラム)を含む。
【0013】ユーザ端末11a乃至11nの各々は、コ
ンピュータ・システムまたはデータ処理能力を持つその
他の電子装置(例えばウェブTV)であることもできる。
相互接続ネットワーク12は、イーサネット(登録商
標)、ISDN、T−1またはT−2リンク、FDDI
(ファイバ分散データ網)、ケーブルまたは無線LMDS
ネットワークまたは電話線ネットワークのようないかな
る既知のネットワークでもよい。
【0014】図1には、単に例示の目的から、データ・
アクセス・ネットワーク・システム10に関する2つの
データ・サービス・システム15および20だけが示さ
れている。データ・アクセス・ネットワーク・システム
10は、実際には、一層多くのデータ・サービス・シス
テムを含むことができる。加えて、図1のインターネッ
ト13は、1つのネットワークによってすべてが接続さ
れた多数のデータ・サービス・システムによって形成さ
れている。すべてのデータ・サービス・システムの間の
データ通信は、インターネット/イントラネット通信に
関してあらかじめ定められた通信プロトコルを使用して
実施される。1つの実施形態において、通信プロトコル
はハイパーテキスト・トランスポート・プロトコル(す
なわちHTTP)である。代替的には、インターネット
/イントラネット通信のため、その他の既知の通信プロ
トコルを使用することもできる。
【0015】データ・サービス・システム15および2
0の各々は基本的に同じ機能的構造を持つ。データ・サ
ービス・システム15および20の各々は、データ・サ
ービス・システム15および20のうちの1つを経由し
てデータ・アクセス・システム10に接続するユーザま
たは加入者に(ウェブ、ニュースまたは広告のような)デ
ータ・サービスおよび(電子商取引、電子メールのよう
な)その他のサービスを提供するためインターネット/
イントラネット・サービス・プロバイダ(すなわちIS
P)によって利用されることができる。
【0016】データ・サービス・システム15および2
0の各々は、多数のサーバ(例えば、ウェブ・サーバ、
電子メール・サーバ、ニュース・サーバ、電子商取引サ
ーバ、ドメイン名サーバ、アドレス割当てサーバ、プロ
クシ・サーバ、広告サーバおよびセッション・マネージ
ャ・サーバ)を含む。ウェブ・サーバ、電子メール・サ
ーバ、ニュース・サーバ、電子商取引サーバおよび広告
サーバは、集合的に、ローカル・サービス・サーバまた
はコンテンツ・サーバと呼ばれる。コンテンツ・サーバ
は、典型的には、ハイパーテキスト・マークアップ・ラ
ンゲージ(HTML)ウェブ・ページ、GIFイメージ、
ビデオ・クリップなどを含む多数のコンテンツ・ファイ
ルを記憶する。コンテンツ・サーバとの間のデータ転送
は、伝送制御プロトコル(TCP)およびユーザ・データ
グラム・プロトコル(UDP)のような伝送プロトコルに
よって動作可能とされる。コンテンツ・サーバは、WW
Wへのアクセス、電子メール、電子掲示板、チャット・
ルーム、ニュース・グループおよび電子商取引のような
サービスを提供するため種々のインターネット・アプリ
ケーションをサポートする。現在一般に利用できるウェ
ブ・ブラウザおよびその他のクライアント・アプリケー
ションを使用して、ユーザは、それぞれのユーザ端末を
経由して、コンテンツ・サーバに記憶されているコンテ
ンツ・ファイル(例えば、ウェブ・ページ、ニュース、
イメージ、電子メール)にアクセスすることができる。
【0017】上述のように、コンテンツ・サーバへのア
クセスは、要求−応答プロトコルであるHTTPプロト
コルを中心に構成される。ユーザ端末におけるユーザが
データ・サービス・システム15および20のうちの1
つのコンテンツ・サーバに記憶されているコンテンツ・
ファイルにアクセスすることを望む時、少なくとも1つ
の要求が生成され、コンテンツ・サーバに送り出され
る。コンテンツ・サーバは同時に複数の要求を取り扱う
ことができる。しかしながら、コンテンツ・サーバは、
秒あたりに取り扱うことができる要求数に制約を持つ。
コンテンツ・サーバによって受け取られる要求の数がコ
ンテンツ・サーバの制限を大幅に超える時、コンテンツ
・サーバは過負荷状態となり、その結果、ユーザにとっ
て少なくとも耐えられないほどの長い応答時間および貧
弱なパフォーマンスが生じる。これは、要求率がサーバ
容量を越えて増加すると、サーバ・パフォーマンスが劇
的に悪くなり、潜在的にサービス停止を引き起こすこと
を意味する。加えて、クライアントが要求を出しながら
応答をなにも受け取らないと、クライアントが更に多く
の後続の要求を発信する可能性が高い。これは、コンテ
ンツ・サーバによって受け取られる要求の数を急速に増
加させる。
【0018】このような問題を解決するため、データ・
サービス・システム15および20の各々は、本発明の
1つの実施形態に従って、各コンテンツ・サーバが過負
荷状態にならないように各コンテント・サーバの負荷状
態を制御する適応型負荷制御メカニズムを含む。代替的
には、本発明の負荷制御メカニズムは、データ・サービ
ス・システム15および20の各々のその他のサーバに
適用することも可能である。図2乃至図6を参照して、
適応型負荷制御メカニズムの詳細を以下に記述する。
【0019】図2に示されているように、本発明の1つ
の実施形態に従うデータ・サービス・システム30は、
コンテンツ・サーバ31を含む。データ・サービス・シ
ステム30は、また、本発明の1つの実施形態に従って
コンテンツ・サーバ31の負荷状態を制御する適応型負
荷制御システム40を含む。従って、データ・サービス
・システム30は、適応型データ・サービス・システム
または適応型ウェブ・サーバと呼ばれることができる。
データ・サービス・システム30は、図1のデータ・サ
ービス・システムのずれでもよい(例えばデータ・サー
ビス・システム15または20である)。
【0020】詳細は後述されるが、コンテンツ・サーバ
31は、アクセス要求によるアクセスのためコンテンツ
・ファイルまたは動的実行可能コード/プログラムを記
憶する。このように、以下の記述において、コンテンツ
・ファイルは、(1)静的コンテンツ・ファイル、(2)動的
コンテンツ・ファイルおよび(3)実行可能プログラム/
コードを意味する。コンテンツ・ファイルの各々は、完
全コンテンツ形式、および、適応型または格下げコンテ
ンツ形式で記憶される。適応型コンテンツ形式のコンテ
ンツ・ファイルの場合、完全コンテンツ形式における同
じファイルと比較して、サイズは小さく、資源集約度は
低い。
【0021】適応型負荷制御システム40は、要求を受
け取ると、コンテンツ・サーバ31にアクセス要求を渡
す。その際、コンテンツ・サーバ31が過負荷状態にあ
るかまたは過負荷の状態に近いと、適応型負荷制御シス
テム40は、適応型コンテンツ形式の対応するコンテン
ツ・ファイルにアクセスするようにアクセス要求を修正
する。適応型負荷制御システム40がコンテンツ・サー
バ31は過負荷状態にないと判断すると、適応型負荷制
御システム40は、完全コンテンツ形式の対応するコン
テンツ・ファイルにアクセスするようにアクセス要求を
修正する。これによって、コンテンツ・サーバ31は安
全荷重状態に維持される。代替的に、適応型負荷制御シ
ステム40は、コンテンツ・サーバ31の負荷状態に基
づかず、(クライアント装置のネットワーク接続、待ち
時間またはクライアント装置の表示能力のような)クラ
イアントの能力に基づいてコンテンツ・サーバ31を適
応させることもできる。
【0022】データ・サービス・システム30の詳細を
図2乃至図6を参照して以下に記述する。データ・サー
ビス・システム30は、コンピュータ・システムまたは
その他のデータ処理システムにおいて実施されることが
できる。データ・サービス・システム30を実施するコ
ンピュータ・システムは、サーバ・コンピュータ・シス
テム、ワークステーション・コンピュータ・システム、
パーソナル・コンピュータ・システム、メインフレーム
・コンピュータ・システム、ノート・コンピュータ・シ
ステムまたはその他のコンピュータ・システムである。
データ・サービス・システム30は、適応型負荷制御シ
ステム40とインタフェースするネットワーク・インタ
フェース35を含む。それを通して、適応型負荷制御シ
ステム40はコンテンツ・サーバ31とインタフェース
する。ネットワーク・インタフェース35は、外部ネッ
トワーク(図示されていない)とデータ・サービス・シス
テム30のインタフェースの役目を果たす。インタフェ
ース35は、いかなる既知のネットワーク・インタフェ
ース技術によってでも実施することができるので、詳細
な記述は行わない。ネットワーク・インタフェース35
は、コンテンツ・サーバ31に対する外部要求を受け取
って、適応負荷制御システム40を経由して、コンテン
ツ・サーバ31にその要求を渡す。
【0023】コンテンツ・サーバ31は、多数のコンテ
ンツ・ファイルを記憶するどのようなタイプのコンテン
ツ・サーバでもよい。コンテンツ・ファイルの各々はア
クセス要求によってアクセスされることができる。コン
テンツ・サーバ31は、また、各々が複数のアクセス要
求によるアクセスに備えて多数のコンテンツ・ファイル
を記憶する多数のコンテンツ・サイトを含むことができ
る。複数のコンテンツ・サイトは、関心が潜在的に競合
する可能性のある別々のコンテント・プロバイダまたは
カスタマに属している可能性がある。この場合、適応型
負荷制御システム40によって、コンテンツ・サーバ3
1は多数のパフォーマンス隔離仮想コンテンツ・サーバ
とされることができる(詳細は後述)。サーバの各々は、
他の仮想サーバ上の負荷に関係することなく独立したパ
フォーマンス保証を提供する能力を持つ。
【0024】コンテンツ・サーバ31は、静的サーバま
たは動的サーバのいずれともなり得る。1つの実施形態
において、コンテンツ・サーバ31は、静的コンテンツ
・ファイルだけを記憶する静的コンテンツ・サーバであ
る。別の1つの実施形態において、コンテンツ・サーバ
31は、静的および動的両方のコンテンツ・ファイルを
記憶することができる。周知の通り、ウェブ・コンテン
ツは、一般的に、ファイルのように静的コンテンツとし
て、あるいは、cgiスクリプトのように動的なコンテ
ンツとして分類される。動的コンテンツは、サーバ自体
とは独立した(データベース・エンジンのような)バック
エンド・エンジンによって実行時に生成されることがで
きる。バックエンド・エンジンにおけるいかなる適応も
適応型負荷制御システム40によって取り扱われない。
【0025】本発明の1つの実施形態に従って、コンテ
ンツ・サーバ31に記憶されるコンテンツ・ファイルの
各々は、複数の形式またはバージョンで記憶される。例
えば、コンテンツ・ファイルは、そのオリジナルの完全
コンテンツ形式またはバージョンで記憶されることがで
きる。また、同じコンテンツ・ファイルが、格下げまた
は適応型形式またはバージョンでコンテンツ・サーバ3
1に記憶される。図4はそのような形態の1つの例を示
す。図4に示されているように、適応型すなわち格下げ
形式72におけるコンテンツ・ファイルは、完全コンテ
ンツ形式またはバージョン71における同じファイルに
比較して、サイズの点で小さく、視認品質の点で劣って
いる。これは、格下げ形式のコンテンツ・ファイルの場
合、サービスを提供する上で必要とされる資源(例えば
バンド幅)が、完全コンテンツ形式の対応するコンテン
ツ・ファイルより少なくてよいということを意味する。
【0026】例えば、ある1つのコンテンツ・ファイル
は、64×64ピクセル解像度、128×128解像度、256×256
解像度、または、その他の解像度で表示できるので、異
なる形式のコンテンツ・ファイルが可能である。256×2
56ピクセル解像度バージョンのコンテンツ・ファイルは
明らかに一層多くのイメージ・データを持ち、同じコン
テンツ・ファイルの128×28ピクセル解像度バージョン
より多くの伝送資源を必要とする。完全コンテンツ・バ
ージョンのコンテンツ・ファイルが256×256ピクセル解
像度であるとすれば、128×128ピクセル解像度または64
×64ピクセル解像度バージョンは同じコンテンツ・ファ
イルの格下げバージョンである。要するに、格下げ形式
のコンテンツ・ファイルは、完全コンテンツ形式の同じ
コンテンツ・ファイルに比較して、解像度の低いイメー
ジ、埋め込みの少ないイメージ、背景のない単純なペー
ジまたは少ないハイパーリンクを含む。代替的には、コ
ンテンツ・サーバ31に記憶されるコンテンツ・ファイ
ルの各々は、同じコンテンツ・ファイルのいくつかの格
下げバージョンを持つ。以下の記述においては、コンテ
ンツ・サーバ31は、例えば、コンテンツ・サーバ31
の記憶されるコンテンツ・ファイルの各々に関して、例
示の目的から、完全コンテンツ・バージョンおよび1つ
の格下げバージョンという2つのバージョンだけを有す
ることとする。
【0027】再び図2を参照すれば、各アクセス要求
は、ユニバーサル・リソース・ロケータ(すなわちUR
L)を使用して、コンテンツ・サーバ31に記憶される
コンテンツ・ファイルを指定する。しかしながら、コン
テンツ・サーバ31に記憶されているコンテンツ・ファ
イルに対するURLパス(経路)は、どのバージョンまた
は形式のコンテンツ・ファイルにアクセスするか指定し
ない。これは、複数のコンテンツ・ツリーが同じURL
の異なるバージョンを含むことを意味する。所与のコン
テンツ・ツリーにおける特定のURLへのパスは、コン
テンツ・ツリー名とURL名を連結したものの前に、コ
ンテンツ・サーバ31のルート・サービス・ディレクト
リの名前を付けたものである。例えば、ルート・サービ
ス・ディレクトリ"/root"に、"/full_content"(完全コ
ンテンツの意)および"/degraded_content"(格下げコン
テンツの意)という2つのコンテンツ・ツリーが作成さ
れる。"/full_content"コンテンツ・ツリー名は、完全
コンテンツ・バージョンまたは形式の対応するコンテン
ツ・ファイルにアクセスするように要求を向かわせ
る。"/degraded_content"コンテンツ・ツリー名は、格
下げコンテンツ・バージョンまたは形式の対応するコン
テンツ・ファイルにアクセスするように要求を向かわせ
る。このケースでは、"http://www.hpl.hp.com/my_pict
ure.jpg"というURLは、ディレクトリ"/root/full_co
ntent/my_picture.jpg"またはディレクトリ"root/degra
ded_content/my_picture.jpg"のいずれかからサービス
を受ける。
【0028】たとえコンテンツ・ファイルがcgiスク
リプトによって生成されたコンテンツのような動的コン
テンツであったとしてもこの方式は適用される。複数コ
ンテンツ・ツリーが、(my_script.cgi"のように)名前を
つけられたcgiスクリプトの異なるバージョンまたは
形式を含むことができる。"/degraded_content/"バージ
ョンまたは形式は、必要な資源が少ない検索スクリプト
である。これは、例えば、"/full_content"バージョン
または形式が100個の一致を探すのに対して、最初の
5個の一致だけを探す。所与の負荷状態の下でどのバー
ジョンのスクリプトを実行すべきかを決定するため、ス
クリプトのURLの前に正しいツリー名が付けられる。
例えば、"http://www.hpl.hp.com/my_script.cgi"とい
うURLは、"http://www.hpl.hp.com/root/full_cont
ent/cgi-bin/my_script.cgi"または"http://www.hpl.h
p.com/root/degraded_content/cgi-bin/my_script.cgi"
のいずれかになるように修正される。
【0029】代替的に、必要資源の少ない"/degraded_c
ontent/検索スクリプトは、静的バージョンまたは形式
と置き換えることができる。これは、異なるコンテンツ
・ツリーに切り換えることによって実施される。例え
ば、コンテンツ・サーバ31を使用しているオンライン
・ベンダが、在庫データベースと交信して現在在庫にあ
る項目を表示するため動的に生成されるバージョンの製
品カタログを使用することができる。コンテンツ・サー
バ31が過負荷状態になると、事前記憶された静的カタ
ログ・バージョンがアクセスされ表示される。これを行
う理由は、動的スクリプトは、格下げまたは簡略化され
たものでさえ、静的コンテンツよりなおも一層多くの資
源を消費するからである。
【0030】適応型負荷制御システム40はコンテンツ
・サーバ31に接続される。本発明の1つの実施形態に
従って、適応型負荷制御システム40は、コンテンツ・
サーバ31の過負荷状態を検出し、負荷状態に応じた提
供を行うためいくつかの代替コンテンツ品質のうちの1
つの対応するファイルにアクセス要求をアクセスさせ
る。適応型負荷制御システム40がコンテンツ・サーバ
31が過負荷状態にあることを検出すると、適応型負荷
制御システム40は、コンテンツ・サーバ31に到来す
るアクセス要求がサービス提供に必要な資源の少ない格
下げ形式の対応するコンテンツ・ファイルにアクセスす
るように仕向ける。格下げ形式は応答のサイズを減ら
す。格下げ形式は、また、簡略化されたコンテンツに埋
め込まれるイメージやその他のオブジェクトが少ないの
で、要求の総数を減らす。格下げ形式は、また、要求さ
れたコンテンツ・ファイルに埋め込まれるリンクを削除
または減らす。このように、格下げ形式では、完全コン
テンツ形式に比較して、サービス提供に必要な資源が少
ない。
【0031】適応型負荷制御システム40は、また、必
要に応じてアクセス要求を拒絶することができる。更
に、適応型負荷制御システム40は、仮想サーバのパフ
ォーマンス・レベルおよび負荷適用意志決定が別の仮想
サーバに影響を及ぼさないような形態の複数パフォーマ
ンス隔離型仮想サーバの共存をサポートする。コンテン
ツ・サーバ31が、潜在的に競合する関心を持つカスタ
マまたはコンテント・プロバイダに属している可能性の
ある複数のコンテンツ・サイトを取り扱う時このような
サポートが必要とされる。サーバ31の総荷重がそのよ
うなサイトに均一に分配されない可能性がある。この場
合、適応型負荷制御システム40は、別のサイトによっ
て引き起こされた過負荷に対して影響を受けないパフォ
ーマンス隔離メカニズムを実施する。このメカニズムを
使用すると、コンテンツ・サーバ31は、1つまたは複
数のパフォーマンス隔離型仮想サーバの集合として見な
される。各パフォーマンス隔離型仮想サーバは、別の仮
想サーバ上の過負荷に左右されることなく独立したパフ
ォーマンス保証を提供する能力を持つ。保証は、各仮想
サーバに関連するサービス・レベル合意の形態で宣言さ
れ、適切な資源容量を割り当てるように適応型負荷制御
システム40を構成するため使用される。適応型負荷制
御システム40は、コンテンツ・サーバ31の各仮想サ
ーバの範囲内においてその負荷および資源割り当てに関
する適応意志決定を行う。
【0032】更に、適応型負荷制御システム40は、保
証されたサービス・クラスに優先処理を与え、一方、非
保証サービス・クラスには利用可能なら余剰能力を消費
することを許容する。保証されたサービス・クラスは、
サービス・レベル合意によって定められる。非保証クラ
スは、典型的には、最善の努力に基づいて利用可能資源
を提供される。過負荷状態の下では、適応型負荷制御シ
ステム40は、先ず、非保証要求を格下げコンテンツ・
ファイルに向かわせなければならない。任意のポリシー
を用いて、異なる重要性レベルでクライアント・クラス
の相対的格下げを管理することができる。例えば、過負
荷状態の下では、クラスA要求は、クラスB要求の前に
格下げコンテンツ・ファイルに送られなければならな
い。しかし、資源が不足したままであれば、クラスA要
求を拒絶する前に、クラスB要求が格下げされる。
【0033】適応型負荷制御システム40は、サーバの
要求および応答がアクセスされ得る場所であればデータ
・サービス・システム30のどこにおいてでも実施され
ることができる。これは、ウェブ・サーバ・ソフトウェ
アおいても、UNIX(登録商標)ソケット・ライブラ
リにおいても、あるいはデータ・サービス・システム3
0を実施するコンピュータ・システムのオペレーティン
グ・システムにおいても適応型負荷制御システム40を
実施することが可能なことを意味する。更に、適応型負
荷制御システム40は、サーバにとって透過的でありか
つ外部にあるゲートウェイにおいて実施されることもで
きる。
【0034】基本的に、適応型負荷制御システム40
は、3つのエントリ・ポイントを必要とする。それら
は、(1)初期化ポイント、(2)要求前処理ポイント、およ
び(3)要求後処理ポイントである。初期化ポイントは、
内部的に使用されるデータ構造を初期化し、必要に応じ
て適応型負荷制御システム40の種々のコンポーネント
を実施する独立したプロセスを作成する。要求前処理ポ
イントは、所与の要求のコンテンツ・レベルの品質を決
定する。適応型負荷制御システム40のコンテンツ・ア
ダプタ41はこのポイントから呼ばれる。コンテンツ・
アダプタ41は共用メモリを通して他のコンポーネント
と通信することができる。要求後処理ポイントは、応答
サイズを監視するオプションのポイントである。
【0035】サーバ・コードが利用できない場合、適応
型負荷制御システム40は、サーバ31によって使用さ
れるミドルウェア(例えば動的にリンクされるソケット
・ライブラリ)の形態で実施される。UNIX環境にお
いては、サーバ初期化の一部として、サーバ・ソケット
が作成され、到来要求のためlisten()呼び出しがソケッ
ト・ライブラリに作成される。このライブラリ・ルーチ
ンは、ミドルウェアの初期化ポイントを呼び出すように
修正されることができる。修正はコンテンツ・サーバ3
1にとって透過的とすることができる。以下に、図2乃
至図7を参照して適応型負荷制御システム40の機能的
構造を更に詳細に記述する。
【0036】図2に示されているように、適応型負荷制
御システム40は、ネットワーク・インタフェース35
に接続される要求分類機構33を含む。適応型負荷制御
システム40は、また、要求分類機構33に接続される
負荷モニタ32を含む。次に、コンテンツ・アダプタ4
1が負荷モニタ32およびコンテンツ・サーバ31に接
続される。適応コントローラ50がコンテンツ・アダプ
タ41および負荷モニタ32に接続される。コンポーネ
ント32、33、41および50が組み合わされて適応
型負荷制御システム40を構成する。代替的には、適応
型負荷制御システム40は上記より多いまたは少ないコ
ンポーネントを含むこともできる。例えば、適応型負荷
制御システム40は要求分類機構33なしで機能するこ
ともできる。
【0037】要求分類機構33がネットワーク・インタ
フェース35からアクセス要求を受け取る。要求分類機
構33は、受け取った要求を異なる分類基準に基づいて
多数のクラスに分類するために使用される。要求分類機
構33は、コンテンツ・サイトまたはクライアントのサ
ブセットに対する優先処理を可能にする。要求分類機構
33は、(例えば、保証と非保証クライアントの間、ま
たは、異なる仮想サーバにアクセスしているクライアン
トの間のような)異なるクライアント・クラスの間でサ
ービス品質の差別化が必要とされるインストレーション
において使用される。この状況においては、コンテンツ
・アダプタ41によってその後にとられる動作が、クラ
イアントまたは要求されたコンテンツの識別に依存す
る。要求分類機構33によって、複数のユーザ・クラス
が同じコンテンツ・ファイルまたはサイトを共有しなが
らも異なる取り扱いまたはパフォーマンスを受けること
が可能とされる。クラスに基づくサービスは、個別のク
ラスに与えられるサービスを差別化するメカニズムであ
る。このように、サービス・パフォーマンスは、パフォ
ーマンスまたはサービス合意に基づいて価格が付けられ
る。一層大きな保証をもつ一層高いクラスは、一層少な
い保証と一層多い"最善の努力"サービスを提供する一層
低いクラスより高い価格が付けられるであろう。要求分
類機構33は既知のどのような技術を使用してでも実施
することができる。
【0038】要求分類機構33は、次に、分類したアク
セス要求を負荷モニタ32に送る。負荷モニタ32は、
過負荷状態を検出するためコンテンツ・サーバ31の負
荷状態を監視するために使用される。負荷モニタ32
は、コンテンツ・サーバ31の負荷状態を監視するため
多数の監視メカニズムを利用することができる。コンテ
ンツ・サーバ31の負荷状態を監視する1つの方法は、
コンテンツ・サーバ31の応答時間を監視するものであ
る。これは、応答時間がコンテンツ・サーバ31の入力
された要求待ち行列(例えばUNIX実施形態における
サーバのソケットlisten待ち行列)の長さに比例するか
らである。サーバの負荷が少なければ、待ち行列は短い
(または空の)傾向があり、従って、応答時間は短い。コ
ンテンツ・サーバ31の負荷が過大となると、コンテン
ツ・サーバ31の範囲内の要求待ち行列があふれ出て、
この結果、応答時間が何倍も増加する。これは、明白な
過負荷標識の役目を果たす。(応答時間を監視すること
によって待ち行列の長さを推定するという)この手法の
利点は、このメカニズムをサーバ・プロセスの外部で実
施することが可能で、コンテンツ・サーバ31のコード
の修正を必要としないことである。
【0039】コンテンツ・サーバ31が過負荷状態であ
るか否かを監視する別の手法は、応答時間と共に、サー
バ・マシンの利用度を監視するものである。これは、サ
ーバがどの程度利用されていないか負荷モニタ32が判
断することを可能にする。利用度があらかじめ定められ
たレベルより下がれば、負荷モニタ32は、コンテンツ
・サーバ31が過負荷状態にはないと判断する。このケ
ースにおいては、忠実なサーバ負荷推定値を提供するた
め、利用度の尺度は、総和された利用度ではなく、(ク
ライアント要求の処理のような)有効な仕事に属する負
荷を標示するものでなければならない。例えば、一部の
イベントに関して繁忙待機ループを実行する低優先順位
プロセスまたはスレッドの存在は、サーバの負荷がない
場合でさえ100%に等しい利用度を示す。また、すべ
てのサーバ・スレッドまたはプロセスが現在時要求の処
理を任せられ、I/Oで妨げられる場合に別の懸念が生
じる。このような場合、すべての資源は、すでに利用さ
れていて、従って、利用可能容量として測定されるべき
ではないので、派生するアイドル時間を利用することが
できない。
【0040】上述のような懸念に対処するため、負荷モ
ニタ32に関連して2つの異なるメカニズムが開発され
た。第1のメカニズムは線形近似法と呼ばれる。この方
法では、負荷モニタ32が、測定された要求率Rおよび
実効バンド幅BWの線形関数を利用して、クライアント
要求を処理することによって消費されるシステム利用度
Uを決定する。線形関数は次のように示される。
【0041】U=aR+bBW 但し、定数aおよびbはオンラインまたはオフラインい
ずれかの事前プロファイリングによって計算される(詳
細は後述)。
【0042】この関数は、負荷がサーバ容量を超えない
限り負荷を有効に推定することができる。過負荷状態に
おいて測定すると、線形近似法は無効となる。従って、
線形近似法は、応答時間監視法と組み合わせて使用する
ことによって、サーバ31の実際の負荷状態を決定する
ことができる。この組み合わせ負荷監視機能は、測定さ
れた応答時間があらかじめ定められた過負荷しきい値を
越えていれば、U=100%である。測定された応答時
間があらかじめ定められた過負荷しきい値を越えていな
ければ、U=aR+bBWである。
【0043】この線形近似法の1つの利点は、実施が簡
単であることである。この方法を使用して、各サーバ・
プロセスまたはスレッドTjは、その観察された要求レ
ートRj、実効バンド幅BWjおよび利用度Ujをそれ
ぞれ独立して記録する。次に、別の監視プロセスが、記
録された値を読み取り、それらを合計して、全体として
の要求率R、バンド幅BWおよび利用度Uを計算する。
いかなるデータ部分に対してもただ1つの書き込みプロ
グラムしか存在しないので、共有データ構造に対するア
クセスの同期化は必要とされない。この方法は、サービ
ス品質保証に関するサーバ容量計画を可能にし、所望の
要求率およびバンド幅保証を対応する資源容量割り当て
(例えば利用度割り当て)に変換する手段を提供する。し
かしながら、この方法は、事前プロファイリングを使用
して定数aおよびbを計算することを必要とする。
【0044】事前プロファイリングを使用して定数aお
よびbを計算する簡単な方法は、Uおよび対応するRお
よびBWのいくつかの測定値を取得するものである。次
に、線形回帰手法を使用して、方程式U=aR+bBに
最もよく適する定数aおよびbを決定する。RおよびB
Wは所与の期間に発信された要求数と応答されたバイト
をカウントすることによってオンラインで測定すること
ができる点に注意する必要がある。利用度Uは、後述さ
れるギャップ推定手法を使用して測定される。測定され
たR、BWおよびUを所与とすれば、推定理論が、連続
した時間間隔において、誤差を最小にする線形最適値を
見出す方法を提供する。推定理論は、連続的新測定値の
観点からパラメータaおよびbをオンラインで計算およ
び更新するために必要な式を提供する。
【0045】代替的方法としては、コンテンツ・サーバ
31をあらかじめ指定された作業負荷に関してテストす
ることによってパラメータaおよびbを決定することも
できる。次第に増加する率で所与のサイズのURLを要
求することによってこのテストは進められる。クライア
ント接続がタイムアウトとなりサーバの過負荷を標示す
るまで、次第に率を増加させながら所与のサイズのUR
Lを要求することによってこのテストを続けることがで
きる。到達した最大の要求率およびバンド幅が記録され
る。本実施形態の目的のため、サーバ利用度はこの負荷
状態において100%であると仮定することができる。
異なるサイズの要求されたURLに関して経験を繰り返
し、サーバ31の負荷を過大にする異なる要求率および
バンド幅の組み合わせが与えられる。RとBWのセット
およびU=100%というポイントを使用して、R、B
W平面上に線分aR+bBW=100が構築される。こ
の線分は100/aおよび100/bにおいてそれぞれ
RおよびBW軸と交差し、そこからaおよびbが見出さ
れる。
【0046】負荷モニタ32のための第2のメカニズム
は、ギャップ推定手法と呼ばれる。この方法は、コンテ
ンツ・サーバ31が要求を処理するために費やす時間部
分を推定する。この方法を使用して、負荷モニタ32は
要求を追跡するため大域カウンタを使う。負荷モニタ3
2は、要求が受け取られるとカウンタを増分し、応答が
コンテンツ・サーバ31を出るとカウンタを減分する。
ギャップが存在する時のみ、すなわちすべての現在時要
求が処理され追加要求がまだなにも到着していない時だ
け、カウンタは初期値に戻る。時間Tの間のギャップを
合計することによって、監視プロセスまたはスレッドは
期間Tの間の合計"アイドル時間"Gを計算することがで
きる。アイドル時間は、仕掛かり中の要求が全くない時
間である。次に、利用度は、U=(T−G)/Tと推定さ
れる。
【0047】ギャップ推定手法が図7に示されている。
図7に示されているように、連続する要求の同時処理は
アイドル時間によってとぎれる。この方法は、事前プロ
ファイリングを必要とせず、また応答時間の監視を必要
としない。大域カウンタは、複数の書き込みプログラム
によって更新される可能性があるので、なんらかの形式
のロッキングまたはアクセス同期化を必要とする。
【0048】再び図2を参照すれば、負荷モニタ32
は、コンテンツ・アダプタ41および適応コントローラ
50にコンテンツ・サーバ31の負荷状態情報を送出す
る。また、適応コントローラ50は、過負荷状態のしき
い値を標示するあらかじめ定められた所望の負荷値を受
け取る。所望の負荷値と監視された負荷値の比較に基づ
いて、適応コントローラ50は、コンテンツ・サーバ3
1が過負荷状態にあるか否か判断する。過負荷の場合、
適応コントローラ50は、格下げコンテンツ形式または
バージョンの対応するコンテンツ・ファイルにアクセス
するようにすべての到来アクセス要求のURLを修正す
るようにコンテンツ・アダプタに指示する。コンテンツ
・サーバ31が過負荷状態にないと適応コントローラ5
0が判断する場合、適応コントローラ50は、完全コン
テンツ形式またはバージョンの対応するコンテンツ・フ
ァイルにアクセスするように到来アクセス要求のURL
を修正するようにコンテンツ・アダプタに指示する。
【0049】適応コントローラ50のための所望の負荷
値は、例えば、サーバ応答時間のあらかじめ定められた
しきい値Tである。このしきい値Tは、例えば、サービ
ス・レベル合意において指定される最大サーバ応答時間
と等しく(またはそれより若干小さく)セットされ、それ
によって、合意が違反されそうになる時の適応が可能と
なる。そのような指定がない場合、しきい値は、あらか
じめ設定された最大入力要求待ち行列の長さQおよび平
均サービス時間Sから導出することができる。例えば、
待ち行列が90%満たされていれば過負荷を標示すると
みなされるとすれば、しきい値Tは、T=0.9Q×S
にセットされる。
【0050】コンテンツ・アダプタ41は、ディレクト
リ・リンクを変更することによって適応を実施する。適
応コントローラ50の制御の下で、コンテンツ・アダプ
タ41は、完全コンテンツ形式または格下げコンテンツ
形式のいつのいずれかの対応するコンテンツ・ファイル
にアクセスするように到来アクセス要求のURLを修正
する。例えば、コンテンツ・アダプタ41は、"http://
www.hpl.hp.com/my_picture.jpg"というURLを、完全
コンテンツ形式のコンテンツ・ファイル"my_picture.jp
g"にアクセスするため"http:/www.hpl.hp.com/full_con
tent/my_picture.jpg"に、あるいは、格下げコンテンツ
形式のコンテンツ・ファイル"my_picture.jpg"にアクセ
スするため"http://www.hpl.hp.com//degraded_content
/my_picture.jpg"に、変換することができる。別の例と
して コンテンツが動的コンテンツ(例えばhttp://www.
hpl.hp.com/my_script.cgi)である場合、コンテンツ・
アダプタ41は、そのURLを、完全コンテンツ・ファ
イルにアクセスするため"http://www.hpl.hp.com/full_
content/cgi-bin/my_script.cgi"に、あるいは、必要資
源のより少ないスクリプトにアクセスするため"http://
www.hpl.hp.com/degraded_content/cgi-bin/my_script.
cgi"に変換することができる。
【0051】コンテンツ・サーバ31が過負荷状態にあ
ると判断すると、適応コントローラ50は、格下げすな
わち適応型コンテンツ形式の対応するコンテンツ・ファ
イルにアクセスするように到来アクセス要求のURLを
修正するようにコンテンツ・アダプタ41に指示する。
上述のように、格下げまたは適応型コンテンツ形式は完
全コンテンツ形式ほど多くの資源を必要としない。コン
テンツ・サーバ31が過負荷状態にないと判断すると、
適応コントローラ50は、完全コンテンツ形式の対応す
るコンテンツ・ファイルにアクセスするように到来アク
セス要求のURLを修正するようにコンテンツ・アダプ
タ41に指示する。
【0052】図2および図4に示されているように、適
応コントローラ50から適応の引き金が一旦引かれる
と、コンテンツ・アダプタ41は、コンテンツ・サーバ
31の負荷状態に基づいて、ルート・サービス・ディレ
クトリ70(図4)において高品質サービス・ツリー73
(図4)と格下げ品質サービス・ツリー74(図4)の間を
透過的に切り換える。切り換え動作は、コンテンツ・サ
ーバ31にとって完全に透過的である。
【0053】図5は、適応型負荷制御システム40によ
る適応プロセスの結果を示している。曲線81は、適応
型負荷制御システム40を備えていない従来技術サーバ
による接続失敗のパーセンテージを示す。曲線80は、
適応型負荷制御システム40を備えているコンテンツ・
サーバ31による接続失敗のパーセンテージを示す。図
5に見られるように、要求率が増加するにつれて、従来
技術曲線81と比較して、曲線80は大幅に少ない接続
失敗を示している。伝統的サーバは、負荷がサーバ容量
を超えると、誤り率(例えば接続失敗意)の増加に苦し
む。
【0054】上述のように、コンテンツ・サーバ31が
過負荷状態にあると適応コントローラ50が判断する
と、適応コントローラ50は、到来アクセス要求を格下
げコンテンツ形式に適応するようにコンテンツ・アダプ
タ41に指示する。これは、コンテンツ・サーバ31を
潜在的に負荷のない状態にさせるので、適応が実行され
る時適切な資源利用度が達成されないこととなる。この
状況が図6に示されている。図6においては、実線曲線
85は、本発明の1つの実施形態に従った適応メカニズ
ムを備えていない従来技術コンテンツ・サーバの実効バ
ンド幅を表し、点線曲線86は、適応型負荷制御システ
ム40を備えるコンテンツ・サーバ31の実効バンド幅
を表す。図6に見られるように、より少ない資源集約型
コンテンツ形式への切り換えによって、コンテンツ・サ
ーバ31の場合の曲線86の実効バンド幅は急激に落下
する。これは、サーバのバンド幅の利用度が不十分とな
ることを意味する。
【0055】コンテンツ・サーバ31が過負荷状態であ
る時、コンテンツ・アダプタ41が到来アクセス要求の
一部分だけを格下げすることによってこの問題を克服す
ることができる。一部分は、到来アクセス要求のすべて
と全くなしの間にある。このメカニズムはコンテンツ・
アダプタ41において実施される。このメカニズムは、
部分的格下げの範囲を調整する外部制御ノブとみなすこ
とができる入力制御パラメータGを使用する。G=Ma
xであれば、格下げされる要求はなく、G=0であれ
ば、すべての到来要求が格下げされる。Gを減少すれ
ば、サーバ負荷は減る。
【0056】使用可能コンテンツ・ツリーの合計数がM
axであり、コンテンツ・ツリーが品質の昇順に1から
Maxまで番号が付けられていると仮定する(ツリー0
は要求拒絶を表す特別のツリーである)。IをGの整数
部分、Fをその小数点部分とする。次の規則が使用され
る。
【0057】Gが整数(例えばG=I、F=0)であれ
ば、コンテンツ・アダプタ41は、あらゆる要求をツリ
ーIからサービスさせる。Gが整数でなければ、コンテ
ンツ・アダプタ41は、各要求を受け取る都度(範囲[0,
1]における)疑似乱数Nを計算する。N<Fならば、要
求はツリーI+1からサービスされる。その他の場合、
要求はツリーIからサービスされる。
【0058】このアルゴリズムは、最高品質コンテンツ
・ツリーでのすべての要求へのサービスとすべての要求
の拒絶との間にわたる連続的部分的格下げ分布を提供す
る。次に、過負荷を回避し、かつ、指定された目標利用
度を維持するような、最善の値Gを自動的に選択するた
め、監視/フィードバックを使用する自己制御手法を、
図3を参照して、記述する。
【0059】図3は、本発明の別の1つの実施形態に従
って部分的格下げを制御する図2の適応型負荷制御シス
テム40の制御/フィードバック・ループを示す。図3
に示されているこの実施形態において、部分的格下げを
制御するため部分的格下げモジュール60が使用され
る。モジュール60は、一体コントローラ62および加
算器61を含む。達成されたサーバ利用度が負荷モニタ
32からモジュール60の加算器61へ送られる。所望
の負荷利用度もまた加算器61に送られる。(2つの利
用度の差である)最終結果Eが一体コントローラ62へ
フィードバックされる。次に、一体コントローラ62
は、コンテンツ・アダプタ41を制御して適応のためア
クセス要求の数を調整させるため制御パラメータGを調
整する。フィードバックを使用して、コンテンツ・アダ
プタ41は、目標または所望の利用度に近くなるように
格下げ要求の数を迅速にかつ自動的に調整することがで
きる。以上、特定の実施形態を参照して本発明を記述し
たが、当業者に明らかなように、本発明の理念を逸脱す
ることなく上記実施形態に種々の修正および変更を加え
ることは可能である。
【0060】本発明には、例として次のような実施様態
が含まれる。 (1)外部アクセス要求によるアクセスに備えて完全コン
テンツ形式またはサービスのため完全形式ほど資源を必
要としない適応型コンテンツ形式で各々記憶される複数
のコンテンツ・ファイルを記憶するコンテンツ・サーバ
と、上記コンテンツ・サーバにアクセス要求を渡すため
上記コンテンツ・サーバに接続された適応型負荷制御シ
ステムと、を備え、上記適応型負荷制御システムが、上
記コンテンツ・サーバが過負荷状態にある時、コンテン
ツ・サーバが安全負荷状態に維持されるように、適応型
コンテンツ形式の対応するコンテンツ・ファイルにアク
セスするようにアクセス要求を修正する、データ・サー
ビス・ネットワーク・システムにおけるデータ・サービ
ス・システム。 (2)上記適応型負荷制御システムが、上記コンテンツ・
サーバが過負荷状態にない時、完全コンテンツ形式の対
応するコンテンツ・ファイルにアクセスするようにアク
セス要求を修正する、前記(1)に記載のデータ・サービ
ス・システム。 (3)上記適応型負荷制御システムが、コンテンツ・サー
バの負荷状態を監視する負荷モニタと、上記負荷モニタ
および上記コンテンツ・サーバに接続され、上記コンテ
ンツ・サーバが過負荷状態にあることを上記負荷モニタ
が標示する時、適応型コンテンツ形式の対応するコンテ
ンツ・ファイルにアクセスするようにアクセス要求を修
正するコンテンツ・アダプタと、を含む、前記(1)に記
載のデータ・サービス・システム。
【0061】(4)上記適応型負荷制御システムが、上記
負荷モニタおよびコンテンツ・アダプタに接続され、上
記コンテンツ・サーバが過負荷状態にあることを上記負
荷モニタが標示する時、適応型コンテンツ形式の対応す
るコンテンツ・ファイルにアクセスするようにアクセス
要求を修正するようにコンテンツ・アダプタに指示する
適応コントローラを更に含み、上記適応コントローラ
が、上記負荷モニタによって受け取られた負荷情報をコ
ンテンツ・サーバのあらかじめ定められた所望の負荷値
と比較することによって、コンテンツ・サーバが過負荷
状態にあるか否かを判断する、前記(3)に記載のデータ
・サービス・システム。 (5)上記コンテンツ・アダプタがアクセス要求のURL
を修正することによってアクセス要求を修正し、コンテ
ンツ・ファイルの各々ごとに、完全コンテンツ形式また
は適応型コンテンツ形式いずれかの対応するコンテンツ
・ファイルにアクセスするように上記修正された要求を
仕向けるサービス・ディレクトリをコンテンツ・サーバ
が含む、前記(1)に記載のデータ・サービス・システ
ム。
【0062】(6)外部アクセス要求によるアクセスに備
えて複数のコンテンツ・ファイルを記憶するコンテンツ
・サーバを有するデータ・サービス・ネットワーク・シ
ステムのデータ・サービス・システムにおいて、安全負
荷状態でコンテンツ・サーバを維持する方法であって、
コンテンツ・サーバに記憶されているコンテンツ・ファ
イルのうちの1つにアクセスするアクセス要求をデータ
・サービス・システムが受け取る時コンテンツ・サーバ
の負荷状態を判断するステップと、上記コンテンツ・サ
ーバが過負荷状態にあると判断されると、上記コンテン
ツ・サーバが安全負荷状態に維持されるように、適応型
コンテンツ形式の対応するコンテンツ・ファイルにアク
セスするようにアクセス要求を修正するステップと、を
含む方法。
【0063】(7)上記コンテンツ・サーバが過負荷状態
にないと判断されると、完全コンテンツ形式の対応する
コンテンツ・ファイルにアクセスするようにアクセス要
求を修正するステップを含む、前記(6)に記載の方法。 (8)負荷状態を判断する上記ステップが、負荷モニタを
使用して上記コンテンツ・サーバの実際の負荷状態を取
得するステップと、上記実際の負荷状態をあらかじめ定
められた所望の負荷状態と比較して、上記コンテンツ・
サーバが過負荷状態にあるか否かを判断するステップ
と、を含む、前記(6)に記載の方法。 (9)アクセス要求を修正する上記ステップが、アクセス
要求のURLを修正することによって実行される、前記
(6)に記載の方法。
【0064】
【発明の効果】本発明によると、ウェブ・サーバが過大
な負荷状態になった時ウェブ・サーバへのアクセス要求
が自動的に制御され、その結果、安全負荷状態が維持さ
れる。
【図面の簡単な説明】
【図1】多数のデータ・サービス・システムを含むデー
タ・アクセス・ネットワーク・システムを示すブロック
図である。
【図2】図1の適応型データ・サービス・システムのう
ちの本発明の1つの実施形態に従った構成を示すブロッ
ク図である。
【図3】図2の適応型データ・サービス・システムの部
分的格下げに関する制御およびフィードバック・ループ
を示すブロック図である。
【図4】図2の適応型データ・サービス・システムのコ
ンテンツ・サーバの構成を示すブロック図である。
【図5】従来技術のデータ・サービス・システムと図2
の適応データ・サービス・システムの間の接続失敗率の
比較を示すグラフ図である。
【図6】従来技術のデータ・サービス・システムと図2
の適応データ・サービス・システムの間のバンド幅の比
較を示すグラフ図である。
【図7】図2および図3の負荷モニタによって利用され
るギャップ推定手法を示すブロック図である。
【符号の説明】
30 データ・サービス・システム 31 コンテンツ・サーバ 40 適応型負荷制御システム
───────────────────────────────────────────────────── フロントページの続き (72)発明者 テレック・ファルーク・アブデルザハー アメリカ合衆国48105ミシガン州アン・ア ーバー、クラム・プレイス 2203、ナンバ ー 1

Claims (1)

    【特許請求の範囲】
  1. 【請求項1】外部アクセス要求によるアクセスに備えて
    完全コンテンツ形式またはサービスのため完全形式ほど
    資源を必要としない適応型コンテンツ形式で各々記憶さ
    れる複数のコンテンツ・ファイルを記憶するコンテンツ
    ・サーバと、 上記コンテンツ・サーバにアクセス要求を渡すため上記
    コンテンツ・サーバに接続された適応型負荷制御システ
    ムと、 を備え、 上記適応型負荷制御システムが、上記コンテンツ・サー
    バが過負荷状態にある時、コンテンツ・サーバが安全負
    荷状態に維持されるように、上記適応型コンテンツ形式
    の対応するコンテンツ・ファイルにアクセスするように
    アクセス要求を修正する、 データ・サービス・ネットワーク・システムにおけるデ
    ータ・サービス・システム。
JP2000079687A 1999-04-26 2000-03-22 データ・サービス・システム Pending JP2000322366A (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US09/299684 1999-04-26
US09/299,684 US8200837B1 (en) 1999-04-26 1999-04-26 Method and system for maintaining a content server at safe load conditions

Publications (2)

Publication Number Publication Date
JP2000322366A true JP2000322366A (ja) 2000-11-24
JP2000322366A5 JP2000322366A5 (ja) 2007-04-19

Family

ID=23155811

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2000079687A Pending JP2000322366A (ja) 1999-04-26 2000-03-22 データ・サービス・システム

Country Status (4)

Country Link
US (2) US8200837B1 (ja)
EP (1) EP1049031B1 (ja)
JP (1) JP2000322366A (ja)
DE (1) DE69939460D1 (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010123015A (ja) * 2008-11-21 2010-06-03 Nomura Research Institute Ltd Webサーバシステム
JP6062511B1 (ja) * 2015-09-07 2017-01-18 ヤフー株式会社 変更装置、変更方法、配信方法、変更プログラム、及び配信システム

Families Citing this family (20)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7822860B2 (en) 2001-12-11 2010-10-26 International Business Machines Corporation Method and apparatus for dynamic reconfiguration of web services infrastructure
US8312131B2 (en) * 2002-12-31 2012-11-13 Motorola Mobility Llc Method and apparatus for linking multimedia content rendered via multiple devices
US8819181B2 (en) * 2006-03-17 2014-08-26 Apple Inc. Adaptable network service access through dynamic request routing
EP2034730B1 (en) * 2007-09-06 2011-11-30 Nokia Siemens Networks Oy Load control for a television distribution system
DE102009009040A1 (de) 2009-02-16 2010-09-02 Siemens Medical Instruments Pte. Ltd. Vorrichtung und Verfahren zur Störgeräuschschätzung bei einer binauralen Hörgeräteversorgung
US9009296B1 (en) 2009-08-07 2015-04-14 Google Inc. System and method of determining latency
US9009251B1 (en) * 2010-07-28 2015-04-14 Cellco Partnership Server content adjusted based on automated report of available client bandwidth
US9363312B2 (en) * 2010-07-28 2016-06-07 International Business Machines Corporation Transparent header modification for reducing serving load based on current and projected usage
US8392558B1 (en) * 2011-03-22 2013-03-05 Amazon Technologies, Inc. System and method for determining overload state for service requests
CA2854348C (en) 2011-11-09 2018-05-29 Movable, Inc. Management of dynamic email content
JP6024296B2 (ja) * 2012-08-30 2016-11-16 富士通株式会社 情報処理装置、コピー制御プログラム、およびコピー制御方法
WO2014126069A1 (ja) 2013-02-12 2014-08-21 日本電信電話株式会社 出力機能分割システム
US9699032B2 (en) * 2013-10-29 2017-07-04 Virtual Instruments Corporation Storage area network queue depth profiler
US20150271044A1 (en) * 2014-03-24 2015-09-24 International Business Machines Corporation Browser response optimization
US20150332331A1 (en) * 2014-05-13 2015-11-19 Pubmatic, Inc. Intelligent ad auction and sla compliance techniques
US11106621B2 (en) 2016-07-01 2021-08-31 Intel Corporation Adaptive synching
US10924583B2 (en) * 2016-11-23 2021-02-16 Level 3 Communications, Llc Overload handling in a content delivery network (CDN)
US10244046B2 (en) * 2016-11-28 2019-03-26 T-Mobile Usa, Inc. Managing traffic at a node within a wireless communication network upon the node entering service
CN112579310A (zh) * 2019-09-30 2021-03-30 北京车和家信息技术有限公司 服务调用的方法及装置
US11711274B2 (en) * 2020-02-11 2023-07-25 International Business Machines Corporation Request response based on a performance value of a server

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH1027165A (ja) * 1996-07-08 1998-01-27 Nec Corp 分散情報サービスシステム
JPH10133973A (ja) * 1996-10-31 1998-05-22 Hitachi Ltd Html情報提供方法
JPH10242997A (ja) * 1997-03-03 1998-09-11 Nippon Telegr & Teleph Corp <Ntt> 情報提供装置及び情報提供方法

Family Cites Families (45)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5917822A (en) * 1995-11-15 1999-06-29 Xerox Corporation Method for providing integrated packet services over a shared-media network
US5802299A (en) * 1996-02-13 1998-09-01 Microtouch Systems, Inc. Interactive system for authoring hypertext document collections
US6076109A (en) * 1996-04-10 2000-06-13 Lextron, Systems, Inc. Simplified-file hyper text protocol
US6553410B2 (en) * 1996-02-27 2003-04-22 Inpro Licensing Sarl Tailoring data and transmission protocol for efficient interactive data transactions over wide-area networks
US5764235A (en) * 1996-03-25 1998-06-09 Insight Development Corporation Computer implemented method and system for transmitting graphical images from server to client at user selectable resolution
US5852673A (en) * 1996-03-27 1998-12-22 Chroma Graphics, Inc. Method for general image manipulation and composition
US5995943A (en) * 1996-04-01 1999-11-30 Sabre Inc. Information aggregation and synthesization system
US5918013A (en) * 1996-06-03 1999-06-29 Webtv Networks, Inc. Method of transcoding documents in a network environment using a proxy server
JP3183181B2 (ja) * 1996-08-28 2001-07-03 トヨタ自動車株式会社 情報送信方法
US6067557A (en) * 1996-09-06 2000-05-23 Cabletron Systems, Inc. Method and system for allocating CPU bandwidth by prioritizing competing processes
US5926649A (en) * 1996-10-23 1999-07-20 Industrial Technology Research Institute Media server for storage and retrieval of voluminous multimedia data
US5953506A (en) * 1996-12-17 1999-09-14 Adaptive Media Technologies Method and apparatus that provides a scalable media delivery system
US6185625B1 (en) * 1996-12-20 2001-02-06 Intel Corporation Scaling proxy server sending to the client a graphical user interface for establishing object encoding preferences after receiving the client's request for the object
US6028842A (en) * 1996-12-23 2000-02-22 Nortel Networks Corporation Dynamic traffic conditioning
US6052718A (en) * 1997-01-07 2000-04-18 Sightpath, Inc Replica routing
EP1021917A4 (en) * 1997-03-31 2002-05-15 Broadband Associates METHOD AND SYSTEM FOR DELIVERING A DISPLAY ON A NETWORK
US6269078B1 (en) * 1997-04-04 2001-07-31 T. V. Lakshman Method and apparatus for supporting compressed video with explicit rate congestion control
US6041041A (en) * 1997-04-15 2000-03-21 Ramanathan; Srinivas Method and system for managing data service systems
US6317795B1 (en) * 1997-07-22 2001-11-13 International Business Machines Corporation Dynamic modification of multimedia content
US6263114B1 (en) * 1997-07-31 2001-07-17 Sony Corporation Apparatus and method for compressing image data by determining a quantization factor which provides more efficient use of an available bit rate
US6167085A (en) * 1997-07-31 2000-12-26 Sony Corporation Image data compression
US6021426A (en) * 1997-07-31 2000-02-01 At&T Corp Method and apparatus for dynamic data transfer on a web page
US6006264A (en) * 1997-08-01 1999-12-21 Arrowpoint Communications, Inc. Method and system for directing a flow between a client and a server
US6061700A (en) * 1997-08-08 2000-05-09 International Business Machines Corporation Apparatus and method for formatting a web page
US6564250B1 (en) * 1997-08-21 2003-05-13 Planetweb, Inc. Miniclient for internet appliance
US6148005A (en) * 1997-10-09 2000-11-14 Lucent Technologies Inc Layered video multicast transmission system with retransmission-based error recovery
US6594699B1 (en) * 1997-10-10 2003-07-15 Kasenna, Inc. System for capability based multimedia streaming over a network
US6157614A (en) * 1997-10-22 2000-12-05 Netro Corporation Wireless ATM network with high quality of service scheduling
US6128668A (en) * 1997-11-07 2000-10-03 International Business Machines Corporation Selective transformation of multimedia objects
US6216157B1 (en) * 1997-11-14 2001-04-10 Yahoo! Inc. Method and apparatus for a client-server system with heterogeneous clients
US6105042A (en) * 1998-02-13 2000-08-15 Cylex Systems, Inc. Multi-user information management system adapted for efficient, remote, on-demand document management, storage and retrieval
US6343350B1 (en) * 1998-02-13 2002-01-29 International Business Machines Corporation Conserving storage space by means of low resolution objects
US6038598A (en) * 1998-02-23 2000-03-14 Intel Corporation Method of providing one of a plurality of web pages mapped to a single uniform resource locator (URL) based on evaluation of a condition
US6243761B1 (en) * 1998-03-26 2001-06-05 Digital Equipment Corporation Method for dynamically adjusting multimedia content of a web page by a server in accordance to network path characteristics between client and server
US6314463B1 (en) * 1998-05-29 2001-11-06 Webspective Software, Inc. Method and system for measuring queue length and delay
GB9817909D0 (en) * 1998-08-17 1998-10-14 Zeneca Ltd DNA constructs
US6182125B1 (en) * 1998-10-13 2001-01-30 3Com Corporation Methods for determining sendable information content based on a determined network latency
US6185221B1 (en) * 1998-11-09 2001-02-06 Cabletron Systems, Inc. Method and apparatus for fair and efficient scheduling of variable-size data packets in an input-buffered multipoint switch
US6389462B1 (en) * 1998-12-16 2002-05-14 Lucent Technologies Inc. Method and apparatus for transparently directing requests for web objects to proxy caches
US6587109B1 (en) * 1998-12-24 2003-07-01 B3D, Inc. System and method for real-time scalability of 3D graphics based on internet bandwidth and CPU speed
US6505256B1 (en) * 1999-01-15 2003-01-07 Compaq Information Technologies Group, L.P. Automatic synchronization of state colors across a web-based system
US6484212B1 (en) * 1999-04-20 2002-11-19 At&T Corp. Proxy apparatus and method for streaming media information
US6581109B1 (en) * 1999-06-24 2003-06-17 International Business Machines Corporation System to dynamically adjust image colors in client/server environment to assure accurate color reproduction
US6441831B1 (en) * 2000-04-04 2002-08-27 Learningaction, Inc. Choosing a multimedia presentation
US20020069296A1 (en) * 2000-12-06 2002-06-06 Bernie Aua Internet content reformatting apparatus and method

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH1027165A (ja) * 1996-07-08 1998-01-27 Nec Corp 分散情報サービスシステム
JPH10133973A (ja) * 1996-10-31 1998-05-22 Hitachi Ltd Html情報提供方法
JPH10242997A (ja) * 1997-03-03 1998-09-11 Nippon Telegr & Teleph Corp <Ntt> 情報提供装置及び情報提供方法

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010123015A (ja) * 2008-11-21 2010-06-03 Nomura Research Institute Ltd Webサーバシステム
JP6062511B1 (ja) * 2015-09-07 2017-01-18 ヤフー株式会社 変更装置、変更方法、配信方法、変更プログラム、及び配信システム

Also Published As

Publication number Publication date
US8200837B1 (en) 2012-06-12
US20120233294A1 (en) 2012-09-13
EP1049031B1 (en) 2008-09-03
DE69939460D1 (de) 2008-10-16
EP1049031A2 (en) 2000-11-02
EP1049031A3 (en) 2001-03-21

Similar Documents

Publication Publication Date Title
US20120233294A1 (en) Adaptive web server
US8799502B2 (en) Systems and methods for controlling the number of connections established with a server
US7836191B2 (en) Apparatus, method and computer program product for guaranteed content delivery incorporating putting a client on-hold based on response time
US7388839B2 (en) Methods, apparatus and computer programs for managing performance and resource utilization within cluster-based systems
US6308214B1 (en) Self-tuning dataflow I/O core
Abdelzaher et al. Performance guarantees for web server end-systems: A control-theoretical approach
EP2159990B1 (en) Internet client-server multiplexer
US7277917B2 (en) Asynchronous messaging using a dynamic routing network
US6304906B1 (en) Method and systems for allowing data service system to provide class-based services to its users
US7930362B2 (en) Techniques for delivering personalized content with a real-time routing network
US8667120B2 (en) Load control device and method thereof for controlling requests sent to a server
US6742016B1 (en) Request acceptor for a network application system and a method thereof
US9350795B2 (en) Methods, systems and computer program products for proactively offering a network turbo boost service to end users
Iyer et al. Overload control mechanisms for web servers
US20160234118A1 (en) Method, System and Device for Managing Congestion in Network Services
CN108989420A (zh) 注册服务的方法及系统、调用服务的方法及系统
US7062557B1 (en) Web server request classification system that classifies requests based on user&#39;s behaviors and expectations
US20180063220A1 (en) Systems and methods to provide hypertext transfer protocol 2.0 optimization through multiple links
EP3068107B1 (en) Supplying data files to requesting stations
EP1317109B1 (en) System and method for controlling the adaptation of adaptive distributed multimedia applications
US20050050212A1 (en) Methods and apparatus for access control
Pradhan et al. Adaptive multimedia content delivery for scalable web servers
WO2002101570A1 (en) Network system with web accelerator and operating method for the same
JP5655687B2 (ja) 解析処理装置,解析処理プログラムおよび解析処理方法
Xu et al. Supporting multimedia service polymorphism in dynamic and heterogeneous environments

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20070301

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20070301

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20090821

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20090825

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20091111

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20091111

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20100525

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100709

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20101004

A912 Re-examination (zenchi) completed and case transferred to appeal board

Free format text: JAPANESE INTERMEDIATE CODE: A912

Effective date: 20101029