JP2008515106A - サービス・パフォーマンスとアプリケーション配置管理を調整する装置、システム、方法 - Google Patents

サービス・パフォーマンスとアプリケーション配置管理を調整する装置、システム、方法 Download PDF

Info

Publication number
JP2008515106A
JP2008515106A JP2007534746A JP2007534746A JP2008515106A JP 2008515106 A JP2008515106 A JP 2008515106A JP 2007534746 A JP2007534746 A JP 2007534746A JP 2007534746 A JP2007534746 A JP 2007534746A JP 2008515106 A JP2008515106 A JP 2008515106A
Authority
JP
Japan
Prior art keywords
service
application
capacity
placement
quality
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2007534746A
Other languages
English (en)
Other versions
JP2008515106A5 (ja
Inventor
タンターウィ、アッサー、エヌ
パシフィシ、ジョバンニ
スプリッツァー、マイケル
スタインダー、マーゴジャータ
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
International Business Machines Corp
Original Assignee
International Business Machines Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by International Business Machines Corp filed Critical International Business Machines Corp
Publication of JP2008515106A publication Critical patent/JP2008515106A/ja
Publication of JP2008515106A5 publication Critical patent/JP2008515106A5/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00Arrangements for program control, e.g. control units
    • G06F9/06Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46Multiprogramming arrangements
    • G06F9/50Allocation of resources, e.g. of the central processing unit [CPU]
    • G06F9/5005Allocation of resources, e.g. of the central processing unit [CPU] to service a request
    • G06F9/5027Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resource being a machine, e.g. CPUs, Servers, Terminals
    • G06F9/505Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resource being a machine, e.g. CPUs, Servers, Terminals considering the load

Landscapes

  • Engineering & Computer Science (AREA)
  • Software Systems (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Stored Programmes (AREA)
  • Computer And Data Communications (AREA)
  • Multi Processors (AREA)
  • Hardware Redundancy (AREA)

Abstract

【課題】 パフォーマンス管理とアプリケーション配置管理のタスクを動的に調整する装置、システム、方法を提供する。
【解決手段】 あるプロセス例は、分散型コンピュータ・システムへの要求負荷の変動、および前記分散型コンピュータ・システム内のサーバへのアプリケーションの配置の定期的な調節に対して動的である。前記プロセスには需要予測機能と容量調節機能の2つの相反する機能の流れがある。調整システムは、パフォーマンス・マネージャおよびアプリケーション配置マネージャの適切なインターフェースとともに、需要エスティメータと容量アジャスタの2つのサブシステムを包含する。この結果、アプリケーション配置プロセスは需要の変動により素早く反応し、サービスの様々なクラスに割り当てるリソースを再配列することによってパフォーマンス保証をよりよく満たし、管理システムは非監視モードで動作するため、手動による運用管理コストと人為的な間違いを減らす。
【選択図】図4

Description

本発明は、コンピュータ・システムにおいて、サービス要求負荷の変動があっても提供するサービス品質のレベルを最善に満たすように、サービスをオンデマンドで供給することに関係し、さらに具体的には、様々なサービスの容量ニーズおよびコンピュータ・システム内のサーバにサービスを提供するアプリケーションの配置の調節をよりよく予測するための、パフォーマンス・マネージャとアプリケーション配置マネージャのタスクの調整に関係する。
ひとつまたは複数のサーバからなり、それぞれサービス品質のパフォーマンスを保証する多数のサービス品質クラスにそれぞれ要求があり、要求負荷が時間によって変動するコンピュータ・システムを想定する。このようなシステムでは、パフォーマンス・マネージャが、リソースの割り当てを最適にし、スケジューラ、並列処理コントローラ、およびルータに適切な指示を出すことによって、各要求のそれぞれのクラス品質のパフォーマンスを保証するように動的に働く。同様に、アプリケーション配置マネージャは、サービスを提供するアプリケーションの複数のインスタンスをサーバに最適に配置するように動的に働く。パフォーマンス・マネージャとアプリケーション配置マネージャが同期して動作していなければ、いずれか一方のマネージャが全体的な目的を考慮せずにその局部的な目標を達成しようとするか、または一方のマネージャのパフォーマンスの改善が他方のマネージャに厳しい制約を課すような形で双方のマネージャが互いに反する動作をすることがある。そのため、パフォーマンス・マネージャとアプリケーション配置マネージャの動作を調整する必要がある。
先行技術は、パフォーマンス・マネージャとアプリケーション配置マネージャがそれぞれのタスクをふたつの別々の管理ドメインで実行することを提案している。システム・アドミニストレータは、パフォーマンス保証の履行とサーバへのアプリケーションの配置を調整する動的で自動的なプロセスを用いずに、いくつかの管理構成パラメータを手動で設定する。
以上の問題を克服するために、本発明の一つの側面は、分散型コンピュータ・システムにおいてパフォーマンス・マネージャとアプリケーション配置マネージャの動的な調整をする装置、システム、および方法を提供することである。
本発明の別の側面は、分散型コンピュータ・システムにおいてパフォーマンス・マネージャからアプリケーション配置マネージャに、需要予測とリソース割り当て情報を伝達するプロセスのシステムおよび方法を提供することである。
本発明のさらに別の側面は、分散型コンピュータ・システムにおいてアプリケーション配置マネージャからパフォーマンス・マネージャに容量負荷の制約条件を伝達するプロセスのシステムおよび方法を提供することである。
本発明の別の側面は、分散型コンピュータ・システムにおいてパフォーマンス・マネージャとアプリケーション配置マネージャとを動的に調整するシステムおよび方法を提供することである。
本発明は、パフォーマンス・マネージャとアプリケーション配置マネージャのタスクを動的に調整するプロセスを導入する。さらに、本発明は、調整プロセスを実装するシステムを紹介する。このプロセスは、分散型コンピュータ・システムへの要求負荷の変動、および分散型コンピュータ・システムにおけるアプリケーションのサーバへの配置の定期的な調節に対して動的なものである。プロセスにはふたつの相反する機能的な流れ、すなわち需要予測機能と容量調節機能がある。調整システムは、パフォーマンス・マネージャおよびアプリケーション配置マネージャの適切なインターフェースとともに、ふたつのサブシステム、需要エスティメータと容量アジャスタを包含する。パフォーマンス・マネージャとアプリケーション配置マネージャの動的な調整にはいくつかの利点がある。まず、アプリケーション配置プロセスが要求の変動に対してより素早く反応する。次に、パフォーマンス保証は、様々なサービスのクラスに割り当てるリソースを再配列することによってよりよく満たされる。3番目に、管理システムが非監視モードで動作するため、手動の運用管理コストと人為的な間違いが減る。
本発明の上記およびその他の側面、特徴、並びに利点は、図面に照らしながら以下の発明の詳細な説明を熟慮すれば明らかになるであろう。
本発明は、パフォーマンス・マネージャとアプリケーション配置マネージャのタスクを調整する装置、システム、および方法を提供する。このプロセスは、コンピュータ・システムへのサービス要求負荷の変動、およびコンピュータ・システムにおけるアプリケーションのサーバへの配置の定期的な調節に対して動的なものである。プロセスにはふたつの相反する機能的な流れ、すなわち容量予測機能と容量調節機能がある。調整システムは、パフォーマンス・マネージャおよびアプリケーション配置マネージャの適切なインターフェースとともに、ふたつのサブシステム、容量エスティメータと容量アジャスタを包含する。パフォーマンス・マネージャとアプリケーション配置マネージャの動的な調整にはいくつかの利点がある。まず、アプリケーション配置プロセスが要求の変動に対してより素早く反応する。次に、パフォーマンス保証は、様々なサービスのクラスに割り当てるリソースを再配列することによってよりよく満たされる。3番目に、管理システムが非監視モードで動作するため、手動の運用管理コストと人為的な間違いが減る。
本明細書で使用するサービスとは、クライアントの要求を、要求に対するアクションを実行するために必要な接続性、接続エレメント、アプリケーションの呼び出し、およびリソースを提供することによって満たすことを含む。申し分のないサービスとなるためには、サービスは申し込みの手段、十分な応答性に関しリソースの割り当てを含めたサービス品質の提供を請け負って、保証するサービス品質を規定し約束する手段をもつのが望ましい。アプリケーションは、ウエブ・コンテンツへの静的および動的なアクセス、エンタープライズ・アプリケーション、およびデータベース・サーバへのアクセスを含む。さらに具体的には、アプリケーションはWebsphere環境でHTTPウエブ・サーバ、サーブレット、Enterprise Java(登録商標) Beans(EJB)、データベース・クエリによって提供できる。ある特定のサービスとは、ひとつまたは複数のサービスの単独もしくは複合のあらゆる組み合わせから構成されるであろう。
ある特定のアプリケーションへのサービス要求が増大すると、増大した負荷に対応するために、オンデマンド・プロビジョニング・システムがアプリケーションの追加インスタンスをデプロイする。アプリケーションのインスタンスはそのアプリケーションに固有の実時間環境でデプロイされる。例えば、ウエブ・ページの検索はウエブ・サーバを必要とし、サーブレットはウエブ・コンテナを必要とし、EJBアプリケーションはEJBコンテナを必要とし、データベース・アプリケーションはデータベース・サーバを必要とする。ひとつまたは複数のコンピュータ・システムに様々な実時間環境が提供されて、分散型コンピュータ・システムを作る。
サービス・プロバイダは、カスタマーに対してひとつまたは複数のアプリケーションを実行することによって満たされるサービスを提供する。カスタマーがあるサービスを申し込むとき、各々に対しサービス品質保証が定義されている多くのサービス・クラスからひとつを選択する。例えば、サービス品質保証は、サービス要求に対する平均応答時間の目標値であることも、または応答時間が規定の閾値を上回るサービス要求の目標であることもある。サービス・プロバイダとカスタマーとのサービス契約には通常、サービス品質保証が満たされるとき、もしくは満たされないときにとるべき措置が記載されている。当該措置は金銭的な性質かつ法的な性質、もしくは金銭的な性質または法的な性質のことがある。サービス・プロバイダの目標は、提供するすべてのサービス品質クラスおよびすべてのサービスに対してサービス品質保証をできるだけ多く満たすことである。その目標を達成するためには、(1)リソースを多数のサービス品質クラスに属するサービス要求に動的に割り当てる、および(2)アプリケーションのインスタンスを動的にデプロイおよびアンデプロイする、オンデマンドの管理環境をもつことが極めて重要である。
最初のステップは、コンピュータ・システムに配置されるアプリケーションの一連のインスタンスが与えられる場合に、ストレージ、演算能力、実行スレッド、およびアプリケーション・サーバとデータベース・サーバとの接続などの様々なリソースの容量を、様々なサービス品質クラスに属するサービス要求に割り当てるサービス・パフォーマンス・マネージャに関わる。このステップは様々なリソースのパフォーマンスのモデル化とリソース割り当ての最適化を含む。
2番目のステップは、様々なアプリケーションの容量ニーズとコンピュータ・システムにおけるその容量所要量および利用できる容量が与えられた場合に、デプロイする必要がある各アプリケーションのインスタンスの数を決定するアプリケーション配置マネージャに関わる。このステップはさらに、容量上制約になる配置最適化問題の解と、アプリケーションのインスタンスをデプロイおよびアンデプロイするステップを含む。後者は手作業で、監視モードで、または完全自動化モードで行うことができる。
包括的な目標は、提供するすべてのサービス品質クラスとすべてのサービスに対してサービス品質保証を最善に満たすことである。その目的を達成するために、パフォーマンス管理とアプリケーション配置管理の調整を追求する。調整のプロセスは、(1)サービス品質保証を達成する理想容量を計算するステップ、(2)アプリケーションのサーバへの配置の決定にあたりその理想容量を採用するステップ、(3)配置に基づいてサービスとアプリケーションの容量限界を計算するステップ、および(4)配置および容量限界を条件として、サービス品質保証を満たす容量の割り当てを決定するステップに関わる。このプロセスは、定期的に、かつ例えばモニタしたパフォーマンスが低下したときあるいはあるサービス品質保証が満たされていないときなど、ある基準に基づいて、もしくは定期的にまたはある基準に基づいて繰り返す。
ある実施例では、理想容量を計算するステップは、何らかのアプリケーション配置の制約条件を無視しながらサービス品質の達成を最適化するステップを含む。
いくつかの実施例では、採用するステップは、理想容量が現在のアプリケーションの配置によって満たされるかどうかを判別するステップを含む。満たされる場合、現在の配置をアプリケーションの配置の解として使用する。満たされない場合、アプリケーションの配置問題を解決する方法へのインプットとして、理想容量を使用する。
いくつかの実施例では、容量限界を計算するステップが、コンピュータ・システム内のサーバの配置行列とサーバの容量を調べるステップを含み、かつ容量の割り当てを決定するステップがサービス品質を達成するための最適化問題を解決するステップを含み、もしくは容量限界を計算するステップがコンピュータ・システム内のサーバの配置行列と容量を調べるステップを含み、または容量の割り当てを決定するステップがサービス品質を達成するための最適化問題を解決するステップを含み、最適化問題はアプリケーション配置行列による制約を受ける。
いくつかの実施例では、方法は、サービス品質保証を満たすにあたり、コンピュータ・システムのパフォーマンスをモニタするステップと、サービス品質保証が満たされないとき、サービス品質保証が満たされるまで、理想容量を計算し;採用し;容量限界を計算し;決定する各ステップを繰り返すステップとを含む。場合により、モニタするステップをあるモニタリング基準に基づいて行い、かつモニタするステップをあるモニタリング基準に基づいて行う、もしくはモニタするステップをあるモニタリング基準に基づいて行い、またはモニタするステップをあるモニタリング基準に基づいて行う。
いくつかの実施例では、方法は、少なくともひとつのアプリケーションが複数のサービスに対する複数のサービス要求を満たすステップと、すべてのサービス要求およびすべてのサービスに対してサービス品質保証が満たされるまで、理想容量を計算し;採用し;容量限界を計算し;決定する各ステップを繰り返すステップとを含む。
いくつかの実施例では、方法は、少なくともひとつのアプリケーションが複数のサービスに対する複数のサービス要求を満たすステップと、すべてのサービス要求およびすべてのサービスに対してサービス品質保証が満たされるまで、理想容量を計算し;採用し;容量限界を計算し;決定する各ステップを繰り返すステップとを含む。
最初のステップは、すべてのサービス品質クラスについてパフォーマンス測定基準(メトリクス)をモニタするステップに関わる。パフォーマンス・メトリクスは、サービス要求のトラフィック密度、サービス要求の応答時間、サービス要求を満たすアセンブリのリソース使用量を含むが、それだけに限定されない。次に、当該パフォーマンス・メトリクスをモデルパラメータとして使用して、パフォーマンス・モデルを構成する。モデルを分析して、様々なサービス品質クラスに対する割り当て容量の関数として、サービス品質の測定値を提供する。モデルを使用して、サービス品質保証を達成するために理想容量を計算する。モデルが与えられて、アプリケーション・インスタンスの数とそのサーバへの配置による制約を受けなければ、最適化問題はサービス品質クラス間に全体の容量を最善に配分するように解決される。すなわち、最初のステップは、測定を基に、モデルで導いた、制約を受けないリソース割り当て問題の解である。得られる解は、アプリケーションの容量の制約条件があれば実現できるかもしれないし、または実現できないかもしれない。
2番目のステップはステップ1で導き出した理想容量を使用して、理想容量の可用性を最善に実現するために、アプリケーションのサーバへの最善の配置を決定する。現在のアプリケーションの配置が理想容量を実現する場合、配置は同じままである。そうでなければ、新たなアプリケーションの配置を求める。各アプリケーション・インスタンスは、ストレージ所要量および演算サイクルなど、所定の量のリソースを必要とする。当該リソースは容量の限られたサーバから提供される。アプリケーションおよびサービスが多数あるため、アプリケーション配置ステップは多重クラスのナップザック問題(knapsack bin packaging problem)の解に関わる。実際上、最適化問題はヒューリスティック技術を用いて解決する。最適化問題のアウトプットはアプリケーション配置行列であり、行はアプリケーションを表し、列はサーバを表し、セルへの1(または0)の入力はある特定のアプリケーションのある特定のサーバへの配置(または欠落)を表す。配置行列は、アプリケーション・インスタンスを現在のアプリケーション配置にデプロイ(およびアンデプロイ)することによって実現する。最適化問題の目的は、配置行列を実現させるためのオーバーヘッドの最小化である。
3番目のステップは、新たなアプリケーションの配置によってもたらされる容量限界の計算に関わる。アプリケーション行列を調べて、利用できるサーバ容量を測定することによって、アプリケーションのサブセットの容量限界を求める。各アプリケーションはひとつまたは複数のサービス品質クラスを満たす。このため、サービス品質クラスのサブセットの容量限界を計算する。計算した容量は、ステップ1で計算した理想容量とは異なり、アプリケーション配置行列による制約を受ける。
4番目のステップはステップ3で計算した容量限界を、制約のあるリソース割り当て問題を解決するときの制約条件として使用する。このような問題の目的は、様々なサービス品質クラスについてサービス品質保証を最善に満たすことである。最適化基準は、サービス品質の測定値とその目標の全体の効用関数の最大化、またはサービス品質保証を相対的に満たすためにサービス品質クラス間でのリソースのバランシングとすることができるであろう。
コンピュータ・システムのオンデマンド・サービス・プロビジョニングとパフォーマンス管理の高次レベルの階層図を図1に表す。分散型コンピュータ・システム40と運用・制御システム80と調整管理システム90の3つのレイヤがある。様々なサービスのクラスに属する要求10が分散型コンピュータ・システム40に依頼されて、そこで処理され、適切な応答50が出される。運用・制御システム80は処理されるときの要求10のパフォーマンスと、分散型コンピュータ・システム40のリソースの使用量をモニタする。モニタされたデータ30は分散型コンピュータ・システム40のモニタから収集されて、運用・制御システム80に伝達される。加えて、運用・制御システム80は分散型コンピュータ・システム40のアクチュエータに指示する制御アクション20を発行する。トップ・レイヤは、運用・制御システム80から統計データ70を受け取って、制御パラメータ60を運用・制御システム80に送ることによって応答を返す調整管理システム90からなる。
図2は分散型コンピュータ・システム40を表す。様々なサービスのクラスに属する要求10がスケジューラに到着すると、そこで要求がサービス・クラスに基づいて多数のキュー410に入れられるとともに、要求10が並列処理コントローラに到着すると、そこでシステムがサービスを提供することになる各クラスの要求の数を制限する。ディスパッチされると、要求はルータ420から指定のサーバに送られ、そこでサーバはそのサーバにすでに配置されているアプリケーションの実行からそのサービスを受け取り、さらに応答50を出す。図2はふたつのサーバ430および440と、3つのアプリケーション、アプリケーション1、アプリケーション2、アプリケーション3を示す。アプリケーション1のインスタンスは450および470のふたつあり、それぞれサーバ430および440で動作する。対して、アプリケーション2のインスタンスはサーバ430で動作する460のひとつだけ、アプリケーション3のインスタンスはサーバ440で動作する480のひとつだけである。キュー410はモニタ済みデータ30を収集して、それを運用・制御システム80に送る。それに応答して、運用・制御システム80は、キュー410を制御するキュー・アクション210と、ルータ420を制御するルーティング・アクション220と、アプリケーション・インスタンスのサーバへの配置を制御する配置アクション320を送る。
図3は運用・制御システム80を表す。キュー・コントローラ810はスケジューラと並列処理コントローラを制御し、調整管理システム90からそのキュー制御パラメータ610を受け取る。また、モニタ済みデータ30が収集されて、キュー・モニタ820が調整管理システム90に統計データ70を供給する。また、ルーティングの重み220が調整管理システム90によってルータ・コントローラ830に供給される。配置コントローラ840は調整管理システム90から受け取った配置変更630の指示を与えて、対応する配置アクション230を行う。
図4は調整管理システム90を表す。パフォーマンス・マネージャ920は、サービス・マネージャ910が提供するパフォーマンス目標を満たすよう努めながら、システムのパフォーマンスを最適化する。アプリケーション配置マネージャ950は、システム構成マネージャ960が提供する構成パラメータを使って、サーバへのアプリケーション・インスタンスの最適な配置を発行する。パフォーマンス・マネージャ920とアプリケーション配置マネージャ950との調整は、容量エスティメータ930と容量アジャスタ940を通じて行う。容量エスティメータ930は最適な容量所要量(配置による制約がない)および統計データを使って、アプリケーションに対する負荷を予測する。得られた予測と構成情報をアプリケーション配置マネージャ950が使って、配置変更630を作成する。さらにこの新たな配置データを容量アジャスタ940が使って、新たな配置により制約を受ける新たな容量限界のセットを計算する。
パフォーマンス・マネージャ920とアプリケーション配置マネージャ950はともに、ブラックボックス制御アプローチではなく、それぞれ独自のモデルと最適化問題を採用しているため、調整プロセスを繰り返し述べる必要はないことを付け加えておく。
調整プロセスのフロー図を図5に示す。このプロセスは決定1070に基づいて繰り返すが、決定1070は所定の制御期間で定期的に起こるか、またはシステムのパフォーマンスが低下し始めたときに起動される。プロセスの最初のステップ1010は、様々なサービス・クラスの容量ニーズの予測に関わる。現在のアプリケーションの配置による制約がなければ、容量エスティメータはサービス品質を最適化するように様々なサービス・クラスの間への全体の容量の最適な割り当てを計算する。ステップ1020で、計算した理想容量は他のローディング情報とともにアプリケーション配置マネージャに伝達される。理想容量が現在のアプリケーション配置で満たされるかどうかの決定1030を行う。満たされれば、変更は必要ない。満たされなければ、理想容量と予想負荷に基づいて新たなアプリケーション配置を決定する1040。アプリケーション配置を決定するアルゴリズムは所定の配置ポリシーを使ってもよい。新たなアプリケーション配置は容量アジャスタに伝達されて、そこでサービス・クラスとサーバのすべての対に対応する容量の制約条件を計算する1050。さらに当該容量限界をパフォーマンス・マネージャにインプットとして供給する。次に、パフォーマンス・マネージャはサービス品質を最適化するようにサービス・クラス間への容量の最適な割り当てを計算する1060。
このように、本発明はパフォーマンス管理とアプリケーション配置管理を調整する方法を含む。方法は、サービス要求の様々なサービス・クラスの容量ニーズを推定するステップと、サービス要求に対する少なくともひとつのアプリケーションの理想容量を計算するステップと、現在のアプリケーションの配置によって理想容量が満たされているかどうかを判別するステップと、理想容量が満たされている場合、現在のアプリケーションの配置に変更を行わないステップと、理想容量が満たされない場合、理想容量と予想負荷に基づいて新しいアプリケーションの配置を決定するステップと、サービス・クラスとサーバのすべての対について対応する容量の制約条件を計算するステップと、サービス品質を最適化するようにサービス・クラスの間への容量の最適な割り当てを計算するステップとを含む。
いくつかの実施例では、方法は、繰返し基準に基づいて、予測し;理想容量を計算し;決定し;対応する容量の制約条件を計算し;最適な割り当てを計算する各ステップを繰り返すステップを含む。
本発明は、少なくともひとつのサービスの品質サービス・レベルを満たす少なくともひとつのアプリケーションをプロビジョニングする方法も含む。方法は、コンピュータ・システムでサービス・パフォーマンス・マネージャとアプリケーション配置マネージャを調整するステップを含み、サービス・パフォーマンス・マネージャが少なくともひとつのサービスのパフォーマンスを管理し、アプリケーション配置マネージャが少なくともひとつのアプリケーションの配置を管理し、アプリケーションがある特定のサービス要求を満たす。調整するステップは、特定のサービスに対して定義されるサービス品質レベルを達成する理想容量を計算するステップと、配置ポリシーに従い少なくともひとつのアプリケーションをコンピュータ・システム内の少なくともひとつのサーバへの配置を決定するにあたり、アプリケーション配置マネージャが理想容量を採用するステップと、配置に基づいて少なくともひとつのアプリケーションに対する特定のサービスの容量限界を計算するステップと、パフォーマンス・マネージャが配置および容量限界を条件としてサービス品質レベルを満たす容量の割り当てを決定するステップとを含む。
いくつかの実施例では、方法は、理想容量をアプリケーション配置マネージャに伝達するステップと、配置および容量限界をサービス・パフォーマンス・マネージャに伝達するステップとを含む。いくつかの実施例では、理想容量を伝達するステップが、理想容量を、理想容量ベクトルの1要素がサービス品質レベルに対応する理想容量ベクトルとして表すステップを有し、かつ配置および容量限界を伝達するステップが、配置を、配置行列の行または列がアプリケーションに対応し、配置行列の列または行がサーバに対応する配置行列として表すステップと、容量限界を、容量限界ベクトルの1要素がサーバに対応する容量限界ベクトルとして表すステップを有し、もしくは理想容量を伝達するステップが、理想容量を、理想容量ベクトルの1要素がサービス品質レベルに対応する理想容量ベクトルとして表すステップを有し、または配置および容量限界を伝達するステップが、配置を、配置行列の行または列がアプリケーションに対応し、配置行列の列または行がサーバに対応する配置行列として表すステップと、容量限界を、容量限界ベクトルの1要素がサーバに対応する容量限界ベクトルとして表すステップを有する。
本発明は、少なくともひとつのサービス品質保証を満足する少なくともひとつのアプリケーションをプロビジョニングする装置も含む。前記少なくともひとつのアプリケーションはある特定のサービスに対する複数のサービス要求を満たす。装置は、特定のサービスに対して定義されるサービス品質レベルを達成する理想容量を計算する手段と、配置ポリシーに従い前記少なくともひとつのアプリケーションをコンピュータ・システム内の少なくともひとつのサーバへの配置を決定するにあたり、理想容量を採用する手段と、配置に基づいて前記少なくともひとつのアプリケーションに対する特定のサービスの容量限界を計算する手段と、配置および容量限界を条件としてサービス品質レベルを満たす容量の配置を決定する手段とを含む。
本発明は、パフォーマンス管理とアプリケーション配置管理を調整する装置も含む。装置は、サービス要求の様々なサービス・クラスについて容量ニーズを予測する手段と、サービス要求について少なくともひとつのアプリケーションの理想容量を計算する手段と、理想容量が現在のアプリケーションの配置によって満たされるかどうかを判別する手段と、理想容量が満たされる場合、現在のアプリケーションの配置に変更を行わない手段と、理想容量が満たされない場合、理想容量と予想負荷に基づいて新たなアプリケーションの配置を決定する手段と、サービス・クラスとサーバのすべての対について対応する容量の制約条件を計算する手段と、サービス品質を最適化するようにサービス・クラス間への容量の最適な割り当てを計算する手段とを含む。
本発明は、少なくともひとつのサービスに対する品質サービス・レベルを満たす少なくともひとつのアプリケーションをプロビジョニングする装置も含む。装置は、コンピュータ・システムでサービス・パフォーマンス・マネージャとアプリケーション配置マネージャを調整する手段を含み、サービス・パフォーマンス・マネージャが前記少なくともひとつのサービスのパフォーマンスを管理する手段を含むとともに、アプリケーション配置マネージャが少なくともひとつのアプリケーションの配置を管理する手段を含み、アプリケーションがある特定のサービスに対するサービス要求を満たす。
調整する手段は、特定のサービスに対して定義されるサービス品質レベルを達成する理想容量を計算する手段であって、配置ポリシーに従いコンピュータ・システム内の少なくともひとつのサーバへの前記少なくともひとつのアプリケーションの配置を決定するにあたり、アプリケーション配置マネージャが理想容量を採用する手段を含む、前記計算する手段と、配置に基づいて前記少なくともひとつのアプリケーションに対する特定のサービスの容量限界を計算する手段と、パフォーマンス・マネージャが配置および容量限界の条件を受けてサービス品質レベルを満たすように容量の割り当てを決定する手段を含む。
本発明は、ハードウェア、ソフトウェア、またはハードウェアとソフトウェアの組み合わせにおいて実現できる。本発明は、1台のコンピュータ・システムで集中的に、または多様な要素が相互接続された複数のコンピュータ・システムに分散する分散的に実現できる。あらゆる種類のコンピュータ・システム(または本明細書に記載する方法を実施するようになされた他の装置)が適する。ハードウェアとソフトウェアの典型的な組み合わせは、ロードされて実行されるとき、本明細書に記載の方法を実施するようにコンピュータ・システムを制御するコンピュータ・プログラムを搭載した汎用コンピュータ・システムであろう。本発明は、本明細書に記載する方法の実施を可能にするすべての特徴を有し、かつコンピュータ・システムにロードされるとき、これら方法を実施できるコンピュータ・プログラム製品に埋め込むこともできる。
この状況におけるコンピュータ・プログラム手段またはコンピュータ・プログラムとは、情報処理能力を備えるシステムに、直接的にあるいは、別の言語、コード、表記法および異なる複製物もしくはそれらの組み合わせに変換後、ある特定の機能をさせるよう意図した命令のセットのあらゆる言語、コード、または表記法でのあらゆる表現を意味する。
以上本発明のより関連の深い側面および実施例のいくつかを概説してきたことに留意する。本発明は多くのアプリケーションに使用できる。このため、特定の構成および方法について説明しているが、本発明の意図および概念は他の構成およびアプリケーションにも適しかつ適用可能である。本発明の精神および範囲を逸脱することなく、開示した実施例に他の変更を行えることは当業者には明らかであろう。説明した実施例は、本発明のより顕著な特徴および適用のいくつかを単に例証したものにすぎないと解釈するべきである。開示した発明を別の方法で適用する、または発明を当業者に周知の方法で変更することにより、他の有益な結果が実現できる。
本発明のある実施例によるシステム全体像のブロック図である。 本発明のある実施例による分散型コンピュータ・システムを示す図である。 本発明のある実施例による運用・制御システムを示す図である。 本発明のある実施例による調整管理システムを示す図である。 本発明のある実施例による調整プロセスのフロー図である。

Claims (27)

  1. 少なくともひとつのサービス品質保証を満たす少なくともひとつのアプリケーションを供給する方法であって、前記少なくともひとつのアプリケーションが、ある特定のサービスに対する複数のサービス要求を満たす、前記方法において、
    前記特定のサービスに対して定義されるサービス品質のレベルを達成する、理想容量を計算するステップと、
    前記理想容量を用いて配置ポリシーに従い、前記コンピュータ・システム内の少なくともひとつのサーバへの前記少なくともひとつのアプリケーションの配置を決定するステップと、
    前記配置に基づいて、前記少なくともひとつのアプリケーションに対する前記特定のサービスの容量限界を計算するステップと、
    前記配置および容量限界を条件とし、前記サービス品質のレベルを満たす容量の割り当てを決定するステップとを有する、方法。
  2. 前記理想容量を計算するステップが、いずれかのアプリケーション配置制約条件とは無関係に、サービス品質の達成を最適化するステップを含む、請求項1に記載の方法。
  3. 前記採用するステップが、理想容量が現在のアプリケーションの配置で満たされるかどうかを判別するステップを有し、
    満たされる場合、現在の配置をアプリケーション配置の解として使用し、
    満たされない場合、アプリケーション配置問題を解決する方法へのインプットとして、理想容量を使用する、請求項1に記載の方法。
  4. 前記容量限界を計算するステップが、前記コンピュータ・システム内のサーバの配置行列と容量を調べるステップを含む、請求項1に記載の方法。
  5. 前記容量の割り当てを決定するステップが、サービス品質を達成する最適化問題を解決するステップを含み、前記最適化問題がアプリケーション配置行列によって制約を受ける、請求項1に記載の方法。
  6. サービス品質保証が満たされそうにない場合、サービス品質保証を満たすにあたりコンピュータ・システムのパフォーマンスをモニタするステップと、
    サービス品質保証が満たされるまで、理想容量を計算する、採用する、容量限界を計算する、および決定する、各ステップを繰り返すステップとをさらに有する、請求項1に記載の方法。
  7. モニタするステップをモニタリング基準に基づいて行う、請求項6に記載の方法。
  8. 前記少なくともひとつのアプリケーションが複数のサービスに対する複数のサービス要求を満たすステップと、
    すべてのサービス要求およびすべてのサービスについてサービス品質保証が満たされるまで、理想容量を計算する、採用する、容量限界を計算する、および決定する、各ステップを繰り返すステップとをさらに有する、請求項1に記載の方法。
  9. パフォーマンス管理とアプリケーション配置管理を調整する方法であって、前記方法が、
    サービス要求の様々なサービス・クラスに対する容量ニーズを予測するステップと、
    前記サービス要求に対する少なくともひとつのアプリケーションの理想容量を計算するステップと、
    理想容量が現在のアプリケーションの配置で満たされるかどうかを判別するステップと、
    理想容量が満たされる場合、現在のアプリケーションの配置に変更を行わないステップと、
    理想容量が満たされない場合、理想容量と予想負荷に基づいて新たなアプリケーションの配置を決定するステップと、
    サービス・クラスおよびサーバのすべての対について対応する容量の制約条件を計算するステップと、
    サービス品質を最適化するように、サービス・クラス間への容量の最適な割り当てを計算するステップとを有する方法。
  10. 繰返し基準に基づいて、予測する、理想容量を計算する、判別する、対応する容量の制約条件を計算する、および最適な割り当てを計算する、各ステップを繰り返すステップをさらに有する、請求項9に記載の方法。
  11. 少なくともひとつのサービスの品質サービス・レベルを満たす少なくともひとつのアプリケーションをプロビジョニングする方法であって、前記方法が、
    コンピュータ・システムでサービス・パフォーマンス・マネージャとアプリケーション配置マネージャを調整するステップで、前記パフォーマンス・マネージャが前記少なくともひとつのサービスのパフォーマンスを管理し、前記アプリケーション配置マネージャが少なくともひとつのアプリケーションの配置を管理し、前記アプリケーションがある特定のサービスのサービス要求を満たす、前記調整ステップが、
    前記特定のサービスに対して定義される前記サービス品質レベルを達成する理想容量を計算するステップと、
    配置ポリシーに従い前記少なくともひとつのアプリケーションの前記コンピュータ・システム内の少なくともひとつのサーバへの配置を決定するにあたり、前記アプリケーション配置マネージャが前記理想容量を採用するステップと、
    前記配置に基づいて前記少なくともひとつのアプリケーションに対する前記特定のサービスの容量限界を計算するステップと、
    前記パフォーマンス・マネージャが、前記配置および容量限界を条件として、前記サービス品質レベルを満たす容量の割り当てを決定するステップとを有する、方法。
  12. 前記理想容量を前記アプリケーション配置マネージャに伝達するステップと、
    前記配置および前記容量限界をサービス・パフォーマンス・マネージャに伝達するステップをさらに有する、請求項11に記載の方法。
  13. 少なくともひとつのサービス品質保証を満たす少なくともひとつのアプリケーションを供給する装置であって、前記少なくともひとつのアプリケーションがある特定のサービスに対する複数のサービス要求を満たす、前記装置が、
    前記特定のサービスに対して定義される前記サービス品質レベルを達成する理想容量を計算する手段と、
    配置ポリシーに従い、前記少なくともひとつのアプリケーションのコンピュータ・システム内の少なくともひとつのサーバへの配置を決定するにあたり、前記理想容量を採用する手段と、
    前記配置に基づいて前記少なくともひとつのアプリケーションに対する前記特定のサービスの容量限界を計算する手段と、
    前記配置および容量限界を条件として、前記サービス品質レベルを満たす容量の割り当てを決定する手段とを有する、装置。
  14. パフォーマンス管理とアプリケーション配置管理を調整する装置であって、前記装置が、
    サービス要求の様々なサービス・クラスに対する容量ニーズを予測する手段と、
    前記サービス要求に対する少なくともひとつのアプリケーションの理想容量を計算する手段と、
    理想容量が現在のアプリケーションの配置で満たされるかどうかを判別する手段と、
    理想容量が満たされる場合、現在のアプリケーションの配置に変更を行わない手段と、
    理想容量が満たされない場合、理想容量および予想負荷に基づいて新たなアプリケーションの配置を決定する手段と、
    サービス・クラスとサーバのすべての対に対して対応する容量の制約条件を計算する手段と、
    サービス品質を最適化するようにサービス・クラス間への容量の最適な割り当てを計算する手段とを有する、装置。
  15. 少なくともひとつのサービスの品質サービス・レベルを満たす少なくともひとつのアプリケーションを供給する装置であって、前記装置が、
    コンピュータ・システムでサービス・パフォーマンス・マネージャとアプリケーション配置マネージャを調整する手段で、前記サービス・パフォーマンス・マネージャが前記少なくともひとつのサービスのパフォーマンスを管理する手段を有し、前記アプリケーション配置マネージャが少なくともひとつのアプリケーションの配置を管理する手段を有し、前記アプリケーションがある特定のサービスに対するサービス要求を満たす、前記調整する手段が、
    前記特定のサービスに対して定義する前記サービス品質レベルを達成する理想容量を計算する手段で、配置ポリシーに従い前記少なくともひとつのアプリケーションの前記コンピュータ・システム内の少なくともひとつのサーバへの配置を決定するにあたり、前記アプリケーション配置マネージャが前記理想容量を採用する手段を有する、前記計算する手段と、
    前記配置に基づいて前記少なくともひとつのアプリケーションに対する前記特定のサービスの容量限界を計算する手段と、
    前記パフォーマンス・マネージャが、前記配置および容量限界を条件として、前記サービス品質レベルを満たすように容量の割り当てを決定する手段を有する、装置。
  16. 少なくともひとつのサービス品質保証を満たす少なくともひとつのアプリケーションの供給させる、コンピュータ読み取り可能プログラムコード手段を内蔵したコンピュータ使用可能媒体を有する製造物であって、前記少なくともひとつのアプリケーションがある特定のサービスに対する複数のサービス要求を満たし、前記製造物内のコンピュータ読み取り可能プログラムコード手段が、
    前記特定のサービスに対して定義される前記サービス品質レベルを達成する理想容量を計算するステップと、
    配置ポリシーに従い、前記少なくともひとつのアプリケーションの前記コンピュータ・システム内の少なくともひとつのサーバへの配置を決定するにあたり、前記理想容量を採用するステップと、
    前記配置に基づいて前記少なくともひとつのアプリケーションに対する前記特定のサービスの容量限界を計算するステップと、
    前記配置および容量限界を条件として、前記サービス品質レベルを満たすように容量の割り当てを決定するステップとを、
    コンピュータに実行させるコンピュータ読み取り可能プログラムコード手段を有する、装置。
  17. 少なくともひとつのサービス品質保証を満たす少なくともひとつのアプリケーションの供給させる、コンピュータ読み取り可能プログラムコード手段を内蔵したコンピュータ使用可能媒体を有するコンピュータ・プログラムであって、前記少なくともひとつのアプリケーションがある特定のサービスに対する複数のサービス要求を満たし、前記コンピュータ・プログラムのコンピュータ読み取り可能プログラムコード手段が、コンピュータに請求項13の機能を実行させるコンピュータ読み取り可能プログラムコード手段を有する、コンピュータ・プログラム。
  18. 少なくともひとつのサービス品質保証を満たす少なくともひとつのアプリケーションを供給する方法ステップを実施するマシンによって実行可能な命令のプログラムを実体として具有する、マシンで読取可能なプログラム・ストレージ・デバイスであって、前記方法ステップが請求項13のステップを有する、プログラム・ストレージ・デバイス。
  19. パフォーマンス管理とアプリケーション配置管理を調整する方法ステップを実施するマシンで実行可能な命令のプログラムを実体として具有する、マシンで読取可能なプログラム・ストレージ・デバイスであって、前記方法ステップが請求項14のステップを有する、プログラム・ストレージ・デバイス。
  20. 少なくともひとつのサービスの品質サービス・レベルを満たす少なくともひとつのアプリケーションを供給する方法ステップを実施するマシンで実行可能な命令のプログラムを実体として具有する、マシンで読取可能なプログラム・ストレージ・デバイスであって、前記方法ステップが請求項15のステップを有する、プログラム・ストレージ・デバイス。
  21. 少なくともひとつのサービス品質保証を満たす少なくともひとつのアプリケーションを供給する方法ステップを実施するマシンにより実行可能な命令のプログラムを実体として具有する、マシンで読取可能なプログラム・ストレージ・デバイスであって、前記少なくともひとつのアプリケーションがある特定のサービスに対する複数のサービス要求を満たし、前記方法ステップが請求項1のステップを有する、プログラム・ストレージ・デバイス。
  22. パフォーマンス管理とアプリケーション配置管理を調整させる、コンピュータ読み取り可能プログラムコード手段を内蔵するコンピュータ使用可能媒体を有する製造物であって、前記製造物内のコンピュータ読み取り可能プログラムコード手段が、コンピュータに請求項14の機能を実行させるコンピュータ読み取り可能プログラムコード手段を有する、製造物。
  23. パフォーマンス管理とアプリケーション配置管理の調整を行わせる、コンピュータ読み取り可能プログラムコード手段を内蔵するコンピュータ使用可能媒体を有する製造物であって、前記製造物内のコンピュータ読み取り可能プログラムコード手段がコンピュータに請求項9のステップを実行させるコンピュータ読み取り可能プログラムコード手段を有する、製造物。
  24. パフォーマンス管理とアプリケーション配置管理の調整をする方法ステップを実施するマシンで実行可能な命令のプログラムを実体として具有する、マシンで読取可能なプログラム・ストレージ・デバイスであって、前記少なくともひとつのアプリケーションがある特定のサービスに対する複数のサービス要求を満たし、前記方法ステップが請求項9のステップを有する、プログラム・ストレージ・デバイス。
  25. 前記理想容量を伝達するステップが、前記理想容量を、理想容量ベクトルの1要素が前記サービス品質レベルに対応する理想容量ベクトルとして表すステップを有し、
    前記配置および前記容量限界を伝達するステップが、配置行列の行が前記アプリケーションに対応するとともに、配置行列の行が前記サーバに対応する配置行列として前記配置を表すステップと、容量限界の1要素が前記サーバに対応する容量限界ベクトルとして前記容量限界を表すステップとを有する、請求項12に記載の方法。
  26. 少なくともひとつのサービスに対する品質サービス・レベルを満たす少なくともひとつのアプリケーションを供給させる、コンピュータ読み取り可能プログラムコード手段を内蔵するコンピュータ使用可能媒体を有する製造物であって、前記製造物内のコンピュータ読み取り可能プログラムコード手段が、
    コンピュータに、
    コンピュータ・システムでサービス・パフォーマンス・マネージャとアプリケーション配置マネージャを調整するステップで、前記サービス・パフォーマンス・マネージャが前記少なくともひとつのサービスのパフォーマンスを管理し、前記アプリケーション配置マネージャが少なくともひとつのアプリケーションの配置を管理し、前記アプリケーションがある特定のサービスに対するサービス要求を満たす、調整するステップを実行させるコンピュータ読み取り可能プログラムコード手段を有し、前記調整するステップが、
    前記特定のサービスに対して定義する前記サービス品質レベルを達成する理想容量を計算するステップと、
    配置ポリシーに従い、前記少なくともひとつのアプリケーションの前記コンピュータ・システム内の少なくともひとつのサーバへの配置を決定するにあたり、前記アプリケーション配置マネージャが前記理想容量を採用するステップと、
    前記配置に基づいて前記少なくともひとつのアプリケーションに対する前記特定のサービスの容量限界を計算するステップと、
    前記パフォーマンス・マネージャが、前記配置および容量限界を条件として、前記サービス品質レベルを満たすように容量の割り当てを決定するステップとを有する、製造物。
  27. 少なくともひとつのサービスに対する品質サービス・レベルを満たす少なくともひとつのアプリケーションを供給する方法ステップを実施するマシンで実行可能な命令のプログラムを実体として具有する、マシンで読み取り可能なプログラム・ストレージ・デバイスであって、前記方法ステップが請求項11のステップを有する、プログラム・ストレージ・デバイス。
JP2007534746A 2004-09-28 2005-09-28 サービス・パフォーマンスとアプリケーション配置管理を調整する装置、システム、方法 Pending JP2008515106A (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US10/952,394 US20060070060A1 (en) 2004-09-28 2004-09-28 Coordinating service performance and application placement management
PCT/US2005/034933 WO2006037077A2 (en) 2004-09-28 2005-09-28 Coordinating service performance and application placement management

Publications (2)

Publication Number Publication Date
JP2008515106A true JP2008515106A (ja) 2008-05-08
JP2008515106A5 JP2008515106A5 (ja) 2008-08-21

Family

ID=36100672

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007534746A Pending JP2008515106A (ja) 2004-09-28 2005-09-28 サービス・パフォーマンスとアプリケーション配置管理を調整する装置、システム、方法

Country Status (6)

Country Link
US (3) US20060070060A1 (ja)
EP (1) EP1805679A4 (ja)
JP (1) JP2008515106A (ja)
CN (1) CN100555297C (ja)
TW (1) TWI382318B (ja)
WO (1) WO2006037077A2 (ja)

Cited By (72)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010272090A (ja) * 2009-05-25 2010-12-02 Hitachi Ltd 処理依頼先管理装置、処理依頼先管理プログラムおよび処理依頼先管理方法
JP2012526304A (ja) * 2008-09-09 2012-10-25 インターナショナル・ビジネス・マシーンズ・コーポレーション 別々の情報技術製品/ソリューション展開間でパフォーマンス・データを共有する方法およびシステム
JP2015197911A (ja) * 2014-03-31 2015-11-09 株式会社スクウェア・エニックス プログラム
US9571389B2 (en) 2008-03-31 2017-02-14 Amazon Technologies, Inc. Request routing based on class
US9621660B2 (en) 2008-03-31 2017-04-11 Amazon Technologies, Inc. Locality based content distribution
US9712484B1 (en) 2010-09-28 2017-07-18 Amazon Technologies, Inc. Managing request routing information utilizing client identifiers
US9712325B2 (en) 2009-09-04 2017-07-18 Amazon Technologies, Inc. Managing secure content in a content delivery network
US9734472B2 (en) 2008-11-17 2017-08-15 Amazon Technologies, Inc. Request routing utilizing cost information
US9742795B1 (en) 2015-09-24 2017-08-22 Amazon Technologies, Inc. Mitigating network attacks
US9774619B1 (en) 2015-09-24 2017-09-26 Amazon Technologies, Inc. Mitigating network attacks
US9787775B1 (en) 2010-09-28 2017-10-10 Amazon Technologies, Inc. Point of presence management in request routing
US9787599B2 (en) 2008-11-17 2017-10-10 Amazon Technologies, Inc. Managing content delivery network service providers
US9794216B2 (en) 2010-09-28 2017-10-17 Amazon Technologies, Inc. Request routing in a networked environment
US9794281B1 (en) 2015-09-24 2017-10-17 Amazon Technologies, Inc. Identifying sources of network attacks
US9800539B2 (en) 2010-09-28 2017-10-24 Amazon Technologies, Inc. Request routing management based on network components
US9819567B1 (en) 2015-03-30 2017-11-14 Amazon Technologies, Inc. Traffic surge management for points of presence
US9832141B1 (en) 2015-05-13 2017-11-28 Amazon Technologies, Inc. Routing based request correlation
US9887932B1 (en) 2015-03-30 2018-02-06 Amazon Technologies, Inc. Traffic surge management for points of presence
US9887931B1 (en) 2015-03-30 2018-02-06 Amazon Technologies, Inc. Traffic surge management for points of presence
US9888089B2 (en) 2008-03-31 2018-02-06 Amazon Technologies, Inc. Client side cache management
US9893957B2 (en) 2009-10-02 2018-02-13 Amazon Technologies, Inc. Forward-based resource delivery network management techniques
US9912740B2 (en) 2008-06-30 2018-03-06 Amazon Technologies, Inc. Latency measurement in resource requests
US9930131B2 (en) 2010-11-22 2018-03-27 Amazon Technologies, Inc. Request routing processing
US9954934B2 (en) 2008-03-31 2018-04-24 Amazon Technologies, Inc. Content delivery reconciliation
US9985927B2 (en) 2008-11-17 2018-05-29 Amazon Technologies, Inc. Managing content delivery network service providers by a content broker
US9992086B1 (en) 2016-08-23 2018-06-05 Amazon Technologies, Inc. External health checking of virtual private cloud network environments
US9992303B2 (en) 2007-06-29 2018-06-05 Amazon Technologies, Inc. Request routing utilizing client location information
US10015237B2 (en) 2010-09-28 2018-07-03 Amazon Technologies, Inc. Point of presence management in request routing
US10015241B2 (en) 2012-09-20 2018-07-03 Amazon Technologies, Inc. Automated profiling of resource usage
US10021179B1 (en) 2012-02-21 2018-07-10 Amazon Technologies, Inc. Local resource delivery network
US10027582B2 (en) 2007-06-29 2018-07-17 Amazon Technologies, Inc. Updating routing information based on client location
US10033627B1 (en) 2014-12-18 2018-07-24 Amazon Technologies, Inc. Routing mode and point-of-presence selection service
US10033691B1 (en) 2016-08-24 2018-07-24 Amazon Technologies, Inc. Adaptive resolution of domain name requests in virtual private cloud network environments
US10049051B1 (en) 2015-12-11 2018-08-14 Amazon Technologies, Inc. Reserved cache space in content delivery networks
US10075551B1 (en) 2016-06-06 2018-09-11 Amazon Technologies, Inc. Request management for hierarchical cache
US10079742B1 (en) 2010-09-28 2018-09-18 Amazon Technologies, Inc. Latency measurement in resource requests
US10091096B1 (en) 2014-12-18 2018-10-02 Amazon Technologies, Inc. Routing mode and point-of-presence selection service
US10097448B1 (en) 2014-12-18 2018-10-09 Amazon Technologies, Inc. Routing mode and point-of-presence selection service
US10097566B1 (en) 2015-07-31 2018-10-09 Amazon Technologies, Inc. Identifying targets of network attacks
US10110694B1 (en) 2016-06-29 2018-10-23 Amazon Technologies, Inc. Adaptive transfer rate for retrieving content from a server
US10157135B2 (en) 2008-03-31 2018-12-18 Amazon Technologies, Inc. Cache optimization
US10162753B2 (en) 2009-06-16 2018-12-25 Amazon Technologies, Inc. Managing resources using resource expiration data
US10205698B1 (en) 2012-12-19 2019-02-12 Amazon Technologies, Inc. Source-dependent address resolution
US10225322B2 (en) 2010-09-28 2019-03-05 Amazon Technologies, Inc. Point of presence management in request routing
US10225362B2 (en) 2012-06-11 2019-03-05 Amazon Technologies, Inc. Processing DNS queries to identify pre-processing information
US10225326B1 (en) 2015-03-23 2019-03-05 Amazon Technologies, Inc. Point of presence based data uploading
US10230819B2 (en) 2009-03-27 2019-03-12 Amazon Technologies, Inc. Translation of resource identifiers using popularity information upon client request
US10257307B1 (en) 2015-12-11 2019-04-09 Amazon Technologies, Inc. Reserved cache space in content delivery networks
US10264062B2 (en) 2009-03-27 2019-04-16 Amazon Technologies, Inc. Request routing using a popularity identifier to identify a cache component
US10270878B1 (en) 2015-11-10 2019-04-23 Amazon Technologies, Inc. Routing for origin-facing points of presence
US10348639B2 (en) 2015-12-18 2019-07-09 Amazon Technologies, Inc. Use of virtual endpoints to improve data transmission rates
US10374955B2 (en) 2013-06-04 2019-08-06 Amazon Technologies, Inc. Managing network computing components utilizing request routing
US10372499B1 (en) 2016-12-27 2019-08-06 Amazon Technologies, Inc. Efficient region selection system for executing request-driven code
US10447648B2 (en) 2017-06-19 2019-10-15 Amazon Technologies, Inc. Assignment of a POP to a DNS resolver based on volume of communications over a link between client devices and the POP
US10469513B2 (en) 2016-10-05 2019-11-05 Amazon Technologies, Inc. Encrypted network addresses
US10491534B2 (en) 2009-03-27 2019-11-26 Amazon Technologies, Inc. Managing resources and entries in tracking information in resource cache components
US10506029B2 (en) 2010-01-28 2019-12-10 Amazon Technologies, Inc. Content distribution network
US10503613B1 (en) 2017-04-21 2019-12-10 Amazon Technologies, Inc. Efficient serving of resources during server unavailability
US10511567B2 (en) 2008-03-31 2019-12-17 Amazon Technologies, Inc. Network resource identification
US10554748B2 (en) 2008-03-31 2020-02-04 Amazon Technologies, Inc. Content management
US10592578B1 (en) 2018-03-07 2020-03-17 Amazon Technologies, Inc. Predictive content push-enabled content delivery network
US10601767B2 (en) 2009-03-27 2020-03-24 Amazon Technologies, Inc. DNS query processing based on application information
US10616179B1 (en) 2015-06-25 2020-04-07 Amazon Technologies, Inc. Selective routing of domain name system (DNS) requests
US10623408B1 (en) 2012-04-02 2020-04-14 Amazon Technologies, Inc. Context sensitive object management
US10831549B1 (en) 2016-12-27 2020-11-10 Amazon Technologies, Inc. Multi-region request-driven code execution system
US10862852B1 (en) 2018-11-16 2020-12-08 Amazon Technologies, Inc. Resolution of domain name requests in heterogeneous network environments
US10938884B1 (en) 2017-01-30 2021-03-02 Amazon Technologies, Inc. Origin server cloaking using virtual private cloud network environments
US10958501B1 (en) 2010-09-28 2021-03-23 Amazon Technologies, Inc. Request routing information based on client IP groupings
US11025747B1 (en) 2018-12-12 2021-06-01 Amazon Technologies, Inc. Content request pattern-based routing system
US11075987B1 (en) 2017-06-12 2021-07-27 Amazon Technologies, Inc. Load estimating content delivery network
US11290418B2 (en) 2017-09-25 2022-03-29 Amazon Technologies, Inc. Hybrid content request routing system
US11604667B2 (en) 2011-04-27 2023-03-14 Amazon Technologies, Inc. Optimized deployment based upon customer locality

Families Citing this family (35)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8140985B2 (en) * 2005-01-20 2012-03-20 Microsoft Corporation Transactions for an application domain manager
US20060242647A1 (en) * 2005-04-21 2006-10-26 Kimbrel Tracy J Dynamic application placement under service and memory constraints
US20080209435A1 (en) * 2007-02-23 2008-08-28 Microsoft Corporation Scalable workflow management system
US8028048B2 (en) * 2007-02-27 2011-09-27 International Business Machines Corporation Method and apparatus for policy-based provisioning in a virtualized service delivery environment
US20090055535A1 (en) * 2007-08-22 2009-02-26 International Business Machines Corporation Deploying resources in target server environments
US8583797B2 (en) * 2008-01-07 2013-11-12 Ca, Inc. Interdependent capacity levels of resources in a distributed computing system
US8078664B2 (en) * 2008-01-07 2011-12-13 Computer Associates Think, Inc. Evaluation of current capacity levels of resources in a distributed computing system
US8635625B2 (en) * 2008-04-04 2014-01-21 International Business Machines Corporation Power-aware workload allocation in performance-managed computing environments
US7925782B2 (en) 2008-06-30 2011-04-12 Amazon Technologies, Inc. Request routing using network computing components
US7970905B2 (en) * 2008-07-03 2011-06-28 International Business Machines Corporation Method, system and computer program product for server selection, application placement and consolidation planning of information technology systems
US8521880B1 (en) 2008-11-17 2013-08-27 Amazon Technologies, Inc. Managing content delivery network service providers
US8615792B2 (en) 2009-12-29 2013-12-24 International Business Machines Corporation Method and system for policy driven data disclosure
US9043342B2 (en) 2009-12-29 2015-05-26 International Business Machines Corporation Method and system for policy driven data distribution
US8479181B2 (en) * 2010-02-01 2013-07-02 International Business Machines Corporation Interactive capacity planning
US20120158819A1 (en) * 2010-12-21 2012-06-21 Microsoft Corporation Policy-based application delivery
US20120215576A1 (en) * 2011-02-17 2012-08-23 International Business Machines Corporation Allocating tasks to resources
US9471389B2 (en) * 2011-06-30 2016-10-18 International Business Machines Corporation Dynamically tuning server placement
US9253058B2 (en) 2012-02-01 2016-02-02 International Business Machines Corporation Deploying an executable with historical performance data
US8904009B1 (en) 2012-02-10 2014-12-02 Amazon Technologies, Inc. Dynamic content delivery
US8943372B2 (en) 2012-03-30 2015-01-27 International Business Machines Corporation Systems and methods for open and extensible integration of management domains in computation and orchestration of resource placement
US9071631B2 (en) 2012-08-09 2015-06-30 International Business Machines Corporation Service management roles of processor nodes in distributed node service management
US9678801B2 (en) 2012-08-09 2017-06-13 International Business Machines Corporation Service management modes of operation in distributed node service management
US9525659B1 (en) 2012-09-04 2016-12-20 Amazon Technologies, Inc. Request routing utilizing point of presence load information
JP5892031B2 (ja) 2012-10-22 2016-03-23 富士通株式会社 リソース管理システム、リソース管理方法、およびリソース管理プログラム
US9433404B2 (en) 2012-10-31 2016-09-06 Suture Concepts Inc. Method and apparatus for closing fissures in the annulus fibrosus
US10786235B2 (en) 2012-10-31 2020-09-29 Anchor Innovation Medical, Inc. Method and apparatus for closing a fissure in the annulus of an intervertebral disc, and/or for effecting other anatomical repairs and/or fixations
EP3033014B1 (en) 2013-08-16 2021-04-14 Suture Concepts Inc. Apparatus for closing a fissure in the annulus of an intervertebral disc, and/or for effecting other anatomical repairs and/or fixations
US9734473B2 (en) * 2015-09-03 2017-08-15 Sas Institute Inc. Computer-implemented system for hierarchical unconstraining in data processes
CN105141697A (zh) * 2015-09-16 2015-12-09 国云科技股份有限公司 一种多QoS约束的云计算任务调度方法
US10642633B1 (en) * 2015-09-29 2020-05-05 EMC IP Holding Company LLC Intelligent backups with dynamic proxy in virtualized environment
US10372640B2 (en) * 2016-11-21 2019-08-06 International Business Machines Corporation Arbitration of data transfer requests
US10587504B2 (en) 2017-02-08 2020-03-10 International Business Machines Corporation Packet broadcasting mechanism for mesh interconnected multi-computers
US20190007747A1 (en) * 2017-06-29 2019-01-03 Intel Corporation Technologies for providing adaptive platform quality of service
KR102120868B1 (ko) * 2017-08-09 2020-06-09 삼성전자주식회사 서비스형 함수(FaaS)를 제공하는 시스템 및 그 동작방법
US11537440B2 (en) * 2019-12-19 2022-12-27 Hewlett Packard Enterprise Development Lp Infrastructure adaptive consistency level mechanism

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001067377A (ja) * 1999-06-17 2001-03-16 Internatl Business Mach Corp <Ibm> インターネット環境での負荷の分散とリソース管理を統合したシステム及び方法
JP2002318791A (ja) * 2001-01-29 2002-10-31 Internatl Business Mach Corp <Ibm> ホスティング・サービス資源をクライアントに割当てる方法、装置及びコンピュータ・プログラム製品
WO2004081789A2 (en) * 2003-03-10 2004-09-23 International Business Machines Corporation Methods and apparatus for managing computing deployment in presence of variable workload

Family Cites Families (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5396635A (en) * 1990-06-01 1995-03-07 Vadem Corporation Power conservation apparatus having multiple power reduction levels dependent upon the activity of the computer system
US6003079A (en) * 1997-02-27 1999-12-14 Hewlett Packard Company System and method for continuously measuring quality of service in a federated application environment
US6195590B1 (en) * 1998-02-11 2001-02-27 Roger A. Powell System for control and resource allocation for the manufacture of a product
US6351734B1 (en) * 1998-09-09 2002-02-26 Unisys Corporation System and method for resource allocation and planning
US6907304B1 (en) * 1999-04-08 2005-06-14 George Mason University Method and apparatus of measuring a relative utility for each of several different tasks based on identified system goals
US20030055967A1 (en) * 1999-05-17 2003-03-20 David Dewitt Worley Encapsulating local application environments in a cluster within a computer network
US6449588B1 (en) * 1999-06-02 2002-09-10 Accenture Llp Customer-driven QOS in hybrid communication system
US6728865B1 (en) * 1999-10-20 2004-04-27 Transmeta Corporation Pipeline replay support for unaligned memory operations
US6778531B1 (en) * 1999-11-04 2004-08-17 Lucent Technologies Inc. Multicast routing with service-level guarantees between ingress egress-points in a packet network
US7441232B2 (en) * 1999-11-08 2008-10-21 British Telecommunications Public Limited Company Task management
US20020174227A1 (en) * 2000-03-03 2002-11-21 Hartsell Neal D. Systems and methods for prioritization in information management environments
US20030236745A1 (en) * 2000-03-03 2003-12-25 Hartsell Neal D Systems and methods for billing in information management environments
JP2004081789A (ja) 2002-08-28 2004-03-18 Hideo Inamura ブラシ付き作業靴
US7761873B2 (en) * 2002-12-03 2010-07-20 Oracle America, Inc. User-space resource management
US7243351B2 (en) * 2002-12-17 2007-07-10 International Business Machines Corporation System and method for task scheduling based upon the classification value and probability
US7302609B2 (en) * 2003-03-12 2007-11-27 Vladimir Matena Method and apparatus for executing applications on a distributed computer system
US7287186B2 (en) * 2003-06-02 2007-10-23 Surgient Inc. Shared nothing virtual cluster

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001067377A (ja) * 1999-06-17 2001-03-16 Internatl Business Mach Corp <Ibm> インターネット環境での負荷の分散とリソース管理を統合したシステム及び方法
JP2002318791A (ja) * 2001-01-29 2002-10-31 Internatl Business Mach Corp <Ibm> ホスティング・サービス資源をクライアントに割当てる方法、装置及びコンピュータ・プログラム製品
WO2004081789A2 (en) * 2003-03-10 2004-09-23 International Business Machines Corporation Methods and apparatus for managing computing deployment in presence of variable workload
JP2006520027A (ja) * 2003-03-10 2006-08-31 インターナショナル・ビジネス・マシーンズ・コーポレーション 作業負荷が変化する場合にコンピューティング・デプロイメントを管理するための方法および装置

Cited By (128)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9992303B2 (en) 2007-06-29 2018-06-05 Amazon Technologies, Inc. Request routing utilizing client location information
US10027582B2 (en) 2007-06-29 2018-07-17 Amazon Technologies, Inc. Updating routing information based on client location
US11245770B2 (en) 2008-03-31 2022-02-08 Amazon Technologies, Inc. Locality based content distribution
US10158729B2 (en) 2008-03-31 2018-12-18 Amazon Technologies, Inc. Locality based content distribution
US9621660B2 (en) 2008-03-31 2017-04-11 Amazon Technologies, Inc. Locality based content distribution
US10157135B2 (en) 2008-03-31 2018-12-18 Amazon Technologies, Inc. Cache optimization
US10797995B2 (en) 2008-03-31 2020-10-06 Amazon Technologies, Inc. Request routing based on class
US9888089B2 (en) 2008-03-31 2018-02-06 Amazon Technologies, Inc. Client side cache management
US10771552B2 (en) 2008-03-31 2020-09-08 Amazon Technologies, Inc. Content management
US10554748B2 (en) 2008-03-31 2020-02-04 Amazon Technologies, Inc. Content management
US10530874B2 (en) 2008-03-31 2020-01-07 Amazon Technologies, Inc. Locality based content distribution
US9571389B2 (en) 2008-03-31 2017-02-14 Amazon Technologies, Inc. Request routing based on class
US10305797B2 (en) 2008-03-31 2019-05-28 Amazon Technologies, Inc. Request routing based on class
US10511567B2 (en) 2008-03-31 2019-12-17 Amazon Technologies, Inc. Network resource identification
US10645149B2 (en) 2008-03-31 2020-05-05 Amazon Technologies, Inc. Content delivery reconciliation
US11451472B2 (en) 2008-03-31 2022-09-20 Amazon Technologies, Inc. Request routing based on class
US11194719B2 (en) 2008-03-31 2021-12-07 Amazon Technologies, Inc. Cache optimization
US9887915B2 (en) 2008-03-31 2018-02-06 Amazon Technologies, Inc. Request routing based on class
US9894168B2 (en) 2008-03-31 2018-02-13 Amazon Technologies, Inc. Locality based content distribution
US9954934B2 (en) 2008-03-31 2018-04-24 Amazon Technologies, Inc. Content delivery reconciliation
US11909639B2 (en) 2008-03-31 2024-02-20 Amazon Technologies, Inc. Request routing based on class
US9912740B2 (en) 2008-06-30 2018-03-06 Amazon Technologies, Inc. Latency measurement in resource requests
JP2012526304A (ja) * 2008-09-09 2012-10-25 インターナショナル・ビジネス・マシーンズ・コーポレーション 別々の情報技術製品/ソリューション展開間でパフォーマンス・データを共有する方法およびシステム
US9787599B2 (en) 2008-11-17 2017-10-10 Amazon Technologies, Inc. Managing content delivery network service providers
US10523783B2 (en) 2008-11-17 2019-12-31 Amazon Technologies, Inc. Request routing utilizing client location information
US10116584B2 (en) 2008-11-17 2018-10-30 Amazon Technologies, Inc. Managing content delivery network service providers
US9985927B2 (en) 2008-11-17 2018-05-29 Amazon Technologies, Inc. Managing content delivery network service providers by a content broker
US11283715B2 (en) 2008-11-17 2022-03-22 Amazon Technologies, Inc. Updating routing information based on client location
US10742550B2 (en) 2008-11-17 2020-08-11 Amazon Technologies, Inc. Updating routing information based on client location
US11115500B2 (en) 2008-11-17 2021-09-07 Amazon Technologies, Inc. Request routing utilizing client location information
US9734472B2 (en) 2008-11-17 2017-08-15 Amazon Technologies, Inc. Request routing utilizing cost information
US11811657B2 (en) 2008-11-17 2023-11-07 Amazon Technologies, Inc. Updating routing information based on client location
US10574787B2 (en) 2009-03-27 2020-02-25 Amazon Technologies, Inc. Translation of resource identifiers using popularity information upon client request
US10230819B2 (en) 2009-03-27 2019-03-12 Amazon Technologies, Inc. Translation of resource identifiers using popularity information upon client request
US10264062B2 (en) 2009-03-27 2019-04-16 Amazon Technologies, Inc. Request routing using a popularity identifier to identify a cache component
US10601767B2 (en) 2009-03-27 2020-03-24 Amazon Technologies, Inc. DNS query processing based on application information
US10491534B2 (en) 2009-03-27 2019-11-26 Amazon Technologies, Inc. Managing resources and entries in tracking information in resource cache components
JP2010272090A (ja) * 2009-05-25 2010-12-02 Hitachi Ltd 処理依頼先管理装置、処理依頼先管理プログラムおよび処理依頼先管理方法
US10783077B2 (en) 2009-06-16 2020-09-22 Amazon Technologies, Inc. Managing resources using resource expiration data
US10521348B2 (en) 2009-06-16 2019-12-31 Amazon Technologies, Inc. Managing resources using resource expiration data
US10162753B2 (en) 2009-06-16 2018-12-25 Amazon Technologies, Inc. Managing resources using resource expiration data
US9712325B2 (en) 2009-09-04 2017-07-18 Amazon Technologies, Inc. Managing secure content in a content delivery network
US10785037B2 (en) 2009-09-04 2020-09-22 Amazon Technologies, Inc. Managing secure content in a content delivery network
US10135620B2 (en) 2009-09-04 2018-11-20 Amazon Technologis, Inc. Managing secure content in a content delivery network
US9893957B2 (en) 2009-10-02 2018-02-13 Amazon Technologies, Inc. Forward-based resource delivery network management techniques
US10218584B2 (en) 2009-10-02 2019-02-26 Amazon Technologies, Inc. Forward-based resource delivery network management techniques
US11205037B2 (en) 2010-01-28 2021-12-21 Amazon Technologies, Inc. Content distribution network
US10506029B2 (en) 2010-01-28 2019-12-10 Amazon Technologies, Inc. Content distribution network
US11108729B2 (en) 2010-09-28 2021-08-31 Amazon Technologies, Inc. Managing request routing information utilizing client identifiers
US10015237B2 (en) 2010-09-28 2018-07-03 Amazon Technologies, Inc. Point of presence management in request routing
US9800539B2 (en) 2010-09-28 2017-10-24 Amazon Technologies, Inc. Request routing management based on network components
US9712484B1 (en) 2010-09-28 2017-07-18 Amazon Technologies, Inc. Managing request routing information utilizing client identifiers
US10958501B1 (en) 2010-09-28 2021-03-23 Amazon Technologies, Inc. Request routing information based on client IP groupings
US10225322B2 (en) 2010-09-28 2019-03-05 Amazon Technologies, Inc. Point of presence management in request routing
US11336712B2 (en) 2010-09-28 2022-05-17 Amazon Technologies, Inc. Point of presence management in request routing
US10097398B1 (en) 2010-09-28 2018-10-09 Amazon Technologies, Inc. Point of presence management in request routing
US10778554B2 (en) 2010-09-28 2020-09-15 Amazon Technologies, Inc. Latency measurement in resource requests
US9787775B1 (en) 2010-09-28 2017-10-10 Amazon Technologies, Inc. Point of presence management in request routing
US10079742B1 (en) 2010-09-28 2018-09-18 Amazon Technologies, Inc. Latency measurement in resource requests
US10931738B2 (en) 2010-09-28 2021-02-23 Amazon Technologies, Inc. Point of presence management in request routing
US9794216B2 (en) 2010-09-28 2017-10-17 Amazon Technologies, Inc. Request routing in a networked environment
US9930131B2 (en) 2010-11-22 2018-03-27 Amazon Technologies, Inc. Request routing processing
US10200492B2 (en) 2010-11-22 2019-02-05 Amazon Technologies, Inc. Request routing processing
US10951725B2 (en) 2010-11-22 2021-03-16 Amazon Technologies, Inc. Request routing processing
US11604667B2 (en) 2011-04-27 2023-03-14 Amazon Technologies, Inc. Optimized deployment based upon customer locality
US10021179B1 (en) 2012-02-21 2018-07-10 Amazon Technologies, Inc. Local resource delivery network
US10623408B1 (en) 2012-04-02 2020-04-14 Amazon Technologies, Inc. Context sensitive object management
US10225362B2 (en) 2012-06-11 2019-03-05 Amazon Technologies, Inc. Processing DNS queries to identify pre-processing information
US11303717B2 (en) 2012-06-11 2022-04-12 Amazon Technologies, Inc. Processing DNS queries to identify pre-processing information
US11729294B2 (en) 2012-06-11 2023-08-15 Amazon Technologies, Inc. Processing DNS queries to identify pre-processing information
US10015241B2 (en) 2012-09-20 2018-07-03 Amazon Technologies, Inc. Automated profiling of resource usage
US10542079B2 (en) 2012-09-20 2020-01-21 Amazon Technologies, Inc. Automated profiling of resource usage
US10205698B1 (en) 2012-12-19 2019-02-12 Amazon Technologies, Inc. Source-dependent address resolution
US10645056B2 (en) 2012-12-19 2020-05-05 Amazon Technologies, Inc. Source-dependent address resolution
US10374955B2 (en) 2013-06-04 2019-08-06 Amazon Technologies, Inc. Managing network computing components utilizing request routing
JP2015197911A (ja) * 2014-03-31 2015-11-09 株式会社スクウェア・エニックス プログラム
US10728133B2 (en) 2014-12-18 2020-07-28 Amazon Technologies, Inc. Routing mode and point-of-presence selection service
US10091096B1 (en) 2014-12-18 2018-10-02 Amazon Technologies, Inc. Routing mode and point-of-presence selection service
US11381487B2 (en) 2014-12-18 2022-07-05 Amazon Technologies, Inc. Routing mode and point-of-presence selection service
US10033627B1 (en) 2014-12-18 2018-07-24 Amazon Technologies, Inc. Routing mode and point-of-presence selection service
US11863417B2 (en) 2014-12-18 2024-01-02 Amazon Technologies, Inc. Routing mode and point-of-presence selection service
US10097448B1 (en) 2014-12-18 2018-10-09 Amazon Technologies, Inc. Routing mode and point-of-presence selection service
US11297140B2 (en) 2015-03-23 2022-04-05 Amazon Technologies, Inc. Point of presence based data uploading
US10225326B1 (en) 2015-03-23 2019-03-05 Amazon Technologies, Inc. Point of presence based data uploading
US9887931B1 (en) 2015-03-30 2018-02-06 Amazon Technologies, Inc. Traffic surge management for points of presence
US9819567B1 (en) 2015-03-30 2017-11-14 Amazon Technologies, Inc. Traffic surge management for points of presence
US10469355B2 (en) 2015-03-30 2019-11-05 Amazon Technologies, Inc. Traffic surge management for points of presence
US9887932B1 (en) 2015-03-30 2018-02-06 Amazon Technologies, Inc. Traffic surge management for points of presence
US10180993B2 (en) 2015-05-13 2019-01-15 Amazon Technologies, Inc. Routing based request correlation
US10691752B2 (en) 2015-05-13 2020-06-23 Amazon Technologies, Inc. Routing based request correlation
US9832141B1 (en) 2015-05-13 2017-11-28 Amazon Technologies, Inc. Routing based request correlation
US11461402B2 (en) 2015-05-13 2022-10-04 Amazon Technologies, Inc. Routing based request correlation
US10616179B1 (en) 2015-06-25 2020-04-07 Amazon Technologies, Inc. Selective routing of domain name system (DNS) requests
US10097566B1 (en) 2015-07-31 2018-10-09 Amazon Technologies, Inc. Identifying targets of network attacks
US9774619B1 (en) 2015-09-24 2017-09-26 Amazon Technologies, Inc. Mitigating network attacks
US9742795B1 (en) 2015-09-24 2017-08-22 Amazon Technologies, Inc. Mitigating network attacks
US9794281B1 (en) 2015-09-24 2017-10-17 Amazon Technologies, Inc. Identifying sources of network attacks
US10200402B2 (en) 2015-09-24 2019-02-05 Amazon Technologies, Inc. Mitigating network attacks
US10270878B1 (en) 2015-11-10 2019-04-23 Amazon Technologies, Inc. Routing for origin-facing points of presence
US11134134B2 (en) 2015-11-10 2021-09-28 Amazon Technologies, Inc. Routing for origin-facing points of presence
US10257307B1 (en) 2015-12-11 2019-04-09 Amazon Technologies, Inc. Reserved cache space in content delivery networks
US10049051B1 (en) 2015-12-11 2018-08-14 Amazon Technologies, Inc. Reserved cache space in content delivery networks
US10348639B2 (en) 2015-12-18 2019-07-09 Amazon Technologies, Inc. Use of virtual endpoints to improve data transmission rates
US11463550B2 (en) 2016-06-06 2022-10-04 Amazon Technologies, Inc. Request management for hierarchical cache
US10075551B1 (en) 2016-06-06 2018-09-11 Amazon Technologies, Inc. Request management for hierarchical cache
US10666756B2 (en) 2016-06-06 2020-05-26 Amazon Technologies, Inc. Request management for hierarchical cache
US11457088B2 (en) 2016-06-29 2022-09-27 Amazon Technologies, Inc. Adaptive transfer rate for retrieving content from a server
US10110694B1 (en) 2016-06-29 2018-10-23 Amazon Technologies, Inc. Adaptive transfer rate for retrieving content from a server
US9992086B1 (en) 2016-08-23 2018-06-05 Amazon Technologies, Inc. External health checking of virtual private cloud network environments
US10516590B2 (en) 2016-08-23 2019-12-24 Amazon Technologies, Inc. External health checking of virtual private cloud network environments
US10033691B1 (en) 2016-08-24 2018-07-24 Amazon Technologies, Inc. Adaptive resolution of domain name requests in virtual private cloud network environments
US10469442B2 (en) 2016-08-24 2019-11-05 Amazon Technologies, Inc. Adaptive resolution of domain name requests in virtual private cloud network environments
US10469513B2 (en) 2016-10-05 2019-11-05 Amazon Technologies, Inc. Encrypted network addresses
US10505961B2 (en) 2016-10-05 2019-12-10 Amazon Technologies, Inc. Digitally signed network address
US11330008B2 (en) 2016-10-05 2022-05-10 Amazon Technologies, Inc. Network addresses with encoded DNS-level information
US10616250B2 (en) 2016-10-05 2020-04-07 Amazon Technologies, Inc. Network addresses with encoded DNS-level information
US10372499B1 (en) 2016-12-27 2019-08-06 Amazon Technologies, Inc. Efficient region selection system for executing request-driven code
US10831549B1 (en) 2016-12-27 2020-11-10 Amazon Technologies, Inc. Multi-region request-driven code execution system
US11762703B2 (en) 2016-12-27 2023-09-19 Amazon Technologies, Inc. Multi-region request-driven code execution system
US10938884B1 (en) 2017-01-30 2021-03-02 Amazon Technologies, Inc. Origin server cloaking using virtual private cloud network environments
US10503613B1 (en) 2017-04-21 2019-12-10 Amazon Technologies, Inc. Efficient serving of resources during server unavailability
US11075987B1 (en) 2017-06-12 2021-07-27 Amazon Technologies, Inc. Load estimating content delivery network
US10447648B2 (en) 2017-06-19 2019-10-15 Amazon Technologies, Inc. Assignment of a POP to a DNS resolver based on volume of communications over a link between client devices and the POP
US11290418B2 (en) 2017-09-25 2022-03-29 Amazon Technologies, Inc. Hybrid content request routing system
US10592578B1 (en) 2018-03-07 2020-03-17 Amazon Technologies, Inc. Predictive content push-enabled content delivery network
US11362986B2 (en) 2018-11-16 2022-06-14 Amazon Technologies, Inc. Resolution of domain name requests in heterogeneous network environments
US10862852B1 (en) 2018-11-16 2020-12-08 Amazon Technologies, Inc. Resolution of domain name requests in heterogeneous network environments
US11025747B1 (en) 2018-12-12 2021-06-01 Amazon Technologies, Inc. Content request pattern-based routing system

Also Published As

Publication number Publication date
WO2006037077A2 (en) 2006-04-06
US7720551B2 (en) 2010-05-18
TWI382318B (zh) 2013-01-11
EP1805679A4 (en) 2008-12-24
TW200630818A (en) 2006-09-01
US8224465B2 (en) 2012-07-17
CN101044486A (zh) 2007-09-26
US20060070060A1 (en) 2006-03-30
WO2006037077A3 (en) 2006-07-20
US20100223379A1 (en) 2010-09-02
EP1805679A2 (en) 2007-07-11
US20080216088A1 (en) 2008-09-04
CN100555297C (zh) 2009-10-28

Similar Documents

Publication Publication Date Title
JP2008515106A (ja) サービス・パフォーマンスとアプリケーション配置管理を調整する装置、システム、方法
Cardellini et al. Decentralized self-adaptation for elastic data stream processing
Nouri et al. Autonomic decentralized elasticity based on a reinforcement learning controller for cloud applications
Garg et al. Adaptive workflow scheduling in grid computing based on dynamic resource availability
Ardagna et al. SLA based resource allocation policies in autonomic environments
KR101096000B1 (ko) 통신 서비스 및/또는 네트워크 관리를 위한 플랫폼내자원관리방법, 이에 따른 플랫폼 및 컴퓨터 프로그램 제품
Maurer et al. Enacting SLAs in clouds using rules
Zhang et al. Integrating resource consumption and allocation for infrastructure resources on-demand
Deboosere et al. Efficient resource management for virtual desktop cloud computing
Al-Dulaimy et al. Multiscaler: A multi-loop auto-scaling approach for cloud-based applications
Wei et al. Proactive virtualized resource management for service workflows in the cloud
CN114816715B (zh) 一种面向跨地域的流计算延迟优化方法及装置
Kim et al. An autonomic approach to integrated hpc grid and cloud usage
Björkqvist et al. Cost-driven service provisioning in hybrid clouds
Tarahomi et al. A prediction‐based and power‐aware virtual machine allocation algorithm in three‐tier cloud data centers
Casalicchio et al. Architectures for autonomic service management in cloud-based systems
Banerjee et al. Efficient resource utilization using multi-step-ahead workload prediction technique in cloud
Vu et al. Predictive hybrid autoscaling for containerized applications
Björkqvist et al. Dynamic replication in service-oriented systems
Kim et al. Dynamic control of cpu usage in a lambda platform
Yagoubi et al. Load balancing strategy in grid environment
Li et al. Adaptive cloud deployment using persistence strategies and application awareness
Makhlouf et al. Resources Co-allocation Strategies in Grid Computing.
Wei et al. Dynamic balanced configuration of multi-resources in virtualized clusters
Ghetas et al. A survey of quality of service in multi-tier web applications

Legal Events

Date Code Title Description
A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080702

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20080702

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20110222

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110308

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20110606

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20110613

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20110705

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20110712

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20110802

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20110809

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20110907

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110908

A072 Dismissal of procedure [no reply to invitation to correct request for examination]

Free format text: JAPANESE INTERMEDIATE CODE: A072

Effective date: 20120104

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120605

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20120905

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20120912

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20121004

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20121204