JP6165777B2 - 自動スケーリングのためのコンピューティングシステム、コンピュータ記憶メモリ、及び、コンピュータ実装方法 - Google Patents
自動スケーリングのためのコンピューティングシステム、コンピュータ記憶メモリ、及び、コンピュータ実装方法 Download PDFInfo
- Publication number
- JP6165777B2 JP6165777B2 JP2014552208A JP2014552208A JP6165777B2 JP 6165777 B2 JP6165777 B2 JP 6165777B2 JP 2014552208 A JP2014552208 A JP 2014552208A JP 2014552208 A JP2014552208 A JP 2014552208A JP 6165777 B2 JP6165777 B2 JP 6165777B2
- Authority
- JP
- Japan
- Prior art keywords
- task
- pool
- machines
- virtual machines
- virtual
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
- G06F9/5061—Partitioning or combining of resources
- G06F9/5077—Logical partitioning of resources; Management or configuration of virtualized resources
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
Landscapes
- Engineering & Computer Science (AREA)
- Software Systems (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Stored Programmes (AREA)
- Multi Processors (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Description
概説
[0024]ネットワークを介するデータ伝送の速度の向上および他のネットワーク機能の改善のために、コンピューティングリソースが大きなネットワークにわたって分散する環境で大規模コンピューティングタスクを実施することがますます可能となっている。第1の位置のユーザは、コンピューティングサービスに、ジョブまたはコンピューティングタスクをサブミットし、ユーザがそれに対する直接的な知識を持たないコンピュータのグループ上で、タスクを実施させることができる。ユーザのタスクを実施するコンピューティングリソースは、複数の物理的位置にわたって分散することがあり、複数の物理的位置は、種々の州、国、および/または大陸に及ぶことがある。1つまたは複数の位置に位置するコンピューティングリソースの第1のグループは、ユーザのコンピューティングタスクを実施するデータおよび他の情報を格納することができ、一方、同一の位置、または場合によっては1つまたは複数の位置の異なるセット内のコンピューティングリソースの第2のグループを使用して、コンピューティングタスクを実施することができる。さらに、ユーザによる知識を伴って、または伴わずに、データを格納する1つまたは複数の位置を種々の地理的領域にわたって分散させることができることが企図される。同様に、ユーザの知識を伴って、または伴わずに、コンピューティングリソースを種々の地理的位置にわたって分散させることができることが企図される。
例示的コンピューティング環境
[0026]図面を全般的に参照し、具体的には最初に図1を参照すると、本発明の実施形態を実装するのに適した例示的動作環境が示されており、全体的にコンピューティング装置100として示されている。コンピューティング装置100は、適切なコンピューティング環境の一例にすぎず、本発明の使用または機能の範囲に関して何らかの制限を示唆することを意図するものではない。コンピューティング装置100が、図示されるモジュール/構成要素のうちのいずれか1つまたは組合せに関する何らかの依存関係または要件を有すると解釈すべきでもない。
定義
[0031]「アカウント」は、分散コンピューティング環境内のグローバル一意識別のエンティティ(global uniquely identified entity)である。一実施形態では、以下で論じるリソースおよびタスクのすべては、アカウントの範囲内にある。典型的には、ユーザは、分散コンピューティングシステムのリソースを使用する前にアカウントをまず作成する。アカウントを作成した後、ユーザは、アカウントを使用して、システムにワークアイテムをサブミットし、ワークアイテムに基づいてジョブを実施するリソースを管理することができる。
ジョブ
[0036]上記で定義したように、ジョブは、ワークアイテムの実行中インスタンスである。図2に、本発明の態様による、例示的ジョブ200のブロック図を示す。ジョブ200は、タスク204などの複数のタスクからなる。上記でやはり定義したように、タスクは、タスクテナント内の仮想マシン(本明細書ではタスクマシンとも呼ばれ、以下で論じられる)によって実行されるジョブの基本実行単位である。複数のタスクに加えて、任意選択で、ジョブ200は、ジョブ・タスク・マネージャ202(本明細書ではJMタスクとも呼ばれる)からなることがある。ジョブ・タスク・マネージャ202は、ジョブ200内の他のタスク(例えば、タスク204)のすべてについて単一の制御点を提供することができる。
仮想マシンプール
[0038]仮想マシンとは、処理能力の論理単位を指す。仮想マシンは、物理プロセッサと1対1対応を有することができ、または仮想マシンは、複数のプロセッサに対応することができ、または仮想マシンは、1つまたは複数のプロセッサ上の処理時間/サイクルの割合を表すことができる。そのことに関わらず、例示的態様では、仮想マシンを少なくとも部分的に、図1のコンピューティング装置100によって説明できることが企図される。
専用マシン、スタンドバイマシン、およびプリエンプティブル(preemptible)マシン
[0044]例示的実施形態では、仮想マシンがプールに割り当てられるとき、仮想マシンは、2つのタイプのうちの(少なくとも)1つにあることができる。仮想マシンを専用仮想マシンまたはプリエンプティブル仮想マシンとしてプールに割り当てることができる。仮想マシンの専用またはプリエンプティブルとしてのステータスは、仮想マシンがプール内にある間に変化することもできる。
分散ネットワーク環境内のコンピューティングリソースの編成の例
[0054]分散コンピューティング環境のユーザは典型的には、分散コンピューティングリソース(例えば、クラウドコンピューティングリソース)を使用してジョブを実施することを望む。ジョブは典型的には、ネットワーク(例えば、インターネット)などによって分散コンピューティング環境を介してアクセス可能な位置に格納されるデータに対するジョブを実行することを含む。オペレータが分散コンピューティング環境を提供する一方式は、環境をいくつかの層として提供することである。図4に、本発明の態様による、分散コンピューティング環境内のタスクを実施するのに適した例示的システムの層を形成するブロック図を示す。図4のシステムは、システム・エージェント・ランタイム層408(タスクランタイム層とも呼ばれることがある)、アプリケーション・ランタイム層406(サードパーティ・タスク・ランタイム層とも呼ばれることがある)、リソース管理層402、ならびにスケジューリングおよび実行層404を含む。
ワークアイテム/ジョブ/タスクの管理
[00104]図11に、本発明の態様による、例示的分散コンピューティングシステム内の様々な構成要素間の例示的ワークフロー1100を与える通信ダイアグラムを示す。分散コンピューティングシステムは、クライアントポータル1102、タスク位置サービスフロントエンド(TLSFE)1104、プールサーバ1106、ワークアイテム/ジョブスケジューラ(WIJ)1108、ストレージユニット1112、タスクテナント1114からなる。構成要素のすべては先に論じられる。TLSFE1104、プールサーバ1106、およびWIJ1108は、タスク位置サービス1110(図6のTLS600)に関連付けられる。
タスクスケジューラスケジューリング
[00113]タスクスケジューラ(「TS」)(図9のタスクスケジューラ902など)は、以下の例示的方式でタスクのスケジューリングを実施することができる。TSは、メモリ内にスケジューリング情報の大部分を維持することができる。しかし、ジョブキュー(複数可)からまだピックアップされていないタスクに関する情報が、メモリ内に維持されないことがあることが企図される。
タスク再試行処理およびジョブ・マネージャ・タスク再試行処理
[00118]概して、タスク再試行およびJMタスク再試行処理は同様に実施される。しかし、例示的態様では、プロセス内のいくつかの逸脱が存在する。例示的態様では、サブミットされる各タスクが、タスクと共に指定された再試行カウントに関連付けられる。タスクの実行に関するアプリケーション障害時に、システムは、タスクをエラーと共に完了とマークする前に、再試行カウント値に等しい回数だけタスクを再スケジューリングすることができる。システム障害(例えば、VM障害)の状況では、システムは、再試行カウントに対してカウントすることなく、障害の発生したタスクを自動的に再試行することができる。
プール管理
[00121]各タスクアカウントについて、1つまたは複数のプールを作成する(または関連付ける)ことができる。例示的態様では、(先に論じたように)プール内に2つのタイプの仮想マシンがあり、プールに関連するスタンドバイVM予約もある。VMは、タスクアカウントまたはプールによる排他的利益のために現在使用されている予約済みVMである専用VMでよい。第2のVMはプリエンプティブルVMでよい。プリエンプティブルVMは、スタンドバイVMとして予約されるVM、またはシステムがプロビジョニングした任意のアイドルVMを含む、プリエンプティブルタスクを実行するのに利用可能であるシステム内の任意の非専用VMでよい。システムが別の目的のためにそのリソースを必要とするまで、プリエンプティブルVMを使用することができる。
Platform As A Service(PAAS)を用いたジョブスケジューリング
[00127]図12に、本発明の態様による、分散コンピューティング環境内のリソースを提供する例示的方法例示的方法1200を示すブロック図を示す。ブロック1202で、ユーザからタスクアカウントを作成する要求が受信される。例えば、ユーザは、クライアントポータル(サービス管理APIを含む)により、計算を実施するためにユーザによって使用可能なアカウントをサービスが生成することを要求することができる。システムの高レベル位置サービス(例えば、XLS)で要求を受信することができる。図示されていないが、コンピューティングリソースの1つまたは複数の定義済みのクラスタ(例えば、地理領域)内のより低いレベルのタスク位置サービスと通信することによってアカウントが作成されることを高レベルサービスが保証することが企図される。さらに、先に論じたように、高レベル位置サービスがアカウントまたはアカウントによって使用されるリソースに関連する名前空間の登録を調整することが企図される。少なくとも部分的にドメインネームサービスを利用して、名前空間の登録を実施することができる。
プールおよび階層的構造を自動的にスケーリングする
[00134]図13に、本発明の態様による、分散コンピューティング環境内のリソースを提供する例示的方法1300を示すブロック図を示す。具体的には、規則、要件、および現リソース負荷に基づいてリソースのプールを自動的にスケーリングすることが、分散コンピューティング環境内のリソースの効果的なプロビジョニングを可能にすることが企図される。先に論じたように、システム(例えば、分散コンピューティング環境)により、ジョブがその上でインスタンス化されるリソースのセットとしてプールを作成することができる。しかし、リソース需要の変化、スケジューリング変化、および他の変数に基づいて、サイズを増加させ、サイズを低減し、特定のVMタイプを増加/低減し、プールに関連する他の変数を調節することが望ましいことがある。従来、このプロセスは、手動の性質であることがあり、プール・リソース・レベルを手動で調節するために人間の介入に依拠することがある。
分離されたリソース、スケジューリング、およびジョブ
[00149]リソース、スケジューリング、およびジョブの分離は、ジョブがリソースのあるプールからリソースの別のプールに実行を続行することを可能にする。例えば、種々の計算リソースにわたって作業を移行し、作業をロードバランシングするとき、この機能を使用することができる。特定の例では、特定のデータセンタに障害(例えば、自然災害)が発生した場合、ジョブの完了のために作業を新しいデータセンタに移行することができる。さらに、リソース、スケジューリング、およびジョブの分離は、ジョブがリソースおよびスケジュールのいくつかのプールにわたって実行することを可能にし、それは、ジョブが普通なら得られない高いレベルのスケーラビリティを達成することを可能にすることができることが企図される。プールが複数のスケジューラ、タスク、テナント、および/またはデータセンタに及び、それは、プールに割り当てられたジョブもそれらのリソースにも及ぶことを可能にすることが企図される。
Claims (18)
- 階層スケジューラを有するコンピューティングシステムであって、
1つまたは複数のタスクマシンであって、それぞれが1つまたは複数の仮想マシンを維持するよう構成されているタスクマシンと、
1つまたは複数のタスク位置サービスマシンであって、それぞれが前記1つまたは複数のタスクマシンを制御し、タスクマシンのグルーピング内のタスクアカウントを管理し、前記タスクアカウントの中の1つのタスクアカウントに関連付けられたユーザに関して仮想マシンのプールを生成し、前記仮想マシンのプールを自動スケーリングするよう構成されているタスク位置サービスマシンと、
を備え、
前記仮想マシンは計算ジョブの1つ又は複数のタスクを実行し、
前記自動スケーリングは、
前記コンピューティングシステムにおいて複数のプール中の前記プールに関連する1つ又は複数の自動スケーリング規則をユーザから受け取る動作と、
前記1つ又は複数の自動スケーリング規則を使用して、前記プールに関して専用仮想マシン、スタンドバイ仮想マシン、プリエンティブル仮想マシンの所望数を決定し、前記各仮想マシンに前記1つ又は複数のタスクを実行させる動作であって、前記プリエンティブル仮想マシンは前記プールに関する継続的利用性の保証がない非専用仮想マシンであり、前記スタンドバイ仮想マシンは、専用仮想マシン、スタンドバイ仮想マシン、プリエンティブル仮想マシンの前記所望数を満たすために、前記プールに割り当てられておらずタスクの実行のために空いている仮想マシン又はプリエンティブル仮想マシンを前記プールに関する専用仮想マシンに変換する権利を確保するものである、動作と、
前記1つ又は複数の自動スケーリング規則を適用し、前記プール内の仮想マシンを、専用仮想マシン、スタンドバイ仮想マシン、プリエンティブル仮想マシンの前記所望数に調整する動作であって、前記調整する動作は、少なくとも1つの空いている仮想マシン又はプリエンティブル仮想マシンを専用仮想マシンに変換することにより専用マシンの数を増加させるとともに、スタンドバイ仮想マシンの数を減少させる動作を含む、調整する動作と、
を含む、
コンピューティングシステム。 - 前記1つ又は複数のタスクマシンの各タスクマシンが、前記タスクマシンによるリソース利用に部分的に基づいて維持される仮想マシン数を増加させるように機能する請求項1に記載のコンピューティングシステム。
- 前記1つ又は複数のタスクマシンの各タスクマシンが、前記タスクマシンによるリソース利用に部分的に基づいて維持される仮想マシン数を低減させるように機能する請求項1に記載のコンピューティングシステム。
- 高レベル位置サービスマシンをさらに備え、前記高レベル位置サービスマシンは、前記コンピューティングシステムにおいて前記タスクアカウントに関する名前空間を維持する、請求項1に記載のコンピューティングシステム。
- 前記1つ又は複数のタスクマシンの各タスクマシンは、さらに前記タスクマシンにより維持される前記1つまたは複数の仮想マシンをスケジューリングする役目を果たすタスクスケジューラを備える請求項1に記載のコンピューティングシステム。
- 前記1つ又は複数のタスク位置サービスマシンの各タスク位置サービスマシンは、さらに前記タスクマシンのグルーピング内のタスクアカウント管理の役目を果たすアカウントサーバを備える請求項1に記載のコンピューティングシステム。
- 前記1つ又は複数のタスク位置サービスマシンの各タスク位置サービスマシンは、さらに、前記タスクマシンのグルーピングにわたってプール管理を処理するプールサーバを備える請求項1に記載のコンピューティングシステム。
- 前記プールサーバが、前記タスクマシンにより維持される前記1つまたは複数の仮想マシンをスケジューリングする役目を果たすタスクスケジューラと協調して、プールに仮想マシンを割り振る、請求項7に記載のコンピューティングシステム。
- 前記1つ又は複数のタスク位置サービスマシンの各タスク位置サービスマシンは、さらにワークアイテム、ジョブ生成、およびジョブ削除を管理する機能を有するワークアイテムスケジューラを備える請求項1に記載のコンピューティングシステム。
- 前記1つ又は複数のタスク位置サービスマシンの各タスク位置サービスマシンは、さらにタスクマシンの前記グルーピング内のタスク、ジョブ、ワークアイテムに関する統計を収集する役目を果たす統計アグリゲーションサーバを備える請求項1に記載のコンピューティングシステム。
- 高レベル位置サービスマシンをさらに備え、前記高レベル位置サービスマシンは、前記コンピューティングシステムにわたって高レベル位置サービスマシンのアクティブインスタンスが1つだけある、請求項1に記載のコンピューティングシステム。
- プロセッサおよびメモリを有するコンピューティング装置によって実行されたとき、コンピューティング環境内のリソースを提供する方法を実施するコンピュータ使用可能命令を格納する1つまたは複数のコンピュータ記憶メモリであって、前記方法が、
前記コンピューティング環境において、ユーザから複数のプール内のプールに関連付けられた1つ又は複数の自動スケーリング規則を受け取るステップと、
前記プール内の1つ又は複数の仮想マシン上で計算ジョブの1つ又は複数のタスクの一部を実行するステップと、
前記1つ又は複数の自動スケーリング規則を使用して前記プールに関して専用仮想マシン、スタンドバイ仮想マシン、プリエンティブル仮想マシンの所望数を計算するステップであって、前記プリエンティブル仮想マシンは前記プールに関する継続的利用性の保証がない非専用仮想マシンであり、前記スタンドバイ仮想マシンは、専用仮想マシン、スタンドバイ仮想マシン、プリエンティブル仮想マシンの前記所望数を満たすために、前記プールに割り当てられておらずタスクの実行のために空いている仮想マシン又はプリエンティブル仮想マシンを前記プールに関する専用仮想マシンに変換する権利を確保するものである、ステップと、
前記プールを管理するプールサーバを用いて、前記1つ又は複数の自動スケーリング規則を適用し、前記プール内の1つ又は複数の仮想マシンを、前記プール内の専用仮想マシン、スタンドバイ仮想マシン、プリエンティブル仮想マシンの前記所望数に調整するステップであって、前記調整するステップは、少なくとも1つの空いている仮想マシン又はプリエンティブル仮想マシンを専用仮想マシンに変換することにより専用マシンの数を増加させるとともに、スタンドバイ仮想マシンの数を減少させる動作を含む、ステップと、
を含む、コンピュータ記憶メモリ。 - 前記プール内の1つまたは複数の仮想マシンを調整するステップが、前記プールに関連付けられた2つ以上のタスクマシンにわたって仮想マシンを割り振るステップを含む請求項12に記載のコンピュータ記憶メモリ。
- 専用仮想マシン、スタンドバイ仮想マシン、プリエンティブル仮想マシンの所望数の前記計算、及び、1つ又は複数のスケーリング規則の前記適用は、所定の間隔でタスク位置サービスマシンにより自動的に実行され、前記タスク位置サービスマシンは、前記1つまたは複数の仮想マシンを維持するよう構成されているタスクマシンを制御し、タスクマシンのグルーピング内のタスクアカウントを管理し、前記タスクアカウントの中の1つのタスクアカウントに関連付けられたユーザに関して仮想マシンのプールを生成し、前記仮想マシンのプールを自動スケーリングするよう構成されている、請求項12に記載のコンピュータ記憶メモリ。
- 専用仮想マシン、スタンドバイ仮想マシン、プリエンティブル仮想マシンの前記所望数が、前記1つ又は複数の自動スケーリング規則においてユーザにより提供された公式、及び、前記プールに関連する、前記公式に適用されるメトリックを利用して、第1のプールに関して計算され、前記メトリックが、タスク位置サービスマシンのプールサーバに関連するメトリック収集モジュールによって得られ、前記タスク位置サービスマシンは、前記1つまたは複数の仮想マシンを維持するよう構成されているタスクマシンを制御し、タスクマシンのグルーピング内のタスクアカウントを管理し、前記タスクアカウントの中の1つのタスクアカウントに関連付けられたユーザに関して仮想マシンのプールを生成し、前記仮想マシンのプールを自動スケーリングするよう構成されている、請求項12に記載のコンピュータ記憶メモリ。
- 前記1つ又は複数の自動スケーリング規則の適用により、前記プール内の仮想マシンの総数の増加、または、前記プール内の仮想マシンの総数の低減がもたらされる、請求項12に記載のコンピュータ記憶メモリ。
- 専用仮想マシン、スタンドバイ仮想マシン、プリエンティブル仮想マシンの所望数を計算する前記ステップは、
メトリック収集モジュールからメトリックを取得するステップであって、前記メトリックは前記プールのジョブキュー統計である、ステップと、
前記メトリックを、前記1つ又は複数の自動スケーリング規則においてユーザから受け取った1つ又は複数の公式に適用するステップであって、前記1つ又は複数の公式により、前記メトリックを用いて専用仮想マシン、スタンドバイ仮想マシン、プリエンティブル仮想マシンの前記所望数が算出される、ステップと、
を含む、請求項12に記載のコンピュータ記憶メモリ。 - 分散コンピューティング環境内のリソースを提供するコンピュータ実装方法であって、
前記コンピューティング環境において、ユーザから複数のプール内のプールに関連付けられた1つ又は複数の自動スケーリング規則を受け取り、前記1つ又は複数の自動スケーリング規則に基づいて、前記プールに関する専用仮想マシン、スタンドバイ仮想マシン、プリエンティブル仮想マシンの所望数を決定するステップであって、前記プリエンティブル仮想マシンは前記プールに関する継続的利用性の保証がない非専用仮想マシンであり、前記スタンドバイ仮想マシンは、専用仮想マシン、スタンドバイ仮想マシン、プリエンティブル仮想マシンの前記所望数を満たすために、前記プールに割り当てられておらずタスクの実行のために空いている仮想マシン又はプリエンティブル仮想マシンを前記プールに関する専用仮想マシンに変換する権利を確保するものである、ステップと、
前記プール上で計算ジョブを実行することにより、ワークアイテムをインスタンス化するステップと、
前記ユーザによる介入なしに、前記計算ジョブを実行する前記プールに前記1つ又は複数の自動スケーリング規則を適用し、前記プール内の1つまたは複数の仮想マシンを再割振りして、前記プール内の専用仮想マシン、スタンドバイ仮想マシン、プリエンティブル仮想マシンの前記所望数を実現するステップであって、前記再割振りは、少なくとも1つの空いている仮想マシン又はプリエンティブル仮想マシンを専用仮想マシンに変換することにより専用マシンの数を増加させるとともに、スタンドバイ仮想マシンの数を減少させることを含む、ステップと、
を含む方法。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US13/346,348 | 2012-01-09 | ||
US13/346,348 US9372735B2 (en) | 2012-01-09 | 2012-01-09 | Auto-scaling of pool of virtual machines based on auto-scaling rules of user associated with the pool |
PCT/US2012/071890 WO2013106204A1 (en) | 2012-01-09 | 2012-12-28 | Paas hierarchial scheduling and auto-scaling |
Publications (3)
Publication Number | Publication Date |
---|---|
JP2015507279A JP2015507279A (ja) | 2015-03-05 |
JP2015507279A5 JP2015507279A5 (ja) | 2016-02-18 |
JP6165777B2 true JP6165777B2 (ja) | 2017-07-19 |
Family
ID=48744884
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2014552208A Active JP6165777B2 (ja) | 2012-01-09 | 2012-12-28 | 自動スケーリングのためのコンピューティングシステム、コンピュータ記憶メモリ、及び、コンピュータ実装方法 |
Country Status (6)
Country | Link |
---|---|
US (1) | US9372735B2 (ja) |
EP (1) | EP2802980A4 (ja) |
JP (1) | JP6165777B2 (ja) |
KR (1) | KR101976234B1 (ja) |
CN (1) | CN104040485B (ja) |
WO (1) | WO2013106204A1 (ja) |
Families Citing this family (177)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8782434B1 (en) | 2010-07-15 | 2014-07-15 | The Research Foundation For The State University Of New York | System and method for validating program execution at run-time |
US8789065B2 (en) | 2012-06-08 | 2014-07-22 | Throughputer, Inc. | System and method for input data load adaptive parallel processing |
US9448847B2 (en) | 2011-07-15 | 2016-09-20 | Throughputer, Inc. | Concurrent program execution optimization |
US9262195B2 (en) * | 2012-02-28 | 2016-02-16 | Red Hat Israel, Ltd. | Manageable external wake of virtual machines |
JP2013186745A (ja) * | 2012-03-08 | 2013-09-19 | Fuji Xerox Co Ltd | 処理システム及びプログラム |
US9928107B1 (en) | 2012-03-30 | 2018-03-27 | Amazon Technologies, Inc. | Fast IP migration in a hybrid network environment |
US9164795B1 (en) * | 2012-03-30 | 2015-10-20 | Amazon Technologies, Inc. | Secure tunnel infrastructure between hosts in a hybrid network environment |
US9197489B1 (en) | 2012-03-30 | 2015-11-24 | Amazon Technologies, Inc. | Live migration of virtual machines in a hybrid network environment |
US9641431B1 (en) * | 2012-04-18 | 2017-05-02 | Google Inc. | System and methods for utilization-based balancing of traffic to an information retrieval system |
TWI456944B (zh) * | 2012-05-02 | 2014-10-11 | Quanta Comp Inc | 管理方法及其系統 |
US8904402B2 (en) * | 2012-05-30 | 2014-12-02 | Red Hat, Inc. | Controlling capacity in a multi-tenant platform-as-a-service environment in a cloud computing system |
US9405602B1 (en) * | 2012-06-25 | 2016-08-02 | Google Inc. | Method for application notification and tasking |
US9507612B1 (en) * | 2012-08-31 | 2016-11-29 | United Services Automobile Association (Usaa) | Managing dedicated and floating pool of virtual machines based on demand |
JP5920125B2 (ja) * | 2012-09-05 | 2016-05-18 | 富士通株式会社 | プロセス数制御プログラム、プロセス数制御方法、および情報処理装置 |
US8978035B2 (en) * | 2012-09-06 | 2015-03-10 | Red Hat, Inc. | Scaling of application resources in a multi-tenant platform-as-a-service environment in a cloud computing system |
US9063721B2 (en) | 2012-09-14 | 2015-06-23 | The Research Foundation For The State University Of New York | Continuous run-time validation of program execution: a practical approach |
JP6114829B2 (ja) * | 2012-09-28 | 2017-04-12 | サイクルコンピューティング エルエルシー | 仮想環境における演算インフラストラクチャのリアルタイム最適化 |
US9069782B2 (en) | 2012-10-01 | 2015-06-30 | The Research Foundation For The State University Of New York | System and method for security and privacy aware virtual machine checkpointing |
US9405579B2 (en) * | 2012-10-11 | 2016-08-02 | International Business Machines Corporation | Seamless extension of local computing power |
US20140173618A1 (en) * | 2012-10-14 | 2014-06-19 | Xplenty Ltd. | System and method for management of big data sets |
US9342369B2 (en) * | 2013-01-07 | 2016-05-17 | Wal-Mart Stores, Inc. | System and method for increasing throughput of a PaaS system |
US9804890B1 (en) * | 2013-02-15 | 2017-10-31 | Amazon Technologies, Inc. | Termination policies for scaling compute resources |
US9628399B2 (en) * | 2013-03-14 | 2017-04-18 | International Business Machines Corporation | Software product instance placement |
US8621062B1 (en) | 2013-03-15 | 2013-12-31 | Opscode, Inc. | Push signaling to run jobs on available servers |
US9633358B2 (en) * | 2013-03-15 | 2017-04-25 | Knowledgevision Systems Incorporated | Interactive presentations with integrated tracking systems |
JP6157181B2 (ja) * | 2013-04-02 | 2017-07-05 | キヤノン株式会社 | サーバーシステム、その制御方法、およびそのプログラム |
US20140325219A1 (en) * | 2013-04-27 | 2014-10-30 | Wanin International Co., Ltd. | Secret key management method for multi-network platform |
WO2014193361A1 (en) * | 2013-05-29 | 2014-12-04 | Empire Technology Development Llc | Tiered eviction of instances of executing processes |
US9602426B2 (en) * | 2013-06-21 | 2017-03-21 | Microsoft Technology Licensing, Llc | Dynamic allocation of resources while considering resource reservations |
US20150067676A1 (en) * | 2013-08-27 | 2015-03-05 | Connectloud, Inc. | Method and apparatus for performing resource management for software defined clouds |
US20150067677A1 (en) * | 2013-08-27 | 2015-03-05 | Connectloud, Inc. | Method and apparatus for defining virtual machine placement logic that is configurable and restricts virtual machine provisioning within a software defined cloud |
US10057139B2 (en) * | 2013-08-30 | 2018-08-21 | Hewlett Packard Enterprise Development Lp | Maintain a service on a cloud network based on a scale rule |
US9851988B1 (en) * | 2013-09-04 | 2017-12-26 | Amazon Technologies, Inc. | Recommending computer sizes for automatically scalable computer groups |
US9262190B2 (en) * | 2013-11-19 | 2016-02-16 | Xerox Corporation | Method and system for managing virtual machines in distributed computing environment |
US10033825B2 (en) | 2014-02-21 | 2018-07-24 | Knowledgevision Systems Incorporated | Slice-and-stitch approach to editing media (video or audio) for multimedia online presentations |
US10664297B2 (en) * | 2014-02-24 | 2020-05-26 | Hewlett Packard Enterprise Development Lp | Activating pre-created VNFCs when a monitored performance level of a VNF exceeds a maximum value attainable by the combined VNFCs that form a VNF |
US10621002B2 (en) * | 2014-02-28 | 2020-04-14 | Pivotal Software, Inc. | Iterative task centric resource scheduling for a user program between different computing frameworks |
US9703611B1 (en) | 2014-03-21 | 2017-07-11 | Amazon Technologies, Inc. | Isolating resources for utilization by tenants executing in multi-tenant software containers |
US9754122B1 (en) | 2014-03-21 | 2017-09-05 | Amazon Technologies, Inc. | Isolating tenants executing in multi-tenant software containers |
JP6263424B2 (ja) * | 2014-03-31 | 2018-01-17 | 株式会社Nttドコモ | 管理システム及び管理方法 |
CN103957237A (zh) * | 2014-04-03 | 2014-07-30 | 华南理工大学 | 一种弹性云的体系结构 |
RU2568282C2 (ru) * | 2014-04-18 | 2015-11-20 | Закрытое акционерное общество "Лаборатория Касперского" | Система и способ обеспечения отказоустойчивости антивирусной защиты, реализуемой в виртуальной среде |
US10162683B2 (en) | 2014-06-05 | 2018-12-25 | International Business Machines Corporation | Weighted stealing of resources |
US20170068558A1 (en) * | 2014-06-12 | 2017-03-09 | Hitachi, Ltd. | Virtual machine management system and method therefor |
CN104168310A (zh) * | 2014-07-24 | 2014-11-26 | 深圳天珑无线科技有限公司 | 云端虚拟服务器的调度方法及装置 |
US9678773B1 (en) * | 2014-09-30 | 2017-06-13 | Amazon Technologies, Inc. | Low latency computational capacity provisioning |
US9600312B2 (en) | 2014-09-30 | 2017-03-21 | Amazon Technologies, Inc. | Threading as a service |
US9323556B2 (en) | 2014-09-30 | 2016-04-26 | Amazon Technologies, Inc. | Programmatic event detection and message generation for requests to execute program code |
US9146764B1 (en) | 2014-09-30 | 2015-09-29 | Amazon Technologies, Inc. | Processing event messages for user requests to execute program code |
US9830193B1 (en) | 2014-09-30 | 2017-11-28 | Amazon Technologies, Inc. | Automatic management of low latency computational capacity |
US10048974B1 (en) | 2014-09-30 | 2018-08-14 | Amazon Technologies, Inc. | Message-based computation request scheduling |
US10120716B2 (en) * | 2014-10-02 | 2018-11-06 | International Business Machines Corporation | Task pooling and work affinity in data processing |
US9672068B2 (en) * | 2014-10-09 | 2017-06-06 | Vmware, Inc. | Virtual machine scheduling using optimum power-consumption profile |
US9513935B2 (en) | 2014-10-28 | 2016-12-06 | International Business Machines Corporation | Auto-scaling thresholds in elastic computing environments |
KR101921313B1 (ko) | 2014-11-03 | 2018-11-22 | 한국전자통신연구원 | 관계 서버의 동작 방법 및 이를 이용하는 시스템 |
US9900399B2 (en) | 2014-11-03 | 2018-02-20 | Electronics And Telecommunications Research Institute | Method for operating machines and system using the same |
US10701169B2 (en) | 2014-11-03 | 2020-06-30 | Electronics And Telecommunications Research Institute | Method for operating relation server and system using the same |
US9647889B1 (en) | 2014-11-12 | 2017-05-09 | Amazon Technologies, Inc. | Standby instances for auto-scaling groups |
US10411960B1 (en) * | 2014-11-12 | 2019-09-10 | Amazon Technologies, Inc. | Detaching instances from auto-scaling group |
US9537788B2 (en) | 2014-12-05 | 2017-01-03 | Amazon Technologies, Inc. | Automatic determination of resource sizing |
JP6548540B2 (ja) * | 2014-12-16 | 2019-07-24 | キヤノン株式会社 | 管理システムおよび管理システムの制御方法 |
CN105760209B (zh) * | 2014-12-16 | 2019-06-21 | 华为技术有限公司 | 移除虚拟机的方法、装置与自动弹性群组 |
DE102015015196A1 (de) * | 2014-12-16 | 2016-06-16 | Canon Kabushiki Kaisha | Verwaltungssystem und Steuerungsverfahren für Verwaltungssystem |
CN105786587B (zh) * | 2014-12-23 | 2019-11-26 | 华为技术有限公司 | 一种虚拟机vm的伸缩方法和设备 |
US9971621B1 (en) * | 2015-02-02 | 2018-05-15 | Amazon Technologies, Inc. | Hotpooling virtual machines |
US9733967B2 (en) | 2015-02-04 | 2017-08-15 | Amazon Technologies, Inc. | Security protocols for low latency execution of program code |
US9588790B1 (en) | 2015-02-04 | 2017-03-07 | Amazon Technologies, Inc. | Stateful virtual compute system |
US11283697B1 (en) | 2015-03-24 | 2022-03-22 | Vmware, Inc. | Scalable real time metrics management |
US9851933B2 (en) * | 2015-03-25 | 2017-12-26 | International Business Machines Corporation | Capability-based abstraction of software-defined infrastructure |
US9785476B2 (en) | 2015-04-08 | 2017-10-10 | Amazon Technologies, Inc. | Endpoint management system and virtual compute system |
US9930103B2 (en) | 2015-04-08 | 2018-03-27 | Amazon Technologies, Inc. | Endpoint management system providing an application programming interface proxy service |
US10410155B2 (en) | 2015-05-01 | 2019-09-10 | Microsoft Technology Licensing, Llc | Automatic demand-driven resource scaling for relational database-as-a-service |
US9848041B2 (en) * | 2015-05-01 | 2017-12-19 | Amazon Technologies, Inc. | Automatic scaling of resource instance groups within compute clusters |
CN105068859B (zh) * | 2015-07-29 | 2017-12-15 | 上海谐桐信息技术有限公司 | 一种跨虚拟机的多服务调用方法及系统 |
US9851999B2 (en) * | 2015-07-30 | 2017-12-26 | At&T Intellectual Property I, L.P. | Methods, systems, and computer readable storage devices for handling virtualization of a physical telephone number mapping service |
US10277736B2 (en) | 2015-07-30 | 2019-04-30 | At&T Intellectual Property I, L.P. | Methods, systems, and computer readable storage devices for determining whether to handle a request for communication services by a physical telephone number mapping service or a virtual telephone number mapping service |
US9866521B2 (en) | 2015-07-30 | 2018-01-09 | At&T Intellectual Property L.L.P. | Methods, systems, and computer readable storage devices for determining whether to forward requests from a physical telephone number mapping service server to a virtual telephone number mapping service server |
US9888127B2 (en) | 2015-07-30 | 2018-02-06 | At&T Intellectual Property I, L.P. | Methods, systems, and computer readable storage devices for adjusting the use of virtual resources providing communication services based on load |
US10223140B2 (en) | 2015-08-25 | 2019-03-05 | Futurewei Technologies, Inc. | System and method for network function virtualization resource management |
US10594562B1 (en) | 2015-08-25 | 2020-03-17 | Vmware, Inc. | Intelligent autoscale of services |
CN105162884A (zh) * | 2015-09-25 | 2015-12-16 | 浪潮(北京)电子信息产业有限公司 | 一种基于微服务架构的云管理平台 |
CN106712998A (zh) * | 2015-11-18 | 2017-05-24 | 中兴通讯股份有限公司 | 一种云平台资源管理方法、装置及系统 |
US10395219B1 (en) * | 2015-12-18 | 2019-08-27 | Amazon Technologies, Inc. | Location policies for reserved virtual machine instances |
US9910713B2 (en) | 2015-12-21 | 2018-03-06 | Amazon Technologies, Inc. | Code execution request routing |
US10067801B1 (en) | 2015-12-21 | 2018-09-04 | Amazon Technologies, Inc. | Acquisition and maintenance of compute capacity |
US11080031B2 (en) | 2016-02-05 | 2021-08-03 | Sas Institute Inc. | Message-based coordination of container-supported many task computing |
US11137990B2 (en) | 2016-02-05 | 2021-10-05 | Sas Institute Inc. | Automated message-based job flow resource coordination in container-supported many task computing |
US10212041B1 (en) | 2016-03-04 | 2019-02-19 | Avi Networks | Traffic pattern detection and presentation in container-based cloud computing architecture |
US10931548B1 (en) | 2016-03-28 | 2021-02-23 | Vmware, Inc. | Collecting health monitoring data pertaining to an application from a selected set of service engines |
US11132213B1 (en) | 2016-03-30 | 2021-09-28 | Amazon Technologies, Inc. | Dependency-based process of pre-existing data sets at an on demand code execution environment |
US10891145B2 (en) | 2016-03-30 | 2021-01-12 | Amazon Technologies, Inc. | Processing pre-existing data sets at an on demand code execution environment |
US10069869B2 (en) * | 2016-05-17 | 2018-09-04 | Amazon Technologies, Inc. | Versatile autoscaling |
US10275272B2 (en) | 2016-06-20 | 2019-04-30 | Vmware, Inc. | Virtual machine recovery in shared memory architecture |
US10102040B2 (en) | 2016-06-29 | 2018-10-16 | Amazon Technologies, Inc | Adjusting variable limit on concurrent code executions |
CN106227582B (zh) * | 2016-08-10 | 2019-06-11 | 华为技术有限公司 | 弹性伸缩方法及系统 |
US10565016B2 (en) | 2016-09-20 | 2020-02-18 | International Business Machines Corporation | Time frame bounded execution of computational algorithms |
US10884787B1 (en) | 2016-09-23 | 2021-01-05 | Amazon Technologies, Inc. | Execution guarantees in an on-demand network code execution system |
CN106412075A (zh) * | 2016-10-14 | 2017-02-15 | 郑州云海信息技术有限公司 | 一种基于云计算的资源配置方法及装置 |
US10505791B2 (en) * | 2016-12-16 | 2019-12-10 | Futurewei Technologies, Inc. | System and method to handle events using historical data in serverless systems |
US10331479B2 (en) | 2017-01-13 | 2019-06-25 | Microsoft Technology Licensing, Llc | Computing on transient resources |
US10382565B2 (en) | 2017-01-27 | 2019-08-13 | Red Hat, Inc. | Capacity scaling of network resources |
US11093297B2 (en) * | 2017-02-08 | 2021-08-17 | Dell Products L.P. | Workload optimization system |
JP6915336B2 (ja) * | 2017-03-24 | 2021-08-04 | 富士フイルムビジネスイノベーション株式会社 | 情報処理システム及び仮想マシン |
US10379898B2 (en) | 2017-03-24 | 2019-08-13 | International Business Machines Corporation | Virtual machine consolidation |
CN107402806B (zh) * | 2017-04-20 | 2020-08-18 | 阿里巴巴集团控股有限公司 | 分布式文件架构的任务处理方法和装置 |
US11003499B1 (en) * | 2017-06-14 | 2021-05-11 | Amazon Technologies, Inc. | Resource allocation based on agent behavior in a simulation environment |
CN110869910B (zh) * | 2017-08-31 | 2024-04-05 | 深圳市欢太科技有限公司 | 搜索资源推荐方法及相关产品 |
US10678574B1 (en) * | 2017-11-01 | 2020-06-09 | Amazon Technologies, Inc. | Reconfiguration rate-control |
US10536332B1 (en) * | 2017-11-15 | 2020-01-14 | Amazon Technologies, Inc. | Configuration invocation management |
US11036532B2 (en) * | 2017-11-29 | 2021-06-15 | Microsoft Technology Licensing, Llc | Fast join and leave virtual network |
US10719344B2 (en) * | 2018-01-03 | 2020-07-21 | Acceture Global Solutions Limited | Prescriptive analytics based compute sizing correction stack for cloud computing resource scheduling |
US10733085B1 (en) | 2018-02-05 | 2020-08-04 | Amazon Technologies, Inc. | Detecting impedance mismatches due to cross-service calls |
US10831898B1 (en) | 2018-02-05 | 2020-11-10 | Amazon Technologies, Inc. | Detecting privilege escalations in code including cross-service calls |
US10725752B1 (en) | 2018-02-13 | 2020-07-28 | Amazon Technologies, Inc. | Dependency handling in an on-demand network code execution system |
US10776091B1 (en) | 2018-02-26 | 2020-09-15 | Amazon Technologies, Inc. | Logging endpoint in an on-demand code execution system |
US11354164B1 (en) * | 2018-04-20 | 2022-06-07 | Automation Anywhere, Inc. | Robotic process automation system with quality of service based automation |
US10908950B1 (en) | 2018-04-20 | 2021-02-02 | Automation Anywhere, Inc. | Robotic process automation system with queue orchestration and task prioritization |
US10999168B1 (en) | 2018-05-30 | 2021-05-04 | Vmware, Inc. | User defined custom metrics |
US10620989B2 (en) | 2018-06-08 | 2020-04-14 | Capital One Services, Llc | Managing execution of data processing jobs in a virtual computing environment |
US10853115B2 (en) | 2018-06-25 | 2020-12-01 | Amazon Technologies, Inc. | Execution of auxiliary functions in an on-demand network code execution system |
US10649749B1 (en) | 2018-06-26 | 2020-05-12 | Amazon Technologies, Inc. | Cross-environment application of tracing information for improved code execution |
US11146569B1 (en) | 2018-06-28 | 2021-10-12 | Amazon Technologies, Inc. | Escalation-resistant secure network services using request-scoped authentication information |
US10949237B2 (en) | 2018-06-29 | 2021-03-16 | Amazon Technologies, Inc. | Operating system customization in an on-demand network code execution system |
US11099870B1 (en) | 2018-07-25 | 2021-08-24 | Amazon Technologies, Inc. | Reducing execution times in an on-demand network code execution system using saved machine states |
US11070430B2 (en) * | 2018-08-27 | 2021-07-20 | At&T Intellectual Property I, L.P. | Persona/individual based actions based on community specific trigger |
JP7135648B2 (ja) * | 2018-09-20 | 2022-09-13 | 富士フイルムビジネスイノベーション株式会社 | 中継システム |
US11243953B2 (en) | 2018-09-27 | 2022-02-08 | Amazon Technologies, Inc. | Mapreduce implementation in an on-demand network code execution system and stream data processing system |
US11099917B2 (en) | 2018-09-27 | 2021-08-24 | Amazon Technologies, Inc. | Efficient state maintenance for execution environments in an on-demand code execution system |
US10958730B2 (en) * | 2018-09-28 | 2021-03-23 | Hewlett Packard Enterprise Development Lp | Mapping virtual network functions |
EP3857381B1 (en) | 2018-10-26 | 2023-07-12 | VMware, Inc. | Collecting samples hierarchically in a datacenter |
US11164125B2 (en) * | 2018-11-19 | 2021-11-02 | Capital One Services, Llc | Systems and methods for proactive infrastructure resource management for multiple application clusters |
US11943093B1 (en) | 2018-11-20 | 2024-03-26 | Amazon Technologies, Inc. | Network connection recovery after virtual machine transition in an on-demand network code execution system |
US10884812B2 (en) | 2018-12-13 | 2021-01-05 | Amazon Technologies, Inc. | Performance-based hardware emulation in an on-demand network code execution system |
US11010188B1 (en) | 2019-02-05 | 2021-05-18 | Amazon Technologies, Inc. | Simulated data object storage using on-demand computation of data objects |
US11861386B1 (en) | 2019-03-22 | 2024-01-02 | Amazon Technologies, Inc. | Application gateways in an on-demand network code execution system |
US10887380B2 (en) * | 2019-04-01 | 2021-01-05 | Google Llc | Multi-cluster ingress |
US11106496B2 (en) | 2019-05-28 | 2021-08-31 | Microsoft Technology Licensing, Llc. | Memory-efficient dynamic deferral of scheduled tasks |
US11290358B2 (en) | 2019-05-30 | 2022-03-29 | Vmware, Inc. | Partitioning health monitoring in a global server load balancing system |
US11119809B1 (en) | 2019-06-20 | 2021-09-14 | Amazon Technologies, Inc. | Virtualization-based transaction handling in an on-demand network code execution system |
US11115404B2 (en) | 2019-06-28 | 2021-09-07 | Amazon Technologies, Inc. | Facilitating service connections in serverless code executions |
US11190609B2 (en) | 2019-06-28 | 2021-11-30 | Amazon Technologies, Inc. | Connection pooling for scalable network services |
US11159528B2 (en) | 2019-06-28 | 2021-10-26 | Amazon Technologies, Inc. | Authentication to network-services using hosted authentication information |
CN110442431A (zh) * | 2019-08-12 | 2019-11-12 | 安徽赛福贝特信息技术有限公司 | 一种云计算系统中虚拟机的创建方法 |
US11023311B2 (en) | 2019-09-27 | 2021-06-01 | Amazon Technologies, Inc. | On-demand code execution in input path of data uploaded to storage service in multiple data portions |
US11263220B2 (en) | 2019-09-27 | 2022-03-01 | Amazon Technologies, Inc. | On-demand execution of object transformation code in output path of object storage service |
US11656892B1 (en) | 2019-09-27 | 2023-05-23 | Amazon Technologies, Inc. | Sequential execution of user-submitted code and native functions |
US10908927B1 (en) | 2019-09-27 | 2021-02-02 | Amazon Technologies, Inc. | On-demand execution of object filter code in output path of object storage service |
US11416628B2 (en) | 2019-09-27 | 2022-08-16 | Amazon Technologies, Inc. | User-specific data manipulation system for object storage service based on user-submitted code |
US11550944B2 (en) | 2019-09-27 | 2023-01-10 | Amazon Technologies, Inc. | Code execution environment customization system for object storage service |
US11106477B2 (en) | 2019-09-27 | 2021-08-31 | Amazon Technologies, Inc. | Execution of owner-specified code during input/output path to object storage service |
US11055112B2 (en) | 2019-09-27 | 2021-07-06 | Amazon Technologies, Inc. | Inserting executions of owner-specified code into input/output path of object storage service |
US11023416B2 (en) | 2019-09-27 | 2021-06-01 | Amazon Technologies, Inc. | Data access control system for object storage service based on owner-defined code |
US11360948B2 (en) | 2019-09-27 | 2022-06-14 | Amazon Technologies, Inc. | Inserting owner-specified data processing pipelines into input/output path of object storage service |
US10996961B2 (en) | 2019-09-27 | 2021-05-04 | Amazon Technologies, Inc. | On-demand indexing of data in input path of object storage service |
US11394761B1 (en) | 2019-09-27 | 2022-07-19 | Amazon Technologies, Inc. | Execution of user-submitted code on a stream of data |
US11386230B2 (en) | 2019-09-27 | 2022-07-12 | Amazon Technologies, Inc. | On-demand code obfuscation of data in input path of object storage service |
US11250007B1 (en) | 2019-09-27 | 2022-02-15 | Amazon Technologies, Inc. | On-demand execution of object combination code in output path of object storage service |
CN110958297B (zh) * | 2019-10-29 | 2021-10-01 | 北京邮电大学 | 一种数据迁移方法及系统 |
US10942795B1 (en) | 2019-11-27 | 2021-03-09 | Amazon Technologies, Inc. | Serverless call distribution to utilize reserved capacity without inhibiting scaling |
US11119826B2 (en) | 2019-11-27 | 2021-09-14 | Amazon Technologies, Inc. | Serverless call distribution to implement spillover while avoiding cold starts |
US11169855B2 (en) * | 2019-12-03 | 2021-11-09 | Sap Se | Resource allocation using application-generated notifications |
US11714682B1 (en) | 2020-03-03 | 2023-08-01 | Amazon Technologies, Inc. | Reclaiming computing resources in an on-demand code execution system |
US11188391B1 (en) | 2020-03-11 | 2021-11-30 | Amazon Technologies, Inc. | Allocating resources to on-demand code executions under scarcity conditions |
US11775640B1 (en) | 2020-03-30 | 2023-10-03 | Amazon Technologies, Inc. | Resource utilization-based malicious task detection in an on-demand code execution system |
US11481262B1 (en) | 2020-06-25 | 2022-10-25 | Amazon Technologies, Inc. | Rapid autoscaling with preinitialized instance quantity based on historical scale up rate |
US11520638B1 (en) * | 2020-06-25 | 2022-12-06 | Amazon Technologies, Inc. | Combined active and preinitialized resource management for rapid autoscaling |
US11922216B2 (en) | 2020-10-22 | 2024-03-05 | Cisco Technology, Inc. | Compute resources management via virtual service contexts (VSC) in compute clusters |
US11762709B2 (en) | 2020-11-11 | 2023-09-19 | International Business Machines Corporation | Predictive auto-scaler for a hierarchical computing infrastructure |
US11593270B1 (en) | 2020-11-25 | 2023-02-28 | Amazon Technologies, Inc. | Fast distributed caching using erasure coded object parts |
US11550713B1 (en) | 2020-11-25 | 2023-01-10 | Amazon Technologies, Inc. | Garbage collection in distributed systems using life cycled storage roots |
US11928521B2 (en) | 2021-04-17 | 2024-03-12 | UiPath, Inc. | Bring your own machine (BYOM) |
US11811861B2 (en) | 2021-05-17 | 2023-11-07 | Vmware, Inc. | Dynamically updating load balancing criteria |
US11799824B2 (en) | 2021-06-14 | 2023-10-24 | Vmware, Inc. | Method and apparatus for enhanced client persistence in multi-site GSLB deployments |
US11388210B1 (en) | 2021-06-30 | 2022-07-12 | Amazon Technologies, Inc. | Streaming analytics using a serverless compute system |
CA3226769A1 (en) * | 2021-07-29 | 2023-02-02 | Tushar SOOD | Intent based service scaling |
US20230232195A1 (en) | 2022-01-19 | 2023-07-20 | Vmware, Inc. | Collective scaling of applications |
CN115934299B (zh) * | 2023-02-22 | 2023-05-23 | 智者四海(北京)技术有限公司 | Yarn作业的迁移系统及方法 |
Family Cites Families (81)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US5062037A (en) | 1988-10-24 | 1991-10-29 | Ibm Corp. | Method to provide concurrent execution of distributed application programs by a host computer and an intelligent work station on an sna network |
US5392430A (en) | 1992-10-30 | 1995-02-21 | International Business Machines | Hierarchical scheduling method for processing tasks having precedence constraints on a parallel processing system |
US5832262A (en) | 1995-09-14 | 1998-11-03 | Lockheed Martin Corporation | Realtime hardware scheduler utilizing processor message passing and queue management cells |
KR19990013427A (ko) * | 1997-07-15 | 1999-02-25 | 포만제프리엘 | 컴퓨터 환경에서 실행되는 태스크의 관리 방법 및 관리 시스템과 그를 위한 제조물 |
US6223202B1 (en) | 1998-06-05 | 2001-04-24 | International Business Machines Corp. | Virtual machine pooling |
US7290009B1 (en) | 1999-08-25 | 2007-10-30 | The Trustees Of Columbia University In The City Of New York | System and method for allocating resources using spot market and derivative market techniques |
US8135796B1 (en) | 2000-05-09 | 2012-03-13 | Oracle America, Inc. | Mechanism and apparatus for accessing and addressing services in a distributed computing environment |
US6865591B1 (en) | 2000-06-30 | 2005-03-08 | Intel Corporation | Apparatus and method for building distributed fault-tolerant/high-availability computed applications |
JP2002041305A (ja) | 2000-07-26 | 2002-02-08 | Hitachi Ltd | 仮想計算機システムにおける計算機資源の割当て方法および仮想計算機システム |
US6985951B2 (en) | 2001-03-08 | 2006-01-10 | International Business Machines Corporation | Inter-partition message passing method, system and program product for managing workload in a partitioned processing environment |
US7962630B2 (en) | 2002-05-10 | 2011-06-14 | Oracle International Corporation | Method and mechanism for implementing tagged session pools |
US7395334B2 (en) | 2003-04-25 | 2008-07-01 | International Business Machines Corporation | System for determining unreturned standby resource usage |
US7596790B2 (en) | 2003-08-29 | 2009-09-29 | Intel Corporation | Allocating computing resources in a distributed environment |
WO2005069155A2 (en) * | 2004-01-08 | 2005-07-28 | Koninklijke Philips Electronics, N.V. | Method and apparatus for task schedulin in a multi-processor system based on memory requirements |
JP2005266917A (ja) | 2004-03-16 | 2005-09-29 | Nec Corp | 分散資源獲得システム、分散資源獲得方法および分散資源獲得用プログラム |
JP4308086B2 (ja) * | 2004-05-31 | 2009-08-05 | 富士通株式会社 | 自律制御プログラム及びその記録媒体、自律制御装置並びに自律制御方法 |
US7739685B2 (en) | 2005-01-06 | 2010-06-15 | International Business Machines Corporation | Decoupling a central processing unit from its tasks |
US8429630B2 (en) | 2005-09-15 | 2013-04-23 | Ca, Inc. | Globally distributed utility computing cloud |
US8151277B2 (en) | 2007-05-15 | 2012-04-03 | Dynatrace Software Gmbh | Method and system for dynamic remote injection of in-process agents into virtual machine based applications |
US8677353B2 (en) * | 2007-01-11 | 2014-03-18 | Nec Corporation | Provisioning a standby virtual machine based on the prediction of a provisioning request being generated |
US20080189700A1 (en) | 2007-02-02 | 2008-08-07 | Vmware, Inc. | Admission Control for Virtual Machine Cluster |
KR20090000631A (ko) | 2007-03-12 | 2009-01-08 | 권혁숙 | 자전거 보관 대여소 |
US8065676B1 (en) * | 2007-04-24 | 2011-11-22 | Hewlett-Packard Development Company, L.P. | Automated provisioning of virtual machines for a virtual machine buffer pool and production pool |
KR101040117B1 (ko) * | 2007-12-13 | 2011-06-09 | 한국전자통신연구원 | 다중 시스템 워크로드 관리 시스템 및 방법 |
US8930946B1 (en) | 2008-02-14 | 2015-01-06 | Google Inc. | Leasing prioritized tasks |
US8112526B2 (en) | 2008-06-24 | 2012-02-07 | International Business Machines Corporation | Process migration based on service availability in a multi-node environment |
US20100042670A1 (en) | 2008-08-13 | 2010-02-18 | Electronic Data Systems Corporation | Integrated development engine for a cloud computing environment |
US8434087B2 (en) | 2008-08-29 | 2013-04-30 | International Business Machines Corporation | Distributed acceleration devices management for streams processing |
US7870044B2 (en) | 2008-10-02 | 2011-01-11 | Verizon Patent And Licensing Inc. | Methods, systems and computer program products for a cloud computing spot market platform |
US10025627B2 (en) * | 2008-11-26 | 2018-07-17 | Red Hat, Inc. | On-demand cloud computing environments |
US8291414B2 (en) | 2008-12-11 | 2012-10-16 | International Business Machines Corporation | Shared resource service provisioning using a virtual machine manager |
US9344401B2 (en) | 2009-02-04 | 2016-05-17 | Citrix Systems, Inc. | Methods and systems for providing translations of data retrieved from a storage system in a cloud computing environment |
KR20100092850A (ko) * | 2009-02-13 | 2010-08-23 | 경희대학교 산학협력단 | 클라우드 컴퓨팅 환경에서의 리소스 분배 장치 및 그 방법 |
US8751627B2 (en) * | 2009-05-05 | 2014-06-10 | Accenture Global Services Limited | Method and system for application migration in a cloud |
US9201485B2 (en) | 2009-05-29 | 2015-12-01 | Red Hat, Inc. | Power management in managed network having hardware based and virtual resources |
US20100318454A1 (en) | 2009-06-16 | 2010-12-16 | Microsoft Corporation | Function and Constraint Based Service Agreements |
US8112659B2 (en) * | 2009-06-19 | 2012-02-07 | Oracle International Corporation | Reducing recovery time for business organizations in case of disasters |
US8261275B2 (en) | 2009-06-29 | 2012-09-04 | Oracle America, Inc. | Method and system for heuristics-based task scheduling |
US20110078303A1 (en) * | 2009-09-30 | 2011-03-31 | Alcatel-Lucent Usa Inc. | Dynamic load balancing and scaling of allocated cloud resources in an enterprise network |
US20110113426A1 (en) | 2009-11-09 | 2011-05-12 | Hsiang-Tsung Kung | Apparatuses for switching the running of a virtual machine between multiple computer devices belonging to the same computer platform and the associated switching methods |
US8589921B2 (en) | 2009-11-30 | 2013-11-19 | Red Hat Israel, Ltd. | Method and system for target host optimization based on resource sharing in a load balancing host and virtual machine adjustable selection algorithm |
EP2510436A1 (en) | 2009-12-11 | 2012-10-17 | Deutsche Telekom AG | Computer cluster and method for providing a disaster recovery functionality for a computer cluster |
US8924569B2 (en) * | 2009-12-17 | 2014-12-30 | Intel Corporation | Cloud federation as a service |
US8924982B2 (en) | 2010-01-12 | 2014-12-30 | Amazon Technologies, Inc. | Managing private use of program execution capacity |
US20110173626A1 (en) | 2010-01-12 | 2011-07-14 | Nec Laboratories America, Inc. | Efficient maintenance of job prioritization for profit maximization in cloud service delivery infrastructures |
US8301746B2 (en) | 2010-01-26 | 2012-10-30 | International Business Machines Corporation | Method and system for abstracting non-functional requirements based deployment of virtual machines |
US9703586B2 (en) | 2010-02-17 | 2017-07-11 | Microsoft Technology Licensing, Llc | Distribution control and tracking mechanism of virtual machine appliances |
US20110214124A1 (en) | 2010-02-26 | 2011-09-01 | James Michael Ferris | Systems and methods for generating cross-cloud computing appliances |
US8464255B2 (en) | 2010-03-12 | 2013-06-11 | Microsoft Corporation | Managing performance interference effects on cloud computing servers |
US8271814B2 (en) | 2010-03-22 | 2012-09-18 | Microsoft Corporation | Migrating a client computer to a virtual machine server when the client computer is deemed to be idle |
WO2011123467A1 (en) * | 2010-03-29 | 2011-10-06 | Amazon Technologies, Inc. | Managing committed request rates for shared resources |
US9342801B2 (en) * | 2010-03-29 | 2016-05-17 | Amazon Technologies, Inc. | Managing committed processing rates for shared resources |
US8738745B1 (en) * | 2010-03-31 | 2014-05-27 | Amazon Technologies, Inc. | Managing use of intermediate destination hardware devices for provided computer networks |
US9116731B2 (en) | 2010-04-07 | 2015-08-25 | Accenture Global Services Limited | Cloud reference model framework |
US8667171B2 (en) | 2010-05-28 | 2014-03-04 | Microsoft Corporation | Virtual data center allocation with bandwidth guarantees |
US8606897B2 (en) | 2010-05-28 | 2013-12-10 | Red Hat, Inc. | Systems and methods for exporting usage history data as input to a management platform of a target cloud-based network |
CN102271145A (zh) | 2010-06-04 | 2011-12-07 | 国云科技股份有限公司 | 一种虚拟计算机集群及其实施方法 |
US8656387B2 (en) | 2010-06-17 | 2014-02-18 | Gridcentric Inc. | Method and system for workload distributing and processing across a network of replicated virtual machines |
US9329947B2 (en) | 2010-06-22 | 2016-05-03 | Red Hat Israel, Ltd. | Resuming a paused virtual machine without restarting the virtual machine |
US8887163B2 (en) | 2010-06-25 | 2014-11-11 | Ebay Inc. | Task scheduling based on dependencies and resources |
US8719415B1 (en) * | 2010-06-28 | 2014-05-06 | Amazon Technologies, Inc. | Use of temporarily available computing nodes for dynamic scaling of a cluster |
US8739170B1 (en) * | 2010-06-30 | 2014-05-27 | Amazon Technologies, Inc. | Managing requests for computing capacity |
US20120011077A1 (en) | 2010-07-12 | 2012-01-12 | Bhagat Bhavesh C | Cloud Computing Governance, Cyber Security, Risk, and Compliance Business Rules System and Method |
CN101938416B (zh) | 2010-09-01 | 2012-08-08 | 华南理工大学 | 一种基于动态重配置虚拟资源的云计算资源调度方法 |
US8533103B1 (en) | 2010-09-14 | 2013-09-10 | Amazon Technologies, Inc. | Maintaining latency guarantees for shared resources |
CN102307208B (zh) | 2010-09-25 | 2014-08-06 | 广东电子工业研究院有限公司 | 基于云计算的虚拟机运行控制装置及其运行控制方法 |
JP2014038364A (ja) * | 2010-10-27 | 2014-02-27 | Hitachi Ltd | リソース管理サーバ、リソース管理方法及びリソース管理プログラム |
US9237194B2 (en) * | 2010-11-05 | 2016-01-12 | Verizon Patent And Licensing Inc. | Load balancer and firewall self-provisioning system |
JP5845571B2 (ja) * | 2010-11-30 | 2016-01-20 | 富士通株式会社 | 計算システムおよび計算システム管理方法 |
US20120159234A1 (en) | 2010-12-15 | 2012-06-21 | Microsoft Corporation | Providing resilient services |
US10678602B2 (en) | 2011-02-09 | 2020-06-09 | Cisco Technology, Inc. | Apparatus, systems and methods for dynamic adaptive metrics based application deployment on distributed infrastructures |
US8639595B1 (en) * | 2011-03-10 | 2014-01-28 | Amazon Technologies, Inc. | Statistically cost-following accounting model for dedicated resources |
US8806015B2 (en) | 2011-05-04 | 2014-08-12 | International Business Machines Corporation | Workload-aware placement in private heterogeneous clouds |
US20120311575A1 (en) * | 2011-06-02 | 2012-12-06 | Fujitsu Limited | System and method for enforcing policies for virtual machines |
US9015708B2 (en) | 2011-07-28 | 2015-04-21 | International Business Machines Corporation | System for improving the performance of high performance computing applications on cloud using integrated load balancing |
US20130061220A1 (en) | 2011-09-06 | 2013-03-07 | Xerox Corporation | Method for on-demand inter-cloud load provisioning for transient bursts of computing needs |
US9038063B2 (en) | 2011-09-07 | 2015-05-19 | International Business Machines Corporation | Determining virtual machine image pattern distributions in a networked computing environment |
US8856797B1 (en) * | 2011-10-05 | 2014-10-07 | Amazon Technologies, Inc. | Reactive auto-scaling of capacity |
US20130091376A1 (en) * | 2011-10-05 | 2013-04-11 | International Business Machines Corporation | Self-repairing database system |
US9229749B2 (en) | 2011-10-31 | 2016-01-05 | Cisco Technology, Inc. | Compute and storage provisioning in a cloud environment |
US8966085B2 (en) * | 2012-01-04 | 2015-02-24 | International Business Machines Corporation | Policy-based scaling of computing resources in a networked computing environment |
-
2012
- 2012-01-09 US US13/346,348 patent/US9372735B2/en active Active
- 2012-12-28 CN CN201280066600.7A patent/CN104040485B/zh active Active
- 2012-12-28 WO PCT/US2012/071890 patent/WO2013106204A1/en active Application Filing
- 2012-12-28 JP JP2014552208A patent/JP6165777B2/ja active Active
- 2012-12-28 KR KR1020147018950A patent/KR101976234B1/ko active IP Right Grant
- 2012-12-28 EP EP12864816.9A patent/EP2802980A4/en active Pending
Also Published As
Publication number | Publication date |
---|---|
US9372735B2 (en) | 2016-06-21 |
KR20140109940A (ko) | 2014-09-16 |
WO2013106204A1 (en) | 2013-07-18 |
JP2015507279A (ja) | 2015-03-05 |
CN104040485A (zh) | 2014-09-10 |
KR101976234B1 (ko) | 2019-05-07 |
EP2802980A1 (en) | 2014-11-19 |
CN104040485B (zh) | 2018-10-23 |
EP2802980A4 (en) | 2016-04-13 |
US20130179895A1 (en) | 2013-07-11 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6165777B2 (ja) | 自動スケーリングのためのコンピューティングシステム、コンピュータ記憶メモリ、及び、コンピュータ実装方法 | |
JP6254948B2 (ja) | 分散コンピューティング環境内で仮想マシンのプールにジョブを割り当て仮想マシン上でタスクを実行するための方法、プログラム、プログラムを格納した記憶媒体、及びシステム | |
US11922198B2 (en) | Assignment of resources in virtual machine pools | |
US20130179894A1 (en) | Platform as a service job scheduling | |
JP6254949B2 (ja) | 仮想マシンプールにおけるリソースの価格設定 | |
US11106508B2 (en) | Elastic multi-tenant container architecture | |
Chard et al. | Cost-aware cloud provisioning | |
US11243794B2 (en) | Interactive GUI for bin-packing virtual machine workloads based on predicted availability of compute instances and scheduled use of the compute instances | |
KR20040075307A (ko) | 정책 쿼럼 기반의 그리드 자원 관리 시스템 및 그 방법 | |
Gupta et al. | Enhancement of Fault Tolerance in Cloud Computing |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20151222 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20151222 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20170118 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20170127 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20170417 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20170508 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20170512 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20170523 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20170621 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6165777 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
S111 | Request for change of ownership or part of ownership |
Free format text: JAPANESE INTERMEDIATE CODE: R313113 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |