JP2023549655A - コンテナ・スケーリングおよび移動を実施する方法、システム - Google Patents

Abstract

コンテナベースのマイクロサービスのためのコンテナ・スケーリングおよび移動を実施する方法、システムが提供される。複数の異なるマイクロサービスのうちのそれぞれの各マイクロサービスから特徴の第１のセットが抽出され、訓練済み予想モデルおよびそれぞれの各マイクロサービスから抽出された特徴の第１のセットを使用して複数の異なるマイクロサービスのうちのそれぞれの各マイクロサービスのために将来の時点で必要なコンテナの数が予測され、それぞれの各マイクロサービスのために将来の時点で必要なコンテナの数に応じてそれぞれの各マイクロサービスに対応するコンテナの現在の数の予測された変化に基づいてスケーリング・ラベルおよびスケーリング値が複数の異なるマイクロサービスのうちのそれぞれの各マイクロサービスに割り当てられ、それぞれの各マイクロサービスに割り当てられたスケーリング・ラベルおよびスケーリング値に基づいて複数の異なるマイクロサービスのうちのそれぞれの各マイクロサービスに対応するコンテナの現在の数が調節される。

Description

本開示は、一般に、コンテナベースのマイクロサービスに関し、より詳細には、マイクロサービスのノード内およびノード間特徴を評価し、次いで、コンテナ・オーケストレーションの結果を評価することによって、マイクロサービスのためにコンテナを自動的にオーケストレートすることに関する。

アプリケーションが、ホスト・マシンのオペレーティング・システムのリソースの固有のセットにアクセスできるようにアプリケーションをパッケージ化するために、コンテナ・プラットフォームが現在使用されている。マイクロサービス・アーキテクチャでは、アプリケーションは、別々のコンテナにそれぞれパッケージ化された様々な個別のサービスにさらに分解される。その恩恵は、コンテナがスケーリング可能であり、一過性であることである。言い換えれば、コンテナでホストされるアプリケーションまたはサービスのインスタンスは、必要に応じて、移り変わる。

それでも、スケーラビリティは、動作の難題である。コンテナ・オーケストレーションは、要は、特に、大きい動的環境において、コンテナのライフサイクルを管理することである。コンテナ・オーケストレーション制御は、例えば、コンテナを提供および導入すること、ホスト・インフラストラクチャ全体にアプリケーション負荷を均一に拡散させるためにコンテナを追加または除去すること、ホストにリソース不足がある場合、またはホストが使えなくなった場合に、１つのホストから別のホストにコンテナを移動させること、コンテナ間でリソースを配分すること、および同様のものなど、多くのタスクを自動化する。

新しいコンテナをクラスタに導入するときが来たとき、コンテナ・オーケストレーション・ツールは、導入をスケジューリングし、例えば、プロセッサ、メモリ、ストレージ、ネットワーク・リソース、または同様のものの可用性など、所定の制限に基づいて、コンテナを置くのに最も適したホストを探す。他のホストへの近さに応じて、コンテナが置かれることも可能である。

クラスタは、物理または仮想マシンであることが可能な、少なくとも１つのコントローラ・ノード、およびいくつかのワーカ・ノードを有するノードのセットである。各ノードは、独自のオペレーティング・システム環境を有する。コントローラは、ノードにまたがるアプリケーション・インスタンスのスケジューリングおよび導入を管理し、コントローラ・ノードが動かすサービスの完全なセットは、制御プレーンとして知られている。スケジューラは、リソースおよび定義されたポリシ制限に依って、ノードをポッドに割り当てる。ポッドは、基本的なスケジューリング単位であり、ホスト・マシンの同じ場所に配置され、リソースを共有する能力があることが保証された、１つまたは複数のコンテナから成る。各ポッドは、クラスタ内の一意のＩＰアドレスを割り当てられ、アプリケーションが競合することなくポートを使用することを可能にする。

例えば、Kubernetes、DockerSwarm、または同様のものなどの、コンテナ・オーケストレーション・ツールは、ノードのクラスタにまたがって、コンテナ化されたアプリケーションを自動的に導入、スケーリング、および管理するための構成要素である。コンテナ・オーケストレーション・ツールは、管理および発見を容易にするために、アプリケーションを作り上げるコンテナを、論理ユニットにグループ化する。マルチクラスタ・コンテナ・オーケストレーション環境は、パブリック、プライベート、およびハイブリッド・クラウドに及ぶことが可能な、コンテナ化されたアプリケーションのクラスタも管理し得る。

マイクロサービスは、多階層アプリケーションのうちの１つの階層など、一緒に機能するポッドのセットである。マイクロサービスは、明確に定義されたアプリケーション・プログラミング・インターフェース（ＡＰＩ）を介して通信する小さい独立したサービスからソフトウェアが構成された、ソフトウェア開発への構造的および組織的アプローチである。マイクロサービス・アーキテクチャは、アプリケーションをスケーリングしやすく、かつ開発を高速化して、イノベーションを可能にし、新しい特徴の市場投入までの時間を加速する。マイクロサービス・アーキテクチャを用いると、アプリケーションは、各アプリケーション・プロセスをサービスとして動かす独立構成要素として構築される。これらのサービスは、軽量ＡＰＩを使用して、明確に定義されたインターフェースを介して通信する。サービスは、ビジネス能力のために構築され、各サービスは、単一の機能を実施する。サービスは独立して動かされるので、各サービスは、アプリケーションの固有機能の需要を満たすように、アップデート、導入、およびスケーリングされることが可能である。

１つの例証的実施形態によれば、コンテナベースのマイクロサービスのためのコンテナ・スケーリングおよび移動を自動的に実施するためのコンピュータ実行方法が提供される。コンピュータは、複数の異なるマイクロサービスのうちのそれぞれの各マイクロサービスから特徴の第１のセットを抽出する。コンピュータは、訓練済み予想モデル、およびそれぞれの各マイクロサービスから抽出された特徴の第１のセットを使用して、複数の異なるマイクロサービスのうちのそれぞれの各マイクロサービスのために将来の時点で必要なコンテナの数を予測する。コンピュータは、それぞれの各マイクロサービスのために将来の時点で必要なコンテナの数に応じて、それぞれの各マイクロサービスに対応するコンテナの現在の数の予測された変化に基づいて、スケーリング・ラベルおよびスケーリング値を複数の異なるマイクロサービスのうちのそれぞれの各マイクロサービスに割り当てる。コンピュータは、それぞれの各マイクロサービスに割り当てられたスケーリング・ラベルおよびスケーリング値に基づいて、複数の異なるマイクロサービスのうちのそれぞれの各マイクロサービスに対応するコンテナの現在の数を自動的に調節する。他の例証的実施形態によれば、コンテナベースのマイクロサービスのためのコンテナ・スケーリングおよび移動を自動的に実施するためのコンピュータ・システムおよびコンピュータ・プログラム製品が提供される。

例証的実施形態が実装されるデータ処理システムのネットワークの図的表現である。 例証的実施形態が実装されるデータ処理システムの図である。 例証的実施形態が実装されるクラウド・コンピューティング環境を示す図である。 例証的実施形態によるクラウド・コンピューティング環境の抽象化層の例を示す図である。 例証的実施形態によるコンテナ・オーケストレーション・システムの例を示す図である。 例証的実施形態による予想テーブルの例を示す図である。 例証的実施形態によるコンテナ移動プロセスの例を示す図である。 例証的実施形態によるコンテナ移動識別情報テーブルの例を示す図である。 例証的実施形態によるコンテナベースのマイクロサービスのコンテナ・スケーリングおよび移動を予想するためのプロセスを示すフローチャートである。 例証的実施形態によるコンテナベースのマイクロサービスのコンテナ・スケーリングおよび移動を予想するためのプロセスを示すフローチャートである。

本発明は、統合のいずれかの可能な技術詳細レベルにおけるシステム、方法、またはコンピュータ・プログラム製品、あるいはその組合せであってもよい。コンピュータ・プログラム製品は、本発明の態様をプロセッサに実行させるためのコンピュータ可読プログラム命令を有するコンピュータ可読ストレージ媒体（または複数の媒体）を含み得る。

コンピュータ可読ストレージ媒体は、命令実行デバイスで使用するための命令を保持し、記憶することができる有形デバイスであることが可能である。コンピュータ可読ストレージ媒体は、例えば、電子ストレージ・デバイス、磁気ストレージ・デバイス、光ストレージ・デバイス、電磁気ストレージ・デバイス、半導体ストレージ・デバイス、または前述の任意の適切な組合せであってもよいがこれらに限定されない。コンピュータ可読ストレージ媒体のより具体的な例の完全に網羅されていないリストは、ポータブル・コンピュータ・ディスケット、ハードディスク、ランダム・アクセス・メモリ（ＲＡＭ）、リード・オンリ・メモリ（ＲＯＭ）、消去可能プログラマブル・リード・オンリ・メモリ（ＥＰＲＯＭまたはフラッシュ・メモリ）、スタティック・ランダム・アクセス・メモリ（ＳＲＡＭ）、ポータブル・コンパクト・ディスク・リード・オンリ・メモリ（ＣＤ－ＲＯＭ）、デジタル・バーサタイル・ディスク（ＤＶＤ）、メモリ・スティック、フロッピー（Ｒ）・ディスク、命令が記録されたパンチ・カードまたは溝内隆起構造などの機械的にエンコードされたデバイス、および前述の任意の適切な組合せを含む。コンピュータ可読ストレージ媒体は、本明細書で使用されるように、電波もしくは他の自由に伝搬する電磁波、導波路もしくは他の伝送媒体を通じて伝搬する電磁波（例えば、光ファイバ・ケーブルを通過する光パルス）、またはワイヤを通じて伝送される電気信号など、本質的に一時的な信号であると解釈されるべきではない。

本明細書で説明されるコンピュータ可読プログラム命令は、コンピュータ可読ストレージ媒体からそれぞれの計算／処理デバイスに、あるいは、例えば、インターネット、ローカル・エリア・ネットワーク、ワイド・エリア・ネットワーク、もしくはワイヤレス・ネットワーク、またはその組合せなどの、ネットワークを介して外部コンピュータまたは外部ストレージ・デバイスに、ダウンロードすることができる。ネットワークは、銅伝送ケーブル、光伝送ファイバ、ワイヤレス伝送、ルータ、ファイアウォール、スイッチ、ゲートウェイ・コンピュータ、またはエッジ・サーバ、あるいはその組合せを備え得る。各計算／処理デバイス内のネットワーク・アダプタ・カードまたはネットワーク・インターフェースは、コンピュータ可読プログラム命令をネットワークから受け取り、それぞれの計算／処理デバイス内のコンピュータ可読ストレージ媒体に記憶するためにコンピュータ可読プログラム命令を転送する。

本発明の動作を実行するためのコンピュータ可読プログラム命令は、アセンブラ命令、インストラクション・セット・アーキテクチャ（ＩＳＡ）命令、機械語命令、機械依存命令、マイクロコード、ファームウェア命令、状態設定データ、集積回路機器用の構成データ、または、Ｓｍａｌｌｔａｌｋ（Ｒ）、Ｃ＋＋、もしくは同様のものなどのオブジェクト指向プログラミング言語、および「Ｃ」プログラミング言語もしくは類似のプログラミング言語などの手続き型プログラミング言語を含む、１つもしくは複数のプログラミング言語の任意の組合せで書かれたソース・コードもしくはオブジェクト・コードのいずれかでよい。コンピュータ可読プログラム命令は、スタンド・アロンのソフトウェア・パッケージとして、全面的にユーザのコンピュータ上で、または部分的にユーザのコンピュータ上で実行することができるか、部分的にユーザのコンピュータ上および部分的にリモート・コンピュータ上で、または全面的にリモート・コンピュータもしくはサーバ上で実行することができる。後者のシナリオでは、リモート・コンピュータは、ローカル・エリア・ネットワーク（ＬＡＮ）もしくはワイド・エリア・ネットワーク（ＷＡＮ）を含む任意のタイプのネットワークを通じてユーザのコンピュータに接続されてもよく、または、接続は、（例えば、インターネット・サービス・プロバイダを使用したインターネットを通じて）外部コンピュータに対して行われてもよい。いくつかの実施形態では、例えば、プログラマブル・ロジック回路機器、フィールド・プログラマブル・ゲート・アレイ（ＦＰＧＡ）、またはプログラマブル・ロジック・アレイ（ＰＬＡ）を含む電子回路機器は、本発明の態様を実施するために、コンピュータ可読プログラム命令の状態情報を利用して電子回路機器を個別化にすることによって、コンピュータ可読プログラム命令を実行することができる。

本発明の実施形態による、方法、装置（システム）、およびコンピュータ・プログラム製品の流れ図またはブロック図あるいはその両方を参照しながら、本発明の態様が本明細書で説明される。流れ図またはブロック図あるいはその両方の各ブロック、および流れ図またはブロック図あるいはその両方におけるブロックの組合せは、コンピュータ可読プログラム命令によって実行できることが理解されよう。

これらのコンピュータ可読プログラム命令は、コンピュータのプロセッサ、または他のプログラム可能データ処理装置によって実行する命令が、流れ図またはブロック図あるいはその両方の１つまたは複数のブロックで指定された機能／行為を実行するための手段を作り出すべく、機械を生み出すために、コンピュータのプロセッサ、または他のプログラム可能データ処理装置に提供されてもよい。これらのコンピュータ可読プログラム命令はまた、流れ図またはブロック図あるいはその両方の１つまたは複数のブロックで指定された機能／行為の態様を実行する命令を含む製品を、命令を記憶したコンピュータ可読ストレージ媒体が備えるべく、コンピュータ可読ストレージ媒体に格納されてもよく、特定の様式で機能するように、コンピュータ、プログラム可能データ処理装置、または他のデバイス、あるいはその組合せに指示することができる。

コンピュータ可読プログラム命令はまた、コンピュータ、他のプログラム可能装置、または他のデバイス上で実行する命令が、流れ図またはブロック図あるいはその両方の１つまたは複数のブロックで指定された機能／行為を実行するべく、コンピュータ実行プロセスを生み出すように、コンピュータ、他のプログラム可能装置、または他のデバイス上で一連の動作ステップを実施させるために、コンピュータ、他のプログラム可能データ処理装置、または他のデバイスにロードされてもよい。

図中の流れ図およびブロック図は、本発明の様々な実施形態によるシステム、方法、およびコンピュータ・プログラム製品の可能な実装形態のアーキテクチャ、機能、および動作を示す。この点に関して、流れ図またはブロック図の中の各ブロックは、指定の論理機能を実現するための１つまたは複数の実行可能命令を含む命令のモジュール、セグメント、または一部を表すことができる。いくつかの代替実装形態において、ブロックに記された機能は、図に記された順序とは異なる順序で発生してもよい。例えば、連続して示された２つのブロックは、実際には、同時に、実質的に同時に、部分的もしくは全面的に時間的に重複するように実行される１つのステップとして実現されてもよく、またはブロックは、時には、含まれる機能に依って、逆の順序で実行されてもよい。ブロック図または流れ図あるいはその両方の各ブロック、および、ブロック図または流れ図あるいはその両方におけるブロックの組合せは、指定の機能もしくは行為を行うか、または、専用ハードウェアとコンピュータ命令との組合せを実行する専用ハードウェア・ベースのシステムによって実現できることにも留意されたい。

図をここで参照すると、また特に図１～図５を参照すると、例証的実施形態が実装されるデータ処理環境の図が提供されている。図１～図５は単に例であることが意図され、異なる実施形態が実装される環境に関して、何らかの限定を主張または示唆することを意図するものではないことを理解されたい。描写された環境に多くの変更が行われてもよい。

図１は、例証的実施形態が実装されるデータ処理システムのネットワークの図的表現を描写する。ネットワーク・データ処理システム１００は、例証的実施形態が実装されるコンピュータ、データ処理システム、および他のデバイスのネットワークである。ネットワーク・データ処理システム１００は、ネットワーク１０２を含み、ネットワーク１０２は、ネットワーク・データ処理システム１００内で一緒に接続されたコンピュータ、データ処理システム、および他のデバイスの間の通信リンクを提供するために使用される媒体である。ネットワーク１０２は、例えば、ワイヤ通信リンク、ワイヤレス通信リンク、光ファイバ・ケーブル、および同様のものなどの接続を含み得る。

描写された例では、サーバ１０４およびサーバ１０６は、ストレージ１０８と共に、ネットワーク１０２に接続する。サーバ１０４およびサーバ１０６は、例えば、ネットワーク１０２への高速接続を伴うサーバ・コンピュータでよい。さらに、サーバ１０４およびサーバ１０６は、マイクロサービスのノード内およびノード間特徴を評価し、次いで、コンテナ・オーケストレーションの結果を評価すること（すなわち、ノード内特徴の評価に基づいて計算ノード内のコンテナをスケール・アップまたはスケール・ダウンすること、およびノード間特徴の評価に基づいてノード間でコンテナを移動させること）によって、クライアント計算ノード・デバイス上で動くマイクロサービスにコンテナ・オーケストレーション・サービスを提供する。また、サーバ１０４およびサーバ１０６はそれぞれ、１つまたは複数のクラウド環境内の複数のサーバを表し得ることに留意されたい。代替として、サーバ１０４およびサーバ１０６はそれぞれ、１つまたは複数のデータ・センタ内のサーバのクラスタを表し得る。

クライアント１１０、クライアント１１２、およびクライアント１１４も、ネットワーク１０２に接続する。クライアント１１０、１１２、および１１４は、サーバ１０４およびサーバ１０６のクライアント計算ノード・デバイスである。この例では、クライアント１１０、１１２、および１１４は、ネットワーク１０２へのワイヤ通信リンクを伴うネットワーク・コンピュータである。それでも、クライアント１１０、１１２、および１１４は、ネットワーク１０２へのワイヤまたはワイヤレス通信リンクを伴う、例えば、デスクトップ・コンピュータ、ラップトップ・コンピュータ、ハンドヘルド・コンピュータ、スマート・フォン、スマート車両、スマート・テレビ、スマート・アプライアンス、および同様のものなどの、他のタイプのデータ処理システムを表し得ることに留意されたい。ユーザは、クライアント・デバイスを利用して、主要性能指標（key performance indicator）ダッシュボードを介してサーバ１０４およびサーバ１０６によって実施されたコンテナ・オーケストレーションのインパクトを考察し得る。

ストレージ１０８は、構造化フォーマットまたは非構造化フォーマットで任意のタイプのデータを格納することができるネットワーク・ストレージ・デバイスである。さらに、ストレージ１０８は、複数のネットワーク・ストレージ・デバイスを表し得る。さらに、ストレージ１０８は、複数の異なるクライアント計算ノード・デバイスの識別子およびネットワーク・アドレス、複数の異なるマイクロサービスの識別子、複数のコンテナの識別子、ノード内特徴データ、ノード間特徴データ、コンテナ・オーケストレーション動作のインパクトに関する情報、定義された期間の履歴マイクロサービス・ワークロード・データ、および同様のものを格納し得る。さらに、ストレージ１０８は、例えば、システム・アドミニストレータおよびユーザに関連付けられたユーザ名、パスワード、およびバイオメトリック・データを含み得る認証または資格証明書データなどの、他のタイプのデータを格納し得る。

さらに、ネットワーク・データ処理システム１００は、図示していない任意の数の追加のサーバ、クライアント、ストレージ・デバイス、および他のデバイスを含み得ることに留意されたい。ネットワーク・データ処理システム１００内にあるプログラム・コードは、コンピュータ可読ストレージ媒体に格納され、使用のために、コンピュータまたは他のデータ処理デバイスにダウンロードされてもよい。例えば、プログラム・コードは、サーバ１０４のコンピュータ可読ストレージ媒体に格納され、クライアント１１０での使用のために、ネットワーク１０２を介してクライアント１１０にダウンロードされてもよい。

描写された例では、ネットワーク・データ処理システム１００は、例えば、インターネット、イントラネット、ワイド・エリア・ネットワーク（ＷＡＮ）、ローカル・エリア・ネットワーク（ＬＡＮ）、テレコミュニケーション・ネットワーク、またはその任意の組合せなどの、いくつかの異なるタイプの通信ネットワークとして実装され得る。図１は、単なる一例であることが意図され、異なる例証的実施形態に対する構造的限定を意図するものではない。

本明細書で使用されるように、アイテムを参照しながら使用されるとき、「いくつかの」は、アイテムのうちの１つまたは複数を意味する。例えば、「いくつかの異なるタイプの通信ネットワーク」は、１つまたは複数の異なるタイプの通信ネットワークである。同様に、「のセット」は、アイテムを参照しながら使用されるとき、アイテムのうちの１つまたは複数を意味する。

さらに、「のうちの少なくとも１つ」という用語は、アイテムのリストと共に使用されるとき、リスト化されたアイテムの１つまたは複数の異なる組合せが使用されること、および、リスト内の各アイテムのうちのただ１つが必要とされることを意味する。言い換えれば、「のうちの少なくとも１つ」は、アイテムの任意の組合せおよび任意の数のアイテムがリストから使用されるが、リスト内のアイテムの全てが必要なわけではないことを意味する。アイテムは、特定のオブジェクト、モノ、またはカテゴリでもよい。

例えば、限定することなく、「アイテムＡ、アイテムＢ、またはアイテムＣのうちの少なくとも１つ」は、アイテムＡ、アイテムＡおよびアイテムＢ、またはアイテムＢを含み得る。この例は、アイテムＡ、アイテムＢ、およびアイテムＣ、または、アイテムＢおよびアイテムＣも含み得る。当然、これらのアイテムの任意の組合せが存在し得る。いくつかの例証的な例では、「のうちの少なくとも１つ」は、例えば、限定することなく、アイテムＡのうちの２つ、アイテムＢのうちの１つ、およびアイテムＣのうちの１０個、または、アイテムＢのうちの４つ、およびアイテムＣのうちの７つ、または、他の適切な組合せでもよい。

図２をここで参照すると、例証的実施形態によるデータ処理システムの図が描写されている。データ処理システム２００は、図１のサーバ１０４などのコンピュータの例であり、この中に、例証的実施形態のコンテナ・オーケストレーション・プロセスを実行するコンピュータ可読プログラム・コードまたは命令が置かれ得る。この例では、データ処理システム２００は通信ファブリック２０２を含み、通信ファブリック２０２は、プロセッサ・ユニット２０４、メモリ２０６、永続ストレージ２０８、通信ユニット２１０、入出力（Ｉ／Ｏ）ユニット２１２、およびディスプレイ２１４の間の通信を提供する。

プロセッサ・ユニット２０４は、メモリ２０６にロードされるソフトウェア・アプリケーションおよびプログラムに関する命令を実行するように機能する。プロセッサ・ユニット２０４は、特定の実装形態に依って、１つもしくは複数のハードウェア・プロセッサ・デバイスのセットでもよく、またはマルチコア・プロセッサでもよい。

メモリ２０６および永続ストレージ２０８は、ストレージ・デバイス２１６の例である。本明細書で使用されるように、コンピュータ可読ストレージ・デバイスまたはコンピュータ可読ストレージ媒体は、例えば、限定することなく、データ、関数形式のコンピュータ可読プログラム・コード、または他の適切な情報、あるいはその組合せなどの情報を、一時的または永続的に格納することができるハードウェアのいずれかである。さらに、コンピュータ可読ストレージ・デバイスまたはコンピュータ可読ストレージ媒体は、一時的な信号などの伝搬媒体を除外する。メモリ２０６は、これらの例では、例えば、ランダム・アクセス・メモリ（ＲＡＭ）、または、フラッシュ・メモリなどの任意の他の適切な揮発性もしくは不揮発性ストレージ・デバイスでよい。永続ストレージ２０８は、特定の実装形態に依って、様々な形をとってもよい。例えば、永続ストレージ２０８は、１つまたは複数のデバイスを収めてもよい。例えば、永続ストレージ２０８は、ディスク・ドライブ、ソリッド・ステート・ドライブ、書換え可能光ディスク、書換え可能磁気テープ、または上記のいくつかの組合せでよい。永続ストレージ２０８によって使用される媒体は取外し可能でよい。例えば、永続ストレージ２０８のために取外し可能ハード・ドライブが使用されてもよい。

この例では、永続ストレージ２０８は、機械学習構成要素２１８を格納する。それでも、機械学習構成要素２１８が永続ストレージ２０８に常駐しているように示されていても、代替の例証的実施形態では、機械学習構成要素２１８は、データ処理システム２００の別々の構成要素でもよいことに留意されたい。例えば、機械学習構成要素２１８は、通信ファブリック２０２に連結されたハードウェア構成要素、または、ハードウェア構成要素およびソフトウェア構成要素の組合せでもよい。別の代替の例証的実施形態では、機械学習構成要素２１８の構成要素の第１のセットは、データ処理システム２００内に置かれてもよく、機械学習構成要素２１８の構成要素の第２のセットは、例えば、図１のサーバ１０６などの、第２のデータ処理システム内に置かれてもよい。

機械学習構成要素２１８は、複数の異なるマイクロサービスのノード内およびノード間特徴を評価し、次いで、コンテナ・オーケストレーションの結果を評価することによって、複数の異なるマイクロサービスのためにコンテナを自動的にオーケストレートするプロセスを制御する。機械学習構成要素２１８は、そうするように明示的にプログラムされることなく学習することができる。機械学習構成要素２１８は、機械学習構成要素２１８に入力された訓練データに基づいて学習することができる。機械学習構成要素２１８は、様々なタイプの機械学習アルゴリズムを使用して学習することができる。様々なタイプの機械学習アルゴリズムは、教師あり学習、半教師あり学習、教師なし学習、特徴学習、スパース辞書学習、異常検出、相関ルール、または他のタイプの学習アルゴリズムのうちの少なくとも１つを含む。機械学習モデルの例は、人工ニューラル・ネットワーク、決定木、サポート・ベクトル・マシン、ベイジアン・ネットワーク、遺伝的アルゴリズム、および他のタイプのモデルを含む。これらの機械学習モデルは、例えば、履歴マイクロサービス・ワークロード・データを使用して、訓練されることが可能である。

マイクロサービス２２０は、特定のコンテナベースのマイクロサービスの識別子を表す。それでも、マイクロサービス２２０は、機械学習構成要素２１８がコンテナ・スケーリングおよびコンテナ移動などのコンテナ・オーケストレーション・サービスを実施する、複数の異なるマイクロサービスの識別子を表し得ることに留意されたい。マイクロサービス２２０は、計算ノード２２２に置かれたコンテナ２２４上で動く。コンテナ２２４は、計算ノード２２２の各計算ノードに置かれた複数のコンテナの識別子を表す。計算ノード２２２は、例えば、図１のクライアント１１０、１１２、および１１４など、複数の計算ノードの識別子を表す。計算ノード２２２は、マイクロサービス２２０を動かすために、リソース（例えば、プロセッサ、メモリ、ストレージ、ネットワーク・デバイス、および同様のもの）をコンテナ２２４に提供する。

機械学習構成要素２１８は、マイクロサービス特徴抽出構成要素２２６を利用して、計算ノード２２２のそれぞれの各計算ノードに対応する特徴（例えば、特性、属性、性質、特質、パラメータ、および同様のもの）を抽出する。抽出された特徴は、ノード内特徴２２８およびノード間特徴２３０を含む。

ノード内特徴２２８は、現在の期間中に計算ノード２２２で動くマイクロサービス２２０に対応するいくつかのコンテナ、現在の期間中に計算ノード２２２で動くマイクロサービス２２０に対応するいくつかのコンテナの利用状態およびワークロード容量、以前の期間中に計算ノード２２２で以前に動いたマイクロサービス２２０に対応するいくつかのコンテナ、以前の期間中に計算ノード２２２で動くマイクロサービス２２０に対応するいくつかのコンテナの利用状態およびワークロード容量、現在の期間中のマイクロサービス２２０のいくつかのアプリケーション・プログラミング・インターフェース・リクエスト、以前の期間中のマイクロサービス２２０のいくつかのアプリケーション・プログラミング・インターフェース・リクエスト、ならびに同様のものなどの情報を含む。ノード間特徴２３０は、マイクロサービス２２０と他のマイクロサービスとの間の依存性（例えば、マイクロサービス２２０は、複数の異なるマイクロサービスにおいて１つまたは複数の他のマイクロサービスへのアプリケーション・プログラミング・インターフェース・コールを行う）、マイクロサービス２２０と他のマイクロサービスとの間の関係（例えば、マイクロサービス２２０および１つまたは複数の他のマイクロサービスは、同じアプリケーションを使用するか、同じアプリケーションに対応する）、コンテナ２２４の地理的ロケーション（例えば、マイクロサービス２２０に対応するコンテナ２２４を動かす各特定の計算ノードが地理的に置かれた場所）、計算ノード２２２のそれぞれに対応するネットワーク帯域幅およびレイテンシ・パラメータなどの情報を含む。

機械学習構成要素２１８は、マイクロサービス性能を向上させ、ネットワーク・レイテンシを減少させるために、抽出されたノード内特徴２２８およびノード間特徴２３０を分析して、計算ノード２２２内のコンテナ・スケーリング（すなわち、コンテナのスケール・アップまたはスケール・ダウン）、および計算ノード２２２の中のいくつかの間のコンテナ移動などの、最適なコンテナ・オーケストレーション・ポリシを決定および生成する。機械学習構成要素２１８は、決定された最適なコンテナ・オーケストレーション・ポリシを実施するように、オーケストレーション構成要素２３２に指示する。

さらに、機械学習構成要素２１８は、例えば、コンテナ・スケーリングおよび移動のコスト、ネットワーク・レイテンシ、マイクロサービス・セキュリティ、ならびに同様のものなどの、主要性能指標のセットに対するコンテナ・オーケストレーションのインパクトを判定する。機械学習構成要素２１８は、主要性能指標ダッシュボード構成要素２３４を利用して、主要性能指標のセットに対するコンテナ・オーケストレーションのインパクトの結果を生成および表示する。主要性能指標ダッシュボード構成要素２３４は、ディスプレイ２１４などの表示デバイス上のダッシュボード（例えば、双方向グラフィカル・ユーザ・インターフェース）を介して、インパクトの結果をユーザに表示する。

結果として、データ処理システム２００は、マイクロサービス性能を向上させ、ネットワーク・レイテンシを減少させるために、データ処理システム２００の機械学習構成要素２１８が、コンテナの自動オーケストレーションを可能にする専用コンピュータ・システムとして動作する。特に、機械学習構成要素２１８は、機械学習構成要素２１８を有していない現在利用可能な一般的なコンピュータ・システムに匹敵するような専用コンピュータ・システムに、データ処理システム２００を変形させる。

通信ユニット２１０は、この例では、図１のネットワーク１０２などのネットワークを介した、他のコンピュータ、データ処理システム、およびデバイスとの通信を提供する。通信ユニット２１０は、物理通信リンクとワイヤレス通信リンク両方の使用を通じた通信を提供してもよい。物理通信リンクは、例えば、ワイヤ、ケーブル、ユニバーサル・シリアル・バス、または任意の他の物理的技術を利用して、データ処理システム２００のための物理通信リンクを確立してもよい。ワイヤレス通信リンクは、例えば、短波、高周波、超高周波、マイクロ波、ワイヤレス・フィデリティ（Ｗｉ－Ｆｉ）、Ｂｌｕｅｔｏｏｔｈ（Ｒ）技術、グローバル・システム・フォー・モバイル・コミュニケーションズ（ＧＳＭ）、符号分割多元接続（ＣＤＭＡ）、第２世代（２Ｇ）、第３世代（３Ｇ）、第４世代（４Ｇ）、４Ｇロング・ターム・エボリューション（ＬＴＥ）、ＬＴＥアドバンスト、第５世代（５Ｇ）、または任意の他のワイヤレス通信技術もしくは標準を利用して、データ処理システム２００のためのワイヤレス通信リンクを確立してもよい。

入出力ユニット２１２は、データ処理システム２００に接続される他のデバイスとのデータの入出力を可能にする。例えば、入出力ユニット２１２は、キーパッド、キーボード、マウス、マイクロフォン、または他のいくつかの適切な入力デバイス、あるいはその組合せを通じたユーザ入力のための接続を提供してもよい。ディスプレイ２１４は、ユーザに情報を表示するためのメカニズムを提供し、例えば、ユーザ・インターフェースまたは入力データを通じてユーザがオン・スクリーン選択を行えるようにするためのタッチ・スクリーン機能を含み得る。

オペレーティング・システム、アプリケーション、またはプログラム、あるいはその組合せに関する命令は、ストレージ・デバイス２１６に置かれてもよく、ストレージ・デバイス２１６は、通信ファブリック２０２を通じてプロセッサ・ユニット２０４と通信している。この例証的な例では、命令は、関数形式で永続ストレージ２０８上にある。これらの命令は、プロセッサ・ユニット２０４による実行のために、メモリ２０６にロードされてもよい。異なる実施形態のプロセスは、コンピュータ実装命令を使用して、プロセッサ・ユニット２０４によって実施されてもよく、コンピュータ実装命令は、メモリ２０６などのメモリに置かれてもよい。これらのプログラム命令は、プログラム・コード、コンピュータ使用可能プログラム・コード、またはコンピュータ可読プログラム・コードと呼ばれ、プロセッサ・ユニット２０４のプロセッサによって読み込まれ、実行され得る。プログラム命令は、異なる実施形態では、メモリ２０６または永続ストレージ２０８などの、異なる物理コンピュータ可読ストレージ・デバイスに含まれてもよい。

プログラム・コード２３６は、選択的に取外し可能なコンピュータ可読媒体２３８に関数形式で置かれ、プロセッサ・ユニット２０４による実行のために、データ処理システム２００にロードされるか、転送されてもよい。プログラム・コード２３６およびコンピュータ可読媒体２３８は、コンピュータ・プログラム製品２４０を形成する。１つの例では、コンピュータ可読媒体２３８は、コンピュータ可読ストレージ媒体２４２またはコンピュータ可読信号媒体２４４でよい。

これらの例証的な例では、コンピュータ可読ストレージ媒体２４２は、プログラム・コード２３６を伝搬または伝送させる媒体ではなく、プログラム・コード２３６を格納するために使用される物理的なまたは有形のストレージ・デバイスである。コンピュータ可読ストレージ媒体２４２は、例えば、永続ストレージ２０８の一部であるハード・ドライブなどのストレージ・デバイスに転送するための、永続ストレージ２０８の一部であるドライブまたは他のデバイスに挿入または配置された、光または磁気ディスクを含んでもよい。コンピュータ可読ストレージ媒体２４２はまた、データ処理システム２００に接続されたハード・ドライブ、サム・ドライブ、またはフラッシュ・メモリなどの、永続ストレージの形をしていてもよい。

代替として、プログラム・コード２３６は、コンピュータ可読信号媒体２４４を使用して、データ処理システム２００に転送されてもよい。コンピュータ可読信号媒体２４４は、例えば、プログラム・コード２３６を収める伝搬データ信号でもよい。例えば、コンピュータ可読信号媒体２４４は、電磁気信号、光信号、または任意の他の適切なタイプの信号でよい。これらの信号は、ワイヤレス通信リンク、光ファイバ・ケーブル、同軸ケーブル、ワイヤ、または任意の他の適切なタイプの通信リンクなどの、通信リンクを介して伝送され得る。

さらに、本明細書で使用されるように、「コンピュータ可読媒体２３８」は、単数形または複数形であることが可能である。例えば、プログラム・コード２３６は、単一のストレージ・デバイスまたはシステムの形でコンピュータ可読媒体２３８に置かれることが可能である。別の例では、プログラム・コード２３６は、複数のデータ処理システム内に分散されたコンピュータ可読媒体２３８に置かれることが可能である。言い換えれば、プログラム・コード２３６内のいくつかの命令は、１つのデータ処理システム内に置かれることが可能であるが、プログラム・コード２３６内の他の命令は、１つまたは複数の他のデータ処理システム内に置かれることが可能である。例えば、プログラム・コード２３６の一部は、サーバ・コンピュータのコンピュータ可読媒体２３８に置かれることが可能であるが、プログラム・コード２３６の別の部分は、クライアント・コンピュータのセット内にあるコンピュータ可読媒体２３８に置かれることが可能である。

データ処理システム２００のために示された異なる構成要素は、異なる実施形態が実装される様式に構造的限定を提供することを意図していない。いくつかの例証的な例では、構成要素の１つまたは複数は、別の構成要素に組み込まれるか、そうでなければ、別の構成要素の一部を形成してもよい。例えば、いくつかの例証的な例では、メモリ２０６またはその一部は、プロセッサ・ユニット２０４内に組み込まれてもよい。異なる例証的実施形態は、データ処理システム２００のために示されたものの他のまたはその代わりの構成要素を含むデータ処理システム内に実装されることが可能である。図２に示された他の構成要素は、示された例証的な例から変化させることができる。異なる実施形態は、プログラム・コード２３６を実行することができる任意のハードウェア・デバイスまたはシステムを使用して、実装されることが可能である。

別の例では、通信ファブリック２０２を実装するためにバス・システムが使用されてもよく、システム・バスまたは入出力バスなどの、１つまたは複数のバスで構成されてもよい。当然、バス・システムは、バス・システムに取り付けられた異なる構成要素またはデバイスの間のデータ転送を提供する任意の適切なタイプのアーキテクチャを使用して実装され得る。

本開示は、クラウド・コンピューティングについての詳細な説明を含むが、本明細書で列挙される教示の実装形態は、クラウド・コンピューティング環境に限定されないことが理解されている。むしろ、例証的実施形態は、現在既知のまたは後に開発される他の任意のタイプのコンピューティング環境と併用して実装される余地がある。クラウド・コンピューティングは、最低限の管理努力またはサービス提供者との対話で迅速に提供および公開されることが可能な、例えば、ネットワーク、ネットワーク帯域幅、サーバ、処理、メモリ、ストレージ、アプリケーション、仮想マシン、およびサービスなどの、構成可能なコンピューティング・リソースの共用プールへの、便利なオンデマンドのネットワーク・アクセスを可能にするためのサービス配信のモデルである。このクラウド・モデルは、少なくとも５つの特性、少なくとも３つのサービス・モデル、および少なくとも４つの導入モデルを含み得る。

特性は、例えば、オンデマンド・セルフ・サービス、ブロード・ネットワーク・アクセス、リソース・プーリング、迅速な伸縮性、およびメジャード・サービスを含み得る。オンデマンド・セルフ・サービスは、サーバ時間およびネットワーク・ストレージなどのコンピューティング能力を、クラウド利用者が、サービスの提供者との人間による対話を必要とせず必要に応じて自動的に、一方的に提供することができる。ブロード・ネットワーク・アクセスは、ネットワークを介して利用可能で、例えば、モバイル・フォン、ラップトップ、およびパーソナル・デジタル・アシスタントなどの、ヘテロジニアスなシンまたはシック・クライアント・プラットフォームによる使用を推進する標準メカニズムを通じてアクセスされる能力を提供する。リソース・プーリングは、マルチ・テナント・モデルを使用して複数の利用者をサーブするために、プロバイダのコンピューティング・リソースをプーリングすることを可能にし、異なる物理および仮想リソースが、需要に応じて動的に割り当てられ、再割り当てされる。利用者が一般的に、提供されるリソースの正確なロケーションについて制御権も知識もないが、例えば、国、州、またはデータ・センタなどの、抽象化のより高いレベルでロケーションを特定でき得るという点で、位置独立の意味がある。迅速な伸縮性は、素早くスケール・アウトするために場合によっては自動的に迅速かつ伸縮自在に提供され、素早くスケール・インするために迅速に公開されることが可能な能力を提供する。利用者には、提供するために利用可能な能力は、しばしば無制限のように見え、任意の量でいつでも購入することができる。メジャード・サービスは、例えば、ストレージ、処理、帯域幅、およびアクティブ・ユーザ・アカウントなどの、サービスのタイプに適した抽象化のいくつかのレベルで計量能力を活用することによって、クラウド・システムがリソース使用を自動的に制御および最適化することを可能にする。リソース使用率は、監視、制御、およびレポートされることが可能であり、利用されるサービスの提供者と利用者双方に透明性をもたらす。

サービス・モデルは、例えば、サービスとしてのソフトウェア（ＳａａＳ）、サービスとしてのプラットフォーム（ＰａａＳ）、およびサービスとしてのインフラストラクチャ（ＩａａＳ）を含み得る。サービスとしてのソフトウェアは、クラウド・インフラストラクチャ上で動く提供者のアプリケーションを使用するために利用者に提供される能力である。アプリケーションは、ウェブ・ブラウザ（例えば、ウェブベースの電子メール）などの、シン・クライアント・インターフェースを通じて様々なクライアント・デバイスからアクセス可能である。利用者は、ネットワーク、サーバ、オペレーティング・システム、ストレージ、または、ことによると個々のアプリケーション能力を含む、基礎をなすクラウド・インフラストラクチャの管理も制御も行わないが、限定的なユーザ固有のアプリケーション構成設定が考えうる例外である。サービスとしてのプラットフォームは、提供者によってサポートされるプログラミング言語およびツールを使用して作り出された、利用者が作り出したまたは獲得したアプリケーションを、クラウド・インフラストラクチャに導入するために利用者に提供される能力である。利用者は、ネットワーク、サーバ、オペレーティング・システム、またはストレージを含む、基礎をなすクラウド・インフラストラクチャの管理も制御も行わないが、導入したアプリケーション、および場合によっては、アプリケーションをホストする環境構成に対する制御権を有している。サービスとしてのインフラストラクチャは、オペレーティング・システムおよびアプリケーションを含むことができる任意のソフトウェアを利用者が導入し、動かすことができる、処理、ストレージ、ネットワーク、および他の基本的なコンピューティング・リソースを提供するために利用者に提供される能力である。利用者は、基礎をなすクラウド・インフラストラクチャの管理も制御も行わないが、オペレーティング・システム、ストレージ、導入されるアプリケーションに対する制御権、および場合によっては、例えば、ホスト・ファイアウォールなどのネットワーキング構成要素を選択する限定的な制御権を有する。

導入モデルは、例えば、プライベート・クラウド、コミュニティ・クラウド、パブリック・クラウド、およびハイブリッド・クラウドを含み得る。プライベート・クラウドは、単に組織のために運用されるクラウド・インフラストラクチャである。プライベート・クラウドは、組織またはサード・パーティによって管理され、敷地内または敷地外に存在し得る。コミュニティ・クラウドは、いくつかの組織によって共有されるクラウド・インフラストラクチャであり、例えば、ミッション、セキュリティ要件、ポリシ、およびコンプライアンス考慮などの、共有される懸念を有する固有のコミュニティをサポートする。コミュニティ・クラウドは、組織またはサード・パーティによって管理され、敷地内または敷地外に存在し得る。パブリック・クラウドは、一般大衆または大手業界団体に対して利用可能にされたクラウド・インフラストラクチャであり、クラウド・サービスを売る組織によって所有される。ハイブリッド・クラウドは、一意のエンティティのままの、例えば、プライベート、コミュニティ、およびパブリック・クラウドなどの、２つ以上のクラウドから成るクラウド・インフラストラクチャであるが、例えば、クラウド間のロード・バランシングのためのクラウド・バースティングなどの、データおよびアプリケーション・ポータビリティを可能にする標準的なまたは独自の技術でまとめられる。

クラウド・コンピューティング環境は、無国籍、疎結合、モジュラリティ、および意味論的相互運用性に焦点を合わせたサービス指向のものである。クラウド・コンピューティングの中心には、相互接続ノードのネットワークを備えるインフラストラクチャがある。

図３をここで参照すると、例証的実施形態が実装されるクラウド・コンピューティング環境を示す図が描写されている。この例証的な例では、クラウド・コンピューティング環境３００は、例えば、パーソナル・デジタル・アシスタントもしくはスマート・フォン３２０Ａ、デスクトップ・コンピュータ３２０Ｂ、ラップトップ・コンピュータ３２０Ｃ、または自動車コンピュータ・システム３２０Ｎ、あるいはその組合せなどの、クラウド利用者によって使用されるローカル・コンピューティング・デバイスが通信し得る、１つまたは複数のクラウド・コンピューティング・ノード３１０のセットを含む。クラウド・コンピューティング・ノード３１０は、例えば、図１のサーバ１０４およびサーバ１０６でよい。ローカル・コンピューティング・デバイス３２０Ａ～３２０Ｎは、例えば、図１のクライアント１１０～１１４でよい。

クラウド・コンピューティング・ノード３１０は互いに通信し得、上述のようなプライベート、コミュニティ、パブリック、もしくはハイブリッド・クラウド、またはその組合せなどの、１つまたは複数のネットワークに物理的または仮想的にグループ化され得る。これは、クラウド利用者がローカル・コンピューティング・デバイス３２０Ａ～３２０Ｎなどのローカル・コンピューティング・デバイス上にリソースを維持する必要がない、サービスとしてのインフラストラクチャ、プラットフォーム、またはソフトウェア、あるいはその組合せを、クラウド・コンピューティング環境３００が提供することを可能にする。ローカル・コンピューティング・デバイス３２０Ａ～３２０Ｎのタイプは単なる例証であることが意図され、クラウド・コンピューティング・ノード３１０およびクラウド・コンピューティング環境３００は、例えば、ウェブ・ブラウザを使用して、任意のタイプのネットワークまたはネットワーク・アドレス指定可能接続あるいはその両方を介して、任意のタイプのコンピュータ化デバイスと通信できることが理解されている。

図４をここで参照すると、例証的実施形態による抽象化モデル層を示す図が描写されている。この例証的な例で示された機能抽象化層のセットは、図３のクラウド・コンピューティング環境３００などの、クラウド・コンピューティング環境によって提供され得る。図４に示された構成要素、層、および機能は単なる例証であることが意図され、本発明の実施形態は、これらに限定されないことを予め理解されたい。描写されているように、以下の層および対応する機能が提供される。

クラウド・コンピューティング環境の抽象化層４００は、ハードウェアおよびソフトウェア層４０２、仮想化層４０４、管理層４０６、ならびにワークロード層４０８を含む。ハードウェアおよびソフトウェア層４０２は、クラウド・コンピューティング環境のハードウェアおよびソフトウェア構成要素を含む。ハードウェア構成要素は、例えば、メインフレーム４１０、ＲＩＳＣ（縮小命令セット・コンピュータ）アーキテクチャ・ベースのサーバ４１２、サーバ４１４、ブレード・サーバ４１６、ストレージ・デバイス４１８、ならびにネットワークおよびネットワーキング構成要素４２０を含み得る。いくつかの例証的実施形態では、ソフトウェア構成要素は、例えば、ネットワーク・アプリケーション・サーバ・ソフトウェア４２２およびデータベース・ソフトウェア４２４を含み得る。

仮想化層４０４は、仮想サーバ４２６、仮想ストレージ４２８、仮想プライベート・ネットワークを含む仮想ネットワーク４３０、仮想アプリケーションおよびオペレーティング・システム４３２、ならびに仮想クライアント４３４といった、仮想エンティティの例が提供される抽象化層を提供する。

１つの例では、管理層４０６は、下記で説明される機能を提供し得る。リソース提供４３６は、クラウド・コンピューティング環境内でタスクを実施するために利用されるコンピューティング・リソースおよび他のリソースの動的な調達を行う。計量および価格設定４３８は、リソースがクラウド・コンピューティング環境内で利用されるときのコスト追跡、および、これらのリソースの利用に対する請求書作成またはインボイス作成を行う。１つの例では、これらのリソースは、アプリケーション・ソフトウェア・ライセンスを含み得る。セキュリティは、クラウド利用者およびタスクの検証、ならびに、データおよび他のリソースの保護を行う。ユーザ・ポータル４４０は、利用者およびシステム・アドミニストレータに、クラウド・コンピューティング環境へのアクセスを提供する。サービス・レベル管理４４２は、要求されるサービス・レベルを満たすように、クラウド・コンピューティング・リソースの配分および管理を行う。サービス・レベル契約（ＳＬＡ）プランニングおよびフルフィルメント４４４は、ＳＬＡに応じて将来の要件が予想されるクラウド・コンピューティング・リソースの事前配置および調達を行う。

ワークロード層４０８は、クラウド・コンピューティング環境が利用される機能の例を提供する。実例のワークロードおよび機能は、ワークロード層４０８によって提供され、マッピングおよびナビゲーション４４６、ソフトウェア開発およびライフサイクル管理４４８、仮想クラスルーム教育配信４５０、データ分析処理４５２、トランザクション処理４５４、ならびにマイクロサービス・コンテナ・オーケストレーション管理４５６を含み得る。

コンピューティングは、今日、クラウド・プラットフォームに焦点を合わせつつあり、例えば、会社、ビジネス、企業、組織、機構、機関、および同様のものなどの大多数のエンティティが、その製品を、クラウド・インフラストラクチャ上でマイクロサービスの形で提供する。これらの製品は、コンテナ内部でホストされるマイクロサービスを導入するための最善の実践である。それでも、導入は、オーケストレータによって実施される。現在のオーケストレータは、１方向の提供を要求し、これには、マイクロサービス・コンテナの自動スケーリングおよび最適化された近接がない。例証的実施形態は、インテリジェンスを有している機械学習構成要素を利用して、ユーザ構成可能なコンテキストに基づいて、マイクロサービス・コンテナの自動スケーリングおよび最適な近接整列に関してオーケストレータを通知する。言い換えれば、例証的実施形態は、計算ノード間のコンテナの自動スケーリングおよび最適な移動に関するインテリジェンスをオーケストレータに提供し、次いで、自動的なコンテナ・スケーリングおよび移動介入を評価する。

例えば、Kubernetes、DockerSwarm、および同様のものなど、現在のコンテナ・オーケストレーション・ツールは、静的なユーザ定義ポリシで駆動されており、コンテナの効率的なコンテナ・スケーリング判定または最適な移動を行うほど十分インテリジェントではない。例証的実施形態は、これらの現在のコンテナ・オーケストレーション・ツールが、将来の負荷を予期することなく、ネットワーク・レイテンシを低減させるために、実行時間にコンテナのスケール・アップまたはスケール・ダウンを実施するが、コンテナの自動移動を実施しないことを考慮に入れる。これらの問題に対処するために、例証的実施形態は、機械学習を使用してコンテナ・スケーリングおよび最適なコンテナ移動を予想し、次いで、これらの介入を評価する。例証的実施形態の機械学習構成要素は、マイクロサービスのノード内特徴およびノード間特徴を分析および評価して、自動化された様式で効率的なコンテナ・オーケストレーションを決定する。

例えば、例証的実施形態は、積極的予想、マイクロサービス類似度分析に基づくコンテナの自動移動、ならびに、コンテナ・スケーリングおよび移動の機械学習構成要素の介入の自動評価を介して、計算ノード上でコンテナの自動スケーリングの同期および最適化されたオーケストレーションを実施する。例証的実施形態は、マイクロサービスに対応するノード内特徴およびノード間特徴を抽出および分析する。例証的実施形態は、抽出されたノード内特徴を利用して、マイクロサービスの将来の負荷を満たすのに必要なコンテナの数を、先を見越して予想する（すなわち、コンテナの数をスケーリングする）。例証的実施形態は、抽出されたノード間特徴を利用して、マイクロサービス間の類似度を評価し、ネットワーク・レイテンシを低減させるためにどのコンテナを移動させるべきかを識別する。

したがって、例証的実施形態は、予測される将来のマイクロサービス・ワークロード需要を満たすためにコンテナ・オーケストレーションを自動的に実施することに伴う技術的問題を克服する１つまたは複数の技術的解決策を提供する。結果として、これらの１つまたは複数の技術的解決策は、コンテナベースのマイクロサービスの分野における技術的効果および実践的応用を提供する。

図５をここで参照すると、例証的実施形態によるコンテナ・オーケストレーション・システムの例を示す図が描写されている。コンテナ・オーケストレーション・システム５００は、図１のネットワーク・データ処理システム１００などの、データ処理システムのネットワークに実装されてもよい。コンテナ・オーケストレーション・システム５００は、複数の異なるマイクロサービスのノード内およびノード間特徴を評価し、次いで、コンテナ・オーケストレーションの結果を評価することによって、複数の異なるマイクロサービスのためにコンテナを自動的にオーケストレートするためのハードウェアおよびソフトウェア構成要素のシステムである。

この例では、コンテナ・オーケストレーション・システム５００は、機械学習構成要素５０２、マイクロサービス特徴抽出構成要素５０４、オーケストレータ構成要素５０６、主要性能指標ダッシュボード構成要素５０８、計算ノード５１０、および計算ノード５１２を含む。それでも、コンテナ・オーケストレーション・システム５００は、単なる一例であることが意図され、例証的実施形態に対する限定を意図するものではないことに留意されたい。言い換えれば、コンテナ・オーケストレーション・システム５００は、示されたものより多くのまたは少ない構成要素を含み得る。例えば、１つまたは複数の構成要素が１つの構成要素に組み合わされてもよく、構成要素が２つ以上の構成要素に分割されてもよく、図示していない構成要素が追加されてもよい、などである。また、計算ノード５１０および計算ノード５１２はそれぞれ、複数の計算ノードを表し得る。

計算ノード５１０および５１２は、コンテナ５１６、５１８、５２０、５２２、５２４、５２６、５２８、および５３０をホストするために提供される実際のインフラストラクチャである。計算ノード５１０および計算ノード５１２は、マイクロサービス５１４を動かす。マイクロサービス５１４は、コンテナベースのマイクロサービスである。また、マイクロサービス５１４は、機械学習構成要素５０２によって管理される複数の異なるマイクロサービスのうちの１つのそれぞれのマイクロサービスを表し得る。

マイクロサービス５１４は、単一のビジネス・タスクを実施することに焦点を合わせたゆるく連結されたサービスであり、水平と垂直両方にスケーリングされることが可能である。マイクロサービス５１４は、ワークロード管理に関する効率的な計算をマイクロサービス５１４が提供できるような方式で含まれる。マイクロサービス５１４は、さらに、障害耐性があり、自己修復を行う（すなわち、故障管理を実施する）。さらに、マイクロサービス５１４は、バッチおよびリアル・タイム処理の能力があり、応答性、弾性、および復元力がある。これら全ての属性は、マイクロサービス５１４を、高度に利用可能なものにするための、計算ノードにわたって移植されるべき重要な候補にする。

この例では、計算ノード５１０は、ポッド５３２のコンテナ５１６およびコンテナ５１８を使用して、ならびにポッド５３４のコンテナ５２０およびコンテナ５２２を使用して、マイクロサービス５１４の一部分を動かす。計算ノード５１２は、ポッド５３６のコンテナ５２４およびコンテナ５２６を使用して、ならびにポッド５３８のコンテナ５２８およびコンテナ５３０を使用して、マイクロサービス５１４の別の部分を動かす。

機械学習構成要素５０２は、マイクロサービス５１４に対応する動的なコンテナ・オーケストレーションのポリシを自動的に決定する。機械学習構成要素５０２は、図２のノード内特徴２２８などの、ノード内特徴に関するデータを利用して、マイクロサービス５１４の予測される将来のワークロードのために、計算ノード５１０と計算ノード５１２のそれぞれの中で必要なコンテナの数を、先を見越して予想する（すなわち、コンテナの数のスケール・アップまたはスケール・ダウン）。機械学習構成要素５０２は、さらに、図２のノード間特徴２３０などの、ノード間特徴に関するデータを利用して、ネットワークのレイテンシを低減または最小化するために、マイクロサービス５１４と、複数の異なるマイクロサービスのうちの１つまたは複数の他のマイクロサービスとの間の関係および依存性に基づいて、計算ノード５１０と計算ノード５１２との間でコンテナを移動させる。この例では、機械学習構成要素５０２は、予想モジュール５４０、移動モジュール５４２、および評価モジュール５４４を含む。

機械学習構成要素５０２は、マイクロサービス情報抽出構成要素５０４を利用して、ノード内特徴データおよびノード間特徴データを識別、キャプチャ、および抽出し、ノード内特徴データおよびノード間特徴データは、マイクロサービス５１４に関係する必要な情報全てを表す。ノード内特徴データは、例えば、マイクロサービス５１４のために動くコンテナの数、マイクロサービス５１４のワークロードを判定するために定義された時間間隔ごとのアプリケーション・プログラミング・インターフェース・リクエストの数、定義された時間間隔ごとのマイクロサービス５１４に対応する各コンテナの利用状態およびワークロード容量、ならびに同様のものを含み得る。ノード間特徴データは、例えば、マイクロサービス５１４が別のマイクロサービスをコールするときのマイクロサービス５１４と１つまたは複数の他のマイクロサービスとの間の依存性、同じアプリケーションがこれらの特定のマイクロサービスを使用するときのマイクロサービス５１４と１つまたは複数の他のマイクロサービスとの間の関係、マイクロサービス５１４のコンテナ５１６～５３０に対応する計算ノード５１０および５１２の地理的ロケーション、計算ノード５１０および５１２に対応する接続のネットワーク帯域幅およびレイテンシ、計算ノード５１０および５１２のコストおよび構成、ならびに同様のものを含み得る。

機械学習構成要素５０２は、予想モジュール５４０を利用して、マイクロサービス５１４の予測される将来のワークロードに応じて、計算ノード５１０および５１２内のコンテナのスケール・アップおよびスケール・ダウンを予測する。予想モジュール５４０は、ノード内特徴データに基づく時系列予想モデルを使用して、マイクロサービス５１４の予測される将来のワークロードにマッチさせるのに必要なコンテナの数を予測する。例えば、予想モジュール５４０は、自己回帰和分移動平均（ＡＲＩＭＡ：auto-regressive integrated moving average）を予想モデルとして利用し得る。ＡＲＩＭＡは、予想するために（すなわち、時系列に将来のポイントを予測するために）時系列データをモデリングする方式である。ＡＲＩＭＡモデルは、従属変数が固定化された（stationarized）特定のタイプの回帰モデルである。独立変数は、従属変数の全ての遅延、または誤差の遅延、あるいはその両方なので、原則として、最も重要な主要性能指標および他の外生変数によって提供された情報を組み込むために、ＡＲＩＭＡモデルを拡張することがわかりやすい。本質的に、予想モジュール５４０は、１つまたは複数のリグレッサを下記の予想方程式に追加し、
ここで、「Ｙｔ」は、現在の期間のコンテナの数に等しく、「Ｙｔ－１」は、以前の期間のコンテナの数に等しく、「Ｘｔ」は、現在の期間のアプリケーション・プログラミング・インターフェース（ＡＰＩ）リクエストの数に等しく、「Ｘｔ－１」は、以前の期間のＡＰＩリクエストの数に等しい。上記の予想方程式は、現在の期間「ｔ」において必要なコンテナの現在の数を表し、コンテナの現在の数は、以前の期間「ｔ－１」におけるコンテナの数と、現在の期間「ｔ」および以前の期間「ｔ－１」におけるＡＰＩリクエストの数とに応じて、予測される。この予想方程式は、例えば、以前の期間「ｔ－２」、「ｔ－３」、および同様のものの容量、利用状態、および遅延値などの、新しい入力パラメータを容易に含むことができるような、一般的な実施形態である。予想モデルは、向上した予測正確度および減少した誤差のための典型的な機械学習最適化アルゴリズム（例えば、勾配降下）を使用して訓練されることが可能である。

予想モジュール５４０は、上記の訓練済み予想モデルを使用してマイクロサービス５１４に必要なコンテナの数を予測する。予想モジュール５４０は、コンテナの現在の数と比較することによってスケーリング・ラベルおよびスケーリング値を識別する。例証的な例として、計算ノード５１０におけるコンテナの現在の数は４であり、予測される将来のワークロードに必要な予測コンテナ数は７である。結果として、この例では、スケーリング・ラベルは、スケール「ＵＰ」であり、スケーリング値は３である（すなわち、４つのコンテナの現在の数を３つの新しいコンテナを追加することによってスケール・アップして、計算ノード５１０における７つの総コンテナに等しくし、マイクロサービス５１４の予測される将来のワークロードを満たす）。同様に、スケーリング・ラベルは、スケール「ＤＯＷＮ」でもよく、スケーリング値は１でもよい（すなわち、４つコンテナの現在の数を１つのコンテナを除去することによってスケール・ダウンして、計算ノード５１０における３つの総コンテナに等しくし、マイクロサービス５１４の予測される将来のワークロードを満たす）。スケーリング・ラベルおよび値に基づいて、オーケストレータ構成要素５０６は、必要に応じて、コンテナを除去するか、新しいコンテナを追加する。

言い換えれば、予想コンテナ値が、現在のコンテナ値より大きい場合、スケール・アップが必要である。逆に、予想コンテナ値が、現在のコンテナ値より小さい場合、スケール・ダウンが必要である。予想モジュール５４０は、複数の異なるマイクロサービスのうちのそれぞれの各マイクロサービスのためにこの予想プロセスを繰り返し、対応するコンテナ・スケーリング・ラベルおよび値を割り当てることに留意されたい。その後、予想モジュール５４０は、全てのスケーリング・ラベルおよび値をオーケストレータ構成要素５０６に送り、オーケストレータ構成要素５０６は、必要に応じて、不要なコンテナを除去するか、新しいコンテナを生成する。それでも、スケーリング・ラベルは、特定の計算ノードに対してコンテナの現在の数の変更が不要であることを示す「ＮＯ」およびスケーリング値０でもよいことに留意されたい。予想モジュール５４０は、スケーリングに関連付けられたコストも計算し、コストは、評価モジュール５４４によって使用されることになる。

オーケストレータ構成要素５０６が、予想モジュール５４０の出力に基づいてコンテナの現在の数のスケーリングを実施した後、機械学習構成要素５０２は、移動モジュール５４２を利用して、マイクロサービス５１４に対応する計算ノード間のコンテナ、および複数の他のマイクロサービスに対応するコンテナの移動を最適化する。言い換えれば、移動モジュール５４２は、どのコンテナが、およびネットワーク内のどこに（すなわち、どの計算ノードに）、移動されなければならないかを識別する。例えば、移動モジュール５４２は、定義済みのネットワーク・レイテンシ閾値レベルより大きいネットワーク・レイテンシを有するマイクロサービスを識別する。移動モジュール５４２は、互いにほぼ類似したマイクロサービス（例えば、抽出されたノード間特徴データに基づく、定義された程度の類似度を互いに有するマイクロサービス）も識別する。移動モジュール５４２は、次いで、ネットワーク・レイテンシを低減させるために、定義された程度の類似度を有するマイクロサービスに対応するコンテナを同じ計算ノードに移動させるようにオーケストレータ構成要素５０６に命令する。移動モジュール５４２は、さらに、移動に関連付けられたコストおよびマイクロサービス・セキュリティを計算し、コストおよびマイクロサービス・セキュリティも、評価モジュール５４４によって使用されることになる。

オーケストレータ構成要素５０６は、コンテナ・オーケストレーション・ポリシを使用してコンテナを導入、モニタ、および構成する方法を定義する。実行時間中、マイクロサービス・ワークロードに応じて、オーケストレータ構成要素５０６は、計算ノードのコンテナをスケール・アップまたはスケール・ダウンし、機械学習構成要素５０２の予想モジュール５４０および移動モジュール５４２によって生成された、ならびに、これらのモジュールから受信された、コンテナ・オーケストレーション・ポリシに基づいて、計算ノード間でコンテナを移動させる。

評価モジュール５４４は、予想モジュール５４０および移動モジュール５４２によって実施されたコンテナ・スケーリングおよび移動介入を評価する。評価モジュール５４４は、例えば、原因推論条件付け（causal inference conditioning）方程式を利用して、どのようにコンテナ・スケーリングがコストおよびネットワーク・レイテンシに影響を及ぼしたか、ならびに、どのようにコンテナ移動がコスト、ネットワーク・レイテンシ、およびマイクロサービス・セキュリティに影響を及ぼしたかなど、各介入のインパクトを測定し得る。例えば、Ｅ（主要性能指標／介入）は、いくつかのタイプの介入（例えば、コンテナ・スケーリングまたはコンテナ移動あるいはその両方）が実施される条件による、主要性能指標（例えば、コスト、レイテンシ、セキュリティ、および同様のもの）インパクトである。

評価モジュール５４４は、以下の２つの方程式を使用して、予想モジュール５４０の主要性能指標インパクトを評価し、
コスト・デルタ値＝Ｅ（コスト／スケーリング前）－Ｅ（コスト／スケーリング後）、および
レイテンシ・デルタ値＝Ｅ（レイテンシ／スケーリング前）－Ｅ（レイテンシ／スケーリング後）
ここで、コストおよびレイテンシ・デルタ値は、予想モジュール５４０の予測ごとの自動コンテナ・スケーリングのインパクトを測定する。

評価モジュール５４４は、以下の３つの方程式を使用して、移動モジュール５４２の主要性能指標インパクトを評価し、
コスト・デルタ値＝Ｅ（コスト／移動前）－Ｅ（コスト／移動後）、
レイテンシ・デルタ値＝Ｅ（レイテンシ／移動前）－Ｅ（レイテンシ／移動後）、および
セキュリティ・デルタ値＝Ｅ（セキュリティ／移動前）－Ｅ（セキュリティ／移動後）
ここで、コスト、レイテンシ、およびセキュリティ・デルタ値は、移動モジュール５４２のマイクロサービス類似度分析ごとの自動コンテナ移動のインパクトを測定する。

主要性能指標ダッシュボード構成要素５０８は、主要性能指標ダッシュボードを生成および表示し、ユーザは主要性能指標ダッシュボードを利用して、評価モジュール５４４によって生成された出力（すなわち、予想モジュール５４０および移動モジュール５４２にそれぞれ対応する異なるデルタ値）を視覚化する。結果として、ユーザは、例えば、コンテナ・スケーリングおよび移動コスト、ネットワーク・レイテンシ、マイクロサービス・セキュリティ、ならびに同様のものなど、選択された主要性能指標のセットに関して、予想モジュール５４０および移動モジュール５４２のコンテナ・オーケストレーション介入のインパクトをモニタすることができる。

図６をここで参照すると、例証的実施形態による予想テーブルの例を示す図が描写されている。予想テーブル６００は、例えば図５の予想モジュール５４０などの、予想モジュールに実装され得る。予想テーブル６００は、Ｘ軸のタイムライン６０２およびＹ軸のコンテナ数６０４を含む。

タイムライン６０２は、ユーザ定義の時間ウィンドウであり、調節可能である。言い換えれば、タイムライン６０２の単位は、例えば、時間、日、週、月、または同様のものでもよく、時系列予想モデルを使用した将来のマイクロサービス・ワークロードの予測を行うために、ユーザが予想モジュールに、どの時間ウィンドウを分析して欲しいかに依って、ユーザによって定義される。コンテナ数６０４は、タイムライン６０２の単位「２４」までは、マイクロサービスによって現在必要とされるコンテナ数を示し、その後は、マイクロサービスによって必要とされる予測コンテナ数（すなわち、予想６０６）を示す。予想テーブル６００は、予想６０６に対応する予想信頼下限６０８および予想信頼上限６１０も示す。

図７をここで参照すると、例証的実施形態によるコンテナ移動プロセスの例を示す図が描写されている。コンテナ移動プロセス７００は、例えば図５の移動モジュール５４２などの、移動モジュールで実装されてもよい。この例では、コンテナ移動プロセス７００は、計算ノードＡ７０２と計算ノードＢ７０４との間で、移動モジュールによって実施される。それでも、移動モジュールは、任意の数の計算ノード間のコンテナ移動プロセス７００を実施してもよいことに留意されたい。

また、この例では、計算ノードＡ７０２は、コンテナ７０６およびコンテナ７０８を含み、計算ノードＢ７０４は、コンテナ７１０およびコンテナ７１２を含む。それでも、計算ノードＡ７０２および計算ノードＢ７０４は、任意の数のコンテナを含んでもよいことに留意されたい。さらに、この例では、コンテナ７０６は、アプリケーション１ ７１４によって使用され、コンテナ７０８および７１２は、アプリケーション２ ７１６によって使用される。

さらに、この例では、コンテナ７０６と７１０との間にレイテンシ・ボトルネック７１８が存在する。結果として、移動モジュールは、レイテンシ・ボトルネック７１８によって引き起こされたネットワーク・レイテンシを低減させるために、コンテナ７１０を計算ノードＢ７０４から計算ノードＡ７０２に移動させる必要があると判定する。したがって、移動モジュールは、例えば図５のオーケストレータ構成要素５０６などの、オーケストレータ構成要素に対して、計算ノードＡ７０２へのコンテナ７１０の移動７２０を実施するように指示する。さらに、コンテナ７０８とアプリケーション２ ７１６との間にレイテンシ・ボトルネック７２２が存在する。結果として、移動モジュールは、レイテンシ・ボトルネック７２２によって引き起こされたネットワーク・レイテンシを低減させるために、コンテナ７０８を計算ノードＡ７０２から計算ノードＢ７０４に移動させる必要があると判定する。したがって、移動モジュールは、オーケストレータ構成要素に対して、計算ノードＢ７０４へのコンテナ７０８の移動７２４を実施するように指示する。

図８をここで参照すると、例証的実施形態によるコンテナ移動識別情報テーブルの例を示す図が描写されている。コンテナ移動識別情報テーブル８００は、例えば図５の移動モジュール５４２などの、移動モジュールに実装されてもよい。

この例では、コンテナ移動識別情報テーブル８００は、マイクロサービス８０２、依存性８０４、関係８０６、計算ノード８０８、ネットワーク・レイテンシ８１０、および共有データ属性８１２を含む。マイクロサービス８０２は、それぞれの各マイクロサービスを識別する。依存性８０４は、特定のマイクロサービス間の依存性を識別する。関係８０６は、アプリケーションに基づく特定のマイクロサービス間の関係を識別する。言い換えれば、異なるマイクロサービスが、アプリケーション・レベルで接続される。計算ノード８０８は、特定のマイクロサービスに関連付けられたネットワーク内の特定の計算ノードを識別する。ネットワーク・レイテンシ８１０は、各特定のマイクロサービスに関連付けられたネットワーク・レイテンシの量を識別する。共有データ属性８１２は、特定のマイクロサービスによってアクセスされた情報を識別する。異なるマイクロサービス間で共有するデータは、静的と可変両方のデータを含む共有データベースを介して収容され、異なるマイクロサービスが、共有データベースから必要なデータにアクセスする。

この例では、コンテナ移動識別情報テーブル８００は、ＭＳ－Ａ、ＭＳ－Ｂ、およびＭＳ－Ｘという３つのマイクロサービスを示す。コンテナ移動識別情報テーブル８００は、これらのそれぞれの依存性、アプリケーション、ノード、およびネットワーク・レイテンシも示す。移動モジュールは、依存性８０４と、関係８０６におけるアプリケーション情報と、それぞれのマイクロサービスにおいておよびそれぞれのマイクロサービスからアクセスされる共有データ属性８１２の情報とを使用して、２つのマイクロサービス間の類似度を識別する。

移動モジュールは、例えばコサイン類似度などの、類似度計算８１４を利用して、マイクロサービス類似度を判定し得る。この例では、移動モジュールは、類似度（ＭＳ－Ａ，ＭＳ－Ｂ）＝０．９５のように、マイクロサービスＡ（ＭＳ－Ａ）とマイクロサービスＢ（ＭＳ－Ｂ）の類似度計算を計算する。言い換えれば、ＭＳ－ＡとＭＳ－Ｂは、９５％の類似度を有し、これは、コンテナ移動識別情報テーブル８００に「類似」と示されている。さらに、移動モジュールは、類似度（ＭＳ－Ｂ，ＭＳ－Ｘ）＝０．３０のように、ＭＳ－ＢとマイクロサービスＸ（ＭＳ－Ｘ）の類似度計算を計算する。言い換えれば、ＭＳ－ＢとＭＳ－Ｘは、３０％の類似度しか有していない。コンテナ移動識別情報テーブル８００は、ネットワーク・レイテンシを低減させるために、ＭＳ－ＡがノードＡからノードＣに移動されるべきであることも示す。

図９Ａ～図９Ｂをここで参照すると、例証的実施形態によるコンテナベースのマイクロサービスのコンテナ・スケーリングおよび移動を予想するためのプロセスを示すフローチャートが示されている。図９Ａ～図９Ｂに示されたプロセスは、例えば、図１のサーバ１０４または図２のデータ処理システム２００などの、コンピュータで実施され得る。例えば、図９Ａ～図９Ｂに示されたプロセスは、図２の機械学習構成要素２１８で実施され得る。

プロセスは、コンピュータが、訓練済み予想モデルを形成するために、定義された期間中にそれぞれの各マイクロサービスのワークロードを満たすのに必要な履歴のコンテナ数に基づいて、ネットワーク内の複数の計算ノードで動く複数の異なるマイクロサービスのうちのそれぞれの各マイクロサービスに対応する複数のコンテナのスケーリングを予測するために使用される予想モデルを訓練するときに始まる（ステップ９０２）。コンピュータは、複数の異なるマイクロサービスのうちのそれぞれの各マイクロサービスから特徴の第１のセットを抽出する（ステップ９０４）。特徴の第１のセットは、現在の期間中に複数の計算ノードで動く複数の異なるマイクロサービスのうちのそれぞれの各マイクロサービスに対応する第１の数のコンテナと、現在の期間中に複数の計算ノードで動く複数の異なるマイクロサービスのうちのそれぞれの各マイクロサービスに対応する第１の数のコンテナの利用状態およびワークロード容量のうちの少なくとも１つと、以前の期間中に複数の計算ノードで以前に動いた複数の異なるマイクロサービスのうちのそれぞれの各マイクロサービスに対応する第２の数のコンテナと、以前の期間中に複数の計算ノードで動いた複数の異なるマイクロサービスのうちのそれぞれの各マイクロサービスに対応する第２の数のコンテナの利用状態およびワークロード容量のうちの少なくとも１つと、現在の期間中のそれぞれの各マイクロサービスの第１の数のアプリケーション・プログラミング・インターフェース・リクエストと、現在の期間中のそれぞれの各マイクロサービスの第２の数のアプリケーション・プログラミング・インターフェース・リクエストとから成るグループから選択される。

コンピュータは、訓練済み予想モデル、およびそれぞれの各マイクロサービスから抽出された特徴の第１のセットを使用して、複数の異なるマイクロサービスのうちのそれぞれの各マイクロサービスのために将来の時点で必要なコンテナの数を予測する（ステップ９０６）。コンピュータは、それぞれの各マイクロサービスのために将来の時点で必要なコンテナの数に応じて、それぞれの各マイクロサービスに対応するコンテナの現在の数の予測された変化に基づいて、スケーリング・ラベルおよびスケーリング値（例えば、１つ、２つ、３つ、または同様のものの値だけスケール・アップまたはスケール・ダウンする）を複数の異なるマイクロサービスのうちのそれぞれの各マイクロサービスに割り当てる（ステップ９０８）。コンピュータは、それぞれの各マイクロサービスに割り当てられたスケーリング・ラベルおよびスケーリング値に基づいて、複数の異なるマイクロサービスのうちのそれぞれの各マイクロサービスに対応するコンテナの現在の数を自動的に調節する（ステップ９１０）。コンテナの現在の数を調節することは、コンテナの現在の数への調節を行わないことと、将来の時点でスケール・アップが必要であることを示す割り当てられたスケーリング・ラベルおよびスケーリング値を有する特定のマイクロサービスのための１つまたは複数の追加のコンテナを生成することと、将来の時点でスケール・ダウンが必要であることを示す割り当てられたスケーリング・ラベルおよびスケーリング値を有する特定のマイクロサービスのための１つまたは複数の現在のコンテナを除去することとのうちの１つを含む。

コンピュータは、原因推論条件付けを使用して、複数の計算ノードのうち、調節された数のコンテナを有する計算ノード（例えば、スケール・アップされた数のコンテナを有する計算ノード、およびスケール・ダウンされた数のコンテナを有する計算ノード）に関して、コンテナ・スケーリング・コストおよびネットワーク・レイテンシの主要性能指標の第１のセットに対する、複数の異なるマイクロサービスのうちのそれぞれの各マイクロサービスに対応するコンテナの現在の数を調節することが有する第１のインパクトを判定する（ステップ９１２）。コンピュータは、複数の異なるマイクロサービスのうちのそれぞれの各マイクロサービスから特徴の第２のセットを抽出する（ステップ９１４）。特徴の第２のセットは、特定のマイクロサービス間の依存性に関する情報（例えば、どの特定のマイクロサービスが、複数の異なるマイクロサービスにおける他のマイクロサービスへのアプリケーション・プログラミング・インターフェース・コールを行うか）と、特定のマイクロサービス間の関係に関する情報（例えば、どのアプリケーションが、同じマイクロサービスを使用するか）と、複数の異なるマイクロサービスのうちのそれぞれの各マイクロサービスに対応する複数のコンテナのうちの各コンテナに対応する地理的ロケーションに関する情報（例えば、複数の異なるマイクロサービスにおける同じマイクロサービスに対応する複数のコンテナを動かす各特定の計算ノードが地理的に置かれた場所）と、複数の計算ノードにおけるそれぞれの各ノードに対応するネットワーク帯域幅およびレイテンシ・パラメータとから成るグループから選択される。コンピュータは、それぞれの各マイクロサービスから抽出された特徴の第２のセットに基づいて、複数の異なるマイクロサービスのうちの特定のマイクロサービス間のマイクロサービス類似度の度合いを判定する（ステップ９１６）。

コンピュータは、複数の計算ノードにおける計算ノードの第１のセットで動く、ネットワーク・レイテンシ閾値レベルを上回るネットワーク・レイテンシ値を有するコンテナの第１のセットを識別する（ステップ９１８）。コンピュータは、特定のマイクロサービス間で判定されたマイクロサービス類似度の度合いに基づいて、計算ノードの第１のセットで動く、ネットワーク・レイテンシ閾値レベルを上回るネットワーク・レイテンシ値を有するコンテナの第１のセットに対する、コンテナ類似度閾値レベルを上回るコンテナ類似度の度合いを有するコンテナの第２のセットを動かす、複数の計算ノードにおける計算ノードの第２のセットを判定する（ステップ９２０）。コンピュータは、同じ度合いのコンテナ類似度を共有するコンテナの第１のセットおよびコンテナの第２のセットにおける特定のコンテナを識別する（ステップ９２２）。

コンピュータは、ネットワークのレイテンシを減少させるために、同じ度合いのコンテナ類似度を共有するこれらの特定のコンテナを同じ計算ノードに移動させる（ステップ９２４）。コンピュータは、原因推論条件付けを使用して、２つの計算ノードに関して、コンテナ移動コスト、ネットワーク・レイテンシ、およびマイクロサービス・セキュリティの主要性能指標の第２のセットに対する、２つの計算ノード間でこれらの特定のコンテナを移動させることが有する第２のインパクトを判定する（ステップ９２６）。コンピュータは、主要性能指標ダッシュボード内で、主要性能指標の第１のセットに対する、複数の異なるマイクロサービスのうちのそれぞれの各マイクロサービスに対応するコンテナの現在の数を調節することが有する第１のインパクト、および主要性能指標の第２のセットに対する、２つの計算ノード間でこれらの特定のコンテナを移動させることが有する第２のインパクトを表示する（ステップ９２８）。プロセスは、その後、終了する。

したがって、本発明の例証的実施形態は、マイクロサービスのノード内およびノード間特徴を評価し、次いで、コンテナ・オーケストレーションの結果を評価することによって、コンテナを自動的にオーケストレートするためのコンピュータ実行方法、コンピュータ・システム、およびコンピュータ・プログラム製品を提供する。本発明の様々な実施形態の説明を例証のために提示してきたが、網羅的であること、または、開示された実施形態に限定されることを意図するものではない。多くの変更形態および変形形態が、説明される実施形態の範囲から逸脱することなく、当業者には明らかであろう。本明細書で使用される専門用語は、実施形態の原理、実用的応用、もしくは市場で見つかる技術に対する技術的改善を最もよく説明するように、または、本明細書で開示された実施形態を当業者が理解できるように、選ばれた。

Claims (20)

1. コンテナベースのマイクロサービスのためのコンテナ・スケーリングおよび移動を自動的に実施するためのコンピュータ実行方法であって、
   コンピュータによって、複数の異なるマイクロサービスのうちのそれぞれの各マイクロサービスから特徴の第１のセットを抽出することと、
   前記コンピュータによって、訓練済み予想モデル、およびそれぞれの各マイクロサービスから抽出された特徴の前記第１のセットを使用して、前記複数の異なるマイクロサービスのうちのそれぞれの各マイクロサービスのために将来の時点で必要なコンテナの数を予測することと、
   前記コンピュータによって、それぞれの各マイクロサービスのために前記将来の時点で必要なコンテナの前記数に応じて、それぞれの各マイクロサービスに対応するコンテナの現在の数の予測された変化に基づいて、スケーリング・ラベルおよびスケーリング値を前記複数の異なるマイクロサービスのうちのそれぞれの各マイクロサービスに割り当てることと、
   前記コンピュータによって、それぞれの各マイクロサービスに割り当てられた前記スケーリング・ラベルおよび前記スケーリング値に基づいて、前記複数の異なるマイクロサービスのうちのそれぞれの各マイクロサービスに対応するコンテナの前記現在の数を自動的に調節することと、
   を含む、コンピュータ実行方法。
2. 前記コンピュータによって、前記複数の異なるマイクロサービスのうちのそれぞれの各マイクロサービスから特徴の第２のセットを抽出することと、
   前記コンピュータによって、それぞれの各マイクロサービスから抽出された特徴の前記第２のセットに基づいて、前記複数の異なるマイクロサービスのうちの特定のマイクロサービス間のマイクロサービス類似度の度合いを判定することと
   をさらに含む、請求項１に記載のコンピュータ実行方法。
3. 前記コンピュータによって、複数の計算ノードにおける計算ノードの第１のセットで動く、ネットワーク・レイテンシ閾値レベルを上回るネットワーク・レイテンシ値を有するコンテナの第１のセットを識別することと、
   前記コンピュータによって、前記特定のマイクロサービス間で判定されたマイクロサービス類似度の前記度合いに基づいて、計算ノードの前記第１のセットで動く、前記ネットワーク・レイテンシ閾値レベルを上回る前記ネットワーク・レイテンシ値を有するコンテナの前記第１のセットに対する、コンテナ類似度閾値レベルを上回るコンテナ類似度の度合いを有するコンテナの第２のセットを動かす、前記複数の計算ノードにおける計算ノードの第２のセットを判定することと
   をさらに含む、請求項２に記載のコンピュータ実行方法。
4. 前記コンピュータによって、同じ度合いのコンテナ類似度を共有するコンテナの前記第１のセットおよびコンテナの前記第２のセットにおける特定のコンテナを識別することと、
   前記コンピュータによって、ネットワークのレイテンシを減少させるために、前記同じ度合いのコンテナ類似度を共有するこれらの特定のコンテナを同じ計算ノードに移動させることと
   をさらに含む、請求項３に記載のコンピュータ実行方法。
5. 前記コンピュータによって、原因推論条件付けを使用して、前記複数の計算ノードのうち、調節された数のコンテナを有する計算ノードに関して、主要性能指標の第１のセットに対する、前記複数の異なるマイクロサービスのうちのそれぞれの各マイクロサービスに対応するコンテナの前記現在の数を調節することが有する第１のインパクトを判定することと、
   前記コンピュータによって、前記原因推論条件付けを使用して、２つの計算ノードに関して、主要性能指標の第２のセットに対する、前記２つの計算ノード間でこれらの特定のコンテナを移動させることが有する第２のインパクトを判定することと、
   前記コンピュータによって、主要性能指標ダッシュボード内で、主要性能指標の前記第１のセットに対する、前記複数の異なるマイクロサービスのうちのそれぞれの各マイクロサービスに対応するコンテナの前記現在の数を調節することが有する前記第１のインパクト、および主要性能指標の前記第２のセットに対する、２つの計算ノード間でこれらの特定のコンテナを移動させることが有する前記第２のインパクトを表示することと
   をさらに含む、請求項４に記載のコンピュータ実行方法。
6. 前記コンピュータによって、前記訓練済み予想モデルを形成するために、定義された期間中にそれぞれの各マイクロサービスのワークロードを満たすのに必要な履歴のコンテナ数に基づいて、ネットワーク内の複数の計算ノードで動く複数の異なるマイクロサービスのうちのそれぞれの各マイクロサービスに対応する複数のコンテナのスケーリングを予測するために使用される予想モデルを訓練すること
   をさらに含む、請求項１に記載のコンピュータ実行方法。
7. 前記予想モデルが、自己回帰和分移動平均モデルである、請求項６に記載のコンピュータ実行方法。
8. 特徴の前記第１のセットが、現在の期間中に複数の計算ノードで動く前記複数の異なるマイクロサービスのうちのそれぞれの各マイクロサービスに対応する第１の数のコンテナと、前記現在の期間中に前記複数の計算ノードで動く前記複数の異なるマイクロサービスのうちのそれぞれの各マイクロサービスに対応する前記第１の数のコンテナの利用状態およびワークロード容量のうちの少なくとも１つと、以前の期間中に前記複数の計算ノードで以前に動いた前記複数の異なるマイクロサービスのうちのそれぞれの各マイクロサービスに対応する第２の数のコンテナと、前記以前の期間中に前記複数の計算ノードで動いた前記複数の異なるマイクロサービスのうちのそれぞれの各マイクロサービスに対応する前記第２の数のコンテナの利用状態およびワークロード容量のうちの少なくとも１つと、前記現在の期間中のそれぞれの各マイクロサービスの第１の数のアプリケーション・プログラミング・インターフェース・リクエストと、前記現在の期間中のそれぞれの各マイクロサービスの第２の数のアプリケーション・プログラミング・インターフェース・リクエストとから成るグループから選択される、請求項１に記載のコンピュータ実行方法。
9. 特徴の前記第２のセットが、特定のマイクロサービス間の依存性に関する情報と、特定のマイクロサービス間の関係に関する情報と、前記複数の異なるマイクロサービスのうちのそれぞれの各マイクロサービスに対応する複数のコンテナのうちの各コンテナに対応する地理的ロケーションに関する情報と、複数の計算ノードにおけるそれぞれの各ノードに対応するネットワーク帯域幅およびレイテンシ・パラメータとから成るグループから選択される、請求項２に記載のコンピュータ実行方法。
10. コンテナの前記現在の数を調節することが、前記将来の時点でスケール・アップが必要であることを示す割り当てられたスケーリング・ラベルおよびスケーリング値を有する特定のマイクロサービスのための１つまたは複数の追加のコンテナを生成することと、前記将来の時点でスケール・ダウンが必要であることを示す割り当てられたスケーリング・ラベルおよびスケーリング値を有する特定のマイクロサービスのための１つまたは複数の現在のコンテナを除去することとのうちの１つを含む、請求項１に記載のコンピュータ実行方法。
11. コンテナベースのマイクロサービスのためのコンテナ・スケーリングおよび移動を自動的に実施するためのコンピュータ・システムであって、
    バス・システムと、
    前記バス・システムに接続されたストレージ・デバイスであって、プログラム命令を格納する、前記ストレージ・デバイスと、
    前記バス・システムに接続されたプロセッサであって、
    複数の異なるマイクロサービスのうちのそれぞれの各マイクロサービスから特徴の第１のセットを抽出すること、
    訓練済み予想モデル、およびそれぞれの各マイクロサービスから抽出された特徴の前記第１のセットを使用して、前記複数の異なるマイクロサービスのうちのそれぞれの各マイクロサービスのために将来の時点で必要なコンテナの数を予測すること、
    それぞれの各マイクロサービスのために前記将来の時点で必要なコンテナの前記数に応じて、それぞれの各マイクロサービスに対応するコンテナの現在の数の予測された変化に基づいて、スケーリング・ラベルおよびスケーリング値を前記複数の異なるマイクロサービスのうちのそれぞれの各マイクロサービスに割り当てること、ならびに
    それぞれの各マイクロサービスに割り当てられた前記スケーリング・ラベルおよび前記スケーリング値に基づいて、前記複数の異なるマイクロサービスのうちのそれぞれの各マイクロサービスに対応するコンテナの前記現在の数を自動的に調節すること
    を行うための前記プログラム命令を実行する、前記プロセッサと
    を備える、コンピュータ・システム。
12. 前記プロセッサが、
    前記複数の異なるマイクロサービスのうちのそれぞれの各マイクロサービスから特徴の第２のセットを抽出することと、
    それぞれの各マイクロサービスから抽出された特徴の前記第２のセットに基づいて、前記複数の異なるマイクロサービスのうちの特定のマイクロサービス間のマイクロサービス類似度の度合いを判定することと
    を行うために前記プログラム命令をさらに実行する、請求項１１に記載のコンピュータ・システム。
13. 前記プロセッサが、
    複数の計算ノードにおける計算ノードの第１のセットで動く、ネットワーク・レイテンシ閾値レベルを上回るネットワーク・レイテンシ値を有するコンテナの第１のセットを識別することと、
    前記特定のマイクロサービス間で判定されたマイクロサービス類似度の前記度合いに基づいて、計算ノードの前記第１のセットで動く、前記ネットワーク・レイテンシ閾値レベルを上回る前記ネットワーク・レイテンシ値を有するコンテナの前記第１のセットに対する、コンテナ類似度閾値レベルを上回るコンテナ類似度の度合いを有するコンテナの第２のセットを動かす、前記複数の計算ノードにおける計算ノードの第２のセットを判定することと
    を行うために前記プログラム命令をさらに実行する、請求項１２に記載のコンピュータ・システム。
14. 前記プロセッサが、
    同じ度合いのコンテナ類似度を共有するコンテナの前記第１のセットおよびコンテナの前記第２のセットにおける特定のコンテナを識別することと、
    ネットワークのレイテンシを減少させるために、前記同じ度合いのコンテナ類似度を共有するこれらの特定のコンテナを同じ計算ノードに移動させることと
    を行うために前記プログラム命令をさらに実行する、請求項１３に記載のコンピュータ・システム。
15. 前記プロセッサが、
    原因推論条件付けを使用して、前記複数の計算ノードのうち、調節された数のコンテナを有する計算ノードに関して、主要性能指標の第１のセットに対する、前記複数の異なるマイクロサービスのうちのそれぞれの各マイクロサービスに対応するコンテナの前記現在の数を調節することが有する第１のインパクトを判定することと、
    前記原因推論条件付けを使用して、２つの計算ノードに関して、主要性能指標の第２のセットに対する、前記２つの計算ノード間でこれらの特定のコンテナを移動させることが有する第２のインパクトを判定することと、
    主要性能指標ダッシュボード内で、主要性能指標の前記第１のセットに対する、前記複数の異なるマイクロサービスのうちのそれぞれの各マイクロサービスに対応するコンテナの前記現在の数を調節することが有する前記第１のインパクト、および主要性能指標の前記第２のセットに対する、２つの計算ノード間でこれらの特定のコンテナを移動させることが有する前記第２のインパクトを表示することと
    を行うために前記プログラム命令をさらに実行する、請求項１４に記載のコンピュータ・システム。
16. コンテナベースのマイクロサービスのためのコンテナ・スケーリングおよび移動を自動的に実施するためのコンピュータ・プログラム製品であって、前記コンピュータ・プログラム製品が、プログラム命令を具体化するコンピュータ可読ストレージ媒体を備え、前記プログラム命令が、
    コンピュータによって、複数の異なるマイクロサービスのうちのそれぞれの各マイクロサービスから特徴の第１のセットを抽出することと、
    前記コンピュータによって、訓練済み予想モデル、およびそれぞれの各マイクロサービスから抽出された特徴の前記第１のセットを使用して、前記複数の異なるマイクロサービスのうちのそれぞれの各マイクロサービスのために将来の時点で必要なコンテナの数を予測することと、
    前記コンピュータによって、それぞれの各マイクロサービスのために前記将来の時点で必要なコンテナの前記数に応じて、それぞれの各マイクロサービスに対応するコンテナの現在の数の予測された変化に基づいて、スケーリング・ラベルおよびスケーリング値を前記複数の異なるマイクロサービスのうちのそれぞれの各マイクロサービスに割り当てることと、
    前記コンピュータによって、それぞれの各マイクロサービスに割り当てられた前記スケーリング・ラベルおよび前記スケーリング値に基づいて、前記複数の異なるマイクロサービスのうちのそれぞれの各マイクロサービスに対応するコンテナの前記現在の数を自動的に調節することと
    を行う方法を前記コンピュータに実施させるように前記コンピュータによって実行可能な、コンピュータ・プログラム製品。
17. 前記コンピュータによって、前記複数の異なるマイクロサービスのうちのそれぞれの各マイクロサービスから特徴の第２のセットを抽出することと、
    前記コンピュータによって、それぞれの各マイクロサービスから抽出された特徴の前記第２のセットに基づいて、前記複数の異なるマイクロサービスのうちの特定のマイクロサービス間のマイクロサービス類似度の度合いを判定することと
    をさらに含む、請求項１６に記載のコンピュータ・プログラム製品。
18. 前記コンピュータによって、複数の計算ノードにおける計算ノードの第１のセットで動く、ネットワーク・レイテンシ閾値レベルを上回るネットワーク・レイテンシ値を有するコンテナの第１のセットを識別することと、
    前記コンピュータによって、前記特定のマイクロサービス間で判定されたマイクロサービス類似度の前記度合いに基づいて、計算ノードの前記第１のセットで動く、前記ネットワーク・レイテンシ閾値レベルを上回る前記ネットワーク・レイテンシ値を有するコンテナの前記第１のセットに対する、コンテナ類似度閾値レベルを上回るコンテナ類似度の度合いを有するコンテナの第２のセットを動かす、前記複数の計算ノードにおける計算ノードの第２のセットを判定することと
    をさらに含む、請求項１７に記載のコンピュータ・プログラム製品。
19. 前記コンピュータによって、同じ度合いのコンテナ類似度を共有するコンテナの前記第１のセットおよびコンテナの前記第２のセットにおける特定のコンテナを識別することと、
    前記コンピュータによって、ネットワークのレイテンシを減少させるために、前記同じ度合いのコンテナ類似度を共有するこれらの特定のコンテナを同じ計算ノードに移動させることと
    をさらに含む、請求項１８に記載のコンピュータ・プログラム製品。
20. 前記コンピュータによって、原因推論条件付けを使用して、前記複数の計算ノードのうち、調節された数のコンテナを有する計算ノードに関して、主要性能指標の第１のセットに対する、前記複数の異なるマイクロサービスのうちのそれぞれの各マイクロサービスに対応するコンテナの前記現在の数を調節することが有する第１のインパクトを判定することと、
    前記コンピュータによって、前記原因推論条件付けを使用して、２つの計算ノードに関して、主要性能指標の第２のセットに対する、前記２つの計算ノード間でこれらの特定のコンテナを移動させることが有する第２のインパクトを判定することと、
    前記コンピュータによって、主要性能指標ダッシュボード内で、主要性能指標の前記第１のセットに対する、前記複数の異なるマイクロサービスのうちのそれぞれの各マイクロサービスに対応するコンテナの前記現在の数を調節することが有する前記第１のインパクト、および主要性能指標の前記第２のセットに対する、２つの計算ノード間でこれらの特定のコンテナを移動させることが有する前記第２のインパクトを表示することと
    をさらに含む、請求項１９に記載のコンピュータ・プログラム製品。