JP7493450B2 - コンテナのグループの動的マイグレーション - Google Patents

コンテナのグループの動的マイグレーション Download PDF

Info

Publication number
JP7493450B2
JP7493450B2 JP2020518513A JP2020518513A JP7493450B2 JP 7493450 B2 JP7493450 B2 JP 7493450B2 JP 2020518513 A JP2020518513 A JP 2020518513A JP 2020518513 A JP2020518513 A JP 2020518513A JP 7493450 B2 JP7493450 B2 JP 7493450B2
Authority
JP
Japan
Prior art keywords
container
service
pod
pods
usage
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2020518513A
Other languages
English (en)
Other versions
JP2020536319A (ja
JP2020536319A5 (ja
Inventor
カルダト，クラウディオ
ショール，ボリス
Original Assignee
オラクル・インターナショナル・コーポレイション
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by オラクル・インターナショナル・コーポレイション filed Critical オラクル・インターナショナル・コーポレイション
Publication of JP2020536319A publication Critical patent/JP2020536319A/ja
Publication of JP2020536319A5 publication Critical patent/JP2020536319A5/ja
Priority to JP2023115382A priority Critical patent/JP2023139086A/ja
Application granted granted Critical
Publication of JP7493450B2 publication Critical patent/JP7493450B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00—Arrangements for program control, e.g. control units
    • G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46—Multiprogramming arrangements
    • G06F9/54—Interprogram communication
    • G06F9/547—Remote procedure calls [RPC]; Web services
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F8/00—Arrangements for software engineering
    • G06F8/60—Software deployment
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00—Error detection; Error correction; Monitoring
    • G06F11/07—Responding to the occurrence of a fault, e.g. fault tolerance
    • G06F11/16—Error detection or correction of the data by redundancy in hardware
    • G06F11/20—Error detection or correction of the data by redundancy in hardware using active fault-masking, e.g. by switching out faulty elements or by switching in spare elements
    • G06F11/202—Error detection or correction of the data by redundancy in hardware using active fault-masking, e.g. by switching out faulty elements or by switching in spare elements where processing functionality is redundant
    • G06F11/2023—Failover techniques
    • G06F11/203—Failover techniques using migration
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00—Error detection; Error correction; Monitoring
    • G06F11/36—Preventing errors by testing or debugging software
    • G06F11/362—Software debugging
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00—Error detection; Error correction; Monitoring
    • G06F11/36—Preventing errors by testing or debugging software
    • G06F11/362—Software debugging
    • G06F11/3644—Software debugging by instrumenting at runtime
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F21/00—Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
    • G06F21/60—Protecting data
    • G06F21/602—Providing cryptographic facilities or services
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00—Arrangements for program control, e.g. control units
    • G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/44—Arrangements for executing specific programs
    • G06F9/448—Execution paradigms, e.g. implementations of programming paradigms
    • G06F9/4488—Object-oriented
    • G06F9/449—Object-oriented method invocation or resolution
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00—Arrangements for program control, e.g. control units
    • G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/44—Arrangements for executing specific programs
    • G06F9/455—Emulation; Interpretation; Software simulation, e.g. virtualisation or emulation of application or operating system execution engines
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00—Arrangements for program control, e.g. control units
    • G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/44—Arrangements for executing specific programs
    • G06F9/455—Emulation; Interpretation; Software simulation, e.g. virtualisation or emulation of application or operating system execution engines
    • G06F9/45533—Hypervisors; Virtual machine monitors
    • G06F9/45558—Hypervisor-specific management and integration aspects
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00—Arrangements for program control, e.g. control units
    • G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46—Multiprogramming arrangements
    • G06F9/48—Program initiating; Program switching, e.g. by interrupt
    • G06F9/4806—Task transfer initiation or dispatching
    • G06F9/4843—Task transfer initiation or dispatching by program, e.g. task dispatcher, supervisor, operating system
    • G06F9/4881—Scheduling strategies for dispatcher, e.g. round robin, multi-level priority queues
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00—Arrangements for program control, e.g. control units
    • G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46—Multiprogramming arrangements
    • G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
    • G06F9/5005—Allocation of resources, e.g. of the central processing unit [CPU] to service a request
    • G06F9/5027—Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resource being a machine, e.g. CPUs, Servers, Terminals
    • G06F9/505—Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resource being a machine, e.g. CPUs, Servers, Terminals considering the load
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00—Arrangements for program control, e.g. control units
    • G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46—Multiprogramming arrangements
    • G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
    • G06F9/5061—Partitioning or combining of resources
    • G06F9/5072—Grid computing
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00—Arrangements for program control, e.g. control units
    • G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46—Multiprogramming arrangements
    • G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
    • G06F9/5083—Techniques for rebalancing the load in a distributed system
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00—Network arrangements or protocols for supporting network services or applications
    • H04L67/01—Protocols
    • H04L67/10—Protocols in which an application is distributed across nodes in the network
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00—Arrangements for program control, e.g. control units
    • G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/44—Arrangements for executing specific programs
    • G06F9/455—Emulation; Interpretation; Software simulation, e.g. virtualisation or emulation of application or operating system execution engines
    • G06F9/45533—Hypervisors; Virtual machine monitors
    • G06F9/45558—Hypervisor-specific management and integration aspects
    • G06F2009/45562—Creating, deleting, cloning virtual machine instances
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0481—Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
    • G06F3/0482—Interaction with lists of selectable items, e.g. menus
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F8/00—Arrangements for software engineering
    • G06F8/60—Software deployment
    • G06F8/61—Installation
    • G06F8/63—Image based installation; Cloning; Build to order
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F8/00—Arrangements for software engineering
    • G06F8/70—Software maintenance or management
    • G06F8/71—Version control; Configuration management

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Software Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Quality & Reliability (AREA)
  • Computer Hardware Design (AREA)
  • Signal Processing (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Mathematical Physics (AREA)
  • Health & Medical Sciences (AREA)
  • Bioethics (AREA)
  • General Health & Medical Sciences (AREA)
  • Computer Security & Cryptography (AREA)
  • Stored Programmes (AREA)
  • Debugging And Monitoring (AREA)

Description

関連出願の相互参照
本願は、本明細書に引用により援用する２０１７年９月３０日出願の米国仮出願第６２／５６６，３５１号に基づく利益を主張する。本願はまた、本願と同日に出願され本願と共通の譲受人に譲渡された以下の出願に関連し、これらの出願各々も本明細書に引用により援用する。
・２０１８年９月２８日に出願されAPI REGISTRY IN A CONTAINER PLATFORM PROVIDING PROPERTY-BASED API FUNCTIONALITYと題された米国特許出願第１６／１４７，３０５号（代理人整理番号０８８３２５－１０９０７４６）
・２０１８年９月２８日に出願されDYNAMIC NODE REBALANCING BETWEEN CONTAINER PLATFORMSと題された米国特許出願１６／１４７，３４３号（代理人整理番号０８８３２５－１０９０７４７）
・２０１８年９月２８日に出願されOPTIMIZING REDEPLOYMENT OF FUNCTIONS AND SERVICES ACROSS MULTIPLE CONTAINER PLATFORMS AND INSTALLATIONSと題された米国特許出願第１６／１４７，３３２号（代理人整理番号０８８３２５－１０９０７４８）
・２０１８年９月２８日に出願されREAL-TIME DEBUGGING INSTANCES IN A DEPLOYED CONTAINER PLATFORMと題された米国特許出願１６／１４７，３５１号（代理人整理番号０８８３２５－１０９０７５３）
背景
理論上、任意の形態のコンテナは、情報のパッケージングおよび情報との対話のための標準化された方法を表している。コンテナは、互いに分離することが可能であり、相互汚染（コンタミネーション）のいかなるリスクも伴うことなく並列に使用することが可能である。現代のソフトウェアの世界において、「コンテナ」という用語は固有の意味を獲得している。Docker（登録商標）コンテナのようなソフトウェアコンテナは、１つのソフトウェアを論理的にカプセル化し定義するソフトウェア構造である。コンテナにカプセル化される最も一般的なタイプのソフトウェアは、アプリケーション、サービス、またはマイクロサービスである。現代のコンテナはまた、オペレーティングシステム、ライブラリ、ストレージボリューム、構成ファイル、アプリケーションバイナリ、および、典型的なコンピューティング環境において見出されるであろうテクノロジースタックのその他の部分のような、アプリケーション／サービスが動作するのに必要なソフトウェアサポートすべてを含む。そのため、このコンテナ環境を使用することにより、各々が自身のサービスを任意の環境で実行する複数のコンテナを作成することができる。コンテナは、プロダクションデータセンター、オンプレミスデータセンター、クラウドコンピューティングプラットフォームなどにおいて、いかなる変更も伴うことなくデプロイすることができる。クラウド上にコンテナを立ち上げることは、ローカルワークステーション上にコンテナを立ち上げることと同一である。
現代のサービス指向アーキテクチャおよびクラウドコンピューティングプラットフォームは、大きなタスクを多数の小さな特定のタスクに分割する。コンテナをインスタンス化することによって個々の特定のタスクに集中することができ、さらに、複数のコンテナが協働することによって高度なアプリケーションを実現することができる。これはマイクロサービスアーキテクチャと呼ばれることがあり、各コンテナは、独立してアップグレードすることが可能なさまざまなバージョンのプログラミング言語およびライブラリを使用することができる。コンテナ内の処理には分離されているという性質があるので、コンテナは、より大きくよりモノリシックなアーキテクチャに対して行われる変更と比較すると、手間またはリスクがほとんどない状態でアップグレードおよびリプレイスが可能である。コンテナプラットフォームを実行するために仮想マシンを使用できるが、このマイクロサービスアーキテクチャの実行において、コンテナプラットフォームは従来の仮想マシンよりも遥かに効率的である。
簡単な概要
いくつかの実施形態において、コンテナ環境におけるコンテナポッド使用量を再バランシングする方法は、複数のコンテナポッドをコンテナ環境における複数のコンテナノードにデプロイするステップを含み得る。複数のコンテナポッドは各々１つ以上のサービスを含み得る。複数のコンテナノードは各々１つ以上のコンテナポッドを含み得る。複数のコンテナポッドは、複数のコンテナポッド各々の使用量ファクタの最初の特徴付けに基づいて、複数のコンテナノードにデプロイされてもよい。この方法はまた、複数のコンテナノードへのデプロイメント後に複数のコンテナポッド各々の実際の使用量ファクタをモニタリングするステップと、複数のコンテナポッドのうち、その使用量ファクタの最初の特徴付けからずれている１つ以上のコンテナポッドを特定するステップと、１つ以上のコンテナポッドを実際の使用量ファクタに基づいて複数のコンテナノードに再分配するステップとを含み得る。
いくつかの実施形態において、１つ以上のプロセッサによって実行されると１つ以上のプロセッサに動作を実行させる命令を含む非一時的なコンピュータ読取可能媒体において、当該動作は、複数のコンテナポッドをコンテナ環境における複数のコンテナノードにデプロイすることを含み得る。複数のコンテナポッドは各々１つ以上のサービスを含み得る。複数のコンテナノードは各々１つ以上のコンテナポッドを含み得る。複数のコンテナポッドは、複数のコンテナポッド各々の使用量ファクタの最初の特徴付けに基づいて、複数のコンテナノードにデプロイされてもよい。この動作はまた、複数のコンテナノードへのデプロイメント後に複数のコンテナポッド各々の実際の使用量ファクタをモニタリングすることと、複数のコンテナポッドのうち、その使用量ファクタの最初の特徴付けからずれている１つ以上のコンテナポッドを特定することと、１つ以上のコンテナポッドを実際の使用量ファクタに基づいて複数のコンテナノードに再分配することとを含み得る。
いくつかの実施形態において、システムは、１つ以上のプロセッサと、１つ以上のメモリデバイスとを含み得る。１つ以上のメモリデバイスは、１つ以上のプロセッサによって実行されると当該１つ以上のプロセッサに動作を実行させる命令を含み、当該動作は、複数のコンテナポッドをコンテナ環境における複数のコンテナノードにデプロイすることを含み得る。複数のコンテナポッドは各々１つ以上のサービスを含み得る。複数のコンテナノードは各々１つ以上のコンテナポッドを含み得る。複数のコンテナポッドは、複数のコンテナポッド各々の使用量ファクタの最初の特徴付けに基づいて、複数のコンテナノードにデプロイされてもよい。この動作はまた、複数のコンテナノードへのデプロイメント後に複数のコンテナポッド各々の実際の使用量ファクタをモニタリングすることと、複数のコンテナポッドのうち、その使用量ファクタの最初の特徴付けからずれている１つ以上のコンテナポッドを特定することと、１つ以上のコンテナポッドを実際の使用量ファクタに基づいて複数のコンテナノードに再分配することとを含み得る。
いずれの実施形態にも、以下の特徴のうちのいずれかまたはすべてが、限定されることなく任意の組み合わせで含まれ得る。使用量ファクタはＣＰＵ使用量ファクタを含み得る。使用量ファクタは帯域幅使用量ファクタを含み得る。使用量ファクタはメモリ使用量ファクタを含み得る。使用量ファクタは使用量ファクタのうちの少なくとも１つの最大値を含み得る。使用量ファクタは使用量ファクタのうちの少なくとも１つの平均値を含み得る。使用量ファクタは使用量ファクタのうちの少なくとも１つの率を含み得る。１つ以上のコンテナポッドを実際の使用量ファクタに基づいて複数のコンテナノードに再分配することは、１つ以上のコンテナポッドを複数の使用量ファクタの重み付けされた組み合わせを用いて分配することを含み得る。上記方法／動作はまた、第１のコンテナポッドの実際の使用量ファクタのうちの少なくとも１つが第１のしきい値を超過すると判断することと、第１のコンテナポッドの実際の使用量ファクタのうちの少なくとも１つが第１のしきい値を超過すると判断したことに応じて、第１のコンテナポッドのクローンを異なるコンテナノードにおいてインスタンス化することとを含み得る。第１のコンテナポッドのクローンはウォームアップされてもよいが、要求トラフィックは第１のコンテナポッドのクローンにルーティングする必要はない。上記方法／動作はまた、第１のコンテナポッドの実際の使用量ファクタのうちの少なくとも１つが第２のしきい値を超過すると判断することと、第１のコンテナポッドの実際の使用量ファクタのうちの少なくとも１つが第２のしきい値を超過すると判断したことに応じて、要求トラフィックを、第１のコンテナポッドから、異なるコンテナノードにおける第１のコンテナポッドのクローンにルーティングすることとを含み得る。第１のしきい値を超過することは、第１のコンテナポッドの実際の使用量ファクタが、第１のコンテナポッドの使用量ファクタの最初の特徴付けを超過する軌跡を有することを示し得る。第２のしきい値を超過することは、第１のコンテナポッドの実際の使用量ファクタが、第１のコンテナポッドを含むコンテナノードの実際の使用量ファクタが第１のコンテナノードに対する使用量ファクタ制限を超過することを生じさせ得る軌跡を有することを示し得る。１つ以上のコンテナポッドは、コンテナプラットフォームスケジューラによって複数のコンテナノードに再分配されてもよい。１つ以上のコンテナポッドは、ＡＰＩレジストリによって複数のコンテナノードに再分配されてもよい。ＡＰＩレジストリは、コンテナ環境におけるコンテナにカプセル化されたサービスとしてデプロイされてもよい。ＡＰＩレジストリは、統合開発環境（ＩＤＥ）において開発中のサービスと、コンテナ環境において既にデプロイされているサービスとが、利用できるものであってもよい。ＡＰＩレジストリは、複数のコンテナポッドのサービスエンドポイントを１つ以上のＡＰＩ関数にマッピングしてもよい。
本発明の性質および利点の一層の理解は、本明細書の残りの部分および図面を参照することによって実現するであろう。いくつかの図面で使用されている同様の参照番号は、同様の構成要素を示す。いくつかの例では、参照番号に添字を対応付けることにより、同様の複数の構成要素のうちの１つを示している。既存の添字を示すことなく参照番号に言及している場合は、そのような同様の複数の構成要素すべてに言及することを意図している。
いくつかの実施形態に係る、コンテナプラットフォームにおけるサービスのための開発およびランタイム環境のソフトウェア構造および論理構成を示す図である。 本明細書に記載の実施形態を実行するために特別に設計された専用コンピュータハードウェアシステムを示す図である。 本明細書に記載の実施形態のうちのいくつかで使用されるコンテナプラットフォームに固有であってもよいデータ組織を示す図である。 いくつかの実施形態に係る、ＩＤＥおよびプロダクション／ランタイム環境にデプロイすることができるＡＰＩレジストリを示す図である。 いくつかの実施形態に係る、実行時にコンテナプラットフォームとともに使用されるＡＰＩレジストリのデプロイを示す図である。 いくつかの実施形態に係る、ＡＰＩレジストリをデプロイする方法のフローチャートを示す図である。 いくつかの実施形態に係る、ＡＰＩレジストリが図６Ａのフローチャートを用いてデプロイされるときのコンテナプラットフォームのソフトウェア構造を示す図である。 いくつかの実施形態に係る、ＡＰＩレジストリにサービスを登録する方法のフローチャートを示す図である。 いくつかの実施形態に係る、ＡＰＩレジストリにＡＰＩを登録するためのステップのハードウェア／ソフトウェア図を示す。 いくつかの実施形態に係る、ＡＰＩレジストリに登録されたＡＰＩをブラウズおよび選択するためのグラフィカルインターフェイスおよびコマンドラインインターフェイスの例を示す図である。 いくつかの実施形態に係る、ＡＰＩレジストリに登録されたサービスおよびその対応する関数を使用する方法のフローチャートを示す図である。 ＡＰＩレジストリが如何にしてCreateUser( )関数の選択をグラフィカルインターフェイスを介して受けることができるかを示す図である。 いくつかの実施形態に係る、ＡＰＩレジストリがあるサービスのために自動的に生成したクライアントライブラリの一例を示す図である。 いくつかの実施形態に係る、サービスエンドポイントとＡＰＩ関数との間の動的バインディングを含むクライアントライブラリの実施形態を示す図である。 いくつかの実施形態に係る、サービスコールのための入力データセットを完成させるために追加データを配置できるクライアントライブラリの実施形態を示す図である。 いくつかの実施形態に係る、サービスをコールするときにリトライを処理することができるクライアントライブラリを示す図である。 いくつかの実施形態に係る、ＡＰＩプロパティをＡＰＩレジストリに与える方法を示す図である。 いくつかの実施形態に係る、如何にしてサービスがＡＰＩプロパティをＡＰＩレジストリに与えることができるかについてのハードウェア／ソフトウェア図を示す。 いくつかの実施形態に係る、ＡＰＩレジストリがプロパティを用いて高可用性のサービスをデプロイする場合のハードウェア／ソフトウェア図を示す。 いくつかの実施形態に係る、ＡＰＩレジストリを通じてエンドツーエンド暗号化を実施するプロパティのハードウェア／ソフトウェア図を示す。 いくつかの実施形態に係る、ＡＰＩレジストリがサービス１８０８の使用ロギングを実現するためのプロパティを示す図である。 いくつかの実施形態に係る、サービスの認証プロトコルを実施することが可能なプロパティのハードウェア／ソフトウェア図を示す。 いくつかの実施形態に係る、サービスのランタイムインスタンス化を可能にするプロパティのハードウェア／ソフトウェア図を示す。 いくつかの実施形態に係る、サービスのレート制限関数を実現するプロパティのハードウェア／ソフトウェア図を示す。 いくつかの実施形態に係る、複数のコンテナノードへの複数のポッドの最初のデプロイメントの機能図を示す。 時間の経過に対するＣＰＵ使用量のグラフを示す図である。 実際の使用量に基づくポッドの再デプロイメント描いた図を示す。 コンテナノード内で複数の使用量特徴を如何にして同時にバランシングできるかを示す図である。 いくつかの実施形態に係る、最初のデプロイメント後のポッドのデプロイメントを示す図である。 いくつかの実施形態に係る、時間の経過に対するＣＰＵ使用量のグラフを示す図である。 いくつかの実施形態に係る、図２７に記載されているポッドインスタンス化プロセスの図を示す。 いくつかの実施形態に係る、ポッドのインスタンス化および使用量の図を示す。 いくつかの実施形態に係る、コンテナプラットフォームにおけるサービスを動的に再バランシングする方法のフローチャートを示す図である。 実施形態のうちのいくつかを実現するための分散型システムの簡略化されたブロック図を示す。 実施形態のシステムの構成要素が提供するサービスをクラウドサービスとして提供し得るシステム環境の構成要素の簡略化されたブロック図を示す。 各種実施形態を実現し得る具体例としてのコンピュータシステムを示す図である。
詳細な説明
開発者が開発中にサービスを登録することを可能にするとともにデプロイ中およびデプロイ後双方においてこれらのサービスを他のサービスが利用できるようにする、統合開発環境（ＩＤＥ）の一部であるアプリケーションプログラミングインターフェイス（ＡＰＩ）レジストリの実施形態について説明する。ＡＰＩレジストリは、コンテナプラットフォーム上のコンテナ化されたアプリケーションとして動作するオーケストレーションされたコンテナプラットフォームの一部としてデプロイすることが可能である。サービスまたはマイクロサービスが開発されコンテナプラットフォーム上のコンテナにデプロイされると、ＡＰＩレジストリは、ディスカバリプロセスを実行することにより、利用できるサービスに対応するコンテナプラットフォーム内の利用できるエンドポイント（たとえばＩＰアドレスおよびポート番号）の場所を特定することができる。ＡＰＩレジストリはまた、ＡＰＩ定義ファイルのアップロードを受け入れることができ、ＡＰＩ定義ファイルは、生のサービスエンドポイントを、ＡＰＩレジストリを介して利用できるようにされるＡＰＩ関数にするために使用することができる。ＡＰＩレジストリは、発見されたエンドポイントを、最新状態に保たれコンテナプラットフォーム内の他のサービスが利用できるようにされたＡＰＩ関数に動的にバインドすることができる。これは、ＡＰＩ関数とサービスエンドポイントとの間のバインディングに対する任意の変更をＡＰＩレジストリが管理している間、他のサービスが静的にコールできる安定したエンドポイントを提供する。これはまた、コンテナプラットフォーム内のサービスを使用するプロセスを簡略化する。ＨＴＴＰコールに対するコードを記述する代わりに、新たなサービスは、ＡＰＩインターフェイスを使用するだけで、登録されたサービスにアクセスすることができる。
いくつかの実施形態において、ＩＤＥは、コンテナプラットフォーム内で利用することが可能でありＡＰＩレジストリに登録されているサービスの場所を開発者が特定するための、ナビゲーション／ブラウズインターフェイスを提供することができる。開発中の新たなサービスのために、ＡＰＩレジストリが既存のサービスにコールするとき、ＡＰＩレジストリは、登録されているサービスとのやり取りのために必要なすべての機能を含む一組のクライアントライブラリを自動的に生成することができる。たとえば、いくつかの実施形態は、ＡＰＩコールに対応するメンバ関数を含むオブジェクトクラスを生成することができる。開発中、新たなサービスは、これらのオブジェクトをインスタンス化するおよび／またはそれらのメンバ関数を使用するだけで、対応するＡＰＩにコールすることができる。クライアントライブラリにおけるコードは、呼び出し側サービスと登録されたサービスのエンドポイントとの間の直接接続を支配し、このやり取りに必要なすべての機能を扱うコードを含み得る。たとえば、自動的に生成されたクライアントライブラリは、ＡＰＩコールからのパラメータをサービスエンドポイントへのＨＴＴＰコールにパッケージングしフォーマットするためのコード、コールのためのパラメータセットを完成させるためにデータを配置するためのコード、情報を互換パケット（ＪＳＯＮ、ＸＭＬなど）にパッケージングするためのコード、結果パケットを受けてパースするためのコード、リトライおよびエラー条件を扱うためのコードなどを含み得る。呼び出し側サービスの観点からすると、この機能すべてを扱うためのコードは、ＡＰＩレジストリによって自動的に生成され、したがって、サービスコールの詳細を要約しカプセル化してクライアントライブラリオブジェクトにする。呼び出し側サービスに要求されるのは、ＡＰＩレジストリが作成したクライアントライブラリオブジェクトのメンバ関数を実行することだけである。
いくつかの実施形態において、ＡＰＩレジストリは、登録されたサービスのランタイム実行を定義し得る一組のプロパティのアップロードを受け入れることもできる。この一組のプロパティは、開発中に、ＡＰＩ定義ファイルとともにアップロードすることができる。これらのプロパティは、エンドツーエンド暗号化、使用／ロギング要件、ユーザ認証、オンデマンドサービスインスタンス化、高可用性のための複数のサービスデプロイメントインスタンス、レート／使用制限、およびその他のランタイム特徴等の、ランタイム特徴を定義することができる。ＡＰＩレジストリは、開発中、デプロイ中、およびランタイム中に、コンテナ環境とやり取りすることによってこれらのプロパティが満たされることを保証できる。開発中、呼び出し側サービスのために自動的に生成されたクライアントライブラリは、暗号化コード、使用ロギングコード、および／またはユーザ認証サービスとのやり取り等の、これらのプロパティの実行に必要となり得るコードを含むことができる。登録されたサービスがデプロイされているとき、ＡＰＩレジストリは、コンテナプラットフォームに対し、サービスおよび／または追加のロードバランシングモジュールの複数のインスタンスをインスタンス化することによってランタイム中のサービスの高い信頼性を保証するよう指示することができる。ランタイム中にサービスがコールされると、ＡＰＩレジストリは、オンデマンドインスタンス化のためにサービスをインスタンス化させ、使用を抑えるために行うことができるＡＰＩコールの数を制限し、その他のランタイム関数を実行することができる。
図１は、いくつかの実施形態に係る、コンテナプラットフォームにおけるサービスのための開発およびランタイム環境のソフトウェア構造および論理構成を示す。この環境は、コンテナプラットフォーム上にデプロイされるサービスおよびマイクロサービスを開発するために使用し得るＩＤＥ１０２を含み得る。ＩＤＥは、新たなサービスの記述およびテストのためにサービス開発者が使用できる基本ツールすべてを統合し提供するソフトウェアスイートである。ＩＤＥ１０２は、開発者がソースコード記述プロセスの記述、ナビゲート、統合、および視覚化を行うことを可能にする、グラフィカルユーザインターフェイス（ＧＵＩ）、コード補完機能、およびナビゲート／ブラウズインターフェイスとともに、ソースコードエディタ１０６を含み得る。ＩＤＥ１０２はまた、可変インターフェイス、即時可変インターフェイス、表現評価インターフェイス、メモリコンテンツインターフェイス、ブレークポイント可視化および機能、ならびにその他のデバッグ関数を含む、デバッガ１１０を含み得る。ＩＤＥ１０２はまた、マシンコードをコンパイルしコンパイルしたマシンコードまたは解釈されたバイトコードを実行するためのコンパイラおよび／またはインタプリタ１０８を含み得る。コンパイラ／インタプリタ１０８は、開発者が別のビルド自動化構成のためのメイクファイル（makefiles）を使用／生成することを可能にするビルドツールを含み得る。ＩＤＥ１０２のいくつかの実施形態は、コードライブラリ１１２を含み得る。コードライブラリは、一般的なコード関数、オブジェクト、インターフェイス、および／または、開発中のサービスにリンクさせることができ複数の開発で再使用できるその他の構造を含む。
サービスは、ＩＤＥ１０２内で、開発することができ、デプロイの準備が整うまで徹底的にテストすることができる。サービスはその後、プロダクション／デプロイメント環境１０４にデプロイすることができる。プロダクション／デプロイメント環境１０４は、専用ハードウェア、仮想マシン、およびコンテナ化されたプラットフォームを含む、多数の異なるハードウェアおよび／またはソフトウェア構造を含み得る。本開示よりも前において、サービス１１４がプロダクション／デプロイメント環境１０４にデプロイされたとき、サービス１１４は、ＩＤＥ１０２で使用されるツールの多くに対するランタイムアクセスを行うことができない。サービス１１４がプロダクション／デプロイメント環境１０４で実行するのに必要ないずれの機能も、コードライブラリ１１２からパッケージングしサービス１１４とともにプロダクション／デプロイメント環境１０４にデプロイする必要があった。加えて、一般的にサービス１１４は、デバッガ１１０の機能またはソースコードエディタ１０６からのソースコードのコピーのうちのいずれも伴うことなくデプロイされる。実際、サービス１１４は、ランタイム動作に必要な機能すべてとともにプロダクション／デプロイメント環境１０４にデプロイされるが、開発中にだけ使用された情報は取り除かれる。
図２は、本明細書に記載の実施形態を実行するために特別に設計された専用コンピュータハードウェアシステムを示す。一例として、サービス１１４は、サービスとしてのインフラストラクチャ（Infrastructure as a Service）（ＩａａＳ）クラウドコンピューティング環境２０２にデプロイすることができる。これは、ネットワーク上に仮想化または共有コンピューティングリソースを提供するクラウドコンピューティングの一形態である。ＩａａＳクラウドコンピューティング環境２０２はまた、サービスとしてのソフトウェア（Software as a Service）（ＳａａＳ）および／またはサービスとしてのプラットフォーム（Platform as a Service）（ＰａａＳ）アーキテクチャとして構成されたその他のクラウドコンピューティング環境を含み得る、または当該環境に結合し得る。この環境において、クラウドプロバイダは、従来オンプレミスデータセンターに存在していたハードウェアおよび／またはソフトウェアコンポーネントのインフラストラクチャをホストすることができる。このハードウェアは、サーバ、ストレージ、ネットワーキングハードウェア、ディスクアレイ、ソフトウェアライブラリ、および、ハイパーバイザレイヤのような仮想化ユーティリティを含み得る。ＩａａＳ環境２０２は、Oracle（登録商標）またはその他一般に利用できるクラウドプラットフォームのような商用ソースによって提供されることができる。ＩａａＳ環境２０２はまた、ハードウェアおよびソフトウェアのプライベートインフラストラクチャを用いてプライベートクラウドとしてデプロイすることもできる。
クラウド環境のタイプとは関係なく、サービス１１４は、複数種類のハードウェア／ソフトウェアシステムにデプロイすることができる。たとえば、サービス１１４は、専用ハードウェア２０６にデプロイすることができる。専用ハードウェア２０６は、サービス１１４に特別に割り当てられたサーバ、ディスク、オペレーティングシステム、ソフトウェアパッケージなどのようなハードウェアリソースを含み得る。たとえば、特定のサーバが、サーバ１１４との間で流れるトラフィックを処理するように割り当てられていてもよい。
別の例において、サービス１１４は、１つ以上の仮想マシン２０８として動作させるハードウェア／ソフトウェアにデプロイすることができる。仮想マシンは、専用コンピュータハードウェア２０６の機能を提供するコンピュータシステムをエミュレートしたものである。しかしながら、特定の関数専用にする代わりに、物理ハードウェアを複数の異なる仮想マシンが共有してもよい。各仮想マシンは、完全なオペレーティングシステムを含む、実行する必要があるすべての機能を提供することができる。これにより、異なるオペレーティングシステムを有する複数の仮想マシンが、同一の物理ハードウェア上で実行することができ、複数のサービスが１つのハードウェアを共有することができる。
別の例において、サービス１１４はコンテナプラットフォーム２１０にデプロイすることができる。コンテナプラットフォームは、仮想マシン２０８と、複数の重要な点において異なっている。第１に、以下図３で詳述するように、コンテナプラットフォーム２１０は、個々のサービスをコンテナにパッケージングする。各コンテナは、ホストオペレーティングシステムカーネルを共有するとともに、バイナリ、ライブラリ、およびその他の読取専用コンポーネントを共有する。これにより、コンテナを極めて軽くすることができ、わずか数メガバイトのサイズであることも多い。加えて、軽量コンテナは、仮想マシンのブートアップに数分を要するのに対して起動にわずか数秒しかかからず、非常に効率的である。また、コンテナは、オペレーティングシステム、および、コンテナプラットフォーム２１０内の一組のコンテナセットに対してともに管理できるその他のライブラリを共有することにより、管理オーバーヘッドを減じる。コンテナは同じオペレーティングシステムを共有するものの、オペレーティングシステムは分離のために仮想メモリサポートを提供するので、分離されたプラットフォームを提供する。コンテナ技術は、Docker（登録商標）コンテナ、Linux（登録商標） Libcontainer（登録商標）、オープンコンテナイニシアティブ（Open Container Initiative）（ＯＣＩ）、Kubernetes（登録商標）、ＣｏｅＯＳ、Apache（登録商標） Mesosを、それ以外のものともに含み得る。これらのコンテナは、本明細書では簡単に「コンテナプラットフォーム２１０」と呼ぶ場合があるコンテナオーケストレーションプラットフォームにデプロイすることができる。コンテナプラットフォームは、デプロイされたソフトウェアコンテナの自動化された構成、調整、および管理を維持する。コンテナプラットフォーム２１０は、サービスディスカバリ、ロードバランシング、ヘルスチェック、マルチデプロイメントなどを提供することができる。コンテナプラットフォーム２１０は、ノードおよびポッドで構成されたコンテナを実行する、Kubernetesのような一般に利用できるコンテナプラットフォームによって実現し得る。
サービス１１４をデプロイするプラットフォーム２０６、２０８、２１０とは関係なく、プラットフォーム２０６、２０８、２１０は各々、サービス１１４をコールするためのパブリックアクセスを提供するサービスエンドポイント２１２、２１４、２１６を提供できる。一般的に、これらのエンドポイントには、ＨＴＴＰコールを通してアクセスでき、これらのエンドポイントは、ＩＰアドレスおよびポート番号に対応付けられる。正しいＩＰアドレスおよびポート番号に接続することにより、その他のサービスは、公的に利用できるようにされたときにプラットフォーム２０６、２０８、２１０のうちのいずれかにデプロイされるサービスをコールすることができる。サービス１１４等の各サービスは、サービスをコールするための自身のプロプライエタリフォーマットとデータ要件とを含み得る。同様に、各サービスは、フォーマットおよびデータタイプがそのサービス１１４に固有である結果を返すことができる。サービス固有の要件に加えて、特定のデプロイメントプラットフォーム２０６、２０８、２１０はまた、サービスと適切にやり取りするために準拠する必要がある、プログラミング言語、パッケージフォーマット（ＪＳＯＮ、ＸＭＬなど）その他のような、サービス１１４とやり取りするための追加要件を含み得る。
上述の例は、サービス１１４を上記プラットフォーム２０６、２０８、２１０のうちのいずれかにデプロイすることを可能にするが、本明細書に記載の実施形態は、上記コンテナプラットフォーム２１０のために特別に設計される。よって、「コンテナプラットフォーム」にデプロイされると具体的に記載された実施形態は、仮想マシンプラットフォームに、サーバもしくは専用ハードウェアプラットフォーム上に、または一般的にＩａａＳ環境にデプロイされると具体的に記載された実施形態と区別することができる。
図３は、本明細書に記載の実施形態のうちのいくつかが使用するコンテナプラットフォーム２１０に固有であってもよいデータ組織を示す。一般的に、コンテナプラットフォームへのサービスのいかなるデプロイメントもポッド３０４、３０６にデプロイされる。ポッドは、１つ以上のアプリケーションコンテナ（たとえばDockerまたはrkt）からなるグループを表す抽象概念である。ポッドはまた、当該ポッド内のすべてのコンテナが共通して利用できるいくつかの共有リソースを含み得る。たとえば、ポッド３０４はコンテナ３１０とコンテナ３１２とを含む。ポッド３０４はまた、共有リソース３０８を含む。このリソースは、ストレージボリューム、またはコンテナが如何にしてポッド３０４内で実行されるかまたは接続されるかに関するその他の情報を含み得る。ポッド３０４は、比較的密接に結合された異なるサービスコンテナ３１０、３１２を含むアプリケーション専用論理ホストをモデル化することができる。たとえば、コンテナ３１０内のサービス３２６は、リソース３０８を利用することができ、コンテナ３１２内のサービス３２０をコールすることができる。サービス３２０もサービス３２２をコールすることができ、サービス３２２もサービス３２４をコールすることができ、これらのサービスは各々コンテナ３１２にデプロイされている。サービス３２４の出力はネットワークＩＰアドレスおよびポート３１８に与えることができ、これはポッド３０４が共有する別の共通リソースである。このように、サービス３２０、３２２、３２４、３２６すべてが共有リソース３０８と協働することにより、他のコンテナで実行されるサービスがＩＰアドレスおよびポート番号３１８によってアクセスすることができる、１つのサービスを提供する。このサービスは、コンテナプラットフォームまたはＩａａＳ環境の一部ではない、ワークステーション、ラップトップコンピュータ、スマートフォンまたはその他のコンピューティングデバイスのような、コンテナプラットフォームの外部のコンピュータシステムが、ＩＰアドレスポート３１８を介してアクセスすることもできる。
最も単純なデプロイメントの場合、各コンテナは１つのサービスを含むことができ、各ポッドはサービスをカプセル化する１つのコンテナを含むことができる。たとえば、ポッド３０６は１つのサービス３２８のみを有する１つのコンテナ３１４のみを含む。この１つのサービスは、ポッド３０６のＩＰアドレスおよびポート番号３１６を通してアクセスできる。典型的に、サービスがコンテナプラットフォームにデプロイされるとき、コンテナおよびポッドがインスタンス化されてこのサービスを保持する。複数の異なるポッドをコンテナノード３０２にデプロイすることができる。一般的に、ポッドはノード内で実行される。ノードはコンテナプラットフォーム内のワーカーマシン（仮想または物理いずれか）を表す。各ノードは、各ノード内のスケジューリングポッドを自動的に扱う「マスタ」によって管理される。各ノードは、マスタとノードとの間の通信を担い、かつ当該ノードによって表されるマシン上のコンテナ内でポッドを管理するためのプロセスを実行することができる。各ノードはまた、レジストリからコンテナ画像を引き出すこと、コンテナを解凍すること、およびサービスを実行することを担うコンテナランタイムを含み得る。
図４は、いくつかの実施形態に係る、ＩＤＥ１０２およびプロダクション／デプロイメント環境１０４にデプロイすることができるＡＰＩレジストリ４０４を示す。上述のように、サービス１１４がＩＤＥ１０２からプロダクション／デプロイメント環境１０４にデプロイされるとき、ＩＤＥ１０２内で独占的に利用できる情報へのランタイムアクセスをサービス１１４が失うという、技術的課題がある。ＡＰＩレジストリ４０４に対し、サービス１１４は、プロダクション／デプロイメント環境１０４にデプロイされこの環境でランタイム中に動作している間、アクセスすることができる。開発関数がランタイム関数から分離されるという過去の技術的課題は、開発中にサービスをＡＰＩレジストリ４０４に登録しＡＰＩ定義および／またはＡＰＩプロパティをＡＰＩレジストリ４０４に与えることにより、ＡＰＩレジストリ４０４によって克服される。ＡＰＩを定義する情報は、ＩＤＥ１０２内の開発中の新たなサービス、および、プロダクション／デプロイメント環境１０４に既にデプロイされているサービスが、使用できる。この登録プロセスの完了後、サービス１１４はクライアントライブラリを用いて動作することができ、クライアントライブラリは、ランタイム中にＡＰＩレジストリ４０４にアクセスすることにより、ＡＰＩ関数が、対応するサービスの現在のＩＰアドレスおよびポート番号に正しくバインドされていることを保証する。ＡＰＩレジストリ４０４は、これらの技術的課題を解決するために特別に設計された新たなデータ構造および処理ユニットを表す。
当該技術に存在していたもう１つの技術的課題は、サービスプロパティがプロダクション／デプロイメント環境１０４にデプロイされるときの、サービスプロパティの実現であった。たとえば、サービスを高可用性を伴ってデプロイしようとする場合、開発者は、コンテナプラットフォーム内でサービスの複数のインスタンスを特別にインスタンス化したコンテナデプロイメントファイルと、バランスが取れたトラフィックとを、サービスが常に利用できるように構築する必要がある。サービス開発者は必ずしもこの専門知識を有していた訳ではなく、それらのサービスのデプロイメントを大抵は管理できた訳でもない。上述のように、ＡＰＩレジストリ４０４により、サービスは、ＡＰＩレジストリ４０４が自動的に実現できる高可用性のようなプロパティを単純に選択することができる。この技術的解決策が可能な理由は、ＡＰＩレジストリ４０４がＩＤＥ１０２とプロダクション／デプロイメント環境１０４との間の隙間の架け橋となるからである。
図５は、いくつかの実施形態に係る、実行時にコンテナプラットフォーム２１０とともに使用されるＡＰＩレジストリ４０４のデプロイメントを示す。ＡＰＩレジストリ４０４が提供する、既存の技術に対する技術的解決策および改善のうちの１つは、サービスコールのための安定したエンドポイントの維持、ならびにサービスコールへのアクセスの簡略化およびサービスコールへのアクセスのための自動コード生成である。本開示よりも前において、サービス間のコールは、たとえばＩＰアドレスおよびポート番号に対するＨＴＴＰコールを用いるポイントツーポイント接続であった。サービスがアップデート、リプレイス、リロケート、およびコンテナプラットフォーム２１０に再デプロイされるときに、ＩＰアドレスおよびポート番号が頻繁に変わる可能性がある。この場合、アップデートされたサービスをコールしたすべてのサービスが、そのサービスをコールした実際のコードのＩＰアドレスおよびポート番号をアップデートする必要があった。ＡＰＩレジストリ４０４は、この技術的課題を、サービスのＩＰアドレスおよびポート番号と、ＡＰＩレジストリを介して利用できるようにされるＡＰＩ関数との間の動的バインディングを提供することによって解決する。ＡＰＩレジストリ４０４が自動的に生成するクライアントライブラリは、ＡＰＩレジストリ４０４にアクセスすることにより特定のサービスの現在のＩＰアドレスおよびポート番号を取り出すおよび／または検証する関数を含み得る。したがって、第２のサービスに接続する第１のサービスは、クライアントライブラリを一度生成するだけで、第２のサービスへの、存続期間にわたって安定した接続を提供する。
ＡＰＩレジストリ４０４が解決する別の技術的課題は、クライアントライブラリの自動生成である。本開示よりも前において、第２のサービスにアクセスする第１のサービスは、第２のサービスにアクセスするためのカスタムコードを開発者が記述することを必要としていた。このコードは時間の経過に伴って変化する可能性があるので、どちらもアップデートを必要とする第１のサービスと第２のサービスとの間に非互換性が生じることになる。ＡＰＩレジストリ４０４は、この技術的課題を、サービスをコールするためにクライアントライブラリを自動的に生成するのに使用されるＡＰＩ定義ファイルをアップロードすることによって解決する。したがって、サービスは、その他いずれかのサービスにおけるコーリングコードが如何にして動作すべきかを具体的に指定することができ、これが互換性を保証する。これらのクライアントライブラリはまた、サービスをコールするためのコードを大幅に簡略化しカプセル化する。以下で述べるように、ＩＰアドレスおよびポート番号を使用する複雑なＨＴＴＰコールは、呼び出し側サービスに固有の言語（たとえばＪａｖａ（登録商標）、Ｃ＃など）の単純なメンバ関数に置き換えることができる。これにより、呼び出し側サービスは、ＡＰＩレジストリ４０４からＡＰＩ関数を選択することができ、関数で実現するコードは、クライアントライブラリとして呼び出し側サービスダウンロードすることができる。
図６Ａは、いくつかの実施形態に係る、ＡＰＩレジストリ４０４をデプロイする方法のフローチャートを示す。この方法は、ＡＰＩレジストリサービスをコンテナ環境にデプロイすることを含み得る（６０１）。ＡＰＩレジストリは、コンテナ環境においてコンテナ内で動作するサービスとして実現することができる。よって、ＡＰＩレジストリは、実行時にアクセスされることができるよう、コンテナ環境内にサービスがデプロイされた後で能動的に実行することができる。ＡＰＩレジストリは、上記既存のＩＤＥにリンクさせることもできる。この方法はさらに、コンテナプラットフォーム内の利用できるサービスのためのポートを発見することを含み得る（６０３）。サービスがコンテナプラットフォームにデプロイされると、ＡＰＩレジストリは、コンテナプラットフォームにデプロイされたサービス各々を逐次的にトラバースするディスカバリプロセスを開始することができる。サービスごとに、ＡＰＩレジストリはＩＰアドレスおよびポート番号を検出して記録することができる。このプロセスによって発見されたＩＰアドレスおよびポート番号の一覧表は、ＡＰＩレジストリに対応付けられたテーブル等のデータ構造に格納することができる。また、各ＩＰアドレスおよびポート番号は、そのサービスの名称とともに、または、コンテナプラットフォーム上のサービスを一意に識別するその他の識別子とともに、格納することができる。図６Ａのフローチャートに示されるこれらの初期ステップは、ＡＰＩレジストリがコンテナプラットフォームのランタイム環境内で動作を開始するため、かつ、ＩＤＥ内で開発中のサービスがＡＰＩレジストリを利用できるようにするための、出発点を提供する。
図６Ｂは、いくつかの実施形態に係る、図６Ａのフローチャートを用いてＡＰＩレジストリをデプロイするときのコンテナプラットフォーム２１０のソフトウェア構造を示す。先に述べたように、ＡＰＩレジストリ４０４はコンテナプラットフォーム２１０内のコンテナ６２０にデプロイすることができる。先に図３で説明したように、コンテナ６２０は、あるノードにおいて１つ以上のポッド内で動作することができる。ＡＰＩレジストリ４０４を、コンテナプラットフォーム２１０内の他のコンテナのうちのいずれかが非公式に利用できるようにすることができる。いくつかの実施形態において、ＡＰＩレジストリ４０４を、コンテナプラットフォーム２１０の一部ではない他のデバイスが公的に利用できるようにすることもできる。コンテナ化されたサービスとして、ＡＰＩレジストリ４０４は他のサービスが利用できるＩＰアドレスおよびポート番号を有することができる。しかしながら、ＡＰＩレジストリ４０４のＩＰアドレスおよびポート番号は、クライアントライブラリで自動的に生成されたコードのみによって使用されるので、いくつかの実施形態はＡＰＩレジストリ４０４のＩＰアドレスおよびポート番号を公開する必要はない。その代わりに、ＩＤＥ自身のクライアントライブラリが、他のサービスの開発、デプロイ、および実行中にコンタクトできるよう、ＡＰＩレジストリ４０４のＩＰアドレスおよびポート番号の最新一覧表を管理することができる。
ＡＰＩレジストリ４０４は、コンテナ６２０にデプロイされた後に、ディスカバリプロセスを実行することができる。ディスカバリプロセスは、コンテナプラットフォームにおけるノードのディレクトリ一覧表を用いることにより、ＩＰアドレスおよびポート番号で、サービスを実現するポッドを特定することができる。そうすると、ＡＰＩレジストリ４０４は、利用できる各サービスの番号または名称等の固有識別子にアクセスし、識別子を各ＩＰアドレスおよびポート番号とともにコンテナプラットフォーム２１０に格納することができる。このディスカバリプロセスを周期的に実行することにより、コンテナプラットフォーム２１０に追加された新たなサービスを検出することができるとともに、コンテナプラットフォーム２１０から削除された既存のサービスを特定することができる。以下で述べるように、このディスカバリプロセスを用いることにより、既存のサービスについてＩＰアドレスおよびポート番号がいつ変化したかを検出することもできる。たとえば、ＡＰＩレジストリ４０４は、エンドポイント６０２、６０４、６０６、６０８を有するサービスを発見することができる。下記プロセスにおいて、ＡＰＩレジストリ４０４は、これらのエンドポイント６０２、６０４、６０６、６０８各々を、ＡＰＩレジストリ４０４に登録されたＡＰＩ関数にバインドすることができる。この最初の発見後のある時点で、エンドポイント６０２のＩＰアドレスおよび／またはポート番号が、エンドポイント６０２に対応付けられたサービスがリプレイス、アップデート、またはリバイズされたときに、変更される場合がある。ＡＰＩレジストリ４０４は、このエンドポイント６０２に対する変更を検出し、ＡＰＩレジストリ４０４が提供する既存のＡＰＩ関数へのバインディングをアップデートすることができる。
同様に、ＡＰＩレジストリ４０４は、ディスカバリプロセスを用いることにより、いつエンドポイントが利用できなくなったかを検出し、その後、サービスに対応付けられたＡＰＩ関数を削除することができる。いくつかの実施形態において、サービスはＡＰＩレジストリ４０４に登録されているものの、対応するＡＰＩ関数が現在有効なエンドポイントにバインドされていないとき、ＡＰＩレジストリ４０４は、対応するＡＰＩ関数をコールしているいずれかのサービスにモックレスポンス（mock response）を与えることができる。たとえば、エンドポイント６０４に対応するサービスについてＡＰＩが登録されているものの、エンドポイント６０４は現在利用できない場合、ＡＰＩレジストリ４０４は、エンドポイント６０４に対するコールをインターセプトしそれに応じてデフォルトまたはダミーデータを与えることができる。これにより、エンドポイント６０４に対応付けられているサービスをコールするサービスは、機能を維持する、および／またはこの特定のサービスに対する接続を「切断する」ことなく設計プロセスを続けることができる。モック／テストデータシナリオについては以下でより詳細に説明する。
図７Ａは、いくつかの実施形態に係る、ＡＰＩレジストリ４０４にサービスを登録する方法のフローチャートを示す。この方法は、ＡＰＩ定義のアップロードを受けることを含み得る（７０１）。ＡＰＩ定義は、データパケット、ファイル、または情報リポジトリに対するリンクの形態で提供し得る。ＡＰＩ定義は、サービスに対応付けられたエンドポイントにバインドすべきＡＰＩ関数を特定し定義するために使用できる任意の情報を含み得る。たとえば、ＡＰＩ定義のいくつかの実施形態は、以下のデータを、すなわち、サービス名またはその他の固有識別子、サービスエンドポイントおよびコールに対応する関数名、対応する記述およびデータタイプでサービスにコールするのに必要なデータ入力、結果データフォーマットおよびデータタイプ、現在のＩＰアドレスおよび／またはポート番号、エンドポイントに対応付けられることになるＡＰＩ関数の機能を記述する文書、モック／テストシナリオ中に返すべきデフォルトまたはダミーデータ値、ならびに、ＡＰＩレジストリ４０４が、エンドポイントが受けたＨＴＴＰ要求を、クラスデータオブジェクトのＡＰＩ関数コールを使用するクライアントライブラリに変換するために使用し得るその他任意の情報を、含み得る。
この方法はまた、アップロードされたＡＰＩ定義に基づいて対応するＡＰＩ関数を作成することを含み得る（７０３）。これらのＡＰＩ関数はＡＰＩ定義に基づいて自動的に生成することができる。サービスの各エンドポイントは複数の異なるＡＰＩ関数に対応付けることができる。たとえば、ＲＥＳＴｆｕｌインターフェイスを実現するエンドポイントは、同一のＩＰアドレスおよびポート番号のＰＯＳＴ、ＧＥＴ、ＰＵＴ、およびＤＥＬＥＴＥ関数に対するＨＴＴＰコールを受けることができる。これは結果としてたとえば異なるＡＰＩ関数に対するものになり得る。たとえば、このインターフェイスがユーザのリストを表す場合、これは、GetUser( )、AddUser( )、RemoveUser( )、およびUpdateUser( )のような、少なくとも４つの異なるＡＰＩ関数に対応し得る。加えて、各ＡＰＩ関数は、UpdateUser(id)、UpdateUser(name)、UpdateUser(firstname, lastname)などのような、複数の異なるパラメータリストを含み得る。これらのＡＰＩ関数を生成し、生成されたＡＰＩ関数をＡＰＩレジストリを介して他のサービスが利用できるようにすることができる。以下でより詳細に説明するように、これらの関数をＡＰＩレジストリを介してコールするためにサービスは必要ではないことに注意する必要がある。代わりに、これらの関数は、ＡＰＩレジストリにおいてブラウズするのに利用できるようにされ、選択されると、ＡＰＩレジストリは、呼び出し側サービスにおいてこれらの関数を実現するクライアントライブラリを生成することができる。
この方法はさらに、ＡＰＩレジストリにおいて、ＡＰＩ関数と、対応するサービスのエンドポイントとの間のバインディングを作成することを含み得る（７０５）。上記ディスカバリプロセスおよびステップ７０１の登録プロセスに基づいて、ＡＰＩレジストリは、コンテナプラットフォームにおけるサービスのエンドポイントと、ＡＰＩレジストリが作成したＡＰＩ関数との間の動的バインディングを作成することができる。利用できるエンドポイントおよびサービスを発見したときに形成される上記データ構造に、ＡＰＩレジストリは、各エンドポイントの対応する関数または一組の関数を格納することができる。上述のように、このバインディングは、サービスがいつアップデート、移動、リプレイス、またはコンテナプラットフォームに追加されるかがディスカバリプロセスによって判断されたときに、常にアップデートすることができる。これにより、呼び出し側サービスにおいて作成されたクライアントライブラリは、先ずＡＰＩレジストリを調べることにより、サービスの現在のＩＰアドレスおよびポート番号を検証するまたは受けることができる。
図７Ｂは、いくつかの実施形態に係る、ＡＰＩレジストリ４０４にＡＰＩを登録するためのステップのハードウェア／ソフトウェア図を示す。上述のように、ＡＰＩレジストリ４０４をインスタンス化しコンテナプラットフォーム２１０におけるコンテナ６２０内で実行することができる。コンテナプラットフォーム２１０はプロダクション／デプロイメント環境を表しているが、ＡＰＩレジストリ４０４はそれでもなお、サービスを開発するために使用されるＩＤＥ１０２からアクセスすることができる。よって、ＩＤＥ１０２は、ＡＰＩ定義ファイル７０２をＡＰＩレジストリ４０４にアップロードするメカニズムを提供することができる。具体的には、ＩＤＥ１０２のユーザインターフェイスは、開発者がＡＰＩ定義ファイル７０２のフィールドを定義するおよび／またはフィールドにポピュレートすることを可能にするウィンドウまたはインターフェイスを含み得る。上述のこの情報は、関数名、パラメータリスト、データタイプ、フィールド長、オブジェクトクラス定義、ＩＰアドレスおよびポート番号、サービス名またはその他の固有識別子などを、含み得る。この情報は、ＡＰＩレジストリ４０４にアップロードすることができ、動的バインディングによって、エンドポイント６０２の特定のＩＰアドレスおよびポート番号にリンクさせることができる。最後に、ＡＰＩレジストリ４０４は、ＡＰＩレジストリ４０４を介して利用できるようにすることができる１つ以上のＡＰＩ関数７０４を生成することができる。
サービスがＡＰＩレジストリ４０４に登録され１つ以上のＡＰＩ関数が生成された後に、ＡＰＩレジストリは、開発者がサービスを設計する際にこれらの関数を利用できるようにすることができる。図８は、いくつかの実施形態に係る、ＡＰＩレジストリ４０４に登録されたＡＰＩをブラウズし選択するためのグラフィカルインターフェイス８０２およびコマンドラインインターフェイス８０４の例を示す。コンテナプラットフォームに対して新たなサービスをプログラミングおよび開発するときに、開発者は、グラフィカルインターフェイス８０２にアクセスすることにより、それらのサービスで使用できるＡＰＩ関数をブラウズし選択することができる。このグラフィカルインターフェイス８０２は、一例にすぎず、ＡＰＩ関数をブラウズし選択するために使用できるグラフィカルインターフェイスのタイプを限定することを意図している訳ではない。
この実施形態において、ＩＤＥ１０２は、ＡＰＩレジストリに登録されているＡＰＩのリストを提供するようグラフィカルインターフェイス８０２に命じることができる。この実施形態において、ＡＰＩはエンドポイントに基づいてカテゴライズされる。たとえば、あるサービスに対応する１つのエンドポイントは、ユーザ記録を格納するためのＲＥＳＴｆｕｌインターフェイスを提供し得る（たとえば「UserStorage」）。グラフィカルインターフェイス８０２は、選択されたエンドポイントを介して利用できるすべてのＡＰＩ関数（たとえば「CreateUser」、「DeleteUser」、「UpdateUser」など）を表示することができる。その他の実施形態は、サービスが複数のエンドポイントを提供する場合、サービス全体に基づいて関数をグループ分けすることができる。グラフィカルインターフェイス８０２は、呼び出し側サービスで使用される１つ以上のＡＰＩ関数の選択を受けることができる。ＡＰＩレジストリは次に、必要なパラメータおよびリターン値を含む、ＡＰＩ関数の使用方法を示す文書を提供することができる。当業者は、コマンドラインインターフェイス８０４がグラフィカルインターフェイス８０２と同様の情報を提供することができかつ同様の入力を受けることができることを、理解するであろう。
図８に示されるインターフェイス８０２、８０４は複数の技術的利点を提供する。第１に、これらのインターフェイス８０２、８０４は、ＡＰＩレジストリに登録されているすべてのＡＰＩの最新一覧表を提供する。これは、コンテナプラットフォームで現在利用できるすべてのサービスのリストに相当する。文書を調べること、サービス開発者にコンタクトすること、および／または利用できるサービスのリストの場所を特定するためのその他の非効率的なタスクを実行することが要求されるのではなく、サービス開発者はこの情報をリアルタイムで取り出して表示することができる。加えて、サービスがアップデートされると、ＡＰＩ定義ファイルを対応するやり方でアップデートすることができる。これにより、次に図８に示されるディスプレイがアップデートされて各ＡＰＩ関数の最新の可用性情報を提供する。
図９は、いくつかの実施形態に係る、ＡＰＩレジストリに登録されたサービスおよびその対応する関数を使用する方法のフローチャートを示す。この方法は、登録されたＡＰＩの一覧表を提供することを含み得る（９０１）。所望のサービスが既にわかっている場合はこのステップを省略してもよい。しかしながら、一般的に、サービスは、上述の図８のインターフェイスを用いたブラウズおよびナビゲーションのために表示することができる。この方法はまた、ＡＰＩ関数の選択を受けることを含み得る（９０３）。この選択は、ＡＰＩレジストリがサービスの開発者から受けることができるものである。たとえば、開発者は、上記CreateUser( )関数を用いてユーザ記録のデータベースをアップデートすると決定する場合がある。図１０は、ＡＰＩレジストリが如何にしてCreateUser( )関数の選択１００２をグラフィカルインターフェイス８０２を介して受けることができるかを示す。他の実施形態は、この選択を、コマンドラインインターフェイスを介してまたはＩＤＥが提供するその他の入力方法を介して受けることができる。
再び図９を参照して、ＡＰＩレジストリは、ＡＰＩ関数の選択を受けると、呼び出し側サービスのための１つ以上のクライアントライブラリを生成することができる（９０５）。クライアントライブラリを生成することにより、呼び出し側サービスに、ＡＰＩ関数に動的にバインドされたサービスエンドポイントを提供することができる。具体的には、ＩＤＥは、コンテナプラットフォームにおけるサービスエンドポイントと直接インターフェイスするのに必要な機能をカプセル化する一組のクラスオブジェクトをＩＤＥに生成することができる。いくつかの実施形態において、クライアントライブラリは、サービスとの通信に必要なコードを実施するメンバ関数をコールするためにインスタンス化または使用することができるオブジェクトクラスを含み得る。これらのクライアントライブラリの例については以下でより詳細に説明する。
この方法はさらに、テストデータを提供することを含み得る（９０７）。サービスは、ＡＰＩレジストリに登録されるとき、完全である必要はない。代わりに、サービスは、呼び出し側サービスに対する機能的レスポンスを提供する準備がまだ整っていないことをＡＰＩレジストリに対して示すことができる。いくつかの実施形態において、ＡＰＩレジストリにアップロードされたＡＰＩ定義ファイルは、サービスが機能的になる前に返す必要がある情報のタイプの明細を含み得る。呼び出し側サービスがＡＰＩ関数をコールすると、ＡＰＩレジストリが生成したクライアントライブラリは、サービスエンドポイントではなくＡＰＩレジストリに要求をルーティングすることができる。そうすると、ＡＰＩレジストリは、ダミー、ヌル、またはデフォルト値を用いてレスポンスを提供することができる。これに代えて、クライアントライブラリ自身の中にあるコードが、呼び出し側サービスに返されるデフォルトデータを生成してもよい。
図９に示される具体的なステップが本発明の各種実施形態に係るＡＰＩレジストリの特定の使用方法を提供することが理解されるはずである。代替実施形態に従いステップの他のシーケンスを実行することもできる。たとえば、本発明の代替実施形態は、概要を述べた上記ステップを異なる順序で実行し得る。加えて、図９に示される個々のステップは、個々のステップに適したさまざまなシーケンスで実行し得る複数のサブステップを含み得る。さらに、特定のアプリケーションに応じてその他のステップを追加または削除する場合もある。当業者は、多数の変形、修正、および代替形を認識するであろう。
図１１は、いくつかの実施形態に係る、ＡＰＩレジストリがあるサービスのために自動的に生成したクライアントライブラリの一例を示す。このクライアントライブラリ１１０２は、ユーザ記録を格納するサービスに対応し得る。このクライアントライブラリ１１０２ならびに対応するクラスおよびサービスは、例示のために提供されているにすぎず、限定を意図している訳ではない。先に述べたように、各ＡＰＩ関数およびサービスは、ＡＰＩレジストリにアップロードされたＡＰＩ定義ファイルによって如何にしてクライアントライブラリが生成されるべきかを指定することができる。したがって、「Ｕｓｅｒ（ユーザ）」サービスに関して以下で述べる原理は、その他のサービスにも適用し得る。
Ｕｓｅｒサービスを表すために、ＡＰＩレジストリはＵｓｅｒのクラスを生成することができる。呼び出し側サービスは、ＡＰＩレジストリによるクライアントライブラリの生成を要求するとき、呼び出し側サービスが使用しているプログラミング言語を指定することができる。たとえば、呼び出し側サービスがＪａｖａでＩＤＥに記述されている場合、ＡＰＩレジストリはＪａｖａプログラミング言語でクラスライブラリを生成することができる。これに代えて、呼び出し側サービスがＣ＃で記述されている場合、ＡＰＩレジストリはＣ＃プログラミング言語でクラスライブラリを生成することができる。Ｕｓｅｒクラスは、サービスエンドポイントを介して実行することができる異なる動作に対応するメンバ関数を有するように生成することができる。これらのメンバ関数は、スタティックメンバ関数にすることにより、Ｕｓｅｒクラスのインスタンス化されたインスタンスを必要としないようにすることができる、または、インスタンス化されたＵｓｅｒオブジェクトとともに使用されてもよい。
この例において、Ｕｓｅｒサービスは、ＲＥＳＴｆｕｌインターフェイスを使用することにより、サービスによって格納された個々のユーザ記録を編集することができる。たとえば、ＡＰＩレジストリは、CreateUser( )関数を生成することにより、Ｕｓｅｒサービスに対するＰＯＳＴコールを実現することができる。クラスライブラリが実行できる機能のうちの１つは、サービスに対してデータパケットとして直接送られるＡＰＩ関数に対してパラメータとして提供されるデータを、パースし、フィルタリングし、フォーマットすることである。この例において、CreateUser( )関数は、呼び出し側サービスの便宜のためにフォーマットされたパラメータを受け入れることができる。たとえば、呼び出し側サービスは、ユーザの名（first name）およびユーザの姓（last name）のストリングを別々に格納することができる。しかしながら、ＰＯＳＴコマンドは、名と姓との連結ストリングを必要とする場合がある。ユーザーフレンドリーなパラメータセットを受け入れるために、クライアントライブラリ１１０２は、関数に対するパラメータとして受けたデータを、サービスエンドポイントと互換性のあるフォーマットにフォーマットする一組の動作を実行することができる。これは、ヘッダ情報の生成、特定のデータフィールドのフォーマットの変更、データフィールドの連結、その他のソースからの追加データを要求すること、計算またはデータ変換の実行などを含み得る。これはまた、再フォーマットされたパラメータを、ＪＳＯＮ、ＸＭＬなどのようなフォーマットにパッケージングすることを含み得る。
パラメータがサービスエンドポイントのためのパッケージに正しくフォーマットされると、クライアントライブラリ１１０２は、サービスに対するＰＯＳＴコールを扱うこともできる。クライアントライブラリが生成されるときに、サービスのＩＰアドレスおよびポート番号を、サービスに対するＨＴＴＰ要求で使用されるCreateUser( )関数に挿入することができる。なお、ＨＴＴＰ要求の詳細は、CreateUser( )関数にカプセル化される。呼び出し側サービスのための開発者が、サービスによって利用できるようにされたＰＯＳＴ関数の使用を所望する場合、コードをライブラリ１１０２自身に書き込む代わりに、ＡＰＩレジストリからＵｓｅｒサービスを選択することができる。そうすると、ＡＰＩレジストリは、Ｕｓｅｒクラスを含むクライアントライブラリ１１０２を自動的に生成する。次に、ＰＯＳＴ関数を使用するために、サービス開発者は、User.CreateUser(“John”, “Smith”, 2112)関数を使用するだけで、ユーザであるJohn Smithをサービスに追加することができる。
図１２は、いくつかの実施形態に係る、サービスエンドポイントとＡＰＩ関数との間の動的バインディングを含むクライアントライブラリ１２０２の実施形態を示す。この例において、ＡＰＩレジストリがクライアントライブラリ１２０２を生成するとき、CreateUser( )関数は、サービスのＩＰアドレスおよびポート番号を動的に取り出すコード１２０４を含み得る。呼び出し側サービス１１４は、呼び出し側サービス１１４がコンテナプラットフォームのようなプロダクション／デプロイメント環境１０４で動作しているときに、GetIPPort( )関数を用いることにより実行時に要求をＡＰＩレジストリ４０４に送ることができる。ＡＰＩレジストリ４０４は、ＡＰＩ関数とサービスエンドポイントとの間の最新バインディングを維持するために常にアップデートされるその内部テーブルにアクセスすることができる。次に、ＡＰＩレジストリ４０４は、現在のＩＰアドレスおよびポート番号を呼び出し側サービス１１４に返すことができる。次に、クライアントライブラリ１２０２は、ＩＰアドレスおよびポート番号を、サービスに接続するＨＴＴＰ ＰＯＳＴコードに挿入することができる。ＡＰＩレジストリ４０４に対しては、コンテナプラットフォームにおける任意の呼び出し側サービスが実行時にアクセスできるので、コールされているサービスのポート番号についてのＩＰアドレスが変化したとき、これらのサービスのうちのいずれのサービスも、アップデートまたはパッチは不要である。代わりに、ＡＰＩレジストリ４０４は、サービスがコールされるたびに最新情報を提供することができる。いくつかの実施形態において、GetIPPort( )関数は、１時間に１度、１日に１度、１週間に１度など、ＡＰＩレジストリ４０４をコールするだけで、サービスエンドポイントはプロダクション環境において頻繁に変わるものではないという仮定のもとでサービス１１４についてコンテナの外部で行われる関数コールの数を最小にすることができる。
図１３は、いくつかの実施形態に係る、サービスコールのための入力データセットを完成させる追加データを配置できるクライアントライブラリ１３０２の実施形態を示す。クライアントライブラリ１３０２を用いた簡略化のために、クライアントライブラリ１３０２はサービス開発者に要求されるパラメータの数を最小にすることができる。サービスコールを行うために必要であろう追加データは、他のソースから取り出すことができ、したがって、パラメータリストから省略してもよい。代わりに、これらの追加パラメータは、クライアントライブラリ１３０２がこれらの他のソースから直接取り出してもよい。たとえば、新たなユーザの作成は、このユーザのユーザロールを指定することを含み得る。パラメータのうちの１つとしてユーザロールを提供することをサービス開発者に要求する代わりに、クライアントライブラリ１３０２は、他のいずれかのソースからユーザのロールを自動的に取り出すコード１３０４を含み得る。この例において、ユーザロールは、データベースから、コンテナプラットフォーム内の別のサービスから、または呼び出し側サービス内のユーザロールを格納する別のクラスから、取り出すことができる。これらの場合のうちのいずれの場合でも、コード１３０４は、自動的にユーザロールを取り出し、これを、サービスに送られるＨＴＴＰ ＰＯＳＴコマンドのための入力データの一部としてパッケージングすることができる。
サービスに対する入力のためにデータを配置しフォーマットすることに加えて、クライアントライブラリ１３０２は、サービスから受けたデータをパースして返し、エラー条件を処理することができる。この例において、ＰＯＳＴコマンドはデータパケットをＲｅｓｕｌｔ（結果）変数に返すことができる。しばしば、サービスは、呼び出し側サービスが必要とする情報よりも多くの情報を含むデータパケットを返すことができる。したがって、クライアントライブラリ１３０２は、Ｒｅｓｕｌｔ変数におけるデータフィールドをパースし、データをＲｅｓｕｌｔ変数から抽出し、ユーザクラスによって予想されるより使い易いフォーマットにフォーマットしパッケージングすることができる。この例において、コード１３０６は、Ｒｅｓｕｌｔ変数からフィールドを抽出して使用することにより、ＡＰＩ関数から返される新たなＵｓｅｒオブジェクトを作成することができる。ＧＥＴコマンドを使用する別の例において、個々のＡＰＩ関数は、ＧＥＴコマンドからのＲｅｓｕｌｔ変数から異なるフィールドを抽出するＵｓｅｒクラスで生成することができる。たとえば、Ｕｓｅｒクラスは、GetFirstName(id)関数、GetLastName(id)関数、GetRole(id)関数などを提供することができる。これらの関数は各々、Ｒｅｓｕｌｔ変数から異なるフィールドを返す間、非常によく似たコードを含み得る。
結果をパースすることに加えて、クライアントライブラリ１３０２はまた、サービスの使用に対応付けられたエラー条件を処理するコード１３０８を生成することができる。この例において、コード１３０８は、Ｒｅｓｕｌｔ変数におけるステータス（status）フィールドをテストすることにより、ＰＯＳＴコマンドが成功したか否かを判断することができる。コマンドが成功していた場合、CreateUser( )関数は新たなＵｓｅｒオブジェクトを返すことができる。Ｐｏｓｔコマンドが失敗した場合、関数は、代わりにヌルオブジェクトを返すことおよび／またはサービス対するコールをリトライすることが可能である。
図１４は、いくつかの実施形態に係る、サービスをコールするときにリトライを処理することができるクライアントライブラリ１４０２を示す。図１３の例と同様に、クライアントライブラリ１４０２は、ＰＯＳＴ ＨＴＴＰコールによってポピュレートされたＲｅｓｕｔ変数におけるステータスを使用することにより、このコールが成功したか否かを判断する。その結果が不成功である間、クライアントライブラリ１４０２は、コールが成功するまでリトライを続けることができる。いくつかの実施形態は、カウンターまたはその他のメカニズムを使用することにより、リトライの数を制限するまたはリトライとリトライとの間に待ち時間を追加することができる。
上述のように、いくつかの実施形態はまた、ＡＰＩ定義とともに一組のＡＰＩプロパティをＡＰＩレジストリに与えてもよい。図１５Ａは、いくつかの実施形態に係る、ＡＰＩプロパティをＡＰＩレジストリに与える方法を示す。この方法はまた、ＡＰＩ定義のアップロードを受けることを含み得る（１５０１）。この方法はまた、ＡＰＩプロパティのアップロードを受けることを含み得る（１５０３）。プロパティのアップロードはＡＰＩ定義のアップロードと同じ送信の一部であってもよい。いくつかの実施形態において、ＡＰＩプロパティはＡＰＩ定義の一部であってもよい。いくつかの実施形態において、ＡＰＩプロパティは、プロパティがＡＰＩレジストリによって設定されねばならないことを示すためにチェックされる１つ以上のフラグまたは予め定められたデータフィールドであってもよい。いくつかの実施形態において、ＡＰＩプロパティは、何らかの予め構築されたフォーマットに従う必要はないが、代わりに、認証、暗号化などのような以下で説明する特徴をＡＰＩレジストリに実現させる命令コードで表すことができる。ＡＰＩプロパティは、各サービスごとにＡＰＩ定義とともに格納することができる。
この方法はさらに、サービスとＡＰＩとの間のＡＰＩバインディングを作成することを含み得る（１５０５）。この動作は先に詳述したように実行されてもよい。加えて、この方法は、ＡＰＩプロパティを用いて、サービスに対応付けられた１つ以上の動作を実行することを含み得る（１５０７）。ＡＰＩプロパティは、サービスのライフサイクル中のさまざまなフェーズで使用されてもよい。一般的に、これは、サービスのデプロイメント中、サービスのクライアントライブラリを生成するとき、および／またはサービスをコールするときに、プロパティに対応付けられた関数をＡＰＩプロパティを用いて実現することであると、説明することができる。これらの関数各々の例を以下でより詳細に説明する。
図１５Ａに示される具体的なステップが本発明の各種実施形態に係るＡＰＩプロパティをＡＰＩレジストリに与える特定の方法を提供することが理解されるはずである。代替実施形態に従いステップの他のシーケンスを実行することもできる。たとえば、本発明の代替実施形態は、概要を述べた上記ステップを異なる順序で実行し得る。加えて、図１５Ａに示される個々のステップは、個々のステップに適したさまざまなシーケンスで実行し得る複数のサブステップを含み得る。さらに、特定のアプリケーションに応じてその他のステップを追加または削除する場合もある。当業者は、多数の変形、修正、および代替形を認識するであろう。
図１５Ｂは、いくつかの実施形態に係る、如何にしてサービスがＡＰＩプロパティをＡＰＩレジストリに与えることができるかについてのハードウェア／ソフトウェア図を示す。ＩＤＥ１０２においてサービスを開発しているとき、サービス開発者は、ＡＰＩ定義ファイル１５０２と１つ以上のプロパティ１５０４とをＡＰＩレジストリ４０４に与えることができる。ＡＰＩレジストリ４０４は、ＩＤＥ１０２でもコンテナプラットフォームでも実行時にアクセスできるので、ＡＰＩレジストリ４０４は、プロパティ１５０４を格納しこれらのプロパティを使用することにより、開発シナリオ中およびランタイムシナリオ中いずれにおいても、如何にしてサービスがデプロイされ、コールされ、および／またはクライアントライブラリを生成するために使用されるかに、影響を与えることができる。
図１６は、いくつかの実施形態に係る、ＡＰＩレジストリがプロパティを用いて高可用性のサービスをデプロイする場合のハードウェア／ソフトウェア図を示す。ＡＰＩレジストリ４０４は、特定のサービスのＡＰＩ定義ファイル１５０５に加えて、サービスが高いレジリエンスまたは高可用性を有するようにデプロイされねばならないことを示すプロパティ１６０２を受けてもよい。このプロパティ１６０２を、サービスを高可用性を有するようにデプロイするためにＡＰＩレジストリ４０４が実行する一組の命令として受けてもよい。この選択肢により、開発者は、このサービスについて「高可用性」を有するということが何を意味するかを定義することができる。たとえば、プロパティ１６０２は、ＡＰＩレジストリ４０４に、サービスの複数のインスタンス６０２、６０４をコンテナプラットフォーム２１０にデプロイさせる命令を含み得る。ＡＰＩレジストリ４０４は、これらの命令を実行することにより、自身で決定または判断を行う必要はなくなるが、代わりに、プロパティ１６０２の一部として与えられたデプロイメントコードを実行するだけでよい。
プロパティ１６０２を、高可用性のサービスをデプロイするためにＡＰＩレジストリ４０４において既存の命令を実行するという選択肢をＡＰＩレジストリ４０４に対して示す、フラグまたは設定として受けることもできる。この選択肢の場合、ＡＰＩレジストリ４０４は、プロパティ１６０２として、実行すべき任意のコードを受ける必要はない。むしろ、ＡＰＩレジストリ４０４は、高可用性プロパティ１６０２を認識し、ＡＰＩレジストリ４０４で保持されているコードを実行することにより、サービスの複数のインスタンス６０２、６０４をデプロイすることができる。これにより、ＡＰＩレジストリ４０４は、ＡＰＩレジストリ４０４に登録された任意のサービスのデプロイメントについて、「高可用性」であるということは何を意味するのかを定義することができる。
ＡＰＩレジストリ４０４はコンテナプラットフォーム２１０のランタイム環境に接続されているので、ＡＰＩレジストリ４０４は、コンテナプラットフォーム２１０とやり取りすることにより、サービスのランタイム可用性を決定するインスタンス６０２、６０４をデプロイすることができる。なお、図１６に示されるサービスの２つのインスタンス６０２、６０４は一例として与えられているにすぎず、限定を意図している訳ではない。高可用性サービスは、コンテナプラットフォームにデプロイされているサービスの３つ以上の冗長インスタンスを含み得る。
いくつかの実施形態は、デフォルトとして実行することが可能なコードをＡＰＩレジストリ４０４において含み得る。高可用性が望ましいという簡単な表示のみをプロパティ１６０２が含んでいる場合、ＡＰＩレジストリ４０４は自身のコードを実行することができる。サービスをデプロイするためのデプロイメントコードをプロパティ１６０２が含んでいる場合、ＡＰＩレジストリ４０４は代わりにプロパティ１６０２のコードを実行することができる。いくつかの場合において、プロパティ１６０２は、高可用性のサービスをデプロイするのに必要なコードの一部のみを含み得る。ＡＰＩレジストリ４０４は、プロパティ１６０２から与えられたコードの一部を実行し、次に、プロパティ１６０２から与えられない任意のコードをＡＰＩレジストリ４０４におけるコードを用いてを実行することができる。これにより、開発者らは、ＡＰＩレジストリ４０４において高可用性等のプロパティを如何にして実行するかについての既存の定義を上書きしつつも、登録されたサービスによって使用されることができるプロパティを実行するための統一された定義をＡＰＩレジストリ４０４が提供できるようにすることができる。
いくつかの実施形態において、高可用性プロパティはまた、サービスの複数のインスタンス６０２、６０４に要求を分散させるロードバランシングサービス６０６を、コンテナプラットフォーム２１０にデプロイさせてもよい。ロードバランシングサービス６０６のエンドポイントを、ＡＰＩレジストリ４０４に登録し、他のサービスが利用できるようにすることができる。これに代えてまたはこれに加えて、サービス６０２、６０４の複数のインスタンス各々をサービスエンドポイントとしてＡＰＩレジストリ４０４に登録してもよい。
以下で説明する各々の例において、図１６に関して説明したものと同じ原理を適用することができる。たとえば、下記のいずれかのプロパティにコードが伴っていてもよく、このコードをＡＰＩレジストリ４０４が受け、そうでなければＡＰＩレジストリ４０４が実行するであろうコードを無効にするために使用することができる。本開示よりも前においては、プロパティを実行する一方で同時にサービス開発者が必要に応じてこれらのプロパティを無効にできるようにするための統一されたデフォルトを作成する方法は存在していなかった。よって、ＡＰＩレジストリ４０４は、デフォルトとしてＡＰＩレジストリ４０４でコードを実行できるようにしつつ、開発者から受けたプロパティ１６０２によってこのコードを無効にすることもできるようにすることで、技術的課題を克服する。
図１７は、いくつかの実施形態に係る、ＡＰＩレジストリを通じてエンドツーエンド暗号化を実施するプロパティのハードウェア／ソフトウェア図を示す。ＡＰＩレジストリ４０４は、ＡＰＩ定義ファイル１５０５とともに、サービス１７０８をコールするためにエンドツーエンド暗号化を生じさせるコードを示すまたは含むプロパティ１７０４を受けてもよい。開発中、サービス１７０８は、サービス１７０８が受けたパケットを復号しサービス１７０８が返すパケットを暗号化する、自身の復号／暗号化コード１７１０を含むことができる。本開示よりも前においては、サービス１７０８のユーザがサービス１７０８と互換性のある暗号化を提供する必要があることを示す仕様書を、開発者が提供しなければならなかった。本実施形態は、呼び出し側サービス１７０６においてクライアントライブラリが如何にして生成されるかをサービス１７０８が規定できるようにしてサービス１７０８の暗号化との互換性を保証することにより、技術的課題を解決する。
いくつかの実施形態において、サービス１７０８の開発者は、暗号化／復号コード１７１０をサービス１７０８に含める必要はない。代わりに、サービス１７０８のエンドツーエンド暗号化を実施するよう、プロパティ１７０４がＡＰＩレジストリ４０４に命令するだけでよい。サービス１７０８がコンテナプラットフォーム２１０にデプロイされるとき、ＡＰＩレジストリ４０４は、デプロイ時にサービス１７０８に暗号化／復号コード１７１０が挿入されるようにすることができる。これにより、開発者が、プロパティ１７０４に基づいて異なる暗号化制度からの選択を行うことができる、および／または、ＡＰＩレジストリ４０４が、デフォルトとして好ましい暗号化制度を選択することができる。
エンドツーエンド暗号化には、サービス１７０８がデプロイされるときまたはその開発中に暗号化／復号コード１７１０をサービス１７０８に挿入することが必要なだけでなく、互換性のある暗号化／復号コードを呼び出し側サービス１７０６が含むことも必要である。先に述べたように、呼び出し側サービス１７０６がサービス１７０８を使用する必要があるとき、ＡＰＩレジストリ４０４は、簡単で効率的なやり方でサービス１７０８とやり取りするのに必要なコードを完全に実現する１つ以上のクライアントライブラリ１７０２を生成することができる。このクライアントライブラリ１７０２が生成されるとき、ＡＰＩレジストリ４０４は、プロパティ１７０４を分析することにより、サービス１７０８が使用する暗号化制度を判断することができる。次に、このプロパティ１７０４に基づいて、ＡＰＩレジストリ４０４は、呼び出し側サービス１７０６のために互換性のある暗号化／復号コードをクライアントライブラリ１７０２に追加することができる。よって、呼び出し側サービス１７０６が要求をサービス１７０８に送るとき、情報は呼び出し側サービス１７０６で暗号化されサービス１７０８がこの情報を受けたときに復号されてもよい。同様に、サービス１７０８は、呼び出し側サービス１７０６に送られる前のレスポンスを暗号化することができ、そうすると、呼び出し側サービス１７０６は、このレスポンスを、クライアントライブラリ１７０２の外部に送る前に復号することができる。これにより、この暗号化プロセス全体を呼び出し側サービス１７０６の開発者にとって完全にトランスペアレントなものにすることができる。サービス１７０６をコールするときに互換性のある暗号化／復号制度を実現することが要求されるのではなく、プロパティ１７０４は、ＡＰＩレジストリ４０４が互換性のある暗号化／復号コードをクライアントライブラリ１７０２に既に生成していることを保証し、エンドツーエンド暗号化プロパティを実現することができる。
図１８は、いくつかの実施形態に係る、ＡＰＩレジストリがサービス１８０８の使用ロギングを実現するためのプロパティ１８０４を示す。本開示よりも前においては、サービスに対する要求の頻度、ソース、成功率などをモニタリングしロギングするためには、サービス自身がこの情報をロギングする必要があった。これに代わるものとしては、コンテナ環境がサービスをモニタリングしその使用情報をロギングする必要があった。サービス１８０８自体において情報をロギングすることは、極めて非効率であり、このサービスが扱うすべての要求についてのスループットを減速させる。同様に、特定のサービスに対して行われるコールすべてをモニタリングしロギングすることをコンテナプラットフォームに求めるときのオーバーヘッドも、コンテナサービスのスケジューリングおよびオーケストレーションに対する極めて大きなオーバーヘッドを表している。本実施形態は、この技術的課題を、サービス１８０８をコールするサービスのためのクライアントライブラリにコードを直接挿入することによって解決する。これにより、メモリの使用またはＣＰＵの使用という点でサービス１８０８のパフォーマンスに全く影響を与えることなく、サービス１８０８の使用をロギングしモニタリングすることができる。
ＡＰＩレジストリ４０４は、ＡＰＩ定義ファイル１５０５に加えて、使用ロギング１８０４を実現するコードを示すまたは含むプロパティ１８０４を受けることができる。呼び出し側サービス１８０６の開発者が要求をサービス１８０８に出すことを所望するとき、ＡＰＩレジストリ４０４は、サービス１８０８に関するアクティビティをロギングするためのコードを含むクライアントライブラリ１８０２を自動的に生成することができる。先に述べたように、このコードは、ＡＰＩレジストリ４０４が管理し実行するデフォルトコードに基づいて生成することができる、または、プロパティ１８０４とともに受けてＡＰＩレジストリ４０４が実行するコードによって生成することができる。
クライアントライブラリ１８０２における、アクティビティをロギングするためのコードは、サービス１８０８がコールされるたびにインクリメントされるカウンターと、サービス１８０８がコールされたときにアクティビティをログファイルにロギングさせる関数と、サービス１８０８に送られた要求およびサービス１８０８から受けたレスポンスの特徴をモニタリングし記録するその他の関数とを、含み得る。特定の実施形態に応じて、このコードは、サービス１８０８に対して行われる要求に対応付けられた多数の異なる種類の特徴をモニタリングしてもよい。たとえば、いくつかの実施形態は、サービス１８０８に対して行われたコールの総数をロギングしてもよい。いくつかの実施形態は、サービス１８０８から受けたレスポンスの成功率をロギングしてもよい。いくつかの実施形態は、サービス１８０８に対する要求において送られたデータのタイプをロギングしてもよい。いくつかの実施形態は、サービス１８０８がコールされた時刻またはサービス１８０８がコールされたときについてのその他の外部情報をロギングしてもよい。いくつかの実施形態は、サービス１８０８をデバッグするために使用することが可能なサービス１８０８への／からの入力および出力をロギングしてもよい。いくつかの実施形態は、限定されることなく、これらの特徴のうちのいずれかまたはすべてを、任意の組み合わせでロギングしてもよい。
図１９は、いくつかの実施形態に係る、サービス１９０８の認証プロトコルを実施することが可能なプロパティ１９０４のハードウェア／ソフトウェア図を示す。いくつかのサービスは、要求に応答する前に、ユーザアイデンティティが認証されることおよびユーザがサービスの使用を認可されることを必要とする場合がある。本開示よりも前においては、認証および認可の手続がサービス１９０８自体で行われるという技術的課題があった。これは、サービス１９０８が受けるすべてのコールについてメモリの使用およびＣＰＵの使用という点でオーバーヘッドを増加させ、レスポンスにおけるサービスのレイテンシを大きくした。その結果、スループットが減少し、所定の期間中にサービス１９０８が処理できる要求の数が制限された。これらの実施形態は、この技術的課題を、認証／認可コードを、ＡＰＩレジストリ１４０４が自動的に生成するクライアントライブラリ１９０２に移動させることによって解決する。
呼び出し側サービス１９０６がサービス１９０８の使用を所望するとき、ＡＰＩレジストリ４０４は、認可および／認証を実行するためのコードを含むクライアントライブラリ１９０２を生成することができる。いくつかの実施形態において、これは、ユーザアイデンティティを特別に検証するおよび／またはユーザがサービス１９０８の使用を認可されるか否かを判断する外部認証／認可サービス１９２０にコンタクトすることを含み得る。外部認証／認可サービス１９２０は、アクセスマネージャ、ライトウェイトディレクトリアクセスプロトコル（Lightweight Directory Access Protocol）（ＬＤＡＰ）マネージャ、アクセスコントロールリスト（Access Control List）（ＡＣＬ）、ネットワーク認証プロトコルマネージャなどを、含み得る。そうすると、クライアントライブラリ１９０２内のコードは、認証／認可手続が成功したときにコールをサービス１９０８に送ることができる。
認証／認可の実施をＡＰＩレジストリ４０４およびクライアントライブラリ１９０２にオフロードすることにより、このコードをサービス１９０８から完全に除去することができる。外部認証／認可サービス１９２０とのやり取りには多大な遅延が伴うことが頻繁に生じ得るので、この遅延をサービス１９０８から取り除くことによってスループットを高めることができる。加えて、認証／認可の実施をサービス１９０８にハードコーディングするのではなく、サービス１９０８の開発者が、その代わりにＡＰＩレジストリ４０４に送られたプロパティ１９０４を用いて予め定められた認証／認可制度を選択するだけでよい。ＡＰＩレジストリ４０４は、認可／認証の予め定められたリストを、クライアントライブラリ１９０２の添付のインプリメンテーションコードとともに管理することができる。これはまた、認可および／または認証されることができないサービス１９０８に対して呼び出し側サービス１９０６が要求を送ることを防止する。代わりに、認証および／または認可ルーチンが失敗した場合はクライアントライブラリ１９０２でコールを中止してもよい。これにより、認証および／または認可された要求のみをサービス１９０８が受けることを保証する。
ＡＰＩレジストリ４０４が提供するもう１つの技術的改善は、登録されたいずれかのサービスのコードのうちのいずれかを変更することを要求されることなく、プロパティ１９０４が提供する機能のいずれかをアップグレードする機能である。たとえば、認証／認可コードは、ＡＰＩレジストリ１４０４が生成したクライアントライブラリ１９０２にオフロードされているので、クライアントライブラリ１９０２をアップデートすることにより、認証／認可制度を変更することが可能である。呼び出し側サービス１９０６またはサービス１９０８におけるコードのうちのいずれもモニタリングする必要はない。コードは１つの場所でしか変更されないので、これは、そうでなければすべての個別サービスに送られる分散型パッチを伴うコード統合エラーの確率を大幅に減じる。
図２０は、いくつかの実施形態に係る、サービスのランタイムインスタンス化を可能にするプロパティ２００４のハードウェア／ソフトウェア図を示す。いくつかのサービスは、滅多に使用されない、または所定の期間中にしか使用されない場合がある。したがって、サービスをコンテナプラットフォームにデプロイすることが、常に、即時利用可能なサービスのインスタンスを実際にコンテナにインスタンス化することにつながる必要はない。仮想マシンとは異なり、コンテナは非常に素早くインスタンス化し作動させることが可能である。そのため、サービス開発者は、コールされたときにのみサービスをインスタンス化させることを所望する場合がある。サービス開発者はまた、所定の期間内においてのみサービスをインスタンス化させることを所望する場合がある。同じく、サービス開発者は、サービスインスタンスは所定の休止期間が過ぎると削除されねばならないと明示する場合がある。
ＡＰＩレジストリ４０４は、ＡＰＩ定義ファイル１５０５を受けることに加えて、ランタイムインスタンス化またはその他のインスタンス化パラメータを指定するプロパティ２００４を受けることができる。たとえば、このプロパティは、サービス２００８をデプロイ後にインスタンス化すべき１つ以上の期間の指定を含み得る。別の例において、このプロパティは、サービス２００８はオンデマンドでのみインスタンス化されねばならないという表示を含み得る。別の例において、このプロパティは、タイムアウト期間を指定してもよく、インスタンス化されたサービス２００８はこのタイムアウト期間後にコンテナプラットフォームから削除されねばならない。
呼び出し側サービス２００６がサービス２００８の使用を所望するとき、ＡＰＩレジストリ４０４は、サービス２００８のランタイムインスタンス化を処理するコードをクライアントライブラリ２００２に生成することができる。たとえば、クライアントライブラリ２００２のCreateInstance( )関数コールは、ＡＰＩレジストリ４０４に対するコールを作成することができる。そうすると、ＡＰＩレジストリはコンテナプラットフォーム２１０とやり取りすることにより、サービス２００８のオペレーティングインスタンスを利用できるか否かを判断することができる。利用できない場合、ＡＰＩレジストリ４０４は、コンテナプラットフォーム２０１０のコンテナにサービス２００８のインスタンスをインスタンス化するようコンテナプラットフォーム２１０に命令することができる。そうすると、コンテナプラットフォーム２１０は、エンドポイント（たとえばＩＰアドレスおよびポート番号）をＡＰＩレジストリ４０４に返すことができる。次に、ＡＰＩレジストリ４０４は、エンドポイントと、クライアントライブラリ２００２に作成されたＡＰＩ関数コールとの間のバインディングを作成することができる。次に、ＡＰＩレジストリ４０４は、このエンドポイントをクライアントライブラリ２００２に返すことができ、これを用いることにより、呼び出し側サービス２００６と新たにインスタンス化されたサービス２００８との間の直接接続を作成することができる。
所定の期間中のみインスタンス化されるべきサービスの場合、ＡＰＩレジストリ４０４は、特定のサービスのインスタンス化および削除時間のテーブルを構築してもよい。格納されたこれらのインスタンス化／削除時間に基づいて、ＡＰＩレジストリ４０４は、サービス２００８のインスタンスをインスタンス化または削除するようコンテナプラットフォーム２１０に命令することができる。ＡＰＩレジストリ４０４は、これらの所定期間中にインスタンス化すべきインスタンスの数を指定することもできる。たとえば、プロパティ２００４は、午後５時から午後１０時まで、サービス２００８の少なくとも１０のインスタンスがコンテナプラットフォーム２１０上でアクティブであることを明示してもよい。この期間になると、ＡＰＩレジストリ４０４は、追加のインスタンスを作成するようコンテナプラットフォーム２１０に命令することができる。
図２１は、いくつかの実施形態に係る、サービス２１０８のレート制限関数を実現するプロパティ２１０４のハードウェア／ソフトウェア図を示す。いくつかのサービスは、要求を受けるレートを制限する必要がある場合がある。その他のサービスは、特定の送信者または特定のタイプのサービスからの要求を制限する必要がない場合がある。本開示よりも前においては、この関数は、サービス自体が、各要求のソースを判断し、このソースをホワイトリスト／ブラックリストと比較し、これらの要求をサービスするレートを絞ることにより、実行しなければならなかった。上記例のうちのほとんどと同様、このオーバーヘッドをサービス自体に課すと、サービスが使用するメモリおよびＣＰＵパワーの量が増し、サービスのスループットが制限される。これらの実施形態は、この技術的課題を、ＡＰＩレジストリが生成したクライアントライブラリにレート制限コードを自動的に生成することによって解決する。これにより、サービス２１０８がその関係するオーバーヘッドすべてを伴ってこの機能を実現しなくても、サービスはプロパティ２１０４によってレート制限を指定することができる。
呼び出し側サービス２１０６が要求をサービス２１０８に送ることを所望するとき、ＡＰＩレジストリ４０４は、レート制限コードを含むクライアントライブラリ２１０２を自動的に生成することができる。クライアントライブラリ２１０２が生成されると、ＡＰＩレジストリ４０４は、特定のサービス２１０６のレート制限が必要か否かを判断することができる。必要でなければ、クライアントライブラリ２１０２を通常通り生成することができる。ＡＰＩレジストリ４０４が、呼び出し側サービス２１０６をレート制限すべきであると判断した場合（たとえばホワイトリスト／ブラックリストとの比較によって）、ＡＰＩレジストリ４０４は、遅延を追加する、カウンターを追加する、および／またはそうでなければレート制限関数を実現するコードをクライアントライブラリ２１０２に挿入することにより、所定のレートに従って任意の所定期間において呼び出し側サービス２１０６が所定の最大数の要求を行うことを保証することができる。このコードは、その間はレート制限関数がアクティブである時間ウィンドウを実現してもよい。これにより、サービス２１０８は、高トラフィック期間中レート制限を自動的に実施することができる。
図２２は、いくつかの実施形態に係る、複数のコンテナノードへの複数のポッドの最初のデプロイメントの機能図を示す。コンテナプラットフォーム２１０のいくつかの実施形態は、コンテナプラットフォームスケジューラ２２０２を利用することにより、多数のコンテナをコンテナプラットフォーム２１０全体にスケーリングしデプロイしてもよい。サービスがコンテナプラットフォーム内の複数のホストシステムにスケールアウトされる場合、各ホストシステムを管理し基礎となるコンテナプラットフォームの複雑さを取り除く機能が有利になるであろう。「オーケストレーション」は、コンテナスケジューリング、ノードのクラスタリングの管理、およびコンテナ環境における追加ホストの可能なプロビジョニングを意味する、広い用語である。コンテナプラットフォームにおける「スケジューリング」は、アドミニストレータがサービスをホストシステムにロードしこの特定のコンテナを如何にして運用するかを定める機能を意味する場合がある。スケジューリングは特にサービス定義をロードするプロセスを意味するが、これは、ノードクラスタの動作のその他の面の管理を担うこともできる。ノードのクラスタを管理することは、コンピューティングホストのグループを制御するプロセスを含む。これはスケジューリングと密接に結びついている。なぜなら、スケジューラ２２０２は、先に定義したようにサービスをスケジューリングするためにはクラスタ内の各ノードにアクセスする必要がある場合があるからである。しかしながら、下記実施形態にとって最も重要なスケジューラ２２０２のプロセスは、ホストの選択を含む。この意味において、スケジューラ２２０２は、サービスをカプセル化する特定のポッドをデプロイし運用するコンテナノード２２０４、２２０６、２２０８を自動的に選択するタスクが課されていてもよい。
ノードにデプロイされるポッドをスケジューリングするとき、ノードごとの一組の動作制約をスケジューラに与えることができる。たとえば、どれだけのＣＰＵ使用量、メモリ使用量、帯域幅使用量、およびその他のコンピューティング特徴使用量をコンテナノード２２０４に割り当てることができるかを定めた制約２２１０に、ノード２２０４を対応付けてもよい。これらの割当は、仮想マシンが運営する仮想リソースに割り当てられてもよく、または、少なくとも一部がノード２２０４専用である物理リソースに割り当てられてもよい。ＣＰＵ使用量は、使用されるＣＰＵコアの数、または、ノード２２０４専用の１秒当たりの動作の数を伴う場合がある。メモリ使用量は、ディスクアレイおよびその他の記憶媒体上における動的メモリ使用量および静的メモリストレージ双方を意味する場合がある。帯域幅使用量は、ノード２２０４が必要とするネットワークリソースの量、または、ノード２２０４に／から送信されるデータの１秒当たりの量を意味する場合がある。
制約２２１０は、スケジューラ２２０２が、サービスポッドをノード２２０４にデプロイし割り当てるときに使用することにより、これらのコンピューティング特徴各々の使用量を制約２２１０内で最適化することができる。制約２２１０は、ノード２２０４によるこれらのコンピューティング特徴の実際の使用量に対するソフト制限またはハード制限いずれかとして機能することができる。ノード２２０４内のポッドが、制約２２１０が認めるものよりも多いコンピューティング特徴の使用を開始した場合、コンテナプラットフォームスケジューラ２２０２は、ノード２２０４の使用量を抑制することにより、確実に制約に従うようにすることができる。いくつかの場合において、制約２２１０は、使用される基礎となるコンピュータハードウェアの物理的制限を表す場合があり、抑制は、このコンピューティングハードウェアの物理的能力に基づいて行われる場合がある。本明細書に記載の制約の例２２１０、２２１２、２２１４は、例として最大使用量を意味しているが、これは限定を意図したものではない。実際、制約２２１０、２２１２、２２１４は、上限、下限、値の範囲、時間間隔、しきい値数動作、目標値、最適値、および、コンピューティング使用量を特徴付けるのに使用し得るその他任意の種類の分類を含み得る。
スケジューラ２２０２は、ポッドをノードに割り当てるときに、各ノード内における各コンピューティング特徴の使用量を最大にしようと試みつつ、コンピューティング特徴の実際の使用量が制約２２１０、２２１２、２２１４内に確実に収まるようにすることができる。しかしながら、スケジューラ２２０２は、最初にポッドをコンテナにデプロイするときにはポッドの実際の使用量の推定値に頼らなければならない。この推定値は、ポッド内のサービスの開発者から与えられることが多い。たとえば、開発者は、サービスを開発するときに、このポッドは２単位のＣＰＵ、３単位のメモリ、および１０単位の帯域幅を使用すると規定する場合がある。開発者によるこれらの推定値は、絶対最大値、平均値、目標値、または、開発者が制約として指定するのに無理がないと感じるその他任意の値であるとみなすことができる。このタイプの推定値に固有の技術的課題は、多くの開発者が、彼らのポッドが実際に本当に必要とするコンピューティング使用量を多く見積もり過ぎることにある。開発者は、彼らのサービスが最適レベルでの実行に必要なコンピューティングリソースすべてを有することを確実にするために、意図的に多く見積もり過ぎることが多い。そうすると、障害の発生は確実に抑えられるものの、利用できるリソースをスケジューラ２２０２が十分に利用しないことにもなる。実際、推定コンピューティング使用量を用いる最初のデプロイメントに基づくと、コンピューティングリソースの平均２０％がノード内で未使用になる可能性がある。また、開発者は、彼らのサービスについて使用量を推定するときに絶対最大値を使用することが多い。しかしながら、これらの最大値が発生することは極めて稀なので、ノード内のポッドすべての定常使用量は制約よりもかなり下回る。ノードに対するポッドのこの非効率的な割当により、不必要な障害、またはコンピューティングリソースの使用不足が生じる。
本明細書に記載の実施形態は、これらおよびその他の技術的課題を、スケジューラ２２０２を使用しいくつかの実施形態ではＡＰＩレジストリ４０４を使用してコンテナプラットフォームのパフォーマンスを改善することにより、解決する。コンピューティングリソース使用量の推定に基づくポッドの最初のデプロイメント後に、スケジューラ２２０２は、デプロイメント後のポッド動作の実際の使用量をモニタリングすることができる。スケジューラ２２０２は、ポッドの実際の使用量に基づいて、コンテナプラットフォームの異なるノード間でポッドを再分配および／または再デプロイすることにより、ハードウェア使用量およびポッドのパフォーマンスを最適化することができる。加えて、使用量はリアルタイムで追跡できるので、スケジューラ２２０２および／またはＡＰＩレジストリ４０４は、いつ使用率（usage rate）が増大しておりこれが制約２２１０、２２１２、２２１４のうちの１つ以上を超えるように突出する可能性があるかを、検出することができる。これに応じて、スケジューラ２２０２は、利用できるコンピューティングリソースを用いて別のコンテナノード内のポッドの追加インスタンスをウォームアップすることができる。実際の使用量が、制約２２１０、２２１２、２２１４を超過し得ることを示す率で引続き増加している場合、システムは、トラフィックを新たなインスタンスに迂回させることを開始することができる。
これらの実施形態を説明するにあたり、各種コンピューティング特徴の使用量を測定し特徴付けるために使用する単位を、説明の便宜のために簡略化する。マイクロプロセッササイクル、メモリのギガバイト、ビット毎秒帯域幅などを記載する代わりに、これらの測定値各々を、比較のために簡単に「単位（unit）」と呼ぶ。たとえば、制約２２１０は、ＣＰＵ使用量が最大「２０単位」であると記載することができる。これは、３．４６ＧＨｚで実行する２つのプロセッサコアに相当し得る。制約２２１０に対応付けられたノード２２０４内のポッド２２２０の使用量を比較するとき、ポッド２２２０の使用量を５単位のＣＰＵ使用量の使用であると説明することができ、これは、制約２２１０のもとで利用できる合計量のおよそ２５％に相当するであろう。同様に、メモリ使用量の「単位」は、メガバイト、ギガバイト、テラバイト、またはメモリ使用量のその他任意の標準測定値に相当し得る。
図２２の例は、図２２に示されるポッド各々の推定ＣＰＵ使用量を用いてノード２２０４、２２０６、２２０８内にポッドを最初にデプロイすることに相当する。これらの推定値は、サービスの開発者から提供されてもよく、または、自動ツールもしくはその他の方法を用いて推定してもよい。加えて、図２２は、メモリ使用量、帯域幅使用量、およびその他のコンピューティング特徴を示さずに、専らＣＰＵ使用量だけを示してもよい。これは明確にすることを目的としているのであって限定を意図している訳ではない。スケジューラ２２０２はまた、ＣＰＵ使用量のバランシングに加えて、同時に、制約２２１０、２２１２、２２１４におけるメモリ使用量、帯域幅使用量、およびその他の使用量の特徴に従ってスケジューリングすることを、当業者は理解するであろう。複数の使用量ファクタのバランシングの一例を以下でさらに説明する。
簡略化のために、それぞれの制約２２１０、２２１２、２２１４において指定されたノード２２０４、２２０６、２２０８各々のＣＰＵ使用量が、ノード２２０４、２２０６、２２０８各々について最大ＣＰＵ使用量２０単位と記載されていると、想定することができる。スケジューラ２２０２が図２２に示される７つのポッドを受けたとき、スケジューラ２２０２は、これらのポッドを、各ノード内のリソース使用量を最大にするが各ノードに対応付けられた制約に違反しないやり方で、デプロイすることができる。これは、複数の異なる方法で行うことができ、いくつかの実施形態において、スケジューラ２２０２はラウンドロビン方法を用いることができる。いくつかの実施形態において、スケジューラ２２０２は最大使用量のポッドを最初に配置する貪欲法（greedy algorithm）を使用することができる。たとえば、スケジューラ２２０２は、最初に、最大ＣＰＵ使用量１８単位を有するポッド２２３２をノード２２０８にデプロイすることができる。スケジューラ２２０２は次に、２番目に多いＣＰＵ使用量１０単位を有するポッド２２２２をノード２２０４にデプロイしてもよい。スケジューラ２２０２は次に、３番目に多いＣＰＵ使用量９単位を有するポッド２２２４をノード２２０６にデプロイしてもよく、以降同様である。スケジューラ２２０２は、このまたは他のアルゴリズムを使用することにより、各ノードの利用可能使用量スペースに記入することができる。また、いくつかのスケジューラは、特に基礎となる物理的ハードウェアの制限が制約に記載されているときは、ポッドの総使用量とノードの制約使用量との間にガードバンド（guard band）を残すことにより、使用量と制約との間に緩衝域（buffer）を残してもよい。
しかしながら、先に簡単に述べたように、ノード内のポッドのうちの１つ以上の実際のＣＰＵ使用量は、実際の動作中、推定値のように一定ではない場合がある。図２３は、時間の経過に対するＣＰＵ使用量のグラフを示す。ライン２３１２は、ポッド２２２８の推定使用量が６ＣＰＵ単位であることを表している。ライン２３２２は、時間の経過に対する、ポッド２２２８の実際に測定したＣＰＵ使用量を表している。実際の使用量２３２２は、１０単位と１２単位との間であり、これは最初にポッド２２２８をデプロイするときに使用されたＣＰＵの推定使用量である６単位を遥かに超えていることに注目されたい。サービスが最初の推定時よりも人気がある場合にこの推定使用量よりも多い状態が発生する可能性がある。これはまた、サービスが意図した通りの効率で実行されていないときにも生じ得る。理由は関係なく、実際の使用量が最初に推定した６単位よりも５～６単位多くなることは、ノード２２０６の総使用量が２０ＣＰＵ単位という最大の制約２２１２を超えるのに十分である。
同様に、ライン２３１０は、最初に推定したポッド２２２２の使用量が１０ＣＰＵ単位であることを表している。しかしながら、ライン２３２８は、時間の経過に対するポッド２２２２の実際のＣＰＵ使用量を表している。なお、実際の使用量２３２８は４～５単位の間であり、これは推定された使用量２３１０である１０単位を５～６単位下回っている。その結果、ノード２２０４の総使用量が制約２２１０の２０ＣＰＵ単位を大幅に下回る場合がある。これは障害にはならないが、ノード２２０４のホストが十分に利用されない可能性がある。複数のノードでこれが発生すると、コンテナプラットフォーム全体の効率が大幅に低下するであろう。
本明細書に記載の実施形態は、これらおよびその他の課題を、各ノードのサービスのデプロイメント後の使用量をモニタリングすることによって解決する。これらの使用量が、最初のデプロイメントで使用された推定使用量から、しきい値量を超えてずれると、スケジューラ２２０２および／またはＡＰＩレジストリ４０４は、ポッドのデプロイメントをコンテナプラットフォーム内の異なるノードに再割り当てすることにより、制約２２１０、２２１２、２２１４の遵守を保証し、同時に、利用できるホストを効率良く利用することができる。ＡＰＩレジストリ４０４なしでスケジューラ２２０２を用いることで実現できる実施形態がいくつかある。また、スケジューラ２２０２なしでＡＰＩレジストリ４０４を用いることで実現できる実施形態もいくつかある。ＡＰＩレジストリおよびスケジューラ２２０２双方の組み合わせを用いる他の実施形態もある。
他の実施形態が、実行時に他のコンピューティング特徴の使用量をモニタリングしポッドのデプロイメントを追跡する他の方法を使用してもよい。いくつかの実施形態において、スケジューラ２２０２は、ポッド間およびノード間のトランザクションをモニタリングすることができる。これらの実装例では、ロギング機能をスケジューラに追加することにより、各ポッドがサービス要求として受ける送信をロギングしている。データ構造が、新たな送信ごとにインクリメントされるこれらの送信のカウントを格納することができる。各送信のログは、コンテナプラットフォーム内のノードの制約に記載される特定のコンピューティングリソース使用量に関する情報を含む。たとえば、ログは、送信時間、送信周波数、送信されているデータパケットのサイズなどをモニタリングすることができる。加えて、ログは、ポッドからコンテナプラットフォームへの処理およびメモリ使用量要求を格納することができ、これは、新たな記憶場所の割当または古い記憶場所の削除の要求、関数の処理の要求などを含む。スケジューラ２２０２は、このロギング機能をリアルタイム分析アルゴリズムと組み合わせ、ログに格納された入力各々のタイミングおよび大きさを用いて、絶対使用量、ピーク使用量、最低使用量、平均使用量、瞬間使用量などを求める。この分析アルゴリズムをリアルタイムで連続的に実行することにより、スケジューラ２２０２は、制約と比較される要求されたすべての使用量特徴についての最新使用量情報の記録を維持することができる。
ＡＰＩレジストリ４０４を使用する実施形態において、ＡＰＩレジストリ４０４は、上記各呼び出し側サービスのクライアントライブラリに、使用量コードを埋込むことができる。具体的には、使用量ロギングを示すプロパティを使用することにより、サービスとサービスとの間のやり取りのロギングを可能にしてもよい。これにより、ＡＰＩレジストリ４０４に、呼び出し側サービスのクライアントライブラリに使用量ロギングコードを生成させることができる。加えて、サービスがデプロイされるとき、ＡＰＩレジストリ４０４は、デプロイされているサービスに使用量ロギングコードを埋込むことができる。これにより、メモリ使用量情報、ＣＰＵ使用量情報、帯域幅使用量情報などを、サービスに、ＡＰＩレジストリ４０４に対して自己報告させることができる。なお、このコードはＡＰＩレジストリによって自動的に生成されるので、サービス開発者は自身でこのコードを埋込む必要はない。代わりに、このコードは、ＡＰＩレジストリが、自動的に生成、ロギング、計算、および分析してもよい。スケジューラ２２０２が実行する分析アルゴリズムと同様、ＡＰＩレジストリ４０４および／またはクライアントライブラリのコードは、使用量情報をリアルタイムで分析することにより、ピーク使用量、平均使用量、瞬間使用量、最低使用量などの使用量特徴を求めることができる。
使用量情報のモニタリング後に、スケジューラ２０２および／またはＡＰＩレジストリ４０４は、コンテナプラットフォーム内のいずれかのポッドの実際の使用量特徴がいつそれぞれの最初の推定使用量からしきい値量を超えてずれるかを特定することができる。このようにずれると、スケジューラ２２０２および／またはＡＰＩレジストリ４０４は、最初の推定値からしきい値量を超えてずれたいずれかのポッドはそれぞれの実際の推定値に基づいて再デプロイしなければならないと判断することができる。図２４は、実際の使用量に基づくポッドの再デプロイメントを描いた図を示す。ポッド２２２２はＣＰＵ使用量が１０単位であると最初に推定されたことを想起されたい。しかしながら、その実際の使用量は４～５ＣＰＵ単位に近いものであった。制約２２１０、２２１２は最大ＣＰＵ使用量に関連すると想定すると、ポッド２２２２の推定使用量は、実際に記録された使用量に基づいて、ＣＰＵ使用量６単位に規定し直すことができる。同様に、ポッド２２２８はＣＰＵ使用量が６単位であると最初に推定されたことを想起されたい。しかしながら、時間の経過に対するポッド２２２８の実際の使用量は最大１２単位に近いものであった。したがって、ポッド２２２８の推定使用量は、ＣＰＵ使用量１２単位に割り当て直すことができる。
実際の使用量が現在の推定値から十分にずれていることが検出されると、スケジューラ２２０２および／またはＡＰＩレジストリ４０４は、ポッドを複数のノードに再割り当てすることができる。いくつかの実施形態において、それぞれの使用量推定値からずれていないポッドを再割り当てすることは非効率的である場合がある。この例では、ポッド２２２２および２２２８のみが再割当を必要とし、ポッド２２２０、２２２４、２２２６、２２３０、および２２３２は、現在デプロイされている場所に留まることができる。あるアルゴリズムにおいて、ずれているポッドをそれぞれの制約から外し、上記アルゴリズム（ラウンドロビン、貪欲など）を用いて再デプロイすることができる。ずれているすべてのポッドをこの方法を用いて再デプロイすることが可能であれば、これは、利用できる最も効率的な再割当方法を表すであろう。ずれているポッドが自身では再デプロイされることができない場合に、スケジューラ２０２および／またはＡＰＩレジストリ４０４は、実際の使用量からずれていなくても、最小推定使用量のノードの再割当を開始することができる。このアルゴリズムは、制約２２１０、２２１２、２２１４の中ですべてのポッドが再デプロイされるまで、繰り返し実行することができる。これは、各ホストのリソースがポッドデプロイメントにより最も効率的に使用されることも保証する。
ＡＰＩレジストリ４０４を用いる実施形態において、再デプロイメントにより、ＡＰＩレジストリ４０４が、ノードのエンドポイントとＡＰＩレジストリに登録された関数との間の新たなバインディングを生成する場合がある。先に述べたように、新たなＩＰアドレスおよびポート番号が再デプロイされたポッドに割り当てられたときに、ＡＰＩレジストリはそのバインディングをアップデートすることができる。そうすると、再デプロイされたサービスのいずれかと呼び出し側サービスとの間のやり取りを処理するために生成されたいずれかのクライアントライブラリもアップデートすることができる。これはまた、コンテナプラットフォーム内のサービスについてエンドポイントが変更されたときに通常発生し得る波及効果を減じる。
図２５は、コンテナノード内で複数の使用量特徴を如何にして同時にバランシングできるかを示す。この実施形態において、ポッド２２２０の推定使用量２５０２は、３つの異なる使用ファクタ、すなわち、ＣＰＵ使用量、メモリ使用量、および帯域幅使用量を含む。これら３つの使用量特徴は、３つの異なる値、すなわちＣＰＵ使用量８単位、メモリ使用量３単位、および帯域幅使用量５単位に対応付けることができる。同様に、ポッド２２２２の推定使用量２５０４は、３つの使用量ファクタ、すなわち、ＣＰＵ使用量１０単位、メモリ使用量１３単位、および帯域幅使用量１単位を含む。上記方法に従ってポッド２２２０およびポッド２２２２をデプロイまたは再デプロイするとき、これらのファクタ各々を一緒にバランシングすることにより、これらのポッドを割り当てる適切なノードを判断することができる。いくつかの実施形態において、ポッドは最初にその最大推定使用量に従って配置することができる。これは、ポッド２２２２を最初にメモリに従って配置し、ポッド２２２０を最初にＣＰＵ使用量に従って配置することに相当する。他の実施形態は、最も可用性が低いまたは最も可用性が高い制約および／または使用量特徴に基づいて、ポッドをデプロイすることができる。
図２６は、いくつかの実施形態に係る、最初のデプロイメント後のポッドのデプロイメントを示す。この実施形態において、制約２２１２はＣＰＵ最大使用量２０単位を含むと想定してもよい。ノード２２０６内のポッド２２２４、２２２８、および２２３０の合計使用量は約１７ＣＰＵ単位である。いくつかの場合において、ポッド２２２４のようなポッドは、通常の平均予測使用率よりも一時的に高い使用率が発生する場合がある。この場合、もしこのような発生が一時的でまばらに起きる場合はポッドを再デプロイしその使用率を調整することが効率的でないかもしれない。しかしながら、同じノード２２０６のその他いずれかのポッドの累積パフォーマンスとともに、ポッド２２２４のパフォーマンスに悪影響が生じるのを防止するために、ＡＰＩレジストリ４０４および／またはスケジューラ２２０２は、追加のステップを採用することにより、ポッド２２２４の追加インスタンスを一時的にデプロイすることで、使用率の一時的な上昇を処理することができる。
一例において、ポッド２２２４のＣＰＵ使用量は、９ＣＰＵ単位から１５ＣＰＵ単位に増加する可能性がある。なお、その結果、ノード２２０６の総ＣＰＵ使用量は、制約２２１２が規定する２０ＣＰＵ単位という最大使用量を超過することになる。そうすると、特にノード２２０６が要求するＣＰＵリソースを、基礎となるハードウェアホストが持っていない場合は、ノード２２０６のすべてのポッドに障害が生じる可能性がある。
図２７は、いくつかの実施形態に係る、時間の経過に対するＣＰＵ使用量のグラフを示す。ライン２７１０は、時間の経過に対するポッド２２２４の実際の使用率を示す。ライン２７０２は、ポッド２２２４の推定使用量として９ＣＰＵ単位を表している。ライン２７１４は、ノード２２０６が制約２２１２としての２０ＣＰＵ使用量単位を超過することを生じさせるであろう、ポッド２２２４の推定使用量を表している。もし検査されないままであれば、ポッド２２２４の使用量は、最初にその推定最大使用量である９ＣＰＵ単位を超過し、次に１２ＣＰＵ単位を超過することにより、結果としてノード２２０６はその制約である最大２０ＣＰＵ単位を超過することになる。
スケジューラ２２０２および／またはＡＰＩレジストリ４０４を用いて、コンテナプラットフォームは、ポッド２２２４の使用量を、これらのしきい値を超える前に有効に削減することができる。先に述べたように、ポッド２２２４のサービスが処理を要求するときに、ＣＰＵ使用量は、スケジューラ２２０２および／またはＡＰＩレジストリ４０４がリアルタイムで追跡できる。現在のＣＰＵ使用量ロギングはタイムスタンプを含むので、スケジューラ２２０２および／またはＡＰＩレジストリ４０４はＣＰＵ使用量の増加率を求めることができる。ＣＰＵ使用量の増加率が第１のしきい値２７０４を超えると、これらのシステムは、ノード２２０６の別の部分においてまたはノード２２０４等の異なるノードにおいてポッド２２２４のサービスの新たなインスタンスを「ウォームアップする」ことができる。サービスの新たなインスタンスのウォームアップは、新たなポッドのインスタンス化およびサービスのインスタンスを新たなポッドにロードすることを含み得る。これはまた、新たなポッドの初期化ルーチンの実行、およびテスト入力／ベクトルをサービスに送信して処理を開始することを含み得る。選択された使用量ファクタ、たとえばＣＰＵ使用量について合計使用率が最も低い新たなポッドについてノードを選択してもよい。ウォームアップ段階中、この新たなポッドにライブトラフィックをルーティングする必要はない。これは、ＣＰＵ使用率の連続的な増加に備えるために使用できる期間である。この率が増加し続ける場合、システムは、要求トラフィックを新たなポッドに迂回させることにより、応答する準備を整えることができる。
使用率が減少し始めた場合、または予め定められた増加率しきい値を維持しない場合、新たにインスタンス化されたポッドを削除することができる。しかしながら、増加率が予め定められたレベルを維持して第２のしきい値２７０６を越えた場合、システムは、新たにインスタンス化されたポッドを起動することによってこれに応じることができる。言い換えると、増加しているＣＰＵ使用量がノード全体の最大制約を超過する恐れがある場合は、サービス要求トラフィックを、異なるノードで動作している新たなポッドに再度ルーティングすることができる。これは、ノード２２０６内のポッド２２２４からコンテナ２２０４内の新たなポッドにトラフィックをルーティングすることを含み得る。新たなポッドが起動された後の曲線２７１２は、ポッド２２２４の新たなＣＰＵ使用量の軌跡を示す。この新たな軌跡は、ポッド２２２４の推定使用率を表すライン２７０２を大幅に超過する前に低減される。また、この新たな軌跡は、ノード２２０６の制約の制限を表すライン２７１４の超過に近づく前に大幅に低減される。
図２８は、いくつかの実施形態に係る、図２７に記載されているポッドインスタンス化プロセスの図を示す。すべての要求トラフィック２８０４が先ずポッド２２２４に送られる。ＣＰＵ使用率が増加し始めると、スケジューラ２２０２および／またはＡＰＩレジストリ４０４は、ノード２２０４内に新たなポッド２８０２をインスタンス化することができる。ノード２２０４を選択できる理由は、現在コンテナプラットフォーム上で最も小さいＣＰＵ使用量である８ＣＰＵ単位を有しているからである。なお、新たなポッド２８０２がノード２２０４においてインスタンス化された後であっても、いずれの要求トラフィック２８０４も新たなポッド２８０２に迂回させることはない。代わりに、ポッド２２２４のＣＰＵ使用率が変わらず増加し続ける場合は、要求トラフィック２８０４の一部を受ける準備として、ポッド２８０２をインスタンス化、初期化、およびそうでなければ「ウォームアップする」ことができる。
図２９は、いくつかの実施形態に係る、ポッドのインスタンス化および使用量の図を示す。引続き図２８の例を用いて、ポッド２２２４のＣＰＵ使用率はノード２２０４内に新たなポッド２８０２がインスタンス化された後も引続き上昇したと想定することができる。ＣＰＵ使用量増加の容量しきい値レベルの増加後に、ＡＰＩレジストリ４０４および／またはスケジューラ２２０２は、新たなポッド２８０２に対してトラフィックをルーティングさせ始めることができる。
いくつかの実施形態において、これは、ＡＰＩレジストリ４０４によって導かれる入来要求を受けるロードバランサーを実現するポッドをインスタンス化することを含み得る。そうすると、ロードバランサーは、要求の数をポッド２２２４とポッド２８０２との間で等しくすることができる。いくつかの実施形態において、ロードバランサーは、最初に要求トラフィックをポッド２２２４とポッド２８０２との間で等しく分割することから始めることができる。次に、ロードバランサーは、ノード２２０４およびノード２２０６のうちのいずれが、それぞれのＣＰＵ使用量制約２２１０および２０１２により近いかを、判断することができる。次に、ロードバランサーは、２つのポッド２２２４、２８０２の間で要求トラフィックの流れを調整することにより、ノード２２０４、２２０６の使用量とそれぞれの制約２２１０、２２１２との間の等しいガードバンドを維持することができる。たとえば、２つのポッドが要求トラフィックを等しく分割した場合、これは、第１のポッドを含む第１のノードの合計ＣＰＵ使用量を、第２のポッドを含む第２のノードの合計ＣＰＵ使用量よりも、その制約最大値に近くする可能性がある。この場合、ロードバランサーは、トラフィックを第１のポッドから第２のポッドにシフトすることで、等しく分配されないようにすることができるが、制約が定める最大使用量と実際の使用量との間の緩衝域はほぼ等しい。
新たなポッド２８０２のインスタンス化および起動を生じさせるＣＰＵ使用量の増加が時間の経過に伴って減少し始めた場合、スケジューラ２２０２および／またはＡＰＩレジストリ４０４は、この減少を検出し、続いて要求トラフィック２９０２をポッド２２２４に戻すようにシフトさせることができる。これにより、追加の要求トラフィックを処理するための一時的なインスタンス化のプロセスが、コンピューティングリソース使用量の増加に対する中間反応として作用する。この増加が一時的であり持続時間がある時間しきい値量よりも短い場合、単純に新たなポッド２８０２を削除し動作を通常通り続けることができる。しかしながら、コンピューティングリソース使用量の増加がより持続的であり持続時間がある時間しきい値量よりも長い場合、ＡＰＩレジストリ４０４および／またはスケジューラ２２０２は、代わりにポッド２２２４の推定リソース使用量を増加させ、１つのサービスインスタンスにとって十分なリソースを有するコンテナノード内にポッドを再デプロイすることができる。この再デプロイメントプロセスは、図２２～図２４において先に述べたように実行することができる。いくつかの実施形態において、一時的なインスタンス化のプロセスは常に図２２～図２４の再バランシングおよび再デプロイメントに先行することができるが、これは必須ではない。
図３０は、いくつかの実施形態に係る、コンテナプラットフォームにおいてサービスを動的に再バランシングする方法のフローチャートを示す。この方法は、複数のポッドをコンテナプラットフォームの複数のノードにデプロイすることを含み得る（３００１）。本明細書で使用する「ポッド」という用語は、サービスまたはコンテナを意味する場合もあるが、その理由は、いくつかの実施形態におけるサービスは、１つ以上のコンテナからなるポッドに１つのサービスをデプロイする場合があるからである。これらのポッドは、先に図２２に関連して説明したようにコンテナプラットフォーム内の複数のノードに分散させてデプロイしてもよい。ノードの各々は、各ノード内のコンピューティングリソース使用量に対する制約を記載した使用量制約に対応付けられていてもよい。先に述べたように、これらの制約は、ＣＰＵ使用量、メモリ使用量、帯域幅使用量、電力使用量、時間使用量、ソフトウェアモジュール使用量などのようないずれかのコンピューティングリソースに対応付けられていてもよい。上述の例は一例として特にＣＰＵ使用量に言及しているが、限定することなく、これらの他のコンピューティングリソースのうちのいずれかをＣＰＵ使用量の代わりに任意に組み合わせてもよい。
この方法はまた、デプロイメント後に、複数のポッドに対応付けられた使用量ファクタをモニタリングすることを含み得る（３００３）。これらの使用量ファクタのモニタリングは、スケジューラにより、上記ＡＰＩレジストリの実装により、または、コンテナプラットフォーム内で動作するその他のソフトウェアプロセスにより、実行することができる。使用量ファクタのモニタリングは、サービス／ポッド動作を記述するタイムスタンプ付き情報とともにログを維持することを含み得る。これらの動作は、メモリリソースの要求、ＣＰＵ使用量の要求、ネットワークを介したデータ送信、コンテナプラットフォーム内のサービス間で送信される要求、電力測定値および／またはＣＰＵクロックサイクルもしくは動作を含むハードウェア測定値、および／またはポッド／サービスの動作のその他の特徴付けを含み得る。いくつかの実施形態において、システムはまた、ノードに対する制約と比較して、ノード全体の総計における使用量ファクタをモニタリングしてもよい。これらの動作は、瞬間率、平均率、最大率、最小率、目標率などを含む使用率をシステムが計算できるようにするタイミングファクタを含み得る。これらの率は、これらのファクタ自体のロギングされた平均測定値、最小測定値、最大測定値、瞬間測定値などに加えて計算されてもよい。その他の数学的計算を、一次導関数、二次導関数、統計的な特徴付け、比較、相違などのような、測定された使用量ファクタに適用してもよい。
この方法はまた、ポッドの実際の使用量が、その使用量ファクタの最初の特徴付けからいつずれたかを特定することを含み得る（３００５）。このずれは、デプロイメント後に測定されたあるタイプの使用量情報を、デプロイメント前に推定されたあるタイプの使用量情報と比較したものであってもよい。たとえば、絶対メモリ使用量の使用が制約によって１０ＧＢに制限されている場合、デプロイメント前の推定使用量は、ノード内の特定のポッドについて５ＧＢといった測定値であってもよい。この実際のずれは、デプロイメント後の測定使用量と、デプロイメント中に使用される推定使用量との間の比較を含み得る。たとえば、デプロイメント前の５ＧＢという推定値は、デプロイメント後の７ＧＢという測定値と比較することができる。ずれが予め定められたしきい値、たとえば１ＧＢを超過すると、このポッドはずれとして特定することができる。別の例において、制約が、１０ＭＢ／ｓのようなメモリ割当率を指定している場合、システムは、記録されたメモリ割当要求を用いることにより、デプロイメント前の推定使用量と比較するメモリ割当率を計算することができる。いくつかの実施形態は、このずれが、ずれとして報告される前に少なくとも予め定められた期間だけ維持されることを要求することにより、過渡的なまたは一時的なずれによってシステムがデプロイメントを変更するまたは新たなポッドのインスタンス化を開始することを防止することができる。
この方法はさらに、複数のポッドの少なくとも一部を、その使用量ファクタのずれに基づいて再分配することを含み得る（３００７）。この再分配は、ポッドをあるノードから第２のノードに移動させることを含み得る。この再分配はまた、推定使用量ファクタを調整することを含み得る。そうすると、結果として、ずれは、デプロイメント後にシステムが測定した実際の使用量と一致する。いくつかの実施形態において、この再分配は、先ず、第１の使用量しきい値の超過後に、第２のノードにおいて、複製またはクローニングされたポッドをインスタンス化およびウォームアップし、第１のポッドから複製またはクローニングされたポッドにトラフィックを迂回させることにより、使用量の一時的な変化を処理し、使用量が、元の第１のポッドをカプセル化するノードに対する制約を超過することを防止することを、含み得る。
図３０に示される具体的なステップが本発明の各種実施形態に係るコンテナプラットフォームにおいてサービスを動的に再バランシングする特定の方法を提供することが理解されるはずである。代替実施形態に従いステップの他のシーケンスを実行することもできる。たとえば、本発明の代替実施形態は、概要を述べた上記ステップを異なる順序で実行し得る。加えて、図３０に示される個々のステップは、個々のステップに適したさまざまなシーケンスで実行し得る複数のサブステップを含み得る。さらに、特定のアプリケーションに応じてその他のステップを追加または削除する場合もある。当業者は、多数の変形、修正、および代替形を認識するであろう。
本明細書に記載の各方法は、専用コンピュータシステムによって実現することができる。これらの方法の各ステップは、当該コンピュータシステムが自動的に実行してもよく、および／またはユーザを必要とする入力／出力が与えられてもよい。たとえば、ユーザが方法の各ステップに対して入力を与えてもよく、これらの入力は各々、このような入力を要求する、コンピュータシステムが生成した特定の出力に応じて与えられてもよい。各入力は、対応する要求出力に応じて受けられてもよい。さらに、入力は、ユーザから受けられてもよく、別のデータシステムからデータストリームとして受けられてもよく、メモリロケーションから取り出されてもよく、ネットワークを介して取り出されてもよく、ウェブサービスから要求されてもよく、および／またはその他であってもよい。同様に、出力は、ユーザに与えられてもよく、データストリームとして別のコンピュータシステムに与えられてもよく、メモリロケーションに保存されてもよく、ネットワークを介して送られてもよく、ウェブサービスに与えられてもよく、および／またはその他であってもよい。すなわち、本明細書に記載の方法の各ステップは、コンピュータシステムが実行し得るものであり、かつ、ユーザを必要とするもしくは必要としないかもしれないコンピュータシステムに対する、任意の数の入力、当該コンピュータシステムからの出力、および／または当該コンピュータシステムへの／からの要求を必要とし得るものである。ユーザを必要としないステップは、人の介入なしでコンピュータシステムが自動的に実行し得ると言える。したがって、本開示に照らして、本明細書に記載の各方法の各ステップは、ユーザへのおよびユーザからの入力および出力を含むように変更されてもよく、または、プロセッサが何らかの判断を行う場合は人の介入なしでコンピュータシステムが自動的に行ってもよい。さらに、本明細書に記載の各方法のいくつかの実施形態は、有形の非一時的な記憶媒体に格納されて有形のソフトウェアプロダクトを形成する一組の命令として実現されてもよい。
図３１は、上記実施形態のうちのいずれかとのやり取りが可能な分散型システム３１００の簡略図を示す。示されている実施形態において、分散型システム３１００は１つ以上のクライアントコンピューティングデバイス３１０２、３１０４、３１０６、および３１０８を含み、これらのクライアントコンピューティングデバイスは、１つ以上のネットワーク３１１０を介してウェブブラウザ、専用クライアント（たとえばOracle Forms）などのようなクライアントアプリケーションを実行し操作するように構成されている。サーバ３１１２が、ネットワーク３１１０を介してリモートクライアントコンピューティングデバイス３１０２、３１０４、３１０６、および３１０８に対して通信可能に結合されていてもよい。
各種実施形態において、サーバ３１１２は、このシステムのコンポーネントのうちの１つ以上が提供する１つ以上のサービスまたはソフトウェアアプリケーションを実行するようにされてもよい。いくつかの実施形態において、これらのサービスは、クライアントコンピューティングデバイス３１０２、３１０４、３１０６、および／または３１０８のユーザに対し、ウェブベースのもしくはクラウドサービスとして、またはサービスとしてのソフトウェア（ＳａａＳ）モデルのもとで、提供されてもよい。そうすると、クライアントコンピューティングデバイス３１０２、３１０４、３１０６、および／または３１０８を操作しているユーザは、１つ以上のクライアントアプリケーションを利用してサーバ３１１２とやり取りすることにより、これらのコンポーネントが提供するサービスを利用することができる。
図面に示される構成において、システム３１００のソフトウェアコンポーネント３１１８、３１２０および３１２２は、サーバ３１１２上に実装されたものとして示されている。他の実施形態において、システム３１００のコンポーネントおよび／またはこれらのコンポーネントが提供するサービスのうちの１つ以上が、クライアントコンピューティングデバイス３１０２、３１０４、３１０６、および／または３１０８のうちの１つ以上によって実装されてもよい。そうすると、クライアントコンピューティングデバイスを操作しているユーザは、１つ以上のクライアントアプリケーションを利用することにより、これらのコンポーネントが提供するサービスを使用することができる。これらのコンポーネントは、ハードウェア、ファームウェア、ソフトウェア、またはその組み合わせで実装されてもよい。分散型システム３１００とは異なり得るさまざまな異なるシステム構成が可能であることが理解されるはずである。図面に示される実施形態はしたがって、実施形態のシステムを実装するための分散型システムの一例であって、限定を意図したものではない。
クライアントコンピューティングデバイス３１０２、３１０４、３１０６、および／または３１０８は、Microsoft Windows Mobile（登録商標）等のソフトウェア、および／またはiOS、Windows Phone、Android、BlackBerry 10、Palm OSその他等のさまざまなモバイルオペレーティングシステムを実行し、インターネット、電子メール、ショートメッセージサービス（ＳＭＳ）、Blackberry（登録商標）、またはその他の通信プロトコルに接続可能な、ポータブルハンドヘルドデバイス（たとえばiPhone（登録商標）、携帯電話、iPad（登録商標）、コンピューティングタブレット、携帯情報端末（ＰＤＡ））またはウェアラブルデバイス（たとえばGoogle Glass（登録商標）ヘッドマウントディスプレイ）であってもよい。クライアントコンピューティングデバイスは、例として、さまざまなバージョンのMicrosoft Windows（登録商標）、Apple Macintosh（登録商標）、および／またはLinux（登録商標）オペレーティングシステムを実行するパーソナルコンピュータおよび／またはラップトップコンピュータを含む汎用パーソナルコンピュータであってもよい。クライアントコンピューティングデバイスは、限定されないがたとえばGoogle Chrome OS等のさまざまなGNU/Linux（登録商標）オペレーティングシステムを含む市場で入手可能な多様なUNIX（登録商標）またはUNIX（登録商標）系オペレーティングシステムのうちのいずれかを実行するワークステーションコンピュータであってもよい。これに代えてまたはこれに加えて、クライアントコンピューティングデバイス３１０２、３１０４、３１０６、および３１０８は、ネットワーク３１１０を介して通信可能な、シンクライアントコンピュータ、インターネット接続可能なゲームシステム（たとえばKinect（登録商標）ジェスチャー入力デバイスを有するまたは有しないMicrosoft Xboxゲームコンソール）、および／またはパーソナルメッセージングデバイス等の、電子デバイスであってもよい。
具体例としての分散型システム３１００が４つのクライアントコンピューティングデバイスとともに示されているが、任意の数のクライアントコンピューティングデバイスをサポートすることができる。センサなどを有するデバイスのようなその他のデバイスがサーバ３１１２とやり取りしてもよい。
分散型システム３１００のネットワーク３１１０は、限定されないがＴＣＰ／ＩＰ（transmission control protocol/Internet protocol）、ＳＮＡ（systems network architecture）、ＩＰＸ（Internet packet exchange）、AppleTalk（登録商標）などを含む、市場で入手可能なさまざまなプロトコルのうちのいずれかを用いてデータ通信をサポートできる、当業者によく知られた任意のタイプのネットワークであってもよい。一例にすぎないが、ネットワーク３１１０は、たとえばイーサネット（登録商標）、トークンリングおよび／または同様のものに基づく、ローカルエリアネットワーク（ＬＡＮ）であってもよい。ネットワーク３１１０は、広域ネットワークおよびインターネットであってもよい。これは、限定されないが仮想プライベートネットワーク（ＶＰＮ）、イントラネット、エクストラネット、公衆交換電話網（ＰＳＴＮ）、赤外線ネットワーク、無線ネットワーク（たとえばInstitute of Electrical and Electronics（ＩＥＥＥ）８０２．１１プロトコルスイート、Bluetooth（登録商標）、および／または任意の他の無線プロトコルのうちのいずれかの下で動作するネットワーク）、および／または上記および／またはその他のネットワークの任意の組み合わせを含む、仮想ネットワークを含み得る。
サーバ３１１２は、１つ以上の汎用コンピュータ、専用サーバコンピュータ（一例としてＰＣ（パーソナルコンピュータ）サーバ、ＵＮＩＸ（登録商標）サーバ、ミッドレンジサーバ、メインフレームコンピュータ、ラックマウントサーバなどを含む）、サーバファーム、サーバクラスタ、または、その他任意の適切な構成および／または組み合わせからなるものであってもよい。各種実施形態において、サーバ３１１２は、上の開示で説明した１つ以上のサービスまたはソフトウェアアプリケーションを実行するようにされていてもよい。たとえば、サーバ３１１２は、本開示の実施形態に係る上記処理を実行するためのサーバに対応していてもよい。
サーバ３１１２は、上記オペレーティングシステムのうちのいずれかおよび市場で入手可能なサーバオペレーティングシステムを含むオペレーティングシステムを実行し得る。また、サーバ３１１２は、ＨＴＴＰ（hypertext transport protocol）サーバ、ＦＴＰ（file transfer protocol）サーバ、ＣＧＩ（common gateway interface）サーバ、ＪＡＶＡ（登録商標）サーバ、データベースサーバなどを含む、さまざまな付加的なサーバアプリケーションおよび／またはミッドティアアプリケーションのうちのいずれかを実行し得る。具体例としてのデータベースサーバは、Oracle、Microsoft、Sybase、ＩＢＭ（International Business Machines）などから市販されているものを含むが、これらに限定されない。
いくつかの実装例において、サーバ３１１２は、クライアントコンピューティングデバイス３１０２、３１０４、３１０６、および３１０８のユーザから受信したデータフィードおよび／またはイベントアップデートを分析し統合するための１つ以上のアプリケーションを含み得る。一例として、データフィードおよび／またはイベントアップデートは、限定されないが、１つ以上の第三者情報源および連続データストリームから受信したTwitter（登録商標）フィード、Facebook（登録商標）アップデートまたはリアルタイムアップデートを含み得る。これらはセンサデータアプリケーション、金融ティッカー、ネットワーク性能測定ツール（たとえばネットワークモニタリングおよびトラフィック管理アプリケーション）、クリックストリーム分析ツール、自動車交通監視などに関連するリアルタイムイベントを含み得る。また、サーバ３１１２は、クライアントコンピューティングデバイス３１０２、３１０４、３１０６、および３１０８の１つ以上のディスプレイデバイスを介してデータフィードおよび／またはリアルタイムイベントを表示するための１つ以上のアプリケーションを含み得る。
分散型システム３１００は、１つ以上のデータベース３１１４および３１１６も含み得る。データベース３１１４および３１１６はさまざまな場所に存在し得る。一例として、データベース３１１４および３１１６のうちの１つ以上は、サーバ３１１２に対してローカルな場所にある（および／またはサーバ内にある）非一時的な記憶媒体上にあってもよい。これに代えて、データベース３１１４および３１１６は、サーバ３１１２から遠隔の場所に位置してネットワークベースのまたは専用接続を介してサーバ３１１２と通信してもよい。一組の実施形態において、データベース３１１４および３１１６は、ストレージエリアネットワーク（ＳＡＮ）内にあってもよい。同様に、サーバ３１１２に帰する機能を実行するために必要な任意のファイルを、適宜、サーバ３１１２にローカルにおよび／またはサーバ３１１２から遠隔の場所に格納してもよい。一組の実施形態において、データベース３１１４および３１１６は、ＳＱＬフォーマットのコマンドに応答してデータを格納し、アップデートし、取り出すようにされた、Oracleが提供するデータベース等のリレーショナルデータベースを含み得る。
図３２は、本開示の実施形態に係る、実施形態のシステムの１つ以上のコンポーネントがサービスをクラウドサービスとして提供し得るシステム環境３２００の１つ以上のコンポーネントの簡略化されたブロック図である。示されている実施形態において、システム環境３２００は、クラウドサービスを提供するクラウドインフラストラクチャシステム３２０２とやり取りするためにユーザが使用し得る１つ以上のクライアントコンピューティングデバイス３２０４、３２０６、および３２０８を含む。クライアントコンピューティングデバイスは、クライアントコンピューティングデバイスのユーザがクラウドインフラストラクチャシステム３２０２とやり取りすることによってクラウドインフラストラクチャシステム３２０２が提供するサービスを使用するために用いることができる、ウェブブラウザ、専用クライアントアプリケーション（たとえばOracle Forms）、またはその他何らかのアプリケーション等のクライアントアプリケーションを操作するように構成されてもよい。
図面に示されているクラウドインフラストラクチャシステム３２０２は示されているもの以外のコンポーネントを有し得ることが理解されるはずである。さらに、図面に示されている実施形態は、本発明の実施形態を組み込むことができるクラウドインフラストラクチャシステムの一例にすぎない。他のいくつかの実施形態において、クラウドインフラストラクチャシステム３２０２は、図示されているものよりも多いまたは少ないコンポーネントを有していてもよく、２つ以上のコンポーネントを組み合わせてもよく、またはコンポーネントの異なる構成または配置を有していてもよい。
クライアントコンピューティングデバイス３２０４、３２０６、および３２０８は、３１０２、３１０４、３１０６、および３１０８について先に述べたものと同様のデバイスであってもよい。
具体例としてのシステム環境３２００は３つのクライアントコンピューティングデバイスとともに示されているが、任意の数のクライアントコンピューティングデバイスをサポートすることができる。センサなどを有するデバイスのようなその他のデバイスがクラウドインフラストラクチャシステム３２０２とやり取りしてもよい。
ネットワーク３２１０は、クライアント３２０４、３２０６、および３２０８とクラウドインフラストラクチャシステム３２０２との間におけるデータの通信および交換を容易にすることができる。各ネットワークは、ネットワーク３１１０について先に述べたものを含む市場で入手可能なさまざまなプロトコルのうちのいずれかを用いてデータ通信をサポートできる、当業者によく知られた任意のタイプのネットワークであってもよい。
クラウドインフラストラクチャシステム３２０２は、１つ以上のコンピュータ、および／またはサーバ３１１２について先に述べたものを含み得るサーバを含み得る。
特定の実施形態において、クラウドインフラストラクチャシステムが提供するサービスは、オンラインデータストレージおよびバックアップソリューション、ウェブベースの電子メールサービス、ホストされているオフィススイートおよびドキュメントコラボレーションサービス、データベース処理、管理された技術サポートサービスなどのような、クラウドインフラストラクチャシステムのユーザがオンデマンドで利用できるようにされる多数のサービスを含み得る。クラウドインフラストラクチャシステムが提供するサービスは、そのユーザのニーズに合わせて動的にスケーリングすることができる。クラウドインフラストラクチャシステムが提供するサービスを具体的にインスタンス化したものを本明細書では「サービスインスタンス」と呼ぶ。一般的に、クラウドサービスプロバイダのシステムからの、インターネットのような通信ネットワークを介してユーザが利用できるようにされる任意のサービスを、「クラウドサービス」と呼ぶ。典型的に、パブリッククラウド環境において、クラウドサービスプロバイダのシステムを構成するサーバおよびシステムは、顧客自身のオンプレミスサーバおよびシステムとは異なる。たとえば、クラウドサービスプロバイダのシステムはアプリケーションをホストすることができ、ユーザは、インターネットのような通信ネットワークを介して、オンデマンドでこのアプリケーションをオーダーし使用することができる。
いくつかの例において、コンピュータネットワーククラウドインフラストラクチャにおけるサービスは、クラウドベンダーによってまたは当該技術において周知の他のやり方でユーザに提供される、ストレージ、ホストされているデータベース、ホストされているウェブサーバ、ソフトウェアアプリケーション、またはその他のサービスに対する保護されたコンピュータネットワークアクセスを含み得る。たとえば、サービスは、インターネットを介した、クラウド上の遠隔ストレージに対するパスワードで保護されたアクセスを含むことができる。別の例として、サービスは、ネットワーク化された開発者の私的使用のための、ウェブサービスベースのホストされているリレーショナルデータベースおよびスクリプト言語ミドルウェアエンジンを含むことができる。別の例として、サービスは、クラウドベンダーのウェブサイト上でホストされている電子メールソフトウェアアプリケーションに対するアクセスを含むことができる。
特定の実施形態において、クラウドインフラストラクチャシステム３２０２は、セルフサービスで、サブスクリプションベースで、弾力的にスケーラブルで、信頼性が高く、可用性が高く、かつ安全なやり方で顧客に与えられる、アプリケーション、ミドルウェア、およびデータベースサービス提供物一式を含み得る。そのようなクラウドインフラストラクチャシステムの一例は、本願の譲受人が提供するOracle Public Cloudである。
各種実施形態において、クラウドインフラストラクチャシステム３２０２は、クラウドインフラストラクチャシステム３２０２が提供するサービスに対する顧客のサブスクリプションを自動的にプロビジョニングし、管理し、追跡するようにされていてもよい。クラウドインフラストラクチャシステム３２０２は、異なるデプロイメントモデルを介してクラウドサービスを提供することができる。たとえば、（例としてOracle所有の）クラウドサービスを販売する組織がクラウドインフラストラクチャシステム３２０２を所有しており一般の人々または異なる産業企業がサービスを利用できるようにされるパブリッククラウドモデルの下で、サービスが提供されてもよい。別の例として、クラウドインフラストラクチャシステム３２０２が１つの組織のためにのみ運営されこの組織内の１つ以上のエンティティのためにサービスを提供し得るプライベートクラウドモデルの下で、サービスが提供されてもよい。また、クラウドインフラストラクチャシステム３２０２およびクラウドインフラストラクチャシステム３２０２が提供するサービスを関連するコミュニティー内のいくつかの組織が共有するコミュニティークラウドモデルの下で、クラウドサービスが提供されてもよい。また、２つ以上の異なるモデルの組み合わせであるハイブリッドクラウドモデルの下で、クラウドサービスが提供されてもよい。
いくつかの実施形態において、クラウドインフラストラクチャシステム３２０２が提供するサービスは、サービスとしてのソフトウェア（ＳａａＳ）カテゴリ、サービスとしてのプラットフォーム（ＰａａＳ）カテゴリ、サービスとしてのインフラストラクチャ（ＩａａＳ）カテゴリ、またはハイブリッドサービスを含むサービスの他のカテゴリの下で提供される、１つ以上のサービスを含み得る。顧客は、クラウドインフラストラクチャシステム３２０２が提供する１つ以上のサービスを、サブスクリプションオーダーを通じてオーダーすることができる。そうすると、クラウドインフラストラクチャシステム３２０２は、この顧客のサブスクリプションオーダーのサービスを提供するために処理を実行する。
いくつかの実施形態において、クラウドインフラストラクチャシステム３２０２が提供するサービスは、限定されないが、アプリケーションサービス、プラットフォームサービスおよびインフラストラクチャサービスを含み得る。いくつかの例において、アプリケーションサービスは、クラウドインフラストラクチャシステムがＳａａＳプラットフォームを介して提供することができる。ＳａａＳプラットフォームは、ＳａａＳカテゴリに含まれるクラウドサービスを提供するように構成されてもよい。たとえば、ＳａａＳプラットフォームは、統合開発およびデプロイメントプラットフォーム上でオンデマンドアプリケーション一式を構築し配信する機能を提供することができる。ＳａａＳプラットフォームは、ＳａａＳサービスを提供するための基礎となるソフトウェアおよびインフラストラクチャを管理し制御することができる。ＳａａＳプラットフォームが提供するサービスを利用することにより、顧客は、クラウドインフラストラクチャシステム上で実行されるアプリケーションを利用することが可能である。顧客は、顧客が別々のライセンスおよびサポートを購入しなくても、アプリケーションサービスを得ることが可能である。さまざまな異なるＳａａＳサービスを提供することができる。例は、限定されないが、大組織向けの販売実績管理、企業統合、およびビジネスフレキシビリティのためのソリューションを提供するサービスを含む。
いくつかの実施形態において、プラットフォームサービスは、クラウドインフラストラクチャシステムがＰａａＳプラットフォームを介して提供することができる。ＰａａＳプラットフォームは、ＰａａＳカテゴリに含まれるクラウドサービスを提供するように構成し得る。プラットフォームサービスの例は、限定されないが、共有されている共通アーキテクチャ上の既存のアプリケーションを組織（Oracle等）が統合することを可能にするサービスと、当該プラットフォームが提供する共有サービスを推進する新たなアプリケーションを構築する機能とを含み得る。ＰａａＳプラットフォームは、ＰａａＳサービスを提供するための基礎となるソフトウェアおよびインフラストラクチャを管理し制御することができる。顧客は、顧客が別々のライセンスおよびサポートを購入しなくても、クラウドインフラストラクチャシステムが提供するＰａａＳサービスを得ることが可能である。プラットフォームサービスの例は、限定されないが、Oracle Java Cloud Service（ＪＣＳ）、Oracle Database Cloud Service（ＤＢＣＳ）その他を含む。
ＰａａＳプラットフォームが提供するサービスを利用することにより、顧客は、クラウドインフラストラクチャシステムがサポートするプログラミング言語およびツールを採用することができ、デプロイされたサービスを制御することもできる。いくつかの実施形態において、クラウドインフラストラクチャシステムが提供するプラットフォームサービスは、データベースクラウドサービス、ミドルウェアクラウドサービス（たとえばOracle Fusion Middlewareサービス）、およびＪａｖａクラウドサービスを含み得る。一実施形態において、データベースクラウドサービスは、組織がデータベースリソースをプールしデータベースクラウドの形態でサービスとしてのデータベース（Database as a Service）を顧客に提供することを可能にする共有サービスデプロイメントモデルをサポートすることができる。ミドルウェアクラウドサービスは、顧客がさまざまなビジネスアプリケーションを開発しデプロイするためのプラットフォームを提供してもよく、Ｊａｖａクラウドサービスは、クラウドインフラストラクチャシステムにおいて顧客がＪａｖａアプリケーションをデプロイするためのプラットフォームを提供してもよい。
さまざまな異なるインフラストラクチャサービスは、クラウドインフラストラクチャシステムにおいてＩａａＳプラットフォームが提供してもよい。インフラストラクチャサービスは、ＳａａＳプラットフォームおよびＰａａＳプラットフォームが提供するサービスを利用する顧客のためのストレージ、ネットワーク、および他の基本的なコンピューティングリソース等の、基礎となるコンピューティングリソースの管理および制御を容易にする。
特定の実施形態において、クラウドインフラストラクチャシステム３２０２はまた、クラウドインフラストラクチャシステムの顧客にさまざまなサービスを提供するために用いられるリソースを提供するためのインフラストラクチャリソース３２３０を含み得る。一実施形態において、インフラストラクチャリソース３２３０は、ＰａａＳプラットフォームおよびＳａａＳプラットフォームが提供するサービスを実行するためのサーバ、ストレージ、およびネットワーキングリソース等のハードウェアの、予め統合し最適化した組み合わせを含み得る。
いくつかの実施形態において、クラウドインフラストラクチャシステム３２０２におけるリソースは、複数のユーザによって共有され要求ごとに動的に再割り当てされてもよい。加えて、リソースは、異なるタイムゾーンのユーザに割り当てられてもよい。たとえば、クラウドインフラストラクチャシステム３２０２は、第１のタイムゾーンの第１組のユーザが指定された時間数だけクラウドインフラストラクチャシステムのリソースを利用することを可能にし、それから、異なるタイムゾーンにいる別の１組のユーザに対して同じリソースを再割り当てすることにより、リソースの利用を最大化することができる。
特定の実施形態において、クラウドインフラストラクチャシステム３２０２の異なるコンポーネントまたはモジュールによって共有され、クラウドインフラストラクチャシステム３２０２が提供するサービスによって共有される、複数の内部共有サービス３２３２を提供することができる。これらの内部共有サービスは、限定されないが、セキュリティおよびアイデンティティサービス、統合サービス、企業リポジトリサービス、企業マネージャーサービス、ウィルススキャンおよびホワイトリストサービス、高可用性、バックアップおよびリカバリサービス、クラウドサポートを可能にするためのサービス、電子メールサービス、通知サービス、ファイル転送サービスなどを含み得る。
特定の実施形態において、クラウドインフラストラクチャシステム３２０２は、クラウドインフラストラクチャシステムにおけるクラウドサービス（たとえばＳａａＳ、ＰａａＳ、およびＩａａＳサービス）の包括的管理を提供し得る。一実施形態において、クラウド管理機能は、クラウドインフラストラクチャシステム３２０２が受けた顧客のサブスクリプションをプロビジョニング、管理、および追跡する機能を含み得る。
一実施形態において、図面に示されるように、クラウド管理機能は、オーダー管理モジュール３２２０、オーダーオーケストレーションモジュール３２２２、オーダープロビジョニングモジュール３２２４、オーダー管理およびモニタリングモジュール３２２６、ならびにアイデンティティ管理モジュール３２２８等の、１つ以上のモジュールによって提供されてもよい。これらのモジュールは、汎用コンピュータ、専用サーバコンピュータ、サーバファーム、サーバクラスタ、またはその他任意の適切な構成および／または組み合わせであってもよい、１つ以上のコンピュータおよび／またはサーバを含み得る、または、これらを用いて提供し得る。
具体例としての動作３２３４において、クライアントデバイス３２０４、３２０６または３２０８等のクライアントデバイスを用いる顧客は、クラウドインフラストラクチャシステム３２０２が提供する１つ以上のサービスを要求すること、および、クラウドインフラストラクチャシステム３２０２が提示する１つ以上のサービスのサブスクリプションをオーダーすることにより、クラウドインフラストラクチャシステム３２０２とやり取りしてもよい。特定の実施形態において、顧客は、クラウドユーザインターフェイス（ＵＩ）、クラウドＵＩ ３２１２、クラウドＵＩ ３２１４および／またはクラウドＵＩ ３２１６にアクセスしこれらのＵＩを介してサブスクリプションオーダーを行ってもよい。顧客がオーダーを行ったことに応じてクラウドインフラストラクチャシステム３２０２が受けるオーダー情報は、顧客を特定する情報と、クラウドインフラストラクチャシステム３２０２が提供する、顧客がサブスクライブする予定の１つ以上のサービスとを含み得る。
顧客がオーダーを行った後に、オーダー情報は、クラウドＵＩ ３２１２、３２１４および／または３２１６を介して受信される。
動作３２３６において、オーダーはオーダーデータベース３２１８に格納される。オーダーデータベース３２１８は、クラウドインフラストラクチャシステム３２０２によって運営され他のシステム要素とともに運営されるいくつかのデータベースのうちの１つであってもよい。
動作３２３８において、オーダー情報はオーダー管理モジュール３２２０に転送されてもよい。いくつかの例において、オーダー管理モジュール３２２０は、オーダーを確認し確認後にオーダーを記入する等の、オーダーに関連する課金および会計機能を行うように構成されてもよい。
動作３２４０において、オーダーに関する情報は、オーダーオーケストレーションモジュール３２２２に伝えられる。オーダーオーケストレーションモジュール３２２２は、オーダー情報を利用することにより、顧客によって行われたオーダーのためのサービスおよびリソースのプロビジョニングをオーケストレーションするように構成されてもよい。いくつかの例において、オーダーオーケストレーションモジュール３２２２は、リソースのプロビジョニングをオーケストレーションすることにより、オーダープロビジョニングモジュール３２２４のサービスを使用するサブスクライブされたサービスを、サポートしてもよい。
特定の実施形態において、オーダーオーケストレーションモジュール３２２２は、各オーダーに関連付けられたビジネスプロセスの管理を可能にし、ビジネスロジックを適用することにより、オーダーがプロビジョニングに進むべきか否かを判断する。動作３２４２において、新規サブスクリプションのオーダーを受けると、オーダーオーケストレーションモジュール３２２２は、サブスクリプションオーダーを遂行するのに必要なリソースを割り当てて構成することを求める要求を、オーダープロビジョニングモジュール３２２４に送る。オーダープロビジョニングモジュール３２２４は、顧客がオーダーしたサービスのためのリソースの割当を可能にする。オーダープロビジョニングモジュール３２２４は、クラウドインフラストラクチャシステム３２０２が提供するクラウドサービスと、要求されたサービスを提供するためのリソースのプロビジョニングに使用される物理実装層との間の抽象化レベルを提供する。このようにして、オーダーオーケストレーションモジュール３２２２を、サービスおよびリソースが実際にオンザフライでプロビジョニングされるか否か、または、予めプロビジョニングされており要求後に割り当て／アサインされるか否か等の、実装の詳細から切り離すことができる。
動作３２４４において、サービスおよびリソースがプロビジョニングされると、提供されるサービスの通知が、クラウドインフラストラクチャシステム３２０２のオーダープロビジョニングモジュール３２２４によってクライアントデバイス３２０４、３２０６および／または３２０８の顧客に送信されてもよい。
動作３２４６において、顧客のサブスクリプションオーダーは、オーダー管理およびモニタリングモジュール３２２６によって管理および追跡されてもよい。いくつかの例において、オーダー管理およびモニタリングモジュール３２２６は、ストレージ使用量、転送データ量、ユーザ数、ならびにシステムアップタイムおよびシステムダウンタイムの量等の、サブスクリプションオーダーにおけるサービスの使用統計を収集するように構成されてもよい。
特定の実施形態において、クラウドインフラストラクチャシステム３２０２はアイデンティティ管理モジュール３２２８を含み得る。アイデンティティ管理モジュール３２２８は、クラウドインフラストラクチャシステム３２０２におけるアクセス管理および認可サービス等のアイデンティティサービスを提供するように構成されてもよい。いくつかの実施形態において、アイデンティティ管理モジュール３２２８は、クラウドインフラストラクチャシステム３２０２が提供するサービスの利用を所望する顧客に関する情報を管理してもよい。そのような情報は、このような顧客のアイデンティティを認証する情報と、さまざまなシステムリソース（たとえばファイル、ディレクトリ、アプリケーション、通信ポート、メモリセグメントなど）に関してこれらの顧客が実行を認可されるアクションを記述する情報とを含み得る。アイデンティティ管理モジュール３２２８は、各顧客に関し、かつ、誰が如何にしてこの記述情報にアクセスし修正することができるかに関する記述情報の管理も含み得る。
図３３は、本発明の各種実施形態を実現し得る具体例としてのコンピュータシステム３３００を示す。システム３３００を用いることにより、上記コンピュータシステムのうちのいずれかを実現することができる。図面に示されるように、コンピュータシステム３３００は、バスサブシステム３３０２を介して複数の周辺サブシステムと通信する処理ユニット３３０４を含む。これらの周辺サブシステムは、処理加速ユニット３３０６と、入出力サブシステム３３０８と、記憶サブシステム３３１８と、通信サブシステム３３２４とを含み得る。記憶サブシステム３３１８は、有形のコンピュータ読取可能記憶媒体３３２２とシステムメモリ３３１０とを含み得る。
バスサブシステム３３０２は、コンピュータシステム３３００の各種コンポーネントおよびサブシステムを目的に合わせて互いに通信させるためのメカニズムを提供する。バスサブシステム３３０２は１つのバスとして概略的に示されているが、バスサブシステムの代替実施形態は複数のバスを利用し得る。バスサブシステム３３０２は、さまざまなバスアーキテクチャのうちのいずれかを用いる、メモリバスまたはメモリコントローラ、周辺バス、およびローカルバスを含むいくつかのタイプのバス構造のうちのいずれかであってもよい。たとえば、そのようなアーキテクチャは、Industry Standard Architecture（ＩＳＡ）バス、Micro Channel Architecture（ＭＣＡ）バス、Enhanced ISA（ＥＩＳＡ）バス、Video Electronics Standards Association（ＶＥＳＡ）ローカルバス、および、ＩＥＥＥ Ｐ１３８６．１規格に準拠して製造されたMezzanineバスとして実装することができるPeripheral Component Interconnect（ＰＣＩ）バスを含み得る。
１つ以上の集積回路（たとえば従来のマイクロプロセッサまたはマイクロコントローラ）として実現することができる処理ユニット３３０４は、コンピュータシステム３３００の動作を制御する。１つ以上のプロセッサが処理ユニット３３０４に含まれていてもよい。これらのプロセッサはシングルコアまたはマルチコアプロセッサを含み得る。特定の実施形態において、処理ユニット３３０４は、１つ以上の独立した処理ユニット３３３２および／または３３３４として、各処理ユニットに含まれるシングルまたはマルチコアプロセッサとともに実現されてもよい。他の実施形態において、処理ユニット３３０４はまた、２つのデュアルコアプロセッサを１つのチップに統合することによって形成されるクアッドコア処理ユニットとして実現されてもよい。
各種実施形態において、処理ユニット３３０４は、プログラムコードに応じてさまざまなプログラムを実行することができ、かつ、同時に実行している複数のプログラムまたはプロセスを管理することができる。ある所定の時点で、実行すべきプログラムコードのうちの一部またはすべてが、プロセッサ３３０４および／または記憶サブシステム３３１８にあってもよい。適切なプログラミングを通して、プロセッサ３３０４は上記各種機能を提供することができる。コンピュータシステム３３００はさらに、デジタル信号プロセッサ（ＤＳＰ）、専用プロセッサ、および／またはその他同様のものを含むことができる、処理加速ユニット３３０６を含み得る。
入出力サブシステム３３０８は、ユーザインターフェイス入力デバイスと、ユーザインターフェイス出力デバイスとを含み得る。ユーザインターフェイス入力デバイスは、キーボード、マウスまたはトラックボール等のポインティングデバイス、ディスプレイに組み込まれたタッチパッドまたはタッチスクリーン、スクロールホイール、クリックホイール、ダイヤル、ボタン、スイッチ、キーパッド、音声コマンド認識システム付きの音声入力デバイス、マイク、およびその他のタイプの入力デバイスを含み得る。ユーザインターフェイス入力デバイスは、たとえば、ジェスチャーおよび発話コマンドを使用するナチュラルユーザインターフェイスを通してユーザが入力デバイスを制御し入力デバイスとやり取りすることを可能にする、Microsoft Xbox（登録商標）３６０ゲームコントローラ等のMicrosoft Kinect（登録商標）モーションセンサのような、モーション検知および／またはジェスチャー認識デバイスを含み得る。ユーザインターフェイス入力デバイスはまた、ユーザの目の活動（たとえば写真撮影中および／またはメニュー選択中の「まばたき」）を検出し目のジェスチャーを入力デバイス（たとえばGoogle Glass（登録商標）)への入力として変換する、Google Glass（登録商標）まばたき検出器等のアイジェスチャー認識デバイスを含み得る。加えて、ユーザインターフェイス入力デバイスは、ユーザが音声コマンドを通して音声認識システム（たとえばSiri（登録商標）ナビゲータ）とやり取りすることを可能にする音声認識検知デバイスを含み得る。
ユーザインターフェイス入力デバイスはまた、限定されないが、３次元（３Ｄ）マウス、ジョイスティックまたはポインティングスティック、ゲームパッドおよびグラフィックタブレット、およびスピーカ等のオーディオ／ビジュアルデバイス、デジタルカメラ、デジタルカムコーダー、ポータブルメディアプレイヤー、ウェブカメラ、イメージスキャナ、指紋スキャナ、バーコードリーダー３Ｄスキャナ、３Ｄプリンタ、レーザ測距装置、および視線追跡デバイスを含み得る。加えて、ユーザインターフェイス入力デバイスは、たとえば、コンピュータ断層撮影装置、磁気共鳴撮像装置、ポジトロン断層撮影装置、医療用超音波検査装置等の医療用撮像入力デバイスを含み得る。ユーザインターフェイス入力デバイスはまた、たとえば、ＭＩＤＩキーボード、デジタル楽器などのような音声入力装置を含み得る。
ユーザインターフェイス出力デバイスは、ディスプレイサブシステム、表示灯、または音声出力装置等の非視覚的ディスプレイなどを含み得る。ディスプレイサブシステムは、陰極線管（ＣＲＴ）、液晶ディスプレイ（ＬＣＤ）またはプラズマディスプレイを用いるもの等のフラットパネルデバイス、投影デバイス、タッチスクリーンなどであってもよい。一般的に、「出力デバイス」という用語を使用する場合は、コンピュータシステム３３００からユーザまたは他のコンピュータに情報を出力するための可能なすべてのタイプのデバイスおよびメカニズムを含むことを意図している。たとえば、ユーザインターフェイス出力デバイスは、限定されないが、モニタ、プリンタ、スピーカ、ヘッドホン、カーナビゲーションシステム、プロッタ、音声出力デバイス、およびモデム等の、テキスト、図形、およびオーディオ／ビデオ情報を視覚的に伝えるさまざまなディスプレイデバイスを含み得る。
コンピュータシステム３３００は、現在はシステムメモリ３３１０内にあるものとして示されているソフトウェア要素を含むストレージサブシステム３３１８を含み得る。システムメモリ３３１０は、処理ユニット３３０４上にローディング可能であり処理ユニット上で実行可能なプログラム命令と、これらのプログラムの実行中に生成されたデータとを格納することができる。
コンピュータシステム３３００の構成および種類に応じて、システムメモリ３３１０は、揮発性（たとえばランダムアクセスメモリ（ＲＡＭ））であってもよく、および／または不揮発性（たとえば読出専用メモリ（ＲＯＭ）、フラッシュメモリなど）であってもよい。典型的に、ＲＡＭは、処理ユニット３３０４が直ちにアクセス可能でありおよび／または現在操作し実行している、データおよび／またはプログラムモジュールを含む。いくつかの実装例において、システムメモリ３３１０は、スタティックランダムアクセスメモリ（ＳＲＡＭ）またはダイナミックランダムアクセスメモリ（ＤＲＡＭ）等の複数の異なる種類のメモリを含み得る。いくつかの実装例において、たとえば起動中のコンピュータシステム３３００内の要素間の情報の転送を支援する基本ルーチンを含む基本入出力システム（ＢＩＯＳ）は、典型的にはＲＯＭに格納することができる。例として、限定されないが、システムメモリ３３１０はまた、クライアントアプリケーション、ウェブブラウザ、ミッドティアアプリケーション、リレーショナルデータベース管理システム（ＲＤＢＭＳ）などを含み得るアプリケーションプログラム３３１２と、プログラムデータ３３１４と、オペレーティングシステム３３１６とを示している。例として、オペレーティングシステム３３１６は、さまざまなバージョンのMicrosoft Windows（登録商標）、Apple Macintosh（登録商標）、および／またはLinux（登録商標）オペレーティングシステム、市場で入手可能な多様なUNIX（登録商標）またはUNIX（登録商標）系オペレーティングシステム（限定されないが多様なGNU/Linux（登録商標）オペレーティングシステム、Google Chrome（登録商標）OSなどを含む）、および／またはiOS、Windows（登録商標）Phone、Android（登録商標） OS、BlackBerry（登録商標） 10 OS、およびPalm（登録商標） OSオペレーティングシステム等のモバイルオペレーティングシステムを含み得る。
ストレージサブシステム３３１８はまた、いくつかの実施形態の機能を提供する基本的なプログラミングおよびデータ構造を格納するための有形のコンピュータ読取可能記憶媒体を提供することができる。プロセッサによって実行されると上記機能を実行するソフトウェア（プログラム、コードモジュール、命令）は、ストレージサブシステム３３１８に格納することができる。これらのソフトウェアモジュールまたは命令は、処理ユニット３３０４によって実行されてもよい。ストレージサブシステムｙ３３１８はまた、本発明に従い使用されるデータを格納するためのリポジトリを提供することができる。
ストレージサブシステム３３１８はまた、コンピュータ読取可能記憶媒体３３２２にさらに接続することが可能なコンピュータ読取可能記憶媒体リーダー３３２０を含み得る。システムメモリ３３１０とともに、また、任意でシステムメモリ３３１０と組み合わされて、コンピュータ読取可能記憶媒体３３２２は、コンピュータ読取可能情報を一時的におよび／またはより恒久的に含む、格納する、送信する、および取り出すための、リモート、ローカル、固定、および／またはリムーバブル記憶装置プラス記憶媒体を包括的に表すことができる。
コードまたはコードの一部を含むコンピュータ読取可能記憶媒体３３２２はまた、限定されないが、情報の記憶および／または送信のための任意の方法または技術で実現される、揮発性および不揮発性、リムーバブルおよび非リムーバブル媒体等の、記憶媒体および通信媒体を含む、当該技術において周知のまたは使用されている適切な任意の媒体を含み得る。これは、ＲＡＭ、ＲＯＭ、電子的に消去可能プログラム可能なＲＯＭ（ＥＥＰＲＯＭ）、フラッシュメモリまたはその他のメモリ技術、ＣＤ－ＲＯＭ、デジタル多目的ディスク（ＤＶＤ）、もしくはその他の光ストレージ、磁気カセット、磁気テープ、磁気ディスクストレージもしくはその他の磁気記憶装置、または、他の有形のコンピュータ読取可能媒体等の、有形のコンピュータ読取可能記憶媒体を含み得る。これはまた、所望の情報を送信するために使用することができコンピューティングシステム３３００がアクセスすることができる、データ信号、データ送信、またはその他任意の媒体等の、非有形コンピュータ読取可能媒体を含み得る。
例として、コンピュータ読取可能記憶媒体３３２２は、非リムーバブル不揮発性磁気媒体からの読取およびこの媒体への書込を行うハードディスクドライブ、リムーバブル不揮発性磁気ディスクからの読取およびこのディスクへの書込を行う磁気ディスクドライブ、ならびに、ＣＤ ＲＯＭ、ＤＶＤ、Blu-Ray（登録商標）ディスク、またはその他の光学媒体等のリムーバブル不揮発性光ディスクからの読取およびこのディスクへの書込を行う光ディスクドライブを含み得る。コンピュータ読取可能記憶媒体３３２２は、限定されないが、Ｚｉｐ（登録商標）ドライブ、フラッシュメモリカード、ユニバーサルシリアルバス（ＵＳＢ）フラッシュドライブ、セキュアデジタル（ＳＤ）カード、ＤＶＤディスク、デジタルビデオテープなどを含み得る。コンピュータ読取可能記憶媒体３３２２はまた、フラッシュメモリベースのＳＳＤ、エンタープライズフラッシュドライブ、ソリッドステートＲＯＭなどのような、不揮発性メモリベースのソリッドステートドライブ（ＳＳＤ）、ソリッドステートＲＡＭ、ダイナミックＲＡＭ、スタティックＲＡＭ等の揮発性メモリベースのＳＳＤ、ＤＲＡＭベースのＳＳＤ、磁気抵抗ＲＡＭ（ＭＲＡＭ）ＳＳＤ、ならびにＤＲＡＭおよびフラッシュメモリベースのＳＳＤの組み合わせを用いるハイブリッドＳＳＤを、含み得る。ディスクドライブおよびこれらに対応付けられたコンピュータ読取可能媒体は、コンピュータ読取可能命令、データ構造、プログラムモジュール、およびコンピュータシステム３３００のためのその他のデータの不揮発性ストレージを提供することができる。
通信サブシステム３３２４は、他のコンピュータシステムおよびネットワークに対するインターフェイスを提供する。通信サブシステム３３２４は、他のシステムからデータを受信し、コンピュータシステム３３００から他のシステムにデータを送信するためのインターフェイスの役割を果たす。たとえば、通信サブシステム３３２４は、コンピュータシステム３３００がインターネットを介して１つ以上のデバイスに接続することを可能にする。いくつかの実施形態において、通信サブシステム３３２４は、（たとえば携帯電話技術、３Ｇ、４ＧもしくはＥＤＧＥ（enhanced data rates for global evolution）等の高度データネットワーク技術、ＷｉＦｉ（登録商標）（ＩＥＥＥ ８０２．１１系規格、または他の移動通信技術、またはそれらの任意の組み合わせを用いて）無線音声および／またはデータネットワークにアクセスするための無線周波数（ＲＦ）トランシーバーコンポーネント、グローバルポジショニングシステム（ＧＰＳ）受信機コンポーネント、および／またはその他のコンポーネントを含み得る。いくつかの実施形態において、通信サブシステム３３２４は、無線インターフェイスに加えてまたはその代わりに、有線ネットワークコネクティビティ（たとえばイーサネット（登録商標））を提供することができる。
いくつかの実施形態において、通信サブシステム３３２４は、コンピュータシステム３３００を使用し得る１人以上のユーザの代わりに、構造化および／または非構造化データフィード３３２６、イベントストリーム３３２８、イベントアップデート３３３０などの形態の入力通信を受けることもできる。
例として、通信サブシステム３３２４は、Twitter（登録商標）フィード、Facebook（登録商標）アップデート、Rich Site Summary（ＲＳＳ）フィード等のウェブフィード、および／または１つ以上の第３者情報源からのリアルタイムアップデート等の、ソーシャルネットワークおよび／または他の通信サービスのユーザからのデータフィード３３２６をリアルタイムで受信するように構成されてもよい。
加えて、通信サブシステム３３２４は、明確な終わりがない本質的に連続しているまたは無限である可能性があるリアルタイムイベントのイベントストリーム３３２８および／またはイベントアップデート３３３０を含み得る、連続データストリームの形態のデータを受信するように構成されてもよい。連続データを生成するアプリケーションの例は、たとえば、センサデータアプリケーション、金融ティッカー、ネットワーク性能測定ツール（たとえばネットワークモニタリングおよびトラフィック管理アプリケーション）、クリックストリーム分析ツール、自動車交通監視などを含み得る。
通信サブシステム３３２４はまた、構造化および／または非構造化データフィード３３２６、イベントストリーム３３２８、イベントアップデート３３３０などを、コンピュータシステム３３００に結合された１つ以上のストリーミングデータソースコンピュータと通信し得る１つ以上のデータベースに出力するように構成されてもよい。
コンピュータシステム３３００は、ハンドヘルドポータブルデバイス（たとえばiPhone（登録商標）携帯電話、iPad（登録商標）コンピューティングタブレット、ＰＤＡ）、ウェアラブルデバイス（たとえばGoogle Glass（登録商標）ヘッドマウントディスプレイ）、ＰＣ、ワークステーション、メインフレーム、キオスク、サーバラック、またはその他任意のデータ処理システムを含む、さまざまなタイプのうちの１つであってもよい。
コンピュータおよびネットワークには常に変化しているという性質があるので、図面に示されるコンピュータシステム３３００の説明は、具体的な一例を意図しているにすぎない。図面に示されるシステムよりも多くのまたは少ないコンポーネントを有するその他多数の構成が可能である。たとえば、カスタマイズされたハードウェアが使用されてもよく、および／または特定の要素がハードウェア、ファームウェア、ソフトウェア（アプレットを含む）、または組み合わせで実現されてもよい。さらに、ネットワーク入出力デバイスのようなその他のコンピューティングデバイスに対する接続を用いてもよい。本明細書で提供される開示および教示に基づいて、当業者は、各種実施形態を実現するためのその他のやり方および／または方法を理解するであろう。
上述の記載では、説明のために、本発明の各種実施形態の十分な理解が得られるよう、数多くの具体的な詳細を述べている。しかしながら、当業者には、本発明の実施形態はこれらの具体的な詳細のうちの一部がなくても実施し得ることが明らかであろう。その他の例では、周知の構造およびデバイスはブロック図の形態で示されている。
上述の記載は、具体例としての実施形態を提供しているだけであって、本開示の範囲、利用可能性、または構成を限定することを意図しているのではない。むしろ、具体例としての実施形態の上述の記載は、具体例としての実施形態を実現することを可能にする説明を当業者に提供するであろう。以下の請求項に記載の本発明の精神および範囲から逸脱することなく、要素の機能および構成に各種変更を加え得ることが理解されるはずである。
上述の記載において、具体的な詳細は、実施形態の十分な理解を得るために提供されている。しかしながら、当業者は、実施形態はこれらの具体的な詳細がなくても実現し得ることを理解するであろう。たとえば、回路、システム、ネットワーク、プロセス、およびその他のコンポーネントは、実施形態を不必要な詳細で不明瞭にすることがないよう、ブロック図の形態のコンポーネントとして示されている場合がある。その他の例において、周知の回路、プロセス、アルゴリズム、構造、および技術は、実施形態を不明瞭にすることを避けるために不必要な詳細なしで示されている場合がある。
また、個々の実施形態は、フローチャート、フロー図、データフロー図、構造図、またはブロック図として示されるプロセスとして記載されている場合があることが注目される。フローチャートは動作を逐次プロセスとして説明している場合があるが、動作のうちの多くは並列または同時に実行することができる。加えて、動作の順序は構成し直してもよい。プロセスは、その動作が完了すると終了するが、図面に含まれていない追加のステップを有する可能性がある。プロセスは、方法、関数、手順、サブルーチン、サブプログラムなどに対応し得る。プロセスが関数に対応する場合、その終了は、この関数が呼び出し側関数またはメイン関数に戻ることに相当し得る。
「コンピュータ読取可能媒体」という用語は、携帯型または固定記憶装置、光記憶装置、無線チャネル、ならびに、命令および／またはデータを格納する、含む、または保持することが可能なその他の各種媒体を含むが、これらに限定される訳ではない。コードセグメントまたはマシン実行可能命令は、手順、関数、サブプログラム、プログラム、ルーチン、サブルーチン、モジュール、ソフトウェアパッケージ、クラス、または、命令、データ構造、もしくはプログラムステートメントの任意の組み合わせを表し得る。コードセグメントは、情報、データ、引数、パラメータ、またはメモリコンテンツを送ることおよび／または受けることにより、別のコードセグメントまたはハードウェア回路に結合されてもよい。情報、引数、パラメータ、データなどは、メモリ共有、メッセージパッシング、トークンパッシング、ネットワーク送信などを含む任意の適切な手段を介して、送る、転送する、または送信することができる。
さらに、実施形態は、ハードウェア、ソフトウェア、ファームウェア、ミドルウェア、マイクロコード、ハードウェア記述言語、またはその任意の組み合わせによって実現することができる。ソフトウェア、ファームウェア、ミドルウェアまたはマイクロコードで実現するとき、必要なタスクを実行するためのプログラムコードまたはコードセグメントは、マシン読取可能媒体に格納されていてもよい。プロセッサ（複数のプロセッサ）が必要なタスクを実行してもよい。
上述の明細書では、本発明の局面を、その具体的な実施形態を参照しながら説明しているが、本発明がこれらの実施形態に限定される訳ではないことを当業者は認識するであろう。上記発明の各種特徴および局面は、個別に使用されてもよく、またはともに使用されてもよい。さらに、実施形態は、本明細書のより広い精神および範囲から逸脱することなく、本明細書に記載の環境およびアプリケーションを超える、任意の数の環境およびアプリケーションで利用することができる。したがって、本明細書および図面は、限定的なものではなく例示的なものであるとみなされねばならない。
加えて、説明のために、方法は特定の順序で記載されている。代替実施形態においてこれらの方法は記載されている順序と異なる順序で実行され得ることが理解されるはずである。上記方法は、ハードウェアコンポーネントによって実行されてもよく、またはマシン実行可能命令のシーケンスで実施されてもよいことも、理解されるはずである。マシン実行可能命令は、当該命令でプログラミングされた汎用もしくは専用プロセッサまたは論理回路のようなマシンに当該方法を実行させるために使用することができる。これらのマシン実行可能命令は、ＣＤ－ＲＯＭもしくはその他のタイプの光ディスク、フロッピー（登録商標）ディスク、ＲＯＭ、ＲＡＭ、ＥＰＲＯＭ、ＥＥＰＲＯＭ、磁気もしくは光カード、フラッシュメモリ、または、電子命令を格納するのに適したその他のタイプのマシン読取可能媒体等の、１つ以上のマシン読取可能媒体に、格納されてもよい。これに代えて、当該方法はハードウェアとソフトウェアとの組み合わせによって実行されてもよい。

Claims (17)

  1. コンテナ環境におけるコンテナポッド使用量を再バランシングする方法であって、前記方法は、
    複数のコンテナポッドをコンテナ環境における複数のコンテナノードにデプロイするステップを含み、
    前記複数のコンテナポッドは各々１つ以上のサービスを含み、
    前記複数のコンテナノードは各々１つ以上のコンテナポッドを含み、
    前記複数のコンテナポッドは、前記複数のコンテナポッド各々の使用量ファクタの最初の特徴付けに基づいて、前記複数のコンテナノードにデプロイされ、前記方法はさらに、
    前記複数のコンテナノードへのデプロイメント後に前記複数のコンテナポッド各々の実際の使用量ファクタをモニタリングするステップと、
    前記複数のコンテナポッドのうち、その使用量ファクタの最初の特徴付けからずれている１つ以上のコンテナポッドを特定するステップと、
    前記１つ以上のコンテナポッドを前記実際の使用量ファクタに基づいて前記複数のコンテナノードに再分配するステップと、
    第１のコンテナポッドの前記実際の使用量ファクタのうちの少なくとも１つが第１のしきい値を超過する状態が予め定められた期間維持されると判断するステップと、
    第１のコンテナポッドの前記実際の使用量ファクタのうちの少なくとも１つが前記第１のしきい値を超過する状態が予め定められた期間維持されるという判断に応じて、前記第１のコンテナポッドのクローンを異なるコンテナノードにおいてインスタンス化するステップと、
    前記第１のコンテナポッドの前記実際の使用量ファクタのうちの少なくとも１つが第２のしきい値を超過すると判断するステップと、
    前記第１のコンテナポッドの前記実際の使用量ファクタのうちの少なくとも１つが前記第２のしきい値を超過すると判断したことに応じて、要求トラフィックを、前記第１のコンテナポッドから、前記異なるコンテナノードにおける前記第１のコンテナポッドのクローンにルーティングし、前記第１のコンテナポッドの前記実際の使用量ファクタのうちの少なくとも１つが減少することを検出したことに応じて、前記要求トラフィックを、前記異なるコンテナノードにおける前記第１のコンテナポッドのクローンから前記第１のコンテナポッドに戻すようにシフトするステップを含む、方法。
  2. 前記使用量ファクタはＣＰＵ使用量ファクタを含む、または、
    前記使用量ファクタは帯域幅使用量ファクタを含む、または、
    前記使用量ファクタはメモリ使用量ファクタを含む、請求項１に記載の方法。
  3. 前記使用量ファクタは前記使用量ファクタのうちの少なくとも１つの最大値を含む、請求項１に記載の方法。
  4. 前記使用量ファクタは前記使用量ファクタのうちの少なくとも１つの平均値を含む、請求項１に記載の方法。
  5. 前記使用量ファクタは前記使用量ファクタのうちの少なくとも１つの率を含む、請求項１に記載の方法。
  6. １つ以上のプロセッサによって実行されると前記１つ以上のプロセッサに動作を実行させる命令を含むプログラムであって、前記動作は、
    複数のコンテナポッドをコンテナ環境における複数のコンテナノードにデプロイすることを含み、
    前記複数のコンテナポッドは各々１つ以上のサービスを含み、
    前記複数のコンテナノードは各々１つ以上のコンテナポッドを含み、
    前記複数のコンテナポッドは、前記複数のコンテナポッド各々の使用量ファクタの最初の特徴付けに基づいて、前記複数のコンテナノードにデプロイされ、前記動作はさらに、
    前記複数のコンテナノードへのデプロイメント後に前記複数のコンテナポッド各々の実際の使用量ファクタをモニタリングすることと、
    前記複数のコンテナポッドのうち、その使用量ファクタの最初の特徴付けからずれている１つ以上のコンテナポッドを特定することと、
    前記１つ以上のコンテナポッドを前記実際の使用量ファクタに基づいて前記複数のコンテナノードに再分配することと、
    第１のコンテナポッドの前記実際の使用量ファクタのうちの少なくとも１つが第１のしきい値を超過する状態が予め定められた期間維持されると判断することと、
    第１のコンテナポッドの前記実際の使用量ファクタのうちの少なくとも１つが前記第１のしきい値を超過する状態が予め定められた期間維持されるという判断に応じて、前記第１のコンテナポッドのクローンを異なるコンテナノードにおいてインスタンス化することと、
    前記第１のコンテナポッドの前記実際の使用量ファクタのうちの少なくとも１つが第２のしきい値を超過すると判断することと、
    前記第１のコンテナポッドの前記実際の使用量ファクタのうちの少なくとも１つが前記第２のしきい値を超過すると判断したことに応じて、要求トラフィックを、前記第１のコンテナポッドから、前記異なるコンテナノードにおける前記第１のコンテナポッドのクローンにルーティングし、前記第１のコンテナポッドの前記実際の使用量ファクタのうちの少なくとも１つが減少することを検出したことに応じて、前記要求トラフィックを、前記異なるコンテナノードにおける前記第１のコンテナポッドのクローンから前記第１のコンテナポッドに戻すようにシフトすることとを含む、プログラム。
  7. 前記１つ以上のコンテナポッドを前記実際の使用量ファクタに基づいて前記複数のコンテナノードに再分配することは、前記１つ以上のコンテナポッドを複数の前記使用量ファクタの重み付けされた組み合わせを用いて分配することを含む、請求項６に記載のプログラム。
  8. 前記第１のコンテナポッドのクローンはウォームアップされるが、要求トラフィックは前記第１のコンテナポッドのクローンにルーティングされない、請求項６に記載のプログラム。
  9. 前記第１のしきい値を超過することは、前記第１のコンテナポッドの前記実際の使用量ファクタが、前記第１のコンテナポッドの前記使用量ファクタの最初の特徴付けを超過する軌跡を有することを示す、請求項６に記載のプログラム。
  10. 前記第２のしきい値を超過することは、前記第１のコンテナポッドの前記実際の使用量ファクタが、前記第１のコンテナポッドを含むコンテナノードの実際の使用量ファクタが前記第１のコンテナポッドに対する使用量ファクタ制限を超過することを生じさせる軌跡を有することを示す、請求項６または９に記載のプログラム。
  11. １つ以上のプロセッサと、
    １つ以上のメモリデバイスとを備えるシステムであって、前記１つ以上のメモリデバイスは、前記１つ以上のプロセッサによって実行されると前記１つ以上のプロセッサに動作を実行させる命令を含み、前記動作は、
    複数のコンテナポッドをコンテナ環境における複数のコンテナノードにデプロイすることを含み、
    前記複数のコンテナポッドは各々１つ以上のサービスを含み、
    前記複数のコンテナノードは各々１つ以上のコンテナポッドを含み、
    前記複数のコンテナポッドは、前記複数のコンテナポッド各々の使用量ファクタの最初の特徴付けに基づいて、前記複数のコンテナノードにデプロイされ、前記動作はさらに、
    前記複数のコンテナノードへのデプロイメント後に前記複数のコンテナポッド各々の実際の使用量ファクタをモニタリングすることと、
    前記複数のコンテナポッドのうち、その使用量ファクタの最初の特徴付けからずれている１つ以上のコンテナポッドを特定することと、
    前記１つ以上のコンテナポッドを前記実際の使用量ファクタに基づいて前記複数のコンテナノードに再分配することと、
    第１のコンテナポッドの前記実際の使用量ファクタのうちの少なくとも１つが第１のしきい値を超過する状態が予め定められた期間維持されると判断することと、
    第１のコンテナポッドの前記実際の使用量ファクタのうちの少なくとも１つが前記第１のしきい値を超過する状態が予め定められた期間維持されるという判断に応じて、前記第１のコンテナポッドのクローンを異なるコンテナノードにおいてインスタンス化することと、
    前記第１のコンテナポッドの前記実際の使用量ファクタのうちの少なくとも１つが第２のしきい値を超過すると判断することと、
    前記第１のコンテナポッドの前記実際の使用量ファクタのうちの少なくとも１つが前記第２のしきい値を超過すると判断したことに応じて、要求トラフィックを、前記第１のコンテナポッドから、前記異なるコンテナノードにおける前記第１のコンテナポッドのクローンにルーティングし、前記第１のコンテナポッドの前記実際の使用量ファクタのうちの少なくとも１つが減少することを検出したことに応じて、前記要求トラフィックを、前記異なるコンテナノードにおける前記第１のコンテナポッドのクローンから前記第１のコンテナポッドに戻すようにシフトすることとを含む、システム。
  12. 前記１つ以上のコンテナポッドは、コンテナプラットフォームスケジューラによって前記複数のコンテナノードに再分配される、請求項１１に記載のシステム。
  13. 前記１つ以上のコンテナポッドは、ＡＰＩレジストリによって前記複数のコンテナノードに再分配される、請求項１１に記載のシステム。
  14. 前記ＡＰＩレジストリは、前記コンテナ環境におけるコンテナにカプセル化されたサービスとしてデプロイされる、請求項１３に記載のシステム。
  15. 前記ＡＰＩレジストリは、
    統合開発環境（ＩＤＥ）において開発中のサービスと、
    前記コンテナ環境において既にデプロイされているサービスとが、利用できる、請求項１３または１４に記載のシステム。
  16. 前記ＡＰＩレジストリは、前記複数のコンテナポッドのサービスエンドポイントを１つ以上のＡＰＩ関数にマッピングする、請求項１３から１５のいずれか１項に記載のシステム。
  17. 請求項１から５のいずれか１項に記載の方法をコンピュータに実行させるためのプログラム。
JP2020518513A 2017-09-30 2018-09-28 コンテナのグループの動的マイグレーション Active JP7493450B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2023115382A JP2023139086A (ja) 2017-09-30 2023-07-13 コンテナのグループの動的マイグレーション

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US201762566351P 2017-09-30 2017-09-30
US62/566,351 2017-09-30
PCT/US2018/053620 WO2019068031A1 (en) 2017-09-30 2018-09-28 DYNAMIC MIGRATION OF CONTAINER GROUPS

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2023115382A Division JP2023139086A (ja) 2017-09-30 2023-07-13 コンテナのグループの動的マイグレーション

Publications (3)

Publication Number Publication Date
JP2020536319A JP2020536319A (ja) 2020-12-10
JP2020536319A5 JP2020536319A5 (ja) 2021-10-14
JP7493450B2 true JP7493450B2 (ja) 2024-05-31

Family

ID=63963482

Family Applications (8)

Application Number Title Priority Date Filing Date
JP2020518519A Active JP7196164B2 (ja) 2017-09-30 2018-09-28 Ａｐｉレジストリにおけるバックエンドサービスエンドポイントからａｐｉ関数へのバインディング
JP2020518487A Active JP7182618B2 (ja) 2017-09-30 2018-09-28 マイクロサービスの構成および管理を可能にするａｐｉリポジトリ
JP2020518513A Active JP7493450B2 (ja) 2017-09-30 2018-09-28 コンテナのグループの動的マイグレーション
JP2020518526A Active JP7246381B2 (ja) 2017-09-30 2018-09-28 環境要件に基づくコンテナのデプロイメント
JP2020518500A Active JP7203096B2 (ja) 2017-09-30 2018-09-28 デプロイされたコンテナプラットフォームにおけるインスタンスのリアルタイムデバッグ
JP2022185721A Pending JP2023027098A (ja) 2017-09-30 2022-11-21 マイクロサービスの構成および管理を可能にするａｐｉリポジトリ
JP2022199646A Active JP7481421B2 (ja) 2017-09-30 2022-12-14 Ａｐｉレジストリにおけるバックエンドサービスエンドポイントからａｐｉ関数へのバインディング
JP2023115382A Pending JP2023139086A (ja) 2017-09-30 2023-07-13 コンテナのグループの動的マイグレーション

Family Applications Before (2)

Application Number Title Priority Date Filing Date
JP2020518519A Active JP7196164B2 (ja) 2017-09-30 2018-09-28 Ａｐｉレジストリにおけるバックエンドサービスエンドポイントからａｐｉ関数へのバインディング
JP2020518487A Active JP7182618B2 (ja) 2017-09-30 2018-09-28 マイクロサービスの構成および管理を可能にするａｐｉリポジトリ

Family Applications After (5)

Application Number Title Priority Date Filing Date
JP2020518526A Active JP7246381B2 (ja) 2017-09-30 2018-09-28 環境要件に基づくコンテナのデプロイメント
JP2020518500A Active JP7203096B2 (ja) 2017-09-30 2018-09-28 デプロイされたコンテナプラットフォームにおけるインスタンスのリアルタイムデバッグ
JP2022185721A Pending JP2023027098A (ja) 2017-09-30 2022-11-21 マイクロサービスの構成および管理を可能にするａｐｉリポジトリ
JP2022199646A Active JP7481421B2 (ja) 2017-09-30 2022-12-14 Ａｐｉレジストリにおけるバックエンドサービスエンドポイントからａｐｉ関数へのバインディング
JP2023115382A Pending JP2023139086A (ja) 2017-09-30 2023-07-13 コンテナのグループの動的マイグレーション

Country Status (5)

Country Link
US (8) US10838788B2 (ja)
EP (5) EP3688595A1 (ja)
JP (8) JP7196164B2 (ja)
CN (7) CN111279309A (ja)
WO (5) WO2019068036A1 (ja)

Families Citing this family (182)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8560604B2 (en) 2009-10-08 2013-10-15 Hola Networks Ltd. System and method for providing faster and more efficient data communication
US9225638B2 (en) 2013-05-09 2015-12-29 Vmware, Inc. Method and system for service switching using service tags
US9241044B2 (en) 2013-08-28 2016-01-19 Hola Networks, Ltd. System and method for improving internet communication by using intermediate nodes
US10225137B2 (en) 2014-09-30 2019-03-05 Nicira, Inc. Service node selection by an inline service switch
US9755898B2 (en) 2014-09-30 2017-09-05 Nicira, Inc. Elastically managing a service node group
US10594743B2 (en) 2015-04-03 2020-03-17 Nicira, Inc. Method, apparatus, and system for implementing a content switch
US11057446B2 (en) 2015-05-14 2021-07-06 Bright Data Ltd. System and method for streaming content from multiple servers
US11824863B2 (en) * 2016-11-03 2023-11-21 Nicira, Inc. Performing services on a host
US10447811B2 (en) * 2017-07-18 2019-10-15 Citrix Systems, Inc. Cloud to on-premises debug service routing
LT3767495T (lt) 2017-08-28 2023-05-25 Bright Data Ltd. Būdas pagerinti turinio parsisiuntimą, pasirenkant tunelinius įrenginius
US11947489B2 (en) 2017-09-05 2024-04-02 Robin Systems, Inc. Creating snapshots of a storage volume in a distributed storage system
WO2019068036A1 (en) 2017-09-30 2019-04-04 Oracle International Corporation DEPLOYMENT OF CONTAINERS BASED ON ENVIRONMENTAL REQUIREMENTS
US10805181B2 (en) 2017-10-29 2020-10-13 Nicira, Inc. Service operation chaining
US11792284B1 (en) * 2017-11-27 2023-10-17 Lacework, Inc. Using data transformations for monitoring a cloud compute environment
US11748203B2 (en) * 2018-01-11 2023-09-05 Robin Systems, Inc. Multi-role application orchestration in a distributed storage system
US11582168B2 (en) 2018-01-11 2023-02-14 Robin Systems, Inc. Fenced clone applications
US11392363B2 (en) 2018-01-11 2022-07-19 Robin Systems, Inc. Implementing application entrypoints with containers of a bundled application
US10805192B2 (en) 2018-03-27 2020-10-13 Nicira, Inc. Detecting failure of layer 2 service using broadcast messages
US11128530B2 (en) 2018-03-29 2021-09-21 Hewlett Packard Enterprise Development Lp Container cluster management
US10812337B2 (en) 2018-06-15 2020-10-20 Vmware, Inc. Hierarchical API for a SDDC
US10942788B2 (en) 2018-06-15 2021-03-09 Vmware, Inc. Policy constraint framework for an sddc
US11023328B2 (en) 2018-07-30 2021-06-01 Robin Systems, Inc. Redo log for append only storage scheme
US11595250B2 (en) 2018-09-02 2023-02-28 Vmware, Inc. Service insertion at logical network gateway
US10805154B2 (en) * 2018-10-16 2020-10-13 Hartford Fire Insurance Company Secure configuration management system
US10747556B2 (en) * 2018-10-18 2020-08-18 Sap Se Serverless function as a service (FAAS)
US11036439B2 (en) 2018-10-22 2021-06-15 Robin Systems, Inc. Automated management of bundled applications
US10846078B2 (en) * 2018-11-06 2020-11-24 Sap Se Synchronization of master data across multiple cloud-based systems
US11457080B1 (en) * 2018-11-23 2022-09-27 Amazon Technologies, Inc. Service mesh management
US20200167215A1 (en) * 2018-11-28 2020-05-28 Centurylink Intellectual Property Llc Method and System for Implementing an Application Programming Interface Automation Platform
US11243813B2 (en) * 2018-11-28 2022-02-08 International Business Machines Corporation Process as a network service hub
US10715388B2 (en) * 2018-12-10 2020-07-14 Sap Se Using a container orchestration service for dynamic routing
US11381476B2 (en) 2018-12-11 2022-07-05 Sap Se Standardized format for containerized applications
US11212366B2 (en) 2018-12-11 2021-12-28 Sap Se Kubernetes as a distributed operating system for multitenancy/multiuser
US10700949B1 (en) * 2018-12-13 2020-06-30 Sap Se Stacking of tentant-aware services
CN109743367B (zh) * 2018-12-24 2021-08-17 青岛海信智能商用系统股份有限公司 服务处理方法、装置、电子设备及可读存储介质
US10962946B2 (en) * 2018-12-31 2021-03-30 Johnson Controls Technology Company Building automation system with microservice architecture to support multi-node on-premise bas server
US11018956B2 (en) * 2019-01-18 2021-05-25 Fidelity Information Services, Llc Systems and methods for rapid booting and deploying of an enterprise system in a cloud environment
US11038926B2 (en) * 2019-01-23 2021-06-15 Vmware, Inc. System and method for embedding infrastructure security services into management nodes
US10860364B2 (en) * 2019-01-23 2020-12-08 Vmware, Inc. Containerized management services with high availability
US11397604B2 (en) 2019-02-22 2022-07-26 Vmware, Inc. Service path selection in load balanced manner
EP3780557B1 (en) 2019-02-25 2023-02-15 Bright Data Ltd. System and method for url fetching retry mechanism
US11019157B2 (en) * 2019-03-06 2021-05-25 At&T Intellectual Property I, L.P. Connectionless service and other services for devices using microservices in 5G or other next generation communication systems
US10942855B2 (en) * 2019-03-18 2021-03-09 Microsoft Technology Licensing, Llc Contextual loading based on dynamic context
US11086725B2 (en) 2019-03-25 2021-08-10 Robin Systems, Inc. Orchestration of heterogeneous multi-role applications
WO2020202135A2 (en) 2019-04-02 2020-10-08 Luminati Networks Ltd. System and method for managing non-direct url fetching service
CN110018962A (zh) * 2019-04-11 2019-07-16 重庆猪八戒知识产权服务有限公司 基于分布式服务框架和注册中心的服务调试方法及系统
US11256434B2 (en) 2019-04-17 2022-02-22 Robin Systems, Inc. Data de-duplication
US11416285B1 (en) * 2019-04-30 2022-08-16 Splunk Inc. Efficient and secure scalable-two-stage data collection
DE102019112485A1 (de) * 2019-05-13 2020-11-19 Eberhard-Karls-Universität Tübingen Verfahren zum selektiven Ausführen eines Containers
US10911558B1 (en) * 2019-05-15 2021-02-02 Pivotal Software, Inc. On-demand network segmentation
WO2020234792A1 (en) * 2019-05-21 2020-11-26 Politecnico Di Milano An fpga-as-a-service system for accelerated serverless computing
CN110162405A (zh) * 2019-05-31 2019-08-23 福建南威软件有限公司 一种自动服务发现与负载均衡的方法及系统
CN110266679B (zh) * 2019-06-14 2023-02-28 腾讯科技(成都)有限公司 容器网络隔离方法及装置
US11681278B2 (en) * 2019-06-19 2023-06-20 Honeywell International Inc. High availability for container based control execution
TW202101322A (zh) * 2019-06-19 2021-01-01 和碩聯合科技股份有限公司 管理軟體服務的方法及伺服器
US11507880B2 (en) * 2019-06-25 2022-11-22 Kyndryl, Inc. Automatic and continuous monitoring and remediation of API integrations
CN112187841B (zh) * 2019-07-02 2022-07-08 北京百度网讯科技有限公司 基于SaaS平台的服务托管方法、装置、电子设备及存储介质
US12019613B2 (en) * 2019-07-18 2024-06-25 EMC IP Holding Company LLC Data integrity and consensuses with blockchain
US11422785B2 (en) * 2019-07-23 2022-08-23 Paypal, Inc. Container orchestration framework
US11411733B1 (en) * 2019-08-08 2022-08-09 Citibank, N.A. Systems and methods for identity and access control
US11226847B2 (en) 2019-08-29 2022-01-18 Robin Systems, Inc. Implementing an application manifest in a node-specific manner using an intent-based orchestrator
US11520650B2 (en) 2019-09-05 2022-12-06 Robin Systems, Inc. Performing root cause analysis in a multi-role application
US11249851B2 (en) 2019-09-05 2022-02-15 Robin Systems, Inc. Creating snapshots of a storage volume in a distributed storage system
US10972548B2 (en) * 2019-09-09 2021-04-06 International Business Machines Corporation Distributed system deployment
US10965752B1 (en) * 2019-09-13 2021-03-30 Google Llc Live migration of clusters in containerized environments
US11714638B2 (en) * 2019-09-18 2023-08-01 International Business Machines Corporation Availability level-based service management
US11176245B2 (en) 2019-09-30 2021-11-16 International Business Machines Corporation Protecting workloads in Kubernetes
US11347684B2 (en) 2019-10-04 2022-05-31 Robin Systems, Inc. Rolling back KUBERNETES applications including custom resources
US11113158B2 (en) 2019-10-04 2021-09-07 Robin Systems, Inc. Rolling back kubernetes applications
US11140218B2 (en) 2019-10-30 2021-10-05 Vmware, Inc. Distributed service chain across multiple clouds
US11157304B2 (en) * 2019-11-01 2021-10-26 Dell Products L.P. System for peering container clusters running on different container orchestration systems
CN112783642A (zh) * 2019-11-11 2021-05-11 阿里巴巴集团控股有限公司 容器内逻辑配置方法、设备以及计算机可读介质
US11347491B2 (en) * 2019-11-15 2022-05-31 Mastercard International Incorporated Containerized application deployment
WO2021095943A1 (ko) * 2019-11-15 2021-05-20 대구대학교 산학협력단 서비스 프로파일을 고려한 컨테이너의 배치 방법
US11403188B2 (en) 2019-12-04 2022-08-02 Robin Systems, Inc. Operation-level consistency points and rollback
CN111193783B (zh) * 2019-12-19 2022-08-26 新浪网技术(中国)有限公司 一种服务访问的处理方法及装置
CN114846444A (zh) * 2019-12-19 2022-08-02 皇家飞利浦有限公司 基于动态要求的动态个性化平台生成
US11397630B2 (en) 2020-01-02 2022-07-26 Kyndryl, Inc. Fault detection and correction of API endpoints in container orchestration platforms
US11216155B2 (en) * 2020-01-06 2022-01-04 Fmr Llc Systems and methods for data processing
US11659061B2 (en) 2020-01-20 2023-05-23 Vmware, Inc. Method of adjusting service function chains to improve network performance
US11301285B1 (en) * 2020-01-30 2022-04-12 Parallels International Gmbh Methods and systems for seamless virtual machine changing for software applications
CN111615066B (zh) * 2020-02-07 2021-07-16 中国海洋大学 一种基于广播的分布式微服务注册及调用方法
CN111367659B (zh) * 2020-02-24 2022-07-12 苏州浪潮智能科技有限公司 一种Kubernetes中节点的资源管理方法、设备以及介质
US11210205B2 (en) * 2020-02-28 2021-12-28 Sap Se Application debugging
US11409555B2 (en) * 2020-03-12 2022-08-09 At&T Intellectual Property I, L.P. Application deployment in multi-cloud environment
US11762742B2 (en) 2020-03-31 2023-09-19 Honeywell International Inc. Process control system with different hardware architecture controller backup
WO2021196080A1 (en) 2020-04-01 2021-10-07 Vmware Information Technology (China) Co., Ltd. Auto deploying network elements for heterogeneous compute elements
US11528219B2 (en) 2020-04-06 2022-12-13 Vmware, Inc. Using applied-to field to identify connection-tracking records for different interfaces
CN111541746B (zh) * 2020-04-09 2022-04-15 哈尔滨工业大学 面向用户需求变化的多版本并存的微服务自适应方法
US11853330B1 (en) * 2020-04-30 2023-12-26 Splunk Inc. Data structure navigator
US11144362B1 (en) * 2020-05-05 2021-10-12 International Business Machines Corporation Container scheduling in a container orchestration system
US11108638B1 (en) 2020-06-08 2021-08-31 Robin Systems, Inc. Health monitoring of automatically deployed and managed network pipelines
US11528186B2 (en) 2020-06-16 2022-12-13 Robin Systems, Inc. Automated initialization of bare metal servers
US11336588B2 (en) 2020-06-26 2022-05-17 Red Hat, Inc. Metadata driven static determination of controller availability
US11645193B2 (en) * 2020-07-07 2023-05-09 International Business Machines Corporation Heterogeneous services for enabling collaborative logic design and debug in aspect oriented hardware designing
US11501026B2 (en) * 2020-07-13 2022-11-15 Avaya Management L.P. Method to encrypt the data at rest for data residing on Kubernetes persistent volumes
US10901704B1 (en) * 2020-07-19 2021-01-26 Xmodn Security, Llc Computer-aided design, simulation, and code generation for cryptography
CN111858370B (zh) * 2020-07-28 2023-12-26 浪潮云信息技术股份公司 DevOps的实现方法、装置、计算机可读介质
US11803408B2 (en) 2020-07-29 2023-10-31 Vmware, Inc. Distributed network plugin agents for container networking
US11863352B2 (en) 2020-07-30 2024-01-02 Vmware, Inc. Hierarchical networking for nested container clusters
US11153227B1 (en) 2020-08-05 2021-10-19 International Business Machines Corporation Managing communication between microservices
US11805076B2 (en) * 2020-08-21 2023-10-31 Kyndryl, Inc. Microservice placement in hybrid multi-cloud using graph matching
CN111857977B (zh) * 2020-09-21 2020-12-25 腾讯科技（深圳）有限公司 弹性伸缩方法、装置、服务器和存储介质
CN112256384B (zh) * 2020-09-22 2023-10-24 杭州指令集智能科技有限公司 基于容器技术的服务集合处理方法、装置和计算机设备
US11740980B2 (en) 2020-09-22 2023-08-29 Robin Systems, Inc. Managing snapshot metadata following backup
US11989084B2 (en) 2020-09-23 2024-05-21 Honeywell International Inc. Self-healing process control system
CN112130880B (zh) * 2020-09-27 2022-12-02 深圳平安医疗健康科技服务有限公司 微服务的发布方法、装置、计算机设备及存储介质
CN112035220A (zh) * 2020-09-30 2020-12-04 北京百度网讯科技有限公司 开发机操作任务的处理方法、装置、设备以及存储介质
EP3979081B1 (de) * 2020-09-30 2023-06-07 Siemens Aktiengesellschaft Verfahren zum testen einer microservice-anwendung
US11743188B2 (en) 2020-10-01 2023-08-29 Robin Systems, Inc. Check-in monitoring for workflows
US11347622B1 (en) 2020-10-06 2022-05-31 Splunk Inc. Generating metrics values for teams of microservices of a microservices-based architecture
US11321217B1 (en) * 2020-10-06 2022-05-03 Splunk Inc. Generating metrics values at component levels of a monolithic application and of a microservice of a microservices-based architecture
US11456914B2 (en) 2020-10-07 2022-09-27 Robin Systems, Inc. Implementing affinity and anti-affinity with KUBERNETES
US11271895B1 (en) 2020-10-07 2022-03-08 Robin Systems, Inc. Implementing advanced networking capabilities using helm charts
US11475078B2 (en) 2020-10-19 2022-10-18 Clearwater Analytics, Llc Endpoint identifier for application programming interfaces and web services
CN112269738B (zh) * 2020-10-26 2023-04-07 杭州光通天下网络科技有限公司 Ctf靶场调试方法、装置、电子设备及介质
CN112349165A (zh) * 2020-10-29 2021-02-09 国网甘肃省电力公司 基于调控云的电网调度员仿真培训方法、装置及系统
CN112328359B (zh) * 2020-10-30 2022-06-17 烽火通信科技股份有限公司 避免容器集群启动拥塞的调度方法和容器集群管理平台
US11874938B2 (en) 2020-11-03 2024-01-16 Honeywell International Inc. Admittance mechanism
US11750451B2 (en) 2020-11-04 2023-09-05 Robin Systems, Inc. Batch manager for complex workflows
EP4002098A1 (de) * 2020-11-18 2022-05-25 Deutsche Telekom AG Verfahren zur bereitstellung der funktionalität von mehreren mikrodiensten und/oder der funktionalität von mehreren software-containern mittels einer cloud-infrastruktur, system, verwendungssystem, computerprogramm und computerlesbares medium
CN112486495A (zh) * 2020-11-23 2021-03-12 珠海格力电器股份有限公司 一种工业视觉算法部署方法、系统及存储介质
KR102439056B1 (ko) * 2020-11-24 2022-09-01 주식회사 솔박스 노드 레이블링 방법 및 장치
CN112328297B (zh) * 2020-11-30 2021-04-20 北京技德系统技术有限公司 一种在Linux上兼容运行的Android系统的升级方法与装置
KR102480731B1 (ko) * 2020-12-09 2022-12-22 대구대학교 산학협력단 클라우드 컴퓨팅의 다중 노드 환경을 위한 배치 스케줄링 장치 및 배치 스케줄링 방법
US11556361B2 (en) 2020-12-09 2023-01-17 Robin Systems, Inc. Monitoring and managing of complex multi-role applications
KR102466231B1 (ko) * 2020-12-09 2022-11-10 대구대학교 산학협력단 오케스트레이터 환경에서의 프로세스 마이그레이션을 위한 컨테이너 관리 장치 및 관리 방법
CN112579199A (zh) * 2020-12-15 2021-03-30 北京动力机械研究所 基于开放式数据平台的处理方法及装置
US11734043B2 (en) 2020-12-15 2023-08-22 Vmware, Inc. Providing stateful services in a scalable manner for machines executing on host computers
US20220188089A1 (en) * 2020-12-15 2022-06-16 Baker Hughes Holdings Llc Framework for industrial analytics
US11611625B2 (en) * 2020-12-15 2023-03-21 Vmware, Inc. Providing stateful services in a scalable manner for machines executing on host computers
JP2022095016A (ja) * 2020-12-16 2022-06-28 株式会社日立製作所 演算装置、共通リソース生成方法
CN112511560B (zh) * 2020-12-21 2021-10-22 北京云思畅想科技有限公司 一种基于服务网格的混合云环境下数据安全保障方法
US11223522B1 (en) * 2021-01-15 2022-01-11 Dell Products L.P. Context-based intelligent re-initiation of microservices
US11567740B2 (en) * 2021-02-11 2023-01-31 Oracle International Corporation Techniques for building and optimizing contact service centers
CN112631739A (zh) * 2021-03-09 2021-04-09 北京世纪好未来教育科技有限公司 容器控制方法及装置、介质、计算机设备
US11671401B2 (en) 2021-03-25 2023-06-06 Cisco Technology, Inc. Providing persistent external internet protocol address for extra-cluster services
US20220309164A1 (en) * 2021-03-29 2022-09-29 International Business Machines Corporation Secure placement of processing elements
US11456931B1 (en) 2021-04-06 2022-09-27 Amdocs Development Limited System, method and computer program for orchestrating loosely coupled services
CN113067890B (zh) * 2021-04-07 2022-08-19 武汉光庭信息技术股份有限公司 一种适用于智能座舱的动态注册服务方法及智能座舱
CN112802457A (zh) * 2021-04-14 2021-05-14 北京世纪好未来教育科技有限公司 语音识别的方法、装置、设备和存储介质
US11768713B2 (en) * 2021-04-19 2023-09-26 Microsoft Technology Licensing, Llc Dynamic relocation of pods to optimize inter-pod networking
US11645055B2 (en) * 2021-04-29 2023-05-09 Sap Se Custom integration flow step for integration service
US20220360504A1 (en) * 2021-05-05 2022-11-10 International Business Machines Corporation Adapting microservices to multi-platform deployments
US11797282B2 (en) * 2021-05-06 2023-10-24 Red Hat, Inc. Optimizing services deployment in a cloud computing environment
US11606254B2 (en) 2021-06-11 2023-03-14 Vmware, Inc. Automatic configuring of VLAN and overlay logical switches for container secondary interfaces
US11418550B1 (en) * 2021-07-12 2022-08-16 Sap Se Service-mesh session prioritization
US20230031434A1 (en) * 2021-07-28 2023-02-02 Hewlett-Packard Development Company, L.P. Exclusion registry
IT202100021161A1 (it) * 2021-08-04 2023-02-04 Marco Simoncini Sistema di containerizzazione di workstation aziendali con interfacce utente remote a basso costo
CN113392034B (zh) * 2021-08-17 2021-10-15 北京安普诺信息技术有限公司 Api自发现方法和基于此的测试覆盖率统计方法及装置
US20230073891A1 (en) * 2021-09-09 2023-03-09 Beijing Bytedance Network Technology Co., Ltd. Multifunctional application gateway for security and privacy
US20230093868A1 (en) * 2021-09-22 2023-03-30 Ridgeline, Inc. Mechanism for real-time identity resolution in a distributed system
US11841731B2 (en) 2021-09-24 2023-12-12 Sap Se Cloud plugin for legacy on-premise application
US11922163B2 (en) * 2021-09-24 2024-03-05 Sap Se Cloud version management for legacy on-premise application
CN113672273B (zh) * 2021-10-21 2022-04-15 阿里云计算有限公司 数据处理方法、系统及设备
CN113709707B (zh) * 2021-10-29 2022-03-15 中兴通讯股份有限公司 服务网格中边车部署的方法、装置、电子设备和存储介质
US11893373B2 (en) * 2021-11-05 2024-02-06 Microsoft Technology Licensing, Llc Exposure and de-duplication of input parameters for complex Helm chart deployment
WO2022072953A1 (en) * 2021-11-17 2022-04-07 Innopeak Technology, Inc. Automatic app resource adaptation
CN114090126A (zh) * 2021-11-23 2022-02-25 浩云科技股份有限公司 一种自定义系统变量方法、装置、终端设备及存储介质
US20230171243A1 (en) * 2021-11-29 2023-06-01 Salesforce.Com, Inc. Administration of services executing in cloud platform based datacenters for web-based applications
US11907687B2 (en) * 2021-12-03 2024-02-20 Sap Se Re-usable integration component configuration in a microservice based integration service
CN114205342B (zh) * 2021-12-10 2023-05-16 易保网络技术(上海)有限公司 服务调试的路由方法、电子设备及介质
CN114253854B (zh) * 2021-12-21 2024-05-14 四川启睿克科技有限公司 基于多类型设备模拟上报数据的自动化测试方法
US20220121470A1 (en) * 2021-12-23 2022-04-21 Intel Corporation Optimizing deployment and security of microservices
US11659027B1 (en) * 2022-01-06 2023-05-23 Vmware, Inc. Multi-network/domain service discovery in a container orchestration platform
US20230231741A1 (en) 2022-01-14 2023-07-20 Vmware, Inc. Per-namespace ip address management method for container networks
DE102022200460A1 (de) * 2022-01-17 2023-07-20 Siemens Aktiengesellschaft Verfahren zur Verteilung von Rechendiensten verteilter Softwareapplikationen auf Rechenknoten eines Rechenknotennetzwerks, Verteileinrichtung und Rechenknotennetzwerk
US11915063B2 (en) 2022-04-05 2024-02-27 Red Hat, Inc. Managing a presentation mode for application programming interface functions
CN114706596B (zh) * 2022-04-11 2023-12-01 中国电信股份有限公司 容器部署方法、资源调度方法、装置、介质和电子设备
CN114938396A (zh) * 2022-05-09 2022-08-23 阿里巴巴（中国）有限公司 服务调用请求的路由方法、创建服务的方法及装置
DE102022111836A1 (de) 2022-05-11 2023-11-16 Cariad Se Verfahren und Kraftfahrzeug-Steuergerät zum Betreiben einer Containervirtualisierung mit Logging-Funktion sowie computerlesbares Speichermedium
US11711315B1 (en) 2022-05-24 2023-07-25 Red Hat, Inc. Dynamic endpoint resources discovery in Kubernetes clusters via stable URI locator for workflow services
EP4293512A1 (de) * 2022-06-14 2023-12-20 Siemens Aktiengesellschaft Verfahren zum bereitstellen einer mehrzahl von anwendungen und kommunikationssystem
KR20230174137A (ko) * 2022-06-20 2023-12-27 삼성전자주식회사 컨테이너 기반 다중 클러스터 환경에서 데이터 동기화를 위한 방법 및 장치
US20240031229A1 (en) * 2022-07-20 2024-01-25 Vmware, Inc. Synchronization of logical network configuration between multi-tenant network manager and local network manager
CN115048087A (zh) * 2022-08-15 2022-09-13 江苏博云科技股份有限公司 Kubernetes环境下实现在线IDE工具的方法、设备及存储介质
CN117857548A (zh) * 2022-09-30 2024-04-09 华为技术有限公司 一种通信方法及装置
US11848910B1 (en) 2022-11-11 2023-12-19 Vmware, Inc. Assigning stateful pods fixed IP addresses depending on unique pod identity
US11831511B1 (en) 2023-01-17 2023-11-28 Vmware, Inc. Enforcing network policies in heterogeneous systems
CN117112074B (zh) * 2023-06-19 2024-03-12 领悦数字信息技术有限公司 将http应用自动转换成无服务器函数的方法、系统和介质
CN117041330B (zh) * 2023-10-10 2023-12-15 三峡高科信息技术有限责任公司 一种基于强化学习的边缘微服务细粒度部署方法及系统
CN117390105B (zh) * 2023-12-11 2024-03-01 中核武汉核电运行技术股份有限公司 一种工业服务开放平台的服务录入方法及系统

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006508445A (ja) 2002-11-27 2006-03-09 インターナショナル・ビジネス・マシーンズ・コーポレーション アプリケーション固有の冗長特性に基づく自動電力制御ポリシー
JP2012037935A (ja) 2010-08-03 2012-02-23 Fujitsu Ltd 情報処理装置
JP2014197340A (ja) 2013-03-29 2014-10-16 富士ゼロックス株式会社 分散処理システム及びプログラム
JP2015225524A (ja) 2014-05-28 2015-12-14 Kddi株式会社 Ｉｔシステムにおけるサーバの性能の抽象化方法および資源管理方法
JP2017041185A (ja) 2015-08-21 2017-02-23 日本電信電話株式会社 管理サーバ装置及び管理プログラム

Family Cites Families (92)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7472349B1 (en) 1999-06-01 2008-12-30 Oracle International Corporation Dynamic services infrastructure for allowing programmatic access to internet and other resources
US7401131B2 (en) * 2000-05-22 2008-07-15 Verizon Business Global Llc Method and system for implementing improved containers in a global ecosystem of interrelated services
US7159224B2 (en) * 2002-04-09 2007-01-02 Sun Microsystems, Inc. Method, system, and articles of manufacture for providing a servlet container based web service endpoint
US7284054B2 (en) 2003-04-11 2007-10-16 Sun Microsystems, Inc. Systems, methods, and articles of manufacture for aligning service containers
US8346929B1 (en) 2003-08-18 2013-01-01 Oracle America, Inc. System and method for generating secure Web service architectures using a Web Services security assessment methodology
US7698398B1 (en) * 2003-08-18 2010-04-13 Sun Microsystems, Inc. System and method for generating Web Service architectures using a Web Services structured methodology
US7822826B1 (en) * 2003-12-30 2010-10-26 Sap Ag Deployment of a web service
US7500225B2 (en) 2004-02-10 2009-03-03 Microsoft Corporation SQL server debugging in a distributed database environment
US8200823B1 (en) * 2004-03-30 2012-06-12 Oracle America, Inc. Technique for deployment and management of network system management services
JP2007538313A (ja) * 2004-04-29 2007-12-27 インターナショナル・ビジネス・マシーンズ・コーポレーション 分散ネットワーキング・アーキテクチャ内にサービスをモデル化し、動的にデプロイするためのシステムおよび方法
US7877735B2 (en) 2004-05-25 2011-01-25 Sap Ag Application cloning
US7702779B1 (en) 2004-06-30 2010-04-20 Symantec Operating Corporation System and method for metering of application services in utility computing environments
JP2006146434A (ja) * 2004-11-17 2006-06-08 Hitachi Ltd 分散アプリケーションテスト方法及び分散アプリケーションテスト装置
US7634759B2 (en) 2004-12-01 2009-12-15 Microsoft Corporation Distributed debugger environment
US9009181B2 (en) * 2007-08-23 2015-04-14 International Business Machines Corporation Accessing objects in a service registry and repository
US20140201218A1 (en) 2008-06-19 2014-07-17 Servicemesh, Inc. Systems and methods for providing ranked deployment options
MY164485A (en) 2009-07-20 2017-12-29 Mimos Berhad A method and system for an intelligent framework of a service orientated architecture
WO2011015488A1 (en) 2009-08-04 2011-02-10 International Business Machines Corporation Service registry policy editing user interface
US9274848B2 (en) 2009-12-03 2016-03-01 International Business Machines Corporation Optimizing cloud service delivery within a cloud computing environment
US8245083B2 (en) 2009-12-24 2012-08-14 At&T Intellectual Property I, L.P. Systems, methods, and apparatus to debug a network application
US9201762B1 (en) 2010-04-21 2015-12-01 Marvell International Ltd. Processor implemented systems and methods for reversible debugging using a replicate process system call
US9459925B2 (en) * 2010-06-23 2016-10-04 Twilio, Inc. System and method for managing a computing cluster
US8479211B1 (en) 2010-06-29 2013-07-02 Amazon Technologies, Inc. Dynamic resource commitment management
US9483312B2 (en) 2010-08-16 2016-11-01 International Business Machines Corporation Locating service endpoints from a service registry
US8862933B2 (en) 2011-02-09 2014-10-14 Cliqr Technologies, Inc. Apparatus, systems and methods for deployment and management of distributed computing systems and applications
US10225335B2 (en) * 2011-02-09 2019-03-05 Cisco Technology, Inc. Apparatus, systems and methods for container based service deployment
US8701128B2 (en) 2011-02-14 2014-04-15 General Electric Company Method, system and computer program product for a client application programming interface (API) in a service oriented architecture
CN102681825A (zh) 2011-03-09 2012-09-19 北京航空航天大学 服务运行容器管理系统和方法
US20120271949A1 (en) 2011-04-20 2012-10-25 International Business Machines Corporation Real-time data analysis for resource provisioning among systems in a networked computing environment
CN102223398B (zh) * 2011-05-30 2013-09-11 北京航空航天大学 一种部署在云计算环境中部署服务的方法
US8924542B1 (en) 2011-05-31 2014-12-30 Amazon Technologies, Inc. Methods and apparatus for scalable private services
US9781205B2 (en) * 2011-09-12 2017-10-03 Microsoft Technology Licensing, Llc Coordination engine for cloud selection
GB2502998A (en) 2012-06-13 2013-12-18 Ibm Automatic creation of endpoint definition documents for different environments
GB2504491A (en) * 2012-07-30 2014-02-05 Ibm Remote debug service in a cloud environment
US9563480B2 (en) * 2012-08-21 2017-02-07 Rackspace Us, Inc. Multi-level cloud computing system
US8825550B2 (en) * 2012-08-23 2014-09-02 Amazon Technologies, Inc. Scaling a virtual machine instance
US10419524B2 (en) * 2012-09-07 2019-09-17 Oracle International Corporation System and method for workflow orchestration for use with a cloud computing environment
US8938053B2 (en) * 2012-10-15 2015-01-20 Twilio, Inc. System and method for triggering on platform usage
EP2973116B1 (en) 2013-03-15 2023-01-11 Servicemesh, Inc. Systems and methods for providing ranked deployment options
US9904266B2 (en) 2013-04-25 2018-02-27 General Electric Company Real-time debugging systems and methods
US9201759B2 (en) 2013-07-26 2015-12-01 Sap Se Debugging applications in the cloud
US9935959B2 (en) * 2014-02-07 2018-04-03 Oracle International Corporation Cloud service custom execution environment
US9678731B2 (en) * 2014-02-26 2017-06-13 Vmware, Inc. Methods and apparatus to generate a customized application blueprint
US9984158B2 (en) 2014-03-18 2018-05-29 Axis Ab Finding services in a service-oriented architecture (SOA) network
US9270553B1 (en) * 2014-03-26 2016-02-23 Amazon Technologies, Inc. Dynamic service debugging in a virtual environment
US20170199770A1 (en) * 2014-06-23 2017-07-13 Getclouder Ltd. Cloud hosting systems featuring scaling and load balancing with containers
US10362059B2 (en) * 2014-09-24 2019-07-23 Oracle International Corporation Proxy servers within computer subnetworks
US9396091B2 (en) * 2014-09-29 2016-07-19 Sap Se End-to end, lifecycle aware, API management
US10230571B2 (en) * 2014-10-30 2019-03-12 Equinix, Inc. Microservice-based application development framework
US9256467B1 (en) * 2014-11-11 2016-02-09 Amazon Technologies, Inc. System for managing and scheduling containers
US9672123B2 (en) * 2014-12-31 2017-06-06 Oracle International Corporation Deploying services on application server cloud with high availability
US9775008B2 (en) 2015-01-14 2017-09-26 Kodiak Networks, Inc. System and method for elastic scaling in a push to talk (PTT) platform using user affinity groups
US10007584B2 (en) 2015-01-28 2018-06-26 Red Hat, Inc. Automated container migration in a platform-as-a-service system
US9930103B2 (en) 2015-04-08 2018-03-27 Amazon Technologies, Inc. Endpoint management system providing an application programming interface proxy service
US9727374B2 (en) 2015-04-21 2017-08-08 International Business Machines Corporation Temporary virtual machine migration for improved software application warmup
US9515993B1 (en) 2015-05-13 2016-12-06 International Business Machines Corporation Automated migration planning for moving into a setting of multiple firewalls
US9632914B2 (en) 2015-05-21 2017-04-25 International Business Machines Corporation Error diagnostic in a production environment
US10042697B2 (en) * 2015-05-28 2018-08-07 Oracle International Corporation Automatic anomaly detection and resolution system
US10503532B2 (en) 2015-06-26 2019-12-10 Vmware, Inc. Creating a virtual machine clone of the host computing device and handling of virtual machine clone requests via an I/O filter
JP6374845B2 (ja) * 2015-08-07 2018-08-15 株式会社日立製作所 計算機システム及びコンテナ管理方法
US10656929B2 (en) 2015-08-11 2020-05-19 International Business Machines Corporation Autonomously healing microservice-based applications
US9965261B2 (en) * 2015-08-18 2018-05-08 International Business Machines Corporation Dependency-based container deployment
US10623514B2 (en) 2015-10-13 2020-04-14 Home Box Office, Inc. Resource response expansion
CN106603594B (zh) * 2015-10-15 2019-07-09 中国电信股份有限公司 一种分布式服务的管理方法和系统
US10348808B2 (en) * 2015-10-30 2019-07-09 International Business Machines Corporation Hybrid cloud applications
CN105893010A (zh) * 2015-11-17 2016-08-24 乐视云计算有限公司 用于容器部署的主机调度方法及系统
US11182140B2 (en) * 2015-11-25 2021-11-23 Red Hat, Inc. Active representation of a composite application
US10261782B2 (en) 2015-12-18 2019-04-16 Amazon Technologies, Inc. Software container registry service
US10002247B2 (en) * 2015-12-18 2018-06-19 Amazon Technologies, Inc. Software container registry container image deployment
KR102000266B1 (ko) 2016-01-15 2019-07-15 구글 엘엘씨 애플리케이션 인스턴스들에 걸친 식별자들
US11455097B2 (en) 2016-01-28 2022-09-27 Weka.IO Ltd. Resource monitoring in a distributed storage system
US10114732B2 (en) 2016-01-29 2018-10-30 Ca, Inc. Debugging in-cloud distributed code in live load environment
US11388037B2 (en) 2016-02-25 2022-07-12 Open Text Sa Ulc Systems and methods for providing managed services
WO2017152178A1 (en) * 2016-03-04 2017-09-08 Bladelogic, Inc. Provisioning of containers for virtualized applications
US10574584B1 (en) 2016-03-22 2020-02-25 Amazon Technologies, Inc. Controlling network device capacity
WO2017165712A1 (en) * 2016-03-23 2017-09-28 FogHorn Systems, Inc. Composition of pattern-driven reactions in real-time dataflow programming
JP6680028B2 (ja) * 2016-03-24 2020-04-15 日本電気株式会社 監視システム、監視方法および監視プログラム
US9942354B1 (en) 2016-03-29 2018-04-10 Amazon Technologies, Inc. Managing service message rates in a computing service environment
US10496987B2 (en) 2016-09-13 2019-12-03 Verizon Patent And Licensing Inc. Containerization of network services
US10942839B2 (en) * 2016-10-28 2021-03-09 Ingram Micro Inc. System and method for debugging applications on a developer workstation
US10489215B1 (en) 2016-11-02 2019-11-26 Nutanix, Inc. Long-range distributed resource planning using workload modeling in hyperconverged computing clusters
US20180165177A1 (en) 2016-12-08 2018-06-14 Nutanix, Inc. Debugging distributed web service requests
CN106776212B (zh) * 2016-12-09 2020-02-25 中电科华云信息技术有限公司 容器集群部署多进程应用的监管系统及方法
US10574736B2 (en) 2017-01-09 2020-02-25 International Business Machines Corporation Local microservice development for remote deployment
US10601871B2 (en) 2017-01-18 2020-03-24 International Business Machines Corporation Reconfiguration of security requirements for deployed components of applications
WO2018177506A1 (en) 2017-03-28 2018-10-04 Telefonaktiebolaget Lm Ericsson (Publ) Technique for allocating radio resources in a radio access network
US10356214B2 (en) * 2017-03-29 2019-07-16 Ca, Inc. Composing monolithic applications based on multi-container applications
US11038947B2 (en) 2017-04-21 2021-06-15 Microsoft Technology Licensing, Llc Automated constraint-based deployment of microservices to cloud-based server sets
US10225140B2 (en) 2017-04-26 2019-03-05 Oracle International Corporation Portable instance provisioning framework for cloud services
US11343352B1 (en) 2017-06-21 2022-05-24 Amazon Technologies, Inc. Customer-facing service for service coordination
WO2019068036A1 (en) 2017-09-30 2019-04-04 Oracle International Corporation DEPLOYMENT OF CONTAINERS BASED ON ENVIRONMENTAL REQUIREMENTS
US10521246B1 (en) 2018-06-13 2019-12-31 International Business Machines Corporation Application programming interface endpoint analysis and modification

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006508445A (ja) 2002-11-27 2006-03-09 インターナショナル・ビジネス・マシーンズ・コーポレーション アプリケーション固有の冗長特性に基づく自動電力制御ポリシー
JP2012037935A (ja) 2010-08-03 2012-02-23 Fujitsu Ltd 情報処理装置
JP2014197340A (ja) 2013-03-29 2014-10-16 富士ゼロックス株式会社 分散処理システム及びプログラム
JP2015225524A (ja) 2014-05-28 2015-12-14 Kddi株式会社 Ｉｔシステムにおけるサーバの性能の抽象化方法および資源管理方法
JP2017041185A (ja) 2015-08-21 2017-02-23 日本電信電話株式会社 管理サーバ装置及び管理プログラム

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
クラウド開発徹底攻略，初版，日本，株式会社技術評論社，２０１６年０６月２５日，ｐｐ．３７，５２－５７，６１－６３，ＩＳＢＮ９７８－４－７７４１－８０９５－３
鈴木雄介，クラウド時代のアーキテクチャー設計 第１３回 リポジトリーやゲートウエイでサービスやＡＰＩを効率よく管理，日経コンピュータ，日本，日経ＢＰ社，２０１６年０７月０７日，第９１６号，ｐｐ．１１２－１１５，ＩＳＳＮ ０２８５－４６１９

Also Published As

Publication number Publication date
WO2019068036A1 (en) 2019-04-04
JP7481421B2 (ja) 2024-05-10
US11681573B2 (en) 2023-06-20
WO2019068029A1 (en) 2019-04-04
EP3688592A1 (en) 2020-08-05
US10599500B2 (en) 2020-03-24
JP2020536320A (ja) 2020-12-10
US10599499B2 (en) 2020-03-24
US10824489B2 (en) 2020-11-03
CN111263933A (zh) 2020-06-09
JP2020536316A (ja) 2020-12-10
JP2023027098A (ja) 2023-03-01
US20190102280A1 (en) 2019-04-04
JP2023139086A (ja) 2023-10-03
US20200226013A1 (en) 2020-07-16
CN111279321B (zh) 2021-11-05
JP2020536321A (ja) 2020-12-10
EP3688593B1 (en) 2022-06-22
JP2020536318A (ja) 2020-12-10
US20190102238A1 (en) 2019-04-04
US11755393B2 (en) 2023-09-12
WO2019068024A1 (en) 2019-04-04
US20190102226A1 (en) 2019-04-04
WO2019068037A1 (en) 2019-04-04
EP3688592B1 (en) 2024-04-03
CN111279319A (zh) 2020-06-12
JP2023040001A (ja) 2023-03-22
EP3688594A1 (en) 2020-08-05
US20190102239A1 (en) 2019-04-04
JP7203096B2 (ja) 2023-01-12
JP7246381B2 (ja) 2023-03-27
CN114035975A (zh) 2022-02-11
CN111279321A (zh) 2020-06-12
US20200218589A1 (en) 2020-07-09
JP7182618B2 (ja) 2022-12-02
WO2019068031A1 (en) 2019-04-04
JP7196164B2 (ja) 2022-12-26
CN111279320B (zh) 2021-09-17
JP2020536319A (ja) 2020-12-10
CN111279309A (zh) 2020-06-12
US11132241B2 (en) 2021-09-28
CN111279320A (zh) 2020-06-12
EP3688595A1 (en) 2020-08-05
EP3688593A1 (en) 2020-08-05
EP3688579A1 (en) 2020-08-05
US20220012111A1 (en) 2022-01-13
CN113641460A (zh) 2021-11-12
US10838788B2 (en) 2020-11-17
US20190102157A1 (en) 2019-04-04
EP3688594B1 (en) 2023-10-25

Similar Documents

Publication Publication Date Title
JP7493450B2 (ja) コンテナのグループの動的マイグレーション

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210902

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210902

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20220824

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220920

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20221214

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20230314

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230713

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20230713

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20230804

A912 Re-examination (zenchi) completed and case transferred to appeal board

Free format text: JAPANESE INTERMEDIATE CODE: A912

Effective date: 20231020

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20240306

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20240521

R150 Certificate of patent or registration of utility model

Ref document number: 7493450

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150