JP5507661B2 - 仮想マシン用非一様仮想メモリーアーキテクチャー - Google Patents

仮想マシン用非一様仮想メモリーアーキテクチャー Download PDF

Info

Publication number
JP5507661B2
JP5507661B2 JP2012502135A JP2012502135A JP5507661B2 JP 5507661 B2 JP5507661 B2 JP 5507661B2 JP 2012502135 A JP2012502135 A JP 2012502135A JP 2012502135 A JP2012502135 A JP 2012502135A JP 5507661 B2 JP5507661 B2 JP 5507661B2
Authority
JP
Japan
Prior art keywords
virtual
numa
computer system
virtual machine
node
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2012502135A
Other languages
English (en)
Other versions
JP2012521611A (ja
JP2012521611A5 (ja
Inventor
オシンズ,ジェイコブ
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Microsoft Corp
Original Assignee
Microsoft Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Microsoft Corp filed Critical Microsoft Corp
Publication of JP2012521611A publication Critical patent/JP2012521611A/ja
Publication of JP2012521611A5 publication Critical patent/JP2012521611A5/ja
Application granted granted Critical
Publication of JP5507661B2 publication Critical patent/JP5507661B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00Arrangements for program control, e.g. control units
    • G06F9/06Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46Multiprogramming arrangements
    • G06F9/50Allocation of resources, e.g. of the central processing unit [CPU]
    • G06F9/5061Partitioning or combining of resources
    • G06F9/5077Logical partitioning of resources; Management or configuration of virtualized resources
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/06Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
    • G06F3/0601Interfaces specially adapted for storage systems
    • G06F3/0602Interfaces specially adapted for storage systems specifically adapted to achieve a particular effect
    • G06F3/0604Improving or facilitating administration, e.g. storage management
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/06Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
    • G06F3/0601Interfaces specially adapted for storage systems
    • G06F3/0628Interfaces specially adapted for storage systems making use of a particular technique
    • G06F3/0629Configuration or reconfiguration of storage systems
    • G06F3/0631Configuration or reconfiguration of storage systems by allocating resources to storage systems
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/06Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
    • G06F3/0601Interfaces specially adapted for storage systems
    • G06F3/0628Interfaces specially adapted for storage systems making use of a particular technique
    • G06F3/0662Virtualisation aspects
    • G06F3/0665Virtualisation aspects at area level, e.g. provisioning of virtual or logical volumes
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/06Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
    • G06F3/0601Interfaces specially adapted for storage systems
    • G06F3/0668Interfaces specially adapted for storage systems adopting a particular infrastructure
    • G06F3/0671In-line storage system
    • G06F3/0683Plurality of storage devices
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00Arrangements for program control, e.g. control units
    • G06F9/06Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/44Arrangements for executing specific programs
    • G06F9/455Emulation; Interpretation; Software simulation, e.g. virtualisation or emulation of application or operating system execution engines
    • G06F9/45504Abstract machines for programme code execution, e.g. Java virtual machine [JVM], interpreters, emulators
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00Arrangements for program control, e.g. control units
    • G06F9/06Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/44Arrangements for executing specific programs
    • G06F9/455Emulation; Interpretation; Software simulation, e.g. virtualisation or emulation of application or operating system execution engines
    • G06F9/45533Hypervisors; Virtual machine monitors
    • G06F9/45558Hypervisor-specific management and integration aspects
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00Arrangements for program control, e.g. control units
    • G06F9/06Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46Multiprogramming arrangements
    • G06F9/48Program initiating; Program switching, e.g. by interrupt
    • G06F9/4806Task transfer initiation or dispatching
    • G06F9/4843Task transfer initiation or dispatching by program, e.g. task dispatcher, supervisor, operating system
    • G06F9/485Task life-cycle, e.g. stopping, restarting, resuming execution
    • G06F9/4856Task life-cycle, e.g. stopping, restarting, resuming execution resumption being on a different machine, e.g. task migration, virtual machine migration
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F12/00Accessing, addressing or allocating within memory systems or architectures
    • G06F12/02Addressing or allocation; Relocation
    • G06F12/0223User address space allocation, e.g. contiguous or non contiguous base addressing
    • G06F12/0284Multiple user address space allocation, e.g. using different base addresses
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00Arrangements for program control, e.g. control units
    • G06F9/06Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/44Arrangements for executing specific programs
    • G06F9/455Emulation; Interpretation; Software simulation, e.g. virtualisation or emulation of application or operating system execution engines
    • G06F9/45533Hypervisors; Virtual machine monitors
    • G06F9/45558Hypervisor-specific management and integration aspects
    • G06F2009/45562Creating, deleting, cloning virtual machine instances
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2212/00Indexing scheme relating to accessing, addressing or allocation within memory systems or architectures
    • G06F2212/15Use in a specific computing environment
    • G06F2212/152Virtualized environment, e.g. logically partitioned system
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2212/00Indexing scheme relating to accessing, addressing or allocation within memory systems or architectures
    • G06F2212/25Using a specific main memory architecture
    • G06F2212/254Distributed memory
    • G06F2212/2542Non-uniform memory access [NUMA] architecture

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Software Systems (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Human Computer Interaction (AREA)
  • Stored Programmes (AREA)
  • Memory System Of A Hierarchy Structure (AREA)

Description

本発明は、仮想化技術に関し、具体的には、仮想マシン用のメモリーアーキテクチャーに関する。
[0001]仮想化技術は、複数のパーティション間においてハードウェア資源を共有することを可能にし、各パーティションがゲストオペレーティングシステムをホスティングすることを可能にする。通常、仮想マシン技術は、サーバーを統合化し、それらの移植性を増大させるために利用され得る。仮想マシンがより大きくなりそれらの作業負荷が増大するにつれて、それらをある計算機システムから別の計算機システムへ容易に統合及び/又は移動させる機能は、より困難になっている。したがって、より大きな仮想マシンを統合化及び/又は移動させる能力を増大する技法が望まれている。
本発明の目的は、仮想マシン用の仮想NUMAアーキテクチャーを達成するための技法を提供することである。
[0002]本開示の実施形態例は、一方法を記述している。この例において、本方法はこれらに限定しないが、データセンターにおける計算機システムの物理トポロジーを表わす情報を管理システムによって受信するステップと、仮想マシンをインスタンス化するためのリクエストを受信するステップであってリクエストが、仮想マシンに関する特性を示しているものと、計算機システムの物理トポロジー及び仮想マシンに関する特性に基づいて仮想マシンに対する仮想NUMAノード数を決定するステップと、リクエストをデータセンターにおける計算機システムへ送信するステップであってリクエストが、決定された仮想NUMAノード数を有する仮想マシンをインスタンス化するように計算機システムに指示するものと、を含む。前述のものに加えて別の態様が、本開示の一部を形成する請求項、図面、及びテキストに記述される。
[0003]本開示の実施形態例は、一方法を記述している。この例において、本方法はこれらに限定しないが、仮想マシンをインスタンス化するためのリクエストを受信するステップと、仮想マシンを生成するステップであって仮想マシンが、複数の仮想NUMAノードを含むトポロジーを有しており、複数の仮想NUMAノードそれぞれが、少なくとも1つの仮想プロセッサー及びゲスト物理アドレスの範囲を含んでおり、仮想マシンのトポロジーが、計算機システムの物理トポロジーから独立して生成されるものと、仮想マシンをインスタンス化するステップであって仮想マシンが、仮想NUMAノードを含んでいるものと、を含む。前述のものに加えて別の態様が、本開示の一部を形成する請求項、図面、及びテキストに記述される。
[0004]本開示の実施形態例は、方法を記述している。この例において、本方法はこれらに限定しないが、仮想マシンに対する複数の仮想NUMAノードを生成するステップであって複数の仮想NUMAノードそれぞれが、少なくとも1つの仮想プロセッサー及び少なくとも1つのゲスト物理アドレスのメモリーブロックを含んでいて、複数の仮想NUMAノードが、任意の計算機システムの物理トポロジーから独立して生成するものと、計算機システム上で仮想マシンをインスタンス化するステップであって仮想マシンが、複数の仮想NUMAノードを含んでいるものと、を含む。前述のものに加えて別の態様が、本開示の一部を形成する請求項、図面、及びテキストに記述される。
[0005]本開示の1つ以上の様々な態様は、本明細書に参照されている本開示の態様に作用するための回路及び/又はプログラムであって回路及び/又はプログラムが、システム設計者の設計選択に従って本明細書に参照されている態様に効果的になるように構成されたハードウェア、ソフトウェア、及び/又はファームウェアの実際の組み合わせのいずれかであり得るものを含むが、これらに制限しないことが当業者によって十分に理解されよう。
[0006]前述のものは概要であって、かくして必然的に、詳細の簡素化、一般化、及び省略を含む。当業者は、概要が例示に過ぎず、任意の方法に制限することを意図しないことを十分に理解されよう。
[0007] 本開示の態様が実装され得る計算機システムの例を表している。 [0008] 本開示の態様を実施するための動作環境を表している。 [0009] 本開示の態様を実施するための動作環境を表している。 [0010] 実施形態においてメモリーがどのように配置され得るか表している。 [0011] 本開示の態様を実施する動作環境の例を表している。 [0012] 本開示の態様を実施する動作環境の例を表している。 [0013] 本開示の態様を実施する動作環境の例を表している。 [0014] 本開示の態様を実施するための動作手順を表している。 [0015] 図8の動作手順(800)の代替実施形態を表している。 [0016] 本開示の態様を実施するための動作手順を表している。 [0017] 図10の動作手順(1000)の代替実施形態を表している。 [0018] 図11の動作手順(1000)の代替実施形態を表している。 [0019] 本開示の態様を実施するための動作手順を表している。 [0020] 図13の動作手順(1300)の代替実施形態を表している。
[0021]実施形態は1つ以上の計算機上で実行し得る。図1及び以下の論述は、本開示が実装され得る適切な計算環境の簡潔な概説を提供することを意図している。当業者は、図1の計算機システムがいくつかの実施形態において、計算機システム(200)、(300)、(600)、及び(700)を達成可能なことを十分に理解できよう。これらの実施形態例において、計算機システムは、図1に記述されたコンポーネント及び本開示の態様を例示化するように構成される回路のいくつか又はすべてを含み得る。
[0022]本開示を介し使用されている用語「回路」は、ハードウェア割り込みコントローラー、ハードドライブ、ネットワークアダプター、グラフィックスプロセッサー、ハードウェアベースのビデオ/オーディオコーデックのようなハードウェアコンポーネント、及びそのようなハードウェアを操作するために使用されるファームウェア/ソフトウェアを含み得る。同一又は別の実施形態において、用語「回路」は、ファームウェア又は一定の方法で設定される切り換えによって機能(単数又は複数)を実行するように構成されるマイクロプロセッサーを含み得る。同一又は別の実施形態例において、用語「回路」は、1つ以上の論理プロセッサー、例えば1つ以上のコアであるマルチコア汎用演算処理装置を含み得る。この例において論理プロセッサー(単数又は複数)は、メモリー、例えば、RAM、ROM、ファームウェア、及び/又は仮想メモリーからロードされる機能(単数又は複数)を実行するように作動可能なロジックを具体化しているソフトウェア命令によって、構成され得る。回路がハードウェア及びソフトウェアの組み合わせを含む実施形態例において、実装者は、ロジックを具体化しているソースコードを書き出し得、その後、論理プロセッサーによって処理され得る計算機読み出し可能コードにコンパイルされる。最先端技術がハードウェア、ソフトウェア、又はハードウェア/ソフトウェアの組み合わせの間でほとんど差異がない点へ発展していることを当業者は十分に理解し得るので、機能を達成するハードウェア対ソフトウェアの選択は、単なる設計選択に過ぎない。かくして、当業者は、ソフトウェアプロセスが同等のハードウェア構造に変換され得ることと、ハードウェア構造がそれ自体、同等のソフトウェア処理に変換され得ることと、を十分に理解し得るので、ハードウェア実装対ソフトウェア実装の選択は、設計選択の1つであって実装者に任せられている。
[0023]ここで図1を参照すると、例示的な汎用計算システムが表されている。汎用計算システムは、従来の計算機(20)などを含み得、論理プロセッサー(21)、システムメモリー(22)、システムメモリーを含む様々なシステムコンポーネントを論理プロセッサー(21)と接続する及びシステムバス(23)を含んでいる。システムバス(23)は、いくつかのタイプのバス構造のいずれかであり得、メモリーバス、又はメモリーコントローラー、周辺機器用バス、様々なバスアーキテクチャのいずれかを使用するローカルバスを含んでいる。システムメモリーは、読み出し専用メモリー(ROM)(24)及びランダムアクセスメモリー(RAM)(25)を含み得る。始動中など、計算機(20)内部のエレメント間に情報を送信する支援をする基本的ルーチンを含んでいる基本入力/出力システム(BIOS)(26)は、ROM(24)にストアされている。計算機(20)は更に、(図示されていない)ハードディスクから読み込むか又はそれに書き出すためのハードディスクドライブ(27)、取り外し可能磁気ディスク(29)から読み出すか又は書き出すための磁気ディスクドライブ(28)、及びCD−ROM又はその他の光学式媒体のような取り外し可能光学式ディスク(31)から読み出すか又はそれに書き込むための光学式ディスクドライブ(30)を含み得る。ハードディスクドライブ(27)、磁気ディスクドライブ(28)、及び光ディスクドライブ(30)がそれぞれ、ハードディスクドライブインターフェース(32)、磁気ディスクドライブインターフェース(33)、及び光学式ドライブインターフェース(34)によってシステムバス(23)に関連付けられるように示されている。ドライブ及びそれらの関連する計算機可読記憶媒体は、計算機(20)に対する命令、データ構造、プログラムモジュール、及びその他のデータの不揮発性計算機可読記憶装置を提供する。本明細書に説明される例示的環境は、ハードディスク、取り外し可能磁気ディスク(29)、及び取り外し可能光学式ディスク(31)を使用しているが、磁気カセット、フラッシュメモリーカード、デジタルビデオディスク、ベルヌーイカートリッジ、ランダムアクセスメモリー(RAM)、読み出し専用メモリー(ROM)などのような計算機によってアクセス可能なデータをストアし得る別のタイプの計算機可読記憶媒体もまた例示的動作環境において使用され得ることが当業者によって十分に理解される必要がある。通常、実施形態の中にはそのような計算機可読記憶媒体が、本開示の態様を具体化するプロセッサー実行可能命令をストアするために使用され得るものもいくつかある。
[0024]多くのプログラムモジュールは、ハードディスク、磁気ディスク(29)、光ディスク(31)、ROM(24)、又はRAM(25)上にストアされ得、オペレーティングシステム(35)、1つ以上のアプリケーションプログラム(36)、その他のプログラムモジュール(37)、及びプログラムデータ(38)を含んでいる。ユーザーは、キーボード(40)及びポインティングデバイス(42)のような入力装置を介し、コマンド及び情報を計算機(20)へ入力し得る。その他の(図示されていない)入力装置は、マイクロフォン、ジョイスティック、ゲームパッド、衛星放送受信機、スキャナーなどを含み得る。これら及びその他の入力装置は多くの場合、システムバスに接続されるシリアルポートインターフェース(46)を介し、論理プロセッサー(21)に接続されるが、しかしながらパラレルポート、ゲームポート又は普遍的なシリアルバス(USB)のような別のインターフェースによって接続される。ディスプレイ(47)又はその他のタイプの表示装置もビデオアダプター(48)のようなインターフェースを介しシステムバス(23)に接続され得る。ディスプレイ(47)に加えて計算機は典型的に、スピーカー及びプリンターのような別の(図示されていない)周辺出力装置を含む。図1の例示的システムは、ホストアダプター(55)、小型コンピューター用周辺機器インターフェース(SCSI)バス(56)、及びSCSIバス(56)に接続される外部記憶装置(62)も含む。
[0025]計算機(20)は、リモートコンピューター(49)のような1つ以上のリモートコンピューターとの論理接続を利用するネットワーク環境において作動し得る。リモートコンピューター(49)は、別の計算機、サーバー、ルーター、ネットワークPC、ピア装置又はその他の一般的ネットワークノードであり得、典型的に、前述した計算機(20)に関連するエレメントの多く又はすべてを含み得るが、メモリー記憶装置(50)だけが図1に例示されている。図1に表された論理接続は、ローカルエリアネットワーク(LAN)(51)及び広域ネットワーク(WAN)(52)を含み得る。そのようなネットワーク環境は、オフィス、企業規模コンピューターネットワーク、イントラネット及びインターネットにおいて一般的である。
[0026]LANネットワーク環境において利用されるとき、計算機(20)は、ネットワークインターフェース又はアダプター(53)を介し、LAN(51)へ接続され得る。WANネットワーク環境において利用されるとき、計算機(20)は、典型的に、インターネットのような広域ネットワーク(52)を介した通信を確立するためのモデム(54)又はその他の手段を含み得る。内蔵又は外付けがあり得るモデム(54)が、シリアルポートインターフェース(46)を介しシステムバス(23)へ接続され得る。ネットワーク環境において、計算機(20)又はその一部に関連し表されたプログラムモジュールが、リモートメモリー記憶装置にストアされ得る。示されたネットワーク接続が例示的であって、計算機間において通信リンクを確立する別の手段が使用され得ることを十分に理解されよう。更に、本開示の多くの実施形態がコンピューター化されたシステムに対し特に適切であるように描かれているが、本書における開示をそのような実施形態に限定することは意図されていない。
[0027]ここで図2及び図3を参照すると、それらは計算機システムの高水準のブロック図を表している。図面によって示されているように、計算機システム(200)は、例えば、記憶装置(208)、ハードドライブ、ネットワークインターフェースコントローラー(NIC)(210)、グラフィックカード(234)、少なくとも1つの論理プロセッサー(212)、ランダムアクセスメモリー(RAM)(214)のような物理ハードウェアデバイスを含み得る。計算機システム(200)は、図1の計算機(20)と同様のコンポーネントも含み得る。1つの論理プロセッサーが例示されているが、別の実施形態において、計算機システム(200)は、複数の論理プロセッサー、例えば、プロセッサーあたり複数の実行コア及び/又は複数の実行コアをそれぞれ有する複数のプロセッサー、を有し得る。図2の説明を続けると、表されているものは、当技術分野において、仮想マシンモニターとしても参照され得るハイパーバイザー(202)である。表された実施形態において、ハイパーバイザー(202)は、計算機システム(200)のハードウェアへのアクセスを制御し、仲裁するための実行可能命令を含む。概してハイパーバイザー(202)は、子パーティション1から子パーティションN(Nは1より大きい整数)のようなパーティションと呼ばれる実行環境を生成し得る。実施形態において、子パーティションは、ハイパーバイザー(202)によって支援される分離単位と考えられ得、すなわち、子パーティションそれぞれが、ハイパーバイザー(202)及び/又は親パーティションの制御下にある一連のハードウェア資源、例えば、メモリー、デバイス、論理プロセッサーサイクルなどへマッピングされ得る。実施形態において、ハイパーバイザー(202)は、スタンドアロンソフトウェア製品、オペレーティングシステムの一部、マザーボードのファームウェア内埋め込み、専用集積回路、又はその組み合わせであり得る。
[0028]表された例において、計算機システム(200)は、オープンソースコミュニティにおいて、ドメイン0としても考えられ得る親パーティション(204)を含む。親パーティション(204)は、オープンソースコミュニティにおいて、バックエンドドライバーとしても知られている仮想化サービスプロバイダー(228)(VSP)(複数)を使用することによって、子パーティション(1〜N)を実行しているゲストオペレーティングシステムへリソースを提供するように構成され得る。このアーキテクチャー例において、親パーティション(204)は基本ハードウェアへのアクセスを開閉し得る。概してVSP(228)は、オープンソースコミュニティにおいて、フロントエンドドライバーとしても知られている仮想化サービスクライアント(VSC)を介し、ハードウェア資源に対するインターフェースを多重化するために使用され得る。子パーティションそれぞれは、ゲストオペレーティングシステム(220〜222)が管理し得、その上で実行するスレッドをスケジューリングし得る仮想プロセッサー(230〜232)のような1つ以上の仮想プロセッサーを含み得る。通常、仮想プロセッサー(230〜232)は、実行可能命令であって、特定のアーキテクチャーを有する物理プロセッサー表現を提供する関連状態情報である。例えば、1つの仮想マシンは、インテルx86プロセッサーの特性を有する仮想プロセッサーを有し得るが、一方で別の仮想プロセッサーは、パワーPCプロセッサーの特性を有し得る。この例において、仮想プロセッサーは、仮想プロセッサーを達成する命令が論理プロセッサーによって支援されるように、計算機システムの論理プロセッサーへマッピングされ得る。かくして、これらの実施形態例において、複数の仮想プロセッサーが、例えば、別の論理プロセッサーがハイパーバイザー命令を実行している間、同時に実行し得る。一般的に言えば、図面によって例示されるように、パーティションにおける仮想プロセッサー、様々なVSC、及びメモリーの組み合わせが、仮想マシン(240)又は(242)のような仮想マシンであると考えられ得る。
[0029]通常、ゲストオペレーティングシステム(220〜222)は、例えば、マイクロソフト(登録商標)、アップル(登録商標)、オープンソースコミュニティから提供されるオペレーティングシステムのような任意のオペレーティングシステムを含み得る。ゲストオペレーティングシステムは、ユーザー/カーネル動作モードを含み得、スケジューラー、メモリーマネージャーなどを含み得るカーネルを有し得る。ゲストオペレーティングシステム(220〜222)それぞれが、その上にストアされる電子商取引サーバー、電子メールサーバーのようなアプリケーションを有し得るファイルシステムと、ゲストオペレーティングシステム自体と、を関連付けている。ゲストオペレーティングシステム(220〜222)は、仮想プロセッサー(230〜232)上で実行するスレッドをスケジューリングし得、そのようなアプリケーションのインスタンスが達成され得る。
[0030]ここで図3を参照すると、それは使用され得る代替アーキテクチャーを例示している。図3は、図2のそれと同様のコンポーネントを表しているが、しかし、この実施形態例において、ハイパーバイザー(202)は仮想化サービスプロバイダー(228)及びデバイスドライバー(224)を含み得、親パーティション(204)は設定ユーティリティ(236)を含み得る。このアーキテクチャーにおいて、ハイパーバイザー(202)は、図2のハイパーバイザー(202)と同一か又は同様の機能を実行し得る。図3のハイパーバイザー(202)は、スタンドアロンのソフトウェア製品、オペレーティングシステムの一部、マザーボードのファームウェア内部に埋め込まれているか、又はハイパーバイザー(202)の一部が専用集積回路によって達成され得る。この例において、親パーティション(204)は、ハイパーバイザー(202)を構成するために使用され得る命令を有し得るが、しかし、ハードウェアアクセスリクエストは、親パーティション(204)へ渡される代わりにハイパーバイザー(202)によって処理され得る。
[0031]ここで図4を参照すると、それは仮想マシンを含む実施形態において、メモリーがどのように配置され得るか例示している。例えば、計算機システム(200)のような計算機システムは、メモリーアドレスを有しているRAM(214)を有し得る。システム物理メモリーアドレスを仮想マシンへ報告する代わりに、ハイパーバイザー(202)は、システム物理アドレス、例えば、ゲスト物理アドレス(GPA)に関する別のアドレスをゲストオペレーティングシステムのメモリーマネージャーへ提示し得る。ゲストオペレーティングシステムがその後、ゲスト物理アドレスを操作し得、ハイパーバイザー(202)がGPA及びSPAによる関係を維持する。図面によって示されるように、実施形態において、GPA及びSPAは、メモリーブロックの中へ配置され得る。概してメモリーブロックは、1つ以上のメモリーページを含み得る。GPAとSPAとの間の関係は、「Enhanced Shadow Page Table Algorithms」と題する米国特許出願No.11/128,665に記載されているようなシャドウページテーブルによって維持され得、その内容をすべて参照として本明細書に組み込む。作動中、ゲストオペレーティングシステムがブロック1のGPAにデータをストアしたとき、データは、実際にはシステム上のブロック6のような異なるSPAにストアされ得る。
[0032]手短に述べると図5は、本開示の態様を実施するための動作環境を表している。例えば、多くの計算機システム(504〜510)がデータセンター(500)に共に接続され得る(4つの計算機システムが表されているが、当業者は、データセンターがより多いか又はより少ない計算機システムを含み得ることを十分に理解できよう)。表されている計算機システムは、異なるトポロジーを有し得、その上、それらは、異なる特性、例えば、異なるRAM数、異なるRAM速度、異なる論理プロセッサー数、及び/又は異なる速度を持つ論理プロセッサーを有し得る。
[0033]管理システム(502)は、図1の計算機(20)、及び/又は計算機システム(200)、(300)、(600)、又は(700)と同様のコンポーネントを有し得る。すなわち、実施形態において、管理システム(502)は、図6又は図7に関し後述される対象項目を含む計算機システムであり得る。
[0034]図面の概要を続けると、図6は、完全対称型マルチプロセッシングトポロジー(SMP)又は「フラット」トポロジーを有する計算機システム(600)を表している。通常、SMPは、単一の共有メモリーに接続される複数のプロセッサーを含むコンピューターアーキテクチャーである。この手続きにおいては、メモリーコントローラー(602)が、メモリーへのデータフロー及びメモリーからのデータフローを管理し得る。メモリーアクセスは、論理プロセッサー(212A〜F)それぞれに対し一様であり得、論理プロセッサーそれぞれは、メモリー範囲全体、すなわち、システム物理アドレス(622〜632)をアクセスし得る。このトポロジーは、比較的少ない数のプロセッサーを用いた計算機システムに対し十分に動作するが、しかしながら計算機システムは多くのプロセッサーを含んでいて、すべてが共有メモリーバスへのアクセスを求めて競合し、システム性能が低下し得る。その上、計算機システムの複雑さが、著しく増加し、次々に1プロセッサーあたりの価格をつり上げる。
[0035]手短に述べると計算機システム(600)は、計算機(200)又は(300)と同一か又は同様のコンポーネントを含み得る。図面によって示されるように、計算機システム(600)は、RAM(214)へのアクセスを開閉するメモリーコントローラー(602)を介し連結された複数の論理プロセッサー(212A〜212F)を有し得る(6つの論理プロセッサーが表されているが、計算機システムはより多いか又は少ないものを有し得る)。前述のものと同様に、論理プロセッサー(212A〜212F)それぞれは、異なる特性、例えば、クロック速度、キャッシュサイズなどを有し得る。この手続きにおいては、メモリーコントローラー(602)が、RAM(214)へのデータフロー及びRAM(214)からのデータフローを管理し得る。
[0036]ハイパーバイザー(202)がインスタンス化され得、それが計算機システム(600)のハードウェアを制御し得る。ハイパーバイザー(202)が1つ以上の仮想マシン(240〜242)を管理し得、それぞれは、仮想NUMAノード(606〜612)のような仮想NUMAノードを有し得る。仮想NUMAノード(606〜612)が使用され得、ゲストアプリケーション又はゲストオペレーティングシステム(220)及び(222)のようなゲストオペレーティングシステムへ仮想トポロジーを報告することによって、仮想マシンのリソースを統合化し得る。図面によって示されるように、仮想NUMAノード(606〜612)それぞれは、1つ以上の仮想プロセッサー(230A〜D、232A〜D)、及びゲスト物理アドレス(614〜616)及び(618〜620)を有し得る。通常、ハイパーバイザー(202)は、1つ以上の論理プロセッサーを有する仮想NUMAノード(606〜612)それぞれと、RAM(214)からのシステム物理アドレスと、を支援し得る。すなわち、ハイパーバイザー(202)は、仮想プロセッサースレッドを実行するために使用され得る理想的なプロセッサーとして1つ以上の論理プロセッサーを設定し得る。
[0037]手短に述べると図7は、NUMAノード(702〜706)を含むトポロジーを有する計算機システム(700)を表している。NUMAノードを有する計算機システムは、通常、より小さな計算機システム又はセルから作り上げられた計算機システムとして考えられ得る。この例において、NUMAノードそれぞれ(606〜612)は、1つ以上の論理プロセッサー及びローカルメモリーを含み得る。NUMAノードの内部メモリーは、ローカルメモリーであると考えられ、別のNUMAノードの内部メモリーは、ノード内部のプロセッサーだけが同一のメモリーバスと接続され得るので、リモートメモリーであると考えられる。NUMAノードは、キャッシュ一貫性ドメイン相互接続によって相互に接続され、1つのNUMAノード内のプロセッサーは、首尾一貫した方法で別のNUMAノード内のメモリーをアクセス可能にする。かくして、システム物理アドレス(622〜632)は、プロセッサーそれぞれに関し一様である。すなわち言い換えると、システム物理アドレス20,000は計算機システムにおいて、すべてのプロセッサーに対し同一である。相違は、いくつかのプロセッサーに関し、メモリーアドレス20,000が、例えば、それらのNUMAノード内部のローカルメモリーアドレスであって、別のプロセッサーに対するメモリーアドレス20,000が、例えば、それらのNUMAノードの外部、リモートであることである。通常、ローカルメモリーは、リモートメモリーよりも高速にアクセスされ得、ローカルアクセス時間対リモートアクセス時間の間の関係はNUMA比として参照される。NUMA比1対2は、特定のリモートシステム物理アドレスをアクセスするプロセッサーサイクル数が、ローカルシステム物理アドレスよりも2倍かかることを意味する。NUMAは、任意の1つのメモリーバス上のプロセッサー数を制限することによって、SMPシステムによってもたらせられるボトルネックを軽減し、通常、同一の論理プロセッサー数を有するSMP計算機システムよりも高価にならない。
[0038]計算機システム(700)は、計算機(200)又は(300)と同一か又は同様のコンポーネントを含み得る。図面によって示されるように、この動作環境において、計算機システム(700)は、相互接続(708)によって接続された3つのNUMAノード(702〜706)を含む(けれども計算機は多いか又は少ないものを有し得る)。前述したものと同様に、NUMAノードそれぞれの内部のプロセッサー数は変化し得、プロセッサーの特性が変化し得、ノードそれぞれはそれ自身のRAMを有し得る。
[0039]図7と同様にハイパーバイザー(202)は、計算機システム(700)のハードウェアを制御し得る。ゲストオペレーティングシステム又はモノリスアプリケーションがブートしたとき、それが前述したものと同様の仮想マシン(240)及び(242)のトポロジーを検出し得る。仮想NUMAノード(606〜612)それぞれが、1つ以上のNUMAノードから1つ以上の理想的なプロセッサー、及びメモリーを割り当てられ得る。
[0040]計算機システム(600)及び(700)が2つの仮想マシン(240)及び(242)を含んでいるように表されているが、別の実施形態において、それらは、より多いか又はより少ない仮想マシンを実行し得る。その上、仮想マシンそれぞれが2つの仮想NUMAノードを有しているように表されているが、別の実施形態において、仮想マシンは、より多いか又はより少ない仮想NUMAノードを有し得る。仮想NUMAノードも2つの仮想プロセッサーを有するように表されているが、別の実施形態において、仮想NUMAノードは、より多いか又はより少ない仮想プロセッサーを有し得る。更に、仮想NUMAノードそれぞれは、別の仮想NUMAノードと異なるトポロジーを有し得、例えば、ある仮想NUMAノードは4つの仮想プロセッサー及び8ギガバイトRAMを有し得るが、別の仮想NUMAノードは2つの仮想プロセッサー及び4ギガバイトRAMとを有し得る。
[0041]以下は、プロセスの実装を表している一連の流れ図である。理解を容易にするため、流れ図は、最初の流れ図が「大画像」の観点を介する実装を表し、その後の流れ図が更なる追加及び/又は詳細を提供するように統合化されている。更に当業者は、点線によって表された動作手順が、任意に考えられることを十分に理解されよう。
[0042]ここで図8に移ると、それは動作(800〜808)を含む本開示の態様を実施するための動作手順を表している。動作手順は、動作(800)で開始し、動作(802)は、データセンターにおける計算機システムの物理トポロジーを表わす情報を管理システムによって受信するステップを例示している。そして図5を参照すると、例えば、管理システム(502)の論理プロセッサーが、1つ以上のプログラムを実行し得、データセンター(500)における計算機システム(504〜510)の物理トポロジーを識別する情報を取得し得る。実施形態において、管理システム(502)は、NICを含み得、プログラムが、それぞれ計算機システム(504〜510)それぞれをクエリーするためにNICを使用し得る。この例において、計算機システム(504〜510)それぞれは、そのトポロジーを識別する情報とともに返答し得る。別の実施形態において、情報が、情報を入力する管理者から取得され得る。いずれにしてもその情報は、計算機システムそれぞれが(もしあれば)いくつのNUMAノードが有しているか、計算機システムがそれぞれどのくらいのRAMを有しているか、RAMの速度、RAMがどのように配置されているか、プロセッサー速度、プロセッサーそれぞれがいくつのコアを有しているかなど、を識別する情報を含むがこれらに限定しない。
[0043]図8の説明を続けると、動作(804)は、仮想マシンをインスタンス化するためのリクエストを受信するステップであってリクエストが、仮想マシンに関する特性を示していることを表している。管理システム(502)は、例えば、管理システム(502)上で実行するユーザーインターフェースから又は計算機システム(504〜510)から、リクエストを受信し得、仮想マシン(240)を開始し得る。この例において、リクエストは、所望の仮想マシン(240)に関する特性を含み得る。例えば、特性は、仮想マシンに割り当てられる所望のRAM容量、所望の仮想プロセッサー数、又は所望のI/O装置であり得る。
[0044]図の説明を続けると、動作(806)は、仮想マシン用の仮想NUMAノード数を計算機システムの物理トポロジー及び仮想マシンに関する特性に基づいて決定するステップを示している。管理システム(502)が一旦、仮想マシン、例えば、6つの仮想プロセッサーに関する特性を受信すると、管理システム(502)は、データセンター(500)における計算機システムのトポロジーを記述している情報をとともに、この情報を利用し得、仮想マシン(240)に対し、いくつの仮想NUMAノードが生成される必要があるか決定し得る。例えば、管理システム(502)は、データセンター(500)に対する仮想NUMAノードの最適なサイズを決定し得、その後、所望の特性を有する仮想マシンを構築するために仮想NUMAノードがいくつ必要であるか決定し得る。
[0045]通常、仮想NUMAノードサイズが、データセンター(500)の仮想マシンの動作に影響する。例えば、仮想NUMAノードサイズは、例えば、メモリー及び/又はプロセッサーにおいて増加するにつれて、仮想NUMAノードの移植性が減少する。すなわち言い換えると、大きな仮想NUMAノードが、仮想マシンを移動させることがより困難とし得る。このことは、仮想NUMAノードが、仮想NUMAノードを達成するために「フラット」リソースを有するNUMAノード又は計算機システムのどちらか一方に割り当てられる必要があるため生じる。例えば、仮想NUMAノードあまりに大きな、例えば、それが非常に大きなRAMか又はあまりに多くの仮想プロセッサーを有する場合、データセンター(500)において、より小さいNUMAノードに適合させることが不可能であって、かくして、仮想マシンを移動させる能力を制限する。その上、より大きな仮想NUMAノードが単に、より小さな複数のNUMAノードに割り当てられた場合、ローカルメモリーアクセス時間とリモートメモリーアクセス時間との間に存在する相違による理由と、ゲストオペレーティングシステムもローカルメモリーアクセス時間対リモートメモリーアクセス時間における相違を示す情報も含み得ない理由と、によって、仮想マシンの性能が減少する。
[0046]他方では、仮想NUMAノードのサイズが減少するにつれて、ゲストオペレーティングシステムの性能は悪影響を及ぼされ得る。この非効率性は、ゲストオペレーティングシステムがアプリケーションを分離しようとし、それが単一の仮想NUMAノードに対する自身の実行であるために生じ得る。ゲストオペレーティングシステムは、この場合、抑制され、性能が低下する。
[0047]したがって、実施形態において、管理システム(502)は、データセンター(500)に対する最適な仮想NUMAノードサイズを決定することによって、移植性と効率性との間のバランスを決めることができる。例えば、実施形態において、管理システム(502)の論理プロセッサーがプログラムを実行し得、データセンターにおける平均NUMAノードサイズ、例えば平均論理プロセッサー数、平均RAM数などを決定し得、システムにおいて仮想NUMAノードのサイズを平均NUMAノードと同一か又はそれよりも小さくするように設定し得る。別の実施形態において、プログラムは、データセンター(500)における仮想NUMAノードサイズを最小NUMAノードよりもわずかに小さく設定するように構成され得る。仮想NUMAノードサイズが平均サイズ又は最小サイズよりわずかに小さいように設定され得、計算機システムが大量にコミットされた場合、2つ以上の仮想NUMAノードが単一のNUMAノードへ割り当てられ得る。特定の例において、最小のNUMAノードが4つの論理プロセッサー及び8ギガバイトRAMを有する場合、仮想NUMAノードサイズは、例えば、2つの仮想プロセッサー及び4ギガバイトRAMに設定され得る。
[0048]仮想NUMAノードのサイズが一旦、決定されると、前の段落の例から続いて、仮想NUMAノードサイズが所望の特性とともに使用され得、仮想マシン(240)を生成し得る。例えば、ユーザーが、それらが10ギガバイトRAMを有する6つのプロセッサーの仮想マシンを所望していることと、仮想NUMAノードが2つのプロセッサー及び4ギガバイトRAMを有していることと、を示していた場合、管理システム(502)は、仮想マシンが3つの仮想NUMAノードを含んでいることを示す構成ファイルを生成し得る。
[0049]図8の説明を続けると、動作(808)は、リクエストをデータセンターにおける計算機システムへ送信するステップであってリクエストが、所定の仮想NUMAノード数を有している仮想マシンをインスタンス化するように計算機システムに指示しているものを例示している。構成ファイルが一旦、生成されると、管理システム(502)は、データセンター(500)における計算機システムを選択し得、仮想マシン(240)をインスタンス化し得、構成ファイルを選択された計算機システムへ送信し得る。例えば、管理システム(502)は、例えば、どの計算機が仮想マシンを実行するための物理的資源を有しているか、どの計算機システムが最も低い作業負荷を有しているか、どの計算機システムが仮想マシンを調整し得るか決定し得、仮想マシン(240)をこの計算機へ送信し得る。同一か又は別の実施形態において、ユーザーは、仮想マシン(240)に関する優先順位を示し得、例えば、より不可欠な仮想マシンが、それらの相対的重要性を識別する情報でタグ付けられ得る。この例において、管理システム(502)は、最優先の仮想マシンをより小さな作業負荷を有する計算機システムへ送信するように構成され得、より少ない計算機システム上でより低い優先度の仮想マシンを統合化しようと試み得る。この例において、仮想マシンが計算機システムから「取り消され」得、より高い優先順位の仮想マシン用の空間を生成し得る。
[0050]ここで図9を参照すると、それは動作(910〜914)を含む図8の動作手順の代替実施形態を表している。動作(910)を参照すると、それは計算機システムが圧迫されていることを示す信号を受信するステップと、信号を計算機システムへ送信するステップであって信号が、仮想マシンを第2の計算機システムへ送信するように計算機システムに指示しているステップと、を例示している。そして図5を参照すると、例えば、管理システム(502)は、例えば、計算機システム(504)のような計算機システムから信号を受信し得る。信号は、計算機システムのリソースが圧迫されていることを示し得る。この例において、仮想マシンに割り当てられるRAM容量は流動的であり得る。すなわち、それはランタイム中に調整され得る。例えば、計算機システム(504)のリソースは、多くの仮想マシン又は重い作業負荷を有する仮想マシンを実現する事実のために過度にコミットされている。この状況において、計算機システム(504)のハイパーバイザーは、計算機システムがメモリー上において低いことを示す信号を管理システム(502)へ送信し得、例えば信号は、大量のページングが仮想マシン内部で発生しているか又は非ページメモリーアロケーションが機能しなくなり得ることを示し得る。別の例において、ゲストオペレーティングシステム(220)及び仮想マシン(240)における任意の作業負荷は、実行するのに容認できないほど長い時間がかかっている。この例において、管理システム(502)は、仮想マシン(240)に適合し得る別の計算機を見出すことによって、圧迫されている計算機システム(504)上の作業負荷を減少させ、計算機システム(504)へ信号を送信し、仮想マシン(240)を新しい計算機システム、例えば、計算機システム(506)へ移動させるようにそれに指示するように構成され得る。ハイパーバイザー(202)は、信号を受信し得、仮想マシン(240)を新しい計算機システム、例えば、計算機システム(506)、(508)、又は(510)へ移動させ得る。
[0051]図9の説明を続けると、動作(912)は、計算機システムへ信号を送信するステップであって信号が、仮想マシンを第1のNUMAノードから第2のNUMAノードへ移動するように計算機システムに指示しているもの、を表している。そして図5を参照すると、例えば、管理システム(502)は、信号を計算機システム(504)へ送信し得、それに仮想マシンを1つのNUMAノードから別のノードへ移動するように指示している。この例において、計算機システム(504)のアーキテクチャーは、図7の計算機(700)のそれと同様であり得る。図7のハイパーバイザー(202)は、仮想マシン(240)をあるNUMAノードから別のNUMAノード、例えば、NUMAノード(704)から(702)へ移動するようにそれに指示する信号を受信し得る。この例において、ゲストOS(220)におけるメモリー圧力が高い場合があるか、又は仮想プロセッサー(230A〜D)に対するハイパーバイザースレッドが論理プロセッサーの(212E)及び(212G)上で十分に速いスケジューリングがされ得ない。この例において、管理システム(502)は、データセンター(500)をスキャンし得、仮想マシン(240)が、例えば、NUMAノード(702)に移動される必要があることを決定し得、ハイパーバイザー(202)は、仮想NUMAノード(606)及び(608)をNUMAノード(702)へ再度割当てし得る。
[0052]実施形態において、動作(806)は、データセンターにおける最高のNUMA比を決定するステップを表している動作(914)を含み得る。例えば、この実施形態において、管理システム(502)のプロセッサーがプログラムを実行し得、データセンター(500)に存在する最高のNUMA比を決定し得、仮想マシン(240)に対する仮想NUMAノード数を決定したとき、情報を利用し得る。例えば、NUMA比は、ローカルメモリーに対するリモートメモリーアクセス間のプロセッサーサイクルのコスト比である。NUMA比2対1は、それがローカルメモリーアドレスをアクセスするためにかかる時間よりも特定のリモートメモリーアドレスにアクセスするプロセッサーサイクルの時間は2倍かかることを意味する。実施形態において、管理システム(502)は、データセンター(500)において検出された最高のNUMA比を利用し得、仮想NUMAノード(606〜608)によって報告されるNUMA比を設定し得る。この情報が構成ファイルにストアされ得、仮想マシンをインスタンス化する計算機システムへ送信され得る。ハイパーバイザー(202)は、仮想NUMAノード(606〜608)に関するNUMA比を示す仮想マシンファームウェアテーブルのデータ構造を生成し得、ゲストオペレーティングシステム(220)又はモノリスアプリケーションをブートしたときのNUMA比が利用され得、スレッドのスケジューリングの決定を実行し得る。
[0053]ここで図10に移ると、それは動作(1000〜1006)を含む動作手順を表している。動作(1000)が動作手順を開始し、動作(1002)は、仮想マシンをインスタンス化するためのリクエストを受信するステップを例示している。そして図6及び図7を参照すると、例えば、ハイパーバイザー(202)は、仮想マシン(240)のような仮想マシンを生成するためのリクエストを受信し得る。例えば、リクエストは、管理システム(502)、図2又は図3の親パーティション(204)などから受信され得る。リクエストは、新しい仮想マシンに関するものであり得るか、又はそれは、以前セーブされた仮想マシンをインスタンス化するためのリクエストであり得る。仮想マシンが新しい仮想マシンである本開示の実施形態において、仮想マシン(240)の特性は、例えば、管理者によって設定され得る。管理者は、仮想マシンが初めにどのくらいのメモリーを有する必要があるか、仮想マシンが別の仮想マシンに対しどんなタイプの優先順位を有する必要があるか、仮想マシンがいくつの仮想プロセッサーを有する必要があるか、仮想マシンがどんなタイプのI/O装置を有する必要があるかなど、を設定し得る。
[0054]動作(1004)に移ると、それは仮想マシンを生成するステップであって仮想マシンが、複数の仮想NUMAノード含むトポロジーを有しているものと、複数の仮想NUMAノードそれぞれが、少なくとも1つの仮想プロセッサー及びゲスト物理アドレスの範囲を含んでいるものと、仮想マシンのトポロジーが、計算機システムの物理トポロジーから独立して生成されていること、を表している。例えば、ハイパーバイザー(202)は、リクエストに応答して複数の仮想NUMAノード(606〜608)を有する仮想マシン(240)を構築し得る。図6を参照すると、仮想NUMAノード(606〜608)はそれぞれ、1つ以上の仮想プロセッサー(230A〜D)と、ゲスト物理アドレス(614)及び(616)とを有し得る。この実施形態において、仮想NUMAノード(606)及び(608)は基本ハードウェアトポロジーから独立して生成され得る。すなわち、仮想マシンのトポロジーは、図6及び図7によって表されるような基本ハードウェアと関係しない。かくして、この実施形態において、仮想マシンのトポロジーそれぞれは、それを達成する計算機システムの基本物理トポロジーから分離されている。
[0055]図10の説明を続けると、動作(1006)は、仮想マシンをインスタンス化するステップであって仮想マシンが、仮想NUMAノードを含んでいるものを例示している。実施形態において、ハイパーバイザー(202)が論理プロセッサーによって実行され得、複数の仮想NUMAノードを有する仮想マシンがインスタンス化され得る。例えば、図6及び/又は図7を参照すると、仮想NUMAノード(606〜608)を有している仮想マシン(240)は、計算機システム(600)又は(700)によって達成され得る。仮想マシン(240)のゲスト物理アドレスがRAMからのシステム物理アドレスを用いて支援され得、仮想プロセッサーが1つ以上の論理プロセッサーによって支援され得る。例えば、ゲスト物理アドレス(614)のブロックがシステム物理アドレス(622)のブロックを用いて支援され得、ゲスト物理アドレス(616)のブロックがシステム物理アドレス(624)のブロックによって支援され得る。ハイパーバイザースレッドはその後、仮想プロセッサーを支援している論理プロセッサー上でスケジューリングされ得、仮想プロセッサーを表わす命令が実行され得る。仮想マシンがインスタンス化された後、ゲストオペレーティングシステム(220)は、仮想NUMAノード(606)の仮想プロセッサー(230A)上で実行するようにプロセスをスケジューリングし得る。この例において、ゲストオペレーティングシステム(220)のメモリーマネージャーは、ゲスト物理アドレス範囲を選択し得、アドレス範囲をプロセスに割り当て得る。この例において、ゲストオペレーティングシステム(220)は、ゲスト物理アドレスを仮想NUMAノード(606)から選択するように構成され得る。この場合、仮想マシンを移動させる/リストアする能力は、仮想マシンがより小さな部分へ分解され、計算機システム全域に拡大するという事実によって進化されている。
[0056]実施形態において、仮想マシンBIOS又はブートファームウェアは、仮想マシンのトポロジー、例えば、それが仮想NUMAノード、任意の仮想NUMAのノードサイズ、及び仮想NUMAノードに関するNUMA比、モノリスアプリケーションのゲストオペレーティングシステムを有するか否か、記述し得る。データ構造が処理され得、ゲストOS又はアプリケーションそれ自体が、仮想NUMAノードの存在の利点を取り入れるように構成し得る。例えば、ゲストオペレーティングシステム(220)は、アプリケーションの実行がローカルのままであるようにNUMA非認識アプリケーションのスレッドを仮想NUMAノードと一体化するよう試行し得る。別の例において、SQLサーバーのようなデータベース管理プログラムは、仮想NUMAノードにローカルなロックを割り当て得、データベースは、仮想NUMAノード全域の読み出し/書き出しリクエストを分割し得る。更に別の例において、ゲストオペレーティングシステム(220)は、仮想NUMAノードそれぞれに対するページプールを仮想マシンに作成生成し得る。
[0057]ここで図11を参照すると、それは動作(1108〜1124)を含んでいる図10の動作手順(1000)の代替実施形態を例示している。図面によって示されるように、動作は(1108)は、仮想マシンをセーブするステップを例示している。例えば、実施形態において、仮想マシン(240)がハードドライブのような計算機可読記憶媒体にセーブされ得る。実施形態において、仮想マシン(240)は、「Concurrent Virtual Machine Snapshots and Restore」と題する米国特許出願No.11/487,031に記載されている技法を使用しセーブされ得、その内容全体をすべて参照として本明細書に組み込む。
[0058]図11の説明を続けると、動作(1110)は、仮想マシンをリモート計算機システムへ送信するステップを示している。例えば、図5を参照すると、実施形態において、仮想マシン(240)の状態は、1つ以上の構成ファイルにセーブされ得、例えば、計算機システム(504〜506)から送信された別の計算機システムへ送信され得る。計算機システム(506)のハイパーバイザーは、ファイル又は複数のファイルを読み出し得、仮想マシン(240)をインスタンス化し得る。特定の例において、計算機システム(504)のハイパーバイザーは、仮想マシン(240)を計算機システム(506)へ送信することを決定し得る。
[0059]仮想マシントポロジーは移動させ、仮想マシンをリストアするための能力に作用する。具体的には、決定は、基本ハードウェアトポロジーが検出されることを可能にし、仮想NUMAノードのサイズは、仮想マシンがいかにうまく実行し、それが容易に移動されるか否かに影響する、例えば、仮想NUMAノードのサイズは、仮想マシンを移動させる能力に作用する。したがって、すなわち、仮想NUMAノードのサイズが増加するにつれて、仮想NUMAノードの移植性は減少し、仮想NUMAノードのサイズが減少するにつれて仮想マシンの性能も減少する。加えると、基本計算機のトポロジーを検出し得る仮想マシンは、NUMA認識オペレーティングシステム及びアプリケーションが、それらが検出する第1のトポロジーに基づいて、ブート時間に自分自身を最適化するという事実のために、容易に移動され得ず、仮想マシンがこれらの最適化が、将来、移動され得る計算機上において十分に機能し得ない。かくして、仮想NUMAノードをゲストオペレーティングシステムに公開することによって、それがブートしたとき、オペレーティングシステムがNUMAノードを使用ための最適化され得る。仮想NUMAノードを正しくサイジングすることによって、仮想マシンが、データセンター(500)における多くの様々な計算機システムに対し最適化され得る。
[0060]例えば、図6を参照すると、仮想マシン(240)は、2つ以上の仮想NUMAノード(606)及び(608)を含み得る。ハイパーバイザー(202)は、論理プロセッサー(212A〜D)を有する仮想プロセッサー(230A〜D)を支援し得る。ゲストオペレーティングシステム(220)をブートしたとき、それは、仮想NUMAノード(606)及び(608)を検出し得、プロセスのスケジューリング及び実行を最適化するように構成され得る。しばらくして仮想マシン(240)は、図7によって表されたものと同様の物理トポロジーを有する計算機システムへ移動され得る。図7のハイパーバイザー(202)は、論理プロセッサー(212A及びB)を支援し得、論理プロセッサー(212E及びF)を有する仮想プロセッサー(230C及びD)を有する仮想プロセッサー(230A及びB)を支援し得る。ゲストオペレーティングシステム(220)は、基本計算機トポロジーがSMPからNUMAに変更された時でも図6の計算機システム上で実行するとき、同一の方法で操作し続け得る。
[0061]図11の説明を続けると、動作(1112)は、仮想マシンを別の1つ以上のNUMAノードへ移動させるステップを示している。そして図7を参照すると、例えば、ハイパーバイザー(202)は、NUMAノード(702)上で実行するように仮想NUMAノード(606〜608)をスケジューリングし得、しばらくした後、例えば、NUMAノード(704)上で実行するように仮想NUMAノード(606〜608)をスケジューリングし得る。この例において、ハイパーバイザー(202)は、NUMAノード(702)が圧迫されているとき、仮想マシン(240)を移動し得る。例えば、ゲストオペレーティングシステム(220)及び(222)は、仮想マシン(240)がメモリー上で低いことを示す信号を生成し得る。この例において、ハイパーバイザー(202)は、仮想マシン(240)を異なるNUMAノードへ移動させることによってNUMAノード(702)上の作業負荷を減少させるように構成され得る。
[0062]図11の説明を続行けると、動作(1114)は、仮想マシンを第1のNUMAノードに割り当てるステップと、仮想マシンを複数のNUMAノードの第2のNUMAノードへ移動させるステップと、を示している。そして図7を参照すると、例えば、実施形態において、仮想マシン(240)は、ハイパーバイザー(202)によって最初のNUMAノード(606)に割り当てられ得る。すなわちハイパーバイザー命令は、論理プロセッサー(212A)〜(212I)によって実行され得、仮想マシン(240)は、例えばNUMAノード(702)に割り当てられ得る。この例において、仮想プロセッサー(230A〜230D)は、(212D)を介し論理プロセッサー(212A)で実行するように設定され得る。しばらくした後、例えば、別の仮想マシンが初期化するか又はオフライン実行されたとき、ハイパーバイザー(202)が論理プロセッサー(212A〜212I)によって実行され得、論理プロセッサーは、仮想マシン(240)を計算機システム(700)の別のNUMAノードへ移動され得る。より具体的に前の例を参照すると、ハイパーバイザー(202)が実行され得、仮想マシン(240)が、NUMAノード(702)からNUMAノード(704)へ移動され得る。例えば、仮想プロセッサー(230A及びB)は、論理プロセッサー(212E)に割り当てられ得、仮想プロセッサー(230C及びD)は論理プロセッサー(212F)に割り当てられ得、ゲスト物理アドレス(614)及び(616)は、システム物理アドレス(622〜624)によって支援され得る。
[0063]図11の説明を続けると、動作(1116)は、複数の仮想NUMAノードに関するNUMA比を生成するステップと、複数の仮想NUMAノードに関するNUMA比をゲストオペレーティングシステムへ報告するステップと、を示している。例えば、実施形態において、ハイパーバイザー(202)は、仮想NUMAノード(606〜608)に関するNUMA比を生成し得、この情報は、図6又は図7のどちらか一方のゲストオペレーティングシステム(220)へ報告され得る。実施形態において、ハイパーバイザー(202)は、仮想NUMAノードに関するNUMA比を示している仮想マシンのファームウェアテーブルにおけるデータ構造を生成し得、ゲストオペレーティングシステム(220)がブートしたとき、ゲストはテーブルを読み出し得、情報を利用し、スケジューリングの決定を実行し得る。例えば、ゲストオペレーティングシステム又はNUMA認識アプリケーションは、NUMA比を使用し得、リモートNUMAノードからリソースを使用するか否か決定し得る。例えば、オペレーティングシステムは、実行される準備をしている保留中のスレッドを有し得る。この例においてオペレーティングシステムは、また理想的なプロセッサーが自由になるように、一定の時間、待つように構成され得るか、そうでなければ、それは、より小さい所定のNUMA比を有するリモートプロセッサー上のスレッドをスケジューリングし、この場合、スケジューラーが受け入れる待ち時間はNUMA比に依存している。
[0064]ここで動作(1118)を参照すると、第1の仮想NUMAノードから第1のゲスト物理アドレス、第2の仮想NUMAノードから第2のゲスト物理アドレスをアクセスするためのリクエストをゲストオペレーティングシステムから受信するステップと、第2のゲスト物理アドレスをアクセスするために必要なアクセスタイムを増大させるステップと、第1及び第2のゲスト物理アドレスをアクセスするために必要とされる増大したアクセスタイムをゲストオペレーティングシステムへ報告するステップと、を示している。動作(1116)と同様に、NUMA比がゲストオペレーティングシステム(220)に報告され得るが、しかしながら、この実施形態例において、ゲストオペレーティングシステム(220)は、NUMA比が正確であるか否か決定するための命令を含み得る。すなわち、ゲストオペレーティングシステム(220)は、様々なメモリー領域に対するアクセスタイムをチェックすることによって報告されるNUMA比が不適切か否かチェックをし得、確認し得る。この例において、ハイパーバイザー(202)は、仮想マシン(240)のブートプロセスをモニターするように構成され得、ハイパーバイザー(202)は、特定の仮想NUMAノードにリモートであるメモリーへのアクセス速度を落とし得る。すなわち、ハイパーバイザー(202)は、仮想プロセッサー(230A)がゲスト物理アドレス(614)をアクセスときよりも仮想プロセッサー(230A)がゲスト物理アドレス(616)にアクセスする時に関して、より大きなアクセスタイムを生成するように構成され得る。この例において、遅延は、ゲスト物理アドレス(614)及び(616)が、単一のNUMAノードからのシステム物理アドレス(622)及び(624)などのシステム物理アドレスによって支援され得るので事実に基づかない場合がある。
[0065]実施形態において、ハイパーバイザー(202)は、リモートのゲスト物理アドレス(616)を仮想プロセッサー(230A)の仮想プロセッサーページテーブルから移動することによって、アクセスタイムを増大し得る。仮想プロセッサー(230A)がリモートメモリーにアクセスしようと試みるとき、それは失敗し、ハイパーバイザー命令が実行され得る。ハイパーバイザー(202)はその後、ページテーブルを固定し得、ハイパーバイザー、メモリーアドレスからの返却信号を所望の時間の間、遅延し得る。仮想プロセッサー(230A)がリモートメモリーをアクセスするのにどれくらいかかるか識別する返却信号情報を受信したとき、遅延が導入される。
[0066]図11の説明を続けると、動作(1120)は、システムメモリーアドレスを仮想マシンに割り当てるステップであってシステムメモリーアドレスが、単一のNUMAノードから取得されているものと、仮想プロセッサーを実行するプロセッサーを割り当てるステップであってプロセッサーが、NUMAノードから取得されているものと、を表している。例えば、実施形態において、仮想NUMAノード(606〜608)を生成するステップは、システム物理アドレスを割り当てるステップと、同一のNUMAノード(702)からプロセッサーを割り当てて仮想マシン(240)を支援するステップと、を含み得る。そして図7を参照すると、例えばハイパーバイザー(202)は、NUMAノード(702)の1つ以上のシステム物理アドレスブロック(622〜624)を取得し得、それらを利用し、ゲスト物理アドレス(622〜624)を支援し得る。ハイパーバイザー(202)は付加的に、例えば、NUMAノード(702)の1つ以上の論理プロセッサー(212A〜212D)と仮想プロセッサー(230A)を一体化し得る。
[0067]図11の説明を続けると、動作(1122)は、第1の複数の仮想NUMAノードを計算機システムの第1のNUMAノードへマッピングするステップと、第2の複数の仮想NUMAノードを計算機システムの第1のNUMAノードへマッピングするステップと、を表している。そして図7を参照すると、例えば、論理プロセッサー(212A)のような論理プロセッサーは、ハイパーバイザー命令を実行し得、仮想NUMAノード(606)及び(608)のような仮想NUMAノードをNUMAノード(702)のようなNUMAノードへ一体化し得る。より具体的には、論理プロセッサーは命令を実行し、システム物理アドレス(622)を用いてゲスト物理アドレス(614〜616)、システム物理アドレス(624)を用いてゲスト物理アドレス(618〜620)を支援し得、論理プロセッサー(212A〜D)を用いて仮想プロセッサー(230A〜D)及び(232A〜D)を支援し得る。
[0068]動作(1124)に関連し、それは第1の複数の仮想NUMAノードを計算機システムの第1のNUMAノードへマッピングするステップと、第2の複数の仮想NUMAノードを計算機システムの第2のNUMAノードへマッピングするステップと、を示している。そして図7を参照すると、例えば、論理プロセッサー(212A)のような論理プロセッサーは、ハイパーバイザー命令を実行し得、仮想NUMAノード(606)をNUMAノード(702)へ割り当て得、仮想NUMAノード(608)をNUMAノード(704)へ割り当て得る。この例において、ハイパーバイザー(202)が実行されるとき、ハイパーバイザースケジューラーは、仮想プロセッサー(230A〜B)からのスレッドを論理プロセッサー(212A〜D)上にスケジュールし得、仮想プロセッサー(230C又はD)からのスレッドを論理プロセッサー(212E〜G)上にスケジュールし得る。
[0069]図12に移ると、それは図9の動作手順の代替実施形態を表している。図面によって示されるように、本手順は、実施形態において仮想NUMAノードに関するNUMA比が、データセンターにおいて検出される平均のNUMA比よりも大きくてデータセンターが、複数の計算機システムを含んでいることを示している動作(1226)を含み得る。そして図5を参照すると、例えば、管理システム(502)は、データセンター(500)における計算機システム(504〜510)の物理トポロジーを取得し得る。実施形態において、プログラムは計算機システム(504〜510)それぞれにクエリーし得、計算機は情報を用いて返答し得る。一旦、管理システム(502)が計算機システムそれぞれのトポロジーを説明する情報を有すると、プログラムは、どの計算機システムが、例えば、最悪のNUMA比及び/又は平均のNUMA比に基づいて、最も高いものを有するNUMAノード決定し得る。管理システム(502)は、仮想NUMAノードがこの情報を使用し得、ブート時間にゲストオペレーティングシステムへ報告するNUMA比を生成し得る。この例において、管理システム(502)が、平均のNUMA比又はデータセンター(500)において検出された中で最も高いNUMA比よりも大きな仮想NUMA比に設定し得、かくして、NUMAノードの半分よりも高い状態か又は任意の仮想マシンが実際に実行中である任意の物理トポロジーよりも悪い状態を反映するように仮想NUMAノードを構成する。
[0070]ここで図13に移ると、それは動作(1300)、(1302)、及び(1304)を含んでいる本開示の態様を実施するための動作手順を表している。動作(1300)が動作手順を開始し、動作(1302)は、仮想マシン用の複数の仮想NUMAノードを生成するステップであって複数の仮想NUMAノードそれぞれが、少なくとも1つの仮想プロセッサーと、ゲスト物理アドレスの少なくとも1つのメモリーブロックと、を含んでいて、複数の仮想NUMAノードが、任意の計算機システムの物理トポロジーから独立して生成しているもの、を表している。実施形態において、図6又は図7の(212E)のような論理プロセッサーは、ハイパーバイザー命令を実行し得、プロセッサーは、仮想マシン(240)に対する仮想NUMAノード(606〜608)を生成し得る。上記と同様に、仮想マシン(240)は、例えば、仮想マシンの特性に依存するずっと多くの仮想NUMAノードを有し得、例えば、仮想マシンが2つ以上の仮想NUMAノードを有し得る。ハイパーバイザー(202)は、仮想NUMAノード(606)及び(608)それぞれにゲスト物理アドレスを割り当て得る。前述したものと同様に仮想マシン(240)のトポロジーは、基本計算機システムトポロジーから独立している。例えば、仮想マシンが結局、インスタンス化される計算機システムは図6の計算機システム(600)又は図7の計算機システム(700)と同様のトポロジーを有し得る。
[0071]図13の説明を続けると、動作(1304)は、計算機システム上に仮想マシンをインスタンス化するステップであって仮想マシンが、複数の仮想NUMAノードを含んでいるもの、を示している。図6又は図7を参照すると、ハイパーバイザー(202)が仮想マシン(240)に関する仮想NUMAノード構成を生成した後、それは計算機システムによって達成され得る。すなわち、ハイパーバイザー(202)は、仮想マシン(240)を開始するための命令をスケジュールする。例において、ハイパーバイザー(202)は、仮想マシン(240)から1つ以上の論理プロセッサーを実行命令を選択し得、ハイパーバイザー(202)は、論理プロセッサー上に仮想マシン(240)をインスタンス化するためのスケジュール命令を選択し得る。仮想マシン命令がプロセッサーによって実行され得、仮想マシン(240)がインスタンス化され得る。この例において仮想マシン(240)は、2つ以上の仮想NUMAノードを説明するブートテーブルを含み得る。ゲストオペレーティングシステム又はモノリスアプリケーションは、ブートテーブルから仮想NUMAノードを発見しブートし、仮想マシン(240)トポロジーの利点を取り入れるための自分自身を構成する命令を実行し得る。
[0072]ここで図14を参照すると、それは付加的な動作(1406〜1412)を含む図13の動作手順(1300)の代替実施形態を表している。ここで動作(1406)を参照すると、それは計算機システムのNUMAノード上で実行する第1の仮想NUMAノード及び第2の仮想NUMAノードを割り当てるステップを例示している。例えば、及び図7を参照すると、実施形態において、計算機システムは、NUMAノードを含む構造を有し得る。この例において、ハイパーバイザー(202)は、複数のうち2つの仮想NUMAノードを信号NUMAノードに割り当て得る。そして図7を参照すると、例えば、ハイパーバイザー命令は、NUMAノード(702)上で論理プロセッサーによって実行され得、例えば、仮想NUMAノード(606)及び(608)が割り当てられ得、実行し得る。
[0073]図14の説明を続けると、動作(1408)は、計算機システムの第1のNUMAノード上で実行する第1の複数の仮想NUMAノードを割り当てるステップと、計算機システムの第2のNUMAノード上で実行する第2の複数の仮想NUMAノードを割り当てるステップと、を表している。例えば、図7を参照すると、論理プロセッサー(212B)のような論理プロセッサーは、ハイパーバイザー命令を実行し得、仮想NUMAノード(606)をNUMAノード(704)に割り当て得、仮想NUMAノード(608)をNUMAノード(706)に割り当て得る。この例において、ハイパーバイザー(202)が実行されたとき、ハイパーバイザースケジューラーは仮想プロセッサー(230A〜B)からの論理プロセッサー(212Fと212G)上のスケジュールスレッドと仮想プロセッサー(230C又はD)からの論理プロセッサーの(212H及び212I)上のスレッドをスケジューリングし得る。
[0074]図14の説明を続けると、動作(1410)は、複数の仮想NUMAノードに関するNUMA比を生成するステップと、NUMA比をゲストオペレーティングシステムへ報告するステップと、を表している。例えば、実施形態において、ハイパーバイザー(202)は、仮想NUMAノードに関するNUMA比を生成し得、この情報が、図6又は図7のどちらか一方のゲストオペレーティングシステム(220)へ報告され得る。
[0075]図14の説明を続けると、動作(1412)は、仮想マシンに関連付けられたNUMAノードが過度にコミットされていることを決定するステップと、仮想マシンを別の1つ以上のNUMAノードへ移動させるステップと、を表している。例えば、図7を参照するとハイパーバイザー(202)は、NUMAノード(702)上で仮想NUMAノード(606〜612)を実行するようにスケジューリングし得る。すなわちNUMAノード(702)は、仮想マシン(240)及び(242)をホストするように構成され得る。この例において、ハイパーバイザー(202)は、NUMAノード(702)が圧迫されていることを示す信号を受信し得る。例えば、ゲストオペレーティングシステム(220)及び(222)は、仮想マシン(240〜242)がメモリー上において低いことを示す信号を生成し得る。この例において、ハイパーバイザー(202)は、仮想マシンを異なるNUMAノードに移動することによって、NUMAノード(702)上の作業負荷を減少させるように構成され得る。この例において、ハイパーバイザー(202)は、NUMAノード(704)上で実行するための仮想マシン(240)の仮想NUMAノード(606)及び(608)を再度割り付けし得る。
[0076]前述の詳細な説明は、例及び/又は動作図面を介し、システム及び/又はプロセスの様々な実施形態を詳細に説明している。そのようなブロック図及び/又は例が1つ以上の機能及び/又は動作を含む場合、そのようなブロック図又は例の中の機能及び/又は動作それぞれは、様々な範囲のハードウェア、ソフトウェア、ファームウェア、又は実際にはその任意の組み合わせによって個別に及び/又はまとめて実装され得ることが当業者によって理解されよう。
[0077]本明細書に記述された本対象事項の具体的な態様が示され、説明されているが、当業者にとって、本明細書の教示に基づく変更及び修正が本明細書に記述された対象項目及びそのより広い態様から離れずに実行され得ることは明らかであって、したがって、添付の請求項は、それらの変更及び修正すべてが本明細書に記述された対象項目の本当の趣旨及び範囲内にあるようにその範囲内に包含される。
20 計算機システム
21 論理プロセッサー
22 システムメモリー
23 システムバス
24 読み出し専用メモリー(ROM)
25 ランダムアクセスメモリー(RAM)
26 基本入力/出力システム(BIOS)
27 ハードディスクドライブ
28 磁気ディスクドライブ
29 取り外し可能磁気ディスク
30 光学式ディスクドライブ
31 取り外し可能光学式ディスク
32 ハードディスクドライブインターフェース
33 磁気ディスクドライブインターフェース
34 光学式ドライブインターフェース
35 オペレーティングシステム
36 アプリケーションプログラム
37 その他のプログラムモジュール
38 プログラムデータ
40 キーボード
42 ポインティングデバイス
46 シリアルポートインターフェース
47 ディスプレイ
48 ビデオアダプター
49 リモートコンピューター
50 メモリー記憶装置
51 ローカルエリアネットワーク(LAN)
52 広域ネットワーク(WAN)
53 アダプター
54 モデム
55 ホストアダプター
56 小型コンピューター用周辺機器インターフェース(SCSI)バス
62 外部記憶装置
200 計算機システム
202 ハイパーバイザー
204 親パーティション
208 記憶装置
210 ネットワークインターフェースコントローラー(NIC)
212 論理プロセッサー
214 ランダムアクセスメモリー(RAM)
216 仮想化サービスクライアント(VSC)
218 仮想化サービスクライアント(VSC)
220 ゲストオペレーティングシステム
222 ゲストオペレーティングシステム
224 デバイスドライバー
228 仮想化サービスプロバイダー
230 仮想プロセッサー
232 仮想プロセッサー
234 画像処理装置
236 設定ユーティリティ
240 仮想マシン
242 仮想マシン
300 計算機システム
500 データセンター
502 管理システム
504 計算機システム
506 計算機システム
508 計算機システム
510 計算機システム
600 計算機システム
602 メモリーコントローラー
606 仮想NUMAノード
608 仮想NUMAノード
610 仮想NUMAノード
612 仮想NUMAノード
614 ゲスト物理アドレス
616 ゲスト物理アドレス
618 ゲスト物理アドレス
620 ゲスト物理アドレス
622 システム物理アドレスブロック
624 システム物理アドレスブロック
626 システム物理アドレスブロック
628 システム物理アドレスブロック
630 システム物理アドレスブロック
632 システム物理アドレスブロック
700 計算機システム
702 NUMAノード
704 NUMAノード
706 NUMAノード
708 相互接続

Claims (20)

  1. 管理システムによって、データセンターにおける計算機システムの物理トポロジーを表わす情報を受信するステップと、
    仮想マシンをインスタンス化するためのリクエストを受信するステップであって前記リクエストが、前記仮想マシンに関する特性を示しているものと、
    前記計算機システムの前記物理トポロジー及び前記仮想マシンの前記特性に基づいて、前記仮想マシンの仮想非一様メモリ・アーキテクチャ(NUMA:Non-Uniform Memory Architecture)ノード数を決定するステップであって前記仮想NUMAノードそれぞれが前記仮想マシンの複数の仮想プロセッサーと仮想メモリーの容量とを含み、前記NUMAノードそれぞれが前記仮想マシン内に存在し、前記仮想マシンが物理NUMAノード内に存在するものと、
    前記データセンターにおける計算機システムへリクエストを送信するステップであって前記計算機システムへのリクエストが、前記決定された仮想NUMAノード数を有する前記仮想マシンをインスタンス化することを前記計算機システムに指示しているものと、を含む方法。
  2. 更に、
    前記計算機システムが圧迫されていることを示す信号を受信するステップと、
    前記計算機システムへ信号を送信するステップであって前記信号が、前記仮想マシンを第2の計算機システムへ送信するように前記計算機システムに指示するものと、を含む請求項1記載の方法。
  3. 更に、前記計算機システムへ信号を送信するステップであって前記信号が、前記仮想マシンを第1のNUMAノードから第2のNUMAノードへ移動するように前記計算機システムに指示するものと、を含む請求項1記載の方法。
  4. 前記仮想マシンに対する前記仮想NUMAノード数を決定するステップが更に、
    前記データセンターにおける最大のNUMA比を決定するステップを含む請求項1記載の方法。
  5. 計算機システムであって、
    仮想マシンをインスタンス化するリクエストを受信するための回路と、
    前記仮想マシンを生成するための回路であって前記仮想マシンが、複数の仮想非一様メモリ・アーキテクチャ(NUMA:Non-Uniform Memory Architecture)ノードを含むトポロジーを有しており、前記複数の仮想NUMAノードの内の仮想NUMAノードそれぞれが、少なくとも1つの仮想プロセッサー及びゲスト物理アドレスの範囲を含んでおり、仮想NUMAノードのそれぞれが前記仮想マシンの内に存在し、前記仮想マシンの前記トポロジーが、前記計算機システムの物理トポロジーから独立して生成されるものと、
    前記仮想マシンをインスタンス化するための回路であって前記仮想マシンが、前記仮想NUMAノードを含んでいるものと、を含む計算機システム。
  6. 更に、
    前記仮想マシンをセーブするための回路を含む請求項5記載の計算機システム。
  7. 更に、
    前記仮想マシンをリモート計算機システムへ送信するための回路を含む請求項5記載の計算機システム。
  8. 更に、
    前記仮想マシンを別の1つ以上のNUMAノードへ移動させるための回路を含む請求項5記載の計算機システム。
  9. 更に、
    前記仮想マシンを第1のNUMAノードに割り当てるための回路と、
    前記仮想マシンを前記複数の仮想NUMAノードのうち第2のNUMAノードへ移動させるための回路と、を含む請求項5記載の計算機システム。
  10. 更に、
    前記複数の仮想NUMAノードに関するNUMA比を生成するための回路と、
    前記複数の仮想NUMAノードに関する前記NUMA比をゲストオペレーティングシステムへ報告するための回路と、を含む請求項5記載の計算機システム。
  11. 更に、
    第1の仮想NUMAノードからの第1のゲスト物理アドレスと、第2の仮想NUMAノードからの第2のゲスト物理アドレスと、をアクセスするためのリクエストをゲストオペレーティングシステムから受信するための回路と、
    前記第1及び第2のゲスト物理アドレスをアクセスするために必要なアクセス時間を増大するための回路と、
    前記第1及び第2のゲスト物理アドレスをアクセスするために必要な前記増大したアクセス時間を前記ゲストオペレーティングシステムへ報告するための回路と、を含む請求項5記載の計算機システム。
  12. 更に、
    システムメモリーアドレスを前記仮想マシンに割り当てるための回路であって前記システムメモリーアドレスが、単一のNUMAノードから取得されているものと、
    少なくとも1つの前記仮想プロセッサーの内の仮想プロセッサーを実行するためのプロセッサーを割り当てるための回路であって前記プロセッサーが、単一の前記NUMAノードから取得されているものと、を含む請求項5記載の計算機システム。
  13. 前記仮想マシンをインスタンス化するための前記回路が更に、
    前記複数の仮想NUMAノードの内の第1の仮想NUMAノードを前記計算機システムの第1のNUMAノードへマッピングするための回路と、
    前記複数の仮想NUMAノードの内の第2の仮想NUMAノードを前記計算機システムの前記第1のNUMAノードへマッピングするための回路と、を含むことを特徴とする請求項5記載の計算機システム。
  14. 前記仮想マシンをインスタンス化するための前記回路が更に、
    前記複数の仮想NUMAノードの内の第1の仮想NUMAノードを前記計算機システムの第1のNUMAノードへマッピングするための回路と、
    前記複数の仮想NUMAノードの内の第2の仮想NUMAノードを前記計算機システムの第2のNUMAノードへマッピングするための回路と、を含むことを特徴とする請求項5記載の計算機システム。
  15. 前記仮想NUMAノードに関する前記NUMA比が、データセンターにおいて検出される平均のNUMA比よりも大きく、前記データセンターが、複数の計算機システムを含んでいること、を特徴とする請求項10記載の計算機システム。
  16. プロセッサー実行可能命令を含む計算機可読記憶媒体であって、
    仮想マシンに対する複数の仮想非一様メモリ・アーキテクチャ(NUMA:Non-Uniform Memory Architecture)ノードを生成するための命令であって前記複数の仮想NUMAノードの内の仮想NUMAノードそれぞれが、少なくとも1つの仮想プロセッサーと、少なくとも1つのゲスト物理アドレスのメモリーブロックとを含み、仮想NUMAノードのそれぞれが前記仮想マシンの内で実行され、前記複数の仮想NUMAノードが、任意の計算機システムの物理トポロジーから独立して生成しているものと、
    前記仮想マシンを第1の計算機システム上にインスタンス化するための命令であって前記仮想マシンが、前記複数の仮想NUMAノードを含んでいるものと、含む計算機可読記憶媒体。
  17. 更に、
    前記第1の計算機システムのNUMAノード上で実行する第1の仮想NUMAノード及び第2の仮想NUMAノードを割り当てる命令を含む請求項16記載の計算機可読記憶媒体。
  18. 更に、
    前記第1の計算機システムの第1のNUMAノード上で実行するために前記複数の仮想NUMAノードの内の第1の仮想NUMAノードを割り当てるための命令と、
    前記第1の計算機システムの第2のNUMAノード上で実行するために前記複数の仮想NUMAノードの内の第2の仮想NUMAノードを割り当てるための命令と、を含む請求項16記載の計算機可読記憶媒体。
  19. 更に、
    前記複数の仮想NUMAノードに関するNUMA比を生成するための命令と、
    前記NUMA比をゲストオペレーティングシステムへ報告するための命令と、を含む請求項16記載の計算機可読記憶媒体。
  20. 更に、
    前記仮想マシンに関連付けられたNUMAノードが過度にコミットされていることを決定するための命令と、
    前記仮想マシンを別の1つ以上のNUMAノードへ移動させるための命令と、を含む請求項16記載の計算機可読記憶媒体。
JP2012502135A 2009-03-26 2010-03-19 仮想マシン用非一様仮想メモリーアーキテクチャー Active JP5507661B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US12/412,258 2009-03-26
US12/412,258 US9535767B2 (en) 2009-03-26 2009-03-26 Instantiating a virtual machine with a virtual non-uniform memory architecture
PCT/US2010/028038 WO2010111151A2 (en) 2009-03-26 2010-03-19 Virtual non-uniform memory architecture for virtual machines

Publications (3)

Publication Number Publication Date
JP2012521611A JP2012521611A (ja) 2012-09-13
JP2012521611A5 JP2012521611A5 (ja) 2013-03-28
JP5507661B2 true JP5507661B2 (ja) 2014-05-28

Family

ID=42781792

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012502135A Active JP5507661B2 (ja) 2009-03-26 2010-03-19 仮想マシン用非一様仮想メモリーアーキテクチャー

Country Status (9)

Country Link
US (2) US9535767B2 (ja)
EP (1) EP2411916B1 (ja)
JP (1) JP5507661B2 (ja)
KR (1) KR101722276B1 (ja)
CN (1) CN102365626B (ja)
BR (1) BRPI1009274A2 (ja)
CA (2) CA3003789C (ja)
RU (1) RU2571366C2 (ja)
WO (1) WO2010111151A2 (ja)

Families Citing this family (43)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9535767B2 (en) 2009-03-26 2017-01-03 Microsoft Technology Licensing, Llc Instantiating a virtual machine with a virtual non-uniform memory architecture
US9529636B2 (en) 2009-03-26 2016-12-27 Microsoft Technology Licensing, Llc System and method for adjusting guest memory allocation based on memory pressure in virtual NUMA nodes of a virtual machine
US8780923B2 (en) * 2010-01-15 2014-07-15 Dell Products L.P. Information handling system data center bridging features with defined application environments
US8904382B2 (en) * 2010-06-17 2014-12-02 International Business Machines Corporation Creating instances of cloud computing environments
US9733963B2 (en) 2010-09-17 2017-08-15 Lenovo Enterprise Solutions (Singapore) Pte. Ltd. Optimizing virtual graphics processing unit utilization
US8667441B2 (en) 2010-11-16 2014-03-04 International Business Machines Corporation Clock optimization with local clock buffer control optimization
KR101145144B1 (ko) * 2010-11-23 2012-05-14 한국과학기술정보연구원 가상머신 스케줄링 방법 및 시스템
US9250863B1 (en) * 2010-12-28 2016-02-02 Amazon Technologies, Inc. Managing virtual machine migration
US8725483B2 (en) 2011-01-19 2014-05-13 International Business Machines Corporation Minimizing the maximum required link capacity for three-dimensional interconnect routing
US8621057B2 (en) * 2011-03-07 2013-12-31 International Business Machines Corporation Establishing relationships among elements in a computing system
US9183030B2 (en) * 2011-04-27 2015-11-10 Microsoft Technology Licensing, Llc Virtual processor allocation techniques
US20130007370A1 (en) * 2011-07-01 2013-01-03 Oracle International Corporation Method and apparatus for minimizing working memory contentions in computing systems
US8856495B2 (en) * 2011-07-25 2014-10-07 International Business Machines Corporation Automatically routing super-compute interconnects
US9164809B2 (en) * 2012-09-04 2015-10-20 Red Hat Israel, Ltd. Virtual processor provisioning in virtualized computer systems
US20140229940A1 (en) * 2013-02-14 2014-08-14 General Dynamics C4 Systems, Inc. Methods and apparatus for synchronizing multiple processors of a virtual machine
US10114662B2 (en) * 2013-02-26 2018-10-30 Red Hat Israel, Ltd. Updating processor topology information for virtual machines
US10061622B2 (en) * 2013-02-26 2018-08-28 Red Hat Israel, Ltd. Updating memory topology information for virtual machines
US9348654B2 (en) 2013-11-19 2016-05-24 International Business Machines Corporation Management of virtual machine migration in an operating environment
JP6287321B2 (ja) * 2014-02-24 2018-03-07 富士通株式会社 情報処理装置、情報処理方法、および情報処理プログラム
US9417902B1 (en) * 2014-03-24 2016-08-16 Amazon Technologies, Inc. Managing resource bursting
US9223574B2 (en) * 2014-03-27 2015-12-29 International Business Machines Corporation Start virtual execution instruction for dispatching multiple threads in a computer
US10146634B1 (en) 2014-03-31 2018-12-04 EMC IP Holding Company LLC Image restore from incremental backup
WO2015193947A1 (ja) * 2014-06-16 2015-12-23 株式会社日立製作所 物理計算機及び仮想計算機移行方法
US10079797B2 (en) * 2014-10-29 2018-09-18 Vmware, Inc. Methods, systems and apparatus to remotely start a virtual machine
CN105677454B (zh) * 2014-11-20 2019-08-27 华为技术有限公司 计算资源的整合方法、装置和系统
US10140218B2 (en) * 2015-01-15 2018-11-27 Red Hat Israel, Ltd. Non-uniform memory access support in a virtual environment
US9959233B2 (en) * 2015-04-28 2018-05-01 Red Hat Israel, Ltd. NUMA-aware root bus selection
US9798497B1 (en) * 2015-06-08 2017-10-24 Skytap Storage area network emulation
US10241674B2 (en) * 2015-12-11 2019-03-26 Vmware, Inc. Workload aware NUMA scheduling
JP6645275B2 (ja) * 2016-03-04 2020-02-14 富士通株式会社 情報処理装置、仮想マシン移動方法、および仮想マシン制御プログラム
US10095550B2 (en) * 2016-10-19 2018-10-09 International Business Machines Corporation Performance-based reallocating of logical processing units to sockets of a computer system
CN108733509B (zh) * 2017-04-17 2021-12-10 伊姆西Ip控股有限责任公司 用于在集群系统中备份和恢复数据的方法和系统
CN107168771A (zh) * 2017-04-24 2017-09-15 上海交通大学 一种非一致性内存访问架构下的虚拟机调度装置及方法
BR112019022546A2 (pt) * 2017-04-28 2020-05-19 Lzlabs Gmbh sistema escalável com base em contêiner e método para criar e operar um sistema escalável com base em contêiner
US10649943B2 (en) 2017-05-26 2020-05-12 Dell Products, L.P. System and method for I/O aware processor configuration
US10613990B2 (en) * 2017-12-05 2020-04-07 Red Hat, Inc. Host address space identifier for non-uniform memory access locality in virtual machines
US10430227B2 (en) * 2018-01-09 2019-10-01 Microsoft Technology Licensing, Llc Fast instantiation of virtual machines in distributed computing systems
US10664323B2 (en) 2018-03-07 2020-05-26 Microsoft Technology Licensing, Llc Live migration of virtual machines in distributed computing systems
US10901911B2 (en) 2018-11-21 2021-01-26 Microsoft Technology Licensing, Llc Faster computer memory access by reducing SLAT fragmentation
US10503543B1 (en) 2019-02-04 2019-12-10 Cohesity, Inc. Hosting virtual machines on a secondary storage system
CN114090223A (zh) * 2020-08-24 2022-02-25 北京百度网讯科技有限公司 访存请求调度方法、装置、设备以及存储介质
US11740921B2 (en) * 2020-11-23 2023-08-29 Google Llc Coordinated container scheduling for improved resource allocation in virtual computing environment
US11928502B2 (en) * 2021-04-29 2024-03-12 VMware LLC Optimized networking thread assignment

Family Cites Families (45)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH04274519A (ja) * 1991-02-28 1992-09-30 Nec Corp プログラム高速化自動実行方式
US6075938A (en) * 1997-06-10 2000-06-13 The Board Of Trustees Of The Leland Stanford Junior University Virtual machine monitors for scalable multiprocessors
US6785888B1 (en) * 1997-08-29 2004-08-31 International Business Machines Corporation Memory allocator for a multiprocessor computer system
US6336170B1 (en) * 1998-10-13 2002-01-01 International Business Machines Corporation Method and system in a distributed shared-memory data processing system for determining utilization of shared-memory included within nodes by a designated application
US7140020B2 (en) * 2000-01-28 2006-11-21 Hewlett-Packard Development Company, L.P. Dynamic management of virtual partition computer workloads through service level optimization
US7433951B1 (en) 2000-09-22 2008-10-07 Vmware, Inc. System and method for controlling resource revocation in a multi-guest computer system
US7035963B2 (en) 2000-12-27 2006-04-25 Intel Corporation Method for resolving address space conflicts between a virtual machine monitor and a guest operating system
JP2002202959A (ja) * 2000-12-28 2002-07-19 Hitachi Ltd 動的な資源分配をする仮想計算機システム
US6785773B2 (en) * 2001-03-29 2004-08-31 International Business Machines Corporation Verification of global coherence in a multi-node NUMA system
US6842857B2 (en) * 2001-04-12 2005-01-11 International Business Machines Corporation Method and apparatus to concurrently boot multiple processors in a non-uniform-memory-access machine
US7536697B2 (en) 2001-06-19 2009-05-19 Accenture Global Services Gmbh Integrating enterprise support systems
US6886079B2 (en) * 2001-06-21 2005-04-26 International Business Machines Corporation Dynamic history based mechanism for the granting of exclusive data ownership in a non-uniform memory access (NUMA) computer system
US7159216B2 (en) * 2001-11-07 2007-01-02 International Business Machines Corporation Method and apparatus for dispatching tasks in a non-uniform memory access (NUMA) computer system
DE10159522A1 (de) 2001-12-05 2003-06-26 G L I Global Light Ind Gmbh Verfahren zur Herstellung von LED-Körpern
US7451459B2 (en) * 2003-05-05 2008-11-11 Microsoft Corporation Systems, methods, and apparatus for indicating processor hierarchical topology
US8776050B2 (en) * 2003-08-20 2014-07-08 Oracle International Corporation Distributed virtual machine monitor for managing multiple virtual resources across multiple physical nodes
US8417913B2 (en) * 2003-11-13 2013-04-09 International Business Machines Corporation Superpage coalescing which supports read/write access to a new virtual superpage mapping during copying of physical pages
US20050132362A1 (en) * 2003-12-10 2005-06-16 Knauerhase Robert C. Virtual machine management using activity information
US7231504B2 (en) * 2004-05-13 2007-06-12 International Business Machines Corporation Dynamic memory management of unallocated memory in a logical partitioned data processing system
WO2005116828A2 (en) * 2004-05-21 2005-12-08 Computer Associates Think, Inc. Method and apparatus for dynamic memory resource management
US8621458B2 (en) 2004-12-21 2013-12-31 Microsoft Corporation Systems and methods for exposing processor topology for virtual machines
US20060184938A1 (en) * 2005-02-17 2006-08-17 Intel Corporation Method, apparatus and system for dynamically reassigning memory from one virtual machine to another
US7334076B2 (en) 2005-03-08 2008-02-19 Microsoft Corporation Method and system for a guest physical address virtualization in a virtual machine environment
US20060206891A1 (en) * 2005-03-10 2006-09-14 International Business Machines Corporation System and method of maintaining strict hardware affinity in a virtualized logical partitioned (LPAR) multiprocessor system while allowing one processor to donate excess processor cycles to other partitions when warranted
RU47116U1 (ru) 2005-04-06 2005-08-10 Оао Акб "Автобанк-Никойл" Система поддержки распределенного документооборота
US7299337B2 (en) 2005-05-12 2007-11-20 Traut Eric P Enhanced shadow page table algorithms
US20070100845A1 (en) 2005-10-31 2007-05-03 Juergen Sattler Customer relationship management integration system and method
US7945913B2 (en) * 2006-01-19 2011-05-17 International Business Machines Corporation Method, system and computer program product for optimizing allocation of resources on partitions of a data processing system
US7596654B1 (en) * 2006-01-26 2009-09-29 Symantec Operating Corporation Virtual machine spanning multiple computers
US7984438B2 (en) * 2006-02-08 2011-07-19 Microsoft Corporation Virtual machine transitioning from emulating mode to enlightened mode
US20070250784A1 (en) 2006-03-14 2007-10-25 Workstone Llc Methods and apparatus to combine data from multiple computer systems for display in a computerized organizer
JP4702127B2 (ja) 2006-03-22 2011-06-15 日本電気株式会社 仮想計算機システム及びその物理リソース再構成方法並びにプログラム
US7434002B1 (en) * 2006-04-24 2008-10-07 Vmware, Inc. Utilizing cache information to manage memory access and cache utilization
US8607009B2 (en) 2006-07-13 2013-12-10 Microsoft Corporation Concurrent virtual machine snapshots and restore
US8453132B2 (en) * 2006-07-28 2013-05-28 Hewlett-Packard Development Company, L.P. System and method for recompiling code based on locality domain and thread affinity in NUMA computer systems
US20080071642A1 (en) 2006-09-15 2008-03-20 Leiba Lior System and method for connecting external product catalog data to business applications
US7788464B2 (en) * 2006-12-22 2010-08-31 Microsoft Corporation Scalability of virtual TLBs for multi-processor virtual machines
US8195866B2 (en) * 2007-04-26 2012-06-05 Vmware, Inc. Adjusting available persistent storage during execution in a virtual computer system
CN100489815C (zh) 2007-10-25 2009-05-20 中国科学院计算技术研究所 一种内存共享的系统和装置及方法
CN101271401B (zh) 2008-04-23 2010-04-14 北京航空航天大学 一种具备单一系统映像的服务器机群系统
US8799892B2 (en) * 2008-06-09 2014-08-05 International Business Machines Corporation Selective memory donation in virtual real memory environment
US8037280B2 (en) * 2008-06-11 2011-10-11 Vmware, Inc. System and method for improving memory locality of virtual machines
US8490094B2 (en) * 2009-02-27 2013-07-16 International Business Machines Corporation Non-uniform memory access (NUMA) enhancements for shared logical partitions
US9535767B2 (en) * 2009-03-26 2017-01-03 Microsoft Technology Licensing, Llc Instantiating a virtual machine with a virtual non-uniform memory architecture
US9529636B2 (en) 2009-03-26 2016-12-27 Microsoft Technology Licensing, Llc System and method for adjusting guest memory allocation based on memory pressure in virtual NUMA nodes of a virtual machine

Also Published As

Publication number Publication date
US9535767B2 (en) 2017-01-03
RU2011139102A (ru) 2013-03-27
CN102365626B (zh) 2013-05-29
BRPI1009274A2 (pt) 2016-03-08
US20170075617A1 (en) 2017-03-16
JP2012521611A (ja) 2012-09-13
WO2010111151A3 (en) 2011-01-13
KR101722276B1 (ko) 2017-03-31
EP2411916A4 (en) 2013-01-30
EP2411916A2 (en) 2012-02-01
CA2753229A1 (en) 2010-09-30
CN102365626A (zh) 2012-02-29
RU2571366C2 (ru) 2015-12-20
EP2411916B1 (en) 2020-08-19
CA2753229C (en) 2018-10-30
US20100251234A1 (en) 2010-09-30
CA3003789A1 (en) 2010-09-30
CA3003789C (en) 2020-09-15
KR20120008026A (ko) 2012-01-25
US10908968B2 (en) 2021-02-02
WO2010111151A2 (en) 2010-09-30

Similar Documents

Publication Publication Date Title
JP5507661B2 (ja) 仮想マシン用非一様仮想メモリーアーキテクチャー
JP5507660B2 (ja) 仮想マシン用非一様仮想メモリーアーキテクチャー
US10691363B2 (en) Virtual machine trigger
US8443376B2 (en) Hypervisor scheduler
US8898664B2 (en) Exposure of virtual cache topology to a guest operating system
US20180157519A1 (en) Consolidation of idle virtual machines
EP2577450A2 (en) Virtual machine migration techniques
US20150186180A1 (en) Systems and methods for affinity dispatching based on network input/output requests
CN116324706A (zh) 分离式存储器池分配

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20130205

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20130205

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20140121

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20140123

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20140130

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20140220

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20140319

R150 Certificate of patent or registration of utility model

Ref document number: 5507661

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250