JPWO2015001615A1 - 仮想マシン管理方法,仮想マシン管理装置,および仮想マシン管理プログラム - Google Patents
仮想マシン管理方法,仮想マシン管理装置,および仮想マシン管理プログラム Download PDFInfo
- Publication number
- JPWO2015001615A1 JPWO2015001615A1 JP2015524935A JP2015524935A JPWO2015001615A1 JP WO2015001615 A1 JPWO2015001615 A1 JP WO2015001615A1 JP 2015524935 A JP2015524935 A JP 2015524935A JP 2015524935 A JP2015524935 A JP 2015524935A JP WO2015001615 A1 JPWO2015001615 A1 JP WO2015001615A1
- Authority
- JP
- Japan
- Prior art keywords
- virtual machine
- instruction set
- instruction
- moved
- unit
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/44—Arrangements for executing specific programs
- G06F9/455—Emulation; Interpretation; Software simulation, e.g. virtualisation or emulation of application or operating system execution engines
- G06F9/45533—Hypervisors; Virtual machine monitors
- G06F9/45558—Hypervisor-specific management and integration aspects
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/48—Program initiating; Program switching, e.g. by interrupt
- G06F9/4806—Task transfer initiation or dispatching
- G06F9/4843—Task transfer initiation or dispatching by program, e.g. task dispatcher, supervisor, operating system
- G06F9/485—Task life-cycle, e.g. stopping, restarting, resuming execution
- G06F9/4856—Task life-cycle, e.g. stopping, restarting, resuming execution resumption being on a different machine, e.g. task migration, virtual machine migration
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/44—Arrangements for executing specific programs
- G06F9/455—Emulation; Interpretation; Software simulation, e.g. virtualisation or emulation of application or operating system execution engines
- G06F9/45533—Hypervisors; Virtual machine monitors
- G06F9/45558—Hypervisor-specific management and integration aspects
- G06F2009/4557—Distribution of virtual machine instances; Migration and load balancing
Landscapes
- Engineering & Computer Science (AREA)
- Software Systems (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Debugging And Monitoring (AREA)
- Hardware Redundancy (AREA)
Abstract
Description
例えば、サーバ等は、仮想マシンの移動前後の物理サーバがそなえるCentral Processing Unit(CPU)の違いによる、命令(拡張CPU命令セット)のサポート有無を確認する。サーバ等は、確認の結果、サポートする拡張CPU命令セットが異なる物理サーバ(CPU)間では、仮想マシンのマイグレーションを行なわない。
CPUがサポートする拡張命令セットは、CPUの仕様等によってレベル(水準)が異なる。なお、古い世代のCPUは、新しい世代のCPUよりも拡張命令セットに含まれる命令が少ない、つまり低レベルであることが多い。
サポートする拡張命令セットのレベルが低い物理サーバ(CPU)から高い物理サーバ(CPU)へ仮想マシンが移動される場合、仮想マシンは、移動前のCPUがサポートしない命令は移動後のCPUがサポートしていても利用しない。これは、仮想マシンが、起動したときの物理サーバ(CPU)でサポートされる拡張命令セットに従って動作するためである。
なお、仮想マシンが利用する拡張命令セットを、仮想マシンが実行され得る複数の物理サーバでサポートされる拡張命令セットのうちの、最低レベルの拡張命令セットに制限するハードウェアアシスト機構が知られている。ハードウェアアシスト機構によれば、仮想マシンはミニマムセットの拡張命令セットを利用するため、仮想マシンは、制限された結果のレベルと同レベルの命令セットをサポートするVMホスト間において移動が可能になる。従って、VM配置管理サーバ等は、移動前よりもサポートする拡張命令セットのレベルが低い物理サーバを移動先から除外せずに済む。なお、ハードウェアアシスト機構としては、例えばIntel(登録商標)の“FlexMigration”が挙げられる。
さらに、関連する他の技術として、共有メモリに接続された第1及び第2スイッチングハイパーバイザ間で仮想マシンの実行を切り替える技術も知られている(例えば、特許文献2参照)。この技術では、仮想マシンは、仮想マシンに用いられるハードウェアアーキテクチャが実行の切り替え前と異なる場合、命令セットをシミュレートする。
なお、上述した関連する技術では、上記課題については考慮されていない。
1つの側面では、本発明は、情報処理装置間での仮想マシンの移動を許容する情報処理システムにおいて、仮想マシンによる情報処理システムの利用効率を向上させることを目的とする。
〔1〕一実施形態
〔1−1〕情報処理システムの構成
以下、図1を参照して、一実施形態の一例としての情報処理システム1の構成について説明する。
図1に示すように、一実施形態に係る情報処理システム1は、複数(例えば2つ)の物理サーバ2−1及び2−2(以下、物理サーバ2−1及び2−2を区別しない場合には、単に物理サーバ2という)、及び、VM配置管理サーバ3をそなえる。
情報処理システム1は、複数の物理サーバ2間で、仮想マシンのマイグレーション(例えばライブマイグレーション)を実行する。
物理サーバ2−1は、Hypervisor(HV)4−1及び複数(例えば3つ)のVM5−1〜5−3をそなえる。また、物理サーバ2−2は、HV4−2及び複数(例えば3つ)のVM5−4〜5−6をそなえる。以下、HV4−1及び4−2を区別しない場合には、単にHV4といい、VM5−1〜5−6を区別しない場合には、単にVM5という。
また、HV4は、拡張CPU命令セット(拡張命令セット,命令セット)を用いてVM5を制御する他の物理サーバ2との間で、VM5の移動(移送)を許容する。本実施形態においては、HV4は、他の物理サーバ2のCPUが用いる拡張命令セットのレベル(命令レベル,利用レベル)が、自物理サーバ2のCPUが用いる拡張命令セットのレベルと異なる場合にも、VM5の移動を許容することができる。
また、Intel x86系CPUの拡張命令セットとして、暗号化系命令であるAdvanced Encryption Standard Instruction Set(AES−NI)等も挙げられる。
VM(仮想マシン)5は、HV4による制御の下、OS(ゲストOS)の実行等の種々の処理を行なうソフトウェアである。
VM配置管理サーバ3は、物理サーバ2間でのマイグレーションを管理するサーバである。VM配置管理サーバ3は、複数の物理サーバ2の情報と、VM5の情報とを対応付けて管理し、情報処理システム1の管理者等からの指示に応じて、VM5のマイグレーションを行なう。VM配置管理サーバ3としては、PCやサーバ等の情報処理装置が挙げられる。
次に、図2を参照して、物理サーバ2のハードウェア構成について説明する。図2は、図1に示す物理サーバ2のハードウェア構成例を示す図である。
物理サーバ2は、図2に示すように、CPU20a、メモリ20b、記憶部20c、インタフェース部20d、入出力部20e、記録媒体20f、及び読取部20gをそなえる。
記憶部20cは、例えばHard Disk Drive(HDD)等の磁気ディスク装置、Solid State Drive(SSD)等の半導体ドライブ装置、又はフラッシュメモリ等の不揮発性メモリ等の、種々のデータやプログラム等を格納する1以上のハードウェアである。記憶部20cが有する記憶領域は、物理サーバ2、HV4、又はVM5等により用いられる。
記録媒体20fは、フラッシュメモリやROM等の記憶装置であり、種々のデータやプログラムを記録する。読取部20gは、光ディスクやUniversal Serial Bus(USB)メモリ等のコンピュータ読取可能な記録媒体20hに記録されたデータやプログラムを読み出す装置である。
なお、VM配置管理サーバ3についても、物理サーバ2と同様のハードウェア構成をそなえることができる。
次に、図3を参照して、物理サーバ2の機能構成について説明する。図3は、図1に示す物理サーバ2の機能構成例を示す図である。
本実施形態に係る物理サーバ2は、CPU20aの拡張命令セットのレベルが異なるVMホスト間でマイグレーションを実施することができる。なお、以下の説明では、物理サーバ2−1及び2−2の各々がそなえるCPU20aの拡張命令セットのレベルは、互いに異なるものとする。
なお、VM5の再認識部51は、VM5−1〜5−6の各々がそなえることができ、HV4、VM5、及びCPU20aの各機能は、物理サーバ2−1及び2−2の各々がそなえることができる。
命令セット制限部201は、VM5ごとに拡張命令セットの利用制限をかける機能であり、上述した“FlexMigration”等のハードウェアアシスト機構により実現される。
命令セット制限部201は、HV4からの指示に応じて、特定のVM5が認識する拡張命令セットを、所定のレベルに制限することができる。例えば、HV4から、特定のVM5に利用させる拡張命令セットをレベル2(SSE2)にする旨の指示を受けると、命令セット制限部201は、CPU20aがレベル4(SSE4)をサポートしていても、当該VM5にはレベル2を通知する。つまり、命令セット制限部201は、特定のVM5からの利用可能な拡張命令セットの問い合わせ(例えばCPUID命令)に対して、利用可能な拡張命令セットがSSE2である旨の応答を行なう。
再認識部51は、自VM5がマイグレーションの対象である場合に、HV4から、移動先の物理サーバ2で利用可能な拡張命令セットに関する情報を通知されることで、アーキテクチャを再認識する。
ここで、OSやアプリケーションは、利用可能な拡張命令セットを最大限使おうとすることが多い。例えば、OSやアプリケーションは、物理サーバやVMにおける実行が開始されると、利用可能な拡張命令セットを判定して、判定した拡張命令セットを利用するライブラリやコンパイラ出力モード等の選択を行なう。そして、OSやアプリケーションは、物理サーバやVMにおける実行が停止するまで、選択したライブラリやコンパイラ出力モード等を用いて動作する。
例えば、VM5は、OSが直接ハンドリングできるコード(例えばカーネルやライブラリ等)については、OSにより使用コードの切り替えを行なう。また、VM5は、OSが直接ハンドリングできないコード(例えばユーザコード等)については、OSによりユーザプログラム等へ使用コードの切替要求を発行する。
再認識指示部(通知部)41は、マイグレーションにより移動されるVM5に対して移動先の物理サーバ2で利用可能な拡張命令セットに関する情報を通知する。例えば、再認識指示部41は、VM配置管理サーバ3からマイグレーションの移動対象のVM5を通知されると、通知されたVM5に対して、アーキテクチャの再認識を指示することで、移動後に利用可能な拡張命令セットに関する情報を通知する。これにより、HV4は、VM5に対して、マイグレーションが行なわれる際に拡張命令セットを再認識するトリガを与えることができる。
(a)VM5の移動後に再認識指示を発行し、拡張命令セットを切り替えさせる(ポスト切り替え方式)。
(b)VM5の移動前に再認識指示を発行し、事前に拡張命令セットを切り替えさせる(プレ切り替え方式)。
一方、上記(b)の場合、再認識指示は、移動される(移動前の)VM5に対して、移動元の物理サーバ2のHV4(再認識指示部41)により発行される。なお、このとき、再認識指示部41は、命令セット制限部201への指示を通じて、事前に、当該VM5が自物理サーバ2で利用する拡張命令セットに関する情報を、移動先で用いられる拡張命令セットに関する情報に変更する。ここで、拡張命令セットに関する情報とは、上述した拡張命令セットのレベルのほか、拡張命令セットを特定する情報であってもよい。
制限レベル管理部42は、自HV4の配下にVM5が追加されたときや他のHV4から移動してきたときに、当該VM5が利用する利用レベルを命令セット制限部201から取得して、テーブルに追加することによりテーブルを更新する。また、制限レベル管理部42は、命令セット制限部201によりVM5の利用レベルが変更されたとき、又は、自HV4から他のHV4へVM5が移動したときに、テーブルの当該VM5のエントリの利用レベルを変更、又は、当該エントリを削除する。
ここで、再認識指示部41が、移動されるVM5への再認識指示の発行を、上記(a)及び(b)のいずれのタイミングで実行するかについて説明する。
再認識指示部41は、制限レベル管理部42が管理するテーブルと、VM配置管理サーバ3から通知される情報とに基づいて、再認識指示の発行タイミングを決定する。
また、移動元の再認識指示部41は、上述のようにVM配置管理サーバ3から通知された、移動先の物理サーバ2で利用可能な拡張命令セットに関する情報(例えば利用可能なレベル;利用可能レベル)を確認する。
一例として、移動元の再認識指示部41は、移動元での利用レベルが、移動先での利用可能レベルよりも高いと判断した場合、VM5の移動前に再認識指示を発行すると判断する。
一方、移動元の再認識指示部41は、移動元での利用レベルが、移動先での利用可能レベルよりも低いと判断した場合、移動前にはVM5への再認識指示を行なわず、VM5の移動後に再認識指示を発行すると判断する。
以上のように、移動元の再認識指示部41は、再認識指示の発行タイミングを決定する。
また、移動先の再認識指示部41は、VM配置管理サーバ3によってライブマイグレーションによるVM5の移動が実行されると、移動されたVM5へ再認識指示を発行するか否かを判断する。この判断は、移動元の再認識指示部41から、再認識指示の発行要求を受けたか否かによって行なわれてもよいし、移動されたVM5の移動前後のレベルの比較結果を受け取った場合には、当該比較結果に基づいて行なわれてもよい。
例えば、移動先の再認識指示部41は、上述のようにVM配置管理サーバ3から通知された、移動されたVM5が移動元の物理サーバ2で利用していた拡張命令セットに関する情報(例えば利用レベル)を確認する。また、移動先の再認識指示部41は、移動されたVM5が自HV4での利用可能レベルを、制限レベル管理部42から取得して確認する。そして、移動先の再認識指示部41は、移動されたVM5の移動元での利用レベルと、自HV4での利用可能レベルとを比較して、比較結果を得てもよい。
そして、移動先の再認識指示部41は、拡張されたと判断した場合、又は、移動元から再認識指示の発行要求を受けた場合、移動されたVM5へ再認識指示を発行する。
以上のように、移動先の再認識指示部41は、移動されたVM5が移動元のHV4で再認識を行なっていない場合に、移動されたVM5へ再認識指示を発行する。
なお、移動元及び移動先の再認識指示部41は、移動されるVM5の移動元での利用レベルと移動先での利用可能レベルとを、互いにネゴシエーションを行なって交換(確認)してもよい。
例えば、VM5は、上述のように、再認識指示を受けて再認識を行なうと、CPU20aへ再認識後に指示する処理(コード)の切り替えを行なう。このとき、VM5は、少なくとも再認識に伴い利用できなくなった命令について、当該命令を含むコンパイル済みのコードを無効化し、利用可能な命令により再度コンパイルする処理等を行なう。このような処理は、例えば移動元のHV4で実行される場合、VMホスト(HV4)の負荷を増大させ、マイグレーションを含む各処理を遅延させる要因となり得る。
〔1−3−3−2〕再認識指示部による再認識部への再認識指示手法
再認識指示部41は、VM5の再認識部51に対して、以下の(A)〜(D)のいずれかの手法により、再認識指示を通知することができる。
・割り込みによる手法
(A)予めVM5側にアーキテクチャの再認識用の割り込みを設定(規定)する。再認識指示部41(HV4)は、設定された割り込みを発生させる(割り込み注入(Interrupt Injection)を行なう)ことにより、VM5(再認識部51)に対して割り込みが発生したと認識させる。
(B)HV4は、割り込み元として、VM5(OS)に仮想ハードウェア及びこの仮想ハードウェアのドライバを設定する。このドライバは、割り込みが発生すると、VM5(再認識部51)に対して再認識指示が発行されたと認識させるように設定される。再認識指示部41は、仮想ハードウェアからVM5(OS)のドライバに割り込みを発生させる。
(C)HV4は、割り込み元として、VM5(OS)に、VM5(再認識部51)に対して再認識指示が発行されたことを割り込み要因とする割り込みベクタを設定する。再認識指示部41は、割り込みベクタにより割り込みを発生させる。
・ハンドラ登録による手法
(D)VM5は、OSにアーキテクチャの再認識用のハンドラを登録し、HV4へ通知する。再認識指示部41は、イベント(再認識指示の発行)に応じて、VM5から通知されたハンドラを実行し、VM5(再認識部51)に対して再認識指示が発行されたと認識させる。
〔1−3−4〕拡張CPU命令セットエミュレーション部の説明
拡張CPU命令セットエミュレーション部(エミュレーション部)43は、移動されたVM5により、移動元の拡張命令セットに含まれる命令であって移動先の拡張命令セットに含まれない命令が実行された場合、実行された命令のエミュレーションを行なう。
VM5へ再認識指示が発行されたにもかかわらず、“例外”が発生する場合としては、VM5(OS)が再認識指示を無視した場合のほか、VM5(OS)又はアプリケーション(ユーザプログラム)が再認識に対応できない場合が挙げられる。
また、拡張CPU命令セットエミュレーション部43は、“例外”を発生させた命令(例外発生命令)を実行したVM5の移動元での拡張命令セットの命令レベルを確認し、当該命令が移動元で利用可能な命令であるか否かを判断する。なお、拡張CPU命令セットエミュレーション部43は、例外発生命令を発行したVM5の移動元のHV4及び命令レベルを、例えば当該命令を発行したVM5に問い合わせることで特定してもよい。或いは、HV4は、マイグレーションのときに取得した情報をメモリ20b等に保存しておき、拡張CPU命令セットエミュレーション部43が、メモリ20b等から取得してもよい。
一方、拡張CPU命令セットエミュレーション部43は、例外発生命令が移動元で利用可能な命令であると判断した場合、当該命令のエミュレーションを実行する。
例えば、拡張CPU命令セットエミュレーション部43は、例外発生命令による“例外”が所定回数以上発生し、再度の再認識指示を発行すると判断した場合、再認識指示部41へ、VM5に対する再度の再認識指示を要求する。
そして、拡張CPU命令セットエミュレーション部43は、再認識指示部41へ再度の再認識指示を要求すると、又は、再度の再認識指示を発行しないと判断すると、例外”からの復帰を行なう。
〔1−4〕動作例
次に、図4〜図7を参照して、上述の如く構成された一実施形態の一例としての情報処理システム1における物理サーバ2の動作例を説明する。
図6は、図3に示す物理サーバ2による例外発生命令への処理の一例を説明するフローチャートであり、図7は、図3に示す物理サーバ2による例外発生命令への処理の一例を説明する図である。
〔1−4−1〕マイグレーション処理
はじめに、図4及び図5を参照して、物理サーバ2によるマイグレーション(ライブマイグレーション)処理について説明する。
そして、再認識指示部41により、移動前にVM5による拡張命令セットの利用レベルの再認識を実施するか否かが判断される(ステップS3)。再認識指示部41により、例えば、移動されるVM5が利用する拡張命令セットがマイグレーションにより縮退されると判断された場合、移動前の再認識を実施すると判断され(ステップS3のYesルート)、処理がステップS4に移行する。
ステップS5では、VM配置管理サーバ3、並びに、移動元及び移動先の物理サーバ2により、ライブマイグレーションによるVM5の移動が実行される。
ステップS7では、再認識指示部41により、移動されたVM5に対して、移動後の再認識指示が発行され、処理が終了する。なお、このとき、再認識指示部41は、移動対象のVM5の再認識部51へ、移動先のVMホストの拡張命令セット(利用レベル)を再認識させるべく、再認識指示を発行する(図5の矢印(iv)参照)。
なお、上述の如く、移動元及び移動先の再認識指示部41は、ステップS1〜S3及びS6において、移動されるVM5の移動元での利用レベルと移動先での利用可能レベルとを、互いにネゴシエーションを行なって交換(確認)してもよい。
〔1−4−2〕例外発生命令への処理
次に、図6及び図7を参照して、物理サーバ2による例外発生命令への処理について説明する。
また、拡張CPU命令セットエミュレーション部43により、例外発生命令を発行したVM5の移動元が特定され、移動元で利用可能な命令レベルが確認される(ステップS13)。
ステップS19では、拡張CPU命令セットエミュレーション部43により、例外発生命令について、“例外”からの復帰が行なわれ、処理が終了する。
〔2〕第1変形例
次に、図8及び図9を参照して、一実施形態の第1変形例について説明する。
図8に示すように、第1変形例に係る物理サーバ2’は、図3に示す物理サーバ2と比較して、HV4’が命令セット制限部44をさらにそなえるとともに、CPU20a’が命令セット制限部201をそなえていない点が異なる。
命令セット制限部44は、命令セット制限部201と同様の機能を、HV4’(ソフトウェア)により実現する。すなわち、命令セット制限部44は、再認識指示部41からの拡張命令セットの利用レベルの変更要求に応じて、VM5ごとに拡張命令セットの利用制限をかけることができる(図9の矢印(iii’)参照)。
例えば、図3に示すHV4は、VM5の再認識部51からCPUID命令等の拡張命令セットに関する情報の取得要求を受信すると、当該要求をCPU20aの命令セット制限部201へ渡し、命令セット制限部201からの応答を再認識部51へ返す。
このように、一実施形態の第1変形例に係る物理サーバ2’によれば、一実施形態と同様の効果を奏することができる。
〔3〕第2変形例
次に、図10及び図11を参照して、一実施形態の第2変形例について説明する。
図10に示すように、第2変形例に係る物理サーバ2”は、図3に示す物理サーバ2と比較して、拡張CPU命令セットエミュレーション部43の代わりに、HV4”が拡張CPU命令セット変換部45をそなえる点が異なる。
拡張CPU命令セット変換部(エミュレーション部)45は、拡張CPU命令セットエミュレーション部43と同様に、トラップした例外発生命令のエミュレーションを行なうことができる。
例えば、HV4による命令のエミュレーションの処理時間は、CPU20aによる命令の処理時間の10倍以上となるため、エミュレーションの実行頻度の増加は、処理遅延の要因となる。また、HV4”によりトラップが行なわれるとCPU20aの動作モードが変わるため、トラップの実行頻度の増加も、処理遅延の要因となる。
具体的には、拡張CPU命令セット変換部45は、例外発生命令を確認し(図11の矢印(v’)参照)、以前にエミュレーションを行なっていると判断すると、以下の(I)〜(III)のいずれかの手法により、例外発生命令の変換を行なう。
(I)拡張CPU命令セット変換部45は、例外発生命令を、CPU20aが実行可能なコードに置き換える(バイナリパッチをあてる)。
(II)拡張CPU命令セット変換部45は、例外発生命令を、代わりの処理へのジャンプに置き換え、ジャンプ先に、CPU20aが実行可能な処理とジャンプ元へのリターンとを記述する。
(III)拡張CPU命令セット変換部45は、メモリ20b上に展開された、例外発生命令を含むプログラムの命令内容をスキャンし、禁止命令をCPU20aが実行可能な命令に書き換えるコンパイル(バイナリコンパイル)を行なう。
なお、上記(I)〜(III)は例示であり、上述したものに限られず、例外発生命令の変換処理としては、既知の種々の手法を用いることが可能である。
このように、一実施形態の第2変形例に係る物理サーバ2”によれば、一実施形態と同様の効果を奏することができる。
〔4〕その他
以上、本発明の好ましい実施形態について詳述したが、本発明は、係る特定の実施形態に限定されるものではなく、本発明の趣旨を逸脱しない範囲内において、種々の変形、変更して実施することができる。
また、上述した一実施形態、並びに、第1及び第2変形例に係る物理サーバ2〜2”の機能は、任意に組み合わせてもよい。
そのプログラムは、例えばフレキシブルディスク、CD、DVD、ブルーレイディスク等のコンピュータ読取可能な記録媒体(例えば図2に示す記録媒体20h)に記録された形態で提供される。なお、CDとしては、CD−ROM、CD−R、CD−RW等が挙げられる。また、DVDとしては、DVD−ROM、DVD−RAM、DVD−R、DVD−RW、DVD+R、DVD+RW等が挙げられる。この場合、コンピュータはその記録媒体からプログラムを読み取って内部記憶装置または外部記憶装置に転送し格納して用いる。
2,2’,2”,2−1,2−2 物理サーバ(情報処理装置,仮想マシン管理装置)
3 VM配置管理サーバ
4,4’,4”,4−1,4−2 HV(ハイパーバイザ,制御部)
5,5−1〜5−6 VM(仮想マシン)
20a,20a’ CPU(プロセッサ,処理部)
20b メモリ
20c 記憶部
20d インタフェース部
20e 入出力部
20f,20h 記録媒体
20g 読取部
41 再認識指示部
42 制限レベル管理部
43 拡張CPU命令セットエミュレーション部(エミュレーション部)
44,201 命令セット制限部
45 拡張CPU命令セット変換部(エミュレーション部)
51 再認識部
〔5〕付記
以上の実施形態、並びに、第1及び第2変形例に関し、更に以下の付記を開示する。
(付記1)
第1の命令セットを用いて仮想マシンを制御する第1の情報処理装置へ、第2の命令セットを用いて仮想マシンを制御する第2の情報処理装置からの仮想マシンの移動を許容し、
前記第2の情報処理装置から前記第1の情報処理装置へ移動される仮想マシンに対して前記第1の命令セットに関する情報を通知し、
前記第1の情報処理装置は、移動された前記仮想マシンに対して、前記第1の命令セットを用いた制御を実行する、
ことを特徴とする、仮想マシン管理方法。
(付記2)
前記通知は、前記第1の命令セットの水準及び前記第2の命令セットの水準に基づいて、仮想マシンの移動前又は移動後に、前記移動される仮想マシンに対する、前記移動される仮想マシンの制御に用いられる命令セットを認識させる指示によって行なわれる、
ことを特徴とする、付記1記載の仮想マシン管理方法。
(付記3)
前記通知において、前記第2の情報処理装置は、
前記移動される仮想マシンの制御に用いられる命令セットに関する情報を、前記第2の命令セットに関する情報から前記第1の命令セットに関する前記情報に変更し、
前記移動される仮想マシンに対して、前記変更した命令セットに関する情報を認識させる前記指示を行なう、
ことを特徴とする、付記2記載の仮想マシン管理方法。
(付記4)
前記通知において、前記第1の情報処理装置は、
前記移動された仮想マシンに対して、前記移動された仮想マシンの制御に用いられる命令セットに関する情報を認識させる前記指示を行なう、
ことを特徴とする、付記2記載の仮想マシン管理方法。
(付記5)
前記通知は、前記第1の情報処理装置で動作する仮想マシンを制御する第1の制御部又は前記第2の情報処理装置で動作する仮想マシンを制御する第2の制御部が、前記移動される仮想マシンに対して割り込みを発生させて前記指示を行なうこと、並びに、前記第1又は第2の制御部が、前記移動される仮想マシンにより登録された前記指示を示すハンドラを実行すること、の少なくとも一方により行なわれる、
ことを特徴とする、付記2〜4のいずれか1項記載の仮想マシン管理方法。
(付記6)
前記第1の情報処理装置は、
前記移動された仮想マシンにより、前記第2の命令セットに含まれる命令であって前記第1の命令セットに含まれない命令が前記第1の情報処理装置において実行された場合、前記実行された命令のエミュレーションを行ない、
前記移動された仮想マシンに対して前記第1の命令セットに関する情報を再度通知する、
ことを特徴とする、付記1〜5のいずれか1項記載の仮想マシン管理方法。
(付記7)
前記第1の情報処理装置は、前記実行された命令について以前にエミュレーションを行なっている場合、前記実行された命令を、前記第1の情報処理装置が実行可能な命令に変換する、
ことを特徴とする、付記6記載の仮想マシン管理方法。
(付記8)
第1の命令セットを用いて仮想マシンを制御する第1の仮想マシン管理装置であって、
第2の命令セットを用いて仮想マシンを制御する第2の仮想マシン管理装置からの仮想マシンの移動を許容する制御部をそなえ、
前記制御部は、前記第2の仮想マシン管理装置から前記第1の仮想マシン管理装置へ移動される仮想マシンに対して前記第1の命令セットに関する情報を通知する通知部をそなえるとともに、
移動された前記仮想マシンに対して、前記第1の命令セットを用いた制御を実行する処理部をさらにそなえる、
ことを特徴とする、仮想マシン管理装置。
(付記9)
前記通知部は、前記第1の命令セットの水準及び前記第2の命令セットの水準に基づいて、仮想マシンの移動前又は移動後に、前記移動される仮想マシンに対して、前記移動される仮想マシンの制御に用いられる命令セットを認識させる指示を行なう、
ことを特徴とする、付記8記載の仮想マシン管理装置。
(付記10)
前記制御部は、前記第1の仮想マシン管理装置から前記第2の仮想マシン管理装置への仮想マシンの移動を許容し、
前記第1の仮想マシン管理装置から前記第2の仮想マシン管理装置へ移動される仮想マシンの制御に用いられる命令セットに関する情報を、前記第1の命令セットに関する情報から前記第2の命令セットに関する前記情報に変更する命令セット制限部をさらにそなえ、
前記通知部は、前記第1の仮想マシン管理装置から前記第2の仮想マシン管理装置へ移動される仮想マシンに対して、前記変更した命令セットに関する情報を認識させる前記指示を行なう、
ことを特徴とする、付記9記載の仮想マシン管理装置。
(付記11)
前記通知部は、前記移動された仮想マシンに対して、前記移動された仮想マシンの制御に用いられる命令セットに関する情報を認識させる前記指示を行なう、
ことを特徴とする、付記9記載の仮想マシン管理装置。
(付記12)
前記移動された仮想マシンにより、前記第2の命令セットに含まれる命令であって前記第1の命令セットに含まれない命令が前記第1の仮想マシン管理装置において実行された場合、前記実行された命令のエミュレーションを行なうエミュレーション部をさらにそなえ、
前記通知部は、前記移動された仮想マシンに対して前記第1の命令セットに関する情報を再度通知する、
ことを特徴とする、付記8〜11のいずれか1項記載の仮想マシン管理装置。
(付記13)
前記エミュレーション部は、前記実行された命令について以前にエミュレーションを行なっている場合、前記実行された命令を、前記第1の仮想マシン管理装置が実行可能な命令に変換する、
ことを特徴とする、付記12記載の仮想マシン管理装置。
(付記14)
第1の命令セットを用いて仮想マシンを制御する第1のコンピュータに、
第2の命令セットを用いて仮想マシンを制御する第2のコンピュータからの仮想マシンの移動を許容し、
前記第2のコンピュータから前記第1のコンピュータへ移動される仮想マシンに対して前記第1の命令セットに関する情報を通知し、
移動された前記仮想マシンに対して、前記第1の命令セットを用いた制御を実行する、
処理を前記第1のコンピュータに実行させることを特徴とする、仮想マシン管理プログラム。
(付記15)
前記通知は、前記第1の命令セットの水準及び前記第2の命令セットの水準に基づいて、仮想マシンの移動前又は移動後に、前記移動される仮想マシンに対する、前記移動される仮想マシンの制御に用いられる命令セットを認識させる指示によって行なわれる、
ことを特徴とする、付記14記載の仮想マシン管理プログラム。
(付記16)
前記第1のコンピュータから前記第2のコンピュータへの仮想マシンの移動を許容し、
前記第1のコンピュータから前記第2のコンピュータへ移動される仮想マシンの制御に用いられる命令セットに関する情報を、前記第1の命令セットに関する情報から前記第2の命令セットに関する前記情報に変更する、
処理を前記第1のコンピュータに実行させ、
前記通知は、前記第1のコンピュータから前記第2のコンピュータへ移動される仮想マシンに対する、前記変更した命令セットに関する情報を認識させる前記指示によって行なわれる、
ことを特徴とする、付記15記載の仮想マシン管理プログラム。
(付記17)
前記通知は、前記移動された仮想マシンに対する、前記移動された仮想マシンの制御に用いられる命令セットに関する情報を認識させる前記指示によって行なわれる、
ことを特徴とする、付記15記載の仮想マシン管理プログラム。
(付記18)
前記通知は、前記第1のコンピュータで動作する仮想マシンを制御する制御部により、前記移動される仮想マシンに対して割り込みを発生させて前記指示を行なうこと、並びに、前記制御部により、前記移動される仮想マシンにより登録された前記指示を示すハンドラを実行すること、の少なくとも一方により実行される、
ことを特徴とする、付記15〜17のいずれか1項記載の仮想マシン管理プログラム。
(付記19)
前記移動された仮想マシンにより、前記第2の命令セットに含まれる命令であって前記第1の命令セットに含まれない命令が前記第1のコンピュータにおいて実行された場合、前記実行された命令のエミュレーションを行ない、
前記移動された仮想マシンに対して前記第1の命令セットに関する情報を再度通知する、
処理を前記第1のコンピュータに実行させることを特徴とする、付記14〜18のいずれか1項記載の仮想マシン管理プログラム。
(付記20)
前記実行された命令について以前にエミュレーションを行なっている場合、前記第1のコンピュータで動作する仮想マシンを制御する制御部により、前記実行された命令を、前記第1のコンピュータが実行可能な命令に変換する、
処理を前記第1のコンピュータに実行させることを特徴とする、付記19記載の仮想マシン管理プログラム。
Claims (20)
- 第1の命令セットを用いて仮想マシンを制御する第1の情報処理装置へ、第2の命令セットを用いて仮想マシンを制御する第2の情報処理装置からの仮想マシンの移動を許容し、
前記第2の情報処理装置から前記第1の情報処理装置へ移動される仮想マシンに対して前記第1の命令セットに関する情報を通知し、
前記第1の情報処理装置は、移動された前記仮想マシンに対して、前記第1の命令セットを用いた制御を実行する、
ことを特徴とする、仮想マシン管理方法。 - 前記通知は、前記第1の命令セットの水準及び前記第2の命令セットの水準に基づいて、仮想マシンの移動前又は移動後に、前記移動される仮想マシンに対する、前記移動される仮想マシンの制御に用いられる命令セットを認識させる指示によって行なわれる、
ことを特徴とする、請求項1記載の仮想マシン管理方法。 - 前記通知において、前記第2の情報処理装置は、
前記移動される仮想マシンの制御に用いられる命令セットに関する情報を、前記第2の命令セットに関する情報から前記第1の命令セットに関する前記情報に変更し、
前記移動される仮想マシンに対して、前記変更した命令セットに関する情報を認識させる前記指示を行なう、
ことを特徴とする、請求項2記載の仮想マシン管理方法。 - 前記通知において、前記第1の情報処理装置は、
前記移動された仮想マシンに対して、前記移動された仮想マシンの制御に用いられる命令セットに関する情報を認識させる前記指示を行なう、
ことを特徴とする、請求項2記載の仮想マシン管理方法。 - 前記通知は、前記第1の情報処理装置で動作する仮想マシンを制御する第1の制御部又は前記第2の情報処理装置で動作する仮想マシンを制御する第2の制御部が、前記移動される仮想マシンに対して割り込みを発生させて前記指示を行なうこと、並びに、前記第1又は第2の制御部が、前記移動される仮想マシンにより登録された前記指示を示すハンドラを実行すること、の少なくとも一方により行なわれる、
ことを特徴とする、請求項2〜4のいずれか1項記載の仮想マシン管理方法。 - 前記第1の情報処理装置は、
前記移動された仮想マシンにより、前記第2の命令セットに含まれる命令であって前記第1の命令セットに含まれない命令が前記第1の情報処理装置において実行された場合、前記実行された命令のエミュレーションを行ない、
前記移動された仮想マシンに対して前記第1の命令セットに関する情報を再度通知する、
ことを特徴とする、請求項1〜5のいずれか1項記載の仮想マシン管理方法。 - 前記第1の情報処理装置は、前記実行された命令について以前にエミュレーションを行なっている場合、前記実行された命令を、前記第1の情報処理装置が実行可能な命令に変換する、
ことを特徴とする、請求項6記載の仮想マシン管理方法。 - 第1の命令セットを用いて仮想マシンを制御する第1の仮想マシン管理装置であって、
第2の命令セットを用いて仮想マシンを制御する第2の仮想マシン管理装置からの仮想マシンの移動を許容する制御部をそなえ、
前記制御部は、前記第2の仮想マシン管理装置から前記第1の仮想マシン管理装置へ移動される仮想マシンに対して前記第1の命令セットに関する情報を通知する通知部をそなえるとともに、
移動された前記仮想マシンに対して、前記第1の命令セットを用いた制御を実行する処理部をさらにそなえる、
ことを特徴とする、仮想マシン管理装置。 - 前記通知部は、前記第1の命令セットの水準及び前記第2の命令セットの水準に基づいて、仮想マシンの移動前又は移動後に、前記移動される仮想マシンに対して、前記移動される仮想マシンの制御に用いられる命令セットを認識させる指示を行なう、
ことを特徴とする、請求項8記載の仮想マシン管理装置。 - 前記制御部は、前記第1の仮想マシン管理装置から前記第2の仮想マシン管理装置への仮想マシンの移動を許容し、
前記第1の仮想マシン管理装置から前記第2の仮想マシン管理装置へ移動される仮想マシンの制御に用いられる命令セットに関する情報を、前記第1の命令セットに関する情報から前記第2の命令セットに関する前記情報に変更する命令セット制限部をさらにそなえ、
前記通知部は、前記第1の仮想マシン管理装置から前記第2の仮想マシン管理装置へ移動される仮想マシンに対して、前記変更した命令セットに関する情報を認識させる前記指示を行なう、
ことを特徴とする、請求項9記載の仮想マシン管理装置。 - 前記通知部は、前記移動された仮想マシンに対して、前記移動された仮想マシンの制御に用いられる命令セットに関する情報を認識させる前記指示を行なう、
ことを特徴とする、請求項9記載の仮想マシン管理装置。 - 前記移動された仮想マシンにより、前記第2の命令セットに含まれる命令であって前記第1の命令セットに含まれない命令が前記第1の仮想マシン管理装置において実行された場合、前記実行された命令のエミュレーションを行なうエミュレーション部をさらにそなえ、
前記通知部は、前記移動された仮想マシンに対して前記第1の命令セットに関する情報を再度通知する、
ことを特徴とする、請求項8〜11のいずれか1項記載の仮想マシン管理装置。 - 前記エミュレーション部は、前記実行された命令について以前にエミュレーションを行なっている場合、前記実行された命令を、前記第1の仮想マシン管理装置が実行可能な命令に変換する、
ことを特徴とする、請求項12記載の仮想マシン管理装置。 - 第1の命令セットを用いて仮想マシンを制御する第1のコンピュータに、
第2の命令セットを用いて仮想マシンを制御する第2のコンピュータからの仮想マシンの移動を許容し、
前記第2のコンピュータから前記第1のコンピュータへ移動される仮想マシンに対して前記第1の命令セットに関する情報を通知し、
移動された前記仮想マシンに対して、前記第1の命令セットを用いた制御を実行する、
処理を前記第1のコンピュータに実行させることを特徴とする、仮想マシン管理プログラム。 - 前記通知は、前記第1の命令セットの水準及び前記第2の命令セットの水準に基づいて、仮想マシンの移動前又は移動後に、前記移動される仮想マシンに対する、前記移動される仮想マシンの制御に用いられる命令セットを認識させる指示によって行なわれる、
ことを特徴とする、請求項14記載の仮想マシン管理プログラム。 - 前記第1のコンピュータから前記第2のコンピュータへの仮想マシンの移動を許容し、
前記第1のコンピュータから前記第2のコンピュータへ移動される仮想マシンの制御に用いられる命令セットに関する情報を、前記第1の命令セットに関する情報から前記第2の命令セットに関する前記情報に変更する、
処理を前記第1のコンピュータに実行させ、
前記通知は、前記第1の仮想マシン管理装置から前記第2の仮想マシン管理装置へ移動される仮想マシンに対する、前記変更した命令セットに関する情報を認識させる前記指示によって行なわれる、
ことを特徴とする、請求項15記載の仮想マシン管理プログラム。 - 前記通知は、前記移動された仮想マシンに対する、前記移動された仮想マシンの制御に用いられる命令セットに関する情報を認識させる前記指示によって行なわれる、
ことを特徴とする、請求項15記載の仮想マシン管理プログラム。 - 前記通知は、前記第1のコンピュータで動作する仮想マシンを制御する制御部により、前記移動される仮想マシンに対して割り込みを発生させて前記指示を行なうこと、並びに、前記制御部により、前記移動される仮想マシンにより登録された前記指示を示すハンドラを実行すること、の少なくとも一方により実行される、
ことを特徴とする、請求項15〜17のいずれか1項記載の仮想マシン管理プログラム。 - 前記移動された仮想マシンにより、前記第2の命令セットに含まれる命令であって前記第1の命令セットに含まれない命令が前記第1のコンピュータにおいて実行された場合、前記実行された命令のエミュレーションを行ない、
前記移動された仮想マシンに対して前記第1の命令セットに関する情報を再度通知する、
処理を前記第1のコンピュータに実行させることを特徴とする、請求項14〜18のいずれか1項記載の仮想マシン管理プログラム。 - 前記実行された命令について以前にエミュレーションを行なっている場合、前記第1のコンピュータで動作する仮想マシンを制御する制御部により、前記実行された命令を、前記第1のコンピュータが実行可能な命令に変換する、
処理を前記第1のコンピュータに実行させることを特徴とする、請求項19記載の仮想マシン管理プログラム。
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
PCT/JP2013/068129 WO2015001615A1 (ja) | 2013-07-02 | 2013-07-02 | 仮想マシン管理方法,仮想マシン管理装置,および仮想マシン管理プログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JPWO2015001615A1 true JPWO2015001615A1 (ja) | 2017-02-23 |
JP6197871B2 JP6197871B2 (ja) | 2017-09-20 |
Family
ID=52143238
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2015524935A Expired - Fee Related JP6197871B2 (ja) | 2013-07-02 | 2013-07-02 | 仮想マシン管理方法,仮想マシン管理装置,および仮想マシン管理プログラム |
Country Status (4)
Country | Link |
---|---|
US (1) | US20160132350A1 (ja) |
EP (1) | EP3018583A4 (ja) |
JP (1) | JP6197871B2 (ja) |
WO (1) | WO2015001615A1 (ja) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108883557A (zh) * | 2016-03-29 | 2018-11-23 | 株式会社钟化 | 发泡复合成型体的制造方法、模内发泡成型体单元、发泡复合成型体以及发泡复合成型用的模具 |
US11803407B1 (en) * | 2020-09-29 | 2023-10-31 | Amazon Technologies, Inc. | Emulation layer for overcoming incompatibilities in virtual machine instance migration |
Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2010272055A (ja) * | 2009-05-25 | 2010-12-02 | Sony Corp | 情報処理装置および方法、並びにプログラム |
Family Cites Families (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8327354B1 (en) * | 2007-05-31 | 2012-12-04 | Hewlett-Packard Development Company, L.P. | Virtualization with binary translation |
US8127296B2 (en) * | 2007-09-06 | 2012-02-28 | Dell Products L.P. | Virtual machine migration between processors having VM migration registers controlled by firmware to modify the reporting of common processor feature sets to support the migration |
US20110113426A1 (en) | 2009-11-09 | 2011-05-12 | Hsiang-Tsung Kung | Apparatuses for switching the running of a virtual machine between multiple computer devices belonging to the same computer platform and the associated switching methods |
JP2011123635A (ja) | 2009-12-10 | 2011-06-23 | Nec Corp | 情報処理装置、情報処理装置の制御方法、及び記録媒体 |
US8984507B2 (en) * | 2010-04-26 | 2015-03-17 | International Business Machines Corporation | Cross architecture virtual machine migration |
WO2014204453A1 (en) * | 2013-06-19 | 2014-12-24 | Empire Technology Development, Llc | Processor-optimized library loading for virtual machines |
-
2013
- 2013-07-02 WO PCT/JP2013/068129 patent/WO2015001615A1/ja active Application Filing
- 2013-07-02 JP JP2015524935A patent/JP6197871B2/ja not_active Expired - Fee Related
- 2013-07-02 EP EP13888626.2A patent/EP3018583A4/en not_active Withdrawn
-
2015
- 2015-12-22 US US14/979,044 patent/US20160132350A1/en not_active Abandoned
Patent Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2010272055A (ja) * | 2009-05-25 | 2010-12-02 | Sony Corp | 情報処理装置および方法、並びにプログラム |
Also Published As
Publication number | Publication date |
---|---|
EP3018583A1 (en) | 2016-05-11 |
EP3018583A4 (en) | 2017-02-15 |
US20160132350A1 (en) | 2016-05-12 |
WO2015001615A1 (ja) | 2015-01-08 |
JP6197871B2 (ja) | 2017-09-20 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5345652B2 (ja) | 部分仮想化マシンに基づく統一格納装置 | |
US10083022B2 (en) | Applying update to snapshots of virtual machine | |
RU2406113C2 (ru) | Системы и способы двухрежимной виртуализации устройства реальных и идеализированных аппаратных устройств | |
RU2412468C2 (ru) | Системы и способы многоуровневой обработки перехватов в виртуальной машинной среде | |
JP5680961B2 (ja) | 物理イメージと仮想イメージの統合的な提供 | |
US8196138B2 (en) | Method and system for migrating virtual machines between hypervisors | |
JP6018590B2 (ja) | ライブラリーオペレーティングシステムによるアプリケーションの互換性 | |
US9465636B2 (en) | Controlling virtual machine in cloud computing system | |
JP6196356B2 (ja) | コンテナに基づく仮想化システム用動作キャプチャ方法、および装置 | |
JP2017111812A (ja) | 透明で安全なインターセプション処理のための方法、コンピュータ・システム、ファームウェア、ハイパーバイザおよびコンピュータ・プログラム | |
KR20060047766A (ko) | 가상 기계 환경에서 에뮬레이트된 장치들을 개발하기 위한시스템 및 방법 | |
KR101806090B1 (ko) | 멀웨어 검출을 위한 애플리케이션들의 제네릭 언패킹 | |
US20160085568A1 (en) | Hybrid virtualization method for interrupt controller in nested virtualization environment | |
TW200917128A (en) | Virtual machine (VM) migration between processor architectures | |
JP2010272055A (ja) | 情報処理装置および方法、並びにプログラム | |
US8875132B2 (en) | Method and apparatus for implementing virtual proxy to support heterogeneous systems management | |
US20130318528A1 (en) | Information processing method | |
WO2020063432A1 (zh) | 一种升级虚拟化模拟器的方法和装置 | |
JP6197871B2 (ja) | 仮想マシン管理方法,仮想マシン管理装置,および仮想マシン管理プログラム | |
JP6189267B2 (ja) | 情報処理装置、方法およびプログラム | |
Tang et al. | When virtualization encounter AFL | |
JP5929353B2 (ja) | 例外処理方法、プログラム及び装置 | |
KR101083271B1 (ko) | 액티브엑스 컨트롤 변환 시스템 및 방법 | |
Im et al. | On-demand virtualization for live migration in bare metal cloud | |
KR101554554B1 (ko) | 가상 머신 구동 시스템 및 방법 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20170207 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20170404 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20170725 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20170807 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6197871 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
LAPS | Cancellation because of no payment of annual fees |