JPWO2014080949A1 - クラウド環境提供システム、サービス管理装置、経路制御方法及びプログラム - Google Patents

クラウド環境提供システム、サービス管理装置、経路制御方法及びプログラム Download PDF

Info

Publication number
JPWO2014080949A1
JPWO2014080949A1 JP2014548602A JP2014548602A JPWO2014080949A1 JP WO2014080949 A1 JPWO2014080949 A1 JP WO2014080949A1 JP 2014548602 A JP2014548602 A JP 2014548602A JP 2014548602 A JP2014548602 A JP 2014548602A JP WO2014080949 A1 JPWO2014080949 A1 JP WO2014080949A1
Authority
JP
Japan
Prior art keywords
cloud
cloud system
virtual
virtual machine
migration
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2014548602A
Other languages
English (en)
Other versions
JP6365306B2 (ja
Inventor
浩史 傅寳
浩史 傅寳
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NEC Corp
Original Assignee
NEC Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NEC Corp filed Critical NEC Corp
Publication of JPWO2014080949A1 publication Critical patent/JPWO2014080949A1/ja
Application granted granted Critical
Publication of JP6365306B2 publication Critical patent/JP6365306B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00Arrangements for program control, e.g. control units
    • G06F9/06Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46Multiprogramming arrangements
    • G06F9/48Program initiating; Program switching, e.g. by interrupt
    • G06F9/4806Task transfer initiation or dispatching
    • G06F9/4843Task transfer initiation or dispatching by program, e.g. task dispatcher, supervisor, operating system
    • G06F9/485Task life-cycle, e.g. stopping, restarting, resuming execution
    • G06F9/4856Task life-cycle, e.g. stopping, restarting, resuming execution resumption being on a different machine, e.g. task migration, virtual machine migration
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L45/00Routing or path finding of packets in data switching networks
    • H04L45/02Topology update or discovery
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L47/00Traffic control in data switching networks
    • H04L47/70Admission control; Resource allocation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00Network arrangements or protocols for supporting network services or applications
    • H04L67/01Protocols
    • H04L67/10Protocols in which an application is distributed across nodes in the network

Abstract

複数のクラウドシステム間で仮想マシンのマイグレーションを行う際の経路変更処理の時間短縮に貢献できる構成の提供。クラウド環境提供システムは、第1のクラウドシステムに配置された資源と、第2のクラウドシステムに配置された資源と、前記第1、第2のクラウドシステム間に配置された資源とを管理する資源管理手段と、前記第1のクラウドシステムのマシン上で動作するユーザの仮想マシンを、前記第2のクラウドシステムのマシンへ移行させるマイグレーションを実行するマイグレーション制御手段と、前記マイグレーションの実行後、前記資源管理手段にて管理されている通信ノードを制御して、前記第1のクラウドシステムで動作していた仮想マシンを宛先又は送信元とする経路を、前記第2のクラウドシステムで動作する仮想マシンを宛先又は送信元とする経路に変更する経路制御手段とを含む。

Description

[関連出願についての記載]
本発明は、日本国特許出願:特願2012−254945号(2012年11月21日出願)に基づくものであり、同出願の全記載内容は引用をもって本書に組み込み記載されているものとする。
本発明は、クラウド環境提供システム、サービス管理装置、経路制御方法及びプログラムに関し、特に、ユーザにクラウド環境を提供するクラウド環境提供システム、サービス管理装置、経路制御方法及びプログラムに関する。
特許文献1に、あるネットワークに接続するホストマシン(物理サーバマシン)上で稼働中の仮想マシンが、異なるネットワークに接続するホストマシン上へマイグレーションする技術が公開されている。同文献記載の技術によれば、仮想マシンのマイグレーションが起動されたときに、個々のホストマシン上で稼働する仮想ルータ間に、トンネルが構築され、そのトンネルを活用して仮想マシンのデータが転送される。そして、マイグレーション完了後には、マイグレーション先のホスト上で稼働する仮想ルータが、隣接する外部のルータへ、経路表の更新を行う、とされている。
特許文献2には、あるクラウドにおいて実行されているサービスを、他のクラウドのリソースを利用して提供できるようにした構成が開示されている。
非特許文献1、2には、物理スイッチを集中制御するタイプのオープンフローというネットワークアーキテクチャが開示されている。オープンフローは、フロー単位で、きめ細かな制御をなしうるため、オープンフロースイッチで構成された物理ネットワークを、VLAN IDなどでスライスし、複数の仮想ネットワークを提供することが可能となっている。また、オープンフローによれば、物理スイッチを、このような仮想ネットワーク上の仮想ノードとしてユーザに利用させることも可能となっている。
米国特許出願公開第2010/0287548号明細書 特開2011−186637号公報
Nick McKeownほか7名、"OpenFlow: Enabling Innovation in Campus Networks"、[online]、[平成24(2012)年9月25日検索]、インターネット〈URL:http://www.openflow.org/documents/openflow-wp-latest.pdf〉 "OpenFlow Switch Specification" Version 1.1.0 Implemented (Wire Protocol 0x02)、[online]、[平成24(2012)年9月25日検索]、インターネット〈URL:http://www.openflow.org/documents/openflow-spec-v1.1.0.pdf〉
以下の分析は、本発明によって与えられたものである。上記した特許文献1の第1の問題点は、VMマイグレーションに伴う経路変更処理に、時間が掛かってしまう点である。その理由は、特許文献1の0042段落に記載されているように、VMが移動したことが、分散した既存ルータの自律的な経路表更新動作によって伝搬されるからである。このため、経路変更処理が完了するまで、少なくとも数分の時間を要してしまうと考えられる。
上記した特許文献1の第2の問題点は、パケットロスの発生がある点である。その理由は、前述した経路表の更新に時間が掛かってしまうため、古い経路情報でルーティングされたパケットは、VMマイグレーション前のネットワークへルーティングされてしまう。ところが、宛先となるVMは、VMマイグレーション済であるために、パケットロスとなってしまう。
この点、特許文献2にも、複数クラウドシステムをIPネットワークで接続すると記載しているに止まり(段落0016参照)、経路変更処理に時間が掛かる点については何ら考慮されていない。
本発明は、複数のクラウドシステム間で仮想マシンのマイグレーションを行う際の経路変更処理の時間短縮に貢献できる構成、また、そのような方法及びプログラムを提供することを目的とする。
第1の視点によれば、第1のクラウドシステムに配置された資源と、第2のクラウドシステムに配置された資源と、前記第1、第2のクラウドシステム間に配置された資源とを管理する資源管理手段と、前記第1のクラウドシステムのマシン上で動作するユーザの仮想マシンを、前記第2のクラウドシステムのマシンへ移行させるマイグレーションを実行するマイグレーション制御手段と、前記マイグレーションの実行後、前記資源管理手段にて管理されている通信ノードを制御して、前記第1のクラウドシステムで動作していた仮想マシンを宛先又は送信元とする経路を、前記第2のクラウドシステムで動作する仮想マシンを宛先又は送信元とする経路に変更する経路制御手段とを含む、クラウド環境提供システムが提供される。
第2の視点によれば、第1のクラウドシステムに配置された資源と、第2のクラウドシステムに配置された資源と、前記第1、第2のクラウドシステム間に配置された資源とを管理する資源管理手段と、前記第1のクラウドシステムのマシン上で動作するユーザの仮想マシンを、前記第2のクラウドシステムのマシンへ移行させるマイグレーションを実行するマイグレーション制御手段と、前記マイグレーションの実行後、前記資源管理手段にて管理されている通信ノードを制御して、前記第1のクラウドシステムで動作していた仮想マシンを宛先又は送信元とする経路を、前記第2のクラウドシステムで動作する仮想マシンを宛先又は送信元とする経路に変更する経路制御手段とを備える、サービス管理装置が提供される。
第3の視点によれば、第1のクラウドシステムに配置された資源と、第2のクラウドシステムに配置された資源と、前記第1、第2のクラウドシステム間に配置された資源とを管理する資源管理手段を備えるサービス管理装置が、前記第1のクラウドシステムのマシン上で動作するユーザの仮想マシンを、前記第2のクラウドシステムのマシンへ移行させるマイグレーションを実行するステップと、前記資源管理手段にて管理されている通信ノードを制御して、前記第1のクラウドシステムで動作していた仮想マシンを宛先又は送信元とする経路を、前記第2のクラウドシステムで動作する仮想マシンを宛先又は送信元とする経路に変更するステップとを含む、クラウド環境提供システムにおける経路制御方法が提供される。本方法は、上記サービス管理装置という、特定の機械に結びつけられている。
第4の視点によれば、第1のクラウドシステムに配置された通信ノードと、第2のクラウドシステムに配置された通信ノードと、前記第1、第2のクラウドシステム間に配置された通信ノードとを管理する通信ノード管理手段を備えるサービス管理装置を構成するコンピュータに、
前記第1のクラウドシステムのマシン上で動作するユーザの仮想マシンを、前記第2のクラウドシステムのマシンへ移行させるマイグレーションを実行する処理と、前記資源管理手段にて管理されている通信ノードを制御して、前記第1のクラウドシステムで動作していた仮想マシンを宛先又は送信元とする経路を、前記第2のクラウドシステムで動作する仮想マシンを宛先又は送信元とする経路に変更する処理と、を実行させるプログラムが提供される。なお、このプログラムは、コンピュータが読み取り可能な(非トランジエントな)記憶媒体に記録することができる。即ち、本発明は、コンピュータプログラム製品として具現することも可能である。
本発明によれば、複数のクラウドシステム間で仮想マシンのマイグレーションを行う際の経路変更処理に要する時間の短縮に貢献することが可能となる。
本発明の一実施形態の構成を示す図である。 本発明の一実施形態の動作を説明するための図である。 本発明の一実施形態の動作を説明するための図である。 本発明の第1の実施形態のシステムの全体構成を示す図である。 本発明の第1の実施形態における仮想マシンのマイグレーションの前後の経路の変化を示す図である。 本発明の第1の実施形態のシステムの動作を表したシーケンス図である。 仮想ネットワーク制御部の基本動作の流れを表したフローチャートである。 図7のステップS804、S805において実行される処理の詳細を表したフローチャートである。 本発明の第1の実施形態のシステムのスイッチ制御部の動作を表したフローチャートである。
はじめに本発明の一実施形態の概要について図面を参照して説明する。なお、この概要に付記した図面参照符号は、理解を助けるための一例として各要素に便宜上付記したものであり、本発明を図示の態様に限定することを意図するものではない。
本発明は、その一実施形態において、図1に示すように、第1クラウドシステム20と、第2クラウドシステム30と、第1クラウドシステム20と第2クラウドシステム30間での仮想マシンのマイグレーション時に、サービスの管理を行うサービス管理装置10とを含む構成にて実現できる。
サービス管理装置10は、第1クラウドシステム20に配置された資源と、第2クラウドシステム30に配置された資源と、第1、第2のクラウドシステム20、30間に配置された資源とを管理する資源管理部11と、第1クラウドシステム20のマシン上で動作するユーザの仮想マシン22を、第2クラウドシステム30のマシンへ移行させるマイグレーションを実行するマイグレーション制御部12と、資源管理部11にて管理されている通信ノードを制御して、第1クラウドシステム20で動作していた仮想マシンを宛先又は送信元とする経路を、第2クラウドシステム30で動作する仮想マシンを宛先又は送信元とする経路に変更する経路制御部13とを含む。
第1クラウドシステム20上で動作する仮想マシンを第2クラウドシステム30側にマイグレーションさせる例を挙げて説明する。図1は、マイグレーション前の状態を示しており、両矢線に示す経路で仮想マシン22の通信経路が設定されている。
所定のマイグレーション実行条件が成立すると、マイグレーション制御部12は、図2に示すように、ハイパーバイザ21、31に対して、マイグレーションの実行を指示する。前記指示を受けたハイパーバイザ31は、第2クラウドシステム30上に仮想マシン32を起動し、マイグレーションの準備を行う。
次に、経路制御部13は、通信ノード23、33を制御して、インタークラウドネットワーク(クラウド間ネットワーク)を生成する。そして、経路制御部13は、インタークラウドネットワークを利用して、第1クラウドシステム20で動作していた仮想マシンを宛先又は送信元とする経路を、第2クラウドシステム30で動作する仮想マシンを宛先又は送信元とする経路に変更する。
その後、マイグレーションが実行されると、図3に示すように、仮想マシン32は、図3の両矢線で示す経路で通信を行う。このため、特許文献1のように、経路変更処理に時間が掛かるということがなくなる。また、パケットロスの発生も抑止される。
[第1の実施形態]
次に、本発明の実施の形態について図面を参照して詳細に説明する。図4は、本発明の第1の実施形態のシステムの全体構成を示す図である。図4を参照すると、サービス管理装置100と、2つのテナント200、300と、を含む構成が示されている。ここで、「テナント」とは、マルチテナント方式で複数のユーザに提供されているシステムやアプリケーションプログラムの実行環境(クラウド環境)である。図4のテナント200、300は、同一のユーザが、異なるクラウド環境の提供者から提供を受けているクラウド環境を示している。
テナント200は、仮想マシン制御部(仮想マシン制御手段)201と、仮想ネットワーク制御部(仮想ネットワーク制御手段)202と、ホストマシン203と、スイッチ制御部(スイッチ制御手段)206と、物理スイッチ207と、外部ネットワークと接続するゲートウェイ(GW)208と、テナント300と相互接続するゲートウェイ(GW)209とを含んで構成される。
仮想マシン制御部201は、ユーザやサービス管理装置100からの指示に従い、ホストマシン203上で動作する仮想マシン204を制御する手段である。仮想マシン制御部201の例としては、上記したハイパーバイザ等が挙げられる。
仮想ネットワーク制御部202は、スイッチ制御部206、ゲートウェイ(GW)208及びゲートウェイ(GW)209を制御することによりユーザに提供する仮想ネットワークを制御する手段である。
ホストマシン203は、複数のユーザにそれぞれ専用的に利用させる仮想マシン204や仮想スイッチ205が動作する仮想化サーバ等と呼ばれる機器によって構成される。
スイッチ制御部206は、ホストマシン203上で動作する仮想スイッチ205や物理スイッチ207を制御する。以下、本実施形態では、仮想スイッチ205及び物理スイッチ207は、非特許文献1、2のオープンフロースイッチの仕様を満たしたスイッチであるものとする。スイッチ制御部206は、仮想スイッチ205や物理スイッチ207に、仮想ネットワーク制御部202からの指示に基づいて生成した制御情報(フローエントリ)を設定することで、仮想スイッチ205や物理スイッチ207を制御する。
ゲートウェイ(GW)208、209は、例えば、ルータによって構成される。
同様に、テナント300は、仮想マシン制御部301と、仮想ネットワーク制御部302と、ホストマシン303と、スイッチ制御部306と、物理スイッチ307と、外部ネットワークと接続するゲートウェイ(GW)308と、テナント200と相互接続するゲートウェイ(GW)309とを含んで構成される。
サービス管理装置100は、図1に示した構成と同様に、資源管理部、マイグレーション制御部及び経路制御部を備える構成にて実現できる。また、サービス管理装置100が、非特許文献1、2のオープンフローコントローラと同等に機能を有していてもよい。これにより、サービス管理装置100に、仮想スイッチ205、305や物理スイッチ207、307に設定する制御情報(フローエントリ)の生成機能を担わせることもできる。
なお、図4に示したサービス管理装置100、テナント200、300内の各部(処理手段)は、コンピュータに、そのハードウェアを用いて、上記した各処理を実行させるコンピュータプログラムにより実現することもできる。
続いて、本実施形態の動作について図面を参照して詳細に説明する。以下の説明では、図5に示すように、テナント200で動作していた仮想マシンをテナント300にマイグレーションさせる例を挙げて説明する。図5中の符号400〜403は、仮想ネットワーク制御部202、302の制御対象となる仮想ネットワークを示している。
これらの仮想ネットワークは、GRE(Generic Routing Encapsulation)やIPinIP等のトンネリング技術を用いて構成できるが、本実施形態では、GREを用いて仮想ネットワークを構成するものとして説明する。GREプロトコルの方式によれば、仮想マシン204、304が生成したIPパケットの外側に、さらにIPヘッダを付加してカプセル化が行われる。この外部IPヘッダには、送信元として入口側GREトンネル端点のIPアドレス、また宛先として出口側GREトンネル端点のIPアドレスを使用することができる。したがって、物理スイッチ207、307、この外部IPヘッダに適合する制御情報(フローエントリ)に基づいてスイッチング処理を行う。
また、本実施形態では、仮想ネットワーク400〜403は、GREトンネルによって実現されているものとして説明する。また、仮想ネットワーク400〜403は、UUID(universaally unique Identifier)によって識別される。
図6は、本発明の第1の実施形態のシステムの全体の動作を表したシーケンス図である。仮想マシン204のマイグレーションを実行する場合、サービス管理装置100は、まず、仮想マシン制御部301を介して、マイグレーション先のホストマシン303上に、仮想マシン304を立ち上げ、必要な事前設定を行う(ステップS701)。事前設定の結果、マイグレーション先のホストマシン303が特定され、物理的な位置が確定される。同様に、マイグレーション元のテナント200においても、仮想マシン制御部201を介して、マイグレーション対象となる仮想マシン204が指定され、その仮想マシン204を稼働させているホストマシン203が特定される。
次に、サービス管理装置100は、仮想ネットワーク制御部202、302を介して、マイグレーション先の仮想マシン304を接続する仮想ネットワークを生成する(ステップS702)。具体的には、ステップS701で立ち上げた仮想マシンを接続するための仮想ネットワーク403が構築される。
次に、サービス管理装置100は、テナント300側のGW309に、テナント200、300間の仮想ネットワーク402のGREトンネル用通信端点を生成する(ステップS703)。
次に、サービス管理装置100は、仮想ネットワーク制御部202を介して、マイグレーション元の仮想マシン204が接続されている仮想ネットワーク400を構成する物理スイッチ207に、仮想ネットワーク401の設定を追加する(ステップS704)。
次に、サービス管理装置100は、GW208、GW209への端点追加(GREトンネル用通信端点の追加)を実行する(ステップS705)。このようにテナント200、300のGW208、GW209とGW309の設定(端点追加)が完了することで、仮想ネットワーク401、402の生成が完了する。
次に、サービス管理装置100は、仮想マシン制御部201、301を介して、マイグレーションを実行する(ステップS706)。
次に、サービス管理装置100は、仮想ネットワーク制御部202、302を介して、物理スイッチ207に対し経路切り替えを指示する(ステップS707)。これにより、仮想マシン204及び仮想マシン304のユーザ宛てパケットの経路は、仮想ネットワーク400から、仮想ネットワーク401、402、403を経由する経路へ切り替わる。
続いて、上記した仮想ネットワーク制御部202、302による仮想ネットワークの制御処理の詳細について説明する。図7は、仮想ネットワーク制御部の基本動作の流れを表したフローチャートである。
まず、仮想ネットワーク制御部202、302は、図6のステップS701のマイグレーションの事前設定により、制御対象となる仮想マシンが特定されるので、その仮想マシン情報(例えば、識別子等)を用いて、仮想マシン制御部201、301に問い合わせ、仮想マシンの位置(当該仮想マシンが動作するホストマシン203の識別子等)を特定する(ステップS801)。
次に、仮想ネットワーク制御部202、302は、制御対象となる仮想マシンが接続する仮想ネットワークを特定する(ステップS802)。
次に、仮想ネットワーク制御部202、302は、新規の仮想ネットワークを生成する必要があるか否かにより、次の処理を行う。新規の仮想ネットワークを生成する場合(ステップS803の「新規」)、仮想ネットワーク制御部202、302は、新規ネットワーク401、402、403のエンドポイントとなるノードに、第1の端点(GREトンネル用通信端点)を生成する(ステップS804)。一方、仮想ネットワークの変更を行う場合(ステップS803の「変更」)、仮想ネットワーク制御部202、302は、テナント200又はテナント300と、既存の仮想ネットワークとの接続点に、第2の端点(GREトンネル用通信端点)を生成(追加)する(ステップS805)。ここでは、マイグレーションに伴い、図5に示す仮想ネットワーク401、402、403が新規に生成されるため、GW209、GW309、物理スイッチ307にそれぞれ第1の端点(GREトンネル用通信端点)が生成され、GW208、仮想スイッチ305に第2の端点(GREトンネル用通信端点)が追加されることになる。また、これらの第1、第2の端点(GREトンネル用通信端点)にそれぞれIPアドレスが設定される。
ここで、仮想ネットワーク制御部202、302による第1、第2の端点(GREトンネル用通信端点)の生成処理の詳細について説明する。図8は、図7のステップS804、S805において実行される処理の詳細を表したフローチャートである。
図8を参照すると、仮想ネットワーク制御部202、302は、まず、ステップS802で特定した仮想ネットワークの識別情報を取得する(ステップS1001)。具体的には、仮想ネットワーク制御部202、302が保持する仮想ネットワークの管理テーブル等から、例えば、割り当て済みのUUIDを取得することによって行われる。
仮想ネットワーク制御部202、302は、新規に生成する仮想ネットワークに対し新規UUIDを割り当てることにより、仮想ネットワーク識別子を生成する(ステップS1002)。なお、上記したUUIDに代えて、ネットワーク毎の識別子やネットワークアドレスを用いることも可能である。
次に、仮想ネットワーク制御部202、302は、前記生成した仮想ネットワーク識別子を関連付けることにより、マイグレーション後に切り替えて使用される仮想ネットワーク(インタークラウドネットワーク)を生成する(ステップS1003)。
本実施形態では、GREトンネルを用いて仮想ネットワークを構成することとしているため、仮想ネットワーク401に対しては、GW208のGREトンネル端点のIPアドレスとGW209のGREトンネル端点のIPアドレスが関連付けられる。同様に、仮想ネットワーク402に対しては、GW209のGREトンネル端点のIPアドレスとGW309のGREトンネル端点のIPアドレスが関連付けられる。同様に、仮想ネットワーク403に対しては、GW309のGREトンネル端点のIPアドレスと仮想スイッチ305のGREトンネル端点のIPアドレスが関連付けられる。
再度図7を参照して説明を継続すると、仮想ネットワーク制御部202、302は、前記マイグレーション後に切り替えて使用される仮想ネットワーク(インタークラウドネットワーク)の生成と、マイグレーションとが完了し、経路切替可能と判断すると(ステップS807の「T」)、スイッチ制御部206、306に対し、経路切替を指示する(ステップS808)。
図9は、スイッチ制御部206、306の動作を表したフローチャートである。図9を参照すると、スイッチ制御部206、306は、仮想ネットワーク制御部202、302から、物理ネットワーク上で、個々の仮想ネットワークを識別するための識別情報を取得する(ステップS901)。識別情報としては、上記ステップS1003で生成されたGREトンネル端点のIPアドレス等を用いることができる。
仮想ネットワーク制御部202、302から経路切替指示を受けると(ステップS902の「T」)、スイッチ制御部206、306は、物理スイッチ207、307に経路切替を行うための制御情報(フローエントリ)を設定し、有効化する(ステップS903)。例えば、仮想ネットワーク403を識別するために前記入口側GREトンネル端点のIPアドレスと、前記出口側GREトンネル端点のIPアドレス等をマッチ条件として制御情報(フローエントリ)が使用される。このエントリには、該当するパケットを仮想スイッチ305の接続ポートから出力することを定めたアクションが設定される。また、仮想スイッチ305のGREトンネル端点でカプセル化ヘッダを除去した後、仮想マシン304へ転送できるようにするために、仮想スイッチ305にも、前記マッチ条件とカプセル化ヘッダを削除することを指定した制御情報(フローエントリ)が設定される。
以上説明したように、本実施形態によれば、複数のクラウドシステムにまたがって構成されるインタークラウド基盤において、仮想マシンのマイグレーションと連動した経路切替を行うことができる。また、本実施形態によれば、上記のように経路切替処理の時間も飛躍的に短縮されるため、パケットロスも削減できる。
また、本発明は、例えば、オープンソースのクラウド構築ツールによって構築されているパブリッククラウドと、プライベートクラウド間における仮想マシンのマイグレーション時の経路切替処理にも適用することが可能である。
以上、本発明の実施形態を説明したが、本発明は、上記した実施形態に限定されるものではなく、本発明の基本的技術的思想を逸脱しない範囲で、更なる変形・置換・調整を加えることができる。例えば、各図面に示したネットワーク構成や要素の構成は、本発明の理解を助けるための一例であり、これらの図面に示した構成に限定されるものではない。
また例えば、上記した実施形態では、第1、第2のテナント間のマイグレーションを用いて説明したが、第2のテナントから第1のテナントへのマイグレーションも同様の手順で実施可能である。
最後に、本発明の好ましい形態を要約する。
[第1の形態]
(上記第1の視点によるクラウド環境提供システム参照)
[第2の形態]
第1の形態のクラウド環境提供システムにおいて、
さらに、
前記マイグレーション後の仮想マシンの位置情報に基づいて、
前記第1のクラウドシステムで動作していた仮想マシンを宛先又は送信元とするパケットを前記マイグレーション後の仮想マシンに転送するための仮想ネットワークを生成する仮想ネットワーク制御手段と、
前記第1のクラウドシステムで動作していた仮想マシンを宛先又は送信元とする経路上のスイッチに、前記前記第1のクラウドシステムで動作していた仮想マシンを宛先とするパケットを前記仮想ネットワークに転送するように制御するスイッチ制御手段と、を備えるクラウド環境提供システム。
[第3の形態]
第2の形態のクラウド環境提供システムにおいて、
前記仮想ネットワーク制御手段及び前記スイッチ制御手段が、前記第1、第2のクラウドシステムにそれぞれ配置されているクラウド環境提供システム。
[第4の形態]
第2又は第3の形態のクラウド環境提供システムにおいて、
前記スイッチ制御手段は、
仮想ネットワークの入口側の端点において、パケットへの追加ヘッダの追加を指示して、前記追加ヘッダを用いたパケット転送処理を実行し、前記仮想ネットワークの出口側の端点において、前記追加ヘッダの削除を指示するクラウド環境提供システム。
[第5の形態]
(上記第2の視点によるサービス管理装置参照)
[第6の形態]
(上記第3の視点によるクラウド環境提供システムにおける経路制御方法参照)
[第7の形態]
(上記第4の視点によるプログラム参照)
なお、上記第5〜第7の形態は、第1の形態と同様に、第2〜第4の形態に展開することが可能である。
上記の特許文献および非特許文献の各開示を、本書に引用をもって繰り込むものとする。本発明の全開示(請求の範囲を含む)の枠内において、さらにその基本的技術思想に基づいて、実施形態ないし実施例の変更・調整が可能である。また、本発明の請求の範囲の枠内において種々の開示要素(各請求項の各要素、各実施形態ないし実施例の各要素、各図面の各要素等を含む)の多様な組み合わせ、ないし選択が可能である。すなわち、本発明は、請求の範囲を含む全開示、技術的思想にしたがって当業者であればなし得るであろう各種変形、修正を含むことは勿論である。特に、本書に記載した数値範囲については、当該範囲内に含まれる任意の数値ないし小範囲が、別段の記載のない場合でも具体的に記載されているものと解釈されるべきである。
10、100 サービス管理装置
11 資源管理部
12 マイグレーション制御部
13 経路制御部
20 第1クラウドシステム
21、31 ハイパーバイザ
22、32、204、304 仮想マシン
23、33 通信ノード
30 第2クラウドシステム
200、300 テナント
201、301 仮想マシン制御部
202、302 仮想ネットワーク制御部
203、303 ホストマシン
205、305 仮想スイッチ
206、306 スイッチ制御部
207、307 物理スイッチ
208、209、308、309 ゲートウェイ(GW)
400、401、402、403 仮想ネットワーク

Claims (7)

  1. 第1のクラウドシステムに配置された資源と、第2のクラウドシステムに配置された資源と、前記第1、第2のクラウドシステム間に配置された資源とを管理する資源管理手段と、
    前記第1のクラウドシステムのマシン上で動作するユーザの仮想マシンを、前記第2のクラウドシステムのマシンへ移行させるマイグレーションを実行するマイグレーション制御手段と、
    前記マイグレーションの実行後、前記資源管理手段にて管理されている通信ノードを制御して、前記第1のクラウドシステムで動作していた仮想マシンを宛先又は送信元とする経路を、前記第2のクラウドシステムで動作する仮想マシンを宛先又は送信元とする経路に変更する経路制御手段とを含む、
    クラウド環境提供システム。
  2. さらに、
    前記マイグレーション後の仮想マシンの位置情報に基づいて、
    前記第1のクラウドシステムで動作していた仮想マシンを宛先又は送信元とするパケットを前記マイグレーション後の仮想マシンに転送するための仮想ネットワークを生成する仮想ネットワーク制御手段と、
    前記第1のクラウドシステムで動作していた仮想マシンを宛先又は送信元とする経路上のスイッチに、前記前記第1のクラウドシステムで動作していた仮想マシンを宛先とするパケットを前記仮想ネットワークに転送するように制御するスイッチ制御手段と、を備える請求項1のクラウド環境提供システム。
  3. 前記仮想ネットワーク制御手段及び前記スイッチ制御手段が、前記第1、第2のクラウドシステムにそれぞれ配置されている請求項2のクラウド環境提供システム。
  4. 前記スイッチ制御手段は、
    仮想ネットワークの入口側の端点において、パケットへの追加ヘッダの追加を指示して、前記追加ヘッダを用いたパケット転送処理を実行し、前記仮想ネットワークの出口側の端点において、前記追加ヘッダの削除を指示する請求項2又は3のクラウド環境提供システム。
  5. 第1のクラウドシステムに配置された資源と、第2のクラウドシステムに配置された資源と、前記第1、第2のクラウドシステム間に配置された資源とを管理する資源管理手段と、
    前記第1のクラウドシステムのマシン上で動作するユーザの仮想マシンを、前記第2のクラウドシステムのマシンへ移行させるマイグレーションを実行するマイグレーション制御手段と、
    前記マイグレーションの実行後、前記資源管理手段にて管理されている通信ノードを制御して、前記第1のクラウドシステムで動作していた仮想マシンを宛先又は送信元とする経路を、前記第2のクラウドシステムで動作する仮想マシンを宛先又は送信元とする経路に変更する経路制御手段とを備える、
    サービス管理装置。
  6. 第1のクラウドシステムに配置された資源と、第2のクラウドシステムに配置された資源と、前記第1、第2のクラウドシステム間に配置された資源とを管理する資源管理手段を備えるサービス管理装置が、
    前記第1のクラウドシステムのマシン上で動作するユーザの仮想マシンを、前記第2のクラウドシステムのマシンへ移行させるマイグレーションを実行するステップと、
    前記資源管理手段にて管理されている通信ノードを制御して、前記第1のクラウドシステムで動作していた仮想マシンを宛先又は送信元とする経路を、前記第2のクラウドシステムで動作する仮想マシンを宛先又は送信元とする経路に変更するステップとを含む、
    クラウド環境提供システムにおける経路制御方法。
  7. 第1のクラウドシステムに配置された通信ノードと、第2のクラウドシステムに配置された通信ノードと、前記第1、第2のクラウドシステム間に配置された通信ノードとを管理する通信ノード管理手段を備えるサービス管理装置を構成するコンピュータに、
    前記第1のクラウドシステムのマシン上で動作するユーザの仮想マシンを、前記第2のクラウドシステムのマシンへ移行させるマイグレーションを実行する処理と、
    前記資源管理手段にて管理されている通信ノードを制御して、前記第1のクラウドシステムで動作していた仮想マシンを宛先又は送信元とする経路を、前記第2のクラウドシステムで動作する仮想マシンを宛先又は送信元とする経路に変更する処理と、
    を実行させるプログラム。
JP2014548602A 2012-11-21 2013-11-20 クラウド環境提供システム、サービス管理装置、経路制御方法及びプログラム Active JP6365306B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2012254945 2012-11-21
JP2012254945 2012-11-21
PCT/JP2013/081293 WO2014080949A1 (ja) 2012-11-21 2013-11-20 クラウド環境提供システム、サービス管理装置、経路制御方法及びプログラム

Publications (2)

Publication Number Publication Date
JPWO2014080949A1 true JPWO2014080949A1 (ja) 2017-01-05
JP6365306B2 JP6365306B2 (ja) 2018-08-01

Family

ID=50776128

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014548602A Active JP6365306B2 (ja) 2012-11-21 2013-11-20 クラウド環境提供システム、サービス管理装置、経路制御方法及びプログラム

Country Status (3)

Country Link
US (1) US20160285734A1 (ja)
JP (1) JP6365306B2 (ja)
WO (1) WO2014080949A1 (ja)

Families Citing this family (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101558047B1 (ko) * 2013-09-09 2015-10-06 삼성에스디에스 주식회사 클러스터 시스템 및 클러스터 시스템에서 서비스 가용성을 제공하기 위한 방법
US9723065B2 (en) * 2014-10-13 2017-08-01 Vmware, Inc. Cross-cloud object mapping for hybrid clouds
JP6320317B2 (ja) * 2015-02-09 2018-05-09 日本電信電話株式会社 リソース融通システム及び方法
US9628379B2 (en) * 2015-06-01 2017-04-18 Cisco Technology, Inc. Large scale residential cloud based application centric infrastructures
JP6567776B2 (ja) * 2016-01-14 2019-08-28 華為技術有限公司Huawei Technologies Co.,Ltd. リソースオブジェクトを管理するための方法およびリソースオブジェクトを管理するためのシステム
US11223537B1 (en) * 2016-08-17 2022-01-11 Veritas Technologies Llc Executing custom scripts from the host during disaster recovery
CN106656719B (zh) * 2016-09-26 2020-07-07 华为技术有限公司 云间通信方法及相关设备、云间通信配置方法及相关设备
WO2018112709A1 (zh) * 2016-12-19 2018-06-28 华为技术有限公司 一种数据包处理方法、主机和系统
US11449776B2 (en) * 2019-03-06 2022-09-20 Micro Focus Lcc Topology-based migration assessment
KR102183786B1 (ko) * 2019-06-05 2020-11-27 부산대학교 산학협력단 마이그레이션 제어 방법 및 마이그레이션 제어 시스템
CN111092770B (zh) * 2019-12-23 2021-09-14 联想(北京)有限公司 一种虚拟网络管理方法及电子设备

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012165172A (ja) * 2011-02-07 2012-08-30 Fujitsu Telecom Networks Ltd 通信システム、通信装置および監視制御装置

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
AU2009259876A1 (en) * 2008-06-19 2009-12-23 Servicemesh, Inc. Cloud computing gateway, cloud computing hypervisor, and methods for implementing same
US8429647B2 (en) * 2009-05-06 2013-04-23 Vmware, Inc. Virtual machine migration across network by publishing routes to the associated virtual networks via virtual router after the start of migration of the virtual machine
US9210065B2 (en) * 2009-06-22 2015-12-08 Alcatel Lucent Providing cloud-based services using dynamic network virtualization
US8559341B2 (en) * 2010-11-08 2013-10-15 Cisco Technology, Inc. System and method for providing a loop free topology in a network environment
JP5449283B2 (ja) * 2011-09-26 2014-03-19 株式会社日立システムズ クラウド共用型リソース提供システム
US20130086140A1 (en) * 2011-09-29 2013-04-04 Michael A. Salsburg Cloud management system and method
US8335851B1 (en) * 2012-03-12 2012-12-18 Ringcentral, Inc. Network resource deployment for cloud-based services
US20160197835A1 (en) * 2015-01-02 2016-07-07 Siegfried Luft Architecture and method for virtualization of cloud networking components
US20160218939A1 (en) * 2015-01-28 2016-07-28 Hewlett-Packard Development Company, L.P. Distributed multi-site cloud deployment

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012165172A (ja) * 2011-02-07 2012-08-30 Fujitsu Telecom Networks Ltd 通信システム、通信装置および監視制御装置

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
千葉 立寛 他: "インタークラウド間での大規模データ転送の高速化", 情報処理学会研究報告 平成22年度6[DVD−ROM], JPN6014007626, 15 April 2011 (2011-04-15), pages 1 - 7, ISSN: 0003672459 *
山田 亜紀子 他: "省電力経路選択アルゴリズムのSDNへの適用に関する一検討", 電子情報通信学会技術研究報告, vol. 第112巻,第288号, JPN6014007629, 8 November 2012 (2012-11-08), pages 41 - 46, ISSN: 0003672460 *

Also Published As

Publication number Publication date
WO2014080949A1 (ja) 2014-05-30
JP6365306B2 (ja) 2018-08-01
US20160285734A1 (en) 2016-09-29

Similar Documents

Publication Publication Date Title
JP6365306B2 (ja) クラウド環境提供システム、サービス管理装置、経路制御方法及びプログラム
CA3106407C (en) Multi-cloud connectivity using srv6 and bgp
JP5991424B2 (ja) パケット書換装置、制御装置、通信システム、パケット送信方法及びプログラム
US10038629B2 (en) Virtual machine migration using label based underlay network forwarding
JP5446040B2 (ja) コンピュータシステム、及び仮想マシンのマイグレーション方法
JP6236221B2 (ja) 管理プログラム、管理装置、およびネットワークシステム
JP6619096B2 (ja) ファイアウォールクラスタ
WO2019219073A1 (zh) 一种虚拟机迁移的方法及数据中心
JP6206508B2 (ja) パケット転送装置、制御装置、通信システム、通信方法及びプログラム
WO2016159113A1 (ja) 制御装置、制御方法及びプログラム
JP6323547B2 (ja) 通信システム、制御装置、通信制御方法、および、プログラム
WO2016159192A1 (ja) 制御装置、制御方法及びプログラム
US8908702B2 (en) Information processing apparatus, communication apparatus, information processing method, and relay processing method
JP5904285B2 (ja) 通信システム、仮想ネットワーク管理装置、通信ノード、通信方法及びプログラム
Desmouceaux et al. Zero-loss virtual machine migration with IPv6 segment routing
JP5747997B2 (ja) 制御装置、通信システム、仮想ネットワークの管理方法およびプログラム
WO2016068238A1 (ja) ネットワークの制御システム、制御装置、ネットワーク情報の管理方法及びプログラム
WO2014142094A1 (ja) 通信システム、物理マシン、仮想ネットワーク管理装置、および、ネットワーク制御方法
JP2017175522A (ja) ネットワークシステム、制御装置、方法およびプログラム
JP6540299B2 (ja) 仮想ネットワーク管理システム、仮想ネットワーク管理装置、仮想ネットワーク管理方法及びプログラム
JP2015523749A (ja) 通信システム、制御装置、通信方法及びプログラム
US20180109472A1 (en) Controller, control method and program
WO2015118811A1 (ja) 通信システム、パケット転送装置、パケット転送方法およびパケット転送用プログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20161014

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20171031

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20171204

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20180605

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20180618

R150 Certificate of patent or registration of utility model

Ref document number: 6365306

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150