JP6417942B2 - 制御装置、通信システム、トンネルエンドポイントの制御方法及びプログラム - Google Patents

制御装置、通信システム、トンネルエンドポイントの制御方法及びプログラム Download PDF

Info

Publication number
JP6417942B2
JP6417942B2 JP2014555458A JP2014555458A JP6417942B2 JP 6417942 B2 JP6417942 B2 JP 6417942B2 JP 2014555458 A JP2014555458 A JP 2014555458A JP 2014555458 A JP2014555458 A JP 2014555458A JP 6417942 B2 JP6417942 B2 JP 6417942B2
Authority
JP
Japan
Prior art keywords
virtual
virtual machine
tunnel endpoint
virtual network
network
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2014555458A
Other languages
English (en)
Other versions
JPWO2014106945A1 (ja
Inventor
靖伸 千葉
靖伸 千葉
一志 須尭
一志 須尭
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NEC Corp
Original Assignee
NEC Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NEC Corp filed Critical NEC Corp
Publication of JPWO2014106945A1 publication Critical patent/JPWO2014106945A1/ja
Application granted granted Critical
Publication of JP6417942B2 publication Critical patent/JP6417942B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L45/00Routing or path finding of packets in data switching networks
    • H04L45/02Topology update or discovery
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L12/00Data switching networks
    • H04L12/28Data switching networks characterised by path configuration, e.g. LAN [Local Area Networks] or WAN [Wide Area Networks]
    • H04L12/46Interconnection of networks
    • H04L12/4641Virtual LANs, VLANs, e.g. virtual private networks [VPN]
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L12/00Data switching networks
    • H04L12/64Hybrid switching systems
    • H04L12/6418Hybrid transport
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L61/00Network arrangements, protocols or services for addressing or naming
    • H04L61/09Mapping addresses
    • H04L61/25Mapping addresses of the same type
    • H04L61/2503Translation of Internet protocol [IP] addresses
    • H04L61/2592Translation of Internet protocol [IP] addresses using tunnelling or encapsulation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L45/00Routing or path finding of packets in data switching networks
    • H04L45/02Topology update or discovery
    • H04L45/036Updating the topology between route computation elements, e.g. between OpenFlow controllers

Description

[関連出願についての記載]
本発明は、日本国特許出願:特願2013−000160号(2013年 1月 4日出願)に基づくものであり、同出願の全記載内容は引用をもって本書に組み込み記載されているものとする。
本発明は、制御装置、通信システム、トンネルエンドポイントの制御方法及びプログラムに関し、特に、仮想トンネルを用いて構成された仮想ネットワークに属する仮想マシン間の通信を制御する制御装置、通信システム、トンネルエンドポイントの制御方法及びプログラムに関する。
近年、クラウドコンピューティングへの適用を考慮したトンネリングプロトコルとして、VXLAN(Virtual Extensible Local Area Network)、NVGRE(Network Virtualization using Generic Routing Encapsulation)、STT(Stateless Transport Tunneling)といった技術が提案されている。非特許文献1は、VXLANのドラフトである。
VXLANは、仮想トンネルの終端ポイントとなるトンネルエンドポイントにて、レイヤ2フレームをカプセル化するものであるが、その際に、24ビットの長さを持つVXLAN Network Identifier(VNI)をカプセルヘッダ(アウターヘッダ)に付加する(非特許文献1のPage9「5.VXLAN Frame Format」以下参照)。このVNIは、IEEE802.1Qで規定されているVLAN IDの倍の長さであり、上記クラウドコンピューティング環境における「テナント(物理ネットワークの共有ユーザ)」の数を飛躍的に増大できる点で注目されている(最大約1677万(2^24)となる)。また、非特許文献2は、VXLANと同様のトンネリングを行うNVGREのドラフトである。NVGREにおいても、24ビットの長さを持つTenant Network Identifier(TNI)により、論理分割可能なセグメントの数の増大が図られている。
一方で、オープンフロー(OpenFlow)という技術が提案されている(非特許文献3、4参照)。オープンフローは、通信をエンドツーエンドのフローとして捉え、フロー単位で経路制御、障害回復、負荷分散、最適化を行うものである。非特許文献4に仕様化されているオープンフロースイッチは、オープンフローコントローラとの通信用のセキュアチャネルを備え、オープンフローコントローラから適宜追加または書き換え指示されるフローテーブルに従って動作する。フローテーブルには、フロー毎に、パケットヘッダと照合するマッチ条件(Match Fields)と、フロー統計情報(Counters)と、処理内容を定義したインストラクション(Instructions)と、の組が定義される(非特許文献4の「4.1 Flow Table」の項参照)。
例えば、オープンフロースイッチは、パケットを受信すると、フローテーブルから、受信パケットのヘッダ情報に適合するマッチ条件(非特許文献4の「4.3 Match Fields」参照)を持つエントリを検索する。検索の結果、受信パケットに適合するエントリが見つかった場合、オープンフロースイッチは、フロー統計情報(カウンタ)を更新するとともに、受信パケットに対して、当該エントリのインストラクションフィールドに記述された処理内容(指定ポートからのパケット送信、フラッディング、廃棄等)を実施する。一方、検索の結果、受信パケットに適合するエントリが見つからなかった場合、オープンフロースイッチは、セキュアチャネルを介して、オープンフローコントローラに対してエントリ設定の要求、即ち、受信パケットの処理内容の決定の要求(Packet−Inメッセージ)を送信する。オープンフロースイッチは、処理内容が定められたフローエントリを受け取ってフローテーブルを更新する。このように、オープンフロースイッチは、フローテーブルに格納されたエントリを処理規則として用いてパケット転送を行う。
M.Mahalingamほか7名、"VXLAN: A Framework for Overlaying Virtualized Layer 2 Networks over Layer 3 Network"、[online]、[平成24(2012)年11月29日検索]、インターネット〈URL:http://tools.ietf.org/pdf/draft-mahalingam-dutt-dcops-vxlan-02.pdf〉 M.Sridharanほか8名、"NVGRE: Network Virtualization using Generic Routing Encapsulation"、[online]、[平成24(2012)年11月29日検索]、インターネット〈URL:http://tools.ietf.org/pdf/draft-sridharan-virtualization-nvgre-01.pdf〉 Nick McKeownほか7名、"OpenFlow: Enabling Innovation in Campus Networks"、[online]、[平成24(2012)年11月22日検索]、インターネット〈URL:http://www.openflow.org/documents/openflow-wp-latest.pdf〉 "OpenFlow Switch Specification" Version 1.1.0 Implemented (Wire Protocol 0x02)、[online]、[平成24(2012)年11月22日検索]、インターネット〈URL:http://www.openflow.org/documents/openflow-spec-v1.1.0.pdf〉
以下の分析は、本発明によって与えられたものである。非特許文献1又は2に記載のVXLANやNVGREなどに準拠した仮想トンネル技術では、仮想マシンは、仮想トンネルを終端するトンネルエンドポイント(以下、「TEP」)を介して、対向するTEPに接続された同一仮想ネットワークの仮想マシンと通信する。このような通信を実現するためには、仮想マシンが接続するTEPを、当該仮想マシンに関連付けられた仮想ネットワークに参加させる(より厳密には、TEPを該当VNIのマルチキャストグループに参加させる)ための設定が必要となる。
仮想化環境においては、サービス需要に応じて仮想マシンが立ち上げられたり、さらには、仮想マシンが他の仮想化サーバに移行(マイグレーション)したりするため、非特許文献1又は2に記載のVXLANやNVGREに準拠した仮想トンネルにより仮想マシン同士が通信する場合に、TEPを仮想ネットワークに参加させる(接続する)ための設定や、当該設定した情報の管理が煩雑になってしまうという問題点がある。
本発明は、仮想トンネルを用いて構成された仮想ネットワークにおけるTEPと仮想ネットワーク間の接続設定や管理の容易化に貢献できる制御装置、通信システム、トンネルエンドポイントの制御方法及びプログラムを提供することを目的とする。
第1の視点によれば、仮想ネットワークに属する仮想マシン間の通信に用いる仮想トンネルの終端ポイントとして機能するトンネルエンドポイントに、新規に仮想マシンが接続されたことを検出する接続検出部と、仮想マシンと仮想ネットワークとを対応付けた情報に基づいて、前記検出した仮想マシンが属する仮想ネットワークを特定する仮想ネットワーク特定部と、前記トンネルエンドポイントが前記特定した仮想ネットワークに参加していない場合、前記特定した仮想ネットワークに前記トンネルエンドポイントを参加させるトンネルエンドポイント制御部と、を備える制御装置が提供される。
第2の視点によれば、仮想ネットワークに属する仮想マシン間の通信に用いる仮想トンネルの終端ポイントとして機能するトンネルエンドポイントに、新規に仮想マシンが接続されたことを検出する接続検出部と、仮想マシンと仮想ネットワークとを対応付けた情報に基づいて、前記検出した仮想マシンが属する仮想ネットワークを特定する仮想ネットワーク特定部と、前記トンネルエンドポイントが前記特定した仮想ネットワークに参加していない場合、前記特定した仮想ネットワークに前記トンネルエンドポイントを参加させるトンネルエンドポイント制御部と、を備える制御装置と、前記制御装置によって制御されるトンネルエンドポイントと、を含む通信システムが提供される。
第3の視点によれば、仮想ネットワークに属する仮想マシン間の通信に用いる仮想トンネルの終端ポイントとして機能するトンネルエンドポイントを制御する制御装置が、前記トンネルエンドポイントに、新規に仮想マシンが接続されたことを検出するステップと、仮想マシンと仮想ネットワークとを対応付けた情報に基づいて、前記検出した仮想マシンが属する仮想ネットワークを特定するステップと、前記トンネルエンドポイントが前記特定した仮想ネットワークに参加していない場合、前記特定した仮想ネットワークに前記トンネルエンドポイントを参加させるステップと、を含むトンネルエンドポイントの制御方法が提供される。本方法は、トンネルエンドポイントを制御する制御装置という、特定の機械に結びつけられている。
本発明の第4の視点によれば、仮想ネットワークに属する仮想マシン間の通信に用いる仮想トンネルの終端ポイントとして機能するトンネルエンドポイントを制御するコンピュータに、前記トンネルエンドポイントに、新規に仮想マシンが接続されたことを検出する処理と、仮想マシンと仮想ネットワークとを対応付けた情報に基づいて、前記検出した仮想マシンが属する仮想ネットワークを特定する処理と、前記トンネルエンドポイントが前記特定した仮想ネットワークに参加していない場合、前記特定した仮想ネットワークに前記トンネルエンドポイントを参加させる処理と、を実行させるプログラムが提供される。なお、このプログラムは、コンピュータが読み取り可能な(非トランジエントな)記憶媒体に記録することができる。即ち、本発明は、コンピュータプログラム製品として具現することも可能である。
本発明によれば、仮想トンネルを用いて構成された仮想ネットワークにおけるTEPと仮想ネットワーク間の接続設定や管理の容易化に貢献できる。
本発明の一実施形態の構成を示す図である。 本発明の第1の実施形態の通信システムの構成を示す図である。 本発明の第1の実施形態の制御装置の詳細構成を示す機能ブロック図である。 本発明の第1の実施形態の制御装置のVM−TEP接続状態記憶部に保持される情報の一例である。 本発明の第1の実施形態の制御装置のVM−仮想NW関係記憶部に保持される情報の一例である。 本発明の第1の実施形態の制御装置の仮想NW−TEP接続状態記憶部に保持される情報の一例である。 図2のTEP−2に新規VM7が接続した状態を示す図である。 VM7の接続によりVM−TEP接続状態記憶部に追加されるエントリを示す図である。 制御装置が新規VM7の所属仮想ネットワークを特定した状態を示す図である。 制御装置が新規VM7のためにTEPを所属仮想ネットワークに接続する状態を示す図である。 TEP−2の接続により仮想NW−TEP接続状態記憶部に追加されるエントリを示す図である。
はじめに本発明の一実施形態の概要について図面を参照して説明する。なお、この概要に付記した図面参照符号は、理解を助けるための一例として各要素に便宜上付記したものであり、本発明を図示の態様に限定することを意図するものではない。
本発明は、その一実施形態において、図1に示すように、仮想ネットワーク特定部11と、接続検出部12と、TEP(トンネルエンドポイント)制御部13と、を備える制御装置10Aにて実現できる。
より具体的には、接続検出部12は、仮想ネットワークに属する仮想マシン間の通信に用いる仮想トンネルの終端ポイントとして機能するトンネルエンドポイント(例えば、図1のTEP−1)に、新規に仮想マシン(例えば、図1のVM1)が接続されたことを検出する。なお、仮想マシンのTEPへの接続を検出する方法としては、トンネルエンドポイントからその旨の通知を受ける方法や、仮想マシンや仮想スイッチの管理環境を提供する仮想ネットワークの管理システム等から通知を受け取る方法等、種々の方法を採ることができる。
次に、仮想ネットワーク特定部11は、仮想マシンと仮想ネットワークとを対応付けた情報に基づいて、前記検出した仮想マシン(例えば、図1のVM1)が属する仮想ネットワークを特定する。仮想ネットワーク特定の方法は、トンネルエンドポイントが保持している仮想マシンのMACアドレスとVNIとの関係を管理するテーブルと同等のテーブル等を用いる方法や、トンネルエンドポイントからの仮想マシン検出通知にVNIを含ませる方法等を用いることができる。
TEP制御部13は、新規仮想マシン(例えば、図1のVM1)が接続しているトンネルエンドポイント(例えば、図1のTEP−1)が前記特定した仮想ネットワークに参加していない場合、前記特定した仮想ネットワークに前記トンネルエンドポイントを参加させる。具体的には、トンネルエンドポイントに、前記特定した仮想ネットワークに構成されたマルチキャストグループへの参加(JOIN)を指示する処理が行われる。
以上により、仮想マシンのトンネルエンドポイントへの接続を契機としたトンネルエンドポイントの設定が自動化される。
[第1の実施形態]
続いて、本発明の第1の実施形態について図面を参照して詳細に説明する。図2は、本発明の第1の実施形態の通信システムの構成を示す図である。図2を参照すると、物理ネットワーク(物理NW)と、この物理NWを用いて論理分割された仮想ネットワーク(仮想NW#1〜#3)と、仮想NW#1〜#3上に仮想トンネルを構成するトンネルエンドポイントTEP−1〜TEP−3と、これらトンネルエンドポイントTEP−1〜TEP−3に接続可能なVM1〜VM6と、トンネルエンドポイントTEP−1〜TEP−3を制御する制御装置10が示されている。
仮想NW#1〜#3は、トンネルエンドポイントを利用することで、それぞれのVMが、自身の属する仮想ネットワークの識別子等を知らなくとも、同一のトンネルエンドポイント又は他のトンネルエンドポイントに接続されたVMと通信可能となっている非特許文献1、2のVXLAN、NVGRE、STTやこれらと同等の方式を用いて論理的に分割されたネットワークである。
トンネルエンドポイントTEP−1〜TEP−3は、制御装置10から制御される物理スイッチや仮想スイッチ等により構成され、仮想NWを挟んで対向するトンネルエンドポイントとの間に仮想トンネルを構成する。トンネルプロトコルとしては、非特許文献1、2のVXLAN、NVGRE、STTやこれらと同等のプロトコルを用いることができる。
VM1〜VM6は、図示省略するハイパーバイザ等により管理され、仮想化サーバ等上で動作する。上記トンネルエンドポイントTEP−1〜TEP−3が物理スイッチである場合、VM1〜VM6は、前記仮想化サーバ上に設けられた仮想スイッチを介して、トンネルエンドポイントTEP−1〜TEP−3に接続することになる。なお、図2のVM1〜VM6に併記した番号#1〜#3は、VM1〜VM6がそれぞれ属する仮想ネットワークを示している。
図3は、本発明の第1の実施形態の制御装置の詳細構成を示す機能ブロック図である。図3を参照すると、仮想ネットワーク特定部11と、接続検出部12と、TEP制御部13と、VM−仮想NW対応関係記憶部(第2の記憶部)14と、VM−TEP接続状態記憶部(第1の記憶部)15と、TEP参加状態記憶部(第3の記憶部)16と、を備える構成が示されている。
図4は、本実施形態の制御装置のVM−TEP接続状態記憶部15に保持される情報の一例である。図4の例では、図2に示したとおり、VM1、VM2がトンネルエンドポイントTEP−1に接続されていることを示すエントリが格納されている。同様に、VM3、VM4がトンネルエンドポイントTEP−2に接続され、VM5、VM6がトンネルエンドポイントTEP−3に接続されていることを示すエントリが格納されている。
接続検出部12は、新規VMのTEPへの接続を検出すると、VM−TEP接続状態記憶部15に該当するエントリを追加して、その旨を仮想ネットワーク特定部11に通知する。また、VMのTEPからの離脱や移動を検出すると、接続検出部12は、VM−TEP接続状態記憶部15に該当するエントリを削除して、その旨を仮想ネットワーク特定部11に通知する。
制御装置10がVMのTEPへの接続を検出する方法としては、先に述べたTEPからその旨の通知を受ける方法や、仮想マシンや仮想スイッチの管理環境を提供する仮想ネットワークの管理システム等から通知を受け取る方法等のほか、VMの管理者やサービサから通知を受ける方法や、VMから送信されたパケットを分析して、その特徴や識別子に基づき判定する方法等の方法を採ることもできる。
また制御装置10がVMのTEPへの接続を検出する方法として、仮想マシンを管理する別の装置(例えば、仮想マシン管理装置、又は制御装置及び仮想マシン管理装置を管理する上位装置)から、制御装置10の接続検出部12が、VMのTEPへの接続通知を受ける方法も採用可能である。また、仮想マシン自体に、TEP接続時に、制御装置10に対し、TEPへの接続を通知する機能を追加してもよい。
また、TEPが非特許文献3、4のオープンフロースイッチで構成されている場合、VMからのパケットを制御装置10に送信する制御情報(フローエントリ)を設定しておく方法も採用できる。パケットを制御装置10に送信する仕組みとしては、VMからのパケットを受信すると制御装置10と接続するポートから当該パケットを出力するような制御情報(フローエントリ)を設定しておくことでもよいし、オープンフロースイッチがオープンフローコンローラに対し、制御情報(フローエントリ)の送信を要求するPacket−Inメッセージを送信する仕組みを用いてもよい。
図5は、本実施形態の制御装置のVM−仮想NW対応関係記憶部14に保持される情報の一例である。図5の例では、図2に示したとおり、VM1、VM4、VM5が仮想ネットワーク#1に属し、VM2、VM6、VM7が仮想ネットワーク#3に属し、VM3が仮想ネットワーク#2に属しているとの対応関係を示すエントリが格納されている。なお、図5に示したようなVM−仮想NW対応関係として、TEPが受信パケットの転送先を判定するために保持しているVMのMACアドレスとVNI(TNI)の対応を示すマッピング情報を各TEPから入手して用いることもできる(非特許文献1の「4.1. Unicast VM to VM communication」参照)。
仮想ネットワーク特定部11は、接続検出部12から新規VMの接続通知を受けると、VM−仮想NW対応関係記憶部14を参照して、新規VMが属すべき仮想ネットワークを特定し、その結果をTEP制御部13に通知する。仮想ネットワーク特定部11は、接続検出部12からVMの離脱通知を受けると、VM−仮想NW対応関係記憶部14を参照して、新規VMが属すべき仮想ネットワークを特定し、その旨をTEP制御部13に通知する。
TEP制御部13は、仮想ネットワーク特定部11からVMの接続又は離脱と、前記特定した仮想ネットワークの通知を受けると、TEP参加状態記憶部16を参照し、TEPの仮想ネットワークへの参加要否を判定し、その結果に応じてTEPの制御を行う。例えば、TEP制御部13は、新規VMの接続通知を受けた場合、図6に示すような仮想ネットワークとTEPとの接続状態を参照して、新規に検出されたVMが接続するTEPが、該当する仮想ネットワークに参加していない場合には、新規に検出されたVMが接続するTEPを、該当する仮想ネットワークに構成されたマルチキャストグループに参加(JOIN)させる処理を行う。また例えば、TEP制御部13は、前記VMの離脱により、当該トンネルエンドポイントを介して前記特定した仮想ネットワークに接続する仮想マシンがなくなっている場合、VMが離脱したTEPに、該当する仮想ネットワークのマルチキャストグループから脱退(LEAVE)させる処理を行う。また、TEP制御部13は、前記TEPの仮想ネットワークへの参加、脱退に応じて、TEP参加状態記憶部16の内容を更新する。
前記マルチキャストグループへの参加、脱退は、例えば、VXLANの場合、マルチキャストグループを管理するルータ等に、IGMP(Internet Group Management Protocol)のメッセージ(JOIN/LEAVE)を送信することによって行われる(非特許文献1の「4.2 Broadcast Communication and Mapping to Multicast」参照)。もちろん、その他のマルチキャストグループの管理プロトコルを用いることもできる。
なお、図3の構成では説明のため、VM−仮想NW対応関係記憶部14、VM−TEP接続状態記憶部15及びTEP参加状態記憶部16をそれぞれ独立させた構成としているが、これらを統合したデータベース等を設けてもよい。また、仮想ネットワーク特定部11、接続検出部12及びTEP制御部13についても適宜統合することが可能である。
続いて、本実施形態の動作について図面を参照して説明する。以下、図2の状態から、新規にVMがTEPに接続した例を挙げて説明する。
図7は、図2の状態から、VM7が立ち上げられて、TEP−2に接続した状態を示す図である。制御装置10の接続検出部12は、VM7のTEP−2への接続を検出すると、図8に示すように、VM−TEP接続状態記憶部15に、VM7とTEP−2とを対応付けたエントリを追加し、仮想ネットワーク特定部11に通知する(ステップS001)。
次に、仮想ネットワーク特定部11は、VM−仮想NW対応関係記憶部14を参照して、TEP−2に接続したVM7が属する仮想ネットワークを特定する。図5の例では、VM7は、仮想ネットワーク#3に対応付けられているので、仮想ネットワーク特定部11は、図9に示すように、VM7が属する仮想ネットワークとして、仮想ネットワーク#3を特定する(ステップS002)。仮想ネットワーク特定部11は、TEP制御部13に対し、仮想ネットワーク#3に属するVM7がTEP−2に接続したことを通知する。
前記通知を受けたTEP制御部13は、TEP参加状態記憶部16を参照して、TEP−2が仮想ネットワーク#3に参加済みであるか否かを判定する。判定の結果、TEP−2が仮想ネットワーク#3に未参加である場合、TEP制御部13は、図10に示すように、TEP−2を仮想ネットワーク#3に参加させる処理を行う(ステップS003)。また、TEP制御部13は、図11に示すように、TEP参加状態記憶部16に、TEP−2と仮想ネットワーク#3とを対応付けたエントリを追加する。
その後、例えば、VM7がTEP−2から離脱すると、制御装置10の接続検出部12は、VM7のTEP−2からの離脱を検出すると、図4に示すように、VM−TEP接続状態記憶部15から、VM7とTEP−2とを対応付けたエントリを削除し、仮想ネットワーク特定部11に通知する。
次に、仮想ネットワーク特定部11は、VM−仮想NW対応関係記憶部14を参照して、TEP−2から離脱したVM7が属する仮想ネットワークを特定する。図5の例では、VM7は、仮想ネットワーク#3に対応付けられているので、仮想ネットワーク特定部11は、TEP制御部13に対し、仮想ネットワーク#3に属するVM7がTEP−2から離脱したことを通知する。
前記通知を受けたTEP制御部13は、VM−TEP接続状態記憶部15及びTEP参加状態記憶部16を参照して、VM7の離脱により、TEP−2を介して仮想ネットワーク#3に接続するVMが存在するか否かを判定する。判定の結果、TEP−2を介して仮想ネットワーク#3に接続するVMがなくなっている場合、TEP制御部13は、TEP−2を仮想ネットワーク#3から脱退させる処理を行う。また、TEP制御部13は、図6に示すように、TEP参加状態記憶部16から、TEP−2と仮想ネットワーク#3とを対応付けたエントリを削除する。
以上のように、VMのTEPからの接続又は離脱と連動したTEPの仮想ネットワークの参加又は脱退が実行される。この結果、TEPと仮想ネットワーク間の接続設定や煩雑な管理が不要となり、ネットワーク管理者の負担が軽減される。
以上、本発明の実施形態を説明したが、本発明は、上記した実施形態に限定されるものではなく、本発明の基本的技術的思想を逸脱しない範囲で、更なる変形・置換・調整を加えることができる。例えば、上記した実施形態で用いたネットワーク構成や、要素の数に制約は無い。
最後に、本発明の好ましい形態を要約する。
[第1の形態]
(上記第1の視点による制御装置参照)
[第2の形態]
第1の形態の制御装置において、
前記接続検出部は、前記仮想マシンのトンネルエンドポイントからの離脱を検出すると、前記仮想ネットワーク特定部に対し、前記仮想マシンのトンネルエンドポイントからの離脱を通知し、
仮想ネットワーク特定部は、仮想マシンと仮想ネットワークとを対応付けた情報に基づいて、前記離脱した仮想マシンが属する仮想ネットワークを特定して、前記トンネルエンドポイント制御部に対し、前記離脱した仮想マシンが属する仮想ネットワークと、前記仮想マシンが接続していたトンネルエンドポイントとを通知し、
前記トンネルエンドポイント制御部は、前記仮想マシンの離脱により、当該トンネルエンドポイントを介して前記特定した仮想ネットワークに接続する仮想マシンがなくなった場合に、前記トンネルエンドポイントを、前記特定した仮想ネットワークから脱退させる制御装置。
[第3の形態]
第1又は第2の形態の制御装置において、
さらに、
前記トンネルエンドポイントに接続している仮想マシンを記憶する第1の記憶部と、
前記仮想マシンと仮想ネットワークとの対応関係を記憶する第2の記憶部と、
前記各トンネルエンドポイントが参加している仮想ネットワークを記憶する第3の記憶部とを備え、
前記第3の記憶部を参照して、前記新規に仮想マシンが接続したトンネルエンドポイントが前記特定した仮想ネットワークに参加しているか否かを判定する制御装置。
[第4の形態]
第1〜第3いずれか一の形態の制御装置において、
前記接続検出部は、前記新規に接続した仮想マシンが動作する仮想化サーバからの報告により、前記仮想マシンがトンネルエンドポイントに接続されたことを検出する制御装置。
[第5の形態]
第1〜第3いずれか一の形態の制御装置において、
前記トンネルエンドポイントを構成するスイッチに、仮想マシンからのパケットに基づいて、前記仮想マシンが接続されたことを通知させる制御情報を設定することにより、前記仮想マシンがトンネルエンドポイントに接続されたことを検出する制御装置。
[第6の形態]
(上記第2の視点による通信システム参照)
[第7の形態]
(上記第3の視点によるトンネルエンドポイントの制御方法参照)
[第8の形態]
(上記第4の視点によるプログラム参照)
なお、上記第6〜第8の形態は、第1の形態と同様に、第2〜第5の形態に展開することが可能である。
なお、上記の特許文献および非特許文献の各開示を、本書に引用をもって繰り込むものとする。本発明の全開示(請求の範囲を含む)の枠内において、さらにその基本的技術思想に基づいて、実施形態ないし実施例の変更・調整が可能である。また、本発明の請求の範囲の枠内において種々の開示要素(各請求項の各要素、各実施形態ないし実施例の各要素、各図面の各要素等を含む)の多様な組み合わせ、ないし選択が可能である。すなわち、本発明は、請求の範囲を含む全開示、技術的思想にしたがって当業者であればなし得るであろう各種変形、修正を含むことは勿論である。特に、本書に記載した数値範囲については、当該範囲内に含まれる任意の数値ないし小範囲が、別段の記載のない場合でも具体的に記載されているものと解釈されるべきである。
10、10A 制御装置
11 仮想ネットワーク特定部
12 接続検出部
13 TEP制御部
14 VM−仮想NW対応関係記憶部(第2の記憶部)
15 VM−TEP接続状態記憶部(第1の記憶部)
16 TEP参加状態記憶部(第3の記憶部)
TEP−1〜TEP−3 トンネルエンドポイント
VM1〜VM6 仮想マシン

Claims (20)

  1. 仮想ネットワークに属する仮想マシン間の通信に用いる仮想トンネルの終端ポイントとして機能するトンネルエンドポイントに、新規に仮想マシンが接続されたことを検出する接続検出部と、
    仮想マシンと仮想ネットワークとを対応付けた情報に基づいて、前記検出した仮想マシンが属する仮想ネットワークを特定する仮想ネットワーク特定部と、
    前記トンネルエンドポイントが前記特定した仮想ネットワークに参加していない場合、前記特定した仮想ネットワークに前記トンネルエンドポイントを参加させるトンネルエンドポイント制御部と、
    を備える制御装置。
  2. 前記接続検出部は、前記仮想マシンのトンネルエンドポイントからの離脱を検出すると、前記仮想ネットワーク特定部に対し、前記仮想マシンのトンネルエンドポイントからの離脱を通知し、
    前記仮想ネットワーク特定部は、前記仮想マシンと仮想ネットワークとを対応付けた情報に基づいて、前記離脱した仮想マシンが属する仮想ネットワークを特定して、前記トンネルエンドポイント制御部に対し、前記離脱した仮想マシンが属する仮想ネットワークと、前記仮想マシンが接続していたトンネルエンドポイントとを通知し、
    前記トンネルエンドポイント制御部は、前記仮想マシンの離脱により、当該トンネルエンドポイントを介して前記特定した仮想ネットワークに接続する仮想マシンがなくなったこと場合に、前記トンネルエンドポイントを、前記特定した仮想ネットワークから脱退させる、
    請求項1の制御装置。
  3. さらに、
    前記トンネルエンドポイントに接続している仮想マシンを記憶する第1の記憶部と、
    前記仮想マシンと仮想ネットワークとの対応関係を記憶する第2の記憶部と、
    前記各トンネルエンドポイントが参加している仮想ネットワークを記憶する第3の記憶部と、を備え、
    前記第3の記憶部を参照して、前記新規に仮想マシンが接続したトンネルエンドポイントが前記特定した仮想ネットワークに参加しているか否かを判定する請求項1又は2の制御装置。
  4. 前記仮想マシンと仮想ネットワークとを対応付けた情報は、前記トンネルエンドポイントから入手する前記仮想マシンのMACアドレスとVNI(VXLAN Network Identifier)の対応を示すマッピング情報である請求項1から3いずれか一の制御装置。
  5. 前記トンネルエンドポイントを構成するスイッチに、仮想マシンからのパケットに基づいて、前記仮想マシンが接続されたことを通知させる制御情報を設定することにより、前記仮想マシンがトンネルエンドポイントに接続されたことを検出する請求項1から3いずれか一の制御装置。
  6. 仮想ネットワークに属する仮想マシン間の通信に用いる仮想トンネルの終端ポイントとして機能するトンネルエンドポイントに、新規に仮想マシンが接続されたことを検出する接続検出部と、
    仮想マシンと仮想ネットワークとを対応付けた情報に基づいて、前記検出した仮想マシンが属する仮想ネットワークを特定する仮想ネットワーク特定部と、
    前記トンネルエンドポイントが前記特定した仮想ネットワークに参加していない場合、前記特定した仮想ネットワークに前記トンネルエンドポイントを参加させるトンネルエンドポイント制御部と、
    を備える制御装置と、
    前記制御装置によって制御されるトンネルエンドポイントと、を含む通信システム。
  7. 前記接続検出部は、前記仮想マシンのトンネルエンドポイントからの離脱を検出すると、前記仮想ネットワーク特定部に対し、前記仮想マシンのトンネルエンドポイントからの離脱を通知し、
    前記仮想ネットワーク特定部は、前記仮想マシンと仮想ネットワークとを対応付けた情報に基づいて、前記離脱した仮想マシンが属する仮想ネットワークを特定して、前記トンネルエンドポイント制御部に対し、前記離脱した仮想マシンが属する仮想ネットワークと、前記仮想マシンが接続していたトンネルエンドポイントとを通知し、
    前記トンネルエンドポイント制御部は、前記仮想マシンの離脱により、当該トンネルエンドポイントを介して前記特定した仮想ネットワークに接続する仮想マシンがなくなった場合に、前記トンネルエンドポイントを、前記特定した仮想ネットワークから脱退させる、
    請求項6の通信システム。
  8. さらに、前記制御装置が、
    前記トンネルエンドポイントに接続している仮想マシンを記憶する第1の記憶部と、
    前記仮想マシンと仮想ネットワークとの対応関係を記憶する第2の記憶部と、
    前記各トンネルエンドポイントが参加している仮想ネットワークを記憶する第3の記憶部と、を備え、
    前記第3の記憶部を参照して、前記新規に仮想マシンが接続したトンネルエンドポイントが前記特定した仮想ネットワークに参加しているか否かを判定する請求項6又は7の通信システム。
  9. 前記仮想マシンと仮想ネットワークとを対応付けた情報は、前記トンネルエンドポイントから入手する前記仮想マシンのMACアドレスとVNI(VXLAN Network Identifier)の対応を示すマッピング情報である請求項6から8いずれか一の通信システム。
  10. 前記トンネルエンドポイントを構成するスイッチに、仮想マシンからのパケットに基づいて、前記仮想マシンが接続されたことを通知させる制御情報を設定することにより、前記仮想マシンがトンネルエンドポイントに接続されたことを検出する請求項6から9いずれか一の通信システム。
  11. 仮想ネットワークに属する仮想マシン間の通信に用いる仮想トンネルの終端ポイントとして機能するトンネルエンドポイントを制御する制御装置が、
    前記トンネルエンドポイントに、新規に仮想マシンが接続されたことを検出するステップと、
    仮想マシンと仮想ネットワークとを対応付けた情報に基づいて、前記検出した仮想マシンが属する仮想ネットワークを特定するステップと、
    前記トンネルエンドポイントが前記特定した仮想ネットワークに参加していない場合、前記特定した仮想ネットワークに前記トンネルエンドポイントを参加させるステップと、
    を含むトンネルエンドポイントの制御方法。
  12. さらに、前記制御装置が、
    前記仮想マシンのトンネルエンドポイントからの離脱を検出するステップと、
    前記仮想マシンと仮想ネットワークとを対応付けた情報に基づいて、前記離脱した仮想マシンが属する仮想ネットワークを特定するステップと、
    前記仮想マシンの離脱により、当該トンネルエンドポイントを介して前記特定した仮想ネットワークに接続する仮想マシンがなくなった場合に、前記トンネルエンドポイントを、前記特定した仮想ネットワークから脱退させるステップと、
    を含む請求項11のトンネルエンドポイントの制御方法。
  13. 前記制御装置は、
    前記各トンネルエンドポイントが参加している仮想ネットワークを記憶する記憶部を参照して、前記新規に仮想マシンが接続したトンネルエンドポイントが前記特定した仮想ネットワークに参加しているか否かを判定する請求項11又は12のトンネルエンドポイントの制御方法。
  14. 前記仮想マシンと仮想ネットワークとを対応付けた情報は、前記トンネルエンドポイントから入手する前記仮想マシンのMACアドレスとVNI(VXLAN Network Identifier)の対応を示すマッピング情報である請求項11から13いずれか一のトンネルエンドポイントの制御方法。
  15. 前記制御装置は、
    前記トンネルエンドポイントを構成するスイッチに、仮想マシンからのパケットに基づいて、前記仮想マシンが接続されたことを通知させる制御情報を設定することにより、前記仮想マシンがトンネルエンドポイントに接続されたことを検出する請求項11から14いずれか一のトンネルエンドポイントの制御方法。
  16. 仮想ネットワークに属する仮想マシン間の通信に用いる仮想トンネルの終端ポイントとして機能するトンネルエンドポイントを制御するコンピュータに、
    前記トンネルエンドポイントに、新規に仮想マシンが接続されたことを検出する処理と、
    仮想マシンと仮想ネットワークとを対応付けた情報に基づいて、前記検出した仮想マシンが属する仮想ネットワークを特定する処理と、
    前記トンネルエンドポイントが前記特定した仮想ネットワークに参加していない場合、前記特定した仮想ネットワークに前記トンネルエンドポイントを参加させる処理と、
    を実行させるプログラム。
  17. さらに、前記コンピュータに、
    前記仮想マシンのトンネルエンドポイントからの離脱を検出する処理と、
    前記仮想マシンと仮想ネットワークとを対応付けた情報に基づいて、前記離脱した仮想マシンが属する仮想ネットワークを特定する処理と、
    前記仮想マシンの離脱により、当該トンネルエンドポイントを介して前記特定した仮想ネットワークに接続する仮想マシンがなくなった場合に、前記トンネルエンドポイントを、前記特定した仮想ネットワークから脱退させる処理と、
    を実行させる請求項16のプログラム。
  18. 前記コンピュータに、
    前記各トンネルエンドポイントが参加している仮想ネットワークを記憶する前記コンピュータの記憶部を参照して、前記新規に仮想マシンが接続したトンネルエンドポイントが前記特定した仮想ネットワークに参加しているか否かを判定させる請求項16又は17のプログラム。
  19. 前記仮想マシンと仮想ネットワークとを対応付けた情報は、前記トンネルエンドポイントから入手する前記仮想マシンのMACアドレスとVNI(VXLAN Network Identifier)の対応を示すマッピング情報である請求項16から18いずれか一のプログラム。
  20. 前記コンピュータに、さらに、
    前記トンネルエンドポイントを構成するスイッチに、仮想マシンからのパケットに基づいて前記仮想マシンが接続されたことを通知する制御情報を設定する処理を実行させ、
    前記コンピュータに、
    前記前記トンネルエンドポイントを構成するスイッチからの通知により、前記仮想マシンがトンネルエンドポイントに接続されたことを検出させる請求項16から19いずれか一のプログラム。
JP2014555458A 2013-01-04 2013-12-27 制御装置、通信システム、トンネルエンドポイントの制御方法及びプログラム Active JP6417942B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2013000160 2013-01-04
JP2013000160 2013-01-04
PCT/JP2013/085147 WO2014106945A1 (ja) 2013-01-04 2013-12-27 制御装置、通信システム、トンネルエンドポイントの制御方法及びプログラム

Publications (2)

Publication Number Publication Date
JPWO2014106945A1 JPWO2014106945A1 (ja) 2017-01-19
JP6417942B2 true JP6417942B2 (ja) 2018-11-07

Family

ID=51062265

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014555458A Active JP6417942B2 (ja) 2013-01-04 2013-12-27 制御装置、通信システム、トンネルエンドポイントの制御方法及びプログラム

Country Status (5)

Country Link
US (3) US9667527B2 (ja)
EP (1) EP2942912B1 (ja)
JP (1) JP6417942B2 (ja)
CN (1) CN104904165B (ja)
WO (1) WO2014106945A1 (ja)

Families Citing this family (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9876711B2 (en) * 2013-11-05 2018-01-23 Cisco Technology, Inc. Source address translation in overlay networks
KR102195359B1 (ko) * 2014-08-26 2020-12-24 한국전자통신연구원 프록시 터널종단 장치, 이를 포함하는 확장형 네트워크 가상화 통신 시스템 및 확장형 네트워크 가상화 통신 방법
US11455181B1 (en) * 2014-09-19 2022-09-27 Amazon Technologies, Inc. Cross-network connector appliances
JP6285877B2 (ja) * 2015-01-15 2018-02-28 日本電信電話株式会社 オーバレイトンネル制御システム及びオーバレイトンネル制御方法
JP6386423B2 (ja) * 2015-07-31 2018-09-05 日本電信電話株式会社 通信システムおよび通信方法
US20170293500A1 (en) * 2016-04-06 2017-10-12 Affirmed Networks Communications Technologies, Inc. Method for optimal vm selection for multi data center virtual network function deployment
CN107404470A (zh) 2016-05-20 2017-11-28 新华三技术有限公司 接入控制方法及装置
CN106302076B (zh) * 2016-07-22 2020-03-06 浪潮(北京)电子信息产业有限公司 建立vxlan隧道的方法、系统及sdn控制器
US10778464B2 (en) * 2018-04-20 2020-09-15 Futurewei Technologies, Inc. NSH encapsulation for traffic steering establishing a tunnel between virtual extensible local area network (VxLAN) tunnel end points (VTEPS) using a NSH encapsulation header comprising a VxLAN header whose VNI field has been replaced by an NSH shim
US10931568B2 (en) * 2018-07-02 2021-02-23 Hewlett Packard Enterprise Development Lp Hitless maintenance of a L3 network
CN110858838B (zh) * 2018-08-24 2021-03-09 Oppo广东移动通信有限公司 桥接通信的方法和设备
US11240160B2 (en) * 2018-12-28 2022-02-01 Alibaba Group Holding Limited Method, apparatus, and computer-readable storage medium for network control

Family Cites Families (28)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO1999043184A1 (en) * 1998-02-20 1999-08-26 Adc Telecommunications, Inc. Protection switching of virtual connections
US7366894B1 (en) * 2002-06-25 2008-04-29 Cisco Technology, Inc. Method and apparatus for dynamically securing voice and other delay-sensitive network traffic
CA2585808A1 (en) * 2007-03-26 2008-09-26 David Ker Method and system for implementing a secured and centrally managed virtual ip network on a common ip network infrastructure
US8767631B2 (en) * 2007-09-25 2014-07-01 Samsung Electronics Co., Ltd. Method and system for alternate wireless channel selection for uplink and downlink data communication
US8336094B2 (en) * 2008-03-27 2012-12-18 Juniper Networks, Inc. Hierarchical firewalls
US8418238B2 (en) 2008-03-30 2013-04-09 Symplified, Inc. System, method, and apparatus for managing access to resources across a network
FR2930100B1 (fr) * 2008-04-09 2010-05-07 Canon Kk Procede d'etablissement d'un chemin de communication dans un reseau etendu de communication, tetes de tunnel,produit programme d'ordinateur et moyen de stockage correspondants
WO2010041996A1 (en) 2008-10-09 2010-04-15 Telefonaktiebolaget L M Ericsson (Publ) A virtualization platform
US9210065B2 (en) * 2009-06-22 2015-12-08 Alcatel Lucent Providing cloud-based services using dynamic network virtualization
JP5446040B2 (ja) * 2009-09-28 2014-03-19 日本電気株式会社 コンピュータシステム、及び仮想マシンのマイグレーション方法
JP5347982B2 (ja) 2010-01-18 2013-11-20 富士通株式会社 仮想ネットワーク制御プログラム、仮想ネットワーク制御方法および管理装置
US9274821B2 (en) * 2010-01-27 2016-03-01 Vmware, Inc. Independent access to virtual machine desktop content
JP2012129648A (ja) 2010-12-13 2012-07-05 Fujitsu Ltd サーバ装置、管理装置、転送先アドレス設定プログラムおよび仮想ネットワークシステム
US9104460B2 (en) * 2011-05-31 2015-08-11 Red Hat, Inc. Inter-cloud live migration of virtualization systems
US10228959B1 (en) * 2011-06-02 2019-03-12 Google Llc Virtual network for virtual machine communication and migration
US8910273B1 (en) * 2011-08-04 2014-12-09 Wyse Technology L.L.C. Virtual private network over a gateway connection
EP2748714B1 (en) * 2011-11-15 2021-01-13 Nicira, Inc. Connection identifier assignment and source network address translation
CN102394831A (zh) * 2011-11-28 2012-03-28 杭州华三通信技术有限公司 基于虚拟机vm迁移的流量不中断方法和装置
US9356803B2 (en) * 2011-11-30 2016-05-31 Cisco Technology, Inc. Field aware virtual connection discovery
US8958293B1 (en) * 2011-12-06 2015-02-17 Google Inc. Transparent load-balancing for cloud computing services
US9154381B2 (en) * 2012-01-31 2015-10-06 Cisco Technology, Inc. Enhanced GSLB keepalive
US9106508B2 (en) * 2012-04-30 2015-08-11 International Business Machines Corporation Providing services to virtual overlay network traffic
US20130332561A1 (en) * 2012-06-11 2013-12-12 International Business Machines Corporation Control of Collaboration Workspaces and Information Objects using Business Rules
US8832820B2 (en) * 2012-06-25 2014-09-09 International Business Machines Corporation Isolation and security hardening among workloads in a multi-tenant networked environment
US9612966B2 (en) * 2012-07-03 2017-04-04 Sandisk Technologies Llc Systems, methods and apparatus for a virtual machine cache
US8966573B2 (en) * 2012-07-20 2015-02-24 Ca, Inc. Self-generation of virtual machine security clusters
US9571507B2 (en) * 2012-10-21 2017-02-14 Mcafee, Inc. Providing a virtual security appliance architecture to a virtual cloud infrastructure
US9223635B2 (en) * 2012-10-28 2015-12-29 Citrix Systems, Inc. Network offering in cloud computing environment

Also Published As

Publication number Publication date
JPWO2014106945A1 (ja) 2017-01-19
US20200145317A1 (en) 2020-05-07
EP2942912B1 (en) 2018-09-12
US11190435B2 (en) 2021-11-30
CN104904165B (zh) 2018-02-16
US10462038B2 (en) 2019-10-29
WO2014106945A1 (ja) 2014-07-10
US9667527B2 (en) 2017-05-30
EP2942912A4 (en) 2016-07-13
EP2942912A1 (en) 2015-11-11
US20170230275A1 (en) 2017-08-10
CN104904165A (zh) 2015-09-09
US20150365313A1 (en) 2015-12-17

Similar Documents

Publication Publication Date Title
JP6417942B2 (ja) 制御装置、通信システム、トンネルエンドポイントの制御方法及びプログラム
US10237377B2 (en) Packet rewriting apparatus, control apparatus, communication system, packet transmission method and program
WO2018188569A1 (zh) 一种转发数据报文的方法、设备和系统
US9515868B2 (en) System and method for communication
KR101755138B1 (ko) 통신 시스템, 제어 장치, 및 네트워크 토폴로지 관리 방법
US10645006B2 (en) Information system, control apparatus, communication method, and program
JP6248938B2 (ja) 通信システム、仮想ネットワーク管理装置、仮想ネットワークの管理方法及びプログラム
WO2018001242A1 (zh) 一种数据报文处理方法及装置
JP6194953B2 (ja) 情報処理装置、構築方法、通信システム及びプログラム
JPWO2014112616A1 (ja) 制御装置、通信装置、通信システム、スイッチの制御方法及びプログラム
JP5904285B2 (ja) 通信システム、仮想ネットワーク管理装置、通信ノード、通信方法及びプログラム
JP2015530764A (ja) 制御装置、制御方法、通信システム及びプログラム
WO2014104277A1 (ja) 制御装置、通信システム、通信ノードの制御方法及びプログラム
US9894017B2 (en) Communication system, physical machine, virtual network management apparatus, and network control method
JP2017195438A (ja) 通信管理方法、通信管理プログラムおよび情報処理装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20161104

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20171003

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20171204

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20180508

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180709

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20180911

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20180924

R150 Certificate of patent or registration of utility model

Ref document number: 6417942

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350