JP6645275B2 - 情報処理装置、仮想マシン移動方法、および仮想マシン制御プログラム - Google Patents
情報処理装置、仮想マシン移動方法、および仮想マシン制御プログラム Download PDFInfo
- Publication number
- JP6645275B2 JP6645275B2 JP2016042495A JP2016042495A JP6645275B2 JP 6645275 B2 JP6645275 B2 JP 6645275B2 JP 2016042495 A JP2016042495 A JP 2016042495A JP 2016042495 A JP2016042495 A JP 2016042495A JP 6645275 B2 JP6645275 B2 JP 6645275B2
- Authority
- JP
- Japan
- Prior art keywords
- node
- moved
- information processing
- virtual machine
- physical server
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/44—Arrangements for executing specific programs
- G06F9/455—Emulation; Interpretation; Software simulation, e.g. virtualisation or emulation of application or operating system execution engines
- G06F9/45533—Hypervisors; Virtual machine monitors
- G06F9/45558—Hypervisor-specific management and integration aspects
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
- H04L67/10—Protocols in which an application is distributed across nodes in the network
- H04L67/1001—Protocols in which an application is distributed across nodes in the network for accessing one among a plurality of replicated servers
- H04L67/1004—Server selection for load balancing
- H04L67/101—Server selection for load balancing based on network conditions
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
- H04L67/10—Protocols in which an application is distributed across nodes in the network
- H04L67/1097—Protocols in which an application is distributed across nodes in the network for distributed storage of data in networks, e.g. transport arrangements for network file system [NFS], storage area networks [SAN] or network attached storage [NAS]
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/50—Network services
- H04L67/60—Scheduling or organising the servicing of application requests, e.g. requests for application data transmissions using the analysis and optimisation of the required network resources
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/44—Arrangements for executing specific programs
- G06F9/455—Emulation; Interpretation; Software simulation, e.g. virtualisation or emulation of application or operating system execution engines
- G06F9/45533—Hypervisors; Virtual machine monitors
- G06F9/45558—Hypervisor-specific management and integration aspects
- G06F2009/4557—Distribution of virtual machine instances; Migration and load balancing
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/44—Arrangements for executing specific programs
- G06F9/455—Emulation; Interpretation; Software simulation, e.g. virtualisation or emulation of application or operating system execution engines
- G06F9/45533—Hypervisors; Virtual machine monitors
- G06F9/45558—Hypervisor-specific management and integration aspects
- G06F2009/45583—Memory management, e.g. access or allocation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/44—Arrangements for executing specific programs
- G06F9/455—Emulation; Interpretation; Software simulation, e.g. virtualisation or emulation of application or operating system execution engines
- G06F9/45533—Hypervisors; Virtual machine monitors
- G06F9/45558—Hypervisor-specific management and integration aspects
- G06F2009/45595—Network integration; Enabling network access in virtual machine instances
Landscapes
- Engineering & Computer Science (AREA)
- Software Systems (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Memory System Of A Hierarchy Structure (AREA)
Description
の処理をなるべく続行させることにある。
図1は、仮想マシンの移動完了後にメモリを解放する処理を例示する図である。物理サーバ1Aは、仮想マシン2Aおよび2Bを稼働させる。仮想マシン2Aでメモリ不足が生じると、物理サーバ1Aは、仮想マシン2Bを物理サーバ1Bに移動する(P1)。なお、仮想マシン2Bを物理サーバ1Bに移動するとは、仮想マシン2Bを稼働させるコンピュータを物理サーバ1Bに変更することである。以下の説明では、仮想マシンは動作中であることが想定されるが、移動対象の仮想マシンは動作中のものに限られない。
図1の例を用いて、仮想マシンの移動方法の1つであるライブマイグレーション(Live Migration)が説明される。ライブマイグレーションでは、移動元の物理サーバ1Aは、仮想マシン2Bを、動作状態のまま移動先の物理サーバ1Bに移動する。
実施形態において、物理サーバ1は、仮想マシン2を動作状態のまま、移動先の物理サーバ1に移動する。移動元の物理サーバ1は、仮想マシン2のメモリの一部が移動先の物理サーバ1に転送されると、転送が完了したメモリを解放する。具体的には、物理サーバ1は、仮想マシン2を、CPUとメモリの組からなる複数のNUMAノードで構成する。物理サーバ1は、仮想マシン2を、NUMAノード単位で移動先の物理サーバ1に移動する。物理サーバ1は、NUMAノードの移動が完了するごとに、当該NUMAノードのメモリを解放する。物理サーバ1は、「情報処理装置」の一例である。
図2は、NUMA環境が構築された情報処理装置1(物理サーバ1)を例示する図である。NUMA環境が構築された情報処理装置1は、NUMA型計算機とも呼ばれる。NUMA環境は、CPUとメモリの組からなる複数のNUMAノードを含む。
UMAノード3Bは、CPU4Bおよびメモリ5Bを含む。CPU4Bはマルチコアプロセッサであり、4つのコアe、コアf、コアgおよびコアhを備える。メモリ5Bは、一定サイズのメモリブロックであるページ3およびページ4を含む。
図4は、情報処理装置1の装置構成の一例を示す図である。情報処理装置1(物理サーバ1)は、複数のNUMAノード3およびハイパーバイザ7を含み、複数の仮想マシン2を稼働させる。図4の例では、情報処理装置1は、2つのNUMAノード3およびハイパーバイザ7を含み、4つの仮想マシン2を稼働させる。
ムを実行する。また、仮想CPU40には、所定の時間間隔によるタイムスライスにより、CPUコアが割り当てられてもよい。
図5から7は、情報処理装置1において、仮想マシン2におけるNUMA環境(以下、仮想NUMA環境とも呼ばれる)の構築について説明する。
IDが“X0”であるNUMAノード30Aに含まれるページとして、ページ“10”が定義される。また、NUMA IDが“X1”であるNUMAノード30Bに含まれるページとして、ページ“20”が定義される。各ページは、メモリ上のアドレスの範囲により指定されてもよい。例えば、ページ“10”および“20”は、それぞれ0x0000−0x1000、0x1000−0x2000のアドレスの範囲のメモリブロックである。
図8から図12は、仮想マシン2を、移動元物理サーバ1A(以下、物理サーバ1Aとも呼ばれる)から移動先物理サーバ1B(以下、物理サーバ1Bとも呼ばれる)に移動する処理を説明する。仮想マシン2は、NUMAノード単位で、物理サーバ1Aから物理サーバ1Bに移動される。
21]を含むNUMAノード30Bの物理サーバ1Bへの移動も完了していない状態であ
り、当該ページの転送状態が“未”であることを示す。ページ状態テーブル13Bは、ページ状態テーブル13Aと同一であるため、その説明は省略される。
“未”であることを示す。また、ページ状態テーブル13Aは、ページ[532]および[
721]を含むNUMAノード30Bの物理サーバ1Bへの移動が完了していない状態で
あり、当該ページの転送状態が“未”であることを示す。ページ状態テーブル13Bは、ページ状態テーブル13Aと同一であるため、その説明は省略される。
1]が物理サーバ1Bに転送中(NUMAノード30Bは物理サーバ1Bに移動中)であ
り、当該ページの転送状態が“未”であることを示す。ページ状態テーブル13Bは、ページ状態テーブル13Aと同一であるため、その説明は省略される。
サーバ1Aのハイパーバイザ7Aは、NUMAノード30Bの物理サーバ1Bへの移動が完了すると、物理サーバ1A上のNUMAノード30Bの動作を停止する。また、ハイパーバイザ7Aは、NUMAノード30Bのメモリ50Bを解放する。さらに、物理サーバ1Bのハイパーバイザ7Bは、物理サーバ1B上のNUMAノード30Bの動作を開始する。
図13は、移動元の物理サーバ1Aで仮想CPU40Bを停止する処理を例示する図である。図13の例は、図10における物理サーバ1A上の仮想マシン2と同じ状態を示している。すなわち、図13の例は、物理サーバ1Bに対し、NUMAノード30Aの移動が完了した状態を示す。NUMAノード30Aのメモリ50Aは、解放されている。
が検出されることにより開始される。また、図14に示される処理は、ユーザの指示により開始されてもよい。
のメモリの使用は少なく、NUMAノード30を跨ぐページアクセス回数は少なくなる。また、システムコールの発行数が少ないほど、グローバルなメモリ領域へのアクセスは少なく、NUMAノード30を跨ぐページアクセス回数は少なくなる。
物理サーバ1は、仮想マシン2をNUMAノード単位で、移動先の物理サーバ1に移動する。物理サーバ1は、NUMAノード30の移動が完了した時点で、移動したNUMAノード30に対応づけられたメモリ50を解放する。これにより、物理サーバ1は、移動したNUMAノード30で利用していたメモリ50を、迅速に解放することができる。したがって、物理サーバ1は、迅速にメモリ不足を解消することができる。また、移動先の物理サーバ1は、移動された仮想マシン2の動作を早期に開始させ、仮想マシン2の処理をなるべく続行させることができる。
コンピュータその他の機械、装置(以下、コンピュータ等)に上記いずれかの機能を実現させるプログラムをコンピュータ等が読み取り可能な記録媒体に記録することができる。そして、コンピュータ等に、この記録媒体のプログラムを読み込ませて実行させることにより、その機能を提供させることができる。
2、2A、2B 仮想マシン
3、3A、3B NUMAノード
30、30A、30B 仮想NUMAノード
4、4A、4B CPU
40、40A、40B 仮想CPU
5、5A、5B、50、50A、50B メモリ
6 プロセス
7 ハイパーバイザ
10 距離テーブル
11 仮想距離テーブル
12 資源対応テーブル
13、13A、13B ページ状態テーブル
Claims (6)
- それぞれ記憶領域と対応づけられ相互の記憶領域にアクセス可能な複数のノードを含む仮想マシンを稼働させる情報処理装置であって、
前記仮想マシンを他の情報処理装置に移動する場合に、前記複数のノードをノード単位で他のノードに対応づけられた記憶領域へのアクセス回数が少ない順に前記他の情報処理装置に移動し、一のノードが前記他の情報処理装置に移動された後、前記移動されたノードに対応づけられた記憶領域を解放する制御部を備え、
前記制御部は、前記仮想マシンの前記複数のノードのうち、前記他の情報処理装置に移動されていないノードが、前記移動されたノードの記憶領域にアクセスした場合に、前記移動されていないノードの動作を停止する、
情報処理装置。 - それぞれ記憶領域と対応づけられ相互の記憶領域にアクセス可能な複数のノードを含む仮想マシンを稼働させる情報処理装置であって、
前記仮想マシンを他の情報処理装置に移動する場合に、前記複数のノードをノード単位で前記他の情報処理装置に移動し、一のノードが前記他の情報処理装置に移動された後、前記移動されたノードに対応づけられた記憶領域を解放する制御部を備え、
前記制御部は、
前記仮想マシンの前記複数のノードのうち、前記他の情報処理装置に移動されていないノードが、前記移動されたノードの記憶領域にアクセスした場合に、前記移動されていないノードの動作を停止し、
前記情報処理装置が複数の仮想マシンを稼働させる場合に、前記複数の仮想マシンのうち、他の仮想マシンよりもオペレーティングシステムに対する処理の呼出しが少ない仮想マシンを、前記他の情報処理装置に移動する仮想マシンとして選択する、
情報処理装置。 - それぞれ記憶領域と対応づけられ相互の記憶領域にアクセス可能な複数のノードを含む仮想マシンを稼働させる第1の情報処理装置は、
前記仮想マシンを第2の情報処理装置に移動する場合に、前記複数のノードをノード単位で他のノードに対応づけられた記憶領域へのアクセス回数が少ない順に、前記第2の情
報処理装置に移動し、一のノードが前記第2の情報処理装置に移動された後、前記移動されたノードに対応づけられた記憶領域を解放し、
前記第2の情報処理装置は、
前記移動されたノードの移動を受け付けた後、前記移動されたノードの動作を開始し、
前記移動されたノードが前記第1の情報処理装置から移動されていないノードに対応づけられた記憶領域にアクセスした場合に、前記移動されていないノードの移動が完了するまで、前記移動されたノードの動作を停止する、
仮想マシン移動方法。 - それぞれ記憶領域と対応づけられ相互の記憶領域にアクセス可能な複数のノードを含む仮想マシンを稼働させる第1の情報処理装置は、
前記仮想マシンを第2の情報処理装置に移動する場合に、前記複数のノードをノード単位で前記第2の情報処理装置に移動し、一のノードが前記第2の情報処理装置に移動された後、前記移動されたノードに対応づけられた記憶領域を解放し、
前記第1の情報処理装置が複数の仮想マシンを稼働させる場合に、前記複数の仮想マシンのうち、他の仮想マシンよりもオペレーティングシステムに対する処理の呼出しが少ない仮想マシンを、前記第2の情報処理装置に移動する仮想マシンとして選択し、
前記第2の情報処理装置は、
前記移動されたノードの移動を受け付けた後、前記移動されたノードの動作を開始し、
前記移動されたノードが前記第1の情報処理装置から移動されていないノードに対応づけられた記憶領域にアクセスした場合に、前記移動されていないノードの移動が完了するまで、前記移動されたノードの動作を停止する、
仮想マシン移動方法。 - 情報処理装置に、
それぞれ記憶領域と対応づけられ相互の記憶領域にアクセス可能な複数のノードを含む仮想マシンを、他の情報処理装置に移動させる場合に、前記複数のノードをノード単位で他のノードに対応づけられた記憶領域へのアクセス回数が少ない順に前記他の情報処理装置に移動し、一のノードが前記他の情報処理装置に移動された後、前記移動されたノードに対応づけられた記憶領域を解放させ、
前記仮想マシンの前記複数のノードのうち、前記他の情報処理装置に移動されていないノードが、前記移動されたノードの記憶領域にアクセスした場合に、前記移動されていないノードの動作を停止させる、
仮想マシン制御プログラム。 - 情報処理装置に、
それぞれ記憶領域と対応づけられ相互の記憶領域にアクセス可能な複数のノードを含む仮想マシンを、他の情報処理装置に移動させる場合に、前記複数のノードをノード単位で前記他の情報処理装置に移動し、一のノードが前記他の情報処理装置に移動された後、前記移動されたノードに対応づけられた記憶領域を解放させ、
前記仮想マシンの前記複数のノードのうち、前記他の情報処理装置に移動されていないノードが、前記移動されたノードの記憶領域にアクセスした場合に、前記移動されていないノードの動作を停止させ、
前記情報処理装置が複数の仮想マシンを稼働させる場合に、前記複数の仮想マシンのうち、他の仮想マシンよりもオペレーティングシステムに対する処理の呼出しが少ない仮想マシンを、前記他の情報処理装置に移動する仮想マシンとして選択させる、
仮想マシン制御プログラム。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016042495A JP6645275B2 (ja) | 2016-03-04 | 2016-03-04 | 情報処理装置、仮想マシン移動方法、および仮想マシン制御プログラム |
US15/442,849 US10241822B2 (en) | 2016-03-04 | 2017-02-27 | Information processing apparatus for moving virtual machine and method of moving virtual machine |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016042495A JP6645275B2 (ja) | 2016-03-04 | 2016-03-04 | 情報処理装置、仮想マシン移動方法、および仮想マシン制御プログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2017157153A JP2017157153A (ja) | 2017-09-07 |
JP6645275B2 true JP6645275B2 (ja) | 2020-02-14 |
Family
ID=59722730
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2016042495A Active JP6645275B2 (ja) | 2016-03-04 | 2016-03-04 | 情報処理装置、仮想マシン移動方法、および仮想マシン制御プログラム |
Country Status (2)
Country | Link |
---|---|
US (1) | US10241822B2 (ja) |
JP (1) | JP6645275B2 (ja) |
Families Citing this family (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US11195100B2 (en) | 2016-08-17 | 2021-12-07 | International Business Machines Corporation | Determining applications based on interactions of different electronic devices |
US10691365B1 (en) | 2019-01-30 | 2020-06-23 | Red Hat, Inc. | Dynamic memory locality for guest memory |
US10503543B1 (en) | 2019-02-04 | 2019-12-10 | Cohesity, Inc. | Hosting virtual machines on a secondary storage system |
JP2021157339A (ja) * | 2020-03-25 | 2021-10-07 | 富士通株式会社 | 情報処理方法、及び情報処理プログラム |
Family Cites Families (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7313793B2 (en) * | 2002-07-11 | 2007-12-25 | Microsoft Corporation | Method for forking or migrating a virtual machine |
JP4792434B2 (ja) | 2007-08-31 | 2011-10-12 | 株式会社日立製作所 | 仮想計算機の制御方法 |
US9529636B2 (en) | 2009-03-26 | 2016-12-27 | Microsoft Technology Licensing, Llc | System and method for adjusting guest memory allocation based on memory pressure in virtual NUMA nodes of a virtual machine |
US9535767B2 (en) * | 2009-03-26 | 2017-01-03 | Microsoft Technology Licensing, Llc | Instantiating a virtual machine with a virtual non-uniform memory architecture |
US9110702B2 (en) * | 2010-06-02 | 2015-08-18 | Microsoft Technology Licensing, Llc | Virtual machine migration techniques |
JP6028415B2 (ja) * | 2012-06-28 | 2016-11-16 | 日本電気株式会社 | 仮想サーバ環境のデータ移行制御装置、方法、システム |
JP5952214B2 (ja) * | 2013-04-04 | 2016-07-13 | 日本電信電話株式会社 | 仮想マシンの動的配置方法及び仮想マシンシステム |
JP2015022380A (ja) * | 2013-07-16 | 2015-02-02 | 日本電信電話株式会社 | 情報処理装置、仮想マシンの移行方法及び仮想マシンの移行プログラム |
-
2016
- 2016-03-04 JP JP2016042495A patent/JP6645275B2/ja active Active
-
2017
- 2017-02-27 US US15/442,849 patent/US10241822B2/en active Active
Also Published As
Publication number | Publication date |
---|---|
JP2017157153A (ja) | 2017-09-07 |
US10241822B2 (en) | 2019-03-26 |
US20170255484A1 (en) | 2017-09-07 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US8875133B2 (en) | Migration of virtual machines | |
JP6645275B2 (ja) | 情報処理装置、仮想マシン移動方法、および仮想マシン制御プログラム | |
US10025503B2 (en) | Autonomous dynamic optimization of platform resources | |
KR101936453B1 (ko) | 새로운 애플리케이션을 위한 메모리 관리 모델 및 인터페이스 | |
US8365169B1 (en) | Migrating a virtual machine across processing cells connected to an interconnect that provides data communication without cache coherency support | |
EP3230873B1 (en) | Computing method and apparatus with persistent memory | |
US9009703B2 (en) | Sharing reconfigurable computing devices between workloads | |
TWI539280B (zh) | 用於分析未經特定設計以提供記憶體分配資訊之應用程式及擷取記憶體分配資訊的方法、及其電腦系統和電腦可讀儲存媒體 | |
US20120066688A1 (en) | Processor thread load balancing manager | |
TW201301029A (zh) | 具有增強型應用程式元資料之記憶體管理器 | |
JP6123626B2 (ja) | 処理再開方法、処理再開プログラムおよび情報処理システム | |
US20130047159A1 (en) | Preserving, From Resource Management Adjustment, Portions Of An Overcommitted Resource Managed By A Hypervisor | |
JP2019079334A (ja) | 情報処理装置、情報処理システムおよび情報処理方法 | |
CN112384898A (zh) | 使用初始分布的快速、低存储器、一致哈希 | |
JP5030647B2 (ja) | 複数処理ノードを含むコンピュータ・システムでプログラムをロードする方法、該プログラムを含むコンピュータ可読媒体、及び、並列コンピュータ・システム | |
JP5867238B2 (ja) | オートスケーリング方法,オートスケーリングプログラムおよびコンピュータノード | |
JP2011192049A (ja) | 仮想マシンシステム、自動マイグレーション方法および自動マイグレーションプログラム | |
US10976934B2 (en) | Prioritizing pages to transfer for memory sharing | |
JP2019003493A (ja) | 情報処理装置、情報処理方法およびプログラム | |
JP2011108014A (ja) | 仮想マシン管理装置、仮想マシン管理方法、及び仮想マシン管理プログラム | |
JP2016038888A (ja) | 情報処理システム、情報処理方法及び情報処理プログラム | |
JP5504651B2 (ja) | 仮想マシンシステム、情報処理装置、リソース管理方法、プログラム及び記録媒体 | |
JP6364827B2 (ja) | 情報処理装置、及び、そのリソースアクセス方法、並びに、リソースアクセスプログラム | |
JP6445876B2 (ja) | リソース割当装置、リソース割当システム、および、リソース割当方法 | |
US20170131937A1 (en) | Prioritizing memory pages to copy for memory migration |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20181112 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20190917 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20191001 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20191129 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20191210 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20191223 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6645275 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |